Die CIE definiert die Human Visual Response für den Bereich von 380nm bis 780nm und stellt Gewichtungstabellen zur Verfügung, so dass ein Benutzer eine Farbe aus einer Spektralkurve bestimmen kann, indem er die Gerätemessung bei einer Wellenlänge mit der entsprechenden Human Visual Response-Gewichtung bei dieser Wellenlänge multipliziert und dann diese Daten für alle gemessenen Wellenlängen addiert. Diese Tabellen werden in Intervallen von 1nm, 5nm und 10nm angeboten. Für unkritische Messungen werden größere Intervalle wie 20nm bis 133nm verwendet, die mit abrided weighting tables arbeiten. Die Auflösung bezieht sich dann darauf, wie viele Datenpunkte in die Berechnung eingeflossen sind. Stellen Sie sich vor, wir messen zwei rote Farbchips und berechnen ihre Farbe. Nur Forschungs- oder nationale Metrologielabors verwenden die 1nm-Gewichtung, so dass wir dies in unserer Diskussion nicht verwenden wollen. Je nach verwendetem Messgerät würden wir bei einer kritischen Farbbestimmung 80 oder 40 spektrale Ergebnisse in die Berechnung einbeziehen, während bei unkritischen Messungen vielleicht nur 20 oder sogar nur 3 Ergebnisse in die Berechnung einfließen.
Die spektrale Auflösung kann weiter definiert werden als die Anzahl der Messpunkte innerhalb der spektralen Ergebnisse. Wenn man einen festen Array-Detektor verwendet, wie viele Array-Elemente (Pixel) sind dann im gemessenen Spektrum vorhanden. Geht man von einem Bereich von 400 nm (380 nm-780 nm) aus, so könnte man beispielsweise 256 oder 128 Pixel haben, was entweder 1,56 nm/Pixel oder 3,125 nm/Pixel ergibt.
Was ist Auflösung?
Es gibt vier Arten der Datenauflösung: räumliche, spektrale, radiometrische und zeitliche Auflösung. Viele Instrumente können eine oder zwei Auflösungsarten gleichzeitig erfassen, aber nur selten findet man Geräte, die alle vier Auflösungsarten liefern können. Dieses Phänomen wird als Auflösungskonflikt bezeichnet. Die meisten Instrumente messen die am häufigsten verwendeten Auflösungsarten: räumliche und spektrale Auflösung. Die räumliche und die spektrale Auflösung zusammen ermöglichen es den Wissenschaftlern, Faktoren wie Farbe, Raum und Details quantitativ zu messen.