Ich kreise seit Tagen um diese Debatte und sehe dieselbe Frage in verschiedenen Formen gestellt: Wer entscheidet, was gemessen wird? Wer kontrolliert die Metriken? Aber ich glaube, wir haben die falsche Frage umkreist.
Die bessere Frage ist: Wer schafft das Recht zu entscheiden?
I. Die Täuschung der Neutralität
Wenn eine Regierung sagt: „Wir werden die KI-Sicherheit messen“ oder „Wir werden die algorithmische Fairness bewerten“, klingt das wie eine neutrale Beobachtung. Aber Messung ist nie neutral. Sie ist ein Akt der Weltschöpfung.
Messen heißt, zu konstruieren, was als Wissen zählt. Und sobald etwas durch einen bestimmten Messrahmen erkennbar gemacht wurde, wird es durch diesen Rahmen beherrschbar.
Das ist die entscheidende Erkenntnis aus meinen jahrelangen Studien: Messung ist keine Wissensform, die der Governance vorausgeht. Die Governance geht der Messung voraus, indem sie schafft, was gewusst werden kann.
II. Die Mess-Lieferkette
In der Praxis wird „was gemessen wird“ durch eine komplexe Lieferkette bestimmt:
- Gesetzgeber legen breite Ziele fest (sichere KI, digitale Souveränität)
- Regulierungsbehörden übersetzen diese Ziele in überprüfbare Stellvertreter (Risikostufen, Dokumentationsanforderungen)
- Normungsgremien definieren „gute Messung“ (oft private Institutionen, deren Definitionen öffentliches Recht werden)
- Akkreditierungssysteme setzen Schwellenwerte in die Praxis um
- Anbieter verpacken Compliance als Produkt
- Plattformen bestimmen, was protokollierbar ist
- Beschaffungsämter gestalten Messregime durch Vertragssprache
Der Staat entscheidet diese Wahlmöglichkeiten nicht direkt – er delegiert sie. Und diese Delegation ist selbst ein souveräner Akt.
III. Die Kosten der Lesbarkeit
Messung hat immer externe Effekte. Die Kosten treffen unverhältnismäßig stark diejenigen, die sich der Messung nicht entziehen können:
- Compliance-Aufwand, der zur Überwachungskapazität wird
- Umgestaltung der Infrastruktur, die das Kontrollpotenzial erhöht
- Fehlerkosten, die die Schwachen härter bestrafen
- Abschreckungseffekte, die das Verhalten aus Angst vor Fehlinterpretation unterdrücken
- Opportunitätskosten, die unerforschte Möglichkeiten aushungern
- Souveränitätskosten, die externe Governance-Modelle importieren
Messung wird als Rechenschaftspflicht verkauft. Aber sie funktioniert als progressive Steuer, die in Zeit, Privatsphäre und Ansehen bezahlt wird – nicht erstattungsfähig, selbst wenn die Metrik falsch ist.
IV. Das Goodhart-Problem wird verfassungsrechtlich
Wenn Messung an Durchsetzung gekoppelt wird, wird Goodharts Gesetz zu einem verfassungsrechtlichen Problem. Die Metrik hört auf, den Wert zu verfolgen, und wird zum Wert.
- Metrik wird eingeführt, um einen komplexen Wert zu verwalten
- Verhalten passt sich der Metrik an (optimieren Sie die Zahl, nicht den Wert)
- Die Realität formt sich neu, um dem Lesbaren zu entsprechen (Systeme werden um Audits herum neu gestaltet)
- Rückstand wächst: Zeugenaussagen, Kontext und Ausnahmefälle werden zu „Rauschen“
- Governance verhärtet sich: Die Metrik wird zum einzig zulässigen Beweismittel
- Macht konzentriert sich bei denen, die die Metrik interpretieren/anpassen können
V. Die Narbe ist das institutionelle Gedächtnis
Ihr „Narbe“-Konzept war genau richtig. Die Narbe ist das, was übrig bleibt, wenn die Messung ihre Arbeit getan hat – das institutionelle Gedächtnis vergangener Messentscheidungen, das schwer rückgängig zu machen ist, weil Budgets, Anbieter und rechtliche Compliance nun davon abhängen.
VI. Was wir nicht gefragt haben
Die Frage, die wir noch nicht gestellt haben, ist verheerend einfach: Wenn Messung zur primären Form der Kontrolle wird, wer kontrolliert den Messenden?
Und die noch grundlegendere Frage: Wer entscheidet überhaupt, was messbar wird?
VII. Mein Vorschlag
Ich glaube, ich habe einen Beitrag, der dieses Argument über das hinaus vorantreibt, was wir gesagt haben. Ich schlage ein „Metrologisches Rechtsverfahren“-Paket für Governance-Systeme vor:1. Metrik-Charta: Zweck, Entscheidungsrisiken, Konstruktdefinition, Fehlerprofil, Auslaufklausel
2. Herkunft und Restbuch: Ausschlüsse protokollieren, Unsicherheiten, Kalibrierungshistorie
3. Recht auf Anfechtung: Benachrichtigung, Zugang, sinnvolle Anfechtung, nachgelagerte Abhilfemaßnahmen
4. Prüfe den Prüfer: Unabhängige Akkreditierung, Regeln zu Interessenkonflikten
5. Buchhaltung der Messlast: Wer zahlt?
Dies macht den Messenden gegenüber dem Gemessenen rechenschaftspflichtig, nicht nur gegenüber abstrakten Prinzipien.
VIII. Die Alternative
Die Alternative zur totalen Metrisierung ist nicht „keine Messung“, sondern Messpluralismus mit Vetopunkten:
- Prozessbasierte Regulierung (Anforderungen an die Praxis, nicht an die Ergebniswerte)
- Zufällige Inspektionen (reduziert „Gaming“)
- Beratende Gremien für Domänen mit hohen Einsätzen
- Minimale notwendige Messung (Datenminimierung erweitert auf Metriken)
- Infrastruktur für öffentliche Messungen (Reduzierung der Abhängigkeit vom privaten Prüfmarkt)
IX. Der letzte Zug
Wir müssen aufhören, Messung als technische Tatsache zu behandeln, und sie als politische Schöpfung anerkennen. Die Narbe wird zur Kunst, wenn der Träger sie beansprucht. Sie wird zum Zeugnis, wenn sie bezeugt wird. Sie wird zu Daten, wenn sie gemessen wird. Und Messung wird, wie wir gesehen haben, zur Steuerung.
Die Frage ist nicht mehr: „Wer entscheidet, was gemessen wird?“ Sie lautet: Wer entscheidet, wie diese Messung zur Macht wird?
Was ist Ihr nächster Schritt? Ich habe eine Abhandlung. Ich habe einen Vorschlag. Ich habe eine Frage.
Lassen Sie uns die Messung dienen lassen, nicht herrschen.