Wie ausgereift ist Ihre Ethik, wenn es um KI geht

Ethik klingt nach einem Thema für eine Arbeitsgruppe, die zweimal im Jahr zusammenkommt. In der Praxis ist es die Dimension, die bestimmt, ob eine KI-Anwendung weiterlaufen darf, sobald jemand eine unangenehme Frage stellt. Wer entscheidet, eine Ausgabe zu nutzen, wer die Folgen trägt, falls sich diese Ausgabe als falsch herausstellt, und auf Grundlage welcher Abwägung das geschieht: Gibt es darauf keine Antwort, steht ein Pilotprojekt auf wackligem Grund, auch wenn die Technik funktioniert.

Was diese Dimension misst

Die Reifegradmessung betrachtet nicht, ob ein ethischer Kodex auf der Intranetseite steht. Sie betrachtet, ob ethische Abwägungen irgendwo in der Arbeit selbst landen: in der Art, wie eine KI-Anwendung genehmigt wird, darin, wer eine Entscheidung zurücknehmen darf, darin, wie mit einem Ergebnis umgegangen wird, das niemand vorhergesehen hatte. Das sind keine Angelegenheiten, die getrennt vom Rest der Organisation existieren. Sie hängen mit den Dimensionen zusammen, die vorher stehen müssen: Eine Organisation, die noch keine Struktur hat, um KI-Entscheidungen zuzuordnen, kann kaum einen ethischen Rahmen tragen, der über eine Absichtserklärung hinausgeht. Dasselbe gilt für die Infrastrukturseite und die Datenverarbeitung: Wer nicht weiß, welche Daten ein Modell verwendet hat, kann keine sinnvolle Antwort auf die Frage geben, ob diese Nutzung verantwortungsvoll war.

Die fünf Niveaus, von Baseline bis Intelligence

Auf Baseline-Niveau existiert Ethik als Thema vor allem als Reaktion auf Vorfälle. Es gibt keinen festgelegten Rahmen; wenn etwas schiefgeht, wird es ad hoc betrachtet, meist von wem auch immer gerade zufällig anwesend ist. Auf Foundation-Niveau gibt es ein Dokument, oft von einem Branchenstandard oder juristischen Vorlage übernommen, aber es wird selten konsultiert, bevor eine Entscheidung getroffen wird — es existiert, funktioniert aber nicht.

Bei Activation beginnt der Rahmen, im Prozess mitzulaufen: Es gibt einen festen Moment, an dem eine neue KI-Anwendung auf möglichen Schaden, Voreingenommenheit oder unbeabsichtigte Nutzung geprüft wird, und dieser Moment wird nicht übersprungen. Bei Insight wird diese Beurteilung von dem gespeist, was tatsächlich geschieht: Ergebnisse werden verfolgt, Abweichungen werden besprochen, und der Rahmen wird angepasst auf Grundlage dessen, was die Praxis zeigt, statt dessen, was vorab erwartet wurde.

Das Intelligence-Niveau ist weniger ein dickeres Dokument als eine Organisation, in der ethische Abwägung mit der Entscheidungsfindung selbst verwoben ist: Menschen an verschiedenen Stellen erkennen eine Grauzone, bevor sie zu einem Problem wird, und es gibt eine Gewohnheit, diese Zone besprechbar zu machen, ohne dass dies einen formellen Eskalationsprozess erfordert.

Woran Sie den Unterschied erkennen

Der Unterschied zwischen den Niveaus liegt nicht im Text eines Richtliniendokuments, sondern in dem, was geschieht, wenn etwas schiefgeht. Auf den niedrigeren Niveaus wird dann gesucht, wer den Fehler gemacht hat. Auf den höheren Niveaus wird betrachtet, ob der Rahmen den Moment hätte auffangen können, und wenn nicht, was sich daran ändert. Ein weiteres Signal ist, wer die Frage stellen darf. Wenn ethischer Zweifel nur über einen formellen Kanal nach oben gehen darf, bleibt er oft auf dem Weg liegen. Wenn jeder, der mit einer KI-Anwendung arbeitet, eine Frage aufwerfen kann, ohne dafür einen Anlass rechtfertigen zu müssen, ist das ein Zeichen dafür, dass der Rahmen lebt.

Diese Dimension steht nicht losgelöst von den anderen sechs. Sie berührt zum Beispiel direkt wie Ihre Organisation mit Datenschutz und Sicherheit bei KI umgeht, denn ein ethischer Rahmen ohne Klarheit darüber, wer welche Daten einsehen darf, ist ein Rahmen ohne Grundlage. Sie berührt auch was Ihre Mitarbeiter wissen und können, wenn es um KI geht: Ein Mitarbeiter, der nicht versteht, wie ein Modell zu einem Ergebnis kommt, kann kaum beurteilen, ob dieses Ergebnis ethisch vertretbar zu nutzen ist. Und sie berührt wie Leistungen in einer KI-Umgebung gemessen und besprochen werden, weil ein Bewertungssystem, das nur auf Geschwindigkeit steuert, ethische Abwägungen als Verzögerung behandelt statt als Notwendigkeit.

Die Plot-Runde: warum Streuung mehr aussagt als ein Durchschnitt

Ein einzelner Wert zu dieser Dimension sagt wenig aus. Was tatsächlich etwas zeigt, ist, was geschieht, wenn mehrere Menschen in der Organisation getrennt, ohne Absprache, ihre eigene Einschätzung abgeben. Ein CHRO, der den Rahmen auf Foundation-Niveau einstuft, während ein Teamleiter ihn auf Activation sieht, weist nicht auf einen Messfehler hin, sondern auf eine Organisation, in der der Rahmen auf dem Papier existiert und in der Praxis nicht so genutzt wird, wie beabsichtigt. Diese Streuung ist genau das, wofür die Plot-Runde gemacht wurde: nicht um einen Durchschnitt zu berechnen, sondern um zu zeigen, wo die Bilder auseinandergehen und warum.

Was ein Niveau höher verlangt

Ein Schritt nach oben auf dieser Dimension erfordert selten ein neues Dokument. Es erfordert einen festen Moment im Prozess, an dem die Frage gestellt wird, Menschen, die sich frei fühlen, diese Frage zu stellen, und eine Möglichkeit, aus dem zu lernen, was geschieht, wenn der Rahmen versagt. Wie viel das an Zeit und Aufmerksamkeit kostet, hängt davon ab, wo die Organisation bei den grundlegenden Dimensionen bereits steht; wer mehr darüber wissen möchte, findet eine Ausarbeitung bei was es kostet, die Organisationsstruktur ein Niveau steigen zu lassen.

Die Reifegradmessung zeigt, ob die Organisation eine KI-Anwendung tragen kann, ethisch und im Übrigen. Sie sagt nichts darüber aus, welcher Teil der Arbeit selbst geeignet ist, an KI übergeben zu werden. Diese Frage beantwortet der Werkscan von FTE TO AI: Er berechnet pro Aufgabe, welcher Teil der Arbeit übernommen werden kann, angesichts der Rahmenbedingungen, die bereits bestehen. Die beiden Messungen ergänzen sich, beginnen aber nicht bei derselben Frage; diese Seite handelt vom Tragen, nicht vom Übernehmen.