Ein System entwirft eine Mitteilung an Kunden, ein zweites System bewertet den Entwurf mit einer guten Note, und die Mitteilung geht hinaus. Jeder Schritt ist protokolliert, die Freigabe hat einen Zeitstempel. Niemand hat den Inhalt mit dem verglichen, was tatsächlich vereinbart ist. Am Anfang solcher Abläufe steht eine Entscheidung, die vernünftig aussah: Die KI hat die Aufgabe in der Vorführung gut erledigt, also hat die Bereichsleitung sie ihr übergeben. Wer das Ergebnis danach prüft, hat niemand festgelegt.
Wie viel Arbeit Sie an KI übergeben können, hängt davon ab, ob in Ihrem Unternehmen hinterher eine fachkundige Person feststellen kann, ob das Ergebnis stimmt. Ist diese Prüfung möglich, delegieren Sie: Sie geben die Ausführung ab und behalten das Urteil. Fehlt sie, haben Sie die Arbeit weggegeben. Die Verantwortung steht dann weiter in der Stellenbeschreibung und in der Unterschriftenregelung, aber niemand übt sie mehr aus.
Vor solchen Entscheidungen fragen Unternehmen trotzdem zuerst, was die Maschine kann, und dafür gibt es einen Grund. Ihre Fähigkeiten lassen sich vorführen, in einer Sitzung ausprobieren und mit der Version vom Vorjahr vergleichen. Ob das eigene Unternehmen Ergebnisse beurteilen kann, steckt in einzelnen Köpfen, wächst langsam und fällt erst auf, wenn es fehlt. Wer entscheidet, schaut auf das, was sich zeigen lässt, und die Frage nach der Prüfung kommt gar nicht erst auf die Liste.
Dazu kommt eine Annahme, die selten jemand ausspricht: Was plausibel aussieht, gilt als geprüft. Bei menschlicher Arbeit ging das lange gut, weil ein schlechter Text meist auch schlecht aussah und ein unsicherer Kollege seine Unsicherheit zeigte. Eine KI liefert ein falsches Ergebnis in derselben sauberen Form wie ein richtiges. Ohne fachkundige Prüfung bemerkt das Unternehmen schlechte Arbeit erst an dem Tag, an dem ein Fehler Geld gekostet hat.
Zuerst eignet sich deshalb Arbeit, deren Ergebnis eindeutig überprüfbar ist. Eine Rechnung stimmt oder stimmt nicht. Eine Auswertung lässt sich gegen die eigenen Zahlen halten, eine Kalkulation rechnet jemand aus dem Controlling nach, einen Vertragsentwurf liest eine Juristin gegen. Wer dort unterschreibt, ist sichtbar verantwortlich. Bei Strategiepapieren, Marktannahmen oder Personalentscheidungen zeigt sich erst nach Monaten, ob die Arbeit gut war. Dort sammelt KI Informationen, spielt Varianten durch und liefert Entwürfe. Den letzten Schritt macht ein Mensch, der das Ergebnis vertreten kann.
Als Prüfung zählt nur, was unabhängig von dem System ist, das das Ergebnis erzeugt hat, und das Ergebnis an der Wirklichkeit misst: an den Zahlen der Buchhaltung, an Belegen, am Wissen einer Person, die das Fach kennt. Eine zweite KI erfüllt diese Bedingung nicht. Sie arbeitet ähnlich wie die erste und liefert zum selben Ergebnis eine zweite Behauptung derselben Herkunft. Der Ablauf sieht danach geprüft aus, mit Note, Freigabe und Protokoll, wie bei der Mitteilung an die Kunden. Deshalb ist diese Abkürzung die gefährlichste: Sie verdeckt, dass niemand geurteilt hat.
Ob Ihr Unternehmen irgendwo Arbeit weggegeben hat, erkennen Sie an zwei Anzeichen. Auf die Frage, wer ein Ergebnis zuletzt gegen die Wirklichkeit gehalten hat, kann niemand einen Namen nennen. Oder es gibt einen Namen, aber die Prüfung steht nicht im Arbeitsplan dieser Person und findet deshalb nicht statt.
Die Fähigkeit, Ergebnisse zu beurteilen, ist damit der Engpass jeder Übergabe an KI. Sie steckt in Leuten, die ihr Fach über Jahre ausgeübt haben: in der Buchhalterin, die eine falsche Abgrenzung auf den ersten Blick sieht, im Vertriebsleiter, der weiß, was einem Kunden wirklich zugesagt wurde. Rechenleistung und Software können Sie einkaufen, diese Erfahrung entsteht nur im eigenen Unternehmen. Wer solche Stellen abbaut oder diesen Leuten keine Zeit für die Prüfung gibt, verkleinert genau den Teil der Arbeit, den er an KI abgeben kann.
Für Geschäftsführung und Bereichsleitung heißt das: Vor jeder Übergabe an KI stehen drei Fragen. Woran erkennen wir, dass das Ergebnis richtig ist? Wer bei uns kann das feststellen, und hat diese Person Zeit dafür? Was passiert, wenn das Ergebnis falsch ist? Für das nächste Vorhaben, das bei Ihnen ansteht, dauert das Beantworten etwa eine Stunde. Lassen sich alle drei Fragen konkret beantworten, kann der neue Ablauf starten. Fehlt eine Antwort, bauen Sie zuerst die Prüfung auf: Sie benennen die Person, planen ihre Zeit ein und legen fest, woran sie das Ergebnis misst. Bis dahin wartet die Übergabe.