Die Regel der Freigabe vor Ausführung, in schlichten Worten. Der Assistent liest, erklärt und schlägt vor, und ein Mensch besitzt den Schreibpfad. Was das kostet, was es bringt, und drei Fragen an jede KI-Funktion.
Aktualisiert · 6 Min. Lesezeit
Eine Designentscheidung liegt unter jeder KI-Funktion hier, und keine Einstellung kann sie ändern. Der Assistent liest, er erklärt, und er schlägt vor. Der Schreibpfad bleibt bei einem Menschen. Jeder Vorschlag kommt als Karte zur Freigabe vor Ausführung an. Diese Karte verlinkt direkt in das menschliche Freigabe-Gate, das bereits in das Tool eingebaut ist, dem die Aktion gehört.
Das ist Fähigkeitsisolation, keine Anweisung. Ein Modell, dem gesagt wird, es solle das Schreiben lassen, lässt sich trotzdem dazu überreden, denn Sprache ist die Oberfläche, die ein Angreifer hat. Ein Modell, das ohne Schreibpfad gebaut ist, hält stand, wie auch immer die Bitte formuliert wird. Der Code dafür war nie da.
Dieselbe Regel gilt über jedes governte Tool hinweg. Wo ein Tool schreibt, hat ein Mensch bereits am eigenen Gate dieses Tools dafür unterschrieben. In mehreren davon unterschreibt ein Mensch zweimal.
Ein Assistent, der Ihren Server liest, liest Text, den andere Menschen geschrieben haben. Arbeitsmappentitel. Feldbeschreibungen. Kommentare in benutzerdefiniertem SQL. Log-Zeilen. Jedes davon kann einen Satz enthalten, der geschrieben wurde, damit das Modell ihm gehorcht.
Wo ein Assistent handeln kann, wird jede dieser Zeichenketten zu einem Anweisungskanal. Jeder, der auf Ihrer Site veröffentlichen kann, kann eine schreiben. Hier gehört der Schreibpfad einem Menschen, also kann ein platzierter Satz höchstens eine irreführende Antwort auf einen Bildschirm bringen. Ein Leser sieht sie und entscheidet, was zu tun ist.
Der Unterschied im Risiko ist gross: schlimmstenfalls ein schlechter Satz auf einem Bildschirm, nie eine gelöschte Datenquelle.
Die Kosten sind real und es lohnt sich, sie auszusprechen. Eine Kontrolle, die nur über ihre Vorteile beschrieben wird, liest sich wie ein Slogan.
Für ein Governance-Produkt sind alle drei der richtige Tausch. Sie sind für Ihre eigene Umgebung verantwortlich. Ein Produkt, das dort aus eigenem Antrieb handelt, lässt diese Verantwortung genau dort, wo sie war, und fügt einen Akteur hinzu, den später niemand befragen kann.
Die Regel hat eine stärkere Form: Der Standardpfad läuft ohne Modell darin. Die Analyse ist deterministisch, bis jemand ein Kästchen anhakt, und die Oberfläche sagt das mit eigenen Worten.
Nichts angehakt: Die Analyse läuft auf der schnellen deterministischen Engine.
Das ist es, was einen Bericht zu einem Beleg macht. Führen Sie im nächsten Quartal eine Qualitätsprüfung erneut aus, bekommen Sie dieselbe Antwort, und Sie können sie an eine Entscheidung heften. Eine Antwort, die sich mit der Modellversion dahinter bewegt, lässt sich nicht reproduzieren. Sie ist kein Beleg.
Der Risk-Scanner geht weiter, und jeder Pfad in ihm ist deterministisch. Ein Scan, der entscheidet, ob personenbezogene Daten offenliegen, muss wiederholbar sein, und wiederholbar ist das einzige vertretbare Design. Eine Erkennung, die Sie reproduzieren können, ist eine Erkennung, auf die Sie reagieren können.
Diese letzte Zeile ist die Frage, die Sie jedem KI-Produkt stellen sollten, das Sie sich ansehen. Fragen Sie, was das Audit-Log speichert. Wenn die Antwort das Gespräch ist, halten Sie jetzt eine zweite Kopie Ihrer Daten. Sie liegt in einem System, das Ihre Datenklassifizierung nie angesehen hat.
Ein Assistent, der nur liest, kann trotzdem mehr lesen, als er sollte. Zwei Grenzen kümmern sich darum, und sie wirken unabhängig voneinander.
Über beiden wird eine in einer Frage genannte Kennzahl gegen den gespeicherten Vertrag geprüft, bevor irgendetwas ein Warehouse erreicht. Eine Kennzahl behält eine Definition, welche Worte die Frage auch benutzt hat.
Die vierte ist die, die Projekte genehmigt bekommt. Die meisten Teams wählen nicht zwischen einem governten Assistenten und einem ungovernten. Sie wählen zwischen einem governten Assistenten und gar nichts, und gar nichts ist das, was sie bisher gewählt haben.
Diese drei Antworten sagen Ihnen mehr als jede Genauigkeitszahl. Besser noch: Jemand aus Ihrem eigenen Team kann jede davon an einem Nachmittag prüfen.
Eine semantische Schicht gibt einer Kennzahl ein einziges Zuhause. Jedes Tool, das die Kennzahl ausrechnet, liest dieses eine Zuhause. Alle bekommen dieselbe Zahl. Hier steht, was das in der Praxis bedeutet, und was sich ändert, wenn Sie mehr als ein Warehouse betreiben.
Eine Behauptung ist ein Satz. Ein Beleg ist etwas, das eine zweite Person prüfen kann, ohne Sie zu fragen. Was ein Audit-Trail enthalten muss, was ein Hash wirklich beweist, und was Sie von jedem Tool verlangen sollten, das behauptet, einen zu erzeugen.
Zwei Tableau-Berechtigungen, die zwei verschiedene Aufgaben erledigen. Die eine trägt die Berechtigungen einer Person. Die andere erweitert eine Plattformfähigkeit. Die richtige zu wählen hält ein Berechtigungsmodell, das Sie über Jahre aufgebaut haben, dafür zuständig, wer was sieht.