Die KI mit dem eigenen Modellanbieter-Schlüssel betreiben
Ihr Schlüssel, Ihr Anbieterkonto, Ihre Bedingungen. Was das daran ändert, wohin ein Prompt reist und wer den kommerziellen Vertrag hält. Was ein OpenAI-kompatibler Endpunkt eröffnet, und warum die Software vollständig ankommt, mit ausgeschalteter KI.
Den eigenen Schlüssel mitzubringen bedeutet, dass der Modellaufruf mit einer Berechtigung gemacht wird, die Sie ausgestellt haben, auf einem Konto, das Sie halten, unter Bedingungen, die Sie unterschrieben haben. Die Software ist der Client. Die Beziehung zum Modellanbieter bleibt Ihre.
Der Vertrag. Aufbewahrung, Trainingsnutzung und regionale Verarbeitung sind in Ihrer eigenen Vereinbarung mit dem Anbieter geregelt. Das sind die Bedingungen, die Ihre Rechtsabteilung für jede andere Nutzung dieses Kontos bereits gelesen hat.
Die Rechnung. Die Nutzung landet auf Ihrer Rechnung, aufgeführt von Ihrem Anbieter. Sie können sie deckeln oder stoppen, aus Ihrer eigenen Konsole, zu jeder Stunde an jedem Tag.
Die Reichweite. Ein Schlüssel, den Sie widerrufen können, ist eine Kontrolle, die Sie halten. Ihn zurückzuziehen wirkt beim nächsten Aufruf, nicht bei der nächsten Vertragsprüfung.
Die andere Anordnung ist praktikabel und verbreitet: Ein Anbieter ruft ein Modell für Sie auf, mit einem Schlüssel, den Sie nie sehen. Sie verschiebt drei der Fragen, die Ihr Prüfer stellen wird, auf eine Partei, von der Sie weniger sehen. Die Antwort auf jede davon wird dann zu einem Support-Ticket.
Wo der Schlüssel lebt
Ein Schlüssel ist nur so gut wie der Umgang mit ihm. Zwei Anordnungen werden unterstützt, und beide halten das Geheimnis auf dem Server.
Für eine Sitzung eingegeben
Auf der Verbindungskarte angegeben und nur für diese Sitzung gehalten, serverseitig. Er wird nie in die Seite geschrieben, nie an den Browser veröffentlicht und nie in ein Log geschrieben.
Von einem Administrator festgeschrieben
Einmal pro Anbieter gehalten und auf eine einzelne Tableau Site begrenzt. Er ist ruhend unter eigenem Salt verschlüsselt und atomar mit Dateiberechtigungen nur für den Eigentümer geschrieben.
Was die Konsole zeigt
Den Anbieter, die Site und einen Hinweis auf die letzten paar Zeichen. Das Geheimnis wird nie an einen Browser zurückgegeben. Ein Administrator, der nicht sicher ist, welcher Schlüssel geladen ist, rotiert ihn, statt ihn zu lesen.
Was das Entfernen bewirkt
Der Schlüssel wird bei jedem Seitenaufruf neu aufgelöst. Ihn zu löschen entfernt die Funktion sofort, nicht bei der nächsten Anmeldung.
Jedes Speichern, Rotieren, Aktivieren, Deaktivieren und Entfernen wird sowohl ins Admin-Audit-Log als auch in den Änderungs-Ledger geschrieben. Wer einen Schlüssel auf diese Site gelegt hat, und wann, ist eine Frage mit festgehaltener Antwort. Das Gedächtnis muss sie nicht tragen.
Jeder OpenAI-kompatible Endpunkt funktioniert
Die Adresse des Modelldienstes ist ein Parameter, keine Konstante. Jeder Endpunkt, der die OpenAI-API spricht, kann den Aufruf bedienen. Eine Integration deckt dann mehrere wirklich verschiedene Bereitstellungen ab.
Ein gehostetes Anbieterkonto, direkt mit Ihrem Schlüssel aufgerufen.
Eine verwaltete Bereitstellung auf einer Cloud-Plattform, die Sie bereits nutzen, angesprochen über ihren eigenen Ressourcen-Endpunkt und Bereitstellungsnamen.
Ein Gateway, das Ihr Plattformteam bereits betreibt. Dort wurden Prompt-Protokollierung, Ratenbegrenzung und Kostenzuordnung oft schon einmal gelöst, für jedes andere Team.
Ein lokal laufendes Modell, auf Hardware in Ihrem eigenen Netzwerk. Das passt zu einer Site, die gar keine ausgehende Route zu einem Modellanbieter hat.
Die letzte Option entscheidet manche Beschaffung. Ein Unternehmen, das ausgeschlossen hat, Inhalte an ein gehostetes Modell zu senden, hat trotzdem einen Weg zu denselben Funktionen. Der Client spricht mit einem lokalen Modell über dieselbe Schnittstelle, die er für ein gehostetes nutzt. Die Frage verschiebt sich von „ob die Funktion genutzt wird“ zu „wohin sie zeigt“.
Vollständig mit ausgeschalteter KI
Die Governance-Arbeit erledigen deterministische Engines. Scannen, Vergleichen, Extrahieren, Kartieren und Berichten laufen alle ohne Modell. Sie laufen morgen genauso wie heute, und das ist es, was ihre Ausgabe als Beleg nutzbar macht.
Lassen Sie den Schlüssel weg, und der Assistent ist abwesend. Die Seite ist Byte für Byte das, was sie vorher war.
Das ist eine Designverpflichtung, kein Verpackungstrick. Wo ein Modell angeboten wird, ist der aufrufende Code eingewickelt. Ein fehlender Schlüssel, ein Netzwerkfehler oder eine Ratenbegrenzung liefert stattdessen den deterministischen Text. Der Ablauf darum herum geht weiter, und die Funktion tritt still auf die Engine darunter zurück. Sie können sie an einem Dienstag aktivieren und an einem Mittwoch zurückziehen.
Das bedeutet auch, dass eine Bewertung beginnen kann, bevor es kommerzielle Gespräche mit einem Modellanbieter gibt. Installieren, mit einer Site verbinden, und auf den eigenen Engines ausprobieren. Der Schlüssel wird zu einer Entscheidung, die Sie später treffen, mit Belegen bereits in der Hand.
Wer was hält
Der Schlüssel
Ihrer. Aus Ihrem Anbieterkonto ausgestellt, pro Sitzung angegeben oder von einem Administrator an eine Site gebunden.
Das Konto
Ihres. Der Modellanbieter kennt Ihr Unternehmen als seinen Kunden. Seine Nutzungskonsole ist die, in der Sie sich ohnehin anmelden.
Die Bedingungen
Ihre. Aufbewahrung und Trainingsnutzung folgen der Vereinbarung, die Sie unterschrieben haben, nicht einer, die in Ihrem Namen unterschrieben wurde.
Das Protokoll
Ihres, auf Ihrem eigenen Server. Wer aufgerufen hat, wann, welches Modell geantwortet hat, wie viele Tokens es gebraucht hat und eine geschätzte Kostenzahl.
Der Schalter
Ihrer. Ein striktes Ein und Aus pro Anbieterschlüssel. Ziehen Sie den Schlüssel zurück, und die Funktion geht mit ihm.
Fünf Zeilen, fünf Eigentümer, in jeder derselbe Name. Dafür ist diese Anordnung da.
Fragen, die man zuerst klären sollte
Welches Konto stellt den Schlüssel aus, und wer kann ihn kurzfristig rotieren.
Zu welchem Endpunkt die Aufrufe reisen, und ob er innerhalb einer Grenze liegt, die Ihre Datenklassifizierung bereits abdeckt.
Was die Bedingungen Ihres Anbieters über Aufbewahrung sagen, und über das Training mit dem Inhalt eines Prompts.
Was das Produkt über jeden Aufruf festhält, und ob dieses Protokoll Inhalte oder Nutzung enthält.
Was die Funktionen tun, sobald der Schlüssel zurückgezogen ist, und ob das jemand getestet hat.
Die fünfte ist die, die übersprungen wird. Sie ist auch die, die an dem Morgen zählt, an dem Sie einen Schlüssel in Eile ziehen müssen. Zehn Minuten an einem Donnerstag beantworten sie. Unter Druck, am Tag selbst, ist sie unbeantwortbar.
Die Regel der Freigabe vor Ausführung, in schlichten Worten. Der Assistent liest, erklärt und schlägt vor, und ein Mensch besitzt den Schreibpfad. Was das kostet, was es bringt, und drei Fragen an jede KI-Funktion.
Zwei Tableau-Berechtigungen, die zwei verschiedene Aufgaben erledigen. Die eine trägt die Berechtigungen einer Person. Die andere erweitert eine Plattformfähigkeit. Die richtige zu wählen hält ein Berechtigungsmodell, das Sie über Jahre aufgebaut haben, dafür zuständig, wer was sieht.
Eine Behauptung ist ein Satz. Ein Beleg ist etwas, das eine zweite Person prüfen kann, ohne Sie zu fragen. Was ein Audit-Trail enthalten muss, was ein Hash wirklich beweist, und was Sie von jedem Tool verlangen sollten, das behauptet, einen zu erzeugen.