Skip to content

Far girare l’IA con la chiave del tuo fornitore di modelli

La tua chiave, il tuo account presso il fornitore, le tue condizioni. Cosa cambia riguardo a dove viaggia un prompt e a chi detiene l’accordo commerciale. Cosa apre un endpoint compatibile con OpenAI, e perché il software arriva completo con l’IA spenta.

Aggiornato · 6 min di lettura

Cosa cambia con la tua chiave

Portare la propria chiave significa che la chiamata al modello viene fatta con una credenziale che hai emesso tu, su un account che detieni tu, sotto condizioni che hai firmato tu. Il software è il client. La relazione con il fornitore del modello resta tua.

  • Il contratto. Conservazione, uso per l’addestramento e trattamento regionale sono regolati nel tuo accordo con il fornitore. Sono le condizioni che il tuo ufficio legale ha già letto per ogni altro uso di quell’account.
  • La fattura. L’uso finisce sulla tua fattura, elencato dal tuo fornitore. Puoi limitarlo o fermarlo dalla tua console a qualsiasi ora di qualsiasi giorno.
  • La portata. Una chiave che puoi revocare è un controllo che detieni. Ritirarla ha effetto alla chiamata successiva, non alla prossima revisione contrattuale.

L’altra soluzione è praticabile e comune: un fornitore chiama un modello per te, con una chiave che non vedi mai. Sposta tre delle domande che il tuo auditor farà su una parte di cui vedi meno. La risposta a ciascuna diventa allora un ticket di supporto.

Dove vive la chiave

Una chiave vale quanto la gestione che le sta intorno. Sono supportate due soluzioni, ed entrambe tengono il segreto sul server.

Digitata per una sessione
Fornita sulla scheda di connessione e tenuta solo per quella sessione, lato server. Non viene mai scritta nella pagina, mai pubblicata al browser, e mai scritta in un log.
Bloccata da un amministratore
Tenuta una volta per fornitore e limitata a un singolo sito Tableau. È cifrata a riposo con il proprio salt, e scritta atomicamente con permessi di file riservati al proprietario.
Cosa mostra la console
Il fornitore, il sito, e un accenno agli ultimi caratteri. Il segreto non viene mai restituito a un browser. Un amministratore che non è sicuro di quale chiave sia caricata la ruota invece di leggerla.
Cosa fa la rimozione
La chiave viene risolta di nuovo a ogni caricamento di pagina. Eliminarla rimuove la funzione subito, non al prossimo accesso.

Ogni salvataggio, rotazione, abilitazione, disabilitazione e rimozione viene scritta sia nel log di audit amministrativo sia nel registro delle modifiche. Chi ha messo una chiave su questo sito, e quando, è una domanda con una risposta registrata. La memoria non deve portarla.

Qualsiasi endpoint compatibile con OpenAI funziona

L’indirizzo del servizio del modello è un parametro, non una costante. Qualsiasi endpoint che parla l’API OpenAI può servire la chiamata. Una sola integrazione copre allora diversi deployment realmente diversi.

  • Un account presso un fornitore ospitato, chiamato direttamente con la tua chiave.
  • Un deployment gestito su una piattaforma cloud che già usi, indirizzato tramite il proprio endpoint di risorsa e nome di deployment.
  • Un gateway che il tuo team di piattaforma già gestisce. Spesso è lì che la registrazione dei prompt, i limiti di frequenza e l’attribuzione dei costi sono stati risolti una volta, per ogni altro team.
  • Un modello in esecuzione localmente, su hardware dentro la tua rete. Si adatta a un sito senza alcuna rotta in uscita verso un fornitore di modelli.

L’ultima opzione chiude alcuni acquisti. Un’azienda che ha escluso di inviare contenuti a un modello ospitato ha comunque una via verso le stesse funzioni. Il client parla con un modello locale attraverso la stessa interfaccia che usa per uno ospitato. La domanda passa da se usare la funzione a dove puntarla.

Completo con l’IA spenta

Il lavoro di governance è fatto da motori deterministici. Scansionare, confrontare, estrarre, mappare e riferire girano tutti senza alcun modello. Girano domani come hanno girato oggi, ed è questo che rende il loro output utilizzabile come prova.

Lascia fuori la chiave e l’assistente è assente. La pagina è byte per byte quella che era prima.

È un impegno di progettazione, non un trucco di confezionamento. Dove viene offerto un modello, il codice chiamante è incapsulato. Una chiave mancante, un guasto di rete o un limite di frequenza restituiscono al suo posto il testo deterministico. Il flusso intorno prosegue, e la funzione scende silenziosamente al motore sottostante. Puoi abilitarla un martedì e ritirarla un mercoledì.

Significa anche che una valutazione può iniziare prima di qualsiasi trattativa commerciale con un fornitore di modelli. Installalo, collegalo a un sito, e mettilo alla prova sui suoi motori. La chiave diventa una decisione che prendi dopo, con le prove già in mano.

Chi detiene cosa

La chiave
Tua. Emessa dal tuo account presso il fornitore, fornita per sessione o bloccata su un sito da un amministratore.
L’account
Tuo. Il fornitore del modello conosce la tua azienda come suo cliente. La sua console di utilizzo è quella a cui accedi già.
Le condizioni
Tue. Conservazione e uso per l’addestramento seguono l’accordo che hai firmato tu, non uno firmato per tuo conto.
Il registro
Tuo, sul tuo server. Chi ha chiamato, quando, quale modello ha risposto, quanti token ha richiesto, e un costo stimato.
L’interruttore
Tuo. Un acceso e spento rigoroso per chiave di fornitore. Ritira la chiave e la funzione se ne va con lei.

Cinque righe, cinque proprietari, un solo nome in ognuna. È a questo che serve questa soluzione.

Domande da sistemare per prime

  1. Quale account emette la chiave, e chi può ruotarla con breve preavviso.
  2. Verso quale endpoint viaggiano le chiamate, e se sta dentro un confine che la tua classificazione dei dati già copre.
  3. Cosa dicono le condizioni del tuo fornitore sulla conservazione, e sull’addestramento con il contenuto di un prompt.
  4. Cosa registra il prodotto di ogni chiamata, e se quel record contiene contenuti o utilizzo.
  5. Cosa fanno le funzioni una volta ritirata la chiave, e se qualcuno lo ha testato.

La quinta è quella che viene saltata. È anche quella che conta la mattina in cui devi ritirare una chiave in fretta. Dieci minuti di un giovedì le danno risposta. Di corsa, il giorno stesso, resta senza risposta.