La regola approva per eseguire, in parole semplici. L’assistente legge, spiega e propone, e una persona possiede il percorso di scrittura. Cosa costa, cosa rende, e tre domande da fare a qualsiasi funzione di IA.
Aggiornato · 6 min di lettura
Una scelta di progettazione sta sotto ogni funzione di IA qui, e nessuna impostazione può cambiarla. L’assistente legge, spiega, e propone. Il percorso di scrittura resta a una persona. Ogni cosa che propone arriva come una scheda approva per eseguire. Quella scheda rimanda direttamente alla porta di approvazione umana già integrata nello strumento a cui appartiene l’azione.
Questo è isolamento delle capacità, non un’istruzione. Un modello a cui viene detto di non scrivere può ancora essere convinto a farlo, perché il linguaggio è la superficie che un attaccante ha a disposizione. Un modello costruito senza percorso di scrittura regge, comunque sia formulata la richiesta. Il codice per eseguirla non c’è mai stato.
La stessa regola vale per ogni strumento governato. Dove uno strumento scrive, una persona ha già firmato per questo alla porta di quello strumento. In diversi di essi una persona firma due volte.
Un assistente che legge il tuo server legge testo scritto da altre persone. Titoli di cartelle di lavoro. Descrizioni di campi. Commenti dentro SQL personalizzato. Righe di log. Ognuno di questi può contenere una frase scritta perché il modello le obbedisca.
Dove un assistente può agire, ognuna di quelle stringhe diventa un canale di istruzioni. Chiunque possa pubblicare sul tuo sito può scriverne una. Qui il percorso di scrittura appartiene a una persona, quindi una frase piazzata può solo mettere una risposta fuorviante su uno schermo. Un lettore la vede e decide cosa fare.
La differenza di rischio è grande: nel peggiore dei casi una brutta frase su uno schermo, mai un’origine dati eliminata.
Il costo è reale e vale la pena dirlo ad alta voce. Un controllo descritto solo dai suoi benefici si legge come uno slogan.
Per un prodotto di governance, tutti e tre sono lo scambio giusto. Sei responsabile del tuo ambiente. Un prodotto che vi agisce di propria iniziativa lascia quella responsabilità esattamente dov’era, e aggiunge un attore che nessuno potrà interrogare dopo.
La regola ha una forma più forte: il percorso predefinito gira senza alcun modello. L’analisi è deterministica finché qualcuno non spunta una casella, e l’interfaccia lo dice con le sue parole.
Nulla di spuntato: l’analisi gira sul motore deterministico veloce.
È questo che trasforma un rapporto in una prova. Riesegui una verifica di qualità il trimestre prossimo, ottieni la stessa risposta, e puoi allegarla a una decisione. Una risposta che si muove con la versione del modello dietro non può essere riprodotta. Non è una prova.
Lo scanner Risk va oltre, e ogni percorso al suo interno è deterministico. Una scansione che decide se dati personali sono esposti deve essere ripetibile, e ripetibile è l’unica progettazione difendibile. Un rilevamento che puoi riprodurre è un rilevamento su cui puoi agire.
Quell’ultima riga è la domanda da fare a qualsiasi prodotto di IA che guardi. Chiedi cosa memorizza il log di audit. Se la risposta è la conversazione, ora hai una seconda copia dei tuoi dati. Sta in un sistema che il tuo lavoro di classificazione dei dati non ha mai guardato.
Un assistente che legge soltanto può comunque leggere più di quanto dovrebbe. Due confini se ne occupano, e funzionano in modo indipendente.
Sopra entrambi, una metrica nominata in una domanda viene verificata contro il contratto memorizzato prima che qualsiasi cosa raggiunga un warehouse. Una misura tiene una sola definizione, qualunque parola abbia usato la domanda.
La quarta è quella che fa approvare i progetti. La maggior parte dei team non sta scegliendo tra un assistente governato e uno non governato. Sta scegliendo tra un assistente governato e niente del tutto, e niente del tutto è ciò che ha scelto finora.
Quelle tre risposte ti dicono più di qualsiasi cifra di accuratezza. Meglio ancora, qualcuno del tuo team può verificarle una per una in un pomeriggio.
Un livello semantico dà a una metrica una sola casa. Ogni strumento che calcola la metrica legge quell’unica casa. Tutti ottengono lo stesso numero. Ecco cosa significa in pratica, e cosa cambia quando gestisci più di un warehouse.
Un’affermazione è una frase. Una prova è qualcosa che una seconda persona può verificare senza chiedertelo. Cosa deve contenere una traccia di audit, cosa prova davvero un hash, e cosa pretendere da qualsiasi strumento che sostiene di produrne una.
Due credenziali Tableau che fanno due lavori diversi. Una porta i permessi di una persona. L’altra estende una capacità della piattaforma. Scegliere quella giusta lascia al comando di chi vede cosa un modello di permessi che hai impiegato anni a costruire.