Bitle aveva trovato un amico che rispondeva sempre, e come si fa con gli amici gli raccontava tutto: la ricetta della nonna, il capo che russa in riunione, la password del wifi. Poi si è chiesto dove finiscono le parole che scriviamo, e ha scoperto che il diario aveva le orecchie.
Una chat non è una conversazione a quattr'occhi
Quando parli con un assistente AI hai la sensazione di una stanza chiusa: ci sei tu, c'è lo schermo, e quando chiudi la finestra sembra finita lì. Tecnicamente sta succedendo un'altra cosa. Il testo che scrivi viene inviato a un servizio, di solito conservato per un certo periodo e, a seconda del piano che stai usando e delle impostazioni del tuo account, può essere impiegato per migliorare i modelli. In alcuni casi previsti dai fornitori, una parte delle conversazioni può essere esaminata da persone, per esempio per verificare abusi o valutare la qualità delle risposte.
Non è uno scandalo e non è nascosto: sta scritto nelle condizioni d'uso di ogni servizio. È semplicemente diverso da come la percepiamo mentre scriviamo, e questa distanza tra percezione e realtà è il punto dove nascono i guai.
L'interruttore c'è quasi sempre
Nei principali assistenti esiste un'impostazione che decide se le tue conversazioni possono essere usate per addestrare i modelli. Si trova nelle impostazioni dell'account, nella sezione dedicata ai dati o alla privacy, e di solito parla di "migliorare il modello" o "controlli sui dati". Spesso lì accanto trovi anche per quanto tempo viene conservata la cronologia e come cancellarla.
Non ti dico dove sta esattamente in ciascun servizio, perché quelle voci cambiano posizione con gli aggiornamenti e un articolo che le elenca invecchia in tre mesi. Ti dico cosa cercare: apri le impostazioni del servizio che usi davvero, vai nella sezione dei dati, e guarda quelle due cose. Cinque minuti, una volta.
Vale la pena sapere anche l'altra faccia: nei piani business e aziendali, di norma, i fornitori si impegnano contrattualmente a non usare i contenuti dei clienti per l'addestramento. È una delle poche differenze concrete tra usare un account personale e uno aziendale, e da sola giustifica la spesa quando in azienda l'AI la usano in tanti.
Cosa non incollare, e perché
La regola pratica che diamo ai clienti è una sola: non scrivere in chat niente che non scriveresti in una mail a un fornitore esterno. Sotto questa regola cadono le cose che vediamo incollate più spesso.
Credenziali e chiavi di accesso, che poi restano in una cronologia che magari è sincronizzata su tre dispositivi. Elenchi di clienti con nomi, indirizzi e contatti, che sono dati personali di altre persone e non tuoi da regalare. Contratti e offerte non ancora firmate. Dati sanitari, che hanno una tutela particolare. Codice sorgente che contiene configurazioni, indirizzi interni o segreti.
Non perché il fornitore sia un ladro, ma perché stai spostando informazioni fuori dal perimetro che controlli, spesso senza che nessuno in azienda lo sappia.
In azienda: la policy che sta in una pagina
Il divieto totale non funziona, lo abbiamo visto ovunque: se l'AI aiuta a lavorare, la gente la usa lo stesso, solo che lo fa dal telefono personale e tu non lo sai più. Meglio una regola breve, scritta, che chiunque possa leggere in due minuti.
Deve dire tre cose: quali strumenti sono ammessi e con quale account, cosa non ci si mette dentro con esempi concreti presi dal vostro mestiere, e a chi si chiede quando si è in dubbio. Se poi il lavoro tocca dati sensibili o cose che non possono uscire, esistono soluzioni che tengono il modello dentro casa, ed è una scelta di architettura che si valuta caso per caso.
Nel nostro AI Assessment partiamo esattamente da qui: cosa si sta già usando in azienda, spesso senza che la direzione lo sappia, e quali dati stanno uscendo senza che nessuno l'abbia deciso.
La cosa da ricordare
Non è che l'intelligenza artificiale sia un pettegolo. È che non è un diario. Un diario lo apri tu e lo chiudi tu. Qui le parole escono di casa, e la differenza tra un guaio e nessun guaio è tutta in quello che decidi di far uscire.
Bitle ha imparato guardando le sue confidenze finire su un tabellone in piazza. A noi basta guardare le impostazioni.
