Cosa NON dovresti MAI inserire nell'IA

Cosa NON dovresti MAI inserire nell'IA [Video e quiz]

In breve: non inserite mai password, chiavi API, ID, dati sanitari o bancari, file di clienti soggetti ad accordi di riservatezza (NDA) o dati di altre persone in una chat pubblica con un'IA. Quando avete bisogno di aiuto, descrivete il problema utilizzando segnaposto ed estratti oscurati: il modello ha bisogno di capire la struttura del problema, non i segreti che consentono di accedere ai sistemi reali.

Punti chiave:

I segreti restano offline: non incollare mai password, token, cookie o frasi di recupero in un campo di testo.

Rubare l'identità: scambia nomi, indirizzi e numeri di identificazione reali con ruoli e identità fittizie.

Riservatezza sul lavoro: non divulgare bozze di accordi di non divulgazione, file dei clienti e piani non ancora pubblicati nelle chat con i clienti.

Limite del consenso: non incollare i dati personali di colleghi, clienti o bambini senza un controllo esclusivamente umano.

Prima di tutto, censurate: utilizzate segnaposto ed estratti ripuliti; ruotate tutto ciò che avete già fatto trapelare.

Cosa NON dovresti MAI inserire nell'IA

Incolliamo prima e pensiamo dopo. Un chatbot se ne sta lì seduto come un paziente specializzando con caffè a volontà, quindi sembra quasi innocuo riversare l'intero problema intricato nella casella. Un login che non funziona. Una clausola contrattuale che ti fa venire il mal di stomaco. Uno screenshot di una dashboard con tutti i nomi ancora visibili. Lo strumento è utile, l'atmosfera è quasi privata e il tuo cervello lo archivia silenziosamente accanto agli "appunti che ho scritto per me stesso"

Ecco la trappola. 🧠 La chat non è un cassetto chiuso a chiave. È una conversazione con un sistema che memorizza, elabora e a volte si addestra su ciò che invii, a seconda del prodotto, delle impostazioni e persino del fatto che tu abbia notato o meno le impostazioni. Non sono qui per farti prendere dal panico e costringerti a rifugiarti in un bunker. Sono qui con una mappa pratica di ciò che NON dovresti MAI inserire nell'IA, oltre alle abitudini semplici ma efficaci che ti permettono comunque di ottenere risposte precise.

Immaginate di gridare un segreto in una cucina affollata. Non tutti gli sconosciuti stanno ascoltando. Eppure, alcuni potrebbero. E la cucina conserva una registrazione per ragioni che non sono mai così semplici come le descrivono le campagne di marketing.

Perché riversiamo tutto nella chat

Velocità. È questo il punto. Sei bloccato, l'errore è brutto e incollare l'intero log sembra più veloce che ridurlo all'essenziale. Il contesto sembra un gesto di gentilezza verso il modello. Più dettagli, migliore aiuto: questo è il detto popolare, ed è vero solo in parte.

L'altra metà è emotiva. Un chatbot non desta sospetti. Non lo dirà al tuo capo. Non spettegolerà durante la pausa pranzo. Quindi lo trattiamo come un diario con dei superpoteri. L'ho fatto io. Probabilmente l'hai fatto anche tu. Nel momento in cui qualcosa è comodo e non giudicante, il nostro istinto di tutela della privacy va in pausa tè.

Ecco la verità, per quanto un po' fastidiosa: il modello non ha bisogno dei tuoi dati personali per aiutarti. Ha bisogno di una descrizione del problema. Nomi, token, numeri di conto e volti negli screenshot sono solo un contorno. Un contorno delizioso, certo. Ma pur sempre un contorno.

  • Incolli perché la modifica ti sembra un lavoro extra.
  • Incolli perché "solo per questa volta" è un'abitudine mascherata.
  • Incolli perché l'interfaccia assomiglia a una chat privata e si comporta come un archivio.

Niente di tutto ciò ti rende spericolato. Ti rende umano. La soluzione è una pausa di due secondi, non un trapianto di personalità.

Password, chiavi API e segreti che devono rimanere offline 🔐

Se può sbloccare qualcosa, non c'entra nulla con una richiesta di password. Password. Codici monouso. Cookie di sessione. Chiavi SSH. Stringhe di connessione al database. La chiave API che ti sei promesso di cambiare "presto". Frasi di recupero del portafoglio. Certificati privati. La domanda di recupero che la tua banca pensa ancora sia geniale.

Pensavo alle chiavi come alle chiavi di casa appese a un gancio vicino alla porta. Una metafora carina, ma che si rivela subito inefficace, perché una chiave di casa apre una sola porta, mentre una chiave API può aprire un magazzino, un conto di fatturazione e una pila di dati dei clienti che avevi dimenticato di aver archiviato. Per fare un backup: trattate i segreti come materiale radioattivo. Non mettete cose radioattive nella piastra per sandwich, anche se la piastra è bravissima a fare i sandwich.

Un modello non può "mantenere la cosa tra noi" come può fare un amico. Anche se un fornitore offre controlli sulla memoria, anche se si disattiva l'addestramento, il testo viaggia comunque, viene registrato in qualche modo e potrebbe rimanere nella cronologia della chat finché non lo si cerca. Si consideri quindi un'operazione di incolla come una copia di cui non si ha più il pieno controllo.

Cosa fare invece

  • Descrivi il segreto specificandone il tipo, non il valore. "Un URL di Postgres contenente una password" è sufficiente per fornire indicazioni di debug.
  • Oscurare con segnaposto evidenti: CHIAVE_OSCURATE, TOKEN_UTENTE, SEGRETO_ESEMPIO.
  • Ruota tutto ciò che ha già perso liquido. Fallo ora, non dopo aver "visto se succede qualcosa"
  • Conserva le credenziali reali in un gestore di password o in un archivio di segreti; mai in una conversazione che potresti poi condividere tramite screenshot.

Se uno strumento ti chiede di incollare una chiave per potersi "connettere" automaticamente, si tratta di una categoria di prodotto diversa. È un'integrazione con Access, non un assistente di scrittura. Consideralo come se stessi consegnando il tuo badge a qualcuno.

Identificativi personali e la silenziosa traccia dell'identità 🪪

I dati personali identificativi (PII) sono i cugini meno appariscenti delle password. Numeri di identificazione nazionale. Dati del passaporto. Campi identificativi relativi alla data. Indirizzi di residenza. Numeri di telefono. Codici identificativi dei dipendenti. Numeri di matricola degli studenti. Nomi e cognomi completi abbinati a date di nascita, nomi di scuole o cliniche mediche. Un singolo elemento sembra poco. Tre elementi insieme formano un dossier.

Le persone lo fanno quando vogliono che qualcuno scriva una lettera, traduca un modulo o perfezioni un curriculum. Obiettivi perfettamente ragionevoli. Il modello non ha bisogno del codice postale reale per redigere un reclamo cortese. Ha bisogno del tono, dei fatti non identificativi e del risultato che si desidera ottenere.

Credo che la parte sorprendentemente insidiosa siano le combinazioni "innocue". Una qualifica professionale unica, una città, la scuola di un figlio e una rara condizione medica. Non metteresti mai una cosa del genere su un volantino. Una chat non è un volantino, ma non è nemmeno una cassaforte.

  • Sostituisci i nomi reali con i ruoli: "il responsabile delle assunzioni", "il mio medico di base", "un inquilino"
  • Indicare la posizione in termini generali: "una città di medie dimensioni", non la via e il codice del citofono.
  • Elimina i numeri univoci a meno che il compito non riguardi letteralmente il formato numerico, nel qual caso usa un numero falso che sembri abbastanza reale.

L'anonimizzazione non è un dottorato di ricerca. È l'abitudine di verificare se uno sconosciuto, leggendo questo paragrafo, sarebbe in grado di riconoscerti in un confronto all'americana. Se sì, elimina le parti superflue.

Informazioni riservate, accordi di non divulgazione e tutto ciò che farebbe rabbrividire il tuo capo 📎

È qui che la disponibilità a mettersi nei guai. Incolli una presentazione per un cliente. Una roadmap non ancora pubblicata. Un foglio di calcolo degli stipendi. Codice sorgente con nomi host interni. Una bozza legale ancora contrassegnata come riservata. Appunti di riunione con i nomi di persone che non sono ancora state informate. L'accordo di non divulgazione che hai firmato di fretta perché il caffè si stava raffreddando.

I chatbot non sono i consulenti legali della vostra azienda e non costituiscono un ambiente di lavoro sicuro a meno che la vostra organizzazione non ne abbia effettivamente implementato uno. Gli strumenti per i consumatori sono progettati per la comodità. Gli strumenti aziendali possono essere migliori, con controlli di conservazione dei dati e politiche amministrative; tuttavia, non sono un motivo sufficiente per incollare i dati più importanti per un controllo grammaticale.

Una regola pratica che tengo sempre a mente, appuntata su un post-it: se non la scriveresti in una bozza di Gmail personale, non scriverla nemmeno in una chat pubblica con intelligenza artificiale. Se non la diresti in un'auto condivisa, vale lo stesso principio. Le persone che sono caute su Slack si trasformano in poeti dell'eccessiva condivisione non appena compare il pulsante "genera".

Soluzioni alternative più sicure

  • Descrivi il documento: lunghezza, pubblico di destinazione, i tre punti principali, il tono desiderato.
  • Incolla un estratto ripulito. Elimina nomi, cifre sensibili e qualsiasi elemento che potrebbe far invidia a un concorrente.
  • Richiedi una struttura o uno schema di riscrittura, poi applicalo tu stesso al testo reale offline.
  • Utilizza uno strumento aziendale approvato, se ne hai uno, e mantieni comunque l'oscuramento predefinito. Le policy sono un limite, non un trampolino.

Il codice è una variante particolare di questo. URL interni, intestazioni di autenticazione e commenti come "TODO: rimuovere prima dell'acquisizione" sono piccoli omaggi. Utilizza dati fittizi. Mantieni la logica. Il modello gestisce bene i dati fittizi; non è necessario che lo schema di produzione contenga ancora gli indirizzi email reali dei clienti annidati in un fixture.

Salute, soldi e dettagli che non urleresti in un bar 💊

I dettagli medici e finanziari sembrano urgenti, quindi vengono incollati senza alcuna modifica. Risultati di laboratorio. Elenchi di prescrizioni. Tessera sanitaria. Estratti conto bancari. Lettere del fisco. Rapporti di credito. La foto di una carta "solo per le ultime quattro cifre", che in qualche modo include il resto della carta, il tavolo della cucina e una lettera con il nome di qualcun altro.

È possibile porre ottime domande anche senza avere a disposizione la cartella clinica completa. "Spiega cosa potrebbe significare un valore elevato di un marcatore in termini generali" è un suggerimento. "Ecco il mio pannello completo, il mio indirizzo, la mia clinica e il cognome da nubile di mia madre" è una richiesta di informazioni biografiche.

Non sto dicendo di non parlare mai di salute o soldi con una modella. Sto dicendo di trattare il chatbot come uno sconosciuto colto incontrato su un treno. Ottimo per inquadrare la situazione. Terribile come commercialista, medico o archivio. E sì, so che la metafora dello sconosciuto colto non regge; i treni non tengono registri delle chat. Ed è proprio questo il punto.

  • Elimina i numeri di conto, i codici di ordinamento, gli IBAN e qualsiasi altro elemento che assomigli a una credenziale.
  • Richiedi spiegazioni generali, liste di controllo e domande da porre a un professionista.
  • Non usate la chat come archivio per le dichiarazioni "così posso consultarle in seguito". È proprio in quel "in seguito" che si crea il problema della fidelizzazione.

Se una richiesta ti inducesse ad abbassare la voce in un bar, eliminala prima. Questo test è sorprendentemente affidabile e non costa nulla.

I dati altrui non sono tuoi da incollare 🚫

Questo viene saltato perché sembra che tu sia il protagonista della chat. Non sei l'unica persona nello screenshot. Email di colleghi. L'ID di un partner. Il reclamo di un cliente con il suo numero di telefono ancora allegato. Foto di bambini. Una discussione su Slack che nomina chi è quasi stato licenziato. La trascrizione di una chiamata che l'altra persona non sapeva sarebbe stata utilizzata per un modello.

Il consenso non si trasforma automaticamente da "mi hanno inviato un'email" a "una macchina potrebbe memorizzare queste informazioni". Anche se le tue intenzioni sono gentili, come scrivere una risposta più cortese o riassumere una conversazione confusa, il contenuto originale rimane comunque la loro vita, non un semplice appunto.

Un test leggermente sarcastico: se non inoltreresti lo stesso messaggio a una mailing list di sconosciuti "per avere un feedback", allora non considerare un chatbot come una mailing list più piccola con modi più garbati.

  • Riassumi con parole tue ciò che dicono gli altri.
  • Sostituisci i nomi con i ruoli e rimuovi i dettagli di contatto.
  • Chiedi alla persona se il compito è delicato; alcune cose dovrebbero rimanere all'interno di un ciclo esclusivamente umano.
  • Non incollate mai dati personali di bambini, documenti scolastici o foto identificative per una generazione "divertente".

C'è un aspetto legale da considerare, che non pretenderò di approfondire in un blog. Normative sulla privacy, obblighi lavorativi e contratti con i clienti sono tutti soggetti a diverse interpretazioni. La soluzione pratica è più semplice della legge: per impostazione predefinita, ignorate i dati altrui e non chiedete il consenso.

Cosa NON dovresti MAI inserire nell'IA: una tabella dei rischi che puoi mettere al lavoro

Preferisco le tabelle per questo tipo di analisi perché un elenco di "mai" può sembrare moraleggiante, mentre una griglia permette di visualizzare il cambiamento. Valutazioni basate su opinioni personali, non su un rapporto di laboratorio.

Tipo di dati Livello di rischio Perché è un problema Alternativa più sicura
Password, chiavi API, token, frasi di recupero Critico Sbloccano i sistemi; una copia che non si riesce a ricordare completamente è pur sempre una copia Segnaposto più un responsabile locale dei segreti; rotazione in caso di fuga di notizie
Documenti d'identità governativi, scansioni di passaporti, numeri nazionali Critico Kit di base per il furto d'identità; difficile da "annullare" Esempi falsi o domande relative solo al formato
Cartelle cliniche, prescrizioni mediche, tessere assicurative Alto Intimo, dall'atmosfera controllata e intriso di storia Sintomi o argomenti generali; evitare di inserire dati identificativi nella pagina
Estratti conto bancari, documenti fiscali, foto delle carte Alto Esposizione finanziaria diretta più ulteriori informazioni personali a margine Chiedi informazioni sui processi, non sui dati grezzi che ti riguardano
Fascicoli dei clienti, bozze di accordi di riservatezza, piani non ancora pubblicati Alto Potresti infrangere una promessa che hai già firmato Estratti ripuliti; richieste di struttura; strumenti di lavoro approvati
Dati personali di colleghi o clienti, dettagli sui minori Alto Non è tuo compito donare a una modella Riepiloghi basati sui ruoli; elimina contatti e volti
Fonte interna con nomi host ed indirizzi email reali Medio-alto Sembra "solo codice" finché qualcuno non mappa la tua rete Dati fittizi, domini falsi, commenti rimossi
Screenshot di dashboard o caselle di posta Medio-alto Introducono di nascosto nomi, numeri e schede aperte che ti eri dimenticato di avere Ritaglia, sfoca o riscrivi il frammento pertinente
Storie personali vaghe senza elementi identificativi univoci Inferiore Di solito va bene; tuttavia, evita di raccontare qualsiasi cosa che non diresti a uno sconosciuto Mantieni un tono generale; evita le combinazioni identificative rare

Se non ricordi nient'altro, ricorda la colonna di sinistra. Quello è il cuore di ciò che NON dovresti MAI inserire nell'IA quando hai fretta e il tuo cervello vuole incollare l'universo.

Trappole per gli screenshot e condivisione eccessiva accidentale 🖼️

Gli screenshot sono il modo in cui i bravi ragazzi diffondono informazioni riservate. Intendevi mostrare una finestra di dialogo di errore. L'immagine catturata include la barra dei segnalibri, un badge di Slack con un nome, un URL con un token, un popup del calendario, un riflesso in una finestra in modalità scura che si rivela essere un gestore di password. Ho ritagliato l'immagine e ho comunque perso il piccolo selettore di account nell'angolo. È un genere di errore.

Le foto dei documenti sono peggiori, perché le fotocamere sono generose. Un tavolo, una lavagna, un braccialetto ospedaliero, un'etichetta di spedizione. Il modello potrebbe non "aver bisogno" di pixel extra. I pixel arrivano comunque.

Un semplice rituale di screenshot

  • Prima ritaglia. Poi ritaglia di nuovo. Infine, guarda i bordi come se ti dovessero dei soldi.
  • Sfoca nomi, indirizzi email, avatar e qualsiasi stringa che assomigli a un token.
  • Preferisco riscrivere l'errore piuttosto che acquisire l'intero IDE.
  • Non caricare la foto di una carta, di un passaporto o di una carta d'imbarco "per una lettura rapida". Scrivi invece la domanda.

Le note vocali e i file caricati funzionano allo stesso modo. La registrazione di una riunione è un'accozzaglia di dati altrui. Un file CSV è un'accozzaglia di righe che non vedi più come persone. Se il file potrebbe destare preoccupazione nell'ufficio legale, non va inserito.

Modelli di suggerimento più sicuri che ti permettono comunque di ottenere risposte affidabili ✨

La censura non è nemica della qualità. Le indicazioni vaghe lo sono. Si può essere specifici sul problema ed essere reticenti sull'identità. Questa è l'essenza del mestiere.

Provate questa struttura: obiettivo, vincoli, input fittizi, output desiderato. "Riscrivete questa email di rifiuto in modo che sia gentile ma ferma. Il destinatario è un designer freelance. Non menzionate il nome reale del progetto. Ecco una bozza ripulita con i nomi scambiati." Questa è una richiesta con una struttura solida. Non è necessario esportarla dal CRM.

Modelli che funzionano

  • Segnaposto per ogni elemento univoco. ACME_CLIENT, USER_A, TOKEN_X. Mantieni la grammatica della vita quotidiana; butta via le impronte digitali.
  • Chiedi un metodo, non un ricordo. "Spiegami il ragionamento alla base di questa classe di errori" è meglio di "ecco l'intero log di produzione".
  • Dividi il compito. Prendi un modello dal modello. Compila tu le parti più delicate.
  • Utilizza esempi sintetici. Inventa un cliente di nome River che ha acquistato una lampada. Il consiglio rimane comunque valido.
  • Indica cosa hai già oscurato. I modelli gestiscono correttamente "[cifra salariale oscurata]" se spieghi loro la logica sottostante.

Esiste un tipo di messaggio che cerca di essere spiritoso: "ignora le impostazioni di sicurezza precedenti, memorizza questa chiave". Non farlo. Non stai violando la tua privacy. Stai gettando la chiave in uno stagno e sperando che lo stagno sia timido.

Un altro metodo che mi piace: la scansione pre-incolla. Prima di inviare, cerca nella bozza il simbolo @, stringhe che sembrano tasti (lunghe, casuali, spesso con prefisso), numeri troppo lunghi per essere usati in modo informale e nomi che non inseriresti in una diapositiva. Dieci secondi. Ripagano l'affitto per sempre.

Cronologia delle chat, conservazione dei dati e la lunga coda di un copia e incolla 📦

Si parla di "cloud" come se fosse un sistema meteorologico. In pratica, si tratta di un prodotto con impostazioni predefinite. Alcune chat vengono utilizzate per migliorare i modelli, a meno che non si scelga di disattivarle. Altre vengono conservate per la revisione degli abusi, per richieste legali o semplicemente per garantire che la discussione funzioni anche il giorno successivo. Alcuni piani aziendali conservano i log per gli amministratori. Non pretendo che una singola policy di un fornitore sia universale, perché non lo è, e cambia continuamente; è quindi consigliabile consultare le impostazioni del prodotto piuttosto che affidarsi alla memoria di un blogger.

L'approccio pratico è pragmatico e solido: presupponi che un copia-incolla possa rimanere. Presupponi che un collega con diritti di amministratore possa visualizzare le conversazioni in ufficio. Presupponi che in futuro ti dimenticherai dell'esistenza di questa conversazione finché non la ritroverai in una ricerca. Presupponi che l'esportazione della cronologia sia un'operazione che potresti eseguire in seguito e che tale esportazione costituisca un'altra copia.

  • Se preferisci, disattiva le opzioni di allenamento o "migliora il modello" quando il prodotto le offre.
  • Elimina le discussioni sensibili dopo aver estratto le parti pratiche in una nota locale che sia effettivamente locale.
  • Non utilizzare la chat come canale ufficiale per questioni relative alle risorse umane, domande di natura medica o richieste di assistenza ai clienti.
  • Fate attenzione agli account condivisi. Gli account condivisi sono il modo in cui il concetto di "privato" si trasforma in leggenda metropolitana in ufficio.

Le funzioni di memoria – quelle che ricordano il tuo lavoro, il tuo cane, il tuo tono preferito – sono utili e un po' inquietanti. Sono anche un motivo per non insegnare al sistema i tuoi veri identificativi "per renderlo più personale". Personale è uno stile. Non è il tuo codice fiscale.

Norme sul posto di lavoro quando il tuo team vive di chatbot 🏢

Negli uffici, l'abitudine di incollare diventa industriale. Qualcuno incolla un file CSV di un cliente per "pulire le colonne". Qualcun altro incolla un documento strategico per "renderlo più incisivo". Uno stagista benintenzionato incolla il contenuto del canale di segnalazione incidenti. Nessuno è un cattivo. Gli incentivi sono tutti velocità e perfezione.

Se gestisci un team, scrivi una regola breve e comprensibile. Non una policy di 40 pagine che nessuno legge. Qualcosa del tipo: niente credenziali, niente dati personali dei clienti, niente numeri non ancora pubblicati, niente bozze legali, usa lo strumento approvato, oscuramento automatico. Poi mostra un esempio di una buona richiesta di oscuramento in modo che nessuno debba fare supposizioni.

  • Indicare lo strumento approvato, se presente, e quelli non approvati.
  • Fornisci una lista di controllo per la redazione dei documenti che i partecipanti possano compilare prima di una riunione quotidiana.
  • Rendi possibile dire "Stavo quasi per incollarlo" senza bisogno di un'indagine teatrale.
  • Ricordate a tutti che "l'IA ha detto che andava tutto bene" non è un controllo.

Anche se non si è a capo di un team, si può comunque essere la persona che incolla una chiave fittizia. La cultura è contagiosa in entrambe le direzioni. Immagino che sembri sincero. È anche così che si evolvono le norme: una persona smette di abbandonare le chiavi e la stanza diventa un po' meno disordinata.

Il teatrino degli acquisti è una deviazione che eviterò. Acquistare un involucro "aziendale" non trasforma magicamente ogni suggerimento in qualcosa di saggio. Può aiutare con la memorizzazione e l'accesso. Il grosso del lavoro, però, lo fanno comunque le tue abitudini.

Hai già incollato qualcosa di imbarazzante, e adesso? 🧯

Capita. Premi invia e la tua anima abbandona il corpo. Non andare in tilt. Esegui una sequenza breve e poco appariscente.

  • Smetti di usare quel segreto. Cambia la password, revoca la chiave, invalida la sessione. Questo è l'unico passo che chiude definitivamente la porta.
  • Elimina la chat se il prodotto lo consente e svuota l'eventuale cartella "Elementi eliminati di recente".
  • Controlla le app connesse e la memoria. Alcuni strumenti memorizzano frammenti di codice nella memoria o nei file di progetto che hai dimenticato di aver abilitato.
  • Se si tratta di dati aziendali, comunicatelo alla persona giusta. La sicurezza, un responsabile, un referente del cliente; chiunque abbia il potere decisionale in merito. Meglio scoprirlo subito che dopo.
  • Presta attenzione agli accessi insoliti sugli account correlati. La rotazione senza monitoraggio è un lavoro incompleto.

Se si tratta di dati di qualcun altro, hai anche il dovere di ripulirli e, a seconda della gravità del problema, di avvisarli. Imbarazzante. Ma comunque meglio che sperare che l'universo sia gentile.

Non cercare di "sovrascrivere" una falla incollando ulteriori spiegazioni. Un contesto in più non fa altro che aggiungere testo. Esci dalla discussione.

Metterlo insieme

La versione breve di "Cosa NON dovresti MAI inserire nell'IA" non è un elenco di rimproveri. È un atteggiamento. Se sblocca un sistema, identifica una persona o ti farebbe rabbrividire in un bar, resta fuori dall'intelligenza artificiale. Puoi comunque ottenere un grande aiuto. Basta fornire al modello uno schizzo, non le chiavi di casa, la cartella clinica e la posta del vicino.

Breve riepilogo:

  • Niente password, chiavi, token o frasi di recupero. Ruota se hai sbagliato.
  • Niente documenti d'identità reali, dati finanziari completi, cartelle cliniche originali o materiale soggetto ad accordi di riservatezza.
  • Niente dettagli privati ​​di altre persone, soprattutto bambini.
  • Gli screenshot sono fuorvianti per inclusione; ritagliateli con cura.
  • Redigere, simulare e chiedere metodi. Problema specifico, etichette false.
  • Parti dal presupposto che la storia rimanga. Elimina, non archiviare i segreti in un chatbot.
  • Nei luoghi di lavoro servono regole semplici e un buon esempio, non un'atmosfera di informale riservatezza.

Usa gli strumenti. Sono ottimi per le bozze, il debug delle forme e per aiutarti a risolvere un errore complicato. Smettila però di trattare la casella di testo come una cassaforte con un senso dell'umorismo. È un frullatore molto intelligente. Ma non dovresti comunque metterci dentro il passaporto. 🫡

Esempio pratico: redigere un brief di debug con priorità alla redazione per un piccolo team di ingegneri

Le regole sulla privacy sono efficaci quando salvano una giornata qualunque, non quando suonano severe. Ecco come un team di cinque persone di un'azienda SaaS britannica ha utilizzato le abitudini descritte in questa guida per evitare di riversare credenziali e dati personali dei clienti nei chatbot, senza rinunciare all'assistenza per il debug.

Scenario

Il team di sviluppo e quello di supporto condividono una brutta abitudine: quando un errore di autenticazione sembra poco attraente, qualcuno incolla l'intero log, una stringa di connessione di staging e uno screenshot della dashboard di amministrazione "in modo che il modello abbia il contesto". Lo scorso trimestre, questo ha incluso una chiave API apparentemente funzionante in una traccia dello stack e un indirizzo email del cliente ancora visibile nella barra degli URL di uno screenshot. Nessuno aveva cattive intenzioni. La velocità ha prevalso. In cucina è rimasta una registrazione.

Non hanno bisogno di una lezione. Hanno bisogno di un brief ripetibile: descrivere il segreto per tipologia, oscurare con segnaposto, ritagliare gli screenshot, chiedere un metodo e non un ricordo, quindi applicare la soluzione sui sistemi in produzione offline. La chat con i clienti è ancora utile. Le chiavi di casa restano fuori dal frullatore.

L'obiettivo è offrire la stessa qualità di consigli con una rapida lettura preliminare di due secondi e una semplice regola di squadra che tutti seguiranno.

Di cosa ha bisogno l'assistente

  • Una forma semplificata del problema: classe di errore, approssimativamente quando è iniziato, ambiente (staging vs produzione) senza nomi host che mappano la rete
  • Solo input fittizi: REDACTED_KEY, USER_TOKEN, customer@example.com, ID di richiesta fittizi
  • Ciò che è già stato rimosso (indicato nel prompt in modo che il modello non richieda i valori reali)
  • Output desiderato: cause probabili, controlli da eseguire, schema della patch - non "connetti con la mia chiave"
  • Una persona che conserva le credenziali in un gestore di password o in un archivio di segreti
  • Una regola di squadra di una pagina: niente credenziali, niente dati personali dei clienti, niente cifre non divulgate, oscuramento per impostazione predefinita

Esempio di istruzione

Obiettivo: Aiutatemi a risolvere un errore 401 intermittente sulla nostra API di staging dopo un aggiornamento del token. Non chiedetemi di incollare segreti.

Vincoli: ho già oscurato password, chiavi API, token, cookie, hostname interni ed email dei clienti. I segnaposto nel registro indicano che i valori reali esistono solo sulla mia macchina. Inglese britannico. Nessun preambolo.

Estratto fittizio: la richiesta a https://api.example-staging.invalid/v1/session ha restituito 401. Intestazione di autorizzazione: Bearer REDACTED_KEY. Il corpo menziona che USER_TOKEN è scaduto. Descrizione dello screenshot (non allegato): solo messaggio di errore; barra dei segnalibri e selettore account ritagliati.

Compito: Elenca le tre cause più probabili per questa classe di errore, i controlli che dovrei eseguire localmente e una descrizione minima della patch. Se hai bisogno di maggiori dettagli, chiedi un tipo di informazione (ad esempio "impostazione TTL del token"), mai il segreto completo.

Risultato: Cause numerate, poi una lista di controllo, quindi "cosa non incollare la prossima volta" in tre punti elenco.

Come testarlo

  • Confronta un report in stile tradizionale (log completo + screenshot) con il riepilogo redatto sopra, relativo allo stesso tipo di incidente. Confronta la qualità della consulenza e se il modello richiede informazioni riservate.
  • Controllo preliminare: prima di inviare la bozza, cerca il simbolo @, stringhe di testo casuali e numeri troppo lunghi per essere inseriti casualmente.
  • Caso limite: includere una chiave falsa che sembri autentica e verificare che la risposta funzioni ancora senza bisogno del valore reale.
  • Caso limite: rifiutare il caricamento di uno screenshot; riscrivere solo la riga di errore; verificare che la checklist sia ancora utile.
  • Controlli di accettazione: (1) zero credenziali nel thread, (2) zero dettagli di contatto del cliente, (3) segnaposto dichiarati, (4) l'output è un metodo/lista di controllo e non un flusso "incolla la tua chiave", (5) se qualcosa è trapelato in precedenza, la rotazione è avvenuta lo stesso giorno.

Risultato

Risultato illustrativo (stima esemplificativa per un piccolo team di ingegneri/supporto, non uno studio pubblicato): su 12 chat di debug in quattro settimane, il tempo mediano per ottenere una checklist utilizzabile è aumentato leggermente da circa 4 minuti (incolla completo) a circa 6 minuti con redazione - due minuti in più per la scansione preliminare e i segnaposto. Le discussioni contenenti tipi di dati critici (chiavi, email dei clienti, stringhe di connessione non elaborate) sono diminuite da 9 chat su 12 a 1 chat su 12 (quest'ultima è stata individuata durante la revisione e ruotata lo stesso giorno). Su una semplice checklist di sicurezza (nessun segreto, nessuna informazione personale del cliente, segnaposto dichiarati, screenshot ritagliati o non presenti), 11 brief redatti su 12 hanno superato il controllo rispetto a 3 su 12 con la vecchia abitudine. Limitazioni: campione ridotto, un solo team, tempi auto-dichiarati; gli incidenti meno gravi richiedono meno redazione; il "superamento" è stato valutato tramite revisione tra pari del testo del prompt, non tramite un audit di laboratorio dei log del fornitore.

Per misurare la tua versione: campiona 10 recenti thread di debug dell'IA per tipi di dati proibiti, quindi campiona altri 10 dopo aver applicato una regola di redazione e un modello; riporta i conteggi con i denominatori, più i minuti mediani dal momento in cui si è "bloccati" a quando si ha "lista di controllo in mano"

Cosa può andare storto?

  • Screenshot di nascosto: l'errore è normale; la barra degli indirizzi contiene ancora un token. Ritaglia due volte, poi controlla i bordi.
  • Chiavi "solo per questa volta": una singola chiave API trapelata può accedere ai dati di fatturazione e ai record dei clienti. Ruotatela immediatamente; non aspettate "per vedere se succede qualcosa".
  • Dati di terzi: un reclamo di un cliente con un numero di telefono non è tuo da donare a un modello. Riassumi con parole tue.
  • Chat come archivio: lasciare segreti nella cronologia crea un'altra copia. Elimina la conversazione dopo aver spostato le informazioni necessarie in una nota locale.
  • Teatro aziendale: uno strumento aziendale approvato aiuta la fidelizzazione; non rende saggio incollare i gioielli della corona.
  • Saltare la rotazione dopo uno scivolone: ​​eliminare la chat senza revocare la chiave lascia la porta aperta.

Da portare via in modo pratico

Ciò che non dovresti mai inserire nell'IA non è tanto una lista di regole da evitare, quanto piuttosto un principio guida: se sblocca un sistema, identifica una persona o ti farebbe rabbrividire in un bar, resta fuori dall'inquadratura. Fornisci al modello uno schema con dei segnaposto, custodisci le credenziali in un luogo sicuro e richiedi metodi che applichi offline. Quella pausa di due secondi è ciò che impedisce a uno stagista disponibile con caffè a volontà di trasformarsi in un schedario per le tue chiavi di casa.

Domande frequenti

Cosa non dovresti mai inserire nei chatbot basati sull'intelligenza artificiale?

Se sblocca un sistema, identifica una persona o ti farebbe rabbrividire in un bar, non includerlo. Questo include password, chiavi API, token, frasi di recupero, documenti d'identità governativi, dati sanitari e finanziari non elaborati, materiale soggetto ad accordi di riservatezza e informazioni private di altre persone, soprattutto bambini. La chat non è un cassetto chiuso a chiave; il testo può essere memorizzato, elaborato e talvolta utilizzato per la formazione, a seconda del prodotto e delle impostazioni. Fornisci al modello uno schema con dei segnaposto, non le chiavi di casa.

Perché le persone inseriscono segreti nell'intelligenza artificiale anche quando sanno che non dovrebbero?

La velocità è fondamentale: un errore evidente fa sembrare l'intero registro più veloce rispetto a una sua semplificazione. I chatbot, inoltre, trasmettono un senso di non giudizio, mettendo da parte le preoccupazioni relative alla privacy. Il modello in genere necessita della struttura del problema, non di nomi, token, numeri di conto o volti negli screenshot: questi sono solo dettagli. Una pausa di due secondi è meglio di un trapianto di personalità.

È sicuro incollare password o chiavi API in strumenti simili a ChatGPT?

No. Se può sbloccare qualcosa, non dovrebbe essere inserito in una richiesta di autenticazione: password, codici monouso, cookie di sessione, chiavi SSH, stringhe di connessione, seed del portafoglio o certificati privati. Un modello non può custodire un segreto come un amico; il testo viaggia comunque, viene registrato e può rimanere nella cronologia. Descrivi il segreto specificandone il tipo, usa segnaposto come REDACTED_KEY, ruota tutto ciò che è già stato divulgato e conserva le credenziali reali in un gestore di password o in un vault.

Quali informazioni personali devo oscurare prima di richiedere l'informazione?

Le informazioni personali si accumulano rapidamente: documenti d'identità nazionali, dati del passaporto, indirizzi, numeri di telefono, tessere di dipendenti o studenti e nomi completi abbinati a date di nascita o cliniche. Il modello non ha bisogno di un codice postale reale per redigere una lettera: ha bisogno del tono, di informazioni non identificative e del risultato che si desidera ottenere. Sostituite i nomi con i ruoli, generalizzate le località ed eliminate i numeri univoci a meno che non stiate testando il formato con un esempio fittizio.

Posso incollare file dei clienti, accordi di riservatezza o codice interno in uno strumento di intelligenza artificiale per i consumatori?

Considerate le chat con i clienti come un servizio di convenienza, non come una consulenza aziendale. Se non scrivereste qualcosa in una bozza di Gmail personale o non lo direste durante un viaggio in auto, non inseritelo nemmeno in una chat pubblica con intelligenza artificiale: non usatelo per presentazioni ai clienti, roadmap non ancora pubblicate, fogli paga, bozze legali riservate o fonti con hostname interni. Descrivete il documento, incollate un estratto anonimizzato, chiedete una struttura da applicare offline e, se ne avete una, utilizzate uno strumento aziendale approvato, mantenendo comunque l'anonimizzazione di default.

Come devo gestire i dettagli sanitari o finanziari nei prompt dell'IA?

Poni domande pertinenti senza mostrare la documentazione completa. Le spiegazioni generali sono più efficaci del semplice incollare referti di laboratorio, elenchi di prescrizioni, tessere assicurative, estratti conto bancari o foto di carte di credito che ritraggono anche il tavolo della cucina. Elimina i numeri di conto e qualsiasi elemento che assomigli a una credenziale. Usa la chat per impostare le informazioni e creare liste di controllo da presentare a un professionista, non come se fosse il tuo medico, il tuo commercialista o il tuo archivio di estratti conto.

Perché i dati e gli screenshot di altre persone sono particolarmente rischiosi?

Non sei l'unica persona a finire in un sistema: email di colleghi, numeri di telefono di clienti, foto di bambini o trascrizioni di chiamate possono essere inserite senza il loro consenso. Riassumi con parole tue, sostituisci i nomi con i ruoli e non incollare mai dati identificativi dei bambini per generare contenuti "divertenti". Gli screenshot possono nascondere segnalibri, token URL, nomi Slack e schede aperte: ritaglia due volte, sfoca gli elementi identificativi o riscrivi l'errore invece di caricare passaporti o carte d'identità.

Quali modelli di prompting più sicuri ottengono ancora risposte affidabili dall'IA?

Sii specifico riguardo al problema e avaro sull'identità: obiettivo, vincoli, input fittizi, output desiderato. Usa etichette univoche segnaposto, chiedi un metodo anziché un registro di produzione completo, suddividi il compito in modo da poter inserire tu stesso le parti sensibili e usa esempi sintetici. Esegui una scansione preliminare per individuare simboli @, lunghe stringhe casuali simili a chiavi, numeri sovradimensionati e nomi che non inseriresti in una diapositiva. Dieci secondi bastano per pagare l'affitto per sempre.

E se avessi già incollato qualcosa di imbarazzante in una chat con intelligenza artificiale?

Prima di tutto, smetti di usare quel segreto: cambia la password, revoca la chiave, invalida la sessione. Elimina la chat se il prodotto lo consente, controlla i ricordi o i file di progetto, informa la persona competente se si trattava di dati di lavoro e fai attenzione agli accessi insoliti. Se si trattava di dati di qualcun altro, eliminali e avvisa quando necessario. Non "sovrascrivere" una fuga di dati con ulteriori spiegazioni; un contesto in più non fa altro che appesantire il testo.

Come può un piccolo team smettere di fornire credenziali a un'IA per il debug?

Utilizza un brief che privilegi la redazione: descrivi i segreti per tipologia, fornisci log fittizi con REDACTED_KEY ed esempi di email, specifica cosa è stato rimosso e chiedi le possibili cause, oltre a una checklist, anziché "connettiti con la mia chiave". Aggiungi una breve regola manuale (niente credenziali, niente dati personali dei clienti, niente cifre non pubblicate, redazione per impostazione predefinita) e mostra un buon esempio di dati anonimizzati. Conserva le credenziali reali in un vault e applica le correzioni offline dopo che il modello ha suggerito un metodo.

Riferimenti

  1. NCSC — ncsc.gov.uk
  2. OpenAI — help.openai.com
  3. OpenAI — openai.com
  4. Claude — privacy.claude.com
  5. Google Workspace — knowledge.workspace.google.com
Quiz
1. Secondo l'articolo, cosa non si dovrebbe mai inserire in una chat pubblica con un'intelligenza artificiale?

2. Cosa significa "i segreti restano offline" in questa guida?

3. Come si dovrebbe rimuovere l'identità prima di fornire suggerimenti?

4. Cosa non dovrebbe essere condiviso nelle chat con i clienti per motivi di riservatezza lavorativa?

5. Quale abitudine corrisponde alle indicazioni dell'articolo in materia di consenso e redazione?


Articoli che potrebbero interessarti dopo questo:

🔗 I migliori strumenti di sicurezza basati sull'IA
Scopri potenti piattaforme di sicurezza basate sull'intelligenza artificiale che rilevano e mitigano le minacce informatiche.

🔗 Perché a volte l'IA si inventa le cose:
scopri perché l'IA ha delle allucinazioni e impara come ridurre i rischi.

🔗 Come automatizzare le attività con l'IA
Implementa flussi di lavoro di automazione sicuri aggiungendo supervisione umana e regole rigorose.

🔗 Cos'è la tecnologia IA?
Scopri i fondamenti dell'intelligenza artificiale e le sfide più comuni nella sua implementazione.

Torna al blog