Come può essere utilizzata l'intelligenza artificiale generativa nella sicurezza informatica?

Introduzione

L'intelligenza artificiale generativa – sistemi di intelligenza artificiale in grado di creare nuovi contenuti o fare previsioni – si sta affermando come una forza trasformativa nel campo della sicurezza informatica. Strumenti come GPT-4 di OpenAI hanno dimostrato la capacità di analizzare dati complessi e generare testi simili a quelli umani, consentendo nuovi approcci per difendersi dalle minacce informatiche. Professionisti della sicurezza informatica e responsabili aziendali di tutti i settori stanno esplorando come l'intelligenza artificiale generativa possa rafforzare le difese contro gli attacchi in continua evoluzione. Dalla finanza alla sanità, dal commercio al dettaglio alla pubblica amministrazione, le organizzazioni di ogni settore si trovano ad affrontare sofisticati tentativi di phishing, malware e altre minacce che l'intelligenza artificiale generativa potrebbe contribuire a contrastare. In questo white paper, esaminiamo come l'intelligenza artificiale generativa può essere utilizzata nella sicurezza informatica, evidenziando applicazioni concrete, possibilità future e considerazioni importanti per la sua adozione.

L'intelligenza artificiale generativa si differenzia dall'IA analitica tradizionale non solo per la capacità di rilevare modelli, ma anche per quella di creare contenuti, simulando attacchi per addestrare i sistemi di difesa o producendo spiegazioni in linguaggio naturale per dati di sicurezza complessi. Questa duplice capacità la rende un'arma a doppio taglio: offre nuovi e potenti strumenti di difesa, ma può anche essere sfruttata da malintenzionati. Le sezioni seguenti esplorano un'ampia gamma di casi d'uso dell'IA generativa nella sicurezza informatica, dall'automazione del rilevamento del phishing al miglioramento della risposta agli incidenti. Analizziamo inoltre i vantaggi promessi da queste innovazioni basate sull'IA, nonché i rischi (come le "allucinazioni" dell'IA o l'uso improprio da parte di avversari) che le organizzazioni devono gestire. Infine, forniamo spunti pratici per aiutare le aziende a valutare e integrare responsabilmente l'IA generativa nelle proprie strategie di sicurezza informatica.

Intelligenza artificiale generativa nella sicurezza informatica: una panoramica

L'intelligenza artificiale generativa nella sicurezza informatica si riferisce a modelli di IA – spesso modelli linguistici complessi o altre reti neurali – in grado di generare insight, raccomandazioni, codice o persino dati sintetici per supportare le attività di sicurezza. A differenza dei modelli puramente predittivi, l'IA generativa può simulare scenari e produrre output comprensibili all'uomo (ad esempio report, avvisi o persino esempi di codice dannoso) basandosi sui dati di addestramento. Questa capacità viene sfruttata per prevedere, rilevare e rispondere alle minacce in modo più dinamico rispetto al passato (Che cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks). Ad esempio, i modelli generativi possono analizzare enormi quantità di log o repository di threat intelligence e produrre un riepilogo conciso o un'azione consigliata, fungendo quasi da "assistente" IA per i team di sicurezza.

Le prime implementazioni dell'IA generativa per la difesa informatica si sono dimostrate promettenti. Nel 2023, Microsoft ha introdotto Security Copilot, un assistente basato su GPT-4 per gli analisti della sicurezza, per aiutare a identificare le violazioni e vagliare i 65 trilioni di segnali che Microsoft elabora quotidianamente (Microsoft Security Copilot è un nuovo assistente AI basato su GPT-4 per la sicurezza informatica | The Verge). Gli analisti possono interagire con il sistema tramite linguaggio naturale (ad esempio, "Riassumi tutti gli incidenti di sicurezza delle ultime 24 ore") e Copilot produrrà un utile riepilogo narrativo. Allo stesso modo, l'IA Threat Intelligence utilizza un modello generativo chiamato Gemini per consentire la ricerca conversazionale all'interno del vasto database di intelligence sulle minacce di Google, analizzando rapidamente il codice sospetto e riassumendo i risultati per aiutare i cacciatori di malware (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Questi esempi illustrano il potenziale: l'IA generativa può elaborare dati complessi e su larga scala relativi alla sicurezza informatica e presentare informazioni in una forma accessibile, accelerando il processo decisionale.

Allo stesso tempo, l'IA generativa può creare contenuti falsi estremamente realistici, il che rappresenta un vantaggio per la simulazione e la formazione (e, purtroppo, per gli hacker che si dedicano all'ingegneria sociale). Analizzando casi d'uso specifici, vedremo come la capacità dell'IA generativa di sintetizzare e analizzare le informazioni sia alla base delle sue numerose applicazioni nella sicurezza informatica. Di seguito, esamineremo alcuni casi d'uso chiave, che spaziano dalla prevenzione del phishing allo sviluppo di software sicuro, con esempi di come ciascuno di essi viene applicato in diversi settori.

Principali applicazioni dell'intelligenza artificiale generativa nella sicurezza informatica

Figura: I principali casi d'uso dell'intelligenza artificiale generativa nella sicurezza informatica includono copiloti di intelligenza artificiale per i team di sicurezza, analisi delle vulnerabilità del codice, rilevamento adattivo delle minacce, simulazione di attacchi zero-day, sicurezza biometrica avanzata e rilevamento del phishing (6 casi d'uso dell'intelligenza artificiale generativa nella sicurezza informatica [+ esempi] ).

Rilevamento e prevenzione del phishing

Il phishing rimane una delle minacce informatiche più diffuse, inducendo gli utenti a cliccare su link dannosi o a divulgare le proprie credenziali. L'intelligenza artificiale generativa viene utilizzata sia per rilevare i tentativi di phishing sia per migliorare la formazione degli utenti e prevenire attacchi andati a buon fine. Sul fronte della difesa, i modelli di IA possono analizzare il contenuto delle email e il comportamento del mittente per individuare segnali sottili di phishing che i filtri basati su regole potrebbero non rilevare. Apprendendo da grandi set di dati di email legittime e fraudolente, un modello generativo può segnalare anomalie nel tono, nella formulazione o nel contesto che indicano una truffa, anche quando la grammatica e l'ortografia non sono più sufficienti a smascherarla. Infatti, i ricercatori di Palo Alto Networks sottolineano che l'IA generativa può identificare "sottili segnali di email di phishing che altrimenti potrebbero passare inosservati", aiutando le organizzazioni a essere sempre un passo avanti rispetto ai truffatori (What Is Generative AI in Cybersecurity? - Palo Alto Networks).

I team di sicurezza utilizzano l'IA generativa anche per simulare attacchi di phishing a scopo di formazione e analisi. Ad esempio, Ironscales ha introdotto uno strumento di simulazione di phishing basato su GPT che genera automaticamente email di phishing false personalizzate per i dipendenti di un'organizzazione (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Queste email create dall'IA riflettono le più recenti tattiche degli aggressori, offrendo al personale una pratica realistica nell'individuazione di contenuti di phishing. Tale formazione personalizzata è fondamentale, poiché gli stessi aggressori adottano l'IA per creare esche più convincenti. In particolare, sebbene l'IA generativa possa produrre messaggi di phishing molto curati (sono finiti i tempi degli errori grammaticali facilmente individuabili), i difensori hanno scoperto che l'IA non è infallibile. Nel 2024, i ricercatori di IBM Security hanno condotto un esperimento confrontando email di phishing scritte da esseri umani con quelle generate dall'IA e, "sorprendentemente, le email generate dall'IA erano ancora facili da rilevare nonostante la grammatica corretta" (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Ciò suggerisce che l'intuizione umana, combinata con il rilevamento assistito dall'IA, può ancora individuare sottili incongruenze o segnali nei metadati delle truffe create dall'IA.

L'intelligenza artificiale generativa contribuisce alla difesa dal phishing anche in altri modi. I modelli possono essere utilizzati per generare risposte automatiche o filtri che testano le email sospette. Ad esempio, un sistema di intelligenza artificiale potrebbe rispondere a un'email con determinate domande per verificare la legittimità del mittente o utilizzare un modello LLM per analizzare i link e gli allegati di un'email in un ambiente di test, per poi riassumere eventuali intenti malevoli. La piattaforma di sicurezza Morpheus dimostra la potenza dell'IA in questo ambito: utilizza modelli NLP generativi per analizzare e classificare rapidamente le email, e si è riscontrato che migliora il rilevamento delle email di spear-phishing del 21% rispetto agli strumenti di sicurezza tradizionali (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Morpheus profila persino i modelli di comunicazione degli utenti per rilevare comportamenti insoliti (come un utente che improvvisamente invia email a molti indirizzi esterni), il che può indicare un account compromesso che invia email di phishing.

Nella pratica, le aziende di tutti i settori stanno iniziando ad affidarsi all'intelligenza artificiale per filtrare e-mail e traffico web dagli attacchi di ingegneria sociale. Le società finanziarie, ad esempio, utilizzano l'intelligenza artificiale generativa per analizzare le comunicazioni alla ricerca di tentativi di impersonificazione che potrebbero portare a frodi telematiche, mentre gli operatori sanitari utilizzano l'intelligenza artificiale per proteggere i dati dei pazienti dalle violazioni legate al phishing. Generando scenari di phishing realistici e identificando i tratti distintivi dei messaggi dannosi, l'intelligenza artificiale generativa aggiunge un potente livello alle strategie di prevenzione del phishing. La conclusione: l'intelligenza artificiale può aiutare a rilevare e disarmare gli attacchi di phishing in modo più rapido e accurato, anche quando gli aggressori utilizzano la stessa tecnologia per migliorare le proprie strategie.

Rilevamento malware e analisi delle minacce

Il malware moderno è in continua evoluzione: gli aggressori generano nuove varianti o offuscano il codice per eludere le firme antivirus. L'intelligenza artificiale generativa offre tecniche innovative sia per rilevare il malware che per comprenderne il comportamento. Un approccio consiste nell'utilizzare l'IA per generare "gemelli malvagi" del malware: i ricercatori di sicurezza possono inserire un campione di malware noto in un modello generativo per creare numerose varianti mutate di quel malware. In questo modo, anticipano efficacemente le modifiche che un aggressore potrebbe apportare. Queste varianti generate dall'IA possono quindi essere utilizzate per addestrare i sistemi antivirus e di rilevamento delle intrusioni, in modo che anche le versioni modificate del malware vengano riconosciute in circolazione (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Questa strategia proattiva aiuta a interrompere il ciclo in cui gli hacker modificano leggermente il loro malware per eludere il rilevamento e i difensori devono affrettarsi a scrivere nuove firme ogni volta. Come notato in un podcast di settore, gli esperti di sicurezza ora utilizzano l'IA generativa per "simulare il traffico di rete e generare payload dannosi che imitano attacchi sofisticati", mettendo alla prova le proprie difese contro un'intera famiglia di minacce anziché contro una singola istanza. Questo rilevamento adattivo delle minacce rende gli strumenti di sicurezza più resistenti ai malware polimorfici che altrimenti riuscirebbero a eludere i controlli.

Oltre al rilevamento, l'IA generativa supporta l'analisi del malware e il reverse engineering, attività che tradizionalmente richiedono un grande impegno da parte degli analisti delle minacce. Modelli linguistici complessi possono essere incaricati di esaminare codice o script sospetti e di spiegarne in linguaggio naturale lo scopo. Un esempio concreto è VirusTotal Code Insight, una funzionalità di VirusTotal di Google che sfrutta un modello di IA generativa (Sec-PaLM di Google) per produrre riassunti in linguaggio naturale di codice potenzialmente dannoso (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Si tratta essenzialmente di "un tipo di ChatGPT dedicato alla programmazione per la sicurezza", che funge da analista di malware basato sull'IA e lavora 24 ore su 24, 7 giorni su 7, per aiutare gli analisti umani a comprendere le minacce (6 casi d'uso dell'IA generativa nella sicurezza informatica [+ esempi] ). Anziché dover analizzare script o codice binario sconosciuti, un membro del team di sicurezza può ottenere una spiegazione immediata dall'IA, ad esempio: "Questo script tenta di scaricare un file dal server XYZ e quindi di modificare le impostazioni di sistema, il che è indicativo di un comportamento da malware". Ciò accelera notevolmente la risposta agli incidenti, poiché gli analisti possono valutare e comprendere i nuovi malware più rapidamente che mai.

L'intelligenza artificiale generativa viene utilizzata anche per individuare malware in enormi set di dati. I motori antivirus tradizionali analizzano i file alla ricerca di firme note, ma un modello generativo può valutare le caratteristiche di un file e persino prevedere se è dannoso in base a modelli appresi. Analizzando gli attributi di miliardi di file (dannosi e benigni), un'IA potrebbe individuare intenti malevoli anche in assenza di una firma esplicita. Ad esempio, un modello generativo potrebbe segnalare un eseguibile come sospetto perché il suo profilo comportamentale "assomiglia" a una leggera variante di ransomware vista durante l'addestramento, anche se il binario è nuovo. Questo rilevamento basato sul comportamento aiuta a contrastare malware nuovi o zero-day. L'IA Threat Intelligence di Google (parte di Chronicle/Mandiant) utilizza, a quanto pare, il suo modello generativo per analizzare codice potenzialmente dannoso e "assistere in modo più efficiente ed efficace i professionisti della sicurezza nella lotta contro malware e altri tipi di minacce" (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti).

D'altro canto, dobbiamo riconoscere che anche in questo caso gli aggressori possono utilizzare l'IA generativa, per creare automaticamente malware in grado di adattarsi. Gli esperti di sicurezza avvertono infatti che l'IA generativa può aiutare i criminali informatici a sviluppare malware più difficili da rilevare (What Is Generative AI in Cybersecurity? - Palo Alto Networks). Un modello di IA può essere istruito a modificare ripetutamente un malware (cambiandone la struttura dei file, i metodi di crittografia, ecc.) fino a eludere tutti i controlli antivirus noti. Questo utilizzo malevolo è una preoccupazione crescente (a volte definito "malware basato sull'IA" o malware polimorfico come servizio). Approfondiremo questi rischi in seguito, ma ciò sottolinea come l'IA generativa sia uno strumento in questo gioco del gatto e del topo, utilizzato sia dai difensori che dagli aggressori.

Nel complesso, l'intelligenza artificiale generativa migliora la difesa contro i malware, consentendo ai team di sicurezza di pensare come un attaccante , generando internamente nuove minacce e soluzioni. Che si tratti di produrre malware sintetici per migliorare i tassi di rilevamento o di utilizzare l'IA per spiegare e contenere malware reali presenti nelle reti, queste tecniche sono applicabili a diversi settori. Una banca potrebbe utilizzare l'analisi del malware basata sull'IA per analizzare rapidamente una macro sospetta in un foglio di calcolo, mentre un'azienda manifatturiera potrebbe affidarsi all'IA per rilevare malware che prendono di mira i sistemi di controllo industriale. Integrando l'analisi tradizionale del malware con l'intelligenza artificiale generativa, le organizzazioni possono rispondere alle campagne malware in modo più rapido e proattivo rispetto al passato.

Threat Intelligence e analisi automatizzata

Ogni giorno, le organizzazioni vengono sommerse da dati di intelligence sulle minacce, dai feed di indicatori di compromissione (IOC) appena scoperti ai report degli analisti sulle tattiche emergenti degli hacker. La sfida per i team di sicurezza è quella di setacciare questa valanga di informazioni ed estrarne spunti concreti. L'intelligenza artificiale generativa si sta dimostrando preziosa nell'automatizzare l'analisi e l'utilizzo dell'intelligence sulle minacce. Invece di leggere manualmente decine di report o voci di database, gli analisti possono utilizzare l'IA per riassumere e contestualizzare l'intelligence sulle minacce alla velocità della macchina.

Un esempio concreto è la suite Threat Intelligence di Google , che integra l'intelligenza artificiale generativa (il modello Gemini) con le vaste raccolte di dati sulle minacce di Google provenienti da Mandiant e VirusTotal. Questa IA offre una "ricerca conversazionale nell'ampio archivio di informazioni sulle minacce di Google" , consentendo agli utenti di porre domande naturali sulle minacce e ottenere risposte concise ( Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti ). Ad esempio, un analista potrebbe chiedere: "Abbiamo riscontrato malware correlati al gruppo di minacce X che prendono di mira il nostro settore?" e l'IA recupererà informazioni pertinenti, magari segnalando "Sì, il gruppo di minacce X è stato collegato a una campagna di phishing il mese scorso utilizzando il malware Y" , insieme a un riepilogo del comportamento di tale malware. Questo riduce drasticamente il tempo necessario per raccogliere informazioni che altrimenti richiederebbero l'interrogazione di più strumenti o la lettura di lunghi report.

L'intelligenza artificiale generativa può anche correlare e riassumere le tendenze delle minacce. Potrebbe analizzare migliaia di post di blog sulla sicurezza, notizie sulle violazioni e discussioni sul dark web, per poi generare un riepilogo delle "principali minacce informatiche di questa settimana" da presentare a un CISO. Tradizionalmente, questo livello di analisi e reporting richiedeva un notevole sforzo umano; ora un modello ben ottimizzato può redigerlo in pochi secondi, con gli esseri umani che si limitano a perfezionare l'output. Aziende come ZeroFox hanno sviluppato FoxGPT, uno strumento di intelligenza artificiale generativa specificamente progettato per "accelerare l'analisi e la sintesi di informazioni su grandi set di dati", inclusi contenuti dannosi e dati di phishing (Come può essere utilizzata l'intelligenza artificiale generativa nella sicurezza informatica? 10 esempi concreti). Automatizzando il lavoro gravoso di lettura e confronto incrociato dei dati, l'IA consente ai team di intelligence sulle minacce di concentrarsi sul processo decisionale e sulla risposta.

Un altro caso d'uso è la ricerca di minacce tramite conversazione. Immaginate un analista della sicurezza che interagisce con un assistente IA: "Mostrami eventuali segni di esfiltrazione di dati nelle ultime 48 ore" oppure "Quali sono le principali nuove vulnerabilità che gli aggressori stanno sfruttando questa settimana?". L'IA può interpretare la query, cercare nei log interni o in fonti di intelligence esterne e rispondere con una risposta chiara o persino con un elenco di incidenti pertinenti. Non si tratta di un'ipotesi azzardata: i moderni sistemi SIEM (Security Information and Event Management) stanno iniziando a integrare l'interrogazione in linguaggio naturale. La suite di sicurezza QRadar di IBM, ad esempio, aggiungerà funzionalità di IA generativa nel 2024 per consentire agli analisti di "porre [...] domande specifiche sul percorso di attacco riassuntivo" di un incidente e ottenere risposte dettagliate. Può anche "interpretare e riassumere automaticamente informazioni di intelligence sulle minacce altamente rilevanti" (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi reali). In sostanza, l'IA generativa trasforma enormi quantità di dati tecnici in informazioni utili e fruibili tramite chat, su richiesta.

Questo ha importanti implicazioni in tutti i settori. Un fornitore di servizi sanitari può utilizzare l'IA per rimanere aggiornato sui più recenti gruppi di ransomware che prendono di mira gli ospedali, senza dover dedicare un analista a tempo pieno alla ricerca. Il SOC di un'azienda di vendita al dettaglio può riassumere rapidamente le nuove tattiche dei malware per i punti vendita quando informa il personale IT del negozio. E nel settore pubblico, dove i dati sulle minacce provenienti da diverse agenzie devono essere sintetizzati, l'IA può produrre report unificati che evidenziano gli avvisi chiave. Automatizzando la raccolta e l'interpretazione delle informazioni sulle minacce, l'IA generativa aiuta le organizzazioni a reagire più rapidamente alle minacce emergenti e riduce il rischio di perdere avvisi critici nascosti nel rumore di fondo.

Ottimizzazione del Security Operations Center (SOC)

I Security Operations Center sono noti per la loro eccessiva gestione degli avvisi e per l'enorme quantità di dati che li caratterizza. Un tipico analista SOC potrebbe dover analizzare migliaia di avvisi ed eventi ogni giorno, indagando su potenziali incidenti. L'intelligenza artificiale generativa agisce come un moltiplicatore di forza nei SOC automatizzando il lavoro di routine, fornendo riepiloghi intelligenti e persino orchestrando alcune risposte. L'obiettivo è ottimizzare i flussi di lavoro dei SOC in modo che gli analisti umani possano concentrarsi sui problemi più critici mentre il copilota dell'intelligenza artificiale si occupa del resto.

Una delle principali applicazioni è l'utilizzo dell'IA generativa come "copilota dell'analista". Microsoft Security Copilot, menzionato in precedenza, ne è un esempio: "è progettato per assistere il lavoro di un analista della sicurezza, non per sostituirlo", aiutando nelle indagini sugli incidenti e nella creazione di report (Microsoft Security Copilot è un nuovo assistente AI GPT-4 per la sicurezza informatica | The Verge). In pratica, ciò significa che un analista può inserire dati grezzi – log del firewall, una cronologia degli eventi o la descrizione di un incidente – e chiedere all'IA di analizzarli o riassumerli. Il copilota potrebbe produrre una narrazione come: "Sembra che alle 2:35 del mattino, un accesso sospetto dall'IP X sia andato a buon fine sul server Y, seguito da trasferimenti di dati insoliti, indicando una potenziale violazione di quel server". Questo tipo di contestualizzazione immediata è preziosa quando il tempo è un fattore critico.

I copiloti basati sull'IA contribuiscono anche a ridurre il carico di lavoro di triage di primo livello. Secondo i dati del settore, un team di sicurezza può impiegare fino a 15 ore a settimana solo per analizzare circa 22.000 avvisi e falsi positivi (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Con l'IA generativa, molti di questi avvisi possono essere gestiti automaticamente: l'IA può scartare quelli chiaramente innocui (con relativa motivazione) ed evidenziare quelli che necessitano realmente di attenzione, a volte persino suggerendone la priorità. Infatti, la capacità dell'IA generativa di comprendere il contesto le consente di correlare avvisi che potrebbero sembrare innocui singolarmente, ma che insieme indicano un attacco a più fasi. Ciò riduce la probabilità di non rilevare un attacco a causa della "fatica da avvisi".

Gli analisti SOC utilizzano anche il linguaggio naturale con l'intelligenza artificiale per velocizzare la ricerca e le indagini. Purple AI , ad esempio, combina un'interfaccia basata su LLM con dati di sicurezza in tempo reale, consentendo agli analisti di "porre domande complesse sulla ricerca di minacce in un linguaggio semplice e ottenere risposte rapide e accurate" (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Un analista potrebbe digitare: "Qualche endpoint ha comunicato con il dominio badguy123[.]com nell'ultimo mese?", e Purple AI cercherà nei log per rispondere. Questo evita all'analista di dover scrivere query o script di database: l'IA lo fa automaticamente. Significa anche che gli analisti junior possono gestire attività che in precedenza richiedevano un ingegnere esperto in linguaggi di query, migliorando di fatto le competenze del team grazie all'assistenza dell'IA. In effetti, gli analisti riferiscono che la guida generativa dell'IA "potenzia le loro competenze e la loro professionalità", poiché il personale junior può ora ottenere supporto di programmazione o suggerimenti di analisi su richiesta dall'IA, riducendo la dipendenza dal chiedere sempre aiuto ai membri senior del team (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ).

Un'altra ottimizzazione del SOC è la sintesi e la documentazione automatizzata degli incidenti. Dopo la gestione di un incidente, qualcuno deve redigere il rapporto, un'attività che molti trovano tediosa. L'intelligenza artificiale generativa può elaborare i dati forensi (log di sistema, analisi del malware, cronologia delle azioni) e generare una prima bozza del rapporto sull'incidente. IBM sta integrando questa funzionalità in QRadar in modo che con "un solo clic" sia possibile produrre un riepilogo dell'incidente per i diversi stakeholder (dirigenti, team IT, ecc.) (Come può essere utilizzata l'intelligenza artificiale generativa nella sicurezza informatica? 10 esempi reali). Questo non solo fa risparmiare tempo, ma garantisce anche che nulla venga trascurato nel rapporto, poiché l'IA può includere tutti i dettagli rilevanti in modo coerente. Allo stesso modo, per la conformità e l'audit, l'IA può compilare moduli o tabelle di prove sulla base dei dati dell'incidente.

I risultati concreti sono convincenti. I primi ad adottare la soluzione SOAR (orchestrazione, automazione e risposta alla sicurezza) basata sull'IA di Swimlane segnalano enormi aumenti di produttività: Global Data Systems, ad esempio, ha visto il proprio team SecOps gestire un carico di lavoro molto più elevato; un direttore ha affermato che "ciò che faccio oggi con 7 analisti probabilmente richiederebbe 20 persone senza" l'automazione basata sull'IA (Come può l'IA generativa essere utilizzata nella sicurezza informatica). In altre parole, l'IA nel SOC può moltiplicare la capacità. In tutti i settori, che si tratti di un'azienda tecnologica che gestisce avvisi di sicurezza cloud o di un impianto di produzione che monitora i sistemi OT, i team SOC possono ottenere un rilevamento e una risposta più rapidi, un minor numero di incidenti non rilevati e operazioni più efficienti adottando assistenti basati sull'IA generativa. Si tratta di lavorare in modo più intelligente, consentendo alle macchine di gestire le attività ripetitive e ad alta intensità di dati, in modo che gli esseri umani possano applicare la propria intuizione e competenza dove conta di più.

Gestione delle vulnerabilità e simulazione delle minacce

L'identificazione e la gestione delle vulnerabilità – ovvero i punti deboli di software o sistemi che gli aggressori potrebbero sfruttare – è una funzione fondamentale della sicurezza informatica. L'intelligenza artificiale generativa sta migliorando la gestione delle vulnerabilità accelerandone l'individuazione, facilitando la definizione delle priorità per le patch e persino simulando attacchi su tali vulnerabilità per migliorare la preparazione. In sostanza, l'IA aiuta le organizzazioni a individuare e correggere più rapidamente le falle nelle proprie difese e a testarle proattivamente prima che lo facciano i veri aggressori

Un'applicazione significativa è l'utilizzo dell'IA generativa per la revisione automatizzata del codice e l'individuazione delle vulnerabilità. Le grandi basi di codice (soprattutto i sistemi legacy) spesso ospitano falle di sicurezza che passano inosservate. I modelli di IA generativa possono essere addestrati su pratiche di programmazione sicura e schemi di bug comuni, per poi essere applicati al codice sorgente o ai binari compilati al fine di individuare potenziali vulnerabilità. Ad esempio, i ricercatori di NVIDIA hanno sviluppato una pipeline di IA generativa in grado di analizzare i container di software legacy e identificare le vulnerabilità "con elevata precisione, fino a 4 volte più velocemente degli esperti umani" (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). L'IA ha essenzialmente imparato a riconoscere il codice non sicuro ed è stata in grado di analizzare software vecchi di decenni per segnalare funzioni e librerie a rischio, accelerando notevolmente il processo, normalmente lento, di verifica manuale del codice. Questo tipo di strumento può rappresentare una svolta per settori come la finanza o la pubblica amministrazione, che si affidano a grandi basi di codice obsolete: l'IA contribuisce a modernizzare la sicurezza individuando problemi che il personale potrebbe impiegare mesi o anni a trovare (se mai li trovasse).

L'intelligenza artificiale generativa supporta anche i flussi di lavoro di gestione delle vulnerabilità , elaborando i risultati delle scansioni e assegnando loro una priorità. Strumenti come ExposureAI utilizzano l'IA generativa per consentire agli analisti di interrogare i dati sulle vulnerabilità in linguaggio naturale e ottenere risposte immediate (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). ExposureAI è in grado di "riassumere l'intero percorso di attacco in una narrazione" per una determinata vulnerabilità critica, spiegando come un aggressore potrebbe combinarla con altre debolezze per compromettere un sistema. Raccomanda persino azioni correttive e risponde a domande di approfondimento sul rischio. Ciò significa che, quando viene annunciata una nuova CVE (Common Vulnerabilities and Exposures) critica, un analista potrebbe chiedere all'IA: "Qualcuno dei nostri server è interessato da questa CVE e qual è lo scenario peggiore se non applichiamo la patch?" e ricevere una valutazione chiara basata sui dati di scansione dell'organizzazione stessa. Contestualizzando le vulnerabilità (ad esempio, questa è esposta a Internet e si trova su un server di alto valore, quindi ha la massima priorità), l'intelligenza artificiale generativa aiuta i team ad applicare le patch in modo intelligente con risorse limitate.

Oltre a individuare e gestire le vulnerabilità note, l'intelligenza artificiale generativa contribuisce ai test di penetrazione e alla simulazione di attacchi , scoprendo essenzialmente sconosciute o testando i controlli di sicurezza. Le reti generative avversarie (GAN), un tipo di intelligenza artificiale generativa, sono state utilizzate per creare dati sintetici che imitano il traffico di rete reale o il comportamento degli utenti, inclusi schemi di attacco nascosti. Uno studio del 2023 ha suggerito di utilizzare le GAN per generare traffico di attacchi zero-day realistici per addestrare i sistemi di rilevamento delle intrusioni (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Alimentando l'IDS con scenari di attacco creati dall'IA (che non rischiano di utilizzare malware reali sulle reti di produzione), le organizzazioni possono addestrare le proprie difese a riconoscere nuove minacce senza dover attendere di essere colpite nella realtà. Allo stesso modo, l'IA può simulare un attaccante che sonda un sistema, ad esempio provando automaticamente diverse tecniche di exploit in un ambiente sicuro per verificare se qualcuna ha successo. La DARPA (Defense Advanced Research Projects Agency) statunitense vede grandi potenzialità in questo ambito: la sua AI Cyber ​​Challenge del 2023 utilizza esplicitamente l'intelligenza artificiale generativa (come i modelli linguistici su larga scala) per "individuare e correggere automaticamente le vulnerabilità nei software open source" nell'ambito di una competizione ( DARPA punta a sviluppare applicazioni di IA e autonomia affidabili per i militari > Dipartimento della Difesa degli Stati Uniti > Notizie del Dipartimento della Difesa ). Questa iniziativa sottolinea come l'IA non si limiti a correggere le falle note, ma ne scopra attivamente di nuove e proponga soluzioni, un compito tradizionalmente riservato a ricercatori di sicurezza qualificati (e costosi).

L'intelligenza artificiale generativa può persino creare honeypot intelligenti e gemelli digitali a scopo difensivo. Le startup stanno sviluppando sistemi di inganno basati sull'IA che emulano in modo convincente server o dispositivi reali. Come ha spiegato un CEO, l'IA generativa può "clonare sistemi digitali per imitare quelli reali e attirare gli hacker" (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Questi honeypot generati dall'IA si comportano come l'ambiente reale (ad esempio, un dispositivo IoT fittizio che invia normali dati di telemetria) ma esistono unicamente per attirare gli aggressori. Quando un aggressore prende di mira l'esca, l'IA lo ha essenzialmente ingannato, inducendolo a rivelare i suoi metodi, che i difensori possono poi studiare e utilizzare per rafforzare i sistemi reali. Questo concetto, basato sulla modellazione generativa, offre un modo lungimirante per ribaltare la situazione a proprio favore, utilizzando l'inganno potenziato dall'IA.

In tutti i settori, una gestione delle vulnerabilità più rapida e intelligente si traduce in un minor numero di violazioni. Nell'IT sanitario, ad esempio, l'IA potrebbe individuare rapidamente una libreria obsoleta e vulnerabile in un dispositivo medico e richiedere una correzione del firmware prima che un aggressore la sfrutti. Nel settore bancario, l'IA potrebbe simulare un attacco interno a una nuova applicazione per garantire la sicurezza dei dati dei clienti in qualsiasi scenario. L'IA generativa funge quindi sia da microscopio che da stress test per la sicurezza delle organizzazioni: evidenzia difetti nascosti e sollecita i sistemi in modi creativi per garantirne la resilienza.

Generazione di codice sicuro e sviluppo software

Le capacità dell'IA generativa non si limitano al rilevamento degli attacchi, ma si estendono anche alla creazione di sistemi più sicuri fin dall'inizio. Nello sviluppo software, i generatori di codice basati sull'IA (come GitHub Copilot, OpenAI Codex, ecc.) possono aiutare gli sviluppatori a scrivere codice più velocemente suggerendo frammenti di codice o persino intere funzioni. L'aspetto della sicurezza informatica consiste nel garantire che questi frammenti di codice suggeriti dall'IA siano sicuri e nell'utilizzare l'IA per migliorare le pratiche di programmazione.

Da un lato, l'IA generativa può fungere da assistente di programmazione che integra le migliori pratiche di sicurezza. Gli sviluppatori possono chiedere a uno strumento di IA, ad esempio, "Genera una funzione di reimpostazione della password in Python", e idealmente ottenere in risposta un codice non solo funzionale, ma anche conforme alle linee guida di sicurezza (ad esempio, corretta convalida dell'input, registrazione, gestione degli errori senza divulgazione di informazioni, ecc.). Un assistente di questo tipo, addestrato su numerosi esempi di codice sicuro, può contribuire a ridurre gli errori umani che portano a vulnerabilità. Ad esempio, se uno sviluppatore dimentica di sanificare l'input dell'utente (aprendo la porta a SQL injection o problemi simili), un'IA potrebbe includerlo di default o avvisarlo. Alcuni strumenti di programmazione basati sull'IA vengono ora perfezionati con dati incentrati sulla sicurezza proprio per questo scopo: in sostanza, programmazione a coppie basata sull'IA con una coscienza di sicurezza.

Tuttavia, c'è anche un rovescio della medaglia: l'IA generativa può altrettanto facilmente introdurre vulnerabilità se non gestita correttamente. Come ha osservato Ben Verschaeren, esperto di sicurezza di Sophos, l'utilizzo dell'IA generativa per la programmazione è "accettabile per codice breve e verificabile, ma rischioso quando codice non controllato viene integrato" nei sistemi di produzione. Il rischio è che un'IA possa produrre codice logicamente corretto ma insicuro in modi che un non esperto potrebbe non notare. Inoltre, malintenzionati potrebbero influenzare intenzionalmente i modelli di IA pubblici inserendovi pattern di codice vulnerabili (una forma di avvelenamento dei dati) in modo che l'IA suggerisca codice non sicuro. La maggior parte degli sviluppatori non è esperta di sicurezza, quindi se un'IA suggerisce una soluzione conveniente, potrebbero usarla ciecamente, senza rendersi conto che presenta una falla (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Questa preoccupazione è reale: esiste infatti una lista OWASP Top 10 per i modelli linguistici di grandi dimensioni (LLM) che elenca i rischi comuni come questo nell'utilizzo dell'IA per la programmazione.

Per contrastare questi problemi, gli esperti suggeriscono di "combattere l'IA generativa con l'IA generativa" nell'ambito della programmazione. In pratica, ciò significa utilizzare l'IA per rivedere e testare il codice scritto da altre IA (o da esseri umani). Un'IA può analizzare i nuovi commit di codice molto più velocemente di un revisore umano e segnalare potenziali vulnerabilità o problemi di logica. Stiamo già assistendo all'emergere di strumenti che si integrano nel ciclo di vita dello sviluppo del software: il codice viene scritto (magari con l'aiuto dell'IA), quindi un modello generativo addestrato sui principi del codice sicuro lo analizza e genera un report di eventuali problematiche (ad esempio, utilizzo di funzioni obsolete, controlli di autenticazione mancanti, ecc.). La ricerca di NVIDIA, menzionata in precedenza, che ha ottenuto un rilevamento delle vulnerabilità nel codice 4 volte più veloce, è un esempio di come sfruttare l'IA per l'analisi del codice sicuro (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ).

Inoltre, l'IA generativa può contribuire alla creazione di configurazioni e script sicuri. Ad esempio, se un'azienda deve implementare un'infrastruttura cloud sicura, un ingegnere potrebbe chiedere a un'IA di generare gli script di configurazione (Infrastructure as Code) con controlli di sicurezza integrati (come una corretta segmentazione della rete e ruoli IAM con privilegi minimi). L'IA, essendo stata addestrata su migliaia di configurazioni di questo tipo, può produrre una base di partenza che l'ingegnere potrà poi perfezionare. Ciò accelera la configurazione sicura dei sistemi e riduce gli errori di configurazione, una causa comune di incidenti di sicurezza nel cloud.

Alcune organizzazioni stanno anche sfruttando l'IA generativa per mantenere una base di conoscenza di modelli di codifica sicura. Se uno sviluppatore non è sicuro di come implementare una determinata funzionalità in modo sicuro, può interrogare un'IA interna che ha appreso dai progetti passati e dalle linee guida di sicurezza dell'azienda. L'IA potrebbe restituire un approccio consigliato o persino un frammento di codice in linea sia con i requisiti funzionali che con gli standard di sicurezza aziendali. Questo approccio è stato utilizzato da strumenti come Questionnaire Automation di Secureframe, che estrae le risposte dalle politiche aziendali e dalle soluzioni passate per garantire risposte coerenti e accurate (generando essenzialmente documentazione sicura) (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi reali). Il concetto si traduce in programmazione: un'IA che "ricorda" come hai implementato qualcosa in modo sicuro in precedenza e ti guida a farlo di nuovo in quel modo.

In sintesi, l'IA generativa sta influenzando lo sviluppo del software rendendo più accessibile l'assistenza alla programmazione sicura. I settori che sviluppano molti software personalizzati – tecnologia, finanza, difesa, ecc. – possono trarre vantaggio dall'avere alleati basati sull'IA che non solo velocizzano la programmazione, ma agiscono anche come revisori di sicurezza costantemente vigili. Se gestiti correttamente, questi strumenti di IA possono ridurre l'introduzione di nuove vulnerabilità e aiutare i team di sviluppo ad aderire alle migliori pratiche, anche se il team non ha un esperto di sicurezza coinvolto in ogni fase. Il risultato è un software più robusto contro gli attacchi fin dal primo giorno.

Supporto alla risposta agli incidenti

Quando si verifica un incidente di sicurezza informatica, che si tratti di un'epidemia di malware, una violazione dei dati o un'interruzione del sistema a seguito di un attacco, il tempo è fondamentale. L'intelligenza artificiale generativa viene sempre più utilizzata per supportare i team di risposta agli incidenti (IR) nel contenere e risolvere gli incidenti più rapidamente e con maggiori informazioni a disposizione. L'idea è che l'IA possa alleggerire il carico di lavoro investigativo e di documentazione durante un incidente, e persino suggerire o automatizzare alcune azioni di risposta.

Un ruolo chiave dell'IA nella risposta agli incidenti è l'analisi e la sintesi degli incidenti in tempo reale. Nel bel mezzo di un incidente, i responsabili della risposta potrebbero aver bisogno di risposte a domande come "Come ha fatto l'attaccante ad entrare?", "Quali sistemi sono interessati?"e "Quali dati potrebbero essere compromessi?". L'IA generativa può analizzare log, avvisi e dati forensi dai sistemi interessati e fornire rapidamente informazioni utili. Ad esempio, Microsoft Security Copilot consente a un responsabile della risposta agli incidenti di inserire diverse prove (file, URL, registri eventi) e richiedere una cronologia o un riepilogo (Microsoft Security Copilot è un nuovo assistente IA GPT-4 per la sicurezza informatica | The Verge). L'IA potrebbe rispondere con: "La violazione è probabilmente iniziata con un'e-mail di phishing inviata all'utente JohnDoe alle 10:53 GMT contenente il malware X. Una volta eseguito, il malware ha creato una backdoor che è stata utilizzata due giorni dopo per spostarsi lateralmente al server finanziario, dove ha raccolto dati". Avere questo quadro coerente in pochi minuti anziché in ore consente al team di prendere decisioni informate (come quali sistemi isolare) molto più rapidamente.

L'IA generativa può anche suggerire azioni di contenimento e ripristino. Ad esempio, se un endpoint viene infettato da ransomware, uno strumento di IA potrebbe generare uno script o una serie di istruzioni per isolare la macchina, disabilitare determinati account e bloccare gli IP dannosi noti sul firewall, in sostanza eseguendo un playbook. Palo Alto Networks osserva che l'IA generativa è in grado di "generare azioni o script appropriati in base alla natura dell'incidente", automatizzando le fasi iniziali della risposta (What Is Generative AI in Cybersecurity? - Palo Alto Networks). In uno scenario in cui il team di sicurezza è sovraccarico (ad esempio, un attacco diffuso su centinaia di dispositivi), l'IA potrebbe persino eseguire direttamente alcune di queste azioni in base a condizioni pre-approvate, agendo come un soccorritore junior che lavora instancabilmente. Ad esempio, un agente di IA potrebbe reimpostare automaticamente le credenziali che ritiene compromesse o mettere in quarantena gli host che mostrano attività dannose corrispondenti al profilo dell'incidente.

Durante la gestione di un incidente, la comunicazione è fondamentale, sia all'interno del team che con gli stakeholder. L'intelligenza artificiale generativa può essere d'aiuto redigendo report o brevi comunicazioni di aggiornamento sull'incidente in tempo reale. Invece di interrompere la risoluzione dei problemi per scrivere un'e-mail di aggiornamento, un tecnico potrebbe chiedere all'IA: "Riassumi quanto accaduto finora in questo incidente per informare i dirigenti". L'IA, dopo aver acquisito i dati dell'incidente, può produrre un riepilogo conciso: "Alle 15:00, gli aggressori hanno avuto accesso a 2 account utente e 5 server. I dati interessati includono i record dei clienti nel database X. Misure di contenimento: l'accesso VPN per gli account compromessi è stato revocato e i server sono stati isolati. Prossimi passi: scansione per individuare eventuali meccanismi di persistenza". Il responsabile della risposta può quindi verificare o modificare rapidamente il riepilogo e inviarlo, garantendo che gli stakeholder siano costantemente informati con informazioni accurate e aggiornate.

Una volta che la situazione si è stabilizzata, in genere è necessario preparare un rapporto dettagliato sull'incidente e raccogliere le lezioni apprese. Anche in questo ambito il supporto dell'IA si rivela fondamentale. L'IA può analizzare tutti i dati relativi all'incidente e generare un rapporto post-incidente che includa la causa principale, la cronologia, l'impatto e le raccomandazioni. IBM, ad esempio, sta integrando l'IA generativa per creare "semplici riepiloghi di casi e incidenti di sicurezza che possono essere condivisi con le parti interessate" con un semplice clic (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Semplificando la reportistica post-evento, le organizzazioni possono implementare più rapidamente i miglioramenti e disporre di una documentazione migliore ai fini della conformità.

Un'applicazione innovativa e lungimirante è rappresentata dalle simulazioni di incidenti basate sull'intelligenza artificiale. Analogamente alle esercitazioni antincendio, alcune aziende utilizzano l'IA generativa per simulare scenari ipotetici di incidenti. L'IA potrebbe simulare la diffusione di un ransomware in base alla configurazione della rete, o come un utente malintenzionato potrebbe sottrarre dati, valutando poi l'efficacia dei piani di risposta attuali. Questo aiuta i team a prepararsi e a perfezionare i playbook prima che si verifichi un incidente reale. È come avere un consulente per la risposta agli incidenti in continuo miglioramento, che mette costantemente alla prova la vostra preparazione.

In settori ad alto rischio come la finanza o la sanità, dove i tempi di inattività o la perdita di dati dovuti ad incidenti sono particolarmente costosi, queste funzionalità di risposta agli incidenti basate sull'intelligenza artificiale risultano molto interessanti. Un ospedale che subisce un incidente informatico non può permettersi interruzioni prolungate del sistema: un'IA che contribuisca rapidamente al contenimento potrebbe letteralmente salvare vite umane. Allo stesso modo, un istituto finanziario può utilizzare l'IA per gestire la valutazione iniziale di una sospetta intrusione fraudolenta alle 3 del mattino, in modo che, quando il personale di reperibilità sarà online, gran parte del lavoro preliminare (disconnessione degli account interessati, blocco delle transazioni, ecc.) sia già stato svolto. Potenziando i team di risposta agli incidenti con l'IA generativa, le organizzazioni possono ridurre significativamente i tempi di risposta e migliorare l'accuratezza della gestione, mitigando in definitiva i danni derivanti dagli incidenti informatici.

Analisi comportamentale e rilevamento delle anomalie

Molti attacchi informatici possono essere individuati notando quando qualcosa si discosta dal comportamento "normale", che si tratti di un account utente che scarica una quantità insolita di dati o di un dispositivo di rete che improvvisamente comunica con un host sconosciuto. L'intelligenza artificiale generativa offre tecniche avanzate per l'analisi comportamentale e il rilevamento delle anomalie, apprendendo i modelli normali di utenti e sistemi e segnalando quando qualcosa non va.

Il rilevamento tradizionale delle anomalie spesso utilizza soglie statistiche o semplici algoritmi di machine learning su metriche specifiche (picchi di utilizzo della CPU, accessi in orari insoliti, ecc.). L'intelligenza artificiale generativa può spingersi oltre, creando profili di comportamento più dettagliati. Ad esempio, un modello di IA può analizzare nel tempo gli accessi, i modelli di accesso ai file e le abitudini di posta elettronica di un dipendente, formando una comprensione multidimensionale del comportamento "normale" di quell'utente. Se in seguito quell'account compie un'azione drasticamente al di fuori della norma (come accedere da un nuovo Paese e consultare una grande quantità di file delle risorse umane a mezzanotte), l'IA rileverebbe una deviazione non solo su una singola metrica, ma sull'intero schema comportamentale, che non corrisponde al profilo dell'utente. In termini tecnici, i modelli generativi (come gli autoencoder o i modelli sequenziali) possono modellare l'aspetto della "normalità" e quindi generare un intervallo di comportamento previsto. Quando la realtà si discosta da tale intervallo, viene segnalata come anomalia (What Is Generative AI in Cybersecurity? - Palo Alto Networks).

Un'applicazione pratica si trova nel monitoraggio del traffico di rete. Secondo un sondaggio del 2024, il 54% delle organizzazioni statunitensi ha indicato il monitoraggio del traffico di rete come uno dei principali casi d'uso dell'IA nella sicurezza informatica (Nord America: principali casi d'uso dell'IA nella sicurezza informatica a livello mondiale 2024). L'IA generativa può apprendere i normali modelli di comunicazione della rete aziendale: quali server comunicano tipicamente tra loro, quali volumi di dati vengono trasferiti durante l'orario lavorativo rispetto alla notte, ecc. Se un aggressore inizia a esfiltrare dati da un server, anche lentamente per evitare di essere rilevato, un sistema basato sull'IA potrebbe notare che "Il server A non invia mai 500 MB di dati alle 2 del mattino a un IP esterno" e generare un avviso. Poiché l'IA non utilizza solo regole statiche, ma un modello evolutivo del comportamento della rete, può individuare anomalie sottili che le regole statiche (come "avviso se i dati > X MB") potrebbero non rilevare o segnalare erroneamente. Questa natura adattiva è ciò che rende il rilevamento delle anomalie basato sull'IA così efficace in ambienti come le reti di transazioni bancarie, le infrastrutture cloud o le flotte di dispositivi IoT, dove definire regole fisse per distinguere tra normale e anomalo è estremamente complesso.

L'intelligenza artificiale generativa sta contribuendo anche all'analisi del comportamento degli utenti (UBA), fondamentale per individuare minacce interne o account compromessi. Generando una baseline per ciascun utente o entità, l'IA può rilevare anomalie come l'uso improprio delle credenziali. Ad esempio, se Bob del reparto contabilità inizia improvvisamente a interrogare il database dei clienti (cosa che non aveva mai fatto prima), il modello di IA per il comportamento di Bob lo segnalerà come anomalo. Potrebbe non trattarsi di malware: potrebbe essere il furto delle credenziali di Bob e il loro utilizzo da parte di un malintenzionato, oppure Bob potrebbe star effettuando ricerche in aree non consentite. In entrambi i casi, il team di sicurezza viene avvisato tempestivamente per poter indagare. Sistemi UBA basati sull'IA sono già presenti in diversi prodotti di sicurezza e le tecniche di modellazione generativa ne stanno migliorando la precisione e riducendo i falsi allarmi, tenendo conto del contesto (ad esempio, Bob potrebbe essere impegnato in un progetto speciale, informazione che l'IA può talvolta dedurre da altri dati).

Nell'ambito della gestione delle identità e degli accessi, il rilevamento dei deepfake è una necessità sempre più pressante: l'intelligenza artificiale generativa può creare voci e video sintetici in grado di ingannare i sistemi di sicurezza biometrici. È interessante notare che l'IA generativa può anche contribuire al rilevamento di questi deepfake analizzando sottili artefatti audio o video difficili da percepire per gli esseri umani. Un esempio concreto è rappresentato da Accenture, che ha utilizzato l'IA generativa per simulare innumerevoli espressioni facciali e condizioni al fine di addestrare i propri sistemi biometrici a distinguere gli utenti reali dai deepfake generati dall'IA. In cinque anni, questo approccio ha permesso ad Accenture di eliminare le password per il 90% dei suoi sistemi (passando alla biometria e ad altri fattori) e di ridurre gli attacchi del 60% (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). In sostanza, l'azienda ha utilizzato l'IA generativa per rafforzare l'autenticazione biometrica, rendendola resistente agli attacchi generativi (un ottimo esempio di IA contro IA). Questo tipo di modellazione comportamentale – in questo caso il riconoscimento della differenza tra un volto umano reale e uno sintetizzato dall'IA – è fondamentale man mano che ci affidiamo sempre di più all'IA per l'autenticazione.

Il rilevamento delle anomalie basato sull'intelligenza artificiale generativa è applicabile a diversi settori: in ambito sanitario, per monitorare il comportamento dei dispositivi medici alla ricerca di segnali di hacking; in finanza, per osservare i sistemi di trading alla ricerca di schemi irregolari che potrebbero indicare frodi o manipolazioni algoritmiche; nel settore energetico/servizi pubblici, per monitorare i segnali dei sistemi di controllo alla ricerca di intrusioni. La combinazione di ampiezza (analisi di tutti gli aspetti del comportamento) e profondità (comprensione di schemi complessi) offerta dall'intelligenza artificiale generativa la rende uno strumento potente per individuare gli indicatori, spesso difficili da trovare, di un incidente informatico. Poiché le minacce diventano sempre più subdole, nascondendosi tra le normali operazioni, questa capacità di definire con precisione la "normalità" e di segnalare tempestivamente eventuali anomalie diventa fondamentale. L'intelligenza artificiale generativa funge quindi da sentinella instancabile, in costante apprendimento e aggiornamento della propria definizione di normalità per stare al passo con i cambiamenti dell'ambiente, allertando i team di sicurezza in caso di anomalie che meritano un'analisi più approfondita.

Opportunità e vantaggi dell'intelligenza artificiale generativa nella sicurezza informatica

L'applicazione dell'IA generativa alla sicurezza informatica offre una serie di opportunità e vantaggi per le organizzazioni che desiderano adottare questi strumenti. Di seguito, riassumiamo i principali vantaggi che rendono l'IA generativa un'aggiunta interessante ai programmi di sicurezza informatica:

• Rilevamento e risposta alle minacce più rapidi: i sistemi di intelligenza artificiale generativa possono analizzare enormi quantità di dati in tempo reale e riconoscere le minacce molto più rapidamente rispetto all'analisi manuale umana. Questo vantaggio in termini di velocità si traduce in un rilevamento tempestivo degli attacchi e in un contenimento più rapido degli incidenti. In pratica, il monitoraggio della sicurezza basato sull'intelligenza artificiale può rilevare minacce che richiederebbero molto più tempo agli esseri umani per essere correlate. Rispondendo tempestivamente agli incidenti (o persino eseguendo autonomamente le risposte iniziali), le organizzazioni possono ridurre drasticamente il tempo di permanenza degli aggressori nelle proprie reti, riducendo al minimo i danni.

• Maggiore accuratezza e copertura delle minacce: grazie al continuo apprendimento da nuovi dati, i modelli generativi possono adattarsi alle minacce in continua evoluzione e individuare segnali più sottili di attività dannose. Ciò si traduce in una maggiore accuratezza nel rilevamento (meno falsi negativi e falsi positivi) rispetto alle regole statiche. Ad esempio, un'IA che ha appreso le caratteristiche distintive di un'e-mail di phishing o del comportamento di un malware può identificare varianti mai viste prima. Il risultato è una copertura più ampia delle tipologie di minacce, inclusi i nuovi attacchi, rafforzando la postura di sicurezza complessiva. I team di sicurezza ottengono inoltre informazioni dettagliate dall'analisi dell'IA (ad esempio, spiegazioni del comportamento del malware), consentendo difese più precise e mirate (Che cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks).

• Automazione delle attività ripetitive: l'IA generativa eccelle nell'automatizzare le attività di sicurezza di routine e ad alta intensità di lavoro, dall'analisi dei log e la compilazione di report alla scrittura di script di risposta agli incidenti. Questa automazione riduce il carico di lavoro degli analisti umani, consentendo loro di concentrarsi su strategie di alto livello e processi decisionali complessi (Cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks). Attività banali ma importanti come la scansione delle vulnerabilità, la verifica della configurazione, l'analisi dell'attività degli utenti e la creazione di report di conformità possono essere gestite (o almeno abbozzate) dall'IA. Gestendo queste attività alla velocità della macchina, l'IA non solo migliora l'efficienza, ma riduce anche l'errore umano (un fattore significativo nelle violazioni).

• Difesa proattiva e simulazione: l'intelligenza artificiale generativa consente alle organizzazioni di passare da una sicurezza reattiva a una proattiva. Attraverso tecniche come la simulazione di attacchi, la generazione di dati sintetici e la formazione basata su scenari, i difensori possono anticipare e prepararsi alle minacce prima che si concretizzino nel mondo reale. I team di sicurezza possono simulare attacchi informatici (campagne di phishing, epidemie di malware, attacchi DDoS, ecc.) in ambienti sicuri per testare le proprie risposte e rafforzare eventuali punti deboli. Questa formazione continua, spesso impossibile da svolgere in modo esaustivo con il solo intervento umano, mantiene le difese sempre aggiornate e all'avanguardia. È come un'esercitazione antincendio informatica: l'IA può sottoporre le difese a numerose minacce ipotetiche, consentendo di esercitarsi e migliorare.

• Potenziamento delle competenze umane (l'IA come moltiplicatore di forza): l'IA generativa agisce come un instancabile analista junior, consulente e assistente, tutto in uno. Può fornire ai membri del team meno esperti indicazioni e raccomandazioni che in genere ci si aspetterebbe da esperti navigati, democratizzando di fatto le competenze all'interno del team (6 casi d'uso per l'IA generativa nella sicurezza informatica [+ esempi] ). Ciò è particolarmente prezioso data la carenza di talenti nella sicurezza informatica: l'IA aiuta i team più piccoli a fare di più con meno. Gli analisti esperti, d'altro canto, traggono vantaggio dal fatto che l'IA si occupi del lavoro di routine e faccia emergere informazioni non ovvie, che possono poi convalidare e su cui agire. Il risultato complessivo è un team di sicurezza molto più produttivo e competente, con l'IA che amplifica l'impatto di ogni membro umano (Come può essere utilizzata l'IA generativa nella sicurezza informatica).

• Supporto decisionale e reporting migliorati: traducendo i dati tecnici in informazioni in linguaggio naturale, l'intelligenza artificiale generativa migliora la comunicazione e il processo decisionale. I responsabili della sicurezza ottengono una visibilità più chiara sui problemi tramite riepiloghi generati dall'intelligenza artificiale e possono prendere decisioni strategiche informate senza dover analizzare dati grezzi. Allo stesso modo, la comunicazione interfunzionale (con dirigenti, responsabili della conformità, ecc.) migliora quando l'intelligenza artificiale prepara report di facile comprensione sulla situazione di sicurezza e sugli incidenti (Come può l'intelligenza artificiale generativa essere utilizzata nella sicurezza informatica? 10 esempi concreti). Questo non solo crea fiducia e allineamento sulle questioni di sicurezza a livello di leadership, ma aiuta anche a giustificare investimenti e cambiamenti articolando chiaramente i rischi e le lacune scoperte dall'intelligenza artificiale.

Nel complesso, questi vantaggi consentono alle organizzazioni che sfruttano l'IA generativa nella sicurezza informatica di raggiungere una postura di sicurezza più solida con costi operativi potenzialmente inferiori. Possono rispondere a minacce che prima erano insormontabili, colmare lacune non monitorate e migliorare continuamente attraverso cicli di feedback guidati dall'IA. In definitiva, l'IA generativa offre la possibilità di anticipare gli avversari, eguagliando la velocità, la portata e la sofisticatezza degli attacchi moderni con difese altrettanto sofisticate. Come ha rilevato un sondaggio, oltre la metà dei leader aziendali e della sicurezza informatica prevede un rilevamento delle minacce più rapido e una maggiore precisione grazie all'uso dell'IA generativa ([PDF] Global Cybersecurity Outlook 2025 | World Economic Forum) (Generative AI in Cybersecurity: A Comprehensive Review of LLM...) – una testimonianza dell'ottimismo che circonda i vantaggi di queste tecnologie.

Rischi e sfide dell'utilizzo dell'intelligenza artificiale generativa nella sicurezza informatica

Sebbene le opportunità siano significative, è fondamentale approcciare l'IA generativa alla sicurezza informatica tenendo presente i rischi e le sfide che comporta. Fidarsi ciecamente dell'IA o abusarne può introdurre nuove vulnerabilità. Di seguito, illustriamo le principali preoccupazioni e insidie, insieme al contesto per ciascuna di esse:

• Uso malevolo da parte dei criminali informatici: le stesse capacità generative che aiutano i difensori possono potenziare gli attaccanti. Gli autori delle minacce stanno già utilizzando l'IA generativa per creare email di phishing più convincenti, identità false e video deepfake per l'ingegneria sociale, sviluppare malware polimorfici che cambiano costantemente per eludere il rilevamento e persino automatizzare aspetti dell'hacking (Cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks). Quasi la metà (46%) dei leader della sicurezza informatica teme che l'IA generativa porterà ad attacchi avversari più avanzati (Sicurezza basata sull'IA generativa: tendenze, minacce e strategie di mitigazione). Questa "corsa agli armamenti dell'IA" significa che, man mano che i difensori adottano l'IA, gli attaccanti non saranno da meno (anzi, in alcune aree potrebbero essere in vantaggio, utilizzando strumenti di IA non regolamentati). Le organizzazioni devono essere preparate ad affrontare minacce potenziate dall'IA che saranno più frequenti, sofisticate e difficili da tracciare.

• Allucinazioni e imprecisioni dell'IA: i modelli di IA generativa possono produrre risultati plausibili ma errati o fuorvianti , un fenomeno noto come allucinazione. In un contesto di sicurezza, un'IA potrebbe analizzare un incidente e concludere erroneamente che una determinata vulnerabilità ne sia stata la causa, oppure potrebbe generare uno script di correzione difettoso che non riesce a contenere un attacco. Questi errori possono essere pericolosi se presi alla lettera. Come avverte NTT Data, "l'IA generativa può plausibilmente produrre contenuti non veritieri, e questo fenomeno è chiamato allucinazione... attualmente è difficile eliminarli completamente" (Rischi per la sicurezza dell'IA generativa e contromisure, e il suo impatto sulla sicurezza informatica | NTT DATA Group). Un eccessivo affidamento sull'IA senza verifica potrebbe portare a sforzi mal indirizzati o a un falso senso di sicurezza. Ad esempio, un'IA potrebbe segnalare erroneamente un sistema critico come sicuro quando non lo è, o, al contrario, scatenare il panico "rilevando" una violazione che non si è mai verificata. Una rigorosa validazione degli output dell'IA e il coinvolgimento umano nelle decisioni critiche sono essenziali per mitigare questo rischio.

• Falsi positivi e negativi: analogamente alle allucinazioni, se un modello di IA è addestrato o configurato in modo inadeguato, potrebbe segnalare attività innocue come dannose (falsi positivi) o, peggio, non rilevare minacce reali (falsi negativi) (Come può essere utilizzata l'IA generativa nella sicurezza informatica). Un numero eccessivo di falsi allarmi può sovraccaricare i team di sicurezza e portare alla "fatica da allarmi" (annullando i vantaggi in termini di efficienza promessi dall'IA), mentre le mancate rilevazioni lasciano l'organizzazione esposta. Ottimizzare i modelli generativi per trovare il giusto equilibrio è una sfida. Ogni ambiente è unico e un'IA potrebbe non funzionare immediatamente in modo ottimale. Anche l'apprendimento continuo è un'arma a doppio taglio: se l'IA apprende da un feedback distorto o da un ambiente che cambia, la sua precisione può fluttuare. I team di sicurezza devono monitorare le prestazioni dell'IA e regolare le soglie o fornire feedback correttivi ai modelli. In contesti ad alto rischio (come il rilevamento delle intrusioni per infrastrutture critiche), potrebbe essere prudente eseguire i suggerimenti dell'IA in parallelo con i sistemi esistenti per un certo periodo, per garantire che si allineino e si completino a vicenda anziché entrare in conflitto.

• Privacy e fuga di dati: i sistemi di intelligenza artificiale generativa spesso richiedono grandi quantità di dati per l'addestramento e il funzionamento. Se questi modelli sono basati sul cloud o non adeguatamente isolati, esiste il rischio che informazioni sensibili possano essere divulgate. Gli utenti potrebbero inavvertitamente inserire dati proprietari o dati personali in un servizio di IA (si pensi a chiedere a ChatGPT di riassumere un rapporto di incidente riservato) e tali dati potrebbero entrare a far parte della conoscenza del modello. Infatti, un recente studio ha rilevato che il 55% degli input degli strumenti di IA generativa conteneva informazioni sensibili o identificabili personalmente, sollevando serie preoccupazioni in merito alla fuga di dati (Generative AI Security: Trends, Threats & Mitigation Strategies). Inoltre, se un'IA è stata addestrata su dati interni e viene interrogata in determinati modi, potrebbe restituire parti di tali dati sensibili a terzi. Le organizzazioni devono implementare rigide politiche di gestione dei dati (ad esempio, utilizzando istanze di IA on-premise o private per materiale sensibile) e formare i dipendenti affinché non incollino informazioni riservate in strumenti di IA pubblici. Anche le normative sulla privacy (GDPR, ecc.) entrano in gioco: utilizzare dati personali per addestrare l'IA senza il dovuto consenso o protezione potrebbe violare la legge.

• Sicurezza e manipolazione dei modelli: gli stessi modelli di IA generativa possono diventare bersaglio. Gli avversari potrebbero tentare di avvelenare il modello, alimentandolo con dati dannosi o fuorvianti durante la fase di addestramento o riaddestramento, in modo che l'IA apprenda schemi errati (Come può essere utilizzata l'IA generativa nella sicurezza informatica). Ad esempio, un attaccante potrebbe avvelenare sottilmente i dati di intelligence sulle minacce in modo che l'IA non riconosca il malware dell'attaccante come dannoso. Un'altra tattica è l'iniezione di prompt o la manipolazione dell'output, in cui un attaccante trova un modo per fornire input all'IA che la inducono a comportarsi in modi non previsti, ad esempio ignorando le sue misure di sicurezza o rivelando informazioni che non dovrebbe (come prompt o dati interni). Inoltre, esiste il rischio di elusione del modello: gli attaccanti creano input specificamente progettati per ingannare l'IA. Questo si osserva negli esempi avversari: dati leggermente alterati che un essere umano percepisce come normali, ma che l'IA classifica erroneamente. Garantire la sicurezza della catena di fornitura dell'IA (integrità dei dati, controllo dell'accesso ai modelli, test di robustezza agli attacchi) è un aspetto nuovo ma necessario della sicurezza informatica quando si implementano questi strumenti (Che cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks).

• Eccessiva dipendenza e deterioramento delle competenze: esiste un rischio minore che le organizzazioni possano diventare eccessivamente dipendenti dall'IA, lasciando che le competenze umane si atrofizzino. Se gli analisti junior si affidano ciecamente ai risultati dell'IA, potrebbero non sviluppare il pensiero critico e l'intuito necessari quando l'IA non è disponibile o fornisce risultati errati. Uno scenario da evitare è quello di un team di sicurezza che dispone di ottimi strumenti ma non sa come operare in caso di malfunzionamento di tali strumenti (simile ai piloti che si affidano eccessivamente al pilota automatico). Esercitazioni di formazione regolari senza l'ausilio dell'IA e la promozione di una mentalità che consideri l'IA un assistente, non un oracolo infallibile, sono importanti per mantenere gli analisti umani sempre all'erta. Gli esseri umani devono rimanere i responsabili delle decisioni finali, soprattutto per i giudizi di grande impatto.

• Sfide etiche e di conformità: l'uso dell'IA nella sicurezza informatica solleva questioni etiche e potrebbe innescare problemi di conformità normativa. Ad esempio, se un sistema di IA accusa erroneamente un dipendente di essere un insider malintenzionato a causa di un'anomalia, potrebbe danneggiare ingiustamente la reputazione o la carriera di quella persona. Le decisioni prese dall'IA possono essere opache (il problema della "scatola nera"), rendendo difficile spiegare ad auditor o autorità di regolamentazione il motivo di determinate azioni. Con la crescente diffusione dei contenuti generati dall'IA, garantire la trasparenza e mantenere la responsabilità è fondamentale. Le autorità di regolamentazione stanno iniziando a esaminare attentamente l'IA: l'AI Act dell'UE, ad esempio, imporrà requisiti ai sistemi di IA "ad alto rischio", e l'IA per la sicurezza informatica potrebbe rientrare in questa categoria. Le aziende dovranno orientarsi tra queste normative e possibilmente aderire a standard come il NIST AI Risk Management Framework per utilizzare l'IA generativa in modo responsabile (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). La conformità si estende anche alle licenze: l'utilizzo di modelli open source o di terze parti potrebbe prevedere termini che limitano determinati usi o richiedono la condivisione di miglioramenti.

In sintesi, l'IA generativa non è una panacea : se non implementata con attenzione, può introdurre nuove vulnerabilità anche risolvendone altre. Uno studio del World Economic Forum del 2024 ha evidenziato che circa il 47% delle organizzazioni cita i progressi nell'IA generativa da parte degli hacker come una delle principali preoccupazioni, rendendola "l'impatto più preoccupante dell'IA generativa" sulla sicurezza informatica ([PDF] Global Cybersecurity Outlook 2025 | World Economic Forum) (Generative AI in Cybersecurity: A Comprehensive Review of LLM ...). Le organizzazioni devono quindi adottare un approccio equilibrato: sfruttare i vantaggi dell'IA gestendo al contempo rigorosamente questi rischi attraverso la governance, i test e la supervisione umana. Di seguito, analizzeremo come raggiungere concretamente questo equilibrio.

Prospettive future: il ruolo in evoluzione dell'intelligenza artificiale generativa nella sicurezza informatica

Guardando al futuro, l'intelligenza artificiale generativa è destinata a diventare parte integrante delle strategie di cybersicurezza, ma anche uno strumento che i cybercriminali continueranno a sfruttare. La dinamica del gatto e del topo si intensificherà, con l'IA schierata su entrambi i lati della barricata. Ecco alcune considerazioni prospettiche su come l'intelligenza artificiale generativa potrebbe plasmare la cybersicurezza nei prossimi anni:

• La difesa informatica potenziata dall'IA diventa standard: entro il 2025 e oltre, è prevedibile che la maggior parte delle organizzazioni di medie e grandi dimensioni integrerà strumenti basati sull'IA nelle proprie operazioni di sicurezza. Proprio come antivirus e firewall sono oggi standard, i sistemi di intelligenza artificiale e di rilevamento delle anomalie potrebbero diventare componenti di base delle architetture di sicurezza. È probabile che questi strumenti diventino più specializzati, ad esempio con modelli di IA specifici per la sicurezza del cloud, per il monitoraggio dei dispositivi IoT, per la sicurezza del codice applicativo e così via, tutti operanti in sinergia. Come prevede una teoria, "nel 2025, l'IA generativa sarà parte integrante della sicurezza informatica, consentendo alle organizzazioni di difendersi in modo proattivo da minacce sofisticate e in continua evoluzione" (Come può essere utilizzata l'IA generativa nella sicurezza informatica). L'IA migliorerà il rilevamento delle minacce in tempo reale, automatizzerà molte azioni di risposta e aiuterà i team di sicurezza a gestire volumi di dati enormemente maggiori rispetto a quanto potrebbero fare manualmente.

• Apprendimento e adattamento continui: i futuri sistemi di intelligenza artificiale generativa nel settore della sicurezza informatica miglioreranno la loro capacità di apprendere in tempo reale da nuovi incidenti e informazioni sulle minacce, aggiornando la propria base di conoscenza quasi in tempo reale. Ciò potrebbe portare a difese realmente adattive: immaginate un'IA che, al mattino, viene a conoscenza di una nuova campagna di phishing che ha colpito un'altra azienda e nel pomeriggio ha già adattato i filtri email della vostra azienda di conseguenza. I servizi di sicurezza basati sull'IA e sul cloud potrebbero facilitare questo tipo di apprendimento collettivo, in cui le informazioni anonimizzate provenienti da un'organizzazione vanno a vantaggio di tutti gli abbonati (simile alla condivisione di informazioni sulle minacce, ma automatizzata). Tuttavia, ciò richiederà un'attenta gestione per evitare la condivisione di informazioni sensibili e per impedire agli aggressori di immettere dati errati nei modelli condivisi.

• Convergenza tra talenti nel campo dell'IA e della sicurezza informatica: le competenze dei professionisti della sicurezza informatica si evolveranno fino a includere la conoscenza dell'IA e della scienza dei dati. Così come gli analisti di oggi imparano i linguaggi di interrogazione e di scripting, gli analisti di domani potrebbero perfezionare regolarmente i modelli di IA o scrivere "manuali operativi" per l'esecuzione dell'IA. Potremmo assistere alla nascita di nuovi ruoli come "Formatore sulla sicurezza dell'IA" o "Ingegnere di IA per la sicurezza informatica" : figure specializzate nell'adattare gli strumenti di IA alle esigenze di un'organizzazione, convalidarne le prestazioni e garantirne il funzionamento sicuro. D'altro canto, le considerazioni sulla sicurezza informatica influenzeranno sempre più lo sviluppo dell'IA. I sistemi di IA saranno progettati con funzionalità di sicurezza fin dalle fondamenta (architettura sicura, rilevamento di manomissioni, registri di controllo per le decisioni dell'IA, ecc.) e i framework per un'IA affidabile (equa, spiegabile, robusta e sicura) ne guideranno l'implementazione in contesti critici per la sicurezza.

• Attacchi più sofisticati basati sull'IA: Purtroppo, anche il panorama delle minacce si evolverà con l'IA. Prevediamo un utilizzo più frequente dell'IA per scoprire vulnerabilità zero-day, per creare attacchi di spear phishing altamente mirati (ad esempio, l'IA che analizza i social media per creare un'esca perfettamente su misura) e per generare voci o video deepfake convincenti per eludere l'autenticazione biometrica o perpetrare frodi. Potrebbero emergere agenti di hacking automatizzati in grado di eseguire autonomamente attacchi a più fasi (ricognizione, sfruttamento, movimento laterale, ecc.) con una supervisione umana minima. Ciò spingerà i difensori a fare affidamento anche sull'IA, essenzialmente automazione contro automazione. Alcuni attacchi potrebbero verificarsi alla velocità della macchina, come i bot basati sull'IA che provano migliaia di permutazioni di email di phishing per vedere quale riesce a superare i filtri. Le difese informatiche dovranno operare con una velocità e una flessibilità simili per stare al passo (Cos'è l'IA generativa nella sicurezza informatica? - Palo Alto Networks).

• Regolamentazione e IA etica nella sicurezza: con l'integrazione sempre più profonda dell'IA nelle funzioni di sicurezza informatica, aumenterà il controllo e, probabilmente, la regolamentazione per garantire un utilizzo responsabile di questi sistemi. Possiamo aspettarci framework e standard specifici per l'IA nella sicurezza. I governi potrebbero stabilire linee guida per la trasparenza, ad esempio richiedendo che decisioni di sicurezza importanti (come la revoca dell'accesso di un dipendente per sospetta attività dannosa) non possano essere prese esclusivamente dall'IA senza una revisione umana. Potrebbero inoltre essere introdotte certificazioni per i prodotti di sicurezza basati sull'IA, per garantire agli acquirenti che l'IA sia stata valutata in termini di bias, robustezza e sicurezza. Inoltre, potrebbe intensificarsi la cooperazione internazionale in materia di minacce informatiche legate all'IA; ad esempio, accordi sulla gestione della disinformazione creata dall'IA o norme contro determinate armi informatiche basate sull'IA.

• Integrazione con ecosistemi IT e di IA più ampi: l'IA generativa nella sicurezza informatica si integrerà probabilmente con altri sistemi di IA e strumenti di gestione IT. Ad esempio, un'IA che gestisce l'ottimizzazione della rete potrebbe collaborare con l'IA per la sicurezza per garantire che le modifiche non creino falle. L'analisi aziendale basata sull'IA potrebbe condividere dati con le IA per la sicurezza al fine di correlare le anomalie (come un improvviso calo delle vendite con un possibile problema del sito web dovuto a un attacco). In sostanza, l'IA non vivrà in un silo isolato, ma farà parte di un tessuto intelligente più ampio delle operazioni di un'organizzazione. Ciò apre opportunità per una gestione olistica del rischio, in cui dati operativi, dati sulle minacce e persino dati sulla sicurezza fisica potrebbero essere combinati dall'IA per fornire una visione a 360 gradi della postura di sicurezza dell'organizzazione.

A lungo termine, la speranza è che l'intelligenza artificiale generativa contribuisca a far pendere la bilancia a favore dei difensori. Gestendo la scala e la complessità dei moderni ambienti IT, l'IA può rendere il cyberspazio più difendibile. Tuttavia, si tratta di un percorso, e ci saranno delle difficoltà iniziali mentre affiniamo queste tecnologie e impariamo a fidarci di esse in modo appropriato. Le organizzazioni che si tengono informate e investono in un'adozione responsabile dell'IA per la sicurezza saranno probabilmente quelle meglio posizionate per affrontare le minacce del futuro.

Come evidenziato dal recente rapporto di Gartner sulle tendenze della sicurezza informatica, "l'emergere di casi d'uso (e rischi) di intelligenza artificiale generativa sta creando pressione per la trasformazione" (Cybersecurity Trends: Resilience Through Transformation - Gartner). Chi si adatterà sfrutterà l'IA come un potente alleato; chi rimarrà indietro potrebbe trovarsi superato da avversari potenziati dall'IA. I prossimi anni saranno cruciali per definire come l'IA rimodellerà il campo di battaglia cibernetico.

Aspetti pratici per l'adozione dell'intelligenza artificiale generativa nella sicurezza informatica

Per le aziende che stanno valutando come sfruttare l'intelligenza artificiale generativa nella propria strategia di sicurezza informatica, ecco alcuni spunti pratici e raccomandazioni per orientare un'adozione responsabile ed efficace:

1. Inizia con istruzione e formazione: assicurati che il tuo team di sicurezza (e in generale il personale IT) comprenda cosa può e non può fare l'IA generativa. Fornisci formazione sui fondamenti degli strumenti di sicurezza basati sull'IA e aggiorna i programmi di sensibilizzazione sulla sicurezza per tutti i dipendenti, in modo da coprire le minacce basate sull'IA. Ad esempio, spiega al personale come l'IA può generare truffe di phishing e chiamate deepfake molto convincenti. Allo stesso tempo, forma i dipendenti sull'uso sicuro e approvato degli strumenti di IA nel loro lavoro. Gli utenti ben informati hanno meno probabilità di gestire in modo improprio l'IA o di cadere vittime di attacchi potenziati dall'IA (Come può l'IA generativa essere utilizzata nella sicurezza informatica? 10 esempi concreti).

2. Definisci politiche chiare per l'utilizzo dell'IA: tratta l'IA generativa come qualsiasi altra tecnologia potente, con una governance adeguata. Sviluppa politiche che specifichino chi può utilizzare gli strumenti di IA, quali strumenti sono autorizzati e per quali scopi. Includi linee guida sulla gestione dei dati sensibili (ad esempio, non fornire dati riservati a servizi di IA esterni) per prevenire fughe di informazioni. Ad esempio, potresti consentire solo ai membri del team di sicurezza di utilizzare un assistente IA interno per la risposta agli incidenti, mentre il team marketing potrebbe utilizzare un'IA approvata per la creazione di contenuti; tutti gli altri sarebbero soggetti a restrizioni. Molte organizzazioni stanno ora affrontando esplicitamente l'IA generativa nelle proprie politiche IT e i principali organismi di standardizzazione incoraggiano politiche di utilizzo sicuro piuttosto che divieti assoluti (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Assicurati di comunicare queste regole e le motivazioni che le sottendono a tutti i dipendenti.

3. Mitigare l'“IA ombra” e monitorare l'utilizzo: analogamente all'IT ombra, l'“IA ombra” si verifica quando i dipendenti iniziano a utilizzare strumenti o servizi di IA all'insaputa del reparto IT (ad esempio, uno sviluppatore che utilizza un assistente di codice IA non autorizzato). Questo può introdurre rischi nascosti. Implementare misure per rilevare e controllare l'utilizzo non autorizzato dell'IA. Il monitoraggio della rete può segnalare le connessioni alle API di IA più diffuse e sondaggi o audit degli strumenti possono rivelare cosa viene utilizzato dal personale. Offrire alternative approvate in modo che i dipendenti benintenzionati non siano tentati di agire in modo scorretto (ad esempio, fornire un account ChatGPT Enterprise ufficiale se lo ritengono utile). Portando alla luce l'utilizzo dell'IA, i team di sicurezza possono valutare e gestire il rischio. Anche il monitoraggio è fondamentale: registrare il più possibile le attività e gli output degli strumenti di IA, in modo da avere una traccia di controllo per le decisioni influenzate dall'IA (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi reali).

4. Sfrutta l'IA a scopo difensivo: non restare indietro. È fondamentale riconoscere che gli aggressori utilizzeranno l'IA, quindi anche la tua difesa dovrebbe farlo. Individua alcune aree ad alto impatto in cui l'IA generativa potrebbe supportare immediatamente le tue operazioni di sicurezza (ad esempio, la gestione degli avvisi o l'analisi automatizzata dei log) e avvia progetti pilota. Potenzia le tue difese con la velocità e la scalabilità dell'IA per contrastare le minacce in rapida evoluzione (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi concreti). Anche semplici integrazioni, come l'utilizzo di un'IA per riassumere i report sui malware o generare query per la ricerca di minacce, possono far risparmiare ore agli analisti. Inizia in piccolo, valuta i risultati e itera. I successi rafforzeranno le argomentazioni a favore di un'adozione più ampia dell'IA. L'obiettivo è utilizzare l'IA come moltiplicatore di forza: ad esempio, se gli attacchi di phishing stanno sovraccaricando il tuo help desk, implementa un classificatore di email basato sull'IA per ridurre proattivamente il volume di tali attacchi.

5. Investi in pratiche di IA sicure ed etiche: quando implementi l'IA generativa, segui pratiche di sviluppo e distribuzione sicure. Utilizza modelli privati ​​o self-hosted per attività sensibili per mantenere il controllo sui dati. Se utilizzi servizi di IA di terze parti, esamina le loro misure di sicurezza e privacy (crittografia, politiche di conservazione dei dati, ecc.). Incorpora framework di gestione del rischio per l'IA (come il framework di gestione del rischio per l'IA del NIST o le linee guida ISO/IEC) per affrontare sistematicamente aspetti come bias, interpretabilità e robustezza nei tuoi strumenti di IA (Come può essere utilizzata l'IA generativa nella sicurezza informatica? 10 esempi reali). Pianifica anche aggiornamenti/patch dei modelli come parte della manutenzione: anche i modelli di IA possono avere "vulnerabilità" (ad esempio, potrebbero aver bisogno di essere riaddestrati se iniziano a deviare o se viene scoperto un nuovo tipo di attacco avversario al modello). Integrando sicurezza ed etica nell'utilizzo dell'IA, crei fiducia nei risultati e garantisci la conformità con le normative emergenti.

6. Coinvolgere gli esseri umani: utilizzare l'IA per assistere, non sostituire completamente, il giudizio umano nella sicurezza informatica. Definire i punti decisionali in cui è necessaria la convalida umana (ad esempio, un'IA potrebbe redigere un rapporto di incidente, ma un analista lo esamina prima della distribuzione; oppure un'IA potrebbe suggerire di bloccare un account utente, ma un essere umano approva tale azione). Questo non solo impedisce che gli errori dell'IA passino inosservati, ma aiuta anche il team ad apprendere dall'IA e viceversa. Incoraggiare un flusso di lavoro collaborativo: gli analisti dovrebbero sentirsi a proprio agio nel mettere in discussione gli output dell'IA ed eseguire verifiche di coerenza. Nel tempo, questo dialogo può migliorare sia l'IA (attraverso il feedback) sia le competenze degli analisti. In sostanza, progettare i processi in modo che i punti di forza dell'IA e degli esseri umani si completino a vicenda: l'IA gestisce il volume e la velocità, gli esseri umani gestiscono l'ambiguità e le decisioni finali.

7. Misurare, monitorare e adattare: infine, considerate i vostri strumenti di IA generativa come componenti dinamici del vostro ecosistema di sicurezza. Misuratene costantemente le prestazioni : stanno riducendo i tempi di risposta agli incidenti? Stanno individuando le minacce in anticipo? Qual è l'andamento del tasso di falsi positivi? Richiedete feedback al team: i suggerimenti dell'IA sono utili o stanno generando solo rumore? Utilizzate queste metriche per perfezionare i modelli, aggiornare i dati di addestramento o adattare il modo in cui l'IA è integrata. Le minacce informatiche e le esigenze aziendali si evolvono, e i vostri modelli di IA dovrebbero essere aggiornati o riaddestrati periodicamente per rimanere efficaci. Definite un piano per la governance dei modelli, specificando chi è responsabile della loro manutenzione e con quale frequenza vengono revisionati. Gestendo attivamente il ciclo di vita dell'IA, vi assicurate che rimanga una risorsa e non un problema.

In conclusione, l'IA generativa può migliorare significativamente le capacità di sicurezza informatica, ma un'adozione di successo richiede una pianificazione attenta e una supervisione continua. Le aziende che formano il proprio personale, stabiliscono linee guida chiare e integrano l'IA in modo equilibrato e sicuro raccoglieranno i frutti di una gestione delle minacce più rapida e intelligente. Questi spunti forniscono una tabella di marcia: combinare le competenze umane con l'automazione dell'IA, coprire le basi della governance e mantenere l'agilità mentre sia la tecnologia dell'IA che il panorama delle minacce evolvono inevitabilmente.

Adottando questi accorgimenti pratici, le organizzazioni possono rispondere con sicurezza alla domanda "Come può essere utilizzata l'IA generativa nella sicurezza informatica?" , non solo in teoria, ma nella pratica quotidiana, rafforzando così le proprie difese in un mondo sempre più digitale e guidato dall'IA. (Come può essere utilizzata l'IA generativa nella sicurezza informatica) 

Altri white paper che potresti voler leggere dopo questo:

🔗 Lavori che l'IA non può sostituire e lavori che l'IA sostituirà?
Scopri il panorama globale su quali ruoli sono al sicuro dall'automazione e quali no.

🔗 L'intelligenza artificiale può prevedere l'andamento del mercato azionario?
Un'analisi approfondita dei limiti, delle scoperte e dei miti che circondano la capacità dell'IA di prevedere i movimenti del mercato.

🔗 Cosa può fare l'IA generativa senza intervento umano?
Comprendere in quali ambiti l'IA può operare in modo indipendente e dove la supervisione umana è ancora essenziale.