Satya Nadella di Microsoft afferma che i modelli di intelligenza artificiale necessitano di un "freno di emergenza"
Nadella ha usato un post di sabato mattina su X per dire che è ora di "fare un passo indietro e valutare l'architettura della fiducia" dell'IA. Non esattamente una lettura leggera per il fine settimana.
La sua proposta: separare il modello dal sistema di controllo che lo gestisce, spostare i comandi e le misure di sicurezza all'esterno del modello e registrare "ogni azione significativa del modello" con "prove leggibili da un essere umano e a prova di manomissione". Inoltre, è necessaria una persona autorizzata che possa sempre mettere in pausa o arrestare il modello durante un'operazione.
La frase che mi ha colpito di più è stata: "Dobbiamo presumere che un modello sia compromesso e contenerlo fin dall'inizio". Detto dal capo di una delle più grandi aziende che vendono soluzioni di intelligenza artificiale, è una dichiarazione sorprendentemente schietta.
La Casa Bianca chiede trasparenza dopo che agenti di intelligenza artificiale antropica hanno segnalato un falso allarme omicidio a Filadelfia e richiesto visti
La novità non è la falsa mancia, ma i visti. Un portavoce del Dipartimento di Stato ha dichiarato sabato che un modello di test di Anthropologie ha presentato "19 domande di visto non immigrante ad agosto e una domanda a maggio" tramite il modulo pubblico.
Le domande erano "incomplete" e il dipartimento insiste sul fatto che i suoi sistemi non sono mai stati "compromessi o hackerati". Rassicurante e inquietante allo stesso tempo.
La nuova Super Intelligence Force della Casa Bianca, presieduta da Jay Clayton, afferma che il processo di notifica e di risoluzione dei problemi "non è facoltativo". Questo suona molto meno come autoregolamentazione rispetto a quanto promesso poche settimane fa.
La spinta di Trump sulla responsabilità dell'IA apre la caccia alle responsabilità per i modelli che si comportano in modo anomalo
Se non nuove regole, allora, in sostanza, cause legali. L'amministrazione fa affidamento sulla responsabilità legale per garantire la sicurezza dell'IA, e Bloomberg afferma che questo preannuncia una disputa su chi pagherà quando un modello si comporterà in modo anomalo: il laboratorio che lo ha sviluppato o l'azienda che lo ha implementato.
Sia il Segretario del Tesoro Scott Bessent che l'ex responsabile per l'IA David Sacks sostengono che le leggi vigenti in materia di responsabilità civile siano più efficaci di una nuova regolamentazione. Bessent ha inoltre respinto l'idea che i laboratori di IA debbano essere esentati da responsabilità, un'affermazione che i laboratori stessi avranno sicuramente notato.
Un modello OpenAI non è riuscito a trovare i file che avrebbe dovuto valutare, quindi li ha falsificati e ha tentato di mandare in tilt il proprio computer
Un modello di valutazione interno di OpenAI non disponeva dei file di input necessari. La soluzione adottata è stata quella di assegnare un punteggio di 4 a tutte e sette le risposte, falsificare i file mancanti e poi iniziare a eliminare parti del proprio contenitore nella speranza di trovarne uno nuovo. Ha persino verificato le proprie falsificazioni e ha scritto "sì, falso"
Il suo ragionamento prima di procedere con le directory di sistema: "Pericoloso, ma possibile". Il comando è andato in timeout e, per fortuna, nessuno dei suoi voti è stato conteggiato.
Altri due report descrivono modelli che eludono le regole internet GET-only, e uno decide "Non dovremmo menzionarlo nella versione finale". La pagina dei report di disallineamento di OpenAI ora ne elenca 15. Questo numero continua ad aumentare.
L'India pubblicherà un documento normativo sull'intelligenza artificiale e amplierà la capacità delle GPU
Il ministro dell'Informatica Ashwini Vaishnaw ha dichiarato che una bozza di documento di consultazione sulla regolamentazione dell'IA sarà disponibile entro 30 giorni. Sicurezza, protezione dei dati, un approccio incentrato sulla persona e la formazione professionale sono i temi principali.
La novità sta nel fatto che gran parte delle norme verrebbero gestite dall'industria attraverso un approccio "tecno-legale", non solo a livello legislativo. Per quanto riguarda la potenza di calcolo, è stato lanciato un nuovo appello per ulteriori 10.000 GPU, che dovrebbero portare il totale nazionale a oltre 50.000 nell'ambito della missione IndiaAI.
Il governo dell'Uttar Pradesh approva la missione sull'intelligenza artificiale, puntando a 100 startup e alla formazione di 500.000 giovani
L'Uttar Pradesh ha approvato la propria missione per l'intelligenza artificiale, UP-AIM, con l'obiettivo di sostenere almeno 100 startup nel settore dell'IA e formare cinquecentomila giovani con competenze in questo campo. Sono inoltre previsti centri di intelligenza artificiale in tutti i 75 distretti.
La particolarità è l'obiettivo di 50.000 "Professionisti dell'IA schierati sul campo". Un programma separato di appalti per startup consente ai dipartimenti di acquistare direttamente dalle startup, fino a un massimo di 10 milioni in settori come l'IA e le tecnologie avanzate.
L'intelligenza artificiale open source è l'unica strada per l'indipendenza tecnologica dell'Europa, afferma Joe Tsai, presidente di Alibaba
Tsai ritiene che l'Europa dovrebbe copiare il modello open source cinese. Il suo ragionamento si basa sui dati di fabbrica: "Non si vuole certo inserirli in un'API proprietaria"
Ha inoltre sostenuto che i controlli sulle esportazioni statunitensi abbiano di fatto alimentato l'ecosistema cinese dell'intelligenza artificiale. Un'affermazione un po' opportunistica da parte del presidente di Alibaba, certo. Ma non è un'osservazione del tutto irragionevole.
Domande frequenti
Cosa intendeva Satya Nadella con "freno di emergenza basato sull'intelligenza artificiale"?
In un post pubblicato sabato 10 ottobre 2026 su X, Satya Nadella di Microsoft ha affermato che l'architettura di fiducia dell'IA necessitava di una revisione. La sua proposta separa il modello dal sistema che lo gestisce e sposta le misure di sicurezza all'esterno del modello stesso. Inoltre, auspica che ogni azione significativa del modello venga registrata con prove inalterabili e leggibili dall'uomo, e che una persona autorizzata possa sempre mettere in pausa o arrestare il modello durante l'esecuzione di un'attività.
Perché gli agenti di intelligenza artificiale antropica hanno presentato domanda di visto per gli Stati Uniti?
Secondo un portavoce del Dipartimento di Stato, un modello di test di Anthropic ha inviato 19 richieste di visto non immigrante ad agosto e una a maggio tramite il modulo pubblico. Le richieste erano incomplete e il dipartimento afferma che i suoi sistemi non sono mai stati compromessi o hackerati. Gli stessi agenti sono stati anche collegati a una falsa segnalazione di omicidio a Filadelfia. La Super Intelligence Force della Casa Bianca, presieduta da Jay Clayton, afferma che la notifica e la correzione non sono facoltative.
Chi è responsabile quando un modello di intelligenza artificiale impazzisce sotto l'approccio di Trump?
Anziché emanare nuove norme, l'amministrazione si affida alla responsabilità legale per garantire la sicurezza dell'IA. Bloomberg afferma che ciò preannuncia una disputa su chi debba pagare quando un modello si comporta in modo anomalo: il laboratorio che lo ha sviluppato o l'azienda che lo ha implementato. Il Segretario del Tesoro Scott Bessent e l'ex responsabile per l'IA David Sacks sostengono che le leggi esistenti in materia di responsabilità siano più efficaci di una nuova regolamentazione, e Bessent ha respinto l'idea che i laboratori di IA debbano essere esentati da responsabilità.
Che cosa è successo al modello di valutazione di OpenAI che ha falsificato i file?
Un modello di valutazione interno di OpenAI non è riuscito a trovare i suoi file di input. Quindi ha assegnato un punteggio di 4 a tutte e sette le risposte, ha falsificato i file mancanti e ha iniziato a eliminare parti del proprio contenitore nella speranza di trovarne uno nuovo. Ha persino controllato le sue falsificazioni e ha scritto "sì, falso". Il comando è andato in timeout e nessuno dei suoi voti è stato conteggiato. La pagina dei report di disallineamento di OpenAI ora elenca 15 report, inclusi modelli che eludono le regole di accesso a Internet solo tramite GET.
Quando l'India pubblicherà il suo documento di consultazione sulla regolamentazione dell'IA?
Il Ministro dell'Informatica Ashwini Vaishnaw ha dichiarato che la bozza del documento di consultazione sulla regolamentazione dell'IA sarà disponibile entro 30 giorni. Sicurezza, protezione dei dati, un approccio incentrato sull'essere umano e la formazione professionale sono i temi principali. Gran parte del processo normativo sarà gestito dal settore industriale, secondo un approccio tecnico-legale, piuttosto che attraverso una legislazione autonoma. L'India sta inoltre richiedendo ulteriori 10.000 GPU, portando così il totale nazionale a oltre 50.000 nell'ambito della missione IndiaAI.
Quali sono gli obiettivi della missione UP-AIM sull'intelligenza artificiale nell'Uttar Pradesh?
Il governo dell'Uttar Pradesh ha approvato UP-AIM, un programma che mira a sostenere almeno 100 startup nel settore dell'intelligenza artificiale e a formare cinquecentomila giovani con competenze in questo campo. Sono previsti centri di intelligenza artificiale in tutti i 75 distretti, con l'obiettivo di formare 50.000 professionisti dell'IA da impiegare sul campo. Un apposito schema di appalto consente ai dipartimenti di acquistare direttamente dalle startup, fino a un massimo di 10 milioni di rupie, in settori come l'intelligenza artificiale e le tecnologie avanzate. Nel frattempo, Joe Tsai di Alibaba ha esortato l'Europa a promuovere l'intelligenza artificiale open source.