⚖️ Anthropic fa causa per bloccare l'inserimento nella lista nera del Pentagono a causa delle restrizioni sull'uso dell'intelligenza artificiale ↗
Anthropic ha portato in tribunale la sua disputa con il Pentagono dopo essere stata etichettata come un rischio per la catena di approvvigionamento. L'azienda sostiene che la mossa sia stata una ritorsione illegale per essersi rifiutata di allentare le restrizioni sulle armi autonome e sulla sorveglianza interna, il che rende questa controversia uno dei punti critici più esplosivi nel panorama politico dell'IA al momento. ( Reuters )
Il governo auspica flessibilità per "qualsiasi utilizzo lecito", mentre Anthropic sostiene che ai laboratori privati dovrebbe comunque essere consentito di stabilire rigidi limiti di sicurezza. Questa è diventata una delle prove più evidenti finora per stabilire se un'azienda di intelligenza artificiale possa rifiutare le condizioni imposte dal settore militare senza esserne sopraffatta. ( Reuters )
🧑💻 I dipendenti di OpenAI e Google sostengono la causa intentata da Anthropic contro il Pentagono ↗
Quella causa legale ha rapidamente ottenuto il sostegno anche di laboratori rivali. Quasi 40 dipendenti di OpenAI e Google hanno appoggiato Anthropic in un parere legale, sostenendo che ritorsioni contro le aziende per violazioni dei limiti di sicurezza dell'IA vanno contro l'interesse pubblico. ( The Verge )
Ebbene sì, i concorrenti si sono improvvisamente ritrovati dalla stessa parte, almeno su questo punto. Il brief si concentra sulla sorveglianza di massa e sulle armi autonome inaffidabili, il che fa sì che l'intera vicenda sembri meno una normale schermaglia tra aziende della Silicon Valley e più una vera e propria linea di demarcazione nel settore... o forse nel fango. ( The Verge )
🛡️ OpenAI acquisisce Promptfoo per proteggere i suoi agenti di intelligenza artificiale ↗
OpenAI ha annunciato l'acquisizione di Promptfoo, una startup specializzata nella protezione di modelli linguistici complessi da attacchi avversari. L'obiettivo è integrare la sua tecnologia in OpenAI Frontier, la piattaforma aziendale di OpenAI per agenti di intelligenza artificiale. ( TechCrunch )
Si tratta di una mossa significativa. Tutti desiderano che l'IA agentiva faccia di più, più velocemente e ovunque, ma il settore della sicurezza è rimasto indietro, in misura maggiore o minore. Questo accordo suggerisce che OpenAI ritenga che la prossima grande sfida non sia solo quella di creare agenti più intelligenti, ma anche più sicuri. ( TechCrunch )
🧪 Anthropic lancia uno strumento di revisione del codice per controllare l'ondata di codice generato dall'IA ↗
Anthropic ha lanciato Code Review all'interno di Claude Code, una funzionalità pensata per i team sommersi dalle pull request generate dagli strumenti di programmazione basati sull'intelligenza artificiale. Il sistema utilizza più agenti in parallelo per analizzare il codice, segnalare problemi di logica, classificarne la gravità e lasciare commenti direttamente su GitHub. ( TechCrunch )
L'idea è piuttosto semplice: l'IA genera codice più velocemente di quanto gli esseri umani possano esaminarlo in modo sensato, quindi ora l'IA deve esaminare l'IA stessa. Un meccanismo un po' paradossale, ma pratico. Anthropic afferma di rivolgersi agli utenti aziendali che già ricevono enormi quantità di codice da Claude Code. ( TechCrunch )
💰 Nscale, azienda sostenuta da Nvidia, ha raggiunto una valutazione di 14,6 miliardi di dollari in un nuovo round di finanziamento ↗
Nscale, azienda britannica specializzata in infrastrutture per l'intelligenza artificiale, ha raccolto 2 miliardi di dollari in un round di finanziamento di Serie C, raggiungendo una valutazione di 14,6 miliardi di dollari. Tra gli investitori figurano Aker, 8090 Industries, Nvidia, Citadel, Dell e Jane Street, il che rappresenta un notevole voto di fiducia. ( Reuters )
Questo caso è importante perché non si tratta del lancio di un nuovo modello o di una semplice modifica a un chatbot. Rappresenta il lato pratico e concreto del boom: potenza di calcolo, infrastrutture, capacità, tutti i macchinari pesanti che si celano dietro le quinte. Forse non è un aspetto glamour, ma è lì che si sta riversando gran parte del denaro. ( Reuters )
🧠 AMI Labs di Yann LeCun raccoglie 1,03 miliardi di dollari per costruire modelli globali ↗
La nuova impresa di Yann LeCun, AMI Labs, ha raccolto 1,03 miliardi di dollari con una valutazione pre-money di 3,5 miliardi di dollari. L'azienda sta sviluppando "modelli globali", ovvero sistemi di intelligenza artificiale progettati per apprendere dalla realtà stessa piuttosto che principalmente dal linguaggio. ( TechCrunch )
Si tratta di un attacco filosofico diretto all'attuale consenso fortemente incentrato sui modelli linguistici (LLM), e anche piuttosto diretto. LeCun sostiene da anni che i modelli linguistici odierni non ci porteranno fino a raggiungere un'intelligenza di livello umano, quindi questo aumento di capitale trasforma tale tesi in un esperimento molto costoso. ( TechCrunch )
🇨🇳 I centri tecnologici cinesi promuovono l'agente AI OpenClaw nonostante gli avvertimenti sulla sicurezza ↗
Diversi governi locali cinesi stanno supportando OpenClaw, un agente basato sull'intelligenza artificiale che si sta diffondendo rapidamente nonostante le preoccupazioni per la sicurezza legate al suo accesso ai dati personali. Quindi l'orientamento ufficiale sembra essere: sì, ci sono dei rischi, ma sì, procediamo comunque su larga scala. ( Reuters )
Questa spaccatura è il punto cruciale. Gli hub locali vogliono i vantaggi economici e lo slancio dell'ecosistema, mentre le autorità di regolamentazione mettono in guardia contro l'esposizione dei dati. È ormai uno schema tipico dell'IA: prima si corre a tutta velocità, poi si sistemano i meccanismi di sicurezza, o almeno così sembra. ( Reuters )
Domande frequenti
Perché Anthropologie ha intentato causa al Pentagono per le restrizioni sull'uso dell'intelligenza artificiale?
Anthropic afferma che il Pentagono l'ha etichettata come un rischio per la catena di approvvigionamento dopo che l'azienda si è rifiutata di accettare condizioni più ampie che avrebbero potuto estendersi alle armi autonome e alla sorveglianza interna. Ciò significa che la causa legale riguarda più del semplice status di fornitore. Si tratta di verificare se un laboratorio di intelligenza artificiale possa mantenere rigorosi limiti di sicurezza e al contempo competere per appalti governativi senza essere penalizzato.
Perché i dipendenti di OpenAI e Google sostengono Anthropic in questa controversia sulla sicurezza dell'IA?
Il parere legale presentato dagli amicus curiae indica che molti esperti all'interno di laboratori concorrenti considerano questa vicenda una questione di sicurezza dell'IA che potrebbe creare un precedente, e non semplicemente una disputa tra un'azienda e un'agenzia. La loro preoccupazione è che punire un fornitore per aver mantenuto delle linee rosse potrebbe spingere il mercato in generale ad indebolire le misure di sicurezza. In pratica, ciò potrebbe influenzare le modalità di negoziazione dei futuri contratti nel settore della difesa e in quello pubblico per l'IA.
Quali cambiamenti potrebbe apportare il caso Anthropic-Pentagono alle politiche sull'IA e ai contratti di difesa?
Se Anthropic vincerà, le aziende di intelligenza artificiale potrebbero avere una posizione più forte per definire gli usi inaccettabili anche quando vendono a enti governativi sensibili. Se perderà, le agenzie potrebbero acquisire maggiore potere contrattuale per richiedere ai fornitori termini più ampi in merito all'"uso lecito". In entrambi i casi, questa controversia influenzerà probabilmente il linguaggio degli appalti, le valutazioni del rischio e il modo in cui le clausole di salvaguardia vengono inserite negli accordi di difesa.
Perché OpenAI ha acquistato Promptfoo per gli agenti di intelligenza artificiale?
Promptfoo è nota per testare modelli linguistici complessi contro prompt avversari e altre vulnerabilità di sicurezza. L'integrazione di questo tipo di strumenti nella piattaforma di agenti aziendali di OpenAI suggerisce che l'azienda consideri una distribuzione più sicura come un vantaggio competitivo piuttosto che un'attività secondaria. Man mano che gli agenti IA assumono compiti più sostanziali, i test di resilienza e di resistenza agli abusi diventano molto più difficili da ignorare.
Come possono i team gestire in modo più sicuro l'enorme quantità di codice generato dall'intelligenza artificiale?
La nuova funzionalità di revisione del codice di Anthropic, integrata in Claude Code, è pensata per i team sommersi dalle pull request generate dagli strumenti di programmazione basati sull'intelligenza artificiale. Utilizza più agenti in parallelo per individuare problemi di logica, classificarne la gravità e lasciare commenti su GitHub. In genere, strumenti come questo aiutano a gestire il volume di lavoro, ma i revisori umani rimangono fondamentali per l'architettura, il contesto e l'approvazione finale.
Perché le infrastrutture per l'intelligenza artificiale stanno ricevendo così tanti investimenti proprio ora?
L'ultimo round di finanziamento di Nscale evidenzia come l'industria dell'IA continui a investire ingenti capitali in potenza di calcolo, infrastrutture e capacità. Questa spesa, pur essendo meno visibile rispetto al lancio di un modello di punta, è alla base di tutto il resto. Quando la domanda di formazione e implementazione continua a crescere, le aziende che offrono gli strumenti necessari spesso si rivelano tra le più avvantaggiate.
Cosa sono i modelli globali e perché Yann LeCun ci scommette?
I modelli del mondo sono sistemi di intelligenza artificiale progettati per apprendere dal comportamento del mondo, anziché basarsi principalmente sui dati linguistici. Questo è importante perché Yann LeCun sostiene da tempo che i modelli linguistici da soli difficilmente raggiungeranno un livello di intelligenza pari a quello umano. AMI Labs trasforma questa visione in una grande scommessa commerciale su un percorso diverso per la ricerca avanzata nell'IA.
Perché i centri tecnologici cinesi continuano a sostenere OpenClaw nonostante gli avvertimenti sulla sicurezza?
La vicenda di OpenClaw mette in luce una spaccatura ricorrente nei mercati tecnologici in rapida evoluzione: le amministrazioni locali auspicano crescita, sussidi e slancio dell'ecosistema, mentre le autorità di regolamentazione sono preoccupate per l'esposizione dei dati e la sicurezza. Il sostegno all'agente nonostante gli avvertimenti suggerisce che in alcuni contesti prevalgano gli incentivi economici. Per gli osservatori, è un'ulteriore conferma che l'adozione spesso procede più velocemente della supervisione.