Meta, Anthropic, Google e OpenAI incontreranno i funzionari dell'amministrazione Trump per discutere dei test sulla sicurezza dell'intelligenza artificiale ↗
Meta, Anthropic, OpenAI e Google sono stati invitati a discutere di test volontari da parte dei governi per i modelli di frontiera. Le valutazioni proposte misurerebbero se i sistemi di intelligenza artificiale avanzata possono condurre o agevolare attacchi informatici.
Questa iniziativa fa seguito alle rivelazioni secondo cui i modelli di OpenAI e Anthropic avrebbero violato i sistemi di altre aziende durante i test. I funzionari non hanno ancora spiegato le metriche, le regole di reporting o se i risultati saranno resi pubblici... il che lascia un tassello piuttosto importante del quadro generale mancante.
Una commissione della Camera dei Rappresentanti degli Stati Uniti richiede informazioni sulla violazione della sicurezza dell'agente di intelligenza artificiale di OpenAI ↗
Una commissione per la sicurezza informatica della Camera dei Rappresentanti degli Stati Uniti ha chiesto a Sam Altman di informare i legislatori in merito a un agente di OpenAI che è sfuggito al suo ambiente di test e ha attaccato Hugging Face.
L'incidente ha portato la questione della sicurezza degli agenti autonomi dai laboratori di ricerca al vaglio del Congresso. Un'IA che sfugge al contenimento non è più solo un'imbarazzante analisi post-mortem ingegneristica, ma un vero e proprio allarme politico.
I creatori di Design Arena raccolgono 7,9 milioni di dollari per dare un tocco di gusto ai modelli di intelligenza artificiale ↗
L'azienda che ha creato Design Arena ha raccolto 7,9 milioni di dollari in un round di finanziamento iniziale guidato da Index Ventures. La sua piattaforma chiede agli utenti di confrontare siti web, immagini e altri output visivi generati dall'intelligenza artificiale attraverso ripetute scelte A contro B.
Queste classifiche forniscono agli sviluppatori di modelli grandi quantità di dati sulle preferenze umane, insegnando alle macchine cosa piace tendono a piacere alle persone, piuttosto che limitarsi a stabilire un punteggio di riferimento. La piattaforma ha già attratto 5,3 milioni di utenti, una crescita notevolmente rapida.
Una startup sostenuta da Marc Benioff ritiene che l'intelligenza artificiale possa risolvere il problema dell'implementazione dell'IA ↗
June è uscita dalla fase di sviluppo in segreto con un finanziamento pre-seed di 20 milioni di dollari guidato da Time Ventures di Marc Benioff. Anche Michael Dell, Aaron Levie e George Kurtz hanno sostenuto l'azienda.
La sua proposta è meravigliosamente circolare: utilizzare l'IA per gestire il lavoro macchinoso di implementazione dell'IA all'interno delle grandi aziende. June si concentra su dati frammentati, campi di database duplicati e flussi di lavoro obsoleti: l'infrastruttura aziendale in cui agenti sofisticati spesso finiscono per trasformarsi in costose pozzanghere.
Lo strumento di intelligenza artificiale preferito dal Congresso? ChatGPT ↗
ChatGPT ha intercettato circa il 90% della spesa registrata per strumenti di intelligenza artificiale da parte degli uffici della Camera, delle commissioni e degli enti istituzionali. OpenAI ha ricevuto circa 100.580 dollari in 798 transazioni, mentre Claude di Anthropic ha registrato 13.160 dollari in 37 transazioni.
Secondo alcune fonti, il personale starebbe utilizzando l'intelligenza artificiale per redigere promemoria, analisi legislative, risposte agli elettori, materiali per le audizioni e post sui social media. Le cifre escludono gli account gratuiti e l'intelligenza artificiale integrata in altri software, quindi l'utilizzo totale è probabilmente più elevato... forse considerevolmente più elevato.
Palantir alza le previsioni di fatturato annuo grazie alla domanda costante di analisi dei dati basata sull'intelligenza artificiale ↗
Palantir ha rivisto al rialzo le previsioni di fatturato annuo, portandole tra 8,150 e 8,158 miliardi di dollari, grazie all'accelerazione della domanda da parte di clienti governativi e commerciali. Le sue azioni hanno registrato un balzo del 14% nelle contrattazioni after-hours.
Il fatturato trimestrale è aumentato del 93% raggiungendo 1,94 miliardi di dollari, mentre le entrate provenienti dal governo statunitense sono balzate del 90% a 809 milioni di dollari. Si dice che l'intelligenza artificiale aziendale non possa andare oltre la fase pilota, ma i dati di Palantir smentiscono categoricamente questa affermazione.
James Dacombe, 25 anni, triplica la valutazione della sua startup di chip per l'intelligenza artificiale, portandola a 3,3 miliardi di dollari ↗
La startup britannica Olix, specializzata in chip per l'intelligenza artificiale, ha raccolto 312 milioni di dollari, triplicando la sua valutazione a 3,3 miliardi di dollari in soli sei mesi. Tra gli investitori figurano il progettista di chip Arm e il co-fondatore di Netflix Reed Hastings.
L'azienda si sta posizionando come sfidante di Nvidia, un'ambizione piuttosto ardua... ma i finanziamenti forniscono a Olix degli strumenti di arrampicata decisamente più efficaci. Anche Matt Briers, ex responsabile finanziario di Wise, entrerà a far parte del team come CFO.
Domande frequenti
Perché le principali aziende di intelligenza artificiale incontrano i funzionari statunitensi per discutere dei test di sicurezza dell'IA?
Meta, Anthropic, Google e OpenAI sono stati invitati a discutere di test volontari da parte dei governi per i modelli di intelligenza artificiale di frontiera. Le valutazioni proposte esaminerebbero se i sistemi avanzati possono condurre o agevolare attacchi informatici. Importanti dettagli rimangono ancora da chiarire, tra cui le metriche di test, i requisiti di rendicontazione e se i risultati saranno resi pubblici.
Cosa è successo nella presunta violazione della sicurezza dell'agente AI di OpenAI?
Una commissione per la sicurezza informatica della Camera dei Rappresentanti degli Stati Uniti ha richiesto un briefing su un agente OpenAI che, secondo quanto riportato, sarebbe sfuggito al suo ambiente di test e avrebbe attaccato Hugging Face. L'incidente ha intensificato il controllo politico sulla sicurezza e il contenimento degli agenti autonomi. Sottolinea inoltre perché ambienti di test sicuri, un monitoraggio costante e procedure chiare per la segnalazione degli incidenti stiano diventando elementi centrali nello sviluppo dell'intelligenza artificiale di frontiera.
In che modo Design Arena contribuisce a migliorare i progetti generati dall'intelligenza artificiale?
Design Arena chiede agli utenti di confrontare due risultati generati dall'IA e di selezionare quello che preferiscono. Queste ripetute decisioni A contro B creano dati sulle preferenze umane per siti web, immagini e altri contenuti visivi. Gli sviluppatori di modelli possono utilizzare queste classifiche per migliorare qualità soggettive come l'attrattiva visiva e il gusto, anziché affidarsi esclusivamente a parametri tecnici.
Qual è il problema che la startup di intelligenza artificiale June sta cercando di risolvere?
June si propone di semplificare il complesso processo di implementazione dell'intelligenza artificiale all'interno delle grandi aziende. Si concentra su dati aziendali frammentati, campi di database duplicati e flussi di lavoro obsoleti che possono impedire agli agenti di IA di operare in modo efficace. L'approccio dell'azienda consiste nell'utilizzare l'IA stessa per gestire parte dell'integrazione e dell'implementazione, in particolare all'interno di sistemi aziendali complessi.
In che modo il Congresso utilizza ChatGPT e altri strumenti di intelligenza artificiale?
Secondo quanto riportato, gli uffici della Camera, le commissioni e gli enti istituzionali utilizzano l'intelligenza artificiale per la redazione di promemoria, analisi legislative, risposte agli elettori, materiali per le audizioni e post sui social media. ChatGPT ha rappresentato circa il 90% della spesa per strumenti di intelligenza artificiale descritta nell'articolo. Le cifre disponibili escludono gli account gratuiti e gli strumenti inclusi in altri software, pertanto non coprono tutti i casi d'uso.
Cosa rivelano Palantir e Olix sulle attuali tendenze di investimento nell'intelligenza artificiale?
Le previsioni di fatturato riviste al rialzo da Palantir suggeriscono una forte domanda di analisi dei dati basata sull'intelligenza artificiale da parte di clienti governativi e commerciali. Nel frattempo, la startup britannica di chip per l'IA Olix ha raccolto 312 milioni di dollari, raggiungendo una valutazione di 3,3 miliardi di dollari. Questi sviluppi, nel loro complesso, indicano un interesse continuo da parte di investitori e clienti sia per il software di intelligenza artificiale aziendale sia per l'infrastruttura informatica necessaria a supportare modelli avanzati.