OpenAI sospenderà alcune attività relative al modello di intelligenza artificiale Astra a causa di problemi di sicurezza ↗
OpenAI ha sospeso lo sviluppo interno di Astra, che non soddisfa i requisiti di sicurezza più rigorosi, dopo che alcune valutazioni hanno suggerito che le sue capacità informatiche potrebbero aver superato una soglia "critica". Secondo quanto riportato, l'agente sarebbe in grado di individuare e sfruttare vulnerabilità senza intervento umano, o di condurre attacchi da un obiettivo di alto livello. Sì... si tratta di un limite piuttosto serio da superare.
L'azienda sta rafforzando i test isolati, l'accesso alla rete e agli strumenti, la protezione del peso dei modelli, la crittografia e il monitoraggio. Astra non è stata coinvolta nel precedente incidente di OpenAI relativo a Hugging Face, ma il più ampio fenomeno degli agenti sempre più autonomi sta rendendo il contenimento una preoccupazione molto maggiore. (Fonte: The Guardian)
Apple afferma che gli utenti Mac in Cina possono connettersi al servizio di intelligenza artificiale Qwen di Alibaba ↗
Gli utenti Mac idonei nella Cina continentale possono ora collegare Qwen di Alibaba a Siri e agli Strumenti di scrittura di Apple. Ciò significa risposte più dettagliate, analisi di documenti e immagini, oltre alla generazione di testo e immagini a partire dalle descrizioni.
Si tratta di un connubio interessante, a dire il vero: Apple ottiene un modo conforme alle normative locali per implementare funzionalità di intelligenza artificiale più avanzate in un mercato dei PC estremamente competitivo, mentre Alibaba integra Qwen molto più profondamente nell'ecosistema di qualcun altro. Apple afferma che il materiale inviato tramite l'estensione non può essere utilizzato da Alibaba per addestrare i propri modelli. (Fonte: Reuters)
Google DeepMind entra in una nuova era: il co-fondatore Demis Hassabis cambia ruolo nell'ambito dell'intelligenza artificiale ↗
Demis Hassabis lascia la guida operativa di DeepMind per assumere la carica di presidente e, al contempo, quella di responsabile scientifico di Alphabet. Il suo collega di lunga data, Koray Kavukcuoglu, prende il controllo operativo come vicepresidente senior anziché come CEO: un sottile cambio di titolo, ma significativo.
Il rimpasto si inserisce in un contesto di altre importanti partenze di ricercatori e solleva interrogativi sul fatto che DeepMind stia perdendo la sua indipendenza e si stia integrando sempre più nel sistema commerciale di intelligenza artificiale di Google. Google nega che il cambiamento sia collegato alle prestazioni competitive di Gemini. (Fonte: The Guardian)
Un numero crescente di bambini nel Regno Unito afferma di aver visto deepfake espliciti che li ritraggono ↗
Nel Regno Unito, le segnalazioni da parte di bambini riguardanti immagini esplicite, false o manipolate che li ritraggono sono aumentate vertiginosamente. Report Remove ha ricevuto 420 segnalazioni in soli sei mesi, superando già il totale annuo precedente di 397. Gli strumenti di "nudificazione" basati sull'intelligenza artificiale rendono il problema terribilmente più facile da diffondere su larga scala.
Secondo la Internet Watch Foundation, molte delle immagini manipolate segnalate erano talmente gravi da superare la soglia del materiale pedopornografico. Alcune vittime sono state anche prese di mira per estorsione a sfondo sessuale, trasformando un'immagine generata dall'intelligenza artificiale in un'arma molto concreta. (Fonte: The Guardian)
Secondo un sondaggio, le funzionalità basate sull'intelligenza artificiale stanno crescendo più rapidamente del valore aziendale ↗
Le aziende di software aziendale stanno rilasciando a ritmo serrato funzionalità basate sull'intelligenza artificiale, ma i clienti non le utilizzano necessariamente. In un sondaggio condotto su oltre 260 aziende di software verticali, il 51% ha affermato che meno di un quarto dei propri clienti utilizzava le funzionalità di intelligenza artificiale sviluppate. Un po' imbarazzante dopo tutto quello che hanno fatto per implementarle...
Il collo di bottiglia sembra risiedere meno nelle capacità dell'IA e più nell'integrazione, nella sicurezza, nella privacy, nelle modifiche ai flussi di lavoro e nella dimostrazione di un valore aziendale concreto. Un fenomeno particolarmente peculiare è il "tokenmaxxing", ovvero un elevato consumo di IA che appare impressionante su una dashboard senza prove evidenti di un effettivo miglioramento dei risultati. (Fonte: Forbes)
L'intelligenza artificiale sta cambiando il mondo del lavoro più velocemente di quanto i dati riescano a stare al passo ↗
Il dibattito sul legame tra IA e posti di lavoro si sta facendo sempre più complesso, anziché più chiaro. Uno studio condotto su oltre 21.000 aziende statunitensi ha rilevato che le imprese che hanno adottato maggiormente l'IA hanno registrato un aumento complessivo del personale del 10% e delle assunzioni di figure entry-level del 12%, mentre le imprese che l'hanno adottata in misura minore non hanno mostrato alcuna crescita del personale.
Altre ricerche, tuttavia, hanno rilevato pressioni occupazionali tra i lavoratori più giovani nei ruoli esposti all'IA, e gli economisti avvertono che le aziende in crescita possono ancora assumere personale mentre l'IA trasforma le professioni nell'economia in generale. Quindi, l'IA sta distruggendo posti di lavoro e creandone... o almeno così vorrebbero farci credere i dati contrastanti. (Fonte: Fortune)
Domande frequenti
Quali sono le principali novità nel campo dell'intelligenza artificiale al momento?
Le recenti notizie sull'intelligenza artificiale evidenziano diversi temi ricorrenti: maggiori capacità autonome, controlli di sicurezza più rigorosi, integrazioni più profonde tra le piattaforme, cambiamenti ai vertici, rischi per la sicurezza online e incertezza sul valore commerciale. OpenAI sta rafforzando le misure di sicurezza intorno ad Astra, Apple sta integrando Qwen con i Mac in Cina e DeepMind sta cambiando la sua leadership. Allo stesso tempo, crescono le preoccupazioni relative ai deepfake, all'adozione aziendale e all'impatto dell'IA sul mercato del lavoro.
Perché OpenAI ha sospeso parte dei lavori su Astra?
Secondo alcune fonti, OpenAI ha sospeso lo sviluppo interno del modello Astra, che non soddisfaceva i requisiti di sicurezza più rigorosi, dopo che le valutazioni avevano suggerito che le capacità informatiche del modello potessero aver raggiunto un livello critico. Il timore è che un agente avanzato possa potenzialmente scoprire e sfruttare le vulnerabilità con un intervento umano limitato o nullo. In risposta, OpenAI sta rafforzando i test isolati, i controlli di accesso, la crittografia, il monitoraggio e le protezioni relative ai pesi del modello.
Come funzionerà Alibaba Qwen con i Mac Apple in Cina?
Gli utenti Mac idonei nella Cina continentale possono collegare il servizio Qwen di Alibaba a Siri e agli Strumenti di scrittura di Apple. L'integrazione può supportare risposte più dettagliate, analisi di documenti e immagini e la generazione di testo o immagini a partire da descrizioni. Per Apple, l'accordo offre un percorso conforme alle normative locali per funzionalità di intelligenza artificiale più avanzate, mentre Alibaba ottiene un accesso più profondo all'ecosistema Apple. Apple afferma che il materiale inviato non può essere utilizzato per addestrare i modelli di Alibaba.
Che impatto avrà il cambio al vertice di DeepMind su Google AI?
Demis Hassabis si sta allontanando dalla gestione quotidiana di DeepMind per assumere la carica di presidente e di responsabile scientifico di Alphabet. Koray Kavukcuoglu assumerà il controllo operativo in qualità di vicepresidente senior. Questo cambiamento ha sollevato interrogativi sulla possibile maggiore integrazione di DeepMind con le più ampie attività commerciali di intelligenza artificiale di Google, sebbene Google respinga le ipotesi secondo cui il rimpasto sia legato alle prestazioni competitive di Gemini.
Perché i deepfake basati sull'intelligenza artificiale stanno diventando una preoccupazione sempre maggiore per la sicurezza dei bambini?
Gli strumenti di manipolazione delle immagini basati sull'intelligenza artificiale possono facilitare la creazione su larga scala di immagini false, realistiche ed esplicite. Nel Regno Unito, sempre più bambini segnalano immagini manipolate o falsificate che li ritraggono, e alcuni casi sono stati così gravi da rientrare nella categoria del materiale pedopornografico. Queste immagini possono essere utilizzate anche per estorsioni a sfondo sessuale, il che significa che un'immagine falsificata può comunque causare danni considerevoli alla reputazione, alla sfera emotiva e finanziaria.
Le imprese e i lavoratori stanno già traendo vantaggio dall'intelligenza artificiale?
Le ultime notizie sull'IA suggeriscono che la risposta è complessa. Molte aziende di software stanno aggiungendo funzionalità di IA più velocemente di quanto i clienti le adottino, e l'integrazione, la privacy, la sicurezza e la misurabilità del valore aziendale rimangono ostacoli importanti. Anche i dati sull'occupazione sono altrettanto complessi: alcune aziende con un'elevata adozione dell'IA stanno ampliando le assunzioni, mentre altre ricerche indicano una pressione sui lavoratori più giovani nei ruoli esposti all'IA. L'impatto complessivo dipende in larga misura dal settore, dal flusso di lavoro e dalle modalità di implementazione dell'IA.