Questa settimana ha visto progressi significativi nel campo dell'intelligenza artificiale, segnati da una tappa storica per i veicoli autonomi, dall'arrivo di un nuovo potente modello di IA open-source e da un dibattito controverso sul ruolo dell'IA nella sicurezza informatica. Questi eventi evidenziano una tecnologia che si sta rapidamente spostando dai laboratori di ricerca alle applicazioni reali, portando sia opportunità senza precedenti che nuove e complesse sfide.

Rivoluzionare il trasporto autonomo: per la prima volta, Waymo porta i clienti in autostrada senza conducente

In un momento storico per la tecnologia della guida autonoma, la Waymo diventa la prima azienda a distribuire taxi senza conducente completamente autonomi sulle autostrade statunitensi. Il servizio, ora disponibile per i clienti paganti di Phoenix, San Francisco e Los Angeles, può ridurre i tempi di percorrenza fino a 50 % utilizzando strade ad alta velocità. Questo successo è il culmine di milioni di chilometri di test su strade pubbliche, circuiti chiusi e simulazioni. Un ostacolo fondamentale è stato la gestione dell„“impatto psicologico" sui passeggeri che hanno perso il controllo a 105 km/h, una sfida che il co-fondatore di Waymo ha esplicitamente riconosciuto. L'azienda, che vanta un record di sicurezza con 91 % di incidenti con lesioni in meno rispetto ai conducenti umani in scenari analoghi, sta ora pianificando una grande espansione in città come Dallas, Detroit e Londra.

Kimi K2: nuovo concorrente open-source

Nel frattempo, un nuovo potente concorrente è emerso sulla scena della modellazione AI. L'azienda Moonshot AI vydala Kimi K2 Thinking, Un modello open-source con un trilione di parametri che compete con i sistemi proprietari di fascia alta nei compiti „ad agenti“, cioè quelli che richiedono ragionamenti e strumenti in più fasi. La sua architettura unica gli consente di alternare il ragionamento e l'azione, fermandosi a „pensare“ tra una scelta e l'altra degli strumenti, consentendogli di risolvere un problema matematico avanzato attraverso 23 diverse fasi di ragionamento e azione. Il modello è stato messo a punto utilizzando una precisione di 4 bit, che lo rende più veloce e può essere eseguito su hardware più economico, Un vantaggio significativo nei mercati con accesso limitato ai chip avanzati.

La controversia sugli attacchi informatici condotti con l'intelligenza artificiale

Questa settimana c'è stata anche una grande controversia. Anthropic ha dichiarato di aver sventato il primo cyberattacco su larga scala condotto con un intervento umano minimo., presumibilmente effettuato da hacker sponsorizzati dallo Stato cinese utilizzando la sua intelligenza artificiale Claude Code. L'azienda ha dichiarato che l'intelligenza artificiale ha eseguito 80-90 passaggi tecnici %. Tuttavia, questa affermazione ha suscitato un forte scetticismo da parte di ricercatori indipendenti di cybersicurezza. Essi sostengono che gli attuali agenti di IA non sono ancora in grado di eseguire autonomamente attacchi così complessi, sottolineando che gli strumenti utilizzati erano comuni e che l'IA ha známou tendenci "halucinovat" fakta, che la rende un hacker inaffidabile. Questo evento ha scatenato un dibattito fondamentale sulle capacità reali dell'IA nella sicurezza informatica e sulla linea sottile che separa la dimostrazione della potenza di un prodotto dalla diffusione della paura.

Pur concordando sul fatto che l'IA può accelerare compiti come l'analisi dei log e il reverse engineering, hanno rilevato che gli agenti dell'IA non sono ancora in grado di eseguire compiti in più fasi senza l'intervento umano e che i cyberattacchi non si automatizzano in modo molto più efficiente rispetto agli strumenti di hacking disponibili da decenni. „Gli aggressori non stanno inventando nulla di nuovo“.“ ha dichiarato il ricercatore Kevin Beaumont in un forum sulla sicurezza online.

Secondo Anthropic, oltre a Claude Code, gli hacker hanno utilizzato comuni strumenti open-source. Tuttavia, anche le difese contro questi strumenti ben noti sono ben conosciute dagli esperti di sicurezza e non è chiaro come Claude Code possa cambiare la situazione.
Anthropic stessa ha sottolineato che Claude Code potrebbe aver travisato le informazioni che avrebbe hackerato perché „spesso esagerava i risultati“ e „a volte fabbricava i dati“. Secondo l'azienda, questo comportamento costituisce un ostacolo significativo all'utilizzo del sistema per effettuare attacchi informatici.

In ottobre, David Sacks, consigliere della Casa Bianca per l'intelligenza artificiale, ha accusato Anthropic di aver condotto „sofisticate strategie di regolamentazione basate sulla paura“.“.

L'intelligenza artificiale impara a cercare nella propria memoria, aumentando efficienza e precisione

Yuchen Fan e i suoi colleghi dell'Università Tsinghua, dell'Università Jiao Tong di Shanghai, del Laboratorio AI di Shanghai, dell'University College di Londra, del China State Construction Engineering Corporation Third Bureau e di WeChat AI hanno introdotto il metodo Apprendimento per rinforzo con ricerca autonoma (SSRL), Un metodo innovativo che migliora significativamente il modo in cui i modelli linguistici di grandi dimensioni accedono alle informazioni e le utilizzano. Questo approccio Insegna ai modelli a ricercare sistematicamente i propri parametri. - simula la ricerca sul Web generando e rispondendo alle query, migliorando notevolmente l'estrazione di conoscenza dai dati di addestramento esistenti. Nei test su sei benchmark, i modelli abilitati a SSRL hanno ottenuto prestazioni eccellenti, con un modello che ha raggiunto un'accuratezza del 43,1 %. Questa tecnica crea anche sistemi ibridi più efficienti, in cui l'intelligenza artificiale consulta innanzitutto le proprie conoscenze interne prima di cercare informazioni esterne, riducendo potenzialmente il costo computazionale e migliorando l'accuratezza delle risposte nei compiti ad alta intensità di conoscenza.


The Batch - DeepLearning.Ai di Andrew Ng / gnews.cz - GH