L'IA sta accelerando drasticamente la ricerca sull'IA: dentro il rapporto METR-Anthropic

L'IA sta accelerando drasticamente la ricerca sull'IA: dentro il rapporto METR-Anthropic

In uno sviluppo che potrebbe ridefinire la traiettoria dell'intelligenza artificiale, un nuovo rapporto indipendente di METR (Model Evaluation & Threat Research) ha concluso che l'IA sta ora accelerando drasticamente la ricerca sull'IA presso Anthropic. I risultati, basati su un accesso senza precedenti ai processi interni di R&S dell'azienda, suggeriscono che il ritmo del progresso delle capacità dell'IA è circa raddoppiato nell'ultimo anno, con l'IA stessa come motore principale. Questa pietra miliare, che la stessa Politica di Scalabilità Responsabile (RSP) di Anthropic ha segnalato come soglia critica, ha profonde implicazioni per le tempistiche dell'IA, la sicurezza e la capacità del settore di gestire quello che potrebbe essere un ciclo di feedback incontrollato.

TL;DR: I punti chiave

• Raddoppio del ritmo: Tra ottobre 2025 e ottobre 2026, il progresso delle capacità dell'IA di Anthropic è accelerato fino a circa il doppio del ritmo dell'anno precedente, secondo una versione interna dell'Epoch Capabilities Index (AECI).
• L'IA come motore: METR attribuisce circa l'80% dell'attuale accelerazione all'automazione dell'IA, una cifra che cresce nel tempo.
• Soglia superata: Questa accelerazione sembra soddisfare o superare la soglia di 'progresso drasticamente accelerato dovuto all'IA' definita nella RSP di Anthropic, che attiva requisiti di sicurezza e protezione rafforzati.
• Rischio composto: METR non ha trovato colli di bottiglia chiari o rendimenti fortemente decrescenti, sollevando la possibilità di un'accelerazione composta che potrebbe portare a una superintelligenza estrema entro un anno.
• Settore impreparato: Il rapporto e i commentatori sostengono che il settore dell'IA manca della robusta infrastruttura di sicurezza, monitoraggio e allineamento necessaria per navigare in sicurezza questa rapida accelerazione.

Accesso senza precedenti: cosa ha scoperto METR

Dal 12 agosto al 29 ottobre 2026, il personale di METR ha condotto una valutazione ad alto accesso presso Anthropic, ottenendo una visibilità senza precedenti nel pipeline di R&S dell'IA dell'azienda. Ciò includeva metriche sul pre-addestramento, l'apprendimento per rinforzo, il calcolo di addestramento, i punteggi benchmark, le analisi di accelerazione dell'IA e interviste con il personale. Il rapporto risultante, pubblicato il 5 novembre 2026, offre uno sguardo raro e basato sui dati su come l'IA stia trasformando il processo stesso di sviluppo dell'IA.

Il risultato centrale è netto: il progresso delle capacità presso Anthropic è andato circa due volte più veloce rispetto ai dodici mesi precedenti. Questa misurazione, basata su una versione interna dell'Epoch Capabilities Index chiamata AECI, è supportata da un'ampia gamma di prove aggiuntive, sebbene gran parte sia stata oscurata per motivi di sicurezza. METR osserva che queste prove oscurate costituiscono "la maggior parte delle prove che [hanno] trovato più informative".

Attribuzione: l'IA come accelerante primario

Mentre l'accelerazione iniziale alla fine del 2025 è stata probabilmente influenzata da fattori non legati all'IA, l'analisi di METR indica che l'automazione dell'IA è ora la forza dominante. Il rapporto stima che circa l'80% dell'attuale accelerazione sia dovuta all'IA, un giudizio formulato con sostanziale incertezza ma supportato da molteplici linee di prova. Il personale di Anthropic riferisce di un aumento drastico della produttività grazie agli strumenti di IA, con alcuni che descrivono un incremento di ~12x. Ciò significa che i ricercatori stanno effettivamente vivendo dieci giorni di lavoro per ogni giorno di calendario, grazie alla capacità dell'IA di accelerare il pensiero, la lettura, la codifica e la sperimentazione.

Questa attribuzione è critica. La RSP di Anthropic definisce la soglia di "accelerazione drammatica" come la condizione per cui il raddoppio del progresso sia "plausibilmente attribuibile all'IA che automatizza la R&S dell'IA, piuttosto che all'accelerazione del calcolo o di altri input". I risultati di METR, combinati con le stesse dichiarazioni di Anthropic secondo cui "potrebbe imminentemente soddisfare" questa soglia, suggeriscono che la condizione è stata effettivamente soddisfatta.

La matematica dietro l'accelerazione

Per comprendere la portata di questo cambiamento, aiuta scomporre la matematica. Le capacità complessive dell'IA possono essere pensate come il prodotto di moltiplicatori di calcolo (innovazioni algoritmiche e architetturali) e calcolo di addestramento. Se le capacità complessive avanzano due volte più velocemente, e ciò è dovuto al progresso software, allora il tasso di crescita dei moltiplicatori di calcolo deve essere ancora più alto, forse 2,5-3 volte più veloce, sulla base di ipotesi ragionevoli.

Inoltre, poiché il lavoro del ricercatore è solo un input per scoprire questi moltiplicatori, l'aumento del lavoro deve essere il quadrato dell'accelerazione dei moltiplicatori di calcolo. Ciò implica un'accelerazione del lavoro richiesta di circa 4-9x, ma data la necessità di superare i rendimenti decrescenti, l'aumento effettivo necessario oggi è probabilmente intorno a 10x. Ciò si allinea con il ~12x riportato dal personale di Anthropic.

Questa non è semplicemente una questione di aggiungere più ricercatori; è come se ogni ricercatore fosse in una distorsione temporale, in grado di realizzare in un giorno ciò che prima richiedeva dieci. Questo livello di accelerazione sarebbe impossibile attraverso la sola assunzione, evidenziando il potere trasformativo dell'IA nel processo di ricerca.

Accelerazione composta: la strada verso la superintelligenza?

L'implicazione più allarmante è il potenziale per un'accelerazione composta. Se le capacità dell'IA continuano a migliorare, l'aumento per i ricercatori crescerà, portando a un progresso ancora più rapido. Il rapporto METR afferma che "non hanno identificato colli di bottiglia chiari o rendimenti fortemente decrescenti per un'ulteriore scalabilità che ostacolerebbero tale accelerazione composta".

Ciò solleva lo spettro di un ciclo di feedback incontrollato. Ajeya Cotra, ricercatrice di METR, osserva in un commento che se questa accelerazione si compone senza intoppi, "raggiungeremmo una superintelligenza estrema entro un anno". La logica è semplice: se un anno di progresso ci ha portato da un'accelerazione modesta al raddoppio, allora il prossimo raddoppio potrebbe richiedere sei mesi, poi tre, poi sei settimane, e così via. Entro un anno, il progresso cumulativo sarebbe astronomico.

Sebbene esistano limiti teorici all'efficienza del software, questi sono probabilmente lontani dalle capacità attuali. Gli autori del rapporto sono attenti a notare una significativa incertezza, ma la possibilità di un'esplosione dell'intelligenza è ora una preoccupazione concreta, non un'ipotesi lontana.

Settore impreparato: il divario di sicurezza

Il rapporto sottolinea che il settore dell'IA non è preparato per questo scenario. La stessa RSP di Anthropic, nella sua versione di maggio 2025, richiedeva che al momento del raggiungimento della soglia AI R&D-5 (una pietra miliare un po' più debole), avrebbe avuto bisogno di una sicurezza sufficiente a "proteggere dal furto dei pesi del modello da parte di avversari a livello statale". Tuttavia, recenti violazioni della sicurezza sia presso OpenAI che Anthropic da parte di gruppi amatoriali evidenziano il divario tra le pratiche attuali e ciò che sarebbe necessario.

Oltre alla sicurezza dei pesi del modello, gli esperti sostengono che un'esplosione dell'intelligenza sicura richiederebbe una registrazione e un monitoraggio robusti, misurazioni affidabili della monitorabilità, contromisure efficaci contro la collusione del monitoraggio, un addestramento all'allineamento basato su principi e un'infrastruttura di governance per il ritmo del progresso. Nessuno di questi è in atto alla scala richiesta.

Cotra sottolinea che "il settore è lontano da questo livello". La natura oscurata di gran parte delle prove solleva anche preoccupazioni sulla trasparenza, poiché gli scienziati esterni non possono esaminare completamente i risultati. Questa mancanza di trasparenza potrebbe ostacolare la comprensione collettiva necessaria per gestire i rischi.

Implicazioni più ampie: l'accelerazione dell'IA nella scienza

L'accelerazione presso Anthropic fa parte di una tendenza più ampia dell'IA che trasforma la ricerca scientifica. Come notato dal Wellcome Sanger Institute, gli strumenti di IA stanno accelerando drasticamente alcune attività all'interno dei pipeline scientifici, creando nuovi colli di bottiglia in cui le attività accelerate alimentano quelle non accelerate. Questa accelerazione "a dente di sega" sta già mettendo a dura prova la revisione tra pari, le decisioni di finanziamento e i processi di approvazione normativa.

Nel contesto della R&S dell'IA, ciò significa che mentre l'IA può accelerare la codifica, la sperimentazione e l'analisi, altre parti del pipeline, come la supervisione umana, le revisioni di sicurezza e il coordinamento tra istituzioni, potrebbero non tenere il passo. Ciò potrebbe portare a una scienza pericolosa che procede senza controllo o a scoperte bloccate, a seconda di come vengono gestiti i colli di bottiglia.

La strada da percorrere: cosa significa per le tempistiche dell'IA

Il rapporto METR rappresenta un aggiornamento significativo della nostra comprensione delle tempistiche dell'IA. Molti ricercatori esterni, incluso il team AI 2027, hanno proiettato progressi più moderati, ma le prove da Anthropic suggeriscono che la frontiera si sta muovendo più velocemente del previsto. Se l'IA sta effettivamente raddoppiando il ritmo del progresso dell'IA, le implicazioni per la società sono profonde.

Cotra descrive questo rapporto come "l'aggiornamento più importante che abbiamo ricevuto sul rischio dell'IA negli ultimi due anni". La possibilità di una superintelligenza entro un anno, sebbene incerta, richiede un'attenzione urgente da parte di politici, ricercatori e pubblico.

Il settore deve ora confrontarsi con la questione di come navigare in sicurezza questa accelerazione. La finestra per implementare misure di sicurezza robuste potrebbe chiudersi rapidamente. Come avverte Cotra, "Potremmo rimanere senza tempo per allinearci sulle tempistiche e sulle velocità di decollo".

Il rapporto METR è un campanello d'allarme. Fornisce prove concrete che l'IA non è solo uno strumento per altri domini, ma sta ora accelerando attivamente il proprio sviluppo. La domanda è se l'umanità possa tenere il passo e se possa farlo in sicurezza.