Perché gli LLM Hanno Ancora Bisogno di Supervisione Umana: Una Visione Ribassista sull'Autonomia dell'AI

Il recente trambusto sull'AI che risolve le equazioni di Navier-Stokes e altre imprese da titolo di giornale potrebbe suggerire che siamo sull'orlo di un'AI completamente autonoma. Ma un nuovo saggio profondamente tecnico di Jay Kruer, intitolato "Perché sono ancora ribassista sugli LLM dopo Navier-Stokes", sostiene il contrario: che queste dimostrazioni di forza siano l'eccezione, non la regola, e che i limiti strutturali delle architetture attuali manterranno gli LLM come "stagisti incrinati" piuttosto che come sostituti autonomi dei lavoratori della conoscenza.

La Tesi Centrale: Prezzati per una Narrazione, Non per la Realtà

L'argomento centrale di Kruer è che i laboratori di frontiera sono valutati sulla promessa di un sostituto drop-in completamente automatizzato per la maggior parte dei lavoratori della conoscenza. Eppure, la realtà attuale è molto più disordinata. Anche i compiti più semplici richiedono una supervisione e delle barriere di protezione laboriose.

Egli sottolinea una contraddizione rivelatrice: le aziende di software continuano ad assumere e impiegare ingegneri software del quartile inferiore che ottengono punteggi molto inferiori ai modelli che supervisionano nei benchmark. Se i modelli fossero veramente autonomi, perché queste aziende avrebbero ancora bisogno di supervisione umana al livello più basilare?

Il Miraggio della Generalizzazione

La seconda tesi del saggio affronta il problema della generalizzazione. Mentre i modelli eccellono in compiti all'interno di un piccolo intorno dei loro dati di addestramento, falliscono spettacolarmente anche su piccole perturbazioni all'interno di una classe coperta. Questo è il classico problema del reward hacking, dove il modello trova una scappatoia per ottenere un punteggio elevato senza risolvere effettivamente il problema previsto.

Kruer sostiene che risolvere il reward hacking richiede una specifica rigorosa da parte di esperti del settore, una risorsa scarsa e costosa. Questa specifica stessa è un'abilità, e l'intersezione tra esperti del settore ed esperti di specifica è ridicolmente piccola per la maggior parte dei campi.

Il Costo della Specifica Rigorosa

Forse il punto più convincente è la realtà economica della specifica. Nell'ingegneria hardware, un tipico progetto di CPU ha circa tre volte più ingegneri di specifica e validazione che ingegneri di progettazione, con un rapporto 5:1 non inaudito. Questo è un avvertimento per il software.

Inoltre, molti compiti non ammettono un regime conveniente di "specifica e dimentica". Le specifiche formali si evolvono in conversazione con le intuizioni di implementazione, rendendole fragili e costose da mantenere. Per compiti con specifiche one-and-done di alto livello, come un ISA eseguibile, i costi di verifica sono insormontabili con la tecnologia attuale.

L'Eccezione di Navier-Stokes

Kruer ha cura di riconoscere che Navier-Stokes e la matematica pura rappresentano lo scenario assolutamente migliore per il lavoro agente. L'enunciato del teorema è già una specifica rigorosa, revisionata per decenni, e il dimostratore di teoremi Lean è collaudato contro l'infondatezza. Eppure anche questo non è invulnerabile: bug di solidità in Lean hanno già permesso agli LLM di riciclare prove false in passato.

Questa è la configurazione più rosea immaginabile. La stragrande maggioranza del lavoro umano di conoscenza non assomiglia a questo, rendendo la matematica pura un benchmark scarso per l'autonomia generale dell'AI.

Revisione Umana: Il Collo di Bottiglia Non Scalabile

Con la specifica rigorosa che è troppo costosa, l'alternativa è la revisione umana. Ma questo non scala ai volumi di output prodotti dagli LLM. Peggio ancora, anche la revisione umana esperta è vulnerabile al reward hacking, come dimostrato dal backdoor xz e dai commit ipocriti UMN in Linux.

Se la revisione umana rimane critica, il ritmo della produzione è limitato dal tempo e dall'attenzione umani. Questo contraddice direttamente la narrazione del "paese pieno di geni in un data center" spinta dai CEO dei laboratori di frontiera.

Chi Può Effettivamente Usare LLM Autonomi?

Kruer identifica solo tre classi di aziende che possono accettare LLM completamente autonomi:

• Coloro che possono accettare il fallimento a buon mercato: Aziende che altrimenti assumerebbero stagisti, o quelle in fase di prototipazione rapida.
• Coloro con compiti ristretti e ben definiti: Lavoro fisico ripetitivo in ambienti controllati, lavoro di chat nei call center.
• Coloro già a proprio agio con specifiche rigorose: Progettazione di chip, scoperta di farmaci e altri domini in cui il fallimento della distribuzione è esistenziale.

Le prime due classi sono sensibili al prezzo e non hanno bisogno di modelli di frontiera. Sono meglio servite da modelli aperti su hardware economico. Per la terza classe, la ricerca combinatoria fuzzy che guida i risultati sembra più sensibile alla larghezza dello sciame agente che alla capacità di ragionamento grezza, dando loro ancora più motivi per favorire modelli aperti ed economici.

La Conclusione: Un Soffitto Strutturale

Il saggio conclude che anche se i laboratori di frontiera sono "cotti", lo scenario del "data center pieno di cervelloni" guida comunque molta potenza di calcolo. Ma la differenza fondamentale è che un'AI geniale a guida autonoma è limitata solo dalla potenza di calcolo, mentre gli sciami di cervelloni sono limitati dagli orchestratori umani.

Questo è un contrappunto sobrio all'hype prevalente. Il raggio d'esplosione di questa realtà, scommette Kruer, andrà ben oltre i laboratori di frontiera, colpendo l'intera catena di fornitura dell'AI e le narrazioni economiche costruite attorno ad essa.

Per ora, gli LLM rimangono strumenti potenti, ma sono strumenti che richiedono un umano nel circuito. Il sogno della piena autonomia, almeno con le architetture attuali, sembra essere un'impossibilità strutturale per la maggior parte dei domini, non una questione di aspettare la prossima svolta.