Psicosi dell'AI: i leader tecnologici avvertono sui rischi sistemici nell'adozione aziendale dell'AI

L'allarme: la "psicosi dell'AI" afferra la strategia aziendale

Mitchell Hashimoto, creatore di Terraform e co-fondatore di HashiCorp, ha lanciato un severo avvertimento al settore tecnologico. In un post del maggio 2026, ha dichiarato: "Sono fortemente convinto che ci siano intere aziende attualmente sotto una forte psicosi dell'AI". Descrive questo stato come quello in cui una conversazione razionale sui rischi è impossibile e le aziende operano sotto un pericoloso mantra.

Hashimoto traccia un parallelo diretto con i dibattiti sull'automazione dell'infrastruttura dell'era cloud, in particolare la tensione tra tempo medio tra i guasti (MTBF) e tempo medio di ripristino (MTTR). Avverte che una mentalità imprudente "MTTR è tutto ciò di cui hai bisogno" è riemersa. La logica è: "Va bene spedire bug perché gli agenti li risolveranno così velocemente e su una scala che gli esseri umani non possono fare!"

Sostiene che questa mentalità ignora una lezione dura da imparare: non puoi sacrificare la resilienza per la velocità. "Abbiamo imparato nell'infrastruttura che MTTR è grande ma non puoi eliminare completamente sistemi resilienti", osserva. Hashimoto esprime una preoccupazione personale, poiché queste convinzioni sono sostenute da amici rispettati, rendendo difficile una discussione candida.

I sintomi: proliferazione incontrollata degli agenti

Le prove di questa adozione aggressiva e potenzialmente non governata stanno aumentando. Secondo un rapporto del Wall Street Journal del maggio 2026, le aziende stanno affrontando un nuovo problema: troppi agenti AI. Mike Trkay, CIO di Fair Isaac (FICO), ha rivelato che i suoi 3.500 dipendenti stanno creando "decine di nuovi agenti AI ogni giorno".

Questa proliferazione crea significativi mal di testa per la sicurezza informatica e la gestione. Jai Das di Sapphire Ventures nota che gli agenti possono funzionare ovunque - su laptop, server o altri sistemi - rendendoli difficili da rintracciare per l'IT. Gartner prevede che entro due anni, la media delle imprese Fortune 500 eseguirà oltre 150.000 agenti AI, eppure solo il 13% delle organizzazioni ritiene di avere una governance adeguata in atto.

Aziende come Lyft, DaVita e GitLab stanno ora cercando di gestire questa proliferazione senza soffocare l'innovazione. Gli agenti stanno evolvendo da semplici strumenti di scrittura di codice e riepilogo di email a sistemi complessi che eseguono "ricerche approfondite" e automatizzano interi flussi di lavoro aziendali.

Il costo umano: burnout e "marciume" delle competenze

La spinta all'adozione dell'AI sta avendo un profondo impatto umano all'interno delle aziende tecnologiche. A Meta, come riportato da Futurism e corroborato da altre fonti, la pressione è intensa. I dipendenti sono sotto pressione per eseguire "un'intera squadra di agenti AI" per affrontare più progetti contemporaneamente.

Meta ha implementato dashboard di monitoraggio e i dipendenti che non utilizzano abbastanza l'AI rischiano valutazioni delle prestazioni negative. Ciò ha portato a un ambiente in cui, come ha detto un dipendente al New York Times, "È incredibilmente demoralizzante". Il cambiamento culturale interno ha spinto alcuni a cercare lavoro altrove o addirittura a tentare di farsi licenziare per la buonuscita.

Gli sviluppatori di software riferiscono un effetto più profondo e insidioso. In interviste anonime con 404 Media, gli sviluppatori affermano che l'AI sta "marcendo i loro cervelli". Un designer UX di un'azienda tecnologica di medie dimensioni ha avvertito: "Stiamo costruendo un nido di ratto di debito tecnico che sarà impossibile da sbrogliare".

Descrivevano una realtà in cui l'apparenza di partecipazione con l'AI conta più della qualità dell'output. "La qualità effettiva dell'output non conta tanto quanto la nostra disponibilità a partecipare", ha dichiarato uno sviluppatore. Questo ambiente dà priorità alla velocità e al volume di generazione del codice rispetto alla sicurezza, alla manutenibilità e alla comprensione semantica.

Il debito tecnico e il rischio sistemico

L'avvertimento di Hashimoto si concentra proprio su questo punto: la creazione di sistemi fragili e incomprensibili. "I sistemi possono apparire sani secondo metriche locali mentre a livello globale diventano incomprensibili", scrive. I rapporti sui bug possono diminuire, ma il rischio latente può esplodere. La copertura dei test può aumentare mentre la comprensione genuina del codice base diminuisce.

Teme una ripetizione delle catastrofi dell'automazione del passato: "puoi automatizzare te stesso in una macchina di catastrofi molto resiliente". Quando i cambiamenti avvengono a velocità guidate dall'AI, l'architettura sottostante può decadere inosservata fino a quando non si verifica un grande fallimento. Questo rischio è aggravato dalla scala enorme dei cambiamenti guidati dagli agenti che avvengono nelle grandi organizzazioni.

Le implicazioni per la sicurezza sono severe e dirette. Come dettagliato da The Hacker News, le allucinazioni dell'AI - affermazioni false fatte con fiducia - rappresentano un rischio reale e crescente per la sicurezza. Quando gli output dell'AI suonano autorevoli, i dipendenti possono agire senza verifica, specialmente se sono sotto pressione per adottare strumenti AI.

Strategie di mitigazione e lacune nella governance

Gli esperti di sicurezza raccomandano controlli specifici per mitigare i rischi di allucinazione, che affrontano anche preoccupazioni più ampie di "psicosi". Le misure chiave includono obbligare la revisione umana prima che qualsiasi output dell'AI scateni un'azione sensibile, specialmente per cambiamenti dell'infrastruttura o dell'accesso.

Altri passi critici sono trattare i dati di addestramento come un asset di sicurezza, imporre l'accesso con privilegi minimi per i sistemi AI (in modo che non possano eseguire comandi allucinati pericolosi) e investire nella formazione sull'ingegneria dei prompt. Tuttavia, questi richiedono una governance deliberata, che la statistica di Gartner suggerisce essere in gran parte assente.

La sfida fondamentale, come identifica Hashimoto, è culturale. L'attuale fervore rende difficile implementare queste salvaguardie sane. Risposte dismissive come "ha una copertura completa dei test" o "i rapporti sui bug stanno diminuendo" chiudono le conversazioni necessarie sulla resilienza sistemica.

Perché questo conta: una resa dei conti all'orizzonte

La confluenza di questi rapporti dipinge un quadro preoccupante. La leadership aziendale, ansiosa di dimostrare la trasformazione dell'AI e giustificare i licenziamenti guidati dall'efficienza (come visto a Meta, Microsoft e Snapchat), sta spingendo per un'adozione a ritmo serrato. Ciò crea una tempesta perfetta: proliferazione incontrollata degli agenti, erosione delle competenze degli sviluppatori, aumento del debito tecnico e vulnerabilità della sicurezza.

La promessa dell'efficienza guidata dall'AI viene utilizzata per giustificare le riduzioni di personale prima che la stabilità a lungo termine di questi sistemi aumentati dall'AI sia provata. L'industria sembra stia dimenticando le lezioni dolorose dei precedenti cambiamenti tecnologici, rischiando un fallimento sistemico su larga scala.

L'avvertimento di Hashimoto non è contro l'AI stessa, ma contro l'adozione maniacale e incondizionata che ignora i principi ingegneristici fondamentali. Man mano che il conteggio degli agenti sale a centinaia di migliaia per impresa, l'industria potrebbe stare costruendo un castello di carte, una riga di codice fiduciosa ma allucinata alla volta.