Le barriere dell'IA ostacolano la legittima ricerca sulla sicurezza informatica, secondo gli esperti

TL;DR

Le rigide barriere di sicurezza sui modelli di IA all'avanguardia di OpenAI e Anthropic stanno creando ostacoli significativi per i legittimi ricercatori di sicurezza offensiva. Sebbene progettate per prevenire usi malevoli, queste restrizioni bloccano attività critiche come l'analisi delle vulnerabilità e lo sviluppo di exploit. I recenti controlli all'esportazione del governo statunitense sui modelli di Anthropic, combinati con un'applicazione incoerente delle politiche di sicurezza, stanno costringendo i ricercatori a trovare soluzioni alternative o ad abbandonare del tutto gli strumenti. Gli esperti sostengono che questo approccio indebolisce piuttosto che rafforzare la sicurezza complessiva, ostacolando coloro che devono pensare come gli aggressori per difendere i sistemi.

Il paradosso delle barriere

Per mesi, giganti dell'IA come OpenAI e Anthropic hanno implementato rigide barriere di sicurezza e programmi controllati per impedire ad attori malevoli di armare i loro modelli. Tuttavia, queste stesse barriere stanno ora ostacolando il lavoro dei legittimi difensori di rete e dei ricercatori di sicurezza offensiva che devono pensare come hacker per trovare e correggere le vulnerabilità. La situazione è diventata così acuta che nel giugno 2026 il governo statunitense ha imposto restrizioni all'esportazione sui tanto pubblicizzati modelli Mythos e Fable di Anthropic, citando preoccupazioni sul loro potenziale uso in attacchi informatici.

Il problema centrale risiede nella natura stessa della ricerca sulla sicurezza informatica. Come spiega Chris Anley, Chief Scientist di NCC Group, un comando per "correggere" il codice software può servire come guida sia per la difesa che per l'attacco. "Lo stesso strumento agisce sia come arma offensiva che difensiva, e non possono essere separati. Se un modello di IA si rifiuta di analizzare il codice, rende il lavoro dei difensori più difficile," ha detto Anley a TechCrunch. Questa tensione fondamentale tra sicurezza e utilità è al centro del dibattito attuale.

Applicazione incoerente e programmi controllati

Chris Thompson, CEO di RemoteThreat e fondatore di Offensive AI Con, riferisce che anche all'interno dei confini più flessibili dei programmi controllati di Anthropic e OpenAI, le barriere possono essere incoerenti e funzionare in modo diverso ogni giorno. Questa imprevedibilità rende difficile per i ricercatori fare affidamento su questi strumenti per il loro lavoro. Un ricercatore presso un produttore di componenti per smartphone, che ha parlato a condizione di anonimato, ha detto che il suo datore di lavoro non fa parte del programma CVP di Anthropic e di conseguenza i suoi strumenti sono a malapena utili per trovare vulnerabilità perché le barriere sono troppo rigide.

"Se si accorge che stiamo facendo qualcosa di legato alla sicurezza, si ferma e non è utilizzabile," ha detto la persona. Questa applicazione soggettiva è particolarmente problematica per le organizzazioni che lavorano con migliaia di diversi repository di codice sparsi su Internet, come notato dal ricercatore di sicurezza Kinsbruner. L'approccio attuale, sostiene, non può scalare per diventare una soluzione di sicurezza informatica di livello enterprise.

Lacune linguistiche nella sicurezza dell'IA

Un'altra dimensione del problema è la protezione disomogenea offerta dalle barriere dell'IA in diverse lingue. Come ha evidenziato DeepKeep in un recente post sul blog, il livello di sicurezza dell'IA sopra molti prodotti non protegge equamente contro il jailbreak e le azioni non sicure in ogni lingua. L'intento di sicurezza può cambiare durante la traduzione, con jailbreak che diventano meno espliciti o injection di prompt che perdono la loro struttura di comando in lingue non inglesi.

Questa realtà multilingue rappresenta un rischio particolare per le organizzazioni europee. Mentre un modello può parlare e capire bene il tedesco o lo spagnolo, non significa che le barriere di sicurezza funzioneranno altrettanto bene. Input in lingue miste possono preservare istruzioni malevole in una lingua mentre le circondano con contesto benigno in un'altra, creando punti ciechi che gli aggressori potrebbero sfruttare.

Controlli all'esportazione e risposta del governo

Le restrizioni all'esportazione del governo statunitense sui modelli di Anthropic sono state motivate almeno in parte da un rapporto che sosteneva fosse possibile bypassare le barriere dei modelli. Mentre queste restrizioni sono state successivamente parzialmente allentate, i professionisti della sicurezza informatica sostengono che questo approccio sta indebolendo i sistemi di difesa. L'amministrazione Trump potrebbe essere in ritardo su minacce che si sono accumulate per anni, avendo realizzato più pienamente le implicazioni per la sicurezza nazionale della tecnologia.

Andrew Lohn e Jessica Ji del Center for Security and Emerging Technology della Georgetown University sostengono che bloccare i modelli di IA non fermerà le minacce informatiche che creano. Il vero problema è che gli sforzi difensivi non sono stati al passo con il ritmo del progresso dell'IA. Il governo federale ha tagliato le risorse ad agenzie chiave come CISA e ha ridistribuito le loro autorità, creando un vuoto che le aziende di IA hanno colmato assumendosi responsabilità che dovrebbero essere guidate dal governo.

La prospettiva del ricercatore

Non tutti i ricercatori sono ugualmente colpiti. Giuseppe Cali, un ricercatore di sicurezza che trova zero-day e sviluppa exploit, ha detto che le barriere non ostacolano il suo lavoro perché non usa l'IA per lavoro offensivo. Invece, la usa per reverse engineering iniziale, per capire il codice e per costruire strumenti di supporto. "Voglio ancora possedere la scoperta effettiva dei bug e l'armamento io stesso, e questo non cambierebbe se tutte le barriere venissero rimosse domani," ha detto Cali.

Tuttavia, il prominente ricercatore di sicurezza Mark Dowd crede che le aziende private che decidono indipendentemente cosa è sicuro e cosa è pericoloso influenzino negativamente lo sviluppo del campo. Nota che i grandi giganti tecnologici stanno imponendo restrizioni arbitrarie senza considerare gli aspetti complessi della sicurezza informatica. Il dibattito evidenzia la necessità di un approccio più sfumato che bilanci la sicurezza con le legittime esigenze dei ricercatori di sicurezza.

La strada da percorrere

Mentre il 2026 si rivela l'anno in cui le previsioni sugli attacchi informatici alimentati dall'IA sembrano avverarsi, la vera domanda non è se la sicurezza informatica conti ancora, ma piuttosto come i rischi introdotti dall'IA verranno gestiti prima che superino le difese. Il periodo di transizione in cui ci troviamo richiede un ripensamento fondamentale di come la sicurezza dell'IA e la sicurezza informatica si intersecano.

Aziende di IA come Anthropic e OpenAI hanno lanciato iniziative come Project Glasswing e Patch the Planet per rafforzare le infrastrutture critiche e le librerie software open source. Ma questi sforzi, sebbene preziosi, sono limitati da incentivi aziendali che privilegiano la limitazione della responsabilità rispetto alla sicurezza completa. La soluzione richiede probabilmente un approccio collaborativo tra governo, industria e comunità di ricerca sulla sicurezza per sviluppare barriere che proteggano dalle minacce reali senza paralizzare proprio coloro che hanno il compito di difendere la nostra infrastruttura digitale.