Reddit combatte lo spam AI con LLM: una corsa agli armamenti digitali
Reddit si affida agli LLM per combattere una crisi di spam generato dall'AI
In una mossa che sottolinea la crescente corsa agli armamenti tra moderazione dei contenuti e AI generativa, Reddit ha annunciato di aver implementato modelli linguistici di grandi dimensioni (LLM) per rilevare e rimuovere lo spam, gran parte del quale è a sua volta creato da LLM. Secondo i dati dell'azienda, la piattaforma blocca ora 23 milioni di visualizzazioni di spam al giorno e intercetta circa 25.000 nuovi post e commenti spam al giorno.
Questa strategia, descritta da Reddit come combattere il fuoco con il fuoco, rappresenta un'escalation significativa nella moderazione automatizzata. L'azienda sostiene che i suoi sistemi aggiornati hanno ridotto l'esposizione degli utenti allo spam del 20% da gennaio a marzo 2026 rispetto al trimestre precedente.
La portata del problema dello spam AI
L'ascesa di LLM accessibili e potenti ha reso estremamente facile per i malintenzionati generare spam convincente su larga scala. I nuovi strumenti di Reddit sono progettati per rilevare quelli che l'azienda definisce "modelli altamente sottili e coordinati di comportamento falso e hype artificiale che i vecchi sistemi non rilevavano".
Questi sistemi bloccano ora 23 milioni di visualizzazioni di spam al giorno prima che raggiungano un utente umano. La tecnologia identifica segnali sospetti al momento della creazione dell'account, fermando molti malintenzionati prima che possano pubblicare.
Marketing furtivo e la corsa alle citazioni di marca
Oltre allo spam tradizionale, Reddit sta affrontando un'ondata di contenuti di marketing furtivo generati dall'AI. I marketer utilizzano sempre più spesso gli LLM per creare materiale promozionale camuffato da post organici, con l'obiettivo di ottenere citazioni di marca nelle risposte dei chatbot AI come ChatGPT e Gemini.
Secondo una ricerca della società di comunicazione 5W, le ricerche zero-click sono passate dal 56% delle query nel 2024 al 69% entro maggio 2025, mentre il traffico organico dei siti di notizie è diminuito di 600 milioni di visite mensili in meno di un anno. Questo cambiamento ha intensificato la concorrenza per la visibilità del marchio all'interno delle risposte generate dall'AI, spingendo i marketer a infiltrarsi in piattaforme come Reddit con contenuti promozionali sottili.
Come funziona la moderazione basata su LLM di Reddit
I sistemi automatizzati aggiornati di Reddit utilizzano LLM per rilevare contenuti manipolati e spam attraverso nuovi segnali e un'applicazione più rapida. La tecnologia identifica modelli sospetti al momento della creazione dell'account, impedendo a molti malintenzionati di pubblicare. Per coloro che riescono a eludere il controllo, gli LLM analizzano i contenuti alla ricerca di comportamenti falsi coordinati e hype artificiale che i sistemi basati su regole non rilevavano in precedenza.
L'azienda non ha rivelato i modelli LLM specifici utilizzati, ma l'approccio rappresenta un aggiornamento significativo rispetto ai filtri antispam tradizionali. Sfruttando la stessa tecnologia che alimenta l'AI generativa, Reddit può adattarsi più rapidamente alle tattiche di spam in evoluzione.
Implicazioni a livello di settore e minacce parallele
La strategia di Reddit riflette una tendenza più ampia del settore. Piattaforme come YouTube, Meta e Instagram ora consentono contenuti generati dall'AI con dichiarazione di trasparenza, mentre TikTok permette agli utenti di controllare quanti contenuti AI vedere. Tuttavia, l'attenzione di Reddit sulla rilevazione proattiva tramite LLM la distingue.
Questo sviluppo si interseca anche con minacce emergenti alla cybersecurity. Una ricerca di Unit 42 di Palo Alto Networks, pubblicata a luglio 2026, ha identificato un nuovo vettore di attacco chiamato "phantom squatting", in cui gli LLM allucinano domini web inesistenti per marchi legittimi. Gli aggressori possono registrare questi domini per intercettare traffico o lanciare campagne di phishing. I ricercatori hanno analizzato 913 marchi globali e trovato 250.000 domini allucinati su due modelli LLM.
Il fattore umano e i rischi futuri
Sebbene gli strumenti basati su LLM di Reddit si siano dimostrati efficaci, gli esperti del settore mettono in guardia contro un'eccessiva dipendenza dagli algoritmi. La moderazione più efficace richiede probabilmente un approccio ibrido, che combini il rilevamento AI con la supervisione umana per individuare violazioni sfumate come discorsi d'odio e spam dipendente dal contesto.
Poiché i contenuti generati dall'AI diventano indistinguibili da quelli creati dall'uomo, la corsa agli armamenti tra piattaforme e malintenzionati non potrà che intensificarsi. L'esperienza di Reddit dimostra che il problema creato dalla tecnologia potrebbe richiedere una tecnologia ancora più avanzata per essere risolto, ma non senza una costante vigilanza umana.
Related News
Licenziamenti Tech 2026: L'AI Guida oltre 139.000 Tagli di Posti di Lavoro nel Primo Semestre
Report: Microsoft licenzia quasi 5.000 dipendenti tra Xbox, vendite commerciali e AI enterprise Microsoft
Il Modello AI AmesNet Rivoluziona lo Screening della Tossicità dei Farmaci
Svolta nell'AI: AmesNet prevede la tossicità dei farmaci con una precisione senza precedenti
Mappa in Tempo Reale della Rete Ferroviaria della Gran Bretagna: Una Nuova Era di Connettività
