Tao Warns AI Is Exhausting Math's Best Open Problems

L'avvertimento di Terence Tao: l'AI sta estraendo in modo non rinnovabile i migliori problemi aperti della matematica

In una serie di post su Mathstodon, il medaglista Fields Terence Tao ha lanciato un severo avvertimento: l'intelligenza artificiale sta rapidamente esaurendo la scorta di quelli che chiama 'buoni e fruttuosi problemi aperti' in matematica. Non si tratta di qualsiasi domanda irrisolta, ma di quelle che storicamente hanno guidato il progresso del campo, rivelando connessioni profonde e generando nuove sottodiscipline.

L'argomentazione di Tao è sottile e controintuitiva. L'insieme dei problemi matematici è infinito, quindi come potremmo mai esaurirli? Egli offre una potente analogia: una regione può affrontare una grave carenza di acqua potabile mentre è circondata da un oceano. La stragrande maggioranza dei problemi aperti, come calcolare la 10^10^10esima cifra di pi greco, è matematicamente valida ma sterile dal punto di vista matematico: non offre alcuna intuizione, alcuna connessione ad altre domande e alcuna sfida significativa rispetto alle tecniche note.

L'appiattimento del paesaggio della difficoltà

Identificare quali problemi valga effettivamente la pena perseguire è, secondo Tao, un 'processo lungo, deliberato e soggettivo'. I matematici si affidano a una profonda comprensione di ciò che chiama 'paesaggio della difficoltà' del loro campo: sapere quali domande sono banali, quali sono impegnative ma affrontabili e quali sono effettivamente impossibili con i metodi attuali. Questo paesaggio guida i ricercatori verso il terreno più fertile.

Tuttavia, ogni nuovo progresso matematico, che si tratti di una nuova tecnica, di una nuova tecnologia o di una nuova infrastruttura come biblioteche migliori, appiattisce questo paesaggio. Rende più facili problemi precedentemente difficili, il che è generalmente positivo. Ma erode anche le sottili gradazioni che indicano nuove domande promettenti. Tao nota che normalmente questo effetto è controbilanciato dalla capacità dello strumento di espandere la 'sfera dei risultati' che si possono raggiungere, creando nuove frontiere da esplorare.

L'era dell'AI: nessuna frontiera chiara

L'attuale era dell'AI è diversa, sostiene Tao, perché non ci sono confini definitivi che separano i problemi 'fattibili con l'AI' da quelli 'difficili per l'AI'. Mentre gli strumenti di AI hanno appiattito il paesaggio della difficoltà in molte aree, non hanno creato nuove frontiere chiare. Ciò è in parte dovuto alla rapida evoluzione della tecnologia, ma è anche aggravato dal rifiuto delle aziende di AI di divulgare risultati negativi o il processo alla base delle loro soluzioni.

Questa mancanza di trasparenza è critica. Significa che i matematici non possono imparare dai fallimenti dell'AI e non possono nemmeno comprendere appieno i suoi successi. Il risultato è che l'atto stesso di identificare un problema promettente è diventato la risorsa scarsa e preziosa. Tao osserva che persino la voce che qualcuno sta lavorando a un problema può innescare uno sforzo massiccio basato sull'AI per 'appiattirlo' prima che il ricercatore originale possa sviluppare le intuizioni che avrebbe dovuto generare.

La minaccia alla scienza aperta e ai ricercatori all'inizio della carriera

Questa dinamica sta creando un incentivo perverso: i ricercatori potrebbero smettere di condividere direzioni promettenti con la comunità più ampia, invertendo secoli di tradizione di scienza aperta. Tao avverte che ciò causerebbe 'gravi danni a lungo termine al futuro del campo'. La paura non riguarda solo l'essere superati, ma l'intero ecosistema della scoperta matematica che crolla.

L'impatto è già avvertito, in particolare dai matematici all'inizio della carriera. Come notato nella discussione su Hacker News e dal commentatore abelc sul post di Tao, l'inflazione delle pubblicazioni e l'incertezza su come la ricerca verrà valutata stanno creando un'ansia immensa. I giovani ricercatori si chiedono se il loro lavoro abbia valore, e la minaccia di essere superati dalle soluzioni dell'AI prima di poter sviluppare le loro idee sta spingendo alcuni ad abbandonare del tutto il campo. Un divario generazionale potrebbe essere la conseguenza più dannosa a lungo termine.

Proposta: designare problemi per un'analisi attenta

Tao non sostiene un divieto dell'AI in matematica, che ammette sarebbe tecnicamente irrealizzabile. Propone invece un approccio più sfumato: designare certe classi di problemi come 'desiderosi di un'analisi attenta'. Ciò significherebbe che risolvere il problema non è sufficiente: il processo di soluzione deve anche fornire approfondimenti sul paesaggio della difficoltà e sulle connessioni con problemi vicini. Le soluzioni grezze senza tale analisi sarebbero considerate di 'valore trascurabile o addirittura negativo' per questi scopi.

Egli traccia un'analogia con le moderne raccolte di cibo, che non accettano più articoli commestibili arbitrari ma mantengono standard espliciti e socialmente accettati per ciò che viene effettivamente richiesto. Ciò creerebbe un cambiamento culturale nel modo in cui la comunità matematica valuta il lavoro, enfatizzando l'intuizione rispetto al mero risultato.

Dibattito e controargomentazioni

La tesi di Tao ha suscitato un dibattito significativo. Su X (ex Twitter), Nilesh Trivedi ha sostenuto che le preoccupazioni sono fuori luogo, suggerendo che poiché i problemi aperti sono infiniti, le soluzioni dell'AI sono intrinsecamente preziose. Egli inquadra la matematica come uno strumento per il progresso tecnologico, dove qualsiasi soluzione, anche senza profonda intuizione, è un passo avanti.

Tuttavia, altri, come Scott Neville, sottolineano che l'argomentazione di Tao riguarda proprio la scelta di artefatti e sistemi. Il valore di una soluzione non è intrinseco; è determinato dall'ecosistema che costruiamo attorno ad essa. Una soluzione grezza a un problema profondo potrebbe far avanzare un obiettivo ristretto ma non fare nulla per sostenere la più ampia cultura dell'indagine matematica.

Il commentatore Sulfide_Sleuth ha aggiunto una prospettiva pratica, notando che l'AI può ora ricreare una revisione della letteratura che una volta richiedeva quattro mesi in meno di 20 minuti. Sebbene efficiente, ciò bypassa la lettura e il pensiero profondi che costruivano la comprensione. La velocità di pubblicazione sta superando la capacità di leggere e sintetizzare, portando a un mondo in cui gli articoli sono scritti dall'AI per l'AI.

Perché questo è importante ora

L'urgenza dell'avvertimento di Tao è sottolineata da eventi recenti. Come notato nel thread di Hacker News, i suoi post sono una risposta diretta a molteplici risultati di Navier-Stokes apparsi nelle ultime 24 ore, un segno che l'AI sta ora affrontando problemi che un tempo erano considerati l'apice della difficoltà matematica.

La questione centrale non è se l'AI possa risolvere problemi, ma a cosa serva la matematica. Se l'obiettivo è produrre intuizioni che approfondiscano la nostra comprensione dell'universo, allora una soluzione senza intuizione è una vittoria vuota. Se l'obiettivo è semplicemente produrre risposte, allora l'AI renderà effettivamente obsoleta gran parte della matematica umana.

L'avvertimento di Tao funge da appello critico all'azione per matematici, aziende di AI e politici. La sfida è costruire un futuro in cui l'AI potenzi la creatività matematica umana anziché estinguere le stesse condizioni che la rendono possibile.