Inkling di Thinking Machines Lab: Un Sfidante AI a Pesi Aperti

TL;DR

Thinking Machines Lab, la startup AI fondata dall'ex CTO di OpenAI Mira Murati, ha rilasciato il suo primo modello, Inkling. Questo modello a pesi aperti, da 975 miliardi di parametri e basato su mixture-of-experts, è progettato per essere una base solida e personalizzabile per le aziende. Supporta nativamente testo, immagini, audio e video e introduce uno sforzo di pensiero controllabile per bilanciare prestazioni e costi. Sebbene non sia il leader assoluto in ogni benchmark, il posizionamento strategico di Inkling — come base per la messa a punto sulla piattaforma Tinker dell'azienda — rappresenta una scommessa diretta contro l'approccio unico per tutti dei modelli chiusi di OpenAI, Anthropic e Google.

Inkling: Un Nuovo Contendente a Pesi Aperti

Thinking Machines Lab è ufficialmente entrata nell'arena AI con Inkling, un modello a pesi aperti che privilegia flessibilità e utilità nel mondo reale rispetto al dominio assoluto nei benchmark. L'azienda, emersa dalla segretezza solo nove mesi fa, sta facendo una dichiarazione chiara: il futuro dell'AI non riguarda un singolo modello monolitico, ma modelli che possono essere adattati e posseduti dalle organizzazioni che li utilizzano.

Inkling è un trasformatore Mixture-of-Experts (MoE) con 975 miliardi di parametri totali, ma ne attiva solo 41 miliardi per ogni attività. Questo design, che rispecchia l'architettura del DeepSeek-V3 cinese, consente elevate capacità senza costi computazionali proibitivi. Il modello è stato pre-addestrato da zero su 45 trilioni di token che spaziano tra testo, immagini, audio e video, conferendogli capacità di ragionamento multimodale native.

La Scommessa Strategica sulla Personalizzazione

Il team di Murati non sta cercando di battere GPT-5.6 o Claude Opus 4.8 in ogni classifica. Invece, Inkling è posizionato come modello base per la messa a punto. La piattaforma Tinker dell'azienda è il fulcro di questa strategia, offrendo agli sviluppatori un ambiente per chattare con Inkling e una suite di strumenti per personalizzarlo per attività specializzate. Questa è una risposta diretta a una crescente domanda aziendale di modelli che possano essere adattati con dati proprietari senza il rischio di perdere informazioni sensibili a un fornitore di API chiuso.

Come ha recentemente osservato Satya Nadella, CEO di Microsoft, le aziende che utilizzano modelli AI chiusi pagano effettivamente due volte: una per l'abbonamento e un'altra cedendo i propri dati riservati per migliorare il modello. La natura a pesi aperti di Inkling consente alle organizzazioni di mantenere il pieno controllo, rendendolo un'opzione interessante per settori come finanza, sanità e difesa, dove la privacy dei dati è fondamentale.

Approfondimento Tecnico: Architettura e Addestramento

L'architettura di Inkling è un'evoluzione deliberata delle tecniche MoE collaudate. Utilizza 256 esperti instradati e 2 esperti condivisi per strato MoE, con un router basato su sigmoide per il bilanciamento del carico. Una notevole differenza rispetto alla pratica comune è l'uso di embedding posizionali relativi invece di Rotary Position Embeddings (RoPE), che il team ha scoperto funzionare meglio con sequenze più lunghe. Il modello supporta una finestra di contesto fino a 1 milione di token.

L'addestramento è stato un'impresa enorme. Il pre-addestramento su 45 trilioni di token è stato seguito da una fase di post-addestramento che includeva la messa a punto supervisionata (SFT) su dati sintetici generati da altri modelli a pesi aperti, tra cui il Kimi K2.5 cinese. La maggior parte del carico computazionale, tuttavia, è andata all'apprendimento per rinforzo su larga scala (RL). Il team ha scalato l'RL a oltre 30 milioni di rollout, osservando miglioramenti log-lineari nelle prestazioni di ragionamento durante tutto il processo. Questo addestramento RL ha anche portato a una compressione emergente della catena di pensiero del modello, rendendolo più efficiente senza sacrificare l'accuratezza.

Prestazioni e Posizionamento

Nei benchmark, Inkling si difende bene. Ottiene il 77,6% su SWE-bench Verified, il 97,1% su AIME 2026 e l'87,2% su GPQA Diamond. In termini di sicurezza, raggiunge il 78% nel benchmark avversario FORTRESS, il più alto tra i modelli a pesi aperti testati. Anche le sue capacità audio e visive sono solide, collocandolo tra i migliori modelli a pesi aperti per attività multimodali.

Tuttavia, l'azienda è trasparente riguardo ai suoi limiti. Inkling non è il modello più forte in nessuna singola categoria. Su HLE (solo testo), ottiene il 29,7%, ben dietro al 53,3% di Claude Fable 5. La strategia non è vincere ogni benchmark, ma offrire una base equilibrata, efficiente e personalizzabile. L'introduzione dello sforzo di pensiero controllabile è fondamentale qui: gli sviluppatori possono regolare la profondità di ragionamento del modello verso l'alto o verso il basso, scambiando accuratezza con velocità e costo secondo necessità.

L'Angolo Geopolitico

Il rilascio di Inkling ha anche un peso geopolitico. I migliori modelli a pesi aperti oggi provengono in gran parte dalla Cina, e la decisione di Thinking Machines di utilizzare modelli cinesi come Kimi K2.5 per dati sintetici ha attirato critiche. I critici sottolineano un doppio standard: l'uso cinese di modelli statunitensi è spesso etichettato come furto, mentre l'adozione statunitense di modelli aperti cinesi è inquadrata come ingegneria. Il team di Murati sta effettivamente colmando un vuoto creato dalle politiche protezionistiche statunitensi, offrendo un'alternativa nazionale competitiva e, per alcuni aspetti, superiore ai modelli cinesi che le aziende americane sono sempre più spinte a evitare.

Disponibilità ed Ecosistema

Inkling è ora disponibile sulla piattaforma Tinker con opzioni di lunghezza del contesto di 64K e 256K token. L'azienda offre uno sconto del 50% per un periodo limitato. I pesi completi sono disponibili su Hugging Face e il modello è supportato su piattaforme di inferenza tra cui Together AI, Fireworks, Modal, Databricks e Baseten. L'azienda ha anche stretto partnership con RadixArk per il supporto SGLang, Inferact per vLLM e Unsloth per llama.cpp.

Insieme a Inkling, l'azienda ha presentato in anteprima Inkling-Small, un modello da 276 miliardi di parametri (12 miliardi attivi) che eguaglia il suo fratello maggiore in molti compiti di ragionamento e agentici, offrendo un'opzione interessante per carichi di lavoro sensibili alla latenza.

Perché è Importante

Inkling di Thinking Machines Lab non è solo un altro rilascio di modello; è un manifesto strategico. Sostiene che il futuro dell'AI aziendale non risiede nell'affittare l'intelligenza da pochi guardiani, ma nel possederla e personalizzarla. Rilasciando un modello competitivo a pesi aperti e costruendo una piattaforma attorno alla messa a punto, Murati scommette che il mercato valorizzerà il controllo e l'adattabilità rispetto al potere grezzo e non personalizzato. Se ha ragione, Inkling potrebbe essere il primo grande passo verso un nuovo paradigma per il modo in cui le aziende implementano l'AI.