Dalle stanze di ricerca di Microsoft arriva una novità che potrebbe riscrivere le regole del gioco per l’intelligenza artificiale: BitNet b1.58 2B4T, un modello AI a 1 bit che si presenta come il più grande del suo genere. Immaginate un gigante dai piedi leggeri, capace di prestazioni notevoli pur consumando una frazione delle risorse dei modelli tradizionali. La buona notizia? È disponibile a tutti, rilasciato con licenza MIT, e può girare anche su un MacBook con chip M2.
Ma cosa significa “a 1 bit”? In parole semplici, stiamo parlando di un modello compresso al massimo, progettato per funzionare fluidamente anche su hardware meno potente. Nei modelli AI standard, i “pesi” – quei valori che definiscono l’architettura interna del modello – vengono spesso ottimizzati per adattarsi a diverse macchine. BitNet fa un passo ulteriore: quantizza questi pesi in soli tre valori: -1, 0 e 1. Questo, in teoria, si traduce in un’efficienza senza precedenti in termini di memoria e potenza di calcolo.
I ricercatori di Microsoft sono entusiasti: BitNet b1.58 2B4T è il primo modello a 1 bit con 2 miliardi di parametri (che possiamo considerare sinonimo di “pesi”). Addestrato su un dataset mastodontico di 4 trilioni di token – pensate a circa 33 milioni di libri! – questo modello sembra superare i suoi concorrenti di dimensioni simili.
Non fraintendiamoci, BitNet non stravince a mani basse, ma si difende con onore. Nei test, ha dimostrato di essere superiore a modelli come Llama 3.2 1B di Meta, Gemma 3 1B di Google e Qwen 2.5 1.5B di Alibaba in benchmark che spaziano dalla matematica elementare al ragionamento fisico.
Ma la vera sorpresa è la velocità: BitNet b1.58 2B4T è più veloce di altri modelli delle sue dimensioni, a volte addirittura il doppio, pur consumando molta meno memoria.
C’è però un “ma”.
Per sbloccare queste prestazioni, è necessario utilizzare bitnet.cpp, il framework personalizzato di Microsoft. E qui arriva la nota dolente: al momento, funziona solo con hardware specifico. Le GPU, le regine del panorama dell’infrastruttura AI, non sono ancora supportate.
In sintesi, BitNet ha un potenziale enorme, soprattutto per i dispositivi con risorse limitate. Ma la compatibilità è, e probabilmente rimarrà, un ostacolo significativo. Un passo avanti promettente, insomma, ma con ancora un po’ di strada da fare.
