Reflection AI, una startup fondata a Brooklyn due anni fa, ha annunciato il lancio di Beam, il suo primo modello di IA open-weight di frontiera. I modelli open-weight rendono disponibili i pesi, cioè i valori numerici interni determinati durante l’addestramento, affinché soggetti esterni possano utilizzarli. Reflection sostiene che Beam raggiunga prestazioni simili a quelle dei principali modelli open cinesi nei benchmark avanzati di ragionamento, pur usando molto meno calcolo per l’inferenza. Tuttavia, le affermazioni su prestazioni e costi non sono state verificate in modo indipendente.

Contesto

Secondo la descrizione pubblicata da Reflection, Beam è un modello testuale basato su una miscela di esperti (MoE). Un modello MoE elabora le richieste avvalendosi solo di alcuni tra diversi sott modelli specializzati. L’azienda spiega di averlo addestrato con apprendimento per rinforzo ad alta intensità computazionale, per ottenere buoni risultati nei compiti di ragionamento, programmazione e svolgimento di attività tramite agenti.

Beam è un modello con 501 miliardi di parametri complessivi, di cui 23 miliardi attivi. Per il preaddestramento sono stati utilizzati 23.800 miliardi di token e la finestra di contesto, cioè l’intervallo di input che il modello può considerare in una sola volta, è di 1 milione di token. Il modello di confronto indicato, GLM-5.2 di Z.ai, ha circa 744 miliardi di parametri complessivi, di cui 40 miliardi attivi.

Reflection afferma che Beam è alla pari con GLM-5.2 nei benchmark avanzati di ragionamento e che ottiene punteggi superiori ai principali modelli open occidentali attuali usando da 3 a 4 volte meno calcolo per l’inferenza. In un altro confronto presentato dall’azienda, Beam ha ottenuto punteggi più alti di Inkling in quattro test di programmazione per i quali entrambi i modelli hanno pubblicato i risultati. Inkling, però, è un modello multimodale, cioè in grado di trattare diversi tipi di informazioni oltre al testo, mentre Beam è solo testuale: gli impieghi e i tipi di input dei due modelli, quindi, non sono identici.

Le affermazioni di Beam sulle prestazioni e sui costi di inferenza non sono ancora state verificate in modo indipendente. I soli risultati dei benchmark presentati dall’azienda non bastano a stabilire le prestazioni o i costi in un servizio reale.

Reflection presenta Beam come un «modello da lavoro» per imprese, settore pubblico e sviluppatori. Il lancio si inserisce nel progetto dell’azienda di offrire un modello occidentale in grado di competere con quelli open cinesi. Tuttavia, i pesi e tutti i dettagli tecnici, elementi fondamentali per valutare le prestazioni del modello, saranno pubblicati dall’azienda nel corso di questo mese.

Reflection è stata fondata nel 2024 da due ricercatori provenienti da Google DeepMind. Secondo PitchBook, ha raccolto circa 4,7 miliardi di dollari da investitori tra cui Nvidia, Sequoia Capital e Lightspeed Venture Partners; nell’ultimo round di finanziamento, la valutazione pre-money dell’azienda è stata di 25 miliardi di dollari. Quest’estate la società ha firmato contratti per un valore complessivo superiore a 7 miliardi di dollari con SpaceX e Nebius, che le consentiranno di accedere ai chip GB300 di Nvidia fino al 2029.

Che cosa significa questa notizia

Se fossero confermate, le affermazioni sull’apertura dei pesi di Beam e sui bassi costi di inferenza potrebbero ampliare le possibilità di scelta per le imprese e gli enti pubblici che intendono utilizzare direttamente un modello. In particolare, la «fabbrica di IA sovrana» (주권형 AI 공장) promossa da Reflection è un progetto che permetterebbe alle istituzioni di addestrare i modelli Reflection con i propri dati proprietari e di costruire sistemi di IA locali su misura. Una riduzione dei costi di utilizzo del modello o della quantità di calcolo necessaria potrebbe alleggerire l’onere per gli enti che prendono in considerazione sistemi di questo tipo. Si tratta di un possibile effetto, non di un risultato già accertato: dipende dalla conferma delle affermazioni dell’azienda sui costi.

Per esempio, un’istituzione che stia valutando un sistema di IA basato sui propri dati potrebbe esaminare le prestazioni richieste nel proprio ambiente e la quantità di calcolo necessaria, una volta pubblicati i pesi e la documentazione tecnica di Beam. I costi effettivi di adozione e le condizioni di distribuzione, tuttavia, non sono stati resi noti. Non si può quindi concludere che l’affermazione secondo cui il modello «usa meno calcolo» comporti automaticamente una riduzione dei costi di adozione.

Reflection ha iniziato a sperimentare con il gruppo Shinsegae (신세계그룹) un progetto di partnership per una fabbrica di IA sovrana. Secondo quanto riportato da Axios, anche hedge fund e società di trading hanno mostrato interesse per la creazione di sistemi di questo tipo. L’azienda ha dichiarato che pubblicherà questo mese i pesi e tutti i dettagli tecnici di Beam e che, al lancio, offrirà la distribuzione tramite hyperscaler e neocloud, oltre all’integrazione con librerie open source. Il prossimo aspetto da seguire sarà quindi capire quali istituzioni potranno effettivamente usare il modello e in che modo.

Fatti accertati e aspetti ancora da chiarire

Fatti accertati

  • Reflection ha annunciato il lancio di Beam, il suo primo modello open-weight di frontiera.
  • Beam è un modello solo testuale con 501 miliardi di parametri complessivi, di cui 23 miliardi attivi.
  • Il modello è stato preaddestrato con 23.800 miliardi di token e ha una finestra di contesto di 1 milione di token.
  • L’azienda ha iniziato a sperimentare con il gruppo Shinsegae (신세계그룹) un progetto di partnership per una fabbrica di IA sovrana.

Aspetti ancora da chiarire

  • Non è ancora possibile sapere come saranno confermate da verifiche indipendenti le affermazioni sulle prestazioni e sui costi di inferenza di Beam.
  • Non è stata indicata la data precisa, nel corso di questo mese, in cui saranno pubblicati i pesi e la documentazione tecnica.
  • Non sono stati resi noti i dettagli delle modalità con cui si svolge la sperimentazione con il gruppo Shinsegae.
  • Non sono stati comunicati il prezzo effettivo di utilizzo di Beam né le condizioni di distribuzione.

Che cosa dovrebbero verificare i lettori

  • Le imprese e gli sviluppatori che intendono valutare il modello dovrebbero esaminare, dopo la pubblicazione dei pesi e della documentazione tecnica, le condizioni dei benchmark, i criteri usati per confrontare il calcolo di inferenza e i risultati pertinenti alle proprie attività.
  • Gli enti che valutano l’adozione dovrebbero verificare non solo la disponibilità della distribuzione tramite hyperscaler e neocloud, ma anche la pubblicazione dei prezzi effettivi e delle condizioni di utilizzo.
  • Chi è interessato a sistemi di IA basati sui propri dati può seguire gli sviluppi del progetto pilota con il gruppo Shinsegae e verificare quali modalità di applicazione e quale ambito verranno resi noti.