Cerebras, startup californiana di intelligenza artificiale, ha presentato Cerebras Inference, definita dall'azienda come la soluzione di inferenza AI più veloce al mondo. La nuova tecnologia elabora fino a 1.800 token al secondo per il modello Llama3.1 8B e 450 token al secondo per il modello Llama3.1 70B, superando di 20 volte le prestazioni delle soluzioni cloud basate su GPU NVIDIA.
Questa innovazione rappresenta un significativo passo avanti nel campo dell'intelligenza artificiale, offrendo prestazioni superiori a costi inferiori. L'architettura unica di Cerebras elimina il collo di bottiglia della larghezza di banda della memoria, memorizzando l'intero modello direttamente sul chip.
Cerebras Inference si basa sul Wafer Scale Engine di terza generazione dell'azienda. Secondo Cerebras, questa tecnologia opera a un quinto del costo dei concorrenti, mantenendo prestazioni superiori. La chiave di questa efficienza risiede nella capacità di integrare 44 GB di SRAM su un singolo die, eliminando la necessità di memoria esterna.
Micah Hill-Smith, co-fondatore e CEO di Artificial Analysis, ha commentato: "Cerebras ha stabilito nuovi record di velocità nell'elaborazione dei modelli Llama 3.1 di Meta", confermando la leadership dell'azienda nei benchmark di inferenza AI.
Preparativi per l'IPO e rafforzamento del team dirigenziale
Oltre all'innovazione tecnologica, Cerebras si sta preparando per un importante passo aziendale. L'azienda ha recentemente presentato domanda per un'offerta pubblica iniziale (IPO), con l'aspettativa di quotare le proprie azioni nella seconda metà dell'anno.
Per rafforzare la sua posizione in vista dell'IPO, Cerebras ha apportato significative modifiche al suo team dirigenziale e al consiglio di amministrazione:
- Nomina di Glenda Dorchak (ex dirigente IBM e Intel) nel consiglio di amministrazione
- Ingresso di Paul Auvil (ex CFO di VMware) nel consiglio di amministrazione
- Nomina di Bob Komin come nuovo CFO, con esperienza pregressa nell'IPO di Sunrun
Andrew Feldman, CEO e co-fondatore di Cerebras, ha espresso fiducia nelle nuove nomine, sottolineando in particolare l'importanza dell'esperienza di Komin: "La sua esperienza nel guidare aziende in fase di crescita sarà inestimabile mentre ci prepariamo per la nostra prossima offerta pubblica."
Questi sviluppi posizionano Cerebras come un attore chiave nel settore dell'intelligenza artificiale, combinando innovazione tecnologica e una solida strategia aziendale in preparazione alla quotazione in borsa.
