La startup AI sostiene che il suo ASIC Sohu con AI Transformer Engine è molto più veloce delle GPU Blackwell B200 di NVIDIA e anche più economico. Non capita tutti i giorni di vedere aziende che sfidano NVIDIA nelle prestazioni di calcolo dell’intelligenza artificiale, ma sembra che Etched sia pronta a farlo. Attualmente l’azienda si affida al “Transformer Engine”, un’architettura di rete neurale utilizzata nei modelli di intelligenza artificiale ChatGPT di OpenAI e Llama LLM di Meta. Tuttavia, l’azienda ha deciso di fare un ulteriore passo avanti presentando un macchinario ASIC dedicato, chiamato Sohu, con l’unico obiettivo di fornire ai clienti un’opzione che, secondo quanto dichiarato, è 10 volte più veloce di Blackwell di NVIDIA e 20 volte più veloce delle GPU Hopper AI di NVIDIA. Queste sono certamente affermazioni audaci da parte di Etched, che ha anche alcuni benchmark a sostegno. L’azienda afferma che un ASIC Sohu è in grado di servire oltre 500.000 token Llama 70B al secondo, pari a ben 160 unità di H100 di NVIDA.
Oltre a ciò, Sohu è in grado di servire ogni modello di IA moderno, che si tratti di Llama di Meta o di Anthropic di Google, e il team ha dichiarato di poter apportare modifiche per ulteriori integrazioni, garantendo un’adozione diffusa dell’ASIC. Per quanto riguarda il futuro, Etched afferma di essere la prima azienda nella corsa agli ASIC e probabilmente una delle aziende dominanti, considerando il modo in cui è riuscita a capitalizzare l’hype. Hanno stretto una partnership con TSMC, impiegando il loro processo a 4 nm in Sohu e, secondo quanto riferito, hanno raccolto 120 milioni di dollari in finanziamenti, dimostrando che l’azienda ha riscontrato un enorme interesse da parte del settore.
