zaakbanner

Branchenieuws: Jim Keller heeft een nieuwe RISC-V-chip gelanceerd

Branchenieuws: Jim Keller heeft een nieuwe RISC-V-chip gelanceerd

Chipbedrijf Tenstorrent, onder leiding van Jim Keller, heeft zijn volgende generatie Wormhole-processor voor AI-workloads uitgebracht. Naar verwachting biedt deze processor goede prestaties tegen een betaalbare prijs.Het bedrijf biedt momenteel twee extra PCIe-kaarten aan die geschikt zijn voor één of twee Wormhole-processors, evenals TT-LoudBox- en TT-QuietBox-werkstations voor softwareontwikkelaars. Alle aankondigingen van vandaag zijn gericht op ontwikkelaars, niet op degenen die Wormhole-kaarten gebruiken voor commerciële workloads.

"Het is altijd bevredigend om meer van onze producten in handen van ontwikkelaars te krijgen. Release development-systemen die gebruikmaken van onze Wormhole™-kaarten kunnen ontwikkelaars helpen bij het opschalen en ontwikkelen van multi-chip AI-software", aldus Jim Keller, CEO van Tenstorrent.Naast deze lancering zijn we ook enthousiast over de vooruitgang die we boeken met de tape-uitgave en de inbedrijfstelling van ons tweede-generatieproduct, Blackhole."

1

Elke Wormhole-processor bevat 72 Tensix-cores (waarvan er vijf RISC-V-cores in verschillende dataformaten ondersteunen) en 108 MB SRAM, goed voor 262 FP8 TFLOPS op 1 GHz met een thermisch ontwerpvermogen van 160 W. De single-chip Wormhole n150-kaart is uitgerust met 12 GB GDDR6-videogeheugen en heeft een bandbreedte van 288 GB/s.

Wormhole-processors bieden flexibele schaalbaarheid om te voldoen aan de uiteenlopende behoeften van workloads. In een standaard werkstationconfiguratie met vier Wormhole n300-kaarten kunnen de processors worden gecombineerd tot één unit die in de software wordt weergegeven als een uniform, breed Tensix-corenetwerk. Deze configuratie stelt de accelerator in staat om dezelfde workload te verwerken, te verdelen over vier ontwikkelaars of tot acht verschillende AI-modellen tegelijkertijd te draaien. Een belangrijk kenmerk van deze schaalbaarheid is dat deze lokaal kan draaien zonder virtualisatie. In een datacenteromgeving gebruiken Wormhole-processors PCIe voor uitbreiding binnen de machine, of Ethernet voor externe uitbreiding.

Qua prestaties behaalde de single-chip Wormhole n150-kaart van Tenstorrent (72 Tensix-cores, 1 GHz-frequentie, 108 MB SRAM, 12 GB GDDR6, 288 GB/s-bandbreedte) 262 FP8 TFLOPS bij 160 W, terwijl de dual-chip Wormhole n300-kaart (128 Tensix-cores, 1 GHz-frequentie, 192 MB SRAM, geaggregeerd 24 GB GDDR6, 576 GB/s-bandbreedte) tot 466 FP8 TFLOPS levert bij 300 W.

Om 300 W van 466 FP8 TFLOPS in context te plaatsen, vergelijken we dit met wat AI-marktleider Nvidia biedt met dit thermisch ontwerpvermogen. Nvidia's A100 ondersteunt FP8 niet, maar wel INT8, met een piekprestatie van 624 TOPS (1248 TOPS bij spaarzame belasting). Ter vergelijking: Nvidia's H100 ondersteunt FP8 en bereikt een piekprestatie van 1670 TFLOPS bij 300 W (3341 TFLOPS bij spaarzame belasting), wat aanzienlijk verschilt van Tenstorrent's Wormhole n300.

Er is echter één groot probleem. De Wormhole N150 van Tenstorrent kost $ 999, terwijl de N300 $ 1399 kost. Ter vergelijking: een enkele Nvidia H100 grafische kaart kost $ 30.000, afhankelijk van het aantal. We weten natuurlijk niet of vier of acht Wormhole-processors de prestaties van een enkele H300 kunnen evenaren, maar hun TDP's zijn respectievelijk 600 en 1200 W.

Naast de kaarten biedt Tenstorrent voorgebouwde werkstations voor ontwikkelaars, waaronder 4 n300-kaarten in de meer betaalbare Xeon-gebaseerde TT-LoudBox met actieve koeling en de geavanceerde TT-QuietBox met EPYC-gebaseerde Xiaolong) vloeistofkoelfunctie).


Plaatsingstijd: 29-07-2024