Jim Keller undir forystu flísafyrirtækisins Tenstorrent hefur gefið út næstu kynslóð Wormhole örgjörva fyrir gervigreind vinnuálag, sem það býst við að muni bjóða upp á góða frammistöðu á viðráðanlegu verði.Fyrirtækið býður nú upp á tvö PCIe kort til viðbótar sem geta hýst einn eða tvo Wormhole örgjörva, auk TT-LoudBox og TT-QuietBox vinnustöðvar fyrir hugbúnaðarframleiðendur. Allar tilkynningar dagsins í dag eru ætlaðar forriturum, ekki þeim sem nota Wormhole borð fyrir atvinnuálag.
„Það er alltaf ánægjulegt að fá fleiri af vörum okkar í hendur þróunaraðila. Gefa út þróunarkerfi með því að nota Wormhole™ kortin okkar geta hjálpað forriturum að stækka og þróa fjölflaga gervigreindarhugbúnað,“ sagði Jim Keller, forstjóri Tenstorrent.Til viðbótar við þessa kynningu, erum við spennt að sjá framfarirnar sem við erum að ná með spólunni og virkjun annarrar kynslóðar vöru okkar, Blackhole.“
Hver Wormhole örgjörvi inniheldur 72 Tensix kjarna (þar af fimm styðja RISC-V kjarna á ýmsum gagnasniðum) og 108 MB af SRAM, sem skilar 262 FP8 TFLOPS á 1 GHz með 160W hitauppstreymi. Single-chip Wormhole n150 kortið er búið 12 GB GDDR6 myndminni og hefur 288 GB/s bandbreidd.
Wormhole örgjörvar veita sveigjanlegan sveigjanleika til að mæta fjölbreyttum þörfum vinnuálags. Í hefðbundinni vinnustöðvauppsetningu með fjórum Wormhole n300 kortum er hægt að sameina örgjörvana í eina einingu sem birtist í hugbúnaðinum sem sameinað, breitt Tensix kjarnanet. Þessi uppsetning gerir hraðalnum kleift að takast á við sama vinnuálag, skipt á milli fjögurra þróunaraðila eða keyra allt að átta mismunandi gervigreind módel samtímis. Lykilatriði í þessari sveigjanleika er að það getur keyrt á staðnum án þess að þurfa sýndarvæðingu. Í gagnaverumhverfi munu Wormhole örgjörvar nota PCIe fyrir stækkun inni í vélinni, eða Ethernet fyrir ytri stækkun.
Hvað varðar afköst, þá náði Tenstorrent's single-chip Wormhole n150 kort (72 Tensix kjarna, 1 GHz tíðni, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandbreidd) 262 FP8 TFLOPS við 160W, en tvíflís Wormhole n300 borðið. (128 Tensix kjarna, 1 GHz tíðni, 192 MB SRAM, samanlagt 24 GB GDDR6, 576 GB/s bandbreidd) skilar allt að 466 FP8 TFLOPS við 300W.
Til að setja 300W af 466 FP8 TFLOPS í samhengi, munum við bera það saman við það sem AI markaðsleiðtogi Nvidia býður upp á með þessum hitauppstreymi. A100 frá Nvidia styður ekki FP8, en það styður INT8, með hámarksafköst upp á 624 TOPS (1.248 TOPS þegar dreifður er). Til samanburðar styður Nvidia H100 FP8 og nær hámarksafköstum upp á 1.670 TFLOPS við 300W (3.341 TFLOPS á dreifðum), sem er verulega frábrugðið Wormhole n300 frá Tenstorrent.
Hins vegar er eitt stórt vandamál. Wormhole n150 frá Tenstorrent er í sölu fyrir $999, en n300 selst á $1.399. Til samanburðar má nefna að eitt Nvidia H100 skjákort kostar $30.000, allt eftir magni. Auðvitað vitum við ekki hvort fjórir eða átta Wormhole örgjörvar geta raunverulega skilað afköstum eins H300, en TDP þeirra eru 600W og 1200W í sömu röð.
Auk kortanna býður Tenstorrent upp á forsmíðaðar vinnustöðvar fyrir þróunaraðila, þar á meðal 4 n300 kort í ódýrari Xeon-undirstaða TT-LoudBox með virkri kælingu, og háþróaða TT-QuietBox með EPYC-undirstaða Xiaolong) vökvakæliaðgerð).
Birtingartími: 29. júlí 2024