Tenstorrent, örgjörvafyrirtæki undir forystu Jim Keller, hefur gefið út næstu kynslóð Wormhole örgjörva fyrir gervigreindarvinnuálag, sem búist er við að muni bjóða upp á góða afköst á viðráðanlegu verði.Fyrirtækið býður nú upp á tvö viðbótar PCIe-kort sem rúma einn eða tvo Wormhole örgjörva, sem og TT-LoudBox og TT-QuietBox vinnustöðvar fyrir hugbúnaðarframleiðendur. Allar tilkynningar dagsins eru ætlaðar forriturum, ekki þeim sem nota Wormhole-kort fyrir viðskiptavinnuálag.
„Það er alltaf ánægjulegt að fá fleiri af vörum okkar í hendur forritara. Útgáfuþróunarkerfi sem nota Wormhole™ kortin okkar geta hjálpað forriturum að stækka og þróa fjölflögu hugbúnað með gervigreind,“ sagði Jim Keller, forstjóri Tenstorrent.Auk þessarar kynningar erum við spennt að sjá framfarirnar sem við erum að ná með útskrift og ræsingu annarrar kynslóðar vöru okkar, Blackhole.
Hver Wormhole örgjörvi inniheldur 72 Tensix kjarna (fimm þeirra styðja RISC-V kjarna í ýmsum gagnasniðum) og 108 MB af SRAM, sem skilar 262 FP8 TFLOPS við 1 GHz með 160W hitaorku. Einflögu Wormhole n150 kortið er búið 12 GB GDDR6 myndminni og hefur bandvídd upp á 288 GB/s.
Ormhole örgjörvar bjóða upp á sveigjanlegan sveigjanleika til að mæta fjölbreyttum þörfum vinnuálags. Í venjulegri vinnustöð með fjórum Wormhole n300 kortum er hægt að sameina örgjörvana í eina einingu sem birtist í hugbúnaðinum sem sameinað, breitt Tensix kjarnakerfi. Þessi stilling gerir hraðlinum kleift að meðhöndla sama vinnuálag, skipta því á milli fjögurra forritara eða keyra allt að átta mismunandi gervigreindarlíkön samtímis. Lykilatriði þessarar sveigjanleika er að hann getur keyrt staðbundið án þess að þörf sé á sýndarvæðingu. Í gagnaverumhverfi nota Wormhole örgjörvar PCIe fyrir stækkun innan vélarinnar eða Ethernet fyrir ytri stækkun.
Hvað varðar afköst þá náði einflögu Wormhole n150 kortið frá Tenstorrent (72 Tensix kjarnar, 1 GHz tíðni, 108 MB SRAM, 12 GB GDDR6, 288 GB/s bandbreidd) 262 FP8 TFLOPS við 160W, en tvíflögu Wormhole n300 kortið (128 Tensix kjarnar, 1 GHz tíðni, 192 MB SRAM, samanlagt 24 GB GDDR6, 576 GB/s bandbreidd) skilar allt að 466 FP8 TFLOPS við 300W.
Til að setja 300W af 466 FP8 TFLOPS í samhengi, berum við það saman við það sem Nvidia, leiðandi framleiðandi á gervigreindarmarkaði, býður upp á við þessa hitauppstreymisaflshönnun. Nvidia A100 styður ekki FP8, en hann styður INT8, með hámarksafköst upp á 624 TOPS (1.248 TOPS þegar hann er sparsaður). Til samanburðar styður Nvidia H100 FP8 og nær hámarksafköstum upp á 1.670 TFLOPS við 300W (3.341 TFLOPS þegar hann er sparsaður), sem er verulega frábrugðið Wormhole n300 frá Tenstorrent.
Hins vegar er eitt stórt vandamál. Wormhole n150 frá Tenstorrent kostar $999 en n300 kostar $1.399. Til samanburðar kostar eitt Nvidia H100 skjákort $30.000, allt eftir magni. Auðvitað vitum við ekki hvort fjórir eða átta Wormhole örgjörvar geti í raun skilað sömu afköstum og einn H300, en TDP þeirra er 600W og 1200W, talið í sömu röð.
Auk kortanna býður Tenstorrent upp á tilbúnar vinnustöðvar fyrir forritara, þar á meðal fjögur n300 kort í hagkvæmari útgáfunni af Xeon-byggðri TT-LoudBox með virkri kælingu og háþróaðri útgáfu af TT-QuietBox með EPYC-byggðri Xiaolong vökvakælingu.
Birtingartími: 29. júlí 2024