Jim Keller undir forystu flísafyrirtækisins Tenstorrent hefur sent frá sér næstu kynslóð ormholu örgjörva fyrir AI vinnuálag, sem það reiknar með að bjóða upp á góða afköst á viðráðanlegu verði.Fyrirtækið býður nú upp á tvö PCIE kort til viðbótar sem geta hýst einn eða tvo ormhol örgjörva, svo og TT-Loudbox og TT-Quietbox vinnustöðvar fyrir hugbúnaðarframleiðendur. Allar tilkynningar nútímans miða að verktaki, ekki þeim sem nota ormholuborð til vinnuálags í atvinnuskyni.
„Það er alltaf ánægjulegt að fá meira af vörum okkar í hendur verktaki. Losunarþróunarkerfi með því að nota Wormhole ™ kortin okkar geta hjálpað verktaki að stækka og þróa fjölflís AI hugbúnað,“ sagði Jim Keller, forstjóri Tenstorrent.Til viðbótar við þessa kynningu erum við spennt að sjá framfarir sem við erum að taka með spólunni og uppbyggingu annarrar kynslóðar vöru okkar, Blackhole. “
Hver ormhol örgjörva inniheldur 72 TENSIX kjarna (þar af fimm sem styðja RISC-V kjarna í ýmsum gagnasniðum) og 108 MB af SRAM, sem skila 262 FP8 TFLOPS við 1 GHz með hitauppstreymisafl 160W. Einhólfið N150 kortið er með 12 GB GDDR6 myndbandsminni og er með bandbreidd 288 GB/s.
Ormholu örgjörvar veita sveigjanlega sveigjanleika til að mæta fjölbreyttum þörfum vinnuálags. Í stöðluðu vinnustöð með fjórum ormholu N300 kortum er hægt að sameina örgjörvana í eina einingu sem birtist í hugbúnaðinum sem sameinað, breitt TenSix Core Network. Þessi stilling gerir eldsneytisgjöfinni kleift að takast á við sama vinnuálag, skipta á milli fjögurra verktaki eða keyra allt að átta mismunandi AI gerðum samtímis. Lykilatriði í þessari sveigjanleika er að það getur keyrt á staðnum án þess að þurfa virtualization. Í umhverfi gagnaversins munu ormhol örgjörvar nota PCIE til stækkunar inni í vélinni, eða Ethernet til utanaðkomandi stækkunar.
Hvað varðar frammistöðu, þá náði TenStorrent's One-Chip Wormhole N150 kort (72 TENSIX kjarna, 1 GHz tíðni, 108 MB SRAM, 12 GB GDDR6, 288 GB/S bandbreidd) 24 GB GDDR6, 576 GB/S bandbreidd) skilar allt að 466 FP8 TFLOPS við 300W.
Til að setja 300W af 466 FP8 TFLOPS í samhengi, berum við það saman við það sem AI Market Leader Nvidia býður upp á þennan hitauppstreymi. A100 NVIDIA styður ekki FP8, en það styður INT8, með hámarksafköstum 624 toppanna (1.248 bolir þegar þeir eru dreifðir). Til samanburðar styður H100 NVIDIA FP8 og nær hámarksafköstum 1.670 TFLOPS við 300W (3.341 TFLOPS við dreifða), sem er verulega frábrugðinn Tenstorrent's Wormhole N300.
Hins vegar er eitt stórt vandamál. Wormhole N150 Tenstorrent er fyrir $ 999 en N300 selur fyrir $ 1.399. Til samanburðar er eitt NVIDIA H100 skjákort fyrir $ 30.000, allt eftir magni. Auðvitað vitum við ekki hvort fjórir eða átta ormholvinnsluaðilar geta raunverulega skilað árangri eins H300, en TDP þeirra eru 600W og 1200W í sömu röð.
Til viðbótar við kortin býður TenStorrent fyrirfram byggðar vinnustöðvar fyrir verktaki, þar á meðal 4 N300 kort í hagkvæmari Xeon-byggðri TT-Loudbox með virkri kælingu og háþróaðri TT-Quietbox með EPYC-undirstaða Xiaolong) fljótandi kælingu).
Post Time: júl-29-2024