गूगल ने TPU 8tx और TPU 8i Max पेश किए, एआई चिप लाइनअप बढ़ाया

गूगल ने सोमवार को दो कृत्रिम बुद्धिमत्ता कंप्यूटिंग प्रणालियां, TPU 8tx और TPU 8i Max, जोड़ीं, जिससे आठवीं पीढ़ी का टेंसर प्रोसेसिंग यूनिट लाइनअप पूरा हो गया जो अब ग्राहकों को एआई मॉडल प्रशिक्षित करने और चलाने के लिए चार कॉन्फ़िगरेशन देता है। गूगल का कहना है कि वह एआई प्रयोगशालाओं से लेकर विश्वविद्यालयों तक लगभग 100 TPU ग्राहकों को सेवा देता है, और उसने दोनों प्रणालियों की घोषणा एक ही साल में चार TPU पेशकशों के साथ की, जो कंपनी के लिए पहली बार है।

यह घोषणा इसलिए मायने रखती है कि प्रत्येक प्रणाली किस काम के लिए बनी है। एक काम चलते समय गोपनीयता के इर्द-गिर्द बनी है। दूसरी मेमोरी के इर्द-गिर्द बनी है, वह सीमा जिसके बारे में गूगल कहता है कि वह अब बड़े एआई कामों को रोकती है।

TPU 8tx: काम के दौरान गोपनीयता

Decrypt द्वारा रिपोर्ट की गई घोषणा के अनुसार, TPU 8tx हार्डवेयर स्तर की गोपनीय कंप्यूटिंग का उपयोग करके काम चल रहा होने पर भी ग्राहक डेटा और मालिकाना मॉडल पैरामीटर अलग रखता है। यह TPU 8t सिलिकॉन को पांचवीं पीढ़ी के AMD EPYC प्रोसेसर और गूगल के Boardfly नेटवर्क के साथ जोड़ता है।

गूगल का दावा है कि यह डिज़ाइन TPU 8t की तुलना में विलंबता को आधे तक घटा सकता है, लगभग बिना किसी प्रदर्शन हानि के। वह तुलना गूगल की अपनी है, उसके पहले के हार्डवेयर के मुकाबले मापी गई। रिपोर्ट घोषणा की एक सीमा पर स्पष्ट हैं: गूगल के प्रदर्शन आंकड़े नई प्रणालियों की तुलना Nvidia के नवीनतम उत्पादों से नहीं, गूगल के पहले के हार्डवेयर से करते हैं।

TPU 8i Max: मेमोरी की दीवार के लिए बना

TPU 8i Max दो TPU 8i चिपों को एक पैकेज में जोड़ता है। रिपोर्टों के अनुसार, इससे TPU 8i की तुलना में कंप्यूटिंग शक्ति, ऑन-चिप SRAM और उच्च बैंडविड्थ मेमोरी थ्रूपुट दोगुना हो जाता है। TechTarget की रिपोर्ट ने मेमोरी आंकड़े 768MB SRAM और 17.2TB/s उच्च बैंडविड्थ मेमोरी थ्रूपुट रखे।

गूगल के मुख्य प्रौद्योगिकीविद् और एआई व बुनियादी ढांचे के वरिष्ठ उपाध्यक्ष अमीन वाहदात ने प्रणाली को रिपोर्टों में उद्धृत एक पंक्ति में रखा: "हमारी चौथी प्रणाली, TPU 8i Max, एक अलग समस्या के लिए बनी है: मेमोरी की दीवार।"

गूगल ने यह भी कहा कि वह TPU Sync को ओपन सोर्स कर रहा है, वह सॉफ़्टवेयर जो एआई कार्यशील मेमोरी को चिपों, सर्वरों और भंडारण के बीच ले जाता है। उस सॉफ़्टवेयर को खुले में रखना उसी पेशकश का हिस्सा है: गूगल हार्डवेयर पर बनाने वाले ग्राहकों को वह कार्यशील मेमोरी ले जाने के उपकरण मिलते हैं जिस पर उनके मॉडल निर्भर हैं।

गूगल ने क्या नहीं कहा

गूगल ने दो नए कॉन्फ़िगरेशन की कीमत नहीं बताई, और उपलब्धता की तारीखें भी नहीं दीं। प्रतिद्वंद्वी हार्डवेयर के मुकाबले प्रणालियों को तौलने वाले ग्राहकों को सोमवार को संरचना और गूगल के अपने प्रदर्शन दावे मिले, लेकिन वे दो आंकड़े नहीं मिले जो अधिकांश खरीद तय करते हैं: प्रणालियों की लागत कितनी है और वे कब डिलीवर हो सकती हैं।

समय ने लॉन्च को एक बाजार पृष्ठभूमि दी। Nvidia के शेयर गुरुवार को 9.3 प्रतिशत गिरे और सोमवार के कारोबार में और 5 प्रतिशत गिर गए, ऐसी रिपोर्ट में जो शेयर पर दबाव को उसके मुख्य कार्यकारी से जुड़ी Nvidia बोर्ड जांच से जोड़ती है। गूगल की घोषणा उसी खिड़की में आई, उसकी दो नई प्रणालियां उन्हीं ग्राहकों को लक्षित हैं जो बड़ी मात्रा में एआई कंप्यूटिंग शक्ति खरीदते हैं।

यहां श्रेय मायने रखता है। ऊपर के विलंबता और मेमोरी आंकड़े गूगल की घोषणा के दावे और रिपोर्ट की गई विशिष्टताएं हैं, जिन्हें Decrypt और TechTarget की रिपोर्ट ने आगे बढ़ाया। वे स्वतंत्र परीक्षण परिणाम नहीं हैं, और सोमवार की घोषणा में Nvidia हार्डवेयर के साथ आमने-सामने की तुलना शामिल नहीं थी।

स्रोत

गूगल की घोषणा पर Decrypt की रिपोर्ट, लॉन्च पर रिपोर्ट में आए TechTarget के आंकड़े, और KuCoin द्वारा आगे बढ़ाई गई CoinDesk की रिपोर्ट, नीचे लिंक की गई हैं। यह वित्तीय सलाह नहीं है।