गुगलले TPU 8tx र TPU 8i Max सार्वजनिक गर्यो, एआई चिप लाइनअप विस्तार

गुगलले सोमबार दुई कृत्रिम बुद्धिमत्ता कम्प्युटिङ प्रणाली, TPU 8tx र TPU 8i Max, थप्यो। यसले आठौं पुस्ताको टेन्सर प्रोसेसिङ युनिट लाइनअप पूरा गर्छ, जसले अब ग्राहकलाई एआई मोडेल प्रशिक्षण र सञ्चालनका लागि चार कन्फिगरेसन दिन्छ। गुगलका अनुसार उसले एआई प्रयोगशालादेखि विश्वविद्यालयसम्म करिब १०० TPU ग्राहकलाई सेवा दिन्छ, र दुवै प्रणाली एउटै वर्षमा चार TPU सार्वजनिक गरेको घोषणा हो, जुन कम्पनीका लागि पहिलो हो।

घोषणा महत्त्वपूर्ण छ किनभने प्रत्येक प्रणाली केका लागि बनाइएको हो। एउटा काम चलिरहँदा गोपनीयतामा केन्द्रित छ। अर्को मेमोरीमा केन्द्रित छ, जुन सीमाले अहिले ठूला एआई कामलाई रोक्छ भनी गुगल भन्छ।

TPU 8tx: कामका बेला गोपनीयता

Decrypt ले रिपोर्ट गरेको घोषणाअनुसार TPU 8tx ले हार्डवेयर स्तरको गोपनीय कम्प्युटिङ प्रयोग गरी काम सञ्चालन भइरहँदा पनि ग्राहक डेटा र स्वामित्व मोडेल प्यारामिटर अलग राख्छ। यसले TPU 8t सिलिकनलाई पाँचौं पुस्ताका AMD EPYC प्रोसेसर र गुगलको Boardfly नेटवर्कसँग जोड्छ।

गुगलको दाबी छ, यो डिजाइनले TPU 8t को तुलनामा विलम्बता आधासम्म घटाउन सक्छ, लगभग कुनै कार्यसम्पादन हानि बिना। त्यो तुलना गुगलकै हो, उसको अघिल्लो हार्डवेयरसँग मापन गरिएको। रिपोर्टहरू घोषणाको एउटा सीमाबारे स्पष्ट छन्: गुगलका कार्यसम्पादन आँकडाले नयाँ प्रणालीलाई Nvidia का पछिल्ला उत्पादनसँग होइन, गुगलकै अघिल्लो हार्डवेयरसँग तुलना गर्छन्।

TPU 8i Max: मेमोरी पर्खालका लागि निर्मित

TPU 8i Max ले दुई TPU 8i चिपलाई एउटै प्याकेजमा जोड्छ। रिपोर्टअनुसार त्यसले TPU 8i को तुलनामा कम्प्युटिङ शक्ति, अन-चिप SRAM र उच्च ब्यान्डविथ मेमोरी थ्रुपुट दोब्बर गर्छ। TechTarget को रिपोर्टले मेमोरी आँकडा ७६८MB SRAM र १७.२TB/s उच्च ब्यान्डविथ मेमोरी थ्रुपुट राखेको छ।

गुगलका प्रमुख प्रविधिविद् तथा एआई र पूर्वाधारका वरिष्ठ उपाध्यक्ष अमिन वाहदातले प्रणालीलाई रिपोर्टमा उद्धृत एक लाइनमा यसरी राखे: "हाम्रो चौथो प्रणाली, TPU 8i Max, फरक समस्याका लागि बनेको हो: मेमोरी पर्खाल।"

गुगलले TPU Sync लाई खुला स्रोत बनाइरहेको पनि भन्यो, जुन सफ्टवेयरले एआई कार्य मेमोरीलाई चिप, सर्भर र भण्डारणबीच सार्छ। त्यो सफ्टवेयर खुला राख्नु उही प्रस्तावको भाग हो: गुगल हार्डवेयरमा निर्माण गर्ने ग्राहकले आफ्ना मोडेल निर्भर रहने कार्य मेमोरी सार्ने उपकरण पाउँछन्।

गुगलले नभनेको कुरा

गुगलले दुई नयाँ कन्फिगरेसनको मूल्य खुलाएन, र उपलब्धता मिति पनि दिएन। प्रतिद्वन्द्वी हार्डवेयरसँग प्रणाली तुलना गर्ने ग्राहकले सोमबार वास्तुकला र गुगलका आफ्नै कार्यसम्पादन दाबी पाए, तर अधिकांश खरिद निर्णय गर्ने दुई आँकडा पाएनन्: प्रणालीको मूल्य कति हो र कहिले डेलिभर हुन सक्छ।

समयले घोषणालाई बजार पृष्ठभूमि दियो। Nvidia को सेयर बिहीबार ९.३ प्रतिशत घट्यो र सोमबारको कारोबारमा थप ५ प्रतिशत घट्यो, जसलाई रिपोर्टले Nvidia बोर्डको आफ्नो प्रमुख कार्यकारीसँग सम्बन्धित अनुसन्धानसँग जोड्छ। गुगलको घोषणा त्यही अवधिमा आयो, उसका दुई नयाँ प्रणाली ठूलो मात्रामा एआई कम्प्युटिङ शक्ति किन्ने उही ग्राहकतर्फ लक्षित छन्।

यहाँ श्रेय महत्त्वपूर्ण छ। माथिका विलम्बता र मेमोरी आँकडा गुगल घोषणाका दाबी र रिपोर्ट गरिएका विनिर्देश हुन्, Decrypt र TechTarget रिपोर्टले बोकेका। ती स्वतन्त्र परीक्षण परिणाम होइनन्, र सोमबारको घोषणामा Nvidia हार्डवेयरसँग प्रत्यक्ष तुलना समावेश थिएन।

स्रोतहरू

गुगल घोषणाबारे Decrypt रिपोर्ट, घोषणाबारे रिपोर्टमा आएका TechTarget आँकडा, र KuCoin ले बोकेको CoinDesk रिपोर्ट, तल लिङ्क गरिएको। यो वित्तीय सल्लाह होइन।