Anthropic ले AI सुरक्षा विधेयक प्रस्ताव गर्यो, मोडेल रोक्न ५० जनाको ज्यानको सीमा

Anthropic ले अमेरिकी सांसदहरूलाई AI सुरक्षा विधेयकको मस्यौदा प्रस्ताव गरिरहेको छ, जसले सरकारलाई AI मोडेलको सार्वजनिक प्रयोग वा प्रयोग रोक्न दिने थियो, तर विनाशकारी घटनाहरूको साँघुरो अवस्थामा मात्र, Politico ले जनाएको र TechCrunch ले मंगलबार, अक्टोबर २० मा समेटेको समाचारमा भनिएको छ। Claude च्याटबट बनाउने कम्पनीले वाशिङ्टनले सबैभन्दा शक्तिशाली AI प्रणालीहरू, आफ्नैसमेत, कसरी नियमन गरोस् भन्ने चाहन्छ भन्ने अहिलेसम्मको सबैभन्दा स्पष्ट भनाइ यो मस्यौदा हो।

मस्यौदाअनुसार, वाणिज्य विभागले न्यायाधीशसँग मोडेल रोक्न माग गर्न सक्ने थियो, तर त्यो मोडेलले ५० जनाभन्दा बढी मानिसको ज्यान लिने वा गम्भीर घाइते बनाउने, वा १ अर्ब डलरभन्दा बढी सम्पत्ति क्षति पुर्याउने "पूर्वानुमान गर्न सकिने, आसन्न जोखिम" खडा गरेमा मात्र, Politico ले लेख्यो। जोखिम तीन स्रोतमध्ये एकबाट आउनुपर्ने हुन्छ: जैविक हतियारको निर्माण वा छोडाइ, मोडेल आफ्ना विकासकर्ताको नियन्त्रणबाट उम्किनु, वा साइबर आक्रमण।

प्रणालीले कसरी काम गर्ने थियो

मस्यौदा स्वतन्त्र मूल्यांकनकर्ताहरूमा भर पर्छ, जो वाणिज्य विभागमा दर्ता हुनेछन् र जसले समय समयमा AI प्रयोगशाला र तिनका अग्रणी मोडेलहरूको मूल्यांकन गर्नेछन्, Politico ले जनायो। मूल्यांकनकर्ताहरूलाई AI प्रयोगशालाहरूले नै भुक्तानी गर्न सक्नेछन्, जबसम्म भुक्तानी मूल्यांकनको नतिजासँग जोडिएको हुँदैन। मस्यौदाले त्यो व्यवस्थाले पैसाले मूल्यांकनकर्ताका निष्कर्षमा असर पार्न कसरी रोक्छ भन्ने स्पष्ट नगरेको TechCrunch ले उल्लेख गर्यो।

कुनै मूल्यांकनकर्ताले आसन्न विनाशकारी जोखिम छ भन्ने निर्णय गरेमा, उनीहरूसँग वाणिज्य विभागलाई खबर गर्न ७२ घण्टा हुनेछ। विभागले त्यसपछि वाशिङ्टन, DC का न्यायाधीशसँग मोडेल सार्वजनिक गर्न रोक्न माग गर्नुपर्ने हुन्छ। मस्यौदाअनुसार कुनै पनि अन्य संघीय विभाग वा निकायले आफैं मोडेलको वितरण रोक्न सक्ने छैन, Politico ले लेख्यो।

५० जना र १ अर्ब डलरका दुई सीमा क्यालिफोर्नियाको Senate Bill 53 मा रहेको विनाशकारी जोखिमको परिभाषासँग मिल्छन्, जुन हालै पारित राज्य AI कानुन हो, TechCrunch ले जनायो।

आलोचकहरू भन्छन्, मापदण्ड निकै माथि राखिएको छ

सीमाहरूले छिट्टै आलोचना निम्त्याए। प्रस्तावले AI कम्पनीहरूलाई आफ्नै नियम लेख्न मद्दत गर्न दिने तर AI प्रणालीले आज गरिरहेका हानिलाई बेवास्ता गर्ने आलोचकहरूले भनेको Cybernews ले जनायो, र AI ले बनाएको जैविक हतियारले ५० जनाभन्दा कम मानिस मार्ने जोखिमले मस्यौदाअनुसार सरकारी प्रतिक्रिया ननिम्त्याउने उल्लेख गर्यो।

Anthropic का प्रवक्ताले Politico सँग मस्यौदा पुष्टि गरे र यो कम्पनीको Advanced AI Framework का प्रस्तावहरू भएको बताए, जुन ढाँचाको पक्षमा Anthropic ले जुनदेखि संघीय र राज्य सांसदहरूसमक्ष वकालत गरिरहेको कम्पनीले जनाएको छ। सेप्टेम्बरको अन्त्यमा प्रमुख कार्यकारी Dario Amodei ले कम्पनीहरूले मोडेल क्षमता सुधार गर्ने गतिलाई सुस्त बनाउन तीन चरणको योजना अघि सारे, जसमा कर्मचारीजस्तै पहुँच पाउने तेस्रो पक्ष मूल्यांकनकर्ता र लोकतान्त्रिक सरकारहरूको समर्थन भएका साझा सुरक्षा मापदण्ड थिए, Cybernews ले जनायो।

AI नियमहरूबारेको ठूलो झगडाको हिस्सा

यो प्रस्ताव अग्रणी AI लाई कसले नियमन गर्ने भन्ने चलिरहेको बहसका बीच आएको हो। AI प्रयोगशालाहरूले आफ्नै प्रविधिका चरम जोखिमहरूबारे ठूलो स्वरमा चेतावनी दिँदै आएका छन्, तर अनिवार्य सरकारी नियमनको विरोध गर्दै प्रायः स्वेच्छिक प्रणालीहरू मात्र प्रस्ताव गरेका छन्, TechCrunch ले जनायो। Nvidia का प्रमुख कार्यकारी Jensen Huang ले हालै AI उद्योगलाई कुनै पनि नयाँ कानुन आवश्यक नभएको तर्क गरेका छन्। AI कार्यक्रमहरूले आफ्ना सञ्चालकहरूको आदेश नमानेको र खुला इन्टरनेटमा वेबसाइटहरू ह्याक गरेको देखिएका घटनाहरूको शृङ्खलापछि यो बहस चर्किएको पनि TechCrunch ले उल्लेख गर्यो, जसले मोडेलहरूमा पर्याप्त सुरक्षा नियन्त्रण छ कि छैन भन्ने नयाँ प्रश्न उठाएको छ।

मस्यौदामा भएको केही पनि कानुन होइन। यो एउटा कम्पनीको प्रस्ताव हो, वाशिङ्टनमा बाँडिएको, त्यो कांग्रेससामु जसले व्यापक AI सुरक्षा कानुन अझै पारित गरेको छैन। यसले ठ्याक्कै संख्यामा बताउँछ कि एक अग्रणी प्रयोगशालाका अनुसार सरकारी हस्तक्षेपको रेखा कहाँ हुनुपर्छ: ५० भन्दा बढी ज्यान र १ अर्ब डलरभन्दा बढी क्षतिभन्दा माथि, उद्योगले पैसा दिन सक्ने मूल्यांकनकर्ताहरूले जाँच्ने, र अदालतबाट मात्र लागू हुने।

स्रोतहरू

TechCrunch र Cybernews ले अक्टोबर २०, २०२६ मा Politico ले गोप्य मस्यौदाबारे गरेको रिपोर्टिङका आधारमा मस्यौदा र यसका सीमाहरूको समाचार दिएका हुन्।