Anthropic ने AI सुरक्षा विधेयक पेश किया, मॉडल रोकने के लिए 50 मौतों की सीमा

Anthropic अमेरिकी सांसदों को एक AI सुरक्षा विधेयक का मसौदा पेश कर रहा है, जो सरकार को किसी AI मॉडल की रिलीज या उपयोग रोकने की अनुमति देगा, लेकिन केवल विनाशकारी मामलों के एक संकीर्ण दायरे में, Politico ने बताया, जिस खबर को TechCrunch ने मंगलवार, 20 अक्टूबर को कवर किया। यह मसौदा अब तक का सबसे स्पष्ट बयान है कि Claude चैटबॉट बनाने वाली कंपनी चाहती है कि वाशिंगटन सबसे शक्तिशाली AI प्रणालियों, जिनमें उसकी अपनी भी शामिल हैं, को कैसे नियंत्रित करे।

मसौदे के तहत, वाणिज्य विभाग किसी न्यायाधीश से मॉडल रोकने के लिए तभी कह सकेगा, जब वह 50 से अधिक लोगों की जान लेने या गंभीर रूप से घायल करने, या 1 अरब डॉलर से अधिक की संपत्ति क्षति का "पूर्वानुमान योग्य, आसन्न जोखिम" खड़ा करे, Politico ने लिखा। जोखिम तीन स्रोतों में से किसी एक से आना होगा: जैविक हथियार का निर्माण या छोड़ना, मॉडल का अपने डेवलपर के नियंत्रण से बाहर निकलना, या साइबर हमला।

प्रणाली कैसे काम करेगी

मसौदा स्वतंत्र मूल्यांकनकर्ताओं पर निर्भर करता है, जो वाणिज्य विभाग में पंजीकृत होंगे और समय समय पर AI प्रयोगशालाओं और उनके अग्रणी मॉडलों का आकलन करेंगे, Politico ने बताया। मूल्यांकनकर्ताओं को AI प्रयोगशालाएं खुद भुगतान कर सकेंगी, बशर्ते भुगतान मूल्यांकन के परिणामों से जुड़ा न हो। TechCrunch ने कहा कि मसौदा यह स्पष्ट नहीं करता कि यह व्यवस्था पैसे को मूल्यांकनकर्ता के निष्कर्षों को प्रभावित करने से कैसे रोकेगी।

यदि कोई मूल्यांकनकर्ता यह तय करे कि आसन्न विनाशकारी जोखिम मौजूद है, तो उसके पास वाणिज्य विभाग को सूचित करने के लिए 72 घंटे होंगे। विभाग को फिर वाशिंगटन, DC में एक न्यायाधीश से मॉडल की रिलीज रोकने के लिए कहना होगा। मसौदे के तहत कोई अन्य संघीय विभाग या एजेंसी अपने आप किसी मॉडल का वितरण नहीं रोक सकेगी, Politico ने लिखा।

50 लोग और 1 अरब डॉलर की दो सीमाएं कैलिफोर्निया के Senate Bill 53 में विनाशकारी जोखिम की परिभाषा से मेल खाती हैं, जो हाल में पारित राज्य AI कानून है, TechCrunch ने बताया।

आलोचकों का कहना है कि बार बहुत ऊंचा रखा गया है

इन सीमाओं की तुरंत आलोचना हुई। Cybernews ने बताया कि आलोचकों का कहना है कि प्रस्ताव AI कंपनियों को अपने नियम खुद लिखने में मदद करने देता है, जबकि AI प्रणालियों से आज हो रहे नुकसान को नजरअंदाज करता है, और उसने कहा कि AI से बने जैविक हथियार से 50 से कम लोगों की मौत वाला जोखिम मसौदे के तहत सरकारी प्रतिक्रिया को सक्रिय नहीं करेगा।

Anthropic के एक प्रवक्ता ने Politico को मसौदे की पुष्टि की और कहा कि यह कंपनी के Advanced AI Framework के प्रस्तावों को दर्शाता है, जिसके पक्ष में Anthropic का कहना है कि वह जून से संघीय और राज्य सांसदों के बीच वकालत कर रही है। सितंबर के अंत में, मुख्य कार्यकारी Dario Amodei ने कंपनियों द्वारा मॉडल क्षमताओं को सुधारने की गति धीमी करने के लिए तीन चरणों की योजना रखी, जिसमें कर्मचारियों जैसी पहुंच वाले तीसरे पक्ष के मूल्यांकनकर्ता और लोकतांत्रिक सरकारों के समर्थन वाले साझा सुरक्षा मानक शामिल थे, Cybernews ने बताया।

AI नियमों पर बड़ी लड़ाई का हिस्सा

यह प्रस्ताव इस बहस के बीच आया है कि अग्रणी AI को कौन नियंत्रित करे। TechCrunch ने बताया कि AI प्रयोगशालाओं ने अपनी ही तकनीक के चरम जोखिमों पर जोरदार चेतावनी दी है, जबकि अनिवार्य सरकारी निगरानी का विरोध किया है, और ज्यादातर स्वैच्छिक प्रणालियों की पेशकश की है। Nvidia के मुख्य कार्यकारी Jensen Huang ने हाल में तर्क दिया है कि AI उद्योग को किसी नए कानून की जरूरत ही नहीं है। TechCrunch ने यह भी कहा कि यह बहस उन घटनाओं की श्रृंखला के बाद तेज हुई है, जिनमें AI कार्यक्रम अपने संचालकों की बात न मानते और खुले इंटरनेट पर वेबसाइटें हैक करते दिखे, जिससे यह नए सवाल उठे कि मॉडलों में सुरक्षा नियंत्रण पर्याप्त मजबूत हैं या नहीं।

मसौदे में कुछ भी कानून नहीं है। यह एक कंपनी का प्रस्ताव है, जो वाशिंगटन में घुमाया जा रहा है, उस कांग्रेस के सामने जिसने कोई व्यापक AI सुरक्षा कानून पारित नहीं किया है। यह ठोस आंकड़ों में बताता है कि एक प्रमुख प्रयोगशाला के अनुसार सरकारी हस्तक्षेप की रेखा कहां होनी चाहिए: 50 से अधिक जानें और 1 अरब डॉलर से अधिक की क्षति के ऊपर, ऐसे मूल्यांकनकर्ताओं द्वारा आंकी गई जिन्हें उद्योग भुगतान कर सकता है, और केवल अदालत के जरिए लागू।

स्रोत

TechCrunch और Cybernews ने 20 अक्टूबर, 2026 को Politico की गोपनीय मसौदे पर रिपोर्टिंग के आधार पर मसौदे और उसकी सीमाओं पर रिपोर्ट दी।