ग्रोक अश्लीलता विवाद: सरकार ग्रोक AI पर एलन मस्क के एक्स जवाब से ‘संतुष्ट नहीं’, कहा, ‘जवाब पर्याप्त नहीं, विवरण…’

भारत सरकार ने एलन मस्क के सोशल मीडिया प्लेटफॉर्म X से उसके Grok AI टूल से जुड़े अश्लील कंटेंट से निपटने के लिए उठाए गए कदमों के बारे में और जानकारी देने को कहा है। सूत्रों ने बुधवार को बताया कि सरकार अब तक X के जवाब से खुश नहीं है। केंद्र इस बारे में साफ जानकारी चाहता है कि ऐसे कंटेंट के खिलाफ क्या कार्रवाई की गई है और भविष्य में ऐसी घटनाओं को रोकने के लिए क्या सुरक्षा उपाय किए जा रहे हैं। हालांकि X ने एक डिटेल्ड जवाब भेजा है, लेकिन सरकार का मानना ​​है कि यह उसकी चिंताओं का पूरी तरह से जवाब नहीं देता है।

IT मिनिस्ट्री ने अब X से और खास जानकारी शेयर करने को कहा है, जिसमें कंटेंट हटाने और बचाव के उपायों की डिटेल शामिल है। इसने प्लेटफॉर्म से इन और सवालों का तुरंत जवाब देने को भी कहा है। अब तक, X ने कोई पब्लिक स्टेटमेंट जारी नहीं किया है जिसमें बताया गया हो कि उसने भारत सरकार को क्या भेजा है।

X को मिनिस्ट्री को एक्शन टेकन रिपोर्ट जमा करने के लिए बुधवार, शाम 5 PM तक का एक्स्ट्रा टाइम दिया गया। इसके बाद Grok जैसे AI टूल्स के गलत इस्तेमाल से बनाए जा रहे अश्लील और सेक्सुअली एक्सप्लिसिट कंटेंट पर सख्त चेतावनी दी गई।

सेफ़ हार्बर क्लॉज़ के बारे में पूछे जाने पर, सरकारी सूत्रों ने कहा कि कानूनी सुरक्षा ग्रोक पर लागू नहीं होती, बल्कि X जैसे इंटरमीडियरीज़ पर लागू होती है। उन्होंने यह भी कहा कि अगर इंटरमीडियरीज़ उल्लंघन की जानकारी मिलने के बाद भी कार्रवाई नहीं करते हैं या मामला कोर्ट में पहुँचने के बाद ड्यू डिलिजेंस नियमों का पालन नहीं करते हैं, तो वे यह सुरक्षा खो सकते हैं।

रविवार को, X के ‘सेफ्टी’ हैंडल ने कहा कि वह प्लेटफॉर्म पर गैर-कानूनी कंटेंट के खिलाफ एक्शन लेता है, जिसमें चाइल्ड सेक्सुअल अब्यूज मटीरियल (CSAM) भी ​​शामिल है। उसने कहा कि ऐसा कंटेंट हटा दिया जाता है, अकाउंट्स को हमेशा के लिए सस्पेंड कर दिया जाता है, और ज़रूरत पड़ने पर लोकल अधिकारियों को इन्फॉर्म किया जाता है।

गैर-कानूनी कंटेंट पर एलन मस्क की बात दोहराते हुए X ने कहा था, “ग्रोक का इस्तेमाल करने या उसे गैर-कानूनी कंटेंट बनाने के लिए उकसाने वाले किसी भी व्यक्ति को वही नतीजे भुगतने होंगे जो गैर-कानूनी कंटेंट अपलोड करने पर भुगतने पड़ते हैं।”

2 जनवरी को, IT मिनिस्ट्री ने X को सभी अश्लील, घटिया और गैर-कानूनी कंटेंट, खासकर ग्रोक द्वारा बनाए गए कंटेंट को तुरंत हटाने का निर्देश दिया, या कानूनी कार्रवाई का सामना करने के लिए तैयार रहने को कहा।

मिनिस्ट्री ने US-बेस्ड कंपनी से 72 घंटों के अंदर एक डिटेल्ड एक्शन टेकन रिपोर्ट जमा करने को भी कहा। वह ग्रोक से जुड़े टेक्निकल और ऑर्गेनाइजेशनल उपायों, चीफ कंप्लायंस ऑफिसर की भूमिका, यूज़र्स और अकाउंट्स के खिलाफ की गई कार्रवाई, और भारतीय कानून के तहत ज़रूरी रिपोर्टिंग नियमों को पूरा करने के लिए उठाए जाने वाले कदमों के बारे में जानकारी चाहता था।

शुक्रवार को भेजे गए एक लेटर में, IT मिनिस्ट्री ने कहा कि Grok AI का गलत इस्तेमाल नकली अकाउंट बनाने के लिए किया जा रहा है, जो महिलाओं की गंदी तस्वीरें और वीडियो बनाकर उन्हें अपमानजनक तरीके से शेयर करते हैं।

मिनिस्ट्री ने कहा, “ज़रूरी बात यह है कि यह सिर्फ़ नकली अकाउंट बनाने तक ही सीमित नहीं है, बल्कि उन महिलाओं को भी टारगेट करता है जो प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के ज़रिए अपनी तस्वीरें या वीडियो होस्ट या पब्लिश करती हैं।”

मिनिस्ट्री ने कहा कि यह प्लेटफ़ॉर्म सेफ़गार्ड और एनफ़ोर्समेंट में गंभीर नाकामी दिखाता है और कानून का उल्लंघन करते हुए आर्टिफिशियल इंटेलिजेंस का गलत इस्तेमाल है।

सरकार ने X को बताया कि IT एक्ट और उसके नियमों का पालन करना ज़रूरी है और IT एक्ट के सेक्शन 79 के तहत कानूनी सुरक्षा ड्यू डिलिजेंस ज़रूरतों के सख़्त पालन पर निर्भर करती है।

मिनिस्ट्री ने कहा, “इसलिए, आपको सलाह दी जाती है कि आप अपने प्लेटफ़ॉर्म पर किसी भी ऐसे कंटेंट को होस्ट करने, दिखाने, अपलोड करने, पब्लिश करने, भेजने, स्टोर करने, शेयर करने से सख्ती से बचें जो अश्लील, पोर्नोग्राफ़िक, भद्दा, अश्लील, सेक्शुअली एक्सप्लिसिट, पीडोफ़िलिक, या किसी भी कानून के तहत मना है…” सरकार ने चेतावनी दी कि इन ज़िम्मेदारियों को पूरा न करने पर IT एक्ट के सेक्शन 79 के तहत कानूनी सुरक्षा खत्म हो जाएगी और भारतीय न्याय संहिता समेत दूसरे कानूनों के तहत कार्रवाई हो सकती है।

X को अपने यूज़र नियमों और AI इस्तेमाल की पॉलिसी को सख्ती से लागू करने के लिए भी कहा गया। इसमें नियम तोड़ने वाले यूज़र्स के खिलाफ अकाउंट सस्पेंड या टर्मिनेशन जैसी कड़ी कार्रवाई शामिल है।

प्लेटफ़ॉर्म को IT रूल्स, 2021 के तहत ज़रूरी सबूतों को सुरक्षित रखते हुए, कानून तोड़ने वाले सभी कंटेंट को “बिना देर किए” हटाने या एक्सेस ब्लॉक करने का निर्देश दिया गया है।

यह मामला सिर्फ़ भारत तक ही सीमित नहीं है। UK और मलेशिया के अधिकारियों ने भी चिंता जताई है। UK के कम्युनिकेशन रेगुलेटर ऑफ़कॉम ने हाल ही में एक सोशल मीडिया पोस्ट में कहा: “हमें X पर ग्रोक के एक फ़ीचर के बारे में गंभीर चिंताओं के बारे में पता है जो लोगों की बिना कपड़ों वाली तस्वीरें और बच्चों की सेक्शुअल तस्वीरें बनाता है।” “हमने X और xAI से तुरंत संपर्क किया है ताकि यह समझ सकें कि UK में यूज़र्स की सुरक्षा के लिए अपनी कानूनी ज़िम्मेदारियों को पूरा करने के लिए उन्होंने क्या कदम उठाए हैं। ऑफ़कॉम ने कहा, “उनके जवाब के आधार पर, हम यह पता लगाने के लिए तेज़ी से असेसमेंट करेंगे कि क्या कोई संभावित कम्प्लायंस इशू हैं जिनकी जांच की ज़रूरत है।”