केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म ‘X’ को सख्त नोटिस भेजा है, जिसमें Grok AI से अश्लील कंटेंट हटाने के निर्देश दिए गए हैं. इसके साथ ही सरकार ने कंपनी से 72 घंटों में रिपोर्ट भेजने को भी कहा है.
दरअसल बीते कुछ दिनों से सोशल मीडिया प्लेटफॉर्म X के जनरेटिव AI चैटबॉट Grok का दुरुपयोग बढ़ता जा रहा था, जिसमें यूजर्स इसे अश्लील कंटेंट करके इस्तेमाल कर रहे थे. इस बढ़ते ट्रेंड पर केंद्र सरकार की चिंता बढ़ी और अब भारत के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (IT मिनिस्ट्री) ने सख्त कार्रवाई करते हुए X को आदेश दिया है कि वह अपनी Grok AI तकनीक की समीक्षा तुरंत करे.
72 घंटों में सरकार को सौंपे रिपोर्ट
इसके साथ ही सरकार ने निर्देश दिया है, इस मामले में जो भी कार्रवाई की जाएगी या फिर समीक्षा की जाएगी, उसकी रिपोर्ट केंद्र सरकार को 72 घंटे में दी जाए.
सरकार ने क्यों लिया ये फैसला?
दरअसल एक्स यूजर्स फोटो पोस्ट करके बॉट को निर्देश देते थे कि किसी महिला की पोशाक हटाकर उसे अधिक उत्तेजक रूप में दिखाओ. कई बार Grok ने बिना अनुमति के महिलाओं के फोटो में बदलाव जैसा आउटपुट दिया, जिससे अश्लील रूपांतरण वाली तस्वीरें सामने आईं, जो कि प्लेटफॉर्म की अपनी नीतियों और भारत के कानूनों के खिलाफ हैं.
इसलिए सरकार ने महिलाओं के खिलाफ चल रहे ट्रेंड में अब कदम उठाया है. अगर प्लेटफॉर्म यह सुनिश्चित नहीं करता तो उसे कानूनी कार्रवाई का सामना करना पड़ सकता है.
सरकार ने साल 2025 के आखिरी हफ्तों में भेजा था नोटिस
साल 2025 के आखिरी हफ्तों में ही इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने एक नई एडवाइजरी जारी की थी, जिसमें सोशल मीडिया प्लेटफॉर्म्स को अश्लील, वयस्क या अवैध कंटेंट हटाने के अपने दायित्वों को ‘और सख्ती से पालन’ करने का निर्देश दिया गया था. ऐसा नहीं करने पर प्लेटफॉर्म्स को कड़ी कार्रवाई का सामना करना पड़ सकता है.
