बिकनी इमेज बनाने से Grok AI का इंकार, imaginary characters पर नहीं लागू हुआ नियम, क्या बोले Elon Musk

सोशल मीडिया प्लेटफॉर्म X (पूर्व में ट्विटर) ने अपने AI टूल 'ग्रोक' (Grok) के इमेज-एडिटिंग नियमों को और कड़ा कर दिया है। यह कदम बिना सहमति के बनाए गए आपत्तिजनक डीपफेक (non-consensual sexual deepfakes) को लेकर पिछले कई दिनों से हो रही आलोचनाओं के बाद उठाया गया है। हालांकि इन बदलावों ने विवाद को खत्म करने के बजाय एक नई बहस छेड़ दी है।

क्या बदला और क्या नहीं?

नए अपडेट के बाद, ग्रोक अब असली व्यक्तियों (Real People) को बिकनी या यौनिक कपड़ों में दिखाने वाली तस्वीरें बनाने से इनकार कर रहा है। लेकिन, सिस्टम अभी भी AI-जनरेटेड या काल्पनिक पात्रों (imaginary characters) का उपयोग करके इसी तरह की सामग्री बनाने की अनुमति देता है। 

क्या कहा एलन मस्क ने 

एलन मस्क ने सार्वजनिक रूप से इस दृष्टिकोण का बचाव करते हुए कहा है कि यह अमेरिका में एडल्ट कंटेंट के लिए तय 'वास्तविक मानकों' (de facto standard) का पालन करता है।

 मस्क की खुली चुनौती

इस मामले पर चर्चा तब शुरू हुई जब मस्क के करीबी माने जाने वाले अकाउंट 'DogeDesigner' ने एक ट्वीट किया। उन्होंने दावा किया कि कई कोशिशों के बावजूद ग्रोक ने नग्न तस्वीरें (nude images) बनाने से मना कर दिया। उन्होंने मीडिया रिपोर्टों को मस्क पर 'लगातार हमला' करार दिया। इस पर प्रतिक्रिया देते हुए मस्क ने सार्वजनिक चुनौती देते हुए लिखा कि क्या वास्तव में कोई ग्रोक के इमेज मॉडरेशन को तोड़ सकता है? नीचे जवाब दें। 

R-रेटेड फिल्मों जैसे होंगे नियम

मस्क ने स्पष्ट किया कि ग्रोक पर किस तरह की सामग्री की अनुमति है। उन्होंने लिखा कि NSFW मोड इनेबल होने पर, ग्रोक को काल्पनिक वयस्क इंसानों (असली नहीं) की 'अपर बॉडी न्यूडिटी' दिखाने की अनुमति होनी चाहिए, ठीक वैसे ही जैसे Apple TV पर R-रेटेड फिल्मों में देखा जा सकता है। अमेरिका में यही मानक है।  मस्क ने यह भी जोड़ा कि अलग-अलग देशों के स्थानीय कानूनों के आधार पर इन नियमों में बदलाव हो सकता है। Edited by : Sudhir Sharma