सोशल मीडिया प्लेटफॉर्म X ने अपने AI चैटबोट Grok पर अश्लील और आपत्तिजनक कंटेंट बनाने को लेकर सख्त नियम लागू कर दिए हैं। कंपनी ने कहा कि Grok के जरिए बनाई गई अश्लील या फूहड़ सामग्री तुरंत हटाई जाएगी और ऐसे यूजर्स के अकाउंट पर वही कार्रवाई होगी, जो सीधे अवैध कंटेंट अपलोड करने पर होती है। यानी इस तरह के कंटेंट बनाने वाले यूजर का अकाउंट हमेशा के लिए बैन किया जाएगा। यह कदम भारत सरकार की आपत्ति जताने के तीन दिन बाद आया है।

मामले को गंभीरता देते हुए शिवसेना (UBT) की सांसद प्रियंका चतुर्वेदी ने आईटी मंत्री को लेटर लिखकर बताया कि कुछ लोग AI का गलत इस्तेमाल कर महिलाओं की असली तस्वीरों को आपत्तिजनक रूप में बदल रहे हैं। X के मालिक इलॉन मस्क ने कहा कि Grok केवल यूजर के इनपुट के आधार पर काम करता है और जिम्मेदारी टूल की नहीं, बल्कि उसे इस्तेमाल करने वाले की होती है। नए नियमों के बाद अब AI से अश्लील कंटेंट बनाने वाले यूजर्स को सीधे सजा भुगतनी पड़ेगी।