ऐसी-वैसी फोटोज बना रहा है एलन मस्क का AI टूल, रिजल्ट्स देखकर कई हैरान

अमेरिकी अरबपति एलन मस्क की सोशल मीडिया कंपनी X (पहले Twitter) में यूजर्स को GrokAI का ऐक्सेस मिलता है। इस AI टूल की मदद से अब तक केवल टेक्स्ट में बातें की जा सकती थीं और अब इसमें टेक्स्ट-टू-इमेज फीचर भी मिलने लगा है। यूजर्स टेक्स्ट इनपुट्स देकर जैसी चाहें वैसी इमेजेस जेनरेट कर सकते हैं। दिक्कत इस बात की है कि GrokAI बिना किसी तरह का फिल्टर लगाए फोटोज जेनरेट कर रहा है।

DALL-E या फिर गूगल के ImageFX टूल आपत्तिजनक या विवादित इमेजेस नहीं जेनरेट करते लेकिन GrokAI के साथ ऐसा नहीं है। इसकी मदद से ट्रंप को किस करते हुए एलन मस्क और हाथ में खतरनाक गन लिए पिकाचू पोकेमॉन जैसी इमेजेस आसानी से बनाई जा सकती हैं। इसके अलावा अश्लील फोटोज भी यह टूल फटाफट जेनरेट कर रहा है। कुछ यूजर्स इसे फनी मान रहे हैं तो वहीं कुछ को ऐसे टूल से आपत्ति भी है।

एलन मस्क ने AI को माना मजेदार

बेशक Grok AI ऐसी-वैसी कैसी भी फोटोज जेनरेट कर रहा हो लेकिन एलन मस्क इसे मजेदार मान रहे हैं। एलन मस्क ने पहले ही साफ किया था कि X का मालिक बनने के बाद यूजर्स को बिना किसी रोक-टोक अपनी बात रखने का मौका मिलेगा और ऐसा हुआ भी। ठीक ऐसा ही वादा GrokAI के साथ भी किया जा रहा है और एलन मस्क ने इसे अब तक का सबसे मजेदार AI कहा है।

इसलिए कुछ लिमिटेशंस होना जरूरी

अगर AI की मदद से जैसी चाहें, वैसी इमेजेस बिना किसी लिमिट के बनाई जा सकें तो उनमें अश्लील, हिंसक और विवादित कंटेंट शामिल हो सकता है। इसके अलावा बच्चों और अन्य संवेदनशील समुदायों के लिए नैतिक रूप से कई दिक्कतें सामने आ सकती हैं। कई विवादित इमेजेस का इस्तेमाल किसी को बदनाम करने या फिर फेक न्यूज फैलाने के लिए किया जा सकता है।

यही वजह है कि सख्त फिल्टरिंग की जरूरत ऐसे टूल्स को पड़ती है। देखना होगा कि मस्क अपने टूल के लिए ऐसा कोई फिल्टर अप्लाई करते हैं या नहीं। फिलहाल यूजर्स सोशल मीडिया पर GrokAI की मदद से जेनरेट की गई फोटोज शेयर कर रहे हैं और उनके बारे में चर्चा कर रहे हैं।