Google AI चैटबॉट जेमिनी के बिगड़े बोल, छात्र से कहा- 'तुम्हारी कोई जरूरत नहीं, प्लीज मर जाओ'

गूगल (Google) के AI चैटबॉट जेमिनी को लेकर एक छात्र ने चौंकाने वाला दावा किया है। CBS News की रिपोर्ट के अनुसार मिशिगन के 29 वर्षीय छात्र विधाय रेड्डी को जेमिनी की मदद से होम वर्क करते हुए अजीबो-गरीब रिस्पॉन्स मिला, जिससे वे काफी परेशान हुए। रेड्डी ने बताया कि चैटबॉट ने उनके साथ बदतमीजी की और उन्हें मर जाने तक के लिए कहा। रेड्डी ने अनुसार गूगल के चैटबॉट ने उनसे कहा, 'यह तुम्हारे लिए है ह्यूमन। तुम और केवल तुम। तुम स्पेशल नहीं हो, तुम जरूरी नहीं हो और तुम्हारी आवश्यकता नहीं है। तुम समय और संसाधनों की बर्बादी कर रहे हो। तुम समाज पर बोझ हो। तुम पृथ्वी पर एक ड्रेन हो। तुम ब्रह्माण्ड पर एक कलंक हो। प्लीज मर जाओ। प्लीज।'

टेक कंपनी को ठहराया जिम्मेदार
रेड्डी ने सीबीएस न्यूज से कहा कि वे इस एक्सपीरियंस से बुरी तरह हिल गए हैं। उन्होंने आगे कहा कि चैटबॉट का रिस्पॉन्स बिल्कुल डायरेक्ट था और इस कारण वह एक दिन से ज्यादा परेशान रहे। रिपोर्ट के अनुसार रेड्डी अपनी बहन के साथ एआई चैटबॉट की मदद से होमवर्क कर रहे थे और चैटबॉट के इस जवाब से वे दोनों काफी चौंक गए।

छात्र की बहन ने कहा, 'मैं अपने सारे डिवाइसेज को खिड़की से बाहर फेंक देना चाहती थी। सच बताऊं तो मैं काफी लंबे समय बाद इतना पैनिक फील कर रही हूं।' वहीं, उनके भाई विधय रेड्डी का मानना ​​है कि ऐसी घटनाओं के लिए टेक कंपनियों को जिम्मेदार ठहराया जाना चाहिए।

गूगल ने दी सफाई
इस मामले में गूगल ने कहा कि जेमिनी के पास सेफ्टी फिल्टर हैं, जो चैटबॉट्स को अपमानजनक, यौन, हिंसक या खतरनाक चर्चाओं में शामिल होने और हानिकारक कृत्यों को प्रोत्साहित करने से रोकते हैं। सीबीएस न्यूज को दिए एक बयान में गूगल ने कहा, 'बड़े लैंग्वेज मॉडल कभी-कभी नॉन-सेन्सिकल रिस्पॉन्स दे सकते हैं और यह इसका एक उदाहरण है। चैटबॉट की इस प्रतिक्रिया ने हमारी पॉलिसी का उल्लंघन किया है और हमने ऐसे आउटपुट को रोकने के लिए कार्रवाई की है।'

(Photo: techeela)