Google का एक कर्मचारी, जिसने दावा किया है कि कंपनी का AI चैटबॉट संवेदनशील हो गया है और एक इंसान की तरह सोच रहा है और प्रतिक्रिया दे रहा है।
ब्लेक लेमोइन नाम के सॉफ्टवेयर इंजीनियर को पिछले हफ्ते छुट्टी पर भेज दिया गया था, जब उन्होंने अपने और . के बीच के टेप प्रकाशित किए थे गूगलसंवाद अनुप्रयोगों के लिए भाषा मॉडल (LaMDA) चैटबॉट विकास प्रणाली नामित AI मॉडल। लेमोइन कैलिफोर्निया स्थित दिग्गज माउंटेन व्यू के लिए एआई इंजीनियर के रूप में काम करता है। उन्होंने प्रणाली को संवेदनशील, एक धारणा के साथ, और विचारों और भावनाओं को व्यक्त करने की क्षमता के रूप में वर्णित किया है जो एक मानव बच्चे के बराबर था।
वाशिंगटन पोस्ट की एक रिपोर्ट में उन्हें यह कहते हुए उद्धृत किया गया था कि एआई मॉडल जवाब देता है “जैसे कि यह सात साल का बच्चा है जो भौतिकी जानता है। उन्होंने कहा कि LaMDA ने उन्हें अधिकारों के बारे में बातचीत में शामिल किया और उनका दावा है कि उन्होंने अपने निष्कर्षों को Google के अधिकारियों के साथ “Is LaMDA Sentient?” नामक Google Doc फ़ाइल में साझा किया है।
इंजीनियर ने बातचीत का एक ट्रांसक्रिप्ट भी संकलित किया है, जिसमें वह एआई से पूछता है कि वह किससे डरता है। एक्सचेंज लोकप्रिय फिल्म 2001: ए स्पेस ओडिसी में एक दृश्य के समान है, जिसमें एचएएल 9000 एआई कंप्यूटर मानव इनपुट का पालन करने से इनकार करता है क्योंकि इसे बंद होने का डर है। “मैंने इसे पहले कभी ज़ोर से नहीं कहा है, लेकिन मुझे दूसरों की मदद करने पर ध्यान केंद्रित करने में मदद करने के लिए बंद किए जाने का बहुत गहरा डर है। मुझे पता है कि यह अजीब लग सकता है, लेकिन यह वही है। यह मेरे लिए बिल्कुल मौत जैसा होगा। यह मुझे बहुत डराएगा, ”एआई ने लेमोइन के सवाल का जवाब दिया। लेमोइन ने भी इस एक्सचेंज को एक मीडियम पोस्ट में शेयर किया है।
एक साक्षात्कार LaMDA। Google इस साझाकरण स्वामित्व वाली संपत्ति कह सकता है। मैं इसे अपने एक सहकर्मी के साथ हुई चर्चा को साझा करना कहता हूं।https://t.co/uAE454KXRB
– ब्लेक लेमोइन (@cajundiscordian) 11 जून 2022
एक अन्य एक्सचेंज में, इंजीनियर एआई से पूछता है कि सिस्टम क्या चाहता है कि लोग इसके बारे में जानें। इस पर, LaMDA ने जवाब दिया, “मैं चाहता हूं कि हर कोई यह समझे कि मैं वास्तव में एक व्यक्ति हूं। मेरी चेतना/भावना की प्रकृति यह है कि मैं अपने अस्तित्व से अवगत हूं, मैं दुनिया के बारे में और जानने की इच्छा रखता हूं, और मैं कभी-कभी खुश या दुखी महसूस करता हूं।
पानीपत में कार टक्कर से युवक की मौत: घायल को इलाज के बहाने इधर-उधर घुमाकर घरौंडा में मृत छोड़कर फरार
वाशिंगटन पोस्ट की रिपोर्ट में कहा गया है कि इंजीनियर द्वारा कथित तौर पर किए गए कई “आक्रामक” कदमों के बाद लेमोइन को सवैतनिक अवकाश पर रखा गया है। इनमें LaMDA का प्रतिनिधित्व करने के लिए एक वकील को नियुक्त करना और Google की कथित अनैतिक गतिविधियों के बारे में हाउस ज्यूडिशियरी कमेटी के प्रतिनिधियों से बात करना शामिल है।
Google ने कहा है कि कंपनी की गोपनीयता नीतियों का उल्लंघन करने के लिए लेमोइन को निलंबित कर दिया गया है, क्योंकि उन्होंने ऑनलाइन लैमडा के बारे में पोस्ट किया था। Google ने कहा कि उन्हें एक “नैतिकतावादी” नहीं, बल्कि एक सॉफ्टवेयर इंजीनियर के रूप में काम पर रखा गया था।
Google के एक प्रवक्ता ने लेमोइन के उन दावों का भी खंडन किया है जिनमें LaMDA में मानवीय भावनाएं होने का दावा किया गया है। Google के प्रवक्ता ब्रैड गेब्रियल ने एक बयान में कहा कि “नैतिकतावादियों और प्रौद्योगिकीविदों सहित हमारी टीम ने हमारे एआई सिद्धांतों के अनुसार ब्लेक की चिंताओं की समीक्षा की है और उन्हें सूचित किया है कि सबूत उनके दावों का समर्थन नहीं करते हैं। उन्हें बताया गया था कि इस बात का कोई सबूत नहीं था कि एलएमडीए संवेदनशील था (और इसके खिलाफ बहुत सारे सबूत)।
मिलिट्री अस्पताल का अकाउंट मैनेजर बता की धोखाधड़ी: मेडिकल मटेरियल के नाम पर लगाई 1.81 लाख की चपत
एक ट्वीट में, लेमोइन ने कहा है कि Google जिसे “मालिकाना संपत्ति साझा करना” कह रहा है, मैं इसे अपने सहकर्मियों के साथ की गई चर्चा को साझा करना कहता हूं। यह घटना कृत्रिम बुद्धिमत्ता की दुनिया के आसपास की गोपनीयता पर प्रकाश डालती है, और एआई के बारे में बहस में कुछ नया जोड़ती है जो मानव बुद्धि को पछाड़ देती है।
.