एआई के संभावित खतरे दोनों एआई शोधकर्ताओं के दिमाग में सबसे ऊपर रहे हैं।
अमेरिकी संघीय व्यापार आयोग अपने चैटजीपीटी ऐप में गलत जानकारी और उपयोगकर्ता डेटा के दुरुपयोग को लेकर ओपनएआई की जांच कर रहा है। ओपनएआई जांच में सहयोग करेगा
अमेरिकी संघीय व्यापार आयोग यह निर्धारित करने के लिए ओपनएआई की जांच कर रहा है कि क्या इसका बेहद लोकप्रिय चैटजीपीटी ऐप झूठी जानकारी उत्पन्न करके उपभोक्ताओं को नुकसान पहुंचाता है और क्या इसकी तकनीक उपयोगकर्ता डेटा का दुरुपयोग करती है। माइक्रोसॉफ्ट समर्थित ओपनएआई को 20 पेज की प्रश्नावली में जांच के बारे में सूचित किया गया था जिसमें कंपनी से उन घटनाओं का वर्णन करने के लिए कहा गया है जिनमें उपयोगकर्ताओं को गलत तरीके से अपमानित किया गया था, और यह सुनिश्चित करने के लिए कंपनी के किसी भी प्रयास को साझा करने के लिए कहा गया है कि ऐसा दोबारा न हो।
अमेरिकी नियामक की जांच की रिपोर्ट सबसे पहले द वाशिंगटन पोस्ट ने दी थी। पिछले नवंबर में ओपनएआई की चैटजीपीटी की रिलीज ने दुनिया को चौंका दिया क्योंकि इसने बड़े भाषा मॉडल (या एलएलएम) की शक्ति प्रदर्शित की, कृत्रिम बुद्धिमत्ता का एक रूप जिसे जेनरेटिव एआई के रूप में जाना जाता है जो कुछ ही सेकंड में मानव जैसी सामग्री का मंथन कर सकता है।
प्रौद्योगिकी की क्षमताओं के चमत्कार के बीच, रिपोर्टें आईं कि मॉडल आपत्तिजनक, झूठी या बिल्कुल अजीब सामग्री भी प्रस्तुत कर सकते हैं, जिसे कभी-कभी “मतिभ्रम” भी कहा जाता है।
एफटीसी अध्यक्ष लीना खान ने बुधवार को कांग्रेस समिति की सुनवाई को संबोधित किया, और हालांकि उन्होंने जांच का उल्लेख नहीं किया, उन्होंने सांसदों को बताया कि उनकी एजेंसी को चैटजीपीटी के संभावित अपमानजनक आउटपुट के बारे में चिंता थी।
अमेरिकी अदालत के फैसले के बाद माइक्रोसॉफ्ट-एक्टिविज़न डील को अमेरिकी नियामक द्वारा चुनौती दी जाएगी –
खान ने कहा, “हमने उन रिपोर्टों के बारे में सुना है जहां लोगों की संवेदनशील जानकारी किसी और की पूछताछ के जवाब में दिखाई दे रही है।”
“हमने मानहानि, मानहानिकारक बयानों, बिल्कुल असत्य चीजों के बारे में सुना है जो सामने आ रही हैं। यह उस प्रकार की धोखाधड़ी और धोखाधड़ी है जिसके बारे में हम चिंतित हैं,” उसने कहा।
प्रश्नावली के अनुसार, एफटीसी की जांच मुख्य रूप से इस बात पर केंद्रित है कि यह पहलू उपयोगकर्ताओं को कैसे नुकसान पहुंचा सकता है, लेकिन यह अपने विश्व-अग्रणी मॉडल के निर्माण के लिए ओपनएआई के निजी डेटा के उपयोग पर भी चर्चा करता है।
कंपनी की GPT-4 उसकी अपनी ChatGPT के पीछे की आधारभूत तकनीक है और साथ ही कंपनियों के कई अन्य प्रोग्राम भी हैं जो अपने स्वयं के उपयोग के लिए इसके मॉडल तक पहुंचने के लिए OpenAI को शुल्क का भुगतान करते हैं।
ओपनएआई के सीईओ सैम ऑल्टमैन ने एक ट्वीट में कहा कि उन्हें खेद है कि जांच की खबर प्रेस में लीक हो गई, जो “विश्वास पैदा नहीं करता है।”
उन्होंने कहा कि “बेशक” ओपनएआई एफटीसी के साथ काम करेगा और “यह हमारे लिए बेहद महत्वपूर्ण है कि हमारी तकनीक सुरक्षित और उपभोक्ता-हितैषी है, और हमें विश्वास है कि हम कानून का पालन करेंगे।”
एफटीसी जांच में आवश्यक रूप से आगे की कार्रवाई नहीं होती है और नियामक लक्ष्य कंपनी के जवाब से संतुष्ट होने पर मामले को बंद कर सकता है।
यदि एफटीसी को अवैध या असुरक्षित प्रथाओं का एहसास होता है, तो वह उपचारात्मक कार्रवाई की मांग करेगा और संभवतः मुकदमा भी चलाएगा।
ओपनएआई और एफटीसी ने टिप्पणी के अनुरोध का जवाब नहीं दिया।
.