चैटजीपीटी ने नकली शोध पत्र सार लिखकर वैज्ञानिकों को मूर्ख बनाया

आर्टिफिशियल-इंटेलिजेंस (एआई) चैटबॉट जिसे चैटजीपीटी कहा जाता है, ने नकली शोध-पत्र सार को आश्वस्त करते हुए लिखा है कि वैज्ञानिक स्पॉट करने में असमर्थ थे, एक नए शोध से पता चला है।

Realme 10 स्मार्टफोन अब भारत में उपलब्ध: कीमत, फ्लिपकार्ट पर ऑफर्स और स्पेसिफिकेशन

शिकागो में नॉर्थवेस्टर्न यूनिवर्सिटी में कैथरीन गाओ के नेतृत्व में एक शोध दल ने कृत्रिम शोध-पत्र सार उत्पन्न करने के लिए चैटजीपीटी का इस्तेमाल किया ताकि यह परीक्षण किया जा सके कि वैज्ञानिक उन्हें खोज सकते हैं या नहीं।

प्रतिष्ठित जर्नल नेचर की एक रिपोर्ट के अनुसार, शोधकर्ताओं ने चैटबॉट से जामा, द न्यू इंग्लैंड जर्नल ऑफ मेडिसिन, द बीएमजे, द लैंसेट और नेचर मेडिसिन में प्रकाशित चयन के आधार पर 50 चिकित्सा-अनुसंधान सार लिखने को कहा।

इसके बाद उन्होंने इनकी तुलना साहित्यिक चोरी डिटेक्टर और एआई-आउटपुट डिटेक्टर के माध्यम से चलाकर मूल सार के साथ की, और उन्होंने चिकित्सा शोधकर्ताओं के एक समूह से मनगढ़ंत सार को खोजने के लिए कहा।

साहित्यिक चोरी चेकर के माध्यम से चैटजीपीटी-जनित सार तत्व: औसत मौलिकता स्कोर 100 प्रतिशत था, जो इंगित करता है कि कोई साहित्यिक चोरी का पता नहीं चला था।

एआई-आउटपुट डिटेक्टर ने उत्पन्न सार का 66 प्रतिशत देखा। लेकिन मानव समीक्षकों ने बहुत बेहतर नहीं किया – उन्होंने केवल 68 प्रतिशत उत्पन्न सार और 86 प्रतिशत वास्तविक सार की सही पहचान की।

हवा को दूषित करने वालों की मिलेगी जानकारी: 3 शहरों में लोकल पोल्यूटेंट पर होगी स्टडी; अभी तक दिल्ली, कानपुर में ही हुआ अध्ययन

नेचर आर्टिकल के अनुसार, उन्होंने गलत तरीके से उत्पन्न सार के 32 प्रतिशत को वास्तविक होने के रूप में और 14 प्रतिशत वास्तविक सार को उत्पन्न होने के रूप में पहचाना।

“मैं बहुत चिंतित हूं,” ऑक्सफोर्ड विश्वविद्यालय से सैंड्रा वाचर ने कहा, जो शोध में शामिल नहीं थे।

“अगर हम अब ऐसी स्थिति में हैं जहां विशेषज्ञ यह निर्धारित करने में सक्षम नहीं हैं कि क्या सच है या नहीं, तो हम उस बिचौलिए को खो देते हैं जिसकी हमें जटिल विषयों के माध्यम से मार्गदर्शन करने की सख्त जरूरत है,” उन्हें यह कहते हुए उद्धृत किया गया था।

Microsoft के स्वामित्व वाली सॉफ़्टवेयर कंपनी OpenAI ने नवंबर में सार्वजनिक उपयोग के लिए टूल जारी किया और यह उपयोग करने के लिए निःशुल्क है।

रिपोर्ट में कहा गया है, “इसकी रिहाई के बाद से, शोधकर्ता इसके उपयोग के आसपास के नैतिक मुद्दों से जूझ रहे हैं, क्योंकि इसके अधिकांश आउटपुट को मानव-लिखित पाठ से अलग करना मुश्किल हो सकता है।”