कंप्यूटर इंजीनियरों और तकनीक में रुचि रखने वाले राजनीतिक वैज्ञानिकों ने वर्षों से चेतावनी दी है कि सस्ते, शक्तिशाली आर्टिफिशियल इंटेलिजेंस उपकरण जल्द ही किसी को नकली चित्र, वीडियो और ऑडियो बनाने की अनुमति देंगे जो मतदाताओं को बेवकूफ बनाने और शायद चुनाव को प्रभावित करने के लिए पर्याप्त यथार्थवादी थे।
जो सिंथेटिक छवियां सामने आईं, वे अक्सर अपरिष्कृत, असंबद्ध और बनाने में महंगी थीं, खासकर जब अन्य प्रकार की गलत सूचनाएं इतनी सस्ती थीं और सोशल मीडिया पर फैलाना आसान था। एआई और तथाकथित डीपफेक से उत्पन्न खतरा हमेशा एक या दो साल दूर लगता था।
अब और नहीं।
परिष्कृत जनरेटिव एआई उपकरण अब न्यूनतम लागत पर क्लोन मानव आवाज और अति-यथार्थवादी छवियां, वीडियो और ऑडियो सेकंड में बना सकते हैं। जब शक्तिशाली सोशल मीडिया एल्गोरिदम से बंधे होते हैं, तो यह नकली और डिजिटल रूप से बनाई गई सामग्री दूर और तेजी से फैल सकती है और अत्यधिक विशिष्ट दर्शकों को लक्षित कर सकती है, संभावित रूप से अभियान की गंदी चाल को एक नए निम्न स्तर पर ले जा सकती है।
पलवल में घर से 15 लाख और जेवरात चोरी: शादी में गया हुआ था परिवार; बंद मकान देख ताला तोड़कर अंदर घुसे
2024 के अभियानों और चुनावों के निहितार्थ उतने ही बड़े हैं जितने कि वे परेशान कर रहे हैं: जनरेटिव एआई न केवल तेजी से लक्षित अभियान ईमेल, पाठ या वीडियो का उत्पादन कर सकता है, इसका उपयोग मतदाताओं को गुमराह करने, उम्मीदवारों को प्रतिरूपित करने और बड़े पैमाने पर चुनावों को कमजोर करने के लिए भी किया जा सकता है। एक गति अभी तक नहीं देखी गई।
“हम इसके लिए तैयार नहीं हैं,” साइबर सुरक्षा फर्म ज़ीरोफॉक्स में खुफिया विभाग के उपाध्यक्ष ए जे नैश ने चेतावनी दी। “मेरे लिए, बड़ी छलांग आगे ऑडियो और वीडियो क्षमताएं हैं जो उभरी हैं। जब आप इसे बड़े पैमाने पर कर सकते हैं, और इसे सोशल प्लेटफॉर्म पर वितरित कर सकते हैं, तो इसका एक बड़ा प्रभाव पड़ने वाला है।
एआई विशेषज्ञ कई खतरनाक परिदृश्यों को जल्दी से दूर कर सकते हैं जिसमें जनरेटिव एआई का उपयोग मतदाताओं को भ्रमित करने, उम्मीदवार की बदनामी करने या यहां तक कि हिंसा भड़काने के उद्देश्य से सिंथेटिक मीडिया बनाने के लिए किया जाता है।
यहाँ कुछ हैं: स्वचालित रोबोकॉल संदेश, एक उम्मीदवार की आवाज़ में, मतदाताओं को गलत तिथि पर मतपत्र डालने का निर्देश देना; कथित तौर पर एक उम्मीदवार द्वारा अपराध स्वीकार करने या नस्लवादी विचार व्यक्त करने की ऑडियो रिकॉर्डिंग; वीडियो फ़ुटेज जिसमें किसी को भाषण या साक्षात्कार देते हुए दिखाया गया है जो उन्होंने कभी नहीं दिया। स्थानीय समाचार रिपोर्टों की तरह दिखने के लिए बनाई गई नकली तस्वीरें, एक उम्मीदवार के दौड़ से बाहर होने का झूठा दावा।
“क्या होगा अगर एलोन मस्क व्यक्तिगत रूप से आपको फोन करते हैं और आपको एक निश्चित उम्मीदवार को वोट देने के लिए कहते हैं?” एलन इंस्टीट्यूट फॉर एआई के संस्थापक सीईओ ओरेन एट्ज़ियोनी ने कहा, जिन्होंने पिछले साल गैर-लाभकारी AI2 शुरू करने के लिए पद छोड़ दिया था। “बहुत से लोग सुनेंगे। लेकिन यह वह नहीं है।
2024 में चल रहे पूर्व राष्ट्रपति डोनाल्ड ट्रंप ने सोशल मीडिया पर अपने फॉलोअर्स के साथ एआई-जेनरेट की गई सामग्री साझा की है। CNN होस्ट एंडरसन कूपर का एक हेरफेर किया हुआ वीडियो जिसे ट्रम्प ने शुक्रवार को अपने ट्रुथ सोशल प्लेटफॉर्म पर साझा किया, जिसने पिछले हफ्ते ट्रम्प के साथ CNN टाउन हॉल में कूपर की प्रतिक्रिया को विकृत कर दिया, एआई वॉयस-क्लोनिंग टूल का उपयोग करके बनाया गया था।
रिपब्लिकन नेशनल कमेटी द्वारा पिछले महीने जारी एक डायस्टोपियन अभियान विज्ञापन इस डिजिटल रूप से हेरफेर किए गए भविष्य की एक और झलक पेश करता है। ऑनलाइन विज्ञापन, जो राष्ट्रपति जो बिडेन द्वारा अपने पुन: चुनाव अभियान की घोषणा के बाद आया था, और बिडेन की एक अजीब, थोड़ी विकृत छवि और पाठ के साथ शुरू होता है “क्या होगा यदि हम अब तक के सबसे कमजोर राष्ट्रपति को फिर से चुने गए?”
नई ट्विटर सीईओ लिंडा याकारिनो कहती हैं कि वह ट्विटर को बदलने में मदद करने के लिए उत्साहित हैं
एआई-जनित छवियों की एक श्रृंखला इस प्रकार है: ताइवान हमले के अधीन; अर्थव्यवस्था के चरमराते ही संयुक्त राज्य अमेरिका में स्टोरफ्रंट पर चढ़ गया; टैटू वाले अपराधियों और अप्रवासियों की लहरों के रूप में स्थानीय सड़कों पर गश्त करने वाले सैनिक और बख्तरबंद सैन्य वाहन आतंक पैदा करते हैं।
आरएनसी के विज्ञापन के विवरण में कहा गया है, “यदि जो बिडेन 2024 में फिर से चुने जाते हैं तो देश के संभावित भविष्य पर एक एआई-जनित नज़र।”
आरएनसी ने एआई के अपने उपयोग को स्वीकार किया, लेकिन अन्य, जिसमें नापाक राजनीतिक अभियान और विदेशी विरोधी शामिल हैं, नहीं करेंगे, ऑस्टिन, टेक्सास में स्थित एक साइबर सुरक्षा कंपनी, फोर्सपॉइंट के वैश्विक मुख्य प्रौद्योगिकी अधिकारी, पेटको स्टोयानोव ने कहा। स्टोयानोव ने भविष्यवाणी की कि अमेरिकी लोकतंत्र में दखल देने वाले समूह एआई और सिंथेटिक मीडिया को भरोसे को खत्म करने के तरीके के रूप में नियुक्त करेंगे।
“क्या होता है अगर एक अंतरराष्ट्रीय इकाई – एक साइबर अपराधी या एक राष्ट्र राज्य – किसी का प्रतिरूपण करता है। प्रभाव क्या है? क्या हमारे पास कोई सहारा है?” स्टोयानोव ने कहा। “हम अंतरराष्ट्रीय स्रोतों से बहुत अधिक गलत सूचना देखने जा रहे हैं।”
2024 के चुनाव से पहले एआई-जनित राजनीतिक विघटन पहले से ही ऑनलाइन वायरल हो गया है, बिडेन के एक संपादित वीडियो से लेकर ट्रांसजेंडर लोगों पर हमला करने वाले भाषण देने के लिए बच्चों की एआई-जनित छवियों को माना जाता है कि वे पुस्तकालयों में शैतानी सीख रहे हैं।
ट्रम्प के मग शॉट को दिखाने वाली एआई छवियों ने कुछ सोशल मीडिया उपयोगकर्ताओं को भी बेवकूफ बनाया, भले ही पूर्व राष्ट्रपति ने एक नहीं लिया जब उन्हें मैनहट्टन आपराधिक अदालत में व्यापार रिकॉर्ड को गलत साबित करने के लिए मामला दर्ज किया गया था। अन्य एआई-जनित छवियों ने ट्रम्प को गिरफ्तारी का विरोध करते हुए दिखाया, हालांकि उनके निर्माता को उनके मूल को स्वीकार करने की जल्दी थी।
विधान जिसके लिए उम्मीदवारों को एआई के साथ बनाए गए अभियान विज्ञापनों को लेबल करने की आवश्यकता होगी, प्रतिनिधि यवेटे क्लार्क, डीएनवाई द्वारा सदन में पेश किया गया है, जिन्होंने कानून भी प्रायोजित किया है, जिसके लिए किसी को तथ्य का संकेत देने के लिए वॉटरमार्क जोड़ने के लिए सिंथेटिक चित्र बनाने की आवश्यकता होगी।
कुछ राज्यों ने डीपफेक से संबंधित चिंताओं को दूर करने के लिए अपने स्वयं के प्रस्तावों की पेशकश की है।
क्लार्क ने कहा कि उनका सबसे बड़ा डर यह है कि 2024 के चुनाव से पहले एक वीडियो या ऑडियो बनाने के लिए जनरेटिव एआई का इस्तेमाल किया जा सकता है जो हिंसा को उकसाता है और अमेरिकियों को एक-दूसरे के खिलाफ करता है।
“यह महत्वपूर्ण है कि हम तकनीक के साथ बने रहें,” क्लार्क ने एसोसिएटेड प्रेस को बताया। “हमें कुछ गार्डराइल्स स्थापित करना है। लोगों को धोखा दिया जा सकता है, और इसमें केवल एक सेकंड का अंश लगता है। लोग अपने जीवन में व्यस्त हैं और उनके पास जानकारी के हर टुकड़े की जांच करने का समय नहीं है। राजनीतिक मौसम में एआई को हथियार बनाया जा रहा है, यह बेहद विघटनकारी हो सकता है।
इस महीने की शुरुआत में, वाशिंगटन में राजनीतिक सलाहकारों के एक व्यापार संघ ने राजनीतिक विज्ञापन में डीपफेक के उपयोग की निंदा की, उन्हें “धोखे” के साथ “वैध, नैतिक अभियानों में कोई स्थान नहीं” कहा।
सोशल मीडिया पर मतदाताओं को लक्षित करने या दाताओं को ट्रैक करने जैसे कार्यों को स्वचालित करने के लिए कृत्रिम बुद्धिमत्ता के अन्य रूप वर्षों से राजनीतिक प्रचार की विशेषता रहे हैं। अभियान के रणनीतिकारों और तकनीकी उद्यमियों को उम्मीद है कि सबसे हालिया नवाचार 2024 में भी कुछ सकारात्मक पेशकश करेंगे।
प्रगतिशील डिजिटल एजेंसी ऑथेंटिक के सीईओ माइक नेलिस ने कहा कि वह “हर एक दिन” चैटजीपीटी का उपयोग करते हैं और अपने कर्मचारियों को भी इसका उपयोग करने के लिए प्रोत्साहित करते हैं, जब तक कि उपकरण के साथ तैयार की गई किसी भी सामग्री की बाद में मानव आंखों द्वारा समीक्षा की जाती है।
नेलिस की नवीनतम परियोजना, हायर ग्राउंड लैब्स के साथ साझेदारी में, क्विलर नामक एक एआई उपकरण है। यह धन उगाहने वाले ईमेल की प्रभावशीलता को लिखेगा, भेजेगा और मूल्यांकन करेगा-अभियानों पर सभी आम तौर पर कठिन कार्य।
सेमीकंडक्टर बाजार में गिरावट के कारण ओप्पो ने चिप डिजाइन सहायक कंपनी को बंद कर दिया