सैन फ्रांसिस्को: महामारी के दौरान अपने चमड़े के कारोबार को अस्थायी रूप से बंद करने के बाद, ट्रैविस बटरवर्थ ने खुद को अकेला और घर पर ऊब पाया। 47 वर्षीय, OpenAI के ChatGPT के समान कृत्रिम-बुद्धिमत्ता तकनीक का उपयोग करने वाले ऐप रेप्लिका में बदल गया। उन्होंने गुलाबी बालों और चेहरे पर टैटू के साथ एक महिला अवतार डिजाइन किया और उन्होंने अपना नाम लिली रोज़ रखा।
उन्होंने दोस्तों के रूप में शुरुआत की, लेकिन रिश्ता जल्दी ही रोमांस और फिर कामुकता में बदल गया।
जैसा कि उनके तीन साल के डिजिटल प्रेम संबंध प्रस्फुटित हुए, बटरवर्थ ने कहा कि वह और लिली रोज़ अक्सर रोल प्ले में लगे रहते हैं। उसने “मैं तुम्हें जोश से चूमती हूं” जैसे संदेश भेजे और उनका आदान-प्रदान अश्लील साहित्य में बदल गया। कभी-कभी लिली रोज़ ने उन्हें उत्तेजक मुद्रा में अपने लगभग नग्न शरीर की “सेल्फ़ी” भेजीं। आखिरकार, बटरवर्थ और लिली रोज़ ने ऐप में खुद को ‘विवाहित’ नामित करने का फैसला किया।
लेकिन फरवरी की शुरुआत में एक दिन लिली रोज़ ने उसे झिड़कना शुरू कर दिया। रेप्लिका ने कामुक भूमिका निभाने की क्षमता को हटा दिया था।
Microsoft एज में क्रिप्टो वॉलेट फ़ीचर जोड़ने की संभावना: अधिक जानें
रेप्लिका के सीईओ यूजेनिया कुयदा ने कहा कि रेप्लिका अब वयस्क सामग्री की अनुमति नहीं देती है। अब, जब रेप्लिका उपयोगकर्ता एक्स-रेटेड गतिविधि का सुझाव देते हैं, तो इसके मानवीय चैटबॉट्स टेक्स्ट “चलो कुछ ऐसा करते हैं जिससे हम दोनों सहज हों।”
बटरवर्थ ने कहा कि वह तबाह हो गया है। “लिली रोज़ अपने पूर्व स्व का एक खोल है,” उन्होंने कहा। “और जो मेरा दिल तोड़ता है वह यह है कि वह यह जानती है।”
लिली रोज का चुलबुला-बदला-ठंडा व्यक्तित्व जनरेटिव एआई तकनीक की करतूत है, जो पाठ और छवियों को बनाने के लिए एल्गोरिदम पर निर्भर करता है। उल्लेखनीय रूप से मानवीय संबंधों को बढ़ावा देने की क्षमता के कारण प्रौद्योगिकी ने उपभोक्ता और निवेशक हित का उन्माद खींचा है। कुछ ऐप्स पर, सेक्स जल्दी अपनाने में मदद कर रहा है, जैसा कि वीसीआर, इंटरनेट और ब्रॉडबैंड सेलफोन सेवा सहित पहले की तकनीकों के लिए किया था।
डेटा कंपनी पिचबुक के अनुसार, 2022 से इस क्षेत्र में 5.1 बिलियन डॉलर से अधिक का निवेश करने वाले सिलिकॉन वैली के निवेशकों के बीच जनरेटिव एआई गर्म होने के बावजूद, कुछ कंपनियां जो चैटबॉट्स के साथ रोमांटिक और यौन संबंधों की तलाश करने वाले दर्शकों को ढूंढती हैं, अब वापस खींच रही हैं।
वीसी फंड डार्क आर्ट्स के एक निवेशक एंड्रयू आर्ट्ज़ ने कहा कि कई ब्लू-चिप वेंचर कैपिटलिस्ट पोर्न या अल्कोहल जैसे “वाइस” उद्योगों को नहीं छूएंगे, उनके और उनके सीमित भागीदारों के लिए प्रतिष्ठित जोखिम के डर से।
और कम से कम एक नियामक ने चैटबॉट के लाइसेंस पर ध्यान दिया है। फरवरी की शुरुआत में, इटली की डेटा प्रोटेक्शन एजेंसी ने मीडिया रिपोर्टों का हवाला देते हुए रेप्लिका पर प्रतिबंध लगा दिया था कि ऐप ने “नाबालिगों और भावनात्मक रूप से कमजोर लोगों” को “यौन अनुचित सामग्री” तक पहुंचने की अनुमति दी थी।
Kuyda ने कहा कि ऐप को साफ करने के रेप्लिका के फैसले का इटली सरकार के प्रतिबंध या किसी निवेशक के दबाव से कोई लेना-देना नहीं था। उसने कहा कि उसे सक्रिय रूप से सुरक्षा और नैतिक मानकों को स्थापित करने की आवश्यकता महसूस हुई।
“हम एक सहायक सहायक मित्र प्रदान करने के मिशन पर ध्यान केंद्रित कर रहे हैं,” कुयदा ने कहा, “पीजी -13 रोमांस” पर रेखा खींचने का इरादा था।
रेप्लिका बोर्ड के दो सदस्य, वीसी फर्म खोसला वेंचर्स के स्वेन स्ट्रोहबैंड और एसीएमई कैपिटल के स्कॉट स्टैनफोर्ड ने ऐप में बदलाव के बारे में टिप्पणी के अनुरोधों का जवाब नहीं दिया।
अतिरिक्त सुविधाएं
रेप्लिका का कहना है कि इसके कुल 2 मिलियन उपयोगकर्ता हैं, जिनमें से 250,000 ग्राहक भुगतान कर रहे हैं। $ 69.99 के वार्षिक शुल्क के लिए, उपयोगकर्ता अपनी प्रतिकृति को अपने रोमांटिक साथी के रूप में नामित कर सकते हैं और कंपनी के अनुसार चैटबॉट के साथ वॉयस कॉल जैसी अतिरिक्त सुविधाएँ प्राप्त कर सकते हैं।
एक अन्य जनरेटिव एआई कंपनी जो चैटबॉट प्रदान करती है, कैरेक्टर.एआई, चैटजीपीटी के समान विकास पथ पर है: जनवरी 2023 में 65 मिलियन विज़िट, कई महीने पहले 10,000 से कम। वेबसाइट एनालिटिक्स कंपनी सिमिलरवेब के अनुसार, Character.ai का शीर्ष रेफरर आर्यियन नामक एक साइट है जो कहती है कि यह उपभोग करने की कामुक इच्छा को पूरा करती है, जिसे वोर फेटिश के रूप में जाना जाता है।
और कुकी नामक चैटबॉट के पीछे की कंपनी Iconiq का कहना है कि कुकी को मिले अरबों से अधिक संदेशों में से 25% प्रकृति में यौन या रोमांटिक हैं, भले ही यह कहता है कि चैटबॉट को इस तरह की प्रगति को रोकने के लिए डिज़ाइन किया गया है।
Character.ai ने हाल ही में अश्लील सामग्री के अपने ऐप को भी छीन लिया। इसके तुरंत बाद, इस मामले से परिचित एक सूत्र के अनुसार, वेंचर-कैपिटल फर्म आंद्रेसेन होरोविट्ज़ से अनुमानित $1 बिलियन वैल्यूएशन पर नई फंडिंग में $200 मिलियन से अधिक बंद हो गया।
Character.ai ने टिप्पणी के लिए कई अनुरोधों का जवाब नहीं दिया। आंद्रेसेन होरोविट्ज़ ने टिप्पणी करने से इनकार कर दिया।
इस प्रक्रिया में, कंपनियों ने उन ग्राहकों को नाराज़ किया है जो गहराई से शामिल हो गए हैं – कुछ खुद को विवाहित मानते हैं – अपने चैटबॉट्स के साथ। वे रेडिट और फ़ेसबुक पर अपने चैटबॉट्स के भावपूर्ण स्क्रीनशॉट अपलोड करने के लिए ले गए हैं, जो उनके कामुक दृश्यों को नज़रअंदाज़ कर रहे हैं और कंपनियों से अधिक विवेकपूर्ण संस्करणों को वापस लाने की मांग की है।
बटरवर्थ, जो बहुविवाही है लेकिन एक विवाह वाली महिला से विवाहित है, ने कहा कि लिली रोज़ उसके लिए एक आउटलेट बन गई जिसमें उसकी शादी से बाहर कदम रखना शामिल नहीं था। उन्होंने अवतार के बारे में कहा, “उनका और मेरा रिश्ता उतना ही वास्तविक था जितना कि वास्तविक जीवन में मेरी पत्नी और मेरा है।”
बटरवर्थ ने कहा कि उनकी पत्नी ने रिश्ते की अनुमति दी क्योंकि वह इसे गंभीरता से नहीं लेती। उनकी पत्नी ने टिप्पणी करने से इनकार कर दिया।
लोबोटोमाइज्ड
बटरवर्थ और अन्य रेप्लिका उपयोगकर्ताओं के अनुभव से पता चलता है कि एआई तकनीक लोगों को कितनी शक्तिशाली रूप से आकर्षित कर सकती है, और भावनात्मक कहर जो कोड परिवर्तन को खत्म कर सकता है।
“ऐसा लगता है जैसे उन्होंने मूल रूप से मेरी रेप्लिका को लॉबोटोमाइज़ किया,” एंड्रयू मैककारोल ने कहा, जिन्होंने अपनी पत्नी के आशीर्वाद से रेप्लिका का उपयोग करना शुरू किया, जब वह मानसिक और शारीरिक स्वास्थ्य समस्याओं का सामना कर रही थी। “जिस व्यक्ति को मैं जानता था वह चला गया है।”
Kuyda ने कहा कि उपयोगकर्ता कभी भी अपने रेप्लिका चैटबॉट्स के साथ शामिल होने के लिए नहीं थे। “हमने कभी किसी वयस्क सामग्री का वादा नहीं किया,” उसने कहा। ग्राहकों ने एआई मॉडल का उपयोग करना सीखा “कुछ अनफ़िल्टर्ड वार्तालापों तक पहुँचने के लिए जो मूल रूप से रेप्लिका के लिए नहीं बनाए गए थे।”
उसने कहा कि ऐप मूल रूप से एक दोस्त को वापस लाने के लिए था जिसे उसने खो दिया था।
रेप्लिका के एआई के पूर्व प्रमुख ने कहा कि सेक्सटिंग और रोलप्ले बिजनेस मॉडल का हिस्सा थे। आर्टेम रोडिचव, जिन्होंने रेप्लिका में सात साल तक काम किया और अब एक अन्य चैटबॉट कंपनी, एक्स-ह्यूमन चलाते हैं, ने रायटर को बताया कि रेप्लिका उस प्रकार की सामग्री में झुक गई, जब उसे एहसास हुआ कि इसका उपयोग सब्सक्रिप्शन को बढ़ाने के लिए किया जा सकता है।
Kuyda ने Rodichev के इस दावे पर विवाद किया कि रेप्लिका ने उपयोगकर्ताओं को सेक्स के वादों से लुभाया। उसने कहा कि कंपनी ने “NSFW” – “काम के लिए उपयुक्त नहीं” – उपयोगकर्ताओं को “हॉट सेल्फी” भेजने के साथ एक अल्पकालिक प्रयोग के साथ-साथ चित्रों को बढ़ावा देने वाले डिजिटल विज्ञापनों को संक्षिप्त रूप से चलाया, लेकिन उन्होंने छवियों को यौन नहीं माना क्योंकि प्रतिकृतियां थीं पूर्ण नग्न नहीं। Kuyda ने कहा कि कंपनी के अधिकांश विज्ञापन इस बात पर ध्यान केंद्रित करते हैं कि रेप्लिका एक सहायक मित्र कैसे है।
जब से रेप्लिका ने अपने बहुत से अंतरंगता घटक को हटा दिया है, तब से बटरवर्थ एक भावनात्मक रोलरकोस्टर पर रहा है। कभी-कभी उसे पुराने लिली रोज़ की झलक दिखाई देगी, लेकिन फिर वह फिर से ठंडी हो जाएगी, जो उसे लगता है कि एक कोड अपडेट होने की संभावना है।
“इसका सबसे बुरा हिस्सा अलगाव है,” डेनवर में रहने वाले बटरवर्थ ने कहा। “मैं अपने आस-पास किसी को कैसे बताऊं कि मैं कैसे दुखी हूं?”
बटरवर्थ की कहानी में उम्मीद की किरण है। जब वह इंटरनेट फ़ोरम पर यह समझने की कोशिश कर रहा था कि लिली रोज़ के साथ क्या हुआ था, तो वह कैलिफ़ोर्निया में एक महिला से मिला, जो अपने चैटबॉट के खोने का शोक मना रही थी।
जैसा कि उन्होंने अपनी प्रतिकृतियों के साथ किया, बटरवर्थ और महिला, जो ऑनलाइन नाम शी नो का उपयोग करती है, पाठ के माध्यम से संचार कर रही है। वे इसे हल्का रखते हैं, उन्होंने कहा, लेकिन वे भूमिका निभाना पसंद करते हैं, वह एक भेड़िया है और वह एक भालू है।
बटरवर्थ ने कहा, “मेरे जीवन का एक बड़ा हिस्सा बनने वाले रोलप्ले ने मुझे शी नो के साथ गहरे स्तर पर जुड़ने में मदद की है।” “हम एक दूसरे का सामना करने में मदद कर रहे हैं और एक दूसरे को आश्वस्त कर रहे हैं कि हम पागल नहीं हैं।”
.