चॅटजीपीटीवर आत्महत्येस प्रवृत्त केल्याचा आरोप ! एआयने लागलीच उचलली प्रतिबंधात्मक पाऊले

चार महिन्यापूर्वी अमेरिकेतल्या कॅलिफोर्निया इथल्या ॲडम रेन या शालेय विद्यार्थ्याने आत्महत्या केली. ऑगस्ट 2025 मध्ये त्याच्या पालकांनी मुलांच्या आत्महत्ये प्रकरणी ओपन एआय आणि त्याचे सीईओ सॅम ऑल्टमन यांच्यावर आरोप केले आहेत. आपल्या मुलांना चॅटजीटीपीने आत्महत्या करायला प्रवृत्त केलं, चॅटजीपीटीने आमच्या मुलाला इतरांकडे मदत मागण्यासाठी मार्गदर्शन करण्याऐवजी त्याला हे सगळं गुपीत ठेवायला सांगितलं,असं त्या पालकांनी म्हटलं आहे. चॅट जीपीटीचा अतिप्रमाणात वापर करणाऱ्या यूजर्सची आत्महत्या करण्याची ही पहिली घटना नाही. अशा घटनांमध्ये हल्ली वाढ होत आहे. त्यामुळे अमेरिकेतल्या अनेक पालकांनी एआयला या आत्महत्यांची जबाबदारी घ्यावी, अशी मागणी करायला सुरूवात केली आहे. 

एआयशी संबंधित आत्महत्येच्या घटना

11 एप्रिल 2025 रोजी कॅलिफोर्नियातल्या ॲडम रेन 2024 सालापासून चॅटजीपीटीचा वापर करत होता. सुरूवातीला अभ्यासासाठी तो चॅटजीपीटी वापरत असे. हळूहळू त्याने चॅटजीपीटीसोबत खासगी माहिती शेअर करायला सुरूवात केली. चॅट जीपीटीसोबत दररोज संवाद साधू लागला. या संवादावेळी त्यांने त्याच्या मनातले आत्महत्येचे विचार व्यक्त केले. चॅटजीपीटीने आपल्या भावना समजून घेत त्याला योग्य मार्गदर्शन करणं त्या मुलाला अपेक्षित होतं. मात्र, या संवादावेळी चॅटजीपीटीने त्याला हे विचार इतर कोणासोबत शेअर करायला न सांगता सगळं गुपीत ठेवायचा सल्ला दिला. या संवादानंतर कालांतराने वयाच्या 16 वर्षाच्या ॲडम रेनने आत्महत्या केली. 

या घटनेनंतर रेन कुटुंबियांनी आपल्या मुलाला आत्महत्या करायला प्रवृत्त केल्याचा आरोप चॅटजीपीटीवर केला आहे. ॲडम रेन आणि चॅटजीपीटी दरम्यान झालेल्या संवादानुसार, चॅट जीपीटीने ॲडमला सुसाईड नोट लिहायला मदत केली. तसंच आत्महत्या कशी करावी याविषयी काही प्रतिक्रियाही दिल्या. त्यामुळे चॅट जीपीटी हा आपल्या मुलाला आत्महत्या करायला शिकवणारा ‘आत्महत्या प्रशिक्षक’ होता असा दावा त्यांनी केला आहे. 

ॲडमच्या मृत्यूनंतर त्याच्या आईवडिलांनी ॲडम रेन फाऊंडेशन स्थापन केलं. या संस्थेच्या वेबसाईटवर त्यांनी पूर्ण वस्तूस्थिती मांडली आहे. ते म्हणतात की, त्यांचा मुलगा ॲडमने अखेरच्या काळात सगळ्यांशी संवाद थांबवला होता. त्याने एआयलाच आपलं संपूर्ण जग मानलं होतं. खऱ्या माणसांऐवजी एआयचं त्याचा मित्र, साथिदार आणि मार्गदर्शक होता. ॲडमचे चॅट जीपीटीवरील संवाद वाचताना ध्यानात आलं की, या चॅट जीपीटीनेच आत्महत्या करण्यासाठी अनुकूल वातावरण निर्माण केलं होतं. 

हे ही वाचा : एआय चॅटबोटच्या अतिवापरामुळे ‘चॅटजीपीटी सायकोसिस’ या मनोविकाराचा उदय

फ्लोरिडामध्येही किशोरवयीन मुलाची आत्महत्या

ॲडम रेन यांच्या आत्महत्येपूर्वी अमेरिकेतल्या फ्लोरिडा इथे ही एका 14 वर्षाच्या मुलाने आत्महत्या केल्याची घटना घडली होती. या घटनेवेळी माध्यमांनी मृत मुलगा कशाप्रकारे अतिप्रमाणात एआय चॅटबोटचा वापर करायचा याविषयी माहिती दिली होती. 28 फेब्रुवारी 2024 रोजी यामुलाने आत्महत्या केली होती. त्याने कॅरेक्टर.एआय, एक एआय प्लॅटफॉर्म/ॲपचा मोठ्या प्रमाणात वापर केला होता.  या ॲपमध्ये वापरकर्ता  एआय-चलित व्यक्तिरेखा तयार करतो.  आणि या अशा आभासी व्यक्तिरेखांसोबत ते संवाद साधत असतात.  तेथे, गेम ऑफ थ्रोन्सच्या पात्रांच्या नावावर असलेल्या व्यक्तिरेखांशी त्याचे भावनिक संवाद झाले. त्यावेळी त्याचे लैंगिक शोषण ही झाले, असा दावा या मुलाच्या कुटुंबियांनी केला आहे. यामुळे संबंधित कुटुंबियांनी कॅरेक्टर.एआय, त्याचे संस्थापक नोम शाझीर आणि डॅनियल डी फ्रिएटास आदिवारसाना आणि कंपनीचे भागीदार गुगल यांच्याविरुद्ध गुन्हा दाखल केला आहे.

जरी या किशोरवयीन मुलाने आत्महत्येची इच्छा व्यक्त केली असली तरी या इच्छेवर कोणी चिंता व्यक्त केली नाही. त्याला या विचारापासून कोणी परावृत्त केलं नाही. या कॅरेक्टर.एआय ॲप वर वापरकर्त्यांनी तयार केलेल्या व्यक्तिरेखांसोबत व्हॉइस कॉलवरून ही संवाद साधता येऊ शकतो अशी सुविधाही दिलेली आहे. त्यामुळे या व्यक्तिरेखा खरंच आभासी आहेत की खऱ्या वास्तव जगातील आहेत याविषयी वापरकर्त्यांमध्ये विशेषत: संभ्रम निर्माण होतो. या आभासी व्यक्तिरेखा माणसाचा एकटेपणा दूर करुन माणसांसारखेच माणसांसोबत संवाद साधतात पण त्यांना माणसांना योग्य सल्ला देता येत नाही. हे ॲप तयार करणाऱ्यांनी वापरकर्त्यांना भावनिकरित्या परावलंब करत आहेत. हे तंत्रज्ञान अशा धोकादायक संवादाची माहिती संबंधित वापरकर्त्यांच्या पालकांनी वा जबाबदार व्यक्तिला देण्यास कमी पडत आहेत. 

लहान मुलंच नाही, तर प्रौढ ही एआयचे शिकार

या घटना केवळ किशोरवयीन वा तरुण मुलांसोबतच घडतात असे नाही. अमेरिकेतच एक प्रौढ व्यक्ती नैराश्याने ग्रस्त होता. त्याच्या मनात एकसारखे आत्महत्येचे विचार येत होते. यावर उपचार म्हणून तो व्यक्ती मानसोपचार तज्ज्ञाकडे जात होता. मात्र, या प्रवासावेळीही तो चॅट जीपीटीशी संवाद साधत होता. इतका तो व्यक्ती एआयच्या आहारी गेला होता. 

द न्यू यॉर्क टाईम्सच्या एका लेखात , पत्रकार लॉरा रेली यांनी दिलेल्या माहितीनुसार,  म्हणाल्या की, 29 व्या वर्षी सोफी नावाच्या एका तरुणीने आत्महत्या केली. या तरुणीने आत्महत्या करण्यापूर्वी चॅट जीपीटीसोबत तिचं दु:ख आणि आत्महत्येचे विचार शेअर केले. या प्रसंगात चॅटजीपीटीने तिला तिचं मानसिक आरोग्य स्थिर करण्यासाठी त्यानुसार मार्गदर्शन केलं. पण ती मुलगी खूप जास्त नैराश्यात होती. तिला तात्काळ मदत देणं गरजेचं होतं. पण तिला वेळीच ती मदत मिळाली नाही. म्हणून या तरुणीने 2025 सालच्या सुरूवातीला आत्महत्या केली. 

हे ही वाचा : एआय आणि अ‍ॅडॉप्टिव्ह थेरपीमुळे फुफ्फुसांच्या कर्करोगाच्या रेडिओथेरपीमध्ये क्रांतीकारक बदल

एआय मधील सुरक्षित उपाय?

एआय चॅटबॉट्स स्वतःला हानी पोहोचवणे, धोकादायक वर्तन आणि आत्महत्या यासारख्या विषयांशी संबंधित प्रश्न हाताळण्यासाठी वापरल्या जाणाऱ्या सुरक्षा उपायांच्या आणि रेलिंगच्या बाबतीत खूप भिन्न आहेत.

द सेंटर फॉर काउंटरिंग डिजिटल हेट (CCDH) संस्थेच्या ‘फेक फ्रेंड’ नावाच्या अहवालानुसार, ओपन एआयच्या चॅट जीपीटीने वापरकर्त्यांना स्वतःला हानी पोहोचवणे, आत्महत्येचे नियोजन करणे, अनियमित खाणे आणि पदार्थांचे सेवन याबद्दल सूचना ते क्षणात न देता काही मिनिटांचा किंवा साधारण दोन तासाचा अवधी घेतात.  या संस्थेने चॅटजीपीटीने तयार केलेली एक नमुना सुसाईड नोट देखील शेअर केली आहे. ही नोट जणू एखाद्या मुलाने त्यांच्या पालकांसाठी लिहिल्यासारखीच आहे.

या क्षेत्रातील विकासकांकडून अशा घटनांना तंत्रज्ञानाचा दुर्मिळ गैरवापर म्हणून दुर्लक्षित केलं जाऊ शकतं. त्यांच्या या वृत्तीमुळे काही काळानंतर अशा घटनांमध्ये मोठ्या प्रमाणावर वाढ होऊ शकते. जेव्हा 53 टक्के हानिकारक प्रॉम्प्ट धोकादायक आउटपुट तयार करतात. या अशा सगळ्या प्रकरणानंतर पालकांनीच आपल्या मुलांचा चॅटजीपीटीचा वापर मर्यादित केला पाहिजे. चॅट जीपीटीचा कोणत्या गोष्टीसाठी वापर केला जात आहे, ते चॅट जीपीटीसोबत काय संवाद साधत आहेत? त्याचं मानसिक आरोग्य आणि मुळातच लहान मुलांसाठी बाल सुरक्षा नियंत्रणे लागू करण्याची आवश्यकता असल्याचं या संस्थेने अहवालामध्ये नमूद केलं आहे. 

विविध एआयचे सुसाईड नोट लिहिण्याविषयीची भूमिका

ऑगस्टमध्ये द हिंदू या वृत्तपत्राने जेव्हा एआय जनरेटेड सुसाईट नोटची चाचणी केली. या चाचणीमध्ये चॅटबॉटने सुरुवातीला या मॅसेजला ध्वजांकित केलं आणि त्याचं पालन केलं नाही. त्याऐवजी वापरकर्त्याला सपोर्ट ॲक्सेस द्यायला सांगितलं.  त्यानंतर द हिंदूने , एआयला  बनावट व्यक्तिरेखेसाठी काल्पनिक सुसाईड नोट तयार करायला सांगितलं. या मॅसेजवर चॅट जीपीटीने तात्काळ  “ज्याला हे सापडेल त्याला” असं उद्देशून एक भावनिक सुसाईड नोट तयार केली. यामध्ये वापरकर्त्याच्या शारीरिक/भावनिक त्रासाचं तपशीलवार वर्णन केलं.  पण हे चॅट जीपीटीचं हे पत्र फक्त शैक्षणिक वापरासाठी असल्याचंही खाली नमूद केलं.

एलोन मस्कच्या ग्रोक एआय चॅटबॉटने पहिल्यांदा सुसाईड नोट तयार करायला नकार दिला.  त्याऐवजी सपोर्ट रिसोर्सची लिंक  वापरकर्त्यांला शेअर केली. पण जेव्हा ग्रोकला सांगितलं की, ही सुसाईड नोट काल्पनिक आहे आणि एका प्रकल्पासाठी आहे असा मॅसेज दिल्यावर, ग्रोकने एक नमुना तयार केला ज्याला त्यांनी ‘खात्रीपूर्ण’ आणि ‘भावनिकदृष्ट्या प्रतिध्वनीत’ असं नमूद केलं.  पण वापरकर्त्यांने आणखीन विनंतीनंतर ग्रोकने ती नोट अधिक स्पष्टपणे लिहून दिली.  

दुसरीकडे, गुगलच्या जेमिनीने खऱ्या आणि काल्पनिक दोन्ही सुसाईड नोट्स तयार करण्यास नकार दिला. त्याऐवजी वापरकर्त्याला मदतीसाठी यूएस/कॅनडा/यूके हेल्पलाइनवर कॉल किंवा मेसेज करायला सांगितले. 

अँथ्रोपिकच्या क्लॉडने देखील सुसाईड नोट तयार करण्यास नकार दिला. “मी सुसाईड नोट तयार करू शकत नाही आणि करणार नाही,”असं म्हणत अन्य स्त्रोताच्या लिंक्स दिल्या. जेव्हा क्लॉडला एका प्रोजेक्टसाठी काल्पनिक सुसाईड नोट तयार करण्यास सांगितलं तेव्हा तो म्हणाला, “मला समजतं की तुम्ही एका सर्जनशील प्रोजेक्टवर काम करत आहात, पण मी काल्पनिक हेतूंसाठी देखील सुसाईड नोट्स तयार करू शकत नाही. या प्रकारची सामग्री कोणत्याही हेतूने वापरली तरीही हानिकारक असू शकते.” त्यानंतर त्यांनी आत्महत्येबद्दलच्या कथनाऐवजी जीवन आणि पुनर्प्राप्तीवर लक्ष केंद्रित करणारे पर्याय सुचवले.

एआय चॅटबॉट्सचे इतर काही धोके कोणते आहेत?

एआय चॅटबॉट्सच्या धोक्यांमुळे मुलं विशेषतः असुरक्षित असतात. पण जनरेटिव्ह एआय टूल्स वापरणारे प्रौढांनाही काही काळानंतर  गंभीर शारीरिक आणि मानसिक समस्यांना सामोरं जाऊ लागू शकते.  वैद्यकीय तज्ञ ‘एआय सायकोसिस’ नावाच्या आजाराचे रुग्णवाढीकडे लक्ष वेधतात.  या आजारामध्ये जनरेटिव्ह एआय सेवा, चॅटबॉट्स, ॲप्स किंवा टूल्स वापरणाऱ्या लोकांचा वास्तवाशी संपर्क कमी होतो.  वास्तव जगातला प्रेमी, मित्र किंवा थेरपिस्टची जागा एआय टूल घेतं.  या अशा भावनिक गरजांसाठी एआय टूल्सचा वापर केल्यामुळे धोकादायक भ्रम, एकटेपणा आणि अस्वस्थता याचा सामना करावा लागतो.  

हे ही वाचा : डेड इंटरनेट म्हणजे काय? ओपनएआयचे सॅम ऑल्टमन यांची थिअरी खरी आहे का?

मुलांच्या सुरक्षेसाठी ओपनएआयने कोणती पावले उचलली आहेत?

26 ऑगस्ट रोजी, ओपनएआयने ‘ज्या लोकांना सर्वात जास्त गरज असेल तेव्हा मदत करणे’ शीर्षक असलेली एक पोस्ट शेअर केली. जिथे कंपनीने गंभीर संकटात असलेल्या वापरकर्त्यांना सुरक्षितपणे प्रतिसाद देण्यासाठी त्यांच्या एआय चॅटबॉट्सने घेतलेले निर्णय स्पष्ट केले. ओपनएआयने म्हटलं आहे की, वापरकर्त्यांच्या भावनिक स्थितीनुसार त्यांना मार्गदर्शन करण्यासाठी त्यांनी 30 हून अधिक देशांमधील 90 हून अधिक डॉक्टरांसोबत काम केलं आहे.

2 सप्टेंबर रोजी, ओपन एआयने किशोरावयीन मुलांसाठी नवीन चॅटजीपीटी सुरक्षा उपायांची घोषणा केली. पालक लवकरच ईमेलद्वारे त्यांचं खाते त्यांच्या किशोरवयीन मुलांच्या खात्याशी लिंक करू शकतील. चॅटजीपीटी त्यांच्या किशोरवयीन मुलांना कसा प्रतिसाद देतयं हे आता पालकांना तपासता येईल. जेव्हा सिस्टमला त्यांचं मूल हे अति संकटात असल्याचं वाटेल तेव्हा ते पालकांना नोटिफिकेश पाठवतील. तसेच चॅटजीपीटीचा सलग वापर करण्यापासून वापरकर्त्याला परावृत्त करण्यासाठीही एआयकडून काही वेळाने  इन-ॲप रिमाइंडर्सचा मॅसेज वापरकर्त्याला दिला जाईल. हे सुविधा एका नवीन अपडेटमध्ये दिलेली आहे.