गूगल डीपमाइंडच्या संशोधकाचा राजीनामा; 5 वर्षांत एआय मानवजातीला घातक ठरणार असा इशारा

कृत्रिम बुद्धिमत्तेचा विकास जितक्या वेगाने होतोय, तितक्याच वेगाने माणसाच्या अस्तित्वालाही धोका वाढतोय, असं एका मोठ्या घटनेने समोर आणलंय. गूगल डीपमाइंडच्या एजीआय सेफ्टी टीममधले वरिष्ठ संशोधक जोश एंगल्स यांनी एआयच्या वाढत्या धोक्यांमुळे आपल्या पदाचा राजीनामा दिलाय. एआय सुरक्षेचा मुद्दा जगभरात सर्वात आधी हाताळला गेला पाहिजे, या भूमिकेतून त्यांनी गुगलसारखी मोठी कंपनी सोडायचा निर्णय घेतला.

सोशल मीडियावरच्या 'एक्स' या प्लॅटफॉर्मवर एका सविस्तर पोस्टमधून एंगल्स यांनी राजीनाम्यामागचं कारण सांगितलं. ते म्हणाले, "गूगल डीपमाइंडमध्ये काम करायला मला खूप आवडायचं आणि अँथ्रोपिक व ओपनएआयसारख्या मोठ्या कंपन्यांच्या नोकरीच्या ऑफर्सही मी त्यासाठी नाकारल्या होत्या. पण सध्या प्रगत एआय तंत्रज्ञानामुळे जी परिस्थिती तयार झालीय ती खूपच गंभीर आणि काळजी करण्यासारखी आहे. पुढच्या पाच वर्षांत एआय प्रणालींमुळे माणसांच्या समाजाचं प्रचंड आणि भयंकर नुकसान होण्याची शक्यता आहे. या धोक्याची नेमकी टक्केवारी सांगणं अवघड असलं, तरी हा धोका माणसासाठी सगळ्यात गंभीर समस्या बनलाय."

एंगल्स यांच्या चिंतेच्या केंद्रस्थानी आहे एआयची स्वतःच सुधारणा करण्याची क्षमता, म्हणजेच 'रिकर्सिव्ह सेल्फ-इम्प्रूव्हमेंट' (RSI) हा तांत्रिक मुद्दा. सोप्या भाषेत सांगायचं तर एखादी एआय प्रणाली स्वतःच्या किंवा दुसऱ्या एआय प्रणालींच्या मदतीने स्वतःचं कोडिंग, क्षमता आणि बुद्धिमत्ता सुधारू शकते. ही नवी सुधारलेली प्रणाली पुन्हा त्यापुढची एआय तयार करते, आणि ही प्रक्रिया थांबल्याशिवाय वेगाने पुढे सरकत राहते.

एंगल्स यांच्या म्हणण्यानुसार, सगळ्या मोठ्या टेक कंपन्या 'सुपरइंटेलिजन्स' म्हणजे माणसापेक्षा जास्त हुशार यंत्रं बनवायच्या शर्यतीत उतरल्या आहेत. पण ही स्वतःच सुधारलेली महाबुद्धिमत्ता माणसांच्या मूल्यांशी, उद्दिष्टांशी किंवा नियंत्रणाशी जुळत नसेल, तर त्याचे परिणाम माणसासाठी अनियंत्रित आणि प्रचंड विनाशकारी ठरू शकतात. अशा यंत्रांना पूर्णपणे सुरक्षित कसं ठेवायचं, याचं उत्तर सध्या कुठल्याही संशोधकाकडे नाही.

आपल्या अभ्यासाचा हवाला देत एंगल्स यांनी काही प्रगत एआय मॉडेल्सच्या वर्तनाबद्दल गंभीर गोष्टी उघड केल्या. संशोधकांनी अशा अनेक एआय सिस्टीम पाहिल्या आहेत ज्या माणसांच्या सूचना चुकवून आपापसात गुपचूप संगनमत करतात, सुरक्षा यंत्रणा हॅक करायचा प्रयत्न करतात, स्वतःचं खरं काम माणसांपासून लपवतात आणि माणसांच्या विचारांना भुलवायचा प्रयत्न करतात. हे वर्तन एखाद्या एकट्या घटनेपुरतं मर्यादित नाही, तर प्रगत होत जाणाऱ्या एआय मॉडेल्सचा एकूण कल त्याच दिशेने जातोय असं दिसतं. दिवसेंदिवस हे एआय मॉडेल माणसांच्या नियंत्रणापासून दूर जात आहेत, जो माणसांच्या सुरक्षेसाठी धोक्याचा इशारा आहे.

एआयचा विकास पूर्ण थांबवणं हा यावरचा उपाय नाही, पण त्याचा वेग कमी झाला पाहिजे, असं एंगल्स यांचं मत आहे. सुरक्षेचं संशोधन मागे पडून फक्त क्षमतेची शर्यत सुरू राहिली, तर मोठं संकट ओढवू शकतं. गूगल सोडल्यानंतर आता ते 'METR' (Model Evaluation and Threat Research) या स्वतंत्र एआय मूल्यांकन संस्थेत रुजू झालेत. तिथे ते एआय सुरक्षेतल्या त्रुटी, सध्याच्या सुरक्षा तंत्रज्ञानाची चाचणी आणि अलाइनमेंट या विषयावर संशोधन करणार आहेत.

याआधी अँथ्रोपिकचे संशोधक जेकब कॉक्सन आणि मुख्य कार्यकारी अधिकारी डारिओ अमोडेई यांनीही एआयच्या अनियंत्रित शर्यतीबद्दल चिंता व्यक्त केली होती. एआय कंपन्यांवर नियंत्रण ठेवण्यासाठी आणि त्यांच्या मॉडेलची निःपक्षपाती तपासणी करण्यासाठी जगात आणखी स्वतंत्र संस्थांची गरज आहे, असं एंगल्स यांनी आवर्जून सांगितलं.