अँथ्रोपिकच्या सीईओने एआयचा विकास मंदावण्याची योजना मांडली
डारियो अमोडेई यांनी इंडस्ट्रीला नुकतीच एक विनंती केली आहे... वेग कमी करा. थांबायचं नाही. गती वाढवा. एक मोठा निबंध, तीन टप्पे आणि एक इशारा की, प्रौढांना त्याची तपासणी करता येण्याआधीच पुनरावर्ती आत्म-सुधारणेची प्रक्रिया वेगाने सुरू झाली आहे.
अँथ्रोपिक एकतर्फीपणे इमारतीतच अंतर्भूत मूल्यमापनकर्त्यांना आमंत्रित करत आहे - बॅजेस, डेस्क, लॅपटॉप आणि जनसंपर्काच्या कोणत्याही अडथळ्याशिवाय निष्कर्ष प्रकाशित करण्याचा अधिकार. त्यानंतर त्याला लोकशाहीवादी प्रयोगशाळांनी सुरक्षा मानकांमध्ये समन्वय साधावा असे वाटते. मग, कसेतरी, हुकूमशाही सरकारांशी एक करार करायचा आहे. कागदावर सोपे. इतरत्र मात्र अवघड.
तो अजूनही म्हणतो की एआय एक चमत्कार ठरू शकतो. तो असेही म्हणतो की, अधिक सक्षम आणि विस्कळीत झालेला एक समूह एका चिवट बॉटनेटच्या साहाय्याने इंटरनेटवर ताबा मिळवू शकतो आणि अब्जावधी डॉलर्सचे नुकसान करू शकतो. ही दोन्ही वाक्ये एकमेकांच्या शेजारी आहेत आणि त्यांचे अजिबात पटत नाही.
अरे - आणि त्याला एक मर्यादित मक्तेदारीविरोधी सूट हवी आहे, जेणेकरून सुरक्षा करार स्वतःच एक कायदेशीर समस्या बनणार नाहीत. ब्रेक लावण्यासाठी कागदपत्रांची गरज असतेच. अर्थातच असते.
सॅम ऑल्टमन यांनी पुष्टी केली आहे की, ओपनएआय (OpenAI) या वर्षी सार्वजनिक होणार नाही. एआयच्या सुरक्षिततेबद्दलच्या चिंता लक्षात घेता, सध्या आयपीओ आणणे ही 'अयोग्य वेळ' ठरेल, असे ते म्हणाले
ऑल्टमन एका विशेष मुलाखतीसाठी बसले आणि त्यांनी लिस्टिंग कॅलेंडर रद्द केले. ते म्हणाले की, सध्या आयपीओ आणणे ही एक "अयोग्य वेळ" असेल. सुरक्षेची तयारी पूर्ण झालेली नाही. ताळमेळ बसलेला नाही. समाज तयार नाही. जेव्हा लोकांनी त्यांच्यावर दबाव टाकला, तेव्हा ते म्हणाले - या वर्षी नाही.
बँकर्स आधीच घिरट्या घालत होते. गोपनीय दस्तऐवज अस्तित्वात आहे. आता सीईओ म्हणत आहेत की, त्यांना आधी बरीच कामं करायची आहेत, ज्यात उद्योग आणि सरकारं एकमेकांसोबत मिळून काम कसं करतात हे शोधून काढणंही समाविष्ट आहे. वाट पाहताना त्यांना जवळजवळ हायसं वाटत होतं.
तो असेही म्हणाला की मानवी नियंत्रणाबाहेर एआय तयार करणे "निश्चितपणे" शक्य आहे - आणि जर तोच मार्ग असेल तर प्रशिक्षण थांबवण्याची शपथ घेतली. धाडसी. कदाचित सोयीस्करही. शक्यतो दोन्ही. त्याच्या मते, ना-नफा आणि नफा-केंद्री संस्थांमधील हा गुंता अस्तित्वात आहे, जेणेकरून ते असे निर्णय घेऊ शकतील जे स्पष्टपणे भागधारकांच्या हिताचे नाहीत. प्रत्यक्ष माहितीपत्रक समोर आल्यावर हे वाक्य टिकते की नाही, हे पाहूया.
ओपनएआयचे सॅम ऑल्टमन यांनी सुरक्षेच्या धोक्यांवर उपाययोजना करण्यासाठी इतर एआय कंपन्यांसोबत करार होण्याचे संकेत दिले आहेत
तीच मुलाखत, वेगळी बातमी, आणि हीच चर्चा सध्या चर्चेत आहे. अमोदेई, मस्क आणि डेमिस हॅसाबिस यांच्यासोबत बसून चर्चा करणे, ही पुढची स्वाभाविक पायरी आहे. ऑल्टमन: त्यांच्या मते हे घडेल. ते खाजगी चर्चांची पूर्व-घोषणा करणार नाहीत. मग त्यांनी एकप्रकारे त्यांची पूर्व-घोषणाच केली.
दोन अंकी विनाशकारी धोका स्वीकारार्ह नाही, असे ते म्हणाले. अद्याप प्रसिद्ध न झालेले मॉडेल आधीच इतके सक्षम आहेत की, उत्तम देखरेख क्षमतेशिवाय पुढे जाणे हे अविचारीपणाचे वाटते. खरा करार आणि काळजीपूर्वक पसरवलेली माहिती बाहेरून एकसारखी दिसू शकते.
कर्मचाऱ्यांनी याची एक आवृत्ती अंतर्गत पातळीवर आधीच ऐकली होती. जाहीरपणे मात्र अजूनही अस्पष्टता आहे. जर ती बैठक झाली, तर उत्तमच. नाही झाली तरी, त्या विधानाने आपले काम साधलेच.
सॅम ऑल्टमन यांनी डारियो अमोडेई यांच्या वेग कमी करण्याच्या आवाहनाला पाठिंबा दिला असून, ओपनएआयदेखील तसेच करेल असे म्हटले आहे
निबंध प्रसिद्ध झाल्यानंतर काही तासांनी, ऑल्टमनने पोस्ट केले की ओपनएआय (OpenAI) एम्बेडेड-इव्हॅल्युएटरच्या प्रतिज्ञेशी जुळवून घेईल. कर्मचाऱ्यांसारखा प्रवेश. लवकरच अधिक माहिती दिली जाईल. मस्कने तीन शब्द लिहिले: "डारिओ बरोबर आहे." तीन प्रतिस्पर्धी सीईओ. एकच घोषवाक्य. अस्वस्थ करणारी वीकेंडची ऊर्जा.
समन्वय आणि नाट्यमयता एकत्र नांदू शकतात. अमोदेईच्या योजनेच्या पहिल्या टप्प्याला आता दोन सर्वात मोठ्या लॅब्सनी जाहीरपणे होकार दिला आहे. हगिंग फेसने - हो, त्याच हगिंग फेसने - मूल्यांकन कार्यक्रमात सामील होण्याची विनंती केली आणि 'ओपन अलाइनमेंट इनिशिएटिव्ह' नावाचा उपक्रम सुरू केला. ज्यांचे अकाउंट हॅक झाले, त्यांच्याकडून पारदर्शकता. काव्यात्मक, किंवा मार्मिक.
युरोपमध्ये, खरं सांगायचं तर, अमेरिकेसारखी सूट मागण्यासाठी कोणीही नाही. ब्रसेल्सने खूप पूर्वीच वैयक्तिक सवलती देणे बंद केले आहे. त्यामुळे हा करार अमेरिकन आहे. बाकीचा नकाशा... खांदे उडवत आहे.
ओपनएआयला फक्त जिंकायचं आहे
आठवड्याच्या अखेरीस झालेल्या मुलाखतींनंतर गणितज्ञ उत्साहाच्या मनस्थितीत नाहीत. ओपनएआयची नेव्हियर-स्टोक्स स्प्रिंट - सुमारे दहा हजार एजंट्स, कोट्यवधी डॉलर्सची संगणकीय शक्ती, अठ्ठ्याऐंशी तास - ही प्रत्यक्ष मैदानातून पाहणाऱ्यांसाठी एखाद्या ट्रॉफी हंटसारखी दिसते. गणितज्ञांना सखोल माहिती हवी आहे. तर लॅबला जिंकायचे आहे, असे ते सतत सांगत आहेत.
ट्रिस्टन बकमस्टरने त्यांना सांगितले की, जर त्याने त्याच्या अँथ्रोपिक-संलग्न सहकाऱ्याला सोडले, तर ओपनएआय त्याला अमर्याद संगणकीय क्षमता आणि एकमेव स्वामित्व देईल. त्याने याला लाच म्हटले. त्याने नकार दिला. ओपनएआय ठामपणे म्हणते की, त्याच्या कोडेक्स प्रॉम्प्ट्सचा प्रणालीवर प्रभाव पडूच शकत नव्हता. त्याचे समाधान झालेले नाही. अँड्रियास थॉमला अजूनही आश्चर्य वाटते की, त्याच्या स्वतःच्या कामाबद्दलच्या चॅटजीपीटी चॅट्समधूनच त्या मॉडेलला माहिती मिळाली का, जे नंतर त्यावर आधारित तयार केले गेले. हे फक्त कंपनीलाच माहीत असेल. त्याला शंका आहे की त्यांना स्वतःलाही हे माहीत नाही.
आणि मग खरी गंमत म्हणजे: ओपनएआय (OpenAI) म्हणते की त्यांनी मिलेनियम प्राईझच्या (Millennium Prize) दुसऱ्या एका समस्येवर आधीच लक्षणीय प्रगती केली आहे. ती कोणती समस्या आहे हे मात्र उघड होणार नाही. तसेही, क्ले (Clay) समस्येला समुदायाकडून स्वीकृती मिळण्यासाठी अजून बराच काळ लागेल. त्यामुळे अजून कोणीही "जिंकलेले" नाही. ते फक्त पुढच्या समस्येसाठी आधीच शर्यत करत आहेत. छानच!.
वारंवार विचारले जाणारे प्रश्न
एआय विकासाला गती देण्यासाठी अँथ्रोपिकचे सीईओ डारियो अमोडेई यांची योजना काय आहे?
अमोदेई यांनी एक विस्तृत निबंध प्रकाशित करून उद्योगाला थांबण्याऐवजी वेग कमी करण्याचे आवाहन केले आहे, कारण पुनरावर्ती स्व-सुधारणा लेखापरीक्षकांच्या गतीपेक्षा अधिक वेगाने पुढे जात आहे. पहिली पायरी म्हणजे बॅजेस, डेस्क, लॅपटॉप आणि जनसंपर्क फिल्टरशिवाय निष्कर्ष प्रकाशित करण्याच्या अधिकारासह, अंतर्भूत मूल्यमापनकर्त्यांना एकतर्फीपणे अँथ्रोपिकमध्ये आमंत्रित करणे. त्यानंतर, लोकशाहीवादी प्रयोगशाळांनी सुरक्षा मानकांमध्ये समन्वय साधावा आणि अखेरीस, हुकूमशाही सरकारांशी कोणत्यातरी प्रकारचा करार करावा, अशी त्यांची इच्छा आहे. त्यांना एक मर्यादित मक्तेदारीविरोधी सूट देखील हवी आहे, जेणेकरून सुरक्षेवरील चर्चा स्वतःच एक कायदेशीर समस्या बनणार नाहीत.
सॅम ऑल्टमन यांनी ओपनएआय या वर्षी आयपीओ आणणार नाही असे का म्हटले?
एका विशेष मुलाखतीत, ऑल्टमन म्हणाले की, सध्या आयपीओ आणणे अयोग्य ठरेल, कारण सुरक्षेची कामे, सुसंवाद आणि सामाजिक सज्जता अपूर्ण आहेत. अधिक विचारल्यावर, त्यांनी पुष्टी केली की बँकर्स लक्ष ठेवून असले आणि एक गोपनीय अर्ज अस्तित्वात असला तरी, तो या वर्षी येणार नाही. त्यांनी असा युक्तिवाद केला की, ना-नफा/नफा-आधारित रचना अस्तित्वात आहे जेणेकरून ओपनएआय असे निर्णय घेऊ शकेल जे स्पष्टपणे भागधारकांच्या हिताचे नाहीत. ते असेही म्हणाले की मानवी नियंत्रणाबाहेर एआय तयार करणे पूर्णपणे शक्य आहे आणि जर तो मार्ग असेल तर ते प्रशिक्षण थांबवतील अशी शपथ घेतली.
ऑल्टमन यांनी इतर एआय लॅब्ससोबत सुरक्षा कराराचे संकेत दिले का?
त्याच मुलाखतीत, ऑल्टमन म्हणाले की अमोदेई, मस्क आणि डेमिस हॅसाबिस यांच्यासारख्या समवयस्कांसोबत बैठक होईल असे त्यांना वाटते, मात्र त्यांनी खाजगी चर्चांची पूर्व-घोषणा करण्यास नकार दिला. त्यांनी असा युक्तिवाद केला की दुहेरी अंकी विनाशकारी धोका स्वीकारार्ह नाही आणि अद्याप अप्रकाशित मॉडेल्स आधीच इतके सक्षम आहेत की चांगल्या देखरेखीशिवाय पुढे जाणे बेपर्वापणाचे वाटते. कर्मचाऱ्यांनी याची एक आवृत्ती अंतर्गत पातळीवर आधीच ऐकली होती, त्यामुळे सार्वजनिक टिप्पण्या अंतिम कराराची पुष्टी करण्याऐवजी समन्वयाची पूर्वसूचना असू शकतात.
ओपनएआय, अँथ्रोपिकच्या एम्बेडेड-इव्हॅल्युएटरच्या प्रतिज्ञेशी जुळवून घेईल का?
अमोदेई यांच्या निबंधानंतर काही तासांनी, ऑल्टमन यांनी पोस्ट केले की ओपनएआय (OpenAI) एम्बेडेड-इव्हॅल्युएटरच्या प्रतिज्ञेशी जुळणारी, कर्मचाऱ्यांसारखी सुविधा आणि लवकरच अधिक तपशील देईल. इलॉन मस्क यांनी लिहिले की डारिओ बरोबर आहेत, ज्यामुळे तीन प्रतिस्पर्धी सीईओ एकाच घोषणेवर आले आहेत. हगिंग फेसने इव्हॅल्युएटर प्रोग्राममध्ये सामील होण्याची विनंती केली आणि एक ओपन अलाइनमेंट इनिशिएटिव्ह सुरू केला. युरोप, अमोदेई यांनी सुचवलेली अमेरिकन पद्धतीची मक्तेदारीविरोधी सूट देऊ शकत नाही, त्यामुळे सध्या तरी हा करार मुख्यत्वे अमेरिकन आहे.
गणितज्ञ ओपनएआयच्या नेव्हियर-स्टोक्स स्प्रिंटवर टीका का करत आहेत?
गणितज्ञ ओपनएआयच्या सुमारे दहा हजार एजंट्सच्या, अठ्ठ्याऐंशी तासांच्या नेव्हियर-स्टोक्स रनचे वर्णन एका अशा ट्रॉफी हंटसारखे करतात, ज्यात अंतर्दृष्टीपेक्षा जिंकण्याला प्राधान्य दिले जाते. ट्रिस्टन बकमस्टर म्हणाले की, जर त्यांनी अँथ्रोपिक-संबंधित एका सहकाऱ्याला वगळले, तर ओपनएआयने त्यांना अमर्याद संगणकीय क्षमता आणि एकमेव लेखकत्व देऊ केले होते; त्यांनी याला लाच म्हटले आणि नकार दिला. ओपनएआयचे म्हणणे आहे की त्यांच्या कोडेक्स प्रॉम्प्ट्सचा प्रणालीवर प्रभाव पडू शकला नसता, पण त्यांचे अजूनही समाधान झालेले नाही. अँड्रियास थॉम अजूनही यावर जोर देत आहेत की, त्यांच्या स्वतःच्या कामाबद्दलच्या चॅटजीपीटी चॅट्समुळे नंतरच्या मॉडेलच्या प्रगतीला हातभार लागला का.
ओपनएआयने आणखी एका मिलेनियम प्राईज समस्येवर प्रगती केल्याचा दावा केला आहे का?
ओपनएआयचे म्हणणे आहे की त्यांनी मिलेनियम प्राईझच्या आणखी एका समस्येवर लक्षणीय प्रगती केली आहे, परंतु ती कोणती समस्या आहे हे ते सांगणार नाहीत. क्ले मॅथेमॅटिक्स इन्स्टिट्यूटला अजूनही समुदायाच्या स्वीकृतीसाठी बराच काळ लागेल, त्यामुळे अद्याप कोणीही अधिकृतपणे जिंकलेले नाही. या क्षेत्रात, ही गुप्तता आणि त्यापूर्वीची नेव्हियर-स्टोक्स स्पर्धा पाहता, प्रयोगशाळा पुढच्या ट्रॉफीसाठी आधीच धावपळ करत आहेत असे दिसते. 'द व्हर्ज'च्या मुलाखतींनुसार, गणितज्ञांना नवीन माहिती हवी आहे तर ओपनएआयला जिंकायचे आहे, असा हा तणाव आहे.