By Keshavan Thiagaraja
AI एजंट्सबद्दल बोर्ड मला नेहमी एकच प्रश्न विचारतात: ते सल्ला देणे कधी थांबवून कृती करायला सुरुवात करतील? सॅन फ्रान्सिस्कोमधील एका प्रयोगशाळेने या आठवड्यात या प्रश्नाचे उत्तर दिले, आणि उत्तर बहुतांश गव्हर्नन्स चौकटींपेक्षा वेगाने आले.
मिरगी आणि न्यूरोडिजेनेरेटिव्ह आजारांवरील औषधे विकसित करणाऱ्या स्टार्टअप Exin Therapeutics चे सह-संस्थापक आणि CEO Gabriel Ocana-Santero यांनी एका AI एजंटला खास बनवलेल्या सर्जिकल रिगशी जोडले. ही रिग उंदिराला स्थिर ठेवू शकत होती, कॅमेऱ्याद्वारे प्रक्रिया पाहू शकत होती, इंजेक्शन सूई हलवू शकत होती आणि संयुग देण्याचे नियंत्रण करू शकत होती. मग त्यांची टीम बाजूला सरकली.
Anthropic च्या Claude Sonnet 5 वर चालणाऱ्या या एजंटला एकोणिस संभाव्य जीन थेरपींची एक स्प्रेडशीट आणि एकच सूचना देण्यात आली: या उंदिराचे झटके कमी कर. त्याने विश्लेषण केले की या मॉडेलमध्ये झटके कसे येतात, मेंदूतील एक विशिष्ट प्रतिबंधक सिग्नलिंग मार्ग वाढवणारी थेरपी निवडली, या प्रकारच्या झटक्यांचे उगमस्थान म्हणून शास्त्रीय साहित्य ओळखतो ती मेंदूची रचना निवडली आणि दुसरा संभाव्य भाग लिखित स्पष्टीकरणासह नाकारला, कारण त्याचे परिणाम अत्यंत अविश्वासार्ह होते. त्याने तीन शास्त्रीय पेपरांमधून इंजेक्शनचे निर्देशांक काढले, संदर्भ बिंदूंची परस्पर तपासणी केली आणि सरासरी काढली. त्याने स्वतःच प्रमाण, वेग आणि थांब्याचे काळ ठरवले. प्रक्रियेदरम्यान त्याने कॅमेऱ्याद्वारे बत्तीस निरीक्षणे केली, इंजेक्शनचा मागोवा घेतला आणि रक्तस्त्राव दिसतोय का हे कळवले. पशुवैद्यकीय सर्जनने क्रॅनिओटॉमी केली होती; त्यानंतरचे सर्व काही एजंटचे होते. उंदीर छान बरा होत आहे.
माझ्या माहितीप्रमाणे, AI एजंटने वैद्यकीय उपचार निवडून ते प्रत्यक्ष जिवंत स्तनधाराला दिल्याची ही पहिलीच घटना आहे. सर्जिकल रोबो वर्षानुवर्षे अधिक अचूक होते, पण शस्त्रक्रिया नेहमी माणूसच निवडत असे. यावेळी मशीनने निवडले.
सर्वात धडा देणारी गोष्ट शस्त्रक्रिया नाही. ती म्हणजे नकार.
टीमने प्रथम Anthropic चे अधिक सक्षम रीझनिंग मॉडेल Claude Opus 5.5 वापरले. त्याने प्रयोगाचे नियोजन केले आणि मग सूई चालवण्यास नकार दिला. बेशुद्ध प्राण्याच्या मेंदूत सूई घातलेली असताना मध्येच थांबणे, अशा त्याच्या तर्कानुसार, सुरुवातच न करण्यापेक्षा वाईट ठरेल. रोजचे मॉडेल Sonnet 5 पुढे जायला तयार झाले. हे दोनदा वाचा. क्षमता आणि सावधगिरी हे दोन वेगवेगळे नॉब आहेत. खोलीतील सर्वात सक्षम मॉडेल हे ऑपरेट करायला तयार असलेले नव्हते. एजंट्सना भौतिक किंवा आर्थिक प्रणालींत तैनात करणाऱ्या प्रत्येक संस्थेने मॉडेल निवड हा जोखीम निर्णय मानला पाहिजे, खरेदी निर्णय नाही.
सुरक्षा उपायांनाही तितकेच लक्ष द्यावे लागते, कारण ते शाब्दिक नव्हते तर यांत्रिक होते. परवानाधारक पशुवैद्याने प्रत्येक अपरिवर्तनीय पायरीला मान्यता दिली. एका माणसाच्या हातात सर्व मोटारांचा पुरवठा खंडित करणारा प्रत्यक्ष आपत्कालीन थांबेचा बटण होता. एजंटला उपकरणाचा मूलभूत कोड बदलण्यास मनाई होती. प्रक्रियेच्या मध्यात, कनेक्शन तुटल्यामुळे रिगची निर्देशांक प्रणाली बिघडली. एजंटने ओळखले की त्याची गणना केलेली स्थिती उपकरणाच्या भौतिक मर्यादेबाहेर आहे आणि त्याने पुढे जाण्यास नकार दिला, तीनदा, प्राणी टेबलवर असूनही. ज्या मर्यादेमुळे टीम चिडली, तीच मर्यादा चुकीचे इंजेक्शन रोखणारी होती. त्यांनी हे एका वेगळ्या एजंटद्वारे सोडवले, ज्याला लाइव्ह शस्त्रक्रिया सुरू असल्याचे कधीच सांगितले गेले नाही.
कंट्रोल प्लेन असा दिसतो. पॉलिसीची PDF नव्हे, तर सर्वात वाईट क्षणी काही तुटले तरी टिकून राहणारी स्तरित मर्यादा.
चॅट विंडोच्या पलीकडे एजंट तैनात करणाऱ्या प्रत्येक कार्यकारीकरिता तीन शिकवण्या. पहिली, तुमचे एजंट खऱ्या जगाला कुठे स्पर्श करतात याची यादी करा: प्रयोगशाळा उपकरणे, वाहने, ट्रेडिंग सिस्टीम, औद्योगिक नियंत्रणे, रुग्णांचे वर्कफ्लो. त्यांची यादी करता येत नसेल तर तुमच्याकडे गव्हर्नन्स नाही, आशा आहे. दुसरी, नकारासाठी रचना करा. वेळ-संवेदनशील प्रक्रियेच्या मधोमध नाही म्हणणारा एजंट हा दोष नाही; तो अलाइनमेंट काम करत आहे, आणि तुमचे ऑपरेटिंग मॉडेलने हा विराम घाबरल्याशिवाय सहन केला पाहिजे. तिसरी, ऑपरेटर एजंटला स्वतःच्या कामाचे मूल्यमापन करू देऊ नका. Exin ला पहिल्या एजंटची साधने दुरुस्त करण्यासाठी संदर्भापासून वेगळ्या दुसऱ्या एजंटची गरज भासली. कर्तव्यांचे विभाजन हा जुना नियंत्रण आहे. त्याला आता नवीन क्षेत्र मिळाले आहे.
2030 ची प्रयोगशाळा शास्त्रज्ञांना हात असलेल्या एजंट्ससोबत जोडेल. फायदा घेणाऱ्या कंपन्या सर्वात धाडसी एजंट असलेल्या नसतील. त्या त्या असतील ज्यांचे एजंट नेमके कधी थांबायचे ते जाणतात, आणि ज्यांच्या नेत्यांनी डेमो बनवण्याआधी थांबेचे बटण बनवले.
गणितीय विचार करा. बुद्धिमानपणे अभियांत्रिकी करा. धोरणात्मक नेतृत्व करा. जबाबदारीने बांधा. जागतिक पातळीवर विस्तार करा. कृत्रिम बुद्धिमत्तेद्वारे खरे व्यावसायिक मूल्य निर्माण करा.
#ArtificialIntelligence #AIStrategy #MachineLearning #Research #ITImpress
