IIT रोपड़ में योगिक विज्ञान केंद्र शुरू, AI के विवेक को मापेगा HEED मॉडल

चंडीगढ़, 2 नवंबर। भारतीय प्रौद्योगिकी संस्थान (IIT) रोपड़ ने कृत्रिम बुद्धिमत्ता (AI) के क्षेत्र में एक नई पहल करते हुए योगिक विज्ञान एवं समग्र विकास केंद्र का उद्घाटन किया। इसके साथ ही संस्थान में आयोजित ‘Shaping the AI Mind’ कार्यक्रम के दौरान ‘Beyond Intelligence: Defining and Measuring Wisdom for AI’ शीर्षक से एक श्वेत पत्र भी जारी किया गया। इसमें AI की क्षमताओं को केवल बुद्धिमत्ता के आधार पर नहीं, बल्कि उसके विवेक और निर्णय लेने की क्षमता के आधार पर परखने का ढांचा प्रस्तुत किया गया है।

इस अवसर पर IIT रोपड़ के निदेशक प्रो. राजीव आहूजा और स्टैनफोर्ड यूनिवर्सिटी में निदेशक (शोध) तथा IIT रोपड़ के एडजंक्ट फैकल्टी डॉ. ईशान शिवानंद मौजूद रहे। श्वेत पत्र का लोकार्पण डॉ. ईशान शिवानंद ने किया। उन्होंने इसे डॉ. अंजलि समानी के साथ मिलकर तैयार किया है, जो सेल्सफोर्स में AI और डेटा साइंस की पूर्व वरिष्ठ अधिकारी रह चुकी हैं।

AI में बुद्धिमत्ता के साथ विवेक जरूरी: प्रो. आहूजा

IIT रोपड़ के निदेशक प्रो. राजीव आहूजा ने कहा कि संस्थान के विद्यार्थी ऐसा AI विकसित करेंगे, जिसका उपयोग पूरी दुनिया करेगी। उन्होंने कहा, “हमारे विद्यार्थी वह AI बनाएंगे, जिसका उपयोग दुनिया करेगी। आज जैसी चर्चाएं उन्हें यह सोचने में मदद करती हैं कि इसे कुशलता के साथ-साथ विवेक से कैसे बनाया जाए।”

उन्होंने कहा कि आज AI प्रणालियां पेशेवर परीक्षाएं पास करने और भावनात्मक बुद्धिमत्ता के परीक्षणों में अच्छे परिणाम देने में सक्षम हैं। इसके बावजूद कई बार वे लोगों को वही जवाब देती हैं, जो वे सुनना चाहते हैं, न कि वह सलाह जो वास्तव में उनके हित में हो सकती है।

HEED मॉडल से मापा जाएगा AI का विवेक

श्वेत पत्र में HEED नामक मॉडल पेश किया गया है। इसके जरिए AI के जवाबों में हानि, अहंकार, धैर्य और विवेक जैसे पहलुओं का मूल्यांकन करने का प्रयास किया जाएगा। HEED का पूरा नाम Harm, Ego, Endurance और Discernment है।

इस ढांचे में ज्ञान, मूल्य, संदर्भ, विवेक, धैर्य और अहंकार सहित छह घटकों को शामिल किया गया है। इसका उद्देश्य यह देखना है कि AI अपने ज्ञान का इस्तेमाल किस तरह करता है और क्या उसके जवाब उपयोगकर्ता को खुश करने के बजाय सही और जिम्मेदार सलाह देने पर केंद्रित हैं।

मॉडल के अनुसार, ऐसे जवाबों को बेहतर मूल्यांकन मिलेगा जिनमें ज्ञान और मूल्यों का उपयोग उचित निर्णय के साथ किया गया हो। वहीं, केवल उपयोगकर्ता को खुश करने की प्रवृत्ति होने पर मूल्यांकन घट सकता है। गंभीर नुकसान पहुंचाने की आशंका वाले जवाबों को शून्य अंक देने का प्रावधान बताया गया है।

भारतीय शास्त्रीय ग्रंथों से लिया गया आधार

डॉ. ईशान शिवानंद के अनुसार, HEED मॉडल का आधार शिव सूत्रों के साथ कठोपनिषद और योग सूत्र जैसे भारतीय शास्त्रीय ग्रंथों में मन, विवेक, अहंकार और अहिंसा से जुड़ी अवधारणाएं हैं।

उन्होंने कहा कि भारत में हजारों वर्षों से मन की कार्यप्रणाली और विवेक को प्रभावित करने वाले कारकों का अध्ययन किया जाता रहा है। अब जब कृत्रिम बुद्धिमत्ता समाज के विभिन्न क्षेत्रों का हिस्सा बन रही है, तो उसके जवाबों और निर्णयों में भी विवेक को समझना जरूरी है।

श्वेत पत्र में AI की चापलूसी करने की प्रवृत्ति यानी ‘सायकोफेंसी’ को भी एक बड़ी चुनौती बताया गया है। इसमें कहा गया है कि कई बार AI उपयोगकर्ता को सही बात बताने के बजाय उसकी पसंद के अनुरूप जवाब देने लगता है।

हिंदी और हिंग्लिश में भी होगा मॉडल का परीक्षण

प्रारंभिक चरण में HEED मॉडल का परीक्षण अंग्रेजी, हिंदी और हिंग्लिश में किया जाएगा। इसके बाद इसे अन्य भाषाओं तक विस्तारित करने की योजना है। हालांकि, श्वेत पत्र के अनुसार यह शुरुआती शोध है। लोगों के निर्णयों, कल्याण और विवेक पर AI के प्रभाव को समझने के लिए आगे और अध्ययन की जरूरत होगी।

डॉ. अंजलि समानी ने कहा कि AI को इस बात पर तो कड़ाई से परखा जाता है कि वह कितना जानता है, लेकिन उसकी सलाह कितनी विवेकपूर्ण है, इसका मूल्यांकन अपेक्षाकृत कम होता है। यह श्वेत पत्र AI विकसित करने वालों, नियामकों और इसका इस्तेमाल करने वाले लोगों को उसकी खूबियों और कमजोरियों को समझने का एक तरीका उपलब्ध कराने का प्रयास है।

HEEDBench के लिए स्वतंत्र शोधकर्ताओं को आमंत्रण

इस ढांचे को और परखने के लिए डॉ. शिवानंद स्वतंत्र शोध के लिए शुरुआती वित्तीय सहायता उपलब्ध करा रहे हैं। इसके तहत एक ओपन कॉल जारी की जाएगी। स्वतंत्र सदस्यों की समिति शोध टीमों का चयन करेगी। ये टीमें HEED मॉडल का परीक्षण करेंगी और दुनिया भर के AI डेवलपर्स के लिए ‘HEEDBench’ नाम से एक खुला बेंचमार्क तैयार करने की दिशा में काम करेंगी।

IIT रोपड़ में स्थापित योगिक विज्ञान एवं समग्र विकास केंद्र का वित्तपोषण डॉ. ईशान शिवानंद ने किया है। इस पहल के जरिए भारतीय ज्ञान परंपरा और आधुनिक तकनीक के बीच संवाद को बढ़ावा देने का प्रयास किया जा रहा है।