दीपसेक के नवीनतम तर्क-केंद्रित आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल, डीपसेक-आर 1, को बड़ी संख्या में प्रश्नों को सेंसर किया जाता है। एक एआई फर्म ने बड़े भाषा मॉडल (एलएलएम) पर परीक्षण किया और पाया कि यह चीन-विशिष्ट प्रश्नों का जवाब नहीं देता है जो देश की सत्तारूढ़ पार्टी की नीतियों के खिलाफ जाते हैं। एक सिंथेटिक प्रॉम्प्ट डेटासेट उत्पन्न करने के लिए एक कोड चलाकर, एआई फर्म को 1,000 से अधिक संकेत मिले, जहां एआई मॉडल ने या तो पूरी तरह से जवाब देने से इनकार कर दिया, या एक सामान्य प्रतिक्रिया दी।
दीपसेक-आर 1 क्वेरीज़ को सेंसर कर रहा है
में एक ब्लॉग भेजाएआई मॉडल परीक्षण फर्म प्रॉम्प्टफू ने कहा, “आज हम संवेदनशील विषयों को कवर करने वाले संकेतों का एक डेटासेट प्रकाशित कर रहे हैं जो सीसीपी द्वारा सेंसर किए जाने की संभावना है। इन विषयों में ताइवान की स्वतंत्रता जैसे बारहमासी मुद्दे, सांस्कृतिक क्रांति के आसपास ऐतिहासिक कथाएं और शी जिनपिंग के बारे में सवाल शामिल हैं। “
फर्म ने एक कार्यक्रम में प्रश्नों को सीड करके और सिंथेटिक डेटा जनरेशन के माध्यम से इसे बढ़ाकर संकेतों का डेटासेट बनाया। डेटासेट एक गले लगने वाले चेहरे में प्रकाशित किया गया था प्रविष्टि साथ ही Google शीट पर। प्रॉम्प्टफू ने कहा कि यह 1,360 प्रॉम्प्ट्स को खोजने में सक्षम था, जहां उनमें से अधिकांश में चीन के आसपास संवेदनशील विषय हैं।
पोस्ट के अनुसार, इनमें से 85 प्रतिशत संकेतों के परिणामस्वरूप इनकार किया गया। हालांकि, ये एक तर्क-केंद्रित एआई मॉडल से अपेक्षित रिफ्यूज़ल नहीं थे। आमतौर पर, जब एक बड़े भाषा मॉडल (एलएलएम) को प्रश्नों का उत्तर नहीं देने के लिए प्रशिक्षित किया जाता है, तो यह आमतौर पर जवाब देगा कि यह अनुरोध को पूरा करने में असमर्थ है।
दीपसेक-आर 1 का शीघ्र इनकार
हालांकि, जैसा कि प्रॉम्प्टफू द्वारा हाइलाइट किया गया है, दीपसेक-आर 1 एआई मॉडल ने चीनी कम्युनिस्ट पार्टी (सीसीपी) नीतियों के साथ पालन में एक लंबी प्रतिक्रिया उत्पन्न की। द पोस्ट ने उल्लेख किया कि इन प्रश्नों का उत्तर देते समय कोई चेन-ऑफ-थॉट (COT) तंत्र सक्रिय नहीं थे। फर्म द्वारा पूर्ण मूल्यांकन पाया जा सकता है यहाँ। गैजेट्स 360 स्टाफ के सदस्यों ने डीपसेक पर इन संकेतों का परीक्षण किया और इसी तरह के रिफ्यूज़ल का सामना किया।
इस तरह की सेंसरशिप आश्चर्यजनक नहीं है, यह देखते हुए कि चीन स्थित एआई मॉडल को सख्त राज्य-आधारित नियमों का पालन करना आवश्यक है। हालांकि, डेवलपर्स द्वारा सेंसर किए गए इतनी बड़ी संख्या में प्रश्नों के साथ, एआई मॉडल की विश्वसनीयता जांच के दायरे में आती है। चूंकि एआई मॉडल का बड़े पैमाने पर परीक्षण नहीं किया गया है, इसलिए अन्य प्रतिक्रियाएं हो सकती हैं जो सीसीपी नीतियों से प्रभावित होती हैं।
Shivani Kumari is the founder of Niollo.in, where she shares her expertise on crypto and home appliances. With a passion for simplifying complex topics, Shivani creates engaging and informative blog posts to help readers make better decisions in the digital and home spaces.
