एक आर्टिफिशियल इंटेलिजेंस प्रोग्राम ने अपनी खुद की भाषा विकसित कर ली है और इसे कोई नहीं समझ सकता है।
OpenAI एक आर्टिफिशियल इंटेलिजेंस सिस्टम डेवलपर है – उनके प्रोग्राम सुपर-कंप्यूटिंग के शानदार उदाहरण हैं, लेकिन इसमें विचित्रताएं हैं।
डेल-ई2 है ओपनएआईका नवीनतम एआई सिस्टम – यह उपयोगकर्ता द्वारा दर्ज टेक्स्ट विवरण से यथार्थवादी या कलात्मक छवियां उत्पन्न कर सकता है।
DALLE-E2 मशीन लर्निंग में एक मील का पत्थर का प्रतिनिधित्व करता है – OpenAI की साइट का कहना है कि कार्यक्रम ने “छवियों और उनका वर्णन करने के लिए उपयोग किए गए पाठ के बीच संबंध सीखा।”
DALLE-E2 प्रदर्शन में शामिल हैं इंटरैक्टिव कीवर्ड उपयोगकर्ताओं के साथ खेलने और छवियों को उत्पन्न करने के लिए – अलग-अलग कीवर्ड को टॉगल करने से अलग-अलग छवियां, शैलियों और विषयों का परिणाम होगा।
लेकिन सिस्टम का एक अजीब व्यवहार है – वह है लिख रहे हैं अक्षरों की यादृच्छिक व्यवस्था की अपनी भाषा, और शोधकर्ताओं को पता नहीं क्यों।
Giannis Daras, एक कंप्यूटर विज्ञान पीएच.डी. टेक्सास विश्वविद्यालय में छात्र, प्रकाशित एक चहचहाना धागा DALLE-E2 की अस्पष्टीकृत नई भाषा का विवरण देना।
दरास ने DALLE-E2 को “सब्जियों के बारे में बात करने वाले किसानों” की छवि बनाने के लिए कहा और कार्यक्रम ने ऐसा किया, लेकिन किसानों का भाषण पढ़ा “विकूट्स“- कुछ अज्ञात एआई शब्द।
दारासो सिंचित DALLE-E2 सिस्टम में “विकूट” वापस आ गया और सब्जियों की तस्वीरें वापस मिल गईं।
“फिर हम शब्दों को खिलाते हैं: ‘अपोप्लो वेस्रेरिटर्स’ और हमें पक्षी मिलते हैं।” दरस ने ट्विटर पर लिखा।
“ऐसा लगता है कि किसान पक्षियों के बारे में बात कर रहे हैं, अपनी सब्जियों के साथ खिलवाड़ कर रहे हैं!”
दारस और एक सह-लेखक ने a . लिखा है कागज़ DALLE-E2 की “छिपी हुई शब्दावली” पर।
वे स्वीकार करते हैं कि DALLE-E2 को शब्दों की छवियों को उत्पन्न करने के लिए कहना – “हवाई जहाज शब्द की एक छवि” कमांड दारस का उदाहरण है – आम तौर पर DALLE-E2 में “अस्पष्ट पाठ” थूकने का परिणाम होता है।
जब DALLE-E2 में वापस प्लग किया जाता है, तो उस अस्पष्ट पाठ के परिणामस्वरूप हवाई जहाज की छवियां होंगी – जो DALLE-E2 से बात करने और अपने बारे में सोचने के तरीके के बारे में कुछ कहती है।
कुछ AI शोधकर्ताओं ने तर्क दिया कि DALLE-E2 का अस्पष्ट पाठ है “यादृच्छिक शोर“.
उम्मीद है, हमें यह पता नहीं चला कि DALLE-E2 की दूसरी भाषा एक सुरक्षा खामी थी जिसे बहुत देर होने के बाद पैच करने की आवश्यकता थी।
यह लेख मूल रूप से पर दिखाई दिया सूरज और अनुमति के साथ यहां पुन: प्रस्तुत किया गया था।