Google का कहना है कि उसका प्रमुख कृत्रिम बुद्धिमत्ता चैटबॉट, जेमिनी, “व्यावसायिक रूप से प्रेरित” अभिनेताओं से भर गया है, जो इसे बार-बार संकेत देकर, कभी-कभी हजारों अलग-अलग प्रश्नों के साथ क्लोन करने की कोशिश कर रहे हैं – जिसमें एक अभियान भी शामिल है जिसने जेमिनी को 100,000 से अधिक बार प्रेरित किया।
गुरुवार को प्रकाशित एक रिपोर्ट में, Google ने कहा कि यह तेजी से “आसवन हमलों” या चैटबॉट को अपने आंतरिक कामकाज को प्रकट करने के लिए डिज़ाइन किए गए बार-बार पूछे जाने वाले प्रश्नों के अंतर्गत आ रहा है। Google ने गतिविधि को “मॉडल निष्कर्षण” के रूप में वर्णित किया है, जिसमें भावी नकलची सिस्टम के पैटर्न और तर्क की जांच करते हैं जो इसे काम करते हैं। इसमें कहा गया है कि ऐसा प्रतीत होता है कि हमलावर जानकारी का उपयोग अपने स्वयं के एआई को बनाने या मजबूत करने के लिए करना चाहते हैं।
कंपनी का मानना है कि दोषी ज्यादातर निजी कंपनियां या शोधकर्ता हैं जो प्रतिस्पर्धात्मक लाभ हासिल करना चाहते हैं। एक प्रवक्ता ने एनबीसी न्यूज को बताया कि गूगल का मानना है कि हमले दुनिया भर से हुए हैं, लेकिन संदिग्धों के बारे में क्या पता था, इसके बारे में अतिरिक्त विवरण साझा करने से इनकार कर दिया।
Google के थ्रेट इंटेलिजेंस ग्रुप के मुख्य विश्लेषक जॉन हल्टक्विस्ट ने कहा, जेमिनी पर हमलों का दायरा इंगित करता है कि वे छोटी कंपनियों के कस्टम एआई टूल के खिलाफ भी आम हैं या जल्द ही आम हो जाएंगे।
हल्टक्विस्ट ने कहा, “हम कोयला खदान में और अधिक घटनाओं के लिए शिकार बनने जा रहे हैं।” उन्होंने संदिग्धों के नाम बताने से इनकार कर दिया.
कंपनी आसवन को बौद्धिक संपदा की चोरी मानती है।
टेक कंपनियों ने अपने एआई चैटबॉट, या बड़े भाषा मॉडल विकसित करने के लिए अरबों डॉलर खर्च किए हैं, और अपने शीर्ष मॉडल की आंतरिक कार्यप्रणाली को बेहद मूल्यवान मालिकाना जानकारी मानते हैं।
भले ही उनके पास आसवन हमलों की पहचान करने और उनके पीछे के लोगों को रोकने के लिए तंत्र हैं, प्रमुख एलएलएम स्वाभाविक रूप से आसवन के प्रति संवेदनशील हैं क्योंकि वे इंटरनेट पर किसी के लिए भी खुले हैं।
OpenAI, ChatGPT के पीछे की कंपनी, अपने चीनी प्रतिद्वंद्वी डीपसीक पर आरोप लगाया अपने मॉडलों को बेहतर बनाने के लिए आसवन हमलों का संचालन करने का अंतिम वर्ष।
Google ने कहा कि कई हमले उन एल्गोरिदम को छेड़ने के लिए तैयार किए गए थे जो मिथुन को “तर्क” करने या जानकारी को संसाधित करने का निर्णय लेने में मदद करते हैं।
हल्टक्विस्ट ने कहा कि चूंकि अधिक कंपनियां संभावित संवेदनशील डेटा पर प्रशिक्षित अपने स्वयं के कस्टम एलएलएम डिजाइन करती हैं, वे इसी तरह के हमलों के प्रति संवेदनशील हो जाते हैं।
“मान लीजिए कि आपके एलएलएम को आपके व्यापार के तरीके के बारे में 100 वर्षों की गुप्त सोच पर प्रशिक्षित किया गया है। सैद्धांतिक रूप से, आप उसमें से कुछ को डिस्टिल कर सकते हैं,” उन्होंने कहा।