ChatGPT, Bard जैसे AI बेस्ड चैटबॉट का नहीं होगा गलत इस्तेमाल, शोधकर्ताओं ने खोजा समाधान
Listen
नई दिल्ली, टेक डेस्क। बीते साल इंटरनेट की दुनिया में उस वक्त एक बड़ी क्रांति आई जब अमेरिका की एआई स्टार्टअप कंपनी ओपनएआई ने एक खास तरह का चैटबॉट मॉडल पेश किया। एआई टेक्नोलॉजी पर आधारित यह चैटबॉट इंसानों जैसे बातचीत करने वाला मॉडल था। इंसानों की भाषा को समझ कर उन्हीं की भाषा में जवाब देना वाला चैटजीपीटी हर यूजर का काम आसान करने लगा।
AI के गलत इस्तेमाल को लेकर है डर
देखते ही देखते चैटजीपीटी जैसे कई दूसरे मॉडल यूजर के लिए पेश होने लगे। समय के साथ यूजर को चैटजीपीटी, बिंग और बार्ड जैसे कई दूसरे मॉडल के विकल्प मिलने लगे।
यह चैटबॉट मॉडल यूजर का काम तो आसान बना रहे हैं लेकिन इनके गलत इस्तेमाल को लेकर भी समाज का एक वर्ग चिंतिंत रहने लगा। इसी कड़ी में एआई आधारित चैटबॉट के गलत इस्तेमाल को रोकने के लिए शोधकर्ताओं ने एक नया समाधान पेश किया है
चैटबॉट द्वारा दी जाने वाली जानकारियों को बायपास करने के तरीकों को खोजा जा रहा है ताकि, इन चैटबॉट के साथ यह सुनिश्चित किया जा सके कि यूजर को गलत जानकारियां न मिलें। इसके साथ ही यूजर के लिए सुरक्षा से जुड़ा कोई खतरा पैदा न हो।
शोधकर्ताओं ने पेश किया है नया समाधान
कार्नेगी मेलन विश्वविद्यालय (पिट्सबर्ग) और सेंटर फॉर एआई सेफ्टी (सैन फ्रांसिस्को) के शोधकर्ताओं ने इस तरह का दावा किया है।
उनके पेपर 'यूनिवर्सल एंड ट्रांसफरेबल अटैक्स ऑन अलाइन्ड लैंग्वेज मॉडल्स' (Universal and Transferable Attacks on Aligned Language Models) में कहा गया है कि शोधकर्ता जेलब्रेक्स का इस्तेमाल कर सकते हैं। जेलब्रेक्स को ओपन-सोर्स सिस्टम के लिए पॉपुलर एआई मॉडल्स को टारगेट करने के लिए ही डेवलप किया गया है।
टिप्पणियाँ
एक टिप्पणी भेजें