ChatGPT creator's warning : नए एआई सिस्टम सुरक्षा और समाज के लिए जोखिमपूर्ण
India News Live,Digital Desk : चैटजीपीटी बनाने वाली कंपनी ओपनएआई के सीईओ सैम ऑल्टमैन का मानना है कि एआई तेजी से खतरनाक होता जा रहा है। उन्होंने कहा कि खतरा किसी एक उत्पाद या फीचर से नहीं, बल्कि नए और उन्नत सिस्टमों के तेजी से उभरने से है। ऑल्टमैन ने कहा कि सुरक्षा उपायों को लागू करने से पहले ही अक्सर नए सिस्टम आ जाते हैं। गौरतलब है कि ऑल्टमैन की कंपनी ने लगभग तीन साल पहले चैटजीपीटी लॉन्च किया था, जिसने जनरेटिव एआई को हर घर तक पहुंचा दिया है।
कृत्रिम बुद्धिमत्ता (एआई) के क्या जोखिम हैं?
ऑल्टमैन ने कहा कि एआई मॉडल की तर्क करने, कोडिंग करने और सूचना का विश्लेषण करने की क्षमता में सुधार हुआ है। इससे नई चुनौतियां भी पैदा हुई हैं। उन्होंने आगे कहा कि एआई सिस्टम अब सुरक्षा कमजोरियों की पहचान कर सकते हैं और व्यवहार को प्रभावित कर सकते हैं, और इनका कई तरीकों से दुरुपयोग भी किया जा सकता है। अब जब एआई मॉडल अधिक स्वायत्त और सुलभ हो गए हैं, तो दुरुपयोग का जोखिम बढ़ गया है। ऑल्टमैन ने चेतावनी दी कि हालांकि एआई का उपयोग साइबर सुरक्षा के लिए किया जा सकता है, लेकिन इन्हीं उपकरणों का उपयोग हमलावर भी कर सकते हैं। आज से पहले, ऐसा बहुत कम हुआ है कि किसी तकनीक का उपयोग हमलावरों और रक्षकों दोनों द्वारा एक साथ किया गया हो।
तकनीकी जोखिमों के अलावा, मानसिक स्वास्थ्य और समाज भी खतरे में हैं।
ऑल्टमैन ने यह भी स्वीकार किया कि एआई उपयोगकर्ताओं के मानसिक स्वास्थ्य और समाज को प्रभावित कर रहा है। एआई प्रणालियों के खिलाफ कई आरोप लगे हैं, जिनमें हानिकारक सलाह देने वाली प्रणालियां भी शामिल हैं। ऑल्टमैन ने कहा कि यह उद्योग अभी नया है और इन जोखिमों से जिम्मेदारीपूर्वक निपटने का तरीका सीख रहा है।
