नई दिल्ली, 3 मार्च। आर्टिफिशियल इंटेलिजेंस यानी AI के नाम पर मार्केट में गजब का गोरखधंधा चल रहा है। एआई के नाम पर किसी की प्राइवेसी का उल्लंघन किया जा रहा है। साथ ही उसे बदनाम किया जा रहा है। ऐसे में सरकार एआई के गलत इस्तेमाल को लेकर सतर्क हो गई है।
बीते दिनों बॉलीवुड एक्ट्रेस रश्मिका मंधाना का भी डीपफेक वीडियो बनाकर वायरल कर दिया गया था। साथ ही डीपफेक की मदद से बैंकिंग फ्रॉड जैसी घटनाओं को अंजाम दिया जा रहा है। ऐसे में सरकार ने साफ कर दिया है कि एआई मॉडल बनाने से पहले अब सरकार से अनिवार्य रूप से अनुमति लेनी होगी।
सरकार ने जारी की गाइडलाइन
केंद्रीय मंत्री राजीव चंद्रशेखर ने कहा कि आर्टिफिशियल इंटेलिजेंस प्लेटफॉर्म को AI मॉडल लॉन्च करने से पहले सरकार की इजाजत लेनी होगी। इस मामले में सरकार की ओर से गाइडलाइन जारी कर दी गई है। सरकार ने साफ कर दिया है किसी भी एआई जनरेटेड कंटेंट पर लेबलिंग की जाएगी, जिससे पहचान की जा सके कि यह एक एआई जनरेटेड कंटेंट है। इसकी मदद से भ्रामक और डीपफेक पर लगाम लगाने में मदद मिलेगी।
जेमिनी के दिए गलत जबाव पर हो चुका है विवाद
यह कदम Google के जेमिनी मॉडल की उस प्रतिक्रिया के बाद आया है, जिसमें Gemini ने पीएम मोदी को फासीवादी बता दिया था। इससे पहले गूगल जेमिनी पर नस्लभेद के आरोप लगते रहे हैं। हालांकि गूगल ने साफ कर दिया है कि गूगल जेमिनी के सारे जवाब सही नहीं हो सकते। ऐसे में इस मॉडल की लेबलिंग करना अनिवार्य हो गया।