लोकसभा चुनाव के मद्देनजर एक बड़ी चुनौती डीपफेक और मिस इंफॉर्मेशन से निपटने की है। बीते दिनों सरकार की एक के बाद एक आई अडवाइजरी के बाद सोशल मीडिया कंपनियों ने इसे लेकर कमर कस ली है। यूट्यूब की ओर से सोमवार को प्रेस कॉन्फ्रेंस कर बताया गया कि पिछले साल अक्टूबर से लेकर दिसंबर तक प्लैटफॉर्म से 2.25 मिलियन विडियो हटाई गई हैं। ये वो कंटेंट था जोकि प्लैटफॉर्म के कम्युनिटी गाइडलाइंस का उल्लंघन कर रहा था। यानी ये भड़काने, नफरत, हेट स्पीच या हिंसा से जुड़े कंटेंट की कैटिगरी में आता है। प्लैटफॉर्म का कहना है कि संवेदनशील कैटिगरी के कंटेंट के लिए एक नए टूल का सहारा लिया जा रहा है, जिसके जरिए यूजर्स को इस बारे में जानकारी मिल सकेगी कि कोई कंटेट AI जनरेटेड विडियो है या नहीं। हेल्थ, न्यूज, इलेक्शन या फिर फाइनेंस से जुड़े विडियो पर ये लेबल प्रमुखता से दिखाई देगा।
बता दें कि मार्च में ही आईटी मंत्रालय की ओर से एक अडवाइजरी जारी की गई थी, जिसके मुताबिक सोशल मीडिया कंपनी से कहा गया था कि वो AI की मदद से बने विडियो को लेकर ये जानकारी दें कि इन्हें बनाने में आर्टिफिशियल इंटेलिजेंस की मदद ली गई है। इसके अलावा प्लैटफॉर्म मतदाताओं को चुनाव और उसकी प्रक्रिया के बारे में और जानकारी देने की दिशा में भी काम कर रहा है, यानी कि वोटिंग से जुड़े विडियो सर्च करने पर हाउ टू वोट या हाउ टू रजिस्टर टू वोट जैसे टॉपिक सामने दिखेंगे। इसके साथ-साथ इंफॉर्मेशन पैनल के जरिए उन टॉपिक्स के बारे में जानकारी दी जाएगी, जिनको लेकर फेंक इंफॉर्मेशन की संभावना ज्यादा होती है। प्लैटफॉर्म का दावा है कि मिस इंफॉर्मेशन और फेक न्यूज से निपटने के लिए गाइडलाइंस विडियो, कमेंट्स, लिंक्स, लाइव स्ट्रीम और थंबनेल तक पर लागू है।