Youtube ने एआई से मिसलीडिंग वीडियो बनाने की वजह से भारतीय चैनल को बैन कर दिया है। कंपनी के प्रवक्ता ने डीपफेक पर बड़ा एक्शन लेते हुए इसे कॉन्टेंट पॉलिसी का उल्लंघन बताया है।
डीपफेक वीडियो पर यूट्यूब ने बड़ा एक्शन लिया है। यूट्यूब ने दो चैनल को बैन कर दिया है, जिनमें से एक भारतीय है। इन यूट्यूब चैनल पर एआई की मदद से मिसलीडिंग मूवी ट्रेलर जेनरेट किए जाते थे। एआई जेनरेटेड वीडियो बनाकर यूट्यूब चैनल पर व्यूज और लाइक्स लिए जाते थे और कमाई की जाती थी। गूगल के वीडियो स्ट्रीमिंग प्लेटफॉर्म ने जॉर्जिया के KH स्टूडियो और भारत के स्क्रीन कल्चर यूट्यूब चैनल को बैन कर दिया है। इसके अलावा स्ट्रीमिंग प्लेटफॉर्म ने पॉलिसी के उल्लंघन की वजह से ऐड्स को भी सस्पेंड कर दिया है।
डीपफेक पर एक्शन
रिपोर्ट के मुताबिक, यूट्यूब ने इन दोनों चैनल को बैन कर दिया है। ये चैनल अब यूट्यूब पर उपलब्ध नहीं हैं। इन चैनल पर मूवी के ऑफिशियल फुटेज के साथ एआई जेनरेटेड इमेज लगाकर फर्जी ट्रेलर अपलोड किए जाते थे और व्यूज बटोरे जाते थे। रिपोर्ट के मुताबिक, यूट्यूब ने इन चैनल्स पर पॉलिसी के उल्लंघन की वजह से ऐड को पहले ही बैन कर दिया था।
क्या है यूट्यूब की कॉन्टेंट पॉलिसी?
गूगल का वीडियो स्ट्रीमिंग प्लेटफॉर्म समय-समय पर अपनी कॉन्टेंट पॉलिसी अपडेट करता है। यूट्यूब की पॉलिसी के मुताबिक, प्लेटफॉर्म पर अगर किसी चैनल के जरिए कोई भी मिसलीडिंग कॉन्टेंट को व्यूज और ऐड पुल करने के लिए अपलोड किया जाता है, तो चैनल बैन किया जा सकता है। इसके अलावा फर्जी थंबनेल, टाइटल और फूटेज अपलोड करना पॉलिसी का उल्लंघन माना जाता है।
कंपनी के प्रवक्ता जैक मालोन ने The Verge को बताया कि शुरुआती सस्पेंशन में इन चैनल को जरूरी बदलाव करने के लिए कहा गया था। हालांकि, मॉनिटाइजिंग के बाद इन्होंने फिर से स्पैम कॉन्टेंट अपलोड करके प्लेटफॉर्म की पॉलिसी का स्पष्ट उल्लंघनकिया है। यह मिसलीडिंग मेटाडेटा पॉलिसी का उल्लंघन है, जिसकी वजह से इन चैनल को बैन किया गया है। ऐसे में अगर आप भी कोई मिसलीडिंग एआई जेनरेटेड कॉन्टेंट अपलोड करते हैं तो आपका भी चैनल बैन किया जा सकता है।