भारत में Instagram की सिफारिश प्रणाली सख्त, आपत्तिजनक सामग्री रोकने के लिए Meta ने किए बदलाव

मेटा प्लेटफॉर्म्स ने भारत में इंस्टाग्राम उपयोगकर्ताओं के लिए सिफारिश प्रणाली को और अधिक उन्नत बनाया है, जिससे यौन संकेतों और हिंसक सामग्री का प्रसार कम किया जा सके। यह बदलाव उन खातों की सामग्री पर लागू होगा जिन्हें यूजर फॉलो नहीं करते हैं। कंपनी के अनुसार, नए सुरक्षा उपायों से एक साल में अनुशंसित पोस्ट को लेकर शिकायतों में आधी कमी दर्ज की गई है।
अमेरिकी बहुराष्ट्रीय प्रौद्योगिकी कंपनी मेटा प्लेटफॉर्म्स ने मंगलवार को कहा कि उसने यौन संकेतों वाली सामग्री और हिंसक सामग्री की दृश्यता कम करने के लिए भारत में इंस्टाग्राम की सामग्री सिफारिश प्रणाली को बेहतर बनाया है। इसके तहत अधिक उन्नत कृत्रिम मेधा (एआई) मॉडल तैनात किए गए हैं, ताकि अवांछित ‘पोस्ट’ की पहचान कर उन्हें उपयोगकर्ताओं तक पहुंचने से पहले ही छांटा जा सके। कंपनी ने कहा कि भारत के लिए किए गए ये उपाय उन खातों की सामग्री पर लागू होते हैं, जिन्हें उपयोगकर्ता ‘फॉलो’ नहीं करते हैं।
ये बदलाव इस बात से संबंधित हैं कि इंस्टाग्राम के एल्गोरिदम किस सामग्री को बढ़ावा देते हैं, न कि उस सामग्री पर पूरी तरह प्रतिबंध लगाने से। यह घोषणा भारत में सोशल मीडिया के एल्गोरिदम की बढ़ती नियामकीय जांच के बीच आई है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय ने 10 अक्टूबर को जारी एक परामर्श में मेटा से अपनी रैंकिंग तथा सिफारिश प्रणालियों की समीक्षा करने को कहा था, ताकि संभावित रूप से भ्रामक, हेरफेर की गई या संदर्भ से हटाकर पेश की गई सामग्री को असमान रूप से अधिक प्रसारित होने से रोका जा सके।
मेटा ने हालांकि यह नहीं बताया कि ये बदलाव सरकार के परामर्श से जुड़े हैं या नहीं। मेटा ने अपनी वेबसाइट पर जानकारी दी कि इन बदलावों से एक साल पहले की तुलना में उपयोगकर्ताओं द्वारा सुझाई गई सामग्री के खिलाफ शिकायत किए जाने की आवृत्ति आधी रह गई है। मंच ने कहा कि उसने पिछले एक साल में ‘डिफॉल्ट’ सुरक्षा उपायों को मजबूत किया है और अपनी प्रणालियों को भारत के उन उपयोगकर्ताओं की पसंद के अनुरूप बनाया है, जिन्होंने कहा है कि वे किस तरह की सामग्री नहीं देखना चाहते।
ये उपाय रील्स, एक्सप्लोर और फीड पर की जाने वाली सिफारिशों पर लागू होते हैं, जहां इंस्टाग्राम उन खातों की सामग्री दिखाता है जिन्हें उपयोगकर्ता पहले से ‘फॉलो’ नहीं करते हैं। इन सुधारों के तहत इंस्टाग्राम सामग्री का सीधे अपने सिफारिश संबंधी दिशानिर्देशों के आधार पर आकलन करने के लिए अधिक सक्षम एआई मॉडल का इस्तेमाल कर रहा है। इससे उसकी प्रणालियां उपयोगकर्ताओं की शिकायत या सामग्री छिपाने की प्रतीक्षा करने के बजाय संभावित रूप से आपत्तिजनक सामग्री की सक्रिय रूप से पहचान कर उसे सीमित कर सकती हैं।
मेटा ने कहा, ‘‘आज हमारी प्रणालियां ऐसी अधिक सामग्री को सिफारिशों में आने से रोकती हैं, जिसमें यौन संकेतों वाली सामग्री और हिंसा दिखाने वाली सामग्री शामिल है।’’ कंपनी ने कहा कि इन सुधारों से भारत में ऐसी सामग्री को सक्रिय रूप से कम करना संभव हुआ है, जो उसकी सिफारिश संबंधी कसौटियों पर खरी नहीं उतरती। हालांकि, उसने प्रभावित सामग्री की कुल मात्रा, छांटी गई सिफारिशों का अनुपात या उपयोगकर्ताओं की शिकायतों में गिरावट की गणना के लिए अपनाई गई पद्धति का खुलासा नहीं किया। इंस्टाग्राम के सिफारिश संबंधी मानक उसके सामुदायिक मानकों से अलग हैं, जो मंच पर प्रतिबंधित सामग्री को नियंत्रित करते हैं।
सामुदायिक मानकों का उल्लंघन करने वाली सामग्री हटा दी जाती है, जबकि ऐसी सामग्री जो आपत्तिजनक, संवेदनशील या कम गुणवत्ता वाली हो सकती है, लेकिन इन नियमों का उल्लंघन नहीं करती, वह मंच पर उपलब्ध रह सकती है, हालांकि उसे व्यापक दर्शकों तक पहुंचाने की सिफारिश नहीं की जाती। कंपनी ने कहा कि किसी देश में गैरकानूनी सामग्री को उस देश में प्रतिबंधित कर दिया जाता है। सिफारिशें यह तय करती हैं कि उपयोगकर्ता उनके द्वारा ‘फॉलो’ किए जाने वाले खातों के अलावा अन्य सामग्री को किस तरह खोजते हैं।
इससे मंच के एल्गोरिदम का इस बात पर काफी प्रभाव पड़ता है कि उपयोगकर्ताओं की ‘फीड’ (उनके खाते पर उपलब्ध सामग्री) में क्या दिखाई देता है और सेवा पर किस सामग्री का प्रसार बढ़ता है। गौरतलब है कि भारत में पिछले साल शुरू किए गए इंस्टाग्राम के ‘टीन अकाउंट्स’ के जरिये किशोरों को उम्र के अनुरूप अतिरिक्त सुरक्षा दी जाती है। इन खातों में कम उम्र के उपयोगकर्ताओं के लिए स्वतः 13 वर्ष और उससे अधिक आयु के लिए सामग्री की ‘सेटिंग’ स्वत: लागू हो जाती है, जो मंच के उम्र के अनुरूप सामग्री संबंधी दिशानिर्देशों के तहत संचालित होती है।
कंपनी ने कहा कि उपयोगकर्ताओं के व्यवहार और प्रौद्योगिकी में बदलाव के साथ वह अपनी पहचान प्रणालियों को बेहतर बनाना जारी रखेगी। भारत के उपयोगकर्ताओं से मिलने वाली प्रतिक्रिया आगे के बदलावों का मार्गदर्शन करेगी।
अन्य न्यूज़













