इंस्टाग्राम ने भारत में बदला अपना एल्गोरिदम: अब यूजर्स को कम दिखेगा अश्लील और हिंसक कंटेंट, AI तय करेगा कौन-सी पोस्ट आपको दिखाई जाए

अब यूजर्स को कम दिखेगा अश्लील और हिंसक कंटेंट, AI तय करेगा कौन-सी पोस्ट आपको दिखाई जाए
सेव सूची

इंस्टाग्राम रील्स स्क्रॉल करते समय अचानक सामने आने वाले अश्लील और हिंसक वीडियो से परेशान यूजर्स के लिए राहत की खबर है। इंस्टाग्राम की पैरेंट कंपनी मेटा ने भारत में अपने कंटेंट रिकमेंडेशन सिस्टम को पहले से ज्यादा सख्त कर दिया है। नए बदलाव के बाद यूजर्स को अपनी फीड, रील्स और एक्सप्लोर सेक्शन में यौन रूप से आपत्तिजनक और हिंसा दिखाने वाला कंटेंट कम नजर आएगा। कंपनी ने इसके लिए आर्टिफिशियल इंटेलिजेंस (AI) आधारित पहचान प्रणाली को भी बेहतर बनाया है।

मेटा ने 16 नवंबर को अपने आधिकारिक ब्लॉग के जरिए इस बदलाव की जानकारी दी। कंपनी के मुताबिक, पिछले एक साल से भारत में इंस्टाग्राम पर दिखाए जाने वाले सजेस्टेड कंटेंट की सुरक्षा व्यवस्था को मजबूत किया जा रहा था। इसके लिए यूजर्स से मिले फीडबैक को भी ध्यान में रखा गया है। अब कंपनी ने अपने सिस्टम को इस तरह बेहतर किया है कि संवेदनशील और आपत्तिजनक कंटेंट को यूजर्स तक पहुंचने से पहले ही पहचाना जा सके।

किन जगहों पर दिखेगा बदलाव?

इंस्टाग्राम पर यूजर्स को केवल उन्हीं अकाउंट्स की पोस्ट नहीं दिखाई जातीं, जिन्हें वे फॉलो करते हैं। प्लेटफॉर्म अपने एल्गोरिदम के जरिए दूसरे अकाउंट्स की पोस्ट और वीडियो भी सजेस्ट करता है। ये पोस्ट मुख्य रूप से फीड, रील्स और एक्सप्लोर सेक्शन में दिखाई देती हैं।

मेटा के नए बदलाव का असर इसी तरह के रिकमेंड किए जाने वाले कंटेंट पर पड़ेगा। कंपनी ने भारत के लिए अपने सिस्टम को बेहतर बनाया है, ताकि यौन रूप से आपत्तिजनक और हिंसा दिखाने वाले कंटेंट की पहचान करके उसे यूजर्स की सिफारिशों में शामिल होने से रोका जा सके।

AI मॉडल करेंगे कंटेंट की पहचान

मेटा ने बताया कि उसने अपने कंटेंट डिटेक्शन सिस्टम को मजबूत करने के लिए ज्यादा सक्षम AI मॉडल का इस्तेमाल बढ़ाया है। ये मॉडल किसी पोस्ट या वीडियो को रिकमेंड करने से पहले उसका विश्लेषण कर सकते हैं। पहले जहां कई मामलों में यूजर्स की रिपोर्ट या पोस्ट छिपाने के बाद कार्रवाई होती थी, वहीं अब सिस्टम खुद ही ऐसे कंटेंट की पहचान करने की क्षमता बढ़ा रहा है।

कंपनी का कहना है कि भारत में किए गए इन सुधारों के बाद रिकमेंड किए गए कंटेंट को लेकर यूजर्स की रिपोर्टिंग में कमी आई है। मेटा के मुताबिक, एक साल पहले की तुलना में अब भारतीय यूजर्स सजेस्टेड कंटेंट को लगभग आधी बार रिपोर्ट कर रहे हैं। हालांकि, कंपनी ने इस दावे के समर्थन में विस्तृत आंकड़े सार्वजनिक नहीं किए हैं।

पोस्ट डिलीट नहीं होंगी, लेकिन कम होगी पहुंच

इस बदलाव को समझना जरूरी है कि इंस्टाग्राम पर मौजूद हर आपत्तिजनक पोस्ट को सीधे डिलीट नहीं किया जाएगा। अगर कोई पोस्ट कंपनी के कम्युनिटी स्टैंडर्ड का उल्लंघन नहीं करती है, तो वह संबंधित अकाउंट पर मौजूद रह सकती है। लेकिन ऐसी पोस्ट को उन यूजर्स तक रिकमेंड नहीं किया जाएगा, जो उस अकाउंट को फॉलो नहीं करते।

वहीं, जो कंटेंट इंस्टाग्राम के कम्युनिटी स्टैंडर्ड का उल्लंघन करता है, उसे प्लेटफॉर्म से हटाया जा सकता है। किसी देश में गैरकानूनी कंटेंट को वहां प्रतिबंधित भी किया जा सकता है। यानी नया बदलाव मुख्य रूप से कंटेंट की सिफारिश और उसकी पहुंच को नियंत्रित करने से जुड़ा है, न कि हर ऐसी पोस्ट को हटाने से।

यूजर्स खुद भी कंटेंट पर लगा सकते हैं रोक

मेटा ने यूजर्स को अपनी पसंद के मुताबिक कंटेंट नियंत्रित करने के विकल्प भी दिए हैं। इसके लिए इंस्टाग्राम में Sensitive Content Control का इस्तेमाल किया जा सकता है। इसके जरिए यूजर्स अपनी सिफारिशों में संवेदनशील कंटेंट कम करने का विकल्प चुन सकते हैं।

इसके अलावा, किसी पोस्ट या रील के तीन डॉट वाले विकल्प पर जाकर 'Not Interested' चुनने से इंस्टाग्राम को यह संकेत मिलता है कि यूजर उस तरह का कंटेंट नहीं देखना चाहता। कंपनी के मुताबिक, यूजर्स की ऐसी प्रतिक्रिया भविष्य में दिखाई जाने वाली सिफारिशों को बेहतर बनाने में मदद करती है।

इससे जुड़े विकल्प इंस्टाग्राम की सेटिंग्स में मौजूद हैं

Sensitive Content Control : Settings and Activity में जाकर Content Preferences के तहत इसे इस्तेमाल किया जा सकता है।

Political Content Control : Content Preferences में Political Content के विकल्प से उन अकाउंट्स की राजनीतिक सिफारिशें कम की जा सकती हैं, जिन्हें यूजर फॉलो नहीं करता।

Not Interested : किसी पोस्ट या रील के तीन डॉट पर क्लिक करके यह विकल्प चुना जा सकता है।

Hidden Words : इसके जरिए चुने गए शब्दों, वाक्यांशों और इमोजी को कमेंट और मैसेज रिक्वेस्ट में फिल्टर किया जा सकता है।

Block : किसी अकाउंट को ब्लॉक करने पर वह यूजर की प्रोफाइल, पोस्ट और मैसेज तक पहुंच नहीं बना सकेगा।

IT मंत्रालय ने भी दी थी एडवाइजरी

इंस्टाग्राम के इस बदलाव से पहले केंद्र सरकार के इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 10 अक्टूबर को मेटा को एडवाइजरी जारी की थी। इसमें फेसबुक और इंस्टाग्राम के कंटेंट रैंकिंग और रिकमेंडेशन सिस्टम की समीक्षा करने को कहा गया था।

मंत्रालय ने चिंता जताई थी कि सोशल मीडिया प्लेटफॉर्म के एल्गोरिदम कई बार भ्रामक, छेड़छाड़ किए गए या संदर्भ से काटकर पेश किए गए कंटेंट को जरूरत से ज्यादा बढ़ावा दे सकते हैं। सरकार ने ऐसे कंटेंट पर भी ध्यान देने को कहा था, जिनसे हिंसा भड़कने या कानून-व्यवस्था बिगड़ने का खतरा हो सकता है।

हालांकि, मेटा ने अपने नए बदलावों को सीधे तौर पर सरकार की एडवाइजरी से जुड़ा हुआ नहीं बताया है। कंपनी ने इन्हें पिछले एक साल से यूजर्स के फीडबैक के आधार पर किए जा रहे सुधारों का हिस्सा बताया है।

फिलहाल और खबरें उपलब्ध नहीं हैं।