'चाइल्ड पोर्नोग्राफ़ी... मुझे सबकुछ देखना पड़ता था...'

  • 12 फरवरी 2018
सारा काट्ज़
Image caption सारा काट्ज़ ने आठ महीने तक फ़ेसबुक मॉडरेटर के तौर पर काम किया

आठ महीने फ़ेसबुक मॉडरेटर के रूप में काम करने वाली सारा काट्ज़ कहती हैं, "यह ज़्यादातर पोर्नोग्राफी है."

एजेंसी ने हमें पहले ही स्पष्ट कर दिया था कि हम किस तरह के कन्टेंट देख सकते हैं, हमें अंधेरे में नहीं रखा गया था.

2016 में सारा कैलिफोर्निया में एक थर्ड पार्टी एजेंसी के लिए काम करने वाली सैकड़ों ह्यूमन मॉडरेटर्स में शामिल थीं.

उनका काम फ़ेसबुक यूजर्स की ओर से आने वाली अनुचित सामग्रियों की शिकायतों की समीक्षा करना था.

सारा ने बीबीसी रेडियो 5 लाइव की एम्मा बर्नेट से अपने अनुभवों को साझा किया.

'हां, मैं ग़ैर-मर्दों के साथ चैट करती हूं, तो?'

इमेज कॉपीरइट Getty Images
Image caption फ़ेसबुक का कहना उसके समीक्षक सोशल नेटवर्क को सुरक्षित बनाने में निभा रहे अहम भूमिका

चाइल्ड पोर्नोग्राफ़ी दिमाग़ में बरक़रार

वो कहती हैं, "एक पोस्ट की समीक्षा के लिए एक मिनट का वक्त तय था. इतने में हमें यह तय करना होता था कि क्या यह स्पैम है और इस कन्टेंट को हटा देना है?"

"कभी-कभी हम इससे जुड़े हुए अकाउंट को भी हटा देते थे."

वह आगे कहती हैं, "मैनेजमेंट चाहता था कि हम 8 घंटे से अधिक काम नहीं करें और इस दौरान हम करीब 8 हज़ार पोस्ट की रोज़ाना समीक्षा कर लेते थे. यानी करीब 1000 पोस्ट प्रति घंटे."

"अगर मैं अपने इस जॉब के बारे में एक शब्द में बोलूं तो यह मुश्किल था."

सारा कहती हैं कि उन्हें एक क्लिक के बाद कुछ भी देखने को तैयार रहना होता था, कुछ भी.

वह कहती हैं, "ऐसी चीज़ें जो बिना किसी चेतावनी के सीधा आपको हिट करती हों. जो एक कन्टेंट आज भी मेरे दिमाग में बरकरार है, वो था एक चाइल्ड पोर्नोग्राफ़ी."

"इनमें एक 12 साल के आसपास का एक लड़का और आठ या नौ साल के आसपास की एक लड़की एक दूसरे के सामने खड़े थे."

"उनके बदन पर पैंट नहीं था और वो एक दूसरे को छू रहे थे. ठीक ऐसा लग रहा था कि कैमरे के पीछे से एक आदमी उन्हें क्या करना है, ये बता रहा है. यह बहुत परेशान करने वाला था. आप ये आसानी से बोल सकते थे कि जो दिख रहा था उसे यथार्थ में किया गया था."

फ़ेसबुक ने खोजा सेकेंड का 70 करोड़वां हिस्सा

अब फ़ेसबुक पर नहीं दिखेंगी फ़र्ज़ी ख़बरें?

इमेज कॉपीरइट iStock
Image caption सहमति से बनी पोर्न सामग्री का भी ख़ूब होता है प्रसार

स्रोत का पता करना चुनौतीपूर्ण

इस तरह के कई कन्टेंट बार-बार फ़ैलते थे. यह एक दिन में छह अलग-अलग यूज़र्स से आता था, इसलिए इसके असली स्रोत का पता लगा पाना बहुत चुनौतीपूर्ण काम था.

उस समय काउंसलिंग सर्विस जैसी कोई चीज़ नहीं थी. मेरा अनुमान है कि आज की तारीख में यह होगी.

सारा ने कहा कि वो अगर उन्हें काउंसलिंग की सुविधा मिलती तो बहुत संभव है कि वो उसे लेती.

उनका कहना था कि वो आपको पहले ही चेतावनी दे देते हैं लेकिन वास्तविकता में उन कन्टेंट को देखना बिल्कुल अलग है.

वह कहती हैं, "कुछ लोग सोचते हैं कि वो इससे निपट सकते हैं. लेकिन वो नहीं कर पाते बल्कि उनकी उम्मीद के विपरीत यह और भी ख़राब होता है."

"कुछ समय के बाद आप इसके प्रति संवेदनहीन हो जाते हैं. मैं यह नहीं कहती हूं कि यह आसान है लेकिन निश्चित तौर पर आप इन सबके आदी हो जाते हैं."

"वहां वयस्क लोगों के बीच उनकी सहमति से बनाई गई पोर्नोग्राफ़ी भी आती थी जिससे आप उतना परेशान होते थे. वहां जानवरों के साथ बनाए गए पोर्नोग्राफ़ी भी आते थे. मुझे याद है कि एक बार घोड़े के साथ वाला पोर्नोग्राफ़ी बार-बार सर्कुलेट हो रहा था."

"कई बार ग्राफ़िक्स को लेकर भी छेड़छाड़ की गई चीज़ें आती थीं. लेकिन पॉलिसी ग्राफ़िक्स की तुलना में पोर्नोग्राफ़ी को लेकर ज़्यादा कठोर थी."

इमेज कॉपीरइट AFP
Image caption सात हज़ार से अधिक लोग फ़ेसबुक की सामग्री की करते हैं समीक्षा

फ़ेक न्यूज़

सारा कहती हैं, "मुझे लगता है कि फ़ेसबुक पर बहुत-सी फ़ेक न्यूज़ आती थीं. अमरीकी चुनाव अभियान के दौरान यह कुछ ज़्यादा ही था, कम से कम तब जब मैं वहां काम कर रही थी."

वो कहती हैं, "मैंने तब कभी फ़ेक न्यूज़ जैसा शब्द नहीं सुना था. हमें बहुत-सी ऐसी ख़बरें मिलती थीं जो बार-बार घूम रही हैं और यूज़र्स उसकी शिकायत कर रहे होते थे, लेकिन मुझे याद नहीं कि कभी मैनेजमेंट ने हमें यह कहा हो कि उन ख़बरों को खोलकर देखों कि उसके कन्टेंट सही हैं या नहीं."

"यह काम बहुत नीरस था और आप यह सीख जाते थे कि क्या स्पैम है और क्या नहीं. वहां आपको बहुत सारे क्लिक करने होते थे."

"क्या मैं किसी को इस जॉब को करने की सिफारिश करूंगी. यदि आप कुछ और काम कर सकते हैं तो मेरा जवाब ना है."

बीबीसी ने फ़ेसबुक के साथ सारा की कहानी शेयर की.

इसके जवाब में, मार्क ज़करबर्ग की इस कंपनी के एक प्रवक्ता ने कहा, "हमारे समीक्षक फ़ेसबुक को एक सुरक्षित और खुला मंच बनाए रखने में महत्वपूर्ण भूमिका निभाते हैं."

"यह एक बहुत ही चुनौतीपूर्ण काम हो सकता है, और हम यह सुनिश्चित करना चाहते हैं कि उन्हें इसके लिए हर तरह की मदद मिले. इसके लिए हम अपने सभी कर्मचारियों और हमारे सहयोगियों के साथ जुड़े सभी लोगों को प्रशिक्षण, परामर्श और मनोवैज्ञानिक मदद की नियमित पेशकश करते हैं."

उन्होंने कहा, "हालांकि जहां हम कर सकते हैं वहां आर्टिफिशियल इंटेलिजेंस का उपयोग करते हैं. अब हमारे साथ 7 हज़ार से ज़्यादा लोग हैं जो फ़ेसबुक पर पोस्ट करने वाले कन्टेंट की समीक्षा करते हैं और वो स्वस्थ रहें यह देखना हमारी वास्तविक प्राथमिकता में से है."

घर का चूल्हा जलाने के लिए फ़ेसबुक का सहारा

फ़ेसबुक सेल्फी की वजह से पकड़ी गई क़ातिल

(बीबीसी हिन्दी के एंड्रॉएड ऐप के लिए आप यहां क्लिक कर सकते हैं. आप हमें फ़ेसबुक और ट्विटर पर फ़ॉलो भी कर सकते हैं.)

बीबीसी न्यूज़ मेकर्स

चर्चा में रहे लोगों से बातचीत पर आधारित साप्ताहिक कार्यक्रम

सुनिए