ソーシャルメディアモデレーターの秘密の生活

暴力的、性的、虐待的、またはソーシャルメディアで視聴するには不適切と見なされるコンテンツがたくさんあります。TikTok、Instagram、Facebook、Twitter/Xなど、どれも程度の差こそあれ、コンテンツをモデレートしていますが、その背後に何か大きなコンピューターがあると思ったら、考え直した方がいいかもしれません。

これらのサイトにアップロードされたコンテンツは、実在の人物がふるいにかけられ、身の毛もよだつ光景を見ることはないかもしれませんが、日常的に常にそれらにさらされていることを確認しています。 BBC は、ナイロビを拠点とするモデレーターのモジェズ氏に、モデレーターの命にかかる代償について話を聞いた。

「携帯電話を持ってTikTokにアクセスすると、たくさんのアクティビティ、ダンス、つまり幸せなことを見ることができます」と 彼は言いました。 「しかし、その裏では、私自身が何百もの恐ろしくトラウマになるような動画をモデレートしていました。私はそれを自分で引き受けました。私のメンタルヘルスに任せて、一般ユーザーがプラットフォーム上での活動を続けられるようにしましょう。」

世界中にモデレーターがいますが、その大部分は東アフリカに拠点を置いており、多くのモデレーターは、仕事が彼らのメンタルヘルスを破壊したと主張しています。業界から完全に去った人もいれば、組合を結成するために集まった人もいます。

AIモデルはこのモデレーションを行うために作業中ですが、人間によって訓練される必要があるため、それでも陰惨で虐待的なコンテンツを見る必要があります。そのようなツールがオンラインスペースを完全にモデレートできるまで、最前線に立つ人々はいるでしょう。