【掃除人】エログロ投稿を削除？表現の自由との境界は？強い権力性を帯びる？コンテンツモデレーターとは？｜アベプラ
[音楽] 先日ある仕事が題材の短編映画が公開され ましたその仕事とはコンテンツ モデレーターこういうのも多く て処刑の動画と かコンテンツモデレーターとはSNSなど に投稿された残酷な動画などを削除して いく仕事世界ではSNSの掃除人とも呼ば れてい ます日本ではあまり聞き覚えがないこの 職業なぜ題材にしたのか監督に聞くと行わ れていること見続けることによって PTSDを発症する人も多いですし精神を 病んでしまう人も多いコンテンツモデレー タっていうのはやっぱり今うん現代ならで はの題材になり得るかなと思ったっていう 人知れず痛みに耐えながらもSNSを健全 化する人 たちアプラはコンテンツモデレーターの 仕事をしていた男性を取材しまし た各プラットフォームのポリシーに 照らし合わせてまそれが有害かま無害 かっていうのをま判断するま仕事になり ます ね慎吾さん去年までマレーシアでおよそ4 年間日本人によるSNS投稿の監視削除を 任されていまし た韓国人とか中国人に対するやっぱ差別別 的なあの表現のまコンテンツは欲目 に暴力的な投稿のみならず差別表現や フェイクニュースも削除の対象となった そう です一方で国内では業たSNSを監視する 人た もリスクに該当するがないかっていう ところの証しているとで危険投稿があれば えクライアントにご報告をするっていう ところを思対応しておりますエルテスでは 企業に変わりSNSに投稿された商品や 店舗の感想から情報漏洩と思われる投稿 などを 監視思わぬ意見やせ自体へと発展しそうな 投稿をいち早く教えてくれるサービスを 提供してい ます例えば異物購入であったりあとはその 商品料理の味がまずいとか本当に幅広く ネガティブな感情を拾い上げてきます炎上 であったり後方対応があの必要な場合に 関してはその後方支援までえサポートさせ ていいてるサービスとなり ますユーザーを守るためSNSを人たの そして不要な投稿を削除する プラットフォームただこうした動きには 批判の声 もSNSは好きなやが好きなだけ自由に できる空間である べき投稿後すぐに削除されるならそれは もう 検閲今日はSNSのを務めるコンテンツ モデレーターに迫ると共にSNSのあり方 について考えますではゲストをご紹介 いたしますえVTRにもご出演いただき ました去年までの4年間マレーシアで コンテンツモデレーターとして働い てらっしゃいましたわ慎吾さんですわさん どうぞよろしくお願いいたします こんばんはありがとうございますそして もう1方コンテンツモデレーターを題材に 短編映画を制作されました映画監督の天野 大一さんです天野さんどうぞよろしくお 願いします 今回あの時間があってちょっと見させて もらったんですけれどもはいあの自分の 働いてた環境とあんまりリンクしてなくて へえちょっとまそういうところでは興味が ありましたあ結構幅広いってことなんです かねそうするとこううんいやま自分の働い てた仕事ま同じコンテンツモデレーターな んですけどほぼほぼストレスがなかったん ですねそういうまのるにって違う動画とか テキストもなくて本当にあの僕あの今48 歳なんですけど1番今までで楽な仕事と いうかあそうなんへへえていう意味で すごいそのま題材されてるそのテーマと 結構返りしててそこはえちょっとま面白く 見ましたうんちょっとそもそもですね コンテンツモデレーターって何って ほとんどの人が思ってるはいそうですうん それ聞かないとよくわかんないですけどん ですかねはいまあの各まSNSの ソーシャルメディアのプラットフォームを のま投稿されてるテキストだったりあとは 動画っていうところをま各社のポリシーに らうん合わせてまあのそれがま違反してる かどうかていうところのま検閲っていう 言い方あれなんですけどチェックしてるで 問題だったら弾いていくとですからそれ今 先ほど言いましたように画面出てますけど もまずは自動検地プラットフォームAIで 古にかけるんだけどもその後見ていくと今 おっしゃったみたいに動画もあれば写真も あるしテキストもあるとま様々なメディア 形態をだからなんか問題ありそうなもの ばっかり見るわけですよね言ってみれ ばそうでもなかったですね半数以上はほぼ ほぼも問題なくはいあじゃあ通すものの方 が多いはいそうですね結構結構権力性あり ますよねこの仕事ねその皆えちなみにこの 上がってきたのはもうその個人であこれ パッてやったらもうそのその上の人で ダブルチェックみたいな感じにはならない です一応ダブルチェックはありますダブル チェック2人でやってまこれはそうだよね ダメだよねってなってやってくといやこれ 多分この発言この仕事によって選挙の結果 とかも変わるレベルなんであのその意味で 言うとすげえ力なとうん例えばその消す だけじゃなくてこれは通報しなきゃいけ ないようなみたいな事案とかがある場合は どうするんですか警察とかそういうこと ですそういうことですいやほぼほぼ面にし たことはないですねあそうなんです おそらくまもしかしたらあのま違う部署が チェックしてる可能性はありますねうん そっからあのあすいませんそっからとあの 例えばなんか虐待をを疑われるような動画 だったりとかそういうものがあってでそれ をま消すは消すんですけどそれは消すだけ でそっからその通報したりとかそういう心 に働きかけるようなことまではしないもの ないそうなんですなんかやっぱ僕もそこは すごく気になってていうのはもちろん エログをじゃあSNSでこう投稿してそれ を共有することのま社会的な弊害とかって まそれは色々あるでしょうから議論すると して議論の余地がないのはまさにその虐待 を受けているとか例えばもう死にたいいや あの2017年にざの事件があってあれは SN賞でこう死にたいと呟いてる人に犯人 の白石という男が声をかけてDMで声を かけて家に取り込んで9人殺害したんです ねあの後からSNS相談日本で生まれたん ですけど結局そういう事例っていうのを プラットフォーマーたちは非常にこう 野放しにしていてでそしてさらにま先ほど の議論の延長で行くとまいわゆる神まち 行為とも呼ばれますけれどもハッシュタグ をつけてそしてそれも先鋭化してまあるし こう体を売りたいもしくは裏ざを得ない人 と買う人っていうのがマッチしてるそれは 別になんか特殊なSNSじゃなくてみんな が知ってるSNSでそれが行われてるわけ でプラットフォーマーの責任ってのは おそらくまず一的にはそこにあるわけじゃ ないですかだからそこをこう扱うことが ないというのはまやってない可能性も高い のかいやいやその意味で言えばあのまざの 事件も私も取材したんであそこは天気だっ たと1つ思いますとあのその意味ではその えっとですから天野さんはまさにその シリアスな部分を描いたってことだと思う んですねあのあんまり引っかかってこ なかったっていうのはそういうことなん だろうその意味で言うとそれこそミの人の 痛みということでえあの制作されてるわけ ですけども作品にされたことの意味とか こういうとこどういう風にお感じになって ますかそのうんやっぱりそのもうみんな今 スマホを持っててSNSがこれだけ発達し ててやっぱりそのかつてないぐらいに コンテンツの数って膨大にはいある中で やっぱ数に比例してその僕たちもやっぱり ま例えば紛装値であのその空爆で人が殺さ れたりとかみたいなその残酷なものとか その暴力の被害者の画像だった りっていうのは見る機会ってすごく多く なってると思うんですよねでなのではい 相対的にやっぱ悪意のあるコンテンツって いうのはたくさんあってそういうものにい どうやったら向きどうやって向き合って いけばいいのかっていう問題ですかねま 公共性のあるものであればあの一応あのま 認められるコンテンツではあるんでまそれ が例えば個人が撮影した動画であればま それはだめじゃそ公共性は誰が判断するん ですかまニューステロップが入ってたりと かあじゃあその例えばその現地のそのじゃ まさにそのガザのレディはガで起きてる その殺戮があってでこれをその個人が投稿 したらそれはダになるとニュースがやっ てるやつだったらオッケーになるとま 例えば個人がそのニュースのま映ってる テレビを映すんであればおそらく大丈夫か もしれないですけども普通にまニュースの 場面じゃなくてま個人がその現場に行って 映してる動画とかはダですうんうんそこの 行動ってどうなってるんですかどうなっ たらダメなのか要するにあの遺体が 見つかって遺体が見えてはならないとか 血のりがどこまで見えてはならないとか こうあの報道期間にはそれぞれあると思う んですけどそれどうそれもありますね モザイクがかかってて何秒以内だったら 大丈夫とかがありで明らかにま緊急性の 高いものであればちょっと今思い出したん ですけどエスカレーションて言ってま上の 部署にげるんですねでそこで上野部将 エスカレーションされたま動画っていうの をチェックしておそらくま通報するなり 何かしてるのかもしれないですけどそこは ちょっとノータッチだったのでもそうそれ をその外部がプラットフォーマーではなく て外部のSNS監視サービスっていうのが 非常に今あの重要が高まってるってこの ようですねそれそうですよねですから各 企業にとってみれば自分たちのうんなん ならその炎上しかねないような情報が出て た時にえあのチェックしてもらってすぐに 伝えてもらうとリスクあるいはネガティブ 情報こういうものを上げてもらうという サービスが今高まってるとですから自分 たちの会社でもちろんチェックはするんだ けどももっとプロの人たちが噂さんのよう な人たちが調べて危ないですよとこういう 話上がってますスピード対応が非常に重要 ですよねとここは間違えたらね会社として 大変な損失なるいうそのSNSとか プラットフォームを使う側がそのどこでも 同じようなものじゃなくてうんこのこの プラットフォームではここまで出しても いいよねとかそういう使い分けを何個か持 つっていう時代に普通になるんだろうなと 思いますそうですねあのですからわさんの ような方々がねえま頑張ってらっしゃるが ゆえにまあの保たれてるところもある一方 で非常にま踏み込んであの話していきます けどもあの国な言い方をすると例えばその 投資詐欺みたいな問題っていうのはなんで 消せないんですかとなんでどんどん羽の たけのこように出てきて消えないんで すかっていう問題はあるとそしてまた やっぱりどこまで行っても誹謗中傷の問題 は残っててそれによって心を痛める人が いるとSNSはなんならもう使わない方が いいんじゃないかみたいな環境もあ るってことをわささんわささんのせいだと は全く思いませんよわささんはどう 受け止めてますかうんあのま今の時代あの まリアルなま生き方とまネットの バーチャルな行き方二通りもちろんね傾向 してあると思うんですけれどもやはりま プラまそのネットの世界もま普通の世界と 同じようにまセーフティネットってのは 必要だとは思いますのではいま あのただ投資詐欺とかは 判ああどういう意味ですかあのどれが投資 詐欺なのかどれが嘘なのかっていうのが 分かりづらくないですかあいやそれこそと 通報されてもすぐ消えないとか結構これは もうねあ言い方あれですけどセーフティ ネット破られてると思うんですよねあのそ それはプラットフォームのもう責任として やるべきでわささんの人数が足りないのか もしんないそれはよくわからないけれども 今起こってることっていうのは今日やる 以上この話はしなきゃいけないと私はどっ かで思ってるってことねあのわさんを攻め てるわけじゃどうぞそういうのをこう差別 化するためには本人認という仕組みがあっ てエクサとブルーバッチみたいなのがあっ てましかもそれは今もうあの有料とかに なっちゃってとはいえま運転免許書とか 身分商務書出さないとバッチはもらえない ことになってると思うのでそれ以外の投稿 はある程度その詐欺であるっていう風な 推測するのは容易だとは思いつつ結局日本 の死者とか日本支部に本当に力がないです よねプラットフォームたちはやっぱりじゃ 我々も例えば日本語でこの言葉はま明らか に殺リスクが高いからこれはフィルター かけてくださいて言ってうん 確認 術確認本でシステム収うありますそのその 日本の担当者レオされてたりするわけです よだ担当者いないみたいな結局やっぱり そのま日本がなめられてるとまでは言い ませんけれどもまそのそれぞれの企業の 構造やっぱりこれもあくまでアメリカ様の あくまで民間企業のサービスなんだていう 前提をちゃんと踏まえないとアメだけじゃ ないそれこそ大さんだって傷つきながら 仕事してますよねきっとそのもうボロボロ ですよだから言うべきこと言うとそれも あるしまうちもねその相談員は本当にま 全国世界中どの相談窓口ももうまま ネガティブていうかその非常にこう それぞれの個人の感情がこった相談しか目 にしませんからまそれはやっぱりメンタル ケアって課題なんですけどこれは非常に 難しいですけどカウンセリングサビは ちょっと置いといてそういうこうPTSで を発症してしまうぐらいトラウマてィッな 体験をさせてしまう職業でこそAIが代替 すべきものなわけですよねおそらくまにも かかれてやっぱ最後は人力で頼らざるを得 ないっていうのはこれからも変わってか ないんですかま1番バランス取れてるのが AIと人間のま判断の組み合わせだとは 思うのでま完全に置き変わるっていうのは ま100%無理かなと思いますねま先ほど 大空さんが言われたようにそのか文脈前後 の文脈でやっぱりそれはダメかどうかって いうのも判断はやっぱり最後は本人間の 判断だと思なるほどなんかもし限あるか わかんないですけど例えばその相談窓口の 現場だと海外でやってるのはま例えば男性 の声で相談に来た時にも女性の声にこう ちょっと変換するとかってもしくはこう 中性的な声にあの向こうの音は変わりませ んよもちろんただ聞こえてる音を変える みたいなそういう研究やってるところが あってやっぱり一時的な心理的なこう プレッシャーが下がるんですねやっぱ男性 からわって言われるのよりかは少し緩和さ れるとい研究もあってま例えばこの目の前 にある非常にこうグロテスクな映像って いうのもま分かんないですけど例えば りんごの写真に置き換えた時にそれは グロテスクのもっって分かってるリンゴが 出たグロテスクのもって分かってるだけど 見えてるものはこう違う情報が見えてる みたいなまそういうところでもAIって 使えると思うのでやっぱそのアシストして いくそのダイレクトに人間が情報を取ら見 なきゃいけないみたいななんかそういう やり方を未だにやってんのってこれだけ AIとかデータとかにもう爆弾を投資し つけてるプラットフォーマーなのにそう いうことをやってないんだっていうのは やっぱ非常に意外ですねうんそうですね どうですかねその意味でまご経験も踏まえ てですねこれからのSNS プラットフォームみたいなものてっていう のはよりヘルシーになっていくと見てると かそれとも意外とこれは難しいぞという風 にお感じになってるのかどうでしょうかま 徐々に徐々にあのまそういう目にする機会 は少なくはなると思うんですけれども やっぱり0になるかって言うとならないと は思いますねうんまただその数年前にま PTSSDが発症したっていう事例があっ たと思うんですけどま最近ま私個人も見 ない見る機会が減ってるっていうのは やっぱAIの力が大きいと思うのでうんま も減るとは思いますけあそうです かアマプライム進行の平石直行ですご視聴 ありがとうございますこれおきに チャンネル登録よろしくお願いします
.
◆続きをノーカットで視聴
▷https://abe.ma/3ywoqLt
◆過去の放送回はこちら
【たちんぼ】買った男はなぜ処罰されない？カギは非犯罪化？完全合法化も視野？路上売春する女性の実態は？｜アベプラ
▷https://youtu.be/eRjt_WBYFgE
【修学旅行】思い出作りじゃダメ？体験格差が広がる？教育的な意義って必要？大空幸星&安部敏樹と考える｜アベプラ
▷https://youtu.be/whopWJHvWuA
◆キャスト
MC：大空幸星
和佐晋吾(元コンテンツモデレーター 去年までSNS不適切投稿の削除業務)
天野大地(映画監督 短編「見知らぬ人の痛み」でコンテンツモデレーターの苦悩を描く)
安部敏樹(リディラバ代表)
山崎怜奈(タレント)
呂布カルマ(ラッパー)
司会進行：平石直之(テレビ朝日アナウンサー)
ナレーター：篠田みなみ
「ABEMA Prime」
平日よる9時 アベマで生放送中
#アベプラ #コンテンツモデレーター #SNS #アベマ #ニュース
————————————————————
◆ニュース公式SNS
ニュースCh：https://www.youtube.com/@News_ABEMA
X(旧Twitter)：https://twitter.com/News_ABEMA
TikTok①：https://www.tiktok.com/@abemaprime_official
TikTok②：https://www.tiktok.com/@abemaprime_official2
◆ABEMAアプリをダウンロード(登録なし/無料)
iOS：https://abe.ma/2NBqzZu
Android：https://abe.ma/2JL0K7b
※YouTube動画には一部ミュート(消音)の部分がございます。
※YouTube動画には掲載期限があり、予告なく掲載をおろす場合がございます。ご了承ください。
————————————————————