TikTok、見た目でユーザーを選別しているという文書がリークされる

多様性の時代に、まだそんな話が出るなんて...。

Interceptにリークされた文書によって、ソーシャル動画プラットフォームTikTokがユーザーの外見差別を行なっている可能性が明らかにされました。TikTok社内コンテンツ管理ポリシーのなかで"望ましくないユーザー"が写るコンテンツの露出を制限する項目があるとのこと。

不平な選別

先月、障害のある人やクィアな人（性的少数者）への差別が指摘されていたTikTok。

新たにリークされた文書によると、望ましくないユーザーには「異常な体型」「ぽっちゃり」「肥満」「痩せすぎ」「歯が欠けている」「顔に大きな傷がある」「シワが多すぎる」のほか、小人症や先端巨大症などが含まれていて、アプリの[For You]セクションでのコンテンツ露出を制限していることが明らかになりました。

［For You］セクションでは、アルゴリズムによって生成されたサジェスチョンエンジンを使って大量のビューワーを動画へ誘導しています。文書には、上述の身体的特徴が含まれる動画は「新規ユーザーに推奨する価値はない」など、目を疑いたくなるような記載ばかり...。

見た目だけでなく...

さらに、経済的な差別も行なっていることが示唆されています。

同文書によれば「スラム街」や「田園風景」などの「みすぼらしく荒れ果てた」環境で撮影された動画の優先順位も下げることが指示されています。家のなかが「散らかっている」「壁にヒビが入っている」「古くみっともない装飾がある」などの場合も含まれるようです...。

「とりあえず映えろ」ってことなんですかね。田園風景もダメとは。見栄を張らないといけないなんて、ちょっと疲れそうですね。

TikTokは「使われていないポリシー」と主張

Interceptの取材によると、TikTok側は今回リークされたコンテンツ管理ポリシーについて「もう使用されていない」ものと、「まったく導入されていない」ものがあると主張。身体的・経済的に"望ましくない"ユーザーの露出を制限する目的は「いじめを防ぐための不躾な試み」として、初期に行なっていたものもあると回答しています。

中国政治にふれるコンテンツも制限されている

今回のようにリコメンドから除外されるのは、政治的なコンテンツも同様であるようです。1989年に発生した六四天安門事件の抗議活動のように、論争の多い出来事に関する言及があった場合、リコメンドで優先表示されなくなる可能性があるとのこと。

新たにリークされたもうひとつの文書では、ライブストリーミング機能で禁止されているものとして「警察活動の撮影」「国家権力の転覆の扇動」「国家統一の妨害」が記されています。ただ、こうした内容がユーザーガイドラインで公表されているかというと…そうではありません。ユーザーは、暗黙の了解として受け取らなければならないのでしょうか。

Interceptの記事全文はこちらで公開されています。