リーチ制限、自閉症の真似…TikTokが通った恥ずかしい過去

2023.01.31

発達障害

実業家のイーロン・マスクさんがTwitter本社を買収し、同社の舵取りをすることとなって間もない頃、マスク新CEOは大規模な人員削減を打ち出しました。これにより日本支社であるTwitterJPでも大規模なリストラが起こったようなのですが、その対象となった社員らはトレンドを恣意的に操作したり気に入らないアカウントが表に出ないよう細工したりと、自分たち好みの検閲をしていた疑惑が浮上します。

検閲と言えば似たような話が別のプラットフォームであったと思い整理してみると、自分でショートムービーを撮って配信する「TikTok」が過去に類似の検閲作業をしていた記事に行き着きました。障害者やLGBTQ+のアカウントが浮上しないよう検閲作業をしていたほか、自閉症の真似事をして揶揄する「AutismChallenge」が流行っていたというのです。

検閲体制の変更や差別的動画の削除など、恥ずかしい過去を清算しようとした動きはあります。あまり突っついて掘り返すのも可哀想でナンセンスですが、再発防止の要望を込めて昔話を敢えてしましょう。

リーチ制限という検閲

TikTokの運営元が中国にある以上、検閲は当たり前ではないかと思われます。ただ、中国で情報統制されている事柄以外にもTikTokの検閲は及んでいます。こうした検閲スタッフは「モデレーター」と呼ばれます。

モデレーターに配布されたというガイドラインを、アメリカのThe Interceptとドイツのnetzpolitik.orgという2つのメディアが独自入手していました。両者はガイドラインについて、障害者やLGBTQ+、太りすぎや痩せすぎ、醜い人や貧困層などを魅力的でないと判断しリーチ制限をかけていたと示唆しています。

リーチ制限とは、TikTokで最も目に付くとされる「For You（オススメ）」のカテゴリから除外されることを指し、AI判定ではなくモデレーターの手作業でやっているそうです。逆に、インフルエンサーや公式コンテンツクリエイターなど「魅力的な」ユーザーには、規約違反しないよう特別かつ定期的に指導するなど優遇措置をとっており、これもモデレーターの仕事だったといいます。

除外対象となるのは、「自閉症やダウン症をはじめとする障害者、斜視のある人、肥満」「プロフィールで障害やLGBTQ+を示唆している」「撮影環境が荒廃していてみすぼらしい」「部屋が片付いておらず汚れている」といった具合です。モデレーターの中には「15秒の動画で自閉症など分かるはずがない」とぼやく人も居ました。

しかも、直接アカウントを停止する（いわゆるBAN）のではなく、6000～10000再生されたところで「For You」フィードから外すやり口です。本人に分かりにくいぶん却って陰湿になったといえるでしょう。

担当者の言い分

TikTok側はこうしたリーチ制限をかける理由として「いじめの防止」を挙げています。どういうことかというと、多くのユーザーの目に触れると中傷コメントが増えるので、それを未然に防ぐために制限をかけているという理屈だそうです。

この説明に対し、The Interceptは「説明になっていない」と一蹴、障害者支援機関のEvangelische Stiftung Hephataは「これは根拠のない検閲。いじめの加害者ではなく、被害者を罰するのは完全に馬鹿げている」と手厳しい意見を表明しました。

そもそも、いじめ云々すら建前に過ぎません。The Interceptによれば「魅力的でない投稿は新規ユーザーの短期定着率を減少させる」「魅力的でない人物や撮影環境はムービーの魅力も損なうので、新規ユーザーに推奨すべきではない」として、リーチ制限の真意をガイドラインに明記していたとのことです。本音では、新規ユーザーを増やすために見栄えの悪い動画を弾きたかったのでしょう。

ガイドラインは2019年に作られたものですが、Netzpolitik.orgが初めて報じた同年12月には既に改定されていたそうです。その後どう変わったのか、そもそも差別的な検閲をやめたのかすら定かではありませんが、少なくともこれほど露骨なガイドラインが再度出回った情報は聞かれません。

Netzpolitik.orgの取材によると「長期的な施策として意図されたものではなく、正しいアプローチでなかったと気付いた」という反省の意図があったようです。長期プランでなかったということは、市場拡大があらかた終わりユーザーを選別する必要もなくなったという余裕の表れかもしれません。なんにせよ、現在はユーザーを属性からランク付けするような差別的対応をしていないとみて良さそうです。

「自閉症チャレンジ」を楽しむユーザー

2020年前半、TikTok運営がモデレーターへのガイドラインを改定した直後のことです。「Autism Challenge（自閉症チャレンジ）」なるものがTikTok内で流行っていました。どの程度流行っていたかは知りませんが、「Know Your Meme」というWikiサイトに項目が作られる程度には周知されていたようです。

「自閉症チャレンジ」という文字列からは、自閉スペクトラムの人々が理解と需要を広め同士をエンパワメントする建設的なイメージが浮かぶでしょう。しかし、実態は完全に逆です。「自閉症チャレンジ」とは、自閉スペクトラムの人がパニックを起こしたりおかしな歩き方や行動をしたりするさまを物真似して嘲笑する動画群だったのです。

2020年の5月中旬には、自閉症チャレンジについて解説する動画がYouTubeで幾つも投稿されました。タイトルだけでも「Disgusting（おぞましい）」「Making fun of（～を笑いものにする）」「Despicable（卑劣な）」といった単語が並び、強く糾弾する意思を感じられます。

TikTokのことをYouTubeで話す理由として、投稿者の一人は「TikTok運営に問い合わせても無視されたので、YouTubeで事の顛末を話しシェアしてもらおうとした」と語っています。これが効いたのかTikTok運営も重い腰を上げ、「ガイドラインやポリシーに違反した」との理由で自閉症チャレンジの動画を一斉削除する対応をとりました。

事の顛末を一番詳しく解説しているサイトが「Know Your Meme」というあたり、自閉症チャレンジは英語圏だけで繰り広げられていたようです。しかし、日本でも電車内での奇行を盗撮して拡散する「糖質（統合失調症）ブーム」が過去にあったので他人事とは言えないでしょう。あの時は知的障害者の真似をするやらせ動画まで投稿されていたので、ある意味「自閉症チャレンジ」の先駆けでもあります。