Facebookの投稿監視用ルールブック、秘密の内容が明らかに

Facebookが投稿監視担当者のトレーニングに使用しているという資料をProPublicaが入手し、スライドに再構成している(ProPublicaの記事、The Vergeの記事、Consumeristの記事)。

資料では、保護の対象になるカテゴリーのグループに対する攻撃がヘイトスピーチを構成するとされている。保護されるカテゴリー(Protected Category: PC)は「性別」「どの宗教を信仰しているか」「出身国」「性同一性」「人種」「民族」「性指向」「深刻な身体障害と病気」が挙げられている。

一方、「社会的地位」「出身大陸」「外見」「年齢」「職業」「政治信条」「宗教」「国」は非保護カテゴリー(Non-Protected Category: NPC)だという。さらにシリア移民の問題が注目を集めたことから、「移民」を保護の対象にするだけでなく議論の対象にすることも認める準保護カテゴリー(Quasi-Protected Category: QPC)を追加したそうだ。

PCに対する攻撃とみなされるのは「暴力の呼びかけ」「排斥の呼びかけ」「隔離の呼びかけ」「一般化した侮辱」「一方的な拒否」「ののしり」「中傷」の7つが挙げられているが、QPCに対しては暴力と中傷のみが攻撃とみなされるようだ。ただし、中傷の言葉はマーケットごとにリストアップされており、世界で一様というわけではないとのこと。

複数のカテゴリーを組み合わせたサブセットでは、PC+PCのみがPCとなり、PC+NPCはNPCになる。PC+QPCはQPCであり、NPC+QPCはNPCとのこと。そのため、アイルランド人(PC)の女性(PC)はPCだが、アイルランド人のティーン(NPC)はNPC、イスラム教徒(PC) の移民(QPC)はQPCであり、イスラム教徒のティーンはNPCとなる。「女性のドライバー」「黒人の子供」「白人の男性」のうち、どのサブセットがPCになるかといったクイズも出題されている。

ProPublicaでは、過激化したイスラム教徒への攻撃を呼び掛けた米国会議員の投稿がそのままにされ、すべての白人が人種差別主義者だと投稿した詩人のアカウントが一時停止になったことがこのルールによくあてはまっていると評している。また、保護すべき人を保護できないルールとの批判も出ているようだ。

　スラドのコメントを読む | ITセクション | 検閲 | Facebook | IT

　関連ストーリー：
ドイツ、SNS上でのヘイトスピーチ発言で家宅捜索 2017年06月30日
Facebookの基準では「ユーザーによる自傷行為のライブ配信」は基本的には検閲対象外 2017年05月24日
Twitter CEO、米大統領がどんな発言をしてもアカウントを停止するつもりはない 2017年05月03日