Facebook、2019年1Qは約22億アカウントを無効化。自動生成攻撃に数分以内で対処【Facebook調べ】

「ヘイトスピーチ」「規制品」「児童ヌード」へ慎重に対処している傾向などがレポートから見いだせる。

冨岡晶（Web担編集部） 2019/6/12 8:00 調査／リサーチ／統計

26 9 0

Facebookは、コミュニティ規定違反への対応状況について、2018年第4四半期および2019年第1四半期のレポート（第3版）を公開した。

9つのポリシーについて、指標を計測し対処

現在、Facebookのコミュニティ規定としては、「成人のヌードと性的行為」「いじめと嫌がらせ」「児童のヌードと性的搾取」「偽アカウント」「ヘイトスピーチ」「規制品」「スパム」「テロリストによるプロパガンダ」「暴力や過激な描写を含むコンテンツ」という9つのポリシーについて、関連指標が示されている。

第3版では、「異議申し立て中のデータおよび復元済みコンテンツ」（利用者が異議申し立てを行ったコンテンツの数、復元されたコンテンツの数を初めて公開）のデータと、新しくポリシーに加わった「規制品」（規制品、特に銃火器および薬物の不法な販売の試みを排除する取り組み）に関するデータが追加されている。

主な指標の推移データ

「成人ヌード」「暴力描写」「偽アカウント」などに表示頻度で対処

主要な指標の1つとして「表示頻度（プレヴァレンス）」があげられているが、2019年第1四半期におけるFacebook利用者のコンテンツ閲覧では、10,000回のうち、11～14回が「成人のヌードと性的行為」ポリシー違反コンテンツ、25回が「暴力や過激な描写を含むコンテンツ」ポリシー違反コンテンツを含むと推定されている。

同様に、表示頻度ベースで、月間アクティブアカウントの5％が「偽アカウント」だと推定されている。

また、今回初めて公開された「テロリズム」「児童のヌードと性的搾取」の表示頻度については非常に低く、10,000回のうちポリシー違反コンテンツは、それぞれ3回未満だと推定されている。

21億9,000万アカウントを無効化、ヘイトスピーチ400万件の検出も

また、こうしたコミュニティ規定違反コンテンツに対してFacebookは、コンテンツの削除、警告画面の適用、アカウントの停止といった措置を行っている。

「偽アカウント」は、自動的に大量アカウント作成を行う攻撃が集中したことで、措置を講じた対象アカウント数が増加。2018年第4四半期は12億アカウント、2019年第1四半期は21億9,000万アカウントが無効化された。なお、これらのアカウントの多くは、作成後数分以内に無効化されており、悪質行為はなかったとのこと。

また特定ポリシーにおいては、外部からの指摘を受ける前に、AIで検出し対処。6ポリシー分野のコンテンツのうち、措置対象となるコンテンツは、95％以上が外部からの報告前に検出されていた。なお「ヘイトスピーチ」に関して、2019年第1四半期に削除した投稿は400万件だった。65％をFacebookが検出しており、この取り組みを公表した1年前（24％）と比較し、40ポイント以上上昇している。

「ヘイトスピーチ」に対する報告前検出（proactively identifying）の比率

「ヘイトスピーチ」「規制品」「児童ヌード」には慎重に対処？

また、こうした対処における「異議申し立て」と「誤判断の修正」に関するデータも、今回初めて公開された。たとえば、「スパム」と見なされたコンテンツにおいて、異議申し立てが行われたのは、2,080万件。そのうち誤判断だったとして復元されたのは570万件だった。なお、異議申し立て無しで復元されたコンテンツも3,860万件あり、合計4,420万件が「スパム」分野においては復元されている。

単純数では、「スパム」に次いで「成人のヌードと性的行為」の復元数が多い。また異議申し立て数との対比で算出すると、「ヘイトスピーチ」11.8％、「規制品（銃火器の販売）」7.7％、「児童のヌードと性的搾取」3.4％で、これらの分野の復元率は低い。なお、2018年第4四半期に異議申し立てが行われたコンテンツが2019年第1四半期に復元された可能性がある点には留意する必要がある。

ポリシーごとの復元コンテンツ数

異議申し立て数に対する復元数の比率

新項目「規制品」

違法薬物と銃火器の販売に関する「規制品」ポリシーについて、Facebookは2018年夏より、AIでの特定を開始。現在、大半の違反コンテンツは外部からの報告がなくても措置を講じられるようになったという。2019年第1四半期には約90万の薬物販売関連コンテンツに措置を講じ、そのうち83.3％はFacebookが事前に検出している。また、同時期に、約67万の銃火器販売関連コンテンツに措置を講じ、その69.9％はFacebookが事前に検出している。