TwitterやInstagramにはびこる「デマ拡散ボット」の見分け方とは？

TwitterやInstagram、Facebookといったソーシャルメディアは主要な情報ツールとして現代人の生活に強く根ざすものとなりました。しかし、そんなソーシャルメディアに、2019年末から猛威を振るっている新型コロナウイルス感染症(COVID-19)に関するウソの情報を流すボットアカウントが登場。果たして「どれが本物の人間でどれがボットなのか」を見分ける方法について、クイーンズランド大学のサイバーセキュリティ学科教授であるライアン・コー氏が実際のボットアカウントを例に解説しています。

新型コロナウイルスに関する誤情報をソーシャルメディアで広めるボットが登場し、多くの人を惑わせていることが既に報じられています。

コー氏によれば、機械学習を応用してTwitterのボットを特定するサイト「Bot Sentinel」を使い、ハッシュタグを使ってCOVID-19関連情報の拡散を狙うTwitterアカウントを検査したところ、2020年3月26日時点で24時間以内に「#coronavirus」でツイートしたものが828件、「#COVID19」でツイートしたものが544件、「#Coronavirus」でツイートしたものが255件見つかったとのこと。この3つのハッシュタグは、ボットアカウントが使っているハッシュタグの人気トップ10のうち、それぞれ1位、3位、7位だったそうです。

ボットはプログラムによって管理されており、その動作は人間のユーザーが制御します。ボットプログラムは誤情報を流すためだけではなく、マーケティングの目的でも利用されることが多く、アンダーグラウンドなダークウェブ市場ではボットプログラムの売買や、ボットプログラムを運用するサービスのレンタルが取り扱われているそうです。

こうしたボットプログラムを利用するのは個人だけではありません。オックスフォード大学のインターネット研究所は2019年に発表した(PDFファイル)報告書で、「2017年に28カ国、2018年に48カ国で『組織化されたソーシャルメディア操作キャンペーン』が行われた証拠があります。各国にはソーシャルメディアを使用して世論を形作る政党あるいは政府機関が少なくとも1つあります」と主張しています。

コー氏は、ボットがCOVID-19に関する誤情報を拡散するための主要な方法として、「コンテンツの作成」「コンテンツの誇張」の2つを挙げています。

「コンテンツの作成」とは、例えば「食料品が入った買い物カゴ」や「スーパーマーケットで買いだめが起こって棚が空になっている様子」の写真をアップロードし、人々に不安を与えるというもの。

そして「コンテンツの誇張」とは、政府の公式声明やニュースサイトを利用しながら、ウソのコメントや情報を追加しながら、ユーザーの恐怖や怒りをかき立てるというもの。そのため、ボットはリツイートを繰り返しながら「日常の中のイライラする出来事」や「自分の愛する人が直面している社会的不公正」について語ることが多いそうです。

その例が以下。Queensland Health(クイーンズランド州の医療衛生部門)による、「海外旅行に行ったことないか、あるいはCOVID-19感染が確定した人と接触していない場合は、風邪やインフルエンザなど別のウイルスに感染している可能性が高いため、COVID-19の検査は行われません」というツイートに対して……