オンライン・プラットフォームにおける新型コロナウイルス感染症の偽情報との闘い

 COVID-19危機の発端は、パンデミックと「インフォデミック(infodemic)」である

新型コロナウイルス感染症(COVID-19)のパンデミックが続けば、関連する新情報の量も増え続け、いわゆる「インフォデミック」の状態になる。誤情報（だます意図の有無にかかわらず誤った情報を拡散すること）、偽情報（だます意図を持って誤った、または誤解を招く情報を計画的に拡散すること）の問題が広く調査、議論される一方で、COVID-19はこの重要な政策分野の問題と影響を浮き彫りにした。

COVID-19に関する偽情報、誤情報は、インターネット上で急速に広範囲に拡散され、多くの人々に影響を及ぼしうる。情報源は一つではなく、複数の関係者が様々な動機で偽情報を作成、拡散させて自分たちの目的を遂げようとする。例えば、オンライン・プラットフォームを使って陰謀説を流したり、COVID-19はある国が作った生物兵器だ、党派的な偽物だ、5Gテクノロジーの産物だ、あるいは人々を改造する巨大な計画の一部だなどと主張したりする人々がいる。また、希釈した漂白剤を飲む、バナナを食べる、電気製品のスイッチを切ると治るというデマを流す人々もいる。さらに、COVID-19パンデミックに便乗して、例えば検査キット、マスク、予防または治癒力に関するデマをもとに治療薬を販売して利益を上げようとする人々もいる。

COVID-19についての偽情報の有害な影響を、誇大視することはできない。アルゼンチン、ドイツ、韓国、スペイン、英国、米国のデータによると、3人に1人がCOVID-19関連の誤った、または誤解を招く情報をソーシャルメディア上で見たことがあると答えている。また、COVID-19の偽情報は、世界保健機関(WHO)やアメリカ疾病管理予防センターのような信頼すべき情報筋からの情報よりも遥かに広く流布しているという調査結果もある。偽情報、誤情報が拡散すると、人々が公式の情報源とデータを疑問視し、偽の治療法を試そうとするため、命に関わる在宅治療、ソーシャルディスタンシングやロックダウンの規則の無視、マスクを着用しないといった行動につながり、封じ込め戦略の効果が損なわれる。

しかし、偽情報の有害な影響は、公衆衛生上の懸念にとどまらない。例えば、英国では、5Gタワーから発せられる電波を浴びるとCOVID-19に罹りやすくなるというデマで、通信機器や設備に対する放火や破壊行為が30件以上、通信技師に対する嫌がらせが約80件発生した。オランダでも同様の破壊行為が15件記録されている。同様に、オーストラリア、EU、米国でも、マイノリティをパンデミックの元凶にでっち上げる偽情報が広がり、少数民族に対する敵意が高まり、「コロナ人種差別(coronaracism)」とも呼ぶべき差別や暴力事件が引き起こされている。

 COVID-19の偽情報がどのように広がるかを理解することは、有効な対策を採るために不可欠

情報、ニュース、コンテンツに、インターネット上のニュース集約サイトやソーシャルメディア・プラットフォーム、ビデオ共有プラットフォームなどからアクセスする人が増えている。オンライン・プラットフォームは、テレビニュースや新聞のような従来型のメディアと異なり、ユーザーの過去のオンライン上の行動、ソーシャルコネクション、位置情報などに関するデータを利用してコンテンツを自動的に個人仕様にする。注意を引きやすい扇動的なコンテンツの見出しは、最も情報に通じたインターネット・ユーザーでさえ引きつけられる可能性があり、複数の調査から、そうした見出しの方がユーザーが反応しやすいことがわかっている。その結果、コンテンツを個人仕様にするアルゴリズムが、偽情報に基づいて人々に同じまたは類似のコンテンツや広告を繰り返し見せる可能性がある。さらに、一部のプラットフォームはニュースコンテンツと併せてニュースではない広告やユーザーが作ったコンテンツを表示する。そうすると、ユーザーには信頼できるニュースを区別することが難しくなる。偽の誤解を招く情報を削除するか強調しないようにするか、またはその拡散を制限する措置を採らなければ、そうした情報は素早く拡散される可能性がある。

もう1つの重視すべき事項は、様々な偽情報源が及ぼす影響の度合いである。COVID-19の偽情報は、政治家、著名人、その他の重要人物からトップダウンで広がる場合もあれば、一般人からボトムアップで広がる場合もある。しかし、この二種類の情報源の影響力は大きく異なる。実証研究によると、トップダウンで流布する偽情報は、COVID-19に関する全ての誤った主張の20％を占めるに過ぎないが、ソーシャルメディアの反応の69％を引き起こす。それに対して、ソーシャルメディア上のCOVID-19の偽情報の大半は一般のユーザーが作っているが、これらの投稿のほとんどに対する反応は非常に少ない。したがって、影響力がある著名人は、COVID-19に関する偽情報やデマ対策において、より大きな責任を負っている。

 オンライン・プラットフォームによるCOVID-19の偽情報対策

科学者と政府が治療法とワクチンの開発に取り組んでいる時に重要なことは、オンライン・プラットフォーム、政府、国内外の保健機関が協力してCOVID-19に関する誤った、誤解を招く情報の拡散を抑えることである。

プラットフォームの中には、ユーザーがCOVID-19についての情報を検索すると公式の情報源に導いたり、医療用マスクや人工呼吸器の広告を禁止したり、COVID-19関連の誤った誤解を招く有害なコンテンツを探索、削除する取り組み−オンラインショップの停止、COVID-19を予防または治癒する製品という偽の主張をする一覧の削除−を強化するといった、重要な措置を採っているところもある。さらに、Facebook、Google、LinkedIn、Microsoft、Reddit、Twitter、YouTubeは合同で、COVID-19の虚偽情報と闘うために政府の保健当局と協力するという声明を出した。一般に、プラットフォームと公的保健機関との協力方法には、主に下記の3種類がある。

• 信頼すべき情報筋が発するコンテンツを優先して目立つようにする。Facebook、Instagram、TikTok、Pinterestなどのプラットフォームは、COVID-19についての情報検索及びそれに関連するハッシュタグに対して、ユーザーをWHOが発信する情報に導いている。同様に、Googleは、「コロナウイルス」で検索している人々をWHOからのニュースその他のコンテンツに導くCOVID-19のマイクロサイトと「SOSアラート」を立ち上げた。YouTubeは、公的保健機関のビデオをホームページに掲載し、COVID-19関連情報の検索に対して信頼できる情報源からのコンテンツを目立つようにしている。Twitterは、COVID-19のページに信頼できる情報源からの最新情報を掲載し、ユーザーのタイムラインのトップに表示している。Snapchatも、WHOと組んで、ウイルス拡散を防ぐ方法について記したフィルターとステッカーを作っている。

• 事実調査員や保健当局と協力して、偽情報に警告を与え削除する。Facebookは第三者の調査員と協力して、COVID-19関連のデマを暴き、そのコンテンツが誤りであることを示すラベルを付け、そのコンテンツを共有しようとする人々に誤りと認定されていることを告知している。FacebookはInternational Fact-Checking Network (IFCN)と組んで、事実確認の能力を高めるための100万ドル助成プログラムを立ち上げ、公的保健機関が警告を与えたコンテンツ、例えば、漂白剤を飲むとコロナウイルスが治るといった「誤った治療法、予防法に関わる主張」や、保健情報源を混乱させる主張を削除している。同様に、Googleはコロナウイルス専門の調査員に650万米ドルの寄付をしたという報告がある。さらに、Twitterは、プラットフォーム上の有害の定義を拡大し、国際的及び各地の信頼できる公的保健情報源からの指導に反するコンテンツに直接対処している。

• 保健当局が無料で広告を出せるようにする。Facebook、Twitter、Googleは、WHOと各国保健当局がCOVID-19関連の重要情報を広めるのを手助けするために、無料広告を出せるようにしている。

 COVID-19の偽情報問題を完全かつ恒久的に解決する簡単な方法はない

上述のイニシアチブは、COVID-19に関する正確で信頼できる情報へのアクセスを促進し、命を救う可能性があるため、重要である。しかし、そこまでである。最近の二つの動向から、COVID-19の偽情報危機は容易には解決しないことがわかっている。

• 自動モデレーティング技術への依存。パンデミックとロックダウン措置の結果、Facebook、Google、Twitterといったオンライン・プラットフォームでは、不適切なコンテンツに警告を発し削除するモデレーターが不足し、その結果、自動モデレーティング技術への依存度が高まっている。しかし、こうした技術で、全ての偽情報を捉えられるわけではない。さらに、現行のコミュニケーション法制では、コンテンツ・モデレーターとして行動することが、プラットフォームにとって法的意味合いを持つ場合がある。（注1）したがって、重大な誤解を招く主張やデマを見逃す可能性を減らすために、自動化技術は慎重過ぎるぐらい慎重にプログラム化されている傾向がある。それが、誤判定のリスクを高める。そのため、YouTubeは自動モデレーション・システムへの依存が高まった結果、「ユーザーもクリエーターも、YouTubeの方針に反しないものを含め、ビデオが削除されるケースが増えたと感じている」と述べている。実際、自動監視システムが信頼できる情報源からのCOVID-19関連コンテンツをSPAMと警告するケースがいくつも報告されている。つまり、適切な人の目による監視がないコンテンツ・モデレーションが、COVID-19の偽情報を隠すためにCOVID-19関連の信頼できる情報の入手、アクセス可能性を制限してしまうリスクがあるということである。さらに、透明性、説明責任、適正手続きがなければ、自動コンテンツ・モデレーションは言論の自由に萎縮効果を及ぼす可能性が高まり、インフォデミックをさらに複雑にする可能性がある。

• 危機を悪用する広告の禁止。FacebookとInstagramは、マスク、手指消毒剤、除菌シート、COVID-19検査キットの広告や商品一覧だけでなく、治療効果を保証したり、COVID-19への感染を防ぐことを示唆したりする製品の広告を禁止した。Twitterは、不適切なコンテンツに関するポリシーの下、比較可能な措置を実施した。同様に、GoogleとYouTubeも、広告を含めパンデミックで儲けようとするあらゆるコンテンツを禁止し、それに基づいて個人防護具の広告も禁止した。こうした措置は、COVID-19関連の偽の製品を売ろうとする悪徳業者を摘発し、便乗値上げから消費者を守るが、わずかではあるが人々がオンラインで衛生製品を購入するのを難しくする可能性がある。いずれにせよ、ユーザーの表現の自由やプライバシー権を侵害することなく偽情報、誤情報を根絶することは難しい。さらに、一部のオンライン・プラットフォームとコンテンツ制作者は、プラットフォームのモデレーターの監視をかいくぐって誤解を招く誤ったコンテンツ上に表示される広告で利益を上げている。例えば、Tech Transparency Project（訳注：米国のIT業界監視団体）は、治療や予防効果を保証した誤解を招くいくつものコロナウイルス関連ビデオに様々な広告主の広告が掲載されているのを主要なビデオ共有プラットフォーム上で発見しており、EUvsDiSiNFO（訳注：欧州対外行動庁（EEAS）が運営する偽情報検証サイト）は、最近、「主要なプラットフォームは、例えば移民をウイルスの原因だと述べたり、偽の治療法を宣伝したり、ウイルスに関する陰謀を広めたりするページ上にオンライン広告を掲載することで、パンデミックに関する偽情報及び有害コンテンツから引き続き収益を得ている」と結論を出した。さらに、EU DisinfoLab（訳注：EUに対する偽情報キャンペーンに対処する非営利団体）は、いくつかのソーシャルメディア・プラットフォームで実験を行った結果、「陰謀説を掲載したコンテンツを暴くモデレーションのプロセスは遅く、プラットフォーム間で一貫性がない」と結論を出した。

より実効性があり長期的な解決に向けて必要とされる最初のステップは、証拠を体系的に集めることである。閲覧されたCOVID-19の偽情報と、プラットフォームがそれを発見、モデレートする方法について、オンライン・プラットフォームから定期的に情報提供を受けることで、研究者、政策当局、そしてプラットフォーム自身が改善方法を見出すことができる。欧州委員会は最近、プラットフォームに自発的にそのような透明性レポートを毎月公表するよう求めた。それが要件となれば、そして特にそれが他の国にも広がれば、国際的で多角的な利害関係者間のタイムリーな協力、協調ができ、非効率と無駄なコストの削減に効果を発揮するだろう。さらに、企業間、各国間で共通のアプローチが取れれば、世界的にプラットフォーム間の比較が可能になる。OECDは、この種のプロジェクトにとっては理想的なフォーラムで、すでにテロリストや暴力的過激主義者のオンライン・コンテンツに関して自発的な報告の取り組みを主導している。

改善には、調査と事実確認への投資を増やし能力を向上させることで、監視役を務めるオンライン・プラットフォームを含める必要がある。その中には、調査員の増加、外部の複数の調査機関への支援の増強、自動コンテンツモデレーションシステムの開発継続、質の良い信頼できるコンテンツの重視などが含まれる。このシナリオでは、誤解を招く偽情報は今後もアップロードされるが、その流布のスピードと範囲は大幅に削減されるだろう。

しかし、プラットフォームだけで取り組むことはできない。政府、公的保健機関、国際機関、市民団体、メディア組織、テクノロジー企業が力を合わせて、偽情報と闘わなければならない。その対策には、人々のメディア、デジタル、医療に関する理解力を向上させるための協力も含まれる。ユーザーが自分が読んでいるコンテンツの情報源、執筆者、資金提供者を正確に特定し、なぜ今見ている情報が表示されるのかを理解できれば、彼らは誤解を招く主張やデマを信じたり操られたりする可能性が低くなるだろう。

 主要な政策勧告

COVID-19の偽情報の拡散問題は複雑で、オンラインプラットフォーム、政府、各国保健機関、国際的な保健機関の間の協力、協調、信頼と、注意深く均衡が取られた措置が必要である。いくつもの対策がすでに取られているが、更なる措置を採る余地がある。下記の検討事項は、利害関係者を、COVID-19の偽情報に対するこれまで以上に有効な解決策に導くためのものである。

独立した事実確認機関の多様性を支援する。コロナウイルスに関する偽情報に接すると、人々は、政府や医師、科学者、国内外の保健機関の行動、提言、能力を疑問視するようになる。偽情報は、そうした政府や専門機関への信頼を損ねるため、誤解を招く情報を暴き、否定する能力をも損ねることになる。そうした偽情報の中には、そもそもそうした機関について否定的なイメージを植え付ける情報も含まれる。独立した事実確認機関は、バイアスのかかっていない情報分析を提供できると同時に、オンライン・プラットフォームが誤解を招く偽情報のコンテンツを特定する手助けをし、政府や国際的な保健機関は人々の信頼を確保するために調査機関を支援しその分析に頼ることができる。Facebookその他のプラットフォームが事実確認機関への依存を高め、資金援助を行っていることは、他のテクノロジー企業だけでなく公的機関も見習うべき例である。プラットフォームは、二つ以上の独立した事実確認機関の審査を通り信頼できる情報という認証を得たコンテンツにラベルを付けることもできるだろう。そのような信頼マークは、電子商取引のコンテンツにおける消費者の信頼を高める上で有効であることがわかっており、COVID-19関連のオンライン情報の信頼度を高める上でも有益なツールになるだろう。

技術的解決策を補完するモデレーターを配置する。自動監視システムはCOVID-19の偽情報を発見、削除するための重要なツールだが、コンテンツ・モデレーションに、特にニュアンスに関する決定がより多く求められる場合には、人間の介在も必要である。これは、特にパンデミック期には容易に解決できない複雑な問題である。コンテンツ・モデレーターをあまりに早く職場復帰させることは、受け入れがたい健康リスクとなり、また彼らを在宅勤務させるとプライバシーや守秘義務の懸念を高めることになるからである。それでも、オンライン・プラットフォームは、求められるコンテンツ・モデレーションのための労働力を利用する代替策を見つけなければならない。適切な資源を持つプラットフォームなら、より多くのモデレーターを常勤社員として雇うこともできるだろう。

COVID-19の偽情報について透明性レポートを自発的に発行する。オンライン・プラットフォームからCOVID-19の偽情報の性質と流布状況と、プラットフォームが採った対策に関して、官民双方の関係者が定期的な更新情報を受け取ることができれば、より良い、より多くの実証に基づくアプローチを採ることができる。もし複数の政府がそのような報告を必要とするならば、複数の利害関係者のプロセスを通じて国際的な協力と調整を行って、報告基準にばらつきが出るのを避ける必要がある。報告基準がバラバラになると、コストがかかり世界全体のプラットフォーム間の比較が複雑化しかねないからである。

ユーザーのメディア、デジタル、健康に関する理解力を向上させる。人々は、オンラインで見ているコンテンツを安全かつ能力を持って閲覧、納得し、なぜそれが表示されるのかを理解するスキルを必要としている。その中には、自分がアクセスしているコンテンツの正確さと信頼性を評価する方法や、実際のニュースを意見やデマと区別する方法を知ることも含まれる。そのためには、健康に関する知識を向上させる取り組みと同じように、プラットフォーム、メディア組織、政府、教育者間の協力が不可欠である。COVID-19の偽情報危機の最中にメディアと情報の理解力を促進させるために欧州連合、UNESCO、Twitterが手を結んだ最近のパートナーシップは、賞賛すべきイニシアチブで、他のプラットフォームや関係者も見習うべきである。