「偽情報」とそれがもたらす問題に注目が集まる中、「偽情報対策」という名目で、世界各地で様々な活動や組織が生まれ、西側諸国などを中心に新たな産業が形成されつつある。政府、企業、報道機関、研究機関など、さまざまなアクターが積極的に「偽情報対策」に取り組むようになった。調査研究をはじめ、疑わしい情報に対するファクトチェック（真偽検証）、検閲などを通じて誤報や偽情報と判断された情報の規制などが一例である。
一方で、いわば「偽情報対策」産業には、不透明な側面や課題が多い。この記事では、まずこの産業の全体像を描き、その上で産業の問題を探る。
グーグル検索をする人（写真：Matheus Bertelli / Pexels [Pexels License]）
産業の全体像
まず、偽情報対策産業における調査研究について紹介しよう。偽情報の実態の解明に取り組む研究者が増えており、偽情報に特化した研究所や専門の企業までが立ち上げられるようになった。ソーシャル・メディア（SNS）などで流出する偽情報を自動的に察知することができるとされるツールなどの開発も進んでいる。
続いてファクトチェックについて紹介する。ファクトチェックは、検閲と並び、偽情報対策産業の一つだ。この活動は、社会に流通している情報に対して真偽を検証し、偽情報を暴く活動（デバンク：debunk）が中心となるが、選挙期間中など、出現が予測されるイベントの際に偽情報が拡散されることを未然に防ぐために、事実を先に紹介する活動（プレバンク：prebunk）も含まれる。政府、大学、シンクタンク、報道機関、非政府組織（NGO）、ビッグテック企業など既存の組織の他に、ファクトチェックのみに専念する新しい団体もある。近年、このようなファクトチェック活動が増大しており、2016年から2021年の間に世界でファクトチェックを行う団体が186から391に倍増した。世界各地のファクトチェック団体の交流や支援をするネットワーク団体も結成されている。
ファクトチェックにおいては、基本的に手動で検証作業が行われているが、様々な技術が導入されてきている。リアルタイムでSNSに投稿された情報に対して自動化されたファクトチェックを表示するツールもある。また、ブロックチェーン技術を通じて写真や動画の真正性を確認できるツールも開発されている。衛星写真など一般に入手可能な情報（オープン・ソース・インテリジェンス：OSINT）などを独自に収集し、ファクトチェックに利用するという民間の「諜報機関」もある。
偽情報対策におけるもうひとつの主要な活動は、検閲である。SNS会社（プラットフォーマー）などのビッグテック企業が自ら、あるいは政府や政府と協力する機関などから要請を受けて、偽情報とみなされた投稿の削除、表示制限、あるいは発信したアカウントの停止といった措置を講じることが主な活動内容となっている。個別の投稿ではなく、ある報道機関や情報サイトが発信する全ての情報をSNS上でまるごと削除したり、投稿そのものを禁じたり、あるいは表示制限をする場合もある。表示制限に関しては、SNS会社によって制限をかけていること自体が隠される（シャドーバン：shadowban）ことがほとんどである。報道機関や情報サイトの信憑性を評価し、インターネットのブラウザーで表示するツールも開発されており、信憑性が低いと判断されるサイトに対して広告収入に制限をかける仕組みもある。このようなツールの開発にはサイバーセキュリティー企業も関わる。
ナイト財団主催でデジタル時代における民主主義について討論するメディア・大学関係者（写真：Knight Foundation / Flickr [CC BY-SA 2.0]）
これらの活動以外に、情報の受け手が自ら情報の真偽を見極めることを支援する活動もある。例えば、メディア・リテラシーやデジタル・リテラシーを高めるための教材、啓発動画、ゲームなどをオンライン上で提供する組織もある。
ただし、これらの活動は偽情報だけを対象としているとは限らない。欧州評議会の2017年の報告書で誤報（misinformation）と偽情報（disinformation）の他に、「悪意のある情報」（malinformation）という概念が紹介され、注目を浴びた。「悪意のある情報」とは、正しい情報ではあるが、情報の受け手に対して悪意をもった拡散をもたらすように用いられる情報だとされる。
産業の資金源
では、これらの活動を支える資金源は何か。偽情報に関する研究、ファクトチェック、検閲といった活動は収益をあげるビジネスとして成り立ちにくい。そのため、偽情報対策業界では助成金や委託事業が主要な資金源になる。以下では、資金を提供する主要な組織をみていく。
まずは、各国の政府機関を挙げることができる。ファクトチェック団体、研究機関、NGOなどへの助成金やサイバーセキュリティに携わる業者への委託や助成といった方法での資金提供である。その中でもアメリカ政府は、自国内に限らず他国においても様々な組織に資金提供を行なっている。例えば、政府内の機関であるグローバル・エンゲージメント・センター（Global Engagement Center, GEC）を通じて、2020年の時点で国内外で対偽情報活動を行う39の組織に助成している。中央情報局（CIA）との歴史的なつながりが指摘される全米民主主義基金（NED）もアメリカをはじめ他国の多くの団体に資金を提供している。
欧州連合（EU）も官民が行う偽情報対策活動に資金提供を行っている。独自の活動の他に、EU加盟国の政府、研究者、ファクトチェック団体、報道機関などに対する支援を行い、情報共有などの連携可能な枠組みを設けている。イギリスの外務・英連邦・開発省も偽情報対策に携わっている団体に資金提供している。最近では、日本の外務省や防衛省なども偽情報対策に携わっている団体との協力を模索する動きが進んでいる。
グーグル本社、アメリカ（写真：Jürgen Plasser / Flickr [CC BY-NC-SA 2.0]）
グーグル、ヤフー、フェイスブック、ツイッター、ユーチューブなどのビッグテック企業もファクトチェックや検閲ともいえる活動を積極的に行なっている。組織内の取り組みは基本的に自社が資金源となっているが、他の組織に委託して行う場合もある。例えば、フェイスブックは60の言語で活動する90の組織に自社に載せられている情報のファクトチェックを委託している。委託事業だけではなく、他組織の活動へも助成している。例えば、グーグルとユーチューブは国際ファクトチェックネットワーク（IFCN）を通じてファクトチェック団体に助成金を提供している。
一部の財団や基金も、偽情報対策に対する助成を行なっている。ビル＆メリンダ・ゲイツ財団やオープン・ソサエティ財団が一例となる。
また、報道機関の多くは報道活動の一環としてファクトチェック活動を行っているが、他の組織やネットワークからファクトチェックのための支援を受けている場合もある。また、数としては少ないものの、ビジネスとして成り立つファクトチェック団体もある。例えば、アメリカでは広告収入を得たり報道機関にコンテンツを販売したりするファクトチェック団体が存在する。
「ファクトチェック」をめぐる諸問題
ファクトチェックの活動が世界各国で急増しているが、課題は山積している。まず、ファクトチェックの効果に関する問題がある。ファクトチェックに触れることで、一定程度の人は情報に対する認識が変わると結論付ける研究が発表されている。偽情報は特にSNSで瞬時に拡散するという特性を持つこともあり、ある事象に対して、正しいとされる情報を誤った認識を持つ人にタイムリーに届けることが肝心となる。しかし、発信されているファクトチェックを普段から読む・観る機会がある人は限られているのが現状である。
たとえファクトチェックが偽情報対策において効果的な取り組みだとしても、その内容の信憑性や公平性については疑問が残る。 つまり、ファクトチェックの過程で、題材選定が公平に行われているのか、また、証拠の提示や誤報であるとの証明が十分に行われているか、といった、ファクトチェックの運営側における課題があるということである。実際、真偽を正確に検証するはずのファクトチェックが、むしろ誤った情報を発信したり、ミスリードしたりする場合も決して少なくない。
ホワイトハウスで記者会見する国立アレルギー感染病研究所のアンソニー・ファウチ前所長（写真：Trump White House Archived / Flickr [Public Domain]）
例えば、日本ファクトチェックセンター（JFC）が行ったあるファクトチェックでは、「ビル・ゲイツの娘はCOVIDワクチン・小児用ワクチン未接種」は「誤り」と結論付けているが、本人やその親による発言のみを証拠に検証が行われており、これで「ビル・ゲイツの娘はCOVIDワクチン・小児用ワクチン未接種」が「誤り」であると結論づけるには根拠が弱い内容となっていると言わざるを得ない。同じJFCによる新型コロナウイルスに関するファクトチェックでは、「ファイザー役員が『コロナワクチンに感染予防効果があるか未検証だった』と認めた」ことを「不正確」としている。しかし、同ファクトチェックの説明にもあるように、そもそも感染予防効果は初期段階で未検証だった上に、ファイザー役員もそれを認めているので、同ファクトチェックのタイトルなどを含め、ミスリーディングな印象があることは否めない。ファクトチェックで「不正確」と判断しているのは「新たに明らかになった新事実ではない」ということであって、ファクトチェックの対象にすること自体に問題があると言える。
また、2022年の北大西洋条約機構（NATO）による東欧での軍事的プレゼンスの増大はロシアに対する脅威だというロシア側の主張に対して、カナダ政府のファクトチェック（※1）ではこれを否定し、「NATOのそれは防衛的な同盟」であると断言している。しかし、実際のところ、NATOはセルビア、アフガニスタン、リビアなどに対して戦争をしかけた経緯があり、「防衛的」という主張は客観性に欠けるといえ、ファクトチェックとして判定するには根拠が十分ではない。さらにいえば、NATOの行動が「脅威」かどうかは客観的な検証が難しい。
ファクトチェックの正確性の問題の他の問題として、対象とされる国、題材、情報の選定も問題となる。西側諸国のファクトチェック団体の多くはロシア関連、あるいは新型コロナウイルス関連といった話題に大きく偏っている。例えば、EUが2015年に立ち上げたEUvsディスインフォ（EUvsDisinfo）というはプロジェクトは、ロシアによる情報戦に対抗することを目的として立ち上げられた。また、在カナダのシンクタンクのプロジェクトであるディスインフォウォッチ（DisinfoWatch）が2022年まで行ったファクトチェックのうち、3分の2はロシアが対象となっている。先述のOSINTを行うべリングキャット（Bellingcat）の調査対象も西側諸国が敵対するシリアやロシアに偏る。
EUのファクトチェックサイトに掲載されたロシアによる偽情報に関する記事（写真：Virgil Hawkins）
題材の偏向は、ファクトチェックの対象とならない事象をみても明らかである。アメリカ政府はこれまで多くの偽情報を発信しており、アメリカや日本のメディアもその実態を問わずにアメリカ政府が発信する情報をそのままの伝達してきた。西側諸国のファクトチェック団体も、そうした情報はほとんど検証しない。例えば、アメリカ国防省がウクライナの生物学研究所に支援・協力している中で、生物兵器の研究を行っているという真偽不明の情報が出回り、アメリカのポリティファクト（Politifact）やヤフーニュースを含む多くの組織がこれをファクトチェックの対象とし、結果、すべて偽情報だと判定した。また、アメリカ政府は、2022年3月、ロシアが化学兵器を使用する準備をしている可能性が高いと発表したが、のちにこの発表はロシアに対する「情報戦」の一環であり、証拠がなかったことを認めた。しかし、アメリカ政府が情報戦の一環として発信したロシアによる化学兵器使用準備疑惑に関する情報を暴いたり正したりするファクトチェックはみられなかった。
西側諸国が取り組むファクトチェックの大まかな傾向としていえるのは、外交政策において 自国あるいはその同盟国同志国の主張を擁護あるいは補強し、敵対国による情報戦あるいは偽情報を暴く活動を実施しているということだ。また、富が集中する製薬会社や他の大手企業などを擁護する内容のファクトチェックも多いと言える。さらに、大手報道機関が発信する情報はそもそもファクトチェックの対象にされないケースもある。
ファクトチェックの限界
これまでファクトチェックの活動の問題点について詳細に検討してきたが、もっと根本的な問題がある。ファクトチェックは、ある情報の真偽を明確にするため、真偽を判定し、世に発信する。しかし、簡単に真偽を判定できる事象が世の中にどれほどあるのかを想像してみてほしい。特定の人物が特定の発言を実際行ったかどうか、また、個別の事象が生起したかどうかについては、証拠を元に検証できるかもしれない。しかし一つひとつの事実は他の事実と複雑に絡み合っており、より広い文脈の中で取り扱う情報や事象を捉えることが重要である。さらに、時間の経過とともに事実が変化することや、当時事実だと断定された情報が実は事実ではなかったことが明らかになったり、その逆もまた然りといったケースも少なくない。つまり、一方の発言や出来事だけを切り取って真偽を検証したところで事象の真相が見えたことにはならないことが多々ある。むしろ、その検証自体が事象の真相を隠す方向に機能する可能性すら考えられる。
例えば、ロシアとドイツを結ぶ海底天然ガス・パイプラインであるノルドストリームが2022年9月に爆破されたが、誰による犯行かについては証明されていない。しかし手段、動機、機会などに鑑みれば、アメリカ政府が最も疑わしいとも言われる。実際に、ジョセフ・バイデン大統領が記者会見で予告をほのめかしたとも捉えられる発言をしただけでなく、国務長官は、犯行数日後にパイプラインが破壊されたことが「絶好の戦略的チャンス」とも述べた。このように、真相が明らかになっていない中でこの事象に対するファクトチェックには限界があるものの、アメリカのファクトチェック団体スノープス（Snopes）やドイツの報道機関（DW）が行ったファクトチェックでは、ロシアによる犯行の可能性があると証拠を提示せずに発信したり、アメリカによる犯行だとする主張を否定するなどしている。このように、アメリカの関与は一切疑わず、むしろその可能性を否定し擁護するファクトチェックを行なっているとも捉えられよう。
海底に設置される前に溶接されるノルド・ストリームパイプライン（2011年）（写真：Bair175 / Wikimedia [CC BY-SA 3.0]）
先述のように、事実がのちに明らかになることもファクトチェックの限界を強調する。例えば、当初に行われていたファクトチェックが誤っていたという問題である。新型コロナウイルスが流行した当初、その原因として中国武漢市の研究所から流出した可能性が挙げられたが、初期の段階で中国政府はもちろん、アメリカの保健社会福祉省（DHHS）の部署などもその可能性を徹底的に否定した。ポリティファクトのファクトチェックでもこの説は「陰謀論」であり「不正確でばかげている」とまで断言した。しかし、この研究所流出説が徐々に現実味のあるものとしてみられるようになり、同時にその可能性を否定したDHHSの関係者などが武漢市の研究所と利害関係を有していたことも明らかになった。
ファクトチェックでは、題材となる情報の正誤を判定するが、この判定自体が真実の追求に向けた議論を閉ざすとも言えよう。デジタル化社会にこそ必要なのは、あらゆる可能性を自由に議論・検討できる情報環境なのではないか。
「検閲産業複合体」
偽情報対策では、「有害」とみなされる情報の検閲もその手段の一部である。
GNVはこれまでビッグテック企業による情報統制や報道の自由に対する抑圧などを詳しく取り上げてきた。しかし2022年末から順次報じられている「ツイッター・ファイルズ」によると、アメリカ政府や関連団体とSNS会社との間で行われている情報統制の仕組みや規模がさらに明らかになってきている。
その主な内容としては、政府機関（※2）が複数の民間団体と共同で、偽情報を発信しているなど疑わしいと判断されたアカウントが掲載されたブラックリストを作成し、ツイッターにその削除もしくは表示制限を要請しているというものだ。しかし、それらのブラックリストに掲載された多くのアカウントは、偽情報の発信どころか、ブラックリストの対象とされた国との関連すらなかったことが明らかになった。インドと関連付けられた4万のアカウント、中国と関連付けられた5,500のアカウント、イランと関連付けられた378のアカウントなどのブラックリストがその事例となる。しかし、いずれのリストにおいても対象国とは無関係のアカウントがツイッター・ファイルズの報道を通じて多数確認された。これは、ロシア政府との関連が主張された600のアカウントのリスト（ハミルトン68と呼ばれるデータベース）と類似のパターンである。これらのブラックリストを分析したツイッター関係者によれば、あるアカウントがロシアの報道機関が発信した情報をリツイートするだけで、「ロシア関連のアカウント」としてみなされる実態がある。
ジャーナリストのマット・タイビ氏が発信するツイッター・ファイルズ（その17）（写真：Virgil Hawkins）
誤報や偽情報だけではなく、政府が主張する言説に反する意見や情報も「悪意のある情報」としてみなされ、検閲の対象となっている。例えば、新型コロナウイルスについて客観的な証拠を提示しつつアメリカ疾病管理予防センター（CDC）の方針に反論する医療従事者のツイートの表示が制限されるケースが多くみられる。また、アメリカ政府と協力関係にあったスタンフォード大学のプロジェクトは、情報の受け手が予防接種を躊躇しうる情報を制限するようSNS企業に要請していた。また、ロシア・ウクライナ戦争をめぐり、アメリカ政府はユーチューブに対して情報の真偽とは関係なく「反ウクライナ言説」が含まれているという理由だけで投稿の検閲を要請していた。一方、アメリカの国防省やFBIが自身が捏造した情報の発信を「偽情報対策」という名目でツイッターに支援を要請し、ツイッターはこれに応じた。
政府機関とともにこのブラックリスト作成に関与したシンクタンクや大学の研究所には、ハミルトン68のリストを作成した民主主義確保同盟（ADF）をはじめ、NATOと密接な関係にあるアトランティック・カウンシルのプログラム（DFRLab）などが含まれていた。これらの組織はGECなどのアメリカ政府機関から資金を得ており、同政府機関との人物交流もある。ツイッター・ファイルズを報じたジャーナリストはこれらアクターの関係性と行動を「検閲産業複合体」（censorship-industrial complex）と呼ぶ。
問題の背景には
これまでみてきたように、偽情報対策は特定の言説を確立または推奨してしまう側面があると言っても過言ではない。なぜ偽情報対策がこのような方向に進んでしまうのだろうか。
まず、資金の確保とそのためのスポンサーに対する配慮という問題がある。これまで指摘してきたように、ファクトチェックや検閲といった偽情報対策のための活動はビジネスとして成り立ちにくく、運営費の確保が困難である。一方、こうした資金面の課題は、政府や企業の助成や委託によって一定程度解決できる。ただし、政府や企業から助成金や委託費用を継続的に受けるためには、スポンサーが好む言説から逸脱しない情報環境を構築していこうとするインセンティブが働く場合もある。
ビル＆メリンダ・ゲイツ財団、アメリカ（写真：Jack at Wikipedia / Flickr [CC BY-SA 2.0]）
例えば、ビッグテック企業に関しては政府からの事業委託が巨額の収入源になっていることがある。同時に、政府から規制されたり政府から自社が分解させられたりする恐れを常に抱えており、政府のいわば「ご機嫌取り」をする必要がある。大手メディアにとっても、政府が重要な情報源になっていることもあり、自国政府に寄り添う傾向にあると言える。
スポンサーに対する配慮は、政府のみならず大手民間企業に対しても働きやすい。新型コロナウイルスを例にみてみると、ファクトチェックを行う報道機関は、ワクチンの開発・製造を担う製薬会社に寄り添う報道を行うインセンティブが働きやすい。これら製薬会社が報道機関にとって重要なスポンサーになっているためだ。また、ファクトチェックに力を入れているロイター通信社の会長はファイザー社の取締役でもある。ほかにも、新型コロナウイルスに関する偽情報対策に力を入れてきたビル＆メリンダ・ゲイツ財団は、ファイザー社を含む複数のワクチン開発会社にも投資してきている。
現在の情報環境そのものが偽情報対策において問題ともなる。ロシア・ウクライナ戦争や新型コロナウイルスなどをめぐっては、西側諸国における情報環境が特定のアクターにとって有利な環境となっている側面がある。ロシア・ウクライナ戦争に関しては、「アメリカ政府が正しい情報を発信」し、「ロシアは偽情報を発信」しているという善悪ストーリーが西側諸国に深く根付いている。また、インフルエンサーなどがSNS上で国家権力の言説を支持する多くの発信をしたり、反対の意見を袋叩きにする動きもみられる。
危険が潜む業界
「権力者は、自分たちが考える『偽情報』に対抗したい理由がある。それは自身にとっての真実を我々の真実にしたいからだ。」こう指摘したのは、ライターのスタブルーラ・パブスト氏である。「偽情報」というラベルが特定の相手、言説、事象に対して貼られている現状に鑑みれば、多くの場合、偽情報という概念自体が政治的道具として使われてしまっていることがわかる。また、偽情報というラベルが事実に対しても適用されている現状は、危険であろう。政府が、自らにとって都合の悪い情報をより安易に排除しやすい事態を招き兼ねないためだ。
学生メディアがプロデュースするフェイク・ニュースに関するポッドキャスト、アメリカ（写真：WCN 24/7 / Flickr [CC BY-NC-ND 2.0]）
また、偽情報対策としての手段が他にも多く存在する中、ファクトチェックや情報統制、検閲が中心の世界へとなっていることも問題視する必要がある。教育の現場にメディア・リテラシー、デジタル・リテラシー、さらに批判的に考える能力（クリティカル・シンキング）を身につけさせるカリキュラムを導入するといった教育面での対策は、より根本的な問題の解決に寄与するだろう。つまり、偽情報対策において最も重要なのは、情報の正誤や真偽の間に「真実の裁定者」を介在させるのではなく、言論の自由が確保された上で情報の受け手が自身の判断で情報を見極めることを促す対策である。これらの対策の本格的な導入が進まないのは国民が批判的に考える能力を身につけてしまえば、その能力は政府に対しても向けられるようになることを恐れているからなのだろうか。
※1 なお、カナダ政府は自身による情報発信をファクトチェックとは呼んでいない。
※2 連邦捜査局（FBI）、国家安全保障局（NSA）、CIA、国務省、国土安全保障省（DHS）を含む。
ライター：Virgil Hawkins
