![](http://img.5ch.net/ico/imanouchi_2.gif)
AIが自動生成する実在しない「フェイク顔」のアカウントが、フェイスブックを舞台に大量発生し、トランプ大統領の再選を支持する――。
こんな新たな動きが注目を集めている。
フェイスブックはこの動きに対し、600を超すアカウント、さらに関連するフェイクブックページやグループの削除を発表した。
またフェイスブックの発表と合わせて、大手シンクタンクなどが調査報告書を公表。AIによる「フェイク顔」アカウントの大量発生の仕組みを解き明かしている。
「フェイク顔」「アカウント」「投稿」と、AIが絡んだ自動化によって拡散の波をつくりだす、フェイクネットワークの“製造工程”。その一端を、この騒動から垣間見ることができる。
フェイクニュースの生態系は、加速度的に複雑さを増している。
●610のアカウント削除
フェイスブックは20日、「組織的不正行為(CIB)」に対する、大規模なアカウント削除などの措置を発表した。
その中で注目されるのが、ベトナムと米国を発信元としたフェイクアカウントなどの削除だ。
610のアカウント、89のページ、156のグループ、72のインスタグラムのアカウントが、その削除対象。
5,500万アカウントがこれらのページをフォロー、38万アカウントがグループに参加していた、という。
フェイスブックは、これらのアカウント、ページ、グループが、もっぱら「The BL(ビューティ・オブ・ライフ)」というネットメディアのコンテンツ拡散を担っていたと指摘。
米国のメディア企業「エポック・メディア・グループ」を、その運営主体として名指ししている。
拡散の内容は、米国政治、特にトランプ大統領に対する弾劾裁判や、保守派イデオロギー、候補者、選挙に関するものだったという。
この「The BL」を中心とした拡散ネットワークは、以前から組織的不正行為やスパム、フェイクアカウントといったフェイスブックの規約違反を繰り返しており、
「The BL」自体のアカウントもフェイスブックによって削除されている、という。
そしてフェイスブックは、削除したフェイクアカウントには、AIで生成したプロフィール画像も含まれていた、と述べている。
●「フェイク顔」作戦
フェイスブックの発表と同日、国際問題の米シンクタンク「大西洋評議会」の研究所「デジタル・フォレンジクス・リサーチ・ラボ(DFRラボ)」と
ソーシャルメディア調査会社「グラフィカ」が共同で、「#FFS作戦:フェイク・フェイス・スウォーム(フェイク顔の大群)」と題した共同報告書を公表。「フェイク顔」の問題を掘り下げている。
それによると、拡散ネットワークの中心となったネットメディア「The BL」は、英語のほか、中国語、スペイン語、ベトナム語版のサイトを運営。
中国語版では中国政府批判のコンテンツ、そして、英語版ではトランプ大統領支持のコンテンツを展開しているという。
そして、フェイクアカウントによる拡散ネットワークは、フェイスブック上に「2020年大統領選にはトランプ大統領」など、トランプ氏支持の86のグループを立ち上げていた、という。
そして、AIが自動生成する実在しない「フェイク顔」が、フェイクアカウントで大規模に使われていたとし、これを新たな動きと位置付けている。
「The BL」を中心としたネットワークでは、フェイクプロフィールの作成に、AI自動生成の写真が大規模に使われていた。
これは、本報告書の執筆者たちが、ソーシャルメディア上のキャンペーンとしては初めて目にした事例だ。
報告書がAI自動生成の「フェイク顔」の調達先として挙げるのが、2019年2月に立ち上がったサイト「thispersondoesnotexist.com(この人物は存在しない・ドット・コム)」だ。
同サイトは、ウーバーのエンジニア、フィリップ・ワン氏が開設したもので、
ディープフェイクスなどにも使われているAI技術「敵対的生成ネットワーク(GAN)」によって、実在しない人物の顔写真を次々に作り出していく。
報告書は、GANによって自動生成された「フェイク顔」を収集し、フェイクアカウントの作成に流用したのが、今回の「フェイク顔」作戦だとしている。
●「フェイク顔」を見破る
GANによる「フェイク顔」はかなり精巧で...
一部抜粋。詳細はサイトで
https://news.yahoo.co.jp/byline/kazuhirotaira/20191227-00156553/