米国。特別なOpsはPsy-Opsにディープフェイクを使用したい
サムビドル著：07/03/2023
米国政府は何年にもわたって深部紛争が民主主義社会を不安定化させる可能性があると警告した。
The Interceptが調査した連邦政府の契約文書によると、米国特殊作戦司令部は、最も秘密主義的な軍事活動の一部を担当しており、ディープフェイクビデオを使用したインターネット・プロパガンダや欺瞞キャンペーンをオンラインで実施する準備を進めているそうです。
この計画には、外国の人々がプロパガンダを受けやすいかどうかを評価するために、インターネットに接続された機器をハッキングして盗聴することも書かれており、技術的に洗練された「偽情報」キャンペーンとその効果、そしてその使用の倫理について、世界的に激しい議論が行われているときに、この計画は実現しました。
米国政府は日常的にディープフェイクの危険性を警告し、それに対抗するツールの構築に公然と取り組んでいるが、特殊作戦軍（SOCOM）の文書は、米国政府、あるいはいかなる政府も、非常に議論の多いこの技術を攻撃的に使用したいという希望を公然と表明したほぼ前例のない例となる。
SOCOMの次世代プロパガンダの願望は、近い将来に求める能力を列挙し、それを構築できると考える外部の関係者から提案を求める調達文書にまとめられています。
ブルッキングス研究所の人工知能・新興技術イニシアチブの責任者であるクリス・メセロール氏は、「偽情報に関しては、国防総省は火に油を注ぐべきではありません」と、The Interceptに語っています。「デジタルプロパガンダが世界的に増加している今、米国は、真実と現実の共有概念への支持を高めることで、民主主義を強化するためにできる限りのことをすべきなのです。ディープフェイクは、その逆を行くものです。本物か合成物かにかかわらず、あらゆるコンテンツや情報の信頼性に疑念を抱かせることで、最終的には民主主義の基盤そのものを侵食してしまうのです。"
"偽情報に関しては、ペンタゴンは火と火で戦うべきではありません。"
メセロールは、"ディープフェイクが標的を絞った軍事・諜報活動に活用されるのであれば、その利用は審査と監視の対象となる必要がある "と付け加えた。
2020年にSOCOMの科学技術総局が初めて発表したこの投げ文書は、21世紀の特殊部隊コマンドーのための次世代玩具のウィッシュリストを制定し、レーザー、ロボット、ホログラフ、その他の高度なハードウェアを使って、国の最精鋭兵士がより効果的にターゲットを狩り、殺すためのガジェットや未来型ツールの数々を紹介しています。
昨年10月、SOCOMは新しいセクションを追加したウィッシュリストの更新版を静かに発表した。「軍事情報支援作戦（MISO）で使用する先端技術」、これはペンタゴンの婉曲表現で、世界的なプロパガンダと欺瞞の取り組みのことである。
追加されたパラグラフには、SOCOMが「影響力作戦、デジタル欺瞞、通信妨害、戦術的エッジおよび作戦レベルでの偽情報キャンペーン」を実施するための新しく改良された手段を入手したいという願いが綴られています。SOCOMは、"MISOが影響力作戦を立案・指揮できるように、ソーシャルメディアやローカルメディアなどの公開・オープンソース情報の流れを通じて、異種データを収集する次世代能力 "を求めています。
SOCOMは通常、影で戦っていますが、その公的評価と世界的な足跡は大きく迫っています。陸軍、海兵隊、海軍、空軍の精鋭部隊で構成されるSOCOMは、世界で最も殺伐とした国の最も機密性の高い軍事作戦を指揮しています。
アメリカの特殊部隊は、ネイビーシールズによるオサマ・ビンラディン殺害のような派手な活躍で広く知られていますが、その歴史は、秘密任務、裏工作、妨害工作、混乱作戦の一つです。SOCOMの「次世代」情報操作の野望は、米軍と情報機関の側で行われてきた欺瞞の長い膨大な歴史の一部に過ぎない。
2025年までこれらの能力に関する提案を受け付けている特殊作戦司令部は、コメントの要請に応じなかった。
特殊作戦司令部は、長年にわたり、外国の「影響力作戦」を調整してきたが、こうした欺瞞的なキャンペーンがあらためて注目されている。12月、The Interceptは、SOCOMが内部規定に反してTwitterを説得し、イラン政府がアフガニスタンの民間人の臓器を盗んでいるという主張など、正確性に疑問のある偽のニュースを拡散する偽アカウントのネットワークを許可したと報じた。Twitterを利用した宣伝活動にはディープフェイクは使われていませんでしたが、国防総省の請負業者が機械学習によって生成したアバターを使用して、偽アカウントにある程度の現実味を持たせていたことがわかりました。
SOCOMは、「次世代型」ディープフェイクビデオ（機械学習によって本物そっくりのデジタルビデオを生成する、ますます効果的な方法）の使用によって、こうしたインターネット上での欺瞞行為を強化したいと考えていることが、最新の能力文書で明らかにされています。特殊部隊はこのフェイク映像を使って、「非伝統的なチャネルを通じてメッセージを生成し、作戦に影響を与える」と文書は付け加えています。
ディープフェイクは、これまで娯楽やポルノのネタにされることが多かったが、もっと悲惨な用途に使われる可能性もあるのである。ロシアがウクライナに侵攻した際、ウクライナ大統領Volodymyr Zelenskyyが軍隊に降伏を命じるという粗悪なディープフェイクがソーシャルメディアチャンネルに出回ったことがありました。倫理的な配慮はともかく、紛争下での軍用ディープフェイクの合法性については、依然として未解決の問題であり、SOCOMの文書では触れられてはいない。
外国政府の「偽情報」キャンペーンと同様、米国は過去数年間、ディープフェイクがもたらす国家安全保障上の脅威に対して警告を発してきた。意図的に人を欺くためにディープフェイクを使用すると、それにさらされた民間人に深い不安定な影響を与える可能性がある、と政府当局は定期的に警告している。
しかし、連邦政府レベルでは、外国製のディープフェイクが米国にもたらす脅威がもっぱら話題となっており、その逆はない。以前報道された契約文書によると、SOCOMはディープフェイクを利用したインターネットキャンペーンを検知する技術を求めており、現在、この戦術を独自に展開しようとしているようです。
ディープフェイクに関する言及と同じくらい刺激的なのは、SOCOMが攻撃手段を細かく調整することを望んでいることを示す、その次のセクションであろう。
特殊作戦司令部は、長年にわたり、外国の「影響力作戦」を調整してきたが、こうした欺瞞的なキャンペーンがあらためて注目されている。12月、The Interceptは、SOCOMが内部規定に反してTwitterを説得し、イラン政府がアフガニスタンの民間人の臓器を盗んでいるという主張など、正確性に疑問のある偽のニュースを拡散する偽アカウントのネットワークを許可したと報じた。Twitterを利用した宣伝活動にはディープフェイクは使われていませんでしたが、国防総省の請負業者が機械学習によって生成したアバターを使用して、偽アカウントにある程度の現実味を持たせていたことがわかりました。
SOCOMは、「次世代型」ディープフェイクビデオ（機械学習によって本物そっくりのデジタルビデオを生成する、ますます効果的な方法）の使用によって、こうしたインターネット上での欺瞞行為を強化したいと考えていることが、最新の能力文書で明らかにされています。特殊部隊はこのフェイク映像を使って、「非伝統的なチャネルを通じてメッセージを生成し、作戦に影響を与える」と文書は付け加えています。
ディープフェイクは、これまで娯楽やポルノのネタにされることが多かったが、もっと悲惨な用途に使われる可能性もあるのである。ロシアがウクライナに侵攻した際、ウクライナ大統領Volodymyr Zelenskyyが軍隊に降伏を命じるという粗悪なディープフェイクがソーシャルメディアチャンネルに出回ったことがありました。倫理的な配慮はともかく、紛争下での軍用ディープフェイクの合法性については、依然として未解決の問題であり、SOCOMの文書では触れられてはいない。
外国政府の「偽情報」キャンペーンと同様、米国は過去数年間、ディープフェイクがもたらす国家安全保障上の脅威に対して警告を発してきた。意図的に人を欺くためにディープフェイクを使用すると、それにさらされた民間人に深い不安定な影響を与える可能性がある、と政府当局は定期的に警告している。
しかし、連邦政府レベルでは、外国製のディープフェイクが米国にもたらす脅威がもっぱら話題となっており、その逆はない。以前報道された契約文書によると、SOCOMはディープフェイクを利用したインターネットキャンペーンを検知する技術を求めており、現在、この戦術を独自に展開しようとしているようです。
おそらくディープフェイクについての言及と同じくらい刺激的なのは、SOCOMがインターネットに接続されたデバイスを通じて意図する聴衆をスパイすることによって、一見すると攻撃的なプロパガンダを細かく調整したいと考えていることを示す、その次のセクションである。
この文書は、"Internet of Things（loT）デバイスを『乗っ取り』、現地の人々からデータや情報を収集し、一度受け取ったデータをふるいにかけて、どんなメッセージが人気があり受け入れられるかを分解できるようにする次世代能力 "と説明されており、プロパガンダ対象を盗聴する能力によって、"MISOが、現地住民により受けやすいメッセージを作り、宣伝できるだろう "としている。2017年、WikiLeaksは盗用したCIAのファイルを公開し、家庭用機器にハイジャックするほぼ同様の能力を明らかにした。
ディープフェイク動画の背後にある技術は、安価で強力なコンピュータハードウェアと機械学習における研究のブレークスルーの組み合わせによって拍車がかかり、2017年に初めて登場しました。ディープフェイク動画は通常、個人の画像をコンピューターに送り込み、コンピューターによる解析の結果、その顔の非常にリアルなシミュラークルを別の顔に貼り付けることで作られます。
「社会的な被害をもたらす可能性がある。
ソフトウェアが十分に訓練されれば、ユーザーは対象者が事実上何でも言ったりやったりするリアルな捏造映像を作り上げることができます。この技術の使いやすさと精度の高さは、世界の人々が自分の目で見たものを信じられなくなる時代の到来を危惧させるものである。
フェイスブックのような主要なソーシャルプラットフォームはディープフェイクを禁止するルールを設けているが、インターネットの本質的な流動性と相互接続性を考えると、ペンタゴンが発信したディープフェイクがアメリカ本土に流れ込む危険もある。
アトランティック・カウンシルのデジタル・フォレンジック・リサーチ・ラボのディープフェイク研究者であるマックス・リズート氏は、「もしそれが非伝統的なメディア環境であれば、地元の何らかの権威によって止められたり非難されたりする前に、かなり遠くまで操作されることは想像できます」とインターセプトに語っています。"社会に害を及ぼす能力は確かにある "と。
SOCOMがディープフェイクの偽情報キャンペーンを展開することに興味を持ったのは、近年、国際的な敵対勢力による偽造ビデオやデジタル詐欺に対する国際的な不安の高まりに続くものです。2016年の選挙をデジタルで揺さぶったロシアの取り組みが、意味のある効果をもたらしたという証拠はほとんどないものの、国防総省は後れを取らないように、デジタルプロパガンダ能力を倍増させることに関心を示しており、SOCOMが重要な役割を担っている。
2018年4月の上院軍事委員会の公聴会で、陸軍特殊作戦司令部のケネス・トヴォ将軍は、集まった議員たちに、アメリカの特殊部隊がプロパガンダの格差を縮めるために活動していると断言した。
"我々は、サイ・オプ・オペレーターにかなり多額の投資をしてきた "と彼は言った。"新しい能力を開発し、特にデジタル空間、ソーシャルメディア分析、SOCOMによってフィールド化された様々な異なるツールは、ソーシャルメディア空間を評価し、サイバー領域を評価し、トレンド分析を見て、意見がどこに移動しているか、そして、我々の製品でその環境に影響を与えることができる方法."
軍事的なプロパガンダは戦争そのものと同じくらい古いものですが、ディープフェイクは、その存在が文明的な脅威をもたらす、sui generis技術的な危険として頻繁に議論されてきました。
2018年の上院情報委員会で、国家防諜・安全保障センターの運営に当たるウィリアム・エバニナの指名を議論した公聴会で、マルコ・ルビオ上院議員（フラ）はディープフェイクについて、"これはアメリカや西欧民主主義諸国に対する攻撃の次の波だと思う "と発言した。これに対してエヴァニナは、米国の情報機関がディープフェイクの脅威に対抗するために取り組んでいるとルビオを安心させた。
