スティーブン・カルガノビッチ著：17/06/2024
人工知能は、その影響を完全に評価するのはまだ早いにもかかわらず、当然のことながら大きな論争の対象となっています。
ジョージ・オーウェルが "過去を制するものは未来を制する "と書いたのは的を射ている。人工知能技術の目覚ましい進歩は、彼の言葉を裏付けているように見える。しかし、「現在を支配するものは過去を支配する」という、あまり引用されないが、彼の先見の明のある言葉の残りの部分の正しさも裏付けられている。それもまた、これから見ていくように、確かなことのように思われる。
人工知能は、その影響を完全に評価するのはまだ早いとはいえ、当然のことながら大きな論争の的となっている。しかし、日を追うごとに、その利用の問題点、人によっては極悪非道とさえ言える側面が明らかになりつつある。
人工知能に関する主な懸念事項のひとつは、人間に取って代わり、永続的な従属状態に追い込もうとしていることである。もうひとつは、それが労働者にもたらす危険である。人間の労働者が給料をもらって行っていた作業が、人工知能（AI）と呼ばれるようになりつつある存在によって、最小限の費用で、あるいはまったく費用をかけずに行えることが雇用主によって発見されれば、彼らの仕事はほとんど時代遅れになり、収入は減少または消滅するだろう。
AIの無秩序な普及が、人類を未知の領域へと導いているのは明らかだ。奇妙な例として、最近、米国ワイオミング州のシャイアン市長選にAIが立候補したことが挙げられる。善良で保守的なはずのシャイアンの人々が、投票する資格のある人間の候補者がいないのであれば、幸運である。
. これは、潜在的なAIの応用に無批判に関与する前に、常識的に細心の注意を払うべきレベルのひとつに過ぎない。しかし、インターネット上で急増している、より不吉な別のアプリケーションがある。先ほどの例とは異なり、少なくとも娯楽的なものではなく、警戒と強い不安を引き起こすものだ。
それは「ディープ・フェイク」の出現である。現実を見事に歪曲し、最先端の科学捜査ツールはおろか、補助的でない人間の能力でさえも、その欺瞞を見破ることは不可能に近いほど説得力を持って実行される。
ディープフェイクと呼ばれるようになったものの中に、インターネット上で飽和状態にある特定の邪悪なクラスが出現した。それは、個人の外見を変えたり、現実では決してしないような言動をさせたり、信用を失墜させる目的で危うい状況に陥らせたりするような、通常の迷惑行為を与えることを目的としていない。平凡な個人的な偽物を作り出すのではなく、比較にならないほど大きな害をもたらすことをするのだ。事実と虚構、真実と虚偽の区別を消し去ることで、歴史的記録を意図的に改ざんするのだ。理論的には起こりえたかもしれないが、実際には起こらなかった出来事を捏造することで、無知な人々や騙されやすい人々を惑わすのだ。
ドイツ内戦が勃発したとされる「1963年10月」のCBSのニセニュースはその一例だ。すべてが印象的なほどリアルだが、これは偽りの歴史であり、まったくのでっち上げである。伝説的なCBSアナウンサー、ウォルター・クロンカイトが読み上げる「ニュース放送」の根底にあるメッセージは、ドイツは第二次世界大戦で敗北したのではなく、ヨーロッパの支配、東洋における実質的な征服、アフリカ植民地の回復など、主要な戦争目的を達成したというものだ。この誤ったシナリオによれば、第二次世界大戦で敗北し、東方、おそらくはウラル山脈の反対側に撤退せざるを得なかったのはロシアである。おそらく自然死と思われるヒトラーの死後、彼の副官たちの間で権力闘争が起こる。勝利した」ドイツは、アメリカでさえ敵対することを恐れる強固な核保有国として描かれている。
このでっち上げられたシナリオに興味をそそるほど現実的なタッチを加えているのは、ドイツの指導者であるヒトラーが1960年代初頭に亡くなることである。歴史に疎い人のために、1964年の架空のドイツ内戦についてさらに詳しく説明しよう。
筆者は、ウォルター・クロンカイトがアメリカで「最も信頼されるジャーナリスト」として影響力の絶頂にあった1960年代のCBSのニュース放送を思い出す。現代史の確かな知識に加え、クロンカイトの風貌や語り口、独特の声の音色も思い出す。それらの点で、このフェイク・ビデオクリップは気の遠くなるほどリアルである。これと似たようなものがまだ持っているかもしれない欠点は、人工知能技術のさらなる向上によってうまく解決されるだろう。
しかし、歴史的事実の知識に基づいて、偽物を見分けられる20歳の若者が今どれだけいるだろうか？いや、大人でもそうだろうか？視聴者のコメントには、この偽の「ニュース番組」に感銘を受けたという人や、何十年も前に放送されたはずの「ニュース番組」を見た覚えがあると言う人も少なくない。しかし、もちろんそれは全くのナンセンスである。集団思考による偽の記憶である。集団形成とは、ベルギーの心理学者マティアス・デスメットの呼び名である。彼らは1960年代にこれを見ることはできなかったはずだ。人工知能がクロンカイトに発表させたように見える出来事は実際には起こらなかったし、実際彼はそれを報告したこともない。
前の偽の報道で確立されたテーマを発展させ、AIによって作られた偽のクロンカイトは、別の偽の「ニュース番組」で、敗北したロシア軍が架空の将軍の指導のもとに復活し、ドイツの保有する領土に侵攻していると報道する。フィルムの映像では、不吉な響きを持つ「国民再生政府」の復活したロシア軍が、核兵器を装備し、ロシアが主張する西側の領土を占領しようとしている。低迷していたロシアが、反乱主義者の新政府の下でかつての力を取り戻し、西側にある資産を取り戻そうとしている。
この場合も、この架空のシナリオの荒唐無稽さに視聴者全員がすぐに気づいたわけではない。どうやら、またしても誤った記憶を呼び覚ましたようだ。ある視聴者はこう書いている。高校を卒業する直前だった。怖かった。終わってよかった。"
しかし、これはもちろんでたらめだ。そんなことはなかったのだから、覚えているはずがない。
このような捏造が横行しているのは、決してドイツとロシアだけではない。悪意を持って再構成された歴史は広範囲に及び、その行く手にあるものすべてを無慈悲に歪め、改ざんする。ここではモンゴメリー元帥が第二次世界大戦末期に連合国の枢軸国への降伏を痛烈に宣言し、レーガン大統領がアメリカを解体し、イタリア・トルコ戦争さえもこのような歴史の茶番劇に登場する。
このようなリアルな史実の捏造を、無害な娯楽として片付けるのは重大な間違いである。それは人間の心の高潔さに対する攻撃である。この残酷な過去の再構成は、現在を生きる人々の意識を再構成し、認識を方向転換させる役割を果たす。
直接の経験から、あるいは幸運にも受けた確かな教育の助けを借りて、こうした虚偽を見抜くことができるかもしれない旧世代の仲間は、急速に減っている。後継世代への伝統的な文化伝承の仕組みは、事実上封鎖されている。意図的に無教育、無知に育てられ、このような、あるいはたまたま触れた他のどんな屑に対しても危険なほど脆弱な、操られやすい子孫の空虚さと知的無力さを打ち消す資源は、今日、ほとんど手元にない。
本ではなく、ビデオゲームやiPhoneが当たり前の環境であるこの哀れな若者たちの中に、人工知能の見えざる支配者たちが彼らの気をそらし、奴隷にしようと決めた、歴史を粗雑に書き換えた嘘も含めた嘘を見抜き、それに対抗するために必要な事実や議論をまとめ上げることができる者がいるだろうか？
