Artificial Intelligence, Creeping Unreality, and Related Horrors – Fred on Everything
フレッド・リード著：06/05/2023
5月6日-リード・ゴンザレスの旅するサーカスは、太平洋岸のサン・カルロスへ友人を訪ね、およそ2週間、暖かい水と赤ワインに浸るが、最初に捕まって絞首刑にならなければ、帰国後に扇動と名誉毀損を更新するだろう。一方、人工知能について少し考えてみた。最近、他の種類の人工知能があるのかどうかは、未解決の問題です。私がこの問題の第一人者でないことは明らかだが、いくつかの疑問は普通の人間の手に負える範囲にあるように思える。技術的にはAIではないが、関連するねじれた技術も含まれる。 まず、ウェブ上で騒がれているのは、自然で自然な抑揚のある声で、説得力のある、しかし詐欺的なビデオを作ることが、便利なことに可能になったからです。ヒラリーがティファナのナイトクラブでウシと仲良くしているビデオを作るかもしれない。もっと深刻なのは、トランプが武力で政府を転覆させようとしたことを自白させることだろう。中国は、このような人工的な映像には、そのように表示することを要求しているという。 次に、シェイクスピアやマーク・トウェインなど、さまざまな作家のスタイルでエッセイを書くことができるChatGPTです。これはかわいらしく聞こえますし、実際そうなのですが、意味があります。その結果、子供向けの本を中心に、かなりの数の本がChatGPTによって書かれ、Amazonで販売されるようになりました。疑問が生じます。これらの書籍は、そのように表示されるべきなのか？人間の作家を廃業に追い込むことになるのか？ここで、この種のソフトウェアが最初の黎明期にあることを思い出す価値があります。10年後...？ ChatGPTにトウェイン風の物語を書かせるとしたら、それは思慮深く教養のある人のためのもので、不穏な感じがしますが、巧妙なトリックに過ぎません。しかし、ハリー・ポッターの作者風に書かせたら、彼女の本とうまく競合しないだろうか？著作権は彼女や出版社にあるが、キャラクターや作風はどうなのか。 これは本当に問題だと思う。聞くところによると（イタチごっこのようですが、私はこのようなことの詳細を調べたわけではありません）、ある団体がChatGPTに、ある有名なラッパーのスタイルで曲を作らせ、音声模倣ソフトに、そのラッパーの声で、別の名前で、それを演奏させたそうです（たしか）。
このことは、不穏な可能性を示しています。エルヴィスが死から蘇り、彼の声とスタイルでChatGPTが書いた曲を歌うことができる。ヒラリーがハウンド・ドッグを歌うこともできるし、マリア・カラスが歌うこともできる。さて、私は楽しんでいますが、芸術的なパフォーマンスのあらゆる側面が容易に捏造されるようになってきているようです。このようなソフトウェアがますます身近になり、簡単に使えるようになったとき、ワーナー・ブラザーズはどのようにしてティーンエイジャーが模倣品で市場に溢れるのを防ぐのでしょうか？ 次に、出版物のコピーの多くがソフトウェアで書かれていることは、周知の事実です。その「多く」というのがどういう意味なのかはわからないが、私はロボで書かれたアウトプットを読んだことがあるが、それは普通の品質だった。ChatGPTのような大規模言語モデルが進歩すれば、ますます洗練されたコピーが作成されるでしょうし、すでに驚くほど優秀です。LLMが10秒で書き上げるような記事を、新聞社が人間のライターに多額の年俸を支払って何時間もかけて書かせるでしょうか？ また、「iPhoneを持った3人のコマンチ族の戦士」や「バイキングの戦車」と入力すると、雑誌に掲載するのに十分なクオリティの画像を生成してくれるテキストtoイメージソフトも登場している。少なくとも私が依頼した画像は、漫画的でもなく、無個性でもない。これだけのものが開発された初期段階でも、賢い編集者なら、アーティストもライターもいない雑誌を一冊作ることができるのではないだろうか。 Siriのようなコンピュータの音声は、自然で、自然な抑揚があるように聞こえます。コンピュータは、今や話し言葉をよく理解するようになりました。私は、近い将来、小さな子どもたちが会話をする玩具が登場することになるだろうと思う。そして、最近では間違いなく、適切な価値観が植えつけられるでしょう。 AIは本当に何も理解していない、という意見もあります。しかし、コンピューターが理解することを示すことができれば、当然、理解することができます。もし私がiPhoneに向かって「ヘイ、シリ、おばあちゃんに腕の代わりに羽があったら、鳥のように飛べるのに」とスペイン語で言ったらどうなるでしょうか？Siriは完璧に翻訳し、仮定法も条件法も理解します。これは単純な置き換えではなく、言語では通用しないことなのです。コンピュータ翻訳は、今やほとんどの用途で人間に取って代わることができるほど優れているのです。このコラムがUnz Reviewに掲載されていた頃、私は時々、サイトに組み込まれた翻訳ルーチンを使ってスペイン語に翻訳したことがある。誤訳を発見することはほとんどなかった。
ここで、あまり触れられることのない側面が見えてきます： AIは従業員を置き換えるだけでなく、誰もやり方を覚えていないために、その仕事をすることができない人間を残す可能性があります。もしAIが即座に、少なくとも人間と同じようにストーリーを書くことができれば、書くことを学ぶために時間と労力を費やす人はほとんどいないでしょう。AIが胸部レントゲンを人間より上手に読み取ることが報告されています。これは、病院がこれらのX線写真をクラウド上のX線読取装置に送り、放射線科医を失業させることを意味するのだろうか。AIが人間よりも早く、間違いの少ない税理士業務や法律調査を行うことができるのであれば、なぜ誰もこれらのことを研究するのでしょうか？ 最近、中国が、どうやらアメリカもそれほど遅れていないようですが、AIだけで操縦する戦闘機を有人戦闘機と戦わせました。どちらが圧倒的に勝ったと思いますか？コンピュータは本質的に瞬時に反射し、数学的な判断を下すので、これは驚くべきことではない。AIが操縦する飛行機は、有人機よりもはるかにコストが低く、はるかにシャープな操縦が可能で、殺されるパイロットがいないため、危険なことをするのにも使える。
AIの中でも特に興味深いのは、ディープラーニングと呼ばれる分野です。ディープラーニングは、人間の脳細胞のように働く人工ニューロンの層に依存し、フィードフォワード、バックプロパゲーション、エラー関数、確率的勾配降下など、多くの技術的な要素を含んでいます。その結果、膨大な量のデータを与えれば、ある種のがんにかかりやすい人や、ローンを返済しやすい人など、役に立つことがわかるようになります。しかし、もしそれが融資担当者の代わりになるのであれば、いつの間にか融資希望者を判断できる人がいなくなる。お金もないでしょう。 ニューラルネットワークの不安な点は、正解かどうかはわかるが、どうやったかはわからないということだ。Pythonやアセンブリ言語のような従来のプログラミング言語では、プログラムを一歩一歩進めて、何をどう判断したかを確認することができます。しかし、ニューラルネットワークの場合、そうはいきません。どのように判断したのかがわからなければ、他の状況下で思いもよらないことをする可能性もあるのです。
ある研究グループが、ジャーマン・シェパードとハスキーの区別がつくようにニューラルネットを学習させたことがあるんです。そのために、2つの犬種の写真を大量にネットワークに与えたところ、非常に早く見分けがつくようになったので、大いに喜んだ。ところが、ハスキーは雪原、ジャーマンシェパードは草木を背景に撮影されていることが判明した。ネットワークは、白と緑の区別がつくようになったのです。 さて、サンカルロスで暖かい海と赤ワインを楽しむとしよう。もし、帰国後、自分がソフトウェアに置き換えられていることに気づいたら、街角で「食べ物のために名誉毀損と反乱を起こします」という看板を掲げて座り込みます。
