物議を醸している科学者は、ブルームバーグ形式「AI IRL」でモデレーターのネイト・ランクストン氏とジャッキー・ダバロス氏に人工知能（AI）の現状と将来について語った。同氏は技術開発に対して前向きな言葉はなかった。彼の目には、それは人類の滅亡にさえ繋がると映る。
AIによる人類の終焉：「私たちは自分たちが何をしているのか分からない」
AI の開発と多くの人々の日常生活への統合が勢いを増し続けている一方で、一部の専門家やテクノロジーリーダーは潜在的な危険性について長い間警告してきました。これには、人類の終末がすでに始まっていると考えるユドコウスキーも含まれる。少なくともそれが、「AI ドゥーマー」として紹介された専門家がブルームバーグとの会話で説明したことだ。
「私たちがいる場所はエキサイティングです。それよりも、どこに移行するかがはるかに重要です。GPT-2、GPT-3、GPT-4 と移行しました。 GPT-4 により、私たちが興味深い方向に進んでいることが多くの人に明らかになりました。予想よりも少し進みました。そして GPT-5、GPT-6、GPT-7 はどうなるでしょうか。たとえそのテクノロジーが次のテクノロジーの波を遅らせたとしても…それは私たちよりも賢くなると思います。まだ準備ができていないと思います。私たちは自分たちが何をしているのか分かっていないと思います。そして私たちは皆死ぬことになると思います。」
専門家がどのようにして人工知能の脅威を国民に真剣に受け止めてもらうことができるかとの質問に対し、ユドコウスキー氏は、人々はChatGPTのようなプログラムを通じてAIの初期バージョンが実際に動作しているのを見る必要があると述べた。「ChatGPTを見た後、人々はこう言いました。これは映画ではありません。これは本当です。これが起こり始めています。 「ああ、こいつは明らかにまだ全員を殺すほど賢くないから、そんなことはありえない」と思った人もいた。人々が気づかないような形でそれが起こるとは想像できません。」
進歩はい、AI いいえ
ユドコウスキー氏は、実験と進歩にはおおむね賛成だとしながらも、原子力技術とは異なり、AIは人類の終焉をもたらす可能性があると警告した。ほんの小さな間違いでも、悲惨な結果を招くのに十分です。
「人工知能や生物学の機能獲得研究に関して言えば…それらはちょっとした間違いを犯す分野であり、おそらく誰もが死んでしまったのでそこから学ぶべき人は誰も残っていないのでしょう。これは別の特殊なケースだと思います」と彼は言った。
AI に関して後戻りできない点があるのかと尋ねられたとき、ユドコウスキー氏は次のように弱々しい慰めを与えた。命のあるところには希望もあります。私たちは皆、明日起きて、これをやらないことを決めるかもしれません。それはあまり期待できません。私には、これを理由に人類が自殺しないと独断で決めるつもりはありません。それを決めるのは私の仕事ではありません。」