人工知能 (AI) とそれに関連する潜在的な危険性が今日激しく議論されているという事実には、オックスフォード大学の哲学者ニック・ボストロムの貢献が大きい。 2014年末に彼は著書『Superintelligenz』をSuhrkamp Verlagとともに出版しました。その中で彼は、超知能革命とその結果がどのようなものになるかについて考えられるシナリオを概説しています。
広告: ボストロムの本はここから購入できます。
世界トランスヒューマニスト協会の共同創設者である思想的指導者である彼は、人類はテクノロジーの助けを借りてその限界を克服できると今でも信じています。 mirai.click のインタビューで、ボストロム氏はテクノロジーの未来に何を期待しているかを説明しています。
mirai.click: 技術開発に関して、あなたは楽観主義者ですか、それとも悲観主義者ですか?
Nick Bostrom:私はテクノロジー開発の将来について希望と不安の両方を持っています。
人工知能の開発に関する彼女の影響力のある著書は現在 3 年前に出版されています。この本が出版されて以来、この分野で何が起こったのでしょうか?
テクノロジーの発展は私たちが思っているよりも早く進んでいます。特に機械学習の分野は爆発的に拡大しました。したがって、タイムラインはおそらく私たちがこの本で考えていたよりももう少し積極的です。
しかしそれ以来、AI 研究における潜在的な危険性についての議論も行われており、それは前向きなことです。それまでは、この話題は無視されていました。さらに、AI の制御の問題を扱う新しい研究分野も登場しています。現在、人間の利益に合わせて AI システムを開発する方法を扱った技術記事があります。
より積極的なスケジュールとは何ですか?
技術開発の予定スケジュールにはまだ多くの不確実性が残されていると思います。将来の展開を予測することに関して、人々はあまり良い実績を持っていません。考えられる開発パスの確率分布は、以前よりも少し狭く定義されていると思いますが、それでもまだ境界が曖昧です。しばらく様子を見る必要があると思います。
多用途の人工知能の開発はおそらく夢のままでしょうか?
本当に「インテリジェント」というラベルに値する AI が開発されないシナリオも考えられます。たとえば、人類がそれが起こる前に、自らの過失や大惨事によって滅亡する可能性はあります。しかし、他のすべてのケースでは、それはより困難になります。科学技術が自由に発展できるなら、機械基板上でのインテリジェントな学習システムの開発は避けられないと思います。もちろん、私の世界観全体が間違っているなら、私も間違っている可能性があります。このリスクは常に存在します。
今日の政治や社会にとって、技術の進歩は速すぎますか?
これは実に憂慮すべきことである。テクノロジー、文化、政治は常に相互に影響を及ぼします。したがって、どのシナリオが望ましいかを推定することは非常に困難です。場合によっては、政治と社会がより多くの時間を確保できるように、発展を遅らせることが有益である可能性があります。それにもかかわらず、100 年前の世界と比較すると、今日の世界はテクノロジーの発展のおかげでもあり、はるかに安定しています。
一部のテクノロジーの開発が加速され、他のテクノロジーの開発が減速した方が人類にとって良いかもしれません。このような差別化された開発は、社会に役立つ進歩を特に促進することに焦点を当てることができます。これにより、望ましい一連のテクノロジーが生み出されることになります。
実際にはどうなるでしょうか?
これは研究資金の中にすでに存在しています。特定の研究への資金提供は、たとえば、できるだけ早く開発したいがんに対する治療薬などの開発速度に影響します。しかし今日では、すべてが管理されておらず、あまり戦略的な計画を立てずに、クールに見えるテクノロジーが推進されています。それは変えられるかもしれない。問題の科学者にとって、熱心な研究に対する最も重要な動機は、多くの場合、変化をもたらしたいということです。立ち止まって何が役立つかを考えることは理にかなっています。
研究者は責任をとるべきなのでしょうか？
共有すべき責任は十分すぎるほどあります。組織、規制当局、政府、その他の利害関係者も、人類の実存的リスクを最小限に抑える研究の支援にもっと気を配る可能性がある。
今日、技術開発は多くの場合、大企業に利益をもたらします。それは問題ですか？
現在、民間部門が引き継ぐのは通常、技術開発の最終段階である商業化です。基礎研究には公的部門から資金提供されることがよくあります。しかし、科学技術の発展は誰にもコントロールされるものではありません。基本計画というものはなく、多数の異なる関係者が異なる利益を追求しています。
テクノロジーは私たちの問題を解決してくれるのでしょうか？
今日、私たちはほとんどの場合、科学技術は基本的に良いものであると考えています。この考えに対する抵抗はほとんどありません。このプールに注ぐ量が多ければ多いほど、社会にとって良いことになると言われています。見落とされがちなのが、社会に悪影響を及ぼす可能性のある発展が存在する可能性があるということです。
市場の論理は、多くの技術開発の目標である効率の向上という概念に深く根付いています。将来的には誰もが進歩の恩恵を受けるのでしょうか?
分配の問題は今日すでに重要であり、熱心に議論されています。これは将来的にも重要な役割を果たします。しかし、私はすべての人にとって物事をより良い方向に変える問題に焦点を当てています。私が言いたいのは、ケーキをどのように分けるのが最適かということではなく、将来もケーキが存在することを保証することです。
この記事はもともと mirai.click に掲載されたものです。