Douglas Hofstadter は、現在インディアナ大学で働く物理学者、コンピューター科学者、認知科学者です。 1979 年の著書「ゲーデル、エッシャー、バッハ」の中で、彼は意識などの複雑な現象が最も単純なプロセスからどのように生じるかをわかりやすく面白い方法で説明しました。この本は 1980 年にピューリッツァー賞を受賞しました。
研究者として、彼は特にコンピュータープログラムによる思考の研究に取り組みました。ホフスタッター氏は人工知能にも取り組んでいます。 mirai.click のインタビューの中で、彼は学習機械の分野における進歩がキャリアの初期よりも今の方が心配している理由を説明しています。
mirai.click: 現在は何を研究していますか?
ダグラス・ホフスタッター: 私たちは人間の思考のコンピューターモデルを作成しようとしています。私たちは、たとえば文字のグループで構成される単純なミクロ世界の中を移動します。私たちはこれを使用して、人間の思考の基本的な構成要素であるアナロジーを調べます。脳は、たとえば特定の単語を選択するために毎秒類推を使用します。これは、他の人がこの言葉を使用した状況と類似しています。これが人が学ぶ方法です。私たちのミクロの世界では、「ABC が ABD になる」という順序を与え、PPQQRRSS がどのような順序になるかを尋ねます。いくつかのオプションがありますが、いくつかは他のものよりも優れています。アナロジーでは美学が大きな役割を果たします。私たちはそのような課題を解決するプログラムを開発します。
あなたはインテリジェンスというテーマに長い間取り組んできました。アプローチは変わりましたか？
1977 年に大学で働き始めたとき、私は自分のことを AI 研究者だと言いました。数年後、私はもう自分のことをそう呼んでいなかったでしょう。研究分野が変わりました。私にとって、人間の思考を模倣することは常に重要でした。しかし、多くの同僚にとって、それは決して目標ではありませんでした。彼らはそれに興味がなく、手っ取り早い成功を求めていました。 1997 年にディープ ブルーがチェスでカスパロフに勝ったとき、私は悲しかったです。少なくとも、このプログラムは人間の思考とは何の関係もありませんでした。それは純粋にコンピューティング能力に依存していました。もし本気で考えるプログラムがグランドマスターを倒していたら、私はもっと大きな打撃を受けていただろう。
AI システムは学習できますが、子供よりも遅いです。ここでの決定的な違いは喜びと感情なのでしょうか？
人工知能には感情がまだ欠けています。しかし、このままである必要はありません。おそらく、より優れたプログラムではこれが自然に起こるでしょう。マシンに目標を与えることができます。ディープ・ブルーにとって、それは王を倒すことだった。しかし、それは人々を動かす感情からはまだ遠いです。
あなたはすでに著書「ゲーデル、エッシャー、バッハ」の中で、知能と機械におけるその表現を扱っています。進捗状況をどのように評価しますか?
この本の中で、私はとりわけボンガードのパズルについて話しました。元大学院生が、それほど多くはありませんが、これらのいくつかを解決できるプログラムを書きました。人間にとっては簡単なこと、あるいはもう少し難しいことでもコンピューターが失敗すると、私はいつも嬉しくなります。この差はしばらく存続してほしいと思います。私はここ数年の進歩に非常に動揺しています。それは私を悲しくさせ、不安にさせます。
現在、AIの研究には多額の投資が行われています。しかし、人間の思考には焦点が当てられていないようです。
違う見方をする人もいるでしょう。たとえば、最も重要な AI 研究者の 1 人であるジェフリー ヒントンです。彼は「ディープラーニング」の概念を発明し、この機械学習は人間の思考を模倣していると主張します。この観点から見ると、人工ニューラル ネットワークは人間の脳に似ています。 Alpha Go や自動運転車など、これらのプログラムがいかに優れているかは非常に印象的です。私たちが人間の知性を真に複製することからどれだけ離れているかはわかりません。
Alpha Go は印象的ですが、プログラムの学習は遅く、人間ほど直観的ではありません。
プログラムがパターンを認識できる場合、ある意味では直観力も備えていることになります。私はこうした人工的なネットワークのファンではありませんが、嫌いなものを守らなければならないという奇妙な立場にいます。 90年代に、ショパンやバッハなどの作曲家のスタイルを模倣して音楽を作曲したデヴィッド・コープの「エミー」というプログラムを発見しました。非常に多くの場合、結果はばかげたものでした。しかし、いくつかの作品は非常に印象的でした。私はエミーが大嫌いでしたが、科学的に正直であるために、講義をするときにチューリングテストのようなものを行いました。ピアニストにいくつかの曲を演奏してもらいました。バッハやショパンの曲もあれば、エミーの同じスタイルの曲もいくつか弾いてもらいました。その後、観客はどれが「本物」であるかを投票する必要がありました。そして時には聴衆が間違っていることもありました。
人間とAIの違いは量的なものだけなのでしょうか？
それは分かりません。質的な違いもあると嬉しいです。 20～30年前、私はAIは常に人間の知能よりも弱いと確信していました。それは私にとって公理でした。その後、エミー賞からディープ・ブルー、自動運転車に至るまで、奇妙なことが起こりました。いつもショックでした。私たちはまだ人間の思考に到達していませんし、そこからはまだまだ遠いところにあると思います。しかし、私は以前ほど確信がありません。
ほとんどの AI 研究者は、根本的なハードルを認識していません。神経科学者はさらに懐疑的で、プログラムで脳を模倣するには脳についてあまりにも知識が少なすぎると言っています。
ここのコンピューター科学者がより楽観的であるという事実、または私の意見ではより悲観的であるという事実は興味深いです。神経科学者は自分たちが思考を理解していないと考えています。彼らは脳については詳しく理解していますが、思考は別のものです。コンピューター科学者にとってはその逆で、自分たちは十分に知っていると信じています。現在、彼らは対応する特性を持つネットワークを作成しようとしています。多くの分野で、これは非常にうまく機能します。
思考を模倣する試みでどのような進歩がありましたか?
ABC ミクロワールドの小さな問題を解決することが重要な目標でした。しかし、人々がそのような問題について話すとき、プログラムが知らない用語がたくさん使われていることに私たちはすぐに気づきました。例えば「コンセプト」や「アナロジー」。これは後続のバージョンで変更されました。その後、プログラムは、たとえば、ある回答が代替案よりも優れている理由を説明できます。また、密接に関連する問題に解決策を適用することもできます。しかし、自己完結型のミニ世界であっても、さまざまなレベルの複雑さが存在します。私たちは進歩し、取り組み続けていますが、依然としてこの小さな世界の狭い範囲内にあります。
これはAIシステム全般にも当てはまるのではないでしょうか？
問題は、スモールワールドとは何かということです。自動運転車は、犬、猫、子供、酔っぱらいがいる現実世界で動作します。それは印象的ですね。これらのシステムは常に改良されているため、その限界がどこにあるのかを言うのは困難です。
AIが怖いですか？
一方の軸に時間を、もう一方の軸に知能をとったグラフを描くと、人間の知能は一定であり、水平線になります。 30 年前、AI がこれに漸近的にアプローチしているのを見ましたが、それは、ある時点で私たちを追い越す上昇直線になる可能性もあります。当時、私はコンピューターが私たちを追い越すことは決してないと確信していました。自動運転車などの発展がチェスの発展と同じだったら、それは恐ろしいことだ。私は人間の知性、たとえばバッハ、ショパン、プーシキンを賞賛しますが、素晴らしい作品を作成したり、科学的発見をしたりするプログラムは見たくありません。
イーロン・マスクやスティーブン・ホーキング博士のような人々は、機械の支配について警告しています。
この人たちは何を知っているのでしょうか？彼らは専門家ではありません。
AIを圧倒することよりも、人間が美しいものを生み出す優位性を失うことのほうが怖いということですか？
どちらも私にとって恐ろしいシナリオです。レイ・カーツワイルやハンス・モラヴェックのような人も特異点について話しています。そこには愚かな人々は存在せず、マスクやホーキング博士とは異なり、彼らはコンピューターを本当に知っています。しかし、彼らにとって特異点は素晴らしい出来事であり、大成功です。
技術的特異点が起こる可能性はどのくらいだと思いますか?
それらを除外することはできません。私たちは、水中で、そして陸上で、1 つの細胞、複数の細胞、植物、動物など、進化のさまざまな段階を見てきました。なぜ新しいものがあってはいけないのでしょうか？それはもちろん可能です。それがすぐに起こらないことを祈るばかりです。
ゲーデル、エッシャー、バッハでは、再参照が知性の重要な要素であると特定しました。これはAIの発展に影響を与えましたか？
ニューラル ネットワークを開発した人々が私の影響を受けたとは言いません。私の意識の定義はネットワークの特性とは何の関係もありません。たとえば、私は自分自身の特徴、恐れ、希望、好みを認識することができます。私は自分自身を観察し、自分が誰であり、どのような存在であるかの感覚を養います。この私自身のモデルは、脳内の個々の細胞を含めることができないため非常に単純ですが、それでも非常に役に立ちます。これまでのところ、コンピュータには「私」という感覚がありませんが、それは考えられないことではありません。しかし、私は怖がらせるようなプログラムを開発したくありません。私のレベルには達してほしくない。
この記事はもともと mirai.click に掲載されたものです。