大規模な AI システムの開発を 6 か月間停止することを求める公開書簡に、テクノロジー、特に人工知能 (AI)の分野の著名な専門家のグループが署名しました。署名者には、ユヴァル・ノア・ハラリ氏、スティーブ・ウォズニアック氏、イーロン・マスク氏などの有名人が含まれています。
人工知能：研究者がリスクを警告
非営利団体Future of Life Instituteが公開したこの書簡は、機械学習システムの開発によってもたらされる「社会と人類に対する深刻な危険」について懸念を表明している。これらのリスクは、これらのシステムが人間の理解、予測、制御を超えている場合に特に高くなります。
署名者は、すべての人工知能研究所に対し、 GPT-4よりも強力なトレーニング システムを停止するよう求めています。一時停止は公開され、検証可能であり、すべての主要な関係者が参加する必要があります。一時停止をすぐに制定できない場合、政府は一時停止を導入すべきである。
「AI ラボと独立した専門家は、この一時停止を利用して、独立したサードパーティの専門家によって厳密にレビューおよび監視された、高度な AI 設計および開発のための一連の共通セキュリティ プロトコルを共同で開発および実装する必要があります。」と彼らは書いています。
再考が必要
この書簡が現在の AI 研究環境に直ちに影響を与える可能性は低い。テクノロジー企業は新製品の導入を急いでいますが、多くの場合、セキュリティや倫理を犠牲にしています。しかし、これは抵抗の高まりを表しており、AI セキュリティに関する政策措置につながる可能性があります。
一時停止を求める声は、離職、データ侵害、自律型兵器の可能性など、AIの潜在的なリスクに対する懸念を反映している。人工知能は社会に多大な利益をもたらす可能性を秘めているが、署名者らは、大規模なシステムを開発・導入する前に、こうしたリスクに対処する必要があると主張している。
「人類はAIによって豊かな未来を経験することができます。強力な AI システムの作成に成功した私たちは、その恩恵を享受し、すべての人の明らかな利益のためにこれらのシステムを開発し、社会に適応する機会を与える「AI 夏」を楽しむことができるようになりました。社会は、社会に壊滅的な影響を与える可能性のある他のテクノロジーの利用を一時停止しました。ここでもそれができます。準備をせずに秋に突入しないように、長い AI の夏を楽しみましょう。」
巨大AI実験の一時停止：公開書簡
署名者は誰ですか?
- ヨシュア・ベンジオ氏、ミラの創設者兼科学ディレクター、チューリング賞受賞者、モントリオール大学教授
- スチュアート・ラッセル、バークレー、コンピューターサイエンス教授、インテリジェントシステムセンター所長、標準教科書「Artificial Intelligence: A Modern Approach」の共著者
- イーロン・マスク氏、スペースX、テスラ、ツイッターのCEO
- スティーブ・ウォズニアック、アップル共同創設者
- ユヴァル・ノア・ハラリ、作家、エルサレム・ヘブライ大学教授
- アンドリュー・ヤン、前進党、共同議長、2020年米国大統領候補、NYTベストセラー作家、グローバル起業家精神のための大統領大使
- コナー・リーヒ、マネージング・ディレクターの推測
- Jaan Tallinn氏、Skype 共同創設者、Future of Life Institute 実存的リスク研究センター
- エヴァン・シャープ、Pinterest 共同創設者
- クリス・ラーセン、リップル共同創設者
- Emad Mostaque 氏、Stability AI マネージング ディレクター
- ヴァレリー・ピサーノ 氏、MILA 社長兼 CEO
- ジョン J. ホップフィールド、プリンストン大学、名誉教授、連想ニューラル ネットワークの発明者
…その他、業界および研究分野の 1,110 名の偉人が参加します。
出典：「巨大AI実験の一時停止：公開書簡」（Future of Life Institute、2023年）