私たちの終焉を意味するのは、地球の破壊だけではありません。多くの科学者によれば、私たちが生み出すテクノロジーも潜在的な脅威であると考えられています。研究者たちは、人工知能 (AI) に関する懸念を繰り返し共有しています。しかし、今年ほどこれについて明確な警告が出たことはありません。彼らは現在、人類の終焉がそのような存在形態を通じて起こるという、かなり現実的な確率を与えている。
AIによる人類の終焉？だからこそ可能なのです
「私たちが特定した状況下では、私たちの結論はこれまでの出版物よりもはるかに強力です。実存的な大惨事は可能であるだけでなく、おそらくあり得るのです」とマイケル・コーエン（共著者）は少し前にツイッターで述べた。
Google Deepmind とオックスフォード大学の研究者らによって 8 月末に AI Magazine に発表されたこの研究では、コーエン氏と彼の同僚らは、遅かれ早かれ、機械は限られたリソースやエネルギーを争うルールに従うインセンティブを持つようになるだろうと主張しています。彼らの建設者を打ち砕くために。
したがって、人類の終焉は、私たちを報酬を得るための障害物と見なす「誤った方向に誘導されたエージェント」によって引き起こされる可能性があります。
「エージェントが報酬を長期的に制御するための良い方法は、潜在的な脅威を排除し、利用可能なエネルギーをすべてコンピュータの保護に費やすことです。この試合で負けたら致命的だ。」
「高度な人工エージェントが報酬提供に介入」（AIマガジン）
脱出する方法はほとんどありません
関係する研究者の観点から見ると、このような人類の終焉から逃れる方法はそれほど多くありません。資源が限られていると、必然的に資源をめぐる競争が生じるからです。そして、私たちにとって成功の可能性はほとんどありません。
「そして、いつでも自分を出し抜くことができる何かと競争しているときは、勝つことを期待すべきではありません。」
マイケル・コーエン (共著者、オックスフォード大学)
この脅威に対応するため、研究者らは人工知能技術をゆっくりと慎重に開発することを推奨しています。