AIはどこまで進むのか

――アンソロピックCEOが訴えた「AI減速論」を考える

　人工知能（AI）の進歩が止まりません。今まで人類が解けなかった数学の難問を苦も無く解いてしまうAI。医療の世界ではより精度の高い画像解析技術で発見の難しい癌の早期発見。指定された内容で画像の作成技術。外国語の正確な同時翻訳の技術。難解な数理計算のプログラム作成。膨大な資料の分析と予測。さらに最近では、人間から目的を与えられると、AI自身が手順を考え、いくつもの作業を同時に進める「AIエージェント」も急速に発達しています。そんなAI業界から、いま非常に興味深い声が上がりました。

　AI企業Anthropic（アンソロピック）のCEO、ダリオ・アモデイ氏が、最先端AIの能力向上について「安全対策が追いつく時間を確保するため、開発速度を意識的に調整する必要がある」と訴えたのです。

■「AIを止めよう」という話ではない

　ここで誤解してはいけないのは、アモデイ氏が「AIの研究をやめよう」と言っているわけではないことです。むしろアモデイ氏は、AIが医療や科学、経済などを大きく発展させ、人間の生活を豊かにする可能性を強く信じています。問題にしているのは、「AIの能力が向上する速度に、安全対策が追いついているのか」という点です。自動車にたとえてみましょう。どんどん速いエンジンを開発する一方で、ブレーキやハンドル、安全装置の改良が追いつかなかったらどうなるでしょう。速く走れること自体は素晴らしい。しかし安全に止められなければ危険です。現在のAIにも、それと似た問題が起き始めているのではないか。これがアモデイ氏の問題提起なのです。

■AIが「次のAI」を作る時代

　特に注目したいのが「再帰的自己改善」と呼ばれる現象です。簡単に言えば、AIが、さらに優秀なAIを作るための研究開発を手伝うということです。人間だけがAIを改良していた時代なら、進歩する速度にもある程度の限界がありました。ところがAI自身がプログラムを書き、研究を補助し、次のAI開発を加速させるようになると、AIがAIを改良することになり、改良されたAIがさらにAIを改良する、そしてそのAIがさらに次のAIを作るという循環が生まれる可能性があります。アモデイ氏は、こうした動きがすでにAI業界で始まっていると指摘しています。

■「6～12カ月」という警告

　さらにアモデイ氏はかなり強い警告を発しています。現在のような急速な能力向上が続けば、今後6～12カ月ほどで、高度なAIエージェントの集団がインターネット上で非常に大きな被害を引き起こせるほどの能力を持つ可能性がある、という趣旨の懸念です。もちろん、これは予測です。「半年後に必ずそうなる」という意味ではありませんが、重要なのは、AI開発の最前線にいる人物自身が、ここまで強い危機感を表明していることでしょう。

■アモデイ氏が提案した三つの対策

　では、いったい、どうすればよいのでしょう。アモデイ氏は大きく三段階の考え方を示しています。

第1は、第三者による安全評価です。

　AI企業の内部に独立した評価者が継続的に入り、完成したAIだけでなく、開発過程や安全対策まで検証できる仕組みを作るという考えです。

第2は、主要AI企業や民主主義国の間で共通の安全基準を作ること。

第3は、さらに難しい問題ですが、世界的な協調です。

　AIには国境がありません。一つの国だけが開発速度を抑えても、別の国が猛スピードで開発を続ければ競争上の問題が生じます。したがって最終的には国際的なルール作りも必要だというわけです。

■ライバル企業からも賛同の声

　興味深いのは、この問題提起に競争相手からも賛同する声が出ていることです。OpenAIのサム・アルトマン氏やXAIのイーロン・マスク氏らも、安全性を重視してAIの進歩の速度を調整するという方向性に支持を表明しました。普段は激しい開発競争をしている企業のトップたちが「少し速度を考えよう」と言い始めたことには大きな意味があります。

■しかし「減速」にも問題がある

　私は基本的にアモデイ氏の問題提起には賛成です。ただし、「AI開発を遅らせればすべて解決する」という単純な話でもありません。AIには大きな恩恵があります。医療では新薬開発や診断支援、科学では新しい物質や技術の発見、教育では一人ひとりに合わせた学習支援、高齢社会では生活やコミュニケーションの支援など、これからAIが人間を助けられる分野は数え切れません。その進歩を一律に止めてしまえば、人類が得られるはずの利益まで失うことになります。また、ある国だけがAI開発を抑えれば、別の国に技術的な主導権を奪われる可能性もあります。「安全」と「競争力」。この二つをどう両立させるかが非常に難しい問題なのです。

■AIの開発を「止める」ではなく「安全性を確認しながら進む」という考え方

　私は、AIそのものを止めるのではなく、危険性の高い能力については安全性を確認してから次へ進むという考え方が現実的だと思います。自動車も飛行機も原子力も、技術そのものを捨てたわけではありません。事故を経験し、安全基準を作り、法律を整備し、技術を改良しながら人間社会に取り入れてきました。AIも同じ道を歩むべきではないでしょうか。アクセルだけを踏み続けるのでもない。恐怖からエンジンを止めてしまうのでもない。ブレーキの性能を確かめながらアクセルを踏む。私はこれが最も大切だと思います。

■AIと人間はどんな関係になるのか

　今回のニュースを単なるIT業界の話として片付けてはいけないと思います。　AIはすでに研究者や技術者だけのものではありません。文章を書き、絵を描き、相談相手となり、仕事を手伝い、ときには人間の創作活動にも参加しています。だからこそ、AIがどれほど賢くなっても、AIに何をさせるのか。AIに何をさせないのか。そして最後に誰が責任を持つのか。これを決めるのは人間でなければならないということです。

■おわりに

　AIはこれからも進歩するでしょう。おそらく私たちが想像している以上の速さで進んでいくはずです。だから、私はAIの未来を悲観する必要はないと思っています。ただし、無条件に楽観することも危険です。「便利だから使う」から、もう一歩進んで、「どうすれば人間のために安全に使えるのか」を社会全体で考える時期に来ています。AI開発の最前線にいる人たち自身が「少し速度を考えよう」と言い始めた今回の出来事。数年後に振り返ったとき、2026年が「AIの能力を競う時代」から「AIをどう制御するかを考える時代」へ移った転換点だった。そんな年として記憶されるのかもしれません。

柳山