深津「超AIより人間の悪用が先に来る」｜ABEMA Prime（2026年9月）

何を語ったか

• 2026年9月18日公開の討論で、深津氏は、AIの開発競争を国際的に止められるかについて、大国レベルでは囚人のジレンマがあるので止まることはほぼできないと述べました。核兵器の開発競争と同じ形の問題だとしています
• そのうえで、超AIが人類を滅ぼすより先に、人間がAIに愚かなことを頼んで人間を滅ぼす可能性の方が早く来そうなので、そちらへの対処の方が優先順位が高いと述べました
• あらゆる破壊活動は攻撃する側が有利だとし、追い詰められた人がAIを使って危険なウイルスを作るような事態を例に挙げ、発見したときにはもう手遅れになりかねないと懸念を示しました
• 番組では、AI安全性の研究者である林央氏が「今のAIは作られているのではなく育てられているので、指示に従わせることが難しい」と説明し、深津氏の見方には少し異論があると応じる場面もありました

社長にとってのポイント

深津氏の指摘を会社の規模に置き換えると、AIの危険は「AIが勝手に暴走すること」より先に、「誰かがAIに悪いことや危ないことを頼むこと」から来るということです。社内でAIを使うときは、顧客情報を入れてよい範囲、外部に送ってよい文章の確認手順、だましのメールや偽の音声への注意など、人の使い方のルールを先に決めておくのが現実的な備えです。

背景

200万回以上再生された回で、研究者の林央氏（PauseAI Japan代表）、経済思想の斎藤幸平氏、経済学者の竹中平蔵氏らと議論しています。深津氏は危機をあおる立場ではなく、限られた資源で何から手を打つかという優先順位の観点で話しています。字幕は自動生成のもので確かめました。開発競争を止められない理由について、深津氏は核兵器の開発競争と同じ形の問題だと説明しています。

出典：ABEMA Prime #アベプラ【公式】「【AIで人類滅亡】研究者らが本気で警鐘？でも開発競争の中でブレーキできるの？規制は必要？研究者＆深津貴之が議論｜アベプラ」（2026年9月18日）