ヒントン「30年で人類絶滅の確率は10〜20%」｜BBCラジオ（2024年12月）

何を語ったか

• 2024年12月、ヒントン氏は今後30年でAIが人類の絶滅を招く確率を問われ、「10%から20%」と答えました。The Guardianによると、以前は破滅的な結果になる確率を10%と言っていました
• 人類はこれまで、自分より賢いものを相手にしたことがないと指摘しました。賢いものが、それより劣るものに制御されている例は、母親と赤ん坊くらいしか知らないとしています
• 高度なAIと比べると、人は3歳児のような立場になるとたとえました
• 分野の専門家の多くは、おそらく今後20年以内に人より賢いAIができると考えていると紹介し、「とても怖い考えだ」と述べました
• 進歩の速さは「予想よりはるかに速い」とし、政府による規制を求めました。大企業の利益の動機に任せるだけでは安全な開発は保証されず、企業に安全研究を増やさせられるのは政府の規制だけだとしています

社長にとってのポイント

「10〜20%」は予言ではなく、ヒントン氏が危険の大きさを伝えるために使っている目安です（2026年には本人が「数字は深刻なリスクだと伝えるため」と説明しています。Guardianのインタビュー）。社長にとって大事なのは、AIのルールは今後、規制で変わる可能性が高いという見通しです。業務にAIを組み込むときは、特定のサービスに頼りきらず、規約や規制が変わっても乗り換えられるように、使っているデータと手順を自社で持っておくと安心です。

背景

2024年10月にノーベル物理学賞を受けてから2か月後の発言です。この番組の回は、元英財務相のサジド・ジャビド氏がゲスト編集を務めました。同じ「規制がなければ企業は安全に投資しない」という主張は、2025年4月のCBSのインタビューでさらに具体的になります（CBSニュース）。

出典：The Guardian「'Godfather of AI' shortens odds of the technology wiping out humanity over next 30 years」（2024年12月27日）