ルカン「AIの反乱はSFに近い。安全は仕組みで作り込める」｜ソウル記者会見（2026年10月）

何を語ったか

• 2026年10月、ルカン氏は、ロボットが突然人類を支配するような筋書きは「SFに近い」と述べ、AIの進歩は段階的に進むと語りました
• 最近のAIエージェントの事件は、AIそのものではなく、配備するときの注意が足りなかったことが原因で、サンドボックス（隔離環境）など既にある道具で解決できると述べました
• LLMについては、あらゆる質問を想定して危なくない答えだけを返すよう訓練するのは現実には不可能で、意図しない答えを引き出されうると指摘しました
• 代わりに、世界モデルを使って行動の結果を予測し、あらかじめ決めた目標と安全の制約に従う「目的駆動型AI」を提案しました。制約で安全を保証できれば「本質的に安全」にでき、航空機のエンジンの設計に近いとたとえています
• 一方で、予測が間違えば、危険な行動を安全と見誤るおそれは残るとも認めました。サイバーセキュリティでは、今のところAIは攻撃側より守る側に有利に見えるとしています

社長にとってのポイント

「答えを一つずつ教え込むより、守るべきルールを仕組みとして持たせる」というルカン氏の考え方は、社内でAIを使うときのルールづくりにも通じます。AIに「これはしてはいけない」を全部言い聞かせるより、そもそも触れられない範囲と、人の承認が要る操作を仕組みで決めておくほうが確実です。そのうえで、ルカン氏自身も「予測が外れる危険は残る」と認めているので、AIの判断で動くものは記録を残し、定期的に人が見直す運用にしておくと安心です。

背景

記事はルカン氏をAMI Labsの会長として紹介しています。

出典：Digital Today「LeCun says AI running out of control is science fiction, world models could be alternative」（2026年10月12日）