サツケバー「次の単語の予測は現実の理解だ」｜Dwarkesh Podcast（2023年3月）

何を語ったか

• 2023年3月、サツケバー氏は、ChatGPTのようなAIの仕組みである「次の単語（トークン）の予測」について、見かけよりずっと深い問題だと述べました
• 次の単語をうまく予測できるということは、その言葉が生まれた「背後の現実」を理解していることを意味し、単なる統計ではないと主張しました
• AIが現実の世界で期待外れに終わるとしたら、その原因は「信頼性」だと答えました。本当に頼れるものにしたいのに頼れないまま、あるいは信頼性の確保が予想以上に難しい場合です。ただし、本人はそうはならないと考えていると述べています
• テスラの自動運転を例に、何でもできるように見えても、本当に信頼でき、頑健で、行儀よく動くまでには、まだ多くの作業が残っていると説明しました
• AGI（汎用人工知能）に至る前に、AIが大きな経済価値を生む期間（聞き手は「飛行機の規模」と表現）がどれくらい続くかと聞かれ、「数年は続く」と答えました。すでに前年から経済価値は出ており、翌年以降さらに大きくなると述べています
• 2030年にGDPの何%をAIが占めるかと聞かれると、「誤差の幅が対数スケール」なので、非常に大きくも、がっかりするほど小さくも想像できると答えました

社長にとってのポイント

「何でもできそうに見えるが、まだ頼り切れない」という指摘は、2023年当時だけでなく今のAIの使い方にも当てはまります。AIに任せる仕事は、間違えたときの影響が小さいもの（社内向けの下書き、資料の要約など）から始め、取引先に出す数字や契約に関わるものは人が確認する、という順番が安全です。どの仕事でどれくらい間違えるかを記録しておくと、任せる範囲を広げる判断がしやすくなります。

背景

OpenAIのチーフサイエンティストとして出演した回です。同じ番組には2025年11月にも出演し、今度は「今のAIは学んだことの応用が下手」と弱点を詳しく語っています（2回目）。

出典：Dwarkesh Podcast「Ilya Sutskever (OpenAI Chief Scientist) — Why next-token prediction could surpass human intelligence」（2023年3月27日、番組公式ページの書き起こし）