ハサビス「10年以内にAGIに近いものが出ても驚かない」｜Dwarkesh（2024年2月）

いつ

2024年2月28日

どこで

Dwarkesh Podcast（ドワーケシュ・パテル）（音声）

元の出演

確認

本人の発信・公式の記録で確認

テーマ

AGI・超知能、リスク・規制

ドワーケシュ・パテル氏のポッドキャストへの出演です。当時Google DeepMind CEOだったハサビス氏は、10年以内にAGIに近いシステムが出ても驚かないと述べ、そのためには規模の拡大に加えて、先を読む「計画・探索」の仕組みが要るだろうと話しました。

何を語ったか

2024年2月、ハサビス氏は、DeepMindは2010年に「20年計画」で始め、ほぼ計画どおりに進んでいると述べました。今後10年以内にAGIに近いシステムが出ても驚かないとしています
規模の拡大（スケーリング）は限界まで押すべきだが、新しい仕組みや手法も必要だと述べました
AGIには、大規模言語モデルの上に、囲碁AIのAlphaZeroのような「先を読む計画・探索」を載せることが要るだろうと話しました
予想外の「だまし」の振る舞いが見えたら、開発をいったん止めて調べるべきだとし、超人的なAIは1社で扱うには重すぎるので、政府・学界・市民社会との協力と国際的な合意が必要だと述べました

"I wouldn't be surprised if we had AGI-like systems within the next decade." （今後10年以内にAGIに近いシステムができても、私は驚かない）

「AIの答えに予想外のおかしな点があったら、いったん止めて調べる」という考え方は、社内の使い方にもそのまま当てはまります。AIに任せた作業で数字や事実の誤りを見つけたら、その場で直すだけでなく、どんな指示で起きたかを共有する場を月1回でも持つと、社内の使い方が早く上達します。

このページは、デミス・ハサビス氏の出演・発言の内容を、このサイトが要約したものです。正確な言い回しは元の出演でご確認ください。引用は内容を示すのに必要な短い範囲にとどめています。

うちの会社なら、どこからAIを入れるべきか

社員数や業種をうかがったうえで、最初に手をつけると効果が出やすい業務と進め方をお伝えします。まだ何も決まっていなくて構いません。