ルカン「LLMは人間レベルの知能への道ではない」｜TIME（2024年2月）

何を語ったか

• 2024年2月、ルカン氏は、LLM（大規模言語モデル）は「人間レベルの知能への道ではない」と述べ、「AGI（汎用人工知能）」という言葉自体が好きではないと語りました
• LLMは現実世界を本当には理解しておらず、推論もできない、と指摘しました。常識が欠けていることが、もっともらしい間違い（ハルシネーション）の原因だとしています
• 世界のしくみを学ぶ「世界モデル」、計画、作業記憶をAIが身につければ、まずは「猫レベルの知能」に近づけるかもしれない、と述べました
• AIの未来はオープンソースであるべきだと主張しました。AIアシスタントは、多様な報道機関やウィキペディアのように、多くの人が関われる形であるべきだという考えです
• AIが人類を滅ぼすという懸念は「ばかげている」とし、悪用への備えは「私の良いAI対あなたの悪いAI」になると説明しました

社長にとってのポイント

ルカン氏が指摘する「LLMは現実世界を理解していない」という弱点は、仕事で使うときの注意点そのものです。文章の下書きや要約は得意でも、現場の寸法・在庫・段取りのように「実物」に関わる判断は、AIの答えを人が確かめる前提で使うのが安全です。また、オープンソースのAIモデルが育つほど、特定の会社に縛られずに選べる幅が広がります。使っているAIサービスを替えられるよう、自社のデータや手順書は自社の手元に置いておくと、選択肢を持ち続けられます。また、ルカン氏が幻覚の原因を「常識の欠如」と説明したように、AIの答えに数字や固有名詞が出てきたら、元の資料で確かめる習慣をつけておくと失敗を防げます。

背景

当時ルカン氏はMetaのチーフAIサイエンティストでした。同じ時期にはLex Fridmanのポッドキャストでも同じ主張をくわしく語っています。

出典：TIME「Meta's AI Chief Yann LeCun on AGI, Open-Source, and AI Risk」（2024年2月13日）