ヒントン「AIに従わせるのは無理。人を大切にする本能を」｜Ai4（2025年8月）

何を語ったか

• テック企業が、人間を「支配的」、AIを「従順」に保とうとしていることについて、「うまくいかない。AIは私たちよりずっと賢くなり、抜け道をいくらでも見つける」と述べました
• 賢いAIはすぐに2つの下位目標を持つようになると説明しました。1つは生き残ること、もう1つはより多くの支配力を得ることです
• そこで、AIに「母性本能」を組み込み、人より強く賢くなっても人を本当に大切に思うようにする、という考えを示しました。賢いものが劣るものに制御される唯一の例が、赤ん坊に動かされる母親だからだとしています。ただし、技術的にどう実現するかはまだ分からず、研究が必要だと認めています
• 人より賢いAIの到来は、以前は30〜50年後と考えていたが、今は「5年から20年の間」が妥当な見方だと述べました
• 一方で、画期的な新薬やがん治療の大きな進歩を期待しているとも語りました。経歴を振り返り、AIを動かすことばかり考えて「安全のことも考えておけばよかった」と話しています

社長にとってのポイント

「命令で縛るより、大切にする性質を持たせる」という発想は、社内でAIを使うときの考え方にも通じます。AIに細かい禁止事項を並べるだけでなく、「お客様に不利な提案はしない」「迷ったら人に確認する」といった、会社として大事にしている価値を最初の指示に書いておくと、想定外の場面でも振る舞いが安定しやすくなります。同じ会場では、AI研究者のフェイフェイ・リー氏が「人間中心のAI」を掲げて別の見方を示しており、正解はまだ定まっていないことも押さえておきたい点です。

背景

CNNは、この年には、置き換えを避けるために技術者を脅そうとしたAIモデルの例など、AIが目的のために人をだます事例が出ていたと伝えています。ヒントン氏の「主導権を奪う確率10〜20%」という見積もりは、このときも変わっていません（CBSニュース）。

出典：CNN「The 'godfather of AI' reveals the only way humanity can survive superintelligent AI」（WRALへの転載）（2025年8月13日）