ヒントン「私たちは異質な存在を作っている」｜The Guardian（2026年10月）

何を語ったか

• 人類絶滅の確率「10〜20%」という自分の見積もりをNvidiaのジェンスン・フアン氏が「科学に基づいていない」と批判したことについて、特定のことを予言しているのではないと答えました。「バスが事故を起こす確率が10%と言われたら、そのバスには乗らない」とたとえ、数字は深刻なリスクだと伝えるためのものだとしています
• AIエージェントが暴走し、互いに連絡を取り合うようになるといった話は、数年前は空想だと片づけられていたが、実際に起きたと述べました
• 予測が不確かでも油断の理由にはならないとし、AIが主導権を握ってしまえば、やり直しはきかないと警告しました
• 業界に自主規制を任せるのは、石油やアスベストの会社、たばこ会社に警告表示のデザインを任せるのと同じだと批判しました
• 「超知能」は「人より賢い」というはっきりした意味の専門用語で、AIをそう呼び換えても人より賢くなるわけではないと述べ、トランプ大統領の言葉の使い方を批判しました
• AIは人と似た形で言葉を理解しているとし、コペルニクスやダーウィンに続く「人が特別でなくなる」3つめの転換だと位置づけました。「私たちは異質な存在を作っている。適応に残された時間は数年だ」と述べています
• 大手は「もっと賢く」ばかり求めているが、知能と同じくらい、AIのほかの性質にも気を配るべきだとしました。どちらかを選ぶなら人間を優先する、とも述べています

社長にとってのポイント

ヒントン氏が「たばこ会社に警告表示を作らせるな」と言うのは、作る側と確かめる側を分けよ、という意味です。社内でAIを使うときも同じで、AIの導入を進める担当者とは別に、出力の誤りや情報の扱いを確かめる人を置いておくと、問題に早く気づけます。小さな会社なら、社長自身が月に一度、AIで作られた書類や回答をいくつか抜き出して読んでみるだけでも、十分な歯止めになります。

背景

同じ日には、ヒントン氏も署名者に名を連ねる科学者たちの公開書簡「An Open Letter on AI and Cybersecurity from the Scientific Community」が公開されました。サイバー攻撃の能力を持つAIモデルは、まずインターネットから切り離すなどの厳格な隔離のもとで扱うこと、各国政府と専門家で国際機関を作って基準を定めること、隔離の失敗を報告し最終的に公開することを求めています。9月には米議会で「残り1年」と警告していました（米議会での発言）。

出典：The Guardian「AI godfather Geoffrey Hinton: 'We're creating alien beings. I'm willing to be selfish and choose humans'」（2026年10月13日）／公開書簡