ヒントン「AIはかわいいトラの子。計算資源の3分の1を安全に」｜CBSニュース（2025年4月）

何を語ったか

• AIは教育や医療を大きく変え、気候変動の解決にも役立つ可能性があると認めつつ、その急速な発展にますます不安を感じていると述べました
• 今の状況を、とてもかわいいトラの子を飼っている人にたとえました。大きくなったときに自分を殺そうとしないと確信できない限り、心配すべきだとしています
• AIが最終的に人から主導権を奪う確率を10%から20%と見積もり、「人々はまだ何が来るのか分かっていない」と警告しました
• 大手AI企業は利益を安全より優先していると批判しました。規制はほとんどないのに、さらに減らすようロビー活動をしているとしています
• 以前勤めたGoogleが、AIの軍事利用についての方針を撤回したことに、特に失望していると述べました
• AI企業は安全研究に、今よりはるかに多くの資源を回すべきだとし、その目安を計算資源の「3分の1くらい」としました。CBSが各社に安全研究に使う計算資源の割合を尋ねたところ、数字を答えた会社はなかったと番組は伝えています

社長にとってのポイント

「計算資源の3分の1を安全に」はAI企業への要求ですが、社内でAIを使う側にも置き換えられます。たとえば、AIで作った書類や回答のうち一定の割合を人が抜き取りで確かめる、AIに任せる作業ごとに確認の担当を決める、といった「確認に使う時間」をあらかじめ予算に入れておくことです。導入の効果を計算するときに確認の手間まで含めておけば、あとで「思ったより効率が上がらない」と慌てずに済みます。

背景

ヒントン氏は2024年末から、規制がなければ企業は安全に十分投資しないと訴えてきました（BBCラジオ）。このインタビューでは、それを「計算資源の3分の1」という具体的な目安にしています。

出典：CBS News「"Godfather of AI" Geoffrey Hinton warns AI could take control from humans」（2025年4月26日）