ヒントン「AIはまもなく人より賢くなるかもしれない」｜BBC（2023年5月）

何を語ったか

• 2023年5月、ヒントン氏はGoogleを辞めたことを米New York Timesへの声明で公表し、BBCには、AIチャットボットの危険の一部は「かなり恐ろしい」と語りました
• GPT-4はすでに一般的な知識の量で人をはるかに上回っており、推論ではまだ劣るものの簡単な推論はできると述べました。進歩の速さを考えると、心配する必要があるとしています
• 人の知能とAIの知能は大きく違うと説明しました。デジタルのAIは同じ中身のコピーが別々に学び、その知識を瞬時に共有できます。ヒントン氏はこれを「1万人のうち1人が何かを学ぶと、全員が自動的にそれを知っているようなもの」とたとえました
• 最悪の例として、悪意ある指導者がロボットに自分で「下位の目標」を作る力を与え、それが「もっと力が必要だ」という目標につながる危険を挙げました
• 一方で、短期的にはAIの利益がリスクを上回るので開発を止めるべきではない、米国が止めても中国が先行するだけだ、とも述べました。暴走を防ぐ手立てを考えるのは政府の責任だとしています
• Googleについては「とても責任ある」対応をしてきたと評価し、Googleにいない方が良い点も信用して聞いてもらえると話しました。75歳という年齢も退社の理由だと認めています

社長にとってのポイント

この時点のヒントン氏は「危ないから止めろ」ではなく、「利益は大きい、ただし速さに備えよ」という立場でした。社長が持ち帰れるのは、AIの「知識の量」と「推論の力」を分けて見る目です。調べもの・下書き・要約のように知識量が効く仕事は早めにAIに任せ、判断や推論が要る仕事は人が確認する、という線引きを決めておくと、導入の失敗を減らせます。

背景

ヒントン氏は、いまのAIの土台になったニューラルネットワーク研究の第一人者で、自分の会社がGoogleに買収されてから約10年在籍しました。この退社以降、AIの危険について最もはっきり発言する研究者の一人になります。

出典：BBC News「AI 'godfather' Geoffrey Hinton warns of dangers as he quits Google」（2023年5月2日）