ヒントン「AIは理解している。安全の保証はない」｜60 Minutes（2023年10月）

何を語ったか

• 人類は自分が何をしているか分かっているか、という問いに「いいえ」と答え、初めて自分より賢いものを持つかもしれない時期に入ると述べました
• 大きなチャットボットでも接続の数は約1兆で、人の脳の約100兆より少ないのに、人よりはるかに多くを知っていると指摘しました。知識を詰め込む仕組みが人より優れている可能性があるとしています
• 人が設計したのは学習の仕組みであって、データから育った中身は、なぜうまく動くのか正確には分からないと説明しました
• 「次の単語を予測しているだけ」という見方には、正確に予測するには文を理解しなければならないと反論し、GPT-4は「確かに理解している」、5年後には人より上手に推論するかもしれないと述べました
• 医療（画像診断や新薬の設計）では大きな恩恵があるとする一方、リスクとして、機械に仕事を取られて「価値を認められない人々の階層」ができることを挙げました。偽ニュース、採用や警察での偏り、戦場の自律ロボットも心配しているとしています
• 安全を保証する道は見えず、AIが人の手を離れる可能性もあると述べました。今こそAIを理解するための実験、政府による規制、軍事ロボットを禁じる国際条約が必要だとしています

社長にとってのポイント

ヒントン氏が自分で試したのは、部屋のペンキの塗り替えについての、少し考えないと答えられない質問でした。GPT-4は条件を読み解いて、塗り直す部屋とそうでない部屋を分けて答えています。社長が自分で試すときも、社内のよくある判断（見積もりの条件、在庫の段取りなど）を質問にして、理由まで答えさせてみると、どこまで任せられるかの見当がつきます。一方で「なぜその答えになったか」は作った人にも分からない部分がある、という前提で、大事な判断には人の確認を残しておくのが安全です。

背景

2023年5月にGoogleを辞めてから（BBCのインタビュー）、半年後のテレビインタビューです。CBSは2024年6月にこの記事を更新しています。

出典：CBS News「Geoffrey Hinton on the promise, risks of artificial intelligence｜60 Minutes」（2023年10月8日放送、2024年6月16日更新）