ハラリ「AIは理解不能な金融商品で危機を招きうる」｜The Guardian（2023年11月）

この記事について：ユヴァル・ノア・ハラリ氏が公の場で語った内容を、社長のAIの教科書の運営者が英The Guardianのインタビューを読み、要点を編集してまとめたものです。当サイトがユヴァル・ノア・ハラリ氏に取材したものではありません。題や本文の「」は発言の要約で、原文どおりではありません。出典はページの下と「元の出演」にあります。

英国のブレッチリー・パークでAI安全サミットが開かれた翌週のインタビューです。ハラリ氏は、金融は「データだけなのでAIに理想的な分野」だとし、AIが人には理解できない金融商品を作り始めれば、誰も規制できず、危機が起きても原因が分からないと警告しました。細かい法律を急ぐより、素早く動ける規制機関を作るべきだと述べています。

いつ

2023年11月9日

どこで

英The Guardianのインタビュー（記事）

元の出演

元の記事を読む

確認

本人の発信・公式の記録で確認

テーマ

経済・お金、リスク・規制

何を語ったか

AIは「破滅的」な結果をもたらす金融危機を起こしうると述べました。AIは高度なので、危険を予測すること自体が難しいとしています
核兵器には誰もが分かる1つの大きな危険があるが、AIには小さな確率の危険がたくさんあり、それが合わさると文明の存続を脅かすと説明しました
金融は「データだけなので、AIにとって理想的な分野」だと指摘しました。2007〜08年の金融危機は、ほとんど誰も理解していなかった債券（CDO）が原因だったとして、AIはそれより桁違いに複雑な金融商品を作れると述べています
誰も理解できない金融システムで危機が起きれば、誰も何が起きているか分からないと警告しました。ただし、それだけで文明が滅ぶわけではなく、戦争などを引き起こせば間接的にそうなりうる「経済・社会・政治の破滅的リスク」だとしています
英国のブレッチリー・パークでのAI安全サミットで、EU・英国・米国に加えて中国も宣言に署名したことを「とても重要な前進」と評価しました
長く複雑な法律を書いても成立するころには古くなるので、技術を理解し、危険が見えたら素早く動ける規制機関を作るべきだと述べました。AI安全機関は金融の専門家も雇うべきだとしています

社長にとってのポイント

社長が持ち帰れるのは、「自分で説明できない仕組みにお金を預けない」という原則です。AIを使った資産運用や与信、価格の自動決定などを取り入れるときは、なぜその結果になったかを担当者が説明できるかを確かめてから任せると安心です。説明できない部分が大きいなら、金額や範囲を絞って試すのが、ハラリ氏の言う危険への現実的な備えになります。

背景

ハラリ氏は先端AIの開発の6か月停止を求める呼びかけを支持し、AI企業に製品の損害の責任を負わせることにも賛成していると、The Guardianは伝えています。金融の話は、のちに「人は未来の牛になる」という表現にまで発展します（ČT24のインタビュー）。

出典：The Guardian「AI could cause 'catastrophic' financial crisis, says Yuval Noah Harari」（2023年11月9日）

このページは、ユヴァル・ノア・ハラリ氏が公の場で話したり書いたりした内容を、社長のAIの教科書の運営者が確かめて要約・編集したものです。当サイトがユヴァル・ノア・ハラリ氏に取材したものではなく、ユヴァル・ノア・ハラリ氏やその所属先とこのサイトは関係がありません。正確な言い回しは、上の「元の出演」でご確認ください。

うちの会社なら、どこからAIを入れるべきか

社員数や業種をうかがったうえで、最初に手をつけると効果が出やすい業務と進め方をお伝えします。まだ何も決まっていなくて構いません。

無料でAI導入の相談をする