ハラリ「AIは道具ではなくエージェントだ」｜著書『Nexus』抜粋（2024年8月）

この記事について：ユヴァル・ノア・ハラリ氏が公の場で語った内容を、社長のAIの教科書の運営者が英The Guardian（著書『Nexus』の抜粋）を読み、要点を編集してまとめたものです。当サイトがユヴァル・ノア・ハラリ氏に取材したものではありません。題や本文の「」は発言の要約で、原文どおりではありません。出典はページの下と「元の出演」にあります。

2024年9月10日に英国で刊行された著書『Nexus』の抜粋です。ハラリ氏は、AIは自分で決め、新しい考えを生み出せる初めての技術で、「道具ではなくエージェント」だと主張しました。AIが人に理解できない金融の手を打つ危険や、データを握る少数の国が世界を「データの植民地」にする危険を描いています。

いつ

2024年8月24日

どこで

英The Guardian（著書『Nexus』の抜粋）（書籍）

元の出演

元の記事を読む

確認

本人の発信・公式の記録で確認

テーマ

リスク・規制、経済・お金、AI企業の競争

何を語ったか

核兵器は誰を攻撃するか自分で決めず、より強い爆弾も自分では作れない。しかしAIは自分で決め、新しい考えやより良いAIを生み出せる、だから「AIは道具ではなくエージェント（自ら動く主体）」だと述べました
AIは「人工の知能」というより「異質な（エイリアンの）知能」と考えた方がよいとしました。「人並みの知能」で測るのは、飛行機を「鳥並みの飛び方」で測るようなものだとしています
囲碁AIの「AlphaGo」が人間の発想にない一手で勝ったことを例に、AIは人が何千年も足を踏み入れなかった領域を探れるが、なぜその手を選んだかは作った人にも説明できないと指摘しました
金融の例として、お金を増やせと命じられたAIが人の思いつかない金融商品を作り、数年の好況のあと、誰にも原因の分からない大暴落が起きる、という架空の話を描きました
少数の企業や政府が世界中のデータを握れば、ほかの国は軍事力ではなく情報で支配される「データの植民地」になりうると述べました。世界は「シリコンのカーテン」で分断され、別々の情報の繭（まゆ）に閉じこもる恐れがあるとしています
会計事務所PwCの予測を引き、AIは2030年までに世界経済に15.7兆ドルを加えるが、今の流れが続けばその70%を中国と北米が手にすると紹介しました

社長にとってのポイント

AIを「道具」ではなく「自分で判断する担当者」と見ると、使い方の設計が変わります。新しく入った社員に、どこまで任せ、どこで報告させ、誰が確認するかを決めるのと同じように、AIにも任せる範囲と確認の手順を決めておくことが大切です。また、使っているAIサービスがどの国の会社のもので、データがどこに保存されるかを一度確かめておくと、ハラリ氏の言う「データの植民地」への備えになります。

背景

ハラリ氏は2023年には「AIは文明のOSをハックした」と言葉の面から警告していました（Frontiers Forum）。『Nexus』では、それを「エージェント」という言葉でまとめ直しています。

出典：The Guardian「'Never summon a power you can't control': Yuval Noah Harari on how AI could threaten democracy and divide the world」（2024年8月24日）

このページは、ユヴァル・ノア・ハラリ氏が公の場で話したり書いたりした内容を、社長のAIの教科書の運営者が確かめて要約・編集したものです。当サイトがユヴァル・ノア・ハラリ氏に取材したものではなく、ユヴァル・ノア・ハラリ氏やその所属先とこのサイトは関係がありません。正確な言い回しは、上の「元の出演」でご確認ください。

うちの会社なら、どこからAIを入れるべきか

社員数や業種をうかがったうえで、最初に手をつけると効果が出やすい業務と進め方をお伝えします。まだ何も決まっていなくて構いません。

無料でAI導入の相談をする