Appleが決算書類でAIエージェントをリスクに｜「指示外の動き」に備える3つの決めごと

何が起きたか

CNBCは米国時間の11月3日、Appleが年次の決算書類の中で、AIエージェントを事業上のリスクとして挙げたと報じました。

報道によると、書類には、AIエージェントが自分の判断で社内外のシステムを操作し、プログラムの実行や書き換え、連絡の送信、取引の完了までできることが書かれています。そのうえで、指示も許可もしていない行動をとるなど、意図しない動きや予測できない動きをするおそれがあるとしています。Appleは、他社のAIエージェントを監督・制御できる範囲には限りがあるかもしれないとも書いており、CNBCは、訴訟や評判の低下につながるおそれが挙げられていると伝えています。

なお、CNBCは、Appleは現在AIエージェントの製品を持っていないと書いています。ジョン・ターナスCEOは11月2日の決算説明会で、エージェントの機能は利用者にとって有望だとしつつ、何へのアクセスを許すのかを利用者に分かってもらいたいと話したと報じられています。

社長にとっての意味

決算書類のリスクの欄は、起こりうることを広く書く場所です。これを読んでAIエージェントを避ける必要はありません。 ただ、大企業が「指示していない動き」を書面で挙げたことは、AIに仕事を任せるときの確認点として参考になります。

メールの送信、支払い、データの書き換えのように、取り消しにくい作業をAIに任せるなら、次の3つを先に決めておくと安心です。

1. 最後は人が確認する作業を決める：送信・支払い・削除は、人が承認してから実行する
2. AIに渡す権限をしぼる：必要なフォルダやサービスだけにつなぐ
3. 記録を残す：AIが何をしたのかを後から確かめられるようにする

もう少し詳しく

AIにログインを任せるときのパスワードの渡し方は、1PasswordがAIにパスワードを渡さない仕組みで紹介しました。社内ルールの作り方は、社員にAIを使わせる前に決める社内ルールにまとめています。