ナデラ「これからはROIに加えて、安全と保証が要る」｜Semafor（2026年10月）

何を語ったか

• 規模を大きくするほどAIの能力は上がってきた一方、AIを人の意図に沿わせることや、中の仕組みを理解することは「いまのところ」難しいままだと述べました。だからこそ、管理と保証の仕組みはモデルの外側に置くべきだという考えです。
• 社員による内部の不正を防ぐのと同じように、AIにも本人確認、動きの記録、必要最小限の権限を当てはめるべきだと話しました。AIの考えた過程を人が読める言葉で示させ、あるモデルの動きを別のモデルで確かめることも求めました。
• 自身が一番恐れていることとして、中身の分からない仕組みを何重にも重ねて使うことを挙げました。AIが会社の代わりに何をしたのかを、後から示せる状態にしておくべきだという考えです。
• たとえば、社内で使っているエージェントが基幹システムの記録を書き換え、気づかないまま決算を報告したら大問題になると例を挙げました。企業は、モデルから独立した管理の仕組みがない限り、導入に踏み切りにくくなるとの見方です。
• 業界も顧客も目を覚ますべきで、AIは「目新しさと取り残される不安」の話ではないと述べました。これからはROIに加えて、安全と保証まで含めて考える段階だとしています。
• 自身はCopilotでモデルを選ぶことはなく、自動で作業に合うモデルが選ばれると話しました。どのモデルを使うかより、製品の形・流通・価格・ブランドが大事になるという見方です。
• 自社のAIモデルが最先端から数か月遅れていることについて、最先端の数か月後の水準を2割ほどの費用で実現できるなら株主にとって良いことだと話しました。ただ費用だけが理由ではなく、AIをソフトや道具の事業に近い形にし、人の意図に沿う仕組みを最初から組み込みたいと述べています。

社長にとってのポイント

ナデラ氏の話は、AIに仕事を任せる前に「何をしたかを後から説明できるか」を確かめる、という目安になります。AIに経理や受発注のデータを触らせるなら、どの操作を許すか、操作の記録がどこに残るか、おかしな動きに誰が気づくのかを決めてから始めると、万一のときも原因をたどれます。導入の効果を比べるときは、時間や費用がどれだけ減るかに加えて、こうした管理にかかる手間も見積もっておくと判断がぶれません。

背景

10月10日の本人ブログで、高度なAIモデルを「内部リスク」として扱うよう訴えたばかりでした（本人ブログ）。今回はそのブログについて、セキュリティ責任者を前に考えを補ったものです。番組では、後継者について問われ「全員だ」と答え、続ける期限も決めていないと話しています。

出典：Semafor「Satya Nadella on Chasing Frontier Labs, Security, "SI," & Succession At Microsoft | Future Proof」（2026年10月21日）