リーら「信頼しつつ検証する」最先端AIの州政策報告｜カリフォルニア州報告書（2025年6月）

何を語ったか

• 2025年6月、リー氏はジェニファー・チェイズ氏、マリアノ＝フロレンティーノ・クエヤル氏とともに共同リーダーを務めた報告書を公表しました。2024年9月にニューサム知事が3人に依頼したものです
• 報告書は「信頼しつつ検証する（trust but verify）」を原則とし、AIの恩恵と重大なリスクのつり合いをとるべきだとしています
• 根拠として、研究の成果だけでなく、歴史の分析やシミュレーションなど幅広い証拠を使うよう求めました
• 今は情報が足りないとして、透明性の強化を求めました。あわせて、内部告発者の保護、第三者による評価、一般向けの情報公開、事故（有害事象）を報告する仕組みを挙げています
• どの規模のAIから規制の対象にするかの線引きについても考え方を示しました。報告書は、共同リーダーの独立した学術的な仕事で、所属機関の立場ではないと断っています

社長にとってのポイント

「信頼しつつ検証する」は、社内でAIを使うときにもそのまま使える考え方です。AIを禁止するのでも、任せきりにするのでもなく、使いながら確かめる。たとえば、AIが作った書類はどこを人が見るのか決めておく、AIで起きた間違いを記録して共有する（報告書の「事故の報告の仕組み」の社内版）、といった小さな仕組みで十分です。間違いを責めずに報告できる雰囲気をつくると、AIの使い方は早く上達します。取引先や外部のAIサービスを選ぶときも、「どう確かめられるか（記録が残るか、問い合わせに答えてくれるか）」を判断の目安にすると、報告書の考え方を自社の規模で生かせます。

背景

前年にAI法案SB 1047に拒否権を行使した知事が、改めて専門家に考え方の整理を頼んだのがこの報告書です。

出典：arXiv「The California Report on Frontier AI Policy」（2025年6月17日）／全文