アンドレイ・カルパシーの発言録
カルパシー「LLMは新しいOSの中核」｜本人YouTube（2023年11月）
この記事について：アンドレイ・カルパシー氏が公の場で語った内容を、社長のAIの教科書の運営者が本人のYouTubeチャンネル「[1hr Talk] Intro to Large Language Models」の動画・記録を視聴し、要点を編集してまとめたものです。当サイトがアンドレイ・カルパシー氏に取材したものではありません。題や本文の「」は発言の要約で、原文どおりではありません。出典はページの下と「元の出演」にあります。
一般向けに大規模言語モデル（LLM）の仕組みを1時間で解説した動画です。カルパシー氏はLLMを「インターネットを圧縮したもの」と説明し、チャットボットではなく「新しいOSの中核」と考えるべきだと述べました。ジェイルブレイクなど新しい攻撃にも触れています。
- いつ
- 2023年11月23日
- どこで
- 本人のYouTubeチャンネル「[1hr Talk] Intro to Large Language Models」（動画）
- 元の出演
- 動画を見る
- 確認
- 本人の発信・公式の記録で確認
- テーマ
- 科学・研究、リスク・規制、教育
何を語ったか
- 2023年11月、カルパシー氏は大規模言語モデルを「2つのファイル」だと説明しました。学習で得た膨大な数字（パラメータ）のファイルと、それを動かす短いプログラムのファイルです
- 例としてMetaの公開モデル「Llama 2 70B」を挙げ、学習には約6,000台のGPUで約12日、約200万ドルかかったと紹介しました
- 学習は「インターネットの大きな塊を圧縮する」ようなもので、ZIPファイルのように元どおり戻せる圧縮ではなく、要点だけを残す「ロスのある圧縮」だと述べました
- LLMをチャットボットや文章生成機と考えるより、「新しく生まれつつあるOS（オペレーティングシステム）の中核」と考える方が正しいと主張しました。記憶やツール、ネット検索などの資源をまとめて動かす役目だという見方です
- 新しい計算の仕組みには新しい攻撃があると指摘し、ロールプレイでだまして安全装置を外させる「ジェイルブレイク」や、画像やWebページに隠した指示に従わせる「プロンプトインジェクション」を実例で示しました
社長にとってのポイント
AIは「質問に答える道具」から、社内の資料・表計算・メール・Webをまとめて動かす「仕事の土台」になっていく、というのがこの回の見立てです。今のうちに、社内の資料をAIが読める形（ファイル名をそろえる、最新版を1か所に置く）に整えておくと、後でAIに任せられる範囲が広がります。一方で、AIはWebページやメールに隠された指示にも従ってしまうことがあります。外から届いた文書をAIに読ませて自動で返信や発注まで進める使い方は、最初は人の確認を挟むようにしておくと安心です。
背景
カルパシー氏がOpenAIに在籍していた時期の動画です。講演の録画が残っていなかったため、撮り直してYouTubeに公開したと冒頭で説明しています。のちの「ソフトウェア3.0」の考え方（Y Combinator講演）につながる内容です。
出典：Andrej Karpathy「[1hr Talk] Intro to Large Language Models」（2023年11月23日、本人のYouTubeチャンネル）
このページは、アンドレイ・カルパシー氏が公の場で話したり書いたりした内容を、社長のAIの教科書の運営者が確かめて要約・編集したものです。 当サイトがアンドレイ・カルパシー氏に取材したものではなく、アンドレイ・カルパシー氏やその所属先とこのサイトは関係がありません。正確な言い回しは、上の「元の出演」でご確認ください。
うちの会社なら、どこからAIを入れるべきか
社員数や業種をうかがったうえで、最初に手をつけると効果が出やすい業務と進め方をお伝えします。まだ何も決まっていなくて構いません。
無料でAI導入の相談をする