AIの答えを確かめる社内の決まり｜任せてよい仕事と人が確かめる仕事の分け方、間違いを減らす頼み方

「AIが自信たっぷりに答えた内容が、あとで間違いだと分かった」

社員に使わせるうえで、いちばん怖いのはここかもしれません。AIがもっともらしい嘘をつくことは「ハルシネーション」と呼ばれ、どの解説動画でも注意点として出てきます。だからといって、AIが作ったものを全部ゼロから確かめ直すなら、使う意味がありません。

この記事では、AIの答えをどこまで信じ、どこを人が確かめるかを、社内の決まりとして決めるときの考え方を、動画から集めて見比べました。取り上げる動画は2024〜2026年に公開されたもので、古いものは公開から1年以上たっています。AIの性能は上がり続けていますが、確かめ方の考え方は今もそのまま使えます。

AIは「超優秀な知ったかぶり」と考える

まず、なぜ間違えるのか。ABEMA Primeの番組で、情報通信のコンサル会社の代表のクロサカタツヤさんは、生成AIは物事の意味を理解して説明しているわけではない、と話しています。

「超優秀な知ったかぶりだという風に考えていただければいいと思います」

たいていはかっこよく正確に答えるけれど、たまにまったく分かっていない答えを、しれっと自然に返してくる。そういうものだと分かったうえで使えるかどうかだ、という話です。同じ番組でひろゆきさんは、問いかけの仕方しだいでAIの答えをある程度コントロールできてしまうので、事実確認にそのまま使うのは微妙だと話しています。

間違いが問題になりにくい仕事から使う

では、どう使い分けるか。PIVOTの番組に出演したAI活用の発信者のうすたくさんは、間違えるかもしれないから使わない、という考え方そのものに疑問を投げかけています。

「ハルシネーションが起きてしまうようなことをAIにあまり聞かない方がいい」

誰かの生まれた年、歴史の年号、歴代の総理大臣の名前のようなピンポイントの事実は間違えやすいので、元の情報を見るか、普通に検索すればよい。一方、メールの文章やアイデア出しには、そもそも嘘という考えがありません。Excelの関数なら、目の前で試して動けば正しいと分かります。使ううちに、間違えそうな所は分かるようになる、とも話しています。

社内の決まりに置きかえると、下書き・アイデア・試して確かめられるものはAIに任せ、数字・日付・固有名詞などの事実は元の情報で確かめる、という分け方になります。

医療・お金・法律・契約は、AIの答えで決めない

もう1つ、多くの動画で共通しているのが、AIの答えで決めてはいけない分野です。株式会社コアコンシェルの動画では、医療の診断、お金・投資・税金、法律や契約の判断、最新の情報を、AIに頼ってはいけない分野として挙げています。どれも専門の知識と責任が要る分野で、AIは細かい事情までは反映していないし、判断が間違っていても責任は取らない、という説明です。AIは下調べや用語の理解、選択肢の整理に使い、判断の材料を出してもらう役にとどめる、という使い方を勧めています。

埼玉スマホ教室の吉田さんも、お金、病気や健康、法律や契約のような大事なことは、AIの答えだけで決めないよう話しています。そのうえで、間違いを少しでも減らす頼み方として、質問の最初に一言そえるやり方を紹介しています。

「分からないことは推測で答えないでください」

自信がないことはそう書く、不確かな内容は断定しない、といったお願いも添えると、無理に答えを作りに行くのを少し防ぎやすくなる。ただし100％防げるわけではないので、返ってきた答えは公式サイトなどで確かめる、という説明です。

「8割はAI、2割は人」で、確かめる工程を残す

確かめる手間を、どう仕事の流れに組み込むか。ひかりのAI大学のひかりさんは、AIにメールの下書きを書かせて、確かめずに送ってしまったと思われるメールが実際に届いた例を紹介しています。名前が入るはずの所が伏せ字のまま届いた、という話です。

「あくまでAIを使うのは8割程度の下書きの作成として使うんです」

残りの2割で、内容を確かめたり気持ちを込めたりと、人にしかできない作業を必ず行う、という使い分けです。

PIVOTの別の番組で、グーグル・クラウド・ジャパンの中井悦司さんは、もっと大きな目で整理しています。人の仕事も間違えるので、会社の仕事の流れには、ダブルチェックなど、間違えても困らないしくみがもともとあるはずだ、という指摘です。

「今まで通りチェックするプロセスっていうのは残るはずなので」

今の仕事の流れを分けて、ここはAI、ここは今まで通り人、と決める。端から端までAIに丸投げするとうまくいかない、という考え方です。2024年の動画ですが、決まりを作るときの土台になる話です。

会計の分野では、さらに具体的な線引きも語られています。テレ東BIZの番組で、TKCの飯塚真規さんは、AIは間違えることがある前提で、会計や税務の専門家がチェックできる体制が要ると話しています。帝京大学の山矢さんは、最後の承認や確認は人が受け持つことを基本としつつ、経費の申請の承認はAIに任せても、支払うところは人がチェックする、といったバランスの取り方を例に挙げています。

まとめ

• 生成AIは意味を理解して答えているのではなく、「超優秀な知ったかぶり」だと考えて使う、という見方が紹介されています
• メールの下書き、アイデア出し、試せば分かるExcelの関数のように、間違いが問題になりにくい仕事から使い、年号や人名などのピンポイントの事実は元の情報で確かめる、という分け方が出てきます
• 医療・お金や税金・法律や契約の判断、最新の情報は、AIの答えで決めず、下調べや選択肢の整理に使う分野としてくり返し挙げられています
• 推測で答えないよう一言そえると間違いを減らしやすいものの、100％は防げないと話されています
• 8割はAIの下書き、2割は人の確認、と仕事の流れを分けて、今まで通りの確かめる工程を残しておけば、AIが間違えても困らない、という考え方が紹介されています
• AIに入れる情報の決め方は、AIに入れてはいけない情報の決め方にまとめています