昨日と同じ質問をした。違う答えが返ってきた。
どちらが正しいのか分からなくなる。そして「AIは信用できない」という結論に行きがちになる。
ただ、これは故障ではなく、そう作られている。理由が分かると、揺れを減らす方法も、揺れを利用する方法も見えてくる。
この記事は育ちます。公開後も、会話パート・トーク・補足を足していきます。
公開 2026-10-23 ／ 最終更新 2026-10-23（公開）
水深 — 次の1語を、確率で選んでいる
言語モデルがやっていることは、単純に言えば次に来る言葉を予測することだ。
「今日は良い」まで書いたとき、次に来る候補はいくつもある。
- 天気 （確率 40%）
- 日 （確率 20%）
- 一日 （確率 15%）
- 機会 （確率 5%）
- ……
ここでいちばん確率の高いものを必ず選ぶなら、答えは毎回同じになる。
ところが、実際には確率に従ってくじを引いている。40%のものが選ばれやすいが、20%のものが選ばれることもある。
1語ごとにくじを引く。 それが何百語も続く。だから、途中で1つ違う語が選ばれると、そこから先が全部変わる。
「温度」という設定
このくじの引き方を調整するのが、temperature（温度）と呼ばれる設定だ。
- 温度が低い（0に近い） → 確率の高いものを選びやすい。答えが安定する
- 温度が高い（1以上） → 低い確率のものも選ばれる。多様になる
料理でいうと、レシピどおりに作るか、そのとき手元にあるもので変えるか、くらいの違いだと思う。
用途で使い分ける。
- 事実を扱う、数字を出す、要約する → 低くする
- アイデアを出す、言い回しを複数ほしい → 高くする
ツールによって、この設定を触れるものと触れないものがある。触れない場合でも、プロンプトで似た効果を作れる。
温度を0にしても、完全には同じにならない
ここが少しややこしい。
温度を0にすれば、毎回同じ答えになるはずだ。理屈ではそうなる。
ところが実際には、完全には一致しないことがある。
理由はいくつか挙げられている。
- 計算を並列で行う都合で、足し算の順番が変わることがある（浮動小数点の誤差が絡む）
- 確率がごくわずかしか違わない候補が2つあると、誤差で順位が入れ替わる
- サービス側でモデルやパラメータが更新される
最初の理由が面白い。前に書いた浮動小数点の話が、ここでも出てくる。
0.1 + 0.2 の計算順序が変わると、最後の桁がわずかに違う。その差で候補の順位が入れ替わり、違う語が選ばれる。そこから先の文章が全部変わる。
バタフライ効果のようなことが、計算の最下位桁で起きている。
揺れを減らす、実務的な方法
設定を触れない環境でも、できることがある。
① 出力の形を指定する
「表で」「3つの箇条書きで」「200字で」。形が決まっていると、中身も安定する。自由度が減るぶん、揺れも減る。
② 判断基準を書く
「重要度の高い順に」ではなく、「金額の大きい順に」と書く。「重要度」は解釈が入るが、「金額」は入らない。
③ 選択肢を渡す
「分類して」ではなく、「次の5つのどれかに分類して」と書く。答えの範囲を閉じる。
④ 根拠を、こちらから渡す
前に書いたとおり、記憶に頼らせると揺れる。資料を渡せば、そこから答えるので安定する。
⑤ 同じことを2回聞いて、比べる
揺れる部分と、揺れない部分が分かる。揺れなかった部分は、比較的信用できる。
⑤は検算として使える。答えが毎回同じなら、その情報は強く学習されている可能性が高い。毎回違うなら、そこは不確かだと考える。
揺れが役に立つ場面
一方で、揺れがないと困る仕事もある。
- タイトル案を10個出す
- 言い回しを変えてみる
- 別の切り口を探す
- 思いつかない選択肢を挙げてもらう
毎回同じ答えしか返ってこないなら、2回目以降を聞く意味がない。
だから、こう使い分ける。
- 同じ答えがほしい仕事 → 形と基準を固定する
- 違う答えがほしい仕事 → そのまま何度も聞く
「AIが毎回違うことを言う」のを欠点として見るか、選択肢を出す機能として見るか。仕事の種類で変わる。
「さっきと言ってることが違う」への対処
同じ会話の中で、前と違うことを言われることもある。これは少し別の問題になる。
原因として考えられるのは、
- 前のやりとりが、文脈から外れた（長くなりすぎた）
- 前の発言が、真ん中に埋もれた（Lost in the Middleの話）
- こちらの質問の仕方が変わった
対処は単純で、大事な前提は、毎回書き直す。
長い会話を続けるより、新しい会話を始めて、前提をまとめて渡すほうが安定することが多い。
会話が長くなるほど、前のほうの内容は薄れていく。「さっき言ったよね」が通じないのは、意地悪ではなく構造的な問題になる。
議事録や要約で、揺れると困る
実務でいちばん困るのは、ここだと思う。
同じ会議の録音から要約を作らせて、2回やったら違う要約が出た。どちらを採用するか。
対策は、要約の項目をこちらが決めてしまうこと。
- 決まったこと
- 決まらなかったこと
- 誰が、いつまでに、何をするか
- 次回の議題
この4つを埋めさせる。自由に要約させない。
項目が決まっていれば、2回やってもほぼ同じものが出る。そして、人が確認するのも速くなる。どこを見ればいいか決まっているからだ。
これは人に議事録を頼むときも同じで、フォーマットを渡したほうが早い。
記録を残す
もうひとつ、実務の話。
AIの出力を仕事に使うなら、そのとき使ったプロンプトを残しておく。
- 何を渡したか
- どう聞いたか
- いつ、どのモデルで
あとで「この数字はどこから来たのか」と聞かれたときに、再現できるかどうかが変わる。完全に同じ答えが出なくても、同じ手順を踏んだことは示せる。
これは帳簿の話と同じ発想だと思う。結果だけでなく、過程を残す。
確率で動くものを、仕事に使うということ
最後に、少し引いた話を。
AIが確率で動いているというのは、答えが確率的にしか正しくないということでもある。
だから、こう使うのが自然になる。
- 間違っても被害が小さいところから使う
- 人が確認できる形で出させる
- 確認する場所を絞る（固有名詞、数字、日付、条文、出典）
逆に、確率で決まってはいけないものには使わない。
- 最終的な金額の計算
- 法的な判断
- 人事の評価
このあたりは、道具の性質と、仕事の性質を合わせるという話になる。
電卓は毎回同じ答えを出す。だから計算に使える。AIは毎回違う答えを出す。だから計算以外に使う。
航路 — くじを引いているから、揺れる
整理する。
- 言語モデルは、次の1語を確率で選んでいる。毎回くじを引いている
- temperature（温度）が、くじの引き方を決める。低いと安定、高いと多様
- 温度を0にしても、完全には一致しない。計算順序による誤差などが残る
- 揺れを減らすには、形・基準・選択肢を固定し、根拠をこちらから渡す
- 2回聞いて比べると、信用できる部分とそうでない部分が分かる
- 揺れは、選択肢を出す仕事では長所になる
- 議事録や要約は、項目をこちらが決めて埋めさせる
- 使ったプロンプトを残すと、過程を説明できる
「AIは毎回違うことを言うから信用できない」と思っていた。
仕組みを知ってからは、違うことを言うのが正常で、同じことを言わせたいなら条件を固定する、という理解に変わった。
そして、同じ答えがほしいなら、そもそもAIでなくていい場面も多い。表計算の式のほうが、確実で速い。
道具を選ぶところから仕事が始まっている、という当たり前のところに戻ってきた。
「AIに聞いたことを、そのまま人に言わない」
揺れる道具を仕事で使うときの、いちばん基本の作法だと思う。
AIから返ってきた答えを、そのまま会議で話す。あとで違っていたら、責任を取るのは自分になる。
「AIがそう言っていました」は、理由にならない。電卓の打ち間違いを、電卓のせいにできないのと同じだ。
だから、こういう手順にする。
- AIに聞く
- 自分で確かめる
- 自分の言葉で話す
確かめられないことは、話さない。話すなら「未確認ですが」と付ける。
これは新人のころに教わることと、同じだと思う。人から聞いた話を、確かめずに上司に報告しない。情報源が機械に変わっただけで、作法は変わらない。
2回聞いて比べる、の具体的なやり方
本文で「2回聞いて比べる」と書いた。もう少し実務的に書く。
① 同じ質問を、別の会話で2回する
同じ会話の中で「もう一度」と言うと、前の答えに引っ張られる。新しい会話を開いて、同じ質問を貼る。
② 聞き方を変えて2回する
- 「AはBか」
- 「AとBの関係を説明して」
同じことを、違う角度から聞く。答えの中身が一致するかを見る。
③ 逆から聞く
「この結論の根拠は」「この結論が間違っているとしたら、どこが弱いか」
自分の答えの弱点を挙げさせると、あやしい部分が出てくることがある。
③がいちばん効いた。肯定的に確認するより、否定的に確認するほうが情報が出る。
「揺れ」と「間違い」は別のもの
ここは分けて考えたほうがいい。
- 揺れ 言い回しや順番が違う。中身は同じ
- 間違い 中身が違う
毎回違う文章が返ってくること自体は、問題ではない。中身が同じなら、それは揺れだ。
逆に、毎回同じ答えが返ってくるのに、その答えが間違っていることもある。安定していることと、正しいことは別になる。
だから、2回聞いて同じだったからといって安心はできない。同じ間違いを2回することはある。
結局、外の情報で確かめるしかない。条文を開く、資料を見る、人に聞く。
仕事別の、向き不向き
まとめておく。
向いている（揺れても困らない、または揺れが役に立つ）
- 文章の下書き
- 言い回しの言い換え
- アイデア出し、切り口探し
- 分類、整理の案
- 読みにくい文章を整える
- 自分の文章のチェック（抜けを指摘させる）
注意が要る（確認が前提）
- 事実の調査
- 要約（大事なところが落ちていないか）
- 翻訳（固有名詞、数字）
- 手順の説明（古い情報が混ざる）
向いていない
- 最終的な金額の計算
- 法的な判断
- 人の評価に関わる判断
- 正解が1つに決まっていて、外すと影響が大きいもの
確率で動くものを、確率で動いてはいけない場所に置かない。 これが線引きになる。
出力を、そのまま保存しない
もうひとつ、実務の作法。
AIの出力をコピーして、そのまま社内文書として保存すると、あとで困る。
- どこまでが確認済みか分からない
- いつ作ったものか分からない
- 元の質問が分からない
だから、文書の末尾か、別のメモに残しておく。
作成：2026-10-23 下書きをAIで作成、数字と条文は◯◯で確認済み
これだけで、半年後に見たときの扱いが変わる。確認済みの文書として使えるか、もう一度確認が要るかが分かる。
そして、この一文があると、自分が確認したことの記録にもなる。
道具として、安定させる工夫
最後に、実際に使っている型を書いておく。
① 同じ仕事は、同じプロンプトを使い回す
毎回書き直すと、結果も毎回変わる。テキストファイルに定型文を保存しておき、そこに材料だけ差し替える。
② 出力の形を、テンプレートで渡す
「次の形式で埋めてください」と書いて、空欄の表を渡す。埋めるだけの仕事にすると、揺れる余地が減る。
③ 確認項目を、最後に出させる
「この回答で、確認が必要な箇所を最後に3つ挙げて」
自分で確認リストを作ってもらう。そこだけ見ればいい形にする。
④ 短く区切る
長い仕事を1回で頼まない。3つに分けて、それぞれ確認する。間違いが早く見つかる。
どれも特別なことではない。人に仕事を頼むときと、同じ工夫をしているだけだと思う。
この記事は、まだ書きかけです
この記事は、公開してから足していく形にしています。調べたことを書いた本文がまず先にあって、あとから「聞き手と話し手の会話」「あとで思い出したこと」「読んだ人から教わった補足」が積もっていきます。
だから、同じURLでも半年後には別のものになっているはずです。もし一度読んだことがある記事なら、下の更新ログだけ見てください。増えたところが分かります。
更新ログ
- 2026-10-23 公開（本文のみ。会話パートはこれから足します）
