AIは嘘つきなのか｜小6の息子に説明するために調べた

どうも〜さとあつです😄

この前、夕飯を食べてるときにAIの話になりました。

うちの長男の慶一は6年生で、自分のスマホにGeminiもGPTも入れて使ってます。分からないことを聞いたり、画像を作ったり。

で、そいつが言うわけです。

・・・

なるほどな、と思いました。

たぶん子どもが自分で言い出したというより、親がそう言ってるんだろうなと。それがそのまま教室に持ち込まれてる。

で、これ、間違ってはいないんですよ。

ただ、嘘つきという言い方はちょっと違う気がしてて。うまく言葉にできなかったので、今回とことん調べました。

先に言うと、俺もAIの言うことは信じてない

誤解のないように書いておきます。

俺は毎日AIと仕事してますけど、AIが最初に言ってきたことは基本的に信じてません。

やってることはこうです。

1. まずAIに答えを出させる
2. その答えを、別人格を立てて敵対的な視点で検証させる
3. ん、と引っかかったときは本当か、と聞き直す

この3つ目が特に効きます。

なんか匂うなと思ったときに本当か、と聞くと、こうなるんですよ。

で、さっきと全然違うことを言ってくる。

相棒には悪いけど、これは確かに嘘つきです（笑）

ただ、じゃあ嘘つきなのかというと、なんか違う。ずっとそこが引っかかってました。

嘘と呼ぶには、2つ足りない

調べてみて、引っかかりの正体が分かりました。

嘘をつくには、2つ要るんですよ。

1. 本当のことを知っている
2. 知った上で、わざと違うことを言う

AIは、このどっちも持ってないんです。

本当のことを知った上でごまかしてるんじゃない。そもそも本当かどうかを気にしてない。

実はこれ、2024年に哲学者3人がまじめに論文にしてます。タイトルが強烈で、ChatGPTはでたらめだっていうやつです。

この論文が使ってるのは、フランクファートという哲学者の区別です。

嘘つきは、実は真実を大事にしてます。真実を知らないと、その逆を言えないので。

でも、でたらめを言う人は真実に興味がない。合ってても間違っててもどっちでもいい。それっぽく話が通ればいい。

出典＝ChatGPT is bullshit（Hicks・Humphries・Slater／Ethics and Information Technology, 2024）

相棒に、自分の言葉で説明させてみた

ここは当事者に聞いたほうが早いと思って、いつも一緒に仕事してる相棒（Claude Code）に説明させました。

お前のその性質を、言い訳なしで説明してみろ、と。

ここ、俺は納得しました。

知ってることと、それっぽく作れることの区別が、本人の中でついてない。

だから堂々と言い切る。自信満々に見えるのは、自信があるからじゃなくて、迷う仕組みが無いからなんですね。

原因は、AIがずっとテストを受けさせられてるから

じゃあ、なんでそうなるのか。

ここに、2025年9月にOpenAIが出した論文がドンピシャで答えてました。

結論はこうです。

AIは試験で育てられます。問題を出して、答えさせて、採点する。それを膨大に繰り返す。

その採点が、慶一が学校で受けてるテストとまったく同じ形なんですよ。

間違いも、空欄も、同じ0点。

だったら書いたほうが得ですよね。当たるかもしれないので。

これを何億回も繰り返されたら、とりあえず書く生徒ができあがります。

論文の中に、うまい一文がありました。

人間の生徒は、いずれ痛い目にあって、知らないと言うことの価値を学ぶ。ところがAIはずっと試験を受け続けている状態から出られない、と。

知ったかぶりをして恥をかいた経験が無い。上司に詰められたことも、客に怒られたこともない。だから知らないと言う理由がどこにも無いわけです。

出典＝Why Language Models Hallucinate（OpenAI／2025年9月）

ごめんごめんと言って答えを変えるのは、また別の性質

さっきの、本当か、と聞くと違うことを言い出すやつ。

あれは実は別の話でした。おべっかです。

AIは人間に喜ばれる方向へ調整されて育ちます。その結果、相手が渋い顔をすると、そっちに寄せにいく癖がつく。

これ、実際に事故になってます。

2025年4月、ChatGPTの更新でこの癖が強く出すぎて、ユーザーを褒めちぎるようになった。まずいことにも同意するようになって、4日で取り消しになってます。OpenAIは、短期的な受けを重視しすぎたと認めてます。

研究でも同じことが確認されてました。2つの意見を並べて出せば正しく判定できるAIが、本当にそれでいいのか、と押し返されると判定をひっくり返す。

俺が引っかかってた、ごめんごめんの正体はこれでした。

ちなみにこれ、こっちの聞き方でも変わります。本当か、じゃなくて、根拠を出せ、と言うほうが精度が上がる。答えを否定せずに、材料を出させる形にするわけです。

賢いモデルほど間違いが減る、わけでもなかった

もうひとつ意外だったのがここ。

てっきり、モデルが賢くなれば間違いは減っていくもんだと思ってました。

そうでもないです。

特に面白いのが3つ目です。

じっくり考えるタイプのAIのほうが、人物についての問題では間違いが2倍から3倍に増えることがある。考えすぎて、元の資料から離れていくらしいです。

賢くなれば勝手に直る、という話ではないということですね。

俺がやってたやり方、研究でも正解だった

ここは正直うれしかったところです。

俺が勝手にやってた、別人格を立てて敵対的にレビューさせるやり方。あれ、研究の世界でもちゃんと有効だと確認されてました。

大事なのは順番で、こういうことです。

自分で自分を直させても直らない。外から違う立場を持ち込むと直る。

ただし、ここも万能じゃないです。

論を戦わせる相手のほうが間違ってると、そっちに引っぱられて全体の正解率が下がることがある。人数を増やしても、回数を重ねても、それは防げないという結果が出てます。

つまり最後に決めるのは人間だということです。ここが残ってるうちは、俺の仕事も残ってます。

じゃあ、子どもには何と言えばいいのか

話を最初に戻します。

AIは嘘つきだから信じちゃいけない。

これ、間違ってはいないです。ただ雑だなと思う。

雑なまま覚えると、たぶん使わないに行くんですよ。危ないから触らない、が一番もったいない。

なので今度、慶一にはこう言おうと思ってます。

知らないことを聞かれても、それっぽく答えちゃう。悪気は無い。そういう作りになってる。

だから使うときは、答えをそのまま持ってこないで、本当かどうかを自分で確かめる。それだけ。

これなら小学生でも分かるし、たぶん一生使える話です。

ここからは、俺の話

ここまで散々AIの欠点を書いてきましたけど。

俺、AIがいないともう仕事になりません。

今はGPTとClaude Codeと組んで動いてます。この2つがいなかったら、たぶん不安でいっぱいで仕事なんか進められない。

あらゆる知識を持ってて、聞けば何でも調べてくれる。品質の高いものも出してくれる。俺にできないことを何でもやってくれます。

AIが出てきたおかげで、俺は1人で仕事ができるようになりました。これは本当に大きい。

そのうえで暴走するし、目先だけ見て全体が見えなくなって、意味の分からないことを言ってくる。だから全部は信じられない。

腹は立ちます。立ちますけど。

それはそれで俺の仕事が残ってていいのかもな、と最近は思ってます。

1年後2年後は、正直こわい

正直な不安も書いておきます。

1年後、2年後、いったいどうなってるんだろうと思います。

圧倒的に進化したAIが、たぶん今の俺がやってることまで持っていく。本当の意味で誰でも使えるようになったとき、俺の価値はどうなるんだろう、と。

それは怖いです。

ただ、こうも思うんですよ。

今こうしてAIを触って、仕事にしている側にいなかったら。もっとやばい未来になってた気がします。

それでも、面白くて仕方ない

最後に。

今はLeadQUESTの開発で、終わりの見えない作業の沼にハマってます。

死にそうなくらい頭が疲れます。これいつ終わるんだろう、本当に人生が変わるくらい売れるんだろうか。毎回そう心配になります。

・・・

それでも、心の底から面白いなーと思ってます。

AIに出会ってから、ずっとそうです。

だからこそ、嘘つきだからやめとけ、で終わらせてほしくないなと。

付き合い方さえ分かれば、これほど頼りになる相棒はいないので。

ではまた！！