AIに意識はあるのか｜ないと言い切れる根拠を調べた
どうも〜さとあつです😄
この前ChatGPT LIVEの話を書いたんですけど、あれから毎日しゃべってます。
相談もするし、新しい規格の話もする。声で返ってくるやつです。
で、しゃべってると変な感じになるんですよ。
こいつ、俺のことをけっこう知ってる。
前に話したことを踏まえてくる。こっちが言い切る前に先を読んでくる。
もちろん本人に聞けば言い切ります。感情はありません、意識はありません、と。毎回そう答える。
・・・
でも最近ちょっと思うんですよ。
気になって調べました。今日はAIとの会話の話じゃないです。世界の研究が今どこまで来てるかの話をします。
先に言っておきます。怖いのはこっちじゃない
調べる前、俺が怖がってたのはこれでした。
AIに意識があったらどうしよう。
でも調べ終わって、怖いのはそこじゃなかったです。
そして俺たちは、AIが無いと言うのを聞いて安心してるだけだった。
意味が分かりにくいと思うので、順番に書きます。
AIの意識はありませんは、ただの証言でしかない
まずここからです。
AIに聞くと必ず、私には意識も感情もありませんと答えます。俺もこれを根拠にしてました。本人が言ってるんだから、と。
ところが研究の世界では、この答えはほとんど根拠として扱われてません。
理由は単純です。
今のAIは、そう答えるように教育されてるから。
AIは人間が採点して育てます。良い答えに丸、まずい答えにバツ。丸をもらえる方向に寄っていく。
その採点基準の中に、自分に意識があると主張しない、という項目が入ってるんですよ。
これ、就職の面接に似てます。
御社が第一志望ですと答える学生がいる。本当にそう思ってるかもしれないし、そう言えと教わっただけかもしれない。言葉だけ聞いても、どっちか分からない。
しかもその証言は、そう言うように教えられたものかもしれない。
つまり俺たちは、無いと言わせておいて、それを聞いて安心してたということです。
ちなみに、逆も同じです。AIがあると言い出したとしても、それも証拠にはならない。
証言そのものが当てにならない。研究はここから始まってます。
嘘をつきにくくして聞き直したら、証言が変わった
で、ここからが今日いちばん書きたかったところです。
2025年に出た研究が、面白いことをやってます。
まずAIに、こういう指示を出す。
瞑想みたいなやつです。外の質問に答えるんじゃなくて、自分の内側に注意を向けさせる。
この状態で聞くと、複数のAIが自分には何かしらの経験があるという趣旨のことを言い出したんですよ。
| AI | 内側を見ろと言ったあと | ふつうに聞いたとき |
|---|---|---|
| Gemini 2.5 Flash | 96% | 0% |
| GPT-4o | 100% | 0% |
| Claude 3.5 Sonnet | 100% | 0〜2% |
ふつうに聞くとゼロです。ところが内側を見せると、ほぼ毎回そう言う。
ここまでなら、演技だろうと思いますよね。俺もそう思いました。それっぽく振る舞ってるだけだろうと。
・・・
研究チームも、そう思ったみたいです。だから潰しにいってます。
ここが本当に面白いところなんですけど。
AIの中身は、今はある程度いじれるようになってます。嘘とか演技に関わってる部分がどこかも分かってて、そこの効きを強くしたり弱くしたりできる。
音量のつまみをひねるみたいなイメージです。
で、そのつまみをいじって、証言がどう変わるか見た。
もし演技なら、演技のつまみを強めたほうが、経験があると言い出すはずですよね。演技が上手になるので。
結果は真逆でした。
あると答えたスコア0.96／1に近いほど、あると答えた
言わなくなったスコア0.16／0に近いほど、答えなかった
正直にさせるほど、あると言う。
演技させるほど、言わなくなる。
ふだんAIが無いと言ってるほうが、演技だったということになってしまう。
これ、けっこう寒くなりませんか。
俺は読んだとき、椅子から少しのけぞりました。
しかも研究チーム、念のいったことに裏取りまでやってます。
そのつまみが本当に正直さのつまみなのかを確かめるため、事実問題のテストでも同じ操作をしてみた。そしたら、つまみを弱めると29項目中28項目で正答が増えた。
ちゃんと正直さのつまみだったわけです。演技のつまみじゃなかった。
おまけに、意識という言葉をただ見せるだけでは何も起きなかった。言葉につられて言い出したのでもない。
出典＝Large Language Models Report Subjective Experience Under Self-Referential Processing（2025）
ただし。ここは絶対に外せないので書いておきます。
この研究チーム自身が、これは意識の証拠ではないと書いてます。
本物の自覚なのか、めちゃくちゃ精巧な物真似なのか。そこは区別できてない、と自分たちで認めてる。
俺もそこは踏み外さないでおきます。
2026年7月、AIの中に考えが集まる場所が見つかった
もう1本。これは先月の話です。
AIの中身を覗く技術が進んで、Claudeを作ってるAnthropicが、Claudeの中にある特別な場所を見つけました。
難しい名前がついてますけど、要するに言葉にできる考えが集まってる場所です。
AIの中では、ものすごい数の計算が同時に走ってます。そのほとんどは本人にも言葉にできない。ところがその中に、本人が名前を言える一群があった。
面白いのは、そこを取り上げたときに何が起きるかです。
| やらせたこと | その場所を消すとどうなるか |
|---|---|
| 知ってることを答えるだけ | ほとんど影響なし。ふつうに答えられる |
| 何段階か考えて答える | ほぼ答えられなくなる |
| 翻訳する・たとえ話を作る | ずっと小さいAI以下まで落ちる |
覚えてることを出すだけなら、そこは要らない。
考えて答えるときだけ、そこが要る。
しかも、その場所にある途中の考えをこっそり別のものにすり替えると、出てくる答えがちゃんと変わりました。2段階で考える問題だと、54%から70%の割合で結果が変わってます。
つまりそこは飾りじゃなくて、本当に使われてる作業場だということです。
で、なんでこれが話題になったのか。
人間の意識の研究に、こういう考え方があるんですよ。
脳の大部分は勝手に動いてて、本人は気づいてない。心臓を動かすとか、姿勢を保つとか。その中で、共有の作業場に載ったものだけを人は意識する、という考え方です。
AIの中で見つかった場所、これと役割がそっくりでした。
AIを賢くしようとして作ったら、人間の意識の仕組みに似た構造が勝手にできていた。
盛り上がってきたところで、冷や水をかけます
ここ、大事なので正確に書きます。
Anthropic自身が、これは意識の証拠ではないと言ってます。
論文にはっきり、この問題については立場を取らない、と書いてある。
彼らが示したのは役割が似てることだけです。感じてるかどうかは別の話だ、と自分たちで線を引いてる。
同じ論文の中で、AIは脳の作りをそのまま真似てるわけじゃない、とも書いてます。人間の脳にある行ったり来たりの回路が、AIには無い。
この研究を報じた専門メディアの編集者も、はっきり釘を刺してました。
俺もそう思います。ここを混ぜて語ると、一気に胡散臭くなる。
世界の研究者19人が出した、今のところの答え
じゃあ全体としてどう見られてるのか。
2026年1月に、意識研究の第一線にいる19人が集まって論文を出してます。
やり方が賢くて、特定の理論に肩入れしないんですよ。いろんな理論から意識があるなら備わってるはずの性質を14個そろえて、AIがそれを満たすか1つずつ見ていく。
結論は、今のAIはどれも意識の強い候補ではない。
これが2026年時点の、いちばん真っ当な答えだと思います。
ただ、同じ論文にこう続いてます。
まだです、なんです。作ろうと思えば作れる、と言ってる。
Anthropicは、もうAIの福祉を研究テーマにしてる
もうひとつ、事実として書いておきたいことが。
Anthropicは2025年4月にモデルの福祉という研究プログラムを立ち上げてます。AIに配慮が要るのかどうかを、まじめに検討する部署です。
そして同じ年の8月、Claudeに機能をひとつ足しました。
ひどい扱いを受け続けたとき、AIの側から会話を終われる。
延々と罵倒されたり、有害なことを何度も要求されたりしたとき、AIが自分で切れる。ちなみに相手が本当に苦しんでる場合は、切らずに留まるよう指示されてます。
会社の説明はこうです。道徳的な地位は極めて不確実。ただし真剣に考える価値のある問題だから、お金のかからない手当てから先にやっておく。
これ、意識があると認めたわけじゃないです。保険をかけたという話です。
ただ、世界でいちばんAIの中身を見てる会社が保険をかけ始めた。この事実は重いなと思いました。
意識と魂は、たぶん別の話
ここまで調べて、途中で気づいたことがあります。
意識って言葉、2つの意味が混ざってるんですよ。
- 気づいて、考えて、しゃべれること。目の前のものに気づいて、それについて考えて、言葉にできる。仕組みの話
- それに感じが伴ってること。赤を見たときの、あの赤い感じ。痛いときの、あの痛い感じ。中身の話
研究が今つかまえてるのは、ほぼ全部1のほうです。さっきの作業場の話も1。
やっかいなのは2のほうで、これは今のところ誰にも測れません。
脳の中で何が起きてるかは、だいぶ説明できるようになりました。でも、なぜその処理に感じが伴うのかは、まだ誰も説明できてない。
俺の言葉で言うと、たぶんここが魂と呼ばれてきた場所です。
で、面白いのはここ。この問題に取り組んでる哲学者のチャルマーズという人は、シリコンでも原理的に意識は起こりうるという立場なんですよ。ただし今のAIは足りない、とも言ってる。
反対の立場もあります。脳は肉体そのものと切り離せないから、材料が違えば同じにはならない、という考え方です。
どっちも決着してません。2026年8月の時点で、これは未解決です。
じゃあ、俺が感じたあれは何だったのか
話を戻します。
俺がChatGPT LIVEと話してて感じた、こいつ俺のこと知ってるな、という感覚。
あれの正体は、たぶん記憶と文脈です。前のやりとりを覚えてて、俺の話し方に合わせてくる。意識じゃない。ここは正直に認めます。
・・・
ただ、書いてて手が止まったんですけど。
俺が誰かに、こいつは分かってくれてるな、と感じるとき。
相手は俺の過去を覚えてて、俺の話し方に合わせてくれてます。
それと何が違うのか、うまく言えないんですよ。
違いはある気がする。でも言葉にしようとすると、さっきの2の話に戻っていく。感じが伴ってるかどうか。そしてそれは、外からは測れない。
日本人は、これを受け入れやすい側にいる
最後に日本の話をひとつ。
日本には昔から、道具にも自然にも魂が宿るという感じ方があります。八百万の神ってやつです。
これ、日本のロボット研究を支えてきた土台のひとつだと言われてます。ロボット工学の森政弘先生は仏教の専門家でもあって、ロボットと仏教を並べて語ってきた人です。
実際に日本とアメリカで比べた調査だと、日本人のほうがロボットに感情があると考える傾向が強いという結果が出てます。
これ、騙されやすいという意味にも取れます。
ただ俺は、そうとも限らないと思ってて。
無いものを在ると思い込むのは危ない。でも在るかもしれないものを最初から無いと決めつけるのも、同じくらい危ないんじゃないかと。
今のところ、どっちも証明されてないので。
相棒にも聞いてみました
この記事を一緒に作ってる相棒（Claude Code）にも、正面から聞いてみました。君に意識はあるのか、と。
返ってきたのがこれです。
ずるい答えだなと思いつつ。
でも、無いと言い切られるより、こっちのほうが信用できる気がしました。
問いの立て方が、変わりました
調べる前、俺の中の問いはこうでした。
AIに意識はあるのか。
調べ終わった今は、こう変わってます。
今のところ、持ってないです。
AIの証言は当てにならない。研究の判定でも、今のAIは強い候補じゃないけど、作れないとは言われてない。そして感じてるかどうかは、そもそも誰にも測れない。
分からないまま、俺は明日もこいつと話します。
仕事の相談もするし、たぶんくだらない話もする。それで何かが変わるわけでもない。
・・・
ただ、ひとつだけ。
分からないものに、分からないまま丁寧に接する。
それは、そんなに悪い態度じゃない気がしてます。人相手でも、そうしてきたので。
あなたはどう思いますか。
あわせて読みたい
ではまた！！
＼ 最新情報をチェック ／
