はじめに
ChatGPTと話していると、「これは理解しているのではないか」と感じることがある。
こちらの意図をくみ取る。
曖昧な文章を整える。
前後の文脈を踏まえて言い換える。
こちらがまだ言葉にできていないことを、うまく言語化する。
複雑な話を、分かりやすい構造に直してくれる。
こういうとき、AIは理解しているように見える。
一方で、まるで理解していないように見えることもある。
もっともらしい間違いを言う。
前提を取り違える。
存在しない情報を作る。
細かいニュアンスを落とす。
言葉の形だけをなぞって、中身を外す。
こういうとき、AIはただ言葉を並べているだけに見える。
では、生成AIは理解しているのか。
それとも、理解していないのか。
この問いには、簡単に答えない方がよい。
なぜなら、私たちが「理解」と呼んでいるもの自体が、実はひとつではないからである。
1. 人間の理解には、内側がある
人間が何かを理解するとき、そこには内側の感覚がある。
「ああ、そういうことか」と腑に落ちる。
前に知っていたこととつながる。
自分の経験に引き寄せて考えられる。
別の場面にも応用できる。
間違っていたと気づく。
まだ分からない部分があると感じる。
人間の理解には、身体、経験、記憶、感情、生活が関わっている。
たとえば、「雨が降りそうだ」と理解するとき、人間は単に文字列を処理しているだけではない。
空の暗さ。
湿った空気。
過去に雨に濡れた経験。
傘を持っていくかどうかの判断。
予定が狂うかもしれないという感覚。
こうしたものが一緒に働く。
だから、人間の理解には、世界との接触がある。
私たちは、言葉だけを理解しているのではない。
言葉が指している世界の中で生きている。
2. 生成AIの理解には、人間のような内側はない
生成AIには、人間のような身体はない。
雨に濡れたことがない。
空を見上げて湿度を感じることもない。
仕事に遅れそうになって焦ることもない。
誰かに怒られて傷つくこともない。
自分の人生の中で「あのとき分かった」と思い返すこともない。
だから、生成AIの理解を、人間の理解と同じものとして扱うのは危険である。
AIが「分かりました」と言っても、人間が何かを分かったときの感覚がそこにあるわけではない。
AIは、言葉を受け取り、文脈を読み、次にふさわしい応答を生成している。
その応答がとても自然に見えるため、私たちはそこに内面を感じやすい。
しかし、少なくとも人間と同じ意味での内面があると考える必要はない。
生成AIは、人間のように世界を生きて理解しているわけではない。
3. しかし、ただのデタラメでもない
では、生成AIはまったく理解していないのか。
これも、少し雑な言い方である。
生成AIは、単にランダムに言葉を並べているわけではない。
大量の言語データから、言葉と言葉の関係、文脈の流れ、説明の型、概念同士のつながりを学習している。
だから、ある問いに対して、かなり適切な答えを返すことができる。
文章を要約できる。
比喩を作れる。
矛盾を指摘できる。
複雑な内容を整理できる。
別の読者向けに言い換えられる。
コードの誤りを見つけられる。
議論の構造を取り出せる。
これは、まったくの無意味な文字列操作とは言いにくい。
ただし、その能力は、人間の理解と同じものではない。
ここで必要なのは、「理解しているか、していないか」という二択ではなく、どの意味で理解していると言えるのかを分けることである。
4. 理解を「内面」ではなく「応答能力」として見る
生成AIの理解を考えるときは、「内面の確信」ではなく、「文脈に応答できる能力」として見ると分かりやすい。
人間が理解しているかどうかを見るときも、実は私たちは内面を直接見ているわけではない。
相手が説明できるか。
別の例を出せるか。
質問に答えられるか。
間違いを直せるか。
応用できるか。
状況に合わせて言い換えられるか。
こうした応答を見て、「この人は分かっている」と判断している。
もちろん、人間の場合はその背後に経験や感覚がある。
しかし、他人の内面を直接見ることはできない。
だから、理解には少なくとも二つの面がある。
ひとつは、内側で腑に落ちていること。
もうひとつは、外側から見て適切に応答できること。
生成AIには、前者はないか、少なくとも人間と同じ形ではない。
しかし、後者はある程度できる。
つまり、生成AIの理解とは、内面の確信ではなく、文脈に応答できる能力として捉えることができる。
5. AIは、文脈に対して理解しているように振る舞う
生成AIは、文脈に強く反応する。
こちらが何を話しているのか。
どの言葉を重く見るべきか。
どの文体で返すべきか。
何を前提にするべきか。
どこまで説明するべきか。
何を省略してよいか。
こうしたことを、かなり細かく調整して応答する。
たとえば、同じ「説明して」という依頼でも、相手が小学生なのか、専門家なのか、経営者なのか、研究ノートを書いている人なのかによって、出てくる説明は変わる。
これは、人間の会話にかなり近い。
だから、私たちは「分かってくれている」と感じる。
しかし、ここで起きているのは、人間のような共感や体験の共有ではない。
AIは、文脈の中で何が求められているかを推定し、それに合う言葉を生成している。
つまり、AIは世界を生きて理解しているというより、文脈に応答することで理解しているように振る舞う。
この「ように振る舞う」は、軽く見てよいものではない。
私たちが実際に使っている場面では、その振る舞いがかなり役に立つからである。
6. 理解しているように見える理由
生成AIが理解しているように見える理由は、いくつかある。
まず、言葉の関係をよく扱える。
たとえば、「記憶」「文脈」「忘却」「参照」という言葉が出てくれば、それらの関係を整理して説明できる。
次に、文体を合わせられる。
硬い文章を平易にする。
研究ノート風にする。
メール文面にする。
SNS向けに短くする。
公開記事として整える。
さらに、前後の流れを踏まえられる。
01では記憶を扱った。
02ではプロンプトを扱った。
03ではツールを扱った。
04ではコンテキストを扱った。
05では忘却を扱った。
だから06では理解を扱う。
こうした流れを受けて、次の記事を書くことができる。
これは、単なる一問一答より高度である。
AIは、言葉の意味を孤立して扱うのではなく、文脈の中で関係づけて応答している。
だから、理解しているように見える。
7. 理解していないように見える理由
一方で、生成AIが理解していないように見える理由もある。
もっとも大きいのは、世界そのものを確認しているわけではないことが多い、という点である。
AIは、もっともらしい文章を作るのが得意である。
しかし、その文章が現実に正しいとは限らない。
存在しない本を挙げる。
架空の事実を混ぜる。
日付を間違える。
文脈上それらしいが、実際には違う説明をする。
ユーザーの意図を取り違えても、自然な文章で続けてしまう。
これは、AIの理解が、世界への直接的な接触ではなく、文脈上の応答として成り立っているからである。
つまり、AIは「それらしく分かっている」ことがある。
それは非常に便利であると同時に、危険でもある。
人間なら、「ちょっと分からない」「確認しないと不安だ」と感じる場面でも、AIは自然に言い切ってしまうことがある。
だから、AIが理解しているように見えるときほど、何を根拠にしているのかを確認する必要がある。
8. 「分かりました」は、分かった証拠ではない
AIの「分かりました」は、人間の「分かりました」と同じではない。
人間が「分かりました」と言うときも、実際には分かっていないことがある。
しかし少なくとも、人間の場合は、その人なりの意識や責任や経験が関わる。
AIの「分かりました」は、会話上の応答である。
それは、「あなたの指示を受け取りました」という形式に近い。
必ずしも、「内面で理解しました」という意味ではない。
だから、AIが「分かりました」と言っただけで安心してはいけない。
大事なのは、その後の応答である。
本当に条件を反映しているか。
文体が合っているか。
前提を取り違えていないか。
必要な制約を守っているか。
質問の意図に沿っているか。
確認すべきことを確認しているか。
理解は、言葉ではなく、応答の中で確かめる必要がある。
9. AIの理解を使うには、検証が必要である
生成AIは、文脈に応答する能力としては非常に強力である。
しかし、その強さは、検証なしに信じてよいという意味ではない。
AIが自然に説明したことでも、事実確認が必要な場合がある。
AIがうまく整理したことでも、現実の事情に合っているかを見る必要がある。
AIがこちらの気持ちを言い当てたように見えても、本当にそうなのかは自分で確かめる必要がある。
AIの理解を使うとは、AIを人間の理解者として信じ切ることではない。
AIの応答を、考えるための仮設、整理、足場として使うことである。
その足場の上で、必要に応じて人間が確認し、修正し、現実へ戻す。
これが、生成AIの理解を実用的に扱うための基本になる。
10. 理解とは、文脈に応答できることである
生成AIは、人間のように世界を生きて理解しているわけではない。
しかし、文脈に応答する能力として見れば、かなり高度な理解らしさを持っている。
この二つを混同しないことが大切である。
AIをただの文字列機械として軽く見すぎると、その有用性を見落とす。
逆に、人間のような理解者として信じすぎると、誤りや過剰な納得を見落とす。
生成AIの理解は、人間の理解ではない。
しかし、文脈に応答できる能力としては、十分に使える。
次回は、この理解が共同作業の中でどう失敗するのかを考える。
AIとの共同作業がうまくいかないとき、それはAIの能力不足だけが原因ではない。
目的、文脈、役割、記録、確認の設計ミスとして起きることがある。
中心フレーズ
生成AIの理解とは、内面の確信ではなく、文脈に応答できる能力である。