GENAI-RON🧠生成AI論🥦

生成AIのしくみ 08

AIを使うとは、文脈を設計することである

シリーズ全体の結論。生成AIを使うとは、答えを命令することではなく、答えが生まれる条件を整えることである。

生成AIを使うとは、答えを命令することではなく、答えが生まれる条件を整えることである。

はじめに

ここまで、生成AIについていくつかの角度から見てきた。

記憶。プロンプト。外部ツール。コンテキスト。忘却。理解。共同作業。

一見すると、それぞれ別の話に見える。

AIは何を覚えているのか。プロンプトは命令なのか。なぜ余計なツールを呼ぶのか。なぜ長い会話で混線するのか。なぜ忘れたように見えるのか。AIは理解しているのか。なぜ共同作業は失敗するのか。

しかし、これらはすべて、ひとつの問題につながっている。

生成AIは、固定された答えを取り出しているのではない。

その時点で与えられた条件から、応答を作っている。

だから、生成AIを使うとは、ただ命令することではない。

答えが生まれる条件を整えることである。

1. AIは、答えを持って待っているわけではない

生成AIを使い始めると、ついこう思ってしまう。

AIの中に答えがある。こちらが質問すれば、その答えを取り出してくれる。

しかし、この見方は少しずれている。

生成AIは、辞書や百科事典のように、完成した答えをそのまま取り出しているわけではない。

もちろん、学習済みの知識や言語の傾向はある。

しかし、実際の応答は、その場の文脈、指示、設定、ファイル、ツール、保存メモリなどの条件から作られる。

つまり、AIの答えは、あらかじめ箱の中に置かれているものではない。

その場で生成される。

だから、同じ質問でも、文脈が違えば答えが変わる。同じAIでも、設定が違えば文体が変わる。同じテーマでも、読者層を変えれば構成が変わる。同じ作業でも、使えるツールが違えば進み方が変わる。

生成AIは、答えを保存している装置というより、条件に反応して答えを作る装置である。

2. 記憶とは、現在に戻ってくる条件である

01では、生成AIの記憶を見た。

生成AIの記憶は、人間の記憶と同じではない。

モデル本体にあるもの。会話文脈として渡されるもの。保存メモリとして参照されるもの。外部ツールに置かれているもの。

これらは、それぞれ違う。

しかし共通しているのは、現在の応答に影響するときに「記憶のように見える」ということである。

AIが何かを覚えているように見えるのは、その情報がいまの応答に再投入されているからである。

逆に、どこかに情報が残っていても、いま参照されなければ、応答には出てこない。

だから、生成AIの記憶とは、保存された過去そのものではない。

現在に戻ってくる条件である。

3. プロンプトとは、命令である前に環境である

02では、プロンプトについて考えた。

プロンプトは命令である。

「要約して」「短くして」「Notionに転記して」「公開版として書いて」

こうした指示は、AIの行動を決める。

しかし、プロンプトは命令だけではない。

プロンプトは、AIが次の応答を作るための環境でもある。

同じ「書いて」でも、研究ノートの文脈なのか、メール文面なのか、SNS投稿なのか、公開記事なのかで答えは変わる。

同じ「短くして」でも、読者が誰か、目的が何か、どの情報を残すべきかで、短くし方は変わる。

だから、よいプロンプトとは、強い命令文ではない。

AIが迷わない作業環境である。

4. ツールとは、行動を誘導する道である

03では、外部ツールを見た。

Notion、Google Drive、Gmail、GitHub、Web検索。

これらは、AIにとって単なる保存場所ではない。

読む場所であり、書く場所であり、実行する場所である。

つまり、外部ツールは記憶ではなく、行為可能性である。

道具が見えると、使う道が生まれる。

AIにNotionが見えていれば、Notionに書く可能性が生まれる。Web検索が見えていれば、調べる可能性が生まれる。Gmailが見えていれば、メールを読む、下書きする、送る可能性が生まれる。

だから、外部ツールを使うときは、目的だけでなく経路を設計する必要がある。

何を読むのか。何を書いてよいのか。どのページは触らないのか。検索するのか、しないのか。新規作成なのか、既存更新なのか。

ツールは中立な道具ではない。

AIの行動を誘導する道である。

5. コンテキストとは、AIにとっての現在である

04では、コンテキストを見た。

生成AIにとっての「今」は、人間の今とは違う。

人間の今には、身体、記憶、感情、時間の厚みがある。

一方、生成AIにとっての今とは、その時点で渡された文脈の束である。

直近の発言。過去の会話。設定。保存メモリ。アップロードファイル。ツール仕様。検索結果。外部ページの内容。

それらが束になって、AIにとっての現在を作る。

だから、長い会話では混線する。古い前提と新しい指示が混ざる。直近の話題に引っ張られる。重要な条件が埋もれる。

AIを安定して使うには、文脈を整える必要がある。

コンテキストとは、単なる会話履歴ではない。

AIにとっての現在である。

6. 忘却とは、消失ではなく非参照である

05では、忘却を見た。

AIが忘れたように見えることがある。

前に言ったことを使わない。保存されているはずの情報が出てこない。同じチャット内なのに、前提を取り違える。別チャットに移ると、急に通じなくなる。

このとき、私たちは「忘れた」と感じる。

しかし、生成AIの場合、それは必ずしも情報が消えたという意味ではない。

今回の文脈に入っていない。入っていても弱い。外部にあるが読みに行っていない。古い情報に埋もれている。新しい方針として目立っていない。

こうしたことが起きている場合がある。

つまり、AIの忘却とは、消失ではなく非参照であることが多い。

だから、対処法は「ちゃんと覚えて」と叱ることではない。

必要な情報を、いまの文脈に戻すことである。不要な情報を脇に置くことである。古い方針を捨て、新しい方針を目立たせることである。

忘却の問題も、文脈設計の問題である。

7. 理解とは、文脈に応答できる能力である

06では、AIの理解を見た。

AIは理解しているように見える。

こちらの意図をくみ取る。文章を言い換える。抽象的な話を整理する。シリーズの流れを踏まえて次の記事を書く。

しかし、人間のような意味で理解しているとは言いにくい。

AIには身体がない。人生がない。雨に濡れた経験もない。責任を負う感覚もない。世界の中で生きているわけではない。

だから、AIの理解を人間の理解と同じものとして扱うのは危険である。

しかし、ただのデタラメでもない。

AIは、文脈に対してかなり適切に応答できる。

説明できる。言い換えられる。構成できる。矛盾を見つけられる。読者に合わせて調整できる。

この意味で、AIの理解とは、内面の確信ではなく、文脈に応答できる能力である。

ここでも大事なのは、文脈である。

AIは、与えられた文脈に応答する。

だから、何を理解させるかではなく、どの文脈に応答させるかが重要になる。

8. 共同作業の失敗は、作業環境の設計ミスとして起きる

07では、AIとの共同作業の失敗を見た。

AIは便利である。しかし、使っているうちに疲れることがある。

話がずれる。形式は整っているのに中身が弱い。要約したのに意味が落ちる。Notionに記録したのに再利用できない。長期作業で最新版が分からなくなる。

これは、AIの能力不足だけで起きるわけではない。

目的が曖昧だった。文脈が混ざっていた。役割分担が決まっていなかった。記録の目的が不明だった。確認ポイントがなかった。古い方針と新しい方針が同時に残っていた。

つまり、共同作業の失敗は、作業環境の設計ミスとして起きる。

AIをうまく使うとは、AIに全部任せることではない。

目的を共有する。文脈を整える。役割を分ける。途中で確認する。記録を再利用可能にする。必要に応じて現在地を作り直す。

AIとの共同作業とは、状態を共有し続けることである。

9. 生成AIを使う力は、プロンプト力だけではない

よく「プロンプト力」という言葉が使われる。

もちろん、プロンプトを書く力は大事である。

しかし、このシリーズで見てきたことを踏まえると、それだけでは足りない。

必要なのは、もっと広い力である。

何を記憶として扱うか。どの文脈を渡すか。どのツールを使わせるか。どの情報を目立たせるか。どの古い方針を捨てるか。何をAIに任せ、何を人間が判断するか。どこで確認し、どこから先を実行するか。

これらを整える力が必要になる。

つまり、生成AIを使う力は、単なるプロンプト力ではない。

文脈を設計する力である。

10. 文脈設計とは、答えが生まれる条件を整えることである

文脈設計とは、AIに都合のよい言い方を探すことだけではない。

目的を決めること。

読者や相手を決めること。

参照してよい資料を決めること。

参照しない資料を決めること。

使ってよいツールを決めること。

使わないツールを決めること。

出力形式を決めること。

確認のタイミングを決めること。

記録の残し方を決めること。

古い前提を捨てること。

現在地を作り直すこと。

これらすべてが、文脈設計である。

生成AIは、与えられた条件から応答を作る。

だから、答えを変えたいなら、条件を整える必要がある。

答えを命令するのではない。

答えが生まれる条件を整える。

それが、生成AIを使うということである。

11. AIを使うとは、世界との接続を設計することでもある

生成AIは、閉じた文章生成装置ではない。

外部ツールとつながる。ファイルを読む。Notionに記録する。GitHubを更新する。Webを検索する。メール文面を作る。予定を整理する。

つまり、AIは現実の作業と接続し始めている。

だから、文脈設計は、AIの内側だけの話ではない。

どの情報をAIに渡すか。どの外部環境に接続するか。どこまで実行させるか。どこで人間が確認するか。どの記録を残すか。どの判断を現実に戻すか。

これらは、世界との接続の設計でもある。

AIを使うとは、AIに閉じこもることではない。

AIとの対話を通じて、現実に戻る経路を作ることである。

12. 結論

生成AIは、答えを持って待っている存在ではない。

その場に渡された文脈、指示、記憶、ツール、環境から、応答を生成している。

だから、生成AIを使うとは、答えを命令することではない。

答えが生まれる条件を整えることである。

この見方を持つと、AIとの付き合い方は変わる。

覚えているかどうかだけでなく、何が参照されているかを見る。

プロンプトの文面だけでなく、作業環境を見る。

ツールの有無だけでなく、行動経路を見る。

長い会話の履歴だけでなく、いま有効な文脈を見る。

忘れたかどうかだけでなく、文脈に戻っているかを見る。

理解しているかどうかだけでなく、どの文脈に応答しているかを見る。

共同作業が失敗したとき、AIだけでなく、作業環境を見る。

生成AIを使うとは、文脈を設計することである。

中心フレーズ

生成AIを使うとは、答えを命令することではなく、答えが生まれる条件を整えることである。

シリーズ内ナビ

より詳しく知りたい人へ

技術詳解版では、context window、instruction hierarchy、tool calling、memory、RAG、workflow design を、文脈設計という観点から整理する予定です。