GENAI-RON🧠生成AI論🥦

生成AIのしくみ 02

プロンプトは命令なのか、環境なのか

プロンプトはAIへの命令であると同時に、AIが応答を作るための環境でもある。

プロンプトは命令である前に、生成AIが世界を読むための環境である。

はじめに

ChatGPTに指示を出したのに、思った通りに動かないことがある。

「短く答えて」と言ったのに、長く説明される。

「この形式で書いて」と頼んだのに、途中で形式が崩れる。

「このツールは使わないで」と伝えたのに、別の手順に進もうとする。

「前に決めた方針で」と言ったのに、直近の会話に引っ張られる。

こういうとき、私たちはつい「命令を守っていない」と感じる。

もちろん、実際に指示がうまく伝わっていない場合もある。

しかし、それだけでは説明できないことも多い。

生成AIにとって、プロンプトは単なる命令文ではない。

プロンプトは、応答を作るための環境でもある。

1. プロンプトは、命令である

まず、プロンプトはたしかに命令である。

「要約して」

「箇条書きにして」

「敬語で書いて」

「Notionに転記して」

「この文章を公開用に整えて」

こうした指示を受けて、生成AIは次に何をすべきかを判断する。

この意味では、プロンプトは人間からAIへの命令である。

しかし、ここで注意したいのは、生成AIは命令文だけを読んでいるわけではない、ということである。

現在の会話。

過去のやり取り。

カスタム指示。

プロジェクト設定。

アップロードされたファイル。

外部ツールの説明。

直前に何度も出てきた言葉。

これらも、応答を作るときの条件になる。

だから、同じ「要約して」という指示でも、どのチャットで、どの文脈の中で、どの資料を見ながら言ったかによって、出てくる応答は変わる。

2. プロンプトは、環境でもある

人間同士の会話でも、言葉は単独では働かない。

たとえば、会議中に「これ、短くして」と言えば、資料の文章を短くするという意味になる。

料理中に「これ、短くして」と言えば、野菜を短く切るという意味になるかもしれない。

同じ言葉でも、置かれた環境によって意味が変わる。

生成AIでも同じようなことが起きる。

「整理して」と言ったとき、それが文章の整理なのか、タスクの整理なのか、Notionページの整理なのか、ファイル構造の整理なのかは、周囲の文脈によって決まる。

つまり、プロンプトは命令であると同時に、その命令がどう読まれるかを決める環境でもある。

ここを分けて考えると、生成AIの挙動が少し分かりやすくなる。

3. 強い指示と、目立つ文脈は違う

生成AIを使っていると、「ちゃんと指示したのに、なぜそっちへ行くのか」と感じることがある。

このとき重要なのは、強い指示と、目立つ文脈は違うということである。

たとえば、プロジェクト設定にこう書いてあるとする。

「回答は簡潔にしてください。」

これは、ルールとしては強い。

AIは基本的にその方針を考慮する。

しかし、直近の会話で、長い論考、詳しい分析、Notionページの構成、更新履歴、外部ツールの一覧などが何度も出ていると、AIはそちらにも強く引っ張られる。

これは、ルールを無視しているというより、応答を作るときに目立っている材料が多すぎる状態に近い。

人間でも似たことがある。

「今日は早く帰る」と決めていても、机の上に未処理の書類が山積みになっていて、同僚から急ぎの相談をされ、メールも次々に来れば、気づけば残業している。

「早く帰る」という方針はあった。

しかし、環境が別の行動へ引っ張った。

生成AIでも、これに似たことが起きる。

設定された指示はある。

しかし、直近の文脈、目立つ言葉、利用可能なツール、作業の流れが、別の応答へ誘導することがある。

4. カスタム指示とプロジェクト設定は、背景のルールである

ChatGPTには、カスタム指示やプロジェクト設定のようなものがある。

カスタム指示は、そのユーザーが普段どのように答えてほしいかを伝える背景情報である。

たとえば、「専門用語を避けてほしい」「日本語で答えてほしい」「仕事の文脈では丁寧な文体にしてほしい」といった設定ができる。

プロジェクト設定は、特定の作業空間にだけ適用される方針である。

たとえば、「このプロジェクトでは研究ノートとして扱う」「Notionに記録するときは日時を入れる」「公開記事用には平易な文体にする」といった方針である。

これらは、毎回の会話の背後で働く。

ただし、これらも絶対的な魔法ではない。

背景のルールがあっても、ユーザーの直近の指示が曖昧だったり、会話文脈が複雑だったり、外部ツールの仕様が大きく入り込んだりすると、応答は揺れる。

だから、カスタム指示やプロジェクト設定は、「一度書けば完全に安定する命令」ではなく、作業環境を整えるための土台と考えた方がよい。

5. よいプロンプトとは、命令文ではなく作業環境の設計である

プロンプトというと、どうしても「うまい命令文」を探したくなる。

しかし、本当に大事なのは、命令文だけではない。

何を前提にするのか。

何を参照してよいのか。

何を無視してよいのか。

どの文体で書くのか。

どの粒度で答えるのか。

どこまで実行し、どこから確認を取るのか。

成果物はメモなのか、メール文面なのか、公開記事なのか。

こうした条件を整えることが、生成AIを安定して使ううえで重要になる。

たとえば、単に「記事を書いて」と言うよりも、

「技術に詳しくない読者向けに、専門用語を避けて、2000字程度で、最初に身近な違和感から入り、最後に実用上の見方を残して」

と伝えた方が、応答は安定しやすい。

これは、AIに強く命令しているというより、AIが迷わないように作業環境を整えているのである。

6. プロンプトは、AIが世界を読むための照明である

プロンプトは、AIに何かをさせるための命令である。

しかし、それだけではない。

プロンプトは、AIが何を見るべきかを照らす光でもある。

どの資料を見るのか。

どの会話を重く見るのか。

どのルールを優先するのか。

どの文体で出力するのか。

どこまでを作業対象とするのか。

プロンプトは、その照明の向きを決める。

照明が散らばっていれば、AIの応答も散らばる。

照明が一点に集まっていれば、AIの応答も集中しやすい。

だから、生成AIを使うときに必要なのは、ただ命令を強くすることではない。

文脈を整理すること。

不要な情報を減らすこと。

目的をはっきりさせること。

出力の形を決めること。

参照してよいものと、参照しないものを分けること。

これが、プロンプトを環境として設計するということである。

7. 指示が通らないときに見るべきこと

生成AIが思った通りに動かないとき、すぐに「AIがバカだ」と考える必要はない。

もちろん、AI側の限界もある。

間違えることもある。

指示を取り違えることもある。

しかし、それとは別に、次の点を見るとよい。

いまの指示は具体的か。

直近の文脈に、別方向へ引っ張る言葉が多くないか。

過去の方針と今回の指示が衝突していないか。

参照すべき資料が多すぎないか。

外部ツールの操作が、目的より前に出ていないか。

出力形式が明確か。

「何をしないか」も伝えているか。

つまり、指示が通らないときは、命令文だけでなく、周囲の環境を見る必要がある。

8. プロンプトとは、答えを命令することではない

生成AIは、命令を受けて機械的に答えを取り出す装置ではない。

生成AIは、与えられた条件から、その場で応答を作る。

だから、プロンプトとは、答えを直接命令することではない。

答えが生まれる条件を整えることである。

この見方をすると、プロンプトの意味が少し変わる。

よいプロンプトとは、強い言葉ではない。

よいプロンプトとは、AIが迷わない環境である。

そして、生成AIを使う力とは、命令文を上手に書く力だけではない。

文脈を整え、作業環境を設計する力である。

次回は、この話を外部ツールに広げる。

Notion、Google Drive、Gmail、GitHub、Web検索。

こうした外部ツールは、AIにとって何なのか。

なぜAIは、ときどき余計なツールを呼びに行くのか。

そこには、「ツールは記憶ではなく、行為可能性である」という問題がある。

中心フレーズ

プロンプトは命令である前に、生成AIが世界を読むための環境である。

参考リンク

シリーズ内ナビ

より詳しく知りたい人へ

技術詳解版では、instruction hierarchy、custom instructions、project instructions、context layer などの関係を、より技術的に整理する予定です。