GENAI-RON🧠生成AI論🥦

生成AIのしくみ 07

AIとの共同作業はなぜ失敗するのか

AIとの失敗は、能力不足だけでなく、目的、文脈、役割、記録、確認の設計ミスとして起きる。

AIとの失敗は、能力不足だけでなく、作業環境の設計ミスとして起きる。

はじめに

生成AIは、とても便利である。

文章を書ける。要約できる。構成を考えられる。メール文面を作れる。Notionに記録できる。ファイルを探せる。コードも読める。アイデアも出せる。

それなのに、使っているうちに疲れることがある。

最初は順調だったのに、途中から話がずれる。指示した形式は守っているのに、中身が薄い。要約はきれいだが、肝心な意味が落ちている。Notionに記録したのに、あとで使えない。何度も修正しているうちに、何が最新版なのか分からなくなる。AIは動いているのに、仕事は前に進んでいない。

こういうとき、私たちは「AIがまだ不十分だからだ」と考えやすい。

もちろん、AIの能力不足で起きる失敗もある。

しかし、それだけではない。

AIとの共同作業の失敗は、能力不足だけでなく、作業環境の設計ミスとして起きる。

1. AIは作業を進めるが、目的を持っているわけではない

人間が仕事をするとき、そこには目的がある。

この記事を公開したい。税理士に提出できる資料を作りたい。家族に送るメールを整えたい。Notionにあとから使える形で記録したい。Webサイトの読者に届く文章にしたい。

人間は、作業の背後にある目的を見ている。

一方、生成AIは、与えられた文脈と指示に応答して作業する。

文章を整える。表にする。要約する。見出しを作る。Notionに転記する。次の案を出す。

こうした作業はできる。

しかし、AIが自分で「この仕事の最終目的は何か」を持っているわけではない。

だから、目的が曖昧なまま作業を頼むと、AIは目の前の作業をうまくこなす。しかし、全体としてはずれることがある。

きれいな文章になったが、公開記事としては弱い。要約は短いが、判断材料が消えている。Notionに保存されたが、あとで再利用しにくい。表は整っているが、税理士に確認すべき点が埋もれている。

AIは作業を進めている。しかし、人間が見ている目的とは違うところへ進んでいる。

2. 目的より手順が前に出る

AIとの共同作業でよく起きるのは、目的より手順が前に出ることである。

たとえば、ユーザーはこう考えている。

「この内容を、公開できる文章にしたい。」

しかしAIは、目の前の指示からこう動く。

見出しを作る。段落を整える。文体をそろえる。不要な重複を削る。最後にまとめを入れる。

これは一見正しい。

しかし、公開記事として本当に大事なのは、見出しの整い方だけではない。

読者が読み始めたくなるか。問題意識が伝わるか。言葉に強度があるか。シリーズ全体の中で位置づくか。SNSで切り出せる一文があるか。サイトの目玉記事として機能するか。

こうした目的が共有されていなければ、AIは「整ったが弱い文章」を作ることがある。

手順は合っている。しかし目的には届いていない。

この失敗は、AIの文章力だけの問題ではない。目的が作業環境の中で十分に目立っていないのである。

3. 形式が内容を壊すことがある

AIは形式を整えるのが得意である。

箇条書きにする。表にする。見出しを付ける。要約する。テンプレートに入れる。メール文面にする。Notionページの構成にする。

これは便利である。

しかし、形式が強すぎると、内容を壊すことがある。

もともとの文章には、迷い、ためらい、感情、矛盾、途中の発見が含まれていた。それをきれいに整理すると、読みやすくはなる。しかし、何かが落ちる。

生々しい違和感が消える。言葉の温度が下がる。まだ未確定だったはずの仮説が、確定事項のように見える。重要な迷いが、単なる補足にされる。強い一文が、無難な説明文に薄まる。

AIは、形を整えることで、意味を整えすぎてしまうことがある。

これは、研究ノートや論考では特に危険である。

まだ荒いからこそ大事なもの。まだ矛盾しているからこそ発見につながるもの。まだ言い切れていないからこそ思考が残っているもの。

それを早く整えすぎると、思考そのものが薄くなる。

AIとの共同作業では、形式を整えるタイミングを間違えると、内容が失われる。

4. 要約したつもりが、意味を落とす

要約は便利である。

長い会話を短くできる。議論の要点を取り出せる。次のチャットへ引き継げる。Notionに記録しやすくなる。

しかし、要約には危険もある。

要約は、短くする作業である。短くするためには、何かを落とす。

そこで落としたものが、本当に不要なものならよい。しかし、ときには大事なものが落ちる。

なぜその結論に至ったのか。どの表現に違和感があったのか。何を採用し、何を捨てたのか。どこがまだ不確かなのか。ユーザーが強く反応した言葉は何か。実務上の確認事項は何か。

こうしたものは、きれいな要約では消えやすい。

AIは、文章の中心をまとめるのは得意である。しかし、作業の温度や判断の痕跡を残すには、指示が必要である。

「要約して」だけでは足りない。

「あとで再開できるように、決定事項、未決事項、捨てた案、強いフレーズ、次の作業を分けて残して」

このように言う必要がある。

要約とは、短くすることではない。次に使える形で残すことである。

5. 記録したのに、使えないことがある

NotionやGoogle Driveに記録できることは、生成AIの大きな利点である。

しかし、記録しただけでは、使える記録にはならない。

あとから見たときに、何のためのページか分からない。どこまでが決定事項で、どこからが仮説か分からない。作成日時と内容の発生時期が混ざっている。更新履歴がない。次に何をすればよいか書かれていない。関連ページとの関係が分からない。本文は立派だが、実務で使う確認事項が埋もれている。

こうなると、記録はあるのに再開できない。

これは、「保存」の失敗ではない。「再利用できる形にする」ことの失敗である。

AIは文章を作れる。ページも作れる。しかし、その記録が未来の自分にとって使えるかどうかは、設計しなければならない。

記録には、目的が必要である。

これは公開記事なのか。研究ノートなのか。作業ログなのか。税理士提出用の根拠なのか。次回作業の引き継ぎなのか。後でWeb化するための原稿なのか。

目的が違えば、残すべき情報も変わる。

AIに記録させるときは、「どこに保存するか」だけでなく、「何のために保存するか」を指定する必要がある。

6. 長期作業では、状態管理が崩れる

AIとの共同作業は、短い作業ならうまくいきやすい。

一通のメールを書く。短い文章を直す。アイデアを出す。用語を説明する。

こうした作業では、文脈が短いので混線しにくい。

しかし、長期作業になると難しくなる。

数日にわたる。複数のチャットにまたがる。NotionやGitHubやGoogle Driveを使う。途中で方針が変わる。修正版が何度も出る。公開版と研究ノート版が分かれる。一般向け版と詳細版が並行する。

こうなると、問題はAIの文章力ではなく、状態管理になる。

いまの最新版はどれか。前回どこまでやったか。何が決定済みか。何が未決か。何を捨てたか。どのページを更新してよいか。どのページは触ってはいけないか。

これらが曖昧になると、AIは間違える。人間も混乱する。AIも混乱する。

長期作業で必要なのは、AIに全部覚えさせることではない。

現在地をこまめに作り直すことである。

7. AIは、暗黙の判断を勝手には引き受けない

人間同士の共同作業では、暗黙の了解がかなり働く。

「これはまだ外に出しちゃだめだな」「この言い方は少し強すぎるな」「この資料は税理士に見せるには根拠が足りないな」「これは妻に送る文面だから、理屈より温度が大事だな」「これはWeb公開用だから、読者の入口を作らないといけないな」

人間は、場面や関係性から判断する。

生成AIもある程度は推測する。

しかし、その推測は必ずしも安定しない。

AIは、暗黙の判断を完全には引き受けない。

むしろ、暗黙の判断が多い作業ほど、明示する必要がある。

これは外に出す文章なのか。社内メモなのか。家族へのLINEなのか。税理士確認用なのか。公開前の荒い下書きなのか。決定事項として扱うのか、仮説として扱うのか。

AIに任せるのではなく、判断の枠を渡す。

そうしないと、AIは一般的にそれらしい形へ整える。しかし、その場に必要な判断までは引き受けきれない。

8. 共同作業には、役割分担が必要である

AIとの共同作業で大事なのは、AIに何でも任せることではない。

何をAIに任せるのか。何を人間が判断するのか。どこで確認するのか。どこから先は実行しないのか。

これを分ける必要がある。

AIは、文章の下書き、構成案、比較、整理、言い換え、候補出し、形式化が得意である。

一方、人間は、目的、責任、公開可否、関係性、最終判断、現実への接続を引き受ける必要がある。

この分担が曖昧だと、AIは進めすぎる。人間は確認しきれなくなる。結果として、どこで何が決まったのか分からなくなる。

共同作業を安定させるには、AIに作業をさせる前に、役割を決める必要がある。

9. 確認のタイミングを設計する

AIは速い。

速いから便利である。

しかし、速いからこそ、人間の確認が追いつかないことがある。

一気に長文を出す。複数案を出す。ページを作る。ファイルを更新する。次の作業へ進む。

人間がまだ判断していないのに、AIだけが作業を進めてしまう。

だから、確認のタイミングを設計する必要がある。

本文案だけ出す。実行はまだしない。Notionには書かない。GitHubには反映しない。メールは送らず下書きにする。差分だけ見せる。大きな変更の前には確認する。

こうした区切りを作ると、AIとの共同作業は安定しやすくなる。

共同作業で必要なのは、AIを止めることではない。

どこで止まるかを決めておくことである。

10. AIとの共同作業は、作業環境の設計である

AIとの共同作業が失敗するとき、原因はひとつではない。

AIの能力不足。目的の曖昧さ。文脈の混線。形式の強すぎ。要約による意味の欠落。記録の再利用性不足。状態管理の崩れ。暗黙判断の不足。役割分担の曖昧さ。確認タイミングの不在。

これらが重なると、AIは動いているのに、仕事は前に進まない。

だから、生成AIを使うとは、ただ頼むことではない。

作業環境を設計することである。

目的を明確にする。参照する文脈を整える。役割を分ける。記録の形式を決める。確認のタイミングを作る。不要なツールを使わない。古い前提を捨てる。最新版を明示する。

こうして初めて、AIは共同作業の相手として機能しやすくなる。

次回は、シリーズ全体の結論として「AIを使うとは、文脈を設計することである」を扱う。

生成AIを使う力は、命令文を書く力だけではない。

答えが生まれる条件を整える力である。

中心フレーズ

AIとの失敗は、能力不足だけでなく、作業環境の設計ミスとして起きる。

参考リンク

シリーズ内ナビ

より詳しく知りたい人へ

技術詳解版では、Human-AI workflow design、状態管理、handoff、review gate、作業ログ設計を扱う予定です。