こんにちは。今回は、AI エージェントを、1 体目だけでなく、2 体目・3 体目と同じ場所に並べようとしている人に向けて書いています。

1.「書け」の合言葉と、「書いても効かない」の実例が、同じ時期に走っている

今、AI エージェントを作る界隈で、ひとつの合言葉が流行っています。

「最初に、やらせないことを書け。」

この 5 ヶ月で、9 つの違う言い方で、同じ主張の記事が立ち上がりました。書いた主体は、エンジニアのブログ、人事向けの媒体、学術寄りの解説、標準化の団体。どれもバラバラです。違う言葉を使っているのに、指している場所は同じ。

同じ時期、Notion はカスタムエージェントというツールを公開ベータに入れて、数週間でテスターが 21,000 体以上のエージェントを作りました。エージェントを 2 体、3 体と並べはじめる人が、ぐっと増えた時期です。

けれど、同じ時期に、書いた規則が実装で素通りしている 実例が、3 つ立て続けに報告されました。

日本では、

海外では、

「書け」の大合唱と、「書いても効かない」の実例。同じ 5 ヶ月の中で、同時に走っていました

2. 最近の現場で、何度も同じ光景に出会うようになった

ある時から、以下のような光景に、繰り返し出会うようになりました。

1 体目のカスタムエージェントの 指示欄 — エージェントに「どう振る舞ってほしいか」を自然な言葉で書く欄 — に、「〜しない」で終わる文章が、10 行以上並んでいます。

機密情報を扱わない
金額を勝手に確定しない
上司の承認なしに外部に送信しない
個人情報を引き出さない
……

書いた人は、誠実です。禁止したいことを、ちゃんと言葉にしている。

でも、同じ画面を見ながら、書いた人も、一緒に見ている僕も、ひとつのことを確認できません。

これは、本当に効いているのか。

指示欄は、AI モデルに「お願い」を伝える場所です。書いた文は、モデルの判断には届くかもしれません。でも、「じゃあ本当に送信を物理的に止めているのはどこ?」と聞かれると、答えは指示欄ではなく、権限設定(ページへのアクセス権の設定)や、連携ツールのオン / オフの方にあります。指示欄は文章。機械が物理的に読むのは、別の画面の設定値です。

書いた「やらせない」が、効くはずの場所と、効かない場所に、分かれて置かれていた。それが、最近の現場で繰り返し見えるようになった光景です。

3. 今日の話 ──「やらせない」と書いた規則は、書いただけで効いているのか

今日の号は、ひとつの問いを扱います。

「やらせない」と書いた規則は、意図の通りに効いているんでしょうか。

この問いで止まるのは、たぶんこんな人です。

  • Notion のカスタムエージェントを自社に入れはじめた、もしくは入れようとしている、非エンジニアの管理者(DX 推進、オペレーション、情シス、社内教育)

  • 1 体目は動いた。2 体目を入れた週から、「なんか挙動がおかしい」が増えてきた人

そして、こんな痛みを抱えているはずです。

  • 何が原因で、どんな時に、何が壊れるか、上司にもチームにも説明できない

  • 不安が払拭できず稟議が止まる

  • 「もう人を雇った方が早い」が口から出る

この痛みに、「まず設定を見直しましょう」は効きません。見直す場所が、今の設定画面の中には、まだ作られていないからです。

4-1. 扱うのは、2 体目以降を同じ場所に並べた瞬間から

今日扱うのは、「2 体目以降のエージェントを、同じ場所に並べた瞬間」だけです。

1 体だけで動いているときは、設定画面の機能リストで、挙動はだいたい説明できます。説明できなくなるのは、2 体目を入れたあと、3 体目を足したあと、その先。

扱わないのは、エージェントの中身を作る話(どう命令するか、どのモデルを使うか)。今日は外側、エージェントとエージェントの境目の話に絞ります。

4-2. Notion 公式の紹介文と、内側の実装解説で、温度が違う

Notion 公式のカスタムエージェント紹介文は、「本物のチームメイトのように扱えます」 と書いてあります。親しみやすい、人間の言葉。

けれど、中のエンジニアリング解説を開くと、書き方が変わります。

同じ会社が、同じ機能を、二つの温度で説明しています。

  • 配布の層では「同僚」。

  • 実装の層では「何も許さないところから始める」。

問題は、この二つの温度の間を、誰も翻訳していないことです。Notion を現場に広げている非エンジニアの管理者は、紹介文の「同僚」を受け取ったまま、実装層の「何も許さない」と出会いません。だから、2 で見た画面のように、「やらせない」を指示欄にまとめて書いていきます。

この翻訳の役割を、職務記述書にも書かれないまま、現場の非エンジニアが黙って引き受けている。だから今日、これを書きます。

4-3. 業界の合言葉は「最初にやらせないを書け」。ただし、「どこに書け」は誰も言っていない

業界の表の答えは、この 5 ヶ月で、とてもシンプルになりました。

「何ができるかを書く前に、何をやらせないかを書け。」

他にも、Least Agency(最小の権限)、default deny(既定で拒否)、not my job list(自分の仕事じゃないことのリスト)。名前は違っても、指している場所は、全部同じです。

5 ヶ月で 9 つの言い方、5 種類の主体。「書け」は、業界の合言葉になりました。

ただ、「どこに書けばいいか」 を言っている人は、ひとりもいません。

4-4. ただ、書いただけで効いているのか

ここで、僕の手が止まります。

書けば効く、と全員が当たり前のように書いています。合言葉だから、疑われていません。

でも、2 で見た指示欄の 10 行は、本当に何かを止めているんでしょうか。読者のワークスペースで、今この瞬間、稟議書と一緒に開かれている資料の「やらせないこと」の項目は、本当に効いているんでしょうか。

ここから先は有料購読者向けのパートです。以降では、書く場所が 3 つに分かれていること、指示欄に禁止を書いたときに起きる 3 つの裏切り、そして明日、機能リストの横に作るべき「人が読む用」のページについて書きます。

logo

Paid Subscribe

アップグレードして続きを読む。

Upgrade

コメント

Avatar

or to participate

おすすめ記事