皆さん、聞こえますか？よし。ええと、まずはこれからのことについて。部屋に誰かがいるなんて信じられないけど、それはとても嬉しい。えっと、私の名前はジャン＝ドニです。えっと、私は Town という会社の CTO です。今日はタウンについて本格的に話すつもりはありませんので、もし興味があれば town.com にアクセスして確認してみてください。今日の話の要点はそこではありません。私は Plaid で 7 年間 CTO を務め、その前は Dropbox にいました。その前は、ヘッジファンド向けのソフトウェアを開発していました。私はこれまで様々な仕事をしてきましたが、今はエンジニア向けではなく、アメリカや世界中の一般の人々のためのアシスタンスエージェントの開発に取り組んでいます。

そして、私たちが取り組んできたことの一つは、エージェント同士が連携して動作するシステムです。つまり、エージェント同士のやり取りですね。そして、私たちの主な考えは、エージェントが協力して人々のために物事を成し遂げることができれば、大きなネットワーク効果が生まれるということです。なぜなら、現実世界では、私たちのほとんどが他の人々と協力して仕事をしているからです。多い方が良いですね。しかし、実際には、エージェント間通信という概念はあまり意味をなさないと思う。そこで、今回の講演全体を検索という観点から再構成したいと思います。

だから、ほとんどの LLM システムは単なる探索問題だと思う。つまり、ユーザーに結果を返す直前、あるいはツールを呼び出す直前に、コンテキストウィンドウにユーザーにとって正しい情報が含まれていることを確認しようとしているのです。コンテキストウィンドウに適切な情報を入力すれば、LLM のいわば知能に基づいて、可能な限り最良の結果が得られます。ええと、4 年前は、人間が手動でコンテキストウィンドウに情報を入力していました。それから数年前、ほとんどの人が不満を抱えていたので、システム全体を横断してデータを取り込める検索ツールの様なものを作ろう、という話になったのです。そして人々は、「それは拡張性に乏しいし、問題がある」と言った。

そして今、私たちが注目しているのはエージェント検索です。これは、エージェントに多くのツールを与え、エージェントがすべてのコンテンツの空間を検索し、ツール呼び出しを行う前に、適切なツール呼び出しを行うための適切なコンテンツを正確に取得し、ユーザーに適切な情報を返すという考え方です。えっと、ちなみに、これには人がいません。それは、適切な文脈を持っているかどうかが重要な、たった 1 回の LLM コールに過ぎません。それが、あなたがやろうとしていることですね。あなたは、そのシステムを設計しようとしているのですね。

では、それがエージェントエージェントとどう関係があるのでしょうか？それでは、次の世界を想像してみてください。物事を成し遂げられるエージェントは多くない。エージェントは一人だけですよね？そして、コンテキストウィンドウは 1 つしかなく、宇宙に存在するすべての情報にアクセスできる。それは、個人のメール、企業の情報、政府の情報など、あらゆる情報を閲覧でき、それらの情報がコンテキストウィンドウに表示され、そこから何らかの処理を指示できる。あなたには、それらのデータがすべて含まれた小さなシステムプロンプトがあり、それを実行すると、可能な限り最良の結果が得られます。

そして実際、それはマルチエージェントの世界です。それは、世界中のあらゆる情報にアクセスできるエージェントに過ぎない。それが物事の自然な状態だ。それが理想的な状態だ。この状況には問題があり、その問題していくつかのことから生じています。経済学でコースの定理と呼ばれるものを学んでいると思いますが、基本的に人間であっても、全員が正しい情報にアクセスでき、取引コストがない場合、契約や交渉から経済的に理想的な結果が得られるということです。

まあ、同じことだよ。世界中の連絡先をすべて掲載することはできません。それを LLM の学生に提供することはできません。理論的には、プライバシーとセキュリティ上の理由から、コンテキストウィンドウが無限であっても同様です。私たちは人間だ。私はあなたに私のメールを見せないようにしているので、私のメールを常に閲覧することを許容できるエージェントは存在しません。しかし、もしそれが存在すれば、非常に強力なものになるだろう。つまり、これはマルチエージェントシステムのテストのようなもので、どれだけうまく近似できるか、ということだと思うんです。もしこれが近似値であるならば、それはつまり、世界中のすべてのデータにアクセスできる単一のエージェントが存在する世界を、私たちがどのように近似できるか、ということなのです。

私たちは、世界中のすべてのデータにアクセスできる単一のエージェントが存在する世界を、どのように近似できるか、ということなのです。そのためのアプローチはいくつかあります。そして、これらは私が考える、エージェント同士の連携を実現するための 5 つの主要な方法です。

最初のアプローチは、オープンな世界を想定し、信頼の境界線を引くことです。つまり、エージェントは公開情報のみを取得し、それを自身のコンテキストウィンドウに取り込むというものです。API を使用して外部システムにデータを書き込むこともできますが、基本的には読み取り専用です。2 つ目のアプローチは、カスタムツールを作成することです。特定のタスクに合わせて厳密に定義されたツールを提供し、プライベートな生データを直接晒すことなく、カレンダーの空き枠情報のような集計データのみをやり取りさせます。

3 つ目は共有サイロです。企業内の複数チームやエージェントが共通の信頼できるデータストアを共有し、そこから各自のコンテキストを構築します。4 つ目は Human-in-the-loop です。境界を越えて機密データが移動する際に、人間が直接介在して承認を行います。

そして 5 つ目は、モデル自身がブラックボックス内でリスクを判断するアプローチです。LLM がコンテンツの内容とユーザーの役職・権限を自律的に照合し、「この定例会議の議事録は低リスクであるため、承認なしで共有して問題ない」といった判断を自動で下します。システムの低感度ゾーンを明確に定義し、モデルの能力向上に合わせて自動化の範囲をスケールさせていくことが成功の鍵となります。

So, the example that I have is like if I ask for notes from a weekly recurring call with, you know, a supplier of ours and their finance team, maybe the LLM's like, "Oh, well, in giving your role, I don't need to ask anyone on those teams for permission. I can just share the notes with you. It's like it's fine. It can look at the content. It can see what my role is. It can decide from a risk perspective I'm okay with that disclosure."

えっと、ちなみに、自動化の素晴らしいところは、システムをそのように設計すれば、モデルの容量に合わせて拡張できるということです。ですから、私の助言としては、エージェント同士のやり取りや、部門間の連携（これがより良い考え方だと思います）がある場合は、LLM が判断を下しても問題ない低感度ゾーンを明確に定義することから始める必要があるということです。そして、それを受け入れること。そして魔法のように、時間が経つにつれて、システムは大きくなり、自然に強力になります。それがあなたが望むものです。

それから、本当に興味深い疑問は、複数の企業がそれぞれの情報サイロを共通のエージェントで横断的に運用することに同意できるようなシナリオを思いつくことができるかどうか、ということだと思います。金融関係の仕事をしていて、たくさんの投資銀行を抱えている業界では、融資などの目的で非公開企業の非公開データを共有することにメリットがあるのです。そして彼らはこの方向を見据え始めている。彼らは互いのエージェントを信頼し、これまではプライベートな情報だったものについても、エージェントがアクセス可能かどうかを決定する形で連携して作業を進めている。

とはいえ、人間として自問自答してしまうのですが、プライバシーに関するあらゆる決定をエージェントが行うような未来を、私は本当に信頼できるのでしょうか？それについてはよく分かりません。良くも悪くも、物事はそういう方向に向かっているのだと思う。お越しいただきありがとうございます。