Microsoft AI Tour 参加記録

AI Agent

ポイント

・人がデバイス使って実施できることは、近い将来ほとんどできるようになる（１年後か、５年後かは予想できない）

・AI を使いこなせないと取り残される可能性が高いと感じた（とりあえず色々使ってみて、試行錯誤するしかない？合わせて、テーマ（課題）を絞ってAIを適用してみることも大事。両面からアプローチが必要と感じた）

メモ

・Agent が動き出すトリガーは、人からのプロンプトとは限らない

Agentも人も本質は似ている？

  • 動きが読めない（想定外の動きをする）
  • 自発的に動く

そのため、元々人に対して実施していいたセキュリティ対策を、Agentにも適用するというのはとても合理的だと感じた（MSセッションの説明でも同じようなことを言われていた）

「プロンプトインジェクション」のようなAI Agent特有のリスクっぽいものもあるが、結局人間の世界でいう「ソーシャルエンジニアリング」と本質は変わらないような気もします。

ただ、異なる点もある

  • Agent は24H/365D動くことができる
  • 単位時間当たりで実施できるタスクの量も人間を凌駕する

この辺りは、人間よりもリスクが増すのと、アラートも増える要因になりそうです。

セキュリティ

特徴

  • Agentの開発スピードは、従来のソフトウェアよりも速い
  • 「〇〇の課題に対処するAgentが必要」となったら、数日～１週間程度で創ることが当たり前になる　→　開発の最後にセキュリティチェックするというよりは、開発にセキュリティを組み込むイメージが必要

課題

  • エージェントの乱立（スプロール）
  • データの過剰共有と漏洩
  • シャドーAI

まずは、可観測性から始める必要がある（見えないものは対処しようがない）

Agent 365

  • Agentを管理する仕組み
  • Agentは、Copilot Studio等のMSのプラットフォームで作成したAgent以外のサードパーティのAgentも管理可能
  • Agent 365は全体像が確認できる。Agent 関連のインシデントが発生した場合に、さらに細かな調査をしようとすると、Entra、Purivew、Defender Portalを利用する必要がある　→この辺りのツール自体が結構複雑で、使いこなすの大変なので、Security Copilotが進化してくれたら楽になりそう

サードパーティのAgentをどうやって管理する？

  • MSが、Agent 365と連携するためのSDKを用意しているらしい
  • サードパーティは、そのSDKを使ってAgent作成のPFを開発する必要がある
  • MSは、色々なサードパーティのAIエージェント企業とエコシステムを形成しようとしている
  • おそらく、MSは、世の中のありとあらゆるAI Agentの情報を、MSのPF（Agent 365)に集約していこうとしているのだと予想

Copilot Studio

権限周り（Agentが何ができるか）

Copilot 365については、それを操作しているユーザの権限に基づいて、データアクセスが可能でしたが、Copilot Studioで作成するAgentは考え方が変わりそう（Agentによっては、管理者の変わりに、組織内のあらゆるデータにアクセスしたり、色々な操作をしたいケースがあると思います）

https://learn.microsoft.com/ja-jp/microsoft-copilot-studio/authoring-connections

上記URLあたりの設定で、Agentにどのような権限を付与するか決めるっぽいです（要追加調査）

・考え方としては、ユーザ権限でエージェントを動かすか、それ以外かで大きく分かれそう

Foundry

Foundary Control Plane

・Guardrailsという呼び方もある？（まだ、定義が明確に定まっていない？）

セキュアなエージェント作成をサポート

Foundry 上で作成するエージェントにセキュリティ機能（プロンプトシールド等）を組み込みこむことが可能

作成されたエージェントに対するセキュリティ対策

Entra、Purivew、Defenderと連携

  • エージェントID付与、条件付きアクセスでの保護　等　→ Entra
  • 過剰なデータ共有のブロック　等 → Purview
  • エージェントのセキュリティインシデント対応 等　→ Defender

その他

Posted by MITSUAKI TSURUTA