リック・フォルグマン著
カリフォルニア州の大家は、入居者が退去した後、保証金を返還するか、差し引かれた項目を明示した内訳書を送付するための期限が21日間あります。悪意を持って期限を過ぎた場合、罰則として保証金の2倍に相当する額が科されることがあります。この期限は、通知が人間から発せられるものかソフトウェアから発せられるものかを問いません。いずれの場合でも、その責任を負うのは誰か一人です。
私はこのことをよく考えています。私の所属する会社であるGet Coveredでは、現在、300万件を超える賃貸物件にわたり16のAIエージェントを運用しています。これらのエージェントを構築した際、技術的な課題はむしろ比較的容易な部分でした。各エージェントにとってより難しいのは、実際には誰に報告すべきかという問題でした。
Get Coveredの最高執行責任者であるリック・フォルグマン。
ほとんどの企業がまさに同じ問いに直面しようとしており、その準備ができている企業はほとんどありません。デロイトの「2026年AIの現状」調査によると、現在、少なくとも中程度のレベルでエージェント型AIを活用している企業は23％であり、今後2年以内にその割合は74％に達すると見込まれています。
一方、ガートナーは、2027年末までにエージェント型AIプロジェクトの40％以上が中止されると予測しています。
これらの数値は、規制対象の業務において従業員を管理するのと同様に、書面による規則、明確な業務範囲、管理者、そして定期的な見直しを伴う形でエージェントを運用すべきであることを示しています。
以下は、私たちにとって効果的だった方法であり、規模拡大に際して意思決定者にお勧めしたいポイントです。
すでにルールブックが整備されている作業から始めましょう
エージェントの最適な初期候補は、誰かの頭の中には存在せず、外部に既に規則として定められているタスクです。たとえば、法律条文、契約条項、またはベンダー契約における保険要件などです。
ベンダーの保険証券を取得してください。業界全体で、不動産チームは各物件ごとに毎週約3時間もかけて、メールでこれらの書類を催促しています。この作業は煩雑ですが、同時に完全に定型化されています。
このようなアサインメントは、意思決定者に二つの利点をもたらします。第一に、エージェントが自身の出力を照らし合わせるための客観的な基準が得られ、第二に、チームは判断の妥当性について議論することなく結果を監査できます。
マッキンゼーの最新の「AIの現状」調査によると、AIから顕著な収益向上を実現している企業は回答者の約6％にとどまり、そのような企業は業務フローを抜本的に再設計している可能性がほぼ3倍高いことが明らかになりました。
私の経験では、その再設計はまずルールを文書化することから始まります。新入社員が入社初日にあなたの意思決定の説明を理解できなければ、エージェントもそれを守ることはできません。
ワークフローで自律性を設定する
私がよく話すテック業界の幹部たちは、AIシステムが自律的かどうかを問うことが多く、あたかもそれが製品固有の固定的な特性であるかのように考えています。実際には、同じエージェントであっても、それが関わる対象によって異なる程度の自由度で動作すべきです。
Get Coveredでは、各エージェントを異なるレベルで設定しています。たとえば、来月に証明書の有効期限が切れるベンダーへのリマインダーは自動的に送信できますが、感情支援動物の申請を行った居住者への返信は手動でしか行えません。
あらゆるリーダーシップチームにとって有益な演習は、エージェントが関わるすべてのワークフローをリストアップし、それぞれについて次の問いを投げかけることです：この処理が誤りだった場合、気づくまでにどれくらいの時間がかかり、その時点でどの程度のコストが発生するでしょうか。迅速な検知と低コストは、エージェントにより多くの余裕をもたらします。
各エージェントに名前付きの所有者を割り当てます
キャリアの初期には、自動化された与信判断はいずれ必ず顧客や規制当局、あるいはその両方に説明しなければならないことを学びました。モデルがどのように判断したかだけでは、決して納得できる回答ではありませんでした。
それは依然として当てはまりますが、ただし現在ではエージェントが、かつてのあらゆる引受モデルよりも頻繁に、かつより多くのシステムにまたがって行動しています。
そのため、当社の各エージェントには、チームや予算と同様に、最終的な責任者を置いているのです。その責任者は、エラーログを確認し、自律性を拡大するか縮小するかを判断し、その結果について説明責任を負います。
所有権は、より静かな問題の発生も防ぎます。複数のチームが個別にエージェントを起動すると、それらのエージェント同士が互いに矛盾している箇所に誰も気づきません。
制約が実際に存在する場所
今日の市場において、モデルの性能向上は避けられない状況です。誰が何を決定するのかについて企業が明確にしていない限り、その状況は自ら改善されることはありません。ガートナーの失敗予測はそれを反映しています。多くのエージェントプロジェクトが失敗するのは、価値を明確に定義せず、リスクを適切に管理していなかったためであり、これら両者はいずれもマネジメント上の課題です。
2027年に向けた意思決定者の方々へ、私のアドバイスは、規制対象の役割を担う新入社員と同様の扱いを各エージェントに施すことです。そのルールを文書化し、適用範囲を限定した上で、作業を確認し、パフォーマンスについて議論するマネージャーを配置してください。
これを実施する企業は、その根拠を示せるため、時間の経過とともにエージェントに一層の責任を委ねられるようになります。一方、これを省略する企業は、2027年には、誰も承認していない動作を自社のソフトウェアが行った理由を説明することになるでしょう。
リック・フォルグマンは、わずか数回のクリックで費用対効果の高い財産保険を提供する保険テクノロジー企業「Get Covered」の最高執行責任者です。彼は金融および保険業界において25年以上にわたり経営幹部としての豊富な経験を積んできました。
イラスト：ドム・グズマン