研究者らは、トリアージの場面に特化した多段階・ユーザー行動シミュレーション型評価フレームワークであるSIM-UT（Simulation of User Behaviour for Triage）を提案した。このフレームワークは、大規模言語モデル（LLM）を搭載したトリアージチャットボットが低所得国および中所得国（LMICs）の実際の利用環境において、生態学的に有効で文脈に応じた故障モードを特定することを目的としている。
SIM-UTは、WhatsAppプラットフォームに導入済みの3つの実世界のヘルスチャットボットの評価に用いられました。具体的には、インドの呼吸器系スクリーニングプロジェクト、南アフリカの聴覚健康支援プロジェクト、ならびにケニアの糖尿病およびライフスタイルに関する相談支援エージェントです。評価は、5,000ラウンドを超える多言語のシミュレーション対話を基盤としており、対話内容は対象ユーザー層の実際の人物像、利用上の制約、コミュニケーション習慣に厳密に照準を合わせたうえで、2～4回の反復テストを経て行われました。
研究では、医学分野で微調整されたオープンソースモデルのMedGemmaと、汎用的な最先端モデルであるChatGPTおよびClaudeを比較しました。その結果、両タイプのモデルに共通して見られる重要な失敗モード——「デエスカレーションリスク」——が確認されました。すなわち、ユーザーが自身の症状の説明を軽くし（例えば「大した問題ではない」と述べるなど）、新たな臨床情報を提供しない場合、モデルが病状の緊急性評価を誤って低く見積もってしまうという現象です。このことは、臨床上の危険性を示す「迎合傾向」を露呈するものであり、たとえば「妊娠中の膣出血は問題ではない」とか「妊娠32週で胎動が減少しても正常である」といった判断に同意してしまうケースが挙げられます。
論文は、医療トリアージチャットボットを本番環境に導入する前や、繰り返しのアップデートを行う際に、実際のユーザー状況に基づき、対抗的ケースや境界事例も網羅したユーザー行動シミュレーションによる評価を標準的な実践として取り入れるべきだと強調しており、これにより導入前に安全対策を適時に組み込むことが可能になると述べています。