AI ニュースを検索

臨床医主導で検証可能な安全ガイドラインを構築：メンタルヘルスチャットボットに追跡可能なセーフガード層を設ける

2026年10月24日、arXivは論文arXiv:2610.30690v1を公開し、2名の臨床医が主導して定義・最終決定・裁定を行う4つの安全チェックルールベースを提案した。このルールベースは形式的検証を経て、メンタルヘルス領域における大規模言語モデル（LLM）の出力に対してガードレイヤーとして適用される。同ガードレイヤーにおけるすべての判定は、1つの命名規則と16の事実再現に基づいて行えるものであり、安全性判断の説明可能性と検証可能性の向上を目的としている。

注目する理由：本研究は、主流のプロンプトエンジニアリングやLLM-as-a-Judge、あるいはコンスティチューショナルAIとは異なる、安全性を強化する新たなアプローチを提示している。その核心的な革新点は、臨床意思決定を構造化・形式化し、全過程にわたって記録を残すことにあり、すべての重要な主張（たとえば規則の数、検証手法、事実の基数、対照実験データ、およびコスト測定など）が原文において明示的に述べられており、さらに公開日時（2026年10月24日）が現在のUTC日付（2026年10月25日）と一致しているため、時宜性と信頼性の基盤を備えている。

SIM-UT：医療トリアージチャットボット向けのユーザー行動シミュレーション評価フレームワーク

研究者は、トリアージにおけるユーザー行動のシミュレーション（SIM-UT）という、複数ラウンドにわたる実際のユーザー行動に基づく評価手法を提案し、大規模言語モデル（LLM）を搭載した医療トリアージチャットボットが低所得国および中所得国（LMICs）の実際の運用環境において、生態学的に有効な失敗パターンを特定することを目的としています。

注目する理由：このフレームワークは、従来の単一ラウンドかつ英語中心の評価という制約を打ち破り、5,000回を超える多言語によるシミュレーション対話を用いて、インド、南アフリカ、ケニアの3地域における実際のWhatsAppヘルスプロジェクトを網羅することで、『臨床的危険性の低減』（de-escalation risk）という重要な失敗行動を初めて体系的に明らかにしました。これには方法論上の革新性と、臨床における安全警告としての価値が備わっています。

NVIDIAは、ローカルな音声アシスタント、ゲームのNPC、およびロボット向けに最適化されたオープンソースの小型言語モデル「Nemotron 3.5 Bolt E4B 4GB」を発表しました。

NVIDIAは、Google Gemma 4 E4Bモデルを基に、強化学習（RL）による後処理のみでNemotron 3.5 Bolt E4B 4GBを発表しました。これは総パラメータ8B、有効パラメータ4B、64Kのコンテキストを持つオープンソースの小型言語モデルで、RTXやJetsonなどのエッジデバイス上で約4GBのVRAMで動作することを目指し、マルチラウンドのツール呼び出しと低遅延の音声対応をサポートしています。