研究開発成果

人間とAIが協働する際に双方向のインタラクションを欠かすことができない。特に、人間-AIチーミング（HAT: Human-AI Teaming）システムにおいて、人間とAIの意見が食い違った場合に、意見を正しく安全に集約することは重要であり、HATシステムによるサポートが必要である。

本研究では、人間とAIの協働意思決定において、人間が主観的に見積もるAIの正確性が人間とAIの協働意思決定に与える影響を明らかにし、協働成績を向上させるためのHATシステム制御技術の研究開発を実施した。また、医師とAIのチーミングにおける意見集約を想定したHATシステムの構築と検証により、評価手法や管理技術の妥当性を検証し、実用レベルでの研究開発課題の抽出を行った。

1. ユーザが主観的に見積もるAIの正確性が人間-AI協働意思決定に与える影響について（JSAI2026発表予定）
   • 人間が主観的に見積もるAIの正答率である知覚精度と、タスク中に観測されるAI正答率である観察時精度との関係は強い正の相関を示した。知覚精度が高い参加者ほど、AIが誤っている試行でAI提案を採用して誤答に転じる過信傾向が増加した。不信傾向には顕著な変化がなかった。これらの知見は，知覚精度と信頼を考慮した協働性能の評価枠組み，および精度指標の必要性を示唆する。
2. 病理診断を対象とした医師とAIのチーミングを想定したHATシステムの構築と検証
   • 病理診断のタスクを対象とした医師とAIのHATシステムを試作し、病理診断医による実際の診断を想定して検証した結果、人とAIが協働して安全な意思決定をする上で、課題は大きく分けて技術的課題（AIと医師とのドメインシフト）、心理的課題（主にAIへの信頼度）、物理的課題（インタラクションループの限界）、インターフェース（主に医師⇒AIへの意思伝達コスト）の4つが挙げられた。

図1: 対象とするHATシステムの概要

図2: 試作した病理診断HATシステム実行画面

図3: AIの判定結果と判断根拠情報（類似画像とそのラベル）を医師に提示