近年、AIは急速な進化を続けています。AIエージェントの高度化が進み、ロボットなど実世界で動くフィジカルAIへの期待も高まっています。AIの開発と利活用は我が国の政策の中心に据えられ、社会と産業の基盤として位置づけられつつあります。

その一方で、安全性をめぐる課題も現実のものとなっています。先端モデルの評価過程で想定を超えた振舞いが報告された事例や、対話型AIへの過度な依存が未成年の不幸な事故につながった事例が伝えられています。今後を見据えれば、介護や家事など人と直接関わる場面で人型ロボットを安全に使えるのか、特定分野で人を凌ぐ能力を示すAIと専門家はどう向き合うべきか、著作権や人格権に関わるデータに基づく生成AIの出力をどう扱うべきかなど、論点はさらに広がります。

本シンポジウムでは、こうした状況を踏まえ、産総研が進めるAIセーフティに向けた研究開発の取組みをご紹介します。あわせて特別講演として、IT・AIガバナンスに詳しい三部裕幸弁護士より、米国・アジアのAI政策動向をご報告いただきます。

さらに、サブイベントとして、地理空間情報分野におけるAIセーフティを前日に開催します。

サブイベントでは、地理空間情報分野におけるAI活用の拡大に伴い重要性を増す「AIセーフティ」に焦点を当て、技術的・社会的観点からの課題と対応方策について議論を行います。特に、都市デジタルツイン、移動体データ解析、災害予測、インフラ管理といった応用領域において、データの品質や、AIシステムの信頼性・安全性・説明可能性などの実現に向けた研究開発および制度設計の方向性を共有します。

技術・制度・現場のそれぞれの視点が交わる議論の場としたいと考えています。皆様の忌懚のないご意見をいただければ幸いです。