IJCAI/ECAI 2026 Workshop論文：危険を止めた時点だけ教えて安全AIを学習——RCIが違反率を低減

結論から言うと、危険な行動が起きた瞬間を一つずつ人が採点しなくても、「ここで止めた」という一度の合図から安全なAIを学べる可能性が示された。

2026年8月12日にarXivへ公開され、IJCAI/ECAI 2026に併設する第1回Safe Physical AI Workshop（SPAI 2026）に採択された論文で、ウィットウォーターズランド大学の研究者らがRCI（Redistribution-based Cost Inference）を提案した。

対象は、過去に集めた記録だけで方針を学ぶ安全オフライン強化学習だ。従来法は各時点に危険度の点数が付いている前提が多いが、現場では監督者が最初の危険な変化で作業を止め、軌跡全体に二値の合図を残すだけの場合がある。RCIはその少ない停止情報を、時間ごとの密なコストへ再配分してから、制約付きの方針を学習する。

著者らは理論上、再配分しても実行可能な方針の集合と最適化の目的が保たれると示した。高速道路の運転とロボット操作の実験では、少ない合図をそのまま使う方法や分類器を使う比較法より違反率が大きく下がり、データ構成の違いやラベルの誤りにも強かったという。将来、ロボットや移動AIへ安全ルールを教える負担を減らす考え方になる。

ただし要旨は具体的な違反率を示しておらず、実機や未知の環境で同じ安全性を保証するものではない。会議本体ではなく併設ワークショップ採択である点も含め、詳細は論文本文で確認したい。