比較軸 ・扱う対象 ・目的 ・関係性 AI Safetyは、AIシステム全般が安全に動作することを確保する研究・実践領域です。扱う対象では、AI Safetyはモデルの挙動・出力の安全性そのものを対象とします。目的では、AI Agentが自律的なタスク実行を目的とするのに対し、AI Safetyはその実行が人間の意図から逸脱しないことを確保することを目的とします。関係性では、AI Agentが自律性を高めるほど、AI Safetyの重要性がより高まるという補完的な関係にあります。
AI技術の概念の関係性を整理したい企業・研究者に該当します。
【比較時の判断ポイント】AI Agentが「何ができるか」を扱うのに対し、AI Safetyは「それが安全かどうか」を扱うという役割の違いで理解することが実務上は有効です。