Google DeepMindのブログ（2025年4月2日）は、誤用・ミスアラインメント・事故・構造的リスクの4領域で整理し、誤用とミスアラインメントに重点を置いて、危険な能力へのアクセス制限や評価、増幅された監督などを挙げています。同日投稿のarXiv論文「An Approach to Technical AGI Safety and Security」は誤用・ミスアラインメント・ミス・構造的リスクの4領域を示し、誤用とミスアラインメントの技術的対策に焦点を当てています。Levels of AGI論文も、レベルと自律性・リスクの関係を論じています。
AGIの安全性に関するリスク整理の例
リスク領域の呼称は資料ごとに微妙に異なり、DeepMindブログとarXiv論文では「事故」と「ミス」で表現が分かれます。いずれも対策の有効性を実証するものではありません。