P-05出典・引用

LLM(大規模言語モデル)に固有のリスクについて、米国政府はどのような公式ガイダンスを示していますか?

米国国立標準技術研究所(NIST)公式サイト、および法律事務所Davis Wright Tremaineの分析記事によれば、NISTは2024年7月26日、生成AI(大規模言語モデルを含む)に固有または増幅されるリスクを対象とした「AI Risk Management Framework: Generative Artificial Intelligence Profile」(NIST AI 600-1)を公表しました。NIST公式サイトは、このプロファイルが生成AI特有のリスクを組織が識別し、目標や優先事項に最も適した生成AIリスク管理のための行動を提案することを目的としていると説明しています。Davis Wright Tremaineの解説によれば、NISTは合計12種類のリスクを識別しており、特に重要なものとして、悪意ある行為者によるCBRN(化学・生物・放射性物質・核)兵器関連知識へのアクセスを容易にするリスク、事実と異なる内容を確信的に提示する「コンファビュレーション(作話)」、生体情報・健康情報・位置情報等のプライバシー侵害、環境負荷(炭素排出)、大規模な偽情報・誤情報キャンペーンの助長、著作権・商標権侵害、児童性的搾取コンテンツやディープフェイク等の猥褻・品位を傷つけるコンテンツの生成、の7つを挙げています。既存Referenceでは、LLMの定義・仕組み・用途や、EU AI Actにおける規制上の分類、OWASPによるセキュリティリスクのリストには触れられていますが、米国政府(NIST)による公式なリスク管理ガイダンスの存在・内容には言及がありません。

実績・根拠

情報ソース