規制は用途ごとに義務を決め、認証は仕組みの有無を問います。その手前に、そもそも何を並べて考えればよいのか分からない時期があります。米国国立標準技術研究所（NIST）のAI Risk Management Frameworkは、その並べ方を示すものです。
強制力がないぶん、切り取れる
AI RMF 1.0は2023年1月に公開されました。法的な拘束力はなく、認証の仕組みもありません。使うかどうかも、どこまで使うかも、使う側が決められます。
「全部やらないと意味がない」という性格のものではないため、自社の状況に合わせて必要な部分だけを持ってこられます。
四つの働き
GOVERN（統治） は、誰が責任を持ち、何を方針とし、どう回すか。他の三つの土台にあたり、ここが空いていると残りが続きません。
MAP（地図をつくる） は、どこで何に使っているか、関わるのは誰か、うまくいかないと誰が困るかの把握です。用途の棚卸しがここに当たります。
MEASURE（測る） は、把握したリスクを確かめられる形にすることです。精度だけでなく、偏り、頑健性、説明可能性など性質ごとに見ます。
MANAGE（手当てする） は、測った結果に優先順位をつけ、資源を割り当て、残るリスクを受け入れるか下げるかを決めることです。
順に一度通して終わりではなく、回し続けるものとして書かれています。
生成AI向けの追加分
2024年7月に生成AI向けのプロファイル（NIST AI 600-1）が公開されています。生成AI特有の懸念を並べ、四つの働きのどこで手当てするかを対応づけたものです。
エージェントを動かす側から見ると、ここに挙がる項目はOWASP LLM Top 10やAgentic Top 10と重なって見えるはずです。攻撃面の一覧と管理の枠組みが、別々の入口から同じものを指しています。
どう使い分けるか
EU AI Actは法律で、罰則があります。ISO/IEC 42001は第三者が仕組みの存在を確かめる認証です。AI事業者ガイドラインは国内の指針で、立場ごとに何をすべきかを示します。AI RMFはそのどれでもなく、自分たちで考えるための骨組みにあたります。
合格の線を引かない代わりに、他の三つに取り組むときの下ごしらえになります。用途の一覧も、測り方も、責任の所在も、どこへ出すにしても必要になるものです。
MEASURE で詰まる
実務で最も止まるのはMEASUREです。精度は測れても、「任せすぎていないか」を測る指標は手元にありません。
そこは記録から作ることになります。エージェントが何を要求し、どれが拒否され、人が介入したのはどの場面か。追記専用の記録を残しておけば、後から割合として出せます。
測る仕組みは、動かし始めてからでは埋め込みにくいものです。枠組みを読んで実装に持ち帰れるものがあるとすれば、だいたいここになります。
自社で使い始めるなら、MAPから入るのが現実的です。どの部署で何にAIを使っているかの一覧が出せるか。出せないのであれば、他のどの物差しに取り組んでも同じ場所で止まります。
