Claudeの安全評価を外部へ：AnthropicがMETRの6人に社内に近い検証環境を提供

Claudeの安全性を判断する材料として、提供会社以外の評価結果を確認できる仕組みが広がります。Anthropicは10月15日、先端AIを評価する非営利団体METRのチームに、社内のリスク評価担当者に近い情報アクセスを提供し始めたと発表しました。10月16日には契約条件を明確にする注記も追記されています。

対象はMETRの6人です。会社の機器、作業場所、社内の道具やシステムへのアクセスを提供し、AIの能力だけでなく安全対策や運用の実態も調べられるようにします。ただし、顧客データ、弁護士との機密情報、モデルの構造に関する情報など、除外される分野があります。外部にすべての内部情報を公開する制度ではありません。

METRはリスクや出来事、運用に関する分析を公表します。Anthropicには公表そのものを拒否する権利はありませんが、事前に定めた分野に該当する情報の削除を求められます。METR側も、自分たちが受け取った情報やアクセスの範囲について一定の意見を表明できます。こうした制約も含めて評価の条件を読むことが大切です。

Anthropicは評価者に与える権限を3段階で整理し、SecureBioやAccentureなどとの取り組みも説明しています。利用企業にとっては、AIを導入するときに「誰が何を確かめたか」を質問する材料になります。ただし、外部評価があるだけですべての使い方が安全になるわけではありません。自社の入力データ、許可する操作、人が確認する工程も合わせて検証する必要があります。

出典はAnthropic公式発表で、10月17日に確認しました。