Anthropicが社内に評価者を置く提携をAccentureと発表　導入支援の提携先が評価も担う

社内の意思決定も評価の対象にする

Anthropicの説明では、組み込み型評価者はモデルが学習される過程や、開発・提供に関する社内の意思決定を追えるようになります。従業員と直接話せることも、この構想に含まれます。

同社は、こうしたアクセスによって評価者が会社の運営を調べ、安全に関する約束の履行を確かめられるとしています。見落としの指摘やインシデントの報告に加え、利点とリスクについて、より確かな情報に基づいて一般の人々へ説明することも想定しています。

Anthropicが提携の主導役として挙げたのは、Accentureの専門AI事業Facultyです。提携では、モデルの評価と、弱点を探るレッドチーミングに加え、アラインメントの評価と安全対策の試験を行う予定です。

一方、Anthropicは、評価者に認める情報へのアクセス範囲や発見事項の報告方法について、まだ基準がないと述べています。組み込み型評価をどう運用するかの詳細の多くは、検討中だとしています。

独立した評価者を置いても、モデルの安全性に関する責任はAnthropicが負う方針です。同社は、自らの説明責任を検証しやすくするために評価者を社内に置くと説明しています。

Claudeの導入支援でも両社は組む

評価を担うAccentureは、企業向けのClaude導入を進めるAnthropicの提携先でもあります。Anthropicは前年12月、企業の試験導入から本格展開への移行を支援する提携拡大を公表していました。

その発表には、Claudeを専門に扱う「Accenture Anthropic Business Group」の設置が含まれていました。顧客の環境にClaudeを組み込むエンジニアなど、Accentureの専門人材約3万人に研修を行う計画も示されていました。

両社が発表したCIO（最高情報責任者）向けの共同サービスは、開発支援ツールClaude Codeを企業のソフトウェア開発に組み込むものでした。生産性や投資効果の測定に加え、業務手順の再設計や研修も含めるとしていました。

評価提携の発表では、AnthropicはAccentureの企業・政府向けAI導入支援を挙げています。その現場で得た知見を、モデルの評価に持ち込むという説明です。

評価者が一般の人々へ説明することは構想に含まれますが、導入支援の事業関係と評価の役割をどう切り分けるかや、評価者が何をどこまで公表できるかの具体的な取り決めは、二つの発表に記載されていません。

5年で各10億ドル以上の投資を見込む

Anthropicの発表によると、両社は評価分野の体制を整えるため、評価提携の発表時点から5年間にそれぞれ少なくとも10億ドルを投資する見込みです。

Anthropicは、Accentureが担う評価作業に直接資金を提供する方針です。その理由に取り組みの重要性と緊急性を挙げています。

長期的な資金源としてAnthropicが望ましいとするのは、複数の出し手による共同資金や政府の資金です。同社は、発表時点でどちらも存在しないため、評価者ごとに異なる資金の取り決めを用いるとしています。

非営利の評価機関METRなどとは、各団体が自らの資金で組み込み型評価の一部を試すことを協議していると説明しています。Accentureへの直接資金提供に加え、こうした別の資金源による試行も検討対象です。

投資額の内訳や、Anthropicの投資見込み額にAccentureへの支払いが含まれるかは、発表に記載されていません。

複数の評価者との提携を予定する

Anthropicは、Accentureと非独占で提携するとしています。最先端のAIを開発する企業が、複数の評価組織と同時に協力することを想定しています。

同社は発表時点で、ほかの評価者を数週間以内に公表する予定だとしていました。Anthropicによると、AccentureはほかのAI開発企業とも、評価者として同様の形で協力する予定です。

Anthropicはモデルの学習・公開を続けながら、独立した評価者と協力する意向です。評価の取り組みの開始や新たな評価者の参加に合わせて、追加情報を公表するとしています。