アクセンチュアとAnthropicがAIの安全性評価を行う「組み込み型評価者」チーム設立へ提携

総合コンサルティングの米国アクセンチュアと、AI開発の米国Anthropic(アンソロピック)は、AIの安全性評価を行う「組み込み型評価者」チームの設立に向けて提携した、と10月5日発表した。安全で信頼性の高いAIの開発を支援する専門チームで、Anthropicの各部門やAIの安全性に関するパートナーと連携する。両社はそれぞれ今後5年で10億ドル(約1580億円)以上をAIの安全性向上に投資する。

このチームはAIモデルの評価、レッドチーミング、アラインメント評価、モデルのセーフガードの有効性検証を実施する。レッドチーミングは、攻撃者や競合の視点からAI、システム、セキュリティ体制の弱点を意図的に検証・評価する活動を指す。アラインメント評価は、AIモデルやシステムが人間の意図、倫理観、社会的価値観、企業の戦略と一致しているか測定・検証するプロセスを意味する。

アクセンチュアはAI、セキュリティ、業界専門知識を持つ専任のチームを編成してAnthropicと協働する。組み込み型評価は新たな領域となり、AIの今後の安全性を支える重要な要素といい、Anthropicとの提携を通してこの分野の発展を加速させる。アクセンチュアはAI関連の知見と、AI実装企業の英国のFaculty(ファカルティ)の買収によって得た技術力、AIの安全性に関する専門性を活用する。