NTT Comが生成AIを安全に使うガードレール技術「chakoshi」開発、パブリックβ公開

ドコモグループの法人事業ブランド「ドコモビジネス」を展開するNTTコミュニケーションズ(NTT Com)は、企業が生成AI(人工知能)を安全に利用するためのガードレール技術「chakoshi」を開発し、一般が試用可能なパブリックβ版を2月19日に公開した、と同日発表した。今後、パブリックβ版で得られる課題やフィードバックに基づいて精度と機能を高める。

ガードレール技術は、AIに対する想定外の入力やAI自体が不適切・有害な出力をしないようにする技術。chakoshiは入出力テキストの安全性を判定するガードレール技術で、日本語に強い判別性能を備えることが特長。生成AIの利用が広がる中、機密情報の流出防止など安全性確保が課題になっていることから、企業が安全に活用できる環境整備を目的に設計した。

入力されたテキストを高精度に判定し、検知項目と危険度スコアを返す。独自開発のAIモデルを使った日本語安全性判定機能を搭載し、文脈やニュアンスを正確に判別。他社の製品・技術と比べて判別性能が高いという。検知項目は、ユーザーの事業に合わせて日本語のテキストで追加が可能。検知項目の設定や利用ログの確認は、管理ダッシュボードからできる。