Metaが大規模言語モデルで「Llama 2の責任ある使用のためのガイド」日本語版を公開
「責任ある生成AIの構築」の一環、脆弱性の低減や安全性、信頼性向上の取り組み解説
米国Metaは、開発した大規模言語モデル「Llama 2(ラマ2)」に講じた安全対策を解説した「Llama 2の責任ある使用のためのガイド」の日本語版を公開した、と10月10日に発表した。AI(人工知能)アシスタントの「Meta AI」などテキストベースのカスタムAIモデルは、Llama 2の安全性と責任に関する学習を活用しており、ガイドでは生成AIの潜在的な脆弱性の検出やリスクの低減、安全性と信頼性の向上の取り組みを解説している。
生成AIの基盤となっている大規模言語モデルは完璧ではなく、架空の回答を生成したり、学習データから学んだステレオタイプを過剰に反映したりすることがある。このためMetaは、10年間の開発で学んだ教訓を組み込んでいる。生成AIの限界を理解してもらう注意書きや、危険な回答の検知と除外に役立つ完全性区分などの対策は、Llama 2のガイドで説明されている業界のベストプラクティスに従って行われている。
AIの使用方法と限界を知ってもらう対策では、AIとの対話がいつ行われ、新しいテクノロジーがどのように機能しているのかがわかる情報を提供。AI機能を利用する時は、不正確だったり不適切な出力が返されたりする可能性があることを明示した。AI機能で作成された画像であると知らせる対策では、AI作成のコンテンツとわかるようマークを表示。業界全体でAI生成コンテンツの識別や分類に用いる共通基準の策定を目指している。
ソーシャルもやってます!