「AI生成コンテンツの安全性研究会」発足、ディープフェイク対策など3テーマを議論

一般社団法人のAIガバナンス協会(AIGA)とトラスト&セーフティ協会(JTSA)は、AI生成コンテンツの安全性と信頼性に関する課題に対応する「AI生成コンテンツの安全性研究会」を共同で設立すると6月1日に発表した。ディープフェイクなどの偽情報・誤情報に関する課題に対して、技術、法務、倫理、運用、社会的影響など複数の観点から横断的に議論・研究する。AIGAとJTSAのそれぞれの知見とネットワークを生かし、産業界、学術界、有識者など多様なステークホルダーが参画する開かれた議論の場を目指す。

研究会は、①AI生成コンテンツの現状整理とリスクの把握、②技術的対応策に関する検討、③倫理・法務面の論点整理――の3つのテーマを研究する。①は国内外の動向やユースケースを踏まえて安全性・信頼性に関する論点を整理。特に偽情報・誤情報を検討する。②はコンテンツの真正性に関する技術、メタデータや来歴情報の活用、有害コンテンツへの対応技術、安全性評価のあり方を議論。③はAI生成コンテンツの利用に伴う倫理的論点、著作権・肖像権に関する論点、制度・運用上の課題を検討する。

研究会の座長には成原慧・九州大学法学研究院准教授が就く。委員には上田正基・神奈川大学法学部教授、笹原和俊・東京科学大学教授、野口祐子弁護士(東京大学客員教授)、水谷瑛嗣郎・慶應義塾大学准教授が参加し、法学・倫理学・AI技術の研究者・有識者が参加する。AIGAとJTSAの会員企業・団体・個人会員のAIサービス事業者、プラットフォーム事業者、NPOなどの多様な参加者と分野を横断して議論する。6月に第1回研究会、7月に第2回研究会を開催し、8月に報告レポートを公表する。

AIGAは2023年10月に任意団体として設立し、24年10月1日に一般社団法人へ移行した。AI基盤モデル開発のグローバルテックから国内の金融・通信・IT・HR・製造・インフラなど業界大手が参加し、AIガバナンスの共通理解の醸成や政策提言をしている。 JTSAは25年1月設立した国内唯一のトラスト&セーフティ実務者コミュニティで、オンライン環境の誹謗中傷や偽・誤情報、オンライン詐欺などの脅威に対し、ユーザー保護、リスクの検知や管理、ポリシーの策定と対策の実施でオンライン環境の信頼性と安全性を高める取り組みを行っている。