クラウドAIとして今注目の「コグニティブ機能」を使って、コンテンツをモデレートしてみた

ASTERIA WARPのプロダクト担当による不定期連携デモ。今回は、「Content Moderator API」との連携方法をご紹介します。
よろしければこちらもご覧ください

前回の【つないでみた】ブログでは、Microsoft Azureのコグニティブ機能である「 Computer Vision API 」 をASTERIA WARPから簡単に利用できるコンポーネントをご紹介しました。

※詳細は、下記URLからご参照ください。 画像を認識する「Cognitive 機能」を使って、画像から様々な情報を取得し、その視覚データをタグ分類してみた

そして、また新たな Microsoft Azure コグニティブ機能を利用した『コンテンツをモデレートする』コンポーネントがExperimental Buildでリリースされましたので、今回はその機能でどんなことが出来るのか試してみたいと思います!

今回、リリースされた機能はどんなことができるの?

今回、リリースされたコンポーネントはMicrosoft Azure Cognitive Servicesの「 Content Moderator API 」を利用するための機能です。「 Content Moderator API 」とは、テキストや画像等のコンテンツから問題がありそうな情報をモデレートしてくれる機能です。

Microsoft社の「 Content Moderator API 」 紹介ページには下記のような説明が記載されています。

[画像]

・攻撃的になり得る画像や望ましくない画像を検出

[文字]

・100 を超える言語で侮蔑的になり得る語句を検出
・個人を特定できる情報 (PII) の可能性の有無を検出

[動画]

・成人向けと考えられるコンテンツを検出

 

そして、今回ASTERIA WARPで利用できるのは、[文字]、[画像]のモデレート機能です。
例えば、それぞれのコンポーネントを使用すると、以下のような処理が簡単にできます!

 

▼続きはこちらのサイトでご覧いただけます
https://www.infoteria.com/jp/warp/blog/try/tsunagu/27834.html

  • 今回、リリースされた機能はどんなことができるの?
  • AzureTextModeration コンポーネント利用イメージ
  • AzureImageModeration コンポーネント利用イメージ
  • ASTERIA WARPをご利用いただくと、こんな感じで簡単に処理が作成できます!
よろしければこちらもご覧ください
この記事が役に立ったらシェア!
メルマガの登録はこちら Web担当者に役立つ情報をサクッとゲット!
メルマガの登録はこちら Web担当者に役立つ情報をサクッとゲット!

今日の用語

ILD
リンク元ドメイン名の数、つまり、どれくらい多くのサイト(ドメイン名)からリンクを ...→用語集へ

連載/特集コーナーから探す

インフォメーション

RSSフィード


Web担を応援して支えてくださっている企業さま [各サービス/製品の紹介はこちらから]