AIとクラウドソーシングでコンテンツ監視のコストを減らす「Posmoni」公開

コミュニティサービスの成長には不適切なコンテンツに対応する仕組みが不可欠だ。

サービスのネットワークが広がり多様なユーザーが参加するようになればなるほど、他のユーザーを不快にする投稿や言動が増えるリスクも高まる。運営側がそのような投稿に素早く対処できることが、居心地のいいコミュニティを作るための鍵だ。

実際SNSやソーシャルゲームを含むCGMの運営元の中にはコンテンツの監視や管理にかなり気を配り、多くの予算を投じている企業も多い。ただ全ての投稿を人の目で監視するとなると膨大なリソースと予算が必要で、大きな負担にもなりうる。

そんなコンテンツ監視の課題に対してAIとクラウドソーシングを組み合わせた解決策を打ち出しているのが2013年創業のスタートアップ・ナナメウエだ。同社は5月8日、新たにコンテンツ監視サービス「Posmoni」の提供を開始したことを明らかにした。

Posmoniはもともとナナメウエ自身が自社の課題を解決するために開発した仕組みが基になっている。

現在1日約400万件のコンテンツが投稿される匿名性SNS「Yay（イェイ）」を運営する同社は、2015年に学生限定の匿名SNS「ひま部」を公開して以来、数年に渡ってコミュニティサービスを手がけてきた。

徐々にサービスが拡大していく中でナナメウエが直面したのが冒頭でも触れたコンテンツ監視の問題だ。特に同社のサービスは匿名性ということもあり、良くも悪くも幅広いタイプのコンテンツが投稿されやすい。そこには暴言や嫌がらせのようなものも含まれる。

「Posmoniを作ったのは、コンテンツの監視管理がめちゃくちゃ大変だったから。これまで先輩のSNS企業がどうしていたかというと、地方などにも拠点を設けて、大量に人を雇い人力ベースで対応をすることが多かった。自分たちも最初はタイなどにも拠点を開設し自社でやっていたものの、コンテンツ数が増加するに伴い人だけで対応するのは負担が大きくなってきた。そこでデータがある程度集まってきたこともあり、監視管理用のAIを作ることで一部の業務を自動化できないかと考えたのが最初のきっかけだ」（ナナメウエ代表取締役の石濵嵩博氏）

ナナメウエでは自社サービスに投稿されたデータを活用して開発したAIですべての監視対象をフィルタリングし、そこでは判別できなかったもののみを人力でチェックする仕組みを構築。それによって人だけで監視していた時に比べ、人的なコストを10分の1程度まで削減することに成功した。

今回ローンチしたPosmoniはその仕組みをプロダクト化したもの。同じような課題を抱える外部の企業がコンテンツ監視にかかる負担を減らせるようにサポートする。

2020-05-07 22:06:05