Orionは、メディア事業等の各サービスに投稿されるコンテンツに対し、利用規約に抵触する不適切な内容をフィルタリングし、またAIやオペレータによるレビューを行う基盤システムです。近年はAIを最大限活用して、適切なコストで効果の最適化を図っています。今日も、ユーザのみなさまの安心・安全を提供するために稼働しています。

Member

ML Engineer : PjM、MLモデル運用、コンサルティング
Software Engineer : 開発・運用、インフラ構築、サービスとのコミュニケーション

使用している主な技術

Java, Python, GitHub, Vertex AI, Cloud Functions, Azure OpenAI, BigQuery, Computer Vision, Image Recognition, Search Engine, Forensic Analysis

オーダーメイドの安心安全施策

解決したい課題/ ユースケース

サイバーエージェントでは多種多様なメディアサービスを展開しています。例えば、多数のコメントで盛り上がるサービスでは、フィルタリングや連続投稿の検知によるスピーディーな対応を優先します。一方でブログ記事やマッチングアプリなど、安心安全が重要なサービスにおいては、フィルタリングと有人レビューを組み合わせた確実な対応を行うようにしています。多種多様なコンテンツへの対応と、多様な有害性への対応を柔軟に行うことができます。

生成AI利用の取り組み

解決したい課題/ ユースケース

オペレータの負荷軽減と誤操作の防止、またサービスの要望に応じたコンテンツの基準に合わせた判断を行うために、生成AIを用いたフィルタリングや有人レビューの代替を実施しています。メディア事業の各サービスにおいてこの取り組みを行っており、悪質とされるユーザやコンテンツの減少が見られている一方で、夜間作業するオペレータの減少など、オペレーションの最適化に貢献しています。

関連リンク

CyberAgent Way 「メディアの健全化を12年間支え続けてきた監視基盤システム「Orion」。生成AI時代における社会課題への向き合い方」
Orion: An Integrated Multimedia Content Moderation System for Web Services”, ACM International Conference on Multimedia Retrieval (ICMR), Industrial Session, 2018.
Orion: サイバーエージェントのTrust and Safetyを支える仕組み(CyberAgent Developers Blog):