データプロダクトユニットにおける生成AI 活用：取り組みと展望

サイバーエージェント社内の生成 AI 活用の先駆けとなるプロジェクトの開発を担当した岩井二郎に話を聞いた。開発立ち上げ時の話や開発時の試行錯誤した話などをご紹介します。

岩井二郎

2017 年中途入社。画像フィルタの開発、機械学習モデル推論基盤の開発、MLOps 環境整備などを担当。現在は生成 AI 活用推
進が主業務。AI 技術の調査、製品開発、システムの安定性維持と継続的な改善を実施。

生成 AI 活用プロジェクト：立ち上げ期の課題と対応

岩井：2023 年 2 月、データプロダクトユニットは生成 AI 活用プロジェクトを開始しました。当初プロジェクトの主な目的は、社内の生成 AI 活用促進と、社員向け LLM ベースのチャットボット開発でした。
プロジェクト開始時、生成 AI の実用的価値は多くの社員にとってまだ明確ではありませんでした。実際に使用してみるまでの障壁も高く、手軽に試せる環境も整っていませんでした。また、セキュリティや費用面での課題もありました。
技術面では、プロンプトエンジニアリングの重要性や、回答精度を向上させるシステム的アプローチについて、チームの知見が不足していました。生成 AI の特性に起因する問題、例えば回答の非一貫性や誤情報の生成といった課題にも直面していました。
これらの課題に対応するため、チームはまずAzure OpenAI Serviceを導入してセキュリティ面での懸念に対処しました。プロジェクトの進行に伴い、プロンプトエンジニアリングのスキルを向上させ、生成 AI についての知見を蓄積していきました。現在では生成 AI の特性に対する理解も深まり、その長所を活かしつつ短所に対処する方法を検討しています。

主要プロジェクトの概要と目標

岩井：本プロジェクトは、社員の業務効率向上を主な目的として取り組まれました。主に以下の大きな課題に焦点を当てています。

日常的な業務における業務効率の改善
多言語コミュニケーションの促進
会議の生産性向上

これらの課題に対応するため、以下の 3 つの主要なソリューションを開発・提供しています。

チャットボット「AzureBot/CyChatSD」
翻訳アプリ「CATranslateBot」
議事録書き起こしアプリ「コエログ .ca」

プロジェクト実施における具体的アプローチ

岩井：プロジェクトの進行に伴い、より具体的な課題が明らかになり、それらへの対処が行われました。チャットボットの回答の品質向上への取り組みとして、ReAct Agent (Reasoning and Acting：推論と行動を組み合わせた AI エージェント ) の独自実装が実施されました。これにより、LLMを用いて質問内容を分析し、適切なツールを選択・実行することで、質問の意図のより正確な理解と適切な情報源の活用が可能になりました。

また、信頼度評価アルゴリズムの開発も進められました。このアルゴリズムでは、RAG ( Retrieval-Augmented Generation：既存の知識ベースから関連情報を取得し、それを基に回答を生成する技術 ) で生成された回答と正解データの LLM による定量的な比較を行い、信頼度を数値化することを試みています。RAG データの最適化も実施され、データを「質問と回答」形式で正規化することで、データの一貫性と品質の向上が図られました。
社内データの活用においては、データ所有部門との協力のもと、データクレンジングと形式変換が実施され、より効果的なデータ利用が可能になりました。
開発プロセスの最適化では、ユーザーフィードバックの収集と反映、そしてエラーログの監視による継続的な性能改善が行われています。これらの取り組みにより、社内データの効果的な活用と AI の出力の正確性向上が進められています。

AI 活用ツールの導入事例と成果

チャットボット「CyChatSD」：
社内情報にも回答できるチャットボットとして CyChatSD を導入しました。従来はヘルプデスクの担当者が個別に対応していた基本的な質問（休暇制度、福利厚生など）を AI が 24 時間体制で回答することで、業務効率の向上を目指しています。

Slack アプリ「AzureBot」：
Slack アプリ「AzureBot」は、サイバーエージェント社内で広く使用されている生成 AI 活用ツールです。日々のアクセス数は3,500 以上、週間アクティブユーザー数は 1,000 以上となっています。
主な活用例は以下の通りです
　・文章校正
　・議事録の要約
　・プレゼンテーション資料の作成
　・プログラミング支援
　これらの用途を通じて、AzureBot は社員の業務効率向上に貢献しています。
翻訳アプリ「CATranslateBot」：
多国籍プロジェクトチームで活用され、英語、ベトナム語などを母語とするメンバーとのコミュニケーションを支援しています。Slack 上で動作し、誰でも簡単に利用できるため、日常的なやりとりから技術的な専門用語の翻訳まで幅広く対応しています。
これにより、国籍を越えたプロジェクトの円滑な進行をサポートしています。
議事録書き起こしアプリ「コエログ .ca」：
会議や顧客との商談など、様々な場面で活用されています。話者分離技術を応用し、複数の発言者の音声を個別に書き起こすことができます。現在、会議の自動要約機能はありませんが、今後の対応を予定しています。このアプリにより、会議参加者は発言に集中でき、後で詳細な議事録を確認できるため、業務効率の向上に役立っています。

岩井：これらのAIツールの導入を通じて、社員がより複雑な問題解決に時間を割けるようになることが期待されています。各ツールの効果は継続的に評価され、必要に応じて改善が行われる予定です。

進行中の開発と改善施策

岩井：データプロダクトユニットでは現在以下の取り組みを進めています：

ツールの機能拡張と性能改善：
各ツールの機能を拡充し、より多くの業務シーンでの活用を目指しています。例えばAzureBot/CyChatSD に PDF を読み込ませてその内容について質問できるようにする機能の開発を計画しています。また蓄積される使用データを基に、精度向上と新機能の開発を行っています。サイバーエージェント特有の専門用語や業界特有の表現の理解力を高めることにも取り組んでいます。
部門間データ連携の強化：
異なる部門が保有するデータの連携を強化し、情報の流れを改善することを目指しています。各部門が持つデータを相互に活用できるようにする計画を進めており、これによりデータドリブンな意思決定や業務効率化を促進します。例えば、複数部門のデータを統合し、横断的な分析を可能にするデータプラットフォームの構築を検討しています。

将来の開発方針と期待される成果

岩井：データプロダクトユニットでは今後以下の方向性で開発を進めていく予定です：

社内データの統合とセキュリティの強化：
社内の様々なデータソースを AI システムと統合し、より正確で文脈に即した情報提供を目指します。同時に、AI の利用拡大に伴うデータセキュリティとプライバシー保護の重要性に対応するため、安全性を確保しつつ AIを活用できる環境を整備します。
社内での AI 活用促進：
AI ツールの効果的な使用方法や具体的な活用事例について、社内での情報共有を強化します。各部門でのAI 活用の事例を収集し、社内で共有することで、AI ツールの活用範囲の拡大を図ります。

これらの取り組みを通じて、データプロダクトユニットは生成 AI 技術を実用的かつ効果的に活用し、業務の効率化と質の向上を目指します。