4要素一体型の導入支援で、3,000人の同時オンライン利用を実現

グループ傘下の数十社がそれぞれ独自にAIツールを調達しており、モデル接続、ナレッジベース、権限体系はばらばらでした。セキュリティ部門は、対話内容やデータの流れを監査できない状態にありました。業務部門には規程検索、報告書作成、データ分析など多くのニーズがあったものの、統一された入口はありませんでした。

インフラは全面的に国産ITスタック（中国の信創。国産ハードウェア・OS・DBで構成された環境）で構築することが求められました。Kylin V10を搭載したARM64サーバー、Damengデータベース、containerdランタイムという構成で、主要なオープンソースプラットフォームにはこの環境での本番導入実績がありませんでした。あわせて、同時オンライン3,000人への対応と、中国の等級保護（MLPS）認証の取得も要件でした。

「プラットフォーム＋FDE＋トレーニング＋運用」の4要素を一体で提供する方式を採用し、8週間でプラットフォームの導入と、第1弾となる代表ユースケースの本番稼働を完了しました。

• プラットフォーム：Difyを基盤にエンタープライズ向け機能を拡張。グループの統一認証と多階層の組織構造に接続し、部門単位のデータ分離と全工程の監査に対応
• FDE：エンジニアが現場に常駐し、規程検索、議事録作成、経営データ分析など6つのユースケースでMVPを完成させ、本番稼働まで推進
• トレーニング：経営層向け戦略ワークショップ1回、中核人材向けブートキャンプ1回（120人）を実施。各部門が自ら構築したエージェントが10件以上誕生
• 運用：本番稼働後は月次のAgentOpsサイクルに移行し、利用状況、効果、コスト、リスクの4分野の指標レポートを提供

キャパシティプランニング

同時オンライン3,000人を目標に、業務接続プール16C/32G×4、非同期タスクプール32C/64G×4、基盤プール8C/16G×2の構成としました。PostgreSQLはDamengに置き換えてSQL方言の差異を吸収し、オブジェクトストレージとベクトルデータベースにはいずれも国産ITスタック対応版を採用しました。

国産ITスタック対応のポイント

• ARM64向けにすべてのイメージを再ビルド。依存ライブラリのうちネイティブモジュール3件はソースからコンパイル
• DamengにおけるJSONB型・配列型のサポート差異は、ORM層の調整とマイグレーションスクリプトで吸収
• containerd環境でのGPUスケジューリングとVRAM分離を個別に検証