AIRA — AI 챗봇 플랫폼
AIRA — Multi-tenant Conversational AI Platform
고객 지원 업무를 자동화하는 리서치 SaaS입니다. 자연어 처리 기술을 활용하여 24시간 365일 운영되는 고객 응대 시스템을 구축합니다.
라이브 데모
실제 애플리케이션 화면 미리보기
AIRA 어시스턴트
온라인
주문한 상품이 아직 도착하지 않았습니다. 추적 번호는 TK-29384입니다.
문의 주셔서 감사합니다. 추적 번호 TK-29384를 확인했습니다. 현재 배송 물품이 오사카 배송 센터를 출발했으며 오늘 18:00~20:00 사이에 도착 예정입니다. 실시간으로 배송 상황을 확인하실 수 있는 링크를 보내드리겠습니다.
감사합니다! 그리고 반품하고 싶은 상품도 있습니다.
알겠습니다. 반품을 도와드리겠습니다. 구매 내역을 확인한 결과, 다음 상품들이 반품 가능 기간 내에 있습니다: • 무선 헤드폰 WH-200 (¥12,800) • USB 허브 7포트 (¥3,980) 어떤 상품을 반품하시겠습니까?
과제
월 100,000건 이상의 문의가 발생하면서 평균 응답 시간이 48시간을 초과하였고, 고객 지원 인력 비용이 급격히 증가하였습니다.
솔루션
FAQ 학습, 감성 분석, 자동 에스컬레이션 기능을 갖춘 GPT 기반 챗봇 플랫폼을 구축하였습니다. 관리 대시보드를 통해 응답률과 CSAT를 실시간으로 추적합니다.
성과
- 응답 시간을 48시간에서 30초로 단축
- 고객 지원 비용 62% 절감
- CSAT 점수 34% 향상
- 월 150,000건의 문의 처리 달성
Measured Impact
検索 nDCG@10
0.88
+42%
回答根拠提示率
94.2%
+31pt
平均TTFT
780ms
-36%
月次コスト変動
±8%
What it does
検索と生成
ハイブリッド検索
密ベクトル + BM25 + HyDE書き換えで略語や社内用語にも強い検索を実現。
引用付き応答
回答文の各主張に対して出典ドキュメントIDと該当箇所のスパンを返却。
プラットフォーム
LLM Gateway
OpenAI / Anthropic / Bedrock / Ollamaを統一インターフェースで扱い、重み付きフォールバックを実現。
マルチテナント隔離
PostgresのRLSとネームスペース付きHNSWインデックスでテナント境界を強制。
運用性
プロンプトトレーシング
全リクエストをOpenTelemetryスパンで記録し、DatadogとSentryに連携。
コスト可視化
トークン数とモデル別コストをリアルタイムで集計し、テナント別に制限可能。
System Layers
Layered architecture showing components, responsibilities, and data flow.
Layer
Edge / API
認証、レート制限、テナント解決を担うエッジ層。Streamed Server Actionsで段階的UI更新をサポート。
Layer
Orchestration
LangGraphの有向グラフで検索→再ランキング→ツール実行→合成の多段ワークフローを管理。
Layer
Retrieval
密ベクトルと疎ベクトルのハイブリッド検索。日本語はSudachiで形態素分割した独自トークナイザを採用。
Layer
Data & State
会話履歴はPostgres、セマンティックキャッシュはRedis、生ドキュメントはS3で管理。
Layer
Observability
全リクエストにtrace-idを付与し、プロンプト・コンテキスト・コスト・レイテンシを相関分析。
How we built it
Discovery
社内FAQとSlackログから頻出質問カテゴリを抽出し、対話AIで解決可能なユースケースを定量評価。
Deliverables
- ユースケース優先度マップ
- ROI見積もり
- 制約ドキュメント
Offline評価基盤
LLMjudge + 人手ラベリングのハイブリッド評価基盤を構築し、CIで回帰検出できるようにした。
Deliverables
- 評価データセット v1
- CI統合テスト
- 品質ダッシュボード
Architecture & Spike
LangGraph vs 自作オーケストレータ、pgvector vs Qdrantのスパイク検証で技術選定。
Deliverables
- ADR集 (6本)
- ベンチマーク結果
- コスト試算表
Implementation
検索コアとLLM Gatewayを先に実装し、フロントエンドは薄いストリーミングクライアントに限定。
Deliverables
- tRPCサービス
- LLM Gatewayライブラリ
- Next.jsクライアント
QA & Red Team
プロンプトインジェクションとPII漏洩のレッドチーム演習を実施し、検出できなかった攻撃を回帰テスト化。
Deliverables
- 脅威モデル
- Red Teamレポート
- ガードレール設定
Soft Launch
社内10名の限定公開でフィードバックループを高速化。トレースから失敗パターンを自動収集。
Deliverables
- ソフトローンチKPI
- 失敗事例カタログ
Iteration
週次で検索品質 / コスト / レイテンシのトレードオフを評価し、LLM Gatewayの重みを調整。
Deliverables
- 週次レビュー議事録
- 可観測性改善PR
Delivery Timeline
- P0Done2026-03-05
検索評価ベンチマーク構築
社内FAQ 3,200件を正解付きクエリセットとして整備し、Recall@k / nDCG@k の自動計測パイプラインを構築。
- P1Done2026-03-18
ハイブリッド検索パイプライン
pgvector + BM25 + HyDE を統合した検索コアを実装。クエリ書き換えエージェントを組み込み。
- P2In Progress2026-04-10
LLM Gateway と観測性
プロバイダ非依存のルーティング層と OpenTelemetry によるプロンプトトレーシングを導入。
- P3In Progress2026-04-22
マルチテナント隔離
Row-level Security + ネームスペース付きベクトル分離でテナント境界を強制。
- P4Planned2026-05
パートナー向け限定公開
静岡県内の協業5社を対象にしたクローズドベータ。SLAとコストダッシュボードを提供。
Who built it
Roles
- MLエンジニア
- バックエンド/プラットフォーム
- フルスタック
Tools & Platforms
Frontend
Backend
Data
Infrastructure