ABOUTAthena PlatformとはLLMの導入から安定運用まで、
必要な機能をひとつの基盤に。
GPUサーバーにLLMを構築することと、それを業務システムとして安定運用することの間には、大きな隔たりがあります。アプリケーションからの利用方法、障害時の切り替え、利用権限の管理、そして利用実績の説明責任。Athena Platform は、こうした運用に必要な機能群を AI Gateway と App Delivery の2つの領域に整理して提供します。
Athena PlatformプライベートAI運用基盤社内のLLM利用を、一元的に管理・統制する。
- OpenAI互換API
- 既存のSDK・フレームワークを、接続先の変更だけでそのまま利用できます。
- モデルルーティング
- エイリアスでモデルを抽象化。モデルの入替をアプリ改修なしで行えます。
- 自動フェイルオーバー
- 障害を検知すると待機系のデプロイへ自動で切り替え、業務への影響を最小限に抑えます。
- APIキー管理
- 業務システム単位でキーを発行・失効。利用状況もキー単位で把握できます。
業務アプリの配備と運用を、閉域内で完結させる。
- 宣言的デプロイ
- 宣言した構成どおりに基盤がアプリケーションを配備。ロールバックも1操作で行えます。
- 稼働監視
- ヘルスチェック・メトリクス・ログを管理画面に集約して確認できます。
- 利用者認証
- アプリ利用者のディレクトリと認証を基盤側で提供。アプリごとの作り込みを不要にします。
- サービスカタログ
- データベースなどの周辺ミドルウェアを、定型メニューから払い出せます。
すべての利用を記録し、
説明責任に応える。
LLMへのすべてのリクエスト、運用者による設定変更、利用者の認証イベント。3系統の証跡を改変できない形式で記録し、内部統制や監査対応で求められる「誰が・いつ・何を行ったか」の説明に、いつでも応えられる状態を保ちます。
CONSOLE管理画面運用状況を一元的に把握できる、
管理コンソール。
プロジェクト概要
稼働状況・利用状況・直近のアクティビティを業務システム単位で集約。日々の運用の起点になるダッシュボードです。
LLMリクエストログ
すべてのLLM利用を、モデル・レイテンシ・トークン消費量とあわせて記録。障害時の原因調査やコスト管理に活用できます。
リクエスト詳細
1件ごとの呼び出し内容・トークン消費・レイテンシ内訳から、フェイルオーバーの履歴まで、ドリルダウンで確認できます。
ルーティング設定
モデルのエイリアスとフェイルオーバー系列を宣言的に管理。モデルを入れ替えても、アプリ側の改修は不要です。
モデルと能力
利用できるモデルを、出力・入力・機能の対応能力とあわせて一覧。フェイルオーバー系統の構成もここで確認できます。
ワークロード一覧
App Delivery で配備した業務アプリの稼働状態を一覧で把握。公開範囲やリソースの使用状況もここで確認できます。
デプロイ管理
リビジョン単位の配備履歴とステータスの遷移を記録。問題が生じた場合は、過去のリビジョンへ1操作で戻せます。
サービスカタログ
PostgreSQLやRedisなどの周辺ミドルウェアを、カタログから定型で払い出し。アプリに必要な周辺系も閉域内で完結します。
操作監査
運用者による変更操作を時系列で記録。変更前・変更後の内容まで、監査に耐える粒度で追跡できます。
WHY ATHENA PLATFORMAthena Platformが選ばれる理由エンタープライズ利用を支える、
4つの設計方針
Athena Platform は、金融・公共をはじめとする高いセキュリティ要件の環境で、長期にわたり業務システムとして運用されることを前提に設計されています。その基本となる4つの設計方針をご紹介します。
1顧客 = 1環境の物理分離
マルチテナント型のクラウドサービスとは異なり、お客様ごとに独立した環境へ基盤そのものを構築します。計算資源・データ・監査の境界をすべて専有するため、他社ワークロードとの同居による性能影響や情報漏洩のリスクが構造的に発生しません。
閉域環境で完結する導入・更新
コンテナイメージ・構成・デプロイ資材を単一のパッケージにまとめて搬入し、インターネットに接続することなく展開できます。導入後のバージョンアップやモデルの追加・入替も同じ手順で実施でき、閉域環境のままシステムを継続的に改善できます。
漏れのない利用記録と監査証跡
LLMの利用記録は、事後の集計ではなくリクエスト処理の過程で同期的に記録します。これにより記録漏れを防ぎ、通信が中断した場合にも記録を完了させます。証跡は追記専用の形式で保存され、事後の改変はできません。
運用者と利用者を分離した権限管理
基盤を管理する運用者と、アプリケーションを利用する従業員は、認証・権限の体系を分けて管理します。部門・業務単位のスコープで必要な操作のみを許可し、監査記録もそれぞれ独立。組織の統制ルールを、そのまま基盤上の権限として実装できます。
DEPLOYMENT導入の流れ構成設計から展開まで、
一貫した導入支援。
環境の設計から閉域への搬入、展開までを一貫して支援します。標準的なKubernetes上で動作し、単一サーバーの小規模構成から冗長化されたクラスタ構成まで、規模や要件に応じた構成を選択いただけます。
設計
業務要件とシステム環境に合わせて構成を設計します。GPUサーバーの調達・キッティングを含むオンサイト支援も提供します。
搬入
導入物一式を単一のパッケージにまとめ、物理媒体などで閉域環境へ搬入します。外部レジストリへの接続は不要です。
展開
閉域内での展開作業を短期間で完了します。導入後のバージョンアップやモデル追加も、同じ手順で実施できます。
Athenaにご興味を持ってくださった方へ