更新日：2022-03-23
Cortexの概要
Cortex（コーテックス）は、インフラの専門家ではないデータサイエンティストに、機械学習モデルをクラウドサービスにデプロイし、管理・運用する手段を提供するOSSです。さらに機械学習をスケールアップするためのクラウドインフラストラクチャーとしても機能します。Cortexにより、機械学習を使ったサービスを提供するまでの時間が短縮され、早期にサービスを公開することができます。
なお、本記事で紹介するのは、Prometheusメトリックのストレージとして機能する同名のOSS「Cortex」ではありません。
Cortexの機能
現在、Cortexの公式サイトでは主要な機能として次の4つを挙げています。
- サーバレスワークロード
- リアルタイム - リアルタイムにリクエストに応答し、処理中のリクエスト量に応じて自動的にスケーリングします。
- 非同期 - リクエストを非同期で処理し、リクエストキューの長さに応じて自動的にスケーリングします。
- バッチ - 分散された耐障害性の高いバッチ処理ジョブをオンデマンドで実行します。
- 自動化されたクラスタ管理
- オートスケーリング - CPUとGPUのインスタンスでクラスタを自動的に拡張します。
- スポットインスタンス - オンデマンドの自動バックアップを備えたスポットインスタンスでワークロードを実行します。
- 環境 - さまざまな設定を持つ複数のクラスタを作成できます。
- CI/CDと観測性の統合
- プロビジョニング - 宣言型設定またはTerraformプロバイダを使用したクラスタのプロビジョニングをします。
- メトリクス - メトリクスを任意の監視ツールに送信したり、事前構築されたGrafanaダッシュボードを使用します。
- ログ - ログを任意のログ管理ツールにストリームしたり、事前に構築されたCloudWatchとの統合を使用します。
- AWSでの構築
- EKS - Cortex は EKS 上で動作し、ワークロードを信頼性とコスト効率に応じてスケーリングします。
- VPC - AWSアカウント上のVPCにクラスタを展開し、データの機密性を保ちます。
- IAM - IAMと統合し、認証と認可のワークフローを実現します。
Cortexのライセンス
Cortexのライセンスは、Apache License 2.0となっており、ユーザーはそのソフトウェアの使用や頒布、修正、派生版の頒布をすることに制限を受けません。
Cortexのライセンスについてご不明な点がありましたら、お気軽にお問い合わせください。
Cortexと同類のソフトウェア
機械学習モデルをクラウドサービスなどの本番環境にデプロイし、管理する場合、商用のクラウドサービスであれば統合的な機械学習プラットフォームであるAmazon SageMaker、Azure ML Services、Google AI Platformなどが利用できます。OSSではCortexの他に、BentoMLやOpenscoringなどが同類のソフトウェアと言えます。
関連OSS
参考情報
Cortexのサポート
NRIではお客様のご要望に応じて様々な支援ができるサービスをご用意しました。
詳細は下記ページをご確認ください。
