バージョンアップ情報
Cortex情報
Cortexとは
Cortex（コーテックス）は、インフラの専門家ではないデータサイエンティストに、機械学習モデルをクラウドサービスにデプロイし、管理・運用する手段を提供するOSSです。さらに機械学習をスケールアップするためのクラウドインフラストラクチャーとしても機能します。Cortexにより、機械学習を使ったサービスを提供するまでの時間が短縮され、早期にサービスを公開することができます。
なお、本記事で紹介するのは、Prometheusメトリックのストレージとして機能する同名のOSS「Cortex」ではありません。
主な機能
現在、Cortexの公式サイトでは主要な機能として次の4つを挙げています。
サーバレスワークロード
- リアルタイム - リアルタイムにリクエストに応答し、処理中のリクエスト量に応じて自動的にスケーリングします。
- 非同期 - リクエストを非同期で処理し、リクエストキューの長さに応じて自動的にスケーリングします。
- バッチ - 分散された耐障害性の高いバッチ処理ジョブをオンデマンドで実行します。
自動化されたクラスタ管理
- オートスケーリング - CPUとGPUのインスタンスでクラスタを自動的に拡張します。
- スポットインスタンス - オンデマンドの自動バックアップを備えたスポットインスタンスでワークロードを実行します。
- 環境 - さまざまな設定を持つ複数のクラスタを作成できます。
CI/CDと観測性の統合
- プロビジョニング - 宣言型設定またはTerraformプロバイダを使用したクラスタのプロビジョニングをします。
- メトリクス - メトリクスを任意の監視ツールに送信したり、事前構築されたGrafanaダッシュボードを使用します。
- ログ - ログを任意のログ管理ツールにストリームしたり、事前に構築されたCloudWatchとの統合を使用します。
AWSでの構築
- EKS - Cortex は EKS 上で動作し、ワークロードを信頼性とコスト効率に応じてスケーリングします。
- VPC - AWSアカウント上のVPCにクラスタを展開し、データの機密性を保ちます。
- IAM - IAMと統合し、認証と認可のワークフローを実現します。
類似プロダクト
機械学習モデルをクラウドサービスなどの本番環境にデプロイし、管理する場合、商用のクラウドサービスであれば統合的な機械学習プラットフォームであるAmazon SageMaker、Azure ML Services、Google AI Platformなどが利用できます。OSSではCortexの他に、BentoMLやOpenscoringなどが同類のソフトウェアと言えます。
Cortexのライセンス
Cortexのライセンスは、Apache License 2.0となっており、ユーザーはそのソフトウェアの使用や頒布、修正、派生版の頒布をすることに制限を受けません。
オープンソース年間サポートサービス
OpenStandiaではOSSを安心してご利用いただけるように、オープンソース年間サポートサービスをご提供しております。
サポートしているOSSは下記ページをご参照ください。
関連OSS
-
サポート対象Thanos
サノス。Prometheusと組み合わせることで、無制限のストレージ容量を備えた高可用性メトリックシステムを構築できるオープンソースのコンポーネントのセットです。
-
サポート対象Prometheus
プロメテウス。GO言語で書かれたオープンソースのモニタリングツールです。