トップ OSS紹介 Cortex

Cortex

NRIのOpenStandiaが提供するCortex最新情報

バージョンアップ情報

Cortex情報

Cortexとは

Cortex(コーテックス)は、インフラの専門家ではないデータサイエンティストに、機械学習モデルをクラウドサービスにデプロイし、管理・運用する手段を提供するOSSです。さらに機械学習をスケールアップするためのクラウドインフラストラクチャーとしても機能します。Cortexにより、機械学習を使ったサービスを提供するまでの時間が短縮され、早期にサービスを公開することができます。

なお、本記事で紹介するのは、Prometheusメトリックのストレージとして機能する同名のOSS「Cortex」ではありません。

主な機能

現在、Cortexの公式サイトでは主要な機能として次の4つを挙げています。

サーバレスワークロード

  • リアルタイム - リアルタイムにリクエストに応答し、処理中のリクエスト量に応じて自動的にスケーリングします。
  • 非同期 - リクエストを非同期で処理し、リクエストキューの長さに応じて自動的にスケーリングします。
  • バッチ - 分散された耐障害性の高いバッチ処理ジョブをオンデマンドで実行します。

自動化されたクラスタ管理

  • オートスケーリング - CPUとGPUのインスタンスでクラスタを自動的に拡張します。
  • スポットインスタンス - オンデマンドの自動バックアップを備えたスポットインスタンスでワークロードを実行します。
  • 環境 - さまざまな設定を持つ複数のクラスタを作成できます。

CI/CDと観測性の統合

  • プロビジョニング - 宣言型設定またはTerraformプロバイダを使用したクラスタのプロビジョニングをします。
  • メトリクス - メトリクスを任意の監視ツールに送信したり、事前構築されたGrafanaダッシュボードを使用します。
  • ログ - ログを任意のログ管理ツールにストリームしたり、事前に構築されたCloudWatchとの統合を使用します。

AWSでの構築

  • EKS - Cortex は EKS 上で動作し、ワークロードを信頼性とコスト効率に応じてスケーリングします。
  • VPC - AWSアカウント上のVPCにクラスタを展開し、データの機密性を保ちます。
  • IAM - IAMと統合し、認証と認可のワークフローを実現します。

類似プロダクト

機械学習モデルをクラウドサービスなどの本番環境にデプロイし、管理する場合、商用のクラウドサービスであれば統合的な機械学習プラットフォームであるAmazon SageMaker、Azure ML Services、Google AI Platformなどが利用できます。OSSではCortexの他に、BentoMLやOpenscoringなどが同類のソフトウェアと言えます。

Cortexのライセンス

Cortexのライセンスは、Apache License 2.0となっており、ユーザーはそのソフトウェアの使用や頒布、修正、派生版の頒布をすることに制限を受けません。

オープンソース年間サポートサービス

OpenStandiaではOSSを安心してご利用いただけるように、オープンソース年間サポートサービスをご提供しております。
サポートしているOSSは下記ページをご参照ください。

お気軽にお問い合わせください

関連OSS

  • Thanos
    サポート対象

    Thanos

    サノス。Prometheusと組み合わせることで、無制限のストレージ容量を備えた高可用性メトリックシステムを構築できるオープンソースのコンポーネントのセットです。

  • Prometheus
    サポート対象

    Prometheus

    プロメテウス。GO言語で書かれたオープンソースのモニタリングツールです。

オープンソースに関する様々な課題、OpenStandiaがまるごと解決します。
下記コンテンツも
あわせてご確認ください。