コンテンツにスキップ

データ処理ワークフロー@マイクロサービス

はじめに

本サイトにつきまして、以下をご認識のほど宜しくお願いいたします。


01. ETLパターン

次の処理フェーズをマイクロサービスで構成する。

  1. データソースから生データを取得するマイクロサービス(業務マイクロサービス、バッチサービスなど)
  2. 生データを処理しやすいように事前に加工するマイクロサービス
    • 必要であればストレージに一度永続化し、データ共有方式で後続のマイクロサービスに渡す
  3. 加工されたデータから、何らかの指標(例:メトリクスなど)を計測する
    • 必要であればストレージに一度永続化し、データ共有方式で後続のマイクロサービスに渡す
  4. 計測値の構造を整理し、監視フロントエンドやクライアントに提供する


02. CDCパターン

記入中...