中級読了 5 分

DynamoDB のホットパーティション:見つけ方と直し方

ホットパーティション とは、1つのパーティションキーが、単一のパーティションでさばける以上の読み取りや書き込みを受けている状態です。そのキーへのリクエストはスロットルし、テーブルの残りは遊んだままになります。

DynamoDB のホットパーティションとは?

DynamoDB のホットパーティションとは、1つの が、自分のスループット枠でさばける以上の読み取りや書き込みを大量に吸収し、そのキーへのリクエストがスロットルする一方でテーブルの残りが遊んでいる状態です。原因はテーブルのサイズではなくキー設計(セレブアイテム、カーディナリティの低いキー、今日の日付)です。対処はトラフィックを分散させることです。

  • 上限はパーティションごとです: 1秒あたり 3,000 読み取りユニットと 1,000 書き込みユニットで、プロビジョンドでもオンデマンドでも同じです。課金モードでは上がりません。
  • キーを名前で特定する には CloudWatch Contributor Insights を使い、 *KeyRangeThroughputThrottleEvents メトリクスでパーティション上限であることを確認します。
  • 書き込みが集中するキーはシャーディング し、サフィックスを付けて、シャードごとに1回の Query で読み戻します。読み取りが集中するアイテムはキャッシュ します(DAX か、事前計算したアイテム)。
  • 単一のアイテムは決して分割されません。 アダプティブキャパシティは忙しいキーのアイテムコレクションを分散できますが、1つのアイテムは1パーティションの上限に張り付いたままです。

パーティションごとの上限

DynamoDB はパーティションキーをハッシュして、各アイテムを物理パーティションに配置します。 AWS は各パーティションが "a maximum capacity of 3,000 read units per second and 1,000 write units per second" を提供するよう設計しており、これはどの課金モードでも同じです (AWS: パーティションキーの設計)。

テーブルのスループットは全パーティションに分散されるため、1つの忙しいキーは、テーブルが忙しく見えるずっと前にスロットルすることがあります。

DynamoDB は忙しいパーティションをソートキーの境界で2つに分割できます(熱による分割、 split-for-heat)。ただし単一のアイテム、単調増加するソートキー、LSI を持つテーブルでは分割できません。パーティションの分割の仕組みは物理パーティション を参照してください。

罠に名前をつける: 1つのキーに積み上がるトラフィック

スループットが均等に共有されるのは、アクセスがキー全体に均等に分散している場合に限ります。1つのキーが不均衡なトラフィックを受けた瞬間、そのキーだけがスロットルし、テーブル全体のキャパシティは使われないまま残ります。

典型的なホットキーの形:

  • セレブアイテム: 誰もが読む1人のユーザー、1つのドキュメント、1つのテナント。
  • カーディナリティの低いパーティションキー: status、country、type。取りうる値が少ないと、すべての仕事をこなすパーティションも少なくなります。
  • 時刻でバケット化したキー: PK = "2026-06-23"。今日の書き込みはすべて1つのパーティションを叩き、昨日のパーティションは永遠に冷たいままです。

SQL では、B-tree インデックス内の人気の値は問題になりません。戦う相手はロック競合下のホットな 行 だけです。DynamoDB では人気のキー値 そのもの が物理配置の単位なので、人気だけでスループットの崖になります。

再設計の前に診断する

スロットリングは ProvisionedThroughputExceededException や ThrottlingException として現れ、CloudWatch では ThrottledRequests と ReadThrottleEvents/WriteThrottleEvents として現れます。ホットキーが原因だと示すシグナルは2つです。

  • ReadKeyRangeThroughputThrottleEvents / WriteKeyRangeThroughputThrottleEvents は "throttled due to partition limits" のリクエストを数えます。これが増える一方で *ProvisionedThroughputThrottleEvents が横ばいなら、テーブルにはキャパシティがあり、 1つのキー範囲にだけ足りていません (AWS: CloudWatch メトリクス)。
  • CloudWatch Contributor Insights for DynamoDB はキーを名指しします。テーブルや GSI 上で最もアクセスの多いパーティションキーと最もスロットルされたパーティションキー(およびパーティションキーとソートキーの組)を、1分ごとにランク付けします。

テーブルごとに有効にし、インデックス側がホットなら GSI ごとにも有効にします。

aws dynamodb update-contributor-insights --table-name Leaderboard \
  --contributor-insights-action ENABLE \
  --contributor-insights-mode THROTTLED_KEYS

THROTTLED_KEYS モードは、リクエストがスロットルされたときにだけイベントを処理(および課金)するので、有効にしたままにしておけます。

ACCESSED_AND_THROTTLED_KEYS はスロットルする前の最も忙しいキーもランク付けしますが、読み書きされたアイテムごとに料金がかかります (AWS: Contributor Insights)。

パーティションキーでの GROUP BY が数えるのは保存されたアイテムでありトラフィックではないので、ホットキーは見つけられません。メトリクスが別の原因(プロビジョンドの上限、アカウントのクォータ、オンデマンドの最大値)を指しているなら、スロットリングのガイド から始めてください。

具体例: グローバルリーダーボード

ゲームのリーダーボードを運用しているとします。すべてのプレイヤーのスコアが1つのキーの下にあります。

PK = "BOARD#global"
SK = "PLAYER#<playerId>"

試合のたびに、ゲームはそのプレイヤーの score を ADD で増やします。ゲーム内のあらゆる書き込みが単一のキー BOARD#global に当たります。スコア更新が毎秒約 1,000 件を超えると、テーブル内の他のボードがすべて遊んでいる一方で、このキーはスロットルします。

アダプティブキャパシティがいずれソートキーでコレクションを分割するかもしれませんが、それには時間がかかり、LSI を持つテーブルでは決して起きません。シャーディングなら設計の段階で余裕を確保できます。

自爆装置は BOARD#global への集約です。1つの論理的なボードを、1つの物理的なキーとしてモデル化してしまったのです。

書き込みを分散する: ライトシャーディング

対処は、カーディナリティを人為的に作り出すことです。パーティションキーに シャードサフィックス を付け、ボードを N 個のキー値にファンアウトさせます。AWS はサフィックスの選び方を2つ文書化しています (AWS: ライトシャーディング)。

  • ランダムなサフィックス(0…N-1 をランダムに): 最も均等に分散しますが、すべてのシャードをクエリしないと1つのアイテムを再び見つけられません。追記専用のイベントや、読み取り時に合計するカウンターに使います。
  • 計算されたサフィックス(クエリに使う何かのハッシュを N で割った余り): 同じプレイヤーは常に同じシャードに入るので、GetItem で引き続き見つけられます。

リーダーボードに必要なのは後者です。

PK = "BOARD#global#<shard>"  -- shard = hash(playerId) mod 10
SK = "PLAYER#<playerId>"

10個のパーティションキー値は10個の物理パーティションではありません。2つの値が同じパーティションにハッシュされることもあります。

それでも DynamoDB はそれらを別々に配置できるようになり、ボードは1つのキーの書き込み上限の最大10倍を得ます。1人のプレイヤーは依然として1つのアイテムに書き込むので、毎秒 1,000 書き込みユニットが上限です。

自分で違いを確かめてみてください。下のビジュアライザに同じキーを繰り返して貼り付けると、すべての書き込みが1つのバケットに入ります。シャードサフィックス(BOARD#global#0 … #9)を加えると、同じ書き込みが均等にファンアウトします。

パーティションキーの分布

1行に1つのパーティションキーの値を入力します。値を繰り返すとホットキーをシミュレートできます。

8 バケット8 キー
  • #0
    1
  • #1
    2
  • #2
    0
  • #3
    0
  • #4
    2
  • #5
    2
  • #6
    0
  • #7
    1

これは教育用に簡略化したハッシュであり、DynamoDB の実際の内部ハッシュではありません。DynamoDB は非公開の内部関数と、テーブルに応じて増えるパーティション数を使用します — 異なるキーがどう分散し、単一のホットキーがどう積み上がるかの直感を養う目的にのみ使用してください。

これは 直感のための教材用ハッシュであって、DynamoDB の実際の内部ハッシュではありません。実際の関数とパーティション境界は AWS の内部実装です。「均等な分散 vs 偏り」として読んでください。あるキーがどの物理パーティションに入るかの予測としてではありません。

シャーディングしたボードの書き込みと読み取り

書き込みはシャードを計算します。読み取りはシャードごとに1回の Query を並列に発行してマージします。単一の Query は複数のパーティションキー値にまたがれないからです。 AWS SDK for JavaScript v3 では次のようになります。

import {DynamoDBClient, QueryCommand, UpdateItemCommand} from '@aws-sdk/client-dynamodb';

const client = new DynamoDBClient({});
const SHARDS = 10;

// Calculated suffix: the same player always lands on the same shard.
function shardOf(playerId) {
  let h = 0;
  for (const ch of playerId) h = (h * 31 + ch.codePointAt(0)) >>> 0;
  return h % SHARDS;
}

async function addScore(playerId, points) {
  await client.send(
    new UpdateItemCommand({
      TableName: 'Leaderboard',
      Key: {PK: {S: `BOARD#global#${shardOf(playerId)}`}, SK: {S: `PLAYER#${playerId}`}},
      UpdateExpression: 'ADD score :pts',
      ExpressionAttributeValues: {':pts': {N: String(points)}}
    })
  );
}

async function topPlayers(n) {
  const shards = await Promise.all(
    Array.from({length: SHARDS}, async (_, shard) => {
      const items = [];
      let ExclusiveStartKey;
      do {
        const page = await client.send(
          new QueryCommand({
            TableName: 'Leaderboard',
            KeyConditionExpression: 'PK = :pk',
            ExpressionAttributeValues: {':pk': {S: `BOARD#global#${shard}`}},
            ExclusiveStartKey
          })
        );
        items.push(...page.Items);
        ExclusiveStartKey = page.LastEvaluatedKey;
      } while (ExclusiveStartKey);
      return items;
    })
  );
  return shards
    .flat()
    .sort((a, b) => Number(b.score.N) - Number(a.score.N))
    .slice(0, n);
}

topPlayers はすべてのプレイヤーを読むので、ページ表示ではなくジョブです。スケジュールで実行し、結果を1つの BOARD#global / TOP#100 アイテムに書き込みます。ソートキーはアイテムをスコアではなくプレイヤー ID 順に並べるので、どちらにしても上位 N 件は単一の Query からは得られません。

このキースキーマは、シングルテーブル設計 の裏にあるのと同じ の発想です。データが「自然に」収まる形ではなく、アクセスパターンに合わせてキーを形作るのです。

読み取り側を直す: ホットなアイテムをキャッシュする

シャーディングが分散するのは 書き込み です。読み取りが集中するアイテム(全クライアントが更新する TOP#100 アイテムや、セレブのプロフィール)は、依然として1つのパーティション上の 1つのアイテムです。それをシャーディングすると読み取りがすべて N 倍になるので、代わりにキャッシュします。

  • DynamoDB Accelerator (DAX) は同じ API でテーブルの前段に置かれます。 AWS はこのケースを名指ししています: "To mitigate the impacts of a 'hot' key and a non-uniform traffic distribution, you could offload the read activity to a DAX cache" (AWS: DAX)。
  • DAX が合わない場合: DAX が提供するのは結果整合性のある読み込みだけで、強力な整合性のある読み込みは素通しします。また書き込みが多いアイテムより読み取りが多いアイテムに向いており、 AWS は "performs best when cache hit rates exceed 90%" と述べています。
  • DAX を使わない場合 は、アプリケーションや CDN でアイテムを数秒間キャッシュします。リーダーボードがそれ以上新しい必要があることはまれです。

楽な部分はアダプティブキャパシティに任せる

アダプティブキャパシティ は、テーブルのスループットを熱を帯びたパーティションへ即時かつ無料で振り向けます。どちらの課金モードでも働き、頻繁にアクセスされるアイテムを独自のパーティションに隔離することもできます (AWS: バーストとアダプティブキャパシティ)。

アイテムごとの上限は上げられず、熱による分割は遅く保証もないので、当てにして待ってはいけません。判断の仕組みは アダプティブキャパシティ を参照してください。

忙しいキーでスロットルが見えたときの判断経路は次のとおりです。

読み取り書き込み1つのアイテム多数のアイテム、1つのキー1つのキーでスロットリング?読み取りか書き込みか?アイテムをキャッシュ(DAX / アプリキャッシュ)1つのアイテムか多数のアイテムか?アイテムをシャーディング(読み取り時に合計)パーティションキーをシャーディング

下のホットキーへのトラフィックを上げて、隣のパーティションが暇なまま、1つのパーティションの負荷がパーティションごとの上限を超えていく様子を見てください。テーブルレベルの数値が忙しく見えるずっと前に、スロットリングは始まります。

パーティションの負荷とスロットリング
6,000 RCU/s
500 WCU/s
60 %

全トラフィックのうち偏った分は単一のホットキー USER#1000 に集中し、パーティション #2 にハッシュされます。残りは 24 個のキーに均等に分散します。

最もホットなパーティション: #2(トラフィックの 65%)— 8 個中 1 個のパーティションがパーティションごとの上限を超えています。

パーティションキートラフィック読み取り (RCU/s)書き込み (WCU/s)ステータス
#046.7%40033OK
#135%30025OK
#2365%3,900325読み取りがスロットリング中
#346.7%40033OK
#423.3%20017OK
#535%30025OK
#635%30025OK
#723.3%20017OK

パーティションごとの上限: 読み取り 3,000 ユニット/秒、書き込み 1,000 ユニット/秒 — テーブルにどれだけプロビジョンしていても、単一の物理パーティションがそれ以上を処理することはありません。

これは教育用に簡略化したハッシュであり、DynamoDB の実際の内部ハッシュではありません。DynamoDB は非公開の内部関数と、テーブルに応じて増えるパーティション数を使用します — 異なるキーがどう分散し、単一のホットキーがどう積み上がるかの直感を養う目的にのみ使用してください。

避けるべき落とし穴

  • 単調増加するソートキー。 単調なソートキー(タイムスタンプ、シーケンス番号)は、すべての新規書き込みを1つのアイテムコレクションの同じ末尾に送るので、熱による分割は助けにならず、キーは 1,000 書き込みユニットに張り付いたままです。パーティションキーをシャーディングしましょう。ソートキーにランダムなプレフィックスを付けても熱による分割に頼ることに変わりはなく(LSI があれば決して起きません)、そのキーでの時間範囲の Query も壊すことになります。
  • 読み取りが集中するアイテムをシャーディングすること。 読み取りが支配的なら、シャーディングは読み取りを倍増させます。アイテムをキャッシュしましょう(上記)。より分散したキーを持つ GSI が役立つのは、多数のアイテムがカーディナリティの低いキーを共有している場合だけで、単一のホットなアイテムには効きません。
  • ホットパーティションと遅い Scan を混同すること。 Scan は何もかも読むから遅く、ホットパーティションは1つのキーが過負荷だからスロットルします。別々の問題です。 Query と Scan を参照してください。

次のステップ

シャーディングしたキーをスケッチし、実データに対して読み取りパスを検証しましょう。

DynamoDB Expression Builder は、各シャードの KeyConditionExpression を名前マップと値マップ付きで出力します。クエリごとにシャードの値を変えてください。そのうえで DynoTable をダウンロード して、各シャードのクエリを自分のテーブルに対して実行し、得られたアイテムをマージ処理が返すものと比べてください。

著者: Dmitriy · 更新日