負荷テストとは

システム負荷を与えた時にどうなるかをテストする

その状態でのCPU, メモリ, ストレージ, ネットワークのリソースを確認する

負荷テストの種類

Load Test

想定されている負荷に対してちゃんと捌くことができるかをチェックするテスト

システムが想定しているピークでチェックする

→ そもそもサーバーの性能、インスタンスの性能が想定の動作をする条件を満たしているかをチェックできる。満たしてなければCPUやメモリを見直す必要がある。

Stress Test

どの程度の負荷まで耐えられるかをチェックするテスト

徐々に負荷を上げていって限界値をチェックする

→現状のサーバー、インスタンスがどこまで耐えられるかをチェックできる。限界値を集計し、サービスとしてどこまで想定をするかをコストとのトレードオフと共に決定する材料になる

Spike Test

急激なアクセスが来た時にどのようになるかをチェックするテスト

SNSでのバズやキャンペーン等で想定を超えた時に問題が起きないか、起きるとしたらどのような問題が起きるかをテストする

→現状のサーバー、インスタンスがどこまで急な変化に耐えられるかをチェックできる。限界を計測し、サービスとしてどこまで想定をするかをコストとのトレードオフと共に決定する材料になる。

また、スケーリングロジックが適切かどうかのチェックにもなる

負荷テストの実施にあたっての注意点

  • WAFに引っかかる可能性があるので注意
  • HPAがある場合は、Pod単体によるものではないことに注意する

k6

k6とは

Grafana Labsが作成した負荷テストツール

k6に内蔵されたJSエンジン環境で動作する

大量にHTTPリクエストを送信して、負荷テストを行うようになっている。

負荷コントロールの幅がありコントロールしやすい

  • 大量のリクエスト送信←fetchを繰り返し実行でも実現可能だが、自由度が違う
  • 同時アクセス数の設定
  • 秒間リクエスト数(RPS)の制御
  • 段階的な負荷増加
  • 平均レスポンス時間の集計
  • p95, p99などのpercentileの集計

などができる

k6でテストする上で重要な概念

VUs

(Virtual Usersの略)

一連の動作をする(負荷をかける)ユーザーの数を指定することができる

HTTPのみのサーバーだとあんまり測定する意味ないかもしれないけど、WebSocketを使う場合はSessionの数で負荷が変わってくるので重要になってくる

Thresholds(しきい値)

負荷テストの結果の基準値を設定することができる

負荷テストの結果がエラーかそうじゃないか

k6のコードの書き方の特徴

基本的にはJSのコードにはなるが、optionはoptionという名前でnamed exportする

そして実際にfetchする処理はdefault exportする

例

import http from 'k6/http';

export const options = {
  scenarios: {
    load_test: {
      executor: 'constant-arrival-rate',

      rate: 10,
      timeUnit: '1s',

      duration: '5m',

      preAllocatedVUs: 20,
      maxVUs: 100,
    },
  },
};

export default function () {
  http.get('https://example.com');
}

参考