負荷テストとは
システム負荷を与えた時にどうなるかをテストする
その状態でのCPU, メモリ, ストレージ, ネットワークのリソースを確認する
負荷テストの種類
Load Test
想定されている負荷に対してちゃんと捌くことができるかをチェックするテスト
システムが想定しているピークでチェックする
→ そもそもサーバーの性能、インスタンスの性能が想定の動作をする条件を満たしているかをチェックできる。満たしてなければCPUやメモリを見直す必要がある。
Stress Test
どの程度の負荷まで耐えられるかをチェックするテスト
徐々に負荷を上げていって限界値をチェックする
→現状のサーバー、インスタンスがどこまで耐えられるかをチェックできる。限界値を集計し、サービスとしてどこまで想定をするかをコストとのトレードオフと共に決定する材料になる
Spike Test
急激なアクセスが来た時にどのようになるかをチェックするテスト
SNSでのバズやキャンペーン等で想定を超えた時に問題が起きないか、起きるとしたらどのような問題が起きるかをテストする
→現状のサーバー、インスタンスがどこまで急な変化に耐えられるかをチェックできる。限界を計測し、サービスとしてどこまで想定をするかをコストとのトレードオフと共に決定する材料になる。
また、スケーリングロジックが適切かどうかのチェックにもなる
負荷テストの実施にあたっての注意点
- WAFに引っかかる可能性があるので注意
- HPAがある場合は、Pod単体によるものではないことに注意する
k6
k6とは
Grafana Labsが作成した負荷テストツール
k6に内蔵されたJSエンジン環境で動作する
大量にHTTPリクエストを送信して、負荷テストを行うようになっている。
負荷コントロールの幅がありコントロールしやすい
- 大量のリクエスト送信←
fetchを繰り返し実行でも実現可能だが、自由度が違う - 同時アクセス数の設定
- 秒間リクエスト数(RPS)の制御
- 段階的な負荷増加
- 平均レスポンス時間の集計
- p95, p99などのpercentileの集計
などができる
k6でテストする上で重要な概念
VUs
(Virtual Usersの略)
一連の動作をする(負荷をかける)ユーザーの数を指定することができる
HTTPのみのサーバーだとあんまり測定する意味ないかもしれないけど、WebSocketを使う場合はSessionの数で負荷が変わってくるので重要になってくる
Thresholds(しきい値)
負荷テストの結果の基準値を設定することができる
負荷テストの結果がエラーかそうじゃないか
k6のコードの書き方の特徴
基本的にはJSのコードにはなるが、optionはoptionという名前でnamed exportする
そして実際にfetchする処理はdefault exportする
例
import http from 'k6/http';
export const options = {
scenarios: {
load_test: {
executor: 'constant-arrival-rate',
rate: 10,
timeUnit: '1s',
duration: '5m',
preAllocatedVUs: 20,
maxVUs: 100,
},
},
};
export default function () {
http.get('https://example.com');
}