Cấu hình Rate Limiting ở tầng Nginx và API Gateway: Chống DDOS Layer 7 hiệu quả

Đừng để backend của bạn phải hứng chịu những đợt spam request#

Một kẻ tấn công hoặc một con bot cào dữ liệu (scraper) có thể gửi hàng ngàn request mỗi giây vào endpoint đăng nhập (/api/login) hoặc endpoint tìm kiếm (/api/search).

Nếu bạn để những request này chạm tới tầng ứng dụng backend và database, server của bạn sẽ nhanh chóng bị nghẽn connection pool và sập.

Giải pháp chặn đứng nguy cơ này ngay tại cửa ngõ là cấu hình Rate Limiting bằng thuật toán Leaky Bucket trên Nginx.

Cấu hình Limit Request trong Nginx#

# 1. Định nghĩa vùng nhớ lưu trữ trạng thái rate limit theo IP client
# 10m (10 Megabytes) đủ lưu trữ trạng thái của 160.000 địa chỉ IP
limit_req_zone $binary_remote_addr zone=api_limit:10m rate=10r/s;
limit_req_zone $binary_remote_addr zone=login_limit:10m rate=2r/s;

server {
    listen 80;
    server_name api.topdev.com.vn;

    # Endpoint công cộng: Cho phép 10 request/giây, burst tối đa 20 request
    location /api/ {
        limit_req zone=api_limit burst=20 nodelay;
        limit_req_status 429; # Trả về chuẩn HTTP 429 Too Many Requests

        proxy_pass http://backend_cluster;
    }

    # Endpoint nhạy cảm (Đăng nhập, Quên mật khẩu): Giới hạn nghiêm ngặt
    location /api/auth/login {
        limit_req zone=login_limit burst=5;
        limit_req_status 429;

        proxy_pass http://backend_cluster;
    }
}

Giải thích tham số quan trọng: burst và nodelay#

• rate=10r/s: Tốc độ trung bình cho phép (1 request mỗi 100ms).
• burst=20: Cho phép một đợt tăng đột biến (traffic spike) tối đa 20 request được xếp hàng chờ xử lý thay vì bị từ chối ngay lập tức.
• nodelay: Các request trong hàng đợi burst được thực thi ngay lập tức mà không phải chờ đợi nhân tạo, mang lại trải nghiệm nhanh cho người dùng thật.

Góc thảo luận#

Hệ thống của bạn đang giới hạn tần suất gọi API ở tầng nào? Nginx, Cloudflare WAF hay middleware trong ứng dụng backend?

Xem thêm nội dung liên quan:

• Học lộ trình DevOps & SysAdmin
• Review công cụ quản trị server