Khi giới hạn tenant nhúng phải dừng việc gửi tin

SaaS đa người thuê dạng nhúng cần các giới hạn công bằng để một người thuê dùng quá mức không làm cạn kiệt số dư trả trước chung hoặc ảnh hưởng đến các người thuê khác. Một giới hạn chỉ hiển thị cảnh báo trên bảng điều khiển trong khi API vẫn tiếp nhận yêu cầu gửi là không có tác dụng. Khi người thuê đạt đến giới hạn, việc gửi của người thuê đó phải dừng lại với một lỗi sản phẩm rõ ràng và trạng thái API không thành công tương ứng. Trạng thái 200 giả làm hỏng quá trình đối soát và khuyến khích lạm dụng.

Giới hạn nằm ở tầng sản phẩm ISV — không thay thế cho giới hạn tốc độ subtenant của đối tác và không phải là việc âm thầm loại bỏ tin nhắn trong hàng đợi. Dừng minh bạch có nghĩa là: giao diện SaaS hiển thị đã tạm dừng hoặc đạt giới hạn, dịch vụ nhúng từ chối các yêu cầu mới cho tenant ID đó, và bộ phận vận hành có thể xuất dữ liệu xem ai đã chạm trần.

Viết hợp đồng dừng trước khi chạy lưu lượng thử nghiệm: đơn vị giới hạn (tin nhắn / chi tiêu / ngày), cửa sổ đặt lại, ai có quyền nâng giới hạn và người dùng cuối nhìn thấy gì.

Chạm giới hạn nghĩa là từ chối gửi, không cảnh báo mềm mãi mãi

Cảnh báo mềm chỉ là thông báo sớm. Khi đạt đến mức trần cứng, dịch vụ nhúng trả về lỗi đạt giới hạn tenant và không gọi API tin nhắn cho các yêu cầu mới. Các tin nhắn đang xử lý có thể hoàn tất; các yêu cầu OTP và chiến dịch mới phải chờ đặt lại hoặc được phê duyệt nâng giới hạn.

Không bao giờ tạo trạng thái đã giao thành công trên luồng bị giới hạn

Đồng bộ giới hạn sản phẩm với ngưỡng dừng ví

Một tenant có thể nằm dưới giới hạn công bằng của nó trong khi ngưỡng dừng ví ISV đã báo đỏ. Khi đó toàn bộ luồng nhúng sẽ tạm dừng — không chỉ tenant dùng quá mức. Ví hoạt động bình thường không có nghĩa là miễn trừ cho một tenant đã dùng hết phần của mình.

Kiểm thử việc dừng trong staging với tenant tạo lưu lượng lớn

Trước khi chạy thực tế, hãy thực hiện kiểm thử trong môi trường staging: một tenant gửi dồn dập tin nhắn OTP cho đến khi chạm giới hạn, các tenant khác vẫn tiếp tục gửi bình.

Các luồng vận hành liên quan

• Thực thi giới hạn tốc độ an toàn cho tài khoản đa người thuê
• Tràn hàng đợi: dừng lại, không được bỏ rơi thầm lặng
• ngưỡng dừng ví trước lưu lượng production

Bắt đầu với IOSOR

Mở bảng điều khiển IOSOR và thiết lập giới hạn chia sẻ công bằng cho tiểu đối tượng thuê để thực thi việc từ chối cứng tại cổng gửi khi đạt hạn mức. Cấu hình ánh xạ phản hồi API sao cho các đối tượng thuê bị giới hạn nhận được một lỗi trạng thái rõ ràng thay vì một payload được chấp nhận. Chạy một bài kiểm tra trên môi trường thử nghiệm với một đối tượng thuê gửi nhiều tin nhắn để đảm bảo lưu lượng truy cập của các đối tượng khác vẫn lưu thông bình thường trong khi các lượt gửi bị giới hạn được ghi lại thành các mục nhật ký từ chối rõ ràng.

Điểm chính IOSOR

Cảnh báo nhẹ không bảo vệ được các hàng đợi hạ nguồn khi một tiểu đối tượng thuê đơn lẻ bùng nổ lượng gửi. Hướng dẫn vận hành này đã chứng minh rằng các giới hạn chia sẻ công bằng phải đóng vai trò là một lệnh từ chối tại cổng gửi ngay lập tức, duy trì sự tách biệt rõ ràng giữa các lần chạm hạn mức của đối tượng thuê và vạch dừng ví toàn cục.

Hãy trả về các phản hồi trạng thái bị giới hạn riêng biệt cho tầng ứng dụng của bạn để các tiểu đối tượng thuê có thể yêu cầu tăng hạn mức một cách phù hợp. Không trả về phản hồi chấp nhận 200 giả mạo hoặc báo cáo đã giao cho các lần thử bị giới hạn, vì việc tạo ra thành công giả sẽ che giấu các lỗi gửi thực tế và phá hủy khả năng kiểm toán của đối tượng thuê.