В нашем случае Rate Limiter будет на Api Gateway. Ситуация, когда клиент может начать нас заваливать: постоянное добавление и удаление тикеров, а также постоянное переподлючение к нашей системе.
В базовом формате будем использовать token bucket, так как:
- Фиксированное потребление токенов клиентом
- Если происходит какое-то событие на бирже и нужно держать больше клиентов, то накидываем больше tokens
Не забываем про bursts: короткие периоды, когда мы позволяем клиентам делать чуть больше запросов. Например, 30 секунд делать на 30% больше