Rate Limiter

В нашем случае Rate Limiter будет на Api Gateway. Ситуация, когда клиент может начать нас заваливать: постоянное добавление и удаление тикеров, а также постоянное переподлючение к нашей системе.

В базовом формате будем использовать token bucket, так как:

  • Фиксированное потребление токенов клиентом
  • Если происходит какое-то событие на бирже и нужно держать больше клиентов, то накидываем больше tokens

Не забываем про bursts: короткие периоды, когда мы позволяем клиентам делать чуть больше запросов. Например, 30 секунд делать на 30% больше