Профессиональная конференция разработчиков высоконагруженных систем

Быстро — не всегда хорошо: рейтлимиты в мультикластерном окружении

Инструменты на Go и для Go

Доклад принят в программу конференции

Мнение Программного комитета о докладе

Для контроля входящего RPS в сервисах применяют rate limit. Вот только он реализуется или как простой in-memory-счетчик, или более продвинуто — как счетчик во внешнем K/V. В докладе Дмитрий пошел в своей работе дальше — к более сложным решениям.

Целевая аудитория

Разработчики, архитекторы ПО, системные аналитики.

Тезисы

Рассмотрим задачу реализации ограничения количества запросов на бэкенд в промежуточном сервисе в условиях высокой нагрузки. Какие сложности возникают при решении данной задачи в мультикластерном окружении, и как их можно преодолеть. Сравним синхронную и асинхронную схемы реализации ограничения, их сильные и слабые стороны, а также производительность. Покажем бенчмарк схемы на Redis и собственного сервиса на grpc.

Дилетант широкого профиля. 22 года в IТ: был программистом, тимлидом, архитектором, продакт-менеджером. Работал со многими языками и технологиями, разрабатывал десктопные приложения, встраиваемый софт и облачные решения. Сейчас занимается публичным API Wildberries.

Wildberries

Wildberries — онлайн-платформа с 20-летней историей, где представлен широкий ассортимент продукции российских и международных брендов. География присутствия площадки охватывает 7 стран. Ежедневно покупателям отправляется свыше 10 млн товаров, а сеть пунктов выдачи заказов превышает 38 000 точек.

Видео