네트워크로의 데이터 주입 속도의 상한을 정해 제어하고 네트워크에서 트래픽 체증을 일정하게 유지한다. 일정한 유출 속도(유출 속도는 고정된 값)를 제한하여 버스트 유입 속도를 부드럽게 한다.
- 고정 용량의 버킷에 다양한 유량의 물이 들어오면 버킷에 담기고 그 담긴물은 일정량 비율로 떨어진다.
- 들어오는 물의 양이 많아 버킷의 용량을 초과하게 되면 그 물은 버린다.
- 입력 속도가 출력 속도보다 크면 버킷에서 누적이 발생하고 누적이 버킷 용량보다 큰 경우 오버플로가 발생하여 데이터 패킷 손실이 발생할 수 있다.
구현 - SCALA
import scala.concurrent.Future import akka.actor._ import scala.collection.immutable.{ Queue ⇒ Q } import scala.concurrent.duration._ import scala.util.{Success, Failure} // A simple actor that prints whatever it receives class PrintActor extends Actor { def receive = { case x ⇒ println(x) } } object LeakyBucketThrottler { case object Tick // Messages, as we queue them to be sent later final case class Message(message: Any, sender: ActorRef) final case class SetTarget(optTarget: Option[ActorRef]) } /** * A throttling actor implementing the Leaky Bucket algorithm * @param restorePeriod the rate at which request quota increases over time, up to the maximum request quota * @param burstRate maximum request quota, how many requests are allowed at once */ class LeakyBucketThrottler(var restorePeriod: FiniteDuration, var burstRate: Int) extends ActorWithTimer { import LeakyBucketThrottler._ var requestQuota = burstRate //keeps track of current request quota var optTarget: Option[ActorRef] = None var messageQueue: Q[Message] = Q() private val restoreTimer = "restoreTimer" def receive: Receive = { case _: Tick.type => if (!messageQueue.isEmpty && optTarget.isDefined) { val (msg, newQ) = messageQueue.dequeue optTarget.get.tell(msg.message, msg.sender) messageQueue = newQ } else if (requestQuota < burstRate) { requestQuota += 1 } else { log.debug("Quota fully restored!") cancelTimer(restoreTimer) } case SetTarget(newOptTarget) => optTarget = newOptTarget case msg if optTarget.isDefined => if (requestQuota > 0) { optTarget.get.tell(msg, context.sender) requestQuota -= 1 if (requestQuota == 0) setTimer(restoreTimer, Tick, restorePeriod, true) } else { messageQueue = messageQueue enqueue Message(msg, context.sender) } case msg => messageQueue = messageQueue enqueue Message(msg, context.sender) } } object Throttler extends App { import LeakyBucketThrottler._ val system = ActorSystem() //implicit val execCtx = system.dispatcher val printer = system.actorOf(Props[PrintActor]) // The throttler for this example, setting the rate val throttler = system.actorOf(Props(classOf[LeakyBucketThrottler], 3.seconds, 3)) // Set the target throttler ! SetTarget(Some(printer)) // These three messages will be sent to the target immediately throttler ! "1" throttler ! "2" println("waiting for 3 seconds to avoid throttling") Thread.sleep(3000) throttler ! "3" throttler ! "4" // These two will be throttled throttler ! "5" throttler ! "6" }
BackPressure
유체(트래픽) 흐름을 제어하는 더 좋은 방식
참고링크
- https://www.geeksforgeeks.org/leaky-bucket-algorithm/
- https://github.com/divijan/appath-test-assignment/blob/master/src/main/scala/main.scala
- https://www.mimul.com/blog/about-rate-limit-algorithm/
- https://getakka.net/articles/streams/buffersandworkingwithrate.html