Page History

Dispatcher란?

Thread를 개발코드내에 직접 생성하고, 각각의 Job의 효율적인 수행을 위해서 

스레드 모델을 익히고 직접 구현에 반영해야 했으며 병렬처리 고성능 관점에서

발전해왔지만, 스레드를 직접 제어해야하는 개발방식이 일괄적이지 못하고

분산처리에서 이러한 개발방법이 큰 도움이 되지 못하다는것이며 결정적으로

스레드 사용비용은 꾀비싼 비용을 지불해야하며 제어하기가 어렵다란점입니다.

그래서 각 작은 단위의 Task가 비동기처리모델로 Thread를 효율적으로 사용하는

방법들이 등장하였으며 다시 이것 스케쥴링을 관리하는 기능들이 외부 옵션으로

지원하기 시작하였습니다. 그러한 기능을 통상적으로 Dispatcher 이라고 불리며

AKKA에만 존재하는 컨셉이아니고 다양한 병렬처리혹은 동시성처리를 하는 어떠한

장치들이 최대한 개발자의 개입의 최소화하고 설정만을 통해 성능에관련한 튜닝옵션을

Dispatcher의 탄생배경?

전통적인 개발방식에서 병렬처리를 통해 스케일업과 관련한 성능문제를

해결하였으며 고급적인 여러 스레드모델이 등장하여 동시성 경합문제등을

해결을 하였으나, 장비한대의 극한 성능을 올리기위해서 표준적이지 못한

스레드 프로그래밍의 개발방법으로 인해  서비스의 흐름보다

대용량 처리를위해 스레드를 얼마나 더 잘다루느냐?  흐름을 방해하는 요소가 되었습니다.

결정적으로 대용량 분산처리환경에서 이것은 큰 도움이 되지 못한다는것입니다.

스레드를 개발자가 각각 작성하는  코딩을 배제하고 스레드를 똑똑하게 관리하는

공통모듈을 ( Dispatcher ) 를두고 서비스코드에 집중하되, 튜닝요소는 환경설정으로

모두분리하자는 컨셉입니다. 

AKKA에서 처음등장한 개념은 아니며,  AKKA의 Dispatcher는 이러한 컨셉을 잘 준수하며

비동기처리에대한 튜닝장치로 사용될수 있습니다제공하기 시작하였습니다.

Dispatcher전략

• 스레드풀을 분리해라 : 응답이 오래걸리는것과 아닌것을 분리함으로, 오래걸리는것을 별도로 스레드수를 확보할수가 있다.
• 순차처리보다 병렬처리를 활용 : 한가지의 요청이 끝나기전 다른 요청이 진행될수 없는경우와 동시에 요청을한후 머징처리되는게 효율적인경우를 분리 
• 최종전략 : 순차적으로 처리해야할것과 병렬적으로 처리해야할것이 썩일수 있으며 튜닝은 이것을 고려해야한다.

스레드

...

작동방식에 따른 전략

• thread-pool-executor : 각 Task의 완료시간이 비슷할시 유용하다유용하지만 전체완료시간을 줄이는데 기여하지는 못함, 빠른 Task가 모두 완료될시 놀고있는 스레드가 생길수가 있다. 동시성 병렬처러 프로그래밍 모델에 일반적으로 활용되는 모델임
• fork-join-executor : 각 Task의 완료시간이 차이가 있을시 유용하다유용하며 전체 완료시간을 줄이는데 목표로함, 놀고 있는 스레드의 자원 가져다가 활용할수있다. 일반적으로 유용하다.

이쯤되면 AKKA는 자바가가진 스레드 스케쥴러를 정확하게 이해하고

이것을 추상화하여 액터 고성능 메시지 처리에서 스레드를 직접 작성할필요가 없으나

자바가가진 스레드 모델이 가진 스케쥴러를 이해할 필요가 있습니다.

• 동시성 비동기 프로그래밍모델에서 일반적으로 활용되는 모델임

참고 자바이슈 : http://hamait.tistory.com/612

...

Dispatcher Option

• parallelism-min =2 : 동시에 활성화되는 최소 스레드수 (available processors * factor)
• parallelism-max = 8 : 동시에 활성화되는 최대 스레드수

• parallelism-factor =2.0 : Core개수대비 최대가 될수있는 스레드수
• throughput =100 : 동시에 처리하는 메시지수
• fixed-pool-size =32 : 스레드 개수 고정

...

akka {
	loggers = ["akka.event.Logging$DefaultLogger"]
	loglevel = "INFO"
	stdout-loglevel = "ERROR"	
}

blocking-io-dispatcher {
	type = Dispatcher
	executor = "thread-pool-executor"
	thread-pool-executor {
	fixed-pool-size = 2
	}
	throughput = 1
}

my-thread-pool-dispatcher {
  # Dispatcher is the name of the event-based dispatcher
  type = Dispatcher
  # What kind of ExecutionService to use
  executor = "thread-pool-executor"
  # Configuration for the thread pool
  thread-pool-executor {
    # minimum number of threads to cap factor-based core number to
    core-pool-size-min = 2
    # No of core threads ... ceil(available processors * factor)
    core-pool-size-factor = 2.0
    # maximum number of threads to cap factor-based number to
    core-pool-size-max = 10
  }
  # Throughput defines the maximum number of messages to be
  # processed per actor before the thread jumps to the next actor.
  # Set to 1 for as fair as possible.
  throughput = 100
}
	
my-dispatcher {
  # Dispatcher is the name of the event-based dispatcher
  type = Dispatcher
  # What kind of ExecutionService to use
  executor = "fork-join-executor"
  # Configuration for the fork join pool
  fork-join-executor {
    # Min number of threads to cap factor-based parallelism number to
    parallelism-min = 2
    # Parallelism (threads) ... ceil(available processors * factor)
    parallelism-factor = 2.0
    # Max number of threads to cap factor-based parallelism number to
    parallelism-max = 10
  }
  # Throughput defines the maximum number of messages to be
  # processed per actor before the thread jumps to the next actor.
  # Set to 1 for as fair as possible.
  throughput = 100
}

 AKKA는 자바가 가진 스레드 모델에따른 스케쥴러를 정확하게 이해하고 이것을 추상화하여 성능 튜닝요소로 활용을 합니다.

이것은 AKKA를 배워야하는 이유중 일부분입니다. 모던한 개발툴킷들은 대부분 전통적인 개발방식의 문제를 해결하기위해

스레드 작성을 직접하지 말것을 권장합니다. 툴킷자체가 스레드를 어떻게 잘 다룰지 알고있으며 심지어 이것을 우리가

알고있는것보다 더 자세하게 설명하고 효율적으로 안정적으로 사용할수 있는 가이드(구속복)를 제공합니다.

동시처리 스레드 제한 예제

//application.conf 설정
blocking-io-dispatcher {
 type = Dispatcher
 executor = "thread-pool-executor"
 thread-pool-executor {
 fixed-pool-size = 2
 }
 throughput = 1
}


//구현부
//특정 액터 Dispatcher지정
ActorRef testActor = system.actorOf(ext.props("testActor")
 .withDispatcher("blocking-io-dispatcher"),
 "service1");


// 동시에 메시지 전송
for(int i=0;i<10;i++)
 testActor.tell("test message wiht dispatcher",null);

...

동시처리수를 1개로 제한하고, 스레드수를 2개로 제한을하면 스레드모델중 세마포어와 유사한 스레드풀 기능을 수행하게 되며

일반적으로 심플하게 사용되는 방식입니다스레드모델 이용시 가장 심플하게 사용할수 있는 방법중 하나입니다. 동시 요청이 10개가 왔다고하면, 스레드 두개만 활용하여

분배되어 처리되게 됩니다. 이것은 한가지예일뿐이며, Dispatcher옵션으로 다양한 스레드모델의 효과를 볼수가 있습니다.

자바가가진 스레드풀의 개념과, 이를 더 추상화해주는 dispatcher에 대한 더 자세한것은

더 자세한것은 아래 URL을 통해 한번더 학습하는것을 권장합니다.

...

살펴볼수 있습니다.

• https://doc.akka.io/docs/akka/current/dispatchers.html

...