스레드풀의 포화 정책에 대해 설명해주세요

[ay-eonii]

스레드 풀 포화정책은 스레드 풀의 작업 큐가 가득 차고 maxPoolSize만큼 스레드를 생성했을 때 추가로 들어온 작업을 처리하는 정책입니다.
자바는 AbortPolicy, CallerRunsPolicy, DiscardPolicy, DiscardOldestPolicy를 제공하고 있습니다.

[helenason]

자바가 제공하는 각 포화정책에 대해 설명해주세요.

[ay-eonii]

아래 3가지 조건을 모두 만족하는 경우를 포화상태라고 볼 수 있습니다.

1. 코어 스레드 풀 모두 사용 중
2. 대기 큐 가득 참
3. maxPoolSize 만큼 스레드 생성

1, 2, 3 순서대로 모든 조건을 만족한다면 포화정책이 발생합니다.

[helenason]

비동기로 메일 전송 로직을 구현했다고 하셨는데, 그때 각각의 옵션(코어풀사이즈, 큐사이즈, 최대풀사이즈, 포화정책)을 어떻게 설정하셨나요?

[ay-eonii]

corePoolSize: 2
queueCapacity : 200
maxPoolSize: 2
포화정책: AbortPolicy

로 설정했습니다.

[helenason]

각 옵션을 그렇게 설정한 이유도 함께 설명해주세요.

[ay-eonii]

메일 전송량을 추적했을 때, 한 번에 약 100개의 메일을 전송합니다. 메일 전송 시 30개 단위에서 가장 빠른 속도를 보였기에 3-4개 코어 스레드를 설정할 계획이었습니다. 다만 CPU 코어가 2개임을 고려했을 때, 코어 스레드를 초과로 두는 것은 컨텍스트 스위칭 비용이 커질 수 있다 판단하여 CPU 코어 수와 동일한 2개로 두되, 최대 코어 수를 4로 설정했습니다.

메일 전송의 경우 무시할 수 없다 판단하여 queue의 크기를 충분히 크게 두었습니다.
다만 큐가 넘칠 정도의 부하에는 호출 스레드로 처리하는 것 또한 위험하다 판단해 예외를 발생시켜 사용자에게 메일 전송 작업을 수행할 수 없음을 알리도록 했습니다.

[Libienz]

로그를 비동기 쓰레드 풀로 전송하는 시스템이 있습니다. 포화 정책은 무엇을 쓰는 게 적절할까요?

[ay-eonii]

로그의 중요도에 따라 DiscardPolicy 또는 DiscardOldestPolicy 정책이 적절하다고 생각합니다.
비동기로 로깅을 처리한다는 것은 애플리케이션의 주 흐름을 방해하지 않기 위해 구성한 것으로 보입니다.
그렇기에 호출 스레드에 영향을 주지 않는 정책을 선택할 필요가 있습니다.

[Libienz]

포화 정책 중 CallerRunsPolicy를 사용하면 어떤 문제가 발생할 수 있나요?

[ay-eonii]

호출 스레드에서 작업을 처리하여 처리중이던 작업에 대한 지연이 발생할 수 있습니다.

[ehtjsv2]

ThreadPoolExecutor의 기본 포화 정책은 무엇인가요?
그리고 최근 프로젝트에서 포화정책을 직접 적용한 경험이 있나요?
없다면은 어떤 포화정책을 적용할 것인가요??

[ay-eonii]

기본 포화 정책은 AbortPolicy입니다.

현재 프로젝트에 포화 정책을 적용하지 않았지만, CallerRunsPolicy 정책을 적용할 예정입니다.
스레드풀을 사용하는 작업이 스케줄링 작업으로, 실행되지 않는다면 사용자에게 직접적인 영향을 미칠 수 있기에 누락없이 작업을 수행할 필요가 있습니다.

[ehtjsv2]

CallerRunsPolicy는 작업이 절대 유실되지 않는 다는 점에서 적절할 수 있겠네요.

이미 스레드풀이 포화 상태인데, 거절된 작업을 CallerRunsPolicy는 어떻게 처리하는 것일까요?
그리고 CallerRunsPolicy 사용 시 고려해야할 점은 무엇이 있을까요?

[ay-eonii]

CallerRunsPolicy는 스레드풀의 worker thread가 실행하는 게 아닌 task를 등록하려던 스레드가 실행하는 것이기 때문에 스레드풀이 포화상태여도 실행할 수 있습니다.

작업이 유실되지 않는다는 장점이 있지만, 실행하던 작업의 지연이 발생할 수 있기 때문에 반드시 실행되어야 하는 작업이거나 수행시간이 너무 길지 않은 작업인지 고려할 필요가 있습니다.