需求

利用线程池、线程、队列实现小规模的请求削峰和异步。

请求处理模型

• 路由器分发请求到不同的队列，路由规则是请求数据的ID或hashCode & （队列数量 - 1），其中队列数量最好为2的幂，因为a & b，当b是（2的幂-1）时，计算出来的值分布更均匀，例如有8个队列，8个队列的数据基本是平衡的。
• 每个队列由一个线程消费
  

遇到的坑

org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor配置的核心线程数为5，最大线程数为8，代码中创建了8个队列，每个队列对应一个线程。
假如我用id的hash & (8 - 1)，得到队列集合下标，并把数据放到队列中，这8个队列都有数据，但是，只有前5个队列中的请求被处理，后3个队列的请求被搁置。
出现这个的原因：线程池配置的最大线程的初始化是有条件的，当线程池配置的队列满了，并且已创建的线程数小于最大线程数，此时线程池会创建新的线程执行任务。如果线程池配置的是无界的任务队列，最大线程数的参数就无意义。

关键配置及代码：

<bean id="deviceBindExecutor" name="deviceBindExecutor" class="org.springframework.scheduling.concurrent.ThreadPoolTaskExecutor">
    <!-- 线程池维护线程的最少数量 -->
    <property name="corePoolSize" value="5" />
    <!-- 允许的空闲时间 -->
    <property name="keepAliveSeconds" value="200" />
    <!-- 线程池维护线程的最大数量 -->
    <property name="maxPoolSize" value="10" />
    <!-- 线程池阻塞队列大小 -->
    <property name="queueCapacity" value="10" />
    <!-- 对拒绝task的处理策略 -->
    <property name="rejectedExecutionHandler">
        <bean class="java.util.concurrent.ThreadPoolExecutor$CallerRunsPolicy" />
    </property>
</bean>

代码实现如下：

/** 
 * 懒汉式单例可以实现传参的单例初始化
 */
public class RequestProcessorThreadPool {

	private volatile static RequestProcessorThreadPool instance = null;
	private RequestProcessorThreadPool() {
	}
	private RequestProcessorThreadPool(ApplicationContext applicationContext) {
		RequestQueue requestQueue = RequestQueue.getInstance();

		ThreadPoolTaskExecutor threadPool = (ThreadPoolTaskExecutor) applicationContext.getBean("deviceBindExecutor");

		/** 
		 * 给线程池中加入任务队列
		 */
		for (int i = 0; i < 8; i++) {
			ArrayBlockingQueue<Request> queue = new ArrayBlockingQueue<Request>(100);
			requestQueue.addQueue(queue);
			threadPool.submit(new RequestProcessorThread(queue));
		}
	}

	public static RequestProcessorThreadPool getInstance(ApplicationContext applicationContext) {
		if (instance == null) {
			synchronized (RequestProcessorThreadPool.class) {
				if (instance == null) {
					instance = new RequestProcessorThreadPool(applicationContext);
				}
			}
		}
		return instance;
	}
}

码云源码

本篇blog是我在开发异步处理请求模块时遇到的问题，模块经过了实际验证，供大家参考。
注：纯属个人产品。