行业知识
xxl-job详解
什么是xxl-job?
xxl-job是一个分布式的任务调度平台,其核心设计目标是:学习简单、开发迅速、轻量级、易扩展,现在已经开放源代码并接入多家公司的线上产品线,开箱即用。xxl是xxl-job的开发者大众点评的许雪里名称的拼音开头。
xxl-job框架主要用于处理分布式的定时任务,其主要由调度中心和执行器组成。
- 调度模块(调度中心):
负责管理调度信息,按照调度配置发出调度请求,自身不承担业务代码。调度系统与任务解耦,提高了系统可用性和稳定性,同时调度系统性能不再受限于任务模块;
支持可视化、简单且动态的管理调度信息,包括任务新建,更新,删除,GLUE开发和任务报警等,所有上述操作都会实时生效,同时支持监控调度结果以及执行日志,支持执行器Failover。
- 执行模块(执行器):
负责接收调度请求并执行任务逻辑。任务模块专注于任务的执行等操作,开发和维护更加简单和高效;
接收“调度中心”的执行请求、终止请求和日志请求等。
总结:
调度中心:统一管理任务调度平台上的调度任务,负责触发调度执行,并且提供任务管理平台。
执行器:接收调度中心的调度并且执行,可以直接执行也可以集成到项目中。
调度中心和执行器两个模块分开部署,相互分离,两者之间通过RPC进行通信,其中调度中心主要是提供一个平台,管理调度信息,发送调度请求,自己不承担业务代码,而执行器接受调度中心的调度执行业务逻辑。
xxl-job的原理
-
执行器的注册和发现
执行器的注册和发现主要是关系两张表:
xxl_job_registry:执行器的实例表,保存实例信息和心跳信息,xxl_job_group:每个服务注册的实例列表。
执行器启动线程每隔30秒向注册表xxl_job_registry请求一次,更新执行器的心跳信息,调度中心启动线程每隔30秒检测一次xxl_job_registry,将超过90秒还没有收到心跳的实例信息从xxl_job_registry删除,并更新xxl_job_group服务的实例列表信息。
-
调度中心调用执行器
调度中心的操作:
调度中心通过循环不停的:
-
关闭自动提交事务
-
利用mysql的悲观锁,其他事务无法进入
select * from xxl_job_lock where lock_name = 'schedule_lock' for update
-
读取数据库中的xxl_job_info:记录定时任务的相关信息,该表中有trigger_next_time字段表示下一次任务的触发时间。拿到距离当前时间5s内的任务列表,分为三种情况处理:
-
对于当前时间-任务的下一次触发时间>5,直接调过不执行,重置trigger_next_time的时间。(超过5s)
-
对于任务的下一次触发时间 logger.info(">>>>>>>>> xxl-job config init."); XxlJobSpringExecutor xxlJobSpringExecutor = new XxlJobSpringExecutor(); xxlJobSpringExecutor.setAdminAddresses(adminAddresses); xxlJobSpringExecutor.setAppname(appname); xxlJobSpringExecutor.setAddress(address); xxlJobSpringExecutor.setIp(ip); xxlJobSpringExecutor.setPort(port); xxlJobSpringExecutor.setAccessToken(accessToken); xxlJobSpringExecutor.setLogPath(logPath); xxlJobSpringExecutor.setLogRetentionDays(logRetentionDays); return xxlJobSpringExecutor; }
-
Bean模式下新建任务:(bean模式:以jobHandler方式维护在执行器端;需要结合JobHandler属性匹配执行器中的任务)
-
类模式
- 继承抽象类IJobHandler中的execute()方法,IJobHandler还有init()和destory()方法,如图:
继承后execute()放入需要执行的业务逻辑,通过XxlJobExecutor.registJobHandler(“JobHandler的名称”,IJobHandler的实例);如图:
- 在调度中心添加调度器实例:
- 在调度中心任务管理模块,添加Cron表达式,路由策略等等信息
- 启动调度中心admin模块和执行器模块,执行器打印结果,本人设置的实例为两个,路由策略为轮询,所以结果如图:
- 在调度中心任务管理模块,添加Cron表达式,路由策略等等信息
- 在调度中心添加调度器实例:
- 继承抽象类IJobHandler中的execute()方法,IJobHandler还有init()和destory()方法,如图:
总结:类模式,每个任务对应一个java类
-
方式模式(需要在spring的容器中开发job)
-
为Job方法添加注解 “@XxlJob(value=“自定义jobhandler名称”, init = “JobHandler初始化方法”, destroy = “JobHandler销毁方法”)”,注解value值对应的是调度中心新建任务的JobHandler属性的值。如图:
-
在调度中心添加执行器实例
-
在调度中心任务管理中添加调度任务
-
-
启动调度中心和执行器模块
方法模式一个方式表示一个任务。
执行器部署总结:
执行器回调地址保持一致xxl.job.admin.addresses,执行器将会使用该地址进行"执行器心跳注册"和"任务结果回调";为空则关闭自动注册;
同一个执行器集群中xxl.job.executor.appname需要保持一致,配置中心根据该配置发现不同集群在线执行器实例的列表。
附加调度中心新增任务是的路由策略和任务超时时间和失败重试次数:
路由策略:当执行器集群部署时,提供丰富的路由策略,包括; FIRST(第一个):固定选择第一个机器; LAST(最后一个):固定选择最后一个机器; ROUND(轮询):; RANDOM(随机):随机选择在线的机器; CONSISTENT_HASH(一致性HASH):每个任务按照Hash算法固定选择某一台机器,且所有任务均匀散列在不同机器上。 LEAST_FREQUENTLY_USED(最不经常使用):使用频率最低的机器优先被选举; LEAST_RECENTLY_USED(最近最久未使用):最久未使用的机器优先被选举; FAILOVER(故障转移):按照顺序依次进行心跳检测,第一个心跳检测成功的机器选定为目标执行器并发起调度; BUSYOVER(忙碌转移):按照顺序依次进行空闲检测,第一个空闲检测成功的机器选定为目标执行器并发起调度; SHARDING_BROADCAST(分片广播):广播触发对应集群中所有机器执行一次任务,同时系统自动传递分片参数;可根据分片参数开发分片任务;任务超时时间:支持自定义任务超时时间,任务运行超时将会主动中断任务;失败重试次数;支持自定义任务失败重试次数,当任务失败时将会按照预设的失败重试次数主动进行重试;
-
-
xxl-job的总结
xxl-job是一个中心式分布式的调度平台,调度中心和执行器解耦,执行器和业务代码耦合,代码的侵入性少,学习简单、开发简单、轻量级。
xxl-job的官方文档https://www.xuxueli.com/xxl-job
-
-
下一篇:12306是哪里的服务器?