Storm下基于最佳并行度的贪心调度算法

分类： 计算机科学 >> 计算机科学的集成理论 提交时间： 2018-04-19 合作期刊: 《计算机应用研究》

熊安萍 段杭彪 蒋亚雄

摘要： 开源分布式实时计算框架Storm在互联网、金融、电子商务等领域得到了广泛应用。Storm默认采用轮询的调度策略，且依赖用户对Topology任务的并行度配置，当配置不合理时依然会造成Topology处理时延增大、吞吐量降低等问题。针对该问题，提出了一种Storm下基于最佳并行度的贪心调度算法，调度时先求解Topology任务中各组件的最佳并行度，再采用贪心策略进行调度，以最小化节点间的网络通信开销。通过与默认调度算法、线上调度算法和热边调度算法进行实验比较，结果表明算法能够有效降低Storm处理时延，提高系统吞吐量和资源利用率。

 点击量 1245  下载量 738  评论