基于机器学习的MapReduce资源调度算法

针对MapＲeduce中允许map和shuffle阶段重叠的优化模型需要自适应性的问题，提出了基于此模型的机器学习的资源调度算法，利用贝叶斯分类器依据作业对系统资源的需求和系统环境的匹配程度对作业进行调度，并不断更新分类器，使其具有自适应性，考虑了map和shuffle的重叠阶段。通过模拟实验验证，改进后的算法能够提高MapＲeduce系统的性能，获得更好的平均响应时间。