基于Spark的混合协同过滤算法改进与实现

分类： 计算机科学 >> 计算机科学的集成理论 提交时间： 2018-05-18 合作期刊: 《计算机应用研究》

王源龙 孙卫真 向勇

摘要： 针对传统协同过滤在推荐过程中存在的稀疏性、扩展性以及个性化问题，通过引入算法集成的思想，旨在优化和改进一种新型的基于Spark平台下的混合协同过滤。借鉴了Stacking集成学习思想，将多个弱推荐器线性加权组合，形成综合性强的推荐器。首先，算法基于近邻协同过滤，结合分类、流行度、好评度等对近邻相似度计算策略进行优化，旨在改善相似度的合理性以及相似度计算的复杂度，在一定程度上改善了评分稀疏性的问题；同时，该算法结合Spark分布式计算平台，充分借鉴分布式平台的优点，利用其流式处理以及分布式存储结构等特性，设计并实现了一种推荐算法的增量迭型，解决了协同过滤算法扩展性和实时性问题。实验数据采用UCI公用数据集MovieLens和NetFlix电影评分数据，实验结果表明，改进算法在推荐个性化、准确率以及扩展性上都有不错的表现，较以前同类型算法均有不同程度的提高，为推荐系统的应用提供了一种可行的算法集成方案。

 点击量 1905  下载量 1373  评论