海量数据相似度计算之simhash和海明距离 | 严澜(lanceyan)的博客 - 技术分享 框架交流 大数据处理 架构搭建 机器人
通过 采集系统 我们采集了大量文本数据，但是文本中有很多重复数据影响我们对于结果的分析。分析前我们需要对这些数据去除重复，如何选择和设计文本的去重算法？常见的有余弦夹角算法、欧式距离、Jaccard相似度、最长公共子串、编辑距离等。这些算法对于待比较的文本数据不多时还比较好用，如果我们的爬虫每天采集的数据以千万计算，我们如何对于这些海量千万级的数据进行高效的合并去重。最简单的做法是拿着待比较的文本和数据库中所有的文本比较一遍如果是重复的数据就标示为重复。看起来很简单，我们来做个测试，就拿最简单的两个数据使用Apache提供的 Levenshtein for 循环100w次计算这两个数据的相似度Read full article from 海量数据相似度计算之simhash和海明距离 | 严澜(lanceyan)的博客 - 技术分享 框架交流 大数据处理 架构搭建 机器人
No comments:
Post a Comment