数据去重主要是为了利用并行化的思想对数据进行有意义的筛选。
统计大数据集上的数据种类个数、从网站日志中计算访问地等这些看似庞杂的任务都会涉及数据去重。统计大数据集上的数据种类个数、
阅读背景：
利用MapReduce实现数据去重
来源：互联网
分享到：
