阅读背景:

流式数据中的数学统计量计算

来源:互联网 

在科技飞速发展的今天,每天都会产生大量新数据,例如银行交易记录,卫星飞行记录,网页点击信息,用户日志等。为了充分利用这些数据,我们需要对数据进行分析。在数据分析领域,很重要的一块内容是流式数据分析。流式数据,也即数据是实时到达的,无法一次性获得所有数据。通常情况下我们需要对其进行分批处理或者以滑动窗口的形式进行处理。分批处理也即每次处理的数据之间没有交集,此时需要考虑的问题是吞吐量和批处理的大小。滑动窗口计算表示处理的数据每次向前移N个单位,N小于要处理数据的长度。例如,在语音识别中,每个包处理大约25ms的音频数据,然后以步幅10ms向前移动处理下一个包的数据。语音识别就是一个典型的流式数据通过滑动窗口方式进行处理的例子。在本文中,我们关注N=1的情况,也即每次处理完一个包之后,向前移动一个单位继续处理下一个包,如下图所示。 在科技飞速发展的今天,每天都会产生大量新数据,例如银行交易记录,卫星飞行记录,网页点击信息,用户日志




你的当前访问异常,请进行认证后继续阅读剩余内容。

分享到: