五月天青色头像情侣网名,国产亚洲av片在线观看18女人,黑人巨茎大战俄罗斯美女,扒下她的小内裤打屁股

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

Flink全量聚合函數(shù):apply和process這兩種實現(xiàn)方法有什么區(qū)別?

2023-08-14 14:30 作者:ingemar-  | 我要投稿

指在窗口觸發(fā)的時候才會對窗口內(nèi)的所有數(shù)據(jù)進行一次計算(等窗口的數(shù)據(jù)到齊,才開始進行聚合計算,可實現(xiàn)對窗口內(nèi)的數(shù)據(jù)進行排序等需求)

實現(xiàn)方法

  • apply(windowFunction)

  • process(processWindowFunction)

apply和process的區(qū)別


apply和process都是處理全量計算,但工作中正常用process。

process更加底層,更加強大,有open/close生命周期方法,又可獲取RuntimeContext。


ProcessWindowFunction/ProcessAllWindowFunction


全量聚合:窗口需要維護全部原始數(shù)據(jù),窗口觸發(fā)進行全量聚合。

ProcessWindowFunction一次性迭代整個窗口里的所有元素,比較重要的一個對象是Context,可以獲取到事件和狀態(tài)信息,這樣我們就可以實現(xiàn)更加靈活的控制,這實際上是process的主要特點吧。該算子會浪費很多性能吧,主要原因是不增量計算,要緩存整個窗口然后再去處理,所以要設計好內(nèi)存。

牛叉的地方是ProcessWindowFunction可以結(jié)合 ReduceFunction, AggregateFunction,或者 FoldFunction來做增量計算(推薦用法)

請注意,使用ProcessWindowFunction諸如 count 之類的簡單聚合效率很低。


Flink全量聚合函數(shù):apply和process這兩種實現(xiàn)方法有什么區(qū)別?的評論 (共 條)

分享到微博請遵守國家法律
沾益县| 惠州市| 湖北省| 蛟河市| 嘉定区| 许昌市| 赣州市| 舞钢市| 泉州市| 原阳县| 卢龙县| 读书| 宣化县| 孝义市| 仁怀市| 都江堰市| 通山县| 鄂伦春自治旗| 油尖旺区| 黑龙江省| 嘉禾县| 运城市| 高台县| 鄂州市| 普定县| 黄石市| 乌鲁木齐市| 涟水县| 蒙山县| 泾川县| 孝感市| 晴隆县| 陵水| 包头市| 当雄县| 丰宁| 金乡县| 登封市| 张掖市| 虎林市| 蚌埠市|