当前位置: 首页 > backend >正文

Flink中的事件时间、处理时间和摄入时间

本文重点

时间在Flink中是非常重要的概念,我们前面学习的10分钟温度统计就是基于时间来完成的。温湿度设备上报数据会有时间,同时窗口大小是根据时间来进行计量的,接下来我们就深入了解一下 Flink 中的时间语义。

Flink面对时间的问题

问题一:

FLink是一个分布式的框架,想要拥有一个全局统一的时钟,在分布式系统里是做不到的,所以节点和节点之间如何才能保持时间的统一?如果不能统一就会出现这样的问题,由于节点A的时间比较快,现在它的时间窗口已经到了[11,20),但是节点B的时间窗口比较慢,它的时间窗口才为[0,10)窗口,那么此时来了一条数据,到A节点就是[11,20)窗口,到B节点就是[0,10)窗口,此时就无法实现精确一次(exactly once)”的状态一致性。

问题二:

网络传输是需要消耗时间的,比如温度设备在9分钟的时候上报了温度,但是网络很慢,在11分钟的时候才到了Flink节点,那么这个数据应该是在[0,10)窗口还是在[11,20)窗口呢?

处理时间和事件时间

一个是数据产生的时间,我们把它叫作“事件时间”(Event Time);另一个是数据真正被处理的时刻,叫作“处理时间”(Processing Time)。由于网络传输等原因,处理时间往往是比

http://www.xdnf.cn/news/20293.html

相关文章:

  • Joplin-解决 Node.js 中 “digital envelope routines::unsupported“ 错误
  • 自旋锁/互斥锁 设备树 iic驱动总线 day66 67 68
  • 输入2.2V~16V 最高输出20V2.5A DCDC升压芯片MT3608L
  • 计算机网络:网络设备在OSI七层模型中的工作层次和传输协议
  • 鸿蒙 BLE 蓝牙智能设备固件升级之DFU升级方式(Nordic芯片)
  • macbook intel 打开cursor会闪退
  • MySQL集群高可用架构(MHA高可用架构)
  • Process Explorer进阶(第三章3.3):深入理解进程详情
  • [Windows] AdGuard.v7.21.5089.0 中文直装电脑版
  • cds序列转换为pepperl脚本详细解读及使用
  • Python多线程编程全面指南
  • web自动化测试
  • Elasticsearch优化从入门到精通
  • 线代:排列与逆序
  • 从机器学习的角度实现 excel 中趋势线:揭秘梯度下降过程
  • PageHelper的使用及底层原理
  • WordPress如何绑定多个域名 WordPress实现多域名访问
  • 新的打卡方式
  • GPIO介绍
  • java接口和抽象类有何区别
  • ICPC 2023 Nanjing R L 题 Elevator
  • 用Android studio运行海外极光推送engagelab安卓的SDK打apk安装包
  • Ribbon和LoadBalance-负载均衡
  • 从Java全栈到前端框架:一次真实面试的深度复盘
  • 验证平台中所有的组件应该派生自UVM中的类
  • 设计艺术~缓存结构设计
  • 【Go项目基建】GORM框架实现SQL校验拦截器(完整源码+详解)
  • C++和OpenGL实现3D游戏编程【连载30】——文字的多行显示
  • MySQL集群——主从复制进阶
  • 2025年上海市星光计划第十一届职业院校技能大赛高职组“信息安全管理与评估”赛项交换部分前6题详解(仅供参考)