请问一下插件的点位逻辑是怎样的 #1541
Answered
by
messixukejia
chongchongxiao
asked this question in
Help
请问一下插件的点位逻辑是怎样的
#1541
-
以采集文件写到pulsar为例,我理解的逻辑应该是采集文件内容,然后写入到pulsar后,才会更新插件点位,这样才能保证采集的数据内容不会丢失,但是我在flush插件中并没有看到相关的点位处理逻辑,不仅仅是pulsar,其他的插件也没有看到点位相关的处理逻辑,所以想请教一下,这一块大家都是怎么处理的。 |
Beta Was this translation helpful? Give feedback.
Answered by
messixukejia
Jun 19, 2024
Replies: 2 comments 3 replies
-
目前是文件读取的时候记录checkpoint,如果主动重启会优先把队列中的清空。后续会计划把checkpoint后置,发送完再记录。 |
Beta Was this translation helpful? Give feedback.
0 replies
-
如果还未发送成功,但是点位已经更新了,这个时候因为某种原因进程重启了,那么是不是这一段数据就丢了?这样的话,可靠性咋保证,我理解数据重复还能接受,但是丢了就有点难以接受了。 |
Beta Was this translation helpful? Give feedback.
3 replies
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
不会有问题的。
一些原理与测试结果可以看下文章https://mp.weixin.qq.com/s/8mCVk3gvXPOijTlcRjUR_w