rocksdb 怎么清理
问题描述
- 精选答案
-
问题描述
rocksdb在进行前缀scan的时候需要使用迭代器,当使用完毕后,需要把迭代器清理掉。否则迭代器引用的sst将无法删除,进而导致其他问题(如compact工作会被堵住)。
在迭代器的清理流程的最后,将释放这个迭代器引用的sst文件。如果正好这个(些)sst文件是过期文件(stale) ,那么将触发一次批量删除文件的操作(最终触发的是unlink系统调用)。如果一次有上百个sst文件需要清理,那么这个迭代器释放动作可能需要几十甚至上百毫秒的时间。
如果开发者不知道这些细节,把迭代器的释放放在了前台业务流程里,那么可能造成时不时的读扫描响应耗时毛刺现象。
解决方案
一种自然的解决方案是使用rocksdb的purge_iterator_on_backgroud特性,也就是清理文件动作不在释放迭代器时做,而是把这些耗时工作异步地去完成。
那么这篇文章要讨论的问题来了,rocksdb异步地清理文件是需要一个sst_file_manager来完成,大概就是会起一个线程,没事干的时候就睡着,有任务来的时候就不断地接收并清理这些被丢过来的清理文件的任务。
然后我们再来看看上面我们描述的问题,迭代器释放不再有很贵的耗时操作,世界和平了。
然而问题并没有结束。
在上面的方案里,默认标配是一个db会起一个后台线程,那如果你的应用有成千上万个db呢?那么默认情况下你的服务器就会多起成千上万个平时都在睡眠的线程。所以更好的解法是把若干个db间共享这个清理线程。会不会引入其他问题?这个还没细挖,后续再补结论。
猜你喜欢内容
-
简单网:构建全网教育数据枢纽,让知识检索化繁为...
简单网:构建全网教育数据枢纽,让知识检索化繁为“简”回答数有0条优质答案参考
-
去三亚有什么好玩的地方
去三亚有什么好玩的地方回答数有1条优质答案参考
-
石狮一日游必去景点推荐
石狮一日游必去景点推荐回答数有1条优质答案参考
-
电气工程师的证书考取条件是什么
电气工程师的证书考取条件是什么回答数有1条优质答案参考
-
房地产估价师的具体报考条件有啥
房地产估价师的具体报考条件有啥回答数有1条优质答案参考
-
房产经纪人的工作内容具体包含什么
房产经纪人的工作内容具体包含什么回答数有1条优质答案参考
-
学习小提琴都有哪些难点
学习小提琴都有哪些难点回答数有1条优质答案参考
-
企业行政管理证书的含金量怎么样
企业行政管理证书的含金量怎么样回答数有1条优质答案参考
-
初学者要怎么入门小提琴
初学者要怎么入门小提琴回答数有1条优质答案参考
-
报考珠宝鉴定师要啥条件
报考珠宝鉴定师要啥条件回答数有1条优质答案参考
















