神刀安全网

MongoDB oplog删除策略优化

MongoDB oplog是一个 capped collection ,创建capped collection时, createCollection 可以设置size(最大字节数)和max(最大文档数)的参数,当这个集合的『总大小超过size』或者『总文档数超过max』时,在新插入文档时就会自动删除一些集合内最先插入的文档,相当于一片环形的存储空间。

oplog(local.oplog.rs集合)默认情况下配置为可用磁盘空间的5%,当oplog写满时,就会开始删除最先写入的oplog,一次正常的insert操作包含如下步骤:

  1. 将文档写入指定的集合
  2. 将写入操作记录到oplog
  3. 如果oplog满了,删除最先写入的oplog

优化策略

MongoDB 3.2为了提升写入性能,使用wiredtiger引擎时,针对local.oplog.rs这个集合的删除策略进行了优化,主要改进:

  1. 将删除动作从用户的写入路径移除,放到后台线程执行
  2. 批量删除,并不是oplog一满就立马触发删除,而是一次删除一批

实施方案

monogd启动时,会根据oplog的最大字节数将整个集合分为10-100个Stone(可以理解为oplog的一段数据,包含多个文档,Stone的具体个数oplogSizeMB的配置相关)。

WiredTigerRecordStore::OplogStones::OplogStones(OperationContext* txn, WiredTigerRecordStore* rs)     : _rs(rs) {     //...     unsigned long long maxSize = rs->cappedMaxSize();      const unsigned long long kMinStonesToKeep = 10ULL;     const unsigned long long kMaxStonesToKeep = 100ULL;      unsigned long long numStones = maxSize / BSONObjMaxInternalSize;     _numStonesToKeep = std::min(kMaxStonesToKeep, std::max(kMinStonesToKeep, numStones));     _minBytesPerStone = maxSize / _numStonesToKeep;     // ... } 

其中 _numStonesToKeep 为oplog应该保持的Stone个数,而 _minBytesPerStone 代表每个Stone的最小字节数。

MongoDB oplog删除策略优化

接下来,会根据oplog当前的大小以及 _minBytesPerStone 来估算下,当前的oplog大致包含的Stone数量,并通过采样的方式来获取每个Stone的起始位置(不能保证每个Stone的大小跟预期完全一样),然后将所有的Stone按顺序存储到一个队列中。

mongod在服务写请求的过程中,每次都会记录下新产生oplog的大小,当新产生的oplog的总量超过 _minBytesPerStones 时,就会产生一个新的Stone加入到队列中。

void WiredTigerRecordStore::OplogStones::createNewStoneIfNeeded(RecordId lastRecord) {      if (_currentBytes.load() < _minBytesPerStone) {         // Must have raced to create a new stone, someone else already triggered it.         return;     }      // ...      OplogStones::Stone stone = {_currentRecords.swap(0), _currentBytes.swap(0), lastRecord};     _stones.push_back(stone);      _pokeReclaimThreadIfNeeded(); // 唤醒后台回收oplog空间的线程 } 

当队列中的Stone数量超过 _numStonesToKeep ,后台线程就会删除最老的Stone里的数据,来回收oplog的存储空间。

参考资料

转载本站任何文章请注明:转载至神刀安全网,谢谢神刀安全网 » MongoDB oplog删除策略优化

分享到:更多 ()

评论 抢沙发

  • 昵称 (必填)
  • 邮箱 (必填)
  • 网址