20240323 weekly

[panlei-coder]

PikiwiDB feature：

目标：解决掉 主从同步 和 网络库 这俩大问题，并实现数据强一致

• 1 data-consistency: raft which compatible with master-slave mode；
• 2 volumn-less: split the compute and storage under RocksDB on S3;
• 3 云原生：多租户、存算分离、rebalance
  • 3.1 通过存算分离把磁盘存储池化
  • 3.2 通过RDMA技术把内存池化
  • 3.3 竭尽全力接近 Redis 接口

core

Item	Priority	Issue/Pr	Owner	Description
Command 命令处理	P0		谦祥
网络改造	P0	OpenAtomFoundation/pikiwidb#5	潘磊	client 链接和 slave 连接分离
内存 hashtable	P0		潘磊/纪世元	tbb hashtable;<br>RocksDB hashtable https://github.com/facebook/rocksdb/blob/main/utilities/persistent_cache/hash_table_evictable.h ;<br> tera https://github.com/baidu/tera/blob/master/doc/persistent_cache.md
存储模型	P0			leveldb -> rocksdb -> floyd
主从同步模型	P0			Raft: redis sync; psync; psync 2.0；pika binlog；
主体逻辑多线程改造	P0			事务、pubsub、list pop 等

todo:

• 1 binlog for master-slave; raft; slot
• 2 master -> slave replication： (1) using redis command SYNC&PSYNC; (2) using RocksDB WAL instead of pika binlog by RocksDB API GetUpdateSince()
• 3 redis cache
• 4 info command
• 5 hello command

存储模型 floyd

Item	Priority	Issue/Pr	Owner	Description
添加关闭 RocksDB wal 的接口	P0		dxs
先把 floyd 移植过来		P0		dxs
把 db 下移	P0		dxs
一个 db 内一个 key 只能有一个 类型	P0

集群

Item	Priority	Issue/Pr	Owner	Description

Pika binlog + braft -> 1 经典模式； 2 raft 模式。

可观测

Item	Priority	Issue/Pr	Owner	Description

工具集

Item	Priority	Issue/Pr	Owner	Description

云原生

Item	Priority	Issue/Pr	Owner	Description

质量建设

Item	Priority	Issue/Pr	Owner	Description
feature: add go test for pikiwidb from pika			OpenAtomFoundation/pikiwidb#75