本来本篇是想介绍前端组件化开发用户界面,发现框架还未实现文件存储,原本计划是后续设计开发的,索性把计划提前,所以本篇将介绍基于Raft实现分布式的文件存储引擎。
既然是分布式存储,就需要解决以下几个关键问题:
1. 元数据存储-BlobMetaStateMachine
开始时想设计为一个集群对应一个BlobMetaRaftGroup,后来考虑到单个RaftGroup可能会压力较大,所以改为每个Application对应一个BlobMetaRaftGroup。每个元数据状态机主要存储以下各项信息:
2. 文件存储-BlobChunkStateMachine
根据上述设计,每个目录下的文件分成了多个存储(BlobChunkRaftGroup),本来想用MemoryMapFile来实现底层Chunk存储,但考虑到有更重要的功能要实现所以暂偷懒直接利用Linux文件系统来存储文件,状态机Apply文件写命令时,将文件直接写入节点运行时blob/ChunkRaftGroupId/目录下。
3. 读写流程
根据以上设计在经历了1个月的编码后已初步实现(其中约一半时间在更改架构,抛弃了Mono依赖,改为Hosting CoreCLR,性能提升1倍),在框架IDE内每个Application内有个"BlobStore"节点,如下图所示可测试上传文件,然后通过浏览器访问上传至/pub目录内的文件(http://{地址:端口}/blob/{app名称}/{文件路径} eg:
http://xx.xx.xx.xx:5000/blob/sys/imgs/aa.jpg)
作者简单测试了一下通过框架WebHost下载文件(约60K大小)的性能(测试时尚未实现缓存元数据, 虚拟机I74C8G),如下图所示:
本实现适用于存储大量小文件,如业务单证的附件,或者用于OA系统作为文档库。目前只是实现了基本的上传下载功能,删除、重命名、Chunk合并等功能尚未实现,另待将来框架实现反向索引后再实现全文搜索功能。如果您有问题或Bug报告,请留言或在Github提交Issue。
留言与评论(共有 0 条评论) |