电脑故障

位置:IT落伍者 >> 电脑故障 >> 浏览文章

分布式文件系统试用比较


发布日期:2019/7/20
 

MooseFS 很不错已经实用了半月了易用稳定对小文件很高效

MogileFS 据说对于 Web 应用存储图片啥的很好

GlusterFS 感觉广告宣传做的比产品本身好

OpenAFS/Coda 是很有特色的东西

Lustre 复杂高效适合大型集群

PVFS 搭配定制应用会很好据说曙光的并行文件系统就是基于 PVFS

适合做通用文件系统的有 MooseFSGlusterFSLustre

================================================================

dCache

依赖 PostgreSQL

xtreemfs

* 服务端是 Java 实现的

性能不高

CloudStore (KosmosFS)

+ 被 Hadoop 作为分布式文件系统后端之一

不支持文件元信息

kfs_fuse 太慢不可用

编译依赖多文档落后脚本简陋

开发不活跃

MooseFS

+ 支持文件元信息

+ mfsmount 很好用

+ 编译依赖少文档全默认配置很好

+ mfshddcfg 加 * 的条目会被转移到其它 chunk server以便此 chunk server 安全退出

+ 不要求 chunk server 使用的文件系统格式以及容量一致

+ 开发很活跃

+ 可以以非 root 用户身份运行

+ 可以在线扩容

+ 支持回收站

+ 支持快照

master server 存在单点故障

master server 很耗内存

MogileFS

不适合做通用文件系统适合存储静态只读小文件比如图片

GlusterFS (特性)

+ 无单点故障问题

+ 支持回收站

+ 模块化堆叠式架构

对文件系统格式有要求ext/ext/zfs 被正式支持xfs/jfs 可能可以reiserfs 经测试可以 (系统需求)

需要以 root 用户身份运行(用了 trusted xattrmount 时加 user_xattr 选项是没用的官方说法是glusterfsd 需要创建不同属主的文件所以必需 root 权限)

不能在线扩容(不 umount 时增加存储节点)计划在 里实现

分布存储以文件为单位条带化分布存储不成熟

GFS

(基于红帽RHELU GFS+ISCSI+XEN+Cluster 的高可性解决方案)

(iscsi+clvm+gfs+xen+Cluster)

linuxchinaunixnet/bbs/threadhtml

* 并不是 distributed file system 而是 shared disk cluster file system需要某种机制在机器之间共享磁盘以及加锁机制因此需要 drbd/iscsi/clvm/ddraid/gnbd 做磁盘共享以及 dlm 做锁管理)

依赖 Red Hat Cluster Suite (Debian: aptitude install redhatclustersuite 图形配置工具包systemconfigcluster systemconfiglvm)

适合不超过约 个节点左右的小型集群规模越大dlm 的开销越大默认配置 个节点

OCFS

* GFS 的 Oracle 翻版据说性能比 GFS 好 (Debian: aptitude install ocfstools 图形配置工具包 ocfsconsole)

不支持 ACLflock只是为了 Oracle database 设计

OpenAFS

+ 成熟稳定

+ 开发活跃支持 Unix/Linux/MacOS X/Windows

性能不够好

Coda

* 从服务器复制文件到本地文件读写是本地操作因此很高效

* 文件关闭后发送到服务器

+ 支持离线操作连线后再同步到服务器上

缓存基于文件不是基于数据块打开文件时需要等待从服务器缓存到本地完毕

并发写有版本沖突问题

并发读有极大的延迟需要等某个 client 关闭文件比如不适合 tail f somelog

研究项目不够成熟使用不广

PVFS

* 高性能

没有锁机制不符合 POSIX 语意需要应用的配合不适合做通用文件系统

(See pvfsguide chaper : PVFS User APIs and Semantics)

静态配置不能动态扩展

Lustre

* 适合大型集群

+ 很高性能

+ 支持动态扩展

需要对内核打补丁深度依赖 Linux 内核和 ext 文件系统

Hadoop HDFS

* 本地写缓存够一定大小 ( MB) 时传给服务器

不适合通用文件系统

FastDFS

只能通过 API 使用不支持 fuse

NFSv Referrals

+ 简单

没有负载均衡容错

NFSv pNFS

没有普及

spNFS

* pNFS 在 Linux 上的一个实现

Ceph

开发初期不稳定

依赖 btrfs

上一篇:微博可以做什么

下一篇:Windows8应用中的新建、刷新和其他命令