filesystems - 创建集群文件服务器系统

标签 filesystems cluster-computing

我目前有 3 个文件服务器,每个文件服务器都有一个包含 24 个磁盘的 raid 6 阵列。

问题是有没有办法让它们作为一个大驱动器而不是 3 个独立的系统工作。我需要更多的吞吐量,并且我认为这是一种可能性。也许是像 Hadoop 这样的分布式文件系统?

最佳答案

答案取决于该硬件上数据的预期用途。 Hadoop 文件系统 HDFS - 适合 Map-Reduce 处理的非常特殊的需求。主要限制对于其预期用途来说是可以的,但对于其他用途来说是有问题的:
a) 文件不能编辑,只能追加。
b) 存储很多小文件会有问题。它专为 64 MB 及以上的文件而设计。造成这种限制的原因是所有元数据都存储在内存中。
c) 它不是 posix 兼容的 FS,因此您无法挂载它并由不知道 HDFS 的应用程序将其用作常规文件系统。

我会考虑像 GlusterFS、Ceph 或 Lustre 这样的选项,它们是为类似于您描述的情况而构建的。需要更多信息来提供选择其中之一的良好建议。

关于filesystems - 创建集群文件服务器系统,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/7908410/

相关文章:

c - ZwQueryDirectoryFile 恢复

linux - Linux 文件系统的 "atomic disk write"是什么?

mongodb - Spark rdd.count() 产生不一致的结果

java - 在图中查找彼此之间具有最大传播/距离的 N 个节点

java - 有 Java 集群方面的经验吗?

database - 嵌入式数据库的选择?

c# - 写入文件系统。如何有效锁定

node.js - 如何判断SFTP文件是否是Node.js中的目录?

c# - 序列化/反序列化 "NHibernate Session",延迟初始化错误 ("StateServer mode"集群)

c - 在集群的单个节点上运行 OpenMP