video - Lustre、Gluster 还是 MogileFS？？用于视频存储、编码和流媒体

Question

关闭。这个问题是opinion-based .它目前不接受答案。












想改善这个问题吗？更新问题，以便可以通过 editing this post 用事实和引文回答问题.

7年前关闭。




Improve this question




如此多的选择和如此少的时间来测试它们......我想知道是否有人有使用分布式文件系统进行视频流和存储/编码的经验。

我有很多巨大的视频文件(50GB 到 250GB)需要存储在某个地方，能够将它们编码为 mp4 并从多个 Adob​​e FMS 服务器流式传输它们。处理这一切的唯一方法是使用分布式文件系统，但现在的问题是哪个？

到目前为止，我的研究告诉我:

光泽 : 成熟的经过验证的解决方案，被很多大公司使用，最好有> 10G 文件的是内核驱动程序。

Gluster :新的，不太成熟的，基于 FUSE 的，这意味着易于安装，但由于 FUSE 开销可能会更慢。更好地处理大量较小的文件 ~1GB

MogileFS : 好像只针对小文件~MB，使用HTTP访问？？ future 可能的 FUSE 绑定(bind)。

到目前为止，Lustre 似乎是赢家，但我想听听我拥有的特定应用程序的真实体验。

此外，Hadoop、Redhat GFS、Coda 和 Windows DFS 也可以作为选项，因此欢迎任何体验。如果有人有基准，请分享。

经过一些实际经验，这是我学到的:

光泽:

性能:惊人的快!我可以断言 Lustre 可以提供很多流
并且通过 Lustre 访问文件不会影响编码速度。

POXIS 兼容性:非常好!无需修改应用程序即可使用光泽。

复制、负载平衡和故障转移:非常糟糕!对于复制负载
平衡我们和故障转移我们需要依赖其他软件，例如虚拟 IP
和 DRDB。

安装:最糟糕!不可能由凡人安装。需要一个很
内核、光泽补丁和调整的特定组合以使其工作。和
当前的光泽补丁通常适用于不兼容的旧内核
新的硬件/软件。

MogileFS:

性能:适用于小文件，但不适用于中到大文件。这是
主要是由于 HTTP 开销，因为所有文件都是通过 HTTP 请求发送/接收的
以 base64 编码所有数据，为每个文件增加了 33% 的开销。

POXIX 兼容性不存在。所有应用程序都需要修改才能使用
由于大多数流媒体服务器，mogilefs 使其无法用于流媒体/编码
和编码工具不了解 MogileFS 协议(protocol)。

开箱即用的复制和故障转移以及负载平衡可以在
通过一次访问多个跟踪器来应用程序。

安装相对容易，大多数发行版中都存在现成的包。
我发现的唯一困难是设置数据库主从以消除
单点故障。

光泽:

性能:非常不适合流式传输。我无法在 10Gbps 中达到超过几 Mbps
网络。客户端和服务器 CPU 在大量写入时猛增。对于编码工作，因为
CPU在网络和I/O之前饱和。

POXIS:几乎兼容。我使用的工具可以访问 gluster 挂载作为普通文件夹
磁盘，但在某些边缘情况下，事情开始引起问题。检查 gluster 邮件列表和
你会看到有很多问题。

复制、故障转移和负载平衡:最好的!如果他们真的工作。格鲁斯特是
非常新，它有很多错误和性能问题。

安装太简单了。管理命令行很棒，设置复制，
多台服务器之间的 strip 化和分布式卷再简单不过了。

定论:

不幸的是，结论是“没有单一的 Elixir ”。

目前，我们将 Gluster3.2 中的媒体文件放在一个复制卷中，用于存储和转码。只要您没有很多服务器，避免异地复制和 strip 卷就可以了。

当我们要流式传输媒体文件时，我们将它们复制到一个光泽卷，然后通过 DR:DB 复制到第二个光泽卷。 wowza 服务器然后从 lluster 卷中读取媒体文件。

最后，我们使用 MogileFS 在我们的 Web 应用程序服务器中提供缩略图。

Answer 1

到目前为止，GlusterFS 已经改进了很多。他们现在为大文件提供“粒度锁定”。看这里:http://www.gluster.org/community/documentation/index.php/WhatsNew3.3
此外，它也非常依赖于您也应该使用的视频帧速率。
如果您不会达到 4K 速率，Gluster 可以解决存储问题。
如果对速度有巨大的需求，那么 Infiniband 可以发挥作用。