Xtx Markets Open-Sources Ternfs、Exabyte-Scale Cloud-Nativeの分散ファイルシステムは、数兆ファイルと数百万のクライアントを処理するように構築されています。 Noopener “Target =” _ blank “> xtx Markets は、社内ファイルシステムであるTernfsが、コアファイルシステムコンポーネントのGPL-2.0-OR-Laterライセンスの下で、Protocol Librariesとクライアントライブラリ
P>
当初、会社の大規模なデータニーズを処理するために構築されたTernFSは、例えばスケールのストレージ用に設計されており、一度に何百万人ものクライアントをサポートしています。
そして今、これらの機能は、Ceph、Luster、Glusterfsなどのプロジェクトに長い間支配されている風景の直接的な競争相手として入るため、誰でも公開されています。しかし、続行する前に、ファイルシステム自体にさらに光を当てましょう。
Ternfsは2023年半ばからXTXで使用されており、3つのデータセンターで500以上のペタバイトのデータを管理し、約30,000のハードディスクと10,000のフラッシュドライブに裏打ちされています。このシステムは、それをはるかに超えてスケーリングするように構築されています。
TernFSの設計は、不変性、耐久性、および複数領域操作を強調しています。ファイルは書かれたら不変であり、大規模な複製と一貫性を簡素化します。メタデータは複数のシャードに配布され、単一の障害点を削除しますが、複製とReed –ソロモンコーディングは冗長性を提供します。
重要なコンポーネントには、
が含まれます
- クラスターメタデータとサービス追跡のレジストリ
- logsdb
- ノード全体でファイルコンテンツを冗長に保存するためのサービスをブロック
- ディレクトリに及ぶ運用のためのクロスディレクトリコーディネーター
を介したコンセンサスを備えたRockSDBを使用したメタデータシャード
アクセスは、Linuxカーネルモジュール、ヒューズクライアント、および最小限のS3 API実装を介してサポートされます。このシステムは、通常、少数のメガバイトよりも大きく、大規模で不変のファイル用に最適化されています。つまり、迅速な変更を必要とする小さなファイル、頻繁な更新、またはディレクトリ操作には適していないことを意味します。
詳細については、発表を参照するか、新しく公開された githubリポジトリ。