GPFS - GPFS

GPFS ( General Parallel File System , brand name IBM Spectrum Scale ) je vysoce výkonný software klastrovaného souborového systému vyvinutý společností IBM . Může být nasazen v distribuovaných paralelních režimech sdíleného disku nebo sdíleného ničeho nebo v jejich kombinaci. Používá jej mnoho z největších světových obchodních společností i některé ze superpočítačů na seznamu 500 nejlepších . Například je to souborový systém Summitu v Oak Ridge National Laboratory, který byl nejrychlejším superpočítačem na světě číslo jedna v seznamu superpočítačů z listopadu 2019. Summit je systém 200 Petaflops složený z více než 9 000 mikroprocesorů IBM POWER a 27 000 GPU NVIDIA Volta . Úložný souborový systém s názvem Alpine má 250 PB úložiště využívající Spectrum Scale na úložném hardwaru IBM ESS, schopný přibližně 2,5 TB / s sekvenčních I / O a 2,2 TB / s náhodných I / O.

Stejně jako typické souborové systémy klastrů poskytuje GPFS souběžný vysokorychlostní přístup k souborům aplikacím prováděným na více uzlech klastrů. Lze jej použít s AIX klastry, Linux klastrů, na Microsoft Windows Server nebo heterogenní seskupení AIX, Linux a Windows uzlů běžící na x86 , POWER nebo IBM Z procesorových architektur. Kromě poskytování schopností úložiště souborového systému poskytuje nástroje pro správu a správu klastru GPFS a umožňuje sdílený přístup k souborovým systémům ze vzdálených klastrů.

Dějiny

GPFS začal jako souborový systém Tiger Shark , výzkumný projekt ve výzkumném středisku IBM Almaden Research Center již v roce 1993. Tiger Shark byl původně navržen pro podporu vysoce výkonných multimediálních aplikací. Ukázalo se, že se tento design dobře hodí pro vědecké výpočty.

Dalším předchůdcem je souborový systém Vesta společnosti IBM , který byl vyvinut jako výzkumný projekt ve výzkumném středisku Thomase J. Watsona v letech 1992 až 1995. Vesta představila koncept rozdělení souborů tak, aby vyhovoval potřebám paralelních aplikací, které běží na vysoce výkonných multi - počítačích s paralelními I / O subsystémy. Při vytváření oddílů není soubor posloupností bajtů, ale spíše více nesouvislých posloupností, ke kterým lze přistupovat paralelně. Rozdělení je takové, že abstrahuje od počtu a typu I / O uzlů hostujících souborový systém a umožňuje celou řadu logicky rozdělených pohledů na soubory bez ohledu na fyzickou distribuci dat v I / O uzlech. Disjunktní sekvence jsou uspořádány tak, aby odpovídaly jednotlivým procesům paralelní aplikace, což umožňuje lepší škálovatelnost.

Vesta byla komercializována jako souborový systém PIOFS kolem roku 1994 a následovala ji GPFS kolem roku 1998. Hlavní rozdíl mezi starším a novějším souborovým systémem spočíval v tom, že GPFS nahradil specializované rozhraní nabízené Vesta / PIOFS standardním Unix API : všechny funkce na podporu vysoce výkonné paralelní I / O byly uživatelům skryty a implementovány pod kapotou.

GPFS je k dispozici v systému IBM AIX od roku 1998, v systému Linux od roku 2001 a na systému Windows Server od roku 2008.

Dnes je používán mnoha z 500 nejlepších superpočítačů uvedených v seznamu 500 nejlepších superpočítačů. Od počátku byl úspěšně nasazen pro mnoho komerčních aplikací, včetně digitálních médií, analytiky mřížky a škálovatelných souborových služeb.

V roce 2010 si IBM prohlédla verzi GPFS, která zahrnovala funkci známou jako GPFS-SNC, kde SNC znamená Shared Nothing Cluster. Toto bylo oficiálně vydáno s GPFS 3.5 v prosinci 2012 a nyní je známé jako FPO (File Placement Optimizer). To mu umožňuje používat lokálně připojené disky na klastru serverů připojených k síti, spíše než vyžadovat dedikované servery se sdílenými disky (např. Pomocí SAN). FPO je vhodný pro pracovní zátěže s vysokou datovou lokalitou, jako jsou sdílené databázové klastry, jako je SAP HANA a DB2 DPF, a lze jej použít jako souborový systém kompatibilní s HDFS .

Architektura

Jedná se o klastrovaný souborový systém . Rozdělí soubor na bloky nakonfigurované velikosti, každý menší než 1 megabajt, které jsou distribuovány do více uzlů clusteru.

Systém ukládá data na standardní svazky blokových úložišť, ale obsahuje interní vrstvu RAID, která dokáže tyto svazky virtualizovat pro redundanci a paralelní přístup podobně jako blokový úložný systém RAID. Má také schopnost replikovat se přes svazky na vyšší úrovni souborů.

Mezi vlastnosti architektury patří

• Distribuovaná metadata včetně adresářového stromu. Souborový systém nemá na starosti jediný „řadič adresáře“ nebo „indexový server“.
• Efektivní indexování položek adresáře pro velmi velké adresáře.
• Distribuované zamykání. To umožňuje plnou sémantiku souborového systému POSIX , včetně uzamčení pro exkluzivní přístup k souborům.
• Partition Aware. Selhání sítě může rozdělit souborový systém na dvě nebo více skupin uzlů, které vidí pouze uzly ve své skupině. To lze zjistit pomocí prezenčního protokolu, a když dojde k oddílu, souborový systém zůstane aktivní pro největší vytvořený oddíl. To nabízí ladnou degradaci souborového systému - některé stroje zůstanou funkční.
• Údržbu souborového systému lze provádět online. Většinu úkolů údržby souborového systému (přidávání nových disků, vyvážení dat mezi disky) lze provádět, když je souborový systém aktivní. Tím je zajištěno, že souborový systém je k dispozici častěji, takže samotný cluster superpočítače zůstane k dispozici déle.

Mezi další funkce patří vysoká dostupnost, možnost použití v heterogenním klastru, zotavení po katastrofě, zabezpečení, DMAPI , HSM a ILM .

Ve srovnání s Hadoop Distributed File System (HDFS)

Souborový systém HDFS společnosti Hadoop je navržen k ukládání podobného nebo většího množství dat na komoditní hardware - tj. Datová centra bez disků RAID a síť SAN ( storage area network ).

• HDFS také rozděluje soubory do bloků a ukládá je na různé uzly souborového systému.
• GPFS má plnou sémantiku souborového systému Posix.
• GPFS distribuuje své adresářové indexy a další metadata napříč souborovým systémem. Hadoop to naopak udržuje na primárních a sekundárních jmenných uzlech, velkých serverech, které musí ukládat všechny informace o indexu do paměti RAM.
• GPFS rozděluje soubory na malé bloky. Hadoop HDFS má rád bloky 64 MB nebo více, protože to snižuje požadavky na úložiště Namenode. Malé bloky nebo mnoho malých souborů rychle zaplňují indexy souborového systému, takže omezte velikost souborového systému.

Správa životního cyklu informací

Fondy úložiště umožňují seskupení disků v systému souborů. Správce může vytvářet úrovně úložiště seskupením disků na základě charakteristik výkonu, lokality nebo spolehlivosti. Například jedním fondem mohou být vysoce výkonné disky Fibre Channel a další ekonomičtější úložiště SATA.

Sada souborů je dílčím stromem oboru názvů systému souborů a poskytuje způsob, jak rozdělit obor názvů na menší, spravovatelnější jednotky. Sady souborů poskytují administrativní hranici, kterou lze použít k nastavení kvót a lze je určit v zásadách pro řízení počátečního umístění dat nebo migrace dat. Data v jedné sadě souborů mohou být umístěna v jednom nebo více fondech úložiště. Kde se data souboru nacházejí a jak se migrují, je založen na sadě pravidel v uživatelem definované zásadě.

Existují dva typy uživatelsky definovaných zásad: umístění souboru a správa souborů. Zásady umisťování souborů směrují data souboru tak, jak jsou soubory vytvářeny do příslušného fondu úložiště. Pravidla pro umístění souborů se vybírají podle atributů, jako je název souboru, uživatelské jméno nebo sada souborů. Zásady správy souborů umožňují přesouvat nebo replikovat data souboru nebo mazat soubory. Zásady správy souborů lze použít k přesunu dat z jednoho fondu do druhého, aniž by se změnilo umístění souboru ve struktuře adresářů. Zásady správy souborů jsou určeny atributy souboru, jako je čas posledního přístupu, název cesty nebo velikost souboru.

Modul pro zpracování zásad je škálovatelný a lze jej spustit na mnoha uzlech najednou. To umožňuje aplikovat zásady správy na jeden souborový systém s miliardami souborů a dokončit je za několik hodin.

Viz také

Reference

externí odkazy

• IBM Spectrum Scale ve společnosti Almaden
• Uživatelská skupina spektrálního měřítka
• Dokumentace produktu IBM Spectrum Scale