LizardFS es un sistema de archivos distribuido de código abierto que cumple con el estándar POSIX y tiene licencia GPLv3 . [ 3 ] [ 4 ] Fue lanzado en 2013 como una bifurcación de MooseFS . [ 5 ] LizardFS también ofrece soporte técnico de pago (Estándar, Empresarial y Empresarial Plus), que incluye la configuración y puesta en marcha del clúster y la monitorización activa del mismo.
LizardFS es un sistema de archivos distribuido, escalable y tolerante a fallos. Está diseñado para que sea posible añadir más discos y servidores "sobre la marcha", sin necesidad de reiniciar ni apagar ningún servidor. [ 6 ]
Descripción
LizardFS protege los archivos almacenando todos los datos en múltiples réplicas distribuidas entre los servidores disponibles. Este almacenamiento se presenta al usuario final como un único espacio de nombres lógico. Además, permite crear sistemas de almacenamiento que optimizan el espacio, ya que está diseñado para funcionar con hardware estándar . Tiene aplicaciones en diversos campos y es utilizado por instituciones de finanzas, telecomunicaciones, medicina, educación, posproducción, desarrollo de videojuegos y servicios de alojamiento en la nube.
Hardware
LizardFS es totalmente independiente del hardware. Se puede utilizar hardware estándar para optimizar los costos. Los requisitos mínimos son dos nodos dedicados con varios discos, pero para obtener una instalación de alta disponibilidad se necesitan al menos tres nodos. Esto también permitirá el uso de codificación de borrado .
Arquitectura
LizardFS almacena los metadatos (por ejemplo, nombres de archivos, marcas de tiempo de modificación, estructuras de directorios) y los datos por separado. Los metadatos se almacenan en servidores de metadatos, mientras que los datos se almacenan en servidores de fragmentos.
Una instalación típica consta de:
- Se requieren al menos dos servidores de metadatos que funcionen en modo maestro-esclavo para la recuperación ante fallos. Su función es gestionar toda la instalación, por lo que el servidor de metadatos activo suele denominarse servidor maestro. Los demás servidores de metadatos se encargan de sincronizarse con el servidor maestro activo, por lo que suelen denominarse servidores maestros secundarios. Cualquier servidor maestro secundario está preparado para asumir la función de servidor maestro en cualquier momento. Se recomienda una configuración para un servidor de metadatos que incluya una máquina con una CPU rápida , al menos 32 GB de RAM y al menos una unidad de almacenamiento (preferiblemente SSD) para almacenar varios gigabytes de metadatos.
- Un conjunto de servidores de fragmentos almacena los datos. Cada archivo se divide en bloques llamados fragmentos (de hasta 64 MB cada uno), que se almacenan en los servidores de fragmentos. Se recomienda una configuración para un servidor de fragmentos con una gran capacidad de almacenamiento en disco, ya sea en una configuración JBOD o RAID . La CPU y la RAM no son factores cruciales. Se pueden tener desde dos servidores de fragmentos hasta cientos.
- Clientes que utilizan los datos almacenados en LizardFS. Estas máquinas utilizan un montaje de LizardFS para acceder a los archivos de la instalación y procesarlos como si estuvieran en sus discos duros locales. Los archivos almacenados en LizardFS pueden ser vistos y accedidos por tantos clientes como sea necesario.
Características
- Instantáneas : al crear una instantánea, solo se copian los metadatos del archivo de destino, lo que acelera la operación. Se comparten fragmentos del archivo original y del duplicado hasta que se modifica uno de ellos.
- QoS : LizardFS ofrece mecanismos que permiten a los administradores establecer límites de ancho de banda de lectura/escritura para todo el tráfico generado por un punto de montaje determinado, así como para un grupo específico de procesos distribuidos en varias máquinas cliente y puntos de montaje.
- Replicación de datos : Los archivos almacenados en LizardFS se dividen en bloques llamados fragmentos, cada uno de hasta 64 MB. Cada fragmento se guarda en servidores de fragmentos y los administradores pueden elegir cuántas copias de cada archivo se mantienen. Por ejemplo, si se elige conservar 3 copias (objetivo de configuración = 3), todos los datos sobrevivirán a la falla de dos discos o servidores de fragmentos, ya que LizardFS nunca guarda dos copias del mismo fragmento en el mismo nodo.
- Georreplicación : Con la georreplicación, puede decidir dónde se almacenan los fragmentos. La función de topología permite sugerir qué copia debe leer un cliente cuando hay más de una disponible. Por ejemplo, cuando LizardFS se implementa en dos centros de datos, como uno en Londres y otro en París, es posible asignar la etiqueta "Londres" a cada servidor en Londres y "París" a cada servidor en París.
- Replicación de metadatos: Los metadatos se almacenan en servidores de metadatos. En cualquier momento, uno de estos servidores gestiona toda la instalación y se denomina servidor maestro. Los demás servidores de metadatos se mantienen sincronizados con él y actúan como servidores maestros secundarios.
- Alta disponibilidad : los servidores maestros en segundo plano proporcionan a LizardFS alta disponibilidad. Si hay al menos un servidor maestro en segundo plano en funcionamiento y el servidor maestro activo se pierde, uno de los servidores maestros en segundo plano toma el control.
- Cuotas : LizardFS admite un mecanismo de cuotas de disco similar al de otros sistemas de archivos POSIX. Permite establecer límites flexibles y estrictos para la cantidad de archivos y su tamaño total para un usuario o grupo de usuarios específico. Un usuario cuyo límite estricto se haya superado no podrá escribir nuevos datos en LizardFS.
- Papelera: Otra característica de LizardFS es una papelera transparente y completamente automática. Tras eliminar cualquier archivo, este se mueve a una papelera visible únicamente para el administrador. Cualquier archivo en la papelera puede restaurarse o eliminarse permanentemente.
- Cliente nativo de Windows : el cliente de LizardFS para Windows se puede instalar tanto en estaciones de trabajo como en servidores. Proporciona acceso a los archivos almacenados en LizardFS a través de una unidad virtual. El cliente de Windows es una función con licencia que se puede obtener contactando a los creadores de LizardFS: Distributed FS Sp. z oo.
- LizardFS ofrece dos interfaces de monitorización. En primer lugar, una herramienta de línea de comandos útil para sistemas como Nagios, Zabbix e Icinga, que se utilizan habitualmente para la monitorización proactiva. Además, los administradores disponen de una interfaz gráfica web que permite realizar un seguimiento de prácticamente todos los aspectos del sistema.
- Hadoop : Esta es una solución basada en Java que permite a Hadoop usar el almacenamiento LizardFS, implementando una interfaz HDFS para LizardFS. Funciona como una especie de capa de abstracción del sistema de archivos. Permite usar trabajos de Hadoop para acceder directamente a los datos en un clúster LizardFS. El complemento traduce el protocolo LizardFS y hace que los metadatos sean legibles para Yarn y MapReduce.
- NFS y pNFS : LizardFS utiliza el servidor NFS-ganesha para crear recursos compartidos NFS, por lo que, técnicamente, el cliente NFS se conecta no con el servidor maestro, sino con un servidor de archivos Ganesha que se comunica directamente con los componentes de LizardFS. Desde el punto de vista del usuario, funciona como un servidor NFS convencional.
Véase también
Referencias
- ↑ "LizardFS" . Archivado del original el 30-01-2016 . Consultado el 09-05-2016 .
- ↑ "Versiones · lizardfs/lizardfs" . GitHub . Archivado del original el 8 de junio de 2023. Consultado el 15 de julio de 2025 .
- ↑ "LizardFS: Almacenamiento definido por software, como debería ser (artículo original en alemán)" . www.golem.de . 27 de abril de 2016. Archivado del original el 30 de abril de 2016. Consultado el 6 de mayo de 2016 .
- ↑ "Mr. Blue Coat: (actualizado) Prueba de rendimiento del sistema de archivos distribuido" . Archivado del original el 22/05/2016 . Consultado el 06/05/2016 .
- ↑ "ZFS + glusterfs en dos o tres nodos" . permalink.gmane.org . Archivado del original el 13 de octubre de 2016. Consultado el 6 de mayo de 2016 .
- ↑ Korenkov, VV; Kutovskiy, NA; Balashov, NA; Baranov, AV; Semenov, RN (1 de enero de 2015). "Infraestructura en la nube JINR" . Procedia Ciencias de la Computación . IV Congreso Internacional de Jóvenes Científicos en Ciencias Computacionales. 66 : 574– 583. doi : 10.1016/j.procs.2015.11.065 .
Enlaces externos
- Sitio web oficial
- lizardfs en GitHub
- Documentación oficial de LizardFS archivada el 21/02/2020 en Wayback Machine .
- Software de 2013
- Gestión del sistema de archivos
- Sistemas de archivos distribuidos
- Sistemas de archivos de red
- Sistemas de archivos de espacio de usuario
- Sistemas de archivos distribuidos compatibles con el kernel de Linux