✎ tutoriel:donnees_stockees_dans_un_systeme_de_fichiers_zfs [Wiki ubuntu-fr]

Vous affichez une ancienne révision du document ! Si vous l'enregistrez, vous créerez une nouvelle version avec ce contenu.

{{tag>noble 24.04 stockage_données, gros_volumes partage_données}}
===== Introduction  =====
ZFS est un   [[:systeme_de_fichiers#systemes_de_fichiers_zfs|système de fichiers]] [[https://fr.wikipedia.org/wiki/Open_source|open source ]]pour la gestion de "[[https://fr.wikipedia.org/wiki/ZFS|très haute capacité de stockage]]". \\
ZFS est  utilisable sous Ubuntu, sous [[https://openzfsonosx.org/wiki/Downloads#2.2.2|mac]]  et sous [[https://github.com/openzfsonwindows/openzfs/releases/tag/zfswin-2.2.3rc5|windows]] \\
Ce document traite de l'utilisation de ZFS à partir de la version 24.04 de ubuntu pour stocker les données des utilisateurs. \\
Pour toute version  antérieure, se référer à [[:utilisateurs/bcag2/zfs|ce document.]]
===== Pré-requis =====
Soit disposer d'une version ubuntu ZFS chiffrée[[https://doc.ubuntu-fr.org/_media/tutoriel/installer_ubuntu_avec_subiquity/41.png?w=600&tok=1d4597|installée]] dans la totalité d'un disque dur pouvant être externe. \\
Soit disposer d'une version ubuntu 24.04  installée de façon classique dans une partition  EXT4 ou BTRFS.\\
Dans ce second cas, il est alors nécessaire d'ajouter les applications  absentes.  \\                                                                  
  * Installer le paquet   [[:cryptsetup|chiffrement]]. \\
  * Installer le paquet ZFS de la version 24.04 disponible en ligne de commandes.<code bash> sudo apt install zfs-zed</code>
===== Création de l'enveloppe de stockage =====
Ce tuto montre un cas d'utilisation en structure sécurisée nécessitant au moins deux partitions avec des données chiffrées.\\
Bien entendu, il est possible de ne pas choisir l'option de chiffrement et de ne pas utiliser la redondance. \\
==== Sélection de l'espace disque. ====
Grâce à l'application [[https://doc.ubuntu-fr.org/gparted|gparted]], fabriquer deux partitions de tailles identiques. de préférence dans deux disques différents. \\
Si les partitions utilisées sont déjà formatées ZFS, il est nécessaire de les reformater (en EXT4 par exemple) car la création sera refusée. Sinon, les partitions peuvent être déclarées non-formatées.
==== Mise  disposition de cet espace disque ====
La mise à disposition pour  l'utilisateur de cet espace prévu, se fait obligatoirement en ligne de commande.\\ L'auto-documentation (man zpool create) n'est pas mauvaise mais elle dispose de peu d'exemples pratiques.  \\ Voici la commande à exécuter.
<code bash>sudo zpool create -f -m   /media/ZFS -O encryption=on -O keyformat=passepasse -O keylocation=prompt  -o feature@lz4_compress=enabled MesDonneesPersonnelles raidz /dev/sda18 /dev/sdb11
Enter new passphrase:
cannot create 'MesDonneesPersonnelles': Passphrase too short (min 8).</code> \\
  *  **-f**  indique de forcer le montage 
  *  **-m** indique  le point de montage à utiliser. J ai choisis **media**  à cause des applications snap
  *  **-O encryption=on**  indique Option de chiffrement activée
  *  **-O keyformat=passepasse** Indique Option  de format de la phrase de chiffrement    au format lisible
  *  **-O keylocation=prompt** indique Option  de saisie de la phrase au clavier   d ou le choix du format lisible.
  *  **-o feature@lz4_compress=enabled** indique option  de compression** LZ4** activée.La littérature semble conseiller cette option
  * **[[https://www.recuperation-donnees-raid.com/raid-z|raidz]]**  Indique  que l acces aux partitions se fait dans ce format équivalent au format [[https://doc.ubuntu-fr.org/raid_logiciel|raids5]].  On pouvait ne rien mettre ou mettre **mirror**  équivalent du RAID1.
A l'issue de cette commande réussie, le point de montage **/media/ZFS** est automatiquement créé et accessible en écriture.
===== Réutilisation de cet espace disque lors d'un nouveau démarrage =====
Le logiciel ZFS étant actuellement en phase expérimentale, il n'est pas facile de savoir si l'**oubli** de rendre disponible auprès de l'utilisateur ces données **__chiffrées__**, est définitif ou sera réparé. \\ Voici deux palliatifs.
==== Solution manuelle ====
Lorsque l'utilisateur se connecte, il doit penser à monter la structure zfs s'il souhaite l'utiliser. La seule solution est la ligne de commande. C'est simplement:
<code bash>sudo zfs mount -vl MesDonneesPersonnelles</code>
Le mot de déchiffrement sera demandé  à l'écran de l'utilisateur.
==== Solution automatique ====
**La valeur de la clé de déchiffrement doit être dans un fichier**. Il  existe trois solutions: 
  - Le logiciel  est déjà chiffré. Dans ce cas  la valeur de la clé de chiffrement  peut être dans un fichier stocké sous** /root**. Solution aisément installable.
  - Le logiciel n'est pas chiffré, La clé de chiffrement  peut être dans une clé usb que l'utilisateur branche au moment de se connecter et enlève aussitôt la connexion réalisée. C'est la solution privilégiée par les concepteurs. Solution aisément installable avec un risque de  perdre la clé ou qu'elle soit lue par une  personne non-habilitée.
  - Un service demande à l'utilisateur la valeur  de la clé de chiffrement, la stocke dans un fichier, ouvre la structure chiffrée et détruit le contenu du fichier. Cela ne laisse que quelques instants cette valeur disponible à la vue de tout le monde.... C'est un développement personnel susceptible d'être amélioré par qui connait mieux. \\ Il est basé sur  les services de [[:/systemd|systemd]] qui  semblent destinés à se passer d'utilisateur. Le dialogue à l'écran étant inconnu.

Pensez à devenir administrateur en frappant **sudo -i**. 
=== Nouvelle commande de création de l'espace à utiliser. ===
<code bash>echo -n LeBonMotDeDéchiffrement | tee /root/ZFS.pwd
wc /root/ZFS.pwd ; cat /root/ZFS.pwd
zpool create -f -m   /media/ZFS -O encryption=on -O keyformat=passphrase -O keylocation=file:///root/ZFS.pwd -o feature@lz4_compress=enabled MesDonneesPersonnelles raidz /dev/sda18 /dev/sdc11
shred  /root/ZFS.pwd</code>
Penser à personnaliser la première ligne  et le nom retenu pour la désignation de l'espace de stockage.
=== Le script de montage ===
<code bash>cat<<'EOF'>/root/ZFS.sh
#!/bin/bash
Data=MesDonneesPersonnelles
echo  Entrée dans le service USER de ZFS  | tee -a  /dev/kmsg
for (( i=1; i < 300; i++ ));  do
MOI=$(loginctl list-users | head -2 | tail -1)
IDn=$(echo $MOI | cut -d" " -f1) ; IDx=$(echo $MOI | cut -d" " -f2) ;
if [[  $IDn -gt  999   ]] ; then
   i=300
else   
   sleep 1
   echo  itération-1-$i dans le module USER de ZFS  | tee -a  /dev/kmsg
fi 
done
for (( i=1; i < 9; i++ ));  do 
    echo  itération-2-1-$i dans le service USER de ZFS  | tee -a  /dev/kmsg
    Statut=$(zfs get mounted  $Data |tail -1 )
    if [[  $Statut =~  "no"  ]] ; then 
       ret=`sudo -u $IDx DISPLAY=:1 zenity --entry --title="Montage de la partition $Data ($i/8)." --text "veuillez fournir la phrase de déchiffrement de $Data." `
       echo $ret  > /root/ZFS.pwd
       sleep 1
       zfs mount -vl $Data       
       shred -n 0 -z  /root/ZFS.pwd 
    else i=10    
    fi   
done
if  [[ ! $Statut =~  "yes"  ]] ; then
   sudo -u $IDx DISPLAY=:1 zenity --error --text "La partition $Data n'est pas disponible; veuillez investiguer!"
fi
EOF
sleep 1
chmod +x /root/ZFS.sh
cat /roo/ZFS.sh
/root/ZFS.sh</code>
Penser à personnaliser la troisième ligne. Cela ne coute rien de l'essayer.
=== Le script d'automatisation ===
<code bash>cat <<'EOF'>/etc/systemd/system/ZFS.service
[Unit] 
Description=Montage de la partition de données personnelles.
DefaultDependencies=no
[Service]
Type=simple
TimeoutSec=5minutes
ExecStartPre=echo  Montage de la partition de données personnelles ZFS. |  tee -a  /dev/kmsg
ExecStartPre=sleep 60
# Temps approximatif pour l'arrivée de l'écran d'accueil
ExecStartPre=echo  Montage de la partition de données personnelles ZFS ( Fin de sommeil ) |  tee -a  /dev/kmsg
ExecStart=/root/ZFS.sh
ExecStopPost=echo Montage de la partition de données personnelles ZFS  est terminé  |  tee -a  /dev/kmsg
StandardOutput=journal+console
StandardError=journal+console
[Install]
WantedBy=multi-user.target
EOF
sleep 1
##### Essais.
systemctl  stop ZFS.service ; systemctl  disable ZFS.service ; systemctl --user daemon-reload; 
systemctl enable ZFS.service ; systemctl start ZFS.service 
systemctl  --no-pager -l status ZFS.service  
exit</code>

===== Quelques essais =====
==== Une utilisation classique pour sauvegarder les données personnelles ====
=== Création du répertoire ===
<code bash>sudo mkdir /media/ZFS/$USER
sudo chown -Rv $USER  /media/ZFS/$USER 
sudo chmod 775 /media/ZFS/$USER </code>
=== Déplacement des répertoires ===
<code bash>mv -v Documents Images Modèles Musique Public Téléchargements Vidéos    /media/ZFS/$USER </code>
=== Création les liens ===
<code bash>ln -s  /media/ZFS/$USER/Documents ; ln -s  /media/ZFS/$USER/Images ; ln -s   /media/ZFS/$USER/Modèles   ; ln -s   /media/ZFS/$USER/Musique ; ln -s  /media/ZFS/$USER/Public ; ln -s  /media/ZFS/$USER/Téléchargements ; ln -s   /media/ZFS/$USER/Vidéos
mv -v Bureau /media/ZFS/$USER && ln -s /media/ZFS/$USER/Bureau </code>
=== Figer le changement ===
<code bash>cp -v /etc/xdg/user-dirs.conf $HOME/.config && sed -i 's/True/False/' $HOME/.config/user-dirs.conf </code>
==== Une utilisation possible avec utilisation de quotas. ====
Cela passe par la création des sous-ensembles (équivalents aux sous-répertoires). \\
Il n'est pas obligatoire de limiter. \\  On  constate que la limite  du  remplissage semble bien fixée à  80% de l'espace prévu.
<code bash>sudo zfs create -o quota=15G  MesDonneesPersonnelles/sports
sudo zfs create -o quota=5G  MesDonneesPersonnelles/sports/Foot

rsync -av --stats /media/$USER/Commun/Football/* /media/ZFS/sports/Foot/a 
sending incremental file list
Finale4.mp4
Finale5.mp4
rsync: [receiver] write failed on "/media/ZFS/sports/Foot/a/Finale5.mp4": Disk quota exceeded (122)
rsync error: error in file IO (code 11) at receiver.c(380) [receiver=3.2.7]
rsync: [sender] write error: Broken pipe (32)

df -htzfs | grep -E "Taille|Mes"
Sys. de fichiers                                 Taille Utilisé Dispo Uti% Monté sur
MesDonneesPersonnelles                              43G    240M   42G   1% /media/ZFS
MesDonneesPersonnelles/sports                       11G    256K   11G   1% /media/ZFS/sports
MesDonneesPersonnelles/sports/Foot                 5,0G    4,1G  982M  81% /media/ZFS/sports/Foot</code>
==== Sauvegarder des O.S. ====
Sauvegarder un UBUNTU
<code bash>sudo mkdir /media/ZFS/Ubuntu
time sudo rsync -avx / /media/ZFS/Ubuntu
sent 7.823.372.276 bytes  received 3.206.862 bytes  10.484.365,89 bytes/se
real	12m26,492s</code>
Sauvegarder un Windows
<code bash>sudo partclone.ntfs -c -d -s /dev/sda4 -o /media/ZFS/Windows.sda4.pcl
Current block:   18174668, Total block:   18175999, Complete: 100.00%           
Durée totale : 00:16:54, Ave. Rate:   2,77GB/min, 100.00% completed!</code>

===== Quelques commandes utiles =====
==== Connaitre la place disque utilisée ====
<code bash> df -htzfs | grep -E "Taille|Mes" && zfs get all MesDonneesPersonnelles | grep ratio
Sys. de fichiers                                 Taille Utilisé Dispo Uti% Monté sur
MesDonneesPersonnelles                              43G     32G   12G  74% /media/ZFS
MesDonneesPersonnelles/sports                       11G    256K   11G   1% /media/ZFS/sports
MesDonneesPersonnelles/sports/Foot                 5,0G    4,1G  982M  81% /media/ZFS/sports/Foot
MesDonneesPersonnelles  compressratio         1.53x                    -
MesDonneesPersonnelles  refcompressratio      1.60x  </code> 
==== Agrandir l'espace disque ====
Pas d'autre choix que l'ajout de deux partitions  de même taille mais pas obligatoirement  la même que les deux premières partitions.
<code bash>sudo zpool add -f  MesDonneesPersonnelles raidz /dev/sdc12 /dev/sdc13

zpool status MesDonneesPersonnelles
  pool: MesDonneesPersonnelles
 state: ONLINE
config:

NAME                    STATE     READ WRITE CKSUM
	MesDonneesPersonnelles  ONLINE       0     0     0
	  raidz1-0              ONLINE       0     0     0
	    sda18               ONLINE       0     0     0
	    sdc11               ONLINE       0     0     0
	  raidz1-1              ONLINE       0     0     0
	    sdc12               ONLINE       0     0     0
	    sdc13               ONLINE       0     0     0</code>
La commande suivante aurait pu fonctionner. [[https://bugs.launchpad.net/ubuntu/+source/subiquity/+bug/2069343|Mais...]].
<code bash> sudo zpool attach -f  MesDonneesPersonnelles raidz1-0 /dev/sdc12
cannot attach /dev/sdc12 to raidz1-0: can only attach to mirrors and top-level disks </code>

==== Remplacer un disque ====
<code bash>time sudo zpool replace -fw MesDonneesPersonnelles  /dev/sdc13 /dev/sda10
real	33m6,724s
user	0m0,007s
sys	0m0,012s

zpool status MesDonneesPersonnelles 
  pool: MesDonneesPersonnelles
 state: ONLINE
  scan: resilvered 36.1G in 00:33:01 with 0 errors on Fri Jun 14 17:36:18 2024
config:

NAME                    STATE     READ WRITE CKSUM
	MesDonneesPersonnelles  ONLINE       0     0     0
	  raidz1-0              ONLINE       0     0     0
	    sda18               ONLINE       0     0     0
	    sdc11               ONLINE       0     0     0
	  raidz1-1              ONLINE       0     0     0
	    sdc12               ONLINE       0     0     0
	    sda10               ONLINE       0     0     0

errors: No known data errors</code>

===== Partage réseau =====
Avant de pouvoir autoriser le partage réseau, pour éviter l'erreur **NFS share creation failed
**, il est nécessaire  d'installer la couche Réseau:  Voir le paragraphe  [[:nfs#installation|3.1]]. \\  L'autorsation ZFS se fait alors facilement. \\ Exemple pour un niveau intermédiaire:
<code bash>zfs get sharenfs MesDonneesPersonnelles/sports
NAME                           PROPERTY  VALUE     SOURCE
MesDonneesPersonnelles/sports  sharenfs  off       local
 
sudo zfs set  sharenfs=on MesDonneesPersonnelles/sports

zfs get sharenfs MesDonneesPersonnelles/sports
NAME                           PROPERTY  VALUE     SOURCE
MesDonneesPersonnelles/sports  sharenfs  on        local</code>

Il reste alors à régler la configuration du NFS telle que décrite dans le paragraphe [[:/nfs#configuration|3.2]]
===== Traitement de quelques incidents ======
==== Incident inhérent  la conception  de zfs ====
La fabrication d'un espace de stockage ZFS se fait en utilisant les noms courts des partitions. Par exemple SDC11. \\
Le premier risque est que la lettre de la partition change. Spécialement le cas si la partition est stockée dans un disque externe. \\
Le second risque est que le numéro de partition change. Dans un environnement UBUNTU, il faut lancer  une commande spécifique (sgdisk). Mais si le disque côtoie windows et que son gestionnaire de partition est lancé, cette renumérotation est systématique.\\
Dans les deux cas, au final, l'espace est dégradé.
<code bash>zpool status MesDonneesPersonnelles
  pool: MesDonneesPersonnelles
 state: DEGRADED
status: One or more devices could not be used because the label is missing or
	invalid.  Sufficient replicas exist for the pool to continue
	functioning in a degraded state.
action: Replace the device using 'zpool replace'.
   see: https://openzfs.github.io/openzfs-docs/msg/ZFS-8000-4J
  scan: scrub repaired 0B in 00:04:11 with 0 errors on Sat Jun 15 19:25:40 2024
config:

NAME                      STATE     READ WRITE CKSUM
	MesDonneesPersonnelles    DEGRADED     0     0     0
	  raidz1-0                DEGRADED     0     0     0
	    sda18                 ONLINE       0     0     0
	    17089491904315129872  UNAVAIL      0     0     0  was /dev/sdc11
	  raidz1-1                DEGRADED     0     0     0
	    9901095314787895760   UNAVAIL      0     0     0  was /dev/sdc12
	    sda10                 ONLINE       0     0     0  block size: 512B configured, 4096B native

errors: No known data errors</code>
Après quelques tâtonnements dont l'un empêchait l'utilisateur de se connecter après un reboot inutile, la bonne réparation (faite en mode root dans ce contexte) est  d'exporter et de réimporter la structure sans vouloir lancer des réparations.
<code bash>sudo zpool export MesDonneesPersonnelles
sudo zpool import MesDonneesPersonnelles</code>
Il était probablement inutile de bricoler pour retrouver la lettre C et les numéros 11 et 12.
===== Utilisation sous windows =====
Quelques contraintes rencontrées:
  * L'application [[https://openzfsonwindows.org/|openzfs]]  doit être installée.   Elle est en cours de développement et pas encore stabilisée ( https://github.com/openzfsonwindows/openzfs/releases/download/zfswin-2.2.3rc5/OpenZFSOnWindows-debug-2.2.3rc5.exe).  \\                                                                                                                                                           
  * Importer l'espace disque avec la commande **import -f**. 
  * Remettre **off** l'option** sharenfs**    qui n'est pas supportée.
  * Dire que la clé de chiffrement  doit être saisie au clavier car la commande disant de l'obtenir dans un fichier stocké dans C:   ne fonctionne pas (Le caractère **:** est interdit). Il faut probablement écrire keylocation=file:/ / /Harddisk0Partition4/ZFS.pwd ( pas d'espace entre les trois /). 
  * Faire le montage des points de montages hérités  car cela n'est pas traité. (mount MesDonneesPersonnelles/sports ; mount MesDonneeesPersonnelles/sports/Football).
  * Accepter que visual basic  signale des "anomalies".
  * Utiliser l'explorateur de fichier pour accéder classiquement aux données qui sont  stockées  sous une **L**ettre**:**
  * L'accès en écriture est possible. Mais le débit en écriture ne semble pas performant.
Ci-dessous une vision depuis  windows powershell
<code bash>PS C:\> zpool status
  pool: MesDonneesPersonnelles
 state: ONLINE
status: Some supported and requested features are not enabled on the pool.
        The pool can still be used, but some features are unavailable.
action: Enable all features using 'zpool upgrade'. Once this is done,
        the pool may no longer be accessible by software that does not support
        the features. See zpool-features(7) for details.
  scan: resilvered 8.39M in 00:00:09 with 0 errors on Sun Jun 16 14:46:16 2024
config:

NAME                      STATE     READ WRITE CKSUM
        MesDonneesPersonnelles    ONLINE       0     0     0
          raidz1-0                ONLINE       0     0     0
            Harddisk0Partition16  ONLINE       0     0     0
            Harddisk2Partition12  ONLINE       0     0     0
          raidz1-1                ONLINE       0     0     0
            Harddisk2Partition11  ONLINE       0     0     0
            Harddisk0Partition10  ONLINE       0     0     0

errors: No known data errors

pool: TEST1
 state: ONLINE
status: Some supported and requested features are not enabled on the pool.
        The pool can still be used, but some features are unavailable.
action: Enable all features using 'zpool upgrade'. Once this is done,
        the pool may no longer be accessible by software that does not support
        the features. See zpool-features(7) for details.
config:

NAME                   STATE     READ WRITE CKSUM
        TEST1                  ONLINE       0     0     0
          Harddisk2Partition7  ONLINE       0     0     0

errors: No known data errors

pool: TEST3
 state: ONLINE
status: Some supported and requested features are not enabled on the pool.
        The pool can still be used, but some features are unavailable.
action: Enable all features using 'zpool upgrade'. Once this is done,
        the pool may no longer be accessible by software that does not support
        the features. See zpool-features(7) for details.
config:

NAME                      STATE     READ WRITE CKSUM
        TEST3                     ONLINE       0     0     0
          raidz1-0                ONLINE       0     0     0
            Harddisk2Partition8   ONLINE       0     0     0
            Harddisk2Partition9   ONLINE       0     0     0
            Harddisk2Partition10  ONLINE       0     0     0

errors: No known data errors
PS C:\> zpool list
NAME                     SIZE  ALLOC   FREE  CKPOINT  EXPANDSZ   FRAG    CAP  DEDUP    HEALTH  ALTROOT
MesDonneesPersonnelles   191G  78.5G   113G        -         -     0%    41%  1.00x    ONLINE  -
TEST1                   9.50G  9.21G   294M        -         -    79%    96%  1.00x    ONLINE  -
TEST3                   29.5G  14.8G  14.7G        -         -     0%    50%  1.00x    ONLINE  -
PS C:\></code>

Merci de recopier le code ci-contre pour prouver que vous êtes humain : M N X U H Merci de laisser ce champ vide :

Résumé

Note : En modifiant cette page, vous acceptez que le contenu soit placé sous les termes de la licence suivante : CC Paternité-Partage des Conditions Initiales à l'Identique 3.0 Unported