il s'agit en fait de Cryptsetup, toute la partition est chiffrée sur LVM, c'est une option dans l'installation.
J'étais pas tout seul et j'ai trouvé comment récupérer le truc. En fait c'est bien une histoire de clavier qui a changé.
J'ai utilisé une clé d'install de ubuntu pour le lancer en essai, façon rescue.
J'ai mis le clavier en azerty.
Puis j'ai sélectionné le disque dur chiffré avec cryptsetup pour le monter.
J'ai pu mettre le mot de passe avec les caractères spéciaux, et hop, c'est monté.
J'ai monté la partition de boot dans le disque chiffré.
J'ai ensuite accédé au système déchiffré avec chroot.
J'ai bidouillé initramfs afin de définir le clavier global du système en azerty français de base.
sudo dpkg-reconfigure keyboard-configuration
(après quelques choix de langue et région qui correspondent à mon laptop)
puis
update-initramfs -u
testé que c'était bien ce clavier qui était pris en compte en ouvrant un vrai TTY (alt+f2 et autres f supérieurs pour kubuntu, alt+f1 pour revenir au serveur X)
et après au redémarrage c'était bien le bon clavier azerty qui était pris en charge, j'ai pu remettre mon mot de passe avec ses caractères spéciaux.
victoire !