Essaie de créer un bout de fichier xorg.conf pour le GPU avec la Vsync activée :
sudo mkdir /etc/X11/xorg.conf.d
sudo nano /etc/X11/xorg.conf.d/20-device.conf
La première commande te dira peut-être que le dossier existe déjà, elle est juste là pour le créer au cas où ce ne soit pas le cas.
Dans l'éditeur qui s'ouvre, copie ça :
Section "Device"
Identifier "AMD Radeon Vega VIII"
Driver "amdgpu"
Option "TearFree" "true"
Option "DRI" "3"
EndSection
puis enregistre et ferme Nano : ctrl + O, valide le nom de fichier, ctrl + X.
Ensuite, il va falloir rebooter. Important : si pour une raison quelconque tu te retrouves sans affichage à l'écran de connexion (ça ne devrait pas arriver mais X.org est parfois surprenant), passe sur une console avec ctrl + alt + F1 (ou F2, F3, F4...), connecte-toi en mode texte en entrant ton identifiant et ton mot de passe (à taper en aveugle) puis supprime le fichier et redémarre :
sudo rm /etc/X11/xorg.conf.d/20-device.conf
sudo reboot
Mais si tout va bien, que ça redémarre normalement avec le fichier que je t'ai fait créer, vérifie si le problème est toujours présent sur les vidéos.
D'autre part, c'est un peu hors-sujet mais il faut savoir qu'il y a un problème assez gênant avec les CPU Ryzen sur Linux (sur Windows aussi mais bien moindre) qui peut provoquer des freezes complets du système aléatoirement. Pour le corriger, vérifie dans le BIOS si tu as une option "Power supply idle control", qu'il faut régler sur "typical current idle" plutôt que "auto" ou autre chose.
EDIT : et concernant Wayland c'est, en gros, un nouveau serveur d'affichage qui vise à remplacer à terme le vieillissant X.org. Il est encore en développement et a pas mal de problèmes de compatibilité mais il est utilisable et il y a une option sur la version standard d'Ubuntu pour lancer une session avec (on peut la choisir à l'écran de connexion − de mémoire, après avoir choisi le compte et avant d'entrer le mot de passe, il y a une icône d'engrenage ou autre qui permet de choisir la session à lancer). Comme le fichier de config que je t'ai fait faire ne sera pas pris en compte par Wayland, il vaut mieux vérifier que tu es sur la session standard qui utilise X.