Salut
Ça dépend comment le mail est envoyé...
Le plus souvent les applications web utilisent le MTA local (Postfix ou Exim) et donc il faut configurer ce dernier.
Mais peut-être que ton forum ne marche pas comme ça et a ses propres paramètres (smtp, identifiant, mot de passe, port) ?
Je te conseille de faire un test en te connectant en SSH sur ton serveur pour voir si les mails sortent bien.
Exemple :
mail -s test adressedetest@gmail.com
Ensuite tu tape un bout de phrase puis retour à la ligne puis un point pour valider.
Regarde dans /var/log/mail.log pour voir ce que ton serveur fait...