Bon, je ne suis pas spécialiste mais d'après les infos que je trouve, ça a l'air d'être des barrettes haute densité qui ne sont pas gérées par le CPU (i5-450M, première génération). Donc, ce serait a priori un problème d'incompatibilité matérielle. Il y a par exemple
cet article qui fait rapidement le tour de la question, qui parle de symptômes similaires à ceux que tu rencontres (RAM reconnue mais OS qui plante au boot) et qui semble confirmer ce que j'ai vu ailleurs, à savoir RAM haute densité gérée à partir des CPU Intel de 2nde génération (Sandy Bridge).
Et ça risque d'être compliqué de trouver des barrettes compatibles : Kingston n'en fabrique plus depuis au moins 5 ans, c'est probablement le cas aussi chez les autres constructeurs. D'autant que ce n'est jamais précisé sur les fiches techniques et qu'il faut faire des recherches sur les références des modèles.
Le plus sûr serait peut-être de trouver de la RAM "pour Dell Vostro 3500", comme
celles-ci, en essayant d'en trouver de pas trop cher.