En très très gros et flou, tu modifie des bouts de CSS selon la taille d'écran.
C'est pas forcement dur si c'est penser en même temps que la création du site, pour les framework, je sais que ça existe, mais jamais utilisé.
Un bon article sur le sujet :
http://www.alsacreations.com/article/lire/1559-responsive-web-design-present-futur-adaptation-mobile.html
Et sur ce site, ils ont aussi d'autres articles sur le sujet et des bons tuto et exemples.
EDIT : J'ajouterais que vu l'évolution ultra rapide des codes et technique, ça demande aussi pas mal de veille.