Ce travail de thèse décrit l'effet de l'expansion (spatiale et démographique) d'une population humaine sur sa diversité génétique, au moyen d'une approche par simulation. Le logiciel développé dans le cadre de cette étude est présenté de façon détaillée. Il est ensuite utilisé pour décrire la diversité génétique attendue dans une population qui est passée par une phase d'expansion, d'une part dans une aire inoccupée et d'autre part dans une aire déjà peuplée. Cette méthodologie est ensuite appliquée à deux cas particuliers d'expansion en Europe : celle des Hommes modernes entre 45'000 et 30'000 BP, et celle des populations néolithiques entre 10'000 et 5'000 BP. Ces recherches ont montré que la contribution des Néandertaliens au patrimoine génétique des humains modernes est vraisemblablement minimale, et que les gradients de fréquences alléliques observés dans les populations européennes ne sont pas une preuve de la migration des premiers agriculteurs néolithiques depuis le Proche-Orient.