L'objectif de cette thèse est double. Tout d'abord, elle présente une approche de l'apprentissage statistique qui inclus la connaisance d'un domaine spécifique dans le mechanisme d'apprentissage. L'accent est placé sur les performance de prédiction ainsi que sur l'interprétabilité de la méthode proposée. Il est d ́emontré qu'une telle approche réduit de manière conséquente l'espace des modèles possibles explorés. Des exemples numériques ainsi qu'empirique d ́emontrent les bénéfices de la méthode proposée. Ensuite, un algorithme d'encapsulation général pour différent mechanisme d'apprentissage est présenté. Contrairement à la plupart des travaux en apprentissage parcimonieux, cet algorithme délivre un ensemble d'apprenants équivalents en terme de perfomance de prédiction. Cet ensemble permet de créer un réseau defacteurs prédictifs, et donc une séléction de facteurs plus interprétable et réplicable. Des exemples empiriques montrent le potentiel de la méthode en terme de performance de prédiction.