Le procédé de soudage par frottement et malaxage ou friction stir welding (FSW) est un procédé récent, mais compte déjà un grand nombre d'études théoriques et expérimentales. Toutefois, sur le plan scientifique, de nombreuses interrogations demeurent notamment la dynamique du malaxage, les champs thermiques induits, ainsi que le choix des vitesses de soudages et de la géométrie de l'outil. Cette thèse aborde les thèmes suivant: 1) L'étude de l'influence d'une perturbation de la cinématique de l'outil sur le mouvement de la matière. A une échelle macroscopique où nous étudions l'écoulement de la matière et à une échelle microscopique où nous étudions l'effet de la vibration de l'outil sur le malaxage de la matière. 2) La mise au point d'une méthodologie basée sur un algorithme d'optimisation permettant de définir la géométrie d'un outil conique et les vitesses de soudage optimales pour un matériau donné. 3) L'étude de la problématique du FSW hybride assisté laser diode. Nous présentons les modèles thermiques mis en place pour définir les paramètres laser et discutons les premiers essais réalisés dans l'acier et le titane ainsi que les premiers essais hétérogènes aluminium-fer.