« Paul Montel a marqué de son empreinte
tout le développement contemporain de l’analyse grâce
à sa découverte des familles normales de fonctions.
Une famille de fonctions est normale
si toute suite d’un nombre infini de fonctions
de cette famille admet au moins une fonction limite.
Il s’agissait de faire sur la fonction
ce que l’Analyse fait sur le nombre
ou le point géométrique ordinaire. »
Emile Borel
Si les idées liées aux familles normales forment le coeur de son héritage scientifique, Montel contribua à d’autres domaines de l’Analyse, comme l’étude des relations entre les coefficients d’un polynôme et la localisation de leurs zéros dans le plan.
Parmi les développements directement issus de ses travaux on retiendra ici la dynamique holomorphe et la théorie des fractales. Dans l’étude des itérées de fonctions polynomiales comme, par exemple, z+z²/2, il existe un ensemble sur lequel la suite des itérées est normale: l’ensemble de Fatou. La dynamique y est régulière, une petite perturbation se répercute en de faibles variations sur la suite des itérées.
Au contraire, son complémentaire, l’ensemble de Julia se caractérise par le fait qu’une petite perturbation au départ se répercute en un changement radical de la suite. De nombreux exemples d’ensembles fractals sont des ensembles de Julia.
« Pour vous représenter Montel en face d’une question mathématique, n’imaginez pas un être tendu, entrant en transe, faisant quelques extravagances et s’écriant : Euréka ! Rappelez-vous Montel répondant à vos questions sur l’éduction de votre fils, ou le film à aller voir, sur le soulagement d’une détresse morale ou matérielle, ou sur la meilleure auberge du Tyrol. Que la question soit mathématique - ou touristique -, il l’examine sous ses divers aspects, précise le problème et, guidé par sa connaissances des choses et des hommes, des autres et de lui-même, il discerne l’essentiel, délimite le possible. C’est pour lui qu’on a défini les mathématiques comme le bon sens organisé. »
H. Lebesgue