Il partage avec Descartes la gloire d'avoir appliqué l'algèbre à la géométrie. Il imagina pour la solution des problèmes, une méthode, dite de maximis et minimis, qui le fait regarder comme le premier inventeur du calcul différentiel.

Il pose en même temps que Blaise Pascal les bases du calcul des probabilités. Il est au cœur de la théorie moderne des nombres.

Il est très connu pour ses théorèmes :

• le petit théorème de Fermat
• le théorème des 2 carrés de Fermat,
• le théorème sur les nombres polygonaux ; Ce théorème a été démontré dans le cas des nombres carrés par Jacobi et, indépendamment par Joseph-Louis Lagrange au XVIIIe siècle. Gauss résolut le cas des nombres triangulaires en 1796. Une preuve complète a été proposée par Cauchy en 1813.
• le grand théorème de Fermat (ou dernier théorème de Fermat) : Il n'existe pas d'ensemble d'entiers strictement positifs x,y,z vérifiant l'équation x^n + y^n = z^n, lorsque n est un entier tel que n > 2.

On lui doit aussi la méthode de démonstration dite "de la descente infinie".

En optique, on lui doit le principe de Fermat qui dit que le trajet parcouru par la lumière entre deux points est toujours celui qui minimise le temps de parcours.