Poly 435

Optimisation et contrôle
Grégoire ALLAIRE, Alexandre ERN

Ecole Polytechnique
31 janvier 2023
Table des matières
1 INTRODUCTION À L’OPTIMISATION ET AU CONTRÔLE 1

1.1 Motivations . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1
1.2 Exemples en optimisation . . . . . . . . . . . . . . . . . . . . . . . . 3
1.3 Exemples en contrôle . . . . . . . . . . . . . . . . . . . . . . . . . . . 8
2 ASPECTS THÉORIQUES DE L’OPTIMISATION 13

2.1 Définitions et notations . . . . . . . . . . . . . . . . . . . . . . . . . . 13
2.2 Optimisation en dimension finie . . . . . . . . . . . . . . . . . . . . . 15
2.3 Existence d’un minimum en dimension infinie . . . . . . . . . . . . . 16
2.3.1 Contre-exemples de non-existence . . . . . . . . . . . . . . . . 16
2.3.2 Analyse convexe . . . . . . . . . . . . . . . . . . . . . . . . . . 18
2.3.3 Résultats d’existence . . . . . . . . . . . . . . . . . . . . . . . 22
2.4 Différentiabilité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24
2.5 Conditions d’optimalité . . . . . . . . . . . . . . . . . . . . . . . . . . 29
2.5.1 Inéquations d’Euler et contraintes convexes . . . . . . . . . . . 29
2.5.2 Contraintes d’égalité et d’inégalité : multiplicateurs de Lagrange 33
2.6 Point-selle, théorème de Kuhn et Tucker, dualité . . . . . . . . . . . . 47
2.6.1 Point-selle . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47
2.6.2 Théorème de Kuhn et Tucker . . . . . . . . . . . . . . . . . . 49
2.6.3 Dualité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 51
3 ALGORITHMES D’OPTIMISATION 59
3.1 Algorithmes de type gradient (sans contraintes) . . . . . . . . . . . . 60
3.1.1 Algorithme de gradient à pas optimal . . . . . . . . . . . . . . 60
3.1.2 Algorithme de gradient à pas fixe . . . . . . . . . . . . . . . . 63
3.2 Généralisations et autres algorithmes de type gradient . . . . . . . . . 66
3.2.1 Vitesse de convergence . . . . . . . . . . . . . . . . . . . . . . 67
3.2.2 Algorithme de Nesterov . . . . . . . . . . . . . . . . . . . . . 71
3.2.3 Algorithme de la boule pesante . . . . . . . . . . . . . . . . . 78
3.2.4 Algorithme du gradient conjugué . . . . . . . . . . . . . . . . 80
3.2.5 Algorithme de sous-gradient . . . . . . . . . . . . . . . . . . . 83
3.2.6 Gradient stochastique . . . . . . . . . . . . . . . . . . . . . . 86
3.2.7 Algorithme proximal . . . . . . . . . . . . . . . . . . . . . . . 89
3.3 Méthode de Newton . . . . . . . . . . . . . . . . . . . . . . . . . . . 92
3.3.1 Cas de la dimension finie . . . . . . . . . . . . . . . . . . . . . 93
i
ii TABLE DES MATIÈRES
3.3.2 Méthode de Gauss-Newton . . . . . . . . . . . . . . . . . . . . 95

3.3.3 Cas de la dimension infinie . . . . . . . . . . . . . . . . . . . . 96
3.3.4 Méthode de Newton avec contraintes d’égalité . . . . . . . . . 97
3.4 Algorithmes de type gradient (avec contraintes) . . . . . . . . . . . . 98
3.4.1 Algorithme de gradient à pas fixe avec projection . . . . . . . 99
3.4.2 Algorithme d’Uzawa . . . . . . . . . . . . . . . . . . . . . . . 101
3.4.3 Pénalisation des contraintes . . . . . . . . . . . . . . . . . . . 105
3.4.4 Algorithme du Lagrangien augmenté . . . . . . . . . . . . . . 108
3.5 Méthodes d’approximations successives . . . . . . . . . . . . . . . . . 110
3.5.1 Programmation linéaire séquentielle . . . . . . . . . . . . . . . 111
3.5.2 Programmation quadratique séquentielle . . . . . . . . . . . . 112
3.6 Modélisation, structures et algorithmes spécifiques . . . . . . . . . . . 113
3.6.1 Fonctions composées et rétro-propagation du gradient . . . . . 113
3.6.2 Optimisation sous contrainte de modèle et état adjoint . . . . 115
3.6.3 Décomposition-coordination . . . . . . . . . . . . . . . . . . . 118
4 PROGRAMMATION LINÉAIRE 121

4.1 Introduction . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 121
4.2 Programmation linéaire . . . . . . . . . . . . . . . . . . . . . . . . . . 122
4.2.1 Définitions et propriétés . . . . . . . . . . . . . . . . . . . . . 122
4.2.2 Algorithme du simplexe . . . . . . . . . . . . . . . . . . . . . 126
4.2.3 Algorithmes de points intérieurs . . . . . . . . . . . . . . . . . 131
4.2.4 Dualité . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 133
4.3 Vers la programmation linéaire en nombres entiers . . . . . . . . . . . 136
4.3.1 Matrices totalement unimodulaires . . . . . . . . . . . . . . . 137
4.3.2 Introduction aux problèmes de flots . . . . . . . . . . . . . . . 139
4.3.3 Problème d’affectation . . . . . . . . . . . . . . . . . . . . . . 143
5 CONTRÔLABILITÉ DES SYSTÈMES DIFFÉRENTIELS 145

5.1 Contrôlabilité des systèmes linéaires . . . . . . . . . . . . . . . . . . . 145
5.1.1 Systèmes de contrôle linéaires . . . . . . . . . . . . . . . . . . 145
5.1.2 Cas sans contraintes : critère de Kalman . . . . . . . . . . . . 147
5.1.3 Cas avec contraintes : ensemble atteignable . . . . . . . . . . . 151
5.2 Contrôlabilité des systèmes non-linéaires . . . . . . . . . . . . . . . . 154
5.2.1 Ensemble atteignable . . . . . . . . . . . . . . . . . . . . . . . 155
5.2.2 Contrôlabilité locale des systèmes non-linéaires . . . . . . . . . 157
6 LE SYSTÈME LINÉAIRE-QUADRATIQUE 161

6.1 Présentation du système LQ . . . . . . . . . . . . . . . . . . . . . . . 161
6.2 Différentielle du critère : état adjoint . . . . . . . . . . . . . . . . . . 163
6.3 Principe du minimum : Hamiltonien . . . . . . . . . . . . . . . . . . . 167
6.4 Équation de Riccati : feedback . . . . . . . . . . . . . . . . . . . . . . 169
7 PRINCIPE DU MINIMUM DE PONTRYAGUINE 173

7.1 Systèmes de contrôle non-linéaires . . . . . . . . . . . . . . . . . . . . 173
7.2 PMP : énoncé et commentaires . . . . . . . . . . . . . . . . . . . . . 175
TABLE DES MATIÈRES iii
7.3 Application au système LQ avec contraintes . . . . . . . . . . . . . . 179

7.4 Exemple non-linéaire : ruche d’abeilles . . . . . . . . . . . . . . . . . 182
7.5 PMP : esquisse de preuve . . . . . . . . . . . . . . . . . . . . . . . . 185
8 ANNEXE : QUELQUES RAPPELS MATHÉMATIQUES 191

8.1 Rappels sur les espaces de Hilbert . . . . . . . . . . . . . . . . . . . . 191
8.2 Notion de sélection mesurable . . . . . . . . . . . . . . . . . . . . . . 195
8.3 Rappels sur les équations différentielles ordinaires . . . . . . . . . . . 198
iv Préface
Préface
Ce cours traite de deux sujets distincts mais étroitement liés en mathématiques

appliquées : l’optimisation et le contrôle. Avant même de présenter ces deux disci-
plines, disons tout de suite qu’à travers leur enseignement un des objectifs de ce
cours est d’introduire le lecteur au monde de la modélisation mathématique et
de son utilisation pour la conception et la commande de systèmes complexes,
issus de tous les domaines de la science et des applications industrielles (ou sciences
de l’ingénieur). La modélisation mathématique est l’art (ou la science, selon le point
de vue) de représenter une réalité physique par des modèles abstraits accessibles à
l’analyse et au calcul qui permettent d’apporter des réponses à la fois qualitatives et
quantitatives à des questions concrètes. La conception des systèmes fait très souvent
appel, explicitement ou implicitement, à la théorie de l’optimisation. D’ailleurs, on
parle souvent de conception optimale. En effet, lorsqu’on conçoit un appareil, une
structure, une organisation ou tout autre « système », on ne se contente pas en gé-
néral de trouver une solution possible mais plutôt la « meilleure » solution possible
et cela passe par l’utilisation de concepts et d’outils d’optimisation. De même le
fonctionnement d’un système évoluant en temps nécessite de pouvoir le piloter ou
le commander afin qu’il réagisse à des événements extérieurs : c’est ce qu’on appelle
la contrôlabilité d’un système.
Les objectifs de ce cours sont de familiariser le lecteur avec les principales no-
tions et résultats théoriques d’optimisation et de contrôle, ainsi que les algorithmes
numériques qui en découlent. Le plan de ce cours est le suivant. Un premier cha-
pitre d’introduction à l’optimisation et au contrôle donne de nombreux exemples
et motivations pour l’étude de ces deux sujets. La première partie du cours (Cha-
pitres 2 à 4) porte sur l’optimisation. Le Chapitre 2 discute des aspects théoriques
de l’optimisation. Il présente quelques résultats d’existence de solutions de pro-
blèmes d’optimisation, notamment à l’aide de notions d’analyse convexe, mais il se
concentre surtout sur la dérivation des conditions (nécessaires ou suffisantes) d’opti-
malité des solutions. Ces conditions sont importantes tant du point de vue théorique
que numérique. Elles permettent de caractériser les optima, et elles sont à la base
des algorithmes numériques que nous décrivons dans le Chapitre 3. Elles reposent
sur des notions fondamentales comme celle des multiplicateurs de Lagrange, du
point-selle pour un Lagrangien ou encore de la dualité. Le Chapitre 3 est donc
consacré aux algorithmes numériques d’optimisation avec ou sans contraintes. Les
algorithmes classiques de type gradient, du premier ordre, ou de type Newton, du se-
cond ordre sont étudiés en détails. De nombreux autres algorithmes, plus spécifiques
ou spécialisés, sont aussi brièvement discutés afin de montrer au lecteur la richesse
des méthodes numériques disponibles en optimisation. Finalement, le Chapitre 4
est dédié à la programmation linéaire qui est un outil essentiel pour la planification
optimale des ressources et des tâches dans toutes les grandes entreprises (domaine
de la recherche opérationnelle).
Préface v
La deuxième partie du cours (Chapitres 5 à 7) est consacré à l’étude des sys-

tèmes de contrôle, c’est-à-dire des systèmes dynamiques sur lesquels on peut agir au
moyen d’un contrôle ou d’une commande. Un premier objectif peut être d’amener
le système d’un état initial donné à un état final (une cible), en respectant éven-
tuellement certaines contraintes (par exemple, la valeur du contrôle ne peut être
trop grande ou bien l’état du système doit appartenir à un domaine admissible). Il
s’agit du problème de la contrôlabilité. Un deuxième objectif peut être celui de
déterminer un contrôle optimal, c’est-à-dire minimisant une fonctionnelle de coût
dépendant du contrôle et de la trajectoire résultant de ce contrôle. Il s’agit du pro-
blème de contrôle optimal. Nous aborderons ces deux problèmes dans ce cours.
Le champ d’applications est très vaste. On rencontre des problèmes de contrôlabilité
et de contrôle optimal dans des domaines très variés, comme l’aéronautique, l’élec-
tronique, le génie des procédés, la médecine, l’économie et la finance, internet et
les communications, etc. Le Chapitre 5 aborde le problème de la contrôlabilité. Le
résultat phare est le critère de Kalman sur la contrôlabilité des systèmes linéaires
autonomes et son extension à la contrôlabilité locale des systèmes non-linéaires.
Le Chapitre 6 est consacré à l’étude du système linéaire-quadratique (dit système
LQ) qui consiste à minimiser un critère quadratique pour un système de contrôle
linéaire. Le système LQ étant particulièrement simple, il nous sera possible de mener
une analyse complète du problème. Celle-ci repose sur diverses idées importantes,
comme la notion d’état adjoint, de Hamiltonien et de feedback (ou rétro–action)
grâce à l’équation de Riccati. Le Chapitre 7 étudie le problème du contrôle optimal
par le biais du principe du minimum de Pontryaguine (PMP). Ce résultat est
de portée générale car il permet de traiter des systèmes régis par des dynamiques
non-linéaires et de considérer des fonctionnelles de coût non-quadratiques. Il s’étend
également au cas où des contraintes d’atteinte de cible sont imposées et à celui où
le temps final n’est pas fixé a priori. Finalement le Chapitre 8 est une annexe qui
regroupe des rappels d’outils mathématiques utiles (espaces de Hilbert, sélections
mesurables, équations différentielles ordinaires).
Le niveau de ce cours est introductif et il n’exige aucun autre prérequis que
le niveau de connaissances acquis en classes préparatoires ou en premier cycle uni-
versitaire. Reconnaissons qu’il est difficile de faire preuve de beaucoup d’originalité
sur ce sujet déjà bien classique dans la littérature. En particulier, notre cours doit
beaucoup à ses prédécesseurs et notamment au cours de Pierre-Louis Lions [23].
Les auteurs remercient à l’avance tous ceux qui voudront bien leur signaler
les inévitables erreurs ou imperfections de cette édition, par exemple par courrier
électronique à l’adresse
gregoire.allaire@polytechnique.fr, alexandre.ern@enpc.fr.
G. Allaire, A. Ern
Paris, le 1er février 2023
vi Préface
Chapitre 1
INTRODUCTION À
L’OPTIMISATION ET AU
CONTRÔLE
Ce chapitre est une introduction aux deux sujets de ce cours qui, quoique dif-
férents et indépendants, partagent de nombreux points communs. L’objectif est de
présenter les motivations à ces deux sujets et d’illustrer leur portée et leur diversité
à travers de nombreux exemples concrets.
1.1 Motivations
L’optimisation et le contrôle sont des sujets très anciens qui connaissent un nou-
vel essor depuis l’apparition des ordinateurs et dont les méthodes s’appliquent dans
de très nombreux domaines : économie, gestion, planification, logistique, automa-
tique, robotique, conception optimale, sciences de l’ingénieur, traitement du signal,
etc. L’optimisation et le contrôle couvrent ainsi un champ scientifique relativement
vaste, qui touche aussi bien au calcul des variations qu’à la recherche opérationnelle
(en lien avec les processus de gestion ou de décision). Nous ne ferons souvent qu’ef-
fleurer ces sujets car il faudrait un polycopié complet pour chacun d’eux si nous
voulions les traiter à fond.
Avant de considérer l’optimisation ou le contrôle d’un phénomène physique ou
d’un système industriel, il faut déjà passer par une étape de modélisation qui
permet de représenter cette réalité (et éventuellement de la simplifier si elle est trop
complexe) par un modèle mathématique. Dans ce qui suit, nous considérerons des
exemples de problèmes d’optimisation et de contrôle où les modèles peuvent être
de nature très différente. Dans le cas le plus simple des problèmes d’optimisation,
le modèle sera une simple équation algébrique et il s’agira simplement d’optimiser
une fonction définie sur un espace de dimension finie (disons Rn ). Une deuxième
catégorie de problèmes correspond au cas où la fonction à optimiser dépend de la
solution d’une équation différentielle ordinaire (autrement dit, cette fonction est
définie sur un espace de dimension infinie, par exemple l’espce C[0, T ] des fonctions
1
2 CHAPITRE 1. INTRODUCTION
continues sur l’intervalle fermé [0, T ] en temps). On parle alors de contrôle (ou de
commande) optimale, et les applications sont très nombreuses en automatique et
robotique. La troisième et dernière catégorie correspond à l’optimisation de fonctions
de la solution d’une équation aux dérivées partielles. Il s’agit alors de la théorie
du contrôle optimal des systèmes distribués qui a de nombreuses applications, par
exemple en conception optimale ou pour la stabilisation de structures mécaniques.
Il ne nous sera pas possible dans ce cours de niveau introductif d’aborder le cas du
contrôle des systèmes distribués. Remarquons néanmoins que ces catégories ne sont
pas hermétiquement cloisonnées puisqu’après discrétisation spatiale une équation
aux dérivées partielles se ramène à un système d’équations différentielles ordinaires
et, qu’après discrétisation temporelle, une équation différentielle ordinaire se ramène
à un système d’équations algébriques.
On peut aussi séparer l’optimisation en deux grandes branches aux méthodes
fort différentes selon que les variables sont continues ou discrètes. Typiquement, si
l’on minimise une fonction f (x) avec x ∈ Rn , il s’agit d’optimisation en variables
continues, tandis que si x ∈ Zn on a affaire à de l’optimisation combinatoire ou
en variables discrètes. Malgré les apparences, l’optimisation en variables continues
est souvent plus “facile” que l’optimisation en variables discrètes car on peut utiliser
la notion de dérivée qui est fort utile tant du point de vue théorique qu’algorith-
mique. L’optimisation combinatoire est naturelle et essentielle dans de nombreux
problèmes de la recherche opérationnelle. C’est un domaine où, à coté de résultats
théoriques rigoureux, fleurissent de nombreuses “heuristiques” essentielles pour ob-
tenir de bonnes performances algorithmiques. Dans ce cours de niveau introductif
nous traiterons majoritairement d’optimisation continue et nous renvoyons au cours
de troisième année [5] pour l’optimisation combinatoire.
Quant aux problèmes de contrôle, on peut également en distinguer deux branches
principales selon que l’objectif soit d’amener le système en un état fixé (on parle
alors de contrôlabilité ou de commandabilité), ou de minimiser une fonction-
nelle évaluant le coût de l’action sur le système. Ce coût résulte bien souvent d’un
compromis entre la réalisation de certaines performances (comme l’atteinte d’une
cible ou le fait de s’en rapprocher) et le coût afférent à la réalisation de ce contrôle
(et dû par exemple à la consommation énergétique, à la poussée des moteurs, etc.)
On parle alors de problèmes de contrôle optimal.
Pour finir cette brève introduction nous indiquons le plan de la suite du cours. Le
reste de ce chapitre présente à travers des exemples les applications de l’optimisation
et du contrôle. Les Chapitres 2, 3 et 4 sont consacrés aux problèmes d’optimisation.
Le Chapitre 2 va principalement porter sur les aspects théoriques. On y étudiera la
question de l’existence et de l’unicité de solutions à des problèmes d’optimisation,
que ce soit en dimension finie ou infinie. En particulier, nous verrons le rôle crucial
de la convexité pour obtenir des résultats d’existence en dimension infinie. Nous
y verrons aussi les conditions d’optimalité, reposant sur les dérivées des fonctions
optimisées, qui permettent de caractériser les solutions possibles. Le Chapitre 3
développera les algorithmes numériques qui découlent de ces conditions d’optimalité.
Le Chapitre 4 traite de la programmation linéaire dans le cas continu ou discret.
Dans ce dernier cas, cela constitue une très brève, et très biaisée, introduction aux
1.2. EXEMPLES EN OPTIMISATION 3
méthodes de la recherche opérationnelle. Pour plus de détails sur l’optimisation nous

renvoyons le lecteur aux ouvrages [6], [13], [15], [27].
Les Chapitres 5, 6 et 7 sont, quant à eux, consacrés au contrôle, en se restrei-
gnant au cas des systèmes régis par des équations différentielles ordinaires en temps
(le cas du contrôle des systèmes distribués ne sera donc pas abordé dans ce cours in-
troductif). En outre nous considérerons uniquement des systèmes déterministes et
n’aborderons pas ici le cas (très important en pratique) des systèmes stochastiques
comme les systèmes avec bruit. Le Chapitre 5 porte sur la contrôlabilité des systèmes
linéaires et non-linéaires. Le résultat phare de ce chapitre est le critère de Kal-
man. Le Chapitre 6 aborde les problèmes de contrôle optimal sous le prisme d’un
exemple relativement simple : le système linaire-quadratique où la dynamique du
système est linéaire et la fonctionnelle de coût quadratique. La relative simplicité du
problème nous permettra d’introduire plusieurs notions clés, comme l’état adjoint,
le Hamiltonien et le feedback grâce à l’équation de Riccati. Enfin le Chapitre 7
considère le cas général d’une dyamique et d’une fonctionnelle non-linéaires, et le
résultat phare est le principe du minimum de Pontryaguine.
Le lecteur désireux d’aller plus loin pourra par exemple consulter [31], ou des
ouvrages plus spécialisés (en anglais) comme [2], [3], [16], [21], [22], [28], [30] ou [32].
1.2 Exemples en optimisation

Passons en revue quelques problèmes typiques d’optimisation, d’importance pra-
tique ou théorique inégale, mais qui permettent de faire le tour des différentes “bran-
ches” de l’optimisation.
Commençons par quelques exemples en recherche opérationnelle, c’est-à-
dire en optimisation de la gestion ou de la programmation des ressources.
Exemple 1.2.1 (problème de transport) Il s’agit d’un exemple de programme

linéaire (ou programmation linéaire). Le but est d’optimiser la livraison d’une mar-
chandise (un problème classique en logistique). On dispose de M entrepôts, indicés
par 1 ≤ i ≤ M , disposant chacun d’un niveau de stocks si . Il faut livrer N clients,
indicés par 1 ≤ j ≤ N , qui ont commandé chacun une quantité rj . Le coût de
transport unitaire entre l’entrepôt i et le client j est donné par cij . Les variables de
décision sont les quantités vij de marchandise partant de l’entrepôt i vers le client
j. On veut minimiser leP coût du transport tout en satisfaisant les commandes des
M PN
clients (on suppose que i=1 si ≥ j=1 rj ). Autrement dit, on veut résoudre
N
M X
!
X
inf cij vij
(vij )
i=1 j=1
sous les contraintes de limites des stocks et de satisfaction des clients

N
X M
X
vij ≥ 0, vij ≤ si , vij = rj pour 1 ≤ i ≤ M, 1 ≤ j ≤ N.
j=1 i=1
Lorsque les coûts cij sont les distances entre i et j et que M

P PN
i=1 si = j=1 rj , il
s’agit du célèbre problème “des déblais et des remblais” de Monge qui a ensuite été
généralisé par Kantorovitch (cette théorie du transport, dit optimal, a de très nom-
breuses applications en gestion, finance, traitement des images, problèmes inverses...
et mathématiques !). Nous étudierons au Chapitre 4 la résolution de ce problème de
programmation linéaire. •
Exemple 1.2.2 (problème d’affectation) Il s’agit d’un exemple d’optimisation

combinatoire ou en variables entières. Imaginez vous à la tête d’une agence ma-
trimoniale... Soit N femmes, indicées par 1 ≤ i ≤ N , et N hommes, indicés par
1 ≤ j ≤ N . Si la femme i et l’homme j sont d’accord pour se marier leur variable
d’accord aij vaut 1 ; dans le cas contraire elle vaut 0. Le but du jeu est de maximiser
le nombre de mariages “satisfaisants” entres ces N femmes et N hommes. Autre-
ment dit, on cherche une permutation σ dans l’ensemble des permutations SN de
{1, ..., N } qui réalise le maximum de
N
X
max aiσ(i) .
σ∈SN
i=1
Une variante consiste à autoriser des valeurs réelles positives de aij ∈ R+ . Ce type
de problèmes est appelé problème d’affectation (il intervient dans des contextes
industriels plus sérieux comme l’affectation des équipages et des avions dans une
compagnie aérienne). Bien que ce ne soit pas forcément la meilleure manière de
poser le problème, on peut l’écrire sous une forme voisine de l’Exemple 1.2.1. Les
variables de décision sont notées vij qui vaut 1 s’il y a mariage entre la femme i et
l’homme j et 0 sinon. On veut maximiser
N X N
!
X
sup aij vij
(vij ) i=1 j=1
sous les contraintes (qui assurent que chaque femme trouvera un mari et chaque
homme une épouse)
N
X N
X
vij = 0 ou 1, vij = 1, vij = 1 pour 1 ≤ i, j ≤ N.
j=1 i=1
On pourrait croire que ce problème d’affectation est simple puisqu’il y a un nombre

fini de possibilités qu’il “suffit” d’énumérer pour trouver l’optimum. Il s’agit bien sûr
d’un leurre car la caractéristique des problèmes combinatoires est leur très grand
nombre de combinaisons possibles qui empêche toute énumération exhaustive en pra-
tique. Dans la formulation avec les variables de décision, si on relaxait la contrainte
vij = 0 ou 1, en 0 ≤ vij ≤ 1 (ce qui correspondrait à une sorte de polygamie ou
mariage à temps partiel !), il s’agirait d’un simple problème de programmation
linéaire, résolu au Chapitre 4. Le vrai problème correspond à des variables entières,
vij = 0 ou 1, ce qui en fait un problème de programmation en nombres entiers qui
est plus délicat mais peut encore se résoudre en le voyant comme un problème de
flot sur un graphe (voir la Section 4.3). Nous ne faisons qu’évoquer ces techniques
dans ce cours et nous renvoyons au cours de troisième année [5] pour plus de détails.
•
Exemple 1.2.3 (optimisation quadratique à contraintes linéaires) Soit A

une matrice carrée d’ordre n, symétrique définie positive. Soit B une matrice rec-
tangulaire de taille m × n. Soit b un vecteur de Rn . On veut résoudre le problème

1
inf J(x) = Ax · x − b · x .
x∈ KerB 2
La contrainte d’appartenance à KerB rend cette minimisation non évidente (voir la

Sous-section 2.5.2 pour sa résolution). •
Un autre exemple algébrique simple et d’une portée très générale est le problème
de moindres carrés avec ajout éventuel d’une régularisation.
Exemple 1.2.4 (moindres carrés et régularisation) Soit A une matrice réelle

d’ordre p × n et b ∈ Rp . On considère le problème “aux moindres carrés”
inf kAx − bk2 . (1.1)

x∈Rn
Evidemment, si p = n et si la matrice A est inversible, alors ce problème admet

comme unique solution x = A−1 b. Mais lorsque A n’est pas inversible ou même
pas carrée, ce problème donne une notion de solution approchée à ce système li-
néaire (cf. la Sous-section 2.5). Il existe de nombreuses motivations qui conduisent
au problème (1.1). Donnons en juste un exemple en terme de problème inverse ou
régression linéaire. Supposons que l’on fasse p expériences physiques qui dépendent
de n paramètres. Le résultat de la i−ème expérience est un nombre bi et les valeurs
des paramètres correspondants sont la i−ème ligne de A. On veut expliquer ces
résultats par une loi linéaire de coefficients xj qui prédit “au mieux” les résultats,
c’est-à-dire que, pour tout 1 ≤ i ≤ p,
n
X
bi ≈ aij xj .
j=1
Le problème aux moindres carrés interprète le “au mieux” en minimisant la distance

euclidienne entre résultats et prédictions.
Parfois, le nombre de paramètres n est très grand (beaucoup plus grand que
p) et on cherche à expliquer les résultats avec un nombre aussi petit que possible
de paramètres “vraiment pertinents”. On dit que l’on cherche une solution “creuse”
ou “parcimonieuse”. On pourrait donc remplacer (1.1) par la minimisation conjointe
de l’écart entre mesures et prédictions et le nombre de composantes non nulles du
vecteur x
infn kAx − bk2 + `kxk0 , (1.2)
x∈R
où ` > 0 est un coefficient de pondération et kxk0 est le nombre de composantes

non nulles du vecteur x (on l’appelle parfois norme l0 de x bien qu’il ne s’agisse
pas d’une norme !). Malheureusement, le problème (1.2) est très difficile à résoudre
(parce que de nature combinatoire). Pour cette raison il est remplacé par un autre
problème qui fait intervenir la norme l1 du vecteur x
n
X
2
inf kAx − bk + `kxk1 avec kxk1 = |xj |. (1.3)
x∈Rn
j=1
Il se trouve que la solution de (1.3) est effectivement creuse, avec de nombreuses

composantes nulles (ce nombre dépend du coefficient `) : nous verrons comment
résoudre (1.3) dans la Sous-section 3.2.7. Le terme kxk1 est appelé terme de régula-
risation : il existe d’autres types de régularisation et cette idée est cruciale pour la
résolution pratique et efficace des problèmes inverses. Le problème (1.3) est connu en
statistiques sous le nom de LASSO (least absolute shrinkage and selection operator).
•
Considérons un exemple classique en économie.
Exemple 1.2.5 (consommation des ménages) On considère un ménage qui

peut consommer n types de marchandise dont les prix forment un vecteur p ∈ Rn+ .
Son revenu à dépenser est un réel b > 0, et ses choix de consommation sont supposés
être modélisés par une fonction d’utilité u(x) de Rn+ dans R (croissante et concave),
qui mesure le bénéfice que le ménage tire de la consommation de la quantité x des
n marchandises. La consommation du ménage sera le vecteur x∗ qui réalisera le
maximum de
max
n
u(x),
x∈R+ ,x·p≤b
c’est-à-dire qui maximise l’utilité sous une contrainte de budget maximal (voir la
Sous-section 2.6.2 pour la résolution). •
Voici maintenant un exemple issu du domaine de l’apprentissage machine (ou
machine learning) qui connait un développement spectaculaire ces dernières années.
Exemple 1.2.6 (apprentissage machine) On dispose d’un très grand nombre de

données (xi )1≤i≤n (des images, du texte, des mesures expérimentales, etc.) caractéri-
sées par des vecteurs xi ∈ Rd et qu’on a déjà classées en les labellisant avec un label
yi qui est très souvent un booléen (ici, −1 ou +1) qui donne un type à la donnée
xi (une image de chat, ou pas ; un texte correct ou injurieux ; un courriel normal
ou un “spam” ; une expérience physique couronnée de succès ou pas). Comme pour
l’Exemple 1.2.4 on introduit une fonction affine, dite de prédiction,
hw,τ (x) = w · x − τ
où w ∈ Rd et τ ∈ R sont des paramètres à optimiser. Si on note sgn(h) la fonction
signe (qui retourne la valeur +1 si h > 0 et −1 si h < 0), on souhaite trouver des
paramètres (w, τ ) tels que la prédiction

sgn hw,τ (xi ) ≈ yi
soit la meilleure possible. Une différence importante avec l’approche fondamentale-

ment linéaire des moindres carrés est que, puisque seul le signe de cette fonction de
prédiction compte, elle est combinée avec une fonction de "perte", très non-linéaire,
comme par exemple la fonction, dite "logistique", définie sur R × {−1, +1} par
P (h, y) = log(1 + exp (−hy))
qui, pour y = −1 (respectivement, y = +1), est convexe et croissante (respective-

ment convexe et décroissante). Autrement dit, on considère le problème d’optimisa-
tion n
1X
inf P (hw,τ (xi ), yi ). (1.4)
w∈Rd ,τ ∈R n
i=1
Comme pour l’Exemple 1.2.4 des moindres carrés, il est d’usage de régulariser le
vecteur des paramètres w et, à l’aide d’un coefficient ` > 0, de considérer une
version augmentée de (1.4)
n
1X `
inf P (hw,τ (xi ), yi ) + kwk22 (1.5)
w∈R ,τ ∈R n
d 2
i=1
où k.k2 est la norme euclidienne. On peut aussi remplacer cette norme par une
norme l1 si l’on souhaite trouver des vecteurs w creux. Il s’agit donc d’un problème
d’apprentissage supervisé (puisqu’on dispose de labels yi fournis par un expert pour
apprendre le modèle à partir des données xi ) dont la solution optimale (w∗ , τ ∗ ) donne
un algorithme de classification, c’est-à-dire
de prédiction
du label pour une nouvelle
donnée x grâce à la formule y = sgn hw∗ ,τ ∗ (x) .
Le problème (1.5) peut aussi s’interpréter comme une séparation des données en
deux classes les plus éloignées possibles au sens de la distance Euclidienne dans Rd :
le rapport 2/kwk2 est la distance entre les deux hyperplans affines w · x − τ = +1 et
w · x − τ = −1 qui séparent les données si celles-ci vérifient yi (w · xi − τ ) ≥ 1. Dans ce
cas, cette technique relève de ce que l’on appelle les machines à vecteurs de support
ou séparateurs à vaste marge (en anglais, support vector machine, ou SVM). •
Exemple 1.2.7 (Entropie) La notion d’entropie est fondamentale, aussi bien en

thermodynamique qu’en physique statistique ou qu’en théorie de l’information. Afin
de ne considérer que des problèmes de minimisation, les mathématiciens changent le
signe de l’entropie (afin de remplacer sa maximisation par sa minimisation). Ainsi,
en théorie de l’information on minimise l’entropie de Shannon
n
X
infn pi log pi ,
p∈Rn
P
+, i=1 pi =1
i=1
voir l’Exercice 2.5.14 pour la solution. Un autre problème de minimisation d’entropie

en théorie cinétique des gaz est proposé à l’Exercice 2.5.15. •
Donnons maintenant un exemple issu du calcul des variations. Il s’agit d’un
problème de minimisation d’énergie qui se retrouve dans de très nombreux exemples
en physique ou en mécanique. On se place ici dans une situation très simple en

une dimension d’espace mais l’approche se généralise aux dimensions supérieures,
au prix toutefois de complications techniques certaines.
Exemple 1.2.8 (calcul des variations) Pour fixer les idées, considérons une poutre
uni-dimensionnelle qui au repos est représentée par le segment de droite (0, L) où
L > 0 est la longueur de la poutre. On note x ∈ (0, L) les points de ce segment. Sous
l’action d’une force f (x), le point x de la poutre se déplace perpendiculairement au
segment d’une distance u(x). On peut trouver la position d’équilibre de la poutre
en résolvant un problème de minimisation d’énergie. L’énergie mécanique totale se
décompose en deux termes : d’une part une énergie de déformation (le terme quadra-
tique en la dérivée u0 (x) ci-dessous), d’autre part une énergie potentielle (le terme
proportionnel à la force ci-dessous). Autrement dit, il s’agit du problème d’optimi-
sation
1 L
Z Z L
0 2
inf µ|u (x)| dx − f (x) u(x) dx,
u∈C 1 (0,L) 2 0 0
où µ > 0 est un coefficient de rigidité de la poutre. Si la poutre est encastrée à une de
ses extrémités (ou aux deux) on rajoutera les contraintes u(0) = 0 et/ou u(L) = 0.
Plus généralement, on peut vouloir résoudre des problèmes du type
Z L
0
inf
1
j u (x), u(x) dx (1.6)
u∈C (0,L) 0
où j(λ, u) est une fonction régulière sur R × R. Nous verrons que l’existence d’une
solution au problème (1.6) n’est absolument pas une évidence et qu’il faut des condi-
tions particulières sur l’intégrande j pour s’en assurer. Par ailleurs, la définition de
l’espace sur lequel on minimise est aussi une question très délicate dont nous ne
dirons rien ici et qui conduit à des développements importants en analyse (disons
seulement que l’espace C 1 (0, L) doit être remplacé par des espaces plus généraux,
de type Sobolev, utilisant la théorie des distributions, voir [1], [9], [15]). •
1.3 Exemples en contrôle

Dans ce cours nous considérerons des systèmes dynamiques à d degrés de li-
berté qui sont régis par un système d’équations différentielles ordinaires en temps
où interviennent k fonctions du temps dont la valeur est choisie en vue de contrôler
le système. On note t ∈ [0,T ] le temps où T > 0 est l’horizon temporel. Cet horizon
temporel est en général fixé, mais on pourra également considérer des problèmes de
contrôle optimal où T n’est pas fixé comme dans les problèmes de temps-optimalité
où on cherche à atteindre une cible en temps optimal. La dynamique du système de
contrôle s’écrit sous la forme générale
ẋ(t) = f (t, x(t), u(t)), ∀t ∈ [0,T ], (1.7)
où la fonction x : [0,T ] → Rd , d ≥ 1, décrit l’état du système, u : [0,T ] → Rk ,

k ≥ 1, est le contrôle, et f : [0,T ] × Rd × Rk → Rd décrit la dynamique du système.
1.3. EXEMPLES EN CONTRÔLE 9
En général, une condition initiale x(0) = x0 ∈ Rd est également prescrite. Ainsi en

choisissant un contrôle u : [0,T ] → Rk , on montre sous des hypothèses relativement
générales et des arguments de type Cauchy–Lipschitz qu’il existe une unique trajec-
toire x : [0,T ] → Rd associée à ce contrôle, au moins si l’horizon temporel n’est pas
trop grand dans le cas non-linéaire. Donnons maintenant quelques exemples, tirés
de [14].
Exemple 1.3.1 (contrôlabilité d’un tram) On considère un tram se déplaçant

le long d’un axe unidirectionnel. L’état du tram est a priori décrit par sa position
X(t), et la variable de contrôle u est l’accélération du tram. En écrivant le principe
fondamental de la dynamique (on considère une masse unité pour simplifier), il vient
Ẍ(t) = u(t), ∀t ∈ [0,T ].
Cette équation différentielle du second ordre en temps se récrit comme un système

d’ordre un en temps en introduisant la vitesse V (t) := Ẋ(t). On obtient

0 1 0 X(t)
ẋ(t) = x(t) + u(t), en posant x(t) := .
0 0 1 V (t)
| {z } |{z}
=:A =:B
Ce système de contrôle se récrit sous la forme (1.7) avec f (t, x, u) = Ax+Bu, si bien
qu’il y a d = 2 degrés de liberté et k = 1 variable de contrôle. En guise de condition
initiale, on prescrit la position et la vitesse du tram à t = 0. Par exemple, le tram
est initialement à l’arrêt (V (0) = 0) à la gare située en X(0) = 0. En se fixant
un horizon temporel T > 0, le problème de la contrôlabilité du tram consiste à se
demander s’il existe un contrôle u : [0,T ] → R capable d’amener le tram au temps
T en une position X1 avec une vitesse V1 (par exemple, X1 peut être la position
de la gare suivante, et dans ce cas on prescrit V1 = 0). Nous verrons dans ce cours
que la réponse à cette question est toujours positive. On peut également poser cette
question en rajoutant une contrainte sur le contrôle, par exemple que celui-ci soit en
tout temps à valeurs dans un ensemble compact, comme [−1, 1], ce qui décrit le fait
que les moteurs du tram ne peuvent fournir qu’une accélération bornée. On peut
également, tout en conservant cette contrainte sur le contrôle, chercher à atteindre
la cible le plus rapidement possible. Par exemple, s’il s’agit d’amener le tram d’une
gare à la suivante, on s’attend à ce qu’un première phase d’accélération soit suivie
par une phase de décélération jusqu’à l’arrêt complet du tram à la prochaine gare.
•
Exemple 1.3.2 (système linéaire-quadratique) On considère un système diffé-

rentiel linéaire avec critère quadratique. Le but est de guider un robot (ou un engin
spatial, un véhicule, etc.) afin qu’il suive “au plus près” une trajectoire prédéfinie.
L’état du robot à l’instant t est représenté par une fonction x(t) à valeurs dans
Rd (typiquement, la position et la vitesse). On agit sur le robot par l’intermédiaire
d’un contrôle u(t) à valeurs dans RM (typiquement, la puissance du moteur, la di-
rection des roues, etc.). En présence de forces f (t) ∈ Rd , les lois de la mécanique
conduisent à un système d’équations différentielles ordinaires (supposées linéaires

pour simplifier)

ẋ(t) = Ax(t) + Bu(t) + f (t) ∀t ∈ [0,T ],
(1.8)
x(0) = x0 ,
où x0 ∈ Rd est l’état initial du système, A et B sont deux matrices constantes de

dimensions respectives d × d et d × k. On note z(t) une trajectoire “cible” et zT une
position finale “cible”. Pour approcher au mieux ces cibles et pour minimiser le coût
du contrôle, on introduit trois matrices symétriques positives R, Q, D dont seule R
est supposée en plus être définie positive. On définit alors un critère quadratique
Z T Z T
J(u) = Ru(t)·u(t)dt+ Q(x−z)(t)·(x−z)(t)dt+D (x(T ) − zT )·(x(T ) − zT ) .
0 0
Remarquons que la fonction x(t) dépend de la variable u à travers (1.8). Comme les
commandes admissibles sont éventuellement limitées (la puissance d’un moteur est
souvent bornée...), on introduit un convexe fermé non vide K de Rk qui représente
l’ensemble des contrôles admissibles. Le problème est donc de résoudre
inf J(u).
u(t)∈K, t∈[0,T ]
Il faudra, bien sûr, préciser dans quels espaces fonctionnels on minimise J(u) et on
définit la solution x de (1.8) (voir le Chapitre 6 pour la résolution). •
Exemple 1.3.3 (aspirateur robot (système de Dubins)) Passons à un premier

exemple de système de contrôle non-linéaire : un aspirateur robot. L’état du système
est décrit par le triplet (X, Y, θ) : [0,T ] → R3 (d = 3). Le couple (X, Y ) repère la
position de l’aspirateur dans le plan et θ l’angle des roues par rapport à l’axe des X.
L’action sur le système s’exerce par le biais d’une fonction u : [0,T ] → R (k = 1) qui
prescrit la vitesse angulaire de l’axe des roues. La dynamique du système est régie
par le système différentiel suivant :

 Ẋ(t) = v cos(θ(t)),

Ẏ (t) = v sin(θ(t)),

← action sur le système

θ̇(t) = u(t),
où v est la vitesse de l’aspirateur, supposée constante pour simplifier. Comme dans le

cas du tram, on peut envisager plusieurs problèmes : celui d’atteindre une cible pres-
crite, de le faire en un minimum de temps ou encore de minimiser une fonctionnelle de
coût résultant d’une pondération (analogue à celle du système liénaire-quadratique)
entre l’adéquation à une trajectoire cible et des valeurs modérées pour le contrôle.
•
Exemple 1.3.4 (traversée d’un canal (problème de Zermelo)) On considère

une barque traversant un canal de largeur `. On considère un repère cartésien où
1.3. EXEMPLES EN CONTRÔLE 11
c(Y ) u `
(0, 0) X
Figure 1.1 – Illustration du problème de Zermelo : barque traversant un canal.
l’axe des X coïncide avec la berge de départ et l’axe des Y est transverse au canal.
La barque a une vitesse d’amplitude constante notée v, et le courant a une vitesse
c(Y ). On suppose que c(Y ) > v, pour tout Y ∈ [0, `] ; il s’agit d’une hypothèse dite
de courant fort car l’amplitude du courant est toujours supérieure à la vitesse de la
barque. La configuration est illustrée à la figure 1.1. Le contrôle est l’angle u ∈ [0, 2π]
de la vitesse de la barque par rapport à l’axe des X, la vitesse étant considérée dans
le repère du courant. L’état de la barque est décrit par le couple x := (X, Y ) ∈ R2
donnant les coordonnées de la barque dans le repère fixé. La trajectoire de la barque
est régie par la dynamique suivante :

v cos(u(t)) + c(Y (t))
ẋ(t) = f (x(t), u(t)) = , ∀t ∈ [0,T ], (1.9)
v sin(u(t))
et la condition initiale est x(0) = (0, 0). Nous pouvons considérer (entre autres) deux
problèmes de contrôle optimal pour atteindre la berge opposée :
1. Minimiser le déport latéral : le critère à minimiser est
J1 (u) = x(T ),
et on rajoute la contrainte de cible Y (T ) = `. On obtient le problème de
minimisation sous contraintes
inf J1 (u).
u(t)∈[0,2π], t∈[0,T ], Y (T )=`
2. Minimiser le temps de traversée : le critère à minimiser est

Z T
J2 (u) = dt = T,
0
et on a toujours la contrainte de cible Y (T ) = `. On obtient le problème de

minimisation sous contraintes
inf J2 (u).
u(t)∈[0,2π], t∈[0,T ], Y (T )=`
On notera que dans ces deux problèmes, le temps T n’est pas fixé et qu’il s’agit d’une
inconnue supplémentaire. Ces deux problèmes peuvent être résolus en appliquant le
principe du minimum de Pontryaguine que nous verrons dans ce cours. •
Chapitre 2
ASPECTS THÉORIQUES DE
L’OPTIMISATION
Dans ce chapitre on introduit les principales notions et résultats d’optimisation.

Les questions d’existence de solutions aux problèmes d’optimisation sont traitées
dans la Section 2.2 pour le cas de la dimension finie, qui est assez simple, et dans
la Section 2.3 pour le cas de la dimension infinie, qui est nettement plus délicat et,
pour tout dire, insatisfaisant (autrement dit, très souvent il n’existe pas de solutions
à des problèmes d’optimisation dont l’inconnue appartient à un espace de dimen-
sion infinie). Afin de pouvoir étudier les conditions d’optimalité qui caractérisent les
éventuelles solutions, la Section 2.4 rappelle un certain nombre de résultats sur la
différentiabilité des fonctions de plusieurs variables, ou plus généralement définies
sur un espace de Hilbert. La Section 2.5 donne la forme des conditions nécessaires
d’optimalité dans deux cas essentiels : lorsque l’ensemble des contraintes est convexe
on obtient une inéquation d’Euler ; lorsqu’il s’agit de contraintes égalités ou inéga-
lités, on obtient une équation faisant intervenir des multiplicateurs de Lagrange.
La Section 2.6 est consacrée au théorème de Kuhn et Tucker qui affirme que,
sous certaines hypothèses de convexité, les conditions nécessaires d’optimalité sont
aussi suffisantes. On y donne aussi un bref aperçu de la théorie de la dualité.
2.1 Définitions et notations

L’optimisation a un vocabulaire particulier : introduisons quelques notations
et définitions classiques. Nous considérons principalement des problèmes de mini-
misation (sachant qu’il suffit d’en changer le signe pour obtenir un problème de
maximisation).
Tout d’abord, l’espace dans lequel est posé le problème, noté V , est supposé
être un espace vectoriel normé, c’est-à-dire muni d’une norme notée kvk. Dans la
Sous-section 2.2 V sera l’espace RN , tandis que dans la section suivante V sera un
espace de Hilbert réel (on pourrait également considérer le cas, plus général, d’un
espace de Banach, c’est-à-dire un espace vectoriel normé complet). On se donne
également un sous-ensemble K ⊂ V où l’on va chercher la solution : on dit que K
13
14 CHAPITRE 2. ASPECTS THÉORIQUES DE L’OPTIMISATION
est l’ensemble des éléments admissibles du problème, ou bien que K définit les
contraintes s’exerçant sur le problème considéré. Enfin, le critère, ou la fonction
coût, ou la fonction objectif, à minimiser, noté J, est une fonction définie sur K
à valeurs dans R. Le problème étudié sera donc noté
inf J(v). (2.1)

v∈K⊂V
Lorsque l’on utilise la notation inf pour un problème de minimisation, cela indique
que l’on ne sait pas, a priori, si la valeur du minimum est atteinte, c’est-à-dire s’il
existe v ∈ K tel que
J(v) = inf J(v).
v∈K⊂V
Si l’on veut indiquer que la valeur du minimum est atteinte, on utilise de préférence
la notation
min J(v),
v∈K⊂V
mais il ne s’agit pas d’une convention universelle (quoique fort répandue). Pour
les problèmes de maximisation, les notations sup et max remplacent inf et min,
respectivement. Précisons quelques définitions de base.
Définition 2.1.1 On dit que u est un minimum (ou un point de minimum) local
de J sur K si et seulement si
u∈K et ∃δ > 0 , ∀v ∈ K , kv − uk < δ =⇒ J(v) ≥ J(u) .
On dit que u est un minimum (ou un point de minimum) global de J sur K si et

seulement si
u ∈ K et J(v) ≥ J(u) ∀v ∈ K .
Définition 2.1.2 On appelle infimum de J sur K (ou, plus couramment, valeur

minimum), que l’on désigne par la notation (2.1), la borne supérieure dans R des
constantes qui minorent J sur K. Si J n’est pas minorée sur K, alors l’infimum
vaut −∞. Si K est vide, par convention l’infimum est +∞.
Une suite minimisante de J dans K est une suite (un )n∈N telle que
un ∈ K ∀ n et lim J(un ) = inf J(v).

n→+∞ v∈K
Par la définition même de l’infimum de J sur K il existe toujours des suites

minimisantes.
Lemme 2.1.3 Pour tout problème d’optimisation, si K est non vide, il existe au
moins une suite minimisante.
Démonstration. Notons m ∈ R ∪ {−∞} la valeur de l’infimum de J sur K.
Par définition, pour tout v ∈ K, J(v) ≥ m. Supposons qu’il n’existe aucune suite
(un )n∈N ∈ K telle que limn→+∞ J(un ) = m. Cela revient à dire qu’il existe > 0 tel
que, pour tout v ∈ K, J(v) ≥ m + . Mais cela est une contradiction avec le fait que
m est définie comme la plus grande constante qui minore J sur K. 2
2.2. OPTIMISATION EN DIMENSION FINIE 15
2.2 Optimisation en dimension finie

Intéressons nous maintenant à la question de l’existence de minima pour
des problèmes d’optimisation posés en dimension finie. Nous supposerons dans cette
N
PN de généralité) que V = R que l’on munit
sous-section (sans perte √ du produit
scalaire usuel u · v = i=1 ui vi et de la norme euclidienne kuk = u · u.
Un résultat assez général garantissant l’existence d’un minimum est le suivant.
Théorème 2.2.1 (Existence d’un minimum en dimension finie) Soit K un

ensemble fermé non vide de RN , et J une fonction continue sur K à valeurs dans
R vérifiant la propriété, dite “infinie à l’infini”,
∀(un )n≥0 suite dans K , lim kun k = +∞ =⇒ lim J(un ) = +∞ . (2.2)

n→+∞ n→+∞
Alors il existe au moins un point de minimum de J sur K. De plus, on peut extraire

de toute suite minimisante de J sur K une sous-suite convergeant vers un point de
minimum sur K.
Démonstration. Soit (un ) une suite minimisante de J sur K. La condition (2.2)

entraîne que un est bornée puisque J(un ) est une suite de réels majorée. Donc, il
existe une sous-suite (unk ) qui converge vers un point u de RN . Mais u ∈ K puisque
K est fermé, et J(unk ) converge vers J(u) par continuité, d’où J(u) = inf v∈K J(v)
d’après la Définition 2.1.2. 2
Remarque 2.2.2 Notons que la propriété (2.2), qui assure que toute suite minimi-
sante de J sur K est bornée, est automatiquement vérifiée si K est borné. Lorsque
l’ensemble K n’est pas borné, cette condition exprime que, dans K, J est infinie à
l’infini. •
Exercice 2.2.1 Montrer par des exemples que le fait que K est fermé ou que J est
continue est en général nécessaire pour l’existence d’un minimum. Donner un exemple
de fonction continue et minorée de R dans R n’admettant pas de minimum sur R.
Exercice 2.2.2 Montrer que l’on peut remplacer la propriété “infinie à l’infini” (2.2)
par la condition plus faible

inf J(v) < lim inf J(v) .
v∈K R→+∞ kvk≥R
Exercice 2.2.3 Montrer que l’on peut remplacer la continuité de J par la semi-
continuité inférieure de J définie par
∀(un )n≥0 suite dans K , lim un = u =⇒ lim inf J(un ) ≥ J(u) .

n→+∞ n→+∞
Exercice 2.2.4 Montrer qu’il existe un minimum pour les Exemples 1.2.1 et 1.2.3.
2.3 Existence d’un minimum en dimension infinie

2.3.1 Contre-exemples de non-existence
Cette sous-section est consacrée à deux exemples montrant que l’existence d’un
minimum en dimension infinie n’est absolument pas garantie par des conditions
du type de celles utilisées dans l’énoncé du Théorème 2.2.1. Cette difficulté est inti-
mement liée au fait qu’en dimension infinie les fermés bornés ne sont pas compacts !
Commençons par donner un exemple abstrait qui explique bien le mécanisme
de “fuite à l’infini” qui empêche l’existence d’un minimum.
Exemple 2.3.1 Soit l’espace de Hilbert (de dimension infinie) des suites de carré
sommable dans R
( +∞
)
X
`2 (R) = x = (xi )i≥1 tel que x2i < +∞ ,
i=1
P+∞
muni du produit scalaire hx, yi = i=1 xi yi . On considère la fonction J définie sur
`2 (R) par
+∞ 2
2 X
2 xi
J(x) = kxk − 1 + .
i=1
i
Prenant K = `2 (R), on considère le problème
inf J(x) , (2.3)

x∈`2 (R)
pour lequel nous allons montrer qu’il n’existe pas de point de minimum. Vérifions
tout d’abord que
inf J(x) = 0.
x∈`2 (R)
Introduisons la suite xn dans `2 (R) définie par xni = δin pour tout i ≥ 1, où δin est
le symbole de Kronecker qui vaut 1 si i = n et 0 sinon. On vérifie aisément que
1
J(xn ) = → 0 quand n → +∞.
n
Comme J est positive, on en déduit que xn est une suite minimisante et que la valeur
du minimum est nulle. Cependant, il est évident qu’il n’existe aucun x ∈ `2 (R) tel
que J(x) = 0. Par conséquent, il n’existe pas de point de minimum pour (2.3).
On voit dans cet exemple que la suite minimisante xn “part à l’infini” et n’est pas
compacte dans `2 (R) (bien qu’elle soit bornée). •
Voici maintenant un exemple modèle qui, malgré son caractère simplifié, est
très représentatif de problèmes réalistes et pratiques de minimisation d’énergies de
transition de phases en science des matériaux.
2.3. EXISTENCE D’UN MINIMUM EN DIMENSION INFINIE 17
h/n
0 k/n 1
Figure 2.1 – Suite minimisante un pour l’Exemple 2.3.2.
Exemple 2.3.2 On considère l’espace V des fonctions continues et dérivables par

morceaux sur le segment (0, 1), muni du produit scalaire
Z 1
hu, vi = (u0 (x)v 0 (x) + u(x)v(x)) dx
0
et de la norme kvk = hv, vi1/2 . On pose K = V et, pour 1 ≥ h > 0, on considère

Z 1
0 2 2
Jh (v) = (|v (x)| − h) + v(x) dx .
0
L’application J est continue sur V , et la condition (2.2) est vérifiée puisque

Z 1
1 1 0 2 kvk2
Z
2 0 2 2
Jh (v) = kvk − 2h |v (x)|dx + h ≥ kvk − v (x) dx − h2 ≥ − h2 .
0 2 0 2
Montrons que
inf Jh (v) = 0 , (2.4)
v∈V
ce qui impliquera qu’il n’existe pas de minimum de Jh sur V : en effet, si (2.4) a

lieu et si u était un minimum de Jh sur V , on devrait avoir Jh (u) = 0, d’où u ≡ 0
et |u0 | ≡ h > 0 (presque partout) sur (0, 1), ce qui est impossible.
Pour obtenir (2.4), on construit une suite minimisante (un ) définie pour n ≥ 1 par
k k 2k + 1

 h(x − )
 si ≤ x ≤ ,
un (x) = n n 2n pour 0 ≤ k ≤ n − 1 ,
 h( k + 1 − x) si 2k + 1 ≤ x ≤ k + 1 ,

n 2n n
comme le montre la Figure 2.1. On voit facilement que un ∈ V et que la déri-
n 0 n
R 1 n(u )2(x) neh2prend que deux valeurs : +h et −h. Par conséquent, Jh (u ) =
vée
0
u (x) dx = 4n , ce qui prouve (2.4), c’est-à-dire que Jh n’admet pas de point de
minimum sur V . Et pourtant, si h = 0, il est clair que J0 admet un unique point de
minimum v ≡ 0 ! •
Remarque 2.3.1 Le lecteur attentif pourrait faire remarquer que l’espace V dans
l’Exemple 2.3.2 n’est pas un espace de Hilbert. Mais ce n’est pas là que se place
la difficulté et le même résultat est vrai si on remplace V par l’espace de Sobolev
H 1 (0, 1) qui, muni du même produit scalaire, est bien un espace de Hilbert de
dimension infinie, voir par exemple [1].
A la lumière de ces contre-exemples, examinons la difficulté qui se présente en

dimension infinie et sous quelles hypothèses nous pouvons espérer obtenir un résultat
d’existence pour un problème de minimisation posé dans un espace de Hilbert de
dimension infinie.
Soit V un espace vectoriel de norme kvk. Soit J une fonction définie sur une
partie K de V à valeurs dans R, vérifiant la condition (2.2) (infinie à l’infini). Alors,
toute suite minimisante (un ) du problème
inf J(v) (2.5)
v∈K
est bornée. En dimension finie (si V = RN ), on conclut aisément comme dans la

Sous-section 2.2 en utilisant la compacité des fermés bornés (et en supposant que K
est fermé et que J est continue ou semi-continue inférieurement). Malheureusement,
un tel résultat est faux en dimension infinie, comme nous venons de le constater. De
manière générale, on peut conclure si le triplet (V, K, J) vérifie la condition suivante :
pour toute suite (un )n≥1 dans K telle que supn∈N kun k < +∞ on a
lim J(un ) = ` < +∞ =⇒ ∃ u ∈ K tel que J(u) ≤ ` . (2.6)
n→+∞
Ainsi, sous les conditions (2.2) et (2.6), le problème (2.5) admet une solution.
Malheureusement, la condition (2.6) est inutilisable car invérifiable en général !
On peut cependant la vérifier pour une classe particulière de problèmes, très im-
portants en théorie comme en pratique : les problèmes de minimisation convexe.
Comme nous le verrons dans la Sous-section 2.3.3, si V est un espace de Hilbert,
K un convexe fermé de V , et que J est une fonction convexe et continue sur
K, alors (2.6) a lieu et le problème (2.5) admet une solution. Les motivations pour
introduire ces conditions sont, d’une part, que les hypothèses de convexité sont
souvent naturelles dans beaucoup d’applications, et d’autre part, qu’il s’agit d’une
des rares classes de problèmes pour lesquels la théorie est suffisamment générale et
complète. Mais ceci ne signifie pas que ces conditions sont les seules qui assurent
l’existence d’un minimum ! Néanmoins, en dehors du cadre convexe développé dans
les sous-sections suivantes, des difficultés du type de celles rencontrées dans les
contre-exemples précédents peuvent survenir.
2.3.2 Analyse convexe

Dans tout ce qui suit, nous supposerons que V est un espace de Hilbert muni
d’un produit scalaire hu, vi et d’une norme associée kvk. Rappelons qu’un ensemble
K est convexe s’il contient tous les segments reliant deux quelconques de ses points
(voir la Définition 8.1.2). Donnons quelques propriétés des fonctions convexes.
Définition 2.3.2 On dit qu’une fonction J définie sur un ensemble convexe non
vide K ∈ V et à valeurs dans R est convexe sur K si et seulement si
J(θu + (1 − θ)v) ≤ θJ(u) + (1 − θ)J(v) ∀ u, v ∈ K , ∀ θ ∈ [0, 1] . (2.7)
De plus, J est dite strictement convexe si l’inégalité (2.7) est stricte lorsque u 6= v
et θ ∈]0, 1[.
Remarque 2.3.3 Si J est une application définie sur K à valeurs dans R, on appelle
épigraphe de J l’ensemble Epi(J) = {(λ, v) ∈ R × K , λ ≥ J(v)}. Alors J est
convexe si et seulement si Epi(J) est une partie convexe de R × V . •
Exercice 2.3.1 Soient J1 et J2 deux fonctions convexes sur V, λ > 0, et ϕ une fonction
convexe croissante sur un intervalle de R contenant l’ensemble J1 (V ). Montrer que
J1 + J2 , max(J1 , J2 ), λJ1 et ϕ ◦ J1 sont convexes.
Exercice 2.3.2 Soit (Li )i∈I une famille (éventuellement infinie) de fonctions affines
sur V . Montrer que supi∈I Li est convexe sur V . Réciproquement, soit J une fonction
convexe continue sur V . Montrer que J est égale au supLi ≤J Li où les fonctions Li sont
affines.
Pour les fonctions convexes il n’y a pas de différence entre minima locaux et
globaux comme le montre le résultat élémentaire suivant.
Proposition 2.3.4 Si J est une fonction convexe sur un ensemble convexe K, tout
point de minimum local de J sur K est un minimum global et l’ensemble des points
de minimum est un ensemble convexe (éventuellement vide).
Si de plus J est strictement convexe, alors il existe au plus un point de minimum.
Démonstration. Soit u un minimum local de J sur K. D’après la Définition 2.1.1,
nous pouvons écrire
∃ δ > 0 , ∀ w ∈ K , kw − uk < δ =⇒ J(w) ≥ J(u) . (2.8)
Soit v ∈ K. Pour θ ∈]0, 1[ suffisamment petit, wθ = θv +(1−θ)u vérifie kwθ −uk < δ
et wθ ∈ K puisque K est convexe. Donc, J(wθ ) ≥ J(u) d’après (2.8), et la convexité
de J implique que J(u) ≤ J(wθ ) ≤ θJ(v) + (1 − θ)J(u), ce qui montre bien que
J(u) ≤ J(v), c’est-à-dire que u est un minimum global sur K.
D’autre part, si u1 et u2 sont deux minima et si θ ∈ [0, 1], alors w = θu1 + (1 −
θ)u2 est un minimum puisque w ∈ K et que
inf J(v) ≤ J(w) ≤ θJ(u1 ) + (1 − θ)J(u2 ) = inf J(v) .
v∈K v∈K
Le même raisonnement avec θ ∈]0, 1[ montre que, si J est strictement convexe, alors
nécessairement u1 = u2 . 2
Une propriété agréable des fonctions convexes “propres” (c’est-à-dire qui ne
prennent pas la valeur +∞) est qu’elles sont continues.
Lemme 2.3.5 Soit v0 ∈ V et J une fonction convexe majorée sur la boule unité de
centre v0 . Alors J est continue sur cette boule ouverte.
Démonstration. Sans perte de généralité, par translation et addition on peut se
ramener au cas où v0 = 0 et J(0) = 0. Soit v 6= 0, kvk < 1 et M la majoration de J
sur la boule unité. Par convexité de J pour θ = kvk, on a

v v
J(v) = J θ + (1 − θ)0 ≤ θJ( ) + (1 − θ)J(0) ≤ M kvk
kvk kvk
Par ailleurs, par convexité

1 kvk −v 1
0 = J(0) ≤ J(v) + J( )≤ (J(v) + M kvk),
1 + kvk 1 + kvk kvk 1 + kvk
d’où l’on déduit la continuité en 0
|J(v)| ≤ M kvk.
La continuité aux autres points, à l’intérieur de la boule unité, s’obtient par un
argument similaire sur une plus petite boule qui est un voisinage de ce point. 2
Nous nous servirons par la suite d’une notion de “forte convexité” plus restric-
tive que la stricte convexité.
Définition 2.3.6 On dit qu’une fonction J, définie sur un ensemble convexe K, est
fortement convexe (ou α-convexe) s’il existe α > 0 tel que, pour tout u, v ∈ K et
tout θ ∈ [0, 1],
αθ(1 − θ)
J(θu + (1 − θ)v) ≤ θJ(u) + (1 − θ)J(v) − ku − vk2 . (2.9)
2
Evidemment, les fonctions fortement convexes sont également strictement convexes.
Dans la Définition 2.3.6, il est possible de ne tester la forte convexité de J que pour
la valeur θ = 1/2, comme le montre l’exercice suivant.
Exercice 2.3.3 Soit J une fonction continue sur un ensemble convexe K et α > 0
tels que, pour tout u, v ∈ K,

u+v J(u) + J(v) α
J ≤ − ku − vk2 . (2.10)
2 2 8
Montrer que J est fortement ou α-convexe.
Exercice 2.3.4 Montrer qu’une fonction J, définie sur un ensemble convexe K, est
fortement ou α-convexe si et seulement si la fonction J(v) − α2 kvk2 est convexe sur K.
Exercice 2.3.5 Soit A une matrice symétrique d’ordre N et b ∈ RN . Pour x ∈ RN ,

on pose J(x) = 21 Ax · x − b · x. Montrer que J est convexe si et seulement si A est
semi-définie positive, et que J est strictement convexe si et seulement si A est définie
positive. Dans ce dernier cas, montrer que J est aussi fortement convexe et trouver la
meilleure constante α.
Exercice 2.3.6 Soit V un espace de Hilbert (avec les notations usuelles pour son
produit scalaire et sa norme). Soit L(v) une forme linéaire continue sur V , et soit
a(u, v) une forme bilinéaire continue et symétrique sur V × V . Soit la fonction J définie
sur V par
1
J(v) = a(v, v) − L(v).
2
Montrer que J est convexe sur V si a est positive, c’est-à-dire a(v, v) ≥ 0 pour tout
v ∈ V . Montrer que J est fortement convexe sur V si a est coercive, c’est-à-dire s’il
existe C > 0 tel que a(v, v) ≥ Ckvk2 pour tout v ∈ V .
Le résultat suivant sera essentiel dans l’obtention d’un résultat d’existence d’un
minimum en dimension infinie. En particulier, il permet de conclure qu’une fonction
J fortement convexe et continue sur un ensemble K convexe fermé non vide est
“infinie à l’infini” dans K, c’est-à-dire vérifie la propriété (2.2).
Proposition 2.3.7 Si J est convexe continue sur un ensemble K convexe fermé

non vide, alors il existe une forme linéaire continue L ∈ V 0 et une constante δ ∈ R
telles que
J(v) ≥ L(v) + δ ∀ v ∈ K . (2.11)
Si de plus J est fortement convexe sur K, alors il existe deux constantes γ > 0 et
η ∈ R telles que
J(v) ≥ γkvk2 + η ∀ v ∈ K . (2.12)
Démonstration. Prouvons d’abord (2.11). Si J est convexe continue (ou simple-

ment semi-continue inférieurement) sur un ensemble K convexe fermé non vide, alors
son épigraphe Epi(J) (défini dans la Remarque 2.3.3) est convexe fermé non vide.
Soit v0 ∈ K et λ0 < J(v0 ). Puisque (λ0 , v0 ) ∈
/ Epi(J), nous déduisons du Théorème
8.1.12 de séparation d’un point et d’un convexe l’existence de α, β ∈ R et d’une
forme linéaire continue L ∈ V 0 tels que
βλ + L(v) > α > βλ0 + L(v0 ) ∀ (λ, v) ∈ Epi(J) . (2.13)
Comme, pour v fixé, on peut prendre λ arbitrairement grand dans le membre de

gauche de (2.13), il est clair que β ≥ 0 ; de plus, comme on peut prendre v = v0 dans
le membre de gauche de (2.13), β ne peut être nul. On a donc β > 0. On déduit
alors de (2.13), en choisissant λ = J(v), que J(v) + L(v)/β > α/β pour tout v ∈ K,
ce qui prouve (2.11).
Prouvons maintenant (2.12). Soit encore v0 ∈ K fixé. Pour tout v ∈ K, (2.9)
pour θ = 1/2 et (2.11) impliquent que

J(v) J(v0 ) v + v0 α L(v) + L(v0 ) α
+ ≥J + kv − v0 k2 ≥ + kv − v0 k2 + δ .
2 2 2 8 2 8
On en déduit
α α
J(v) ≥ kvk2 − hv, v0 i + L(v) + C1 ,
4 2
avec C1 = (α/4)kv0 k2 + L(v0 ) − J(v0 ) + 2δ. D’après l’inégalité de Cauchy-Schwarz
appliqué à hv, v0 i et la continuité de L, i.e. |L(v)| ≤ kLkV 0 kvk (voir la Définition
8.1.10), il vient

α 2 αkv0 k α
J(v) ≥ kvk − kLkV 0 + kvk + C1 ≥ kvk2 + η ,
4 2 8
pour η ∈ R bien choisi. 2

2.3.3 Résultats d’existence

Nous pouvons maintenant énoncer un premier résultat d’existence de minimum
dans le cas particulier où J est fortement convexe (α-convexe).
Théorème 2.3.8 (Existence d’un minimum, cas fortement convexe) Soit K

un convexe fermé non vide d’un Hilbert V et J une fonction α-convexe continue sur
K. Alors, il existe un unique minimum u de J sur K et on a
4
kv − uk2 ≤ J(v) − J(u) ∀v ∈ K . (2.14)
α
En particulier, toute suite minimisante de J sur l’ensemble K converge vers u.
Démonstration. Soit (un )n∈N une suite minimisante de J sur K. D’après (2.12),
J(v) ≥ δ pour tout v ∈ K, c’est-à-dire que J est minorée sur K, donc inf v∈K J(v)
est une valeur finie. Pour n, m ∈ N la propriété (2.10) de forte convexité entraîne
que
n
u + um

α n m 2 α n m 2
ku − u k ≤ ku − u k + J − inf J(v)
8 8 2 v∈K

1 n 1 m
≤ J(u ) − inf J(v) + J(u ) − inf J(v) ,
2 v∈K 2 v∈K
ce qui montre que la suite (un ) est de Cauchy, et donc converge vers une limite u,
qui est nécessairement un minimum de J sur K puisque J est continue et K fermé.
L’unicité du point de minimum a été montrée dans la Proposition 2.3.4. Enfin, si
v ∈ K, (u + v)/2 ∈ K car K est convexe, d’où, toujours grâce à (2.10),

α 2 J(u) J(v) u+v J(v) − J(u)
ku − vk ≤ + −J ≤ ,
8 2 2 2 2

u+v
car J ≥ J(u). 2
2
Il est possible de généraliser en grande partie le Théorème 2.3.8 au cas de
fonctions J qui sont seulement convexes (et non pas fortement convexes). Cependant,
autant la démonstration du Théorème 2.3.8 est élémentaire, autant celle du théorème
suivant est délicate. Elle repose en particulier sur la notion de convergence faible
que l’on peut considérer comme “hors-programme” dans le cadre de ce cours.
Théorème 2.3.9 (Existence d’un minimum, cas convexe) Soit K un convexe

fermé non vide d’un espace de Hilbert V , et J une fonction convexe continue sur
K, qui est “infinie à l’infini” dans K, c’est-à-dire qui vérifie la condition (2.2), à
savoir,
∀(un )n≥0 suite dans K , lim kun k = +∞ =⇒ lim J(un ) = +∞ .

n→+∞ n→+∞
Alors il existe un minimum de J sur K.

Remarque 2.3.10 Le Théorème 2.3.9 donne l’existence d’un minimum comme le

précédent Théorème 2.3.8, mais ne dit rien sur l’unicité ni sur l’estimation d’er-
reur (2.14). Remarquons au passage que (2.14) sera fort utile pour l’étude d’algo-
rithmes numériques de minimisation puisqu’elle fournit une estimation de la vitesse
de convergence d’une suite minimisante (un ) vers le point de minimum u. •
Remarque 2.3.11 Le Théorème 2.3.9 reste vrai si l’on suppose simplement que V
est un espace de Banach réflexif (i.e. que le dual de V 0 est V ). •
Nous indiquons brièvement comment on peut démontrer le Théorème 2.3.9 dans
le cas d’un espace de Hilbert séparable (c’est-à-dire qui admet une base hilbertienne
dénombrable). On définit la notion de convergence faible dans V (pour plus de
détails à ce sujet, voir les chapitres 3 et 5 de [9]).
Définition 2.3.12 On dit qu’une suite (un )n∈N de V converge faiblement vers u ∈ V
si
∀ v ∈ V , lim hun , vi = hu, vi .
n→+∞
Soit (ei )i≥1 une base hilbertienne de V . Si on note uni = hun , ei i les composantes
dans cette base d’une suite un , uniformément bornée dans V , il est facile de vérifier
que la Définition 2.3.12 de la convergence faible est équivalente à la convergence
de toutes les suites de composantes (uni )n≥1 pour i ≥ 1.
Comme son nom l’indique la convergence faible est une notion “plus faible”
que la convergence usuelle dans V . En effet, par simple application de l’inégalité de
Cauchy-Schwarz, on voit que si un converge vers u, c’est-à-dire si limn→+∞ kun −
uk = 0, alors un converge faiblement vers u. Réciproquement, en dimension infinie il
existe des suites qui convergent faiblement mais pas au sens usuel (que l’on appelle
parfois “convergence forte” par opposition). Par exemple, la suite un = en converge
faiblement vers zéro, mais pas fortement puisqu’elle est de norme constante égale à
1. L’intérêt de la convergence faible vient du résultat suivant.
Lemme 2.3.13 De toute suite (un )n∈N bornée dans V on peut extraire une sous-
suite qui converge faiblement.
Démonstration. Comme la suite un est bornée, chaque suite d’une composante
uni est bornée dans R. Pour chaque i, il existe donc une sous-suite, notée uni i , qui
converge vers une limite ui . Par un procédé d’extraction diagonale de suites, on
0
obtient alors une sous-suite commune n0 telle que, pour tout i, uni converge vers ui .
0
Ce qui prouve que un converge faiblement vers u (on vérifie que u ∈ V ). 2
Si on appelle “demi-espace fermé” de V tout ensemble de la forme {v ∈ V , L(v) ≤

α}, où L est une forme linéaire continue non identiquement nulle sur V et α ∈ R,
on peut caractériser de façon commode les ensembles convexes fermés.
Lemme 2.3.14 Une partie convexe fermée K de V est l’intersection des demi-
espaces fermés qui contiennent K.
Démonstration. Il est clair que K est inclus dans l’intersection des demi-espaces
fermés qui le contiennent. Réciproquement, supposons qu’il existe un point u0 de
cette intersection qui n’appartiennent pas à K. On peut alors appliquer le Théorème
8.1.12 de séparation d’un point et d’un convexe et construire ainsi un demi-espace
fermé qui contient K mais pas u0 . Ceci est une contradiction avec la définition de
u0 , donc u0 ∈ K. 2
Lemme 2.3.15 Soit K un ensemble convexe fermé non vide de V . Alors K est
fermé pour la convergence faible.
De plus, si J est convexe et semi-continue inférieurement sur K (voir l’Exercice
2.2.3 pour cette notion), alors J est aussi semi-continue inférieurement sur K pour
la convergence faible.
Démonstration. Par définition, si un converge faiblement vers u, alors L(un )
converge vers L(u). Par conséquent, un demi-espace fermé de V est fermé pour la
convergence faible. Le Lemme 2.3.14 permet d’obtenir la même conclusion pour K.
D’après les hypothèses sur J, l’ensemble Epi(J) (défini à la Remarque 2.3.3)
est un convexe fermé de R × V , donc il est aussi fermé pour la convergence faible.
On en déduit alors facilement le résultat : si la suite (v n ) tend faiblement vers v
dans K, alors lim inf n→+∞ J(v n ) ≥ J(v). 2
Nous avons maintenant tous les ingrédients pour finir.

Démonstration du Théorème 2.3.9. D’après (2.2), toute suite minimisante (un )
0
est bornée. On déduit alors du Lemme 2.3.13 qu’il existe une sous-suite (un ) conver-
geant faiblement vers une limite u ∈ V . Mais, d’après le Lemme 2.3.15, u ∈ K et
0
J(u) ≤ lim
0
inf J(un ) = inf J(v) .
n →+∞ v∈K
Le point u est donc bien un minimum de u sur K. 2
2.4 Différentiabilité
Jusqu’ici nous ne nous sommes intéressés qu’aux questions d’existence de mini-
mum aux problèmes d’optimisation. Mais il importe aussi de caractériser les points
de minimum, autant d’un point de vue théorique que pratique, afin de les calculer.
Pour ce faire, on utilise des conditions d’optimalité, c’est-à-dire des conditions
nécessaires et parfois suffisantes de minimalité. Ces conditions d’optimalité s’écrivent
avec les dérivées de la fonction objectif et des éventuelles contraintes. Nous allons
donc rappeler comment on calcule ces dérivées ou différentielles de fonctions définies
sur des espaces de Hilbert.
Avant d’en venir à ces considérations techniques, nous motivons l’étude de ces
conditions d’optimalité en rappelant le cas, très simple, du calcul des minima d’une
fonction dérivable J(x) définie sur l’intervalle [a, b] ⊂ R à valeurs réelles. Il est bien
connu que si x0 est un point de minimum local de J sur l’intervalle [a, b], alors on a
J 0 (x0 ) ≥ 0 si x0 = a , J 0 (x0 ) = 0 si x0 ∈]a, b[ , J 0 (x0 ) ≤ 0 si x0 = b .

2.4. DIFFÉRENTIABILITÉ 25
Rappelons la démonstration élémentaire de cette remarque : si x0 ∈ [a, b[, on peut

choisir x = x0 + h avec h > 0 petit et écrire J(x) ≥ J(x0 ), d’où J(x0 ) + hJ 0 (x0 ) +
o(h) ≥ J(x0 ), ce qui donne J 0 (x0 ) ≥ 0 en divisant par h et en faisant tendre h vers
0. De même obtient-on J 0 (x0 ) ≤ 0 si x0 ∈]a, b] en considérant x = x0 − h, ce qui
permet de conclure.
La stratégie d’obtention et de démonstration des conditions de minimalité est
donc claire : on tient compte des contraintes (x ∈ [a, b] dans l’exemple ci-dessus)
pour tester la minimalité de x0 dans des directions particulières qui respectent les
contraintes (x0 + h avec h > 0 si x0 ∈ [a, b[, x0 − h avec h > 0 si x0 ∈]a, b]) : on
parlera de directions admissibles. On utilise ensuite la définition de la dérivée
pour conclure. C’est exactement ce que nous ferons dans la section suivante !
Nous introduisons maintenant la notion de dérivée première d’une fonction J(u)
définie sur un espace de Hilbert réel V , et à valeurs dans R. Le produit scalaire dans
V est toujours noté hu, vi et la norme associée kuk. Dès que l’espace V n’est plus
la droite réelle R (et même si V est l’espace vectoriel RN , cas particulièrement
simple d’espace de Hilbert), la “bonne” notion théorique de dérivabilité, appelée
différentiabilité au sens de Fréchet, est donnée par la définition suivante.
Définition 2.4.1 On dit que la fonction J, définie sur un voisinage de u ∈ V à

valeurs dans R, est dérivable (ou différentiable) au sens de Fréchet en u s’il existe
une forme linéaire continue sur V , L ∈ V 0 , telle que
|o(w)|
J(u + w) = J(u) + L(w) + o(w) avec lim =0. (2.15)
w→0 kwk
On appelle L la dérivée (ou la différentielle, ou le gradient) de J en u et on note
L = J 0 (u).
Remarque 2.4.2 La Définition 2.4.1 est en fait valable si V est seulement un espace
de Banach (on n’utilise pas de produit scalaire dans (2.15)). Cependant, si V est un
espace de Hilbert, on peut préciser la relation (2.15) en identifiant V et son dual V 0
grâce au Théorème de représentation de Riesz 8.1.11. En effet, il existe un unique
p ∈ V tel que hp, wi = L(w), donc (2.15) devient
|o(w)|
J(u + w) = J(u) + hp, wi + o(w) avec lim =0. (2.16)
w→0 kwk
On note aussi parfois p = J 0 (u), ce qui peut prêter à confusion... La formule (2.16)
est souvent plus “naturelle” que (2.15), notamment si V = Rn ou V = L2 (Ω). •
Dans la plupart des applications, il suffit souvent de déterminer la forme linéaire
continue L = J 0 (u) ∈ V 0 car on n’a pas besoin de l’expression explicite de p = J 0 (u) ∈
V lorsque V 0 est identifié à V . En pratique, il est plus facile de trouver l’expression
explicite de L que celle de p, comme le montrent les exercices suivants.
Exercice 2.4.1 Montrer que (2.15) implique la continuité de J en u. Montrer aussi

que, si deux formes linéaires continues L1 , L2 vérifient

J(u + w) ≥ J(u) + L1 (w) + o(w) ,
(2.17)
J(u + w) ≤ J(u) + L2 (w) + o(w) ,
alors J est dérivable et L1 = L2 = J 0 (u).
Exercice 2.4.2 Soit a une forme bilinéaire symétrique continue sur V × V . Soit L une
forme linéaire continue sur V . On pose J(u) = 21 a(u, u) − L(u). Montrer que J est
dérivable sur V et que hJ 0 (u), wi = a(u, w) − L(w) pour tout u, w ∈ V .
Exercice 2.4.3 Soit A une matrice symétrique N × N et b ∈ RN . Pour x ∈ RN , on

pose J(x) = 12 Ax · x − b · x. Montrer que J est dérivable et que J 0 (x) = Ax − b pour
tout x ∈ RN .
Exercice 2.4.4R On reprend l’Exercice 2.4.2 avec V = L2 (Ω) (Ω étant un ouvert de

RN ), a(u, v) = Ω uv dx, et L(u) = Ω f u dx avec f ∈ L2 (Ω). En identifiant V et V 0 ,
R
montrer que J 0 (u) = u − f .
Remarque 2.4.3 Il existe d’autres notions de différentiabilité, plus faible que celle
au sens de Fréchet. Par exemple, on rencontre souvent la définition suivante. On
dit que la fonction J, définie sur un voisinage de u ∈ V à valeurs dans R, est
différentiable au sens de Gâteaux en u s’il existe L ∈ V 0 tel que
J(u + δw) − J(u)
∀w ∈ V , lim = L(w) . (2.18)
δ→0, δ>0 δ
On parle aussi de différentiabilité directionnelle et w est la direction de dérivation
dans (2.18). L’intérêt de cette notion est que la vérification de (2.18) est plus aisée
que celle de (2.15). Cependant, si une fonction dérivable au sens de Fréchet l’est
aussi au sens de Gâteaux, la réciproque est fausse, même en dimension finie, comme
le montre l’exemple suivant dans R2
x6
J(x, y) = pour (x, y) 6= (0, 0) , J(0, 0) = 0 .
(y − x2 )2 + x8
Convenons que, dans ce qui suit, nous dirons qu’une fonction est dérivable lorsqu’elle
l’est au sens de Fréchet, sauf mention explicite du contraire. •
Examinons maintenant les propriétés de base des fonctions convexes dérivables.
Proposition 2.4.4 Soit J une application différentiable de V dans R. Les asser-

tions suivantes sont équivalentes
J est convexe sur V , (2.19)
J(v) ≥ J(u) + hJ 0 (u), v − ui ∀ u, v ∈ V , (2.20)
0 0
hJ (u) − J (v), u − vi ≥ 0 ∀ u, v ∈ V . (2.21)
Proposition 2.4.5 Soit J une application différentiable de V dans R et α > 0. Les

assertions suivantes sont équivalentes
J est α-convexe sur V , (2.22)
α
J(v) ≥ J(u) + hJ 0 (u), v − ui + kv − uk2 ∀ u, v ∈ V , (2.23)
2
0 0
hJ (u) − J (v), u − vi ≥ αku − vk2 ∀ u, v ∈ V . (2.24)
2.4. DIFFÉRENTIABILITÉ 27
Remarque 2.4.6 Les conditions (2.20) et (2.23) ont une interprétation géométrique
simple : la première signifie que la fonction convexe J(v) est toujours au dessus de
son plan tangent en u (considéré comme une fonction affine de v), tandis que la
deuxième affirme que J(v) est au dessus d’une fonction quadratique en v qui lui est
tangente en u. Les conditions (2.21) et (2.24) sont des propriétés de monotonie ou
de croissance de J 0 . •
Démonstration. Il suffit de démontrer la Proposition 2.4.5 en observant que le cas

α = 0 donne la Proposition 2.4.4. Montrons que (2.22) implique (2.23). Comme J
est α-convexe, elle vérifie
α(1 − θ)
θ−1 J (u + θ(v − u)) − J(u) ≤ J(v) − J(u) − ku − vk2 ,
2
dans laquelle on fait tendre θ vers 0 pour obtenir (2.23). Pour obtenir (2.24) il
suffit d’additionner (2.23) avec lui-même en échangeant u et v. Montrons que (2.24)
implique (2.22). Pour u, v ∈ V et t ∈ R, on pose ϕ(t) = J(u + t(v − u)). Alors ϕ est
dérivable et donc continue sur R, et ϕ0 (t) = hJ 0 (u + t(v − u)), v − ui, de sorte que,
d’après (2.24)
ϕ0 (t) − ϕ0 (s) ≥ α(t − s)kv − uk2 si t ≥ s . (2.25)
Soit θ ∈]0, 1[. En intégrant l’inégalité (2.25) de t = θ à t = 1 et de s = 0 à s = θ, on
obtient
αθ(1 − θ)
θϕ(1) + (1 − θ)ϕ(0) − ϕ(θ) ≥ kv − uk2 ,
2
c’est-à-dire (2.22). 2
Exercice 2.4.5 Montrer qu’une fonction J dérivable sur V est strictement convexe si
et seulement si
J(v) > J(u) + hJ 0 (u), v − ui ∀ u, v ∈ V avec u 6= v ,
ou encore
hJ 0 (u) − J 0 (v), u − vi > 0 ∀ u, v ∈ V avec u 6= v .
Définissons maintenant la dérivée seconde de J. Remarquons tout d’abord

qu’il est très facile de généraliser la Définition 2.4.1 de différentiabilité au cas d’une
fonction f définie sur V à valeurs dans un autre espace de Hilbert W (et non pas
seulement dans R). On dira que f est différentiable (au sens de Fréchet) en u s’il
existe une application linéaire continue L de V dans W telle que
ko(w)kW
f (u + w) = f (u) + L(w) + o(w) avec lim =0. (2.26)
w→0 kwkV
On appelle L = f 0 (u) la différentielle de f en u. La définition (2.26) est utile pour

définir la dérivée de f (u) = J 0 (u) qui est une application de V dans son dual V 0 .
Définition 2.4.7 Soit J une fonction de V dans R. On dit que J est deux fois
dérivable en u ∈ V si J est dérivable dans un voisinage de u et si sa dérivée J 0 (u)
est dérivable en u. On note J 00 (u) la dérivée seconde de J en u qui vérifie
ko(w)kV 0
J 0 (u + w) = J 0 (u) + J 00 (u)w + o(w) avec lim = 0.
w→0 kwkV
Telle qu’elle est définie la dérivée seconde est difficile à évaluer en pratique car
w → J 00 (u)w est un opérateur linéaire continu de V dans V 0 . Heureusement, en
faisant agir J 00 (u)w sur v ∈ V on obtient une brave forme bilinéaire continue sur
V ×V que l’on notera J 00 (u)(w, v) en lieu et place de (J 00 (u)w) v. Au vu de la formule
de Taylor d’ordre deux ci-dessous, en pratique on calcule plutôt J 00 (u)(w, w).
Lemme 2.4.8 Si J est une fonction deux fois dérivable de V dans R, elle vérifie
1
J(u + w) = J(u) + hJ 0 (u), wi + J 00 (u)(w, w) + o(kwk2 ), (2.27)
2
o(kwk2 )
avec limw→0 kwk2
= 0 où J 00 (u) est identifiée à une forme bilinéaire continue sur
V ×V.
Démonstration. On écrit un développement de Taylor avec reste exact
Z 1
J(u + w) = J(u) + hJ 0 (u + sw), wids
0
et on y insère la définition de la dérivée seconde
J 0 (u + sw) = J 0 (u) + sJ 00 (u)w + o(sw).
Nous laissons au lecteur le soin de finir les détails pour arriver à (2.27). 2
Exercice 2.4.6 Soit a une forme bilinéaire symétrique continue sur V × V . Soit L une
forme linéaire continue sur V . On pose J(u) = 21 a(u, u) − L(u). Montrer que J est deux
fois dérivable sur V et que J 00 (u)(v, w) = a(v, w) pour tout u, v, w ∈ V . Appliquer ce
résultat aux exemples des Exercices 2.4.3, 2.4.4.
Lorsque J est deux fois dérivable on retrouve la condition usuelle de convexité :
si la dérivée seconde est positive, alors la fonction est convexe.
Exercice 2.4.7 Montrer que si J est deux fois dérivable sur V les conditions des
Propositions 2.4.4 et 2.4.5 sont respectivement équivalentes à
J 00 (u)(w, w) ≥ 0 et J 00 (u)(w, w) ≥ αkwk2 ∀ u, w ∈ V . (2.28)
Terminons cette section en donnant la définition d’une fonction Lipschitzienne.
Définition 2.4.9 Soit F une fonction de V dans W où V et W sont deux espaces

de Hilbert. On dit que F est Lipschitzienne de constante L > 0 si
kF (v) − F (u)k ≤ Lkv − uk pour tout v, u ∈ V.

2.5. CONDITIONS D’OPTIMALITÉ 29
Lemme 2.4.10 Soit J une fonction différentiable de V dans R telle que sa dérivée
J 0 est Lipschitzienne de constante L > 0. Alors
L
J(v) ≤ J(u) + hJ 0 (u), v − ui + kv − uk2 pour tout v, u ∈ V.
2
Remarque 2.4.11 Une interprétation du Lemme 2.4.10 est qu’une fonction diffé-
rentiable à dérivée L-Lipschitzienne peut être majorée par une fonction quadratique
qui lui est tangente au point u. C’est en quelque sorte une version opposée (ma-
joration au lieu de minoration) de la Remarque 2.4.6 pour une fonction α-convexe
différentiable (notons néanmoins qu’il n’y a pas d’hypothèse de convexité dans le
Lemme 2.4.10). Par conséquent, les fonctions fortement convexes à dérivée Lipschit-
zienne sont remarquables car elles sont encadrées par deux fonctions quadratiques
qui sont tangentes au point u. Cette propriété très utile sera exploitée dans les
preuves de convergence des algorithmes d’optimisation. •
Démonstration. Ecrivons une formule de Taylor avec reste exact
Z 1
J(v) = J(u) + hJ 0 (u + t(v − u)), v − uidt.
0
Par conséquent,
Z 1
0
J(v) − J(u) − hJ (u), v − ui ≤ kJ 0 (u + t(v − u)) − J 0 (u)kkv − ukdt,

0
d’où la conclusion en utilisant l’hypothèse de Lipschitziannité de J 0 . 2
Exercice 2.4.8 Soit J une fonction de classe C 2 de V dans R. On suppose qu’il existe
une constante L > 0 telle que J 00 (u)(w, w) ≤ Lkwk2 pour tout u, w ∈ V . Montrer que
J 0 est Lipschitzienne de constante L > 0.
2.5 Conditions d’optimalité

2.5.1 Inéquations d’Euler et contraintes convexes
Nous commençons par formuler les conditions de minimalité lorsque l’ensemble
des contraintes K est convexe, cas où les choses sont plus simples (nous supposerons
toujours que K est fermé non vide et que J est continue sur un ouvert contenant
K). L’idée essentielle du résultat qui suit est que, pour tout v ∈ K, on peut tester
l’optimalité de u dans la “direction admissible” (v − u) car u + h(v − u) ∈ K si
h ∈ [0, 1].
Théorème 2.5.1 (Inéquation d’Euler, cas convexe) Soit u ∈ K convexe. On

suppose que J est différentiable en u. Si u est un point de minimum local de J sur
K, alors
hJ 0 (u), v − ui ≥ 0 ∀ v ∈ K . (2.29)
Si u ∈ K vérifie (2.29) et si J est convexe, alors u est un minimum global de J sur
K.
Remarque 2.5.2 On appelle (2.29), “inéquation d’Euler”. Il s’agit d’une condition

nécessaire d’optimalité qui devient nécessaire et suffisante si J est convexe.
La condition (2.29) exprime que la dérivée directionnelle de J au point u dans
toutes les directions (v − u), qui sont rentrantes dans K, est positive, c’est-à-
dire que la fonction J ne peut que croître localement à l’intérieur de K. Il faut
aussi remarquer que, dans deux cas importants, (2.29) se réduit simplement à
l’équation d’Euler J 0 (u) = 0. En premier lieu, si K = V , v − u décrit tout V
lorsque v décrit V , et donc (2.29) entraîne J 0 (u) = 0. D’autre part, si u est intérieur
à K, la même conclusion s’impose. •
Figure 2.2 – Inéquation d’Euler : l’angle entre la dérivée J 0 (u) et la direction

rentrante (v − u) est aigu.
Démonstration. Pour v ∈ K et h ∈]0, 1], u + h(v − u) ∈ K, et donc

J(u + h(v − u)) − J(u)
≥0. (2.30)
h
On en déduit (2.29) en faisant tendre h vers 0. Le caractère suffisant de (2.29) pour
une fonction convexe découle immédiatement de la propriété de convexité (2.20). 2
Exercice 2.5.1 Soit K un convexe fermé non vide de V . Pour x ∈ V , on cherche la

projection xK ∈ K de x sur K (voir le Théorème 8.1.3)
kx − xK k = min kx − yk.
y∈K
Montrer que la condition nécessaire et suffisante (2.29) se ramène exactement à (8.1).
Exercice 2.5.2 On reprend l’Exemple 1.2.4 du problème “aux moindres carrés”. Mon-
trer que ce problème admet toujours une solution et écrire l’équation d’Euler correspon-
dante. Montrer aussi que la solution est unique si et seulement si KerA = {0}.
Exercice 2.5.3 On reprend l’Exemple 1.2.3

1
inf J(x) = Ax · x − b · x
x∈ KerB 2
avec A matrice symétrique carrée d’ordre n, et B de taille m × n (m ≤ n). Montrer
qu’il existe une solution si A est positive et b ∈ ( KerA ∩ KerB)⊥ , et qu’elle est unique
si A est définie positive. Montrer que tout point de minimum x ∈ Rn vérifie
Ax − b = B ∗ p avec p ∈ Rm .
Exercice 2.5.4 On reprend l’Exemple 1.2.8 et on considère le problème d’optimisation
1 L
Z Z L
0 2
inf J(u) = µ|u (x)| dx − f (x) u(x) dx,
u∈K 2 0 0
où f (x) est une fonction continue sur [0, L], µ > 0 et K est défini par
K = {u ∈ C 1 [0, L] tel que u(0) = 0 et u(L) = 0}.
Vérifier que K est convexe et calculer la dérivée directionnelle J 0 (u)(w). Montrer que le
point de minimum u∗ ∈ K de J (s’il existe et s’il est de classe C 2 ) vérifie la condition
nécessaire suivante
−µu00∗ (x) = f (x)

si 0 < x < L,
u∗ (0) = u∗ (L) = 0.
En déduire une formule pour ce point de minimum et donc qu’il est unique.
Exercice 2.5.5 Soit K un convexe fermé non vide de V , soit a une forme bilinéaire
symétrique continue coercive sur V , et soit L une forme linéaire continue sur V . Montrer
que J(v) = 21 a(v, v)−L(v) admet un unique point de minimum dans K, noté u. Montrer
que u est aussi l’unique solution du problème (appelé inéquation variationnelle)
u∈K et a(u, v − u) ≥ L(v − u) ∀ v ∈ K .
Exercice 2.5.6 Soit J1 et J2 deux fonctions convexes continues sur une partie convexe
fermée non vide K ⊂ V . On suppose que J1 seulement est dérivable. Montrer que u ∈ K
est un minimum de J1 + J2 si et seulement si
hJ10 (u), v − ui + J2 (v) − J2 (u) ≥ 0 ∀ v ∈ K .
Les remarques suivantes, qui sont des applications simples du Théorème 2.5.1,
vont nous donner l’intuition de la notion de “multiplicateur de Lagrange” qui sera
développée à la Sous-section suivante.
Exercice 2.5.7 On suppose que K est un sous-espace affine fermé de V , K = u0 + P,

avec u0 ∈ V , où on suppose aussi que P est un sous-espace vectoriel fermé de V , défini
comme une intersection finie d’hyperplans, c’est-à-dire que
P = {v ∈ V , hai , vi = 0 pour 1 ≤ i ≤ M } ,
où a1 , . . . , am sont donnés dans V . Montrer que la condition d’optimalité (2.29) s’écrit

sous la forme
M
X
u∈K et ∃ λ1 , . . . , λM ∈ R , J 0 (u) + λi ai = 0 , (2.31)
i=1
avec des réels λi (qui seront appelés multiplicateurs de Lagrange dans le Théorème
2.5.6).
Exercice 2.5.8 Soit (a1 , . . . , aM ) une famille libre dans V . Supposons que K est défini
par
K = {v ∈ V , hai , vi ≤ 0 pour 1 ≤ i ≤ M } .
Vérifier que K est un cône convexe fermé, ce qui signifie que K est un ensemble convexe
fermé tel que λv ∈ K pour tout v ∈ K et tout λ ≥ 0. Montrer que la condition
d’optimalité (2.29) implique que
hJ 0 (u), ui = 0 et hJ 0 (u), wi ≥ 0 ∀ w ∈ K . (2.32)
En déduire que si u vérifie (2.29), alors il existe des réels positifs ou nuls λi ≥ 0 tels que
M
X
u∈K et ∃ λ1 , . . . , λM ≥ 0 , J 0 (u) + λ i ai = 0 , (2.33)
i=1
et, de plus, λi = 0 si hai , ui < 0. Nous verrons que ces réels λi sont encore appelés
multiplicateurs de Lagrange au Théorème 2.5.17.
Terminons cette sous-section en donnant une condition d’optimalité du

deuxième ordre.
Proposition 2.5.3 On suppose que K = V et que J est deux fois dérivable en u.

Si u est un point de minimum local de J, alors
J 0 (u) = 0 et J 00 (u)(w, w) ≥ 0 ∀ w ∈ V . (2.34)
Réciproquement, si, pour tout v dans un voisinage de u,
J 0 (u) = 0 et J 00 (v)(w, w) ≥ 0 ∀ w ∈ V , (2.35)
alors u est un minimum local de J.
Démonstration. Si u est un point de minimum local, on sait déjà que J 0 (u) = 0

et la formule (2.27) nous donne (2.34). Réciproquement, si u vérifie (2.35), on écrit
un développement de Taylor à l’ordre deux (au voisinage de zéro) avec reste exact
pour la fonction φ(t) = J(u + tw) avec t ∈ R et on en déduit aisément que u est un
minimum local de J (voir la Définition 2.1.1). 2
2.5.2 Contraintes d’égalité et d’inégalité : multiplicateurs de

Lagrange
Cherchons maintenant à écrire des conditions de minimalité lorsque l’ensemble
K n’est pas convexe. Plus précisément, nous étudierons des ensembles K définis par
des contraintes d’égalité ou des contraintes d’inégalité (ou les deux à la fois).
Nous commençons par une remarque générale sur les directions admissibles.
Définition 2.5.4 En tout point v ∈ K, l’ensemble

w ∈ V , ∃ (v n ) ∈ K N , ∃ (εn ) ∈ (R∗+ )N ,

K(v) = v n −v
limn→+∞ v n = v , limn→+∞ εn = 0 , limn→+∞ εn
=w
est appelé le cône des directions admissibles au point v.
Autrement dit, K(v) est l’ensemble de toutes les directions possibles de varia-
tions à partir de v en restant dans K. Ce cône K(v) est aussi appelé cône tangent
à K. En effet, K(v) est l’ensemble de tous les vecteurs qui sont tangents en v à
une courbe contenue dans K et passant par v. Par exemple, si K est une variété
régulière, K(v) est simplement l’espace tangent à K en v.
Il est facile de vérifier que 0 ∈ K(v) (prendre la suite constante v n = v), que
l’ensemble K(v) est un cône, c’est-à-dire que λw ∈ K(v) pour tout w ∈ K(v) et
tout λ ≥ 0 (changer la suite εn en εn /λ pour λ > 0) et que K(v) est fermé (par un
argument de suite diagonale).
Exercice 2.5.9 Montrer que K(v) = V si v est intérieur à K. Montrer que K(v0 ) =
{0} si K = K0 ∪ {v0 } avec la distance d(v0 , K0 ) > 0.
L’intérêt du cône des directions admissibles réside dans le résultat suivant, qui
donne une condition nécessaire d’optimalité.
Proposition 2.5.5 (Inéquation d’Euler, cas général) Soit u un minimum lo-

cal de J sur K. Si J est différentiable en u, on a
hJ 0 (u), wi ≥ 0 ∀ w ∈ K(u) .
Démonstration. Soit une direction admissible w ∈ K(u). Il existe donc une suite
vn − u
lim v n = u , lim εn = 0 , lim =w
n→+∞ n→+∞ n→+∞ εn
Pour n suffisamment grand,
J(u) ≤ J(v n ) = J u + εn w + o(εn ) = J(u) + εn hJ 0 (u), wi + o(εn ).

En soustrayant J(u), en divisant par εn , puis en passant à la limite n → +∞, on

obtient le résultat. 2
Nous allons maintenant préciser la condition nécessaire de la Proposition 2.5.5
dans le cas où K est donné par des contraintes d’égalité ou d’inégalité. Les
résultats que nous obtiendrons vont généraliser ceux des Exercices 2.5.7 et 2.5.8.
Contraintes d’égalité
Dans ce premier cas on suppose que K est donné par
K = {v ∈ V , F (v) = 0} , (2.36)
où F (v) = (F1 (v), ..., FM (v)) est une application de V dans RM , avec M ≥ 1. La
condition nécessaire d’optimalité prend alors la forme suivante.
Théorème 2.5.6 Soit u ∈ K où K est donné par (2.36). On suppose que J est dé-
rivable en u ∈ K et que les fonctions (Fi )1≤i≤M sont continûment dérivables dans un
voisinage de u. On suppose de plus que les vecteurs Fi0 (u) 1≤i≤M sont linéairement

indépendants. Alors, si u est un minimum local de J sur K, il existe λ1 , . . . , λM ∈ R,

appelés multiplicateurs de Lagrange, tels que
M
X
0
J (u) + λi Fi0 (u) = 0 . (2.37)
i=1
Figure 2.3 – Variété K (en bleu) et son hyperplan tangent K(u) en un point u (en
rose). Ce dessin correspond à V = R3 et M = 1 contrainte.
Démonstration. Montrons d’abord que le cône des directions admissibles K(u) est
précisément l’espace tangent à la variété K, définie par (2.36), au point u (voir la
Figure 2.3), c’est-à-dire
K(u) = KerF 0 (u), (2.38)
avec, par définition
M n o
⊥
\
0
KerF (u) = [Fi0 (u)] = w ∈ V , hFi0 (u), wi = 0 pour i = 1, . . . , M .
i=1
Soit w ∈ K(u) : il existe donc deux suites v n ∈ V et εn > 0 telles que F (v n ) = 0,

n
limn→+∞ v n = u, limn→+∞ εn = 0 et limn→+∞ v ε−u n = w. Un développement de
Taylor conduit à
0 = F (v n ) = F (u) + εn hF 0 (u), wi + o(εn )
et comme F (u) = 0, divisant par εn , on obtient
0 = hF 0 (u), wi + o(1),
c’est-à-dire, à la limite n → +∞, que w appartient à KerF 0 (u). Pour démontrer l’in-
clusion inverse, on utilise le Lemme 2.5.7 ci-dessous avec, pour tout w ∈ KerF 0 (u),
F(ε, v) = F (v + εw). Pour v0 = u, on vérifie sans peine les hypothèses du Lemme
2.5.7, en particulier car la différentielle partielle Dv F(0, u) = F 0 (u) est égale à la
matrice de lignes Fi0 (u) 1≤i≤M qui est surjective de V dans RM puisque ses lignes
sont libres. Pour tout ε > 0, on choisit v = u + εw qui vérifie F (v) = o(ε) puisque
hF 0 (u), wi = 0. On en déduit donc que la suite v ε fournie par le Lemme 2.5.7
est telle que kv − vε kV = o(ε), c’est-à-dire qu’elle est admissible pour la direction
w dans la définition de K(u). Par conséquent, w ∈ K(u), ce qui démontre que
K(u) = KerF 0 (u).
Comme nous venons de montrer que K(u) est un espace vectoriel, on peut
prendre successivement w et −w dans la Proposition 2.5.5, ce qui conduit à
M
⊥
\
0 0
hJ (u), wi = 0 ∀ w ∈ KerF (u) = [Fi0 (u)] ,
i=1
c’est-à-dire que J 0 (u) est engendré par les Fi0 (u) 1≤i≤M (notons que les multiplica-

teurs de Lagrange sont définis de manière unique). Une autre démonstration (plus
géométrique) est proposé dans la preuve de la Proposition 2.5.13. 2
Lemme 2.5.7 Soit F(ε, v) une fonction de R×V dans RM . On suppose qu’il existe
v0 ∈ V tel que F(0, v0 ) = 0 et que F(ε, v) est continûment différentiable dans
un voisinage de (0, v0 ) (c’est-à-dire différentiable de différentielle continue). Si la
différentielle (partielle) V 3 h → hDv F(0, v0 ), hi ∈ RM est surjective, alors il existe
un autre voisinage V de (0, v0 ) et une constante C > 0 tels que pour tout (ε, v) ∈ V
il existe vε ∈ V qui vérifie
F(ε, vε ) = 0 et kv − vε kV ≤ CkF(ε, v)kRM .
Une démonstration du Lemme 2.5.7 peut être trouvée, dans un cadre plus gé-
néral (théorème de l’application surjective), dans [4].
Remarque 2.5.8 Lorsque les vecteurs Fi0 (u) 1≤i≤M sont linéairement indépen-

dants (ou libres), on dit que l’on est dans un cas régulier. Dans le cas contraire,
on parle de cas non régulier et la conclusion du Théorème 2.5.6 est fausse comme
le montre l’exemple suivant.
Prenons V = R, M = 1, F (v) = v 2 , J(v) = v, d’où K = {0}, u = 0, F 0 (u) = 0 :
il s’agit donc d’un cas non régulier. Comme J 0 (u) = 1, (2.37) n’a pas lieu. •
Pour bien comprendre la portée du Théorème 2.5.6, nous l’appliquons sur l’Exemple
1.2.3
1
min J(x) = Ax · x − b · x ,
x∈ KerB 2
où A est symétrique définie positive d’ordre n, et B de taille m × n avec m ≤ n.

On note (bi )1≤i≤m les m lignes de B et on a donc m contraintes bi · x = 0. Pour
simplifier on suppose que le rang de B est m, c’est-à-dire que les vecteurs (bi ) sont
libres. Si le rang de B est m0 < m, alors (m − m0 ) lignes de B sont engendrées par
m0 autres lignes libres de B. Il y a donc (m − m0 ) contraintes redondantes que l’on
peut éliminer et on se ramène au cas d’une matrice B 0 de taille m0 × n et de rang
maximal m0 . Comme le rang de B est m, les (bi ) sont libres et on peut appliquer la
conclusion (2.37). Il existe donc un multiplicateur de Lagrange p ∈ Rm tel que un
point de minimum x vérifie
m
X
Ax − b = pi bi = B ∗ p.
i=1
Comme A est inversible, on en déduit la valeur x = A−1 (b + B ∗ p). Par ailleurs

Bx = 0 et, comme B est de rang maximal, la matrice BA−1 B ∗ est inversible, ce qui
conduit à

−1 ∗ −1 −1 −1 ∗ −1 ∗ −1 −1

p = − BA B BA b et x = A Id − B BA B BA b.
Notons que le multiplicateur de Lagrange p est unique. Si B n’est pas de rang m,

l’Exercice 2.5.3 montre qu’il existe quand même p solution de BA−1 B ∗ p = −BA−1 b
mais qui n’est unique qu’à l’addition d’un vecteur du noyau de B ∗ près.
Exercice 2.5.10 Généraliser les résultats ci-dessus pour cette variante de l’Exemple
1.2.3
1
min J(x) = Ax · x − b · x ,
Bx=c 2
où c ∈ Rm est un vecteur donné.
Exercice 2.5.11 Soit A une matrice carrée d’ordre n, symétrique. On veut caractériser
et calculer les solutions de
inf
n
J(x) = Ax · x,
x∈R ,kxk=1
où kxk est la norme euclidienne de x. Appliquer le Théorème 2.5.6 et en déduire que les
points de minimum de J sur la sphère unité sont des vecteurs propres de A associés à
la plus petite valeur propre.
Exercice 2.5.12 Selon la légende rapportée par Virgile dans l’Énéide, la fondation de
la ville de Carthage par la reine Didon conduisit à un problème typique du calcul des
variations. Il s’agissait de trouver la plus grande surface possible (pour la ville) s’appuyant
sur le rivage (une droite) et de frontière terrestre de longueur donnée. La réponse est
intuitivement un demi disque. Mathématiquement, le problème est de trouver la courbe
plane, définie par le graphe d’une fonction y(x) pour x ∈ (0, ξ), de longueur fixée l ≥ 0
qui enclôt avec le segment (0, ξ) reliant ses deux extrémités l’aire maximum. Autrement
dit, on résout Z ξ
sup y(x) dx,
ξ≥0,y∈C 1 [0,ξ] 0
avec les contraintes

Z ξp
y(0) = y(ξ) = 0, 1 + y 0 (x)2 dx = l.
0
La longueur ξ du segment est une variable d’optimisation, de même que la fonction

y(x) qui donne la position de la courbe au dessus du point x du segment. En s’inspirant
de l’Exercice 2.5.4, calculer les dérivées directionnelles de la fonction objectif et de la
contrainte intégrale. En déduire que la solution du problème de Didon est nécessairement
un arc de cercle.
Exercice 2.5.13 Soit A une matrice n × n symétrique définie positive et b ∈ Rn non

nul.
1. Montrer que les problèmes
sup b · x et sup b · x
Ax·x≤1 Ax·x=1
sont équivalents et qu’ils ont une solution. Utiliser le Théorème 2.5.6 pour cal-
culer cette solution et montrer qu’elle est unique.
2. On introduit un ordre partiel dans l’ensemble des matrices symétriques définies
positives d’ordre n en disant que A ≥ B si et seulement si Ax · x ≥ Bx · x
pour tout x ∈ Rn . Déduire de la question précédente que, si A ≥ B, alors
B −1 ≥ A−1 .
Exercice 2.5.14 Montrer que l’entropie de Shannon de l’Exemple 1.2.7 admet un

n
Pnpoint de minimum que l’on calculera. Montrer aussi que, pour tout p ∈ R+ tel
unique
que i=1 pi = 1,
n
X n
X
− pi log pi = infn − pi log qi .
q∈Rn
P
+, i=1 qi =1
i=1 i=1
Exercice 2.5.15 En théorie cinétique des gaz les molécules de gaz sont représentées
en tout point de l’espace par une fonction de répartition f (v) dépendant de la vitesse
microscopique v ∈ RN . Les quantités macroscopiques, comme la densité du gaz ρ, sa
vitesse u, et sa température T , se retrouvent grâce aux moments de la fonction f (v)
Z Z Z
1 2 N 1
ρ= f (v) dv , ρu = v f (v) dv , ρu + ρT = |v|2 f (v) dv .
RN R N 2 2 2 RN
(2.39)
Boltzmann a introduit l’entropie cinétique H(f ) définie par
Z

H(f ) = f (v) log f (v) dv .
RN
Montrer que H est strictement convexe sur l’espace des fonctions f (v) > 0 mesurables
telle que H(f ) < +∞. On minimise H sur cet espace sous les contraintes de moment
(2.39), et on admettra qu’il existe un unique point de minimum M (v). Montrer que ce
point de minimum est une Maxwellienne définie par
|v − u|2

ρ
M (v) = exp − .
(2πT )N/2 2T
On peut obtenir un nouvel éclairage sur le Théorème 2.5.6 en introduisant la

notion de Lagrangien.
Définition 2.5.9 On appelle Lagrangien du problème de minimisation de J sur

K, défini par (2.36), la fonction de deux variables définie sur V × RM par
M
X
L(v, µ) = J(v) + µi Fi (v) = J(v) + µ · F (v).
i=1
La nouvelle variable µ ∈ RM est appelée multiplicateur de Lagrange pour la

contrainte F (v) = 0.
Si u ∈ K est un minimum local de J sur K, le Théorème 2.5.6 nous dit alors
que, dans le cas régulier, il existe λ ∈ RM tel que
∂L ∂L
(u, λ) = 0 , (u, λ) = 0 ,
∂v ∂µ
∂L ∂L
puisque (u, λ) = F (u) = 0 si u ∈ K et (u, λ) = J 0 (u) + λF 0 (u) = 0 d’après
∂µ ∂v
(2.37). On peut ainsi écrire la contrainte et la condition d’optimalité comme l’annu-
lation du gradient (la stationnarité) du Lagrangien.
Une autre propriété importante du Lagrangien est la suivante (qui permet de
faire “disparaître” la contrainte au prix de l’ajout d’une variable).
Lemme 2.5.10 Le problème de minimisation sous contrainte est équivalent à un

problème de min-max
inf J(v) = inf sup L(v, µ). (2.40)

v∈V, F (v)=0 v∈V µ∈RM
Démonstration. Si F (v) = 0 on a évidemment J(v) = L(v, µ) pour tout µ ∈ RM ,

tandis que, si F (v) 6= 0, alors supµ∈RM L(v, µ) = +∞, d’où l’on déduit l’égalité
(2.40). 2
Remarque 2.5.11 On pourrait croire que le Lemme 2.5.10 est seulement une as-
tuce ou un jeu d’écriture pour faire disparaitre la contrainte de manière artificielle. Il
n’en est rien et la notion de Lagrangien est extrêmement utile pour les algorithmes
numériques de minimisation. Donnons en un rapide aperçu. Nous verrons que tous
les algorithmes d’optimisation sont itératifs, c’est-à-dire que l’on construit une suite
de solutions approchées un qui convergerait vers une solution u. A chaque itération,
on définit la nouvelle itérée un+1 à partir de la précédente un . En général, il est très
difficile, voire impossible, de garantir que les solutions approchées un vérifient exac-
tement les contraintes F (un ) = 0. L’utilisation du Lagrangien permet de contourner
cette difficulté. Imaginons, par exemple dans le cas d’une seule contrainte (M = 1),
que F (un ) > 0. Alors, si on choisit un multiplicateur de Lagrange µn > 0, la minimi-
sation (totale ou partielle) sans contrainte de L(v, µn ) permet d’obtenir une nouvelle
itérée un+1 qui minimise au mieux la fonction objectif et la violation de la contrainte
(la positivité de µn conduit à minimiser F (v), comme J(v)). Inversement, si on avait
F (un ) < 0, on aurait choisi un multiplicateur de Lagrange µn < 0 et la minimisation
sans contrainte de L(v, µn ) conduirait à maximiser F (v) (tout en minimisant tou-
jours J(v)), c’est-à-dire à réduire la violation de la contrainte. Tout ceci sera précisé
dans la Sous-section 3.4.2 lorsque sera présenté l’algorithme d’Uzawa. •
Le résultat suivant permet de donner une interprétation concrète à la notion
de multiplicateur de Lagrange. Plus précisément, les multiplicateurs de Lagrange
λi dans le Théorème 2.5.6 donnent la sensibilité de la valeur minimale de J aux
variations du niveau des contraintes Fi (au signe près). Par exemple, en économie, les
multiplicateurs de Lagrange mesurent des prix ou des coûts marginaux, alors qu’en
mécanique ils fournissent des forces de réaction correspondant à des déplacements
imposés.
Pour ∈ RM , on considère le problème d’optimisation
inf J(v), (2.41)
v∈V, F (v)=
où le niveau des contraintes est paramétré par . On note Jmin () la valeur minimum
dans (2.41).
Lemme 2.5.12 On se place sous les hypothèses du Théorème 2.5.6 et on suppose

que, pour petit, le problème (2.41) admet une solution unique, notée u , que l’on
suppose être différentiable par rapport à en 0. Alors, si on note u la solution pour
= 0 et λ ∈ RM le multiplicateur de Lagrange associé, on a, pour 1 ≤ i ≤ M ,
∂Jmin
λi = − (0).
∂i
Démonstration. On introduit le Lagrangien de (2.41), où l’on fait intervenir ex-
plicitement le niveau de contraintes donné par la variable . Autrement dit, pour
(v, µ, ) ∈ V × RM × RM , on définit
L(v, µ, ) = J(v) + µ · (F (v) − ).
Comme la solution u vérifie les contraintes, on a L(u , µ, ) = J(u ) = Jmin (). En
dérivant cette relation en = 0, on obtient
∂Jmin ∂L ∂u ∂L ∂u
(0) = h (u, µ, 0), (0)i + (0) = hJ 0 (u) + µ · F 0 (u), (0)i − µi .
∂i ∂v ∂i ∂i ∂i
On remplace alors µ par λ et on utilise la condition d’optimalité du Théorème 2.5.6
pour conclure. 2
Nous donnons maintenant une condition nécessaire d’optimalité du deuxième
ordre.
Proposition 2.5.13 On se place sous les hypothèses du Théorème 2.5.6 et on sup-
0
J et F1 , ..., FM sont deux fois continûment dérivables
pose que les fonctions
M
et que
les vecteurs Fi (u) 1≤i≤M sont linéairement indépendants. Soit λ ∈ R le multipli-
cateur de Lagrange défini par le Théorème 2.5.6. Alors tout minimum local u de J
sur K vérifie
M
! M
⊥
X \
00 00
J (u) + λi Fi (u) (w, w) ≥ 0 ∀ w ∈ K(u) = [Fi0 (u)] . (2.42)
i=1 i=1
Démonstration. Supposons qu’il existe un chemin admissible de classe C 2 , c’est-

à-dire une fonction t → u(t) de [0, 1] dans V telle que u(0) = u et F (u(t)) = 0
pour tout t ∈ [0, 1]. Par définition, la dérivée u0 (0) appartient au cône des directions
admissibles K(u). On pose

j(t) = J u(t) et fi (t) = Fi u(t) pour 1 ≤ i ≤ M.
En dérivant on obtient
j 0 (t) = hJ 0 u(t) , u0 (t)i et fi0 (t) = hFi0 u(t) , u0 (t)i pour 1 ≤ i ≤ M,

et
j 00 (t) = J 00 u(t) u0 (t), u0 (t) + hJ 0 u(t) , u00 (t)i

fi00 (t) = Fi00 u(t) u0 (t), u0 (t) + hFi0 u(t) , u00 (t)i pour 1 ≤ i ≤ M.

Comme fi (t) = 0 pour tout t et puisque 0 est un minimum de j(t), on en déduit

j 0 (0) = 0, j 00 (0) ≥ 0, et fi0 (0) = fi00 (0) = 0. Les conditions 0
fi (0) = 0 nous disent que
0 0
u (0) est orthogonal au sous-espace engendré par Fi (u) 1≤i≤M (qui est égal à K(u)
quand cette famille est libre), tandis que j 0 (0) = 0 signifie que J 0 (u) est orthogonal
à u0 (0). Si u0 (0) décrit tout K(u) lorsque on fait varier les chemins admissibles, on
en déduit que J 0 (u) et les Fi0 (u) appartiennent au même sous-espace (l’orthogonal
de K(u)). On retrouve ainsi la condition du premier ordre : il existe λ ∈ RM tel que
M
X
0
J (u) + λi Fi0 (u) = 0. (2.43)
i=1
Les conditions fi00 (0) = 0 impliquent que

M
X
λi Fi00 (u) u0 (0), u0 (0) + hFi0 (u), u00 (0)i ,

0=
i=1
tandis que j 00 (0) ≥ 0 donne
J 00 (u) u0 (0), u0 (0) + hJ 0 (u), u00 (0)i ≥ 0.

Grâce à (2.43) on peut éliminer les dérivées premières et u00 (0) pour obtenir (en
sommant les deux dernières équations)
M
!
X
λi Fi00 (u) + J 00 (u) u0 (0), u0 (0) ≥ 0,

i=1
qui n’est rien d’autre que (2.42) lorsque u0 (0) parcourt K(u).
L’existence de tels chemins admissibles u(t) et le fait que l’ensemble des u0 (0)
décrit la totalité du cône des directions admissibles K(u) est une conséquence du
théorème des fonctions implicites que l’on peut appliquer grâce à l’hypothèse que la
famille Fi0 (u) 1≤i≤M est libre (voir par exemple [4]). 2

Exercice 2.5.16 Calculer la condition nécessaire d’optimalité du second ordre pour

l’Exemple 1.2.3 et l’Exercice 2.5.11.
Contraintes d’inégalité
Dans ce deuxième cas on suppose que K est donné par
K = {v ∈ V , Fi (v) ≤ 0 pour 1 ≤ i ≤ M } , (2.44)
où F1 , . . . , FM sont des fonctions continues de V dans R. Lorsque l’on veut détermi-

ner le cône des directions admissibles K(v), la situation est un peu plus compliquée
que précédemment car toutes les contraintes dans (2.44) ne jouent pas le même rôle
selon le point v où l’on calcule K(v). En effet, si Fi (v) < 0, il est clair que, pour
toute direction w ∈ V et pour ε suffisamment petit, on aura aussi Fi (v +εw) ≤ 0 (on
dit que la contrainte i est inactive en v). Par contre, si Fi (v) = 0, il faudra imposer
des conditions sur le vecteur w ∈ V pour que, pour tout ε > 0 suffisamment petit,
Fi (v + εw) ≤ 0. Afin que toutes les contraintes dans (2.44) soient satisfaites pour
(v + εw) il va donc falloir imposer des conditions sur w, appelées conditions de
qualification. Grosso modo, ces conditions vont garantir que l’on peut faire des
“variations” autour d’un point v afin de tester son optimalité. Il existe différents
types de conditions de qualification (plus ou moins sophistiquées et générales). Nous
allons donner une définition dont le principe est de regarder sur le problème linéa-
risé s’il est possible de faire des variations respectant les contraintes linéarisées. Ces
considérations de “calcul des variations” motivent les définitions suivantes.
Définition 2.5.14 Soit u ∈ K. L’ensemble I(u) = {i ∈ {1, . . . , M } , Fi (u) = 0}

est appelé l’ensemble des contraintes actives en u.
Définition 2.5.15 On dit que les contraintes (2.44) sont qualifiées en u ∈ K si

et seulement si il existe une direction w ∈ V telle que l’on ait pour tout i ∈ I(u)
ou bien hFi0 (u), wi < 0 ,

(2.45)
ou bien hFi0 (u), wi = 0 et Fi est affine .
Remarque 2.5.16 La direction w est en quelque sorte une “direction rentrante”

puisque on déduit de (2.45) que u+εw ∈ K pour tout ε ≥ 0 suffisamment petit. Bien
sûr, si toutes les fonctions Fi sont affines, on peut prendre w = 0 et les contraintes
sont automatiquement qualifiées. Le fait de distinguer les contraintes affines dans
la Définition 2.5.15 est justifié non seulement parce que celles-ci sont qualifiées sous
des conditions moins strictes, mais surtout en regard de l’importance des contraintes
affines dans les applications (comme le montre les exemples du Chapitre 1). •
Nous pouvons alors énoncer les conditions nécessaires d’optimalité sur l’en-
semble (2.44).
Théorème 2.5.17 On suppose que K est donné par (2.44), que les fonctions J et
F1 , . . . , FM sont dérivables en u et que les contraintes sont qualifiées en u. Alors, si
u est un minimum local de J sur K, il existe λ1 , . . . , λM ≥ 0, appelés multiplicateurs
de Lagrange, tels que
M
X
0
J (u)+ λi Fi0 (u) = 0, λi ≥ 0, λi = 0 si Fi (u) < 0, ∀ i ∈ {1, . . . , M }. (2.46)
i=1
Remarque 2.5.18 On peut réécrire la condition (2.46) sous la forme suivante

M
X
0
J (u) + λi Fi0 (u) = 0 , λ ≥ 0, λ · F (u) = 0 ,
i=1
où λ ≥ 0 signifie que chacune des composantes du vecteur λ = (λ1 , ..., λM ) est

positive, puisque, pour tout indice i ∈ {1, . . . , M }, on a soit Fi (u) = 0, soit λi = 0.
Le fait que λ · F (u) = 0 est appelée condition des écarts complémentaires. •
Démonstration. Considérons tout d’abord l’ensemble
K̃(u) = {w ∈ V tel que hFi0 (u), wi ≤ 0, ∀ i ∈ I(u)} . (2.47)
(On peut montrer que K̃(u) n’est autre que le cône K(u) des directions admissibles,
voir [4]). Soit w une direction admissible satisfaisant (2.45), w ∈ K̃(u), et un réel
δ > 0. Nous allons montrer que u + ε(w + δw) ∈ K pour tout réel ε > 0 assez petit.
Il faut examiner trois cas de figure.
1. Si i ∈
/ I(u), on a Fi (u) < 0 et Fi (u + ε(w + δw)) < 0 par continuité de Fi si
ε est assez petit.
2. Si i ∈ I(u) et hFi0 (u), wi < 0, alors
Fi (u + ε(w + δw)) = Fi (u) + εhFi0 (u), w + δwi + o(ε)

(2.48)
≤ εδhFi0 (u), wi + o(ε) < 0 ,
pour ε > 0 assez petit.
3. Enfin, si i ∈ I(u) et hFi0 (u), wi = 0, alors Fi est affine et
Fi (u + ε(w + δw)) = Fi (u) + εhFi0 (u), w + δwi = εhFi0 (u), wi ≤ 0 . (2.49)

Finalement, si u est un minimum local de J sur K, on déduit de ce qui précède que
hJ 0 (u), w + δwi ≥ 0 ∀ w ∈ K̃(u) , ∀ δ ∈ R∗+ .
En faisant tendre δ vers 0, on obtient hJ 0 (u), wi ≥ 0 pour toute direction w ∈ K̃(u)

et on termine la démonstration grâce au Lemme de Farkas 2.5.19 ci-dessous. 2
Lemme 2.5.19 (de Farkas) Soient a1 , . . . , aM des éléments fixés de V . On consi-

dère les ensembles
n o
K = w ∈ V , hai , wi ≤ 0 pour 1 ≤ i ≤ M ,
et
n M
X o
K̂ = q ∈ V , ∃ λ1 , . . . , λM ≥ 0 , q = − λi ai .
i=1
Alors pour tout p ∈ V , on a l’implication
hp, wi ≥ 0 ∀ w ∈ K =⇒ p ∈ K̂ .
(La réciproque étant évidente, il s’agit en fait d’une équivalence.)

Démonstration. Commençons par montrer que K̂ est fermé. Supposons P d’abord
que les vecteurs (ai )1≤i≤M sont linéairement indépendants. Soit (q ) = − M
n n
i=1 λi ai
une suite d’éléments de K̂ (donc avec λni ≥ 0 ∀ i ∀ n), convergeant vers une limite
q ∈ V . Alors il est clair que chaque suite (λni ) converge dans R+ vers une limite
λi ≥ 0 (pour 1 ≤ i ≤ M ) puisque les vecteurs (ai )1≤i≤M forment une base de
l’espace qu’ils engendrent. On a donc q = − M
P
i=1 λi ai ∈ K̂, qui est donc fermé.
Si les vecteurs (ai )1≤i≤M sont linéairement dépendants, nous procédons par ré-
currence sur leur nombre M . La propriété est évidente lorsque M = 1, et nous sup-
posons qu’elle est vraie lorsque le nombre de vecteurs ai est inférieur PM à M . Comme
les vecteurs (ai )1≤i≤M sont liés, il existe une relation de la forme i=1 µi ai = 0, avec
au moins un des coefficients µi qui est strictement positif. Soit alors q = − M
P
i=1 λi ai
XM
un élément de K̂. Pour tout t ≤ 0, on peut aussi écrire q = − (λi + tµi )ai , et on
i=1
peut choisir t ≤ 0 pour que
λi + tµi ≥ 0 ∀ i ∈ {1, . . . , M } et ∃ i0 ∈ {1, . . . , M } , λi0 + tµi0 = 0 .
Ce raisonnement montre que

M n
[ X o
K̂ = q ∈ V , ∃ λ1 , . . . , λM ≥ 0 , q = − λi ai . (2.50)
i0 =1 i6=i0
Par notre hypothèse de récurrence, chacun des ensembles apparaissant dans le

membre de droite de (2.50) est fermé, et il en est donc de même de K̂.
Raisonnons maintenant par l’absurde : supposons que hp, wi ≥ 0 ∀ w ∈ K et

que p ∈ / K̂. On peut alors utiliser le Théorème 8.1.12 de séparation d’un point et
d’un convexe pour séparer p et K̂ qui est fermé et, à l’évidence, convexe et non vide.
Il existe donc w 6= 0 dans V et α ∈ R tels que
hp, wi < α < hq, wi ∀ q ∈ K̂ . (2.51)
Mais alors, on doit avoir α < 0 puisque 0 ∈ K̂ ; d’autre part, pour tout i ∈ {1, . . . , M }
nous pouvons choisir dans (2.51) q = −λai avec λ arbitrairement grand, ce qui
montre que hai , wi ≤ 0. On obtient donc que w ∈ K et que hp, wi < α < 0, ce qui
est impossible. 2
On peut donner un autre éclairage au Théorème 2.5.17 grâce à la notion de
Lagrangien.
Définition 2.5.20 On appelle Lagrangien du problème de minimisation de J(v),

sous les contraintes d’inégalité F (v) ≤ 0, la fonction L(v, µ) définie par
M
X
L(v, µ) = J(v) + µi Fi (v) = J(v) + µ · F (v) ∀(v, µ) ∈ V × (R+ )M .
i=1
La nouvelle variable positive µ ∈ (R+ )M est appelée multiplicateur de Lagrange

pour la contrainte F (v) ≤ 0.
Comme dans le Lemme 2.5.10 la maximisation du Lagrangien permet de faire
“disparaître” la contrainte.
Lemme 2.5.21 Le problème de minimisation sous contrainte d’inégalité est équi-

valent à un problème de min-max
inf J(v) = inf sup L(v, µ). (2.52)
v∈V, F (v)≤0 v∈V µ∈(R+ )M
La démonstration du Lemme 2.5.21 est très similaire à celle du Lemme 2.5.10

et laissée au lecteur en guise d’exercice.
Remarque 2.5.22 Comme pour le cas des contraintes d’égalité, la notion de La-
grangien est extrêmement utile pour les algorithmes numériques de minimisation.
Si la contrainte F (un ) ≤ 0 est violée pour une solution approchée un , alors, pour
un multiplicateur de Lagrange µn ≥ 0, dont les composantes correspondant à une
contrainte violée sont strictement positives tandis que les composantes correspon-
dant à une contrainte inactive sont nulles, la minimisation sans contrainte de L(v, µn )
permet d’obtenir une nouvelle itérée un+1 qui minimise au mieux la fonction objectif
et la violation de la contrainte. Cela sera précisé dans la Sous-section 3.4.2 lorsque
sera présenté l’algorithme d’Uzawa. •
La condition nécessaire d’optimalité (2.46) du Théorème 2.5.17 est bien la
stationnarité du Lagrangien de la Définition 2.5.20 puisque
∂L
(u, λ) = J 0 (u) + λ · F 0 (u) = 0,
∂v
et que la condition λ ≥ 0, F (u) ≤ 0, λ · F (u) = 0 est équivalente à l’inéquation

d’Euler (2.29) pour la maximisation par rapport à µ dans le convexe fermé (R+ )M
∂L
(u, λ) · (µ − λ) = F (u) · (µ − λ) ≤ 0 ∀µ ∈ (R+ )M .
∂µ
Exercice 2.5.17 Soit A une matrice symétrique définie positive d’ordre n, et B une
matrice de taille m × n avec m ≤ n et de rang m. On considère le problème de
minimisation
1
min J(x) = Ax · x − b · x ,
x∈Rn , Bx≤c 2
Appliquer le Théorème 2.5.17 pour obtenir l’existence d’un multiplicateur de Lagrange
p ∈ Rm tel qu’un point de minimum x vérifie
Ax − b + B ∗ p = 0 , p≥0, p · (Bx − c) = 0.
Exercice 2.5.18 Soit f une fonction définie sur un ouvert borné Ω. Pour > 0 on
considère le problème de régularisation suivant
Z
Z inf |∇u|2 dx,
Ω
u ∈ V0 , |u − f |2 dx ≤ 2
Ω
où V0 = {v ∈ C 1 (Ω), v = 0 sur ∂Ω}. Montrer qu’un point de minimum u vérifie, soit

u = f , soit il existe λ ≥ 0 tel que u est solution de

−∆u + λ(u − f ) = 0 dans Ω,
u = 0 sur ∂Ω.
Contraintes d’égalité et d’inégalité

On peut bien sûr mélanger les deux types de contraintes. On suppose donc que
K est donné par
K = {v ∈ V , G(v) = 0 , F (v) ≤ 0} , (2.53)
où G(v) = (G1 (v), ..., GN (v)) et F (v) = (F1 (v), ..., FM (v)) sont deux applications de
V dans RN et RM . Dans ce nouveau contexte, il faut donner une définition adéquate
de la qualification des contraintes. On note toujours I(u) = {i ∈ {1, . . . , M } , Fi (u) =
0} l’ensemble des contraintes d’inégalité actives en u ∈ K.
Définition 2.5.23 On dit que les contraintes (2.53) sont qualifiées en u ∈ K si

et seulement si les vecteurs G0i (u) 1≤i≤N sont linéairement indépendants et il existe
T 0 ⊥
une direction w ∈ N i=1 Gi (u) telle que l’on ait pour tout i ∈ I(u)
hFi0 (u), wi < 0 . (2.54)
Nous pouvons alors énoncer les conditions nécessaires d’optimalité sur l’en-
semble (2.53).
Théorème 2.5.24 Soit u ∈ K où K est donné par (2.53). On suppose que J et

F sont dérivables en u, que G est dérivable dans un voisinage de u, et que les
contraintes sont qualifiées en u (au sens de la Définition 2.5.23). Alors, si u est un
minimum local de J sur K, il existe des multiplicateurs de Lagrange µ1 , . . . , µN , et
λ1 , . . . , λM ≥ 0, tels que
N
X M
X
0
J (u) + µi G0i (u) + λi Fi0 (u) = 0 , λ ≥ 0 , F (u) ≤ 0 , λ · F (u) = 0 . (2.55)
i=1 i=1
La démonstration du Théorème 2.5.24 est une simple adaptation de celles des

Théorèmes 2.5.6 et 2.5.17, que nous laissons au lecteur en guise d’exercice.
Autres formes des conditions de qualification

Les conditions de qualification sont des conditions suffisantes de type “géomé-
trique” qui permettent de faire des variations internes à l’ensemble K à partir d’un
point u ∈ K. La condition de qualification de la Définition 2.5.15 est assez générale
(quoique loin d’être nécessaire), mais parfois difficile à vérifier dans les applications.
C’est pourquoi les remarques qui suivent donnent des conditions de qualifications
plus simples (donc plus faciles à vérifier en pratique) mais moins générales (i.e. moins
souvent vérifiées).
Remarque 2.5.25 Dans le cas des contraintes d’inégalité, on peut s’inspirer de la

notion de cas régulier (introduite à la Remarque 2.5.8 pour les contraintes d’égalité)
afin de donner une condition très simple qui entraîne la condition de qualification de
la Définition 2.5.15. En effet, pour u ∈ K les contraintes inactives ne “jouent” pas et
seules sont à prendre en compte les contraintes actives i ∈ I(u) qui sont justement
des contraintes d’égalité en ce point ! On vérifie alors sans peine que la condition
suivante (qui dit que u est un point régulier pour les contraintes d’égalité Fi (u) = 0
pour i ∈ I(u))
(Fi0 (u))i∈I(u) est une famille libre (2.56)
entraîne (2.45),
P c’est-à-dire que les contraintes sont qualifiées. En effet, il suffit de
prendre w = i∈I(u) αi Fi (u) tel que hFj0 (u), wi = −1 pour tout j ∈ I(u) (l’existence
0
des coefficients αi découle de l’inversibilité de la matrice (hFi0 (u), Fj0 (u)i)ij . Il est
clair cependant que (2.45) n’implique pas (2.56). •
Remarque 2.5.26 Dans le cas des contraintes combinées d’égalité et d’inégalité,

on peut aussi s’inspirer de la notion de cas régulier pour donner une condition
plus simple qui implique la condition de qualification de la Définition 2.5.23. Cette
condition “forte” (c’est-à-dire moins souvent vérifiée) de qualification est
[
G0i (u) 1≤i≤N (Fi0 (u))i∈I(u) est une famille libre.

(2.57)
On vérifie facilement que (2.57) entraîne (2.54), c’est-à-dire que les contraintes sont
qualifiées. •
2.6. POINT-SELLE, THÉORÈME DE KUHN ET TUCKER, DUALITÉ 47
Remarque 2.5.27 Revenant au cas des contraintes d’inégalité, supposées convexes,

une autre condition de qualification possible est la suivante. On suppose qu’il existe
v ∈ V tel que l’on ait, pour tout i ∈ {1, . . . , M },
les fonctions Fi sont convexes et,
ou bien Fi (v) < 0 , (2.58)
ou bien Fi (v) = 0 et Fi est affine.
L’hypothèse (2.58) entraîne que les contraintes sont qualifiées en u ∈ K au sens de
la Définition 2.5.15. En effet, si i ∈ I(u) et si Fi (v) < 0, alors, d’après la condition
de convexité (2.20)
hFi0 (u), v − ui = Fi (u) + hFi0 (u), v − ui ≤ Fi (v) < 0 .
D’autre part, si i ∈ I(u) et si Fi (v) = 0, alors Fi est affine et
hFi0 (u), v − ui = Fi (v) − Fi (u) = 0 ,
et la Définition 2.5.15 de qualification des contraintes est satisfaite avec w = v − u.

L’avantage de l’hypothèse (2.58) est de ne pas nécessiter de connaître le point de
minimum u ni de calculer les dérivées des fonctions F1 , . . . , FM . •
2.6 Point-selle, théorème de Kuhn et Tucker, dua-

lité
Nous avons vu après la Définition 2.5.9 du Lagrangien L comment il est pos-
sible d’interpréter le couple (u, λ) (point de minimum, multiplicateur de Lagrange)
comme un point stationnaire de ce Lagrangien. Nous allons dans cette section
préciser la nature de ce point stationnaire comme point-selle et montrer comment
cette formulation permet de caractériser un minimum (ce qui veut dire que, sous
certaines hypothèses, nous verrons que les conditions nécessaires de stationnarité
du Lagrangien sont aussi suffisantes). Nous explorerons brièvement la théorie de
la dualité qui en découle.
Outre l’intérêt théorique de cette caractérisation, son intérêt pratique du point
de vue des algorithmes numériques sera illustré au Chapitre 3. Signalons enfin que
la notion de point-selle joue un rôle fondamental dans la théorie des jeux.
2.6.1 Point-selle
De manière abstraite, V et Q étant deux espaces de Hilbert réels, un Lagrangien
L est une application de V × Q (ou d’une partie U × P de V × Q) dans R. Dans
le cadre du Théorème 2.5.6 sur les contraintes d’égalité (ou plutôt de la Définition
2.5.9), nous avions U = V , P = Q = RM et L(v, q) = J(v)+q ·F (v). La situation est
un peu différente dans le cadre du Théorème 2.5.17 sur les contraintes d’inégalité, où
pour le même Lagrangien L(v, q) = J(v) + q · F (v) il faut prendre U = V , Q = RM
et P = (R+ )M .
Figure 2.4 – Point selle ou col pour un Lagrangien.
Donnons maintenant la définition d’un point-selle, souvent appelé également

min-max ou col (voir la Figure 2.4).
Définition 2.6.1 On dit que (u, p) ∈ U × P est un point-selle de L sur U × P si

∀q ∈ P L(u, q) ≤ L(u, p) ≤ L(v, p) ∀ v ∈ U . (2.59)
Le résultat suivant montre le lien entre cette notion de point-selle et les pro-
blèmes de minimisation avec contraintes d’égalité (2.36) ou contraintes d’inégalité
(2.44) étudiés dans la section précédente. Pour simplifier, nous utiliserons de nouveau
des inégalités entre vecteurs, notant parfois q ≥ 0 au lieu de q ∈ (R+ )M .
Proposition 2.6.2 On suppose que les fonctions J, F1 , . . . , FM sont continues sur

V , et que l’ensemble K est défini par (2.36) ou (2.44). On note P = RM dans le cas
de contraintes d’égalité (2.36) et P = (R+ )M dans le cas de contraintes d’inégalité
(2.44). Soit U un ouvert de V contenant K. Pour (v, q) ∈ U × P , on pose L(v, q) =
J(v) + q · F (v).
Supposons que (u, p) soit un point-selle de L sur U × P . Alors u ∈ K et u est
un minimum global de J sur K. De plus, si J et F1 , . . . , FM sont dérivables en u,
on a
XM
0
J (u) + pi Fi0 (u) = 0 . (2.60)
i=1
Démonstration. Écrivons la condition de point-selle

∀q ∈ P J(u) + q · F (u) ≤ J(u) + p · F (u) ≤ J(v) + p · F (v) ∀ v ∈ U . (2.61)
Examinons d’abord le cas de contraintes d’égalité. Puisque P = RM , la première

inégalité dans (2.61) montre que F (u) = 0, i.e. u ∈ K. Il reste alors J(u) ≤ J(v) + p ·
F (v), pour tout v ∈ U , qui montre bien (en prenant v ∈ K) que u est un minimum
global de J sur K.
Dans le cas de contraintes d’inégalité, on a P = (R+ )M et la première inégalité
de (2.61) montre maintenant que F (u) ≤ 0 et que p · F (u) = 0. Ceci prouve encore
que u ∈ K, et permet de déduire facilement de la deuxième inégalité que u est un
minimum global de J sur K.
Enfin, si J et F1 , . . . , FM sont dérivables en u, la deuxième inégalité de (2.61)
montre que u est un point de minimum sans contrainte de J + p · F dans l’ouvert U ,
ce qui implique que la dérivée s’annule en u, J 0 (u) + p · F 0 (u) = 0 (cf. la Remarque
2.5.2). 2
2.6.2 Théorème de Kuhn et Tucker

Nous revenons au problème de minimisation sous contraintes d’inégalité pour
lequel l’ensemble K est donné par (2.44), c’est-à-dire
K = {v ∈ V tel que Fi (v) ≤ 0 pour 1 ≤ i ≤ M } . (2.62)
Le Théorème 2.5.17 a donné une condition nécessaire d’optimalité. Dans cette sous-
section nous allons voir que cette condition est aussi suffisante si les contraintes et
la fonction coût sont convexes. En effet, la Proposition 2.6.2 affirme que, si (u, p)
est un point-selle du Lagrangien, alors u réalise le minimum de J sur K. Pour un
problème de minimisation convexe avec des contraintes d’inégalités convexes, nous
allons établir une réciproque de ce résultat, c’est-à-dire que, si u réalise le minimum
de J sur K, alors il existe p ∈ (R+ )M tel que (u, p) soit point-selle du Lagrangien.
On suppose désormais que J, F1 , . . . , FM sont convexes continues sur V .
Remarque 2.6.3 Comme J, F1 , . . . , FM sont convexes continues, K est convexe

fermé et l’existence d’un minimum global de J sur K est assuré par le Théorème
2.3.9 dès que K est non vide et que la condition “infinie à l’infini” (2.10) est vérifiée.
•
Le théorème de Kuhn et Tucker (appelé aussi parfois théorème de Karush, Kuhn
et Tucker) affirme que, dans le cas convexe, la condition nécessaire d’optimalité du
Théorème 2.5.17 est en fait une condition nécessaire et suffisante.
Théorème 2.6.4 (de Kuhn et Tucker) On suppose que les fonctions J, F1 , . . . , FM

sont convexes continues sur V et dérivables sur l’ensemble K, défini par (2.62). On
introduit le Lagrangien L associé
L(v, q) = J(v) + q · F (v) ∀ (v, q) ∈ V × (R+ )M .
Soit u ∈ K un point de K où les contraintes sont qualifiées au sens de la Définition

2.5.15. Alors u est un minimum global de J sur K si et seulement si il existe p ∈
(R+ )M tel que (u, p) soit un point-selle du Lagrangien L sur V × (R+ )M ou, de
manière équivalente, tel que
M
X
0
F (u) ≤ 0 , p ≥ 0 , p · F (u) = 0 , J (u) + pi Fi0 (u) = 0 . (2.63)
i=1
Démonstration. Si u est un minimum de J sur K, on peut appliquer le Théo-

rème 2.5.17, qui donne exactement la condition d’optimalité (2.63), d’où l’on déduit
facilement que (u, p) est point-selle de L sur V × (R+ )M (en utilisant le fait que
J(v) + p · F (v) est convexe). Réciproquement, si (u, p) est point-selle, on a déjà
montré à la Proposition 2.6.2 que u est un minimum global de J sur K. 2
Remarque 2.6.5 Le Théorème 2.6.4 de Kuhn et Tucker ne s’applique qu’aux con-

traintes d’inégalité, et pas aux contraintes d’égalité, en général. Cependant, il est
bon de remarquer que des contraintes d’égalité affines Av = b peuvent s’écrire sous
la forme de contraintes d’inégalité (affines donc convexes) Av − b ≤ 0 et b − Av ≤ 0.
C’est une évidence qui permet cependant d’appliquer le Théorème 2.6.4 de Kuhn et
Tucker à un problème de minimisation avec contraintes d’égalité affines. •
Comme dans le cas des contraintes d’égalité (voir le Lemme 2.5.12), on peut
donner une interprétation concrète des multiplicateurs de Lagrange λi dans le Théo-
rème 2.5.17 : ils donnent la sensibilité de la valeur minimale de J aux variations du
niveau des contraintes Fi (au signe près). Pour un niveau des contraintes ∈ RM ,
on considère le problème d’optimisation
inf J(v). (2.64)

v∈V, F (v)≤
On note Jmin () la valeur minimum dans (2.64).
Lemme 2.6.6 On se place sous les hypothèses du Théorème 2.6.4 de Kuhn et Tu-
cker et on suppose que, pour petit, le problème (2.64) admet une solution unique,
notée u . On suppose aussi que la valeur minimale Jmin () de (2.64) est différen-
tiable par rapport à en 0. Alors, si on note u la solution pour = 0 et λ ∈ RM le
multiplicateur de Lagrange associé, on a, pour 1 ≤ i ≤ M ,
∂Jmin
λi = − (0).
∂i
Démonstration. D’après le Théorème 2.5.17, la solution u du problème (2.64) non
perturbé, c’est-à-dire pour = 0, vérifie la condition d’optimalité pour un certain
multiplicateur de Lagrange λ ≥ 0
J 0 (u) + λ · F 0 (u) = 0, λ · F (u) = 0. (2.65)
Comme les fonctions J et F sont convexes et que λ ≥ 0, pour tout v, on a
J(v) + λ · F (v) − J(u) − λ · F (u) ≥ hJ 0 (u) + λ · F 0 (u), v − ui.

D’après la condition d’optimalité (2.65), on a donc
J(v) + λ · F (v) − J(u) ≥ 0.
On prend alors v = u , la solution du problème perturbé (2.64), et comme F (u ) ≤

et λ ≥ 0, on en déduit que
Jmin () + λ · − Jmin (0) ≥ 0. (2.66)
Comme on a supposé que l’application 7→ Jmin () est dérivable, on a

∂Jmin
Jmin () = Jmin (0) + (0) · + o().
∂
L’inégalité (2.66) devient, pour tout ,

∂Jmin
(0) + λ · + o() ≥ 0.
∂
En divisant cette inéquation par la norme de et en faisant tendre vers 0, on
obtient que pour tout vecteur e de norme unité,

∂Jmin
(0) + λ · e ≥ 0.
∂
En appliquant cette inégalité à −e au lieu de e, on en déduit l’égalité recherchée.
Remarquons que, puisque λ ≥ 0, la valeur minimum Jmin () ne peut que décroitre
lorsque croît, ce qui est normal puisque l’ensemble des solutions admissibles croît.
2
2.6.3 Dualité
Donnons un bref aperçu de la théorie de la dualité pour les problèmes d’optimi-
sation. Nous l’appliquerons au problème de minimisation convexe avec contraintes
d’inégalité de la sous-section précédente. Nous avons associé à ce problème de
minimisation un problème de recherche d’un point-selle (u, p) pour le Lagrangien
L(v, q) = J(v) + q · F (v). Mais nous allons voir que, à l’existence d’un point-selle
(u, p) du Lagrangien, on peut associer inversement non pas un mais deux problèmes
d’optimisation (plus précisément, un problème de minimisation et un problème de
maximisation), qui seront dits duaux l’un de l’autre. Nous expliquerons ensuite sur
deux exemples simples en quoi l’introduction du problème dual peut être utile
pour la résolution du problème d’origine, dit problème primal (par opposition au
dual).
Revenons un instant au cadre général de la Définition 2.6.1.
Définition 2.6.7 Soit V et Q deux espaces de Hilbert réels, et L un Lagrangien

défini sur une partie U × P de V × Q. On suppose qu’il existe un point-selle (u, p)
de L sur U × P
∀q ∈ P L(u, q) ≤ L(u, p) ≤ L(v, p) ∀ v ∈ U . (2.67)

Pour v ∈ U et q ∈ P , posons
J (v) = sup L(v, q) G(q) = inf L(v, q) . (2.68)
q∈P v∈U
On appelle problème primal le problème de minimisation

inf J (v) , (2.69)
v∈U
et problème dual le problème de maximisation

sup G(q) . (2.70)
q∈P
Remarque 2.6.8 Bien sûr, sans hypothèses supplémentaires, il peut arriver que
J (v) = +∞ pour certaines valeurs de v ou que G(q) = −∞ pour certaines valeurs
de q. Mais l’existence supposée du point-selle (u, p) dans la Définition 2.6.7 nous
assure que les domaines de J et G (i.e. les ensembles {v ∈ U , J (v) < +∞} et
{q ∈ P , G(q) > −∞} sur lesquels ces fonctions sont bien définies) ne sont pas
vides, puisque (2.67) montre que J (u) = G(p) = L(u, p). Les problèmes primal et
dual ont donc bien un sens. Le résultat suivant montre que ces deux problèmes sont
étroitement liés au point-selle (u, p). •
Théorème 2.6.9 (de dualité) Le couple (u, p) est un point-selle de L sur U × P

si et seulement si
J (u) = min J (v) = max G(q) = G(p) . (2.71)
v∈U q∈P
Remarque 2.6.10 Par la Définition (2.68) de J et G, (2.71) est équivalent à

J (u) = min sup L(v, q) = max inf L(v, q) = G(p) . (2.72)
v∈U q∈P q∈P v∈U
Si le sup et l’inf sont atteints dans (2.72) (c’est-à-dire qu’on peut les écrire max
et min, respectivement), on voit alors que (2.72) traduit la possibilité d’échanger
l’ordre du min et du max appliqués au Lagrangien L. Ce fait (qui est faux si L
n’admet pas de point selle) explique le nom de min-max qui est souvent donné à un
point-selle. •
Démonstration. Soit (u, p) un point-selle de L sur U × P . Notons L∗ = L(u, p).
Pour v ∈ U , il est clair d’après (2.68) que J (v) ≥ L(v, p), d’où J (v) ≥ L∗ d’après
(2.67). Comme J (u) = L∗ , ceci montre que J (u) = inf v∈U J (v) = L∗ . On montre
de la même façon que G(p) = supq∈P G(q) = L∗ .
Réciproquement, supposons que (2.71) a lieu et posons L∗ = J (u). La définition
(2.68) de J montre que
L(u, q) ≤ J (u) = L∗ ∀q ∈ P . (2.73)
De même, on a aussi :
L(v, p) ≥ G(p) = L∗ ∀v ∈ U , (2.74)
et on déduit facilement de (2.73)-(2.74) que L(u, p) = L∗ , ce qui montre que (u, p)
est point-selle. 2
Remarque 2.6.11 Même si le Lagrangien L n’admet pas de point selle sur U × P ,

on a tout de même l’inégalité élémentaire suivante, dite de dualité faible

inf sup L(v, q) ≥ sup inf L(v, q) . (2.75)
v∈U q∈P q∈P v∈U
En effet, pour tout v ∈ U et q ∈ P , L(v, q) ≥ inf v0 ∈U L(v 0 , q), donc supq∈P L(v, q) ≥
supq∈P inf v0 ∈U L(v 0 , q), et puisque ceci est vrai pour tout v ∈ V , inf v∈V supq∈P L(v, q) ≥
supq∈P inf v0 ∈U L(v 0 , q), ce qui donne (2.75). La différence (positive) entre les deux
membres de l’inégalité (2.75) est appelée saut de dualité. •
Exercice 2.6.1 Soit F une fonction bornée non constante de R dans R. On définit sur
R×R le Lagrangien L(v, q) = F (v+q). Vérifier que pour ce Lagrangien l’inégalité (2.75)
est stricte avec ses deux membres finis.
Le Théorème 2.6.9 de dualité affirme que l’existence d’un point selle pour un
Lagrangien L(v, q) est équivalente à l’échange du min en v et du max en q pour son
optimisation. On peut alors se poser la question des conditions sur le Lagrangien
pour l’existence d’un point selle. Le Théorème 2.6.4 de Kuhn et Tucker donne un
premier exemple d’existence d’un point selle pour un Lagrangien du type L(v, q) =
J(v) + q · F (v), défini sur V × (R+ )M , avec J fortement convexe et F1 , . . . , FM
convexes. En effet, dans ce cas il existe un unique minimum global de J(v) sous les
contraintes F (v) ≤ 0 (si l’ensemble K, défini par (2.62) n’est pas vide). Le résultat
suivant donne une réponse plus générale sous l’hypothèse cruciale que le Lagrangien
est convexe en v et concave en q.
Proposition 2.6.12 Soit U (respectivement P ) un convexe compact non vide de

V (respectivement Q). Soit un Lagrangien L(v, q) défini et continu sur U × P . On
suppose que, pour tout q ∈ P , v 7→ L(v, q) est strictement convexe sur U et que,
pour tout v ∈ U , q 7→ L(v, q) est concave sur P . Alors il existe un point selle de L
sur U × P .
Démonstration. Pour tout q ∈ P , il existe un unique point de minimum, noté
v opt (q) ∈ U , de l’application v 7→ L(v, q) qui est strictement convexe et continue sur
le compact U . On pose
G(q) = L(v opt (q), q) = min L(v, q). (2.76)

v∈U
L’application G est concave comme minimum d’une famille de fonctions concaves

continues. Comme elle ne prend pas de valeurs infinies, elle est continue d’après le
Lemme 2.3.5. Comme P est compact et que G est continue, G admet au moins un
point de maximum sur P noté q ∗ . On note v ∗ = v opt (q ∗ ). On va montrer que (v ∗ , q ∗ )
est un point selle de L sur U × P , c’est-à-dire que
L(v ∗ , q) ≤ L(v ∗ , q ∗ ) ≤ L(v, q ∗ ) (2.77)
pour tout couple (v, q) ∈ U × P . La deuxième inégalité de (2.77) est évidente et

découle simplement de la définition de v ∗ = v opt (q ∗ ). Il reste à prouver la première
inégalité de (2.77). Pour tout θ ∈ [0, 1] et tout q ∈ P , on pose
vθopt = v opt ((1 − θ)q ∗ + θq)
et, puisque q ∗ maximise G sur P , on a
G(q ∗ ) ≥ G((1 − θ)q ∗ + θq) = L(vθopt , (1 − θ)q ∗ + θq).
La concavité de q 7→ L(vθopt , q) conduit alors à
G(q ∗ ) ≥ L(vθopt , (1 − θ)q ∗ + θq) ≥ (1 − θ)L(vθopt , q ∗ ) + θL(vθopt , q).
Or, par définition (2.76) de G, on a L(vθopt , q ∗ ) ≥ G(q ∗ ), d’où
G(q ∗ ) ≥ (1 − θ)G(q ∗ ) + θL(vθopt , q),
ce qui donne par soustraction et division par θ 6= 0
G(q ∗ ) ≥ L(vθopt , q) pour tout 0 < θ ≤ 1.
On ne peut malheureusement pas prendre θ = 0 dans l’inégalité ci-dessus et conclure

simplement que G(q ∗ ) = L(v ∗ , q ∗ ) ≥ L(v ∗ , q), puisque v0opt = v ∗ . Il faut donc utiliser
un argument de “passage à la limite” quand θ tend vers zéro. Comme U est compact,
il existe une suite θn qui tend vers zéro tel que vθopt n
converge vers une limite notée
ṽ. En passant à la limite dans l’inégalité précédente, on obtient
G(q ∗ ) = L(v ∗ , q ∗ ) ≥ lim L(vθopt

n
, q) = L(ṽ, q).
n→+∞
Pour conclure, il suffit donc de prouver que ṽ = v ∗ et ainsi obtenir la première

inégalité de (2.77). Par définition (2.76) de G, on a pour tout v ∈ U
L(vθopt
n
, (1 − θn )q ∗ + θn q) ≤ L(v, (1 − θn )q ∗ + θn q).
Par continuité du Lagrangien, on peut passer à la limite θn → 0 pour obtenir
L(ṽ, q ∗ ) ≤ L(v, q ∗ ).
Ainsi, ṽ est un minimiseur de v 7→ L(v, q ∗ ). Comme cette dernière application est

strictement convexe, elle admet au plus un minimiseur et ṽ = v opt (q ∗ ) = v ∗ . 2
Application
Nous appliquons ce résultat de dualité au problème précédent de minimisation
convexe avec contraintes d’inégalité convexes
inf J(v) (2.78)

v∈V , F (v)≤0
avec J et F = (F1 , . . . , FM ) convexes sur V . On introduit le Lagrangien
L(v, q) = J(v) + q · F (v) ∀ (v, q) ∈ V × (R+ )M .

Dans ce cadre, on voit facilement que, pour tout v ∈ V ,

(
J(v) si F (v) ≤ 0
J (v) = sup L(v, q) = (2.79)
q∈(R+ )M +∞ sinon ,
ce qui montre que le problème primal inf v∈V J (v) est exactement le problème d’ori-
gine (2.78) ! D’autre part, la fonction G(q) du problème dual est bien définie par
(2.68), car (2.68) est ici un problème de minimisation convexe. De plus, G(q) est une
fonction concave car elle est l’infimum de fonctions affines (voir l’Exercice 2.3.2).
Par conséquent, le problème dual
sup G(q) ,
q∈(R+ )M
est un problème de maximisation concave plus simple que le problème primal (2.78)
car les contraintes sont linéaires ! Cette particularité est notamment exploitée dans
des algorithmes numériques (cf. l’algorithme d’Uzawa). Une simple combinaison des
Théorèmes de Kuhn et Tucker 2.6.4 et de dualité 2.6.9 nous donne le résultat suivant.
Corollaire 2.6.13 On suppose que les fonctions J, F1 , . . . , FM sont convexes et dé-

rivables sur V . Soit u ∈ V tel que F (u) ≤ 0 et les contraintes sont qualifiées en u
au sens de la Définition 2.5.15. Alors, si u est un minimum global de J sur V , il
existe p ∈ (R+ )M tel que
1. p est un maximum global de G sur (R+ )M ,
2. (u, p) est un point-selle du Lagrangien L sur V × (R+ )M ,
3. (u, p) ∈ V × (R+ )M vérifie la condition d’optimalité nécessaire et suffisante
F (u) ≤ 0 , p ≥ 0 , p · F (u) = 0 , J 0 (u) + p · F 0 (u) = 0 . (2.80)
L’application la plus courante du Corollaire 2.6.13 est la suivante. Supposons

que le problème dual de maximisation est plus facile à résoudre que le problème
primal (c’est le cas en général car ses contraintes sont plus simples). Alors pour
calculer la solution u du problème primal on procède en deux étapes. Premièrement,
on calcule la solution p du problème dual. Deuxièmement, on dit que (u, p) est un
point selle du Lagrangien, c’est-à-dire que l’on calcule u, solution du problème de
minimisation sans contrainte
min L(v, p) .
v∈V
Précisons qu’avec les hypothèses faites il n’y a pas a priori d’unicité des solutions
pour tous ces problèmes. Précisons aussi que pour obtenir l’existence du minimum
u dans le Corollaire 2.6.13 il suffit d’ajouter une hypothèse de forte convexité ou de
comportement infini à l’infini sur J.
Remarque 2.6.14 Pour illustrer le Corollaire 2.6.13 et l’intérêt de la dualité, nous

considérons un problème de minimisation quadratique dans RN avec contraintes
d’inégalité affines

1
min J(v) = Av · v − b · v , (2.81)
v∈RN , F (v)=Bv−c≤0 2
où A est une matrice N × N symétrique définie positive, b ∈ RN , B une matrice

M × N et c ∈ RM . Le Lagrangien est donné par
1
L(v, q) = Av · v − b · v + q · (Bv − c) ∀ (v, q) ∈ RN × (R+ )M . (2.82)
2
Nous avons déjà fait dans (2.79) le calcul de J , et dit que le problème primal est
exactement (2.81). Examinons maintenant le problème dual. Pour q ∈ (R+ )M , le
problème
min L(v, q)
v∈RN
a une solution unique puisque v → L(v, q) est une fonction fortement convexe. Cette
solution vérifie ∂L
∂v
(v, q) = Av − b + B ∗ q = 0, soit v = A−1 (b − B ∗ q). On obtient donc
G(q) = L A−1 (b − B ∗ q), q ,

et le problème dual s’écrit finalement

1 −1 ∗ −1 1 −1
sup − q · BA B q + (BA b − c) · q − A b · b . (2.83)
q≥0 2 2
Certes, la fonctionnelle à maximiser dans (2.83) n’a pas une allure particulière-
ment sympathique. Il s’agit encore d’un problème avec fonctionnelle quadratique
et contraintes affines. Cependant, le Corollaire 2.6.13 nous assure qu’il a une so-
lution. On peut voir d’ailleurs que cette solution n’est pas forcément unique (sauf
si la matrice B est de rang M car la matrice BA−1 B ∗ est alors définie positive).
Mais l’avantage important du problème dual (2.83) vient du fait que les contraintes
(q ≥ 0) s’expriment sous une forme particulièrement simple, bien plus simple que
pour le problème primal ; et nous verrons à la Section 3.4 que cet avantage peut
être utilisé pour mettre au point un algorithme de calcul de la solution du problème
primal. •
Remarque 2.6.15 Une autre manière, très simple, d’éliminer des contraintes d’in-
égalité non-linéaires est l’introduction de variables supplémentaires, dites d’écart (ou
"slack variables" en anglais). On remplace les contraintes Fi (v) ≤ 0, pour 1 ≤ i ≤ M ,
par
Fi (v) + zi = 0 et zi ≥ 0 ,
puis on optimise par rapport au couple (v, z) ∈ V × (R+ )M avec ces nouvelles
contraintes d’égalité et d’inégalité (mais très simples pour z). Cette manière de faire
n’est donc pas très économe car on augmente le nombre de variables et de contraintes
(nous reverrons cette idée en programmation linéaire, voir le chapitre 4). •
Exercice 2.6.2 On reprend l’Exemple 1.2.8, déjà étudié à l’Exercice 2.5.4. En mé-
canique il est bien connu que la minimisation de l’énergie “en déplacements” J(u) de
l’Exercice 2.5.4 est équivalent à la minimisation d’une autre énergie, dite complémen-
taire dont la signification physique est tout aussi importante que celle de J(u). Cette
énergie complémentaire est définie en terme d’un champ de contraintes (mécaniques)
τ (x) par
1 L 2
Z
G(τ ) = |τ | dx. (2.84)
2 0
Elle s’accompagne d’une contrainte sur τ qui doit être statiquement admissible,
c’est-à-dire vérifier −τ 0 = f dans (0, L). Autrement dit, on considère le problème de
minimisation sous contrainte
1 L 2
Z
inf G(τ ) = |τ | dx . (2.85)
−τ 0 =f dans (0,L) 2 0
Pour τ et v, deux fonctions définies de (0, L) dans R, on introduit le Lagrangien corres-

pondant
1 L 2
Z Z L
L(τ, v) = |τ | dx + v(τ 0 + f )dx.
2 0 0
Montrer que la fonction duale D(v) correspondante n’est rien d’autre que l’opposée
de l’énergie −J(u) de l’Exercice 2.5.4. En admettant que −J(u) admette un point de
maximum u et que (2.85) admette un point de minimum σ, montrer que (σ, u) est un
point selle du Lagrangien et que σ = u0 .
Chapitre 3
ALGORITHMES
D’OPTIMISATION
L’objet de ce chapitre est de présenter et analyser quelques algorithmes per-

mettant de calculer, ou plus exactement d’approcher les solutions de problèmes
d’optimisation. Un point commun à tous ces algorithmes est qu’ils s’inspirent des
conditions d’optimalité étudiées au chapitre précédent et qu’en particulier ils uti-
lisent la connaissance des dérivées des fonctions objectifs et des contraintes. Le
lecteur trouvera qu’il y a peut-être beaucoup trop d’algorithmes présentés ici, mais
il doit savoir que chacun a son utilité et son efficacité en pratique sur tel ou tel pro-
blème. Aucun algorithme n’est universellement meilleur qu’un autre et le choix d’un
algorithme, plutôt qu’un autre, dépend en particulier de la régularité de la fonction
à minimiser (et des contraintes) et de la taille du problème à résoudre.
Ces algorithmes sont aussi tous de nature itérative : à partir d’une donnée
initiale u0 , chaque méthode construit une suite (un )n∈N dont nous montrerons qu’elle
converge, sous certaines hypothèses, vers la solution u du problème d’optimisation
considéré. Après avoir montré la convergence de ces algorithmes (c’est-à-dire,
la convergence de la suite (un )n∈N vers u quel que soit le choix de la donnée initiale
u0 ), nous étudierons leur vitesse de convergence.
Dans toute ce chapitre nous supposerons que la fonction objectif à minimiser
J est convexe. Le rôle de la convexité est absolument essentiel : si on applique ces
algorithmes à la minimisation de fonctions non convexes (ce qui arrive souvent en
pratique), on peut se heurter à des difficultés sérieuses. Typiquement, ces algorithmes
peuvent, au mieux converger vers un minimum local (voire vers un simple point
critique), très loin d’un minimum global, au pire ne pas converger, diverger ou osciller
entre plusieurs limites. Très souvent nous demanderons que la fonction J soit α-
convexe, différentiable et que sa dérivée soit L-Lipschitzienne. Ces hypothèses sont
assez fortes, mais nous verrons qu’elles sont cruciales pour les démonstrations de
convergence des algorithmes et qu’elles conditionnent les vitesses de convergence
que l’on peut obtenir. Rappelons que ces hypothèses permettent d’encadrer en tout
point u la fonction J par deux fonctions quadratiques qui lui sont tangentes en u
(voir la Remarque 2.4.11).
59
60 CHAPITRE 3. ALGORITHMES D’OPTIMISATION
Remarque 3.0.1 Nous nous limitons aux seuls algorithmes déterministes et nous
ne disons rien des algorithmes de type stochastique (recuit simulé, algorithmes géné-
tiques, etc.). Outre le fait que leur analyse fait appel à la théorie des probabilités (que
nous n’abordons pas dans ce cours), leur utilisation est très différente. Pour sché-
matiser simplement, disons que les algorithmes déterministes sont les plus efficaces
pour la minimisation de fonctions convexes, tandis que les algorithmes stochastiques
permettent d’approcher des minima globaux (et pas seulement locaux) de fonctions
non convexes (à un prix toutefois assez élevé en pratique). Nous n’évoquons pas, non
plus, les algorithmes qui n’utilisent pas de dérivées car ils sont très peu efficaces en
pratique. •
3.1 Algorithmes de type gradient (sans contraintes)

Commençons par étudier la résolution pratique de problèmes d’optimisation
en l’absence de contraintes. Soit J une fonction α-convexe différentiable définie sur
l’espace de Hilbert réel V , on considère le problème sans contrainte
inf J(v) . (3.1)

v∈V
D’après le Théorème 2.3.8 il existe une unique solution u, caractérisée d’après la

Remarque 2.5.2 par l’équation d’Euler J 0 (u) = 0. Pour démontrer la convergence
des algorithmes nous utiliserons très souvent une hypothèse de Lipschitziannité de
la dérivée J 0 (voir la Définition 2.4.9).
3.1.1 Algorithme de gradient à pas optimal

L’algorithme de gradient construit une suite minimisante un à l’aide d’une ré-
currence à un seul pas, c’est-à-dire que la nouvelle itérée un+1 ne dépend que de la
précédente un . On passe de un à un+1 en suivant la ligne de plus grande pente asso-
ciée à la fonction coût J(v). La direction de descente correspondant à cette ligne de
plus grande pente issue de un est donnée par l’opposé du gradient J 0 (un ). En effet,
si l’on cherche un+1 sous la forme
un+1 = un − µn wn , (3.2)
avec µn > 0 petit et wn unitaire dans V , un développement de Taylor à l’ordre 1,
J(un+1 ) = J(un ) − µn hJ 0 (un ), wn i + o(µn ),
J 0 (un )
montre que le choix de la direction wn = permet de trouver la plus petite
kJ 0 (un )k
valeur de J(un+1 ) si on néglige le terme de reste (c’est-à-dire en l’absence d’autres
informations comme les dérivées supérieures ou les itérées antérieures).
Ce simple constat conduit à choisir parmi les méthodes du type (3.2), qui sont
appelées "méthodes de descente", la méthode de gradient ou de plus grande pente
(steepest descent en anglais) dans laquelle wn est positivement proportionnelle à
3.1. ALGORITHMES DE TYPE GRADIENT (SANS CONTRAINTES) 61
J 0 (un ). Le choix du coefficient de proportionnalité, ou pas de descente, distingue

plusieurs algorithmes. Ici, nous présentons l’algorithme de gradient à pas opti-
mal, dans lequel on résout une succession de problème de minimisation à une seule
variable réelle (même si V n’est pas de dimension finie). A partir de u0 quelconque
dans V , on construit la suite (un ) définie par
un+1 = un − µn J 0 (un ) , (3.3)
où µn ∈ R, appelé pas de descente, est choisi à chaque étape tel que
J(un+1 ) = min J un − µ J 0 (un ) .

(3.4)
µ∈R
Notons que l’on n’a pas normalisé le vecteur gradient dans (3.3). Cet algorithme
converge comme l’indique le résultat suivant.
Théorème 3.1.1 On suppose que J est α-convexe différentiable et que J 0 est Lip-
schitzien sur tout borné de V , c’est-à-dire que
∀ M > 0, ∃ LM > 0, kvk + kwk ≤ M ⇒ kJ 0 (v) − J 0 (w)k ≤ LM kv − wk . (3.5)
Alors l’algorithme de gradient à pas optimal converge : quel que soit u0 , la suite (un )
définie par (3.3) et (3.4) converge vers la solution u de (3.1).
Démonstration. La fonction j(µ) = J un − µ J 0 (un ) est fortement convexe (si

J 0 (un ) 6= 0 ; sinon, on a déjà convergé, un = u !) et dérivable sur R. Le problème

de minimisation (3.4) a donc bien une solution unique, caractérisée par la condition
j 0 (µn ) = 0, qui s’écrit aussi
hJ 0 (un+1 ), J 0 (un )i = 0 . (3.6)
Ceci montre que deux “directions de descente” consécutives sont orthogonales. Puisque
(3.6) implique que hJ 0 (un+1 ), un+1 − un i = 0, on déduit de l’α-convexité de J que
α
J(un ) − J(un+1 ) ≥ kun − un+1 k2 , (3.7)
2
ce qui prouve que la suite J(un ) est décroissante. Comme elle est minorée par J(u),
elle converge et (3.7) montre que un+1 − un tend vers 0. D’autre part, l’α-convexité
de J et le fait que la suite J(un ) est bornée montrent que la suite (un ) est bornée :
il existe une constante M telle que
kun k ≤ M .
Écrivant (3.5) pour v = un et w = un+1 et utilisant (3.6), on obtient
kJ 0 (un )k2 ≤ kJ 0 (un )k2 + kJ 0 (un+1 )k2 = kJ 0 (un ) − J 0 (un+1 )k2 ≤ L2M kun+1 − un k2 ,
ce qui prouve que J 0 (un ) tend vers 0. L’α-convexité de J donne alors
αkun − uk2 ≤ hJ 0 (un ) − J 0 (u), un − ui = hJ 0 (un ), un − ui ≤ kJ 0 (un )k kun − uk ,
qui implique αkun − uk ≤ kJ 0 (un )k, d’où l’on déduit la convergence de l’algorithme.
2
Remarque 3.1.2 L’hypothèse (3.5) est plus faible que la L-Lipschitziannité de la

dérivée J 0 (voir la Définition 2.4.9) car elle est locale et non globale. Bien sûr, si J
est de classe C 2 sur V , alors elle est automatiquement vérifiée. •
Remarque 3.1.3 De manière générale on dira qu’un algorithme d’optimisation

converge s’il converge quelle que soit l’initialisation u0 . En effet, cela n’aurait pas de
sens de développer une théorie de convergence sous des conditions restrictives sur le
vecteur initial u0 (par exemple qu’il appartienne à un certain sous-ensemble de V )
car en pratique les inévitables erreurs d’arrondi du calcul numérique sur ordinateur
empêcherait que ces conditions soient vérifiées exactement et la suite des itérées un
pourrait ne pas converger. Néanmoins nous verrons parfois des algorithmes qui ne
convergent que si u0 est proche de la solution (comme l’algorithme de Newton). •
Remarque 3.1.4 Dans (3.2) la direction wn , positivement proportionnelle à J 0 (un ),

n’est pas la seule direction de descente possible, c’est-à-dire qui garantisse la décrois-
sance de la fonction coût J pour un pas µn petit. Pour s’en rendre compte de manière
simple, plaçons nous dans le cas où V = RN . Si P est une matrice symétrique définie
positive de taille N × N , alors P J 0 (un ) est aussi une direction de descente car un
développement de Taylor pour la récurrence
un+1 = un − µn P J 0 (un )
conduit à
J(un+1 ) = J(un ) − µn hP J 0 (un ), J 0 (un )i + o(µn ) < J(un )
si µn > 0 est petit et J 0 (un ) 6= 0. Il peut être intéressante d’utiliser un tel précondi-
tionnement du gradient pour améliorer la convergence. Par exemple, si les ordres
de grandeur des différentes composantes de u, et donc de J 0 (u), sont très différents,
on peut utiliser une telle matrice P diagonale pour remettre à la même échelle ces
composantes. Plus généralement, le choix d’une telle matrice revient à changer le
produit scalaire de V avec lequel on identifie le gradient. De ce point de vue, cette
approche se généralise aux espaces de Hilbert V de dimension infinie : on change la
direction de descente si on change le produit scalaire de V . •
Remarque 3.1.5 La recherche du pas optimal µn ∈ R dans (3.4) est un problème

très classique, appelé recherche linéaire ou en ligne. Il existe de très nombreux al-
gorithmes pour sa résolution (voir [26]). En pratique, on n’a souvent pas besoin de
trouver le pas optimal µn et on se contente d’un pas µ̃n qui fait "suffisamment" dé-
croitre la fonction j(µ) = J un − µ J 0 (un ) . Une condition suffisante de décroissance

est la règle d’Armijo-Goldstein qui, pour des paramètres 0 < p− < p+ < 1 fixés,
demande que le pas µ̃n > 0 vérifie
−p− j 0 (0)µ̃n ≤ j(0) − j(µ̃n ) ≤ −p+ j 0 (0)µ̃n ,
où on rappelle que j 0 (0) < 0 tant qu’on n’a pas convergé exactement. Il existe
d’autres règles du même type, comme celle de Wolfe (voir [6]). •
On peut se demander si la suite des pas optimaux µn reste bornée, loin de 0

et de +∞, ou pas. Les trois exercices suivants montrent, d’une part que c’est le cas
pour une fonction objectif quadratique ou bien α-convexe à dérivée Lipschitzienne
et, d’autre part, que le pas peut tendre vers +∞ pour une fonction objectif très
"plate" près de son minimum.
Exercice 3.1.1 On applique l’algorithme du gradient à pas optimal à la fonction

J(x) = 12 Ax · x − b · x, définie de RN dans R, avec b ∈ RN et A une matrice sy-
métrique définie positive de valeurs propres 0 < λ1 ≤ · · · ≤ λN . Montrer qu’à chaque
itération n le pas optimal vérifie 1/λN ≤ µn ≤ 1/λ1 .
Exercice 3.1.2 On applique l’algorithme du gradient à pas optimal à une fonction

J α-convexe différentiable et telle que sa dérivée J 0 est L-Lipschitzienne sur V (voir la
Définition 2.4.9). En utilisant l’encadrement de J par deux fonctions quadratiques (cf. la
Remarque 2.4.11), montrer que la suite des pas optimaux vérifie 0 < c ≤ µn ≤ C < +∞
pour deux constantes c, C indépendantes de n.
1
Exercice 3.1.3 Soit J(x) = 2p (Ax·x)p , définie de RN dans R, pour un entier p ≥ 2 et
A une matrice symétrique définie positive. Montrer que J est strictement convexe, que
son minimum est atteint en 0 et qu’elle n’est pas fortement convexe en 0. On applique
l’algorithme du gradient à pas optimal à J et on suppose que la suite des itérées vérifie
kxn k = n → 0 avec n > 0. Montrer que la suite des pas optimaux tend vers l’infini
comme µn = O (n )−2(p−1) .
3.1.2 Algorithme de gradient à pas fixe

L’algorithme de gradient à pas fixe est une variante du précédent où l’on utilise
un pas de descente fixe µ > 0, indépendant du numéro d’itération n. Autrement dit,
on construit une suite un définie par
un+1 = un − µ J 0 (un ) , (3.8)
à partir d’une initialisation u0 ∈ V . Cette méthode est donc plus simple que l’al-
gorithme de gradient à pas optimal, puisqu’on fait à chaque étape l’économie de
la résolution de (3.4). Le résultat suivant affirme que, si le pas de descente µ est
suffisamment petit, alors l’algorithme (3.8) converge.
schitzien sur V , c’est-à-dire qu’il existe une constante L > 0 telle que
kJ 0 (v) − J 0 (w)k ≤ Lkv − wk ∀ v, w ∈ V . (3.9)
Alors, si 0 < µ < 2α/L2 , l’algorithme de gradient à pas fixe converge : quel que soit
u0 , la suite (un ) définie par (3.8) converge vers la solution u de (3.1)
p
kun − uk ≤ γ n ku0 − uk avec γ = 1 − 2αµ + µ2 L2 < 1.
n n 0 n+1
Démonstration. Posons v = u − u. Comme J (u) = 0, on a v = vn −
0 n 0
µ J (u ) − J (u) , d’où il vient
2
kv n+1 k2 = kv n k2 − 2µhJ 0 (un ) − J 0 (u), un − ui + µ2 J 0 (un ) − J 0 (u)

(3.10)
2 2 n 2

≤ 1 − 2αµ + L µ kv k ,
d’après (3.9) et l’α-convexité. Si 0 < µ < 2α/L2 , il est facile de voir que 1 − 2αµ +
L2 µ2 ∈]0, 1[, et la convergence se déduit de (3.10). De manière équivalente, la même
démonstration montre que l’application v 7→ v − µJ 0 (v) est strictement contractante
lorsque 0 < µ < 2α/L2 , donc elle admet un unique point fixe (qui n’est autre que
u) vers lequel converge la suite un . 2
Remarque 3.1.7 L’algorithme de gradient à pas fixe est plus simple que celui à pas
optimal puisqu’il ne nécessite pas de résoudre une optimisation uni-dimensionnelle
(3.4) à chaque itération. Par contre, on ne connait en général pas de bonne estimation
des constantes α et L et on ne sait pas a priori si un choix de pas de descente µ > 0
est suffisamment petit. •
Remarque 3.1.8 Le Théorème 3.1.6 donne une estimation de la vitesse de conver-

gence de l’algorithme qui est dite géométrique car la quantité kun − uk1/n admet
une limite finie, inférieure à γ < 1, lorsque n tend vers +∞. Cette vitesse permet de
fixer le nombre d’itérations n nécessaires pour rendre l’erreur kun − uk inférieure à
une tolérance fixée a priori. On peut optimiser le choix du pas de descente µ dans
l’intervalle ]0, 2α/L2 [ qui minimise la valeur
p de γ. On trouve facilement que le pas
optimal est µ = α/L2 qui conduit à γ = 1 − α2 /L2 . Mais cette valeur de γ n’est
pas la vitesse de convergence optimale de l’algorithme du gradient à pas fixe car on
a privilégié une démonstration simple du Théorème 3.1.6. Une meilleure constante
sera donnée dans la Proposition 3.2.1. Notons que, de toute façon en pratique, on ne
connait souvent pas les valeurs de α et L et donc qu’il est difficile de choisir le pas
optimal µ. L’Exercice 3.1.5 montre, sur un exemple quadratique, que l’algorithme du
gradient à pas fixe ne peut pas converger plus vite que cette convergence géométrique
(mais avec une meilleure valeur de γ). On verra par la suite d’autres algorithmes
où on peut améliorer la constante γ dans la convergence géométrique (par exemple
le gradient conjugué), voire où on peut améliorer la convergence géométrique qui
devient quadratique (exemple de la méthode de Newton). •
Exercice 3.1.4 On se place sous les hypothèses du Théorème 3.1.6. En utilisant la

définition (3.8) de l’algorithme, montrer qu’il existe une constante C0 telle que
kJ 0 (un )k ≤ C0 γ n ,
et, en utilisant la convexité de J au point un ,

p
0 ≤ J(un ) − J(u) ≤ C0 γ 2n avec γ= 1 − 2αµ + µ2 L2 .
Exercice 3.1.5 Soit A une matrice symétrique définie positive de taille N × N , de

valeurs propres ordonnées 0 < λ1 ≤ · · · ≤ λN , et soit b ∈ RN . On considère l’algorithme
du gradient à pas fixe pour la fonction définie sur RN par
1
J(x) = Ax · x − b · x .
2
Récrire l’algorithme sous la forme (xn − x∗ ) = B(xn−1 − x∗ ) où x∗ = A−1 b et B est une
matrice que l’on précisera. En étudiant le rayon spectral de B montrer que l’algorithme
converge si et seulement si le pas fixe vérifie 0 < µ < 2/λN , et que la meilleure vitesse de
convergence de l’algorithme s’obtient pour le choix du pas de descente µB = 2/(λ1 +λN ),
qui conduit à
1 − λ1 /λN
kxn − x∗ k ≤ γBn kx0 − x∗ k avec γB = .
1 + λ1 /λN
Comparer avec la valeur optimisée de γ dans la Remarque 3.1.8 (identifier les valeurs L
et α pour la fonction J(x)).
La proposition suivante est une version affaiblie du Théorème 3.1.6 où on ne
fait plus l’hypothèse que la fonction J est α-convexe mais seulement qu’elle est
strictement convexe. De plus, on se restreint à la dimension finie car on utilise un
argument de compacité.
Proposition 3.1.9 Soit une fonction J(u) définie sur V = RN , strictement convexe,
différentiable, infinie à l’infini et telle que J 0 est Lipschitzien, c’est-à-dire vérifie
(3.9) pour une constante L > 0. Alors, si 0 < µ < 2/L, l’algorithme de gradient à
pas fixe converge : quel que soit u0 , la suite (un ) définie par (3.8) converge vers la
solution u de (3.1).
Démonstration. Puisque un+1 = un − µJ 0 (un ) on applique le Lemme 3.1.10 avec
v = un et v ∗ = un+1 , ce qui conduit à
J(un+1 ) ≤ J(un ) − µ(1 − Lµ/2)kJ 0 (un )k2 .
On en déduit que, pour 0 < µ < 2/L, la suite J(un ) est décroissante et, comme J
est infinie à l’infini, la suite un est bornée. Comme V = RN il existe une sous-suite
0 0 0 0
convergente, notée un , de la suite un . De la formule un +1 − un = −µJ 0 (un ), on
0
déduit que limn0 →+∞ J 0 (un ) = 0. Comme J 0 est continue (puisque Lipschitzien), la
0
limite de la sous-suite un est un zéro de J 0 . Or, J est strictement convexe donc
admet au plus un point de minimum, c’est-à-dire que J 0 ne s’annule qu’en un seul
point u. Par conséquent, toutes les sous-suites convergentes de un convergent vers
la même limite u. Autrement dit, toute la suite un converge vers u qui est l’unique
point de minimum de J. 2
Lemme 3.1.10 Soit J une fonction différentiable, de dérivée L-Lipschitzienne. Soit

v ∈ V quelconque et v ∗ = v − µJ 0 (v). Alors
J(v) − J(v ∗ ) ≥ µ(1 − Lµ/2)kJ 0 (v)k2 .

Démonstration. En vertu du Lemme 2.4.10 la fonction J(v ∗ ) est majorée par une
fonction quadratique de v ∗
L ∗
J(v ∗ ) ≤ J(v) + hJ 0 (v), v ∗ − vi + kv − vk2 .
2
On remplace v ∗ − v par −µJ 0 (v) pour obtenir le résultat. 2
Remarque 3.1.11 Le Lemme 3.1.10 est une garantie de décroissance d’un pas de
l’algorithme du gradient, sans aucune condition de convexité sur la fonction. •
Si on ne suppose même plus que la fonction J est convexe, alors on ne peut pas
garantir que la suite un converge vers un point de minimum.
Exercice 3.1.6 Soit une fonction J(u) différentiable, infinie à l’infini et telle que J 0
est Lipschitzien, c’est-à-dire vérifie (3.9) pour une constante L > 0. On ne suppose pas
que J est convexe. A l’aide des mêmes raisonnements que pour la Proposition 3.1.9,
montrer que l’algorithme du gradient à pas fixe 0 < µ < 2/L vérifie que J(un ) décroit
et J 0 (un ) tend vers 0.
L’exercice suivant donne un exemple de fonction J pour lequel l’algorithme
de gradient converge seulement vers un point d’inflexion et pas vers un point de
minimum.
Exercice 3.1.7 Soit la fonction J(x) = 21 x21 + 14 x42 − 21 x22 définie sur R2 . Vérifier que
J n’est pas convexe et que l’ensemble de ses points critiques (où son gradient s’annule)
sont O = (0, 0), P = (0, −1) et Q = (0, 1). Montrer que P et Q sont des points de
minimum tandis que O est un point selle. Montrer que, si on initialise un algorithme de
gradient au point x0 = (1, 0), alors quelque soit la règle de choix du pas de descente
µn > 0 (fixe, optimal ou autre) qui assure la convergence la limite est le point O qui
n’est pas un minimum, même local, de J.
3.2 Généralisations et autres algorithmes de type

gradient
La section précédente a donné les bases de ce qu’il faut savoir sur les algorithmes
de gradient pour l’optimisation sans contraintes. Cette section, qui peut être omise
en première lecture, va généraliser ce que nous venons de voir dans deux direc-
tions. D’une part, nous allons voir comment les algorithmes de gradient doivent être
modifiés et comment ils convergent lorsque la fonction coût à minimiser est moins
régulière que ce que nous avons supposé jusqu’ici. D’autre part, nous présentons
d’autres algorithmes de descente, qu’on dit du premier ordre car à chaque itération
ils n’utilisent que l’information du gradient et pas celle de dérivées d’ordre supérieur
(contrairement à la méthode de Newton que nous verrons plus tard). Typiquement
ces nouveaux algorithmes différent des deux précédents car la nouvelle itération
un+1 ne dépend pas que de la solution courante un mais aussi de la précédente un−1
3.2. GÉNÉRALISATIONS ET AUTRES ALGORITHMES DE TYPE GRADIENT67
(on parle alors de méthode multi-pas). Nous en donnons quelques exemples simples
pour illustrer la richesse de l’algorithmique en optimisation, sachant que certains
algorithmes sont spécialisés pour des classe de fonctions coûts bien particulières.
3.2.1 Vitesse de convergence

Commençons par dire quelques mots de la vitesse de convergence de l’algorithme
du gradient à pas fixe. En effet, cette question est intéressante en elle-même mais, en
plus, elle motive la conception d’autres algorithmes pour l’améliorer. Comme nous
l’avions dit à la Remarque 3.1.8 la vitesse de convergence du Théorème 3.1.6 n’est
pas optimale. Nous donnons donc une nouvelle démonstration du Théorème 3.1.6,
mais en nous plaçant en dimension finie et en supposant la fonction J de classe
C 2 pour simplifier l’analyse, ce qui nous permet d’obtenir la vitesse de convergence
optimale pour l’algorithme du gradient à pas fixe.
Proposition 3.2.1 On ajoute aux hypothèses du Théorème 3.1.6 le fait que V = RN

et que la fonction J est de classe C 2 . Alors l’algorithme de gradient à pas fixe
converge pour 0 < µ < 2/L, c’est-à-dire que quel que soit u0 , la suite (un ) définie
par (3.8) converge vers la solution u de (3.1), et la vitesse de convergence optimale
s’obtient pour le pas µ opt = 2/(L + α)
1 − α/L
kun − uk ≤ γ nopt ku0 − uk avec γ opt = < 1.
1 + α/L
Démonstration. On écrit à nouveau
un+1 − u = un − u − µ J 0 (un ) − J 0 (u)

et on utilise un développement de Taylor avec reste exact

Z 1
n+1 n n n 00 n
u − u = B (u − u) avec B = Id − µ J (u + t(u − u))dt .
0
L’hypothèse (3.9) sur J 0 Lipschitzien implique J 00 ≤ L Id, tandis que la forte convexité
de J implique J 00 ≥ α Id. Par conséquent, la matrice symétrique B n vérifie
(1 − µL) Id ≤ B n ≤ (1 − µα) Id.
Soit ρ(B n ) le rayon spectral de B n , c’est-à-dire le maximum des valeurs absolues de

ses valeurs propres. On a ρ(B n ) ≤ max (|1 − µL|, |1 − µα|) dont on déduit ρ(B n ) ≤
γ < 1 avec γ indépendant de n si 0 < µ < 2/L. Autrement dit, kun −uk ≤ γ n ku0 −uk
et l’algorithme du gradient à pas fixe converge si 0 < µ < 2/L. Si maintenant on
choisit µ tel que (1 − µL) ≤ 0 ≤ (1 − µα), alors
ρ(B n ) ≤ max(µL − 1, 1 − µα)
et dans cette majoration la valeur optimale du pas est µ opt = 2/(L + α) qui conduit
L−α
à γ opt = L+α . 2
Remarque 3.2.2 Comme l’a montré l’Exercice 3.1.5 sur une fonction quadratique,
on ne peut pas espérer améliorer la vitesse de convergence de l’algorithme du gradient
à pas fixe obtenue à la Proposition 3.2.1, qui est donc bien optimale. De même,
l’Exercice 3.1.5 montre que l’on ne peut pas élargir l’ensemble des pas, 0 < µ < 2/L,
pour lesquels l’algorithme du gradient à pas fixe converge. •
Une propriété intéressante des fonctions J, α-convexes à dérivée L-Lipschitzienne,
est que la décroissance de la norme de la dérivée J 0 (un ) est équivalente à la décrois-
sance de la norme de l’erreur (un − u) où u est l’unique point de minimum de J
et un est la suite des itérées produite par n’importe quel algorithme d’optimisation.
Autrement dit, il suffit d’étudier la convergence vers zéro de la dérivée J 0 (un ) pour
avoir une idée de la convergence vers zéro de l’erreur (un − u), sans même connaitre
le point de minimum. C’est une conséquence du résultat suivant.
Lemme 3.2.3 Soit J une fonction différentiable α-convexe à dérivée L-Lipschitzienne

de V dans R. Soit u ∈ V son unique point de minimum. Alors, pour tout v ∈ V ,
αkv − uk ≤ kJ 0 (v)k ≤ Lkv − uk.
Démonstration. Notons que J 0 (u) = 0. La première inégalité est alors une consé-
quence de (2.24) et de l’inégalité de Cauchy-Schwarz, tandis que la deuxième inéga-
lité est simplement l’application de la Définition 2.4.9 sur la L-Lipschitzianité de J 0 .
2
Si la fonction J que l’on minimise n’est pas fortement (ou α-) convexe, alors la
vitesse de convergence est bien moindre, devenant algébrique au lieu de géométrique.
Proposition 3.2.4 Soit une fonction J(u) définie sur V = RN , strictement convexe,
de classe C 2 , infinie à l’infini et telle que J 0 est Lipschitzien, c’est-à-dire vérifie (3.9)
pour une constante L > 0. Alors l’algorithme de gradient à pas fixe converge pour
0 < µ < 2/L, c’est-à-dire que quel que soit u0 , la suite (un ) définie par (3.8) converge
vers la solution u de (3.1), et on a
κ ku0 − uk2
0 ≤ J(un ) − J(u) ≤ avec κ = .
n+1 µ(1 − Lµ/2)
Remarque 3.2.5 Noter que la Proposition 3.2.4 ne dit rien de la vitesse de conver-
gence de kun − uk et que la vitesse de convergence est ici définie comme la vitesse
de convergence de J(un ) vers J(u). Cette dernière est algébrique (comme 1/n),
ce qui est beaucoup moins rapide que la convergence géométrique du cas fortement
convexe (comme γ 2n avec 0 < γ < 1, d’après l’Exercice 3.1.4). On ne peut pas avoir
une estimation de kun − uk, indépendante de J, car les fonctions convexes, mais pas
fortement convexes, peuvent être très plates près de leur minimum et la convergence
de un vers u peut être aussi lente que l’on veut selon la forme de J. •
Démonstration. On a déjà démontré à la Proposition 3.1.9 que un converge vers
l’unique point de minimum u de J. On calcule la norme au carré de la relation
un+1 − u = un − u − µ (J 0 (un ) − J 0 (u)) ,

où l’on a utilisé la propriété J 0 (u) = 0. On obtient
kun+1 − uk2 = kun − uk2 + µ2 kJ 0 (un ) − J 0 (u)k2 − 2µhJ 0 (un ) − J 0 (u), un − ui
et l’on majore le dernier terme à l’aide du Lemme 3.2.6 ci-dessous. Comme J 0 (u) = 0,
on en déduit
kun+1 − uk2 ≤ kun − uk2 − 2µ(1 − Lµ/2)kJ 0 (un )k2 ,
et donc que la suite kun − uk est décroissante pour 0 < µ < 2/L. Par ailleurs, la
convexité de J en un donne
J(un ) + hJ 0 (un ), u − un i ≤ J(u),
et par Cauchy-Schwarz ainsi que par la décroissance de kun − uk
0 ≤ J(un ) − J(u) ≤ kJ 0 (un )k kun − uk ≤ kJ 0 (un )k ku0 − uk. (3.11)
Or, lors de la preuve la Proposition 3.1.9 on a montré que
J(un+1 ) ≤ J(un ) − µ(1 − Lµ/2)kJ 0 (un )k2 ,
c’est-à-dire, en posant ∆n = J(un ) − J(u) > 0, que
µ(1 − Lµ/2)kJ 0 (un )k2 ≤ ∆n − ∆n+1 (3.12)
En combinant (3.11) et (3.12) on obtient
ku0 − uk2
∆n+1 ≤ ∆n − κ−1 (∆n )2 avec κ = . (3.13)
µ(1 − Lµ/2)
κ
Montrons alors par récurrence sur n que ∆n ≤ n+1
, ce qui est le résultat recherché.
Pour n = 0, on reprend (3.11) et on majore
ku0 − uk
kJ 0 (u0 )k = kJ 0 (u0 ) − J 0 (u)k ≤ Lku0 − uk ≤
µ(1 − Lµ/2)
car 0 < µ < 2/L, donc ∆0 ≤ κ. De (3.13) on a immédiatement ∆n+1 ≤ ∆n ≤ ∆0 ≤

κ. Supposons qu’à l’ordre (n − 1) on ait bien n∆n−1 ≤ κ. On calcule alors
(n+1)∆n ≤ (n+1)∆n−1 −(n+1)κ−1 (∆n−1 )2 ≤ n∆n−1 +∆n−1 1 − (n + 1)κ−1 ∆n−1

≤ κ + κ−1 ∆n−1 (κ − (n + 1)∆n )

puisque ∆n ≤ ∆n−1 . On regroupe les termes pour en déduire
0 ≤ (κ − (n + 1)∆n ) 1 + κ−1 ∆n−1

qui prouve que κ − (n + 1)∆n ≥ 0 comme voulu. 2

Lemme 3.2.6 Soit une fonction J(u) définie sur V = RN , strictement convexe, de
classe C 2 et telle que J 0 est L-Lipschitzien au sens de la Définition 2.4.9 pour une
constante L > 0. Alors
kJ 0 (v) − J 0 (w)k2 ≤ L hJ 0 (v) − J 0 (w), v − wi pour tout v, w ∈ V.
Démonstration. On écrit la formule de Taylor avec reste exact

Z 1
0 0
J (v) = J (w) + J 00 (w + t(v − w))(v − w) dt.
0
Comme J est strictement convexe et J 0 L-Lipschitzien, la matrice N ×N des dérivées

secondes est inversible et vérifie 0 < J 00 (u) ≤ L Id pour tout u ∈ RN . Par conséquent,
il en est de même de la matrice
Z 1
A= J 00 (w + t(v − w)) dt
0
qui vérifie A−1 ≥ 1/L Id. On déduit alors de la formule de Taylor ci-dessus
A−1 (J 0 (v) − J 0 (w)) = v − w,
donc, pour tout v, w ∈ RN ,
1 0
kJ (v) − J 0 (w)k2 ≤ hA−1 (J 0 (v) − J 0 (w)) , J 0 (v) − J 0 (w)i = hJ 0 (v) − J 0 (w), v − wi.
L
En fait, le résultat reste vrai pour une fonction J(u) convexe mais pas strictement
convexe : il suffit de lui ajouter kuk2 avec > 0 puis de passer à la limite → 0
dans le résultat. 2
Remarque 3.2.7 Un aspect essentiel des estimations de vitesse de convergence

que nous venons de voir est qu’elles sont toutes indépendantes de la dimension
de l’espace V dans lequel on minimise. C’est particulièrement évident lorsque les
preuves sont faites pour un espace de Hilbert quelconque, possiblement de dimension
infinie. C’est une information très importante lorsqu’on travaille sur des problèmes
en très grande dimension (voire infinie). Par contre, en général le coût de calcul
d’une itération dépend de la dimension. Penser, par exemple, à la minimisation
d’une fonction quadratique comme dans l’Exercice 3.1.5, où le coût d’une itération
de la méthode du gradient à pas fixe est dominée par le calcul du gradient qui
correspond à un produit matrice vecteur et est donc de l’ordre de N 2 , avec N la
dimension. Néanmoins, il faut se méfier de certains problèmes où les constantes α
et L qui apparaissent dans la vitesse de convergence dépendent, de manière plus ou
moins cachée, de la dimension (par exemple, pour une fonction quadratique où la
matrice est issue de la discrétisation d’une équation différentielle). •
3.2.2 Algorithme de Nesterov

Nesterov [25] a proposé un algorithme qui améliore la vitesse de convergence
de la méthode du gradient à pas fixe pour les fonctions convexes. Pour cette raison
l’algorithme de Nesterov est parfois appelé algorithme du gradient accéléré. On
l’initialise avec une constante a0 = 1 et un vecteur v 0 = u−1 ∈ V . Ensuite, pour
n ≥ 0,
u = v n − µ J 0 (v n )
 n

1

 p
an+1 = (1 + 4a2n + 1)

2 (3.14)

n+1 n an − 1 n n−1
 v =u + (u − u )


an+1
avec un pas fixe µ > 0. L’idée de cet algorithme est d’extrapoler un nouveau vecteur
v n+1 au delà du segment (un−1 , un ) où l’on calcule le gradient qui donnera la nouvelle
itérée un+1 (on parle aussi de sur-relaxation). La formule de récurrence pour le
coefficient an vient d’une majoration précise dans la démonstration de convergence.
On vérifie facilement que, pour n grand, an ≈ 1+n/2 et le coefficient d’extrapolation
vaut (an − 1)/an+1 ≈ 1.
Proposition 3.2.8 Soit J une fonction convexe différentiable, telle que J 0 est L-
Lipschitzienne, c’est-à-dire vérifie (3.9). Soit un pas de descente µ tel que 0 < µ ≤
1/L. On suppose qu’il existe un point de minimum u de J sur V . Alors la suite un
de l’agorithme de Nesterov, définie par (3.14), vérifie
κ
0 ≤ J(un ) − J(u) ≤ avec κ = 2µ−1 ku0 − uk2 + 4(J(u0 ) − J(u)).
(n + 2)2
Remarque 3.2.9 Avec quelques hypothèses supplémentaires on peut montrer que
la suite un converge vers u (voir l’Exercice 3.2.1 ci-dessous). La vitesse de convergence
de la Proposition 3.2.8 améliore sensiblement (1/n2 au lieu de 1/n) celle obtenue
dans la Proposition 3.2.4. Comme on le verra à la Remarque 3.2.10 cette vitesse
est optimale pour les fonctions convexes. Néanmoins, pour des fonctions fortement
convexes, quitte à changer la définition précise du coefficient d’extrapolation an ,
on peut encore améliorer cette vitesse de convergence et retrouver une convergence
géométrique (voir la Proposition 3.2.11). •
Démonstration. Soit pn = (an − 1)(un−1 − un ) de sorte que v n+1 = un − pn /an+1 .
L’astuce de Nesterov est d’étudier la convergence de la suite un − pn plutôt que celle
de un ou v n . On calcule
un+1 − pn+1 = un+1 − (an+1 − 1)(un − un+1 ) = an+1 un+1 − (an+1 − 1)un
= an+1 (v n+1 − µJ 0 (v n+1 )) − (an+1 − 1)un = un − pn − an+1 µJ 0 (v n+1 ).
On en déduit
kun+1 − pn+1 − uk2 = kun − pn − uk2 + a2n+1 µ2 kJ 0 (v n+1 )k2
+2an+1 µhJ 0 (v n+1 ), u − v n+1 i (3.15)
+2(an+1 − 1)µhJ 0 (v n+1 ), pn i,
en ayant utilisé an+1 (v n+1 +pn −un ) = (an+1 −1)pn dans la dernière ligne. On majore
la deuxième ligne de (3.15) par convexité de J
hJ 0 (v n+1 ), u − v n+1 i ≤ J(u) − J(v n+1 )
et la troisième ligne de même car
hJ 0 (v n+1 ), pn i = an+1 hJ 0 (v n+1 ), un − v n+1 i ≤ an+1 (J(un ) − J(v n+1 )).
Ainsi (3.15) devient
kun+1 − pn+1 − uk2 ≤ kun − pn − uk2 + a2n+1 µ2 kJ 0 (v n+1 )k2

+2an+1 µ(J(u) − J(v n+1 )) (3.16)
+2(an+1 − 1)µan+1 (J(un ) − J(v n+1 )).
On majore les deux dernières lignes de (3.16) en écrivant
J(u) − J(v n+1 ) = J(u) − J(un+1 ) + J(un+1 ) − J(v n+1 )

J(un ) − J(v n+1 ) = J(un ) − J(un+1 ) + J(un+1 ) − J(v n+1 )
puis en appliquant le Lemme 3.1.10 avec v = v n+1 et v ∗ = un+1
J(un+1 ) − J(v n+1 ) ≤ −µ(1 − Lµ/2)kJ 0 (v n+1 )k2 . (3.17)
Par conséquent, (3.16) devient
kun+1 − pn+1 − uk2 ≤ kun − pn − uk2 + a2n+1 µ2 kJ 0 (v n+1 )k2 (Lµ − 1)

+2µan+1 (J(u) − J(un+1 )) (3.18)
+2µ(an+1 − 1)an+1 (J(un ) − J(un+1 )).
On remarque que la définition de la suite an implique que (an+1 − 1)an+1 = a2n . En

supposant que 0 < µ ≤ 1/L et en introduisant J(u) dans la dernière ligne de (3.18),
on obtient
kun+1 − pn+1 − uk2 + 2µa2n+1 (J(un+1 ) − J(u)) ≤ kun − pn − uk2 + 2µa2n (J(un ) − J(u))
donc, comme a0 = 1 et p0 = 0,
2µa2n (J(un ) − J(u)) ≤ ku0 − uk2 + 2µ(J(u0 ) − J(u)).
Il est facile de vérifier que an ≥ 1 + n/2 ce qui donne la majoration attendue. 2
Exercice 3.2.1 On se place sous les hypothèses de la Proposition 3.2.8 et dans un

espace de dimension finie V = RN . On suppose de plus que la fonction J est strictement
convexe et infinie à l’infini.On considère la suite un donnée par l’algorithme (3.14) de
Nesterov.
1. Montrer que la suite un est bornée.

2. Montrer que toute sous-suite convergente de un converge vers une limite où J 0
s’annule.
3. En déduire que toute la suite un converge vers l’unique point de minimum de J.
Remarque 3.2.10 La vitesse de convergence de la Proposition 3.2.8 est optimale

pour des fonctions convexes, mais pas fortement convexes, et à dérivée Lipschtzienne.
Précisément, pour tout entier n (plus petit que la dimension de l’espace V ), on peut
construire une fonction J et un point initial u0 tel qu’à l’itération n la différence
J(un ) − J(u) soit précisément de l’ordre de la borne supérieure donnée par la Pro-
position 3.2.8. En effet, pour un entier p ≤ N , considérons l’exemple suivant d’une
fonction J définie sur RN
p N
!
L X X
J(v) = (v1 − 1)2 + (vi − vi−1 )2 + vi2
8 i=2 i=p+1
dont l’unique point de minimum est u = (1, ..., 1, 0, ..., 0), qui a ses p premières
composantes égales à 1 et les suivantes égales à 0, avec J(u) = 0. On initialise
un algorithme du gradient avec u0 = 0. Tous les algorithmes de gradient que nous
étudions dans cette section (pas optimal ou fixe, Nesterov, boule pesante ou gradient
conjugué) vérifient la propriété suivante : à chaque itération n, la solution approchée
un appartient à l’espace affine u0 + En où En est le sous-espace vectoriel engendré
par {J 0 (u0 ), J 0 (u1 ), ..., J 0 (un−1 )}. Par conséquent, une borne inférieure est
J(un ) ≥ min J(v).
v∈u0 +En
Or, dans l’exemple ci-dessus, il est facile de voir, par récurrence sur n, que J 0 (un−1 )
appartient à l’espace engendré par les n premiers vecteurs de la base canonique,
{e1 , ..., en }, et par conséquent que En ⊂ Vect{e1 , ..., en } donc
J(un ) ≥ min J(v) ≥ min J(v).
v∈u0 +En v∈u0 +Vect{e1 ,...,en }
Autrement dit, sur cet exemple (très défavorable !) l’algorithme de gradient (quelle
que soit sa version) ne peut propager l’information que la solution u a ses p premières
composantes égales à 1, à partir d’une initialisation nulle u0 = 0, qu’à la "vitesse"
d’une composante par itération. Un calcul facile permet de calculer le minimum sur
le sous-espace affine u0 + Vect{e1 , ..., en } : ce point de minimum, noté wn , a ses
i
dernières N − n composantes nulles tandis que les n premières sont win = 1 − n+1
1
pour 1 ≤ i ≤ n. Par conséquent (w1n − 1)2 = (win − wi−1 n
)2 = (wnn )2 = (n+1)2 pour
2 ≤ i ≤ n, ce qui donne, pour 0 ≤ n ≤ p,

L
min J(v) = J(wn ) = .
v∈u0 +Vect{e1 ,...,en } 8(n + 1)
Comme J(u) = 0 et ku0 − uk2 = p, on a donc
L L
J(un ) − J(u) ≥ = ku0 − uk2 ,
8(n + 1) 8p(n + 1)
ce qui, à l’itération n = p − 1, donne

L
J(un ) − J(u) ≥ ku0 − uk2 .
8(n + 1)2
Or la borne supérieure de la Proposition 3.2.8 est
κ
J(un ) − J(u) ≤ 2
avec κ = 2µ−1 ku0 − uk2 + 4(J(u0 ) − J(u)),
(n + 2)
on en déduit qu’à une constante multiplicative près (indépendante de n) on ne peut
pas améliorer cette borne supérieure. •
L’algorithme de Nesterov [25] peut être amélioré pour des fonctions fortement
convexes en changeant les formules d’extrapolation, du moins si l’on connait les
valeurs des constantes α (convexité) et L (Lipschitziannité), ce qui est malheureu-
sement rarement le cas en pratique. En posant q = α/L ∈]0, 1[, l’algorithme de
Nesterov devient, pour n ≥ 0,
 2
p
1 − qa n + (1 − qa2n )2 + 4a2n
a =

n+1

2



(a n − 1)(1 − an+1 αµ) n (3.19)
 v n = un + (u − un−1 )


 an+1 (1 − αµ)
= v − µ J 0 (v n ),
 n+1 n
u
√
que l’on initialise avec u0 = u−1 ∈ V et 1 ≤ a0 ≤ 1/ q.
Proposition 3.2.11 On suppose que J est α-convexe différentiable, de dérivée L-

Lipschitzienne et que le pas de descente vérifie 0 < µ ≤ 1/L. Alors la suite un de
l’agorithme de Nesterov, définie par (3.19), converge vers la solution u de (3.1), et,
pour µ = 1/L, la vitesse de convergence est
r
2 α
kun − uk ≤ γNestn
ku0 − uk avec γNest = 1 − .
α L
Remarque 3.2.12 La vitesse de convergence de l’algorithme de Nesterov est asymp-
totiquement (c’est-à-dire quand le rapport α/L est petit) meilleure que celle du
gradient à pas optimal. Nous verrons d’autres algorithmes (boule pesante, gradient
conjugué) qui ont le même ordre de grandeur asymptotique en q = α/L de leur
√
vitesse de convergence. Lorsque n tend vers l’infini, la suite an tend vers 1/ q et,
pour µ = 1/L, le coefficient d’extrapolation qui donne v n dans (3.19) converge vers
√ √
(1 − q)/(1 + q). •
Démonstration. On applique l’inégalité (3.21) du Lemme 3.2.13 à
t−1 n 1
w= u + u, v = vn, v ∗ = un+1 = v n − µ J 0 (v n ),
t t
avec t ≥ 1. En utilisant aussi la forte convexité de J
t−1 1 α (t − 1) n
J(w) ≤ J(un ) + J(u) − ku − uk2 ,
t t 2 t2
en multipliant (3.21) par t2 il vient

α 1 − αµ
t(t − 1)J(un ) + tJ(u) − (t − 1)kun − uk2 + k(t − 1)un + u − tv n k2
2 2µ
1
≥ t2 J(un+1 ) + ktun+1 − (t − 1)un − uk2
2µ
que l’on réécrit
α 1 − αµ
t(t − 1)(J(un ) − J(u)) − (t − 1)kun − uk2 + ku − un + t(un − v n )k2
2 2µ
1 n+1
≥ t2 (J(un+1 ) − J(u)) + ku − u − (t − 1)(un − un+1 )k2 .
2µ
Or
α 1 − αµ
− (t − 1)kun − uk2 + ku − un + t(un − v n )k
2 2µ
1 − tαµ n 1 − αµ 2 n 1 − αµ
= ku − uk2 + t ku − v n k2 + thu − un , un − v n i
2µ 2µ µ
1 − tαµ 1 − αµ t2 (1 − t)µ(1 − αµ) n
= ku − un + t(un − v n )k2 + ku − v n k2 .
2µ 1 − tαµ 2(1 − tαµ)
Par conséquent
1 − tαµ 1 − αµ
t(t − 1)(J(un ) − J(u)) + ku − un + t(un − v n )k2
2µ 1 − tαµ
1 n+1
≥ t2 (J(un+1 ) − J(u)) + ku − u − (t − 1)(un − un+1 )k2 (3.20)
2µ
t2 (t − 1)µ(1 − αµ) n
+ ku − v n k2 .
2(1 − tαµ)
On choisit alors t = an+1 , où an est la suite définie par (3.19). Grâce aux propriétés
du Lemme 3.2.14, on a an+1 ≥ 1 ainsi que
an+1 (an+1 − 1) ≤ a2n (1 − qan+1 ) ≤ a2n (1 − an+1 αµ),
puisque αµ ≤ q, et le dernier terme de (3.20) est positif. Prenant en compte la

définition de v n
(an − 1)(1 − an+1 αµ) n
v n = un + (u − un−1 )
an+1 (1 − αµ)
on déduit alors de (3.20)
(1 − an+1 αµ)∆n ≥ ∆n+1 ,
avec
1
∆n = a2n (J(un ) − J(u)) + ku − un − (an − 1)(un − un−1 )k2 ,
2µ
c’est-à-dire que
n
Y
∆n ≤ ∆0 (1 − ak αµ).
k=1
√
Comme 0 ≤ 1 − ak αµ ≤ 1 et que limn→+∞ an = 1/ q, on en déduit que ∆n
tend vers 0 et l’algorithme converge. De plus, si on choisit le pas µ = 1/L, comme
a2
1 − a1n = (1 − qan ) n−1
a2
, on a
n
n n n
Y Y a2n Y 1 √
(1 − ak αµ) = (1 − qak ) = 2 (1 − ) ≤ a2n (1 − q)n ,
k=1 k=1
a0 k=1 ak
√ n
d’où l’on déduit en particulier J(un ) − J(u) ≤ (1 − q) . Alors la forte convexité
de J et le fait que J 0 (u) = 0 donne
α n √
ku − uk2 ≤ J(un ) − J(u) ≤ (1 − q)n ,
2
ce qui conclut la démonstration. 2
Lemme 3.2.13 Soit J une fonction α-convexe sur V dont la dérivée J 0 est Lip-
schitzienne de constante L. Pour tout v, w ∈ V et pour tout 0 < µ ≤ 1/L, en notant
v ∗ = v − µJ 0 (v), on a
1 − αµ 1 ∗
J(w) + kw − vk2 ≥ J(v ∗ ) + kv − wk2 . (3.21)
2µ 2µ
Démonstration. Pour tout v, w ∈ V la forte convexité de J s’écrit
α
J(w) ≥ J(v) + hJ 0 (v), w − vi + kw − vk2 (3.22)
2
auquel on ajoute un terme kw − vk2 /(2µ) de part et d’autre pour obtenir
1 − αµ 1
J(w) + kw − vk2 ≥ J(v) + hJ 0 (v), w − vi + kw − vk2 . (3.23)
2µ 2µ
On note Q(w) la fonction convexe quadratique à droite de (3.23)
1
Q(w) = J(v) + hJ 0 (v), w − vi + kw − vk2
2µ
qui admet v ∗ = v − µJ 0 (v) comme unique point de minimum. Puisque Q(w) est
quadratique et que Q0 (v ∗ ) = 0, on a
1 ∗
Q(w) = Q(v ∗ ) + kv − wk2 . (3.24)
2µ
En combinant (3.23) et (3.24) on obtient
1 − αµ 1 1
J(w)+ kw −vk2 ≥ J(v)+hJ 0 (v), v ∗ −vi+ kv ∗ −vk2 + kv ∗ −wk2 . (3.25)
2µ 2µ 2µ
Mais comme J 0 est L-Lipschitzien, en vertu du Lemme 2.4.10 on a

L ∗
J(v ∗ ) ≤ J(v) + hJ 0 (v), v ∗ − vi + kv − vk2 . (3.26)
2
Donc (3.25) et (3.26) conduisent au résultat
1 − αµ L 1 ∗ 1 ∗
J(w) + kw − vk2 ≥ J(v ∗ ) − kv ∗ − vk2 + kv − vk2 + kv − wk2
2µ 2 2µ 2µ
1 ∗
≥ J(v ∗ ) + kv − wk2
2µ
car µ ≤ 1/L. 2
Lemme 3.2.14 Soit 0 < q < 1. On définit la suite

p
1 − qa2n + (1 − qa2n )2 + 4a2n
an+1 = ,
2
√ √
avec a0 q ≤ 1. Alors an est une suite croissante et majorée pas 1/ q, qui converge
√
vers 1/ q. En particulier, si a0 ≥ 1, alors an ≥ 1 pour tout n. Par ailleurs, elle
vérifie an+1 (an+1 − 1) ≤ a2n (1 − qan+1 ).
Remarque 3.2.15 Si q = 0, on retrouve la suite an définie par (3.14) qui a un

√
comportement différent puisque an ≈ 1 + n/2. Par ailleurs, si a0 = 1/ q, alors la
√
suite est constante an = 1/ q. •
√
Démonstration. Montrons par récurrence que an q ≤ 1. La propriété est vraie
pour n = 0. Pour n ≥ 0, le coefficient an+1 est la racine positive du polynôme
a2n+1 − (1 − qa2n )an+1 − a2n = 0.
En multipliant par q on en déduit
qa2n+1 = qan+1 + (1 − qan+1 )qa2n . (3.27)
Si qan+1 ≥ 1, on en déduirait qa2n+1 ≤ qan+1 , c’est-à-dire qan+1 ≤ q < 1, ce qui est

contradictoire avec l’hypothèse. Donc qan+1 < 1 et (3.27) implique que qa2n+1 est
une combinaison convexe de 1 et qa2n . Alors, par concavité de la racine carrée, on
√ √
obtient que qan+1 ≤ 1 si qan ≤ 1. Par ailleurs, on peut aussi réécrire (3.27) sous
la forme
a2n+1 = a2n + (1 − qa2n )an+1 ≥ a2n ,
donc la suite an est croissante. Comme elle est majorée, elle converge et sa limite se
déduit facilement de (3.27). Finalement,
1
an+1 (an+1 − 1) = a2n ( − qan+1 ) ≤ a2n (1 − qan+1 )
an
car an ≥ a0 ≥ 1. 2
3.2.3 Algorithme de la boule pesante

Nous présentons ici un algorithme qui est intéressant en lui-même mais qui
est surtout l’occasion de montrer une source d’inspiration dans la conception des
algorithmes d’optimisation en les interprétant comme des schémas de discrétisation
en temps de systèmes dynamiques. Par exemple, l’algorithme de gradient à pas fixe
(3.8) peut se voir comme un schéma explicite pour l’équation différentielle
u̇(t) = −J 0 (u(t)), (3.28)
avec la donnée initiale u(0) = u0 (la notation u̇ signifie la dérivée par rapport à la
variable de temps t). En effet, si on assimile le pas de descente µ > 0 à un pas de
temps, alors un peut être interprété comme une approximation au temps tn = nµ de
la solution u(t) (voir [1] pour des détails sur cette notion). L’équation différentielle
ordinaire (3.30) modélise la trajectoire d’un point qui descendrait le long du potentiel
J(u) (on peut vérifier que J(u(t)) est décroissant le long de la trajectoire ; c’est ce
qu’on appelle une fonction de Lyapunov). Si la fonction J est fortement convexe, on
peut aussi montrer que la trajectoire u(t) converge, quand t tend vers l’infini, vers
l’unique point de minimum de J.
Expliquons maintenant la motivation et l’origine de l’algorithme de la boule
pesante dans ce contexte. Si la fonction J n’est pas convexe et présente des minima
locaux, la solution u(t) peut converger vers un tel minimum local, loin d’un minimum
global. Pour améliorer cette situation défavorable, une idée est de changer l’équation
différentielle, pour y rajouter un terme d’inertie, qui permettrait au point matériel
solution de cette nouvelle équation de sortir d’un minimum local en remontant la
pente grâce à l’inertie acquise. Autrement dit, l’équation différentielle de cette boule
pesante serait
mü(t) + u̇(t) = −J 0 (u(t)),
où m > 0 serait la masse de cette boule. Par analogie avec une discrétisation explicite
en temps (qui nécessite 3 points en temps pour approcher la dérivée seconde), on
obtiendrait
un+1 = un − µ J 0 (un ) + ν(un − un−1 ), (3.29)
où µ > 0 et ν > 0 sont deux paramètres positifs. Bien sûr, il faut joindre à cette
récurrence pour n ≥ 1 deux initialisations u1 , u0 ∈ V . Pour simplifier l’analyse on
se place en dimension finie.
Théorème 3.2.16 On suppose que J est convexe, de classe C 2 sur V = RN , tel

que, pour 0 < α ≤ L,
α Id ≤ J 00 (u) ≤ L Id. (3.30)
Alors, si u1 , u0 sont suffisamment proches de l’unique point de minimum u de J,
pour 0 ≤ ν < 1 et 0 < µ√< 2(1 + ν)/L, l’algorithme de la boule pesante (3.29)
√
L− α 2
√ √
converge et, pour ν = ( √L+√α ) et µ = 4/( L + α)2 , il existe C > 0 tel que
√ √
n n L− α
ku − uk ≤ CγBP ku0 − uk avec γBP =√ √ .
L+ α
Démonstration. Tout d’abord, l’hypothèse (3.30) implique que la fonction J est α-

convexe (voir l’Exercice 2.4.7) et que sa dérivée J 0 est L-Lipschitzienne (voir l’Exer-
cice 2.4.8). En particulier, il existe un unique point de minimum u de J. On utilise
alors un argument de stabilité locale, très similaire à celui qui permet d’analyser
la convergence de l’algorithme de Newton. Pour cette raison, on suppose qu’à par-
tir d’un certain rang toutes les itérées un sont proches de la solution u. Puisque
J 0 (u) = 0, un développement de Taylor donne
J 0 (un ) = J 00 (u)(un − u) + o(un − u),
c’est-à-dire que
un+1 = un − µ J 00 (u)(un − u) + ν(un − un−1 ) + o(un − u).
Soit z n le vecteur (un − u, un−1 − u)∗ et H = J 00 (u). On a

n+1 n n (1 + ν) Id − µH −ν Id
z = Az + o(z ) avec A = .
Id 0
Pour étudier la convergence de la suite z n on analyse les valeurs propres ρ de A qui

vérifient, pour (x, y) 6= 0,
x x
A =ρ . (3.31)
y y
En effet, si toutes les valeurs propres vérifient |ρ| ≤ ρmax < 1, alors un lemme
classique d’algèbre linéaire (voir la proposition 13.1.7 dans [1]) affirme que, pout tout
δ > 0 (aussi petit que l’on veut), il existe une norme matricielle (subordonnée à une
norme vectorielle) telle que kAk ≤ ρmax + δ. On déduit alors de z n+1 = Az n + o(z n )
et du fait que, pour n suffisamment grand, ko(z n )k ≤ δkz n k la majoration
kz n+1 k ≤ (ρmax + 2δ)kz n k,
d’où l’on déduit la convergence de z n vers 0 pour δ < (1 − ρmax )/2 (et aussi le fait
que si un est proche de u à un certain rang, cela restera vrai pour les itérations
suivantes).
Or ρ est valeur propre dans (3.31) si Hx = λx avec λ = (1 + ν − ρ − ν/ρ)/µ
où λ est une valeur propre de la Hessienne H. Autrement dit, ρ est une racine du
polynome
ρ2 − (1 + ν − µλ)ρ + ν = 0,
dont le discriminant est ∆ = (1+ν −µλ)2 −4ν. On cherche des conditions suffisantes
pour que les racines vérifient |ρ| < 1. On choisit ν ≥ 0 et comme ν est le produit
des racines du polynome, il faut √ que ν < 1. Si ∆ ≤ 0, alors les deux racines sont
complexes et de module égal à ν < 1. Si ∆ > 0, alors un calcul facile montre que
les deux racines appartiennent à l’intervalle (−1, +1) si et seulement si 0 < µ <
2(1 + ν)/λ pour toute valeur propre λ de la Hessienne H. A cause de l’hypothèse
(3.30) les valeurs propres de H vérifient λ ∈ [α, L]. Par conséquent, les conditions
0 < ν < 1 et 0 < µ < 2(1 + ν)/L assurent la convergence de l’algorithme. Pour
trouver des valeurs optimales des paramètres, une analyse (un peu longue et pas
détaillée ici) montre
√ qu’il est bon de se placer dans le cas des racines complexes de
module égal à ν, ce qui arrive lorsque ∆ ≤ 0 . On vérifie que ∆ ≤ 0 est équivalent
à √ √
(1 − ν)2 ≤ µλ ≤ (1 + ν)2 ,
qui doit être vrai pour toute valeur propre λ ∈ [α, L] de H. C’est donc vrai en
particulier si √ √
√ p
ν ≥ αµ − 1, ν ≥ 1 − Lµ.
√ √ √ √
On choisit µ = 2/( α+ L) pour que les deux bornes inférieures de √ν coincident
√ √
et on prend la plus petite valeur qui en résulte, c’est-à-dire ν = √α− L
√ .
α+ L
2
Remarque 3.2.17 La vitesse de convergence du Théorème 3.2.16 est bien meilleure

que celle de l’algorithme du gradient à pas fixe (voir la Proposition 3.2.1) et un peu
meilleure, mais asymptotiquement comparable (pour α/L petit) à celle de l’algo-
rithme de Nesterov (voir la Proposition 3.2.11) qui s’écrit
r p
α 1 − α/L
γNest = 1 − > γBP = p .
L 1 + α/L
On voit donc, comme 0 < α/L < 1, que la méthode de la boule pesante avec ces
paramètres optimaux converge plus vite que les algorithmes précédents. Malheu-
reusement, les valeurs de α et L ne sont souvent pas connues en pratique et il est
difficile d’ajuster les valeurs optimales des paramètres µ et ν. •
3.2.4 Algorithme du gradient conjugué

La méthode du gradient conjugué est une méthode du premier ordre où la
direction de descente dans (3.2) n’est pas le gradient mais une combinaison du
gradient et de la direction de descente précédente (c’est donc encore une méthode
multi-pas). On introduit donc une suite supplémentaire pn ∈ V pour la direction de
descente. L’algorithme du gradient conjugué s’écrit
n+1
u = u n − µn pn
(3.32)
pn+1 = J 0 (un+1 ) + β n pn
où µn ∈ R est le pas optimal qui minimise µ 7→ J(un − µ pn ), et β n ∈ R est

un coefficient que l’on peut calculer suivant deux formules différentes. La première
formule est dite de Polak-Ribière
hJ 0 (un+1 ), J 0 (un+1 ) − J 0 (un )i
βn = ,
kJ 0 (un )k2
tandis que la seconde est appelée Fletcher-Rieves
n kJ 0 (un+1 )k2
β = .
kJ 0 (un )k2
Expliquons d’où viennent ces formules en quelques mots. Tout d’abord, la recherche
linéaire pour trouver le pas µn est classique et reminiscente de l’algorithme du gra-
dient à pas optimal. La formule pour β n s’inspire du cas où J(u) est quadratique.
Si J(u) est une fonction non-linéaire quelconque, l’algorithme du gradient conju-
gué fonctionnera néanmoins, approximativement comme dans le cas quadratique,
au voisinage d’un point de minimum non dégénéré (c’est-à-dire où la Hessienne est
définie positive). Nous allons donc formellement supposer que la Hessienne J 00 (u)
est indépendante de u et égale à une matrice constante A. L’idée essentielle est de
demander à ce que les directions de descente pn et pn+1 soient conjuguées par rap-
port à la matrice A, c’est-à-dire que pn+1 · Apn = 0. Comme expliqué ci-dessous (voir
l’Exercice 3.2.2), cette propriété est à la source de la convergence de l’algorithme du
gradient conjugué pour une fonction quadratique et on essaye donc de la reproduire
dans le cas général.
On souhaite donc que la valeur de β n soit telle que
pn+1 · Apn = 0.
On remplace pn+1 par J 0 (un+1 ) + β n pn pour obtenir

J 0 (un+1 ) · Apn
βn = − , (3.33)
Apn · pn
puis, comme pn = (un − un+1 )/µn , on a
µn Apn = Aun − Aun+1 = J 0 (un ) − J 0 (un+1 )
puisque la Hessienne est constante et égale à A. Or la condition d’optimalité pour

µn dit que J 0 (un+1 ) · pn = 0 tandis que J 0 (un ) · pn = J 0 (un ) · (J 0 (un ) + βn−1 pn−1 ) et
J 0 (un ) · pn−1 = 0 à cause de l’optimalité de µn−1 . Donc
Apn · pn = kJ 0 (un )k2 /µn . (3.34)
Par ailleurs,
J 0 (un+1 ) · Apn = J 0 (un+1 ) · (J 0 (un ) − J 0 (un+1 ))/µn , (3.35)
d’où l’on déduit la formule de Polak-Ribière en reportant (3.34) et (3.35) dans (3.33).
Un calcul similaire conduit à la formule de Fletcher-Rieves. Remarquons que ces
deux formules ne sont pas égales dans le cas général mais qu’elles coincident pour
une fonction J(u) quadratique.
En fait, la méthode du gradient conjugué a d’abord été inventée pour résoudre
des systèmes linéaires dont la matrice est symétrique, définie positive, c’est-à-dire
pour minimiser sur RN une fonction quadratique
1
J(x) = Ax · x − b · x
2
avec b ∈ RN et A une matrice symétrique définie positive. C’est dans ce cas qua-
dratique que l’algorithme du gradient conjugué est le plus efficace puisqu’on peut
même démontrer qu’il converge exactement en au plus N itérations ! Dans ce cas

quadratique, les formules (3.32) se simplifient en

 xn+1 = xn − µn pn
pour n ≥ 0 rn+1 = rn − µn Apn (3.36)
pn+1 = rn+1 + βn pn

avec une initialisation x0 ∈ RN , p0 = r0 = Ax0 − b et
krn k2 krn+1 k2
µn = et βn = .
Apn · pn krn k2
On vérifie facilement que µn est précisément l’unique point de minimum du polynôme

quadratique µ 7→ J(xn −µpn ). On peut vérifier par récurrence que la suite rn coincide
avec le gradient J 0 (xn ) et donc que βn est donné par la formule de Fletcher-Rieves.
Exercice 3.2.2 Soit A une matrice symétrique définie positive. Soit x0 ∈ RN . Pour
la récurrence (3.36) démontrer que rn = Axn − b. Montrer que la suite pn vérifie
Apn · pj = 0 pour 0 ≤ j < n (on dit que la suite pn est conjuguée par rapport à A).
Vérifier que les formules de Fletcher-Rieves et Polak-Ribière coincident dans ce cas.
Le fait que la suite des directions de descente pn soit conjuguée par rapport
à A donne son nom à l’algorithme. C’est une propriété cruciale pour l’efficacité de
la méthode car elle assure que la nouvelle direction de descente pn “travaille” de
manière orthogonale (au sens du produit scalaire hx, yiA = Ax · y) par rapport aux
directions précédentes. Le nouveau gain de minimisation ne nuit pas aux gains passés
(pas d’effet de convergence en zig-zag) et c’est la raison du résultat de convergence
exacte en moins de N itérations. Néanmoins, la convergence approchée peut avoir
lieu en beaucoup moins d’itérations comme le montre le résultat suivant que nous
admettrons.
Proposition 3.2.18 Soit A une matrice symétrique réelle définie positive, de va-
leurs propres ordonnées 0 < λ1 ≤ · · · ≤ λN . Soit x la solution exacte du système
Ax = b. Soit (xn )n≥0 la suite de solutions approchées du gradient conjugué, définie
par (3.36). Alors
p !n
p 1− λ1 /λN
kxn − xk ≤ 2 λN /λ1 p kx0 − xk2 .
1 + λ1 /λN
La vitesse de convergence de l’algorithme du gradient conjugué est exactement

celle de l’algorithme de la boule pesante et donc bien meilleure que celle de l’al-
gorithme du gradient à pas fixe. Mais ce qui est remarquable dans l’algorithme du
gradient conjugué, c’est l’absence de paramètres à régler dans la formule de récur-
rence (3.36). On n’a pas à connaitre les valeurs propres λ1 , λN pour obtenir la vitesse
de convergence de la Proposition 3.2.18.
Remarque 3.2.19 Le rapport λN /λ1 ≥ 1, qui apparait dans la vitesse de conver-

gence de la méthode du gradient conjugué, est appelé le conditionnement de la ma-
trice A. Pour accélérer encore la convergence de la méthode du gradient conjugué,
une idée est de préconditionner le système linéaire Ax = b en le pré-multipliant
par une matrice C −1 telle que le conditionnement de (C −1 A) soit plus petit que celui
de A. En pratique on choisit une matrice C “proche” de A mais plus facile à inverser
(voir [1] pour des détails). Cette idée est semblable à celle que nous avons vue à la
Remarque 3.1.4. •
3.2.5 Algorithme de sous-gradient

Les méthodes de gradient peuvent se généraliser au cas des fonctions qui ne sont
pas différentiables mais sont convexes. Cette généralisation s’appelle la méthode
de sous-gradient. Il nous faut d’abord définir la notion de sous-gradient pour
les fonctions convexes. Par souci de simplicité on se limite à la dimension finie mais
le cas des espaces de Hilbert n’est pas vraiment plus difficile.
Définition 3.2.20 Si J est une fonction convexe de Rn dans R, on appelle sous-

différentiel de J en x l’ensemble
∂J(x) = {p ∈ Rn | J(y) − J(x) ≥ p · (y − x), ∀y ∈ Rn } . (3.37)
Les éléments de ∂J(x) sont appelés sous-gradients.
Il résulte aussitôt de cette définition que le sous-différentiel ∂J(x) est un convexe
fermé de Rn . D’autre part, si J est dérivable au point x, on vérifie aisément que le
sous-différentiel est un singleton, ∂J(x) = {J 0 (x)}.
Lemme 3.2.21 Soit J une fonction convexe de Rn dans R. Si x ∈ Rn vérifie 0 ∈

∂J(x), alors x est un point de minimum de J.
Démonstration. La démonstration est évidente par définition du sous-différentiel.
Remarquons que la condition 0 ∈ ∂J(x) généralise au cas convexe non-différentiable
la condition d’optimalité usuelle J 0 (x) = 0 (lorsque J est dérivable). 2
Exercice 3.2.3 Soit J(x) = |x| définie de R dans R. Calculer son sous-gradient ∂J(0).
Une classe importante de fonctions convexes, qui ne sont pas différentiables
mais admettent un sous-gradient que l’on sait calculer, est celle des fonctions qui
sont des maxima de fonctions convexes différentiables. C’est une situation courante
puisque, par exemple, on sait, d’après l’Exercice 2.3.2, que toute fonction convexe
est le supremum des fonctions affines qui la minorent. Plus généralement, pour un
espace (non vide) de paramètres Λ, on définit
J (x) = sup Jλ (x), (3.38)
λ∈Λ
où chaque fonction Jλ (x) est convexe et différentiable sur Rn . Pour simplifier, on

va supposer que l’ensemble des paramètres Λ est fini. On calcule alors aisément un
sous-gradient de J .
Lemme 3.2.22 Supposons Λ fini, soit J la fonction définie par (3.38) avec des
fonctions Jλ (x) convexes et différentiables, et pour tout x ∈ Rn , posons Γ(x) = {λ ∈
Λ | Jλ (x) = J (x)}. Alors, pour tout λ ∈ Γ(x), Jλ0 (x) est un sous-gradient de J au
point x.
Démonstration. Pour tout λ ∈ Γ(x), et pour tout y ∈ Rn , on a J (y) − J (x) ≥
Jλ (y) − Jλ (x) ≥ Jλ0 (x) · (y − x), par convexité de Jλ , ce qui démontre le résultat. 2
Remarque 3.2.23 Les fonctions non régulières du type (3.38) se retrouvent dans au
moins deux contextes importants. D’une part, elles sont utilisées dans les méthodes
de relaxations Lagrangiennes pour l’optimisation combinatoire ou en variables en-
tières (voir [5]). D’autre part, elles correspondent à l’approche, dite du pire des
cas, en optimisation robuste. Supposons que l’on veuille optimiser un système décrit
par une variable x. Mais la description de ce système est entachée d’incertitudes,
d’erreurs ou de données inconnues, caractérisées par λ. On peut identifier chaque
valeur de λ à un scenario possible de fonctionnement du système. Si l’on veut optimi-
ser pour tous les scenarios possibles, l’approche du pire des cas consiste à minimiser
le maximum par rapport à la variable λ. Notons que c’est une approche assez pes-
simiste (on prévoit le pire !) et qu’elle est parfois remplacée par une approche en
moyenne où on optimise la moyenne de Jλ (x) sur Λ (ou bien une somme pondérée
de la moyenne et de la variance). •
L’algorithme de sous-gradient pour minimiser la fonction convexe J consiste,
pour une initialisation x0 ∈ Rn , à construire la suite
ρk
xk+1 = xk − pk , (3.39)
kpk k
où pk est un sous-gradient quelconque de J au point xk , et où ρk > 0 est une suite
de réels strictement positifs telle que
X X
ρk → 0, ρi = +∞, ρ2i < +∞ . (3.40)
i∈N i∈N
Evidemment, la valeur xk+1 n’est bien définie que si pk 6= 0. Lorsque pk = 0, l’al-

gorithme s’arrête : xk est alors le minimum de J en vertu du Lemme 3.2.21. Un
exemple de suite de pas ρk vérifiant (3.40) est ρk = 1/(k + 1)1/2+ avec > 0.
Proposition 3.2.24 Soit une fonction J convexe, infinie à l’infini, admettant en

tout point un sous-différentiel non-vide et localement Lipschitzienne, au sens où,
pour tout M > 0, il existe LM > 0 tel que
kxk + kyk ≤ M ⇒ kJ (x) − J (y)k ≤ LM kx − yk.
Alors, si les pas vérifient (3.40), l’algorithme du sous-gradient converge.
Remarque 3.2.25 Les hypothèses de la Proposition 3.2.24 sont vérifiées pour les
fonctions J définies par (3.38) avec un ensemble Λ fini, chacune des fonctions Jλ (x)
étant convexe différentiable et l’une d’entre elle infinie à l’infini. •
Démonstration. Comme J est continue et infinie à l’infini, elle admet au moins

un point de minimum x∗ . En utilisant (3.39) on développe la norme suivante
ρk
kxk+1 − x∗ k2 = kxk − x∗ k2 − 2 pk · (xk − x∗ ) + ρ2k
kpk k
ρk (3.41)
≤ kxk − x∗ k2 − 2 (J (xk ) − J (x∗ )) + ρ2k
kpk k
car pk est un sous gradient de J au point xk . On somme ces inégalités et une
minoration évidente conduit à
i i
2
X ρk 2
X
kxi+1 − x∗ k + 2 min (J (xk ) − J (x∗ )) ≤ kx0 − x∗ k + ρ2k . (3.42)
0≤k≤i
k=0
kp kk
k=0
On en déduit tout d’abord que kxi+1 −x∗ k est bornée à cause de la dernière condition
de (3.40), donc la suite xk est bornée par une constante M indépendante de k. On
applique alors l’hypothèse que J est Lipschitzienne à la définition du sous-gradient
pk
pk · (y − xk ) ≤ J(y) − J(xk ) ≤ LM ky − xk k
d’où l’on déduit en variant y autour de xk que kpk k ≤ LM . Par conséquent (3.42)
implique que
LM kx0 − x∗ k2 + ∞ 2
P
k=0 ρk
min (J (xk ) − J (x∗ )) ≤ Pi ,
0≤k≤i 2 k=0 ρk
ce qui démontre que lim inf k→+∞ J (xk ) = J (x∗ ) puisque la série des ρk diverge. Soit
xk0 une sous-suite de xk telle que limk→+∞ J (xk0 ) = J (x∗ ). Comme elle est bornée
dans Rn , il existe encore une sous-suite, toujours notée xk0 par souci de simplicité,
qui converge vers une limite x0∗ qui, par continuité de J est un point de minimum
de J. Cette limite x0∗ n’est peut-être pas le point de minimum x∗ introduit ci-dessus
mais rien ne nous empêche de remplacer x∗ par x0∗ et tout le raisonnement reste
le même car les itérées xk et pk ne dépendent pas du choix x∗ ou x0∗ . Par souci de
simplicité dans les notations, on réécrit x0∗ = x∗ . Montrons que toute la suite xk
converge en fait vers x∗ .
Pour δ > 0 petit fixé, il existe un indice k 0 , suffisamment grand, tel que
X
kxk0 − x∗ k2 ≤ δ/2 et ρ2i ≤ δ/2.
i≥k0
Alors, pour tout indice k ≥ k 0 , comme (3.41) implique que

kxk+1 − x∗ k2 ≤ kxk − x∗ k2 + ρ2k ,
en sommant on obtient
k
X
kxk+1 − x∗ k2 ≤ kxk0 − x∗ k2 + ρ2i ≤ δ,
i=k0
ce qui démontre que toute la suite xk converge vers le point de minimum x∗ . 2

Remarque 3.2.26 La vitesse de convergence de l’algorithme de sous-gradient (3.39)

est très lente puisque pour ρk = 1/(k + 1)1/2+ avec > 0 on trouve que
C
0 ≤ min J (xk ) − J (x∗ ) ≤ ,
0≤k≤i i1/2−
ce qui est bien plus lent que la convergence géométrique pour l’algorithme du gra-
dient (voir la Remarque 3.1.8). Si on suppose une propriété du type α-convexité
pour J en x∗ , alors on obtient la même vitesse de convergence pour kxk − x∗ k2 . •
Remarque 3.2.27 L’algorithme de sous-gradient (3.39) ne garantit pas la décrois-

sance de la fonction objectif aux points où celle-ci n’est pas différentiable. En effet,
considérons l’exemple J (x) = max(J1 (x), J2 (x)) avec J1 , J2 convexes différentiables,
plaçons nous en un point x où J1 (x) = J2 (x) et prenons le sous-gradient p = J10 (x) 6=
0. Dès que −J10 (x) n’est pas une direction de descente pour J2 , pour tout pas ρ > 0
suffisamment petit, on obtient J (x − ρp/kpk) = J2 (x − ρp/kpk) > J2 (x) = J (x). •
Remarque 3.2.28 Dans l’algorithme de sous-gradient (3.39) on normalise le sous-

gradient pk . En effet, comme l’a montré l’exemple de l’Exercice 3.2.3, la norme d’un
sous-gradient peut-être très variable et la valeur de cette norme ne donne aucun
indication sur l’optimalité ou non du point où on l’a calculé. •
3.2.6 Gradient stochastique

Il s’agit d’un algorithme qui est dédié à une classe particulière de problèmes
d’optimisation, très utile pour l’apprentissage machine, dont une situation typique
est présentée dans l’Exemple 1.2.6. Dans ce contexte, il est naturel de se restreindre
à la dimension finie V = Rd . La spécificité de ce type de problèmes est que la
fonction à minimiser est une somme (ou une moyenne) d’un très grand nombre n
de fonctions. Par exemple, en apprentissage machine n est le nombre de données
à partir desquelles on veut apprendre les paramètres x ∈ Rd du modèle explicatif.
Autrement dit, étant données n fonctions fi , on considère
n
1X
inf F (x) = fi (x). (3.43)
x∈Rd n i=1
Rappelons que l’algorithme du gradient "classique" (qu’on appelle dans ce contexte,
algorithme de batch) construit la suite
n
µk X 0 k
xk+1 = xk − f (x )
n i=1 i
où µk > 0 est un pas de descente (fixe ou optimal). Par contraste, l’algorithme du

gradient stochastique n’utilise qu’une seule dérivée de fonction fi par itération.
Autrement dit, à partir d’une initialisation x0 ∈ Rd , on construit la suite
xk+1 = xk − µk fi0k (xk ), (3.44)
où µk > 0 est un pas de descente et ik est un indice tiré aléatoirement (indépendam-
ment des précédents tirages) et uniformément dans l’ensemble {1, ..., n}.
Proposition 3.2.29 On suppose que F (x) est α-convexe et qu’il existe une constante
C, indépendante de n, telle que pour tout x ∈ Rd
n
1X 0
kfi (x)k2 ≤ C(1 + kx − x∗ k2 ) (3.45)
n i=1
où x∗ désigne l’unique point de minimum de F (x). Si la suite des pas vérifie

1
µk = ,
k+1
alors l’algorithme du gradient stochastique (3.44) converge (en moyenne).
Remarque 3.2.30 Les hypothèses sur F sont vérifiées dans le cas de l’Exemple
1.2.6 (car chacune des dérivées fi0 (x) est bornée) ou bien si chaque fonction fi est
quadratique et fortement convexe, uniformément par rapport à i. •
Démonstration. On réécrit (3.44) sous la forme
xk+1 − x∗ = xk − x∗ − µk fi0k (xk ),
dont on calcule la norme au carré
kxk+1 − x∗ k2 = kxk − x∗ k2 − 2µk (xk − x∗ ) · fi0k (xk ) + (µk )2 kfi0k (xk )k2 . (3.46)
On prend l’espérance de (3.46) par rapport à la seule variable aléatoire qui gouverne
le choix de l’indice ik , en notant que xk ne dépend pas de cette variable aléatoire,
pour obtenir
n

k+1 ∗ 2

k ∗ 2 k k ∗ 0 k (µk )2 X 0 k 2
E kx − x k = kx − x k − 2µ (x − x ) · F (x ) + kf (x )k
n i=1 i
car, par l’hypothèse de tirage uniforme de ik , on a

1X n 1X n
E fi0k (xk ) = f 0 (xk ) = F 0 (xk ) et E kfi0k (xk )k2 = kf 0 (xk )k2 .
n i=1 i n i=1 i
Par la forte convexité de F , voir (2.24), on en déduit

n
(µk )2 X 0 k 2
E kxk+1 − x∗ k2 ≤ 1 − 2µk α kxk − x∗ k2 +

kf (x )k .
n i=1 i
Utilisant l’hypothèse (3.45), il vient

E kxk+1 − x∗ k2 ≤ 1 − 2µk α + C(µk )2 kxk − x∗ k2 + C(µk )2 .

On choisit le pas de descente 0 < µk < 2α/C de manière à ce que le coefficient

d’amplification ρk soit strictement plus petit que 1
0 < ρk = 1 − 2µk α + C(µk )2 < 1.

Une récurrence facile montre alors que

k

k+1 ∗ 2

k 0 ∗ 2 k
X (µi )2
E kx − x k ≤ Π kx − x k + CΠ i
, (3.47)
i=0
Π
où, cette fois-ci, E désigne l’espérance pour toutes les variables aléatoires des indices
de i0 à ik , et avec
Yk
k
Π = ρj .
j=0
On voit immédiatement que pour démontrer la convergence de l’algorithme, non

seulement le pas µk ne doit pas être trop grand pour que Πk tende vers zéro mais
il doit aussi lui-même tendre vers zéro pour que la série dans (3.47) converge. C’est
une situation similaire à celle de l’algorithme du sous-gradient (voir la Proposition
3.2.24). On vérifie que, si 0 < α < 1/2, le choix µk = 1/(k + 1) conduit à
k
2α X (µi )2
k
ρ =1− + O(k −2 ), k
Π = O(k −2α
), k
Π = O(k −2α ),
k+1 i=0
Πi
ce qui prouve la convergence en moyenne (un résultat similaire avec d’autres ex-
posants s’obtient lorsque α ≥ 1/2). On peut démontrer la convergence presque
sûrement mais cela dépasse la cadre de ce cours. 2
Comme pour l’algorithme du sous-gradient la convergence est particulièrement
lente (algébrique au lieu de géométrique pour le gradient à pas fixe). Du coup, il
n’est pas clair que cet algorithme soit préférable à celui du gradient. Mais il ne faut
pas oublier que si n est très grand, le coût d’une itération de gradient stochastique
est approximativement n plus fois faible que le coût d’une itération du gradient
puisqu’on n’évalue qu’une seule dérivée fi0 au lieu de n (pour les deux algorithmes
on calcule aussi régulièrement la fonction objectif F pour vérifier sa décroissance et la
bonne convergence des itérations). Par ailleurs, il existe des stratégies heuristiques du
choix du pas de descente µk qui peuvent améliorer en pratique le choix théorique ci-
dessus. En particulier, l’algorithme du gradient stochastique est souvent plus rapide
lors des premières itérations que l’algorithme du gradient et surtout plus insensible
au "bruit" (qu’il soit numérique ou dans les données).
Remarque 3.2.31 Entre l’algorithme du gradient stochastique (3.44) et l’algo-

rithme classique du gradient (dit "batch") on peut proposer un algorithme de mini-
batch qui sélectionne une collection de m ≥ 1 indices
1 X 0 k
xk+1 = xk − µk f (x ), (3.48)
m i∈I i
k
où µk > 0 est un pas de descente et Ik est une collection de m indices distincts

tirés aléatoirement (indépendamment des précédents tirages) et uniformément dans
l’ensemble {1, ..., n}. •
3.2.7 Algorithme proximal

Pour motiver ce nouvel algorithme nous rappelons l’Exemple 1.2.4 de problème
aux moindres carrés avec régularisation `1 pour obtenir des solutions creuses ou
parcimonieuses. Soit b ∈ Rp et A une matrice de taille p × n, Pour un paramètre
τ ≥ 0, on cherche une solution x ∈ Rn du problème de minimisation
n
1 X
min kAx − bk2 + τ kxk1 avec kxk1 = |xj |. (3.49)
x∈Rn 2 j=1
Plus τ est grand et plus la solution x aura des composantes nulles. Au contraire,
à la limite τ → 0+ , il s’agit d’un problème de moindres carrés standard dont on
sait qu’il admet toujours au moins une solution qui est unique si KerA = {0} (cf.
Exercice 2.5.2).
Remarque 3.2.32 Expliquons sur un cas particulier très simple pourquoi la norme
`1 dans (3.49) conduit à ce que la solution ait de nombreuses composantes nulles.
On choisit p = n et A = Id. Dans ce cas, la minimisation de (3.49) se fait “à la
main”, composante par composante. La fonction de R dans R,
1
xi 7→ |xi − bi |2 + τ |xi |,
2
est fortement convexe, dérivable partout sauf en 0, et admet donc un unique point
de minimum x∗i qui vérifie, soit x∗i = 0, soit la condition d’optimalité
x∗i − bi + τ = 0 si x∗i > 0, x∗i − bi − τ = 0 si x∗i < 0.
On en déduit facilement l’unique point de minimum qui est donné par l’opérateur
de contraction (shrinkage, en anglais)

∗ 0 si |bi | < τ,
xi = Sτ (bi ) = (3.50)
bi − sgn(bi )τ si |bi | ≥ τ.
L’interprétation est simple si l’on pense que la donnée b est bruitée et que τ corres-
pond au seuil maximal du bruit. Si |bi | < τ , la donnée est indistinguable du bruit et
on obtient x∗i = 0. Sinon, on obtient x∗i ≈ bi à une correction de l’ordre de τ près.
La solution x∗ ∈ Rn est donc d’autant plus parcimonieuse que le seuil τ est élevé. •
Pour résoudre (3.49) on ne peut pas employer une méthode de gradient classique
car la norme `1 , x 7→ kxk1 , n’est pas dérivable en tout point dont une des compo-
santes s’annule. On pourrait utiliser l’algorithme du sous-gradient car la fonction
objectif est convexe mais on a vu que cet algorithme converge lentement. Il y a
donc de la place pour concevoir un algorithme plus efficace. Plus généralement, on
considère la minimisation de la somme de deux fonctions convexes sur Rn
min J1 (x) + τ J2 (x)

x∈Rn
avec J1 différentiable et J2 convexe mais non différentiable. L’exemple ci-dessus

correspond à J1 (x) = 12 kAx − bk2 et J2 (x) = kxk1 . L’idée est d’appliquer deux
algorithmes différents à J1 et J2 . Evidemment, pour J1 on a l’embarras du choix
car nous avons déjà vu plein d’algorithmes de type gradient ! Par contre, pour J2
nous ne connaissons que l’algorithme de sous-gradient dont on sait qu’il est peu
efficace. C’est pourquoi nous introduisons maintenant l’algorithme proximal dont
le principe est de faire un algorithme de gradient implicite, c’est-à-dire, pour un
pas de descente τ > 0, de construire la suite des itérées
xk+1 = xk − τ J20 (xk+1 ). (3.51)
Evidemment, c’est un algorithme “conceptuel” car il faut résoudre une équation
implicite en xk+1 , ce qui n’est pas facile. En plus, il faudrait que J2 soit différen-
tiable, ce qui n’est pas le cas. Néanmoins, on remarque que (3.51) serait la condition
d’optimalité de
1
minn kx − xk k2 + τ J2 (x) (3.52)
x∈R 2
si xk+1 en est le point de minimum. Or, si (3.51) n’a pas de sens pour une fonction
J2 non différentiable, au contraire (3.52) admet bien un unique point de minimum,
noté xk+1 , dès que J2 est convexe, puisque la fonction à minimiser est fortement
convexe. Ainsi, (3.52) permet de définir l’application proximale de τ J2
proxτ J2 (xk ) = xk+1 . (3.53)
Avec une initialisation x0 ∈ Rn , (3.53) définit un algorithme de minimisation pour
J2 , appelé algorithme proximal. On vérifie bien qu’il s’agit d’un algorithme de
descente car J2 (xk+1 ) < J2 (xk ), sauf si xk+1 = xk auquel cas la suite xm est station-
naire pour m ≥ k. Cependant, cet algorithme est toujours de type conceptuel car
pour une fonction convexe quelconque J2 on ne sait pas résoudre le problème de mi-
nimisation (3.52) dont la solution est requise pour définir l’algorithme. En pratique,
cet algorithme est donc limité à des fonctions simples pour lesquelles on sait résoudre
“à la main” (3.52). C’est précisément le cas pour J2 (x) = kxk1 , comme on vient de
le voir à la Remarque 3.2.32. Dans ce cas, on a xk+1 = proxτ k·k1 (xk ) = Sτ (xk ), où
Sτ est l’opérateur de contraction défini par (3.50).
Finalement, on propose un algorithme de type explicite-implicite pour minimiser
J1 + τ J2 : soit une initialisation x0 ∈ Rn , pour k ≥ 0, on calcule
= xk − τ J10 (xk ),
( k+1/2
x
(3.54)
xk+1 = proxτ J2 (xk+1/2 ),
où on a appliqué une itération de l’algorithme du gradient à pas fixe à J1 suivi d’une
itération de l’algorithme proximal à J2 avec le même pas fixe τ pour les deux. Pour
le cas particulier (3.49), cet algorithme proximal est

k+1 k ∗ k
x = Sτ x − τ A (Ax − b) .
Il existe de nombreuses variantes de l’algorithme (3.54), notamment en ne choisissant

pas le même pas de descente τ pour les deux étapes correspondant aux deux fonctions
J1 et J2 .
Exercice 3.2.4 Soit K un convexe fermé de Rn . On définit la fonction indicatrice de

K comme l’application de Rn dans R ∪ {+∞} définie par
(
0 si x ∈ K,
IK (x) =
+∞ si x ∈/ K.
Vérifier que IK est une fonction convexe et que l’application proximale proxIK est
simplement l’opérateur de projection orthogonale sur K.
Exercice 3.2.5 Soit J une fonction convexe minorée par une fonction affine sur Rn .
Pour τ > 0, on définit la régularisation de Moreau-Yosida de J, notée Jτ , par
1
Jτ (x) = minn kx − yk2 + J(y).
y∈R 2τ
Montrer que Jτ est convexe, différentiable et que minx∈Rn J(x) = minx∈Rn Jτ (x) (indi-
cation : on pourra utiliser la forte convexité de la fonction dont la minimisation donne
Jτ pour montrer d’abord que l’application proximale est différentiable). Vérifier que
proxτ J (xk ) = xk+1 ⇔ xk+1 = xk − τ Jτ0 (xk ),
c’est-à-dire qu’une itération de l’algorithme proximal pour J est équivalent à une itération
de l’algorithme du gradient à pas fixe pour Jτ .
Exercice 3.2.6 Soit J1 une fonction fortement convexe différentiable sur Rn . Soit K
un convexe fermé de Rn et J2 = IK , la fonction indicatrice de K définie comme à
l’Exercice 3.2.4. Vérifier que l’algorithme explicite-implicite (3.54) n’est rien d’autre que
l’algorithme de gradient projeté de la Sous-section 3.4.1.
Exercice 3.2.7 Soit A une matrice n×n symétrique réelle, définie positive, et b ∈ Rn .
On définit la fonction quadratique J sur Rn par
1
J(x) = Ax · x − b · x.
2
Déterminer l’opérateur proximal proxJ .
Lemme 3.2.33 Soit J(x) une fonction convexe différentiable de Rn dans R qui
admet un unique point de minimum x∗ . Pour τ > 0 et x0 ∈ Rn on définit l’algorithme
proximal par la suite, indexée par k ≥ 0,

k+1 k 1 k 2
x = proxτ J (x ) = arg minx∈Rn kx − x k + τ J(x) .
2
Alors la suite xk converge vers le point de minimum x∗ . De plus, si J est α-convexe,

alors
1
kxk − x∗ k2 ≤ kx0 − x∗ k2 .
(1 + 2τ α)k
Remarque 3.2.34 Le Lemme 3.2.33 donne la convergence de l’algorithme proximal

sans aucune condition de petitesse sur le pas τ . On retrouve là une caractéristique
des algorithmes implicites par rapport aux algorithmes explicites (voir par exemple
[1] pour les schémas de différences finies). Par souci de simplicité de sa preuve le
Lemme 3.2.33 fait l’hypothèse que J est différentiable mais le résultat s’étend au
cas de fonctions qui ne sont pas différentiables grâce à la notion de sous-gradient. •
Démonstration. Comme J est convexe, la fonction x 7→ J(x) + kx − xk k2 /(2τ )
est (1/τ )-convexe. On écrit sa forte convexité (2.23) à son point de minimum xk+1
(où sa dérivée s’annule)
1 1 1
J(x) + kx − xk k2 ≥ J(xk+1 ) + kxk+1 − xk k2 + kx − xk+1 k2 . (3.55)
2τ 2τ 2τ
En prenant x = xk on trouve que J(xk+1 ) ≤ J(xk ). Si on choisit x = x∗ et que l’on
somme l’inégalité ci-dessus pour tous les indices de 0 à (k − 1), on obtient
k
1 ∗ X 1
kx − x0 k2 ≥ (J(xi ) − J(x∗ )) + kx∗ − xk k2 ≥ k(J(xk ) − J(x∗ ))
2τ i=1
2τ
dont on déduit que J(xk ) converge vers J(x∗ ) et que la suite (xk ) est bornée dans
0
Rn . Par conséquent, pour une sous-suite, xk converge vers une limite x∞ et, comme
J est continue et que son point de minimum est unique, il vient que x∞ = x∗ et que
toute la suite xk converge vers x∗ .
Si J est α-convexe, alors on peut améliorer (3.55) car x 7→ J(x)+kx−xk k2 /(2τ )
est (α + 1/τ )-convexe
1 1 1
J(x) + kx − xk k2 ≥ J(xk+1 ) + kxk+1 − xk k2 + (α + 1/τ )kx − xk+1 k2 .
2τ 2τ 2
On choisit encore x = x∗ et on combine cette inégalité avec la forte convexité (2.23)
de J à son point de minimum x∗ (où sa dérivée s’annule)
α k+1
J(xk+1 ) ≥ J(x∗ ) + kx − x∗ k 2 .
2
En sommant les deux dernières inégalités on obtient
kx∗ − xk k2 ≥ (1 + 2τ α)kx∗ − xk+1 k2
d’où le résultat. 2
3.3 Méthode de Newton

Tous les algorithmes que nous avons étudiés jusqu’ici sont des algorithmes dits
du premier ordre car ils n’utilisent que la dérivée première de la fonction à minimiser.
Au contraire, la méthode de Netwon est un algorithme d’ordre deux car elle utilise
l’information des deux premières dérivées de la fonction que l’on veut minimiser.
3.3. MÉTHODE DE NEWTON 93
On imagine ainsi qu’elle peut être plus efficace qu’un algorithme du premier ordre,
puisqu’elle utilise, en plus du gradient, la Hessienne de la fonction, mais qu’elle
risque d’être plus compliquée à mettre en oeuvre puisqu’il faut justement calculer
ces dérivées secondes. Comme dans les sections précédentes on considère un problème
d’optimisation sans contrainte, sauf dans la dernière sous-section.
3.3.1 Cas de la dimension finie

Pour simplifier la présentation, on se place tout d’abord en dimension finie
V = RN . On veut résoudre le problème de minimisation d’une fonction régulière
J(v) de RN dans R, sans contraintes. On sait que les éventuels points de minimum
de J(v) se trouvent parmi les zéros de la dérivée J 0 (v). Le principe de la méthode de
Newton est de chercher les zéros de la dérivée J 0 (v). Remarquons tout de suite un
inconvénient de ce principe : ces zéros peuvent aussi correspondre à des points de
maximum ou des points selle et la méthode de Newton ne permet pas de faire le tri
entre minima, maxima ou simples points stationnaires. Evidemment, si la fonction
J est convexe, on sait qu’elle n’a que des points de minimum.
Rentrons dans les détails et notons F = J 0 . On suppose que F une fonction de
classe C 2 de RN dans RN . Soit u un zéro régulier de F c’est-à-dire que
F (u) = 0 et F 0 (u) matrice inversible.
Une formule de Taylor au voisinage de v nous donne
F (u) = F (v) + F 0 (v)(u − v) + O ku − vk2 ,

c’est-à-dire
−1
u = v − (F 0 (v)) F (v) + O kv − uk2 .

La méthode de Newton consiste à résoudre de façon itérative cette équation en

négligeant le reste. Pour un choix initial u0 ∈ RN , on calcule
−1
un+1 = un − (F 0 (un )) F (un ) pour n ≥ 0. (3.56)
Rappelons que l’on ne calcule pas l’inverse de la matrice F 0 (un ) dans (3.56) mais que
l’on résout un système linéaire. Du point de vue de l’optimisation, la méthode de
Newton s’interprète de la manière suivante. Soit J une fonction de classe C 3 de RN
dans R, et soit u un minimum local de J. En notant F = J 0 , la méthode précédente
permet de résoudre la condition nécessaire d’optimalité J 0 (u) = 0. Plus précisément,
on peut aussi voir la méthode de Newton comme une méthode de minimisation. A
cause du développement de Taylor
1
J(w) = J(v) + J 0 (v) · (w − v) + J 00 (v)(w − v) · (w − v) + O kw − vk3 , (3.57)

2
on peut approcher J(w) au voisinage de v par une fonction quadratique. La méthode
de Newton consiste alors à minimiser cette approximation quadratique et à itérer.
Le minimum de la partie quadratique du terme de droite de (3.57) est donné par
w = v − (J 00 (v))−1 J 0 (v) si la matrice J 00 (v) est définie positive. On retrouve alors la

formule itérative (3.56).
L’avantage principal de la méthode de Newton est sa convergence bien plus
rapide que les méthodes précédentes.
Proposition 3.3.1 Soit F une fonction de classe C 2 de RN dans RN , et u un zéro

régulier de F (i.e. F (u) = 0 et F 0 (u) inversible). Il existe un réel > 0 et une
constante 0 < C < 1/ tels que, si u0 est assez proche de u au sens où ku − u0 k ≤ ,
la méthode de Newton définie par (3.56) converge, c’est-à-dire que la suite (un )
converge vers u, au sens où
n
kun+1 − uk ≤ Ckun − uk2 et kun − uk ≤ C −1 (C)2 . (3.58)
Remarque 3.3.2 La convergence de la méthode de Newton, dite quadratique, est

extrêmement rapide (bien plus que la méthode du gradient qui converge simplement
géométriquement d’après la Remarque 3.1.8). Le nombre de chiffres significatifs dans
l’approximation un de la solution u double à chaque itération. Bien sûr, cette conver-
gence rapide a un prix car, à chaque itération de la méthode de Newton (3.56), il
faut résoudre un système linéaire, ce qui est coûteux en temps de calcul. De plus,
la convergence rapide donnée par (3.58) n’a lieu que si F est de classe C 2 , et si u0
est assez proche de u, hypothèses bien plus restrictives que celles que nous avons
utilisées jusqu’à présent. Effectivement, même dans des cas très simples dans R, la
méthode de Newton peut diverger pour certaines données initiales u0 ; il faut no-
ter aussi que la convergence quadratique (3.58) ne se produit qu’au voisinage d’un
zéro régulier, comme le montre l’application de la méthode de Newton à la fonc-
tion F (x) = kxk2 dans RN , pour laquelle la convergence n’est que géométrique. Par
ailleurs, si on applique la méthode de Newton pour la minimisation d’une fonction
J comme expliqué ci-dessus, il se peut que la méthode converge vers un maximum
ou un col de J, et non pas vers un minimum, car elle ne fait que rechercher les
zéros de J 0 . La méthode de Newton n’est donc pas supérieure en tout point aux
algorithmes précédents, mais la propriété de convergence locale quadratique (3.58)
la rend cependant particulièrement intéressante. •
Démonstration. Par continuité de F 0 et de F 00 il existe δ > 0 tel que F 0 est
inversible en tout point v de la boule de centre u et de rayon δ et, de plus, il existe
C1 , C2 > 0 tels que
−1
k (F 0 (v)) k ≤ C1 , kF 00 (v)k ≤ C2 , pour tout kv − uk ≤ δ.
Supposons que toutes les itérées jusqu’à un sont restées proches de u, au sens où
ku − un k ≤ δ, donc F 0 (un ) est inversible. Comme F (u) = 0, on déduit de (3.56)
−1
un+1 − u = un − u − (F 0 (un )) (F (un ) − F (u))
qui, par développement de Taylor autour de un , devient

Z 1
n+1 1 0 n −1 00 n
u − u = (F (u )) F (u + s(u − u )) ds (un − u) · (un − u).
n
2 0
On peut majorer pour obtenir

1
kun+1 − uk ≤ C1 C2 kun − uk2 .
2
qui n’est rien d’autre que la première partie de (3.58) avec C = C1 C2 /2. On choisit
0 < < min(δ, C −1 ) et ku − u0 k ≤ . On vérifie par récurrence que ku − un k ≤ ≤ δ
(donc toutes les itérées restent proches de u). En prenant le logarithme de l’inégalité
précédente, on a
log kun+1 − uk ≤ log C + 2 log kun − uk,
d’où l’on déduit
log kun − uk ≤ 2n log ku0 − uk + (2n − 1) log C
c’est-à-dire 2n
−1 n
n
ku − uk ≤ C 0
Cku − uk ≤ C −1 (C)2
qui converge vers zéro puisque C < 1. 2
Remarque 3.3.3 Un inconvénient majeur de la méthode de Newton est la nécessité

de connaître le Hessien J 00 (v) (ou la matrice dérivée F 0 (v)). Lorsque le problème
est de grande taille ou bien si J n’est pas facilement deux fois dérivable, on peut
modifier la méthode de Newton pour éviter de calculer cette matrice J 00 (v) = F 0 (v).
Les méthodes, dites de quasi-Newton, proposent de calculer de façon itérative aussi
une approximation S n de (F 0 (un ))−1 . On remplace alors la formule (3.56) par
un+1 = un − S n F (un ) pour n ≥ 0.
En général on calcule S n par une formule de récurrence du type
S n+1 = S n + C n
où C n est une matrice de rang 1 qui dépend de un , un+1 , F (un ), F (un+1 ), choisie
de manière à ce que S n − (F 0 (un ))−1 converge vers 0. Pour plus de détails sur ces
méthodes de quasi-Newton nous renvoyons à [6] et [13]. •
3.3.2 Méthode de Gauss-Newton

Il s’agit d’une variante de l’algorithme Newton pour les problèmes de moindres
carrés non-linéaires, qui s’écrivent
min kF (u)k2 avec F (u) = (F1 (u), · · · , FM (u)),

u∈RN
où la fonction F : RN → RM est supposée de classe C 2 . Si F (u) = Au − b, on

retrouve les moindres carrés linéaires. L’idée de la méthode de Gauss-Newton est, à
partir d’une initialisation u0 ∈ RN , de construire une suite de solutions approchées
un , pour n ≥ 0. Comme pour l’algorithme de Newton, à chaque itération n, F (u)

est approchée par son application linéaire tangente en un , à savoir
F (u) ≈ F (un ) + ∇F (un )(u − un ) = An u − bn ,
où An = ∇F (un ) est une matrice M × N et bn = ∇F (un )un − F (un ) est un vecteur

de RM . On calcule alors la nouvelle itérée un+1 comme un point de minimum de
min kAn u − bn k2 ,
u∈RN
c’est-à-dire que un+1 est une solution de l’équation normale, (∇F (un ))∗ ∇F (un )un =
(∇F (un ))∗ bn . Si l’on suppose que Ker∇F (un ) = {0}, alors la matrice (∇F (un ))∗ ∇F (un )
est inversible et on vérifie aisément que un+1 est donnée par
−1
un+1 = un − (∇F (un ))∗ ∇F (un ) (∇F (un ))∗ F (un )
S’il existe un zéro régulier u de F et si l’initialisation u0 en est proche, on peut

démontrer la convergence quadratique de l’algorithme de Gauss-Newton vers u.
Remarque 3.3.4 Si N = M et Ker∇F (un ) = {0}, alors ∇F (un ) est une matrice
inversible et la formule ci-dessus se simplifie en
−1
un+1 = un − ∇F (un ) F (un )
et on retrouve exactement l’algorithme de Newton pour trouver les solutions de

F (u) = 0. •
3.3.3 Cas de la dimension infinie

Expliquons rapidement comment la méthode de Newton s’applique à la mi-
nimisation de fonctions définies sur un espace de Hilbert V de dimension infinie.
Considérons une fonction convexe, de classe C 2 , J(v) de V dans R. On repart du
développement de Taylor à l’ordre 2 (3.57) et, pour une initialisation u0 ∈ V , on
calcule un+1 comme un point de minimum de l’approximation quadratique
1
J n (w) = J(un ) + J 0 (un )(w − un ) + J 00 (un ) (w − un ), (w − un ) , (3.59)
2
où V × V 3 (w1 , w2 ) 7→ J 00 (un )(w1 , w2 ) est une forme bilinéaire symétrique. Si
on suppose de plus qu’elle est coercive et continue, c’est-à-dire, s’il existe deux
constantes 0 < ν < M telles que
νkwk2 ≤ J 00 (un )(w, w) ≤ M kwk2 ,
alors la fonction J n (w), définie par (3.59), est fortement convexe, donc admet un
unique point de minimum un+1 caractérisé par la condition d’optimalité du premier
ordre
(J n )0 (un+1 )(w) = 0 pour tout w ∈ V,
que l’on peut réécrire : trouver un+1 ∈ V , solution de

00 n
J (u ) (u n+1
− u ), w = −J 0 (un )(w) pour tout w ∈ V.
n
(3.60)
L’équation (3.60) n’est rien d’autre qu’une formulation variationnelle sur V qu’on
peut résoudre à l’aide du lemme de Lax-Milgram grâce à l’hypothèse de coercivité
de J 00 (un ) (voir [1]). C’est typiquement de cette façon que sont résolues les équations
aux dérivées partielles non-linéaires.
3.3.4 Méthode de Newton avec contraintes d’égalité

On peut adapter la méthode de Newton à la minimisation d’une fonction J
avec des contraintes d’égalité. Soit J une fonction de classe C 3 de RN dans R,
G = (G1 , ..., GM ) une fonction de classe C 3 de RN dans RM (avec M ≤ N ), et soit
u un minimum local de
min J(v) . (3.61)
v∈RN , G(v)=0
Si les vecteurs (G01 (u), ..., G0M (u)) sont linéairement indépendants, la condition né-
cessaire d’optimalité du Théorème 2.5.6 est
M
X
J 0 (u) + λi G0i (u) = 0 , Gi (u) = 0 1 ≤ i ≤ M , (3.62)
i=1
où les λ1 , . . . , λM ∈ R sont les multiplicateurs de Lagrange. On peut alors résoudre

le système (3.62) de (N + M ) équations à (N + M ) inconnues (u, λ) ∈ RN +M par
une méthode de Newton. On pose donc
0
J (u) + λ · G0 (u)

F (u, λ) = ,
G(u)
dont la matrice dérivée est

J 00 (u) + λ · G00 (u) (G0 (u))∗

0
F (u, λ) = .
G0 (u) 0
On peut alors appliquer l’algorithme de Newton (3.56) à cette fonction F (u, λ) si la

matrice F 0 (u, λ) est inversible. Nous allons voir que cette condition est “naturelle”
au sens où elle correspond à une version un peu plus forte de la condition d’optima-
lité d’ordre 2 de la Proposition 2.5.13. La matrice F 0 (u, λ) est inversible si elle est
injective. Soit (w, µ) un élément de son noyau
00
J (u)w + λ · G00 (u)w + (G0 (u))∗ µ = 0
G0i (u) · w = 0 pour 1 ≤ i ≤ M
On en déduit que w ∈ KerG0 (u) = M 0 00 00

T
i=1 KerGi (u) et (J (u) + λ · G (u))w ∈
Im(G0 (u))∗ . Or Im(G0 (u))∗ = [ KerG0 (u)]⊥ . Par conséquent, si on suppose que
(J 00 (u) + λ · G00 (u)) (w, w) > 0 ∀ w ∈ KerG0 (u), w 6= 0 , (3.63)

la matrice F 0 (u, λ) est inversible. On remarque que (3.63) est l’inégalité stricte dans
la condition d’optimalité d’ordre 2 de la Proposition 2.5.13. Il est donc naturel de
faire l’hypothèse (3.63) qui permet d’utiliser l’algorithme de Newton. On peut ainsi
démontrer la convergence de cette méthode (voir [6]). Il est intéressant d’interpréter
cet algorithme comme une méthode de minimisation. On introduit le Lagrangien
L(v, µ) = J(v) + µ · G(v), ses dérivées par rapport à v, L0 et L00 , et on vérifie que
l’équation
−1
(un+1 , λn+1 ) = (un , λn ) − (F 0 (un , λn )) F (un , λn )
est la condition d’optimalité pour que un+1 soit un point de minimum du problème
quadratique à contraintes affines
min Qn (w) , (3.64)

w∈RN
G(un )+G0 (un )·(w−un )=0
avec

1
n
Q (w) = L(u , λ ) + L (u , λ ) · (w − u ) + L00 (un , λn )(w − un ) · (w − un )
n n 0 n n n
,
2
et λn+1 est le multiplicateur de Lagrange associé au point de minimum de (3.64).

On remarque que dans (3.64) on a effectué un développement de Taylor à l’ordre
deux en w sur le Lagrangien L(w, λn ) et on a linéarisé la contrainte G(w) autour du
point un .
Remarque 3.3.5 Dans (3.64) on a utilisé une approximation quadratique du La-

grangien et non pas de la fonction J. On pourrait essayer de se contenter d’une
méthode itérative de résolution de l’approximation quadratique à contraintes affines
suivante

0 1 00
min J(v) + J (v) · (w − v) + J (v)(w − v) · (w − v) . (3.65)
w∈RN
0
2
G(v)+G (v)·(w−v)=0
Malheureusement la méthode basée sur (3.65) peut ne pas converger ! En particulier,

il n’est pas évident que le Hessien J 00 (v) soit défini positif sur l’espace des contraintes
(c’est le Hessien du Lagrangien qui est positif comme l’affirme la condition d’opti-
malité d’ordre 2 de la Proposition 2.5.13). •
3.4 Algorithmes de type gradient (avec contraintes)

On s’intéresse maintenant à la résolution numérique de problèmes d’optimisa-
tion avec contraintes
inf J(v) , (3.66)
v∈K
où J est une fonction α-convexe différentiable définie sur K, sous-ensemble fermé

non vide de l’espace de Hilbert réel V . Nous commencerons par étudier le cas où K
est convexe mais nous nous en éloignerons progressivement.
3.4. ALGORITHMES DE TYPE GRADIENT (AVEC CONTRAINTES) 99
3.4.1 Algorithme de gradient à pas fixe avec projection

Nous nous limitons dans cette sous-section au cas où K est un convexe fermé
non vide de V . Sous cette hypothèse, le Théorème 2.3.8 assure l’existence et l’unicité
de la solution u de (3.66), caractérisée d’après le Théorème 2.5.1 par la condition
d’optimalité
hJ 0 (u), v − ui ≥ 0 ∀ v ∈ K . (3.67)
Pour tout réel µ > 0 (qui jouera le rôle d’un pas de descente), (3.67) s’écrit
hu − u − µJ 0 (u) , v − ui ≥ 0 ∀ v ∈ K .

(3.68)
Notons PK l’opérateur de projection orthogonale sur l’ensemble convexe K, défini à

la Remarque 8.1.4. D’après le Théorème 8.1.3 de projection sur un convexe, (3.68)
n’est rien d’autre que la caractérisation de u comme la projection orthogonale de
u − µJ 0 (u) sur K, c’est-à-dire,
u = PK u − µJ 0 (u) .

(3.69)
Plus précisément, (3.69) est en fait équivalent à (3.67) et caractérise donc la solu-
tion u de (3.66). L’algorithme de gradient à pas fixe avec projection (ou plus
simplement de gradient projeté) est alors défini par l’itération
un+1 = PK un − µJ 0 (un ) ,

(3.70)
où µ > 0 est un pas de descente fixe. Autrement dit, (3.70) est une simple adaptation
de l’algorithme de gradient à pas fixe auquel on a ajouté une étape de projection
pour ne pas quitter l’ensemble admissible K.
schitzien sur V (de constante L, voir (3.9)). Alors, si 0 < µ < 2α/L2 , l’algorithme
de gradient à pas fixe avec projection converge : quel que soit u0 ∈ K, la suite (un )
définie par (3.70) converge vers la solution u de (3.66).
Démonstration. La démonstration reprend celle du Théorème 3.1.6 où l’on a mon-
tré que l’application v 7→ v − µJ 0 (v) est strictement contractante lorsque 0 < µ <
2α/L2 , c’est-à-dire qu’il existe γ ∈]0, 1[ tel que
∀v, w ∈ V, v − µJ 0 (v) − w − µJ 0 (w) ≤ γkv − wk .

Puisque la projection
0
PK est faiblement contractante d’après (8.2), l’application
v 7→ PK v − µJ (v) est strictement contractante, ce qui prouve la convergence de
la suite (un ) définie par (3.70) vers la solution u de (3.66). 2
PN
Exercice 3.4.1 Soit V = RN et K = {x ∈ RN tel que i=1 xi = 1}. Expliciter
l’opérateur de projection orthogonale PK et interpréter dans ce cas la formule (3.69) en
terme de multiplicateur de Lagrange.
Le Théorème 3.4.1 montre que l’algorithme de gradient à pas fixe avec pro-
jection est applicable à une large classe de problèmes d’optimisation convexe avec
contraintes, dès lors que l’on sait calculer l’opérateur de projection orthogonale PK .
Mais malheureusement, il est très difficile, non seulement de connaitre explicitement
l’opérateur de projection PK , mais même de construire un algorithme simple et ef-
ficace pour l’évaluer, dans le cas d’un convexe fermé K quelconque dans V . Malgré
sa simplicité apparente l’algorithme du gradient projeté est donc souvent un leurre
du point de vue pratique par défaut d’une connaissance explicite de cet opérateur
de projection PK .
Donnons néanmoins deux exceptions importantes pour lesquelles on sait calculer
explicitement PK . Par souci de simplicité dans la présentation, on se limite au cas
de la dimension finie V = RN , mais ces deux exemples se généralisent sans difficulté
à des espaces de Hilbert de dimension infinie. On considère tout d’abord le cas d’un
sous-espace affine
K = {x ∈ RN Bx = c},
avec B matrice M × N de rang maximal, rang(B) = M ≤ N , et c ∈ RM . On trouve
alors facilement que
PK (x) = x + B ∗ (BB ∗ )−1 (c − Bx).
En effet, la condition d’optimalité du Théorème 2.5.1 (inéquation d’Euler) est en

fait une égalité qui dit que (x − PK (x)) est orthogonal à KerB donc appartient à
ImB ∗ , c’est-à-dire x − PK (x) = B ∗ y. Enfin, la condition BPK (x) = c permet de
calculer y = (BB ∗ )−1 (Bx − c).
Un second cas particulier important concerne les sous-ensembles K de la forme
N
Y
K= [ai , bi ] (3.71)
i=1
(avec éventuellement ai = −∞ ou bi = +∞ pour certains indices i). En effet, il est

alors facile de voir que, si x = (x1 , x2 , . . . , xN ) ∈ RN , y = PK (x) a pour composantes
yi = min (max (ai , xi ), bi ) pour 1 ≤ i ≤ N , (3.72)
autrement dit, il suffit juste de “tronquer” les composantes de x.
Remarque 3.4.2 Ce qui rend très attractif, mais très difficile à mettre en oeuvre,
l’algorithme du gradient projeté est qu’il s’agit d’un algorithme faisable, c’est-à-
dire qu’à chaque itération la solution approchée un appartient bien à l’ensemble
K qui définit les contraintes. A l’opposé de cette approche il existe une classe
d’algorithmes infaisables où la suite de solutions approchées un n’appartient pas
à K mais, en cas de convergence, leur limite u appartient bien à K. C’est évidem-
ment beaucoup plus facile à mettre en oeuvre mais, en général, avant la convergence
on n’a pas une solution, même de qualité médiocre, qui satisfait les contraintes. La
section suivante donne des exemples de tels algorithmes infaisables. •
3.4.2 Algorithme d’Uzawa

L’idée de l’algorithme d’Uzawa vient de la théorie de la dualité, entrevue dans
la Section 2.6, qui permet de "transformer" un problème avec contraintes d’inéga-
lités générales en un problème "dual" avec comme seule contrainte d’appartenir au
convexe (R+ )M , qui est du type (3.71). Grâce à la formule explicite (3.72) de pro-
jection sur ce convexe particulier, ce problème dual peut être résolu par la méthode
du gradient à pas fixe avec projection. La solution du problème primal pourrait
ensuite être obtenue, par exemple, en résolvant un problème de minimisation sans
contrainte pour le Lagrangien. En fait, l’algorithme d’Uzawa est aussi une méthode
de recherche de point-selle pour le Lagrangien et il calcule à la fois une solution du
problème dual et une du problème primal.
Considérons donc le problème de minimisation convexe
inf J(v) , (3.73)

F (v)≤0
où J est une fonctionnelle convexe définie sur V et F une fonction convexe de V

dans RM . Sous les hypothèses du Théorème de Kuhn et Tucker 2.6.4, la résolution
de (3.73) revient à trouver un point-selle (u, p) du Lagrangien
L(v, q) = J(v) + q · F (v) , (3.74)
sur V × (R+ )M . A partir de la Définition 2.6.1 du point-selle
∀ q ∈ (R+ )M L(u, q) ≤ L(u, p) ≤ L(v, p) ∀ v ∈ V , (3.75)
on déduit que (p − q) · F (u) ≥ 0 pour tout q ∈ (R+ )M , d’où on tire, pour tout réel
µ > 0,
(p − q) · p − p + µF (u) ≤ 0 ∀ q ∈ (R+ )M ,

ce qui, d’après (8.1), montre que
p = PRM
+
(p + µF (u)) ∀ µ > 0 , (3.76)
PRM+
désignant la projection de RM sur (R+ )M .
Au vu de cette propriété et de la seconde inégalité dans (3.75), nous pouvons
introduire l’algorithme d’Uzawa : à partir d’un élément quelconque p0 ∈ (R+ )M ,
on construit les suites (un ) et (pn ) déterminées par les itérations
L(un , pn ) = inf L(v, pn ) ,

v∈V
(3.77)
pn+1 = PRM
+
(pn + µF (un )) ,
µ étant un paramètre positif fixé. On peut interpréter l’algorithme d’Uzawa en di-

sant qu’alternativement il minimise le Lagrangien par rapport à v avec q fixé et il
maximise (par un seul pas de l’algorithme du gradient projeté) ce même Lagran-
gien par rapport à q avec v fixé. Une autre manière de voir l’algorithme d’Uzawa
est la suivante : il prédit une valeur du multiplicateur de Lagrange q et effectue
une minimisation sans contrainte du Lagrangien par rapport à v, puis il corrige la

prédiction de q en l’augmentant si la contrainte est violée et en le diminuant sinon.
Nous verrons une troisième interprétation de l’algorithme d’Uzawa dans le cadre de
la théorie de la dualité ci-dessous.
Théorème 3.4.3 On suppose que J est α-convexe différentiable, que F est convexe
et Lipschitzienne de V dans RM , c’est-à-dire qu’il existe une constante L telle que
kF (v) − F (w)k ≤ Lkv − wk ∀ v, w ∈ V , (3.78)
et que l’ensemble K = {v ∈ V tel que F (v) ≤ 0} est non vide. On suppose que
les contraintes sont qualifiées pour la solution u de (3.73). Si 0 < µ < 2α/L2 ,
l’algorithme d’Uzawa converge : quel que soit l’élément initial p0 , la suite (un ) définie
par (3.77) converge vers la solution u du problème (3.73).
Démonstration. Tout d’abord, l’existence et l’unicité d’une solution u de (3.73)
découle du Théorème 2.3.8 puisque l’on minimise une fonction fortement convexe
sur un convexe fermé non vide K. Comme les contraintes sont qualifiées en u, le
Théorème de Kuhn et Tucker 2.6.4 affirme alors qu’il existe un multiplicateur de
Lagrange p ∈ (R+ )M tel que (u, p) est un point-selle du Lagrangien (3.74) sur
V × (R+ )M . De même, pn étant fixé, le problème de minimisation dans (3.77) a bien
une solution unique un . D’après l’Exercice 2.5.6, les inéquations d’Euler satisfaites
par u et un s’écrivent
hJ 0 (u), v − ui + p · F (v) − F (u) ≥ 0 ∀ v ∈ V ,

(3.79)
hJ 0 (un ), v − un i + pn · F (v) − F (un ) ≥ 0 ∀ v ∈ V .

(3.80)
Prenant successivement v = un dans (3.79) et v = u dans (3.80) et additionnant, on
obtient
hJ 0 (u) − J 0 (un ), un − ui + (p − pn ) · F (un ) − F (u) ≥ 0 ,

d’où en utilisant l’α-convexité de J et en posant rn = pn − p
rn · F (un ) − F (u) ≤ −αkun − uk2 .

(3.81)
D’autre part, la projection PRM

+
étant faiblement contractante d’après (8.2), en sous-
trayant (3.76) à (3.77) on obtient
krn+1 k ≤ krn + µ(F (un ) − F (u))k ,
soit
krn+1 k2 ≤ krn k2 + 2µrn · F (un ) − F (u) + µ2 kF (un ) − F (u)k2 .

Utilisant (3.78) et (3.81), il vient
krn+1 k2 ≤ krn k2 + L2 µ2 − 2µα kun − uk2 .

Si 0 < µ < 2α/L2 , on peut trouver β > 0 tel que L2 µ2 − 2µα < −β, d’où
βkun − uk2 ≤ krn k2 − krn+1 k2 . (3.82)

Ceci montre alors que la suite krn k2 est décroissante : le membre de droite de (3.82)
tend donc vers 0, ce qui entraîne que un tend vers u. 2
Ainsi, l’algorithme d’Uzawa permet d’approcher la solution de (3.73) en rem-

plaçant ce problème avec contraintes par une suite de problèmes de minimisation
sans contraintes (3.77). A chaque itération, la détermination de pn est élémentaire,
puisque d’après (3.72) l’opérateur de projection PRM +
est une simple troncature à
zéro des composantes négatives. Il faut aussi noter que le Théorème 3.4.3 ne dit
rien de la convergence de la suite (pn ). En fait, cette convergence n’est pas assurée
sous les hypothèses du théorème, qui n’assurent d’ailleurs pas l’unicité de l’élément
p ∈ (R+ )M tel que (u, p) soit point-selle (voir la Remarque 2.6.14 et l’Exercice 3.4.2
ci-dessous).
Il reste à faire le lien entre l’algorithme d’Uzawa et la théorie de la dualité,
comme nous l’avons déjà annoncé. Rappelons d’abord que le problème dual de (3.73)
s’écrit
sup G(q) , (3.83)
q≥0
où, par définition

G(q) = inf L(v, q) , (3.84)
v∈V
et que le multiplicateur de Lagrange p est une solution du problème dual (3.83). En

fait, sous des hypothèses assez générales, on peut montrer que G est différentiable
et que le gradient G 0 (q) est précisément égal à F (uq ), où uq est l’unique solution du
problème de minimisation (3.84). En effet, on a
G(q) = J(uq ) + q · F (uq ),
et en dérivant formellement par rapport à q
G 0 (q) = F (uq ) + hJ 0 (uq ) + q · F 0 (uq ), u0q i = F (uq ),
à cause de la condition d’optimalité pour uq . On voit alors que l’algorithme

d’Uzawa n’est autre que la méthode du gradient à pas fixe avec pro-
jection appliquée au problème dual puisque la deuxième équation de (3.77)
peut s’écrire pn+1 = PRM +
pn + µG 0 (pn ) (le changement de signe par rapport à
(3.70) vient du fait que le problème dual (3.83) est un problème de maximisation et
non de minimisation). Le lecteur vérifiera très facilement cette assertion dans le cas
particulier étudié à l’exercice suivant.
Exercice 3.4.2 Appliquer l’algorithme d’Uzawa au problème de la Remarque 2.6.14

(fonctionnelle quadratique et contraintes affines en dimension finie). Si la matrice B est
de rang M , ce qui assure l’unicité de p d’après la Remarque 2.6.14, montrer que la suite
pn converge vers p.
Une variante, plus simple, de l’algorithme d’Uzawa est l’algorithme d’Arrow-
Hurwicz qui s’interprète lui aussi comme un algorithme de point selle. Simplement,
au lieu de minimiser exactement en v à chaque itération de (3.77), l’algorithme
d’Arrow-Hurwicz effectue un seul pas d’une méthode de gradient. Concrètement, à

partir d’éléments quelconques p0 ∈ (R+ )M et u0 ∈ V , on construit les suites (un ) et
(pn ) déterminées par les itérations
un+1 = un − µn (J 0 (un ) + pn · F 0 (un )) ,

(3.85)
pn+1 = PRM
+
(pn + µn F (un )) ,
où µn > 0 est un pas de descente positif. Autrement dit, (3.85) recherche un point
selle en alternant un pas de minimisation en v et un pas de maximisation en q.
Théorème 3.4.4 On suppose que J est α-convexe différentiable, que F est convexe
différentiable de dérivée bornée par CF > 0. On suppose aussi que, pour tout p ∈
(R+ )M , la fonction v 7→ J 0 (v) + p · F 0 (v) est L-Lipschitzienne sur V . Alors il existe
un point-selle (u, p) du Lagrangien (3.74) sur V × (R+ )M et u est la solution unique
du problème (3.73). Si le pas de descente vérifie, pour C 2 = max(2L2 + CF2 , 2CF2 ),
αγ kun − uk2
µn = avec 0 < γ < 1,
C 2 kun − uk2 + kpn − pk2
alors, l’algorithme d’Arrow-Hurwicz converge : quel que soit les éléments initiaux
p0 , u0 , la suite (un ) définie par (3.85) converge vers la solution u du problème (3.73).
Remarque 3.4.5 Bien que le Théorème 3.4.4 prescrive une valeur variable de µn ,
en pratique on utilise une valeur fixe 0 < µ < α/C 2 car on ne connait pas le point
selle (u, p) et on ne peut donc pas calculer µn .
Démonstration. Les hypothèses impliquent qu’il existe un point-selle (u, p) du
Lagrangien (3.74) sur V × (R+ )M . Rappelons que d’après (3.76) on a p = PRM +
(p +
n
µF (u)) pour tout réel µ > 0. Dans ce qui suit on écrit µ au lieu de µ par souci de
simplification. Comme la projection PK est faiblement contractante d’après (8.2),
on déduit de la deuxième équation de (3.85) que
kpn+1 − pk2 ≤ kpn + µF (un ) − (p + µF (u))k2
≤ kpn − pk2 + 2µ(pn − p) · (F (un ) − F (u)) + µ2 kF (un ) − F (u)k2

(3.86)
≤ kpn − pk2 + 2µ(pn − p) · F (un ) + µ2 CF2 kun − uk2
car pn · F (u) ≤ p · F (u) = 0 et la dérivée de F est supposée bornée par CF . La
première équation de (3.85) conduit à
∂L n n ∂L
kun+1 − uk2 = kun − uk2 − 2µh (u , p ), (un − u)i + µ2 k (un , pn )k2 . (3.87)
∂v ∂v
Or, comme J 0 (u) + p · F 0 (u) = 0, on a
∂L n n
(u , p ) = J 0 (un ) + p · F 0 (un ) − (J 0 (u) + p · F 0 (u)) + (pn − p) · F 0 (un ),
∂v
donc
∂L n n 2
(u , p )k ≤ 2 kJ 0 (un ) + p · F 0 (un ) − (J 0 (u) + p · F 0 (u))k2 + k(pn − p) · F 0 (un )k2

k
∂v
≤ 2 L2 kun − uk2 + CF2 kpn − pk2 ,

car J 0 (v)+p·F 0 (v) est L-Lipschitzienne et F 0 est borné. Par conséquent, en sommant
(3.86) et (3.87) et en appliquant le Lemme 3.4.6 pour v = un et q = pn , on trouve
kun+1 − uk2 + kpn+1 − pk2 ≤ kun − uk2 + kpn − pk2 − µαku − un k2
+µ2 C 2 kun − uk2 + kpn − pk2

γ(1 − γ)α2 kun − uk4

≤ kun − uk2 + kpn − pk2 −
C 2 (kun − uk2 + kpn − pk2 )
avec C 2 = max(2L2 + CF2 , 2CF2 ) et en ayant remplacé µ par sa valeur µn donnée dans
l’énoncé. On en déduit que la suite kun − uk2 + kpn − pk2 est décroissante positive
donc convergente, et par ailleurs que le rapport kun − uk4 / (kun − uk2 + kpn − pk2 )
tend vers zéro. Si la suite kun − uk2 + kpn − pk2 tend vers zéro, alors la suite (un , pn )
converge vers le point selle (u, p). Sinon, alors c’est la suite kun − uk4 qui tend vers
zéro, c’est-à-dire que la suite un converge vers u (mais on ne peut rien dire pour la
suite pn ). 2
Lemme 3.4.6 Soit le Lagrangien L(v, q) = J(v) + q · F (v), défini sur V × (R+ )M ,
avec J et F convexes différentiables et J α-convexe. On suppose que (u, p) est un
point selle du Lagrangien. Alors, pour tout (v, q) ∈ V × (R+ )M ,
α ∂L ∂L
ku − vk2 ≤ h (v, q), (v − u)i − (v, q) · (q − p) .
2 ∂v ∂q
Démonstration. Pour q ≥ 0 le Lagrangien est α-convexe
∂L α
L(u, q) ≥ L(v, q) + h (v, q), (u − v)i + ku − vk2 .
∂v 2
Comme (u, p) est un point selle, L(u, q) ≤ L(u, p) et on en déduit
α ∂L
ku − vk2 ≤ h (v, q), (v − u)i + L(u, p) − L(v, q) . (3.88)
2 ∂v
Or L(v, q) = L(v, p) + (q − p) · F (v) et ∂L
∂q
(v, q) = F (v). La deuxième inégalité du
point selle, L(u, p) ≤ L(v, p) permet enfin de conclure à partir de (3.88). 2
3.4.3 Pénalisation des contraintes

Une autre méthode pour approcher un problème de minimisation avec contraintes
par une suite de problèmes de minimisation sans contraintes est la procédure de pé-
nalisation des contraintes. Il ne s’agit pas d’un algorithme précis mais plutôt d’une
stratégie de résolution qui doit, pour sa partie numérique, utiliser l’un des algo-
rithmes de la Sous-section 3.1 pour l’optimisation sans contrainte. Cette résolution
numérique peut d’ailleurs soulever des difficultés, car le problème “pénalisé” est sou-
vent “mal conditionné”. Néanmoins l’avantage de cette méthode de pénalisation est
sa facilité de mise en oeuvre, même si elle est parfois décevante pour la qualité de
ses résultats numériques.
Nous nous plaçons pour simplifier dans le cas où V = RN , et nous considérons
de nouveau le problème de minimisation convexe
inf J(v) , (3.89)
F (v)≤0
où J est une fonction convexe continue de RN dans R et F une fonction convexe

continue de RN dans RM . Pour ε > 0, on introduit le problème sans contraintes
M
!
1X
inf J(v) + [max (Fi (v), 0)]2 , (3.90)
v∈RN ε i=1
dans lequel ont dit que les contraintes Fi (v) ≤ 0 sont “pénalisées”. On peut alors
énoncer le résultat suivant, qui montre que, pour ε petit, le problème (3.90) “ap-
proche bien” le problème (3.89).
Proposition 3.4.7 On suppose que J est continue, strictement convexe, et infinie

à l’infini, que les fonctions Fi sont convexes et continues pour 1 ≤ i ≤ M , et que
l’ensemble
K = v ∈ RN , Fi (v) ≤ 0 ∀ i ∈ {1, . . . , M }

est non vide. En notant u l’unique solution de (3.89) et, pour ε > 0, uε l’unique
solution de (3.90), on a alors
lim uε = u .
ε→0
Démonstration. L’ensemble K étant convexe fermé, l’existence et l’unicité de u

découlentP du Théorème 2.2.1 et de la stricte convexité de J. De plus, la fonction
M 2
G(v) = i=1 [max (Fi (v), 0)] est continue et convexe puisque la fonction de R
dans R qui à x associé max (x, 0)2 est convexe et croissante. On en déduit que la
fonctionnelle Jε (v) = J(v) + ε−1 G(v) est strictement convexe, continue, et infinie
à l’infini puisque G(v) ≥ 0, ce qui implique l’existence et l’unicité de uε . Comme
G(u) = 0, on peut écrire
G(uε )
Jε (uε ) = J(uε ) + ≤ Jε (u) = J(u) . (3.91)
ε
Ceci montre que
J(uε ) ≤ Jε (uε ) ≤ J(u) , (3.92)
et donc que uε est borné d’après la condition “infinie à l’infini”. On peut donc extraire
de la famille (uε ) une suite (uεk ) qui converge vers une limite u∗ lorsque εk tend
vers 0. On a alors 0 ≤ G(uεk ) ≤ εk (J(u) − J(uεk )) d’après (3.91). Passant à la
limite, on obtient G(u∗ ) = 0, qui montre que u∗ ∈ K. Comme (3.92) implique que
J(u∗ ) ≤ J(u), on a alors u∗ = u, ce qui conclut la démonstration, toutes les suites
extraites (uεk ) convergeant vers la même limite u. 2
Exercice 3.4.3 En plus des hypothèses de la Proposition 3.4.7, on suppose que les
fonctions J et F1 , . . . , FM sont continûment différentiables. On note de nouveau I(u)
l’ensemble des contraintes actives en u, et on suppose que les contraintes sont qualifiées
en u au sens de la Définition 2.5.15. Enfin, on suppose que les vecteurs Fi0 (u) i∈I(u)

sont linéairement indépendants, P ce qui 0assure l’unicité des multiplicateurs de Lagrange

λ1 , . . . , λM tels que J 0 (u) + M i=1 λi Fi (u) = 0, avec λi = 0 si i ∈
/ I(u). Montrer alors
que, pour tout indice i ∈ {1, . . . , M }

2
lim max (Fi (uε ), 0) = λi .
ε→0 ε
En pratique, même si la Proposition 3.4.7 garantit que la solution uε est une

bonne approximation de la solution exacte u pour ε suffisamment petit, on ne choisit
pas des paramètres ε trop petits à cause d’un problème de conditionnement numé-
rique. En effet, lorsqu’on évalue la fonction Jε ou ses dérivées on additionne des
termes d’ordre 1 par rapport à ε (qui viennent de J) et des termes d’ordre 1/ε
(qui viennent de F ), sans parler de la division de max(Fi (x), 0) (qui peut être petit
à convergence) par ε. Les erreurs d’arrondi peuvent être donc très marquées dans
de tels calculs. Pour cette raison on a souvent recours à une méthode de conti-
nuation qui consiste à diminuer progressivement la valeur de . Ce problème de
conditionnement numérique est en quelque sorte la face cachée de la facilité de mise
en oeuvre pratique.
Remarque 3.4.8 L’approche proposée ci-dessus est une méthode de pénalisa-

tion extérieure, au sens où la solution pénalisée uε ne vérifie en général pas les
contraintes. C’est uniquement sa limite qui les vérifie. A l’opposé de cette approche,
il existe une technique de pénalisation intérieure, pour des contraintes d’inégalité,
qui garantit à chaque itération que la solution pénalisée uε vérifie bien les contraintes,
pour peu que l’initialisation les vérifie. Expliquons en le principe pour l’exemple du
problème (3.89). Pour ε > 0, nous introduisons le problème sans contraintes
M
!
X 1
inf J(v) − ε (3.93)
v∈RN ,F (v)<0
i=1
F i (v)
où le deuxième terme est appelée une fonction “barrière” dont le choix n’est pas
unique. De manière générale, une fonction barrière est une fonction définie sur R−
qui tend vers +∞ quand son argument tend vers zéro. Le but de cette barrière est
d’empêcher une suite de solutions approchées de (3.93) de s’approcher de la limite
Fi (v) = 0. Ainsi les contraintes F (v) < 0 ne sont jamais actives et peuvent être
ignorées en pratique. Ainsi, si on utilise un algorithme de gradient pour le problème
sans contrainte (3.93) avec une initialisation qui vérifie strictement les contraintes
et un pas de descente suffisamment petit, alors la suite des itérées va rester dans le
domaine strictement faisable F (v) < 0. Pour que l’effet de la barrière soit de plus en
plus négligeable, on fait progressivement tendre le paramètre ε > 0 vers zéro (notez
la différence fondamentale avec le coefficient 1/ε en pénalisation extérieure). Nous
étudierons un exemple de pénalisation intérieure à la Sous-section 4.2.3. •
Exercice 3.4.4 Soit des fonctions J et F1 , . . . , FM convexes. Vérifiez que la fonction

minimisée dans (3.93) est bien convexe sur le domaine défini par F (v) < 0.
3.4.4 Algorithme du Lagrangien augmenté

Nous concluons cette sous-section en présentant l’algorithme du Lagrangien
augmenté, qui est une méthode combinant les avantages de l’algorithme d’Uzawa et
de la méthode de pénalisation. En particulier, il est nettement plus robuste que la
méthode de pénalisation dont il évite le caractère “mal conditionné”.
L’idée de la méthode est d’introduire un Lagrangien augmenté d’un terme de
pénalisation des contraintes. Pour fixer les idées, plaçons nous en dimension finie,
V = RN , et considérons le problème de minimisation avec contraintes d’égalité
inf J(v) , (3.94)
F (v)=0
où J est une fonction de RN dans R et F une fonction de RN dans RM , toutes les

deux supposées de classe C 1 . On remarque que le problème (3.94) est équivalent à
n µ 2
o
inf J(v) + kF (v)k ,
F (v)=0 2
pour tout paramètre µ ∈ R, puisque F (v) = 0. Cela suggère d’introduire, pour
v ∈ RN , λ ∈ RM et µ > 0, le Lagrangien augmenté
µ
Laug (v, λ, µ) = J(v) + λ · F (v) + kF (v)k2 , (3.95)
2
où kF (v)k est la norme Euclidienne dans RM du vecteur F (v). Autrement dit, on
additionne une fonction quadratique de la contrainte au Lagrangien habituel (3.74).
Dans (3.95), λ est bien sûr un multiplicateur de Lagrange pour la contrainte, tandis
que µ ressemble à un coefficient de pénalisation. Dans la sous-section précédente ce
coefficient était noté 1/ε. Ce changement de notation n’est pas anodin car, ici, il ne
sera pas nécessaire en pratique de faire tendre µ vers l’infini pour que la contrainte
soit satisfaite. En réalité, si l’interprétation du Lagrangien augmenté comme une
méthode de pénalisation est commode, elle n’est pas tout à fait juste et il s’agit plutôt
d’une méthode de régularisation du type Moreau-Yosida (voir l’Exercice 3.2.5) pour
la fonction duale [10].
Le principe de l’algorithme est de trouver un point selle de (3.95). A λ et µ fixés,
on minimise en v le Lagrangien augmenté par une des méthodes proposées pour la
minimisation sans contrainte. A v et µ fixés, on maximise en λ par un algorithme
itératif dont on va donner maintenant le principe. A l’itération n on note λn la valeur
du multiplicateur de Lagrange et v n le point de minimum de v 7→ Laug (v, λn , µ).
Ecrivons la condition d’optimalité pour v n
J 0 (v n ) + λn · F 0 (v n ) + µF (v n ) · F 0 (v n ) = 0. (3.96)
Si le même vecteur v n était solution de (3.94), on aurait la condition d’optimalité
du Théorème 2.5.6
J 0 (v n ) + λ∗ · F 0 (v n ) = 0, (3.97)
où λ∗ est un multiplicateur de Lagrange optimal. En comparant (3.96) et (3.97) on

obtient (en supposant que les contraintes sont qualifiées en v n )
λ∗ = λn + µF (v n ). (3.98)
De (3.98) on tire deux informations. D’une part, si la suite λn tend vers λ∗ , il n’est
pas nécessaire de faire tendre le coefficient de pénalisation µ vers l’infini pour avoir
la satisfaction progressive de la contrainte F (v) = 0. D’autre part, (3.98) suggère
une formule de mise à jour du multiplicateur de Lagrange
λn+1 = λn + µF (v n ).
Cette formule est très semblable à celle de l’algorithme d’Uzawa, voir (3.85), sauf
qu’ici le pas µ n’est pas petit. Au total l’algorithme du Lagrangien augmenté
est le suivant : on choisit µ > 0, on initialise λ0 ∈ RM et on construit deux suites v n
et λn par
Laug (v n , λn , µ) = min Laug (v, λn , µ),
v∈RN
λn+1 = λn + µF (v n ).
Par ailleurs, de temps en temps, et un nombre limité de fois (voir le chapitre 17
de [26]), on augmente la valeur du coefficient de pénalisation µ. Mais, comme le
rappelle le résultat ci-dessous, il n’est pas nécessaire de faire tendre µ vers l’infini
pour converger.
Lemme 3.4.9 On suppose que les fonctions J et F sont de classe C 2 . Soit v ∗ un

point de minimum local de (3.94) où les contraintes sont qualifiées au sens que la
matrice F 0 (v ∗ ) est de rang M . Soit λ∗ un multiplicateur de Lagrange pour lequel la
condition d’optimalité de (3.94) est vérifiée. On suppose que la condition suffisante
d’optimalité d’ordre 2 est satisfaite en v ∗ , à savoir
(J 00 (v ∗ ) + λ∗ · F 00 (v ∗ )) (w, w) > 0 ∀ w ∈ K(v ∗ ) = KerF 0 (v ∗ ), w 6= 0. (3.99)
Alors, il existe µ0 > 0 tel que, pour tout µ ≥ µ0 , v ∗ est un point de minimum local
de v 7→ Laug (v, λ∗ , µ) (sans contrainte).
Remarque 3.4.10 L’intérêt du Lemme 3.4.9 est de montrer que, si l’on connait la
valeur du multiplicateur de Lagrange optimal, alors la minimisation, sans contrainte
et avec une pénalisation finie de la contrainte, du Lagrangien augmenté conduit à
une solution du problème d’origine (3.94). Cela justifie, en quelque sorte, le fait qu’il
n’est pas nécessaire de faire tendre vers l’infini le coefficient de pénalisation µ pour
que l’algorithme du Lagrangien augmenté converge, du moins si on a une bonne
estimation du multiplicateur de Lagrange. •
Démonstration. Si v ∗ un point de minimum local de (3.94) et que les contraintes
sont qualifiées, alors la condition d’optimalité du premier ordre du Théorème 2.5.6
donne
J 0 (v ∗ ) + λ∗ · F 0 (v ∗ ) = 0 et F (v ∗ ) = 0,
ce qui implique que L0aug (v ∗ , λ∗ , µ) = 0 (ici et dans toute la suite de cette preuve le
signe 0 indique une dérivée en v). Calculons la dérivée seconde en v du Lagrangien
augmenté
L00aug (v ∗ , λ∗ , µ)(w, w) = L00 (v ∗ , λ∗ )(w, w) + µkF 0 (v ∗ )wk2 , (3.100)
avec
L00 (v ∗ , λ∗ )(w, w) = J 00 (v ∗ )(w, w) + λ∗ · F 00 (v ∗ )(w, w)
et où il n’y a pas de dérivée seconde dans le terme de pénalisation car F (v ∗ ) = 0.
L’hypothèse (3.99) montre que le premier terme à droite dans (3.100) est une forme
quadratique définie positive sur KerF 0 (v ∗ ), tandis que le second terme est une forme
quadratique définie positive sur le sous-espace de dimension M engendré par les
colonnes de F 0 (v ∗ ) (qui est aussi l’orthogonal de KerF 0 (v ∗ )). Notons que sur ce sous-
espace de dimension finie L00aug (v ∗ , λ∗ , µ)(w, w) peut prendre des valeurs négatives
mais qu’on peut les minorer par −µ0 kwk2 où −µ0 est la plus petite valeur propre
de la matrice M × M qui représente cette forme quadratique sur ce sous-espace. Il
suffit alors de choisir µ > µ0 pour que la somme des deux termes soit strictement
positif pour w 6= 0. Au total, la dérivée seconde du Lagrangien augmenté est définie
positive en v ∗ qui est un point critique. C’est donc un point de minimum local. 2
3.5 Méthodes d’approximations successives

Considérons un problème général d’optimisation sous contraintes d’égalité
inf J(v), (3.101)

F (v)=0
où J(v) et (F1 (v), ..., FM (v)) = F (v) sont des fonctions régulières de RN dans R.
Les remarques qui suivent s’appliquent de la même manière aux problèmes avec
contraintes d’inégalité, moyennant des modifications évidentes.
Si l’application directe des algorithmes d’optimisation proposés dans ce chapitre
est trop compliquée ou coûteuse pour (3.101), une stratégie courante consiste à rem-
placer ce dernier par une succession de problèmes approchés, obtenus, par exemple,
par développement de Taylor des fonctions J et F autour de la solution approchée
précédente. L’idée sous-jacente est qu’il est plus facile de résoudre le problème appro-
ché que le problème exact. Ces approximations n’ayant en général qu’un caractère
local, il faut itérer cette stratégie en faisant un nouveau développement de Taylor
au point de minimum obtenu sur le précédent problème approché.
Une méthode d’approximation successive peut donc se présenter comme suit.
Etant donnée une initialisation v 0 ∈ V = RN , on construit une suite de solutions
approchées v n ∈ V , n ≥ 1, où v n est le point de minimum du problème
inf Jn−1 (v), (3.102)

Fn−1 (v)=0
où Fn−1 et Jn−1 sont des approximations de F et J, respectivement, au voisinage de

la solution précédente v n−1 . Evidemment, il faut choisir Fn−1 et Jn−1 , non seulement
3.5. MÉTHODES D’APPROXIMATIONS SUCCESSIVES 111
pour que (3.102) admette une solution unique v n , mais aussi pour que le calcul de
v n soit facile.
Expliquons le principe de cette méthode dans un cas très simple, en l’absence
de contraintes d’égalité, c’est-à-dire F ≡ 0. On choisit Fn−1 ≡ 0 et
1
Jn−1 (v) = J(v n−1 ) + J 0 (v n−1 ) · (v − v n−1 ) + kv − v n−1 k2 , (3.103)
2µ
avec un paramètre µ > 0. Notons que les fonctions J et Jn−1 sont tangentes en v n−1
et donc que Jn−1 est bien une approximation de J en ce point.
Lemme 3.5.1 Soit J une fonction différentiable de V dans R et F ≡ 0. Alors la

méthode des approximations successives avec le choix (3.103) n’est rien d’autre que
l’algorithme du gradient à pas fixe µ.
Démonstration. Tout d’abord, la formule (3.103) est une approximation de Taylor

au premier ordre de la fonction objectif J au point v n−1 à laquelle on a ajouté un
terme quadratique de manière à ce que Jn−1 soit une fonction fortement convexe qui
admet donc un unique point de minimum v n . On écrit alors la condition d’optimalité
0
nécessaire et suffisante, Jn−1 (v n ) = 0, qui donne
1 n
J 0 (v n−1 ) + (v − v n−1 ) = 0,
µ
ce qui est précisément la formule (3.8) de l’algorithme du gradient à pas fixe. 2

Evidemment le Lemme 3.5.1 n’apporte rien de concret à l’algorithme du gradient
à pas fixe mais il donne un point de vue nouveau qui permet des généralisations dont
nous présentons deux exemples dans ce qui suit.
3.5.1 Programmation linéaire séquentielle

La première méthode, dite de programmation linéaire successive (ou sé-
quentielle), consiste à remplacer les fonctions J et F par des approximations affines
(cette méthode est connue aussi sous l’acronyme SLP pour l’anglais “sequential linear
programming”). Etant donné une initialisation v 0 ∈ RN (ne vérifiant pas nécessai-
rement la contrainte F (v) = 0), on calcule une suite de solutions approchées v n ,
n ≥ 1, définies comme les solutions de
n o
n−1 0 n−1 n−1
n−1
inf
0 n−1 n−1
J(v ) + J (v ) · (v − v ) , (3.104)
F (v )+F (v )·(v−v )=0
qui n’est rien d’autre qu’un programme linéaire, comme étudié dans la Section 4.2 et
pour lequel on dispose d’algorithmes extrêmement efficaces. Une difficulté immédiate
dans la résolution de (3.104) est que sa valeur minimum peut être −∞ et qu’il n’y a
pas de solution optimale. Notons que, sous une condition de qualification standard,
(F10 (v n−1 ), ..., FM
0
(v n−1 )) famille libre de RN , l’ensemble admissible de (3.104) n’est
pas vide. C’est pourquoi, en pratique, cette méthode s’accompagne d’une contrainte
supplémentaire, dite de région de confiance, qui prend la forme
kv − v n−1 k ≤ δ, (3.105)
où δ > 0 est un paramètre qui définit la taille du voisinage de v n−1 dans lequel
(3.104) est une bonne approximation de (3.101). La norme Pdans (3.105) peut être
N
soit la norme kvk∞ = max1≤i≤N |vi |, soit la norme kvk1 = i=1 |vi |, ce qui dans les
deux cas préserve le fait que le problème approché est un programme linéaire. Ce
dernier a alors nécessairement au moins une solution optimale puisque l’ensemble
admissible est désormais borné.
3.5.2 Programmation quadratique séquentielle

Une deuxième méthode, dite de programmation quadratique séquentielle,
consiste à remplacer la fonction J par une approximation quadratique et F par
une approximation affine (cette méthode est connue aussi sous l’acronyme SQP
pour l’anglais “sequential quadratic programming”). Etant donné une initialisation
v 0 ∈ RN (ne vérifiant pas nécessairement la contrainte F (v) = 0), on calcule une
suite de solutions approchées v n , n ≥ 1, définies comme les solutions de
n
n−1 0 n−1 n−1 1 n−1 n−1 n−1
o
inf J(v )+J (v )·(v−v )+ Q (v−v )·(v−v ) ,
F (v n−1 )+F 0 (v
n−1 )·(v−v n−1 )=0 2
(3.106)
n−1 n−1
où Q est une matrice symétrique de taille N . Si Q est définie positive, alors
on sait résoudre explicitement le problème (3.106) (voir l’Exercice 2.5.10). Le point
crucial dans cette méthode SQP est que Qn−1 n’est pas la Hessienne de la fonction
objectif J 00 (v n−1 ) mais est la Hessienne du Lagrangien
Qn−1 = J 00 (v n−1 ) + λn−1 · F 00 (v n−1 ),
où λn−1 est le multiplicateur de Lagrange dans la condition d’optimalité pour v n−1

(solution à l’itération précédente). En effet, ce qui importe n’est pas l’approximation
de J par son développement de Taylor à l’ordre 2 dans tout RN mais seulement sur
la variété définit par la contrainte F (v) = 0. Concrètement, on écrit
1
J(v) ≈ J(v n−1 ) + J 0 (v n−1 ) · (v − v n−1 ) + J 00 (v n−1 )(v − v n−1 ) · (v − v n−1 ) (3.107)
2
et
1
0 = F (v) ≈ F (v n−1 )+F 0 (v n−1 )·(v−v n−1 )+ F 00 (v n−1 )(v−v n−1 )·(v−v n−1 ), (3.108)
2
puis on multiplie (3.108) par le multiplicateur de Lagrange λn−1 et on somme le
résultat à (3.107), ce qui donne exactement la fonction objectif de (3.106) (à une
constante près, en utilisant la contrainte linéaire). La Proposition 2.5.13 (condition
d’optimalité du 2ème ordre) montre que la matrice Qn−1 est positive si v n−1 est
3.6. MODÉLISATION, STRUCTURES ET ALGORITHMES SPÉCIFIQUES 113
le point de minimum de (3.101), ce qui entraine que (3.106) admet au moins une
solution optimale. Par contre, la matrice J 00 (v n−1 ) n’a aucune raison d’être positive
en général. Néanmoins, si v n−1 n’est pas un point de minimum, il peut être nécessaire
de recourir à nouveau à une contrainte de région de confiance du type de (3.105).
Pour plus de détails nous renvoyons à [26].
3.6 Modélisation, structures et algorithmes spéci-

fiques
Nous terminons ce chapitre en évoquant quelques cas particuliers où se mêlent
des questions de modélisation et d’algorithmique. Nous n’avons presque rien dit de
la modélisation et pourtant il s’agit d’un aspect pratique très important en opti-
misation. Un problème d’optimisation n’est pas toujours présenté sous une forme
mathématique claire et le praticien doit lui-même mettre en forme la question d’op-
timisation à laquelle il doit répondre. Comme toujours en modélisation, il s’agit de
faire un compromis entre un modèle très précis et réaliste, mais intractable du point
de vue algorithmique, et un modèle simplifié mais facilement optimisable en pratique.
Dans cette étape de modélisation il est essentiel de faire émerger une structure du
problème qui permette une mise en oeuvre efficace des algorithmes d’optimisation.
Nous avons déjà vu des exemples de structures particulières qui autorisent des algo-
rithmes efficaces (par exemple, un problème linéaire se traite avec l’algorithme du
simplexe, voir le Chapitre 4) et nous allons voir ici trois cas particuliers où l’on peut
concevoir des méthodes qui tirent parti de la structure du problème pour résoudre
efficacement leur optimisation. Bien sûr, nous ne sommes pas exhaustifs et nous ne
voulons pas non plus donner l’impression de faire une liste de "recettes" : notre
but est juste de montrer qu’il faut parfois un peu de réflexion avant de choisir tel
ou tel algorithme plutôt qu’un autre. Dans le même ordre d’idées nous favorisons
l’explication des idées à leur traitement mathématique rigoureux et complet.
3.6.1 Fonctions composées et rétro-propagation du gradient

On considère un problème d’optimisation sans contraintes où la fonction objectif
J est la composée de m fonctions Ji
inf J(v) = Jm ◦ Jm−1 ◦ · · · ◦ J1 (v), (3.109)

v∈RN
où chaque fonction Ji (vi ), 1 ≤ i ≤ m, est définie de RNi dans RNi+1 , avec N1 = N et

Nm+1 = 1 de sorte que J est une fonction de RN dans R. On suppose que chacune
des fonctions Ji est différentiable. On se propose d’appliquer l’algorithme de gradient
à pas fixe pour minimiser (3.109). Il faut donc calculer le gradient de la fonction
composée J de façon efficace d’un point de vue numérique.
Cette structure particulière de fonction composée apparait dans au moins deux
classes de problèmes importants en pratique. En premier lieu c’est une situation
qu’on rencontre en apprentissage machine ou en intelligence artificielle lorsqu’on
utilise des réseaux de neurones profonds. Chaque couche du réseau de neurones

correspond à une fonction Ji . Dans la phase d’entrainement du réseau on résout
le problème (3.109) où l’on optimise les coefficients des fonctions de transfert. Par
souci de simplicité, on a supposé dans (3.109) que seuls les coefficients de la première
couche sont optimisables. Bien entendu, on peut facilement généraliser à l’optimi-
sation des coefficients de toutes les couches du réseau mais les notations deviennent
plus lourdes et cachent la simplicité de l’idée que nous allons présenter. En second
lieu, la fonction composée J(v) est un modèle d’un programme informatique qui
permet de calculer une quantité d’intérêt à l’aide de m sous-programmes qui s’en-
chainent comme la composition des m fonctions Ji . La différentiation automatique
est une discipline, à cheval entre mathématiques et informatique, qui se donne pour
but d’analyser le programme correspondant à J(v) et de produire un autre pro-
gramme qui fournit automatiquement le gradient J 0 (v). Evidemment l’intérêt de
cette approche est de pouvoir ensuite appliquer des algorithmes d’optimisation à la
fonction J dont on n’a pas une expression analytique mais seulement un programme
de calcul.
Rappelons le théorème de dérivation composée dans ce cas précis.
Lemme 3.6.1 On note vi = Ji−1 ◦ · · · ◦ J1 (v) pour 1 ≤ i ≤ m (avec la convention

v1 = v). La fonction J(v) = Jm ◦ Jm−1 ◦ · · · ◦ J1 (v) est différentiable au sens de
Fréchet en tout v ∈ RN et vérifie pour tout h ∈ RN
0 0
(vm−1 ) · · · J10 (v1 )h + o(h),

J(v + h) = J(v) + Jm (vm ) · Jm−1 (3.110)
où Ji0 (vi ) est une matrice Ni+1 × Ni , pour 1 ≤ i ≤ m − 1, et Jm
0
(vm ) est un vecteur
Nm
dans R .
0
Remarque 3.6.2 Dans la formule (3.110) l’écriture Jm−1 (vm−1 ) · · · J10 (v1 ) corres-
pond à la multiplication des matrices successives. On aurait pu écrire le résultat du
Lemme 3.6.1 de manière plus classique sous la forme
J 0 (v) = (Jm ◦ Jm−1 ◦ · · · ◦ J1 )0 (v) = Jm
0 0
(vm )Jm−1 (vm−1 ) · · · J10 (v1 ),
mais cela cache le fait, crucial pour la suite, que la dernière fonction Jm est à valeurs
réelles, c’est-à-dire que son gradient est un vecteur. Notons que nous commettons
0
un abus de notation car Jm (vm ) est un vecteur ligne dans l’équation ci-dessus alors
que c’est un vecteur colonne dans le Lemme 3.6.1. •
Démonstration. Commençons par prouver le résultat dans le cas m = 2. Pour
v ∈ RN et v2 ∈ RN2 , la différentiabilité de J1 et J2 s’écrit
J1 (v + h) = J1 (v) + J10 (v)h + o(h)

pour tout h ∈ RN ,
J2 (v2 + h2 ) = J2 (v2 ) + J20 (v2 ) · h2 + o(h2 ) pour tout h2 ∈ RN2 ,
où J10 (v) est une matrice N2 × N et J20 (v2 ) est un vecteur de RN2 puisque J2 est une
fonction de RN2 dans R. En posant v2 = J1 (v), h2 = J10 (v)h + o(h) et en composant
les deux dérivées on obtient
J2 ◦ J1 (v + h) = J2 ◦ J1 (v) + J20 ◦ J1 (v) · J10 (v)h + o(h) pour tout h ∈ RN .
Une simple récurrence permet d’obtenir le résultat pour tout m. 2
Analysons la formule (3.110). Si l’on souhaite calculer la dérivée directionnelle

de J dans une direction h donnée, alors cette formule est tout à fait convenable. On
calcule J 0 (v) · h dans le même ordre que l’on calcule J(v), c’est-à-dire dans l’ordre
croissant des indices i : on calcule d’abord h1 = J10 (v1 )h, puis h2 = J20 (v2 )h1 , et
ainsi de suite hi = Ji0 (vi )hi−1 , jusqu’à hm = Jm 0
(vm ) · hm−1 qui donne la dérivée
0
directionnelle J (v) · h = hm . Néanmoins, pour appliquer un algorithme de gradient,
il faut connaitre le gradient complet, c’est-à-dire calculer toutes ses composantes qui
sont les dérivées directionnelles suivant les vecteurs (ei )1≤i≤N de la base canonique
de RN . Autrement dit, il faut appliquer N fois la formule (3.110), avec h = ei , pour
obtenir le gradient de J, ce qui est très inefficace.
L’algorithme de rétro-propagation du gradient se propose de calculer le
gradient J 0 (v), à moindre coût, l’aide d’une autre formule. Pour l’obtenir, on uti-
lise le produit scalaire introduit dans (3.110) et on passe les matrices gradients de
l’autre coté du produit scalaire en prenant leur adjoint et en inversant leur ordre de
multiplication, ce qui conduit à
0 0
(vm−1 ) · · · J10 (v1 )h = J10 (v1 )∗ J20 (v3 )∗ · · · Jm−1
0
(vm−1 )∗ Jm
0

Jm (vm ) · Jm−1 (vm ) · h,
où l’on rappelle que l’exposant ∗ désigne la matrice adjointe ou transposée. Autre-

ment dit, on vient de trouver une formule explicite du gradient
J 0 (v) = J10 (v1 )∗ J20 (v3 )∗ · · · Jm−1

0
(vm−1 )∗ Jm
0
(vm ). (3.111)
L’algorithme de rétro-propagation du gradient est donc l’algorithme du gradient à

pas fixe où l’on utilise le gradient calculé par la formule (3.111). Son nom vient de
ce qu’à l’inverse du calcul de J(v) qui procède par composition des Ji dans l’ordre
croissant des indices, ici on part du dernier gradient que l’on multiplie successivement
par les gradients transposés dans l’ordre décroissant des indices. Le fait que cela soit
les matrices adjointes des gradients qui jouent un rôle lui donne aussi le nom de
méthode adjointe (au moins dans le domaine de la différentiation automatique).
L’intérêt de cet algorithme est que le calcul de la direction de descente (3.111) est
de la même complexité que le calcul d’une seule dérivée directionnelle de J, donc
très économe en temps de calcul.
Exercice 3.6.1 P Montrer que pour calculer la dérivée directionnelle J 0 (v) · h la formule
(3.110) nécessite m i=1 Ni Ni+1 multiplications, tandis que pour calculer le gradient com-
plet J 0 (v) la formule (3.111) nécessite exactement le même nombre de multiplications.
3.6.2 Optimisation sous contrainte de modèle et état adjoint

On considère maintenant une classe de problèmes d’optimisation où la variable
d’optimisation est une combinaison de deux variables : v ∈ RN la variable des
paramètres de conception ou de contrôle d’un système et y ∈ V la variable d’état
décrivant ce système, avec un espace de Hilbert V . En fait, v et y sont reliés par une
contrainte d’égalité, F (v, y) = 0, qui s’interprète en disant que l’état y du système
est déterminé par les paramètres v. Cette contrainte d’égalité est typiquement un
modèle qui permet de calculer y en fonction de v. Par exemple, y est la solution
d’une équation différentielle où v est un paramètre (un coefficient, un terme source,
etc.). Nous rencontrerons cette situation en théorie du contrôle optimal. En tout
état de cause, il faut comprendre que la résolution du modèle pour trouver y en
fonction de v est une opération non explicite et coûteuse.
Etant donné une fonction objectif J(v, y), différentiable de RN × V dans R, et
une fonction contrainte F (v, y), différentiable de RN × V dans V , on considère le
problème d’optimisation
inf J(v, y). (3.112)

v∈RN , y∈V tel que F (v,y)=0
Bien sûr, il est possible d’avoir d’autres contraintes mais nous nous concentrons ici
sur la contrainte de modèle qui relie y à v. Nous faisons l’hypothèse suivante sur ce
modèle.
Hypothèse (H). Pour tout v ∈ RN , il existe une unique solution y(v) ∈ V de
la contrainte F (v, y) = 0, cette solution v 7→ y(v) est différentiable de RN dans V
et l’opérateur linéarisé z 7→ ∂F
∂y
(v, y(v))(z) est continu, inversible de V dans V et
d’inverse continu de V dans V .
Sous cette hypothèse, le problème (3.112) est équivalent au problème sans
contrainte
inf J(v)
e = J(v, y(v)). (3.113)
v∈RN
Il est conceptuellement facile de mettre en oeuvre un algorithme de gradient pour

résoudre (3.113) mais nous allons voir que c’est une approche très inefficace dès que
la dimension N est grande.
Lemme 3.6.3 Sous l’hypothèse (H) la fonction Je est différentiable sur RN et, pour
tout h ∈ RN , on a

0 ∂J ∂J 0
J (v) · h =
e (v, y(v)) · h + (v, y(v)) , y (v) · h ,
∂v ∂y
où h, i désigne le produit scalaire de V et y 0 (v) · h est la dérivée de v 7→ y(v) dans la

direction h qui vérifie
∂F ∂F
(v, y(v))(y 0 (v) · h) = − (v, y(v)) · h. (3.114)
∂y ∂v
Démonstration. C’est une simple application du théorème de dérivation composée
où l’on doit juste noter que y 0 (v) · h et ∂F
∂v
(v, y(v)) · h appartiennent à V . Le système
linéarisé (3.114) admet alors une solution unique y 0 (v) · h grâce à l’hypothèse (H). 2
Remarque 3.6.4 Pour bien comprendre la portée du Lemme 3.6.3 et de l’hypothèse

(H), on considère l’exemple suivant : V = RM et F (v, y) = Ay − b(v) où A est une
matrice inversible M × M et b(v) est une fonction régulière de RN dans RM . Dans ce
cas ∂F
∂y
(v, y(v)) = A et l’hypothèse (H) est vérifiée car A est inversible et (3.114) est
un simple système linéaire. Cet exemple est tout à fait représentatif car il correspond,
par exemple, à la discrétisation d’une équation différentielle linéaire dont la solution
y dépend d’une variable de contrôle v. La difficulté avec le Lemme 3.6.3 est qu’il
ne donne pas une formule pour le gradient Je0 (v) mais seulement pour la dérivée
directionnelle dans la direction h. Pour obtenir le gradient il faut calculer chacune
de ses composantes en résolvant (3.114) pour h successivement égal à chacun des
vecteurs ei de la base canonique de RN , ce qui revient à résoudre N fois ce système
linéaire, opération trop coûteuse dans de nombreux cas pratiques où M et N sont
grands. •
Pour dépasser la difficulté mentionnée ci-dessus et trouver une formule explicite,

et économique, du gradient Je0 (v) nous allons introduire la notion d’état adjoint
qui est en fait un multiplicateur de Lagrange pour la contrainte F (v, y) = 0. Pour
tout (v, y, p) ∈ RN × V × V on définit le Lagrangien
L(v, y, p) = J(v, y) + hp, F (v, y)i.
Le Lagrangien est affine en p et sa dérivée partielle par rapport à p n’est rien d’autre
que la contrainte F (v, y). Cela motive l’étude d’une autre dérivée partielle du La-
grangien, celle par rapport à y, qui vaut, pour tout z ∈ V ,
∂L ∂J ∂F
h (v, y, p), zi = h (v, y), zi + hp, (v, y)(z)i. (3.115)
∂y ∂y ∂y
Lemme 3.6.5 Le problème adjoint est défini par : trouver p ∈ V solution de
∗
∂F ∂J
(v, y(v)) p = − (v, y(v)). (3.116)
∂y ∂y
Sous l’hypothèse (H), ce problème admet une unique solution p ≡ p(v) ∈ V , appelé
état adjoint. Autrement dit, l’état adjoint est l’unique p(v) ∈ V tel que
∂L
h (v, y(v), p(v)), zi = 0 pour tout z ∈ V.
∂y
∂F
Démonstration. Comme ∂y
(v, y(v))
est un opérateur linéaire continu de V dans
∗
∂F
V , il admet un adjoint, noté ∂y (v, y(v)) . D’après l’hypothèse (H) il est de plus
inversible d’inverse continu, et c’est vrai aussi pour son adjoint. Puisque J est diffé-
rentiable, le second membre de (3.116) appartient à V et on en déduit donc l’exis-
tence et l’unicité de l’état adjoint p(v) solution de (3.116). On remplace alors y par
y(v) et p par p(v) dans (3.115) pour obtenir que la dérivée partielle du Lagrangien
par rapport à y s’annule au point (v, y(y), p(v)). 2
Proposition 3.6.6 Sous l’hypothèse (H) la fonction Je est différentiable sur RN et

on a
∂J ∂F
Je0 (v) = (v, y(v)) + hp(v), (v, y(v))i, (3.117)
∂v ∂v
où p(v) ∈ V est l’état adjoint.
Remarque 3.6.7 La Proposition 3.6.6 est une amélioration considérable du Lemme

3.6.3 dès que le nombre de variables N est grand. En effet, la formule (3.117) donne
le gradient complet de Je au prix d’un seul calcul supplémentaire, celui de l’état
adjoint p(v). Au contraire, le Lemme 3.6.3 ne donnait qu’une dérivée directionnelle
et il fallait résoudre N problèmes linéaires (3.114) (de même complexité que le
problème adjoint) pour obtenir le gradient complet. Pour continuer sur l’exemple de
la Remarque 3.6.5, où V = RM et F (v, y) = Ay − b(v) avec A une matrice inversible
M ×M , le problème adjoint est un simple système linéaire à résoudre avec la matrice
adjointe A∗ . •
Démonstration. La contrainte étant satisfaite en y(v), pour tout p ∈ V , on a
e = L(v, y(v), p).
J(v)
On dérive cette égalité par rapport à v pour obtenir

∂L ∂L
Je0 (v) · h = (v, y(v), p) · h + h (v, y(v), p), (y 0 (v) · h)i.
∂v ∂y
On remplace alors p par l’état adjoint p(v) dont la définition est précisément que
h ∂L
∂y
(v, y(v), p(v)), zi = 0 pour tout z ∈ V . Par conséquent, on en déduit
∂L
Je0 (v) · h = (v, y(v), p(v)) · h,
∂v
ce qui donne la formule (3.117). 2
3.6.3 Décomposition-coordination
On considère un problème d’optimisation sous contraintes d’égalité
inf J(v), (3.118)

v∈RN , F (v)=F0
où J est une fonction de RN dans R, F est une fonction de RN dans RM et F0 ∈ RM

est un niveau de contrainte donné. On suppose que le problème est décomposable,
c’est-à-dire
Pn qu’il existe une partition de la variable v = (v1 , ..., vn ), avec vi ∈ Rni et
i=1 ni = N , et des fonctions objectifs et contraintes
n
X n
X
J(v) = Ji (vi ) et F (v) = Fi (vi ),
i=1 i=1
de telle façon que le problème (3.118) est en fait équivalent à

n
X N
X
inf Ji (vi ) sous la contrainte Fi (vi ) = F0 . (3.119)
vi ∈Rni
i=1 i=1
De nombreux problèmes pratiques peuvent se mettre sous cette forme et, pour fixer
les idées, nous allons considérer le cas de l’optimisation du fonctionnement d’une
entreprise composée de n divisions ou unités qui ont chacune leur propre variable
de décision vi et qui doivent minimiser leur coût de fonctionnement Ji (vi ) avec
leur contrainte de production Fi (vi ), indépendants de celui des autres unités j 6= i,
mais en partageant le niveau global de contraintes imposées, comme un budget, des
ressources humaines ou des niveaux de production qui sont agrégées au niveau de
l’entreprise entière.
Si on note p le multiplicateur de Lagrange associé à la contrainte F (v) = F0 ,
pour p ∈ RM et v ∈ RN , on introduit le Lagrangien
n
X
L(v, p) = J(v) + p · (F (v) − F0 ) = (Ji (yi ) + p · Fi (v)) − p · F0 .
i=1
L’algorithme d’Uzawa (3.77) appliqué au problème (3.118) consiste, pour une initia-
lisation p0 ∈ RM , à construire les suites (uk ) et (pk ) déterminées par les itérations,
pour k ≥ 0,
L(uk , pk ) = inf L(v, pk ) ,
v∈RN
(3.120)
k+1 k k
p = p + µ(F (u ) − F0 ) ,
où µ > 0 est un pas positif fixé. L’hypothèse de décomposition des fonctions J et
F rend en fait la minimisation du Lagrangien, à p fixé, particulièrement facile car il
suffit de construire uk = (uk1 , ..., ukn ), où chaque composante uki est la solution d’un
problème de minimisation
Ji (uki ) + pk · Fi (uki ) = infn Ji (vi ) + pk · Fi (vi ) .

(3.121)
vi ∈R i
Chacun des problèmes (3.121) est de plus petite taille que (3.118) et indépendant
des autres composantes j 6= i du problème. Dans ce contexte, l’algorithme d’Uzawa
est appelé algorithme de décomposition par les prix.
Une interprétation usuelle de cet algorithme est la suivante. Supposons, pour
simplifier, que les fonctions Ji et Fi sont positives : elles correspondent au coût
de production et au niveau de production, respectivement, de l’unité i. A chaque
itération k, un organe central de l’entreprise fixe un prix −pk pour la valeur de
la production (le vecteur pk a toutes ses composantes négatives). Du coup, chaque
unité veut maximiser son gain, c’est-à-dire minimiser son coût moins ses revenus
correspondant au prix −pk de ce qu’elle produit. Autrement dit, chaque unité résout
le problème (3.121) sans se soucier des autres unités. A la fin de l’iteration k, la
direction de l’entreprise regarde si elle a atteint le niveau de production souhaité F0 .
Si c’est le cas, la procédure a convergé. Sinon, on corrige les prix en les augmentant
si le niveau de production est trop bas, F (uk ) < F0 , ou en les diminuant si la
production est trop forte, F (uk ) > F0 (on rappelle que le prix est −pk ).
Remarque 3.6.8 Nous ne disons rien de la convergence de cet algorithme de dé-

composition par les prix et nous renvoyons à des ouvrages plus spécialisés, comme
[10]. Néanmoins, si les contraintes Fi (vi ) sont affines et si les fonctions coûts Ji (vi )
sont fortement convexes, alors le Théorème 3.4.3 affirme que l’algorithme d’Uzawa
converge, c’est-à-dire que l’algorithme de décomposition par les prix converge dans
ce cas particulier. On suppose ici que F (v) est affine, ce qui permet de remplacer la
contrainte d’égalité par deux contraintes (opposées) d’inégalité, qui sont toutes les
deux convexes. •
Une autre approche de décomposition applicable au problème (3.119) est la dé-
composition par les quantités. Expliquons-en le principe en reprenant l’exemple
de l’entreprise composée de n unités. Il s’agit toujours d’un algorithme itératif et à
chaque itération k la direction de l’entreprise confie à chaque unité i le soin de pro-
duire une quantité Fik ∈ RM , en ayant pris soin de choisir ses quantités qui vérifient
la contrainte globale
Xn
Fik = F0 .
i=1
Chaque unité doit donc résoudre un problème d’optimisation sous contrainte
inf Ji (vi ), (3.122)
vi ∈Rni , Fi (vi )=Fik
dont on suppose qu’il admet une solution unique uki ∈ Rni . On suppose aussi qu’il
existe un unique multiplicateur de Lagrange pki ∈ RM pour la contrainte dans
(3.122). On note Gi (Fik ) la valeur du minimum dans (3.122), qui dépend du ni-
veau de contraintes Fik ∈ RM . On sait par le Lemme 2.5.12 que, si la fonction Gi
est différentiable, alors on a
pki = −∇Gi (Fik ).
Autrement dit, la sensibilité de la valeur du minimum par rapport au niveau de
contraintes est égale à l’opposé du multiplicateur de Lagrange (qui s’interprète clas-
siquement comme l’opposé d’un prix marginal). Ainsi, si deux unités i 6= j ont
des multiplicateurs de Lagrange différents pki 6= pkj , alors la direction de l’entreprise
peut changer l’allocation de production à ces deux unités, en Fik − µ(pkj − pki ) et
Fjk + µ(pkj − pki ), pour µ > 0 petit, ce qui conduit à une diminution de la somme des
minima dans (3.122) pour i et j qui vaut au premier ordre −µ|pkj − pki |2 < 0. On
en conclut que tant que les multiplicateurs de Lagrange des unités sont différents,
l’entreprise peut améliorer son minimum en changeant l’allocation des quantités à
produire. Concrètement, pour Ppasser à l’itération (k + 1), la direction de l’entreprise
forme le prix moyen pk+1 = ni=1 pki /n et propose la nouvelle allocation
Fik+1 = Fik + µ(pki − pk+1 ).
On vérifie aisément que la contrainte globale ni=1 Fik+1 = F0 est toujours vérifiée
P
et que, pour µ > 0 petit, le gain dans le minimum de (3.119) est égal au premier
ordre à n
X
−µ |pki − pk+1 |2 .
i=1
On améliore donc systématiquement le minimum avec cette méthode de décompo-
sition par les quantités qui, par ailleurs, vérifie toujours la contrainte F (uk ) = F0
au cours des itérations, contrairement à la méthode de décomposition par les prix
(voir [10] pour plus de détails).
Chapitre 4
PROGRAMMATION LINÉAIRE
4.1 Introduction
Ce chapitre est consacré à la programmation linéaire qui permet de résoudre
efficacement les problèmes d’optimisation où les contraintes et le critère s’expriment
linéairement en fonction des variables (voir l’Exemple 1.2.1). Ce type de problème est
extrêmement fréquent dans le domaine de la recherche opérationnelle (ou plus
simplement RO). La RO est l’ensemble des méthodes scientifiques qui permettent de
modéliser et analyser des situations complexes afin de prendre des décisions, sinon
optimales, du moins les plus efficaces possibles. C’est un domaine au carrefour des
mathématiques, de l’informatique et de l’ingénierie (au sens très large) où le mot
“opérationnel” fait référence à la planification des opérations militaires car la RO
est née pendant la seconde guerre mondiale. Depuis elle s’est très largement civilisée
et elle est employée dans de très nombreuses applications pour l’industrie et les
services, en économie et sciences de la gestion
La RO ne se limite pas du tout à la programmation linéaire et, bien au contraire,
utilise des outils très divers, issus de plusieurs champs scientifiques : optimisa-
tion (continue et combinatoire), probabilités (algorithmes stochastiques), théorie
des jeux, mathématiques discrètes, théorie des graphes, théorie de la complexité
(informatique), et programmation par contraintes. Nous n’étudierons pas tous ces
aspects de la RO, pas plus que nous ne toucherons aux questions de modélisation
ou à la conception d’“heuristiques", lorsque des méthodes rigoureuses font défaut,
ce qui représente souvent une part importante de la pratique en RO... Nous nous
contentons ici de donner un éclairage très partiel sur les apports de l’optimisation,
à travers la programmation linéaire, dans ce vaste domaine. Pour une introduction
à la partie mathématisée de la RO nous renvoyons le lecteur vers l’ouvrage [5], issu
d’un cours de troisième année à l’Ecole Polytechnique, ou bien vers [27].
La Section 4.2 est une présentation classique de la programmation linéaire. Au
delà des (nombreux) cas où le modèle d’optimisation (fonction objectif et contraintes)
est linéaire, rappelons que la programmation linéaire est aussi une brique de base
dans de nombreux algorithmes d’optimisation qui linéarisent les problèmes à ré-
soudre. La Section 4.3 est plus spécifique à la RO car elle étudie quelques exemples
où l’on recherche des solutions à valeurs entières, et non pas seulement réelles, de
121
122 CHAPITRE 4. PROGRAMMATION LINÉAIRE
programmes linéaires. Lorsqu’on impose cette contrainte additionnelle (et très forte)
de solutions entières, on parle alors de programmation linéaire en nombres entiers,
voire d’optimisation combinatoire car il serait possible en théorie, mais illusoire en
pratique, d’énumérer tous les candidats possibles pour trouver la solution optimale.
Là aussi nous ne ferons qu’effleurer cette vaste question et nous renvoyons à [5] pour
plus de détails.
4.2 Programmation linéaire

4.2.1 Définitions et propriétés
On veut résoudre le problème suivant, dit programme linéaire sous forme
standard,
inf c · x, (4.1)
x∈Rn tel que Ax=b, x≥0
où A est une matrice de taille m × n, b ∈ Rm , c ∈ Rn , et la contrainte x ≥ 0 signifie

que toutes les composantes de x sont positives ou nulles. Dans tout ce qui suit on
supposera que m ≤ n et que le rang de A est exactement m. En effet, si rg(A) < m,
certaines lignes de A sont liées et deux possibilités se présentent : soit les contraintes
(correspondantes à ces lignes) sont incompatibles, soit elles sont redondantes et on
peut donc éliminer les lignes inutiles.
Le problème (4.1) semble être un cas particulier de programme linéaire puisque
les contraintes d’inégalités sont seulement du type x ≥ 0. Il n’en est rien, et tout
programme linéaire du type
inf c · x.
x∈Rn tel que Ax≥b, A0 x=b0
peut se mettre sous la forme standard (4.1) quitte à changer la taille des données.
En effet, remarquons tout d’abord que les contraintes d’égalité A0 x = b0 sont évi-
demment équivalentes aux contraintes d’inégalité A0 x ≤ b0 et A0 x ≥ b0 . On peut
donc se restreindre au cas suivant (qui ne contient que des contraintes d’inégalité)
inf c · x. (4.2)
x∈Rn tel que Ax≥b
Dans (4.2) on peut remplacer la contrainte d’inégalité en introduisant de nouvelles

variables, dites d’écarts, λ ∈ Rm . La contrainte d’inégalité Ax ≥ b est alors équi-
valente à Ax = b + λ avec λ ≥ 0. Ainsi (4.2) est équivalent à
inf c · x. (4.3)
(x,λ)∈R(n+m) tel que Ax=b+λ, λ≥0
Finalement, si on décompose chaque composante de x en partie positive et négative,

c’est-à-dire si on pose x = x+ − x− avec x+ = max(0, x) et x− = − min(0, x), on
obtient que (4.2) est équivalent à
inf c · (x+ − x− ). (4.4)

(x+ ,x− ,λ)∈R(2n+m) tel que Ax+ −Ax− =b+λ, x+ ≥0,x− ≥0,λ≥0
4.2. PROGRAMMATION LINÉAIRE 123
x3
x2
x1
Figure 4.1 – Ensemble admissible pour l’exemple (4.5).
qui est bien sous forme standard (mais avec plus de variables). Il n’y a donc aucune
perte de généralité à étudier le programme linéaire standard (4.1).
Nous avons déjà donné une motivation concrète de la programmation linéaire au
début du Chapitre 1 (voir l’Exemple 1.2.1). Considérons pour l’instant un exemple
simple qui va nous permettre de comprendre quelques aspects essentiels d’un pro-
gramme linéaire
min x1 + 4x2 + 2x3 . (4.5)
x1 ≥0,x2 ≥0,x3 ≥0
2x1 +x2 +3x3 =6
Sur la Figure 4.1 nous avons tracé l’ensemble des (x1 , x2 , x3 ) qui vérifient les contrain-
tes : c’est un triangle plan T . C’est un fermé compact de R3 , donc la fonction continue
x1 +4x2 +2x3 y atteint son minimum que l’on note M . Pour déterminer ce minimum
on peut considérer la famille de plans parallèles x1 + 4x2 + 2x3 = v paramétrée par
v. En augmentant la valeur de v à partir de −∞, on “balaie” l’espace R3 jusqu’à
atteindre le triangle T , et le minimum M est obtenu lorsque le plan “touche” ce
triangle. Autrement dit, tout point de minimum de (4.5) est sur le bord du triangle
T . Une autre façon de le voir est de dire que la fonction x1 + 4x2 + 2x3 a un gradient
non nul dans T donc ses extréma se trouvent sur le bord de T . Pour l’exemple (4.5)
le point de minimum (unique) est le sommet (3, 0, 0) de T . Nous verrons qu’il s’agit
d’un fait général : un point de minimum (s’il existe) peut toujours se trouver en un
des sommets de l’ensemble géométrique des vecteurs x qui vérifient les contraintes.
Il “suffit” alors d’énumérer tous les sommets afin de trouver le minimum : c’est
précisément ce que fait (de manière intelligente) l’algorithme du simplexe que nous
verrons dans la prochaine sous-section.
Pour établir cette propriété en toute généralité pour le programme linéaire stan-
dard (4.1), nous avons besoin de quelques définitions qui permettent de préciser le
vocabulaire.
Définition 4.2.1 L’ensemble Xad des vecteurs de Rn qui satisfont les contraintes
de (4.1), c’est-à-dire
Xad = {x ∈ Rn tel que Ax = b, x ≥ 0} ,
est appelé ensemble des solutions admissibles. On appelle sommet ou point ex-
trémal de Xad tout point x ∈ Xad qui ne peut pas se décomposer en une combinai-
son convexe (non triviale) de deux autres points de Xad , c’est-à-dire que, s’il existe
y, z ∈ Xad et θ ∈]0, 1[ tels que x = θy + (1 − θ)z, alors y = z = x.
Remarque 4.2.2 Le vocabulaire de l’optimisation est trompeur pour les néophytes.

On appelle solution (admissible) un vecteur qui satisfait les contraintes. Par contre,
un vecteur qui atteint le minimum de (4.1) est appelé solution optimale (ou point
de minimum). •
On vérifie facilement que l’ensemble Xad est, d’une part convexe, d’autre part
un polyèdre (éventuellement vide). Rappelons qu’un polyèdre est une intersection
finie de demi-espaces de Rn . Ses points extrémaux sont donc les sommets de ce
polyèdre. Lorsque Xad est vide, par convention on note que
inf c · x = +∞.
Lemme 4.2.3 Il existe au moins une solution optimale (ou point de minimum) du
programme linéaire standard (4.1) si et seulement si la valeur du minimum est finie
−∞ < inf c · x < +∞.
Démonstration. Soit (xk )k≥1 une suite minimisante de (4.1). On introduit la ma-
trice A définie par ∗
c
A= .
A
La suite Axk appartient au cône suivant
( n )
X
C= xi Ai avec xi ≥ 0 ,
i=1
où les Ai sont les colonnes de la matrice A. D’après le Lemme de Farkas 2.5.19 le

cône C est fermé, ce qui implique que

k z0
lim Ax = ∈ C,
k→+∞ b
donc il existe x ≥ 0 tel que

z0 c·x
= ,
b Ax
et le minimum est atteint en x. 2
Définition 4.2.4 On appelle base associée à (4.1) une base de Rm formée de m

colonnes de A. On note B cette base qui est une sous-matrice de A, carrée d’ordre m
inversible. Après permutation de ses colonnes on peut écrire A sous la forme (B, N )
où N est une matrice de taille m × (n − m). De la même façon on peut décomposer
x en (xB , xN ) de sorte qu’on a
Ax = BxB + N xN .
Les composantes du vecteur xB sont appelées variables de base et celles de xN va-

riables hors base. Une solution basique (ou de base) est un vecteur x ∈ Xad tel
que xN = 0. Si en plus l’une des composantes de xB est nulle, on dit que la solution
basique est dégénérée.
La notion de solution basique correspond à celle de sommet de Xad .
Lemme 4.2.5 Les sommets du polyèdre Xad sont exactement les solutions basiques.
Démonstration. Si x ∈ Xad est une solution basique, dans une certaine base de
Rn on a xP = (x1 , ..., xm , 0, ..., 0), A = (B, N ) avec B = (b1 , ..., bm ), une base de Rm
telle que m i=1 xi bi = b. Supposons qu’il existe 0 < θ < 1 et y, z ∈ Xad tels que
x = θy + (1 − θ)z. Nécessairement, les n − m dernières P composantes P de y et z sont
nulles et, comme y et z appartiennent à Xad , on a m y
i=1 i ib = b et m
i=1 zi bi = b.
Par unicité de la décomposition dans une base, on en déduit que x = y = z, et donc
x est un sommet de Xad .
Réciproquement, si x est un sommet de Xad , on note k le nombre Pk de ses com-
posantes non nulles, et après un éventuel réarrangement on a b = i=1 xi ai où les
(ai ) sont les colonnes de A. Pour montrer que x est une solution basique il suffit
de prouver que la famille (a1 , ..., ak ) est libre dans Rm (on obtient une base B en
Pk cette famille). Supposons que ce ne soit pas le cas : il existe alors y 6= 0
complétant
tel que i=1 yi ai = 0 et (yk+1 , ..., yn ) = 0. Comme les composantes (x1 , ..., xk ) sont
strictement positives, il existe > 0 (petit) tel que (x + y) ∈ Xad et (x − y) ∈ Xad .
Le fait que x = (x + y)/2 + (x − y)/2 contredit le caractère extrémal de x, donc x
est une solution basique. 2
Le résultat fondamental suivant nous dit qu’il est suffisant de chercher une
solution optimale parmi les sommets du polyèdre Xad .
Proposition 4.2.6 S’il existe une solution optimale du programme linéaire stan-
dard (4.1), alors il existe une solution optimale basique.
Démonstration. La démonstration est très similaire à celle du Lemme 4.2.5. Soit

x ∈ Xad une solution optimale de (4.1). On note k le nombre de ses composantes
non nulles, et après un éventuel réarrangement on a
k
X
b= x i ai ,
i=1
où les (ai ) sont les colonnes de A. Si la famille (a1 , ..., ak ) est libre dans Rm , alors x
est une solution optimale basique. Si (a1 , ..., ak ) est lié, alors il existe y 6= 0 tel que
k
X
yi ai = 0 et (yk+1 , ..., yn ) = 0.
i=1
Comme les composantes (x1 , ..., xk ) sont strictement positives, il existe > 0 tel que
(x ± y) ∈ Xad . Comme x est un point de minimum, on a nécessairement
c · x ≤ c · (x ± y),
c’est-à-dire c · y = 0. On définit alors une famille de points z = x + y paramétrée

par . En partant de la valeur = 0, si on augmente ou on diminue on reste dans
l’ensemble Xad jusqu’à une valeur 0 au delà de laquelle la contrainte z ≥ 0 est
violée. Autrement dit, z0 ∈ Xad possède au plus (k − 1) composantes non nulles et
est encore solution optimale. On répète alors l’argument précédent avec x = z0 et
une famille de (k − 1) colonnes (ai ). A force de diminuer la taille de cette famille,
on obtiendra finalement une famille libre et une solution optimale basique. 2
Remarque 4.2.7 En appliquant la Proposition 4.2.6 lorsque c = 0 (toute solution

admissible est alors optimale), on voit grâce au Lemme 4.2.5 que dès que Xad est
non-vide, Xad a au moins un sommet. Cette propriété n’a pas lieu pour des polyèdres
généraux (considérer un demi-plan de R2 ). •
Exercice 4.2.1 Résoudre le programme linéaire suivant
max x1 + 2x2
x1 ≥0,x2 ≥0
sous les contraintes 

 −3x1 + 2x2 ≤ 2,
−x1 + 2x2 ≤ 4,
x1 + x2 ≤ 5.

En pratique le nombre de sommets du polyèdre Xad est gigantesque car il peut

être exponentiel par rapport au nombre de variables. On le vérifie sur un exemple
dans l’exercice suivant.
Exercice 4.2.2 Montrer que l’on peut choisir la matrice A de taille m×n et le vecteur
b ∈ Rm de telle façon que Xad soit le cube unité [0, 1]n−m dans le sous-espace affine de
dimension n − m défini par Ax = b. En déduire que le nombre de sommets de Xad est
alors 2n−m .
4.2.2 Algorithme du simplexe

L’algorithme du simplexe est dû à G. Dantzig dans les années 1940. Il consiste à
parcourir les sommets du polyèdre des solutions admissibles jusqu’à ce qu’on trouve
une solution optimale (ce qui est garanti si le programme linéaire admet effective-
ment une solution optimale). L’algorithme du simplexe ne se contente pas d’énumé-
rer tous les sommets, il décroît la valeur de la fonction c · x en passant d’un sommet
au suivant.
On considère le programme linéaire standard (4.1). Rappelons qu’un sommet
(ou solution basique) de l’ensemble des solutions admissibles Xad est caractérisé par
une base B (m colonnes libres de A). Après permutation de ses colonnes, on peut
écrire
A = (B, N ) et x = (xB , xN ),
de sorte qu’on a Ax = BxB + N xN . Toute solution admissible peut s’écrire xB =
B −1 (b − N xN ) ≥ 0 et xN ≥ 0. Le sommet associé à B est défini (s’il existe) par
xN = 0 et xB = B −1 b ≥ 0. Si on décompose aussi c = (cB , cN ) dans cette base, alors
on peut comparer le coût d’une solution admissible quelconque x avec celui de la
solution basique x
c · x − c · x = cB · B −1 (b − N xN ) + cN · xN − cB · B −1 b = (cN − N ∗ (B −1 )∗ cB ) · xN . (4.6)
On en déduit la condition d’optimalité suivante.
Proposition 4.2.8 Supposons que la solution basique associée à B est non dégéné-
rée, c’est-à-dire que B −1 b > 0. Une condition nécessaire et suffisante pour que cette
solution basique associée à B soit optimale est que
c̃N = cN − N ∗ (B −1 )∗ cB ≥ 0. (4.7)
Le vecteur c̃N est appelé vecteur des coûts réduits.
Démonstration. Soit x une solution basique non dégénérée associée à B. Si c̃N ≥ 0,

alors pour toute solution admissible x (4.6) implique que
c · x − c · x = c̃N · xN ≥ 0 ,
puisque xN ≥ 0. Donc la condition (4.7) est suffisante pour que x soit optimal.
Réciproquement, supposons qu’il existe une composante i de c̃N qui soit strictement
négative, (c̃N · ei ) < 0. Pour > 0 on définit alors un vecteur x() par xN () = ei et
xB () = B −1 (b − N xN ()). Par construction Ax() = b et, comme B −1 b > 0, pour
des valeurs suffisamment petites de on a x() ≥ 0, donc x() ∈ Xad . D’autre part,
x(0) = x et, comme > 0, on a
c · x() = c · x(0) + (c̃N · ei ) < c · x,
ce qui montre que x n’est pas optimal. Donc la condition (4.7) est nécessaire. 2
Remarque 4.2.9 Dans le cadre de la Proposition 4.2.8, si la solution basique consi-

dérée est dégénérée, la condition (4.7) reste suffisante mais n’est plus nécessaire. •
On déduit de la Proposition 4.2.8 une méthode pratique pour décroître la valeur

de la fonction coût c · x à partir d’une solution basique x (non dégénérée et non
optimale). Comme x est non-optimale, il existe une composante du vecteur des coûts
réduits c̃N telle que c̃N · ei < 0. On définit alors x() comme ci-dessus. Puisque le
coût décroît linéairement avec , on a intérêt à prendre la plus grande valeur possible
de telle que l’on reste dans Xad . C’est le principe de l’algorithme du simplexe que
nous présentons maintenant.
Algorithme du simplexe
— Initialisation (phase I) : on cherche une base initiale B 0 telle que la solution
basique associée x0 soit admissible
(B 0 )−1 b

0
x = ≥ 0.
0
— Itérations (phase II) : à l’étape k ≥ 0, on dispose d’une base B k et d’une solu-

−1
tion basique admissible xk . On calcule le coût réduit c̃kN = ckN −(N k )∗ (B k )∗ ckB .
Si c̃kN ≥ 0, alors xk est optimal et l’algorithme est fini. Sinon, il existe une
variable hors-base d’indice i telle que (c̃N · ei ) < 0, et on note ai la colonne
correspondante de A. On pose
xk () = (xkB (), xkN ()) avec xkN () = ei , xkB () = (B k )−1 (b − ai ).
— Soit on peut choisir > 0 aussi grand que l’on veut avec xk () ∈ Xad .
Dans ce cas, le minimum du programme linéaire est −∞.
— Soit il existe une valeur maximale k ≥ 0 et un indice j tels que la j-ème
composante de xk (k ) s’annule. On obtient ainsi une nouvelle solution
admissible basique
xk+1 = xk (k ),
correspondant à une nouvelle base B k+1 déduite de B k en remplaçant sa
j-ème colonne par la colonne ai . La solution admissible xk+1 a un coût
inférieur ou égal à celui de xk .
Il reste un certain nombres de points pratiques à préciser dans l’algorithme du
simplexe. Nous les passons rapidement en revue.
Dégénérescence et cyclage
On a toujours c·xk+1 ≤ c·xk , mais il peut y avoir égalité si la solution admissible
basique xk est dégénérée, auquel cas on trouve que k = 0 (si xk n’est pas dégénérée,
la démonstration de la Proposition 4.2.8 garantit une inégalité stricte). On a donc
changé de base sans améliorer le coût : c’est le phénomène du cyclage qui peut
empêcher l’algorithme de converger. Il existe des moyens de s’en prémunir, mais en
pratique le cyclage n’apparaît jamais.
En l’absence de cyclage, l’algorithme du simplexe parcourt un sous-ensemble
des sommets de Xad en diminuant de façon stricte le coût. Comme il y a un nombre
fini de sommets, l’algorithme doit nécessairement trouver un sommet optimal de

coût minimal. On a donc démontré le résultat suivant.
Lemme 4.2.10 Si toutes solutions admissibles basiques xk produites par l’algo-

rithme du simplexe sont non dégénérées, alors l’algorithme converge en un nombre
fini d’étapes.
A priori le nombre d’itérations de l’algorithme du simplexe peut être aussi
grand que le nombre de sommets (qui est exponentiel par rapport au nombre de
variables n ; voir l’Exercice 4.2.2). Bien qu’il existe des exemples (académiques) où
c’est effectivement le cas, en pratique cet algorithme converge en un nombre d’étapes
qui est une fonction polynomiale de n.
Choix du changement de base

S’il y a plusieurs composantes du vecteur coût réduit c̃kN strictement négatives,
il faut faire un choix dans l’algorithme. Plusieurs stratégies sont possibles, mais en
général on choisit la plus négative.
Initialisation
Comment trouver une solution admissible basique lors de l’initialisation ? (Rap-
pelons que la condition d’admissibilité xB = B −1 b ≥ 0 n’est pas évidente en géné-
ral.) Soit on en connaît une à cause de la structure du problème. Par exemple,
pour le problème (4.4) qui possède m variables d’écart, − Idm est une base de la
matrice “globale” des contraintes d’égalité de (4.4). Si de plus b ≤ 0, le vecteur
(x0+ , x0− , λ0 ) = (0, 0, −b) est alors une solution admissible basique pour (4.4).
Dans le cas général, on introduit une nouvelle variable y ∈ Rm , un nouveau
vecteur coût k = (1, ..., 1) et un nouveau programme linéaire
inf k·y, (4.8)

x≥0, y≥0
Ax+y=b
où on a préalablement multiplié par −1 toutes les contraintes d’égalité correspondant

à des composantes négatives de b de telles sortes que b ≥ 0. Le vecteur (x0 , y 0 ) =
(0, b) est une solution admissible basique pour ce problème. S’il existe une solution
admissible du programme linéaire original (4.1), alors il existe au moins une solution
optimale de (4.8) et toutes les solutions optimales (x, y) vérifient nécessairement
y = 0 et x est solution admissible de (4.1). En appliquant l’algorithme du simplexe
à (4.8), on trouve ainsi une solution admissible basique pour (4.1) s’il en existe une.
S’il n’en existe pas (c’est-à-dire si Xad = ∅), on le détecte car le minimum de (4.8)
est atteint par un vecteur (x, y) avec y 6= 0.
Inversion de la base
Tel que nous l’avons décrit l’algorithme du simplexe demande l’inversion à
chaque étape de la base B k , ce qui peut être très coûteux pour les problèmes de
grande taille (avec beaucoup de contraintes puisque l’ordre de B k est égal au nombre
de contraintes). On peut tirer parti du fait que B k+1 ne diffère de B k que par une co-
lonne pour mettre au point une meilleur stratégie. En effet, si c’est la j-ème colonne
qui change, on a
 
1 l1
 ... .. 
 . 0 
 .. 
1 .
 
 
B k+1 = B k E k avec E k =  lj ,
 

 .
.. 1


 
 .. ... 
 0 . 
ln 1
et E k est facile à inverser
−l1
 
1
.. ..

 . . 0


1 −lj−1
 
k −1 1 
(E ) =  1 .
 
lj 
−lj+1 1

 
 .. .. 
 0 . . 
−ln 1
On utilise donc la formule, sous forme factorisée,
(B k )−1 = (E k−1 )−1 (E k−2 )−1 · · · (E 0 )−1 (B 0 )−1 .
Exercice 4.2.3 Résoudre par l’algorithme du simplexe le programme linéaire
min x1 + 2x2
x1 ≥0, x2 ≥0, x3 ≥0, x4 ≥0, x5 ≥0
sous les contraintes 

 −3x1 + 2x2 + x3 = 2,
−x1 + 2x2 + x4 = 4,
x1 + x2 + x5 = 5.


min 2x1 − x2
x1 ≥0, x2 ≥0
sous les contraintes x1 + x2 ≤ 1 et x2 − x1 ≤ 1/2 (on pourra s’aider d’un dessin et

introduire des variables d’écart).

min 3x3 − x4
x1 ≥0, x2 ≥0, x3 ≥0, x4 ≥0
sous les contraintes

x1 − 3x3 + 3x4 = 6,
x2 − 8x3 + 4x4 = 4.
4.2.3 Algorithmes de points intérieurs

Depuis les travaux de Khachian et Karmarkar au début des années 1980, une
nouvelle classe d’algorithmes, dits de points intérieurs, est apparu pour résoudre
des programmes linéaires. Le nom de cette classe d’algorithmes vient de ce qu’au
contraire de la méthode du simplexe (qui, parcourant les sommets, reste sur le
bord du polyèdre Xad ) ces algorithmes de points intérieurs évoluent à l’intérieur
de Xad et ne rejoignent son bord qu’à convergence. Nous allons décrire ici un de
ces algorithmes que l’on appelle aussi algorithme de trajectoire centrale. Il y
a deux idées nouvelles dans cette méthode : premièrement, on pénalise certaines
contraintes à l’aide de potentiels ou fonctions “barrières” ; deuxièmement, on utilise
une méthode de Newton pour passer d’une itérée à la suivante.
Décrivons cette méthode sur le programme linéaire standard
inf c · x. (4.9)
On définit un potentiel logarithmique pour x > 0

n
X
π(x) = − log xi . (4.10)
i=1
Pour un paramètre de pénalisation µ > 0, on introduit le problème strictement

convexe
min µπ(x) + c · x. (4.11)
x∈Rn tel que Ax=b, x>0
Remarquons qu’en pratique la contrainte x > 0 n’en est pas une car elle n’est jamais
active : quand on minimise (4.11) on ne peut pas “s’approcher” du bord de x > 0
sous peine de faire “exploser” le potentiel π(x) vers +∞. Il s’agit donc d’un exemple
de méthode de pénalisation intérieure.
Le principe de l’algorithme de trajectoire centrale est de minimiser (4.11) par
une méthode de Newton pour des valeurs de plus en plus petites de µ. En effet,
lorsque µ tend vers zéro, le problème pénalisé (4.11) tend vers le programme linéaire
(4.9).
Lemme 4.2.11 On définit l’ensemble admissible de (4.11) par

0
Xad = {x ∈ Rn tel que Ax = b, x > 0} .
0
On suppose que Xad est borné non vide. Alors le problème pénalisé (4.11) admet une
unique solution optimale xµ . De plus, si (4.9) admet une unique solution optimale
x0 , alors xµ converge vers x0 lorsque µ tend vers zéro.
0
Remarque 4.2.12 L’hypothèse que Xad est non vide est nécessaire pour que (4.11)
ait au moins une solution admissible. Il est facile de construire des exemples d’en-
0
semble admissible Xad non vide mais tel que Xad est vide (voir l’Exercice 4.2.6).
0 0
L’hypothèse que Xad est borné est équivalente à celle que Xad = Xad est borné.
Cette hypothèse est nécessaire car on peut construire des exemples où, Xad n’étant
pas borné, le programme linéaire (4.9) admet une solution optimale x0 mais le pro-
blème pénalisé (4.11) n’admet pas de solution optimale (voir l’Exercice 4.2.6 pour
un tel contre-exemple). •
Démonstration. La fonction µπ(x) + c · x est strictement convexe sur Rn+ donc,
s’il existe un point de minimum à (4.11), il est unique. Par contre, cette fonction
0
n’est pas infinie à l’infini donc on a besoin de l’hypothèse que Xad est borné. Par
0
ailleurs, Xad est convexe mais pas fermé, donc on ne peut pas utiliser directement
0
le Théorème 2.2.1 bien que J soit continue et Xad borné. Soit xn ∈ Xad0
une suite
0
minimisante de (4.11). Comme Xad = Xad est borné, on peut en extraire une sous-
suite, toujours notée xn , qui converge vers une limite xµ dans Xad . En fait, toutes
les composantes de xµ sont strictement positives et xµ ∈ Xad0
car sinon
lim π(xn ) = +∞,

n→+∞
ce qui serait une contradiction avec le fait que la valeur minimale de (4.11) est
0
bornée supérieurement puisque Xad n’est pas vide. Comme la fonction µπ(x) + c · x
est continue, on a donc obtenu
µπ(xµ ) + c · xµ = lim µπ(xn ) + c · xn = min0 µπ(x) + c · x.

n→+∞ x∈Xad
Autrement dit, xµ est la solution optimale de (4.11). On écrit les conditions d’op-
timalité (comme toujours dans ce chapitre, on suppose que la matrice A, de taille
m × n, est de rang m ≤ n, donc les contraintes sont qualifiées) pour xµ : il existe un
multiplicateur de Lagrange pµ ∈ Rm tel que
1
Axµ = b, c−µ + A∗ pµ = 0, (4.12)
xµ
où 1/x désigne le vecteur de Rn de composantes 1/xi . On veut passer à la limite,
quand µ → 0, dans (4.12). Comme l’ensemble Xad est borné, la suite xµ est bornée
et on peut en extraire une sous-suite qui converge vers une limite x0 ∈ Xad car
Xad est fermé. Par contre, en général la suite pµ n’est pas bornée, quand µ → 0, et
nous allons simplement montrer que la suite A∗ pµ est bornée dans Rn . On déduit de
(4.12) que
A∗ pµ + c ≥ 0. (4.13)
Au vu de (4.13) les composantes de A∗ pµ sont bornées inférieurement. Montrons
0
qu’elles sont aussi bornées supérieurement. Soit y ∈ Xad qui est supposé non vide.
µ
On multiplie la contrainte Ay = b par p pour obtenir
y · A ∗ pµ = b · pµ .
Par ailleurs, si on multiplie la deuxième égalité de (4.12) par xµ on obtient
c · xµ − nµ + A∗ pµ · xµ = c · xµ − nµ + pµ · b = 0, (4.14)
donc
y · A∗ pµ = nµ − c · xµ ≤ C,
car la suite xµ est bornée. Comme y > 0, les composantes de A∗ pµ sont bornées
supérieurement. Autrement dit, A∗ pµ est une suite bornée dans Rn . On peut donc
en extraire une sous-suite qui converge. Par ailleurs, elle appartient à ImA∗ qui est
un sous-espace vectoriel fermé, donc il existe p0 ∈ Rm tel que la sous-suite A∗ pµ
converge vers A∗ p0 .
On passe alors à la limite dans la première égalité de (4.12), dans (4.13) et
(4.14)
Ax0 = b, A∗ p0 + c ≥ 0, c · x0 + A∗ p0 · x0 = 0.
Il s’agit des conditions d’optimalité de (4.9), donc en vertu du théorème de Kuhn et
Tucker (voir le Théorème 4.2.13 plus bas) x0 est la solution optimale de (4.9) et p0
est un multiplicateur de Lagrange pour ce problème. Si on suppose que (4.9) admet
une solution unique, alors toute la suite xµ converge vers x0 lorsque µ tend vers zéro.
2
Exercice 4.2.6 Donner un exemple de programme linéaire (4.9) qui admet une solution
optimale x0 mais pour lequel l’ensemble admissible Xad n’est pas borné et le problème
pénalisé (4.11) n’admet pas de solution optimale. Donner un autre exemple d’ensemble
0
admissible Xad non vide mais tel que Xad est vide.
4.2.4 Dualité
La théorie de la dualité (déjà évoquée lors de la Sous-section 2.6.3) est très utile
en programmation linéaire. Considérons à nouveau le programme linéaire standard
que nous appellerons primal (par opposition au dual)
inf c · x, (4.15)
où A est une matrice de taille m × n, b ∈ Rm , et c ∈ Rn . Pour p ∈ Rm , on introduit

le Lagrangien de (4.15)
L(x, p) = c · x + p · (b − Ax), (4.16)
où l’on a seulement “dualisé” les contraintes d’égalité. On introduit la fonction duale

associée
G(p) = min L(x, p),
x≥0
qui, après calcul, vaut

si A∗ p − c ≤ 0

p·b
G(p) = (4.17)
−∞ sinon.
Le problème dual de (4.15) est donc
sup p · b. (4.18)
p∈Rm tel que A∗ p−c≤0
L’espace de solutions admissibles du problème dual (4.18) est noté
Pad = {p ∈ Rm tel que A∗ p − c ≤ 0} .
Rappelons que l’espace de solutions admissibles de (4.15) est
Xad = {x ∈ Rn tel que Ax = b, x ≥ 0} .
Les programmes linéaires (4.15) et (4.18) sont dits en dualité. L’intérêt de cette
notion vient du résultat suivant qui est un cas particulier du Théorème de dualité
2.6.13.
Théorème 4.2.13 Si (4.15) ou (4.18) a une valeur optimale finie, alors il existe
x ∈ Xad solution optimale de (4.15) et p ∈ Pad solution optimale de (4.18) qui
vérifient

min c·x =c·x=p·b= max p·b (4.19)
x∈Rn tel que Ax=b, x≥0 p∈Rm tel que A∗ p−c≤0
De plus, x et p sont solutions optimales de (4.15) et (4.18) si et seulement si elles

vérifient les conditions d’optimalité de Kuhn et Tucker
Ax = b, x ≥ 0, A∗ p − c ≤ 0, x · (c − A∗ p) = 0. (4.20)
Si (4.15) ou (4.18) a une valeur optimale infinie, alors l’ensemble des solutions
admissibles de l’autre problème est vide.
Remarque 4.2.14 Une conséquence immédiate du Théorème 4.2.13 de dualité est

que, si x ∈ Xad et p ∈ Pad sont deux solutions admissibles de (4.15) et (4.18),
respectivement, elles vérifient
c · x ≥ b · p.
De même, si x ∈ Xad et p ∈ Pad vérifient
c·x=b·p
alors x est solution optimale de (4.15) et p de (4.18). Ces deux propriétés permettent
de trouver facilement des bornes pour les valeurs optimales de (4.15) et (4.18), et
de tester si un couple (x, p) est optimal. •
Démonstration. Supposons que Xad et Pad sont non vides. Soit x ∈ Xad et p ∈ Pad .
Comme x ≥ 0 et A∗ p ≤ c, on a
c · x ≥ A∗ p · x = p · Ax = p · b,
puisque Ax = b. En particulier, cette inégalité implique que les valeurs optimales

des deux problèmes, primal et dual, sont finies, donc qu’ils admettent des solutions
optimales en vertu du Lemme 4.2.3. L’égalité (4.19) et la condition d’optimalité
(4.20) sont alors une conséquence du Théorème de Kuhn et Tucker 2.6.4.
Supposons maintenant que l’un des deux problèmes primal ou dual admet une
valeur optimale finie. Pour fixer les idées, admettons qu’il s’agisse du problème dual
(un argument symétrique fonctionne pour le problème primal). Alors, le Lemme
4.2.3 affirme qu’il existe une solution optimale p de (4.18). Si Xad n’est pas vide,
on se retrouve dans la situation précédente ce qui finit la démonstration. Montrons
donc que Xad n’est pas vide en utilisant encore le Lemme de Farkas 2.5.19. Pour
p ∈ Rm , on introduit les vecteurs de Rm+1

b p
b̃ = et p̃ = .
−b · p 1
On vérifie que b̃ · p̃ = b · p − b · p ≤ 0, pour tout p ∈ Pad . D’autre part, la condition

p ∈ Pad peut se réécrire

n
m+1 ∗
o A
p̃ ∈ C = p̃ ∈ R tel que p̃m+1 = 1, Ã p̃ ≤ 0 avec Ã = .
−c∗
Comme b̃ · p̃ ≤ 0 pour tout p̃ ∈ C, le Lemme de Farkas 2.5.19 nous dit qu’il existe
x̃ ∈ Rn tel que x̃ ≥ 0 et b̃ = Ãx̃, c’est-à-dire que x̃ ∈ Xad qui n’est donc pas vide.
Finalement, supposons que la valeur optimale du problème primal est (4.15)
−∞. Si Pad n’est pas vide, pour tout x ∈ Xad et tout p ∈ Pad , on a c · x ≥ b · p.
En prenant une suite minimisante dans Xad on obtient b · p = −∞, ce qui absurde.
Donc Pad est vide. Un raisonnement similaire montre que, si la valeur optimale de
(4.15) est infinie, alors Xad est vide. 2
L’intérêt de la dualité pour résoudre le programme linéaire (4.15) est multiple.

D’une part, selon l’algorithme choisi, il peut être plus facile de résoudre le problème
dual (4.18) (qui a m variables et n contraintes d’inégalités) que le problème primal
(4.15) (qui a n variables, m contraintes d’égalités et n contraintes d’inégalités).
D’autre part, on peut construire des algorithmes numériques très efficaces pour la
résolution de (4.15) qui utilisent les deux formes primale et duale du programme
linéaire.
Exercice 4.2.7 Utiliser la dualité pour résoudre “à la main” (et sans calculs !) le pro-
gramme linéaire
min 8x1 + 9x2 + 4x3 + 6x4
x1 ≥0, x2 ≥0, x3 ≥0, x4 ≥0

4x1 + x2 + x3 + 2x4 ≥ 1
x1 + 3x2 + 2x3 + x4 ≥ 1
Exercice 4.2.8 Trouver le problème dual de (4.15) lorsqu’on dualise aussi la contrainte
x ≥ 0, c’est-à-dire qu’on introduit le Lagrangien
L(x, p, q) = c · x + p · (b − Ax) − q · x
avec q ∈ Rn tel que q ≥ 0. Comparer avec (4.18) et interpréter la nouvelle variable

duale q. En déduire qu’il n’y a pas d’intérêt à “dualiser” aussi la contrainte x ≥ 0.
Exercice 4.2.9 Vérifier que le problème dual de (4.18) est à nouveau (4.15).
Exercice 4.2.10 Soit v ∈ Rn , c ∈ Rn , A une matrice m × n et b ∈ Rm . On considère

le programme linéaire
inf c · v . (4.21)
v≥0
Av≤b
Montrer que le problème dual peut se mettre sous la forme suivante, avec q ∈ Rm
sup −b · q . (4.22)
q≥0
A∗ q+c≥0
Soient v et q des solutions admissibles de (4.21) et (4.22), respectivement. Montrer que

v et q sont des solutions optimales si, et seulement si,
(c + A∗ q) · v = 0 et (b − Av) · q = 0. (4.23)
Les deux égalités de (4.23) sont appelées conditions des écarts complémentaires
(primales et duales, respectivement).
4.3 Vers la programmation linéaire en nombres en-

tiers
Jusqu’ici nous avons considéré des problèmes d’optimisation continue, c’est-
à-dire que la variable d’optimisation variait continûment dans un ensemble admis-
sible inclus dans Rn . Dans le cas de la programmation linéaire, cet ensemble admis-
sible Xad est un polyèdre. La programmation linéaire en nombres entiers consiste
à abandonner ce point de vue continu et à rajouter la contrainte que la solution doit
appartenir à Zn . Dans le cas d’un programme linéaire sous forme standard (4.1) on
considère donc
inf c · x, (4.24)
x∈Zn tel que Ax=b, x≥0
où A est une matrice de taille m × n (avec m ≤ n et rg(A) = m), b ∈ Rm et c ∈ Rn .

On dit que (4.24) est un programme linéaire en nombres entiers, ou bien en variables
discrètes, ou encore un problème combinatoire puisqu’on peut, en théorie, énumérer
toutes les solutions possibles afin de trouver la solution optimale. Evidemment, le
nombre de solutions entières possibles est exponentiel dans la taille n, m des données
et il n’est en général pas possible de faire cette énumération en pratique.
En toute généralité le problème (4.24) est extrêmement difficile à résoudre, en
particulier puisque, l’espace des solutions admissibles étant discret, on ne peut pas
utiliser la notion de gradient pour tester l’optimalité d’une solution ou pour passer
d’une solution à une autre meilleure. Nous ne disons rien des méthodes générales
pour résoudre (4.24) et nous nous contentons de traiter deux cas particuliers, im-
portants du point de vue des applications, pour lesquels la programmation linéaire
continue, vue à la section précédente, est utile et efficace. Ces deux cas particuliers
correspondent à un petit miracle que nous expliquons tout de suite. En général,
4.3. VERS LA PROGRAMMATION LINÉAIRE EN NOMBRES ENTIERS 137
puisque Zn est un sous-ensemble (très petit !) de Rn , la valeur minimale de (4.24)

est plus grande que la valeur minimale de (4.1), qui est le même problème où Zn
est remplacé par Rn (parfois on appelle (4.1) problème relaxé, ou relâché, de (4.24)
car on abandonne la contrainte que x doit être à valeurs entières). Le miracle est
que, justement pour ces deux cas, la valeur minimale est la même ! Plus précisément,
on verra qu’en utilisant l’algorithme du simplexe pour (4.1) on obtient une solution
de (4.24), qui est donc à valeurs entières. Bien entendu, cela n’est pas vrai sans
des hypothèses de structure très fortes sur les données. Ces deux cas, qui peuvent
sembler exceptionnels, apparaissent en fait naturellement dans un certain nombre
de problèmes combinatoires concrets : affectations, plus courts chemins et plus gé-
néralement problèmes de flots à coût minimum.
4.3.1 Matrices totalement unimodulaires

Commençons par étudier à quelles conditions sur les données entières A et b les
solutions admissibles x ∈ Xad ou plus généralement les solutions du système linéaire
Ax = b sont, elles aussi entières. Etudions d’abord le cas des matrices carrées dans
le lemme suivant.
Lemme 4.3.1 Pour une matrice inversible A ∈ Zn×n les deux propriétés suivantes
sont équivalentes :
1. detA = ±1 ;
2. pour tout b ∈ Zn , on a A−1 b ∈ Zn .
Démonstration. Au vu des formules de Cramer pour la résolution du système
linéaire Ax = b, il est clair que si detA = ±1, alors A−1 b ∈ Zn pour tout second
membre b ∈ Zn . Pour prouver la réciproque montrons tout d’abord que A−1 ∈ Zn×n .
En effet, si on choisit b comme le i-ème vecteur de la base canonique de Rn , on en
déduit que la i-ème colonne de A−1 , qui coïncide avec A−1 b, est à coefficients entiers.
En variant 1 ≤ i ≤ n, on obtient donc A−1 ∈ Zn×n . En particulier, cela implique que
detA−1 ∈ Z et, comme 1 = detA detA−1 , cela montre que detA divise 1, c’est-à-dire
que detA = ±1. 2
Ce lemme motive la définition suivante qui est centrale dans cette section.
Définition 4.3.2 On dit qu’une matrice carrée A ∈ Zn×n est unimodulaire quand
detA = ±1, et qu’une matrice générale A ∈ Zm×n est totalement unimodulaire
quand toute sous-matrice carrée extraite de A est de déterminant ±1 ou 0.
En prenant des sous-matrices 1 × 1, on voit en particulier que les coefficients
d’une matrice totalement unimodulaire valent nécessairement ±1 ou 0. L’introduc-
tion des matrices totalement unimodulaires est motivée par le résultat suivant.
Proposition 4.3.3 Soit le programme linéaire en nombres entiers (4.24). On sup-

pose que les données A ∈ Zm×n et b ∈ Zm sont entières et que la matrice A est
totalement unimodulaire. Alors toute solution basique x de (4.24) est entière, c’est-
à-dire que x ∈ Zn .
Remarque 4.3.4 La Proposition 4.3.3 est très importante en pratique car elle im-
plique que si l’on résout (4.24) par l’algorithme du simplexe "usuel", alors la solution
que l’on obtiendra (ainsi que toutes les solutions intermédiaires) seront entières car
le simplexe énumère des solutions basiques. Il n’y a rien à changer à l’algorithme
du simplexe pour obtenir des solutions entières, du moins sous les hypothèses de la
Proposition 4.3.3.
La Proposition 4.3.3 ne dit surtout pas que toutes les solutions optimales de
(4.24) sont entières. D’ailleurs, il ne peut en être ainsi, à moins que la solution
optimale ne soit unique, car, par linéarité du coût c · x, tout barycentre de solutions
optimales d’un programme linéaire est aussi solution optimale.
Il est intéressant de remarquer que l’on ne fait aucune hypothèse sur le vecteur
c qui apparait dans le coût. Celui-ci peut ne pas être à valeurs entières mais, dans
tous les cas, les solutions basiques (et donc une solution optimale au moins) seront
entières. •
Démonstration. Rappelons qu’une solution basique correspond à un réarrange-
ment des colonnes de A tel que A = (B, N ), où B est une matrice inversible m×m et
N est une matrice m×(n−m), et que dans cette base on a x = (xB , xN ) avec xN = 0,
xB ≥ 0 et BxB = b. Comme A est totalement unimodulaire, B est unimodulaire et
xB ∈ Zm . Comme xN = 0, on a bien x ∈ Zn . 2
Bien sûr, pour que la Proposition 4.3.3 tienne toutes ses promesses, il faut véri-
fier qu’il existe "suffisamment" de matrices totalement unimodulaires. Il n’existe pas
de caractérisation des matrices totalement unimodulaires mais on connait certaines
conditions suffisantes. On donne ici une telle condition, très utile en pratique, due
à Poincaré.
Lemme 4.3.5 Si A est une matrice à coefficients ±1 ou 0, avec au plus un coeffi-

cient 1 par colonne, et au plus un coefficient −1 par colonne, alors A est totalement
unimodulaire.
Démonstration. Comme l’hypothèse sur les valeurs des coefficients de A est aussi
vraie pour toutes les sous-matrices de A, il suffit de considérer le cas où la matrice
A est carrée et de vérifier que detA vaut ±1 ou 0. Si A possède une colonne nulle,
alors detA = 0. Si A possède une colonne avec seulement un coefficient non-nul, on
développe son déterminant par rapport à cette colonne, et l’on conclut par récurrence
sur la dimension de A que detA ∈ {±1, 0}. Il reste donc à considérer le cas où chaque
colonne de A a exactement un coefficient 1 et un coefficient −1 (tous les autres étant
nuls). Ainsi, la somme des coefficients de chaque colonne est nulle. Autrement dit,
le vecteur (1, · · · , 1) appartient au noyau de la transposée de A et donc detA = 0.
2
Nous allons voir dans les sous-sections suivantes que l’on rencontre souvent en
pratique des matrices qui vérifient les hypothèses du Lemme 4.3.5 de Poincaré.
Exercice 4.3.1 Soit une matrice A ∈ Zm×n telle que les premiers éléments de chacune
de ses colonnes sont des 1 alors que tous les autres éléments sont des 0. Autrement dit,
pour tout 1 ≤ j ≤ n, il existe nj ∈ N tel que aij = 1 pour 1 ≤ i ≤ nj et aij = 0
pour nj + 1 ≤ i ≤ m. Montrer qu’une telle matrice (appelée matrice d’intervalles) est

totalement unimodulaire. Indication : on vérifiera qu’il suffit de démontrer le résultat
pour des matrices carrées et on fera une récurrence sur la taille de la matrice.
4.3.2 Introduction aux problèmes de flots
Figure 4.2 – Graphe orienté.
Nous faisons une brève présentation des problèmes de flots qui ne servent ici
que de prétexte à illustrer la résolution de programmes linéaires en nombres entiers
et, accessoirement, à donner des exemples de matrices vérifiant les hypothèses du
Lemme 4.3.5 de Poincaré. Pour plus de détails sur les problèmes de flots et notam-
ment pour d’autres algorithmes permettant de les résoudre, nous renvoyons à [5],
[19]. Les problèmes de flots sont des problèmes d’optimisation sur des graphes, qui
permettent de modéliser des réseaux (de transport, de communication, ou sociaux).
Pour illustrer notre propos, imaginons qu’il s’agit d’un réseau de transport.
On introduit donc un graphe orienté G = (N , A) où N est l’ensemble des
nœuds, numérotés de 1 à m, et A ⊂ N × N est l’ensemble des arcs ou arêtes
qui relient deux nœuds distincts. Les nœuds sont par exemple des villes et les arcs
des lignes de transport qui les relient. On note (i, j) l’arc qui relier le nœud i au
nœud j. Le graphe est dit orienté car l’arc (i, j) n’est pas le même que l’arc (j, i)
(voir la Figure 4.2) : cela permet de distinguer le sens du trajet, ce qui est utile
dans de nombreuses applications. Tous les nœuds ne sont pas forcément reliés entre
eux par un arc et on note n le nombre total d’arcs. Chaque arc (i, j) ∈ A possède
une capacité maximale uij ∈ R+ ∪ {+∞} (la quantité maximale de biens ou de
personnes pouvant circuler sur cette ligne de transport) ainsi qu’un coût cij ∈ R
(le prix unitaire du voyage sur cette ligne). Remarquez que, si la capacité maximale
est bien positive, on laisse la possibilité d’un coût négatif en cas de subventions de
certaines lignes... En chaque nœud i du graphe il est aussi possible d’avoir la donnée
d’un flot extérieur bi ∈ R, c’est-à-dire une quantité de biens ou de personnes qui
arrivent en i par d’autres moyens de transport que ceux modélisés par le graphe.
Si bi > 0, ce flot exogène est dit entrant, tandis que si bi < 0, le flot exogène est
sortant.
On appelle flot un vecteur x ∈ Rn , défini sur sur A par (i, j) 7→ xij , vérifiant
la loi des nœuds de Kirchoff

X X
bi + xji = xij , ∀i ∈ N , (4.25)
j∈N ,(j,i)∈A j∈N ,(i,j)∈A
ainsi que la contrainte de positivité
0 ≤ xij , ∀(i, j) ∈ A . (4.26)
La loi des nœuds de Kirchoff (4.25) exprime la conservation de la quantité de biens

ou de personnes au nœud i : tout ce qui arrive en i (terme de gauche) égale ce qui
en repart (terme de droite). En sommant en i les lois des nœuds (4.25), il apparait
une condition nécessaire pour l’existence d’un flot, à savoir que la somme des flots
extérieurs ou exogènes doit être nulle
X
bi = 0 . (4.27)
i∈N
Dans la suite, nous supposerons systématiquement que cette condition (4.27) est
vérifiée. Un flot est dit admissible s’il satisfait en plus les contraintes de capacité
xij ≤ uij , ∀(i, j) ∈ A . (4.28)
On appelle problème de flot à coût minimum le problème d’optimisation

X
minn cij xij sous les contraintes (4.25), (4.26), (4.28). (4.29)
x∈R
(i,j)∈A
Il s’agit d’un programme linéaire qui admet toujours une solution si les coûts sont
positifs, cij ≥ 0, ou bien si les capacités sont finies, uij < +∞. Pour donner une forme
plus explicite de (4.29), sous la forme d’un programme linéaire, nous réécrivons la
loi des nœuds de Kirchoff (4.25) comme Ax = b, où la matrice A ∈ Rm×n , appelée
matrice d’incidence nœuds-arcs de G, est définie par

 −1 si i = k,
Ai,(j,k) = 1 si i = j, (4.30)
0 sinon.

La i-ème ligne de A est la loi de Kirchoff au nœud i, tandis que les élément non nuls
de la (j, k)-ème colonne de A indiquent à quels nœuds (entrant ou sortant selon le
signe) est relié l’arc (j, k). Le problème de flot (4.29) est donc équivalent à
X
min cij xij . (4.31)
x∈Rn ,Ax=b, 0≤x≤u
(i,j)∈A
Ce problème (4.31) n’est pas sous la forme standard (4.1) à cause de la contrainte de
capacité maximale x ≤ u. Néanmoins, grâce à l’introduction d’une variable d’écart
y ∈ Rn , y ≥ 0, la contrainte x ≤ u est équivalente à x + y = u. Par conséquent,

(4.29) et (4.31) sont équivalents au programme linéaire sous forme standard
X
min cij xij , (4.32)
z∈R2n ,Ãz=b̃, 0≤z
(i,j)∈A
avec les notations b̃ ∈ Rm+n , Ã ∈ R(m+n)×2n et

x b A 0
z= , b̃ = , Ã = , (4.33)
y u In In
où In est la matrice identité dans Rn×n .
Remarque 4.3.6 Le problème de transport de l’Exemple 1.2.1 est en fait un exemple

de problème de flot à coût minimum. Définissons le graphe dont les nœuds N sont les
entrepôts, indicés par 1 ≤ i ≤ M , et les clients, indicés par 10 ≤ j 0 ≤ N 0 (on rajoute
un exposant 0 pour distinguer les clients des entrepôts dans la liste des nœuds). Les
arcs A de ce graphe orienté sont les arcs qui relient un entrepôt i à un client j 0 ,
munis du coût cij . Il n’y a pas d’arcs entre clients, ni entre entrepôts, ni d’un client
vers un entrepôt. Si les stocks sont égaux à la demande, M
P PN
i=1 s i = j=1 rj , alors
les contraintes sur les quantités livrées vij ≥ 0 sont la loi des nœuds de Kirchoff
appliquée aux entrepôts i
N
X
vij = si , pour 1 ≤ i ≤ M,
j=1
et aux clients j
M
X
0= vij − rj pour 1 ≤ j ≤ N.
i=1
On choisit donc les flots externes comme bi = si pour les entrepôts et bj 0 = −rj 0 pour
les clients (notez le changement de signe de rj pour prendre en compte le fait que
les clients reçoivent alors que les entrepôts expédient). Avec le choix des capacités
maximales infinies, uij = +∞, le problème de transport de l’Exemple 1.2.1 est donc
un
PMproblème PNde flot à coût minimum. Si les stocks sont supérieurs à la demande,
s
i=1 i > j=1 rj , alors il faut rajouter un client imaginaire qui reçoit tout le stock
non consommé par les autres clients avec un coût de transport nul. Le problème est
à nouveau un problème de flot à coût minimum. •
Il arrive souvent en pratique que l’on cherche des solutions entières d’un pro-
blème de flot. Par exemple, pour le problème de transport de l’Exemple 1.2.1, les
marchandises à livrer peuvent être des colis, et livrer une fraction de colis peut ne
pas avoir de sens. Il est donc naturel de se demander si un problème de flot à coût
minimum, dont les données sont entières, a des solutions optimales qui sont aussi
entières. Une réponse positive à cette question est apportée par le résultat suivant.
Théorème 4.3.7 On suppose que les flots extérieurs ou exogènes sont entiers, bi ∈
Z, ainsi que les capacités, uij ∈ N ∪ {+∞}. Alors les solutions basiques de (4.32)
sont entières. En particulier, le problème (4.29) de flot à coût minimal admet une
solution optimale entière x ∈ Nn .
Remarque 4.3.8 Une conséquence pratique importante du Théorème 4.3.7 est

qu’on peut résoudre les problèmes de flots entiers par l’algorithme du simplexe.
Non seulement la valeur optimale du coût est la même si on optimise sur les réels
ou sur les entiers mais, en plus, comme l’algorithme du simplexe itère d’un sommet
(ou solution basique) à un autre du polyèdre des solutions admissibles, les solutions
trouvées par le simplexe sont entières. •
Démonstration. Si les capacités sont toutes infinies, uij = +∞, alors il n’y a pas
de contraintes x ≤ u et le programme linéaire (4.31) est déjà sous forme standard,
sans nécessité d’introduire les variables d’écart y. Or le Lemme 4.3.9 ci-dessous
montre que la matrice A est totalement unimodulaire. On conclut alors à l’aide de
la Proposition 4.3.3.
Si certaines capacités sont finies, alors il faut raisonner sur le programme li-
néaire (4.32) où il n’est pas évident que la matrice Ã est totalement unimodulaire.
Néanmoins, si une solution basique z vérifie Ãz = b̃, alors, au vu de la structure
(4.33) de Ã, on a Ax = b et y = u − x. Comme A est totalement unimodulaire, x
est entier, donc y et z aussi, ce qui conclut la preuve. 2
Lemme 4.3.9 La matrice d’incidence nœuds-arcs A d’un graphe, définie par (4.30),
est totalement unimodulaire.
Démonstration. Par construction la matrice A a exactement un seul 1 et un seul
−1 dans chacune de ses colonnes car chaque arc possède un unique nœud de départ
et un unique nœud d’arrivée. On conclut grâce au Lemme 4.3.5 de Poincaré. 2
Terminons cette section en donnant un exemple, très important en pratique, de
problème de flot à coût minimum : le problème du flot maximal, qui s’intéresse
seulement aux capacités et pas aux coûts. Dans le graphe G on distingue deux
nœuds, notés s et p, appelés respectivement source et puits (voir la Figure 4.2), et
on suppose que s n’a pas de prédécesseur, autrement dit {i ∈ N | (i, s) ∈ A} = ∅,
et p n’a pas de successeur, c’est-à-dire {i ∈ N | (p, i) ∈ A} = ∅. Soit v ∈ R+ . On
appelle flot admissible de s à p de valeur v une solution x de Ax = b, 0 ≤ x ≤ u
avec 
 v si i = s,
bi = −v si i = p, (4.34)
0 sinon.

Le problème du flot maximal consiste à trouver un flot admissible de s à p de valeur

v maximale. En d’autres termes, on cherche à faire passer de la source vers le puits
le trafic maximal à travers le graphe G.
Exercice 4.3.2 Montrer que le problème du flot maximal est bien un exemple de
problème de flot à coût minimal. Pour cela, on rajoutera un arc reliant p à s au graphe
du problème du flot maximal, on annulera les deux flots externes bs et bp et on prendra

les coûts cij = 0 sauf cps = −1.
Exercice 4.3.3 On reprend le graphe orienté G avec les deux nœuds, source s et puits
p, tel que s n’a pas de prédécesseur et p n’a pas de successeur. On munit chaque arc
(i, j) d’un coût cij ≥ 0 qu’on interprète comme une distance entre les nœuds i et
j. Le problème du chemin de coût minimum est de trouver une suite de nœuds
consécutifs sur le graphe qui relient s à p et tels que la somme des coûts le long de
ce chemin d’arcs est minimale. Montrer que ce problème peut se modéliser comme un
problème de flot à coût minimum avec le choix (4.34) de flots externes pour v = 1 et
des capacités maximales infinies.
4.3.3 Problème d’affectation

Rappelons le problème d’affectation, ou bien de mariage, tel que présenté dans
l’Exemple 1.2.2. On a N femmes, indicées par 1 ≤ i ≤ N , et N hommes, indicés par
1 ≤ j ≤ N , avec une variable d’accord aij ∈ R+ qui indique l’attirance de i pour j.
On cherche une permutation σ dans l’ensemble des permutations SN de {1, ..., N }
qui réalise le maximum de
XN
max aiσ(i) .
σ∈SN
i=1
Bien sûr, comme le cardinal de l’ensemble SN est N !, il est illusoire de vouloir
résoudre ce problème d’affectation en énumérant simplement toutes les possibilités.
C’est là une caractéristique des problèmes combinatoires où, même si l’espace de
recherche est fini, sa grande taille rend impossible toute énumération exhaustive en
pratique.
Si on introduit les variables de décision vij , qui vaut 1 s’il y a mariage entre la
femme i et l’homme j et 0 sinon, on peut réécrire ce problème comme
N XN
!
X
max aij vij (4.35)
(vij )
i=1 j=1

N
X N
X
vij = 0 ou 1, vij = 1, vij = 1 pour 1 ≤ i, j ≤ N.
j=1 i=1
Les deux dernières contraintes égalité indiquent que chaque femme trouvera un mari
et chaque homme une épouse (comme on maximise la réussite des mariages, on aurait
pu écrire ces contraintes comme des inégalités aussi). Les matrices v = (vij )1≤i,j≤N
qui vérifient ces contraintes sont précisément les matrices correspondantes aux per-
mutations σ ∈ SN .
Si maintenant on relâche (ou relaxe) la contrainte vij = 0 ou 1, en 0 ≤ vij ≤ 1,
les matrices qui vérifient les contraintes relaxées
N
X N
X
0 ≤ vij ≤ 1, vij = 1, vij = 1 pour 1 ≤ i, j ≤ N (4.36)
j=1 i=1
sont appelées matrices doublement stochastiques. Le problème (4.35) sous les

contraintes (4.36) est un simple programme linéaire qu’on peut résoudre par l’algo-
rithme du simplexe. Il est même posé sous forme standard car la contrainte vij ≤ 1
est inutile au vu des contraintes égalité. Modulo le changement du max en min (il
suffit de changer le signe des coûts aij ), le problème (4.35) sous les contraintes (4.36)
est un exemple de problème de transport qui, comme discuté à la Remarque 4.3.6,
est un cas particulier de problème de flot à coût minimum. Pour montrer que ses
solutions sont en fait entières, nous écrivons les contraintes égalité dans (4.36) sous
la forme
N
X N
X
vij = 1 pour 1 ≤ i ≤ N, − vij = −1 pour 1 ≤ j ≤ N,
j=1 i=1
où on a effectué la même astuce que dans la Remarque 4.3.6 pour que la contrainte
de mariage pour chaque homme j ressemble à la loi des nœuds de Kirchoff. On peut
alors résumer ces contraintes d’égalité par Av = b avec b ∈ R2N le vecteur dont les N
2
premières composantes sont égales à 1 et les N dernières égales à −1 et A ∈ Z2N ×N
est une matrice dont chacune des colonnes a exactement un élément égal à 1, un
autre égal à −1 et tous les autres nuls. Le programme linéaire relaxé est donc
N XN
!
X
max aij vij . (4.37)
v≥0, Av=b
i=1 j=1
En vertu du Lemme 4.3.5 de Poincaré, la matrice A est totalement unimodulaire. Par

conséquent, la Proposition 4.3.3 garantit que les solutions optimales de (4.37) sont
entières. Autrement dit, il suffit d’appliquer l’algorithme du simplexe au programme
linéaire relaxé (4.37), sans aucune précaution particulière, pour résoudre le problème
d’affectation qui est de nature combinatoire !
Remarque 4.3.10 Il existe une autre preuve du caractère entier des solutions opti-
males de (4.37) (voir [5]). L’ensemble des matrices doublement stochastiques, c’est-
à-dire qui vérifient (4.36), est un ensemble convexe compact dont on peut montrer
(théorème de Birkhoff - von Neumann) que les points extrêmes sont précisément les
matrices de permutations. On peut aussi montrer (théorème de Minkowski) que l’en-
semble des matrices doublement stochastiques est l’enveloppe convexe de ses points
extrêmes. Par linéarité de la fonction coût, on en déduit qu’il existe des solutions qui
sont des matrices de permutation, autrement dit des solutions optimales entières. •
Chapitre 5
CONTRÔLABILITÉ DES
SYSTÈMES DIFFÉRENTIELS
5.1 Contrôlabilité des systèmes linéaires

Cette section est consacrée à la contrôlabilité des systèmes linéaires. Le principal
résultat est le critère de Kalman qui fournit une condition nécessaire et suffisante
pour la contrôlabilité d’un système linéaire autonome. De manière tout à fait re-
marquable, ce critère se formule de manière purement algébrique et la condition à
vérifier est indépendante de la condition initiale et de l’horizon temporel. Dans un
deuxième temps, nous considérons des systèmes de contrôle linéaires avec des bornes
sur le contrôle. Cela nous conduit à introduire la notion importante d’ensemble at-
teignable.
5.1.1 Systèmes de contrôle linéaires

Soit T > 0 un horizon temporel fixé. On considère un système dynamique dont
l’état x(t) ∈ Rd pour tout t ∈ [0,T ] est régi par le système différentiel
ẋ(t) = Ax(t) + Bu(t), ∀t ∈ [0,T ], x(0) = x0 ∈ Rd , (5.1)
avec des matrices A ∈ Rd×d , B ∈ Rd×k , où d ≥ 1 et k ≥ 1. La fonction temporelle
u : [0,T ] → Rk
nous permet d’agir sur le système afin d’en modifier l’état. On dit que u est le
contrôle. Une fois le contrôle u fixé, (5.1) est un problème de Cauchy. Afin
d’expliciter le fait que la trajectoire x, solution de (5.1), dépend du contrôle u, nous
la noterons souvent xu , et nous écrirons (5.1) sous la forme
ẋu (t) = Axu (t) + Bu(t), ∀t ∈ [0,T ], xu (0) = x0 ∈ Rd . (5.2)
Par la suite, nous supposerons que
u ∈ L1 ([0,T ]; Rk ),
145
146 CHAPITRE 5. CONTRÔLABILITÉ DES SYSTÈMES DIFFÉRENTIELS
et nous serons parfois amenés à faire des hypothèses un peu plus fortes sur le contrôle,
comme par exemple que u prend ses valeurs dans un sous-ensemble fermé non-vide
U de Rk , ce que nous noterons u ∈ L1 ([0,T ]; U ) ; nous ferons parfois des hypothèses
d’intégrabilité plus forte en temps, comme par exemple L2 ([0,T ]; U ) ou L∞ ([0,T ]; U ).
Rappelons à toutes fins utiles que l’espace L1 ([0,T ]; Rk ) est équipé de la norme
Z T
kukL1 ([0,T ];Rk ) = |u(s)|Rk ds,
0
où |·|Rk désigne la norme euclidienne sur Rk . (On peut remplacer la norme euclidienne
par toute autre norme sur Rk .) Rappelons que la notation ∗ désigne la transposition
des vecteurs ou des matrices ; on écrit donc x∗ y pour le produit scalaire entre deux
vecteurs et Z ∗ pour la transposée de la matrice Z.
Définition 5.1.1 (Systèmes de contrôle linéaires) On dit que (5.2) est un sys-
tème de contrôle linéaire. On dit que ce système est autonome (ou station-
naire) lorsque les matrices A et B ne dépendent pas du temps. Plus généralement,
on dit que le système de contrôle linéaire est instationnaire lorsqu’il s’écrit sous
la forme
ẋu (t) = A(t)xu (t) + B(t)u(t), ∀t ∈ [0,T ], xu (0) = x0 ,
avec A ∈ L1 ([0,T ]; Rd×d ) et B ∈ L1 ([0,T ]; Rd×k ). Enfin, on dit que le système de

contrôle linéaire a un terme de dérive lorsqu’il s’écrit sous la forme
ẋu (t) = Axu (t) + Bu(t) + f (t), ∀t ∈ [0,T ], xu (0) = x0 ,
avec f ∈ L1 ([0,T ]; Rd ), les matrices A et B pouvant ou non dépendre du temps.
Ici, nous considérerons le système de contrôle linéaire autonome (5.1). La pre-

mière question à se poser est si, pour tout contrôle u ∈ L1 ([0,T ]; Rk ) fixé, il existe
une unique trajectoire x : [0,T ] → Rd associée à ce contrôle, solution du problème
de Cauchy (5.1). Comme le contrôle u n’est a priori pas une fonction continue du
temps, on ne peut pas chercher une trajectoire de classe C 1 ([0,T ]; Rd ). Un bon cadre
fonctionnel pour la trajectoire est celui des fonctions absolument continues sur [0,T ],
dont on donne la définition.
Définition 5.1.2 (Fonction absolument continue) On dit qu’une fonction F :

[0,T ] → Rd est absolument continue sur [0,T ] et on écrit F ∈ AC([0,T ]; Rd ) s’il
existe f ∈ L1 ([0,T ]; Rd ) telle que
Z t
F (t) − F (0) = f (s) ds, ∀t ∈ [0,T ].
0
Si une fonction F est absolument continue sur [0,T ], alors elle est continue sur [0,T ]
et elle est dérivable presque partout, de dérivée égale à f .
5.1. CONTRÔLABILITÉ DES SYSTÈMES LINÉAIRES 147
Proposition 5.1.3 (Formule de Duhamel) Pour tout contrôle u ∈ L1 ([0,T ]; Rk ),

il existe une unique trajectoire xu ∈ AC([0,T ]; Rd ) solution de (5.1) au sens où
cette trajectoire vérifie la condition initiale xu (0) = x0 et le système différentiel
ẋu (t) = Axu (t) + Bu(t) presque partout (p.p.) sur [0,T ]. Cette trajectoire est donnée
par la formule de Duhamel
Z t
tA
xu (t) = e x0 + e(t−s)A Bu(s) ds, ∀t ∈ [0,T ]. (5.3)
0
On notera que cette expression a bien un sens pour u ∈ L1 ([0,T ]; Rk ) car la fonction
s 7→ e(t−s)A est bornée sur [0,T ].
Remarque 5.1.4 On rappellePque, pour une matrice carrée A, l’exponentielle de

matrice est définie par eA = n≥0 n!1 An . Par ailleurs, dtd etA = AetA = etA A, et si
A1 , A2 commutent (A1 A2 = A2 A1 ), alors eA1 eA2 = eA2 eA1 = eA1 +A2 .
5.1.2 Cas sans contraintes : critère de Kalman

Définition 5.1.5 (Contrôlabilité) On dit que le système (5.2) est contrôlable en
temps T à partir de x0 si
∀x1 ∈ Rd , ∃u ∈ L∞ ([0,T ]; Rk ), xu (T ) = x1 .
On cherche donc à atteindre la cible x1 au temps T à partir de x0 .
Remarque 5.1.6 Dans la Définition 5.1.5 on pourrait demander à ce que le contrôle

u ne soit pas forcément borné, par exemple u ∈ L1 ([0,T ]; Rk ).
En posant x2 = x1 − eT A x0 , la contrôlabilité en T à partir de x0 équivaut à
Z T
∞
d k
∀x2 ∈ R , ∃u ∈ L ([0,T ]; R ), x2 = e(T −s)A Bu(s) ds,
0
i.e., à la surjectivité de l’application

Z T
∞ k
Φ : L ([0,T ]; R ) → R , d
Φ(u) = e(T −s)A Bu(s) ds. (5.4)
0
Un résultat remarquable, dû à Kalman, permet de caractériser la surjectivité de cette

application à partir d’une condition purement algébrique ne faisant intervenir que
les matrices A et B.
Théorème 5.1.7 (Critère de Kalman) Le système linéaire autonome ẋu (t) =

Axu (t)+Bu(t) est contrôlable pour tout T > 0 et pour tout x0 ∈ Rd si et seulement
si la matrice de Kalman C ∈ Rd×dk , définie par
C = B, AB, · · · , Ad−1 B ,

est de rang maximal, ce qui signifie que

rang(C) = d. (5.5)
Remarque 5.1.8 La condition de Kalman (5.5) est indépendante de l’horizon

temporel T > 0 et de la donnée initiale x0 ∈ Rd . La contrôlabilité d’un système
linéaire autonome est donc indépendante de ces deux paramètres. Cela signifie en
particulier que lorsqu’un système de contrôle linéaire autonome est contrôlable, on
peut atteindre à partir d’une donnée initiale toute cible, même très lointaine, en
un horizon temporel même très court. Ce n’est pas très surprenant dans la mesure
où on ne s’est pas imposé de bornes sur la valeur du contrôle ; celui-ci peut donc
prendre des valeurs très grandes si nécessaire.
Remarque 5.1.9 On vérifie facilement que la condition de Kalman est invariante

par changement de base. En effet, soit P ∈ Rd×d une matrice inversible de chan-
gement de base. On considère le système linéaire autonome ẋ(t) = Ax(t) + Bu(t).
Dans la nouvelle base, ce système s’écrit
ẏ(t) = Ay(t)
e + Bu(t),
e
avec y(t) = P −1 x(t), A

e = P −1 AP , B
e = P −1 B, si bien que

C
e = B, e AeB, e = P −1 C.
ed−1 B
e ··· ,A
Par conséquent, rang(C) = rang(C).

e
Démonstration. (1) Supposons d’abord que rang(C) < d. Par conséquent les lignes
de C sont liées et il existe un vecteur Ψ ∈ Rd , Ψ 6= 0, tel que
Ψ∗ B = Ψ∗ AB = · · · = Ψ∗ Ad−1 B = 0 (∈ Rk ),
où Ψ∗ désigne le transposé de Ψ (Ψ∗ est un vecteur ligne). D’après le théorème de
Cayley-Hamilton, il existe des réels s0 , · · · , sd−1 tels que
Ad = s0 Id + · · · + sd−1 Ad−1 ,
où Id est la matrice identité dans Rd×d . On en déduit par récurrence que Ψ∗ Ak B =
0 pour tout k ∈ N, puis que Ψ∗ etA B = 0 pour tout t ∈ [0,T ]. Par conséquent,
Ψ∗ Φ(u) = 0 pour tout contrôle u, i.e., l’application Φ ne peut être surjective.
(2) Réciproquement, si l’application Φ n’est pas surjective, il existe un vecteur Ψ ∈
Rd , Ψ 6= 0, tel que
Z T
∗
Ψ e(T −s)A Bu(s) ds = 0, ∀u ∈ L∞ ([0,T ]; Rk ).
0
∗
En choisissant le contrôle u(s) = B ∗ e(T −s)A Ψ, qui est bien dans L∞ ([0,T ]; Rk ), on
en déduit que
Ψ∗ etA B = 0 (∈ Rk ), ∀t ∈ [0,T ].
En t = 0, il vient Ψ∗ B = 0, puis en dérivant par rapport à t, il vient Ψ∗ AB = 0 et
ainsi de suite ; d’où
Ψ∗ B = Ψ∗ AB = · · · = Ψ∗ Ad−1 B = 0 (∈ Rk ).
La matrice C ne peut donc être de rang maximal. 2
Exemple 5.1.10 [Contrôle d’un tram] On reprend l’Exemple 1.3.1 où l’état du

tram (supposé de masse unité) est décrit par sa position X(t) et sa vitesse V (t) le
long d’un axe unidirectionnel et on contrôle l’accélération du tram sous la forme
Ẍ(t) = u(t), ∀t ∈ [0,T ].
Cette équation différentielle du second ordre en temps se récrit comme un système

d’ordre un en temps (avec d = 2, k = 1) :

0 1 0 X(t)
ẋ(t) = x(t) + u(t), x(t) = .
0 0 1 V (t)
| {z } |{z}
=:A =:B
La matrice de Kalman C ∈ R2×2 est

0 1
C= , rang(C) = 2.
1 0
Le tram est donc contrôlable en tout temps T à partir de tout x0 = (X0 , V0 )∗

(position et vitesse initiales) : cela signifie que quel que soit x1 = (X1 , V1 )∗ (position
et vitesse cibles en T ), il existe un contrôle u ∈ L∞ ([0,T ]; R) amenant le tram de x0
en x1 au temps T .
Exemple 5.1.11 [Circuit RLC] Considérons maintenant un exemple issu de l’élec-

tronique : le circuit RLC. Ici, x (l’état) représente la charge du circuit et u (le
contrôle) la tension appliquée
u(t) = Lẍ(t) + Rẋ(t) + C −1 x(t),
ou encore ẍ(t) = − R
L
1
ẋ(t) − LC x(t) + L1 u(t) On obtient le système de contrôle linéaire
(avec d = 2, k = 1) sous la forme

0 1 0 x(t)
Ẋ(t) = −1 −R X(t) + 1 u(t), X(t) = .
LC L L
ẋ(t)
La matrice de Kalman C ∈ R2×2 est

0 L1

C = 1 −R , rang(C) = 2,
L L2
ce qui montre que le circuit RLC est contrôlable.

Il est intéressant de considérer une reformulation du critère de Kalman. On
introduit la matrice GT ∈ Rd×d telle que
Z T
∗
GT = e(T −s)A BB ∗ e(T −s)A ds. (5.6)
0
Il est clair que la matrice GT est

R T symétrique, et on vérifie facilement qu’elle est semi-
∗ ∗ (T −s)A∗ 2
définie positive car y GT y = 0 |B e y|Rk ds ≥ 0 pour tout vecteur y ∈ Rd .
Lemme 5.1.12 (Reformulation du critère de Kalman) Le système linéaire au-

tonome ẋ(t) = Ax(t) + Bu(t) est contrôlable pour tout T > 0 et pour tout x0 ∈ Rd
si et seulement si la matrice GT , définie par (5.6), est inversible.
Démonstration. (1) Soit x1 ∈ Rd . Supposons la matrice GT inversible et posons
∗
u(t) = B ∗ e(T −s)A y où y = G−1
T (x1 − e
TA
x0 ).
Par la formule de Duhamel, on voit que
Z T
TA
xu (T ) = e x0 + e(T −s)A Bu(s) ds = eT A x0 + GT y = x1 .
0
Ceci montre que le système est contrôlable.

(2) Supposons qu’il existe Ψ ∈ Rd , Ψ 6= 0, dans Ker(GT ). Il vient
Z T
∗ ∗
0 = Ψ GT Ψ = |B ∗ e(T −s)A Ψ|2Rk ds,
0
si bien que Ψ∗ e(T −s)A B = 0 pour tout s ∈ [0,T ]. Par la formule de Duhamel, on
obtient Ψ∗ (xu (T ) − eT A x0 ) = 0, ce qui montre que xu (T ) est dans un hyperplan
affine. Par conséquent, le système n’est pas contrôlable. 2
Remarque 5.1.13 Le critère de Kalman rang(C) = d étant indépendant de T , on

en déduit que l’inversibilité de la matrice GT est donc, elle aussi, indépendante de
T . Dans le cas des systèmes de contrôle linéaires autonomes, le critère de Kalman
est plus simple à vérifier que l’inversibilité de GT . Toutefois, la matrice GT nous sera
utile dans le Chapitre 6 lorsque nous étudierons la synthèse d’un contrôle optimal
pour la minimisation d’un critère quadratique.
Concluons cette section par une extension du critère de Kalman au cas de la
contrôlabilité des systèmes linéaires instationnaires, i.e., de la forme
ẋu (t) = A(t)xu (t) + B(t)u(t), ∀t ∈ [0,T ], xu (0) = x0 , (5.7)
avec A ∈ L1 ([0,T ]; Rd×d ) et B ∈ L1 ([0,T ]; Rd×k ). Pour de tels systèmes, la formule
de Duhamel n’est plus valable. On utilise la notion de résolvante R : [0,T ] → Rd×d
définie comme l’unique solution de
Ṙ(t) = A(t)R(t), R(0) = Id,
où I est la matrice identité de Rd×d . On notera que
A ∈ L1 ([0,T ]; Rd×d ) =⇒ R ∈ AC([0,T ]; Rd×d ),
A ∈ C 0 ([0,T ]; Rd×d ) =⇒ R ∈ C 1 ([0,T ]; Rd×d ).
Comme dtd det(R(t)) = tr(A(t)) det(R(t)) et det(R(0)) = 1, la matrice R(t) est
inversible à tout temps (la quantité det(R(t)) s’appelle le Wronskien au temps t).
On notera également que, dans le cas autonome où A(t) = A, on a R(t) = etA . On
vérifie sans peine que la solution du système différentiel instationnaire (5.7) est
Z t
xu (t) = R(t)x0 + R(t) R(s)−1 B(s)u(s) ds, ∀t ∈ [0,T ].
0
Lemme 5.1.14 (Critère de contrôlabilité, cas instationnaire) Le système ins-

tationnaire (5.7) est contrôlable en temps T à partir de x0 si et seulement si la
matrice de contrôlabilité
Z T
KT := R(s)−1 B(s)B(s)∗ (R(s)−1 )∗ ds ∈ Rd×d (5.8)
0
est inversible.
Démonstration. Identique au cas autonome. 2
Remarque 5.1.15 La condition (5.8) dépend de T , mais pas de x0 . Ainsi, la contrô-

labilité en temps T à partir de x0 implique la contrôlabilité en temps T à partir de
tout point ; en revanche, on ne peut s’affranchir de la dépendance en T . On notera
également que dans le cas autonome, on a R(s) = esA et B(s) = B, si bien que
Z T
−T A (T −s)A ∗ (T −s)A∗ ∗ ∗
KT = e e BB e ds e−T A = e−T A GT e−T A
0
On retrouve donc le critère du Lemme 5.1.12 sur la matrice GT .
Contre-exemple 5.1.16 [Non-contrôlabilité] On considère le système de contrôle

linéaire instationnaire (d = 2 et k = 1)

0 −1 cos(t)
ẋu (t) = x (t) + u(t). (5.9)
1 0 u sin(t)

sA cos(s) − sin(s)
On vérifie facilement que R(s) = e = sin(s) cos(s) , d’où

−1 1 T 0
R(s) B(s) = =⇒ KT = .
0 0 0
La matrice KT n’est donc pas inversible, si bien que le système (5.9) n’est pas
contrôlable. Le problème vient du fait que la matrice R(s)−1 B(s) est indépendante
de s. En revanche, si le vecteur B était constant (et non-nul), le système serait
contrôlable car B et AB seraient alors des vecteurs orthogonaux non-nuls, si bien
que la matrice de Kalman C = (B, AB) serait de rang plein.
5.1.3 Cas avec contraintes : ensemble atteignable

On considère toujours le système de contrôle linéaire autonome (5.2) mais dé-
sormais on suppose que le contrôle u est à valeurs dans un sous-ensemble compact
non-vide
U ⊂ Rk . (5.10)
En particulier, le contrôle u(t) est borné pour tout t ∈ [0,T ]. On a donc u ∈
L∞ ([0,T ]; U ). (On notera que L1 ([0,T ]; U ) = L∞ ([0,T ]; U ) lorsque l’ensemble U est
borné.) Les résultats de cette section s’étendent au cas instationnaire avec terme de
dérive, mais pour simplifier, nous ne traiterons pas ce cas plus général.
Définition 5.1.17 (Ensemble atteignable) Pour tout t ∈ [0,T ] et tout x0 ∈ Rd ,

l’ensemble atteignable en temps t à partir de x0 est défini comme suit :
A(t, x0 ) = {x1 ∈ Rd | ∃u ∈ L∞ ([0,t]; U ) tel que xu (t) = x1 }. (5.11)
Théorème 5.1.18 (Propriétés de l’ensemble atteignable) Pour tout t ∈ [0,T ],

l’ensemble atteignable A(t, x0 ) est compact, convexe, et varie continûment en t.
La continuité en temps est uniforme, i.e., pour tout > 0, il existe δ > 0 tel que
∀t1 , t2 ∈ [0,T ], |t1 − t2 | ≤ δ =⇒ d(A(t1 , x0 ), A(t2 , x0 )) ≤ , (5.12)
où la distance de Hausdorff entre deux sous-ensembles A1 et A2 de Rd est définie

comme suit (cf. la figure 5.1) :

d(A1 , A2 ) := max sup d(x1 , A2 ), sup d(x2 , A1 )
x ∈A x2 ∈A2
1 1
= max sup inf |x1 − y2 |Rd , sup inf |x2 − y1 |Rd . (5.13)
x1 ∈A1 y2 ∈A2 x2 ∈A2 y1 ∈A1
A1 A2
d(x1, A2)
x1
d(x2, A1)
x2
Figure 5.1 – Distance de Hausdorff entre deux sous-ensembles A1 et A2 de Rd .
Démonstration. Nous verrons les preuves de variation continue en temps et de

compacité dans la Section 5.2 dans le cas plus général des systèmes de contrôle non-
linéaires. Nous nous contentons ici de prouver la convexité de l’ensemble atteignable
A(t, x0 ), propriété qui est, quant à elle, spécifique au cas linéaire.
(1) Cas où le sous-ensemble U est convexe. Dans ce cas, la preuve de convexité de
l’ensemble atteignable A(t, x0 ) est élémentaire. Soit x1 , x2 ∈ A(t, x0 ), soit θ ∈ [0, 1]
et montrons que θx1 + (1 − θ)x2 ∈ A(t, x0 ). Par définition, il existe des contrôles
ui ∈ L∞ ([0,t]; U ), i ∈ {1, 2}, tels que
Z t
tA
xi = e x0 + e(t−s)A Bui (s) ds,
0
où xi est la trajectoire associée au contrôle ui , i ∈ {1, 2}. Posons u(s) = θu1 (s) +
(1 − θ)u2 (s), pour tout s ∈ [0,t]. La fonction u est mesurable et cette fonction est à
valeurs dans U grâce à la convexité du sous-ensemble U . De plus, par linéarité, la
trajectoire xu associée au contrôle u vérifie

Z t
tA
xu (t) = e x0 + e(t−s)A Bu(s) ds
0
Z t Z t
tA (t−s)A
= e x0 + θ e Bu1 (s) ds + (1 − θ) e(t−s)A Bu2 (s) ds
0 0
= θx1 + (1 − θ)x2 ,
ce qui montre que θx1 + (1 − θ)x2 ∈ A(t, x0 ).
(2) Cas général pour U . Dans ce cas, on invoque le Lemme de Lyapunov 5.1.19
rappelé ci-dessous (pour la preuve, voir par exemple la référence [20]). Soit x1 , x2 ∈
A(t, x0 ), soit θ ∈ [0, 1] et montrons à nouveau que θx1 + (1 − θ)x2 = x(t) ∈ A(t, x0 ).
Par définition, il existe des contrôles ui ∈ L∞ ([0,t]; U ), i ∈ {1, 2}, tels que xi =
R t
etA x0 + 0 e(t−s)A Bui (s) ds. Posons yi = xi − etA x0 et considérons la fonction f ∈
L1 ([0,t]; R2d ) telle que
(t−s)A
e Bu1 (s)
f (s) = (t−s)A ∈ R2d .
e Bu2 (s)
On a {0} f (s) ds = (0, 0)∗ et [0,t] f (s) ds = (y1 , y2 )∗ . En invoquant le lemme de
R R
Lyapunov, on en déduit qu’il existe un sous-ensemble mesurable E ⊂ [0,t] tel que

Z
θy1
f (s) ds = .
E θy2
En notant E c le complémentaire de E dans [0,t], on a
Z Z Z
(1 − θ)y1
f (s) ds = f (s) ds − f (s) ds = .
Ec [0,t] E (1 − θ)y2
Finalement, on pose (
u1 (s) si s ∈ E,
u(s) =
u2 (s) si s ∈ E c .
Le contrôle ainsi défini est bien une fonction mesurable de [0,t] dans U car les
ensembles E et E c sont mesurables. De plus, la trajectoire xu associée à ce contrôle
satisfait
Z
tA
xu (t) − e x0 = e(t−s)A Bu(s) ds
[0,t]
Z Z
(t−s)A
= e Bu1 (s) ds + e(t−s)A Bu2 (s) ds = θy1 + (1 − θ)y2 ,
E Ec
ce qui montre que θx1 + (1 − θ)x2 = xu (t) ∈ A(t, x0 ). 2
Lemme 5.1.19 (Lyapunov) Soit t > 0. Soit une fonction f ∈ L1 ([0,t]; Rn ). Alors,
le sous-ensemble Z
f (s) ds | E ⊂ [0,t] mesurable (5.14)
E
est un sous-ensemble convexe de Rn .
Remarque 5.1.20 On peut montrer que l’ensemble atteignable pour des contrôles
à valeurs dans U est le même que pour des contrôles à valeurs dans conv(U ) (l’en-
veloppe convexe de U ).
Exemple 5.1.21 [Mouvement d’un point matériel] On considère un point matériel

en mouvement rectiligne. On contrôle la vitesse de ce point par un contrôle à valeurs
dans l’intervalle borné U := [−1, 1] :
ẋ(t) = u(t), ∀t ∈ [0,T ], x(0) = 0, u(t) ∈ U = [−1, 1],
où on a fixé l’origine à la position initiale du point matériel. L’ensemble atteignable

est A(t, 0) = [−t, t] (qui est bien compact, convexe et varie continûment en t).
On constate qu’on obtient le même ensemble atteignable en se restreignant à des
contrôles à valeurs dans ∂U = {−1, 1}. De tels contrôles sont appelés des contrôles
bang-bang car ils ne prennent que des valeurs extrémales dans ∂U . Les valeurs
du temps t où le contrôle bang-bang est discontinu, c’est-à-dire saute d’une valeur
±1 à son opposée, sont appelées les temps de commutation. Une illustration est
présentée à la Figure 5.2.
x
u ≡ +1
x(t) ∈ A[−1,1](t, x0) = A{−1,1}(t, x0)
x0 t
u ≡ −1
Figure 5.2 – Ensemble atteignable par un point matériel dont on contrôle la vitesse
dans U = [−1, 1].
5.2 Contrôlabilité des systèmes non-linéaires

Cette section porte sur la contrôlabilité des systèmes de contrôle non-linéaires.
Comme à la section précédente, la notion d’ensemble atteignable joue un rôle im-
portant. Le résultat principal de cette section est un critère de contrôlabilité locale
au voisinage d’une cible située dans l’ensemble atteignable, ce critère se formulant à
l’aide de la contrôlabilité du système linéarisé. Afin d’établir ce résultat, nous mon-
trerons que, sous certaines hypothèses, la différentielle de l’application entrée-sortie
(qui à un contrôle associe l’état du système au temps final) est différentiable et que
5.2. CONTRÔLABILITÉ DES SYSTÈMES NON-LINÉAIRES 155
sa différentielle est l’application entrée-sortie du système linéarisé. Dans cette sec-

tion on utilisera certains résultats sur les équations différentielles ordinaires qui sont
rappelés dans l’Annexe 8.
5.2.1 Ensemble atteignable

On fixe un horizon temporel T > 0 et une condition initiale x0 ∈ Rd . On
considère le système de contrôle non-linéaire
ẋu (t) = f (t, xu (t), u(t)), ∀t ∈ [0,T ], xu (0) = x0 . (5.15)
Soit U ⊂ Rk un sous-ensemble compact non-vide de Rk . La définition de l’ensemble
atteignable (en temps t ∈ [0,T ] à partir de x0 ) est identique à celle que nous avons
introduite dans le cas linéaire (cf. la Définition 5.1.17).
Définition 5.2.1 (Ensemble atteignable) Pour tout t ∈ [0,T ], l’ensemble at-

teignable en temps t à partir de x0 est défini comme suit :
A(t, x0 ) = {x1 ∈ Rd | ∃u ∈ L∞ ([0,t]; U ) tel que xu (t) = x1 }.
Nous allons établir deux propriétés importantes et utiles de l’ensemble attei-
gnable : sa variation continue en temps et sa compacité.
Lemme 5.2.2 (Variation continue en temps) On suppose que

(i) f est continue sur R × Rd × U ;
(ii) U est un sous-ensemble compact non-vide de Rk ;
(iii) les trajectoires sont uniformément bornées, i.e.,
∃M > 0, ∀u ∈ L∞ ([0,T ]; U ), sup |xu (t)|Rd ≤ M.
t∈[0,T ]
Alors, l’ensemble A(t, x0 ) varie continûment en temps, et ce de manière uniforme,

i.e., pour tout > 0, il existe δ > 0 tel que
∀t1 , t2 ∈ [0,T ], |t1 − t2 | ≤ δ =⇒ d(A(t1 , x0 ), A(t2 , x0 )) ≤ ,
où d est la distance de Hausdorff d entre deux sous-ensembles, définie en (5.13)
(cf. la Figure 5.1).
Remarque 5.2.3 Les hypothèses du Lemme 5.2.2 sont bien vérifiées dans le cas
linéaire. L’ensemble atteignable varie donc continûment en temps dans ce cas.
Démonstration. Soit > 0. On va montrer qu’il existe δ > 0 tel que
∀t1 , t2 ∈ [0,T ], |t1 − t2 | ≤ δ =⇒ d(A1 , A2 ) ≤ ,
où A1 = A(t1 , x0 ) et A2 = A(t2 , x0 ). Supposons pour fixer les idées que t2 > t1 . Soit
x2 ∈ A2 . Il existe donc un contrôle u ∈ L∞ ([0,t2 ]; U ) tel que
Z t2
x2 = x 0 + f (s, x(s), u(s)) ds.
0
Avec ce même contrôle, on pose

Z t1
x 1 = x0 + f (s, x(s), u(s)) ds ∈ A(t1 , x0 ).
0
D’après les hypothèses sur f , x et u, on a

Z t2
|x2 − x1 |Rd ≤ |f (s, x(s), u(s))|Rd ds ≤ C|t2 − t1 |.
t1
Ceci montre que d(x2 , A1 ) ≤ |x2 − x1 |Rd ≤ C|t2 − t1 |. On raisonne de même pour
x1 ∈ A1 , ce qui conclut la preuve. 2
Lemme 5.2.4 (Compacité) On suppose que

(i) f est continue sur R × Rd × U et de classe C 1 en x ;
(ii) U est un sous-ensemble compact non-vide de Rk ;
(iii) les trajectoires sont uniformément bornées, i.e.,
∃M > 0, ∀u ∈ L∞ ([0,T ]; U ), sup |xu (t)|Rd ≤ M ;

t∈[0,T ]
(iv) pour tout (t, x) ∈ [0,T ]×Rd , l’ensemble des vecteurs vitesse K(t, x) := {f (t, x, u) | u ∈
U } est un sous-ensemble convexe de Rd .
Alors, pour tout t ∈ [0,T ], l’ensemble atteignable A(t, x0 ) est un sous-ensemble com-
pact de Rd .
Remarque 5.2.5 Les hypothèses du Lemme 5.2.4 sont bien vérifiées dans le cas
linéaire avec U convexe. L’ensemble atteignable est donc compact dans ce cas.
Démonstration. On se place dans l’espace de Hilbert V = L2 ([0,T ]; Rd ) et on
va montrer la compacité de l’ensemble atteignable A(T, x0 ). La preuve utilise des
notions de topologie faible dans les espaces de Hilbert (voir la Sous-section 2.3.3
pour cette notion).
(1) Soit (yn )n∈N une suite d’éléments de A(T, x0 ) ⊂ Rd . Soit (un )n∈N une suite de
contrôles dans L∞ ([0,T ]; U ) et (xn )n∈N la suite de trajectoires correspondantes dans
AC([0,T ]; Rd ) menant de x0 à yn . Posons gn (s) = f (s, xn (s), un (s)) ds pour tout
n ∈ N et s ∈ [0,T ]. On a
Z t
xn (t) = x0 + gn (s) ds, ∀t ∈ [0,T ] et yn = xn (T ).
0
D’après les hypothèses, la suite (gn )n∈N est bornée dans V . En invoquant le Lemme 2.3.13
sur la compacité faible dans les espaces de Hilbert, on en déduit qu’à une sous-suite
près, la suite (gn )n∈N converge vers une fonction g ∈ V pour la topologie faible. On
définit la trajectoire x ∈ AC([0,T ]; Rd ) en posant
Z t
x(t) = x0 + g(s) ds, ∀t ∈ [0,T ].
0
Rt Rt
Par convergence faible, on a 0
gn (s) ds = (gn , 1[0,t] )V → (g, 1[0,t] )V = 0
g(s) ds, i.e.,
lim xn (t) = x(t), ∀t ∈ [0,T ].

n→+∞
En particulier, on a donc
lim yn = x(T ).
n→+∞
Il reste à montrer que la trajectoire x(t) peut bien être engendrée par un contrôle
u ∈ L∞ ([0,T ]; U ).
(2) Posons θn (s) = f (s, x(s), un (s)) et introduisons l’ensemble
Θ = {θ ∈ V | θ(s) ∈ K(s, x(s)), ∀s ∈ [0,T ]},
de sorte que (θn )n∈N est une suite de Θ. Par hypothèse, K(s, x(s)) est un sous-
ensemble convexe de Rd pour tout s ∈ [0,T ]. On en déduit que Θ est un sous-
ensemble convexe de V . De plus, Θ est fermé dans V car la convergence dans V
implique la convergence p.p. d’une sous-suite, et K(s, x(s)) est fermé dans Rd . Grâce
au Lemme 2.3.15 sur la fermeture faible des convexes dans les espaces de Hilbert,
on en déduit que Θ est faiblement fermé dans V . De plus, comme la suite (θn )n∈N
est bornée dans V , on déduit du Lemme 2.3.13 qu’elle converge faiblement, à une
sous-suite près, vers une fonction θ ∈ Θ. Il existe donc une fonction u : [0,T ] → U
telle que θ(s) = f (s, x(s), u(s)) p.p. dans [0,T ], et la fonction u peut être choisie
mesurable (cf. la Section 8.2 pour plus de précisions sur ce point). Pour tout ϕ ∈ V ,
on a
Z T Z T Z T
gn (s)ϕ(s) ds = θn (s)ϕ(s) ds+ (f (s, xn (s), un (s))−f (s, x(s), un (s))ϕ(s) ds.
0 0 0
(5.16)
Comme |f (s, xn (s), un (s))−f (s, x(s), un (s))|Rd ≤ C|xn (s)−x(s)|Rd et |xn (s)−x(s)|Rd
tend vers zéro p.p. dans [0,T ], le deuxième terme au membre de droite de (5.16) tend
vers zéro (invoquer le théorème de convergence dominée de Lebesgue). En outre, par
RT RT
convergence faible, on a 0 g(s)ϕ(s) ds = 0 θ(s)ϕ(s) ds, i.e., g(s) = θ(s) p.p. dans
[0,T ]. En conclusion, on a bien g(s) = f (s, x(s), u(s)) p.p. sur [0,T ]. 2
5.2.2 Contrôlabilité locale des systèmes non-linéaires

On considère toujours le système de contrôle non-linéaire (5.15). On suppose
désormais que la fonction f (t, x, u) est de classe C 1 en (x, u).
Définition 5.2.6 (Application entrée-sortie) L’application entrée-sortie en

temps T à partir de x0 est l’application
ET,x0 : UT,x0 → A(T, x0 ), ET,x0 (u) = xu (T ), (5.17)
où UT,x0 ⊂ L∞ ([0,T ]; U ), U étant un sous-ensemble fermé non-vide de Rk , est le

domaine de ET,x0 , i.e., l’ensemble des contrôles tels que la trajectoire associée xu est
bien définie sur [0,T ]. L’ensemble atteignable A(T, x0 ) est l’image de l’application
entrée-sortie ET,x0 .
Soit y ∈ A(T, x0 ). Par définition, il existe un contrôle uy ∈ UT,x0 amenant l’état

de x0 à y en temps T . Le problème de la contrôlabilité locale consiste à savoir si
cette propriété reste satisfaite dans un voisinage du point y ∈ A(T, x0 ).
Définition 5.2.7 (Contrôlabilité locale) On dit que le système de contrôle non-

linéaire (5.15) est contrôlable localement en un point y ∈ A(T, x0 ) s’il existe un
voisinage Vy de y dans Rd tel que Vy ⊂ A(T, x0 ), i.e., pour tout y 0 ∈ Vy , il existe un
contrôle uy0 ∈ UT,x0 amenant l’état de x0 à y 0 en temps T .
Afin d’étudier la contrôlabilité locale du système de contrôle non-linéaire (5.15),
nous allons considérer la différentielle (de Fréchet) de l’application entrée-sortie
ET,x0 . Pour simplifier, on se place pour le reste de cette section dans le cas sans
contrainte, i.e., on suppose que U = Rk si bien que l’on a UT,x0 ⊂ L∞ ([0,T ]; Rk ). Par
des arguments de dépendance de la solution d’un système différentiel en des para-
mètres, on vérifie facilement que UT,x0 est un sous-ensemble ouvert de L∞ ([0,T ]; Rk ).
On est donc dans la situation où
ET,x0 : UT,x0 ⊂ L∞ ([0,T ]; Rk ) → A(T, x0 ) ⊂ Rd .
Soit u ∈ UT,x0 et xu ∈ AC([0,T ]; Rd ) la trajectoire associée. Soit
δu ∈ L∞ ([0,T ]; Rk ),
une perturbation du contrôle ; on suppose cette perturbation suffisamment petite

pour que u+δu ∈ UT,x0 (ceci est possible puisque UT,x0 est un sous-ensemble ouvert de
L∞ ([0,T ]; Rk )). On considère le système différentiel linéarisé le long de la trajectoire
xu , i.e.,
˙
δx(t) = Au (t)δx(t) + Bu (t)δu(t), ∀t ∈ [0,T ], δx(0) = 0, (5.18)
où pour tout t ∈ [0,T ],

∂f ∂f
Au (t) = (t, xu (t), u(t)) ∈ Rd×d , Bu (t) = (t, xu (t), u(t)) ∈ Rd×k .
∂x ∂u
Lemme 5.2.8 L’application entrée-sortie ET,x0 est différentiable (au sens de Fré-
0
chet) en tout u ∈ UT,x0 et sa différentielle ET,x0
(u) : L∞ ([0,T ]; Rk ) → Rd est l’appli-
cation entrée-sortie du système linéarisé le long de la trajectoire xu ; plus explicite-
ment, pour tout δu ∈ L∞ ([0,T ]; Rk ), on a
0
hET,x0
(u), δui = δx(T ),
où δx est solution du système différentiel linéarisé (5.18).
Remarque 5.2.9 Dans le Lemme 5.2.8 la notion de différentielle de Fréchet est celle
pour une application définie sur un espace de Banach B et la notation hL, δui désigne
le produit de dualité entre une application linéaire continue L (qui appartient au
dual B 0 ) et un élément δu ∈ B. La Définition 2.4.1 ne considérait que des applications
définies sur un espace de Hilbert mais, comme expliqué dans la Remarque 2.4.2, il
suffit de remplacer le produit scalaire de l’espace de Hilbert par le produit de dualité

entre l’espace de Banach B et son dual B 0 . La différentielle ET,x 0
0
(u) est bien une
forme linéaire continue en δu car on a
Z T
0
hET,x0 (u), δui = R(T ) R(s)−1 Bu (s)δu(s) ds,
0
où R(t) est la résolvante du système linéarisé, i.e., la solution matricielle dans

Rd×d de Ṙ(t) = Au (t)R(t), pour tout t ∈ [0,T ], et R(0) = Id. On a donc bien
0 0
|hET,x0
(u), δui| ≤ CkδukL∞ ([0,T ];Rk ) . En outre, ET,x0
(u) dépend continûment de u.
Démonstration. Nous nous contentons d’esquisser la preuve. Soit δu ∈ V =
L∞ ([0,T ]; Rk ) tel que u + δu ∈ UT,x0 (qui est ouvert dans V ). On note xu+δu la
trajectoire associée à u + δu issue de x0 . En effectuant des développements de Tay-
lor sur f , il vient
ẋu+δu (t) − ẋu (t) = f (t, xu+δu (t), u(t) + δu(t)) − f (t, xu (t), u(t))
= ∂f
∂x
(t, xu (t), u(t))(xu+δu (t) − xu (t)) + ∂f
∂u
(t, xu (t), u(t))δu(t) + o(δu)
= Au (t)(xu+δu (t) − xu (t)) + Bu (t)δu(t) + o(δu),
car xu+δu − xu = O(δu) (dépendance continue en un paramètre de la solution d’un

système différentiel). En posant (t) = xu+δu (t) − xu (t) − δx(t), on en déduit que
(0) = 0 et que
˙
˙ = ẋu+δu (t) − ẋu (t) − δx(t)
(t)
= Au (t)(xu+δu (t) − xu (t) − δx(t)) + o(δu) = Au (t)(t) + o(δu).
Par des arguments de stabilité, on montre que = o(δu). En conclusion, on obtient
ET,x0 (u + δu) − ET,x0 (u) = xu+δu (T ) − xu (T )

= δx(T ) + (T ) = δx(T ) + o(δu),
et on a vu que δu 7→ δx(T ) définit une forme linéaire continue sur δu pour la

topologie de V . Ceci conclut la preuve. 2
Théorème 5.2.10 (Contrôlabilité locale) Si le système différentiel linéarisé le

long de la trajectoire xu est contrôlable (en temps T ), alors le système différentiel
non-linéaire est localement contrôlable (en temps T à partir de x0 ).
Démonstration. Si le système différentiel linéarisé est contrôlable, alors la différen-
0
tielle de l’application entrée-sortie ET,x0
est surjective. On conclut par le théorème
de la submersion rappelé ci-dessous (qui est une variante du théorème des fonctions
implicites, voir par exemple la référence [22]). 2
Théorème 5.2.11 (Submersion) Soit V et W deux espaces de Banach, et F :

V → W une application continûment différentiable. Soit v ∈ V . Si l’application
différentielle F 0 (v) : V → W est surjective, alors F est localement surjective au
voisinage de F (v) ∈ W .
Remarque 5.2.12 On considère le cas particulier d’un point d’équilibre d’un

système différentiel autonome, i.e., un couple (x0 , u0 ) tel que f (x0 , u0 ) = 0. Noter
que x0 ∈ A(t, x0 ) en utilisant le contrôle constant égal à u0 . Le critère de contrôlabi-
lité locale en x0 consiste à vérifier que les matrices A = ∂f
∂x
(x0 , u0 ) et B = ∂f
∂u
(x0 , u0 )
vérifient la condition de Kalman. En effet, comme f (x0 , u0 ) = 0, la trajectoire de
référence est réduite à un point, si bien que le système linéarisé est également auto-
nome, et on peut appliquer la condition de Kalman pour en vérifier la contrôlabilité.
Remarque 5.2.13 [Inversion du temps] En cas de contrôlabilité locale et lorsque

la dynamique est autonome et de la forme f (x, u) = ug(x) (en supposant pour
simplifier u à valeurs scalaires), on déduit par inversion du temps que pour tout
y ∈ A(T, x0 ) tel que Vy ⊂ A(T, x0 ), on peut ramener tout point y 0 ∈ Vy à x0 .
En effet, en notant u0 le contrôle amenant x0 en y 0 en temps T , on pose ũ0 (t) =
−u0 (T − t) et on vérifie que x̃(t) = xu0 (T − t) vérifie bien x̃(0) = y 0 , x̃(T ) = x0 et
d
dt
x̃(t) = − dtd xu0 (T − t) = −u0 (T − t)g(xu0 (T − t)) = ũ0 (t)g(x̃(t)), ce qui montre que
x̃ est bien la trajectoire associée au contrôle ũ0 .
Exemple 5.2.14 [Pendule inversé] On considère l’exemple du pendule inversé (masse

vers le haut, tige vers le bas) avec pour simplifier une masse et une longueur unités
(m = 1, l = 1). On suppose que le pendule a un mouvement dans un plan et on
repère l’extrémité supérieure du pendule par son angle θ avec la verticale (dans le
sens horaire). On contrôle l’accélération horizontale du point inférieur de la tige. La
dynamique s’écrit sous la forme
θ̈(t) = sin(θ(t)) − u(t) cos(θ(t)).
En posant x = (x1 , x2 ) = (θ, θ̇) ∈ R2 , on se ramène à un système d’ordre un :

x2
ẋ(t) = f (x(t), u(t)), f (x, u) = .
sin(x1 ) − u cos(x1 )
On calcule

∂f 0 1 ∂f 0
(x, u) = , (x, u) = .
∂x cos(x1 ) + u sin(x1 ) 0 ∂u − cos(x1 )
On considère le point d’équilibre instable (x0 , u0 ) = ((0, 0)∗ , 0). Le système linéarisé
˙
autour de ce point s’écrit sous la forme δx(t) = Aδx(t) + Bδu(t) avec

∂f 0 1 ∂f 0
A= (x0 , u0 ) = , B= (x0 , u0 ) = .
∂x 1 0 ∂u −1
La condition de Kalman est bien satisfaite car

0 −1
C = (B, AB) = .
−1 0
On a donc montré que le pendule inversé est localement contrôlable autour de son
point d’équilibre instable (x0 , u0 ) = ((0, 0)∗ , 0). Enfin, en adaptant le raisonnement
présenté à la Remarque 5.2.13, on montre qu’on peut ramener tout point au voisinage
du point d’équilibre instable vers ce point.
Chapitre 6
LE SYSTÈME
LINÉAIRE-QUADRATIQUE
Ce chapitre est consacré à l’étude du système linéaire-quadratique (LQ). Il

s’agit d’un problème de contrôle optimal régi par une dynamique linéaire et où le
critère à minimiser est quadratique en le contrôle et en la trajectoire associée. Ce
problème étant relativement simple, il nous sera possible d’en mener une analyse
mathématique complète. D’une part, nous montrerons l’existence et l’unicité du
contrôle optimal. D’autre part, cette analyse nous permettra de dégager plusieurs
notions importantes pour la suite : l’état adjoint pour le calcul de la différentielle
du critère, le Hamiltonien pour la formulation du contrôle optimal à tout temps
comme un minimiseur fonction des valeurs instantanées de l’état adjoint et enfin,
celle de feedback (ou rétroaction) grâce à l’équation de Riccati afin de formuler le
contrôle optimal en boucle fermée, c’est-à-dire comme une fonction instantanée
de l’état du système.
6.1 Présentation du système LQ

On se donne un intervalle de temps [0,T ], avec T > 0, une matrice A ∈ Rd×d
et une matrice B ∈ Rd×k . On se donne également une condition initiale x0 ∈ Rd et
(pour un peu plus de généralité) un terme de dérive f ∈ L1 ([0,T ]; Rd ). Le système
de contrôle linéaire s’écrit sous la forme
ẋu (t) = Axu (t) + Bu(t) + f (t), ∀t ∈ [0,T ], xu (0) = x0 . (6.1)
L’ensemble des contrôles admissibles est ici l’espace
V = L2 ([0,T ]; Rk ). (6.2)
Pour chaque contrôle u ∈ L2 ([0,T ]; Rk ), il existe une unique trajectoire xu ∈ AC([0,T ]; Rd )

associée à ce contrôle.
L’objectif de ce chapitre est de chercher un contrôle optimal (en fait le
contrôle optimal, car nous verrons qu’il est unique) qui minimise dans L2 ([0,T ]; Rk )
161
162 CHAPITRE 6. LE SYSTÈME LINÉAIRE-QUADRATIQUE
le critère
Z T Z T
1 ∗ 1 1
J(u) = u(t) Ru(t) dt + exu (t)∗ Qexu (t) dt + exu (T )∗ Dexu (T ), (6.3)
2 0 2 0 2
où exu = xu − ξ avec ξ ∈ C 0 ([0,T ]; Rd ) une trajectoire cible donnée. On s’intéresse

donc au problème suivant :
Chercher u ∈ V tel que J(u) = inf J(u). (6.4)

u∈V
Dans la définition du critère J, les matrices Q, D ∈ Rd×d sont symétriques semi-

définies positives, tandis que la matrice R ∈ Rk×k est symétrique définie posi-
tive. La définie positivité de la matrice R jouera un rôle clé pour assurer l’existence
et l’unicité du contrôle optimal minimisant J sur L2 ([0,T ]; Rk ). On notera que le
critère J résulte d’une pondération au sens des moindres carrés entre l’atteinte de la
trajectoire cible décrite par la fonction ξ et le fait que le contrôle ne soit pas “trop
grand" dans L2 ([0,T ]; Rk ). En revanche, on ne s’impose pas ici d’atteindre exacte-
ment la cible au temps final T (ni à aucun temps intermédiaire). Une illustration
générale du problème de contrôle optimal LQ est présentée à la Figure 6.1.
ξ(0)
x(t) x(T )
x0 ξ(T )
ξ(t)
Figure 6.1 – Illustration du problème de contrôle optimal LQ : trajectoire cible et

trajectoire optimale.
Remarque 6.1.1 On peut prendre Q = D = 0 dans le critère (6.3). La solution du

problème (6.4) est alors triviale : u ≡ 0 sur [0,T ].
Afin d’étudier les propriétés de la fonctionnelle J, il sera utile de poser
J(u) = JR (u) + JQD (u), ∀u ∈ V,
avec
1 T
Z
JR (u) = u(t)∗ Ru(t) dt,
2 0
1 T
Z
1
JQD (u) = exu (t)∗ Qexu (t) dt + exu (T )∗ Dexu (T ).
2 0 2
Lemme 6.1.2 La fonctionnelle J définie en (6.3) est fortement convexe et continue

sur l’espace de Hilbert V = L2 ([0,T ]; Rk ).
6.2. DIFFÉRENTIELLE DU CRITÈRE : ÉTAT ADJOINT 163
Démonstration. Comme la matrice R est symétrique définie positive, la fonction-

nelle JR est fortement convexe sur V de paramètre α = λmin (R) (la plus petite valeur
propre de la matrice R). En effet, pour deux vecteurs v1 , v2 ∈ Rk , on a
∗
v ∗ Rv1 + v2∗ Rv2 1

v1 + v2 v1 + v2
R = 1 − (v1 − v2 )∗ R(v1 − v2 )
2 2 2 4
∗ ∗
v Rv1 + v2 Rv2 1
≤ 1 − λmin (R)|v1 − v2 |2Rk .
2 4
On en déduit que pour deux contrôles u1 , u2 ∈ V , on a

u1 + u2 JR (u1 ) + JR (u2 ) 1
JR ≤ − λmin (R)ku1 − u2 k2V ,
2 2 8
ce qui prouve la forte convexité de la fonctionnelle JR sur V avec paramètre α =
λmin (R). De plus, la fonctionnelle JR est clairement continue en u. Par ailleurs, la
fonctionnelle JQD est convexe sur V comme composée d’une application convexe par
une application affine. En effet, R
t
— comme xu (t) = etA x0 + 0 e(t−s)A (Bu(s) + f (s)) ds, l’application qui à u ∈
L2 ([0,T ]; Rk ) associe exu = xu − ξ ∈ C 0 ([0,T ]; Rd ) est affine ;
— comme les matrices Q et D sont R T semi-définies positives, on montre facile-
ment que l’application y 7→ 21 0 y(t)∗ Qy(t) dt + 21 y(T )∗ Dy(T ), définie de
C 0 ([0,T ]; Rd ) dans R, est convexe (même raisonnement que ci-dessus).
La fonctionnelle JQD est en outre continue comme composée de deux applications
continues. En conclusion, la fonctionnelle J est fortement convexe sur V comme
somme d’une application fortement convexe (JR ) et d’une application convexe (JQD ),
et J est également continue comme somme de deux applications continues. 2
Corollaire 6.1.3 Il existe un unique contrôle optimal u ∈ V solution de (6.4).

Démonstration. Il suffit de combiner le Théorème 2.3.8 (avec K = V ) avec le
Lemme 6.1.2. 2
6.2 Différentielle du critère : état adjoint

L’objectif de cette section est d’établir une condition nécessaire et suffisante
d’optimalité formulée à l’aide de la différentielle de la fonctionnelle J, en utilisant
les résultats de la Section 2.5.
Lemme 6.2.1 La fonctionnelle J est différentiable sur V et, pour tout u ∈ V , sa

dérivée J 0 (u) ∈ V est donnée par
J 0 (u) = Ru + B ∗ p ,
où l’état adjoint p ∈ C 1 ([0,T ]; Rd ) est l’unique solution de l’équation différentielle

rétrograde en temps
ṗ(t) = −A∗ p(t) − Qexu (t), ∀t ∈ [0,T ], p(T ) = Dexu (T ). (6.5)

Démonstration. Comme J = JR + JQD , nous allons considérer séparément la

différentiabilité des fonctionnelles JR et JQD .
(1) La différentiabilité de JR est immédiate puisque, en utilisant la symétrie de la
matrice R, il vient, pour toute perturbation du contrôle δu ∈ V ,
1 T
Z
JR (u + δu) = (u(t) + δu(t))∗ R(u(t) + δu(t)) dt
2 0
Z T
= JR (u) + δu(t)∗ Ru(t) dt + JR (δu)
0
= JR (u) + hRu, δuiV + JR (δu).
Comme Jkδuk
R (δu)
V
≤ 21 λmax (R)kδukV , on conclut que JR0 (u) = Ru ∈ V , ce qui signifie
que, p.p. sur [0,T ], on a JR0 (u)(t) = Ru(t).
(2) Pour différentier JQD , on considère la trajectoire perturbée xu+δu , associée au
contrôle perturbé u + δu. Par linéarité, on a xu+δu = xu + δx avec
d
δx(t) = Aδx(t) + Bδu(t), ∀t ∈ [0,T ], δx(0) = 0.
dt
La perturbation de la trajectoire δx est donc linéaire en δu et on a kδxkC 0 ([0,T ];Rd ) ≤
Rt
CkδukV car δx(t) = 0 e(t−s)A Bδu(s) ds, où C est une constante dépendant de A, B
et T mais qui est uniforme en δu. Comme les matrices Q et D sont symétriques, et
en raisonnant comme ci-dessus, on obtient
Z T
JQD (u + δu) = JQD (u) + δx(t)∗ Qexu (t) dt + δx(T )∗ Dexu (T )
0
Z T
1 1
+ δx(t)∗ Qδx(t) dt + δx(T )∗ Dδx(T ),
2 0 2
ce qui montre que
Z T
0
hJQD (u), δuiV = δx(t)∗ Qexu (t) dt + δx(T )∗ Dexu (T ).
0
Au membre de droite, la perturbation du contrôle δu n’apparaît pas explicitement,
mais uniquement de manière implicite par le fait que la perturbation de la trajectoire
δx dépend (linéairement) de la perturbation du contrôle δu. Afin de faire apparaître
explicitement δu au membre de droite, on utilise l’état adjoint p ∈ C 1 ([0,T ]; Rd )
solution de (6.5). En effet, en intégrant par parties en temps, on constate que
Z T
0
hJQD (u), δuiV = δx(t)∗ Qex (t) dt + δx(T )∗ Dex (T )
0
Z T
=− δx(t)∗ (ṗ(t) + A∗ p(t)) dt + δx(T )∗ p(T )
0
Z T
˙ ∗ p(t) − δx(t)∗ A∗ p(t) dt

= δx(t)
0
Z T Z T
∗
= (Bδu(t)) p(t) dt = δu(t)∗ B ∗ p(t) dt = hB ∗ p, δuiV .
0 0
En conclusion, on a montré que 0
JQD (u) ∗
= B p, ce qui conclut la preuve. 2
6.2. DIFFÉRENTIELLE DU CRITÈRE : ÉTAT ADJOINT 165
Théorème 6.2.2 (CNS d’optimalité) Le contrôle u ∈ V est optimal pour le pro-

blème LQ si et seulement si on a
u(t) = −R−1 B ∗ p(t) ∀t ∈ [0,T ], (6.6)
où l’état adjoint p : [0,T ] → Rd est tel que

dp
(t) = −A∗ p(t) − Qex (t), ∀t ∈ [0,T ], p(T ) = Dex (T ), (6.7)
dt
où ex = x − ξ et où x = xu est la trajectoire associée au contrôle optimal u, i.e.,
dx
(t) = Ax(t) + Bu(t) + f (t), ∀t ∈ [0,T ], x(0) = x0 . (6.8)
dt
Le triplet (x, p, u) satisfaisant les conditions ci-dessus est appelé une extrémale.
Démonstration. Il suffit de combiner le Théorème 2.5.1 avec le Lemme 6.2.1, le
caractère suffisant de la condition (6.6) résultant de la convexité de la fonctionnelle
J. 2
Remarque 6.2.3 [État adjoint] Attention, il n’y a pas de condition initiale sur
p, mais une condition finale en T . Par ailleurs, dans la littérature, la convention
est parfois de définir l’état adjoint comme un vecteur ligne pb := p∗ . Dans ce cas, le
p(t)A−ex (t)∗ Q, pour tout t ∈ [0,T ],
système différentiel rétrograde s’écrit dtd pb(t) = −b
et pb(T ) = ex (T ) D. Enfin, le contrôle optimal est u(t) = −R−1 B ∗ pb(t)∗ .
∗
Remarque 6.2.4 [Régularité] On notera que si (x, p, u) est une extrémale, on a

p ∈ C 1 ([0,T ]; Rd ) et par conséquent u ∈ C 1 ([0,T ]; Rk ). Comme u est continu, il n’y a
pas ici de phénomène de commutation pour le contrôle optimal (cf. Exemple 5.1.21).
Remarque 6.2.5 [Unicité de l’extrémale] Même si on sait déjà qu’on a unicité du

contrôle optimal u, donc de la trajectoire optimale x et de la trajectoire adjointe
p, il est instructif de montrer directement l’unicité de l’extrémale. Par linéarité
(considérer la différence entre deux extrémales), il suffit de montrer que dans le cas
sans dérive et avec cible nulle, une extrémale est nécessairement nulle. Considérons
donc une extrémale (x, p, u) telle que
dx
(t) = Ax(t) + Bu(t), x(0) = 0,
dt
dp
(t) = −A∗ p(t) − Qx(t), p(T ) = Dx(T ),
dt
u(t) = −R−1 B ∗ p(t).
L’observation cruciale est que

∗
d ∗ dp dx
(t) x(t) + p(t)∗ (t)

p(t) x(t) =
dt dt dt
= −x(t)∗ Qx(t) − (B ∗ p(t))∗ R−1 B ∗ p(t) ≤ 0.
Comme x(0) = 0, en intégrant de 0 à T , il vient

Z T
∗ d
p(t)∗ x(t) dt

0 = p(T ) x(T ) −
0 dt
Z T
∗ ∗ ∗ ∗ −1 ∗
= x(T ) Dx(T ) + x(t) Qx(t) + (B p(t)) R B p(t) dt.
0
Comme les matrices D et Q sont positives et que la matrice R est définie positive,
on en déduit que B ∗ p(t) = 0 sur [0,T ]. Donc, u(t) = 0, ce qui implique que x(t) = 0,
et ce qui implique enfin que p(t) = 0.
Exemple 6.2.6 [Mouvement d’un point matériel] On considère un point matériel

qui peut se déplacer sur une droite et dont on contrôle la vitesse (cf. l’Exemple 5.1.21).
Le système de contrôle linéaire s’écrit, avec d = k = 1,
ẋu (t) = u(t), ∀t ∈ [0,T ], xu (0) = x0 .
Le critère à minimiser dans V = L2 ([0,T ]; R) est

Z T Z T
1 2 1
J(u) = xu (t) dt + u(t)2 dt,
2 0 2 0
qui réalise une pondération au sens des moindres carrés entre l’atteinte de la cible
nulle sur [0,T ] et le fait que le contrôle ne soit pas trop grand dans L2 ([0,T ]; R). Ce
problème rentre dans le cadre du système LQ introduit à la section 6.1 en posant
A = 0, B = 1, R = 1, Q = 1, D = 0, ξ ≡ 0.
En appliquant le Théorème 6.2.2, on déduit que le contrôle optimal est
u(t) = −p(t),
où l’état adjoint est solution de
dp
(t) = −x(t), ∀t ∈ [0,T ], p(T ) = 0.
dt
On a donc

d x(t) 0 −1 x(t) tZ cosh(t) − sinh(t)
= , e = ,
dt p(t) −1 0 p(t) − sinh(t) cosh(t)
| {z }
=Z
si bien que
x(t) = x0 cosh(t) − p(0) sinh(t),

p(t) = −x0 sinh(t) + p(0) cosh(t).
6.3. PRINCIPE DU MINIMUM : HAMILTONIEN 167
x0
x0 tanh(T ) x0/ cosh(T )
t
T
−x0 tanh(T )
Figure 6.2 – Illustration de l’extrémale obtenue à l’Exemple 6.2.6 (mouvement d’un

point matériel) : trajectoire x(t), état adjoint p(t), contrôle optimal u(t) ; la cible
ξ(t) est identiquement nulle.
On notera que l’état adjoint initial est, à ce stade, encore inconnu. Afin de le dé-
terminer, on utilise la condition en t = T sur l’état adjoint, à savoir p(T ) = 0. On
obtient facilement que p(0) = x0 tanh(T ). En conclusion, l’extrémale s’écrit
1
x(t) = x0 cosh(T )
cosh(T − t),
1
p(t) = x0 cosh(T )
sinh(T − t),
1
u(t) = −p(t) = −x0 cosh(T )
sinh(T − t).
Cette extrémale est illustrée à la Figure 6.2.
6.3 Principe du minimum : Hamiltonien

L’objectif de cette section est de reformuler le Théorème 6.2.2 à l’aide de la
notion de Hamiltonien. Ce point de vue nous sera très utile au chapitre suivant
lorsque nous aborderons les systèmes de contrôle non-linéaires et formulerons le
principe du minimum de Pontryaguine.
Définition 6.3.1 Le Hamiltonien associé au système de contrôle linéaire (6.1) et

à la fonctionnelle J définie en (6.3) est l’application H : [0,T ] × Rd × Rd × Rk → R
telle que
1 1
H(t, x, p, u) = p∗ (Ax + Bu + f (t)) + u∗ Ru + (x − ξ(t))∗ Q(x − ξ(t)).
2 2
On notera bien que dans cette écriture, (x, p, u) désigne un vecteur générique de
Rd × Rd × Rk et pas les solutions d’équations différentielles.
Un calcul élémentaire sur les dérivées partielles du Hamiltonien (qui sont des
vecteurs colonnes) montre que
∂H
∂x
(t, x, p, u) = A∗ p + Q(x − ξ(t)),
∂H
∂p
(t, x, p, u) = Ax + Bu + f (t),
∂H
∂u
(t, x, p, u) = B ∗ p + Ru.
On considère maintenant l’extrémale (x, p, u) obtenue au Théorème 6.2.2. Pour tout

t ∈ [0,T ], on évalue H et ses dérivées partielles en (t, x(t), p(t), u(t)). On constate
d’une part que
dx ∂H
(t) = Ax(t) + Bu(t) + f (t) = (t, x(t), p(t), u(t)), (6.9a)
dt ∂p
dp ∂H
(t) = −A∗ p(t) − Q(x(t) − ξ(t)) = − (t, x(t), p(t), u(t)), (6.9b)
dt ∂x
et d’autre part que
∂H
(t, x(t), p(t), u(t)) = 0. (6.10)
∂u
Comme la fonction v 7→ H(t, x, p, v) est fortement convexe en v ∈ Rk pour tout
triplet (t, x, p) fixé dans [0,T ] × Rd × Rd , l’équation (6.10) ne signifie rien d’autre
que
u(t) = arg minv∈Rk H(t, x(t), p(t), v), ∀t ∈ [0,T ].
Il s’agit du principe du minimum de Pontryaguine (PMP) dans le cas parti-
culier du système LQ. Résumons ce résultat sous la forme d’une proposition.
Proposition 6.3.2 (PMP pour le système LQ) Le contrôle u ∈ V est optimal

pour le problème LQ si et seulement si on a
u(t) = arg min H(t, x(t), p(t), v), ∀t ∈ [0,T ],

v∈Rk
avec
dx ∂H
(t) = (t, x(t), p(t), u(t)) = Ax(t) + Bu(t), x(0) = x0 , (6.11a)
dt ∂p
dp ∂H
(t) = − (t, x(t), p(t), u(t)) = −A∗ p(t) − Qex (t), p(T ) = Dex (T ), (6.11b)
dt ∂x
où ex (t) = x(t) − ξ(t).
b := −H et aboutir
Remarque 6.3.3 [Convention de signe] On aurait pu définir H
à un principe du maximum pour H.
b
Dans le cas particulier avec dérive et cible nulles, i.e., lorsque f ≡ 0 et ξ ≡ 0

sur [0,T ], le Hamiltonien H ne dépend pas du temps, i.e., on a
∂H
(t, x, p, u) = 0.
∂t
Dans ce cas onn dit que le Hamiltonien est autonome.
Proposition 6.3.4 (Conservation du Hamiltonien le long de l’extrémale)

On suppose que dérive et cible sont nulles, i.e., que le Hamiltonien est autonome.
Alors, la valeur du Hamiltonien se conserve le long de l’extrémale (x, p, u).
6.4. ÉQUATION DE RICCATI : FEEDBACK 169
Démonstration. On considère l’application H : [0,T ] → R telle que

H(t) = H(x(t), p(t), u(t)), ∀t ∈ [0,T ].
En dérivant cette fonction par rapport au temps, il vient
dH ∂H dx ∂H dp ∂H du
(t) = · (t) + · (t) + · (t)
dt ∂x dt ∂p dt ∂u dt
dp dx dx dp
= − (t) · (t) + (t) · (t) + 0 = 0,
dt dt dt dt
ce qui conclut la preuve. 2
Exemple 6.3.5 On reprend l’Exemple 6.2.6 du mouvement d’un point matériel

le long d’une droite et dont on contrôle la vitesse, i.e., ẋu (t) = u(t), pour tout
RT
t ∈ [0,T ], et xu (0) = x0 . Le critère à minimiser est à nouveau J(u) = 12 0 xu (t)2 dt+
1 T
R
2 0
u(t)2 dt. Ce problème rentre dans le cadre du système LQ avec d = k = 1 et
A = 0, B = 1, R = 1, Q = 1, D = 0, ξ ≡ 0.
Le Hamiltonien est l’application de R × R × R dans R telle que
1 1
H(x, p, u) = pu + u2 + x2 .
2 2
À (x, p) fixés, l’application u 7→ H(x, p, u) est quadratique. Le principe du minimum
de Pontryaguine (cf. la Proposition 6.3.2) implique que le contrôle optimal u(t) est,
pour tout t ∈ [0,T ], le minimiseur de u 7→ H(x(t), p(t), u) sur R. En utilisant
l’expression de H, on obtient facilement
u(t) = −p(t).
On retrouve ainsi le même résultat que celui obtenu en considérant la différentielle
de J. De plus, si on évalue le Hamiltonien le long de l’extrémale, il vient
2
1 2 2 1 x0
H(t) = H(x(t), p(t), u(t)) = (x(t) − p(t) ) = ,
2 2 cosh(T )
car
x0 x0
x(t) = cosh(T − t), p(t) = sinh(T − t).
cosh(T ) cosh(T )
Ce calcul confirme que le Hamiltonien est bien constant le long de l’extrémale,
comme annoncé à la Proposition 6.3.4.
6.4 Équation de Riccati : feedback

L’objectif de cette section est de montrer qu’il est possible, en résolvant l’équa-
tion de Riccati, de formuler à tout temps t ∈ [0,T ] le contrôle optimal u(t) comme
un feedback (ou rétroaction) sur l’état x(t). Pour simplifier, on suppose que dérive
et cible sont nulles.
Théorème 6.4.1 On suppose que dérive et cible sont nulles. Il existe une unique
matrice P ∈ C 1 ([0,T ]; Rd×d ) solution de l’équation de Riccati
Ṗ (t) = −A∗ P (t) − P (t)A + P (t)BR−1 B ∗ P (t) − Q, ∀t ∈ [0,T ], P (T ) = D,
et on a
p(t) = P (t)x(t), ∀t ∈ [0,T ],
si bien que le contrôle optimal s’écrit sous forme de boucle fermée :
u(t) = K(t)x(t), K(t) = −R−1 B ∗ P (t), ∀t ∈ [0,T ].
De plus, la matrice P (t) est symétrique semi-définie positive, et définie positive si

la matrice D est définie positive. Enfin, la valeur optimale du critère est
1
J(u) = x∗0 P (0)x0 .
2
Démonstration. (1) Dépendance linéaire. Le problème LQ étant bien posé, on sait
qu’il existe un unique couple (x, p) ∈ C 1 ([0,T ]; Rd × Rd ) tel que
dx
(t) = Ax(t) − BR−1 Bp(t), x(0) = x0 ,
dt
dp
(t) = −A∗ p(t) − Qx(t), p(T ) = Dx(T ).
dt
Par linéarité, le couple (x, p) dépend linéairement de la condition initiale x0 ∈ Rd .
Il existe donc des matrices X , P dans C 1 ([0,T ]; Rd×d ) telles que
x(t) = X (t)x0 , p(t) = P(t)x0 , ∀t ∈ [0,T ],
et on a X (0) = Id.
(2) Inversibilité de X (t). Nous allons montrer que la matrice X (t) est inversible pour
tout t ∈ [0,T ]. Pour ce faire, on raisonne par l’absurde. Soit s ∈ [0,T ] et 0 6= x0 ∈ Rd
tels que x(s) = X (s)x0 = 0. On a nécessairement s > 0 car X (0) = Id. De plus, on
a vu que
d
p(t)∗ x(t) = −x(t)∗ Qx(t) − (B ∗ p(t))∗ R−1 B ∗ p(t).

dt
En intégrant de s à T , et comme x(s) = 0, il vient
Z T
∗ ∗ ∗ ∗ −1 ∗
0 = (Dx(T )) x(T ) + x(t) Qx(t) + (B p(t)) R B p(t) dt ≥ 0.
s
Les matrices D, Q, R étant symétriques (semi-)définies positives, on en déduit que
u(t) = −R−1 B ∗ p(t) = 0, ∀t ∈ [s, T ].
On a donc dx dt
(t) = Ax(t) et x(s) = 0 ; d’où x(t) = 0 sur [s, T ]. De même, comme on a
dp ∗
dt
(t) = −A p(t) et p(T ) = Dx(T ) = 0, il vient p(t) = 0 sur [s, T ]. On en déduit que
(x, p) vérifie un système différentiel linéaire avec conditions finales x(T ) = p(T ) = 0.
6.4. ÉQUATION DE RICCATI : FEEDBACK 171
Ceci implique que x(t) = p(t) = 0 sur [0, T ] ; en particulier, on obtient x0 = 0, d’où
la contradiction.
(3) Équation de Riccati. On pose
P (t) = P(t)X (t)−1 , ∀t ∈ [0,T ].
Par construction, on a P ∈ C 1 ([0,T ]; Rd×d ). De plus, on constate que
dp dP dx
(t) = (t)x(t) + P (t) (t)
dt dt dt
dP −1 ∗
= (t) + P (t)A − P (t)BR B P (t) x(t),
dt
et par ailleurs, on a également dp
dt
(t) = −A∗ p(t) − Qx(t). On en déduit que

dP ∗ −1 ∗
(t) + P (t)A + A P (t) − P (t)BR B P (t) + Q x(t) = 0,
dt
pour tout t ∈ [0,T ] et pour tout x0 ∈ Rd . Pour tout t ∈ [0,T ] fixé, le vecteur
x(t) décrit Rd lorsque x0 décrit Rd (car X (t) est inversible). Par conséquent, la
fonction t 7→ P (t) est bien solution de l’équation de Riccati pour tout t ∈ [0,T ].
En raisonnant de manière analogue, on constate que p(T ) = Dx(T ) = P (T )x(T ).
Comme x(T ) décrit Rd lorsque x0 décrit Rd , on conclut que P (T ) = D.
(4) Propriétés de P (t). La fonction t 7→ P (t) est solution d’un système différentiel
quadratique. La non-linéarité satisfait donc une condition de Lipschitz locale, ce qui
assure l’unicité de la solution. L’unicité prouve que P (t) est symétrique pour tout
t ∈ [0,T ] car la fonction t 7→ P (t)∗ satisfait la même équation. Afin d’établir la
positivité de P (t) pour tout t ∈ [0,T ], on raisonne comme suit. Soit x ∈ Rd . Posons
x0 = X (t)−1 x de sorte que x = x(t) où x est la trajectoire optimale issue de x0 .
Comme la fonction t 7→ p(t)∗ x(t) est décroissante, il vient
x∗ P (t)x = x(t)∗ P (t)x(t) ≥ x(T )∗ Dx(T ) ≥ 0,
ce qui montre que P (t) est semi-définie positive. Enfin, si la matrice D est définie
positive, cela entraîne x(T ) = 0, d’où x = X (t)X (T )−1 x(T ) = 0, i.e., la matrice
P (t) est alors définie positive.
(5) Valeur optimale du critère. Il vient
1 T
Z
1
J(u) = x(t) Qx(t) + u(t) Ru(t) dt + x(T )∗ Dx(T )
∗ ∗
2 0 2
Z T
1 1
= x(t)∗ Qx(t) − p(t)∗ Bu(t) dt + x(T )∗ Dx(T )
2 0 2
Z T
1 1
= x(t)∗ Qx(t) − p(t)∗ Bu(t) dt + p(T )∗ x(T )
2 0 2
Z T
1 d 1
p(t)∗ x(t) dt + p(T )∗ x(T )

= −
2 0 dt 2
1 1 1
= p(0)∗ x(0) = x(0)∗ P (0)x(0) = x∗0 P (0)x0 ,
2 2 2
ce qui conclut la preuve. 2
Remarque 6.4.2 [Représentation linéaire de l’équation de Riccati] Au lieu de ré-

soudre un système différentiel quadratique de taille d(d+1)
2
(P est symétrique), on
peut considérer le système différentiel linéaire suivant qui est de taille 2d :
A −BR−1 B ∗

d x(t) x(t)
=
dt p(t) −Q −A∗ p(t)
| {z }
=A∈R(2d)×(2d)
On note R(t) = e(T −t)A la résolvante associée à ce système différentiel (de dimension
2d et telle que R(T ) = Id). On pose

R1 (t) R2 (t)
R(t) = ∈ R(2d)×(2d) ,
R3 (t) R4 (t)
où les quatre blocs sont à valeurs dans Rd×d . On a x(t) = R1 (t)x(T ) + R2 (t)p(T )
et p(t) = R3 (t)x(T ) + R4 (t)p(T ). Or p(T ) = Dx(T ), si bien qu’en posant XT (t) =
R1 (t) + R2 (t)D et PT (t) = R3 (t) + R4 (t)D, il vient x(t) = XT (t)x(T ) et p(t) =
PT (t)x(T ). En conclusion, la matrice P (t) solution de l’équation de Riccati s’obtient
également à partir de la résolvante du système linéaire de taille 2d ci-dessus en posant
P (t) = (R3 (t) + R4 (t)D)(R1 (t) + R2 (t)D)−1 ∈ Rd×d .
Cette expression est intéressante en pratique car elle évite de devoir résoudre un
système différentiel non-linéaire.
Exemple 6.4.3 On reprend l’Exemple 6.2.6 du mouvement d’un point matériel le

long d’une droite, dont on contrôle la vitesse, i.e., ẋu (t) = u(t), pour tout t ∈ [0,T ], et
RT RT
xu (0) = x0 . Le critère à minimiser est à nouveau J(u) = 21 0 xu (t)2 dt+ 12 0 u(t)2 dt.
Ce problème rentre dans le cadre du système LQ avec d = k = 1 et
A = 0, B = 1, R = 1, Q = 1, D = 0, ξ ≡ 0.
L’équation de Riccati pour la fonction P (t), ici à valeurs scalaires, s’écrit
Ṗ (t) = P (t)2 − 1, ∀t ∈ [0,T ], P (T ) = 0.
On obtient P (t) = tanh(T − t). Le contrôle optimal se met alors sous forme de
boucle fermée
u(t) = K(t)x(t), K(t) = −P (t) = − tanh(T − t).
Pour mémoire, on avait trouvé que

x0
x(t) = cosh(T )
cosh(T − t),
x0
u(t) = −p(t) = − cosh(T )
sinh(T − t),
ce qui permet de retrouver l’expression ci-dessus liant u(t) à x(t). Enfin, la valeur
optimale du critère est J(u) = 21 x20 P (0) = 21 x20 tanh(T ).
Chapitre 7
PRINCIPE DU MINIMUM DE
PONTRYAGUINE
Ce chapitre est consacré au problème de contrôle optimal pour des systèmes

non-linéaires. Le résultat phare est le principe du minimum de Pontryaguine
(PMP) dont nous nous contenterons d’esquisser la preuve. Nous verrons que le PMP
ne fournit que des conditions nécessaires d’optimalité dont la formulation fait
intervenir, comme pour le système LQ du chapitre précédent, les notions d’état
adjoint et de Hamiltonien. En revanche, le PMP ne dit rien sur l’existence d’un
contrôle optimal ni sur le caractère suffisant de ces conditions. L’intérêt pratique du
PMP est de nous permettre de faire un premier tri des contrôles candidats à l’opti-
malité ; en espérant que les contrôles vérifiant les conditions nécessaires d’optimalité
du PMP ne sont pas trop nombreux, on pourra ensuite les examiner individuelle-
ment pour en déterminer le caractère optimal ou non. Afin de nous familiariser avec
l’emploi du PMP, nous présentons dans ce chapitre deux exemples d’application : le
système LQ avec des contraintes sur le contrôle d’une part et un modèle non-linéaire
de dynamique de populations d’autre part.
7.1 Systèmes de contrôle non-linéaires

On se donne un intervalle de temps [0,T ] avec T > 0, on considère un état
à valeurs dans Rd , d ≥ 1, et un contrôle à valeurs dans un sous-ensemble fermé
non-vide U ⊂ Rk . On s’intéresse au système de contrôle non-linéaire
ẋu (t) = f (t, xu (t), u(t)), ∀t ∈ [0,T ], xu (0) = x0 , (7.1)
avec une dynamique décrite par la fonction f : [0,T ] × Rd × U → Rd . L’ensemble
des contrôles admissibles est ici le sous-ensemble
U = L1 ([0,T ]; U ) ⊂ L1 ([0,T ]; Rk ). (7.2)
L’objectif est de trouver un contrôle optimal u ∈ U qui minimise le critère
Z T
J(u) = g(t, xu (t), u(t)) dt + h(xu (T )), (7.3)
0
173
174 CHAPITRE 7. PRINCIPE DU MINIMUM DE PONTRYAGUINE
où les fonctions g : [0,T ] × Rd × U → R et h : Rd → R sont données. Le problème

de contrôle optimal est donc le suivant :
Chercher u ∈ U tel que J(u) = inf J(u). (7.4)
u∈U
Nous allons formuler quelques hypothèses (en général, raisonnables) sur les dif-
férents ingrédients intervenant dans la formulation du problème de contrôle opti-
mal (7.4), à savoir la fonction f pour la dynamique et les fonctions g et h pour le
critère. Commençons par les hypothèses sur la dynamique. On suppose que
(a) f ∈ C 0 ([0,T ] × Rd × U ; Rd ) et f est de classe C 1 par rapport à x ;
(b) ∃C, |f (t, y, v)|Rd ≤ C(1 + |y|Rd + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈ Rd , ∀v ∈ U ;
(c) Pour tout R > 0, ∃CR , | ∂f ∂x
(t, y, v)|Rd×d ≤ CR (1 + |v|Rd ), ∀t ∈ [0,T ], ∀y ∈
B(0, R), ∀v ∈ U .
Dans ces hypothèses, C et CR désignent des constantes génériques indépendantes
de (t, y, v), CR dépendant du rayon R de la boule fermée B(0, R) ; par la suite, nous
utiliserons les symboles C et CR avec la convention que les valeurs de C et de CR
peuvent changer à chaque utilisation tant qu’elles restent indépendantes du temps,
de l’état du système et de la valeur du contrôle. L’objectif des trois hypothèses ci-
dessus est d’assurer, pour tout contrôle u ∈ U, l’existence et l’unicité de la trajectoire
associée xu ∈ AC([0,T ]; Rd ).
Lemme 7.1.1 (Existence et unicité des trajectoires) Dans le cadre des hypo-
thèses (a), (b), (c) ci-dessus, pour tout contrôle u ∈ U, il existe une unique trajectoire
associée xu ∈ AC([0,T ]; Rd ) solution de (7.1).
Démonstration. Il s’agit d’une conséquence de la version locale du théorème de
Cauchy–Lipschitz avec une dynamique mesurable en temps uniquement (cf. le Théo-
rème 8.3.6). On considère le système dynamique ẋ(t) = F (t, x(t)) avec la fonction
F : [0,T ] × Rd → Rd telle que F (t, x) = f (t, x, u(t)). La fonction F est mesurable en
t, et elle est continue en x. De plus, F est localement lipschitzienne par rapport à x
puisque l’on a, pour tout t ∈ [0,T ] et tout x1 , x2 ∈ B(0, R),
|F (t, x1 ) − F (t, x2 )|Rd ≤ C0 (t)|x1 − x2 |Rd , C0 (t) = sup ∂f

∂x
(t, y, u(t)) d×d .
R
y∈B(0,R)
Comme C0 (t) ≤ CR (1+|u(t)|Rk ) grâce à l’hypothèse (c), on a bien C0 ∈ L1 ([0,T ]; R+ ).

En outre, la fonction F est localement intégrable grâce à l’hypothèse (b) puisque
l’on a, pour tout x ∈ Rd et tout t ∈ [0,T ],
|F (t, x)|Rd ≤ C(1 + |x|Rd + |u(t)|Rk ) ∈ L1 ([0,T ]; R+ ).
Il reste enfin à s’assurer que la trajectoire maximale est bien définie sur tout l’inter-
valle [0,T ] (i.e., qu’il n’y a pas eu d’explosion en un temps t∗ < T ). Pour cela,
R t utilise le lemme de Gronwall rappelé ci-dessous. Comme on a x(t) = x0 +
on
0
f (s, x(s), u(s)) ds, on peut appliquer ce lemme avec z(t) = |x(t)|Rd et ψ(t) ≡ C.
L’estimation (7.5) est satisfaite avec α = |x0 |Rd + C(T + kukL1 ([0,T ];Rk ) ) grâce à l’hy-
pothèse (b). On en déduit que la trajectoire reste bien bornée sur [0,T ], i.e., il n’y a
pas d’explosion. 2
7.2. PMP : ÉNONCÉ ET COMMENTAIRES 175
Lemme 7.1.2 (Gronwall) Soit ψ, z : [0,T ] → R+ deux fonctions continues telles

que Z t
∃α ≥ 0, ∀t ∈ [0,T ], z(t) ≤ α + ψ(s)z(s) ds. (7.5)
0
Rt
ψ(s) ds
Alors, on a z(t) ≤ αe 0 pour tout t ∈ [0,T ].
Rt Rt
Démonstration. Posons Ψ(t) = 0 ψ(s) ds et v(t) = e−Ψ(t) 0 ψ(s)z(s) ds. En uti-
lisant (7.5), on constate que
Z t
dv −Ψ(t)
(t) = −ψ(t)e ψ(s)z(s) ds + e−Ψ(t) ψ(t)z(t)
dt
0 Z t
−Ψ(t)
= ψ(t)e z(t) − ψ(s)z(s) ds ≤ αψ(t)e−Ψ(t) .
0
Comme v(0) = 0 et Ψ(0) = 0, en intégrant cette majoration de 0 à t, il vient

Z t Z t
−Ψ(t)
e ψ(s)z(s) ds = v(t) ≤ α ψ(s)e−Ψ(s) ds = α(1 − e−Ψ(t) ),
0 0
et en ré-arrangeant les termes, on obtient

Z t
α+ ψ(s)z(s) ds ≤ αeΨ(t) .
0
On conclut en utilisant à nouveau la borne (7.5) sur z(t). 2

Venons en maintenant aux hypothèses sur le critère. On suppose que
(d) g ∈ C 0 ([0,T ] × Rd × U ; R) et g est de classe C 1 par rapport à x ; de plus,
h ∈ C 1 (Rd ; R) ;
(e) Pour tout R > 0, ∃CR , |g(t, y, v)| ≤ CR (1 + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈ B(0, R),
∀v ∈ U ;
∂g
(f) Pour tout R > 0, ∃CR , | ∂x (t, y, v)|Rd ≤ CR (1 + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈
B(0, R), ∀v ∈ U ;
(g) Les fonctions g et h sont minorées respectivement sur [0,T ] × Rd × U et sur
Rd .
Ces hypothèses nous permettent d’affirmer que, pour tout u ∈ U, le critère J(u) est
bien défini car la trajectoire associée xu est bien définie et xu (t) ∈ B(0, R(u)), pour
tout t ∈ [0,T ], si bien que grâce à l’hypothèse (e), la fonction t 7→ g(t, x(t), u(t)) est
bien intégrable. En outre, l’infimum de J sur U est bien fini grâce à l’hypothèse (g). Il
est donc raisonnable de considérer le problème de minimisation (7.4). Les hypothèses
(d) et (f) nous seront utiles à la section suivante pour définir l’état adjoint.
7.2 PMP : énoncé et commentaires

L’objectif de cette section est d’énoncer le principe du minimum de Pontrya-
guine (PMP) pour le système de contrôle non-linéaire (7.1) et la fonctionnelle J défi-
nie en (7.3). Nous nous contentons d’énoncer le PMP et d’en voir quelques premiers
exemples d’application. La preuve du PMP sera esquissée dans la section suivante.

Comme dans le cas plus simple du système linéaire-quadratique (cf. la Section 6.3),
le PMP repose sur la notion de Hamiltonien.
Définition 7.2.1 Le Hamiltonien associé au système de contrôle non-linéaire (7.1)

et à la fonctionnelle J définie en (7.3) est l’application H : [0,T ] × Rd × Rd × U → R
définie par
H(t, x, p, u) = p∗ f (t, x, u) + g(t, x, u). (7.6)
On notera bien que dans cette écriture, (x, p, u) désigne un vecteur générique de
Rd × Rd × U . Lorsque l’application H ne dépend pas explicitement du temps, on dit
que le Hamiltonien est autonome.
Théorème 7.2.2 (PMP) Si u ∈ U est un contrôle optimal, i.e., si u est une so-
lution de (7.4), alors en notant x = xu ∈ AC([0,T ]; Rd ) la trajectoire associée au
contrôle u et en définissant l’état adjoint p ∈ AC([0,T ]; Rd ) solution de
dp ∂h
(t) = −A(t)∗ p(t) − b(t), ∀t ∈ [0,T ], p(T ) = (x(T )) ∈ Rd , (7.7)
dt ∂x
où pour tout t ∈ [0,T ],
∂f ∂g
A(t) = (t, x(t), u(t)) ∈ Rd×d , b(t) = (t, x(t), u(t)) ∈ Rd , (7.8)
∂x ∂x
on a, p.p. t ∈ [0,T ],
u(t) ∈ arg min H(t, x(t), p(t), v), (7.9)
v∈U
où le Hamiltonien H : [0,T ] × Rd × Rd × U → R est défini en (7.6). Un triplet

(x, p, u) satisfaisant les conditions ci-dessus est appelé une extrémale. (On notera
∂g
qu’avec les conventions adoptées, ∂x et ∂h
∂x
sont des vecteurs colonne.)
Remarque 7.2.3 L’état adjoint p est solution d’un système linéaire (à (x, u) fixés)
instationnaire et rétrograde en temps. Ce système, ainsi que la condition finale sur
p(T ), sont bien définis grâce aux hypothèses (a) et (d) ci-dessus. De plus, ce système
admet une unique solution car la fonction b est bien intégrable en temps grâce à
l’hypothèse (f) et la fonction A est dans L1 ([0,T ]; Rd×d ) grâce à l’hypothèse (c).
Remarque 7.2.4 Dans le cas du système de contrôle non-linéaire (7.1) avec la

fonctionnelle J définie en (7.3), le PMP ne fournit qu’une condition nécessaire
d’optimalité. En revanche, le PMP ne dit rien sur l’existence d’un contrôle optimal,
et il ne fournit pas en général de condition suffisante (cf. toutefois la Proposition 7.2.8
ci-dessous). L’intérêt pratique du PMP est de restreindre le champ des possibles en
vue de l’obtention d’un contrôle optimal : on commence par considérer les extrémales
et, en espérant qu’elles ne sont pas trop nombreuses, on en fait ensuite le tri.
Exemple 7.2.5 [Système LQ] Appliquons le Théorème 7.2.2 au système LQ étudié

au chapitre précédent. Pour simplifier, on omet le terme de dérive. On a
f (t, x, u) = Ax+Bu, g(t, x, u) = 12 u∗ Ru+ 12 ex (t)∗ Qex (t), h(x) = 21 ex (T )∗ Dex (T ),
7.2. PMP : ÉNONCÉ ET COMMENTAIRES 177
où ex (t) = x − ξ(t) ; on rappelle que les matrices Q, D ∈ Rd×d sont symétriques

semi-définies positives, que la matrice R ∈ Rk×k est symétrique définie positive et
que ξ ∈ C 0 ([0,T ]; Rd ) est la trajectoire cible. Pour le système LQ, il n’y a pas de
contraintes sur le contrôle, on a donc U = Rk . Le Hamiltonien s’écrit
H(t, x, p, u) = p∗ (Ax + Bu) + 21 u∗ Ru + 12 ex (t)∗ Qex (t).
On a donc (noter l’unicité du minimiseur)

∗ 1 ∗
u(t) = arg minv∈Rk p Bv + v Rv ,
2
ce qui équivaut à
u(t) = −R−1 B ∗ p(t).
∂f ∂g ∂h
Comme ∂x
= A, ∂x
= Qex , ∂x
= Dex , l’équation (7.7) sur l’état adjoint devient
dp
(t) = −A∗ p(t) − Qex (t), ∀t ∈ [0,T ], p(T ) = Dex (T ),
dt
qui est bien l’équation différentielle rétrograde et la condition finale qui avaient été
obtenues au chapitre précédent pour l’état adjoint (cf. le Théorème 6.2.2).
Contre-exemple 7.2.6 Donnons un exemple relativement simple de non-existence

de contrôle optimal. On considère le système de contrôle linéaire ẋu (t) = u(t) avec
xu (0) = x0 = 0 et T = 1. Le critère à minimiser est
Z 1 Z 1
2
J(u) = xu (t) dt + (u(t)2 − 1)2 dt, U = [−1,1].
0 0
Alors, on a inf u∈U J(u) = 0 et il n’existe pas de contrôle optimal. Pour le montrer,
on considère pour tout n ∈ N∗ la suite minimisante de contrôles
un (t) = (−1)k , k k+1

t ∈ [ 2n , 2n [, k ∈ {0, . . . , 2n − 1},
1
dont la trajectoire associée, xn , est en dents de scie et vérifie kxn kL∞ (0,1) ≤ 2n (cf. la
Figure 7.1). On en déduit que J(un ) ≤ 4n1 2 . S’il existait u ∈ U tel que J(u) = 0,
alors on aurait x(t) ≡ 0 et u(t) ∈ {−1, 1}, mais u(t) = dx dt
(t) = 0. La difficulté
rencontrée dans cet exemple provient de la non-convexité du critère. Evidemment,
le lecteur attentif aura reconnu l’Exemple 2.3.2, adapté au contexte du contrôle, et
qui donnait aussi un contre-exemple à l’existence d’une solution pour un problème
d’optimisation.
Exemple 7.2.7 [Absence de condition suffisante] Donnons maintenant un exemple

où le PMP ne fournit pas de condition suffisante d’optimalité. On considère à nou-
veau le système de contrôle linéaire ẋ(t) = u(t) avec x0 = 0 et T = 1. Le critère à
minimiser est cette fois
Z 1
J(u) = (xu (t)2 − 1)2 dt, U = [−1,1].
0
un(t)
xn(t)
Figure 7.1 – Illustration du Contre-exemple 7.2.6 : contrôle issu d’une suite mini-
misante et trajectoire associée.
On cherche donc à minimiser la distance de x(t) à l’ensemble {−1, 1} ; les contraintes

sur u font que x(t) ∈ [−1,1], ∀t ∈ [0,T ]. Il y a donc deux contrôles
R 1 2 optimaux, qui
2 8
sont u± (t) ≡ ±1, pour tout t ∈ [0,T ], et on a inf u∈U J(u) = 0 (t − 1) dt = 15 .
Or, si on considère le contrôle u(t) ≡ 0, celui-ci vérifie les conditions du PMP mais
8
ce n’est pas un contrôle optimal car J(0) = 1 > 15 . En effet, on a f (t, x, u) = u,
g(t, x, u) = (x2 − 1)2 , h = 0, la trajectoire associée est x(t) ≡ 0 et l’état adjoint
est p(t) ≡ 0. Le Hamiltonien à minimiser est H(t, x(t), p(t), v) = (x(t)2 − 1)2 dont
un minimiseur est bien v = 0. La difficulté rencontrée dans cet exemple provient à
nouveau de la non-convexité du critère.
Concluons cette section par un résultat positif quant au caractère suffisant de
la condition d’optimalité du PMP.
Proposition 7.2.8 (Condition suffisante) Le PMP fournit une condition suf-

fisante d’optimalité sous les hypothèses suivantes :
— f (t, x, u) = A(t)x + B(t)u avec A ∈ C 0 ([0,T ]; Rd×d ) et B ∈ C 0 ([0,T ]; Rd×k ) ;
— U = L2 ([0,T ]; U ) où U est un ensemble convexe, compact non-vide ;
— la fonction g est convexe et différentiable en (x, u) ∈ Rd × U ;
— la fonction h est convexe et différentiable en x ∈ Rd .
Démonstration. Nous nous contenterons d’esquisser la preuve. La fonctionnelle J
est convexe en u sur l’ensemble convexe K = L2 ([0,T ]; U ) (on travaille dans L2 afin
de se placer dans le cadre des espaces de Hilbert). De par le Théorème 2.5.1, u est
un contrôle optimal dans K si et seulement si
hJ 0 (u), v − uiL2 ([0,T ];Rk ) ≥ 0, ∀v ∈ K.
Grâce à l’introduction de l’état adjoint p solution de (7.7), ceci se récrit

Z T
∗ ∂g ∗
p(t) B(v(t) − u(t)) + (t, x(t), u(t)) (v(t) − u(t)) dt ≥ 0, ∀v ∈ K.
0 ∂u
Cette inégalité, toujours grâce au Théorème 2.5.1, équivaut au fait que u soit mini-
miseur sur K de la fonctionnelle
Z T
˜
J(u) = ∗
p(t) Bu(t) + g(t, x(t), u(t)) dt.
0
7.3. APPLICATION AU SYSTÈME LQ AVEC CONTRAINTES 179
En posant Φ(t, v) := p(t)∗ Bv + g(t, x(t), v), nous avons donc établi que
Z T Z T
Φ(t, u(t)) dt ≤ Φ(t, u(t)) dt, ∀u ∈ K.
0 0
Supposons par l’absurde que Φ(t, u(t)) > minv∈U Φ(t, v) sur un sous-ensemble de
[0,T ] de mesure strictement positive. Comme Φ(t, u(t)) ≥ minv∈U Φ(t, v) puisque
u(t) ∈ U par hypothèse, ceci implique que
Z T Z T
min Φ(t, v) dt < Φ(t, u(t)) dt.
0 v∈U 0
En posant û(t) := arg minv∈U Φ(t, v) sur [0,T ], on peut montrer (voir le Théorème
8.2.9 de sélection mesurable dont la démonstration sort du cadre de ce cours) que
la fonction û ainsi définie est bien mesurable. Elle est de plus à valeurs dans U par
construction, et comme U est borné par hypothèse, û est bien de carré sommable.
En conclusion, û ∈ K, ce qui fournit la contradiction attendue puisqu’il vient
Z T Z T Z T Z T
Φ(t, û(t)) dt = min Φ(t, v) dt < Φ(t, u(t)) dt ≤ Φ(t, û(t)) dt.
0 0 v∈U 0 0
Ainsi u(t) est minimiseur instantané de v 7→ p(t)∗ Bv + g(t, x(t), v), ce qui n’est rien
d’autre que minimiser le Hamiltonien par rapport à v. 2
7.3 Application au système LQ avec contraintes

L’objectif de cette section est d’illustrer le PMP dans le cas du système LQ
(dynamique linéaire et critère quadratique), mais contrairement au Chapitre 6, nous
supposons ici qu’il y a des contraintes sur le contrôle. Malgré la présence de ces
contraintes, ce nouveau problème de contrôle optimal reste relativement simple,
et il nous sera en fait possible de prouver le PMP (et d’en établir le caractère
suffisant) en nous appuyant sur l’inéquation d’Euler caractérisant le minimiseur
d’une fonctionnelle convexe sur un sous-ensemble convexe, fermé, non-vide d’un
espace de Hilbert (cf. le Théorème 2.5.1).
Soit T > 0, une matrice A ∈ Rd×d , une matrice B ∈ Rd×k et une condition
initiale x0 ∈ Rd . Le système de contrôle linéaire s’écrit sous la forme
ẋu (t) = Axu (t) + Bu(t), ∀t ∈ [0,T ], xu (0) = x0 . (7.10)
Soit U un sous-ensemble convexe, fermé, non-vide de Rk . L’ensemble des contrôles

admissibles est ici le sous-ensemble
K = L2 ([0,T ]; U ). (7.11)
On s’intéresse au problème de minimisation sous contraintes
Chercher u ∈ K tel que J(u) = inf J(u), (7.12)

u∈K
avec le critère quadratique

Z T Z T
1 ∗ 1 1
J(u) = u(t) Ru(t) dt + exu (t)∗ Qexu (t) dt + exu (T )∗ Dexu (T ), (7.13)
2 0 2 0 2
où exu = xu − ξ et ξ ∈ C 0 ([0,T ]; Rd ) est la trajectoire cible. Comme dans le Cha-

pitre 6, les matrices Q, D ∈ Rd×d sont symétriques semi-définies positives, tandis
que la matrice R ∈ Rk×k est symétrique définie positive.
Lemme 7.3.1 Il existe une unique solution au problème (7.12), i.e., la fonctionnelle
J définie par (7.13) admet un unique minimiseur sur le sous-ensemble K défini
par (7.11).
Démonstration. Nous allons appliquer le Théorème 2.3.8. D’une part, K est un

sous-ensemble convexe, fermé, non-vide de l’espace de Hilbert V = L2 ([0,T ]; Rk ). En
effet,
— K est non-vide car le sous-ensemble U est non-vide (considérer un contrôle
constant en temps égal à un élément de U ) ;
— K est convexe car le sous-ensemble U est convexe (pour tout u1 , u2 ∈ K et
θ ∈ [0, 1], on a θu1 (t) + (1 − θ)u2 (t) ∈ U p.p. t ∈ [0,T ] car U est convexe, si
bien que θu1 + (1 − θ)u2 ∈ K) ;
— enfin, K est fermé dans V car si (un )n∈N est une suite de K convergeant vers
u dans V , comme la convergence dans L2 ([0,T ]; Rk ) implique la convergence
p.p. (à une sous-suite près) et que le sous-ensemble U est fermé, on en déduit
que u(t) ∈ U p.p. t ∈ [0,T ], i.e., u ∈ K.
D’autre part, la fonctionnelle J est fortement convexe et continue (elle est même
différentiable) sur V (cf. les Lemmes 6.1.2 et 6.2.1). 2
Dans la suite de cette section, on notera u ∈ K = L2 ([0,T ]; U ) l’unique contrôle
optimal solution de (7.12) et x = xu la trajectoire associée. Le système LQ avec
contraintes rentre dans le champ d’application du PMP. En procédant comme à
l’Exemple 7.2.5 (qui traitait le cas sans contraintes), on introduit l’état adjoint
p ∈ C 1 ([0,T ]; Rd ) tel que
dp
(t) = −A∗ p(t) − Qex (t), ∀t ∈ [0,T ], p(T ) = Dex (T ), (7.14)
dt
où ex (t) = x(t) − ξ(t) p.p. t ∈ [0,T ], et le Hamiltonien H : [0,T ] × Rd × Rd × Rk → R

tel que
1 1
H(t, x, p, u) = p∗ (Ax + Bu) + u∗ Ru + (x − ξ(t))∗ Q(x − ξ(t)). (7.15)
2 2
En appliquant le PMP (cf. le Théorème 7.2.2), on en déduit qu’une condition néces-
saire d’optimalité est que, p.p. t ∈ [0,T ], u(t) est un minimiseur de H(t, x(t), p(t), v)
sur U , i.e.,
u(t) ∈ arg minv∈U H(t, x(t), p(t), v). (7.16)
7.3. APPLICATION AU SYSTÈME LQ AVEC CONTRAINTES 181
En inspectant l’expression de H, on voit que de manière équivalente, on a

∗ ∗ 1 ∗
u(t) ∈ arg minv∈U v B p(t) + v Rv . (7.17)
2
Or, la fonctionnelle en v au membre de droite est quadratique et fortement convexe.

On en déduit qu’elle admet un unique minimiseur sur le sous-ensemble convexe,
fermé, non-vide U de Rk . De manière plus précise, on a donc

∗ ∗ 1 ∗
u(t) = arg minv∈U v B p(t) + v Rv . (7.18)
2
Lorsque U = Rk , on retrouve bien le résultat du chapitre 6, à savoir u(t) =

−R−1 B ∗ p(t). Dans le cas général pour le sous-ensemble U , on n’a pas forcément
d’expression explicite de u(t) en fonction de p(t) car celle-ci dépend de la forme du
sous-ensemble U .
Proposition 7.3.2 La condition (7.18) est une condition nécessaire et suffi-

sante d’optimalité pour le problème (7.12). En outre, cette condition définit un
unique contrôle optimal u ∈ K et celui-ci est une fonction lipschitzienne du temps.
Remarque 7.3.3 Le fait que le contrôle optimal u ∈ K soit une fonction lipschit-
zienne du temps montre que pour le système LQ avec contraintes, il n’y a pas de
phénomènes de type bang-bang pour le contrôle optimal.
Démonstration. (1) La fonctionnelle J étant convexe et différentiable sur V , une
condition nécessaire et suffisante d’optimalité pour le problème (7.12) est l’inéqua-
tion d’Euler (cf. le Théorème 2.5.1)
hJ 0 (u), v − uiV ≥ 0, ∀v ∈ K.
En utilisant l’expression de la différentielle de J obtenue au Lemme 6.2.1, on en

déduit que
hRu + B ∗ p, v − uiV ≥ 0, ∀v ∈ K,
ou encore, en explicitant le produit scalaire dans V = L2 ([0,T ]; Rk ),
Z T
(v(t) − u(t))∗ (Ru(t) + B ∗ p(t)) dt ≥ 0, ∀v ∈ K = L2 ([0,T ]; U ).
0
En utilisant à nouveau l’inéquation d’Euler, ceci ne signifie rien d’autre que
u = arg minv∈K Jp (v),
où la fonctionnelle
Z T
∗ ∗ 1 ∗
Jp : V → R, Jp (v) = v(t) B p(t) + v(t) Rv(t) dt
0 2
est quadratique, différentiable et fortement convexe sur V . On pose pour tout t ∈

[0,T ],
∗ ∗ 1 ∗
u] (t) = arg minv∈U v B p(t) + v Rv .
2
De l’inéquation d’Euler dans U ⊂ Rk , on déduit que pour tout t ∈ [0,T ],
(v − u] (t))∗ (Ru] (t) + B ∗ p(t)) ≥ 0, ∀v ∈ U.
(2) Montrons que la fonction u] (t) ainsi définie est lipschitzienne en t sur [0,T ]. Soit
t1 , t2 ∈ [0,T ]. On a
(u] (t2 ) − u] (t1 ))∗ (Ru] (t1 ) + B ∗ p(t1 )) ≥ 0,

(u] (t1 ) − u] (t2 ))∗ (Ru] (t2 ) + B ∗ p(t2 )) ≥ 0.
En posant δu] = u] (t2 ) − u] (t1 ), il vient
(δu] )∗ Rδu] ≤ (δu] )∗ B ∗ (p(t1 ) − p(t2 )).
Comme la matrice R est par hypothèse définie positive, on en déduit que
|u] (t2 ) − u] (t1 )|Rk = |δu] |Rk ≤ λmin (R)−1 kB ∗ kRk×d |p(t2 ) − p(t1 )|Rd ,
où λmin (R) > 0 désigne la plus petite valeur propre de la matrice R. Comme la
fonction t 7→ p(t) est de classe C 1 en t, cela montre que la fonction t 7→ u] (t) est
lipschitzienne en t.
(3) En conclusion, la fonction u] : [0,T ] → Rk est mesurable (car lipschitzienne), de
carré sommable et à valeurs dans U . On a donc u] ∈ K. De plus, comme u(t) ∈ U
p.p. t ∈ [0,T ], l’inégalité suivante est satisfaite p.p. t ∈ [0,T ] :
1 1
u(t)∗ B ∗ p(t) + u(t)∗ Ru(t) ≥ u] (t)∗ B ∗ p(t) + u] (t)∗ Ru] (t).
2 2
En intégrant cette inégalité de 0 à T , il vient
Jp (u) ≥ Jp (u] ).
Par unicité du minimiseur de Jp sur K, on conclut que u = u] . 2
7.4 Exemple non-linéaire : ruche d’abeilles

On considère un modèle relativement simple de dynamique de populations. Pour
fixer les idées, nous allons le décliner dans le contexte de la modélisation d’une ruche
d’abeilles. On suppose que dans la ruche, la population d’abeilles a(t) et celle des
reines r(t) évolue selon la dynamique

ȧ(t) ϕ(u(t))a(t)
ẋ(t) = = , ∀t ∈ [0,T ], (7.19)
ṙ(t) γu(t)a(t)
7.4. EXEMPLE NON-LINÉAIRE : RUCHE D’ABEILLES 183
où le contrôle u ∈ L∞ ([0,T ]; U ) avec U = [0, 1] représente l’effort des abeilles pour

fournir des reines et où nous avons introduit la fonction
ϕ : [0, 1] → R, ϕ(v) = α(1 − v) − β. (7.20)
Les paramètres du modèle α, β, γ sont des réels strictement positifs et on suppose

que α > β. On suppose également que a(0) > 0 ; comme ȧ(t) = ϕ(u(t))a(t), on a
a(t) > 0 pour tout t ∈ [0,T ]. On notera également que
— si u est constant égal à 1, on a ȧ(t) = −βa(t) < 0 : la population d’abeilles
décroît (exponentiellement) ;
— si u est constant égal à 0, on a ȧ(t) = (α − β)a(t) > 0 : la population
d’abeilles croît (exponentiellement).
Notre objectif ici est de chercher un contrôle optimal afin de maximiser la population
de reines au temps T . En introduisant la fonctionnelle J : U = L1 ([0,T ]; U ) → R
telle que
J(u) = −r(T ), (7.21)
le problème de contrôle optimal est donc le suivant :

u∈U
On commence par chercher une condition nécessaire d’optimalité en appliquant

le PMP. L’état de la ruche est décrit par le vecteur x = (a, r)∗ ∈ R2 . Le problème
de contrôle optimal (7.22) rentre dans le cadre d’application du PMP en posant

ϕ(u)a
f (x, u) = , g(x, u) = 0, h(x) = −r. (7.23)
γua
u
Soit ∈ U un contrôle optimal, de trajectoire associée (a, r)∗ . Comme ∂f ∂x
(x, u) =
ϕ(u) 0 ∂g
γu 0 et ∂x (x, u) = 0, l’état adjoint p = (pa , pr )∗ : [0,T ] → R2 est tel que
dp

 a (t) = −ϕ(u(t))pa (t) − γu(t)pr (t),

dt ∀t ∈ [0,T ], (7.24)
dp
 r (t) = 0,

dt
et la condition finale sur l’état adjoint est
p(T ) = (pa (T ), pr (T )) = (0, −1)∗ . (7.25)
On a donc
dpa
(t) = −ϕ(u(t))pa (t) + γu(t), pr (t) ≡ −1, ∀t ∈ [0,T ]. (7.26)
dt
Par ailleurs, le Hamiltonien est autonome (cf. la Définition 7.2.1) et s’écrit sous la
forme
H(x, p, u) = pa ϕ(u)a + γpr ua. (7.27)
La condition de minimisation (7.9) s’écrit, en utilisant le fait que a(t) 6= 0 pour tout
t ∈ [0,T ],
u(t) ∈ arg minv∈[0,1] ψ(t)v, (7.28)
où la fonction de commutation est donnée par
ψ(t) = −pa (t)α − γ. (7.29)
La solution du problème de minimisation (7.28) est élémentaire ; on obtient, pour

tout t ∈ [0,T ],
— si ψ(t) > 0, u(t) = 0 ;
— si ψ(t) = 0, u(t) ∈ [0, 1] ;
— si ψ(t) < 0, u(t) = 1.
Le contrôle optimal est donc nécessairement bang-bang, sauf si pa (t) = − αγ sur un
sous-intervalle de temps de mesure strictement positive. Reprenons alors l’équation
de l’état adjoint :
— si pa (t) > − αγ , u(t) = 1, et on a dtd pa (t) = βpa (t) + γ ≥ 0, i.e., t 7→ pa (t) est
croissante ;
— si pa (t) < − αγ , u = 0, et on a dtd pa (t) = (β − α)pa (t) ≥ 0, i.e., t 7→ pa (t) est
encore croissante ;
— enfin, il ne peut exister d’intervalle de mesure strictement positive où pa est
constant et égal à − αγ ; en effet, dans ces conditions, on aurait ϕ(u(t)) αγ +
γu(t) = γ(α−β)
α
6= 0, donc pa ne pourrait pas être constant.
Nous pouvons maintenant terminer la résolution du problème. Au temps final,
ψ(T ) = −γ < 0, ce qui montre que u(T ) = 1, i.e., au temps final, le contrôle
optimal consiste à fournir des reines (ce qui n’est pas très surprenant puisque l’ob-
jectif est d’en maximiser le nombre). Le point qui reste à préciser est s’il est optimal
d’en fournir depuis l’instant initial ou s’il convient plutôt de laisser d’abord croître
la population d’abeilles avant de commencer à en fournir. Comme la fonction de
commutation est continue, il existe un temps t∗ < T tel que u(t) = 1 sur ]t∗ , T ]. Sur
cet intervalle, on a dpdta (t) = βpa (t) + γ et par ailleurs la condition finale sur pa étant
pa (T ) = 0, on en déduit que

γ β(t−T )
pa (t) = − 1−e , ∀t ∈ [t∗ , T ]. (7.30)
β
La fonction pa est donnée par l’expression ci-dessus tant que le contrôle optimal u
reste égal à 1. Pour que la valeur du contrôle change, la fonction de commutation
(qui est continue) doit s’annuler, i.e., pa (t∗ ) = − αγ . En utilisant l’expression de pa ,
on obtient
1 β
t∗ = ln(1 − ) + T. (7.31)
β α
On notera que t∗ < T . Deux cas peuvent alors se produire en fonction des paramètres
du problème.
— Cas 1. t∗ < 0 (ce qui correspond au cas d’un horizon temporel T petit) ; le
contrôle optimal est alors u ≡ 1 sur [0,T ], ce qui signifie que l’on fournit des
reines en continu depuis t = 0 jusqu’à t = T ;
7.5. PMP : ESQUISSE DE PREUVE 185
a
u
r
t∗ t
pa
Figure 7.2 – Trajectoire, état adjoint et contrôle optimal pour le modèle de ruche.
— Cas 2. t∗ > 0 (ce qui correspond au cas d’un horizon temporel T rela-
tivement grand) ; le contrôle optimal est u ≡ 0 sur [0, t∗ [ et u ≡ 1 sur
]t∗ , T ]. En effet, le contrôle u vérifie bien le PMP car dpdta (t) = (β − α)pa (t),
pa (t∗ ) = − αγ , d’où pa (t) = − αγ e(β−α)(t−t∗ ) < − αγ sur [0, t∗ ], si bien que la
fonction de commutation est positive, ce qui correspond bien à u(t) = 0.
L’ensemble {t ∈ [0,T ] | ψ(t) = 0} est réduit au singleton {t∗ } et est donc de
mesure nulle.
Une illustration de la trajectoire, de l’état adjoint et du contrôle optimal est présen-
tée à la Figure 7.2 dans le cas où il y a une commutation.
7.5 PMP : esquisse de preuve

Cette section est consacrée à une esquisse de preuve du Théorème 7.2.2 qui
établissait le principe du minimum de Pontryaguine (PMP). On reprend le système
de contrôle non-linéaire considéré à la Section 7.1. On rappelle que la dynamique
s’écrit sous la forme
ẋu (t) = f (t, xu (t), u(t)), ∀t ∈ [0,T ], xu (0) = x0 , (7.32)
avec T > 0, f : [0,T ]×Rd ×U → Rd et x0 ∈ Rd . L’ensemble des contrôles admissibles

est
U = L1 ([0,T ]; U ),
où U est un sous-ensemble fermé non-vide de Rk . L’objectif est de trouver un contrôle
optimal u ∈ U qui minimise le critère
Z T
J(u) = g(t, xu (t), u(t)) dt + h(xu (T )), (7.33)
0
où les fonctions g : [0,T ] × Rd × U → R et h : Rd → R sont données. Le problème

de contrôle optimal est donc le suivant :

u∈U
On rappelle les hypothèses qui avaient été introduites afin de garantir l’existence
et l’unicité d’une trajectoire xu pour un contrôle donné u ∈ U (cf. en particulier le
Lemme 7.1.1) et le fait que la fonctionnelle J(u) est bien définie :
1. f ∈ C 0 ([0,T ] × Rd × U ; Rd ) et f est de classe C 1 par rapport à x ;
2. ∃C, |f (t, y, v)|Rd ≤ C(1 + |y|Rd + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈ Rd , ∀v ∈ U ;
3. Pour tout R > 0, ∃CR , | ∂f
∂x
(t, y, v)|Rd×d ≤ CR (1 + |v|Rd ), ∀t ∈ [0,T ], ∀y ∈
B(0, R), ∀v ∈ U ;
4. g ∈ C 0 ([0,T ] × Rd × U ; R) et g est de classe C 1 par rapport à x ; de plus,
h ∈ C 1 (Rd ; R) ;
5. Pour tout R > 0, ∃CR , |g(t, y, v)| ≤ CR (1 + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈ B(0, R),
∀v ∈ U ;
∂g
6. Pour tout R > 0, ∃CR , | ∂x (t, y, v)|Rd ≤ CR (1 + |v|Rk ), ∀t ∈ [0,T ], ∀y ∈
B(0, R), ∀v ∈ U ;
7. Les fonctions g et h sont minorées respectivement sur [0,T ] × Rd × U et sur
Rd .
Dans ces hypothèses, C et CR désignent des constantes génériques indépendantes
de (t, y, v), CR dépendant du rayon R de la boule fermée B(0, R) ; comme précé-
demment, nous continuons à utiliser les symboles C et CR avec la convention que
les valeurs de C et de CR peuvent changer à chaque utilisation tant qu’ils restent
indépendants du temps, de l’état du système et de la valeur du contrôle.
Rappelons enfin l’énoncé du PMP (cf. le Théorème 7.2.2).
Théorème 7.5.1 (PMP) Si u ∈ U est un contrôle optimal, i.e., si u est une solu-
tion de (7.34), alors, en notant x = xu ∈ AC([0,T ]; Rd ) la trajectoire associée à u,
et en définissant l’état adjoint p ∈ AC([0,T ]; Rd ) solution de
dp ∂h
(t) = −A(t)∗ p(t) − b(t), ∀t ∈ [0,T ], p(T ) = (x(T )), (7.35)
dt ∂x
avec A(t) = ∂f ∂x
(t, x(t), u(t)) ∈ Rd×d et b(t) = ∂g
∂x
(t, x(t), u(t)) ∈ Rd pour tout t ∈
[0,T ], on a, p.p. t ∈ [0,T ],
u(t) ∈ arg min H(t, x(t), p(t), v), (7.36)

v∈U
où le Hamiltonien H : [0,T ] × Rd × Rd × U → R est défini par
H(t, x, p, u) = p∗ f (t, x, u) + g(t, x, u). (7.37)
On rappelle enfin qu’un triplet (x, p, u) satisfaisant les conditions ci-dessus est
appelé une extrémale et que le PMP ne fournit qu’une condition nécessaire
d’optimalité ; en revanche, il ne dit rien sur l’existence d’un contrôle optimal et il
ne fournit pas a priori de condition suffisante.
Démonstration. Nous allons nous contenter de donner une esquisse de la preuve,
en insistant sur les idées principales sans nécessairement fournir tous les détails tech-
niques pour certains résultats intermédiaires. Ce qui compte ici est donc davantage
l’esprit de la démonstration que sa lettre.

(1) L’idée fondamentale est de tester l’optimalité de J(u) en faisant des variations
aiguille : il s’agit de perturbations de u d’ordre un ( !) mais sur un intervalle de
temps de longueur très petite δ 1. Soit t ∈ [0,T [ et δ ∈ ]0,T − t[, avec δ 1.
La perturbation reste donc petite dans L1 ([0,T ]; Rk ). Soit v ∈ U arbitraire. On pose
Iδ = [t,t + δ] et on considère le contrôle perturbé
(
u(t), ∀t ∈ [0,T ] \ Iδ ,
uδ (t) =
v, ∀t ∈ Iδ .
On note xδ la trajectoire associée au contrôle perturbé. On admet par la suite que

p.p. t ∈ [0,T [ (de tels points sont appelés points de Lebesgue), pour ψ = f et ψ = g,
Z
1
lim ψ(s, x(s), u(s)) ds = ψ(t, x(t), u(t)).
δ→0+ δ I
δ
On suppose dans la suite de la preuve que t est un point de Lebesgue ; le résultat

ci-dessus justifie donc que l’on considère bien tous les instants t ∈ [0,T ] à un sous-
ensemble de mesure nulle près.
(2) Comparaison des trajectoires. Comme xδ (t) = x(t) et xδ (s) = x(s) + O(δ) pour
tout s ∈ Iδ , on peut invoquer la continuité de f en (t, x) et la propriété des points
de Lebesgue afin d’obtenir les estimations suivantes :
Z
xδ (t + δ) = x(t) + f (s, xδ (s), v) ds = x(t) + δf (t, x(t), v) + o(δ),
Iδ
Z
x(t + δ) = x(t) + f (s, x(s), u(s)) ds = x(t) + δf (t, x(t), u(t)) + o(δ),
Iδ
si bien que
xδ (t + δ) − x(t + δ) = δ(f (t, x(t), v) − f (t, x(t), u(t))) + o(δ).
Une illustration est présentée à la Figure 7.3. On va maintenant comparer xδ (s) et

x(s) pour tout s ∈ Iδ+ = [t + δ,T ]. Il est clair que xδ (s) − x(s) = O(δ) pour tout
s ∈ Iδ+ , et on cherche à préciser la différence à l’ordre un en δ. On introduit la
solution yδ ∈ AC(Iδ+ ; Rd ) de l’équation différentielle
ẏδ (s) = A(s)yδ (s), ∀s ∈ Iδ+ , yδ (t + δ) = f (t, x(t), v) − f (t, x(t), u(t)),
∂f
où on rappelle que A(s) = ∂x
(s, x(s), u(s)). On en déduit que
xδ (s) − x(s) = δyδ (s) + Φδ (s), ∀s ∈ Iδ+ , Φδ = o(δ) unif. sur Iδ+ .
En effet, on a vu que Φδ (t + δ) = o(δ) et Φ̇δ (s) = Ψδ (s) + A(s)Φδ (s), pour tout
s ∈ Iδ+ , où Ψδ (s) = o(δ) uniformément sur Iδ+ , car
Ψδ (s) = f (s, xδ (s), u(s)) − f (s, x(s), u(s)) − A(s)(xδ (s) − x(s)).
v xδ (t + δ) xδ
u
x(t) x
x(t + δ)
Iδ Iδ+ T Iδ Iδ+ T
Figure 7.3 – Principe de la variation aiguille pour le contrôle optimal u (à gauche),

trajectoire optimale et trajectoire perturbée (à droite).
En conclusion de cette première étape de la preuve, on a donc
xδ (s) − x(s) = δyδ (s) + o(δ) uniformément sur Iδ+ .
(3) Comparaison des critères. Grâce à la comparaison des trajectoires, à la continuité

de g en (t, x) et à la propriété des points de Lebesgue, il vient
Z T
J(uδ ) − J(u) = g(s, xδ (s), uδ (s)) − g(s, x(s), u(s)) ds + h(xδ (T )) − h(x(T ))
Zt Z
= g(s, xδ (s), v) − g(s, x(s), u(s)) ds + g(s, xδ (s), u(s)) − g(s, x(s), u(s)) ds
Iδ Iδ+
∂h
+δ (x(T ))∗ yδ (T ) + o(δ)
∂x
Z T
= δ(g(t, x(t), v) − g(t, x(t), u(t))) + δ b(s)∗ yδ (s) ds
t+δ
∂h
+ δ (x(T ))∗ yδ (T ) + o(δ),
∂x
∂g
où on rappelle que b(s) = ∂x
(s, x(s), u(s)). L’optimalité de u implique donc que
Z T
∂h
0 ≤ g(t, x(t), v) − g(t, x(t), u(t)) + b(s)∗ yδ (s) ds + (x(T ))∗ yδ (T ) + o(1).
t+δ ∂x
(4) Introduction de l’état adjoint et conclusion. L’état adjoint p, qui est par défini-
tion tel que dp dt
(s) = −A(s)∗ p(s) − b(s) sur [0,T ] et p(T ) = ∂h ∂x
(x(T )), nous permet
d’éliminer la fonction yδ . En effet, il vient
Z T Z T ∗
∗ ∂h ∗ dp
b(s) yδ (s) ds + (x(T )) yδ (T ) = − (s) − A(s) p(s) yδ (s) ds + p(T )∗ yδ (T )
∗
t+δ ∂x t+δ dt
Z T
d
= − (p(s)∗ yδ (s)) ds + p(T )∗ yδ (T )
t+δ dt
= p(t + δ)∗ yδ (t + δ)
= p(t + δ)∗ (f (t, x(t), v) − f (t, x(t), u(t))).
En faisant tendre δ ↓ 0, il vient par continuité de p,
0 ≤ g(t, x(t), v) − g(t, x(t), u(t)) + p(t)∗ (f (t, x(t), v) − f (t, x(t), u(t))),
et en utilisant la définition du Hamiltonien, on obtient
0 ≤ H(t, x(t), p(t), v) − H(t, x(t), p(t), u(t)),
ce qui conclut la preuve car v est arbitraire dans U . 2

Chapitre 8
ANNEXE : QUELQUES RAPPELS

MATHÉMATIQUES
8.1 Rappels sur les espaces de Hilbert

Nous rappelons brièvement quelques propriétés des espaces de Hilbert (pour
plus de détails, nous renvoyons au cours de mathématiques [18]). Pour simplifier la
présentation, on ne considère que le cas d’espaces de Hilbert sur R.
Définition 8.1.1 Un espace de Hilbert réel est un espace vectoriel sur R, muni
noté hx, yi, qui est complet pour la norme associée à ce produit
d’un produit scalaire, p
scalaire, notée kxk = hx, xi. (On rappelle qu’un espace vectoriel normé est complet
si toute suite de Cauchy est une suite convergente dont la limite appartient à cet
espace.)
Dans tout ce qui suit nous noterons V un espace de Hilbert réel, et hx, yi son
produit scalaire associé.
Définition 8.1.2 Un ensemble K ⊂ V est dit convexe si, pour tout x, y ∈ K et

tout réel θ ∈ [0, 1], l’élément (θx + (1 − θ)y) appartient à K.
Un résultat essentiel est le théorème de projection sur un ensemble convexe
(voir le théorème 10.1 de [18]).
Théorème 8.1.3 (de projection sur un convexe) Soit V un espace de Hilbert.

Soit K ⊂ V un convexe fermé non vide. Pour tout x ∈ V , il existe un unique
xK ∈ K tel que
kx − xK k = min kx − yk.
y∈K
De façon équivalente, xK est caractérisé par la propriété
xK ∈ K, hxK − x, xK − yi ≤ 0 ∀y ∈ K. (8.1)
On appelle xK la projection orthogonale sur K de x.
191
192 ANNEXE : RAPPELS
Remarque 8.1.4 Le Théorème 8.1.3 permet de définir une application PK , appelée

opérateur de projection sur l’ensemble convexe K, en posant PK x = xK . On vérifie
sans peine que PK est continue et faiblement contractante, c’est-à-dire que
kPK x − PK yk ≤ kx − yk ∀ x, y ∈ V . (8.2)
Remarque 8.1.5 Un cas particulier de convexe fermé K est un sous-espace vecto-

riel fermé W . Dans ce cas, la caractérisation (8.1) de xW devient
xW ∈ W, hxW − x, zi = 0 ∀z ∈ W.
En effet, dans (8.1) il suffit de prendre y = xK ± z avec z quelconque dans W . •

Démonstration. Soit y n une suite minimisante, c’est-à-dire que y n ∈ K vérifie
dn = kx − y n k → d = inf kx − yk quand n → +∞.

y∈K
Montrons que y n est une suite de Cauchy. En utilisant la symétrie du produit scalaire,
il vient
1 1 1
kx − (y n + y p )k2 + k (y n − y p )k2 = (d2n + d2p ).
2 2 2
1 n
n p
Or, par convexité de K, (y + y )/2 ∈ K, et kx − 2 (y + y p )k2 ≥ d2 . Par conséquent
ky n − y p k2 ≤ 2(d2n + d2p ) − 4d2 ,
ce qui montre que y n est une suite de Cauchy. Comme V est un espace de Hilbert, il
est complet, donc la suite y n est convergente vers une limite xK . Par ailleurs, comme
K est fermé, cette limite xK appartient à K. Par conséquent, on a d = kx − xK k.
Comme toute la suite minimisante est convergente, la limite est forcément unique,
et xK est le seul point de minimum de miny∈K kx − yk.
Soit xK ∈ K ce point de minimum. Pour tout y ∈ K et θ ∈ [0, 1], par convexité
de K, xK + θ(y − xK ) appartient à K et on a
kx − xK k2 ≤ kx − (xK + θ(y − xK ))k2 .
En développant le terme de droite, il vient
kx − xK k2 ≤ kx − xK k2 + θ2 ky − xK k2 − 2θhx − xK , y − xK i,
ce qui donne pour θ > 0
0 ≤ −2hx − xK , y − xK i + θky − xK k2 .
En faisant tendre θ vers 0, on obtient la caractérisation (8.1). Réciproquement, soit

xK qui vérifie cette caractérisation. Pour tout y ∈ K on a
kx − yk2 = kx − xK k2 + kxK − yk2 + 2hx − xK , xK − yi ≥ kx − xK k2 ,
ce qui prouve que xK est bien la projection orthogonale de x sur K. 2

8.1. RAPPELS SUR LES ESPACES DE HILBERT 193
Définition 8.1.6 Soit V un espace de Hilbert pour le produit scalaire h, i. On appelle

base hilbertienne (dénombrable) de V une famille dénombrable (en )n≥1 d’éléments de
V qui est orthonormale pour le produit scalaire et telle que l’espace vectoriel engendré
par cette famille est dense dans V .
Remarque 8.1.7 L’existence d’une base hilbertienne dénombrable n’est pas ga-
rantie pour tous les espaces de Hilbert. Néanmoins, on peut construire des bases
hilbertiennes pour les espaces de Hilbert séparables (i.e. qui contiennent une famille
dénombrable dense). •
Proposition 8.1.8 Soit V un espace de Hilbert pour le produit scalaire h, i. Soit

(en )n≥1 une base hilbertienne de V . Pour tout élément
Pp x de V , il existe une unique
suite (xn )n≥1 de réels telle que la somme partielle n=1 xn en converge vers x quand
p tend vers l’infini, et cette suite est définie par xn = hx, en i. De plus, on a
X
kxk2 = hx, xi = |hx, en i|2 . (8.3)
n≥1
On écrit alors X
x= hx, en ien .
n≥1
Démonstration. S’il existe une suite (xn )n≥1 de réels telle que limp→+∞ pn=1 xn en =
P
x, alors par projection sur en (et comme cette suite est par définition indépendante
de p) on a xn = hx, en i, ce qui prouve l’unicité de la suite (xn )n≥1 . Montrons mainte-
nant son existence. Par définition d’une base hilbertienne, pour tout x ∈ V et pour
tout > 0, il existe y, combinaison linéaire finie des (en )n≥1 , tel que kx − yk < .
Grâce au Théorème 8.1.3 on peut définir une application linéaire Sp qui, à tout
point z ∈ V , fait correspondre Sp z = zW , où zW est la projection orthogonale sur
le sous-espace vectoriel W engendré par les p premiers vecteurs (en )1≤n≤p . En vertu
de (8.1), (z − Sp z) est orthogonal à tout élément de W , donc en particulier à Sp z.
On en déduit que
kzk2 = kz − Sp zk2 + kSp zk2 , (8.4)
ce qui implique
kSp zk ≤ kzk∀z ∈ V.
Comme Sp z est engendré par les (en )1≤n≤p , et que (z − Sp z) est orthogonal à chacun
des (en )1≤n≤p , on vérifie facilement que
p
X
Sp z = hz, en ien .
n=1
Pour p suffisamment grand, on a Sp y = y car y est une combinaison linéaire finie

des (en )n≥1 . Par conséquent
kSp x − xk ≤ kSp (x − y)k + ky − xk ≤ 2kx − yk ≤ 2.

On en déduit la convergence de Sp x vers x. De cette convergence et de l’équation

(8.4) on tire
lim kSp xk2 = kxk2 ,
p→+∞
qui n’est rien d’autre que la formule de sommation (8.3), dite de Parseval. 2
Définition 8.1.9 Soit V et W deux espaces de Hilbert réels. Une application linéaire
A de V dans W est dite continue s’il existe une constante C telle que
kAxkW ≤ CkxkV ∀x ∈ V.
La plus petite constante C qui vérifie cette inégalité est la norme de l’application
linéaire A, autrement dit
kAxkW
kAk = sup .
x∈V,x6=0 kxkV
Souvent on utilisera la dénomination équivalente d’opérateur au lieu d’applica-

tion entre espaces de Hilbert (on parlera ainsi d’opérateur linéaire continu plutôt
que d’application linéaire continue). Si V est de dimension finie, alors toutes les
applications linéaires de V dans W sont continues, mais ce n’est plus vrai si V est
de dimension infinie.
Définition 8.1.10 Soit V un espace de Hilbert réel. Son dual V 0 est l’ensemble des
formes linéaires continues sur V , c’est-à-dire l’ensemble des applications linéaires
continues de V dans R. Par définition, la norme d’un élément L ∈ V 0 est
|L(x)|
kLkV 0 = sup .
x∈V,x6=0 kxk
Dans un espace de Hilbert la dualité a une interprétation très simple grâce au

théorème de Riesz (voir le théorème 10.3 de [18]) qui permet d’identifier un espace
de Hilbert à son dual par isomorphisme.
Théorème 8.1.11 (de représentation de Riesz) Soit V un espace de Hilbert

réel, et soit V 0 son dual. Pour toute forme linéaire continue L ∈ V 0 il existe un
unique y ∈ V tel que
L(x) = hy, xi ∀x ∈ V.
De plus, on a kLkV 0 = kyk.
Démonstration. Soit M = KerL. Il s’agit d’un sous-espace fermé de V car L est
continue. Si M = V , alors L est identiquement nulle et seul y = 0 convient. Si
M 6= V , alors il existe z ∈ V \ M . Soit alors zM ∈ M sa projection sur M . Comme z
n’appartient pas à M , z − zM est non nul et, par le Théorème 8.1.3, est orthogonal
à tout élément de M . Soit finalement
z − zM
z0 = .
kz − zM k
8.2. NOTION DE SÉLECTION MESURABLE 195
Tout vecteur x ∈ V peut s’écrire

L(x)
x = w + λz0 avec λ = .
L(z0 )
On vérifie aisément que L(w) = 0, donc w ∈ M . Ceci prouve que V = Vect(z0 ) ⊕ M .
Par définition de zM et de z0 , on a hw, z0 i = 0, ce qui implique
L(x) = hx, z0 iL(z0 ),
d’où le résultat désiré avec y = L(z0 )z0 (l’unicité est évidente). D’autre part, on a
kyk = |L(z0 )|,
et
|L(x)| hx, z0 i
kLkV 0 = sup = L(z0 ) sup .
x∈V,x6=0 kxk x∈V,x6=0 kxk
Le maximum dans le dernier terme de cette égalité est atteint par x = z0 , ce qui
implique que kLkV 0 = kyk. 2
Un résultat essentiel pour pouvoir démontrer le Lemme de Farkas 2.5.19 (utile

en optimisation) est la propriété géométrique suivante qui est tout à fait conforme
à l’intuition.
Théorème 8.1.12 (Séparation d’un point et d’un convexe) Soit K une par-
tie convexe non vide et fermée d’un espace de Hilbert V , et x0 ∈
/ K. Alors il existe
un hyperplan fermé de V qui sépare strictement x0 et K, c’est-à-dire qu’il existe une
forme linéaire L ∈ V 0 et α ∈ R tels que
L(x0 ) < α < L(x) ∀ x ∈ K . (8.5)
Démonstration. Notons xK la projection de x0 sur K. Puisque x0 ∈ / K, on a

xK −x0 6= 0. Soit L la forme linéaire définie pour tout y ∈ V par L(y) = hxK −x0 , yi,
et soit α = (L(xk ) + L(x0 ))/2. D’après (8.1), on a L(x) ≥ L(xK ) > α > L(x0 ) pour
tout x ∈ K, ce qui achève la démonstration. 2
8.2 Notion de sélection mesurable

L’objectif de cette section est d’apporter quelques compléments sur les résultats
de sélection mesurable qui sont parfois invoqués dans ce cours pour justifier de
manière mathématiquement rigoureuse certains résultats de contrôle optimal. Ces
résultats font appel à des notions relativement fines de théorie de la mesure, et ne
seront donc qu’esquissés ici. Une présentation complète peut être trouvée dans le
chapitre 14 du livre [28]. Le contenu de cette section est inspiré de ce chapitre.
Commençons par présenter la problématique. On pose I = [0,T ]. On considère
une application Φ : [0,T ] × Rk → R = [−∞, +∞]. Pour tout t ∈ I, on considère le
sous-ensemble
U (t) = arg minu∈Rk Φ(t, u) ⊂ Rk , (8.6)
et on pose J = {t ∈ I | U (t) 6= ∅}. On souhaite savoir s’il existe une application

u : J → Rk qui soit mesurable et telle que u(t) ∈ U (t) pour tout t ∈ J. Une telle
application est appelée une sélection mesurable. Un résultat simple et utile est
que si l’application Φ est mesurable par rapport à t (à u fixé) et si elle est convexe
et continue par rapport à u (à t fixé), alors il existe une telle sélection mesurable.
Le reste de cette section a pour objectif d’apporter une réponse mathématique
un peu plus complète au problème de la sélection mesurable. Dans un premier temps,
on considère des applications définies sur I à valeurs dans les sous-ensembles de Rk .
On note S : I ⇒ Rk une telle application (le symbole ⇒ est là pour nous rappeler
que S(t) est un sous-ensemble de Rk qui n’est pas forcément réduit à un point). On
équipe I d’une σ-algébre notée A (par exemple, la tribu borélienne de R restreinte
à I).
Définition 8.2.1 (Mesurabilité) On dit que l’application S : I ⇒ Rk est mesu-

rable si pour tout ouvert O ⊂ Rk , l’image réciproque
[
S −1 (O) = S −1 (u) = {t ∈ I | S(t) ∩ O 6= ∅} (8.7)
u∈O
est mesurable, i.e., si S −1 (O) ∈ A. En particulier, le domaine de S, dom S =

S −1 (Rk ), est donc mesurable (on notera que si S(t) = ∅, alors t 6∈ dom S).
Si l’application S ne prend comme valeurs que des singletons, on retrouve la
définition usuelle de la mesurabilité d’une application de I dans Rk .
Théorème 8.2.2 (Représentation de Castaing) La mesurabilité d’une applica-

tion S : I ⇒ Rk à valeurs fermées (cela signifie que pour tout t ∈ I, S(t) est un
fermé) est équivalente à l’existence d’une représentation de Castaing, i.e., à l’exis-
tence d’une famille dénombrable de fonctions mesurables sn : dom S → Rk , ∀n ∈ N,
telles que pour tout t ∈ dom S, S(t) = {sn (t)}n∈N .
Corollaire 8.2.3 (Sélection mesurable) Une application S : I ⇒ Rk mesurable

à valeurs fermées admet une sélection mesurable, i.e., il existe une application me-
surable s : dom S → Rk telle que s(t) ∈ S(t) pour tout t ∈ dom S.
Considérons à nouveau une application Φ : [0,T ] × Rk → R. L’application-
épigraphe EΦ : I ⇒ Rk × R et l’application-domaine DΦ : I ⇒ Rk , associées à Φ,
sont telles que, pour tout t ∈ I,
EΦ (t) = {(u, α) ∈ Rk × R | Φ(t, u) ≤ α}, (8.8a)

k
DΦ (t) = {u ∈ R | Φ(t, u) < +∞}. (8.8b)
Définition 8.2.4 (Intégrande normal) On dit que l’application Φ : [0,T ]×Rk →

R est un intégrande normal si son application-épigraphe EΦ : I ⇒ Rk × R est
mesurable à valeurs fermées.
Proposition 8.2.5 (Ensembles de niveau) L’application Φ : [0,T ]×Rk → R est

un intégrande normal si et seulement si pour tout α ∈ R, l’application ensemble de
8.2. NOTION DE SÉLECTION MESURABLE 197
niveau Nα : I ⇒ Rk telle que Nα (t) = {u ∈ Rk | Φ(t, u) ≤ α} est mesurable à

valeurs fermées.
On rappelle qu’une fonction f : Rk → R est semi-continue inférieurement (sci

en abrégé) si son épigraphe {(u, α) ∈ Rk × R | f (u) ≤ α} est fermé ; de manière
équivalente, pour tout u ∈ Rk et tout > 0, il existe un voisinage U de u tel que
pour tout v ∈ U , on a f (v) ≥ f (u) − .
Proposition 8.2.6 (Conséquences de la normalité d’un intégrande) On sup-

pose que l’application Φ : [0,T ] × Rk → R est un intégrande normal. Alors,
(i) l’application-domaine DΦ : I ⇒ Rk est mesurable ;
(ii) pour toute fonction mesurable I 3 t 7→ u(t) ∈ Rk , la fonction t 7→ Φ(t, u(t)) est
mesurable ;
(iii) l’application Φ est mesurable par rapport à t (à u fixé) et elle est sci par rapport
à u (à t fixé) ; en revanche, toute application qui est mesurable par rapport à t et sci
par rapport u n’est pas nécessairement un intégrande normal.
Proposition 8.2.7 (Fonction de Carathéodory) Toute fonction de Carathéo-

dory, i.e., toute fonction qui est mesurable par rapport à t (à u fixé) et continue
par rapport à u (à t fixé) est un intégrande normal.
Exemple 8.2.8 [Indicatrice] On suppose que l’application S : I ⇒ Rk est me-

surable et à valeurs fermées. Alors, la fonction indicatrice δS : I × Rk → R telle
que
(
0 si u ∈ S(t),
δS (t, u) =
+∞ sinon,
est un intégrande normal.
Venons-en au résultat principal lié à la notion d’intégrande normal.
Théorème 8.2.9 (Mesurabilité de minimiseurs et du minimum) On suppose

que l’application Φ : [0,T ] × Rk → R est un intégrande normal. On pose pour tout
t ∈ I,
ϕ(t) = inf Φ(t, u), U (t) = arg min Φ(t, u). (8.9)
u∈Rk u∈Rk
Alors, l’application ϕ : I → R est mesurable et l’application U : I ⇒ Rk est mesu-

rable à valeurs fermées. Par conséquent, le sous-ensemble J = {t ∈ I | U (t) 6= ∅} ⊂ I
est mesurable et pour tout t ∈ J, on peut choisir un minimiseur u(t) dans U (t) de
sorte que l’application t 7→ u(t) soit mesurable.
Proposition 8.2.10 (Convexité) Soit Φ : [0,T ] × Rk → R une application mesu-

rable par rapport à t et sci par rapport à u. Alors, si Φ est convexe par rapport à u
(à t fixé), Φ est un intégrande normal.
8.3 Rappels sur les équations différentielles ordi-

naires
Dans cette section nous rappelons quelques résultats importants dans l’étude
des équations différentielles ordinaires. Il existe de très nombreux ouvrages sur ce
sujet et nous renvoyons simplement aux cours [17] (pour les aspects théoriques)
et [24] (pour les aspects numériques et applicatifs). On fixe un horizon temporel
T > 0 et une condition initiale x0 ∈ Rd . On considère le problème de Cauchy qui
consiste à chercher une fonction x : [0,T ] → Rd telle que
ẋ(t) = F (t, x(t)), ∀t ∈ [0,T ], x(0) = x0 , (8.10)
pour une application donnée F : [0,T ] × Rd → Rd . Commençons par rappeler un

résultat bien connu.
Théorème 8.3.1 (Cauchy–Lipschitz, cas continu et Lipschitz global) On sup-

pose que :
(i) L’application F est continue en t et en x, i.e., F ∈ C 0 ([0,T ] × Rd ; Rd ) ;
(ii) L’application F est globalement lipschitzienne en x, i.e.,
∃C0 ∈ R+ , ∀t ∈ [0,T ], ∀x1 , x2 ∈ Rd ,

|F (t, x1 ) − F (t, x2 )|Rd ≤ C0 |x1 − x2 |Rd .
(8.11)
Alors, il existe une unique solution au problème de Cauchy telle que
x ∈ C 1 ([0,T ]; Rd ). (8.12)
Cette solution satisfait donc le système différentiel (8.10) pour tout t ∈ [0,T ].
Démonstration. Le principe de la preuve consiste à observer que x est solution du

problème de Cauchy (8.10) si et seulement si
Z t
x(t) = x0 + F (s, x(s)) ds, ∀t ∈ [0,T ].
0
On introduit l’espace Y = C 0 ([0,T ]; Rd ) ; il s’agit d’un espace de Banach (espace

vectoriel normé complet) équipé de la norme de la convergence uniforme kykY =
supt∈[0,T ] |y(t)|Rd pour tout y ∈ Y . Résoudre le problème de Cauchy revient à cher-
cher un point fixe de l’application Φ : Y → Y où pour tout y ∈ Y , Φ(y) est tel
que
Z t
Φ(y)(t) = x0 + F (s, y(s)) ds, ∀t ∈ [0,T ].
0
Montrons que l’application Φ est strictement contractante de Y dans Y . On considère

la norme kykY ∗ = supt∈[0,T ] (e−C0 t |y(t)|Rd ) où C0 est la constante intervenant dans la
propriété de Lipschitz globale de l’application F . Il est clair que la norme k · kY ∗ est
8.3. RAPPELS SUR LES ÉQUATIONS DIFFÉRENTIELLES ORDINAIRES 199
équivalente à la norme k · kY sur Y . On constate que pour tout y1 , y2 ∈ Y , on a

−C0 t
kΦ(y1 ) − Φ(y2 )kY ∗ = sup e |Φ(y1 )(t) − Φ(y2 )(t)|Rd
t∈[0,T ]
Z t
−C0 t
≤ sup e |F (s, y1 (s)) − F (s, y2 (s))|Rd ds
t∈[0,T ] 0
Z t
−C0 t
≤ sup e C0 |y1 (s) − y2 (s)|Rd ds
t∈[0,T ] 0
Z t
−C0 t C0 s −C0 s
= sup e C0 e e |y1 (s) − y2 (s)|Rd ds
t∈[0,T ] 0
Z t
−C0 t C0 s
≤ sup e C0 e ds ky1 − y2 kY ∗
t∈[0,T ] 0

−C0 t
ky1 − y2 kY ∗ = 1 − e−C0 T ky1 − y2 kY ∗ ,

= sup 1 − e
t∈[0,T ]
où on a utilisé le caractère globalement lipschitzien en x de l’application F pour

passer de la deuxième à la troisième ligne du calcul. L’application Φ est donc bien
strictement contractante de Y dans Y . On conclut par le théorème du point fixe de
Picard. 2
L’hypothèse de continuité en t de l’application F faite au Théorème 8.3.1 n’est
pas vraiment satisfaisante pour l’étude des systèmes de contrôle. En effet, ces sys-
tèmes s’écrivent sous la forme
ẋ(t) = f (t, x(t), u(t)), ∀t ∈ [0,T ], x(0) = x0 , (8.13)
où u ∈ L1 ([0,T ]; Rk ) et f : [0,T ] × Rd × Rk → Rd . L’étude du système différen-

tiel (8.13) se ramène à celle du problème de Cauchy (8.10) en posant
F (t, x) = f (t, x, u(t)), ∀(t, x) ∈ [0,T ] × Rd . (8.14)
On voit donc que même si l’application f est régulière en u, le fait que le contrôle
ne dépende pas continûment du temps fait que l’application F ne sera pas néces-
sairement continue en t. Afin de traiter cette situation, on dispose de la variante
suivante du Théorème 8.3.1 (la preuve utilise des arguments analogues à ceux évo-
qués ci-dessus). On renvoie le lecteur à la Définition 5.1.2 pour la notion de fonction
absolument continue.
Théorème 8.3.2 (Cauchy–Lipschitz, cas mesurable et Lipschitz global) On

suppose que :
(i) L’application F est mesurable en t et continue en x, i.e., pour tout x ∈ Rd ,
l’application t 7→ F (t, x) est mesurable et pour presque tout t ∈ [0,T ], l’application
x 7→ F (t, x) est continue ;
(ii) L’application F est intégrable en t, i.e.,
∀x ∈ Rd , ∃β ∈ L1 ([0,T ]; R+ ), ∀t ∈ [0,T ], |F (t, x)|Rd ≤ β(t); (8.15)

(iii) L’application F est globalement lipschitzienne en x, i.e.,
∃C0 ∈ L1 ([0,T ]; R+ ),
p.p. t ∈ [0,T ], ∀x1 , x2 ∈ Rd , |F (t, x1 ) − F (t, x2 )|Rd ≤ C0 (t)|x1 − x2 |Rd . (8.16)
Alors, il existe une unique solution au problème de Cauchy telle que
x ∈ AC([0,T ]; Rd ). (8.17)
Cette solution, qui est dérivable p.p. sur [0,T ], satisfait le système différentiel (8.10)
pour presque tout t ∈ [0,T ] ; elle vérifie également
Z t
x(t) = x0 + F (s, x(s)) ds, ∀t ∈ [0,T ]. (8.18)
0
Remarque 8.3.3 [Intégrabilité] Grâce à la propriété (iii) du Théorème 8.3.2, il

suffit, afin d’établir la propriété (ii), de montrer que F (t, 0) ∈ L1 ([0,T ]; Rd ).
Un cas d’application du Théorème 8.3.2 est le cas linéaire (éventuellement avec

un terme de dérive) où on a F (t, x) = A(t)x + r(t) avec A ∈ L1 ([0,T ]; Rd×d ) et
r ∈ L1 ([0,T ]; Rd ) ; l’application F est alors globalement lipschitzienne de constante
C0 (t) = |A(t)|Rd×d (où | · |Rd×d désigne la norme matricielle subordonnée à la norme
euclidienne). Lorsque l’application F est non-linéaire en x, la propriété d’être glo-
balement lipschitzienne est en général perdue. Dans ce cas, il est bien connu que la
solution x du problème de Cauchy (8.10) peut exploser en temps fini.
Exemple 8.3.4 [Explosion en temps fini] Donnons un exemple simple d’explosion

en temps fini. On se place dans R (d = 1) et on considère l’application F (t, x) = 1−x2
(qui ne dépend que de x). Le problème de Cauchy est donc ẋ(t) = 1 − x(t)2 avec
x(0) = x0 ∈ R. Si |x0 | ≤ 1, il vient x(t) = tanh(t + t0 ) avec tanh(t0 ) = x0 et
limt→∞ x(t) = 1 ; on a donc existence globale en temps de la solution. En revanche,
si |x0 | > 1, il vient x(t) = coth(t + t0 ) avec coth(t0 ) = x0 et deux situations peuvent
se produire : (i) si x0 > 1, alors t0 > 0 et on a limt→∞ x(t) = 1, i.e., on a encore
existence globale en temps de la solution ; (ii) si x0 < −1, alors t0 < 0 et dans ces
conditions, limt↑t0 |x(t)| = +∞ ; on a donc explosion en temps fini.
Remarque 8.3.5 [Non-unicité] Lorsque l’application F est uniquement continue en

x, on peut ne pas avoir unicité de la psolution du problème de Cauchy. Par exemple,
p
pour le problème de Cauchy ẋ(t) = |x(t)| avec x(0) = 0 (i.e., pour F (t, x) = |x|),
x(t) ≡ 0 est solution, et il en est de même de x(t) = 41 t2 et de x(t) = 14 max(t−t0 , 0)2
pour tout t0 ∈ R+ .
Afin de traiter le cas de dynamiques non-linéaires, on dispose de l’extension

suivante du Théorème 8.3.2, où la propriété de Lipschitz globale est remplacée par
une propriété locale (pour la preuve, voir par exemple l’annexe C de la référence
[30]).
8.3. RAPPELS SUR LES ÉQUATIONS DIFFÉRENTIELLES ORDINAIRES 201
Théorème 8.3.6 (Cauchy–Lipschitz, cas mesurable et Lipschitz local) On sup-

pose que :
(i) L’application F est mesurable en t et continue en x ;
(ii) L’application F est intégrable en t, i.e.,
∀x ∈ Rd , ∃β ∈ L1 ([0,T ]; R+ ), ∀t ∈ [0,T ], |F (t, x)|Rd ≤ β(t); (8.19)
(iii) L’application F est localement lipschitzienne en x, i.e.,
∀x ∈ Rd , ∃r > 0, ∃C0 ∈ L1 ([0,T ]; R+ ),

p.p. t ∈ [0,T ], ∀x1 , x2 ∈ B(x, r), |F (t, x1 ) − F (t, x2 )|Rd ≤ C0 (t)|x1 − x2 |Rd ,
(8.20)
où B(x, r) désigne la boule ouverte de centre x et de rayon r.

Alors, il existe une unique solution maximale au problème de Cauchy (8.10).
Cette solution est définie sur l’intervalle J ⊆ [0,T ] et on a soit J = [0,T ] soit
J = [0,T∗ [ avec T∗ < T et limt↑T∗ |x(t)|Rd = +∞. La solution maximale x est dans
AC(J; Rd ), elle satisfait le système différentiel (8.10) pour presque tout t ∈ J et elle
vérifie (8.18) pour tout t ∈ J.
Exemple 8.3.7 [Explosion pour un système de contrôle] On se place dans R (d = 1)

et on considère le système de contrôle (8.13) avec un contrôle à valeurs scalaires
(k = 1) et l’application f telle que f (t, x, u) = x2 + u (qui ne dépend pas de t
explicitement). On obtient alors le problème de Cauchy ẋ(t) = x(t)2 + u(t). On
considère la donnée initiale x0 = 0 et on suppose que le contrôle est constant en
temps égal à u0 ∈ R+ . On vérifie sans peine que la trajectoire est donnée par
√ √
x(t) = u0 tan( u0 t). On a donc explosion au temps fini T∗ = 2√πu0 qui dépend de
la valeur (constante) prise par le contrôle.
Bibliographie
[1] ALLAIRE G., Analyse numérique et optimisation, Éditions de l’École Poly-

technique, Palaiseau (2005).
[2] AUBIN J.-P., Mathematical methods of game and economic theory, volume 7
of Studies in Mathematics and its Applications. North-Holland Publishing Co.,
Amsterdam-New York, 1979.
[3] BARDI M., CAPUZZO-DOLCETTA I., Optimal control and viscosity solutions
of Hamilton-Jacobi-Bellman equations. Systems & Control : Foundations &
Applications. Birkhäuser Boston, Inc., Boston, MA, 1997. With appendices by
Maurizio Falcone and Pierpaolo Soravia.
[4] BONNANS J., Optimisation continue, Mathématiques appliquées pour le Mas-
ter / SMAI, Dunod, Paris (2006).
[5] BONNANS J., GAUBERT S., Recherche opérationnelle. Aspects mathématiques
et applications, Éditions de l’École Polytechnique, Palaiseau (2015).
[6] BONNANS J., GILBERT J.-C., LEMARECHAL C., SAGASTIZABAL C.,
Optimisation numérique, Mathématiques et Applications 27, Springer, Paris
(1997).
[7] BONNANS J., ROUCHON P., Commande et optimisation de systèmes dyna-
miques, Éditions de l’École Polytechnique, Palaiseau (2005).
[8] BOSCAIN U., MIRRAHIMI M., Automatic Control with Applications in Robo-
tics and in Quantum Engineering, cours de 3ème année à l’Ecole Polytechnique
(2019).
[9] BREZIS H., Functional analysis, Sobolev spaces and partial differential equa-
tions. Universitext. Springer, New York, 2011.
[10] CARPENTIER P., COHEN G., Décomposition-coordination en optimisation
déterministe et stochastique, Mathématiques et Applications 81, Springer, Paris
(2017).
[11] CHAMBOLLE A., POCK T., An introduction to continuous optimization for
imaging, Acta Numerica, pp. 161-319 (2016).
[12] CHVÁTAL V., Linear programming, Freeman and Co., New York (1983).
[13] CULIOLI J.-C., Introduction à l’optimisation, Éditions Ellipses, Paris (1994).
[14] ERN A., Contrôle de modèles dynamiques, cours de 2ème année à l’Ecole Po-
lytechnique (2019).
203
204 BIBLIOGRAPHIE
[15] EKELAND I., TEMAM R., Analyse convexe et problèmes variationnels, Dunod,
Paris (1974).
[16] FLETCHER R., Practical methods of optimization. Vol. 1. John Wiley &
Sons, Ltd., Chichester, 1980. Unconstrained optimization, A Wiley-Interscience
Publication.
[17] GAUTHIER T., Calcul différentiel et analyse complexe, cours de 2ème année à
l’Ecole Polytechnique (2020).
[18] GOLSE F., LASZLO Y., PACARD F., VITERBO C., Analyse réelle, cours de
1ère année à l’Ecole Polytechnique (2019).
[19] GRIVA I., NASH S., SOFER A., Linear and Nonlinear Optimization, Second
Edition, SIAM, Philadelphia (2009).
[20] HERMES H., LASALLE J. P., Functional analysis and time optimal control.
Academic Press, New York-London, 1969. Mathematics in Science and Engi-
neering, Vol. 56.
[21] ISIDORI A., Nonlinear control systems. Communications and Control Engi-
neering Series. Springer-Verlag, Berlin, third edition, 1995.
[22] LEE E. B., MARKUS L., Foundations of optimal control theory. Robert E.
Krieger Publishing Co., Inc., Melbourne, FL, second edition, 1986.
[23] LIONS P.-L., Contrôle de modèles dynamiques. Cours polycopié. École Poly-
technique, 2016.
[24] MASSOT M., SERIES L., BREDEN M., PICHARD T., Introduction à l’analyse
numérique : des fondements mathématiques à l’expérimentation avec Jupyter,
cours de 2ème année à l’Ecole Polytechnique (2020).
[25] NESTEROV Y., Lectures on convex optimization, Springer Optimization and
Its Applications, 137, Springer, Cham, 2018.
[26] NOCEDAL J., WRIGHT S., Numerical optimization, Springer Series in Ope-
rations Research and Financial Engineering, New York (2006).
[27] PADBERG M., Linear optimization and extensions, Springer, Berlin (1999).
[28] ROCKAFELLAR R. T., WETS R. J.-B., Variational analysis, volume 317 of
Grundlehren der Mathematischen Wissenschaften [Fundamental Principles of
Mathematical Sciences]. Springer-Verlag, Berlin, 1998.
[29] SCHRIJVER A., Theory of linear and integer programming, Wiley, New York
(1986).
[30] SONTAG E. D., Mathematical control theory, volume 6 of Texts in Applied
Mathematics. Springer-Verlag, New York, second edition, 1998. Deterministic
finite-dimensional systems.
[31] TRELAT E., Contrôle optimal. Mathématiques Concrètes. Vuibert, Paris, 2005.
Théorie & applications.
[32] VINTER R., Optimal control. Systems & Control : Foundations & Applications.
Birkhäuser Boston, Inc., Boston, MA, 2000.
Index
absolument continue, 146 convexité stricte, 18

affectation, 4, 143 critère de Kalman, 147
algorithme d’Uzawa, 101
algorithme de la boule pesante, 78 dérivée seconde, 27
algorithme de Nesterov, 71 différentiabilité au sens de Fréchet, 25
algorithme de points intérieurs, 131 différentiabilité au sens de Gateaux, 26
algorithme de rétro-propagation du gra- directions admissibles, 33
dient, 115 distance de Hausdorff, 152
algorithme de sous-gradient, 84 dual, 52, 133, 194
algorithme du gradient à pas fixe, 63 écarts complémentaires, 136
algorithme du gradient à pas optimal, 61 énergie complémentaire, 57
algorithme du gradient conjugué, 80 ensemble atteignable, 152, 155
algorithme du gradient projeté, 99 épigraphe, 19
algorithme du gradient stochastique, 86 équation de Riccati, 170
algorithme du Lagrangien augmenté, 109 espace de Hilbert, 191
algorithme du simplexe, 126 état adjoint, 117, 163, 176
algorithme proximal, 90 extrémale, 165, 176
application entrée-sortie, 157
apprentissage, 6, 86, 113 faisable, 100
autonome, 146, 176 feedback, 169
flot, 139
bang-bang, 154 fonction coût ou objectif, 14
base, 125 forme linéaire, 194
base hilbertienne, 193 formule de Duhamel, 147
calcul des variations, 7 gradient, 60

coût, 14 gradient à pas fixe, 63
commutation, 154, 184 gradient à pas optimal, 61
complet, 191 gradient conjugué, 80
condition de qualification, 41 gradient projeté, 99
contrôlabilité, 147 graphe orienté, 139
contrôlabilité locale, 158
contrainte active, 41 Hamiltonien, 167, 176
contrainte qualifiée, 41, 45 inéquation d’Euler, 30
convergence faible, 23 infimum, 14
convexe, 18, 191 infini à l’infini, 15
α-convexité, 20
convexité forte, 20 Lagrangien, 38, 44, 47
205
206 INDEX
lemme de Farkas, 43 variable d’écart, 56, 122

lemme de Gronwall, 175
méthode de Newton, 93
méthode du gradient conjugué, 81
minimum global, 14
minimum local, 14
multiplicateurs de Lagrange, 38, 44
nœud, 139
nombres entiers, 136
opérateur, 194
parcimonie, 5, 89
pénalisation, 105, 131
point-selle, 48
polyèdre, 124
primal, 52, 133
principe du minimum de Pontryaguine,
168, 176
problème dual, 52, 133
problème primal, 52
programmation linéaire séquentielle, 111
programmation quadratique séquentielle,
112
programme linéaire, 122
projection orthogonale, 191
proximal, 90
résolvante, 150
rétroaction, 169
recherche opérationnelle, 3, 121
sélection mesurable, 196

solution admissible, 124
solution basique, 125
solution maximale, 201
solution optimale, 124
sous-gradient, 83
suite minimisante, 14
théorème de Cauchy–Lipschitz, 198

théorème de Kuhn et Tucker, 49
transport, 3
transposition, 146
unimodulaire, 137

Poly 435

Transféré par

Droits d'auteur :

Formats disponibles

Poly 435

Transféré par

Informations du document

Titre original

Copyright

Formats disponibles

Partager ce document

Partager ou intégrer le document

Options de partage

Avez-vous trouvé ce document utile ?

Ce contenu est-il inapproprié ?

Droits d'auteur :

Formats disponibles

Poly 435

Transféré par

Droits d'auteur :

Formats disponibles

Optimisation et contrôle

Grégoire ALLAIRE, Alexandre ERN

1 INTRODUCTION À L’OPTIMISATION ET AU CONTRÔLE 1

2 ASPECTS THÉORIQUES DE L’OPTIMISATION 13

3.3.2 Méthode de Gauss-Newton . . . . . . . . . . . . . . . . . . . . 95

4 PROGRAMMATION LINÉAIRE 121

5 CONTRÔLABILITÉ DES SYSTÈMES DIFFÉRENTIELS 145

6 LE SYSTÈME LINÉAIRE-QUADRATIQUE 161

7 PRINCIPE DU MINIMUM DE PONTRYAGUINE 173

7.3 Application au système LQ avec contraintes . . . . . . . . . . . . . . 179

8 ANNEXE : QUELQUES RAPPELS MATHÉMATIQUES 191

Ce cours traite de deux sujets distincts mais étroitement liés en mathématiques

La deuxième partie du cours (Chapitres 5 à 7) est consacré à l’étude des sys-

méthodes de la recherche opérationnelle. Pour plus de détails sur l’optimisation nous

1.2 Exemples en optimisation

Exemple 1.2.1 (problème de transport) Il s’agit d’un exemple de programme

sous les contraintes de limites des stocks et de satisfaction des clients

Lorsque les coûts cij sont les distances entre i et j et que M

Exemple 1.2.2 (problème d’affectation) Il s’agit d’un exemple d’optimisation

On pourrait croire que ce problème d’affectation est simple puisqu’il y a un nombre

Exemple 1.2.3 (optimisation quadratique à contraintes linéaires) Soit A

La contrainte d’appartenance à KerB rend cette minimisation non évidente (voir la

Exemple 1.2.4 (moindres carrés et régularisation) Soit A une matrice réelle

inf kAx − bk2 . (1.1)

Evidemment, si p = n et si la matrice A est inversible, alors ce problème admet

Le problème aux moindres carrés interprète le “au mieux” en minimisant la distance

où ` > 0 est un coefficient de pondération et kxk0 est le nombre de composantes

Il se trouve que la solution de (1.3) est effectivement creuse, avec de nombreuses

Exemple 1.2.5 (consommation des ménages) On considère un ménage qui

Exemple 1.2.6 (apprentissage machine) On dispose d’un très grand nombre de

soit la meilleure possible. Une différence importante avec l’approche fondamentale-

P (h, y) = log(1 + exp (−hy))

qui, pour y = −1 (respectivement, y = +1), est convexe et croissante (respective-

Exemple 1.2.7 (Entropie) La notion d’entropie est fondamentale, aussi bien en

voir l’Exercice 2.5.14 pour la solution. Un autre problème de minimisation d’entropie

en physique ou en mécanique. On se place ici dans une situation très simple en

1.3 Exemples en contrôle

ẋ(t) = f (t, x(t), u(t)), ∀t ∈ [0,T ], (1.7)

où la fonction x : [0,T ] → Rd , d ≥ 1, décrit l’état du système, u : [0,T ] → Rk ,

En général, une condition initiale x(0) = x0 ∈ Rd est également prescrite. Ainsi en

Exemple 1.3.1 (contrôlabilité d’un tram) On considère un tram se déplaçant

Ẍ(t) = u(t), ∀t ∈ [0,T ].

Cette équation différentielle du second ordre en temps se récrit comme un système

Exemple 1.3.2 (système linéaire-quadratique) On considère un système diffé-

conduisent à un système d’équations différentielles ordinaires (supposées linéaires

où x0 ∈ Rd est l’état initial du système, A et B sont deux matrices constantes de

Exemple 1.3.3 (aspirateur robot (système de Dubins)) Passons à un premier

où v est la vitesse de l’aspirateur, supposée constante pour simplifier. Comme dans le

Exemple 1.3.4 (traversée d’un canal (problème de Zermelo)) On considère

Figure 1.1 – Illustration du problème de Zermelo : barque traversant un canal.

2. Minimiser le temps de traversée : le critère à minimiser est

et on a toujours la contrainte de cible Y (T ) = `. On obtient le problème de

Dans ce chapitre on introduit les principales notions et résultats d’optimisation.

2.1 Définitions et notations

inf J(v). (2.1)

u∈K et ∃δ > 0 , ∀v ∈ K , kv − uk < δ =⇒ J(v) ≥ J(u) .

On dit que u est un minimum (ou un point de minimum) global de J sur K si et

Définition 2.1.2 On appelle infimum de J sur K (ou, plus couramment, valeur

un ∈ K ∀ n et lim J(un ) = inf J(v).