N° d'ordre: 211/94

THÈSE
pour obtenir le titre de

DOCTEUR DE 3 ême CYCLE

Spécialité : MATHEMATIQUES PURES

par

Kinvi KANGNI

Soutenue le 17 novembre 1994 devant la Commission d'examen:

COMPOSITION DE JURY

Président: DAOUDA SANGARE Professeur à l'Université d'Abidjan

Examinateurs SALIOU TOURE Professeur à l'Université d'Abidjan

KOULIBALY AKRY Professeur à l'Université de Ouaga
PIERRE NEZIT Professeur à l'Université d'Abicljan
ETIENNE DESQUITI-I Maître de Conférences à l'Université d'Abidjan

CENrRE REPROCRAPHIQUE DE L'ElI:SEIGlI:E:'dEl\T SUI'tRIEUR 153/94

1
1 SOMMAIRE

1 Pages
IN1'RODUCI'ION :...................................................................................................... 2
1
1 CHAPITRE 1 Préliminaires : . 5

§ 1-1 Notations- Rappels : . 5

1 § 1-11 " . .lndulte
Representation . : . 9

1 § 1-111 Fonction trace sphérique de type ~ :............................ 1 3

1 CHAPITRE II Transformation de Fourier sphérique

de type 6 :............................................................................ 20
1 § 11-1 Fonction sphérique de type ~ :...................................... 20

1 § Il -II Transformation de Fourier sphérique de

type~: 25

1 § II-III Applications aux groupes produits

semi-directs :........................................................................ 37

1
CHAPITRE III Représentation unitaire irréductible
1 sphérique de type ~ :................................................... 4 3

§ 111-1 Construction d'une représentation unitaire

1 induite des produits semi-directs :............................. 43

§ III -11 Applications au groupe de Poincaré et au groupe

1 des déplacements du plan euclidien :........................ 51

1 § III - III Représentation unitaire irréductible sphérique

de type ~ :............................................................................... 55

1 BmLIOGRAPHIE :................................................................................................ 65

1
1
1
1
1
2

1
INTRODUCTION
1
1· Plusieurs auteurs ont étudié la transformation de Fourier sphérique,

les représentations induites sur les groupes produits semi-directs relative-

1 ment à un homomorphisme particulier et les représentations unitaires

1 sphériques des groupes localement compacts. On peut citer par exemple

A. O. Barnt [1], J. Dieudonné [5], J. Faraut [7], G. W. Mackey [9] et [10] ,

1 G. Warner [18] et A. Wawrzynczyk [20].
1 Le présent travail a pour objet de trouver une généralisation de ces

1 différentes théories suivant une classe 0

irréductibles d'un groupe compact.
de représentations unitaires

1 Dans le chapitre l, nous rappelons certains résultats connus sur les

1 fonctions zonales sphériques, les représentations induites et les fonctions

traces sphériques de type o.

1 Dans le chapitre II, nous identifions l'ensemble Xm ( ~ ~ CG)) des repré-

1 sentations irréductibles de dimension finie m de l'algèbre de convolution

1 ~~CG) et l'ensemble SbCG) des fonctions sphériques de type 0 et de hauteur

1 m ; ce qui nous permettra de définir la transformation de Fourier sphéri-

que de type 6 comme la transformation de Guelfand généralisée associée à

1 l'algèbre non commutative %~o CG). Si la classe des représentations unitaires

1 irréductibles 0 du sous-groupe compact K de G est triviale, on retrouve la

transformation de Fourier sphérique usuelle.
1
1
1
1
1 3
1 Le paragraphe II-III est consacré à l'application au groupe produit
= A x a; K
1 semi-direct G où a; est l'homomorphisme correspondant.

Le chapitre III traite essentiellement de la construction d'une

1 représentation induite, d'une représentation de l-cocycle à gauche du

1 groupe G = A x Cl K et de leurs applications ; on y étudie aussi les

1 représentations unitaires sphériques de type 6, généralisant amSI les

représentations unitaires sphériques.
1 Dans le paragraphe III-III, nous prouvons que toute représentation
unitaire irréductible admettant un vecteur K-6-invariant non nul est
1 sphérique de type o. Cette démonstration a été faite par A. Wawrzynczyk

1 [20] dans le cas particulier où ô est triviale et de dimension 1.

1
1
1
1
1
1
1
1
1
1
1
1
1
4
1
1 REMERCIEMENTS

1 Je tiens à exprimer ma très profonde gratitude au Professeur Saliou

TOURE, mon Directeur de Thèse, de m'avoir initié à l'analyse harmonique. Sa
1 disponibilité et son aide, malgré un emploi du temps très chargé, ont

1 contribué à la réalisation de ce travail.

Je suis très reconnaissant au Professeur Daouda SANGARE qUI a accepté

1 de présider le jury.
Je remercie vivement les Professeurs Akry KOULIBAL y et Pierre NEZIT
1 d'avoir accepté de faire partie du jury ainsi que le Maître de conférences

1 Etienne DESQUITH, de s'être intéressé à ce travail et d'avoir accepté de se

joindre au jury.

1 Mes remerciements vont également à mes amis Philippe AYEGNON et

Ibrahim FOFANA pour leurs conseils et suggestions, à ma mère, mes frères et
1 sœurs pour leur soutien moral et à tous ceux qui, de près ou de loin m'ont
aidé dans l'accomplissement de cette tâche.
1 Enfin, je n'oublie pas ma toute devouée Léa, mon épouse, pour son

1 assistance à tout instant.

Monsieur N'Cho ADOU a bien voulu assurer la frappe du manuscrit, je
1 lui exprime ici toute ma gratitude.

1
1
1
1
1
1
1
1
1 5

1 CHAPITRE 1

1 PRELIMINAIRES

1 Dans ce chapitre, nous rappelons les résultats et les définitions qUl seront

1 fréquemment utilisés dans la suite de ce travail.

§ 1-1) NOTATIONS - RAPPELS

1 1) Intégration

1 Soient G un groupe topologique localement compact et K un compact de G.

1 On note CJ<: (G, K) l'espace des fonctions complexes continues sur G à sup-

port contenu dans K. CJ<: (G, K), muni de la topologie de la convergence uni-
1 forme, est un espace de Banach.

1 Posons: %(G) = u
KeG
%(G, K).

1 Si ~ est une mesure de Radon sur G, la valeur de ~ au point fE CJ<: (G) et le

1 support de ~ sont respectivement notés ~(f) ou JG f(x) d~(x) et supp(~).

1 M(G) désignera l'espace vectoriel des mesures de Radon sur G, MI(G) le

sous-espace vectoriel formé des mesures bornées sur G et si K est un sous-

1 groupe compact de G alors cK(G) est l'espace des fonctions fE CJ<: (G) qui sont

1 biinvariantes par K (i.e. f(k I x k2 ) = f(x) V k 1 , k2 E K et x E G).

Soit ~ E M(G). Pour l ~ P ~ les espaces de Banach LP(G,~) = LP(G)
1 00,

ont la signification habituelle et leurs normes sont définies comme on sait

1 par:
Il f II p = ( JG 1 f(x)I Pd~(x») l/p SI l~p<oo

1
1
1
1
6
1 Il f 11 00 = ess. sup_ 1f(x) 1 SI P= 00
XEU

1 Pour toute fonction complexe f définie sur G, on pose

1 v l-
f(x):f(x-); f(x):f(x- l )

1 sf(x) = f(s-l x) et fs(x) = f(x s) quels que soient s, x E G.

1 Soit Jl une mesure de Haar à gauche sur G. Cette mesure que nous noterons

souvent dx, est unique à un facteur constant près.

1 La mesure de Dirac au point a E G est notée € a.

1 Le module de G, noté ôG est défini par la formule:

1 f G f(xs- l ) dJl(x) =ôG(s) f G f(x) dJl(x)

pour toute fonction f E %(G).
1 Si une mesure Jl et une fonction f sur G sont convolables, on définit la
convolée de Jl et de f en posant
1
Jl * f(x) = fG fey-lx) dJl(Y)
1 f * Jl(x) = fG f(xy-l) ÔG(y-l) dJl(Y)

1 Si Jl E MI(G) et si fE LP(G) 1$ P$ 00 alors

1
1 Le groupe G est dit unimodulaire si ôG(s) =1 pour tout s E G.

1 Soit H un sous-groupe fermé de G et GIH l'ensemble des classes à gauche

x=
1 xH. Muni de la topologie quotient, GIH est un espace topologique locale-

ment compact et G opère continûment et transitivement à gauche dans G/H

1 par l'application (g, x) ~ gx = (gx)H où g E G, XE G/H.
1
1
1
1
1 7
L'espace G/H, muni de cette opération est appelé espace homogène des

1 classes à gauche modulo H (l'espace homogène des classes à droite modulo H

1 sera noté H\G).

Définition 1-1-1 Une mesure positive  sur GIH est dite quasi-
1 invariante si pour tout g e G ; la mesure g est équivalente à Â.

1 Remarque 1-1-2 : Pour qu'il existe sur G/H une mesure positive non nulle

1 invariante par G, il faut et il suffit que: ~G(h) = ~H(h) 'r:;j he H.

1 Une fonction
Soit E un espace vectoriel complexe.
0> de G x G/H à valeurs dans Aut E est un l-cocycle à gauche,

1 si (0 vérifie les relations suivantes :

1 1) ID(e, x) = lE
2) ro(st, x) = roCs, t x) ro(t, x) 'r:;j s, te G et xe GIH .
1
2) Transformation de Fourier sphérique
1
Soit A une algèbre normée involutive commutative.
1 On appelle spectre de A et on note X(A), l'ensemble des caractères de A.

1 Pour tout xe A, la transformée de Guelfand de x est l'application notée 9 x

de X(A) dans ([ définie par:

1 9x: X(A) ~ ([

1 :t ..-+ :tex)

1 L'homomorphisme x ~ 9 x de A dans ([ X(A) est appelé la transforma-

tion de Guelfand associée à l'algèbre A.

1
Soient G un groupe localement compact et K un sous-groupe
1
1
1
1
8
1
1 compact de G tels que (G, K) soit une paire de Guelfand (i.e. l'algèbre de

convolution %'(G) est commutative).

1 Définition 1-1-3 : Une fonction sphérique (ou zonale sphérique) sur

1 G relativement à K est une fonction <p continue sur G biinvariante

1 par K, telle que l'application f 1

J---+:t (f) = G f(x) cp (x- 1)dx soit

4
un caractère de l'algèbre de convolution K (G).
1
Proposition 1-1-4: Soit <p une fonction continue sur G, biinvariante
1 par K et non identiquement nulle. Les propriétés suivantes sont

1 équivalentes

1 a) <p est une fonction sphérique relativement à K

b) V X, YE G, 1K <p (xky) dk = <p (x)cp (y) où dk désigne la mesure

1 Haar normalisée du sous-groupe K.

1 c) <p(e) == 1 et pour toute fonction fE Kif (G) il existe un nombre

1 Âf tel que f*<p = Âf <p. (Voir [5] Prop. 22-6-7 pour une démonstration).

Notons S(G/K) l'espace des fonctions sphériques bornées sur G relati-

1
vement au sous groupe compact K. On montre que si <p E S(G/K) l'applica-
1 tion f.-+ ;t<p(f) = IGf(x)<p(x-1)dx est un caractère de %II(G) et tout caractère

1 de %. (G) est de cette forme (cf. [7] ch. IV), par conséquent S(G/K) peut

1 s'identifier à X(%It(G»). Ainsi on a :

X ( %.. (G) ) 9f a:
1 •

1
F \
S(G/K)
1 ~f

1
1
1
9
1
F = 9 f.
1 et ::r f 0

La transformée de Guelfand d'un élément f de %'*t (G) peut donc être identi-
1 fiée à la fonction complexe ::rf définie sur S(G/K) par rFf(cp) = JGf(x)cp(x-1)dx.

1 rF f est appelée la transformée de Fourier sphérique de la fonction f et

1 l'application ::r: f J--+ ::r f de %-- (G) dans ea:(S(G/K» est appelée la

transformation de Fourier sphérique. C'est encore la transformation de

1 Guelfand associée à l'algèbre commutative %- (G).

1
§ 1-11) REPRESENTATION INDUITE
1
Définition 1-11-1 : Soient G un groupe topologique et E un espace
1 de Banach complexe. On appelle représentation continue de G

1 dans E, un morphisme g - . Ug de G dans le groupe GL(E) des

automorphismes de E tel que l'application g .---.. Ugv de G dans E

1 soit continue pour tout ve E .

1 La dimension de E s'appelle dimension (ou dégré) de U et se note

dimU. Une représentation U est dite triviale si Ug est l'application identique
1 1 E pour tout ge G.

Nous renvoyons à A.O. BARUT [1], à F. I. MAUTNER [11] et à S. TOURE [16]

1 pour une étude détaillée des représentations des groupes.

1 La notion de représentation induite, due à G. MACKEY, permet de

construire les représentations d'un groupe à partir de celles de certains de
1 ses sous-groupes. (A. WEIL a développé le cas des groupes compacts et G.
FROBENIUS celui des groupes finis).
1
1
1
1
1
10
1 Dans ce paragraphe, nous donnons une méthode de construction d'une

1 représentation unitaire induite d'un groupe localement compact et séparable

G
1 Soit K un sous-groupe fermé de G, L une représentation unitaire de K

1 dans un espace de Hilbert % et Il une mesure quasi-invariante sur l'espace

= K\ G = {Kg, g E
1 homogène X G}. Considérons l'ensemble % L de toutes les

fonctions u sur G à valeurs dans % et vérifiant les conditions suivantes :

1 a) L'application g ~ (u(g), v) est mesurable (V v E %).

1 b) u(kg) = Lk u(g) Vk E K, g E G.

1 c) JX" u(g)1I
2·
dll(g) < 00 ;
•
g = Kg et ILI\ est la norme de l'espace de Hilbert %.

1 On montre (cf. [10]) que l'espace %L est isomorphe à l'espace L2 (X, Il,%) des

1 fonctions de carré Il-intégrable sur X à valeurs dans % et que cet isomor-

= Lkg U (g)
1 phisme est donné par la formule: u(g) où kg est le facteur de g

dans la décomposition de Mackey (g = kg Sg).

1
On rappelle que la forme hermitienne définie positive sur % Lest
1
1
Proposition 1-11-2: L'application définie par
1
est la dérivée
1
de Radon-Nikodym de la mesure quasi-invariante Il de X, est
1
une représentation unitaire de G dans % L. (cf. [1] ch. 16 lemme 2).
1
1
1
1
1 11
C'est la représentation de G induite par L. On la note Ind(L).
KtG
1 UL est appelée représentation monomiale si L est de dimension 1.

1 La proposition suivante permet de justifier l'existence des fonctions non

1 identiquement nulles et vérifiant les conditions a) b) et c).

Proposition 1-11-3: Soit w une fonction continue de G dans %

1 . ,..
et à support compact. La fonchon w définie par
1 ,..
w (g) =l K -1
Lk w(kg)dk où dk
1 est la mesure de Haar sur K, est une fonction continue sur G et

1 appartenant à % L.

1 Preuve: La fonction w étant continue sur G et à support compact D, est

> 0 , il existe un voisinage

1 donc uniformément continue ie pour tout E:

-1
compact V de e (e élément neutre de G) tel que si g 1 g2 E V alors
1
1
1 Il ~(g) - ~(go) Il = Il JK(L~lw(kg) - L~lw(kgo»)dk Il

1 = Il JKnDV-1go-1L~1( w(kg) - w(kgo»)dk Il

1 :$ Il JKnD V -1 go-III w(kg) - w(kg o ) Il dk

1
1 A
et west continue sur G. D'autre part, pour tout élément ko de K on a

1
1
1
1
12
1
par conséquent ~ E %L.
A

1 et si g~ KD , w(g) = 0
C.QFD.

1 Considérons une application g....--.+ B g de G dans l'ensemble des

opérateurs unitaires de % et qui vérifie les conditions suivantes :

1
1) Bkg = Lk Bg V k E K, g E G.
1 2) L'application g.--.+ B g est faiblement mesurable.

1 Soit Sg l'unique élément de G tel que Kg = K kg Sg = KS g et k Sg go le facteur

de la décomposition de Mackey de Sg go'

1 La proposition suivante permet de définir directement la représentation

1 L .
g - 4 Ug sur l'espace de HIlbert L2(X, Jl, %).

1
Proposition 1-11-4: Soit K un sous-groupe fermé de G et Lune
1 représentation unitaire de K dans %. L'application go ~
..... L
U
go

1 définie par :

-L...... 1/2 -1 ......

1 U go U (g) = Pg (g) B g Bggo U (g go)

o
est une représentation

de G dans L2(X, Jl, ").

1 Si B g = L kg et g = x alors U go
..... L _
U (x)=
[dJl(x g o )]
d\l(x)
1/2
L kSg go Ü (xg o )·

1 cf [1] ch. 16 prop. 5 pour une démonstration.

1
A

Remarque 1-11- 5 : Considérons l'espace X = G/K des classes à gauche

suivant K. L'espace %L de la représentation ÛL est tel que :

1 -1 AL All2 -1
u(gk) = L k u(g) VUE %L et Ugo u(g) = P go (g) u(go g) où
1
1
1
1
1
13
1
1 "
P go(g) = .
- 1.
dll(g 0 g) "L"
et l'action de U
go
sur L2(X, Il, %) est donnée par la
dll(g)
1 formule:
" L. 112" - 1 "
Ugo u(g) = Pgo (g) B g B go -1 g u(go g)
-1 •
ou encore

1 "L d)l(gox)
Ugo u(x) = ( dll(x»)
-1
1/2 -1
\go -1 Sg
-1 "
u(go x) où g ~ B g est tel que

1 " kg = L -1 B" g et g - - + B" g

B k est faiblenaent naesurable.

1 Soit T un opérateur linéaire continu sur %.

1 Définition 1-11-6
base hilbertienne
: L'opérateur T est dite
(ei) de " , la serie numérique
traçable si pour toute
L (Tei, ej) est
1 absolument convergente et sa somme est indépendante du choix
de la base (ei). Le nombre L (Tei, ej) est appelé trace de T et est
1 noté Tr(T).

1 Nous allons rappeler un théorènae fondanaental pour la construction du

caractère des représentations induites en dinaension quelconque.

1
1
Théorème 1-11-7: Soit ,,= L2(X, Il) et T un opérateur traçable
défini par le noyau continu h : X x X ~ ([. Alors la fonction
x...-...+ h(x, x) est intégrable et Tr(T) = l X h(x, x)dx. (cf. [7] ch.IV).
1
§ 1-111 FONCTION TRACE SPHÉRIQUE DE TYPE 8
1 Soient G un groupe localenaent conapact uninaodulaire, K un sous-groupe

1 " l'ensenable des classes d'équivalence de représentations

conapact de G, K

1 unitaires irréductibles de K.

1 " , notons
Pour toute classe 8 de K ~8 le caractère de 8, d(8) le degré de 8
v
et l: Ù = d(ù) ~ù' Si ù est la classe des représentations contragrédientes
1
1
1
1
1 14

1 de Ô dans K, on a Xô = )::5 et on vérifie aisément grâce à la relation d'or-

1 thogonalité de Schur (cf. [12] §4 Th 2-2). que:

Pour toute fonction f K(G), on pose:

1 E

ôf(x) = X ô * f(x) = JK::t Ô(k) f(kx)dk

1 fô(x) = f * X ô(x) = JK X ô(k- l ) f(xk)dk

1 (où dk est la mesure de Haar normalisée sur K).

1 et Kô(G) = {f E K(G) , f = ôf = f s}.

1 On montre que K ô(G) est une sous-algèbre de K (G) et que l'application

f t--+ X ô * f * Xô est une projection de K(G) sur Kô(G).

1
Soit U une représentation de Banach de G sur E, on pose P(ô) = U(::t ô) et
1 E(ô) = P(ô) E.

1 Si g = X ô * f * Xô on a P(Ô) U(f) P(Ô) = U(g) 'l:/ f E K(G), ainsi E(ô) est

1 stable pour U(f) (f E K ô(G» et en notant Uô(f) la restriction de U(f) à

E(ô), on obtient une représentation f t--+ U ô(f) de Kô(G) sur E(ô).

1
Soit ~c(G) l'ensemble des fonctions f de K (G) qui sont centrales par K
1 (Le. f(kx) = f(xk) 'l:/ k E K et x E G).

1 ~c(G) est une sous-algèbre de K (G) et l'application f t--+ fK ' avec

1 fK(x) = JKf(kXk- 1)dk, est une projection de K(G) sur ~C<G).

1 Pour deux éléments f, g E K (G), on a les propriétés suivantes

1
1
1
1
1 15

1 et (:t ô * t)K = :t ô * fK, (f * :t ô )K = fK * :t ô .

Posons K ô(G) ~c(G) = K ~ô(G).

1 rl

%"ô(G) est une sous-algèbre de % (G) et l'application f ~ :t Ô * fK est une

1
projection de % (G) sur %~(G). (Cette algèbre non commutative %~(G) a
1 été définie par G. Warner dans [18]).

1 Remarque 1-111-1 : Si Ô est une classe de représentations triviales de

1 dimension 1 de K, tout élément de %"ô(G) est biinvariante par K. L'algèbre

%~(G) s'identifie donc à l'algèbre %-4-(G).
1
Proposition 1-111-2: Soit K un sous-groupe compact de G et U
1 une représentation de Banach topologiquement irréductible de

1 G sur E. Alors l'ensemble des opérateurs U Ô(f), fE K"ô (G) est le

1 centralisateur de la représentation k ....... U ô(k) de K sur E(ô).

cf. [18] Prop. 4.5.1.7 pour une démonstration.

1
Remarque 1-111-3 : Si la représentation k --+ U ô(k) de K sur E(ô) se dé-
1 compose en m représentations irréductibles équivalentes, on montre que

1 le centralisateur est isomorphe à l'algèbre M m ([) des matrices carrées

1 d'ordre m. Par conséquent, d'après la proposition précédente, il existe un

isomorphisme Uô(f) ~ uô(f) de l'algèbre {Uô(t), fE %~(G)} sur M m([)

1
où f--+ U ô(f) est une représentation irréductible de dimension m de
1 • •
% ô(G) avec tr(Uô(f» = d(ô) tr(uô(t). 'if f E % ô(G).

1
1
1
1
1 16

1 Définition 1-111-4 : Une paire de représentations u = (U1' U2) est une

représentation double de K sur un espace de Banach E si E est un K-

1 module de Banach à gauche relativement à U1 et un K-module de

1 Banach à droite relativement à U2 tel que:

u 1 (k)(x u2(k» = (U1 (k)x)u2(k) Vx E et k K.

1 E E

Définition 1-111-5 : Soit u = (Ub u2) une représentation double

1 de K sur un espace de Banach de dimension finie E. Une fonc-

1 tion <p est dite u-sphérique si <p est une fonction continue de G

1 sur E telle que :

1
Soit U
ôune représentation unitaire irréductible de K dans la classe duale S
1 sur un espace E~ Pour tout endomorphisme T de E
ô' on définit le nombre

1 S
suivant cr(T) = d( )tr(T). On montre que pour tout

1 ~
Proposition 1-111-6: L'algèbre K ù(G) est isomorphe à l'algèbre
1 cu. c,ù(G) des fonctions continues à support compact \jI de G dans

1 F = Hom ([ (E ù , E ù )
S et qui vérifient la relation

1
1 Preuve: Soit f E
If
ex: ù(G). Posons
ù
\jI f(x) = f K Uô(k- 1) f(kx)dk. On montre

1 facilement que
ù
'" f E CU c,ù(G). L'application f 1---+ '"
ù
f est injective. En effet :

1
1
1
1
17
1
1 ~
V fe %ô(G), f(x) = :t ô * f(x) = f K :t~(k) f(k- l x)dk
1 = f K (l(115(k- l ) f(kX))dk = (l( 'V f
Ô
(x))

1 f ~ 'Vfô est surJectIve.

.. En e f&let: S'
Olt 'V e CIl
1..1. c,ô (G) . Posons &()
l x = (l «
'V )x )

1 f(kx k- l )

1 = (l( 'V(x )) = f(x) donc f e ~c(G)

1
1
1
1 v
= d( ô) tr('V(x)) = f(x) donc fe % ô(G).
4

1 Ô Ô
Il suffit de prendre 'V f = 'V et f ~ 'V f est surjective. D'autre part :
1 'Vf
Ô Ô Ô ô
* 'Vg(x) = f G 'Vf(xy) 'V g(y- l ) dey)

1 =f G (f K ut k -/) f(k l xy)dk l ) (f K U~(k -21) g(k 2y-l )dk 2 )d y

1
1 =f K fG f K ut k -/k-21)f(k l XY k2 )g (y-l)dk l dk 2dy
f K f G US(k- l ) f(kXy) = f KUs (k- l ) f * g
1 = g(y-l) dy dk (kx)dk

1
C.QFD.
1
1
1
1
1 18

1 On considère une représentation de Banach irréductible U de G sur E.

A U
1 Définition 1-111-7 Soit
U
8 E K. La fonction 'JI 8 sur G définie par:

'JI8(x) = tr(P(8) U(x) P(8» est appelée fonction trace sphérique de

1 type 8 correspondant à la représentation U.

1 Si 8 est contenue m fois dans la restriction de U à K

U
alors 'JI 8 est dite de

1 hauteur m et est notée ht

U
'JI 8 = (U/K : 8).

1 Proposition
U
1-111-8: Soit 'JI 8 une fonction trace sphérique sur G

1 de type 8. Alors

1 (i)
U U
'JI 8(kx k- 1 ) = 'JI 8(x) V XE G , kE K.
U U U
1 (ii) ~8*'JI8(x)='JI8*~8(x)='JI8(x) VXE G.

cf. [19] Prop. 6.1.1.1. pour une démonstration.

1
Proposition 1-111-9 : Soit 'JI une fonction quasi-bornée sur G. La
1 fonction 'JI est proportionnelle à une fonction trace sphérique

1 de hauteur 1 si et seulement si

1 v x, y E G.

1 On pourra retrouver une démonstration dans G. Warner [19] Th. 6.1.1.7

1 Définition
positive
1-111-10

semi-continue
Une semi-norme p sur

inférieurement et bornée
G est
sur
une
tout
fonction
compact

1 de G telle que:
p(x y) ~ p(x) pey) V x, Y E G.
1
1
1
1
19
1
1 Remarque 1-111-11: Soit p une seml-norme sur G. On désigne par

p % (G) l'algèbre de Banach complètée de l'algèbre % (G) obtenue à partir

1 de la p-norme Il . II p définie par: Il f II p = fG Il f(x) Il p(x)dx \;j fe % (G).

1 On montre que le produit de convolution est continu pour cette norme

1 Il . II p et on définit comme précédemment les sous-algèbres p %tô(G) et

1 p%ô(G) de l'algèbre p%(G).

1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1 20

1 CHAPITRE II

1 TRANSFORMATION DE FOURIER SPHERIQUE DE TYPE 0

1
Soient G un groupe localement compact unimodulaire et K un sous-
1 groupe compact de G.

1 Dans ce chapitre, nous trouvons une généralisation de la transfor-

mation de Fourier sphérique que nous appelons la transformation de
1 Fourier sphérique de type o. Cette transformation est obtenue après avoir

1 défini une transformation de Guelfand associée à l'algèbre non commutative

% 'B(G) (transformation de Guelfand généralisée) et établi une correspon-

1 dance biunivoque entre les espaces
9- m
Xm (% o(G» et S 0 (G). Dans le paragraphe

1 II-III, nous étudions les applications au groupe produit semi-direct

G = A x a. K d'un groupe localement compact abélien A et d'un groupe

1 compact K relativement à un homomorphisme o..

1 § 11-1 FONCTION SPHERIQUE DE TYPE 0

1 Définition 11-1-1 : Une fonction f sur G à valeurs dans un espace

de Banach est dite quasi-bornée s'il existe une semi-norme p sur G

1 telle que :
Il f(x)11
sup_ () < 00

1 XE""li- P x

Définition 11-1-2: Soit '"

o E K. Une fonction sphérique <p (sur G) de
1
type 0 est une fonction continue quasi-bornée sur G à valeurs
1 dans Homer (E, E), (E étant un espace vectoriel de dimension finie)

1
1
1
1
1 21

telle que :
1 (i) <I>(kx k- 1 ) = <I>(x). (xe G , ke K)

1 (ii) :t 8 * <1> = <1> = <1> * :t 8

1 (iii) L'application u<l>: f t-+ <1> (f) =lG f(x) <1> (x)dx est une représen-

tation irréductible de l'algèbre K 48 (G ).

1 (La représentation u<l> est continue pour la norme Il . II p )'

1 Deux fonctions sphériques <l>i (i = 1, 2) de type 8 à valeurs dans Homa: (Ei, En

1 sont équivalentes s'il existe une bijection linéaire Q: E 1--+ Ez telle que

1 <l>z(x) = Q ~l(x) Q-l ('V x e G).

1 Remarque 11-1-3 : Si 8 est une classe triviale de dimension 1 de K, les

fonctions sphériques de type 8 s'identifient aux fonctions zonales sphériques.
1 Proposition 11-1-4 : Soit <1> une fonction continue quasi-bornée sur

1 G à valeurs dans Hom([ (E, E) telle que <l>K = <1> et:t 8 * <1> = <1> .
1 La fonction <1> est sphérique de type 8 SI et seulement si :

1 lK <I>(kx k- 1 y) dk =<I>(x) <I>(y) 'V x, ye G.

1 Preuve Soit <1> une fonction sphérique de type 8. Comme pour tout f e K (G),

v
1 = f * 1:8 * <1>(1) = <1>(1:8 * f) on a :

1
1
1
1
1
1
1 22

1 Et comme %(G) est dense dans Mc(G) on a

'V Il, v MC<G): <j)(IlK * v) = <j)(Il) <j)(v) et en posant Il = Ex et v = Ey on a :

1 E

1 Réciproquement si l K <j)(kx k-1y) dk = <j)(x) <j)(y) l'application

1 f....-+ l G f(x) <j)(x) dx est une représentation irréductible de % ô(G )

.
1 (cf. [19] Prop. 6-1-1) et par conséquent <j) est sphérique de type ô.

1 C.QFD.

Nous allons montrer que l'existence d'une fonction sphérique de type Ô sur
1
G de hauteur non nulle est toujours liée à l'existence d'une représentation
1 de Banach irréductible du groupe G.

1 Proposition 11-1-5 : Si U est une représentation irréductible de

1 Banach de G dans un espace E telle que ô soit contenue dans la

<j) ~ définie sur G,

1 restriction de U à K, alors il existe une fonction

sphérique de type ô.
1
La fonction <j) ~ est dite associée à la représentation U.
1
Preuve Soit l'algèbre I(ô) = e(K) * ::t ô = {f * ::t ô ' f E e(K)} qu'on identi-
1 fie à l'algèbre M d(ô) (cr:) des matrices carrées d'ordre d(ô) à coefficients

1 complexes. L'application bilinéaire (<j), f) 1---+ <j) *f

-If
de I(ô) x % ô(G) dans

1 % (G) induit une unique application linéaire du produit tensoriel

~

1 I(ô) ® %iG) dans % (G), lequel produit tensoriel est isomorphe à la sous-

1
1
1
1 23

1 algèbre CJ<:8(G) de CJ<:(G) (voir [18] Prop. 4.5.1.8). Si u8 est une représen-

1 tation irréductible de CJ<: ~(G) et si Id(8) est la représentation triviale de

1 l'algèbre 1(8) alors 1 d(8) ® u8 est une représentation irréductible de

1(8) ® CJ<: ~(G) et réciproquement. Ceci permet d'identifier l'espace

1 E(8) au

produit tensoriel d'un K-module e8 et de l'espace E8 des représentations

1
irréductibles f --+ •
u8(f) de CJ<: 8(G) et par conséquent les endomorphismes
1 v 8(f) et 1 ® u8(f) pour tout f E CJ<: ~(G) grâce au diagramme suivant :

1
1
1
E(8) V8(f) E(8)
1
Soit 'V~ la fonction uV 8-sphérique sur G donnée par la formule
1
V
1 'V8 (x) = P(8) V(x) P(8).

1 Posons
V
'V8,K(x) = JK V8(k) 'V 8 (x)
V
V8(k- 1)dk.
V
1 Comme
V
'V8,K(x) commute avec V8(k) (V kE K),

alors 'V8,K(x) E Homa:(E(8), E(8)) (d'après 1-111-2) et il existe une fonction

1 quasi-bornée <j) ~ sur G à valeurs dans Homa: (E8 ; E8) telle que

1 V
'V8,K(x)
V
= 1 ® <j) 8 (x) et qui vérifie les relations suivantes

1
1
1
1
1 24

1 U -1
<l>O(kx k )
U
= <1> o(x) et Xo
U
* <1> 0 = <1>0
U
.
En effet:
1 U -1 U -1
i) 'V x E G, k E G, 1 ® <1> 0 (kx k) = "'o,K(kx k )
1 = I K Uo(k') 'II ~(kx k- 1) Uo(k' -1) dk'

1 or
U
"'o(kx k- 1) =
U
Uo(k) 'II o(x) U o(k- 1)

1 donc
U -1
1 ® <1> 0 (kx k )
U
= "'o,K(x) = 1 ® <1>U0 (x) U -1
et <1> 0 (kx k ) = <1>U0 (x).
U U
G, 1 ® (X o * <1> 0 )(x) = 1 ® I K Xo(k) <l>0(k- 1x)dk
1 (ii) 'V x E

U_1
= I K Xo(k) 'II o,K(k x)dk
1
1
1
1
1 U
= "'o,K(x) = 1 ®
U
<1> 0 (x)
U U
1 et X0 * <1> 0 = <1> o· D'autre part si f E %B(G) on a :
U U U
1 ® I G f(x) <1> 0 (x)dx = I G f(x) (1 ® <1> 0 (x) )dx = I G f(x) ~,K(x) dx
1
= IGI K f(x) 'IIU0 (kxk- 1)dk dx
1 = p(o) (I Gf(X) U(x)dx) P(O) = U(X o * f * Xo)
1 = U o(f) =1® uo(f)·

1 Ainsi uo(f) = I Gf(X) <1> ~(x)dx , par conséquent <1> ~ est sphérique de type 0

1
1
1
1
1 25

u U
1 et '1' 0 : x 1--+ d(o) tr(cp 0 (x» est la fonction trace sphérique de type 0 corres-

1 pondante.

C.QFD.
1 § II-II TRANSFORMATION DE FOURIER SPHERIQUE DE TYPE 0

1 Soit Cl une algèbre normée involutive complexe et Xm(Cl ) l'ensemble des

1 représentations unitaires irréductibles de Cl de dimension finie m.

1 Définition 11-11-1: Pour tout élément f de Cl, nous appelons

transformée de Guelfand généralisée de f, l'application notée 9 f

1
de X m (Cl) dans l'algèbre M m (<t) des matrices carrées d'ordre m
1 définie par :
9 f : Xm (Cl) --+ Ml m ( <t )
1 U t-+ u(f)

1 L'homomorphisme f.....-. 9 f de Cl dans Ml m (a: ) X m (Cl) est appelé la

1 transformation de Guelfand généralisée associée à l'algèbre Cl.

Si l'algèbre Cl est commutative, les représentations unitaires irréductibles de
1 Cl sont de dimension 1, donc s'identifient aux caractères de Cl et on retrouve
la définition de la transformation de Guelfand usuelle.
1 m
Soit S 0 (G) l'ensemble des fonctions sphériques de type 0 sur G de hauteur
1 m
m. Nous allons montrer que si cp est une fonction de S 0 (G), il existe une re-

1 présentation u ~ E XmCK:~(G» telle que u:(O = f G f(x) CP(x)dx et réciproque-

S~ (G) et XmCK:~(G» et
1 ment . Ce qui permettra d'identifier les espaces

1 ensuite définir la transformation de Fourier sphérique de type o.

1
1
1
1 26

1 Définition 11-11-2 : Un idéal à gauche J dans une algèbre

associative Ct est dit régulier s'il existe un élément Ct tel que

1 UE

xu 51 x modJ pour tout XE Ct •

1 Lemme 11-11-3: Soit p une semi-norme sur G, 1 un idéal à gau-

1 che régulier maximal dans l'algèbre p% 8(G) et J = {f E p% (G),

1 :t: 8 * g * f * :t: 8 E l, V g E P % (G)}. J est un idéal à gauche régulier

1 maximal dans p% (G), 1 = J fi P % 8(G) et f*:t: 8 = f modJ V f E P% (G).

1 Preuve: ] est un idéal à gauche dans p c.K: (G) (évident). Comme 1 est régulier,

il existe u E pc.K: 8(G) tel que k *u == k mod 1 Vk E Pc.K: 8(G).

1
V f, g E pc.K:(G), l:8 * g * (f * u - f) * l:8 = l:8 * g * f * u * l:8 -l:8 * g * f * l:8
1 == h * u - h où

1 h = l: 8 * g * f * l: 8 E Pc.K: 8(G) donc f * u - f E] et par conséquent] est

1 régulier. Comme l:8 * g * (f * l:8 - f) * l:8 = 0 alors f * l:8 - f E] et

1 f * l:8 == f mod ]. Montrons que 1 = ] fi Pc.K: 8(G).

Comme 1 est un idéal maximal dans p c.K: 8(G) il suffit de montrer que
1
.T fi Pc.K: 8(G) est non triviale et contenant 1.
1
] fi Pc.K: 8(G) * pc.K: 8(G) car u~] sinon pour tout fE pc.K: (G), f * UE]
1 et f = (-f * u + f) + f * UE] le] == pc.K: (G) (contradiction) et si fE 1

1 on a: l:8 * g * f * l:8 = l:8 * g * l:8 * fE 1 (Vg E pc.K:(G» alors fE] ainsi

1 donc 1 C ], par conséquent 1 == ] fi Pc.K: 8(G). Montrons que] est maximal.

1
1
1
1 27

Soit l' un idéal à gauche contenant J et tel que J' * pK (G). D'après le même
1 raisonnement que précédemment 1 = l' ("\ p % ô( G).

1 Soit f E J' , f * :t ô - f E J cl'=::) f * :t Ô E J'

1 =::) :t ô * g * f * :t ô E l'

1
1 =::) fE J.
C.QFD.

1 Lemme 11-11-4 : Soit une fonction continue '" sur G telle que

'" ="'K , :t ô * '" ="'.

1 Les conditions suivantes sont équivalentes

(i) '" (f * g) = '" (g * f)

1 y y
* '" = '" * f
1 (ii) f

y v
Preuve: On sait que: = f * ",(1) ='" * f (1) 't/ f %(G)
1 ",(0 E

1 v v y v
~ g * f * ",(1) ='" * f * g (1)
1
v v ~
~ f * ",(g) ='" * f (g). 't/ f, g E %ô(G).
1 C.QFD.

1 Lemme 11-11-5: Soit une fonction continue '" sur G telle que

'" ="'K ' :t ô * '" ="'.

1 Soit p une semi-norme sur G telle que

l ",(x) 1 $; Mp(x) 't/ XE G (M > 0), pK (G) l'algèbre de Banach corres-

1
pondant à p. S'il existe une représentation irréductible de dimen-
1
1
1
1
1 28

sion finie Uô de K ô(G) telle que

1 V f e K ô(G).
.. Alors

1
(i)
1 y
(ii) 1", = {f e pK ô(G) , f * '" = O} est un idéal bilatère régulier
1
1 (iii) f e 1", ri K ô(G) <=} uô(O = O.

1 Preuve : (i) Si ",(f) = d(ô) Tr(uô(f) on a ",(f * g) = ",(g * f) V f, g e %~(G) et

1 v
f * '" ='" * f
v •
V f e % ô(G) (d'après 11-11-4). Comme % (G) est dense

1 dans p % (G) et que l'application f 1--+ l: Ô * fK est une projection continue de

1 ,,~ il v
p% (G) sur p% ô(G) alors % ô(G) est dense dans p % ô(G) et f * '" = '" * f
v

1 V f e p %~(G). L'égalité demeure si on remplace f par Ek *f (ke K) car

1 { Ek * f; •
fe p%ô(G) } est total dans p%ô(G). (cf. [18] Th. 4.5.1.11).
v v
(H) La relation (i) et l'égalité (f * g) v = g *f permettent d'affirmer que
1 1", est un idéal bilatère de p % ô(G). Montrons que 1", est régulier.

1 Prenons u e
fJ
% ô(G) tel que uô(u) soit l'opérateur identique dans l'espace de

1 v v
la représentation u ô . Ainsi on a : '" * u = u * '" ='" et si f e p% ô( G)
1 v v v v v v v
alors (f * u - f) * '" = u * * '"
f -f * '" = u * '" * f - f * '"
1
v v
1 ='" * f - f * '" = o.

1
1
1
1 29

1 Par conséquent f * u == fmod 1",.

1 ~ v
(iii) f e 1", fi %ù(G) => f * '" = 0
v
=> g
v
* f * ",(1) = 0 => ",(f * g) = O.

1
1 => uù(f) = 0 . La réciproque est évidente
C.QFD.

1 Théorème 11-11-6: Soit '" une fonction continue quasi-bornée sur

1 G telle que '" K = '" et :t: ù * '" = "'.

1 '" est une fonction trace sphérique de type ù et de hauteur

m si et seulement si, il existe une représentation irréductible Uù

1 ..
de dimension m de K ù(G) telle que :
1 ",(0 = l Gf(X) ",(x)dx = d(ù) tr(uù(O)

1
Preuve : Soit '" ~ une fonction trace sphérique de type Ù et de hauteur m
1 correspondant à la représentation de Banach U de G. D'après 1-111-3, il

1 existe un isomorphisme F: Uù(f) ~ uù(f) de {Uù(f) , fe %~(G)} sur

1 :MI m (a: ) où U ù est une représentation irréductible de dimension finie m

1 de l'algèbre %~(G) avec tr(Uù(f)) = d(ù) tr(uù(f)) \;J f e %~(G)

1 et
U
"'ù (f) = tr(P(ù) U(f) P(ù» = tr(Uù(f))
= d(ù) tr(uù(f)) \;J f e %B(G).
1
1
1
1
1
1 30

1 Réciproquement, soient 1 une extension maximale régulière de 1",

* g * f * l:o El,
1 (lemme 11-11-5) dans p %o(G) et J = { f E P%(G) , l:o

vgE P% (G) }. Considérons la représentation de Banach irréductible V de G

1
sur E = p%(G)/J. La représentation f ~VI(f) de p%o(G) sur p%o(G)/1 est
1 équivalente à la représentation f ~V o(f) de p % o(G) sur E(o). En effet: la

1 projection P(o) est définie par : P(O) (f + J) = V(l:o)(f + J) = l:o * f + J. D'autre

1 part f * l: 0 == f mod J Vf E P %(G). Donc f l----+ f + J est un homomorphisme

1 de p %o(G) sur E(o) et comme 1 = J (J P %o(G) alors VI ~ Vo'

V
1 Soit", 0 la fonction trace sphérique de type 0 correspondant à la repré-

sentation V de G sur E, on a '" ~ (f) = tr(Vo(f)= tr(VI(f) Vf E P%o(G). En

1
outre, comme 1", est un idéal bilatère de p % o(G), on a pour tout élément
1 f 1", %o(G), VI(f) = 0 (cf. 11-11-5).
E (J
""
1 V
Soit n la hauteur de '" 0 ' il existe une représentation irréductible de dimen-
1
sion n, f vo(f) de %~(G) telle que '" ~(f) = d(o) tr(vo(f)
1 l----+

d'autre part
1 V f E 1", (J %~(G) <=> uo(f) = 0 => VI(f) = 0 => vo(f) = 0 par conséquent

1
Uo ~ Vo alors m = n, (ie ht '" ~ = ht ",) et
1 ",(f) = d(o) tr(uo(f) = d(o) tr(vo(f) ='"
V U
0 (f) donc '" = '" 0 .

1 C.QFD.

1
1
1
1 31

1 Corollaire 11-11-' : Soit '" une fonction continue quasi-bornée sur

G. Si '" est proportionnelle à une fonction trace sphérique de type

1
o de hauteur 1 alors
1 y 4
",(I)f * '" = d(o) tr(uo( f » '" pour tout f E K o(G).
1 Preuve: 'V f E
if.
%o(G),

1
1
1 = "'~l) J G ",(y)",(x) f(y-l)dy (d'après 1-111-9)

1 =
",(x)
",(1) d(o) tr(uo(f».
v

1 C.QFD.

Corollaire 11-11-8 : Soit <p une fonction continue quasi-bornée de

1
G dans Homa: (E~ E) où E est un espace vectoriel de dimension
1 finie telle que <PK = <p et ~ 0 * <p = <p.
1 <p est sphérique de type 0 si et seulement si pour toute fonction

1 f E K ~(G)~ il existe un endomorphisme uo(f) de E o tel que

1 f * <p = u 0 ( f).
y
<p.

1 Preuve : Supposons que <p est sphérique de type o.

%~(G), f
1 'V f E * <p(x) = J Gf(y) <p(y-l x)dy =JK dk J G f(y) <p(y-l x)dy

= J GJ K f(ky-l k- 1) <p(ky k- 1x)dy dk

1
1
1
1
1 32

1 = JG f(y-l) <p(y) <p(x)dy = <p(x) JG v

f (y) <p(y) dy

1 v
= <p(x) u8( f )
1 Réciproquement supposons que pour tout élément f de %8(G), f*<p
q v
= u8( f).<p.
1
1
1 v
u8(f) <p(x) = <p(x) Jf(y-l) <p(y)dy
1
1 donc JK <p(ky k- 1x)dk = <p(x) <p(y) et la fonction <p est sphérique de type 8.

1 C.QFD.

1 Ce corollaire 11-11-8 donne une généralisation d'une propriété

fondamentale des fonctions zonales sphériques (proposition 1-1-4).

1
Théorème 11-11-9: Soit cp une fonct~on continue quasi-bornée
1 sur G à valeurs dans Homa: (E, E).

1 La fonction cp est sphérique de type 8 et de hauteur m si et

cp ~
seulement s'il existe une représentation irréductible u 8 de K 8( G )
1 cp ,
de dimension m telle que u 8 (0 = cp(f) "1 fe K8(G).
1
Preuve: Si cp est sphérique de type 8 et de hauteur m, alors la fonction '1'
1
définie sur G par : 'l'(x) = d(8) Tr(cp(x» est trace sphérique de type 8.
1
1
1
1
1 33

En effet : Soit U la représentation de Banach topologiquement irréductible

1 correspondante à cp. D'après la proposition (11-1-5), il existe une fonction

1 U
~,K
U
définie sur G telle que 'VB,K(x)
U
= 1 ® cp B(x)
1 U
et l
Tr(P(B) K U(kx k- 1) dk P(B)) = d(B) Tr(cp B(x)) (cf. [6] Prop. 13.11.4),
1 UK
donc Tr(P(B) UK(x)P(B)) = d(B) Tr(cp B (x)) = 'V(x). Par conséquent 'V est trace

1 sphérique de type B de hauteur m relativement à la représentation UK, ainsi

cp
donc d'après (11-11-6) il existe une représentation unitaire irréductible u B de
1 4
% B(G) de dimension m telle que:

1 'V(f) = d(B) Tr( u ~ (f)) et u ~ (f) =cp(f) V fE %'B(G). Réciproquement s'il existe

1 une représentation irréductible u ~ de % ~(G) de dimension m telle que

u ~ (f) =cp(f),
1 d'après le théorème (11-11-6), il existe une fonction trace

sphérique de type B et de hauteur m telle que 'V(f) = d(B) Tr( u ~ (f)). Soit U la
1 représentation topologiquement irréductible de G associée à 'V.

1 U
D'après 11-1-5, il existe une fonction sphérique cp B de type B telle que
cp U
1 l
u B (f) = G f(x) cp B(x)dx.
C.QFD.

1 + m
Le théorème 11-11-9 permet d'identifier les espaces X m (% B(G)) et SB (G).
1 Si 9 est la transformation de Guelfand généralisée associée à %"B(G), il existe

1 une application notée ~ f rendant commutatif le diagramme suivant

1
1
1
1
1
1 34

Xm(%~(G)) _9_f_ _--+) Mlm(Œ)

1
F \ /~f
1 m
So (G) et 9foF=rFf

1 La transformée 9 f de Guelfand généralisée d'un élément f de %~(G) peut

m
1 donc être identifiée à la fonction rF f définie sur S 0 (G) par :

d'où la définition suivante:

1 Définition 11-11-10: Soit f un élément de K ~(G). Nous appelons

1 transformée de Fourier sphérique de type 0 de la fonction f, la

1 fonction notée 3=' f définie sur S 0 (G) par

m

1 3=' f( <1» = lG f(x) <1> (x)dx et la cotransformée

1 de Fourier sphérique de type 0 de la fonction f, la transformée

v
1 de Fourier sphérique de type 0 de la fonction f, autrement dit la

v
1 fonction ::J' f, notée ::J' f définie par :

1 3='f(<I» = lG f(x) <I>(x-1)dx

1 L'homomorphisme rF : f 1-+
..
rFf de %S(G) dans M m(Œ) S 0 (G) est
m

1 appelée la transformation de Fourier sphérique de type o. C'est encore la

1 transformation de Guelfand généralisée associée à l'algèbre de convolution

non commutative %~(G).

1
1
1
1
1
1 35

Si ù est une classe triviale de dimension! et que (G, K) est une paue de
1 Guelfand, on retrouve la définition de la transformation de Fourier

1 sphérique.

Proposition II-II-Il : Soient deux fonctions f et g de K ~(G). On a

1 pour tout cj) e S
m
Ù (G) et se G.
= cj) (s)
1 (i) n:" sf( ct> ) 3=' f( cj»

1 (iii) 3=' (f * g)cj) = 3=' f( cj» 3=' g( cj»

1 ..
Preuve: V f e Kù(G) , cj) e S Ù (G) et se G.
m

1 (i) n:' (sf)(cj» = u :(st) = f G sf(x) cj)(x)dx = f G f(s-l x) cj)(x)dx

1 f G fv(x- 1s) cj)(x)dx = cj) * fv(s) = uù(t)

=
cj)
cj)(s) = cp(s) n:'f(cp).

= f G f(xs) cp(x)dx = f G f(x) cp(xs-1)dx

1 (ii) n:' (fs)(cp)
v v v cj)
= f G f(x) cp(sx- 1)dx = cj) * f(s) = f * cp(s-l) = uù(t) cj)(s-l)
1 = cp(s-l) n:' f(cp)

1 (Hi) V f, g e K~(G) , cp e S ~ (G)

1
1 C.QFD.

1 Proposition 11-11-12: Soient ù e K, fe K~(G) et cp e S ~ (G) on a :

3=' f (8 cj» = 3=' f( cp ) = 3=' f( cj) ù) (l )
1
m
Preuve (8 cp) = f Gf(x) 8cp(x)dx = f Gf(x) :tIù * cj)(x)dx
1 V q> e S Ù (G) , n:' f

=f G f Kf(x) :tIik )
1 cp(kx)dx dk

1
1
1
36
1
1 = l G l Kf(k-1x) xtk ) cp(x)dx dk

1 = GXl ô* f(x) cp(x)dx = l G f(x) cp(x)dx = n:' f( cp)

1 et n:'f(cpô) =lG f(x) cpô(x)dx = l GI K f(x) Xô(k- 1) cp(xk) dkdx

l GI K f(x k- 1) X ô(k- 1) cp(x) dx dk

1 =

= l G f * X'8 (x) cp(x) dx = l G f(x) cp(x) dx = n:' f(cp).

1 C.QFD.

1 La relation (1) est toujours vérifiée même si cp est telle que X ô * cp '* cp.

1 Définition 11-11-13 : Soit Jl une mesure de Radon bornée sur G.

Nous appelons transformée de Fourier sphérique de type ô de la

1 m
mesure Jl, la fonction n:' Jl définie sur S ô (G) par
1
3" Jl (cp) = l G cp(x) dJl(x)
1
En particulier si Jl = Ex est la mesure de Dirac au point x on a :
1 n:'EX(cp) = cp(x) et n:'Ex(cp) = cp(x- 1)
1 Proposition 11-11-14 : Soient Jl une mesure de Radon bornée,

1 f E K "ô(G) et cp E Sm
ô (G). On a
cp
1 3" (Jl * t) cp = u ô(t) 3" Jl(cp)

où u ~
1 est la représentation irréductible associée à cp.

1 Preuve : "il f E
If
Kô(G) , cp E S
m
Ô (G) on a :

1
1
1
1
1 37

3='(1l * f) cp = I G Il * f(x) cp(x) dx = II GXGf(s-l x) cp(x) dxdll(S)

1
v
= II GxG f (x- 1) cp(sx) dxdll(S)
1
1
1 C.Q.F.D.

§ II-III APPLICATIONS AUX GROUPES PRODUITS SEMI-DIRECTS

1
Soit G le groupe produit semi-direct A x ex K. Dans ce paragraphe, nous allons
1 définir une représentation intégrale de la fonction trace sphérique, de la
fonction sphérique de type et de la transformée de Fourier sphérique de
1 type Ô sur G.
Ô

1 Proposition 11-111-1 : Soit 'l' e cu. c,ô(G) et F = 'l'lA. Si r et g sont

1 deux éléments de K ~(G) on a: Fr: g = F~ * F:,

1 Preuve : Un élément 'l' de cu. c,uç::(G) est entièrement déterminé par sa

restriction à A à cause de la relation : 'l' (kt 1; k2) = u&(kl) 'l'(I;) uS<k2).

1
Soient xe G et fe %B(G). En utilisant la relation f(x) = cr('l' ;(x)) on a :
1 Ô
Ff*g(l;) = I K u&(k- 1) f * g (kl;) dk

1 = I K I K IA u&(k- 1 ) f(kl; "k') g(k' -1,,-1) dk dk' d"

1
1
1
1 C.QFD.

1
1
1
1 38

1 L'espace ec(A, F ) est ainsi muni d'une structure d'algèbre de convolution.

Ô

1 Si PA est une semi-norme sur A, eC<A, F

Ô) est une algèbre normée en

1 posant: Il f II p A = l A Il f(ç) Il PA(ç) dA(Ç) pour f e eC<A, F

B)

1 Remarque II-III-2 : On montre que si V est une représentation irréduc-

tible de dimension finie de CU c,8(A) qui est PA-continue, il existe un carac-

1 tère X E X(A) vérifiant lx (a)1 S Mp A (a) (M > 0) tel que V soit équivalente

1 à une sous représentation de la représentation: F ~ lA X(a) F(a)da de

1 ec(A, F~. (cf. [19] prop 6-2. 1.1).

1 En particulier, la représentation u8 de K~(G) (::::: U c ,8(A» est équi-

1 valente à une sous-représentation ux de la représentation de dimension

1 d(8) définie par: f 1---+ l A X(a) F~(a)da.

1 Lemme 1I-III-3: Soit 'JI une fonction trace sphérique de type 8

on a :
1 (i) 'JI (f) ='JI (::t: 8 * fK) V f e ~ (G )

1 (ii) Si la représentation u::t: est telle que

1 alors on a

1 v
d (8) tr(u::t: (f» = IA::t: (a) f(a)da V f E
4
~S(G) et ::t:e X(A)

1 Preuve (i) V f e K(G) , 'JI (X8 * fK) = JG 'JI(x) X8 * fK(x)dx

1
1
1
1
1 39

= IGI K ",(x) Xô(k) fK(k-Ix)dx dk

1
= IGIKI K ",(x) Xô(k) f(k'k-Ix k' -l)dk dk' dx
1 = IGIKI K ",(kk' -lx k') Xô (k- l ) f(x)dx dk dk'
1 = IGI K Xô * ",(k' -lx k') f(x) dx dk' = IGI K ",(k' -lx k') f(x) dx dk'
1 =I G ",(x) f(x) dx = ",(f)

1 (ii) \f f E
~
%Ô(G), 'lf{t) v
= d( Ô) tr( Ux (f») v
= d(ô) tr (I A x(a) Ff(a)da
Ô)

1 v
= d(ô) tr(I AI Kx(a) u-g:k- l ) f(ka)da dk) = IA x(a) (I K Xvô(k-l)f(ka)dk)da
1 C.QFD.

1 Proposition 11-111-4 : Si la représentation ul:: de K •(G)

Ô est irré-

1 ductible alors :

1 (i) Toute fonction trace sphérique de type Ô est de la forme

1
(ii) Toute fonction sphérique de type ô est de la forme
1
1
P reu v e : Comme Ux est irréductible alors il existe une fonction trace
1 sphérique", de type Ô telle que: ",(f)
v
= d( ô) tr(ux(f» = I Af(a) X(a) da.

1
1
1
1
1
1
40
1
=1AIKI Kx(a) Xô(k) f(Clk,(a) k'kk' -l)dadkdk'
1 =1AIKI KX(Clk'-l(a)) Xô(k) f(ak)dadkdk'

1 et comme v(f) = 1G f(x) v(x) dx on a :

1
1 (ii) Déterminons la fonction sphérique $ de type ô correspondant à ux·

1 Soit f e %(G) on a :

1
1
1
1
1
1 = lAIKIKI KX(Cl(klk)-l(a)) uS(k -21)X ô(k-11kk 1 k-21)f(ak)dadkdk 1dk2
1 = 1GIKI KI KX(Cl(klk)-l(a))Ur k -21)a(u ô(k-/kk 1 )u_B(k 2») f(ak)dadkdk 1 dk 2

1 = IAIKIKX(Clk-lkl(a» U~(klk-lk-/) f(ak) dadkdk 1 = IGf(x) $(x) dx.

1
1 Théorème 11-111-5: Toute fonction V trace sphérique de type ô

1 hauteur m sur un groupe produit semi-direct G peut être repré-

sentée par la formule intégrale suivante:

1
1
1
1 41

1
où al' a2 ,..., am est une base orthogonale d'un sous-espace mini-
1
1 (Ce théorème généralise la proposition précédente car la représen-

1 tation u): peut ne pas être irréductible).

1 Preuve : Soit eC EÔ un sous-espace minimal invariant par u):. La repré-

u): (Ole de % ~(G) sur e est irréductible, elle définit donc une
1 sentation f 1--+

1 fonction trace sphérique '1' sur G de type o. Soit al'... ' am une base orthonor-

male de e , 'çj f E % t(G) on a (d'après 11-111-2) :

1 v 0
'l'(f) = d(o) L IA):(a) (Ff(a)ai , ai) da.
1 Soit f E %(G) on a :

1 o _1 _
F):o*fK(a)= IKIKIKu~(k 1) f(kk 2k l ak 1) ):o(k 2) dkldk2dk.

1 Ainsi donc 'l'(f) = 'l'(): 0 * fK)

1
1
1
1
1
1
1
1
1
1 42

1 = d(ô)}: IAIKI Kx(aklq-l(a» (uÔ(k -/)ai , aï) f(a k)da dkl dk

1 = I A I K f(a k) 'l'(a, k) dadk par conséquent on a :

1
C.QFD.
1
Proposition 11·111·6: Si la représentation Ux de % ~(G) est irré-
1
ductible alors la transformée de Fourier sphérique de type Ô

1 d'une fonction fe % ô(G)

if
est de la forme

1
1 Preuve: (c'est une conséquence immédiate de la proposition 11-111-4).

1
1
1
1
1
1
1
1
1
1
1
1
1 43

1
CHAPITRE III
1 REPRESENTATION UNITAIRE IRREDUCTIBLE SPHERIQUE
DE TYPE 0
1
1 Dans ce chapitre, nous allons grâce à la méthode d'induction de Mackey,

construire une représentation unitaire irréductible du groupe produit semi-

1 direct G = Ax a K, définir la représentation de l-cocycle à gauche de G,

1 ensuite généraliser les représentations unitaires sphériques après avoir

1 donné quelques applications au groupe de Poincaré et au groupe M(2) des

déplacements du plan Euclidien.

1
§ 111-1 CONSTRUCTION D'UNE REPRESENTATION UNITAIRE
1 INDUITE DES PRODUITS SEMI-DIRECTS.

Considérons le groupe produit semi-direct G = Ax a K. L'action de K sur X(A)

1 est définie par: (k,;t) ..-.+ k.;t avec k. ;t(a) = ;t(ak(a», V keK, aeA et

1 ;teX(A).
Fixons ;t et h respectivement dans X(A) et K et posons :
1 * (a) * * e X(A) et K;t
ah(;t) = ;t(ah(a» et K;t = {h e K, ah(;t) = ;t}. Ainsi ah(;t)
1 est un sous-groupe fermé de K.

1 Nous allons, par étapes, construire une représentation unitaire induite

du groupe G.
1 Proposition 111-1-1 Toute représentation unitaire irréductible

1 L:t: de K:t: définit une représentation unitaire

A
irréductible L:t: de

1
1
1
1
1 44

1 Preu ve : Soient L;t une représentation unitaire irréductible de K;t et

1 g = (a, h) un élément de A x
A
a K;t. Posons L;t (a, h) = ;t (a) L;t (h). L'applica-

1 tion (a, h) t--+

A
L;t (a, h) est une représentation unitaire de A x a K;t. En effet

1 A A
L;t(a, h) (a', h') = L;t(aah(a') , hh') = ;t(aah(a')) L;t (hh')

1
A A

1 = L;t (a, h) L;t (a' h')

1 A

Ensuite comme L;t est irréductible alors, il en est de même pour L;t .
1 C.QFD.

1 Théorème 111-1-2 : Toute représentation unitaire irréductible

1 A
L;t du sous groupe fermé Ax a K;t de G dans un espace de Hilbert

1 % induit une représentation unitaire irréductible U'L:t de G dans

l'espace de Hilbert % 'L;t et est définie par :

1 A

uL:t u(k') = ;t (ak'(a)) K u~;t u(k')

1 (a,k)
où K UL:t est une représentation de K induite par la représenta-
1 tion L:t définie par
L:t 112
KU k u(k ') = Pk (k ') u(k' k).

1 Preuve: Soit p la dérivée de Radon Nikodym de la mesure quasl-mva-

1 riante Jl sur Ax a K~ \Ax aK et L~ une représentation unitaire irréductible

de K;t sur un espace de Hilbert %.

1
1
1
1
1 45

1 La représentation KU
Ll:
du groupe K induite par la représentation Ll: est

1 d'après (1-11-2) de la forme:

Ll:
KU k U(k') =
112
Pk (k') U(k' k) où u e %
C
l:.

1 On rappelle que si u e % Cl: on a:

1 '" (a, h) u(g) = l:(a) Ll:(h)u(g) pour (a, h) e A

u«a, h)g) = Ll: X u Kl:'

Si u est une fonction de % Cl: sur K relativement au sous-groupe fermé Kl:

1
(ie u(hk) = Ll: (h) u(k) 'if ke K et he Kl:) , u induit une fonction de % Cl:
1
sur G relativement au sous-groupe fermé A x U Kl: en posant :
1 u(a, k) = l:(a) u(k).

1 En effet: Soit g = (a, k) e G on a :

1 u«a', h) g) = u(a'Uh(a) , hk) = l:(a'uh(a» u(hk)

= l:(a') l:(uh(a» Ll:(h)u(k) = l:(a') l:(a) Ll:(h)u(k)

1
= l:(a') Ll:(h) u(a, k) '" (a', h)
= Ll: u(a, k) '" (a',
= Ll: h) u(g)
1
Ll: 112

1 et d'après (1-11-2) on a U
(a,k)
u(g') = P g (g') u«a', k') (a, k»

112
= P g (g') u(a' uk,(a) , k' k)
1
112
= P g (g') l: (a' uk,(a» U(k' k)
1 d'autre part

1
1 où k, k' e X = Kl: \K par conséquent

1
1
1
1
1 46

1 ut ~ u(k') = 112
Pk (k') ~ (ak'(a)) u(k' k)
1 (a,k)
= ~ (ak'(a)) KU L~
k u(')
k .

1 Soit R(Ut~, ut~ ) l'algèbre des opérateurs d'entrelacement de ut~.

1 On a : dim R(Ut~ ,ut~) = dim Ri~ , L~) (cf. [1] Ch.16).

1 Comme:C:t: est irréductible on a dimR(L:t: ,L:t:) = 1 et par conséquent Ut:t:

1 est irréductible.
C.QFD.
1 En résumé, on peut schématiser la construction par le diagramme suivant

1 L~ ~ L~ ~ut~
1 1 1
1
1 où les flèches (-+) représentent les inductions l.e. on a :

1
1 Exemple 111-1-3: Considérons l'espace homogène X = A x a K/A x a K~.

1 Nous allons définir une action équilinéaire de G sur le fibré trivial

(X x %, X, prÜ. Soit x E X, notons r x un représentant de la classe x.

1 x = r x (A x a K~) et g.X = rg. x (A x a K~) 'if g E G par conséquent il existe

1 un élément u(g, x) E A x a K ~ tel que u(g, x) = r ~~ grx '

1 Posons ro(g, x) =
A

(L~ )u(g,x) avec rg. x u(g, x) = grx on a :

1
1
1
1
1 47

1
m(e, x) = 1%
1 {
m(gg' ,x) = m(g, g'x).m(g', x) \f g,g'e G

1 A
En effet m(e, x) = (L~ )u(e,x) = 1% et \fg, g'e G on a :
1
m(gg', x) = (I~~)u(gg',x) = (L~ )~~~.x gg'rx
1 A) -1 (A )-1
= (L~ rg.(g'.x) grg,x. L~ rg,.x g'rx

1 = m(g, g'x) w(g' ,x).

1 L'application m: (g, x) 1--+ m(g, x) est alors un l-cocycle à gauche de G à

valeurs dans Aut(%). Cette application permet de définir une action de G

1 sur Xx % (en posant g. (x, z) = (g.x, m(g, x).z» telle que G opère équilinéai-

1 rement sur Xx % et sur X. On déduit donc de cette action (cf. [4] § 19.1) un

1 homomorphisme U de G dans Aut (% X) où % X est l'espace vectoriel com-

plexe de toutes les applications de X dans %.

1 \f f e % X , m(g, x) f(x) = pr2 (g. (x, f(x»)

1 = (g. f) (g.x) = Ug f(g.x)

1 d'où U g f(x) = m(g, g-l x) f(g-l x) et comme g = (a, k) avec ae A et ke K

1 on a :
U(a, k) f(x) = m«a, k), (uk_l(a- 1 ), k- 1 ). x) f«uk-l (a- 1 ), k- 1 )x).

1 Cette représentation est induite par le 1-cocycle à gauche m. Nous l'appelons

1 alors la représentation de l-cocycle à gauche du groupe G = A xu K .

1
1
1
1
1
1 Le théorème suivant donne une généralisation de la construction du

1 caractère d'une représentation induite d'un groupe produit semi-direct

1 G = A xaK dans le cas où a est quelconque.

1 Théorème 111-1-4 : Soit U l. x la représentation unitaire irréduc-

tible induite sur G = Ax a K dans l'espace de Hilbert % l. x telle

1 '"
L
que pour tout <l> E % (G) ,U X soit traçable. Le caractère
1 <l>

X U LX de Ul. x est défini par

1
où
1
S X = A x aK X et h<l> le noyau correspondant à l'opérateur
1
Preuve: Soient <l> %(G) et u % fx
1 E E

" A
Lx Lx
1 U
<l>
u(g') = SG <l>(g) U
g
u(g') d~G(g) = SG
1/2
<l>(g) P g (g') u(g'g) d~G(g)

1/2
1 = SG g- g (g') u(g) d~G(g)
<l>(g'-lg) ,p'-l

= Sx\G on a
1 En posant X :

1 - S 1
u(g') = SX d~X(g) Sx <l>(g'- (a, h)g) P g'-l(a,h)g (g') u«a,h)g) d~Sx(a,h)
1/2

1 = SX d~X(g) SSx
- 1 1/2 A
<l>(g'- (a, h)g) P k'-lb k (k')L x (a,h) u(g)d~Sx(a,h)

1 =
- J 1
SX d~X(g) Sx <l>(g'- (a,
1/2
h)g) Pk'-lbk(k') X(a)Lx(h)u(g)d~Sx(a,h)

1
1
1
1

1 49

1
J - J 1 112
= X dIlX(g) Sl: <\>(g'- (a, h)g) P k'-lh k (k') l:(a) u(hg) dIlSl:(a,h)
1
1
1
1 Soit ~ : G x G ~ Œ:

1 112
tel que H<\>(g, g') = JSl: <\>(g'-l ag) P k'-lh k(k') l:(a) dIlSl:(a,h)
1 A
Ll: _
et on a: U J
u(g') = X H<\>(g, g') u(g) dllX(g ).
1 <\>

Comme il existe un isomorphisme S: U J-----o+ U de L2(X, Il, %) sur % Ll:

1 ..... A
(§ 1-11) tel que Su (g) = Ll: (kg) u(g) où g = kgs g est la décomposition de
1 A A
..... Ll: Ll:
1 Mackey de g, on a U
<\>
= S-l 0 U
<\>
0 S d'après le diagramme suivant:

1
1
1 S S

1
1
1
1
1
1

1
50
1
A

1 U
L~
S li (g') = Jx H4>(g, g') S li (g) d).lX(g ) = Jx H4>(g, g') L~ A
(kg) u(g) d).lX (g )
4>
1
1
1
par conséquent
1
= JX H4>(sg' g') L~ (k~l) il (g) d).lX(g)
1 = JX H4>(sg , g') il (Sg) d).lX(g)

1 et

1 Soit h4> la fonction définie par: X x X ~ cr

1
1 A
L~
A
L~
Comme U est traçable, il en est de même que U et d'après le
1 théorème (I-II-6),
4>
la fonction ç 1-+ h4>(ç, ç)
4>
est intégrable et

1 Tr(U
A

L~
J
) = X h4>(ç ,ç)d).lX(ç) d'où le caractère ~UL~ de la représentation
A

4>
1 t
U ~ est définie par: ~UL~ (4)) = Tr(U
A L~
A

).
1 4>
C.QFD.

1
1
1
1
1

1 51

1 § III-II APPLICATIONS AU GROUPE DE POINCARÉ ET AU GROUPE

DES DÉPLACEMENTS DU PLAN EUCLIDIEN.
1
A) Représentation unitaire du groupe de Poincaré.
1 Soit O( 1, n) le groupe orthogonal des formes quadratiques

1
1 Définition 111-11-1 : Le groupe de Lorentz G = SOo(l, n) est la

1 composante neutre du groupe orthogonal 0(1, n).

En language matriciel
1 0(1, n) = {g E Mn + 1 (IR) , tg Jg= Il
1
où J = (- \" 0 J
1 o •1

et SOo(1, n) = {g 0(1, n) , detg = 1 et goo ~ 1} où g = (gij)o~i,j~n

1
E

Définition 111-11-2: Le groupe de Poincaré est le produit semi-direct

1 G = 1[' x) SOo(1,3) du groupe de translation 1[' et le groupe de

1 Lorentz SOo(l, 3).

La loi de composition dans G est définie par :

1 'ri (a, a), (a', a') E G

1 (a, a) (a', a') = (a + aa', aa').

1 Soit K le groupe produit semi-direct 1I' x) SO(3) , L la représentation unitai-

re de K définie par: k --+ L k = L(a, r) = exp[i (pla)] D(r) où p = (m,

1 0, 0, 0)

et D une représentation irréductible du groupe compact SO(3).

1
1
1
1
1 52

1 Nous allons construire la représentation UL du groupe de Poincaré induite

1 par la représentation L du groupe K.

Posons X = G/K. D'après la décomposition de Cartan du groupe SOo(1, 3),

1 nous avons SOo(1, 3) = g> SO(3) où g> est l'ensemble des transformations de

1 Lorentz pures (voir [1] chap. 17) et alors :

1 X = ll" x) SOo(1, 3) Ill" x) SO(3) z g> •

Soit ge SOo(1,3) , 3 ~e g> tel que g = a p r avec re SO(3). Nous allons

1 -1
définir l'opérateur L kg -1 8
1
•
o g

1
= (- a -1o ao ' a -1o a p) = -1 -1 -1-1
(0, a p) (- a p a o ao ' a p a o a p)
1 par conséquent :

1 kg o -1s g

1 et L -1
k g -1 8
= exp [1
. (
p0 1 a -1
pao-1
ao ) ] D (-1
a p a -1
0 a p)
-1
o g

1 D(ra )
-1
en posant ra = a p a o a p
. 1
1 et donc 1 ra a p a o )] D(r a ) u(ao·1a p ).

1 B) Représentation unitaire irréductible du

ments du plan euclidien.
groupe des déplace-

1
1
1
1
1
1 53

1 Définition 1II-II-3: Le groupe de déplacement du plan euclidien

1 :IR. 2 est le sous-groupe G du groupe GL(2, a:) des matrices

1 h(z, a) =(
eia
0 pour a e:IR. et ze a:. On le note M(2).

1 Soient la rotation r(a): ro""'-' roe la et la translation t(z): ro 1--+ ro + z. En

1 posant h(o, a) = r(a) et h(z, 0) = t(z) on a les relations suivantes:

1) h(z, a) = t(z) r(a)

1 2) r(a) t(z) r(at 1 = t(r(a)z)

1 3) h(z, at 1 = h(-r(-a)z , - a)

1 4) h(z, a) . h(ro, ~) = h(z + r(a)ro , a + ~)

1 Ces relations sont prouvées par des calculs directs de produits de matrices.

Posons T = { t(z) , z e CI:} et K = {r(a), a e lR}, T et K sont des sous-

1 groupes de G = M(2) , T ~ lR 2 , K ~ UJ(l) ~ lRl21tZ = 1r, G = TK et

1 T (\ K = {1}. Le groupe M(2) est le groupe produit semi-direct de T et K

1 (cf. [15] ch. IV).

Pour la construction de la représentation unitaire du groupe M(2), nous

1 allons utiliser la méthode de représentation induite par le caractère

1 l: a : t(z)""----' ei(z,a) du sous-groupe 1r.

1 Comme K ~ UJ (1) ~ lR/21tZ • dr = da/21t est la mesure de Haar normalisée

du groupe compact K. L'espace de la représentation sera l'espace de Hilbert

1
1
1
1
1

1
54

1
Proposition 111-11-4: Soit a e lR. 2, il existe une représentation

1 unitaire ua de M(2) sur H définie par

1 (u; F) (s) = ei(z,sa) F(r(a.)-l s ) où g = t(z) r(a.) = t(z)r et Fe H.

1
1 Preuve: 'V F, F e H on a :

1 (u; F , U; F) = JK F(r- 1s) F'(r 1s) ds = JK F(s) F'(s) ds = (F, F').

1 Par conséquent U: est un opérateur unitaire pour tout g e G.

1
1
1
1
1
et alors ua est une représentation unitaire de M(2).
1 C.QFD.

1 Proposition 111-11-5: Soit R la représentation régulière droite de

K. On a :
1 a
Rr 0 Ug 0
-1
Rr = Ura
g 'V re K, ge G, ae IR 2.
1
En particulier si lai = Ibl alors ua z Ub
1
1
1
1

1 55

1
Preuve : \:1 roe K, g = t(z) re G et Fe L2(K) on a :
1
1
1 alors
a -1
R r U g Rr = Ug
ra

a -1
= Ibl
1 Si lai alors il existe re K tel que b = ra donc ~ U g Rr =

\:1 ge G et comme R r est un opérateur unitaire sur L2(K) alors ua est équi-
1 valent à Ub.
C.QFD.
1 Proposition 111-11-6: Si g = t(pei<p) r(ex) alors l'opérateur unitaire

1 ua est défini par Ua F(8) = eiapcos(<P-9) F(8 -ex).

g g
1 Preuve: Comme (z, a) = 1\ e(za) on a :

1 ua F(8)
g
= e i(z,r(9)a) F(8 -ex) = e i1\ e(ape i(<p-9» F(8 -ex)

1 = e ia PCOS(<P-9) F(8 -ex).

C.QFD.
1
§ III-III REPRESENTATION UNITAIRE IRREDUCTIBLE SPHERIQUE
DE TYPE o.
1
1 Dans ce paragraphe, nous allons définir et étudier une classe de
représentations dépendant de 0 et qui généralise les représentations
1 unitaires sphériques.

1
1
1
1
1

1 56

1 Proposition 111-111-1 : (A )( a K, K) est une paire de Guelfand.

1 Preu ve: L'application cr: A x a K --+ A xa K

(a, k) ~ (a-l, k)
1
est un automorphisme involutif de G. En effet: 'tj (al' k z ) (az ' k z ) e G.
1
1
1 et cr 0 cr (a, k) = (a, k) 'tj (a, k) e G. Le sous-groupe K cr = { ge G, cr(g) = g}

1 s'identifie à {e} x K == K. Par conséquent la paire (A x a K, K) est symétrique

1 donc de Guelfand (cf. [20] ch. 5).

C.QFD.

1 Soit U une représentation unitaire de G dans un espace de Hilbert H.

Un vecteur u de H est K-invariant si pour tout ke K, Uku = u.
1 L'espace des vecteurs K-invariants est noté HK.

1 Définition 111-111-2 : La représentation unitaire U de G dans H est dite

sphérique si dim H K =1 et que tout vecteur non nul de H K est cyclique.
1 A. Wawrzynczyk a montré que si (G, K) est une paire de Guelfand, toute

1 représentation
sphérique
irréductible
(cf. [20] Th. 5.3.1).
de G admettant un vecteur K-invariant est

1 Proposition 111-111-3: Si U est une représentation unitaire sphé-

1 rique alors la fonction cp définie sur G par cp (x) = (U(x) xot xo) est

1 continue, de type positif et sphérique. (xo e HK).

1
1
1

1
57

1
Preuve: <p est continue et de type positif (évident)
1 Montrons que <p est sphérique

1 JK <p(xky)dk J
= K (U(xky)xo 1Xo)dk = ( JK (U(ky)xo dk 1U(x- 1) xo)·

1 Comme JK U(ky)xo dk est K-invariant alors il existe un nombre complexe

C y tel que JKU(ky)xo dk= Cy xo·

1
1
en posant x =e on a Cy = <pey).
1 D'autre part <p est biinvariante par K par conséquent <p est sphérique.

1 C.QFD.

1 Par exemple, considérons le groupe M(2) des déplacements du plan

euclidien IR 2. Nous allons déterminer l'espace HK des vecteurs K-invariants

1 et préciser la fonction sphérique associée à la représentation unitaire de

1 M(2) définie dans (III-II-3).

1 Proposition III-III-4: Soit F un élément de H = L2( K)

1 1) U: F = F pour tout re K si et seulement si F = Co (Co une

constante) .
1 2) Posons <p a (g) = (U: 1J 1) pour ae:IR. et ge G. Alors on a

1 <pa(g) =Jo(ap) avec g = t(pei<p) r(a) et Jo la fonction de Bessel

d'ordre o.
1
1
1
1
1

1
1 58

1 Preuve : 1) Comme F e H, alors F peut s'écrire sous la forme

1 F = L
neZ
Cnl: n où l: n(9) = ein9 . (cf [15] Th. 4.3).

1
1
= L Cn l: n(9-a) =
1 neZ

1 = L
neZ
Cne-ma l: n(9) et comme

1 Ur~a) ( L Cnl: n ) (9) = L Cnl: n(9) on a e- ina =1 't;f a e IR

ne Z ne Z
1
et alors n =0 par suite F = Col: 0 = Co .
1
2) <Pa (t(pei<p) r(a») = ;1t ~1t eiapcos(<p-9)d9 = 2
1
1t ~1t eiapcos(9)d9 = l o(ap)
1 o o

C.Q.FD.
1
Corollaire III-III-S: Soit a, b e li 2

1 Ua est équivalent à U b si et seulement si laI = Ibl.

1 Preuve : D'après la proposition 111-11-5 si laI = Ibl alors ua ~ Ub. Réci-

1 proquement supposons que ua ~ Ub. Il existe donc un opérateur T sur H

1 tel que T U: = U: T pour tout élément ge G.

U~ Tl = TU; 1 = Tl 't;f re K par conséquent Tl = C(C une constante).
1
1
1
1
1
1 59

1 Comme T est unitaire on a ICI = 1 et

1 a ab) 2( b
<r>a(g) = (U g 1, 1) = (T Ug 1, Tl) = (Ug Tl, Tl = ICI Ug 1, 1)
= <r>b(g) V gE G. Ainsi nous avons Jo(ap) = Jo(bp) V pE R.
1 1 21t. e 21t
or Jo(x) = 21t J elXCOS de donc J"o(o) = -1I21t J cos2 de < o.
1 o o

= Jo(ax) = a2 J"o(o) donc a2 J"o(o) = b2

1 En posant fa(x) on a f'a(o) J"o(o)

et a2 = b2 par conséquent lai = lb!.

1 C.QFD.

Dans la suite de ce paragraphe, nous généralisons l'étude des repré-

1 sentations unitaires sphériques pour 0 non triviale.

1 Soit U une représentation unitaire de G dans un espace de Hilbert H et

notons H(o) le sous-espace U(l: o)H de H.
1 On pose H
o = {v E H(o), Uo(k) v = ç~k)v,
K
V k E K}.

1 Définition 111-111-6 : La représentation U est dite sphérique de

1 type 0 si l'espace H
o
K
est de dimension 1 et que tout vecteur

1 non nul de H
o
K
est cyclique

1
Nous appelons H~ l'espace des vecteurs K-o-invariants de la représentation
1 U.

Le théorème 111-111-7 ci-après fournit une généralisation d'un résultat

1 de Wawrzynczyk ([20] Th. 5.3.1).

1
1
1
1
1 60

1
Théorème 111-111-': Toute représentation unitaire irréductible U
1
de G sur un espace de Hilbert H admettant un vecteur
1 K- ô-invariant non nul, est une représentation sphérique de
type ô.
1 A
Preuve : Si U est irréductible alors pour tout Ô e K ,UÔ est irréductible. En
1 effet : soit T un opérateur linéaire borné sur H(ô) qu'on peut étendre sur H

1 en posant Ta = TP(ô)a V a e H.

Si U est irréductible, il existe une suite de fonction fi e % (G) telle que

1
U(f i) converge simplement vers T. Soit gi = l:ô * fi * l:ô, gi e %ô(G) et
1 U Ô(gi) converge simplement vers T. Par conséquent U ô est irréductible.

1
Le sous-espace fermé H~ est stable pour les opérateurs Uô(f) lorsque f
1 parcourt l'algèbre %"ô(G). En effet: pour tout ke K, xe H~ et ye H on a :

1 Cu ô(k) Uô(f) x 1 y) = JG f(s) Cu ô(k) Uô(s) xly)ds

1 = JG f(s) Cu ô(ks) xly)ds = JG f(k- 1s) Cu ô(s) xly)ds

1 = JG f(s k- 1) Cu ô(s) J
xly)ds = G f(s) Cu ô(s) Uô(k) xly)ds

1 = ~t-k) JG f(s) Cu ô(s) xly)ds = ~k) Cu ô(f) xl y)

1 d'où

1
1
1
1
1

1
61

1
K Ir. B
Soit U B : %B(G) ---+ endCHK)
1 B
f ~ UB(O/H .
K
1 B B
· HBK > 1. S' B B
Supposons que d lm Olt H K -_ F 1 ES F 2 une decomposltIon d e HK en
J • •

1 K
deux sous-espaces propres fermés invariants pour U B et orthogonaux. Soit ul

1 un vecteur non nul de F~. Considérons le plus petit sous-espace fermé Hl de

H contenant les vecteurs UB(O ul où f parcourt ~c(G). Ce sous-espace est
1 invariant pour UB' Montrons que Hl est orthogonal à F~.
1 Soit u2 un vecteur non nul de
B
F 2' On a :

1 \;/ k, k'e K.

1 Par suite :

CUB(f) u l lu2) = J G f(s) CUB(s) u l lu2)ds

1
= JGJKJ K f(s)1;ô(k)çÔ(k') CUB(s k- l ) ull UB(k'-I)u2)dsdkdk'
1
= JGJKJ K f(s)1;ô(k)1;ô(k') CUB(k'sk- l ) ull u2)dsdkdk'
1
= JGJKJ K f(k' -ISk)1;ô(k)1;rk') CUB(S) ull u2)dsdkdk'
1
= J K J G 1;ô * f(sk) 1;tk) CUB(s) uI' u2)dkds
1
1
* f * 1;B e ~c(G) F~ U~ .
1 car ÇB %lB(G) pour tout fe et que est invariant par

Par conséquent Hl J.. F~ , donc distinct de H et il est aussi distinct de {O}

1
1
1
1

1 62

1
puisqu'il contient ul alors U8 n'est pas irréductible (contradiction). Par suite

1 dim H~ = 1 et U est une représentation sphérique de type 8.

C.QFD.
1
Proposition III-III-S : Toute représentation unitaire U sphéri-
1 que de type 8 de G est irréductible.

1
1 Preuve Soient M un sous-espace invariant fermé de H et PM le projec-

1 teur orthogonal sur M. Pour tout

8
K
' le vecteur
u E H
En effet, PM commute avec U8 donc pour k E K
1
1
1
Comme dimH~ = 1 il existe un nombre complexe À tel que v = Àu. Si À = 0
1 alors v = 0 et u E M.l, ainsi pour x E G, U8(x) u E M.l et comme u est

1 cyclique on a M.l =H et M = {O}.

1 Si À '* 0 , u = À-Iv, VE M donc UE M et pour tout x E G, U8(x)u E M

1 et H = M. Par conséquent la représentation U est irréductible.

C.Q.F.D.
1 Nous allons déterminer les vecteurs K-8-invariants pour la représen-

1 tation induite et la représentation de l-cocycle à gauche.

1
1
1
1
1 63

1 Proposition 111-111-9 Soient G = A )( a K et U 'L;t la représenta-

1 tion induite de G dans Ht;t. Un vecteur u de Ht;t est

1 K-ô-invariant si et seulement si pour k, k'e K

1
1
1
1 Preuve : D'après la proposition 111-1-2 on a

1 uL:t u(k')
k
= p ~2(k') u(k'k) et si

çv(k) :t",(k)
1
A

u~:t (k)u(k') = Ç8(k)u(k') et uk(k') = 1~2 u(k') = d;Ô) 1~2 u(k')

P k (k') P k (k')
1 car :tv = d(ô) çv. La réciproque est évidente.
ô ô
1 C.QFD.

1 Proposition 111-111-10 : Soient G = A )( a K et U une représentation

de l-cocycle à gauche de G dans l'espace H = % X Le vecteur f est

1 K- ô-invariant si et seulement si pour ke K et xe X

1 w(k,k-1x) kf(x) = d~Ô) ;t &(k) f(x) où west un l-cocycle à

1 gauche de G.

1
1
1
1
1
1 64

1 Preuve: Soit U unr. représentation de l-cocycle à gauche.

1 \;j ke K et fe %X, Ukf(x) = ro(k, k -1 x) f(k -1 x).

1 fe H
Ô
K
<=> ro(k, k -1 x) f(k- 1 x) = çÔ(k) f(x)
1
<=> ro(k,k- 1x) kf(x) = d(ô) l:8(k) f(x) . C.QFD.
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1
1 65

1
BIBLIOGRAPHIE
1
1 [1] A. O. BARUT and R. RACZKA: Theory of group representations and
applications, Polish Scientific Publishers, Warszawa, 1980.

1 [2] N. BOURBAKI: Groupes et Algèbre de Lie, Elements de Math, chap. 2

et 3, Diffusion C.C.I.S, Paris, 1972.

1 [3] J. DIEUDONNE : Eléments d'Analyse, Tome II, Gauthier-Villars, Paris,

1968.
1 [4] J. DIEUDONNE: Eléments d'Analyse, Tome IV, Gauthier-Villars,
Paris, 1975.
1 [5] J. DIEUDONNE Eléments d'Analyse, Tome VI, Gauthier-Villars,
Paris 6 è , 1971.
1
[6] J. DIXMIER: Les C*-Algèbres et leurs représentations, Gauthier-
1 Villars, Paris, 1969.

[7] J. FARAUT : Les Cours du CIMPA, Analyse Harmonique, Université de

1 Nancy l, 1980.

[8] A. GUICHARDET : Analyse Harmonique Commutative, Monographies

1 Universitaires de Maths, Paris, 1968.

1 [9] G. W. MACKEY : Infinite-dimensional group representations, Annals

of Mathematics, Vol. 54, N°l, November 1951.

1 [10] G. W. MACKEY : Induced representations of locally compact groups.

Annals of Mathematics, Vol. 58, N°2, September 1953.

1 [11] F. 1. MAUTNER : Unitary representations of locally compact groups II.

Annals of Mathematics, Vol. 52, n03, November 1950.

1 [12] F. 1. MAUTNER : Unitary representations of locally compact groups 1.

Annals of Mathematics, Vol. 51, n01, January 1950.
1 [13] M. NAIMARK: Normed Algebras, 1959 Wolters-Noordhoff Publishing,
Groningen, the Netherlands.
1
1
1
1
1 66

1
1 [14] H. REITER: Classieal Harmonie Analysis and locally compact groups,
Oxford at the Clarendon Press, 1968.

1 [15] M. SUGIURA : Unitary representation and Harmonie Analysis,

Kodansha Scientifie Books, 1928.

1 [16] S. TOURE : Introduction à la Théorie des Représentations des Groupes

Topologiques, Publications de l'IRMA, Université d'Abidjan, Mai 1991.

1 [17] N. 1. VILENKIN : Fonctions spéciales et Théorie de la Représentation des

Groupes, Monographies Universitaires de Maths, Paris, 1969.
1 [18] G. WARNER : Harmonie analysis on semi-simple Lie Group, Tome l,
Springer-Verlag Berlin Heidelberg} New-York, 1972.
1 [19] G. WARNER : Harmonie Analysis on semi-simple Lie Groups,
Tome II, Springer-Verlag Berlin Heidelberg} New- York, 1972.
1 [20] A. WAWRZYNCZYK : Group representations and Special Functions,

1 D. Reidel Publishing Company, 1984.

[21] G. L. WERS-W.H. BOOTHBY: Symmetrie Spaces, Department of

1 Mathematies, Washington University ST Louis Missouri, 1972.

1
1
1
1
1
1
1
1
1