Sur les conjectures de Gross et Prasad. II

Table of contents :
Introduction
1. Notations, groupes tordus
2. Le groupe GLd tordu
3. La partie géométrique de la formule intégrale
4. Majorations
5. Produits bilinéaires et facteurs
6. La partie spectrale de la formule intégrale
7. Une formule intégrale calculant une valeur d'un facteur
Références
Introduction
1. Paramétrages
2. Quelques formules revisitées
3. Endoscopie
4. Preuve du théorème principal
Références
Introduction
1. Induction et multiplicités
2. Irréductibilité et représentations génériques
3. Preuve du théorème
4. Existence et unicité des représentations génériques dans un paquet tempéré
Références

Citation preview

Astérisque 347, 2012, p. 1–102

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE par Jean-Loup Waldspurger

Introduction Soient F un corps local non archimédien de caractéristique nulle, V un espace vectoriel de dimension finie sur F , muni d’une forme quadratique non dégénérée q, D0 une droite de V qui n’est pas isotrope pour q, W l’orthogonal de D0 dans V . Notons G le groupe spécial orthogonal de V et H celui de W , que l’on identifie à un sous-groupe de G. Soient π, resp. ρ, une représentation admissible irréductible de G(F ), resp. H(F ), que l’on réalise dans un espace Eπ , resp. Eρ . Notons HomH(F ) (π, ρ) l’espace des applications linéaires ϕ : Eπ → Eρ telles que ϕ ◦ π(h) = ρ(h) ◦ ϕ pour tout h ∈ H(F ). Notons m(ρ, π) la dimension de cet espace. D’après un théorème de Aizenbud, Gourevitch, Rallis et Schiffmann ([1]), on a m(ρ, π) ≤ 1. Supposons π et ρ tempérées. Dans les articles [12] et [14], on a établi une formule qui calcule m(ρ, π) comme somme d’intégrales sur des sous-tores non nécessairement maximaux de H de fonctions qui se déduisent des caractères de π et ρ. D’après les travaux encore en cours d’Arthur, la théorie de l’endoscopie tordue relie les représentations π et ρ, ou plus exactement les L-paquets qui contiennent ces représentations, à des représentations autoduales de groupes linéaires. Indiquons plus précisément de quel groupe linéaire il s’agit, par exemple pour la représentation π. Notons d la dimension de V . Si d est pair, le groupe est GLd . Si d est impair, G apparaît usuellement comme groupe endoscopique de GLd−1 tordu. Mais G est aussi un groupe endoscopique de GLd tordu et, pour ce que nous faisons, il semble que cette deuxième interprétation soit plus pertinente. D’après la conjecture locale de Gross-Prasad, le nombre m(ρ, π) doit être relié à un facteur ε de la paire de représentations de groupes linéaires correspondant à la paire (ρ, π). Cela suggère l’existence d’une formule intégrale, parallèle à celle évoquée ci-dessus, qui calcule ce facteur ε de paire. Inversement, une telle formule devrait permettre, via la théorie de l’endoscopie tordue, de prouver la conjecture

© Astérisque 347, SMF 2012

2

J.-L. WALDSPURGER

locale de Gross-Prasad pour les représentations tempérées. Le but de l’article est d’établir cette formule intégrale. Oublions maintenant les objets introduits ci-dessus, qui n’ont servi que de motivation. On conserve toutefois le corps F . Soient r et m deux entiers positifs ou nuls. Posons d = m + 1 + 2r, G = GLd , H = GLm . Soit π une représentation admissible irréductible et tempérée de G(F ). On suppose π autoduale, c’est-à-dire qu’elle est isomorphe à sa contragrédiente π ∨ . Soit ρ une représentation de H(F ) vérifiant des −1 conditions similaires. Notons θd l’automorphisme de G défini par θd (g) = Jd t g Jd−1 , où Jd est la matrice antidiagonale de coefficients (Jd )i,d+1−i = (−1)i . Introduisons le ˜ = Gθd . Puisque π est augroupe non connexe Go{1, θd } et sa composante connexe G toduale, elle se prolonge en une représentation du groupe non connexe G(F ) o {1, θd }. Elle se prolonge même de deux façons. Fixons un caractère ψ : F → C× continu et non trivial. La théorie des modèles de Whittaker permet de choisir l’un des prolongements. ˜ ). On effectue des constructions On note π ˜ la restriction de ce prolongement à G(F analogues pour H et ρ. Selon Jacquet, Piatetskii-Shapiro et Shalika, on définit le facteur ε(s, π × ρ, ψ) pour s ∈ C. Notons ωπ et ωρ les caractères centraux de π et ρ. Soit enfin ν un élément de F × . On pose εν (˜ π , ρ˜) = ωπ ((−1)[m/2] 2ν)ωρ ((−1)1+[d/2] 2ν)ε(1/2, π × ρ, ψ). C’est ce terme que nous allons calculer par une formule intégrale. Remarque. — Pour éviter un piège, signalons que l’équation fonctionnelle locale n’entraîne pas que ce terme est un signe ±1, mais seulement que c’est une racine quatrième de l’unité. ˜ et H, ˜ on les interprète comme des groupes Pour manier plus aisément les objets G tordus. Soient V un espace vectoriel de dimension d sur F , W un sous-espace de dimension m et Z un sous-espace de V supplémentaire de W . Par le choix d’une base de V , G s’identifie au groupe GL(V ) des automorphismes linéaires de V . Notons ˜ s’identifie à l’espace Isom(V, V ∗ ) des isomorphismes V ∗ l’espace dual de V . Alors G ∗ linéaires de V sur V ou, si l’on préfère, à l’espace des formes bilinéaires non dégénérées ˜ par sur V . Le groupe G agit à droite et à gauche sur G (g, x ˜, g 0 ) 7→ t g

−1

◦x ˜ ◦ g0

˜ On note simplement (g, x pour g, g 0 ∈ G et x ˜ ∈ G. ˜, g 0 ) 7→ g˜ xg 0 ces actions. Le point base θd s’identifie à une forme symplectique si d est pair, à une forme quadratique ˜ s’identifie si d est impair. On renvoie à 2.1 pour plus de précision. De même, H à Isom(W, W ∗ ). Fixons une forme quadratique non dégénérée ζ˜ sur Z. On suppose qu’elle est somme orthogonale d’une forme hyperbolique et de la forme x 7→ 2νx2 de dimension 1. On interprète ζ˜ comme un élément de Isom(Z, Z ∗ ). On plonge alors ˜ dans G ˜ : un élément y˜ ∈ Isom(W, W ∗ ) s’identifie à l’élément de Isom(V, V ∗ ) qui H envoie W sur W ∗ , Z sur Z ∗ , et dont les restrictions à W , resp. Z, coïncident avec y˜, ˜ resp. ζ.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

3

˜ définit un automorphisme θx˜ de G caractérisé par l’égalité Tout élément x ˜ ∈ G ˜ de la façon suivante. x ˜g = θx˜ (g)˜ x. On définit la notion de sous-tore maximal de G Soient T un sous-tore maximal de G défini sur F et B un sous-groupe de Borel de G, contenant T mais pas forcément défini sur F . Notons T˜ le sous-ensemble des éléments ˜ tels que θx˜ conserve T et B. C’est un espace principal homogène pour chacune x ˜∈G des actions de T à droite ou à gauche. Pour x ˜ ∈ T˜, la restriction à T de θx˜ ne dépend pas de x ˜. On note cet automorphisme θT˜ . Nous dirons que T˜ est un sous-tore maximal ˜ si T˜(F ) n’est pas vide. de G ˜0 = Considérons une décomposition W = W 0 ⊕ W 00 . Posons H 0 = GL(W 0 ), H 0 0 0 0∗ ˜ ˜ Isom(W , W ). Soit T un sous-tore maximal de H , auquel est associé un sous-tore maximal T 0 de H 0 , et soit ζ˜H,T ∈ Isom(W 00 , W 00 ∗ ) une forme quadratique. On impose les conditions suivantes : – la dimension de W 0 est paire ; – T˜0 est anisotrope, c’est-à-dire que le seul sous-tore déployé contenu dans le sousensemble des éléments de T 0 fixes par θT˜0 est égal à {1} ; – le groupe spécial orthogonal de la forme ζ˜H,T sur W 00 est quasi-déployé ainsi que celui de la forme ζ˜G,T = ζ˜H,T ⊕ ζ˜ sur W 00 ⊕ Z. ˜ tels que y˜(W 0 ) = W 0 ∗ , y˜(W 00 ) = W 00 ∗ , On note T˜ l’ensemble des éléments y˜ ∈ H 0 ˜ que la restriction de y˜ à W appartienne à T 0 et que la restriction de y˜ à W 00 coïncide ˜ obtenus de cette façon. avec ζ˜H,T . On note T l’ensemble des sous-ensembles T˜ de H ˜ Cette action conserve l’ensemble T . On Le groupe H(F ) agit par conjugaison sur H. fixe un ensemble de représentants T de l’ensemble des orbites. Soit T˜ ∈ T , reprenons pour cet élément les objets définis ci-dessus, en notant simplement T = T 0 . L’action de T (F ) par conjugaison conserve T˜(F ). On note T˜(F )/θ l’ensemble des orbites. C’est une variété analytique sur F sur laquelle on définit une ˜ certaine mesure. On définit aussi sur cette variété deux fonctions ∆H et ∆r , des valeurs absolues de certains déterminants. On définit également un groupe de Weyl W (H, T˜). Tous ces termes sont élémentaires, on renvoie à 1.4 et 3.2 pour des définitions précises. Ce qui est plus crucial est d’associer à π ˜ et ρ˜ deux fonctions cπ˜ et cρ˜ sur ˜ ˜ ˜ T (F )/θ . Soit t un élément de T (F ) en position générale, notons Gt˜ la composante neutre du sous-groupe des points fixes par θt˜ dans G. Ce groupe se décompose en Tθ × SO(ζ˜G,T ), où Tθ = T ∩ Gt˜ et SO(ζ˜G,T ) est le groupe spécial orthogonal de la forme quadratique ζ˜G,T introduite ci-dessus. A π ˜ est associé un caractère Θπ˜ qui est ˜ ). Plus précisément, d’après un résultat une fonction localement intégrable sur G(F d’Harish-Chandra généralisé au cas non connexe par Clozel, ce caractère admet au voisinage de t˜ un développement en combinaison linéaire de transformées de Fourier d’intégrales orbitales nilpotentes. C’est-à-dire, notons gt˜ l’algèbre de Lie de Gt˜ et Nil(gt˜) l’ensemble des orbites nilpotentes dans gt˜(F ). Il existe un voisinage ω de 0 dans gt˜(F ) et, pour tout O ∈ Nil(gt˜), il existe un nombre complexe cπ˜ , O (t˜) de sorte

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

4

J.-L. WALDSPURGER

que, pour toute fonction ϕ ∈ Cc∞ (gt˜(F )) à support dans ω, on ait l’égalité Z Z X ˜ ˜ Θπ˜ (texp(X))ϕ(X)dX = cπ˜ , O (t) ϕ(X)dX, ˆ gt˜(F )

O∈Nil(gt˜)

O

où ϕˆ est la transformée de Fourier de ϕ. Evidemment, pour que cette formule ait un sens, on doit définir précisément la transformation de Fourier ainsi que les diverses mesures. Remarquons que les orbites nilpotentes dans gt˜(F ) sont les mêmes que celles dans l’algèbre de Lie so(ζ˜G,T )(F ). Supposons d’abord d impair. Alors, parce que dim(W 0 ) est paire, l’espace W 00 ⊕Z de la forme ζ˜G,T est de dimension impaire. Puisque cette forme est quasi-déployée, il y a une unique orbite nilpotente régulière dans so(ζ˜G,T )(F ). On la note Oreg et on pose cπ˜ (t˜) = cπ˜ , Oreg (t˜). Supposons maintenant d pair. Alors so(ζ˜G,T )(F ) possède en général plusieurs orbites nilpotentes régulières. Mais on peut en sélectionner une de la façon suivante. On peut décomposer l’espace W 00 ⊕Z muni de sa forme ζ˜G,T en somme orthogonale d’un hyperplan X et d’une droite D0 sur laquelle la forme quadratique est équivalente à x 7→ 2νx2 . Nos hypothèses impliquent que le groupe spécial orthogonal SO(X) est quasi-déployé. Puisque dim(X) est impaire, so(X)(F ) possède une unique orbite nilpotente régulière. Fixons un point de cette orbite et notons Oν l’orbite dans so(ζ˜G,T )(F ) qui contient ce point. C’est encore une orbite nilpotente régulière. On pose cπ˜ (t˜) = cπ˜ , Oν (t˜). On a ainsi défini une fonction cπ˜ presque partout sur T˜(F ). Cette fonction est invariante par conjugaison par T (F ) et peut être considérée comme une fonction sur T˜(F )/θ . Par une construction similaire, on définit une fonction cρ˜ presque partout sur le même ensemble. Posons Z X ˜ cπ˜ (t˜)cρ˜(t˜)DH (t˜)∆r (t˜)dt˜. εg´eom,ν (˜ π , ρ˜) = |W (H, T˜)|−1 T˜ ∈ T

T˜ (F )/θ

Cette expression est absolument convergente. Notre résultat principal est le théorème 7.1 dont voici l’énoncé. Théorème 0.1. — Soit π, resp. ρ, une représentation admissible, irréductible, tempérée et autoduale de G(F ), resp. H(F ). Alors on a l’égalité εg´eom,ν (˜ π , ρ˜) = εν (˜ π , ρ˜). Comme nous l’avons expliqué, notre motivation est la conjecture locale de GrossPrasad. Nous ignorons si cette façon, plutôt compliquée, de calculer un facteur ε peut avoir d’autres applications. La démonstration reprend celle de [12] et [14]. Donnons de très brèves indications dans le cas où r = 0 et d = m + 1 (en fait, ce cas ne peut pas être traité à part car la preuve utilise une récurrence compliquée sur le couple (d, m)). Considérons une ˜ )) qui est très cuspidale, cf. 1.7. On définit une suite (ΩN )N ≥1 fonction f˜ ∈ Cc∞ (G(F de sous-ensembles ouverts compacts de H(F )\G(F ) vérifiant les propriétés usuelles [ ΩN ⊂ ΩN +1 pour tout N et ΩN = H(F )\G(F ). N

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

5

On note κN la fonction caractéristique de l’image réciproque de ΩN dans G(F ). Cela étant, on pose Z Z JN (Θρ˜, f˜) = Θρ˜(˜ y )f˜(g −1 y˜g)d˜ y κN (g)dg. G(F )

˜ ) H(F

Cette intégrale est absolument convergente. Comme pour la formule des traces locale d’Arthur, il y a deux façons de calculer la limite de cette expression quand N tend vers l’infini. L’une, que l’on peut qualifier de « géométrique », et qui est la réplique de celle de [12] ; l’autre, que l’on peut qualifier de « spectrale », qui s’appuie sur la formule de Plancherel pour le groupe G(F ) et qui est la réplique de celle de [14]. Ces deux voies conduisent à une égalité Jg´eom (Θρ˜, f˜) = lim JN (Θρ˜, f˜) = Jspec (Θρ˜, f˜). N →∞

Les deux expressions extrêmes contiennent des distributions (en f˜) qui ne sont pas invariantes : des intégrales orbitales pondérées et des caractères pondérés. Le procédé habituel d’Arthur permet par récurrence d’en déduire d’autres expressions qui ne contiennent plus que des distributions invariantes, et qui continuent d’être égales entre elles. Supposons que π ˜ est « elliptique », le cas général s’en déduisant assez facilement. On prend pour f˜ un pseudo-coefficient de π ˜ . Alors les deux expressions « invariantes » ci-dessus deviennent respectivement εg´eom,ν (˜ π , ρ˜) et εν (˜ π , ρ˜), ce qui prouve l’égalité de ces deux termes. Expliquons pourquoi apparaît le terme ε(1/2, π×ρ, ψ). Notons Eπ et Eρ des espaces dans lesquels se réalisent π et ρ. Considérons l’espace HomH(F ) (π, ρ) des applications linéaires ϕ : Eπ → Eρ telles que ϕ ◦ π(h) = ρ(h) ◦ ϕ pour tout h ∈ H(F ). D’après [1], ˜ ), l’application cet espace est de dimension 1. Pour ϕ ∈ HomH(F ) (π, ρ) et y˜ ∈ H(F −1 linéaire ρ˜(˜ y) ◦ ϕ ◦ π ˜ (˜ y ) appartient encore à HomH(F ) (π, ρ) et ne dépend pas de y˜. Il existe donc un nombre c ∈ C× tel que ρ˜(˜ y )−1 ◦ ϕ ◦ π ˜ (˜ y ) = cϕ ˜ ). C’est ce nombre c qui apparaît naturelpour tous ϕ ∈ HomH(F ) (π, ρ) et y˜ ∈ H(F lement dans nos calculs spectraux. Or le théorème 2.7 de [7] permet de calculer c : à des termes élémentaires près, c’est ε(1/2, π × ρ, ψ). Voici le contenu de l’article. La première section rassemble des définitions et résultats généraux sur les « groupes tordus », selon la terminologie de Labesse. La deuxième introduit plus précisément les groupes GLd tordus. La partie « géométrique » de notre formule intégrale est traitée dans la section 3. La section 4 contient les majorations nécessaires pour prouver les diverses convergences d’intégrales utilisées dans la section 6. La section 5 établit le résultat évoqué ci-dessus, à savoir que ε(1/2, π × ρ, ψ) mesure la compatibilité des deux prolongements π ˜ et ρ˜. La partie « spectrale » de la formule intégrale est traitée dans la section 6. Le théorème principal est prouvé dans la septième et dernière section. Ainsi qu’on l’a déjà dit, nos preuves sont parallèles à celles de [12] et [14], au point d’être parfois identiques. Pour épargner le lecteur, ou

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

6

J.-L. WALDSPURGER

par paresse, on s’est souvent contenté d’indiquer sommairement les modifications à apporter ou même simplement d’affirmer les résultats sans démonstration. Remarque sur la notation. — Dans les articles [12] et [14], on avait utilisé la lettre θ pour noter les caractères ou quasi-caractères (θπ , θf etc.). Ici, cette lettre sera réservée aux automorphismes des groupes linéaires. Les caractères ou quasi-caractères seront notés par la lettre Θ. Je remercie R. Beuzart pour m’avoir signalé une erreur dans une première version de ce texte.

1. Notations, groupes tordus 1.1. Notations générales. — Soit F un corps local non archimédien de caractéristique nulle. On note |.|F la valeur absolue usuelle de F , valF la valuation, oF l’anneau des entiers et pF son idéal maximal. On fixe une clôture algébrique F¯ de F et une uniformisante $F de F . Toutes les variétés algébriques seront supposées définies sur F , sauf mention explicite du contraire. De même pour les actions d’un groupe algébrique sur une variété. Soit G un groupe algébrique réductif connexe. On note AG le plus grand tore déployé central dans G, X(G) le groupe des caractères de G définis sur F , A G = Hom(X(G), R) et A ∗G = X(G) ⊗Z R le dual de A G . On note g l’algèbre de Lie de G et G×g

→

(g, X) 7→

g gXg −1

l’action adjointe. Quand on définit un objet relatif au groupe G, on peut préciser si besoin est la notation en introduisant la lettre G en exposant. Par exemple, les intégrales orbitales pondérées sont notées JM (x, f ) s’il n’y a pas d’ambigüité sur le groupe ambiant G, G ou JM (x, f ) si cela semble préférable. Pour toute bijection θ d’un ensemble X dans lui-même, on note X θ le sous-ensemble des points fixes. ˜ vérifiant les 1.2. Groupes tordus. — On appelle groupe tordu un couple (G, G) ˜ est conditions qui suivent. Le terme G est un groupe réductif connexe. Le terme G ˜ ) 6= ∅. Il y a deux actions de groupe algébrique une variété algébrique telle que G(F ˜ à droite et à gauche, notées de G sur G, ˜ G×G

→

˜ G

˜×G G

→

˜ G

(g, x ˜)

7→ g˜ x

(˜ x, g)

7→ x ˜g.

˜ un espace principal homogène sur G. Chacune d’elles fait de G

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

7

Considérons un tel groupe tordu. Notons Aut(G) le groupe des automorphismes de G. Il existe une unique application algébrique ˜ G

→ Aut(G)

x ˜

7→

θx˜

˜ et g ∈ G. De θx˜ se déduit de sorte que l’on ait l’égalité x ˜g = θx˜ (g)˜ x pour tous x ˜∈G ˜ ). des automorphismes de X(G), de AG , de A G etc. qui ne dépendent pas de x ˜ ∈ G(F On les note θG˜ . On suppose Hypothèse. — θG˜ est d’ordre fini. ˜ par conjugaison : (g, x Le groupe G opère sur G ˜) 7→ g˜ xg −1 . Pour tout sous-ensemble ˜ ˜ ˜ ˜ ˜ son centraliX de G, on note NormG (X) le normalisateur de X dans G et ZG (X) ˜ sateur. Si X est réduit à un point {˜ x}, on note simplement ces groupes ZG (˜ x) et on ˜ opère sur G par (˜ note Gx˜ la composante neutre de ZG (˜ x). La variété G x, g) 7→ θx˜ (g). Si X est un sous-ensemble de G, on définit alors son normalisateur NG˜ (X) et son centralisateur ZG˜ (X), avec la variante ZG˜ (x) quand X est réduit à un point {x}. On note AG˜ le plus grand sous-tore de AG sur lequel θG˜ agit trivialement. On note A G˜ , resp. A ∗G˜ , le sous-groupe des éléments de A G , resp. A ∗G fixés par θG˜ . On note aG˜ la dimension de A G˜ . On définit un homomorphisme HG˜ : G(F ) → A G˜ par HG˜ (g)(χ) = log(|χ(g)|F ) pour tous g ∈ G(F ) et χ ∈ X(G)θG˜ . ˜ ss le sous-ensemble des éléments semi-simples de G, ˜ c’est-à-dire des x ˜ On note G ˜∈G tels qu’il existe un sous-tore maximal T de G, défini sur F¯ , et un sous-groupe de Borel ˜ ss (F ), on B de G, défini sur F¯ et contenant T , tels que θx˜ conserve T et B. Si x ˜∈G pose ˜

x) = |det(1 − θx˜ )|g/gx˜ |F . DG (˜ ˜ reg l’ensemble des éléments fortement réguliers de G, ˜ c’est-à-dire l’ensemble On note G des éléments x ˜ tels que ZG (˜ x) soit abélien et Gx˜ soit un tore. On appelle sous-groupe parabolique tordu (P, P˜ ) un couple vérifiant les conditions suivantes. Le terme P est un sous-groupe parabolique de G. Le terme P˜ est ˜ et on suppose P˜ (F ) 6= ∅. Pour un tel couple, on appelle son normalisateur dans G ˜ ) tel que M soit une composante de composante de Lévi tordue un couple (M, M ˜ ˜ On appelle Lévi de P et M est l’intersection des normalisateurs de P et M dans G. ˜ ˜ groupe de Lévi tordu de (G, G) un couple (M, M ) tel qu’il existe un sous-groupe pa˜ ) est une composante de Lévi tordue. On vérifie rabolique tordu (P, P˜ ) dont (M, M ˜ (F ) 6= ∅, cf. [11] qu’un groupe de Lévi tordu est un groupe tordu (c’est-à-dire que M ˜ 1.6). Pour un tel groupe de Lévi tordu, on note P (M ) l’ensemble des sous-groupes ˜ ), F (M ˜ ) l’ensemble paraboliques tordus (P, P˜ ) de composante de Lévi tordue (M, M ˜ ˜ ˜ et L (M ˜) des sous-groupes paraboliques tordus (Q, Q) tels que M ⊂ Q et M ⊂ Q ˜ ˜ ˜ ˜ l’ensemble des groupes de Lévi tordus (L, L) tels que M ⊂ L et M ⊂ L. Soit (Q, Q) ˜ = LU ˜ pour signifier que : un sous-groupe parabolique tordu. On écrit simplement Q ˜ ˜ de (Q, Q) ˜ ; – L est le second membre d’une composante de Lévi tordue (L, L) – U est le radical unipotent de Q.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

8

J.-L. WALDSPURGER

˜ ) est un groupe de Lévi fixé et que (Q, Q) ˜ appartient à F (M ˜ ), il sera de plus Si (M, M ˜ contient M ˜. supposé que L Comme dans le cas non tordu, les Lévi tordus se caractérisent comme les commutants de tores déployés. Précisément, soit A un sous-tore déployé de G, notons M ˜ Supposons Z ˜ (A)(F ) 6= ∅. son commutant dans G et ZG˜ (A) son commutant dans G. G Alors (M, ZG˜ (A)) est un Lévi tordu. Prouvons cela. On sait bien que M est un Lévi de G. Choisissons un élément x∗ ∈ X∗ (A) en position générale et posons a = x∗ ($F ). Alors M est le commutant de a. Notons P le sous-groupe parabolique de G, de composante de Lévi M , dont le radical unipotent est engendré par les sous-groupes radiciels associés aux racines α de AM telles que |α(a)|F > 1. Soit x ˜ ∈ ZG˜ (A). Puisque θx˜ fixe ˜ défini comme plus a, il conserve aussi M et P . Donc x ˜ appartient à l’ensemble M ˜ ˜ haut, et ZG˜ (A) ⊂ M . Puisque ZG˜ (A)(F ) n’est pas vide, M (F ) ne l’est pas non plus, ˜ ) soit un groupe de Lévi tordu. De plus, Z ˜ (A) ce qui est la condition pour que (M, M G ˜ sont évidemment tous deux des espaces principaux homogènes pour le groupe et M M . Ils sont donc égaux, ce qui prouve l’assertion. Inversement, tout groupe de Lévi ˜ ) est le commutant au sens ci-dessus du tore A ˜ . tordu (M, M M Soit Pmin un sous-groupe parabolique minimal de G et Mmin une composante de Lévi de Pmin . On peut compléter ces données, de façon unique, en un sous-groupe ˜ min ). En parabolique tordu (Pmin , P˜min ) et une composante de Lévi tordue (Mmin , M ˜ ˜ ˜ effet, Pmin est le normalisateur de Pmin dans G et Mmin est le normalisateur de ˜ min (F ) 6= ∅. Soit y˜ ∈ G(F ˜ ). Alors le couple Mmin dans P˜min . On doit voir que M (θy˜(Pmin ), θy˜(Mmin )) est formé d’un sous-groupe parabolique minimal de G et d’une composante de Lévi de ce sous-groupe. Deux tels couples sont conjugués par un élément de G(F ). Choisissons donc g ∈ G(F ) tel que la conjugaison par g envoie ˜ min (F ). (θy˜(Pmin ), θy˜(Mmin )) sur (Pmin , Mmin ). Posons x ˜ = g y˜. Alors x ˜ appartient à M ˜ On appelle sous-tore maximal tordu un couple (T, T ) vérifiant les conditions suivantes. Le terme T est un sous-tore maximal de G. Le terme T˜ est une sous-variété ˜ L’ensemble T˜(F ) n’est pas vide et il existe un sous-groupe de Borel B de G, de G. défini sur F¯ , contenant T , tel que T˜ soit l’intersection des normalisateurs de T et B ˜ Cela entraîne que l’on a T˜ = T x dans G. ˜ = x ˜T pour tout x ˜ ∈ T˜. La restriction à T de l’automorphisme θx˜ ne dépend pas de x ˜, on la note θT˜ ou simplement θ si cela ne crée pas d’ambigüité. On note Tθ la composante neutre du sous-groupe des points fixes T θ . ˜ ou (P, P˜ ) etc. le premier terme G ou P etc. Evidemment, pour un couple (G, G), ˜ ou P˜ etc. Dans la suite de l’article, on est uniquement déterminé par le second G ˜ ou du sous-groupe parabolique tordu P˜ etc. parlera simplement du groupe tordu G, Les termes G ou P etc. seront utilisés si besoin est sans les définir explicitement. D’autre part, on peut utiliser les définitions que l’on vient d’introduire dans le cas où ˜ = G muni des multiplications à droite et à gauche. On supprime alors les ˜; par G exemple, on définit les ensembles P (M ), L (M ), la fonction HP etc.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

9

Remarque. — Les espaces tordus ont été introduits par Labesse. D’autres auteurs ˜ apparaît comme préfèrent étudier les groupes non connexes. Un espace tordu (G, G) ˜ une composante d’un tel groupe. En effet, fixons x ˜ ∈ G(F ). D’après l’hypothèse de finitude faite plus haut, on peut choisir un entier n ≥ 1 tel que l’image de θxn˜ dans le groupe des automorphismes extérieurs de G soit égale à 1. Donc θxn˜ est l’automorphisme intérieur associé à un élément du groupe adjoint Gad (F ). L’image de G(F ) dans Gad (F ) est d’indice fini. Quitte à accroître n, on peut donc supposer que θxn˜ est l’automorphisme intérieur associé à un élément x ∈ G(F ). Fixons un tel x. Consi˜ engendré par x dérons le groupe abélien libre X ˜. Il agit sur G : x ˜m agit par θxm ˜ . ˜ Considérons le produit semi-direct G o X, puis le plus petit sous-groupe distingué de ce produit contenant x−1 x ˜n . Notons G+ le quotient. Alors G+ est un groupe linéaire ˜ s’identifie à la composante connexe de G+ algébrique de composante neutre G et G qui contient x ˜. Cette remarque permet d’appliquer les résultats démontrés dans la littérature pour des groupes non connexes. ˜ un groupe tordu. Fixons un Lévi minimal Mmin 1.3. Les espaces A M˜ . — Soit G ˜ G ˜ de G ˜ tels que Mmin ⊂ M . On définit de G. On note L l’ensemble des Lévis tordus M le groupe de Weyl usuel W G = NormG(F ) (Mmin )/Mmin . On munit A Mmin d’un produit scalaire invariant par l’action du groupe de Weyl ˜ , on en déduit par conjugaison et restriction un produit W G . Pour tout Lévi tordu M ˜ est un Lévi tordu tel que M ˜ ⊂ L, ˜ on note A L˜˜ l’orthogonal de scalaire sur A M˜ . Si L M A L˜ dans A M˜ . On note ζ 7→ ζL˜ et ζ 7→ ζ L˜ les projections orthogonales de A M˜ sur A L˜ , ˜

resp. sur A L ˜ . Fixons un sous-groupe compact spécial K de G(F ) en bonne position M ˜ U ∈ P (M ˜ ). On définit une relativement à Mmin et supposons Mmin ⊂ M . Soit P˜ = M fonction HP˜ : G(F ) → A M˜ par HP˜ (g) = HM˜ (m) pour g = muk, avec m ∈ M (F ), u ∈ U (F ) et k ∈ K. ˜ ), c’est-à-dire une fonction que l’on note encore On fixe une extension de HG˜ à G(F ˜ HG˜ : G(F ) → A G˜ telle que HG˜ (g˜ xg 0 ) = HG˜ (g) + HG˜ (˜ x) + HG˜ (g 0 ) pour tous g, g 0 ∈ ˜ ). Pour tout Lévi tordu M ˜ , on en déduit une fonction analogue H ˜ : G(F ) et x ˜ ∈ G(F M ˜ ˜ )/M (F ). Fixons, ainsi ˜ M (F ) → A M˜ de la façon suivante. Posons W M = NormG(F ) (M 0 ˜ qu’il est loisible, une extension HM ˜ à M (F ) de sorte que la composée de cette ˜ de HM fonction et de la projection orthogonale de A M˜ sur A G˜ coïncide avec la restriction de ˜ (F ). Pour g ∈ NormG(F ) (M ˜ ) et x ˜ (F ), le terme H 0 (g˜ HG˜ à M ˜∈M xg −1 ) ne dépend ˜ M ˜

0 que de l’image w de g dans W M . Notons-le HM xw−1 ). D’autre part, le groupe ˜ (w˜ ˜

W M agit naturellement dans A M˜ . On pose X ˜ 0 HM˜ (˜ x) = |W M |−1 w−1 HM xw−1 ). ˜ (w˜ ˜ w∈W M

L’application HM˜ ainsi définie sur de la même façon sur M (F ). Elle ˜ ∈ L (M ˜ ), la restriction de H ˜ à L L

˜ (F ) est un prolongement de l’application notée M 0 ne dépend pas de l’application auxiliaire HM ˜ . Si ˜ M (F ) coïncide avec la composée de HM˜ et de la

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

10

J.-L. WALDSPURGER

projection orthogonale de A M˜ sur A L˜ . Pour g ∈ G(F ), la conjugaison par g définit un isomorphisme de A M˜ sur A gM˜ g−1 et on a l’égalité HgM˜ g−1 (g˜ xg −1 ) = gHM˜ (˜ x)g −1 ˜ pour tout x ˜ ∈ M (F ). 1.4. Mesures. — Soient G un groupe réductif connexe, Mmin un groupe de Lévi minimal de G et K un sous-groupe compact spécial de G(F ) en bonne position relativement à Mmin . Fixons une mesure de Haar sur G(F ) et munissons K de la mesure de masse totale 1 (remarquons que l’on ne suppose pas que cette mesure sur K soit égale à la restriction de la mesure sur G(F )). Alors, pour tout P = M U ∈ F (Mmin ), Arthur a défini une mesure de Haar sur les groupes M (F ) et U (F ), cf. [4] paragraphe 1. Soit T un tore. Si T est déployé, on munit T (F ) de la mesure telle que le plus grand sous-groupe compact de T (F ) soit de mesure 1. En général, on munit AT (F ) de cette mesure puis T (F ) de celle pour laquelle la mesure quotient sur T (F )/AT (F ) soit de masse totale 1. Fixons un caractère continu non trivial ψ de F . On munit F de la mesure autoduale pour ψ. Fixons une forme bilinéaire symétrique non dégénérée < ., . > sur g(F )×g(F ), invariante par l’action adjointe de G(F ). Pour toute sous-algèbre h de g telle que la restriction de < ., . > à h(F ) soit non dégénérée, on munit h(F ) de la mesure de Haar autoduale pour le bicaractère (X, Y ) 7→ ψ(< X, Y >). Soit H un sous-groupe de G, supposons que l’on a muni H(F ) d’une mesure de Haar dh et que la restriction de < ., . > soit non dégénérée. La mesure sur h(F ) se relève par l’exponentielle en une mesure de Haar d0 h sur H(F ) qui n’a aucune raison d’être celle que l’on a fixée. On note ν(H) la constante telle dh = ν(H)d0 h (en fait, nous n’utiliserons cette notation que dans le cas où H est un sous-tore de G). ˜ La meSupposons que G soit la première composante d’un groupe tordu (G, G). ˜ sure sur G(F ) en détermine une sur l’espace principal homogène G(F ). Considérons un sous-tore maximal tordu (T, T˜). Le groupe T (F ) agit par conjugaison sur T˜(F ). Notons T˜(F )/θ l’ensemble des orbites. Il est naturellement muni d’une structure de groupe de Lie sur F et d’une action de T (F ) par multiplication à gauche. Pour tout t˜ ∈ T˜(F )/θ , l’application Tθ (F ) → T˜(F )/θ t 7→ tt˜ est un isomorphisme local. Il existe une mesure sur T˜(F )/θ , invariante par l’action de T (F ) et indépendante du choix de t˜, telle que cette application conserve localement les mesures. On munit T˜(F )/θ de cette mesure. On pose W (G, T˜) = NormG(F ) (T˜)/T (F ). ˜ si A ˜ = A ˜ . Fixons un ensemble T (G), ˜ resp. On dit que T˜ est elliptique dans G T G ˜ T ell (G), de représentants des classes de conjugaison par G(F ) dans l’ensemble des ˜ On fixe des ensembles anasous-tores maximaux tordus, resp. et elliptiques, de G. logues pour tout Lévi tordu. La formule de Weyl prend l’une ou l’autre des formes

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

suivantes Z

f˜(˜ x)d˜ x=

˜ ) G(F

X

11

|W (G, T˜)|−1 [T (F )θ : Tθ (F )]−1

˜ T˜ ∈ T (G)

Z T˜ (F )/θ

=

X ˜∈L M

Z

˜ f˜(g −1 t˜g)dgDG (t˜)dt˜

Tθ (F )\G(F )

|W M ||W G |−1

X

|W (M, T˜)|−1 [T (F )θ : Tθ (F )]−1

˜) T˜ ∈ T ell (M

˜ G

Z T˜ (F )/θ

Z

˜ f˜(g −1 t˜g)dgDG (t˜)dt˜

Tθ (F )\G(F )

pour toute fonction f˜ ∈ On note A G,F ˜ , resp. A AG ˜ de G(F ), resp. AG ˜ (F ). ˜ ,F , l’image par l’application HG ∨ ∨ ∗ On note A G,F , le réseau dans A G˜ formé des λ tels que λ(ζ) ∈ 2πZ pour ˜ , resp. A AG ˜ ,F ∗ ∨ de la mesure de tout ζ ∈ A G,F ˜ , resp. ζ ∈ A AG ˜ /i A AG ˜ ,F . On munit le quotient i A G ˜ ,F ∗ ∨ Haar de masse totale 1. On pose i A ∗G,F = i A /i A et on le munit de la mesure telle ˜ ˜ ˜ G G,F ∗ ∗ ∨ que l’application naturelle i A G,F → i A G˜ /i A AG˜ ,F préserve localement les mesures. ˜ ˜ )). Cc∞ (G(F

1.5. Intégrales orbitales pondérées. — Dans la suite de cette section, on fixe ˜ On suppose fixés un Lévi minimal Mmin de G et un sousun groupe tordu (G, G). groupe compact spécial K de G(F ) en bonne position relativement à Mmin . Soit ˜ ∈ L G˜ . La théorie des (G, M )-familles se généralise au cas tordu en une théorie des M ˜ M ˜ )-familles. En particulier, soit g ∈ G(F ). De la famille de points (H ˜ (g)) ˜ (G, ˜) P P ∈ P (M −λ(HP˜ (g)) ˜ M ˜ )-famille (v ˜ (g)) ˜ pour se déduit une (G, : on pose v (g, λ) = e ˜ ˜ P P ∈ P (M ) P ˜ M ˜ )-famille se déduit un nombre v ˜ (g), cf. [2] p.37. Soient λ ∈ i A ∗M˜ . De cette (G, M ˜ )) et x ˜ (F ) ∩ G ˜ reg (F ). On définit l’intégrale orbitale pondérée f˜ ∈ Cc∞ (G(F ˜∈M Z ˜ JM˜ (˜ x, f˜) = DG (˜ x)1/2 f˜(g −1 x ˜g)vM˜ (g)dg. Gx ˜ (F )\G(F )

Ces intégrales vérifient les mêmes conditions de régularité et de croissance que dans le cas non tordu. ˜ ss (F ). On définit la notion de bon voisinage 1.6. Quasi-caractères. — Soit x ˜∈G ω ⊂ gx˜ (F ) : la définition est la même qu’en [12] 3.1, en ajoutant quelques ˜. On note Nil(gx˜ ) l’ensemble des orbites nilpotentes dans gx˜ (F ). Pour tout O ∈ Nil(gx˜ ), l’intégrale orbitale sur O a pour transformée de Fourier une distribution localement intégrable, que l’on note X 7→ ˆj( O, X). Evidemment, on doit définir correctement les mesures, on renvoie pour cela à [12] 1.2. ˜ ) et invariante par conjugaison Soit Θ une fonction définie presque partout sur G(F ˜ ss (F ), il existe un par G(F ). On dit que c’est un quasi-caractère si, pour tout x ˜∈G bon voisinage ω de 0 dans gx˜ (F ) et, pour tout O ∈ Nil(gx˜ ), il existe cΘ, O (˜ x) ∈ C de

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

12

J.-L. WALDSPURGER

sorte que l’on ait l’égalité Θ(˜ xexp(X)) =

X

cΘ, O (˜ x)ˆj( O, X)

O∈Nil(gx˜ )

pour presque tout X ∈ ω. Cette définition est la même qu’en [12] 4.1. Dans cette référence, on avait noté θ les quasi-caractères. Pour une raison évidente, on croit bon ici de modifier cette notation. ˜ )). On dit que f˜ est très 1.7. Fonctions très cuspidales. — Soit f˜ ∈ Cc∞ (G(F ˜U cuspidale si et seulement si, pour tout sous-groupe parabolique tordu propre P˜ = M ˜ ˜ de G et pour tout x ˜ ∈ M (F ), on a l’égalité Z f˜(˜ xu)du = 0. U (F )

Les intégrales orbitales pondérées des fonctions très cuspidales possèdent les mêmes propriétés que dans le cas non tordu. En particulier, soient f˜ une fonction très cuspi˜ reg (F ). Notons M ˜ (˜ ˜ au sens de 1.2. C’est dale et x ˜∈G x) le commutant de AGx˜ dans G, ˜ ˜ Quitte à conjuguer Mmin et K, on peut supposer M ˜ (˜ un Lévi tordu de G. x) ∈ L G . On pose ˜

ΘJf˜(˜ x) = (−1)aM˜ (˜x) −aG˜ DG (˜ x)−1/2 JM˜ (˜x) (˜ x, f˜). Cela ne dépend pas de la conjugaison effectuée. La fonction ΘJf˜ ainsi définie est invariante par conjugaison par G(F ). ˜ )) une fonction très cuspidale. Alors ΘJ est un Proposition 1.1. — Soit f˜ ∈ Cc∞ (G(F f˜ quasi-caractère. La preuve est exactement la même que dans le cas non tordu, cf. [12] corollaire 5.9. 1.8. Distributions locales associées à une fonction très cuspidale. — Soit ˜ ss (F ). Supposons que Gx˜ soit le produit de deux groupes réductifs connexes x ˜ ∈ G Gx˜ = G0 ×G00 , chacun conservé par ZG (˜ x)(F ). Tout élément X ∈ gx˜ (F ) se décompose en la somme d’un élément de g0 (F ) et d’un élément de g00 (F ). On note X = X 0 + X 00 cette décomposition. On note f 7→ f ] la transformation de Fourier partielle dans Cc∞ (gx˜ (F )) relative à la deuxième variable, c’est-à-dire Z f ] (X) = f (X 0 + Y 00 )ψ(< Y 00 , X 00 >)dY 00 . g00 (F )

Soit ω ⊂ gx˜ (F ) un bon voisinage de 0. On suppose que ω = ω 0 + ω 00 , avec ω 0 ⊂ g0 (F ) et ω 00 ⊂ g00 (F ). ˜ )) une fonction très cuspidale. On définit une fonction ΘJ Soit f ∈ Cc∞ (G(F sur f˜,˜ x,ω gx˜,reg (F ) par ( 0, si X 6∈ ω, J Θf˜,˜x,ω (X) = J Θf˜(˜ xexp(X)), si X ∈ ω.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

Pour g ∈ G(F ), on définit g f˜x˜,ω ∈ Cc∞ (gx˜ (F )) par ( 0, g ˜ fx˜,ω (X) = −1 ˜ f (g x ˜exp(X)g),

13

si X 6∈ ω, si X ∈ ω.

On pose g f˜x˜],ω = (g f˜x˜,ω )] . Cette fonction vérifie la propriété suivante : ˜ U un sous-groupe parabolique tordu tel que P˜ = ˜ et x ˜ (F ) ; (1) soit P˜ = M 6 G ˜∈M alors Z u ˜] f x˜,ω (X)du = 0 U (F )

pour tout X ∈ mx˜ (F ). La preuve est la même que celle de [12] lemme 5.5(i). ˜ un Lévi de G ˜ tel que x ˜ (F ). Quitte à conjuguer Mmin et K, on peut Soit M ˜∈M ˜ G ˜ ∈ L . On définit une fonction J ] supposer M (., f˜) sur mx˜ (F ) ∩ gx˜,reg (F ) par ˜ ,˜ M x,ω Z ] g ˜] JM (X, f˜) = DGx˜ (X)1/2 f x˜,ω (X)vM˜ (g)dg. ˜ ,˜ x,ω Gx ˜exp(X) (F )\G(F )

Cela ne dépend pas de la conjugaison effectuée. On a (2) Si A ˜ ( AG , on a J ] (X, f˜) = 0. M

x ˜exp(X)

˜ ,˜ M x,ω

La preuve est la même que celle de [12] lemme 5.5(ii). ˜ ˜ C’est un Soit X ∈ gx˜,reg (F ). Notons M(X) le commutant de AGx˜exp(X) dans G. ˜ Lévi tordu de G qui contient x ˜. On pose J,] −aG ˜ ˜ Θ (X) = (−1)aM(X) DGx˜ (X)−1/2 J ] (X, f˜). f˜,˜ x,ω

˜ M(X),˜ x,ω

ΘJ,] f˜,˜ x,ω

La fonction ainsi définie est invariante par conjugaison par Gx˜ (F ). On définit la notion de quasi-caractère sur une algèbre de Lie de même que l’on a défini cette notion sur un groupe ou un groupe tordu. Proposition 1.2. — Les fonctions ΘJf˜,˜x,ω et ΘJ,] sont des quasi-caractères sur gx˜ (F ). f˜,˜ x,ω La seconde est la transformée de Fourier partielle de la première, c’est-à-dire que, pour toute ϕ ∈ Cc∞ (gx˜ (F )),on a l’égalité Z Z ΘJf˜,˜x,ω (X)ϕ] (X)dX. ΘJ,] (X)ϕ(X)dX = f˜,˜ x,ω gx ˜ (F )

gx ˜ (F )

La première assertion concernant la fonction ΘJf˜,˜x,ω résulte de la proposition du paragraphe précédent. La deuxième assertion se démontre comme dans le cas non tordu, cf. [12] proposition 5.8. Puisque ΘJf˜,˜x,ω est un quasi-caractère à support compact modulo conjugaison, il existe une fonction ϕ ∈ Cc∞ (gx˜ (F )), très cuspidale, telle que ΘJf˜,˜x,ω soit égal au quasi-caractère ΘJϕ associé à ϕ, cf. [12] proposition 6.4. Le lemme 6.1 de [12] se généralise immédiatement aux transformées de Fourier partielles : la transformée de Fourier partielle de ΘJϕ est ΘJϕ] , et c’est un quasi-caractère. Puisque

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

14

J.-L. WALDSPURGER

cette transformée de Fourier est ΘJ,] , cela entraîne la première assertion concernant f˜,˜ x,ω cette fonction. ˜ ) 1.9. Représentations de groupes tordus. — On appelle représentation de G(F un triplet (π, π ˜ , E), où E est un espace vectoriel complexe, π une représentation de ˜ ) dans le groupe Aut(E) des automorG(F ) dans E et π ˜ une application de G(F phismes C-linéaires de E telle que π(g)˜ π (˜ x)π(g 0 ) = π ˜ (gxg 0 ) pour tous g, g 0 ∈ G(F ) et ˜ x ˜ ∈ G(F ). Deux représentations (π1 , π ˜1 , E1 ) et (π2 , π ˜2 , E2 ) sont dites équivalentes s’il existe un isomorphisme C-linéaire A : E1 → E2 et un élément B ∈ Aut(E1 ), commutant à la représentation π1 , de sorte que π1 (g) = A−1 π2 (g)A pour tout g ∈ G(F ) et ˜ ). π ˜1 (˜ x) = BA−1 π ˜2 (˜ x)A pour tout x ˜ ∈ G(F ˜ ). On dit qu’elle est lisse, ou admissible, si Soit (π, π ˜ , E) une représentation de G(F π l’est. On dit qu’elle est unitaire s’il existe un produit hermitien défini positif sur E tel que π ˜ prenne ses valeurs dans le groupe unitaire pour ce produit. Nous dirons qu’elle est tempérée si elle est unitaire, si π est de longueur finie et si toutes les composantes irréductibles de π sont tempérées. On définit la contragrédiente (π ∨ , π ˜ ∨ , E ∨ ) : (π ∨ , E ∨ ) ∨ ∨ est la contragrédiente de (π, E) et π ˜ est définie par < π ˜ (˜ x)ˇ e, e >=< eˇ, π ˜ (˜ x)−1 e >. ∗ λ(HG x)) ˜ (˜ Pour λ ∈ A G˜ ⊗R C, on définit (πλ , π ˜λ , E) par π ˜λ (˜ x) = e π ˜ (˜ x). On dit que la représentation est G(F )-irréductible si π est irréductible. Fixons un point quel˜ ). La donnée d’une représentation G(F )-irréductible est simplement conque x ˜ ∈ G(F la donnée de deux objets – une représentation irréductible (π, E) de G(F ) telle que la représentation g 7→ π(θx˜ (g)) soit équivalente à π ; – un opérateur π ˜ (˜ x) de E tel que π(θx˜ (g)) = π ˜ (˜ x)π(g)˜ π (˜ x)−1 pour tout g ∈ G(F ). En pratique, nous noterons simplement π ˜ la représentation (π, π ˜ , E). Nous noterons sans plus de commentaire π la représentation de G(F ) associée et Eπ˜ l’espace E. On ˜ l’ensemble des classes d’isomorphie de représentations admissibles irrénote Temp(G) ˜ ), que nous identifions à un ensemble de représentants ductibles et tempérées de G(F de ces classes. ˜ U un sous-groupe parabolique tordu de G ˜ et τ˜ une représentation Soient P˜ = M ˜ ˜ ). Elle se τ ) de G(F admissible de M (F ). On définit la représentation induite IndG P (˜ G G . Soient réalise dans l’espace habituel de la représentation IndP (τ ), que l’on note EP,τ G ˜ ). Fixons y˜ ∈ M ˜ (F ), soit γ l’élément de G(F ) tel que x e ∈ EP,τ et x ˜ ∈ G(F ˜ = γ y˜. Alors on a l’égalité (IndG τ, x ˜)e)(g) = δP (˜ y )1/2 τ˜(˜ y )e(θy−1 P (˜ ˜ (gγ)) ˜ (F ). Supposons que M pour tout g ∈ G(F ), où δP est étendu de façon naturelle à M contienne Mmin . On peut aussi réaliser la représentation induite dans l’espace K G P,τ G des restrictions à K des éléments de EP,τ . Supposons τ˜ tempérée. On définit une ˜ M ˜ )-famille ( R ˜ 0 (τ )) ˜ 0 (G, ˜ ) , qui prend ses valeurs dans l’espace des opérateurs P P ∈ P (M de K G P,τ , par

RP˜ 0 (τ, λ) = RP 0 |P (τ )−1 RP 0 |P (τλ )

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

15

pour λ ∈ i A ∗M˜ , où RP 0 |P (τ ) est l’opérateur d’entrelacement normalisé, cf. [3] théorème ˜ M ˜ )-famille un opérateur R ˜ (˜ 2.1. On associe à cette (G, M τ ). On définit le caractère pondéré de τ˜ : c’est la distribution ˜ G ˜ f˜ 7→ JM τ , f˜) = trace( R M˜ (τ )IndG ˜ (˜ P (f ))

˜ )). Dans le cas où M ˜ = G, ˜ c’est le caractère habituel de τ˜ et on le note sur Cc∞ (G(F ˜ ˜ plutôt f 7→ Θτ˜ (f ). D’après [6] theorem 2, ce caractère est une distribution localement intégrable. 1.10. Intégrales orbitales pondérées invariantes. — En utilisant les caractères pondérés de la section précédente, le procédé habituel d’Arthur permet de construire x, f˜). des intégrales orbitales pondérées invariantes à l’aide des intégrales f˜ 7→ JM˜ (˜ Rappelons la construction. Pour ζ ∈ A G˜ , notons 1HG˜ =ζ la fonction caractéristique ˜ ) tels que H ˜ (˜ ˜ de l’ensemble des x ˜ ∈ G(F G x) = ζ. Notons H ac (G(F )) l’espace des ˜ ˜ fonctions f : G(F ) → C telles que (1) f˜ est biinvariante par un sous-groupe ouvert compact de G(F ) ; ˜ ). (2) pour tout tout ζ ∈ A G˜ , la fonction 1HG˜ =ζ f˜ est à support compact sur G(F ˜ )) et M ˜ ∈ L G˜ , Arthur montre qu’il existe une fonction Pour f˜ ∈ Cc∞ (G(F ˜ (F )) telle que, pour toute représentation π ˜ ) et tout φM˜ (f˜) ∈ H ac (M ˜ ∈ Temp(M ˜ (F )) ⊂ A ˜ , on ait l’égalité ζ ∈ HM˜ (M M Z Z JL˜ (˜ πλ , f˜)exp(−λ(ζ))dλ = Θπ˜λ (φM˜ (f˜)1HM˜ =ζ )exp(−λ(ζ))dλ i AM ˜ ,F

i AM ˜ ,F

= mes(i A M˜ ,F )Θπ˜ (φM˜ (f˜)1HM˜ =ζ ). ˜ (F ) ∩ G ˜ reg (F ), on définit l’intégrale On fixe de telles fonctions φM˜ (f˜). Pour x ˜∈M ˜ orbitale invariante IM˜ (˜ x, f ) par récurrence sur aM˜ − aG˜ par la formule X ˜ L x, φL˜ (f˜)1HL˜ =HL˜ (˜x) ). IM˜ (˜ x, f˜) = JM˜ (˜ x, f˜) − IM ˜ (˜ ˜ L (M ˜ ),L6 ˜ =G ˜ L∈

˜ )). On lui associe une fonction Θ ˜ sur G ˜ reg (F ) de la façon Soit f˜ ∈ Cc∞ (G(F f ˜ reg (F ). Notons M ˜ (˜ ˜ Choisissons suivante. Soit x ˜∈G x) le commutant de AGx˜ dans G. ˜ G −1 ˜ (˜ g ∈ G(F ) tel que g M x)g ∈ L . On pose ˜ Θf˜(˜ x) = (−1)aM˜ (˜x) −aG˜ DG (˜ x)−1/2 IgM˜ (˜x)g−1 (g˜ xg −1 , f˜).

Cela ne dépend pas du choix de g. ˜ )), on dit que f˜ est cuspidale si et seulement si, pour tout groupe Pour f˜ ∈ Cc∞ (G(F ˜ ˜ ˜ et pour tout x ˜ reg (F ) ∩ M ˜ (F ), on a J ˜ (˜ de Lévi tordu M ( G ˜∈G G x, f ) = 0. On a la propriété suivante, que nous énonçons avant de l’expliquer :

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

16

J.-L. WALDSPURGER

˜ )), pour tout M ˜ ∈ L G˜ et pour tout (3) pour toute fonction cuspidale f˜ ∈ Cc∞ (G(F ˜ (F ) ∩ G ˜ reg (F ) qui est elliptique dans M ˜ (F ), on a l’égalité élément x ˜∈M Z X ˜ G −1/2 aM ˜ −aG ˜ ˜ D (˜ x) (−1) IM˜ (˜ x, f ) = c( O) Θπ˜λ (˜ x)Θ(˜πλ )∨ (f˜)dλ. ˜ O∈{Πell (G)}

i A ∗˜

G,F

˜ (F ) signifie que AG = A ˜ . L’ensemble Πell (G) ˜ est Que x ˜ soit elliptique dans M x ˜ M ˜ ). un certain sous-ensemble de celui des représentations tempérées virtuelles de G(F ˜ est l’ensemble des Il est stable par l’action π ˜ 7→ π ˜λ de i A ∗G˜ . L’ensemble {Πell (G)} orbites de cette action. Pour chaque orbite O, on choisit un point base π ˜ ∈ O. Enfin, c( O) est un certain coefficient. La somme est en fait finie car, pour tout sous-groupe ouvert compact K 0 de G(F ), il n’y a qu’un nombre fini d’orbites pour lesquelles une représentation de l’orbite admet des invariants non nuls par K 0 . Cf. [13] théorème 7.1 et, dans le cas non tordu, [5] théorème 5.1. ˜ )) une fonction cuspidale. Alors Θ ˜ est un quasiLemme 1.3. — Soit f˜ ∈ Cc∞ (G(F f ˜ ). caractère de G(F La preuve est la même qu’en [14] 2.5, en utilisant [6] theorem 3. 1.11. Un lemme d’annulation. — Soient π une représentation admissible de G(F ) et B une forme bilinéaire sur Eπ∨ × Eπ . Soit A ∈ EndC (Eπ ) un opérateur lisse, c’est-à-dire qu’il existe un sous-groupe ouvert compact K 0 de G(F ) tel que π(k)Aπ(k 0 ) = A pour tous k, k 0 ∈ K 0 . Pour un tel sous-groupe K 0 , fixons une base 0 0 0 0 BK du sous-espace EπK et introduisons la base duale {ˇe; e ∈ BK } de EπK∨ (pour l’accouplement usuel, noté < ., . >, entre ces deux espaces). Posons X B(ˇ e, A(e)). traceB (A) = e∈ BK

0

Ce terme ne dépend ni du choix de K 0 , ni de celui de la base. ˜ U un sous-groupe parabolique tordu et τ une représentation admisSoient P˜ = M sible de M (F ). On suppose ˜ (1) P˜ = 6 G. G G ˜ (F ), ˜∈M Supposons π = IndG P (τ ), Eπ = EP,τ et Eπ ∨ = EP,τ ∨ . Pour un élément y considérons la condition suivante : G G 0 (H)y˜ soient e ∈ EP,τ et e0 ∈ EP,τ ∨ tels que e (θy ˜ (g))⊗e(g) = 0 pour tout g ∈ G(F ) ; 0 alors B(e , e) = 0. Considérons aussi la condition : ˜ (F ) ; soient e ∈ (H) la représentation τ se prolonge en une représentation τ˜ de M G 0 G 0 EP,τ et e ∈ EP,τ ∨ tels que e (g) ⊗ e(g) = 0 pour tous g ∈ G(F ) ; alors B(e0 , e) = 0. ˜ )). Supposons Soit f˜ ∈ Cc∞ (G(F

(2) f˜ est très cuspidale.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

17

˜ ), on note f˜x˜ la fonction sur G(F ) définie par f˜x˜ (g) = Pour un élément x ˜ ∈ G(F f˜(g˜ x). Lemme 1.4. — On suppose vérifiées les conditions (1) et (2). ˜ (F ), supposons vérifiée la condition (H)y˜. (i) Soit y˜ ∈ M G ˜ traceB (IndP (τ, fy˜)) = 0. (ii) Supposons vérifiée la condition (H). Alors traceB (IndG τ , f˜)) = 0. P (˜

Alors

Démonstration. — On ne perd rien à supposer que K est en bonne position relativement à M . Considérons la situation de (i). Fixons un sous-groupe ouvert compact K 0 de K tel que f˜ soit biinvariante par K 0 et par K 00 = θy˜(K 0 ). On fixe un ensemble de représentants Γ0 de l’ensemble des doubles classes P (F )\G(F )/K 0 . L’ensemble Γ00 = θy˜(Γ0 ) est un ensemble de représentants de l’ensemble des doubles classes K0

0

K0

G K P (F )\G(F )/K 00 . Choisissons une base B de (EP,τ ) telle que, pour tout e0 ∈ B , 0 0 il existe γ ∈ Γ de sorte que le support de e soit inclus dans P (F )γ 0 K 0 . L’élément correspondant eˇ0 de la base duale vérifie la même propriété, avec le même γ 0 . Choisissons K 00 K 00 G K 00 de même une base B ) . Pour tout e0 ∈ B , on a l’égalité de (EP,τ X 0 ˜ 00 ˜ 00 < eˇ0 , IndG IndG P (τ, fy˜ )e > e , P (τ, fy˜ )e = e0 ∈ B K

0

d’où X

˜ traceB (IndG P (τ, fy˜ )) =

(3)

0

e0 ∈ BK ,e00 ∈ BK K

0

K

˜ 00 B(ˇ e00 , e0 ) < eˇ0 , IndG P (τ, fy˜ )e > . 00

00

Fixons e0 ∈ B et e00 ∈ B . Soient γ 0 ∈ Γ0 et γ 00 ∈ Γ00 tels que le support de e0 soit contenu dans P (F )γ 0 K 0 et celui de e00 soit contenu dans P (F )γ 00 K 00 . Si γ 00 6= θy˜(γ 0 ), on a eˇ00 (θy˜(g)) ⊗ e0 (g) = 0 pour tout g ∈ G(F ). Donc B(ˇ e00 , e0 ) = 0 d’après (H)y˜. 00 0 Supposons γ = θy˜(γ ). On calcule Z Z ˜y˜)e00 >= < eˇ0 , IndG (τ, f f˜y˜(g) < eˇ0 (h), e00 (hg) > dg dh P K

Z Z = K

Z Z Z

Z

= K

K

M (F )

G(F )

f˜y˜(h−1 g) < eˇ0 (h), e00 (g) > dg dh

G(F )

f˜(h−1 muk y˜) < eˇ0 (h), τ (m)e00 (k) > δP (m)1/2 du dm dk dh.

U (F )

Par les changements de variables k 7→ θy˜(k), u 7→ θy˜(u), on obtient Z Z Z Z ˜y˜)e00 >= < eˇ0 , IndG f˜(h−1 m˜ y uk) (τ, f P K

θy−1 (K) ˜

M (F )

U (F )

< eˇ0 (h), τ (m)e00 (θy˜(k)) > δP (m˜ y )1/2 du dm dk dh. Fixons h, k, m et supposons < eˇ0 (h), τ (m)e00 (θy˜(k)) >6= 0. Alors h ∈ P (F )γ 0 K 0 et θy˜(k) ∈ P (F )γ 00 K 00 . Cette dernière condition entraîne k ∈ P (F )γ 0 K 0 . Mais alors k ∈ P (F )hK 0 . Ecrivons k = m0 u0 hk 0 , avec m0 ∈ M (F ), u0 ∈ U (F ), k 0 ∈ K 0 . Considérons

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

18

J.-L. WALDSPURGER

l’intégrale intérieure de la formule ci-dessus. Puisque f˜ est invariante à droite par K 0 , le k 0 disparaît. Par le changement de variables u 7→ m0 uu0 −1 m0 −1 , cette intégrale devient Z f˜(h−1 m˜ y m0 uh)du.

δP 0 (m0 )1/2

U (F )

˜ 00 Elle est nulle puisque f˜ est très cuspidale. Donc < eˇ0 , IndG P (τ, fy˜ )e >= 0. Tous les termes de (3) sont donc nuls, ce qui prouve l’assertion (i) de l’énoncé. ˜ (F ). On a l’égalité IndG Considérons la situation de (ii). Fixons y˜ ∈ M τ , f˜) = P (˜ G G 0 G G ˜ IndP (τ, fy˜)IndP (˜ τ , y˜). Définissons une forme bilinéaire B sur EP,τ ∨ × EP,τ par B 0 (e0 , e) = B(IndG τ , y˜)−1 e0 , e). P (˜ ˜ On vérifie formellement que traceB (IndG τ , f˜)) = traceB 0 (IndG P (˜ P (τ, fy˜ )) et que la condi0 tion (H) pour B entraîne la condition (H)y˜ pour B . Il ne reste plus qu’à appliquer le (i) à la forme B 0 pour conclure. Remarque. — Quand π est unitaire, on peut considérer des formes sesquilinéaires sur Eπ × Eπ plutôt que des formes bilinéaires sur Eπ∨ × Eπ . ˜ un Lévi tordu de G. ˜ Soit ∆M˜ 1.12. Induction de quasi-caractères. — Soit M ˜ (F ) invariante par conjugaison par M (F ). On peut définir une une distribution sur M ˜ M ˜ distribution induite ∆ = IndG M (∆ ) sur G(F ), qui est invariante par conjugaison. La ˜ , on suppose M ˜ ∈ définition est similaire à celle du cas non tordu. Quitte à conjuguer M ˜ G ˜ (F )) par ˜ )), on définit f˜P ∈ Cc∞ (M L . On fixe P˜ = M˜ U ∈ P (M˜ ). Pour f˜ ∈ Cc∞ (G(F Z Z f˜P (m) ˜ = δP (m) ˜ 1/2 f˜(k −1 muk)du ˜ dk. K

U (F )

˜ ˜ On pose ∆(f˜) = ∆M (f˜P ). Cela ne dépend pas des choix effectués. Dans le cas où ∆M ˜ (F ), ∆ est aussi un quasi-caractère sur G(F ˜ ). Le déveest un quasi-caractère sur M ˜ ) se calcule en fonction loppement de ∆ au voisinage d’un point semi-simple de G(F ˜ des développements de ∆M . Enonçons le résultat qui nous intéresse, qui est le même que dans le cas non tordu ([14] lemme 2.3). ˜ ˜ (F ) et Θ = IndG (ΘM˜ ). Alors Lemme 1.5. — Soient ΘM un quasi-caractère de M M ˜ (i) Θ est un quasi-caractère sur G(F ) ; ˜ ) et O ∈ Nil(gx˜ ) une orbite régulière ; (ii) soient x ˜ un élément semi-simple de G(F on a l’égalité X X X ˜ ˜ DG (˜ x)−1/2 DM (˜ x0 )1/2 cΘ, O (˜ x) = ˜

˜ (F ) ˜0 /Gx x ˜0 ∈ X M (˜ x) g∈Γx

O0 ∈Nil(mx˜0 ) 0

[ZM (˜ x0 )(F ) : Mx˜0 (F )]−1 [g O : O ]cΘM˜ , O0 (˜ x0 ).

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

19

˜

Expliquons les notations. On a fixé un ensemble X M (˜ x) de représentants des classes ˜ (F ) avec la classe de conjugaison de de conjugaison par M (F ) dans l’intersection de M ˜ x ˜ par G(F ). Pour x ˜0 ∈ X M (˜ x), Γx˜0 est l’ensemble des g ∈ G(F ) tels que g˜ xg −1 = x ˜0 . Pour un tel g, la conjugaison par g transporte O en une orbite g O dans gx˜0 (F ). Pour 0 0 une orbite nilpotente O de mx˜0 (F ), on pose [g O : O ] = 1 si g O est incluse dans 0 0 l’orbite induite de O , [g O : O ] = 0 sinon. 1.13. Propriétés des fonctions très cuspidales. — En utilisant le lemme du paragraphe 1.11, on peut adapter les preuves des lemmes 2.2, 2.6 et 2.7 de [14]. On obtient les résultats suivants. ˜ )) une fonction très cuspidale, soient M ˜ ∈ L G˜ , Lemme 1.6. — (i) Soit f˜ ∈ Cc∞ (G(F ˜ (F ), L ˜ ∈ L (M ˜ ) et Q ˜ ∈ F (L). ˜ Supposons L ˜ 6= M ˜ τ˜ une représentation tempérée de M ˜ Q ˜ ˜ ˜ ou Q 6= G. Alors JL˜ (˜ τ , f ) = 0. ∞ ˜ )) une fonction très cuspidale. Alors, pour tout L ˜ ∈ L G˜ , la (ii) Soit f˜ ∈ Cc (G(F fonction φL˜ (f˜) est cuspidale. Admettons l’hypothèse de 1.10. Alors on a l’égalité X ΘJf˜ = |W L ||W G |−1 (−1)aL˜ −aG˜ IndG L (Θφ ˜ (f˜) ). L

˜ ˜ LG L∈

˜ )) une fonction cuspidale. Alors il existe une fonction très (iii) Soit f˜ ∈ Cc∞ (G(F 0 ∞ ˜ ˜ ˜ reg (F ). x, f˜0 ) = JG˜ (˜ x, f˜) pour tout x ˜∈G cuspidale f ∈ Cc (G(F )) telle que JG˜ (˜ 2. Le groupe GLd tordu 2.1. Description du groupe tordu. — Soient d ≥ 1 un entier et V un espace vectoriel sur F de dimension d. Notons V ∗ le dual de V , G = GL(V ) le groupe des ˜ = Isom(V, V ∗ ) l’ensemble des isomorphismes automorphismes F -linéaires de V et G ∗ ˜ par F -linéaires de V sur V . Le groupe G agit à droite et à gauche sur G (g, x ˜, g 0 ) 7→ t g

−1

◦x ˜ ◦ g0 ,

˜ est un groupe tordu. Remarquons que où t g est le transposé de g. Le couple (G, G) ˜ ˜ ), G(F ) s’identifie à l’ensemble des formes bilinéaires non dégénérées sur V : à x ˜ ∈ G(F 0 0 on associe la forme (v , v) 7→< v , x ˜v >. ˜ ) un élément semi-simple. Son commutant dans G est produit d’un Soit x ˜ ∈ G(F groupe symplectique, d’un groupe orthogonal et de groupes qui sont des restrictions à la Weil de groupes linéaires ou unitaires. La composante orthogonale se construit −1 de la façon suivante. Considérons l’élément x = t x ˜ x ˜ de G(F ). Il est semi-simple. 00 Notons Vx˜ le sous-espace de V propre pour l’action de x, associé à la valeur propre 1. Notons Vx˜0 l’unique suppléméntaire de Vx˜00 qui soit invariant par x. Alors V = Vx˜0 ⊕ Vx˜00 ∗ ∗ ∗ ∗ et V ∗ = Vx˜0 ⊕ Vx˜00 . L’élément x ˜ envoie Vx˜0 dans Vx˜0 et Vx˜00 dans Vx˜00 . Sa restriction 00 à Vx˜ est une forme quadratique. La composante orthogonale de ZG (˜ x) est le groupe orthogonal de cette restriction.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

20

J.-L. WALDSPURGER

Fixons une base (vi )i=1,...,d de V . On peut alors identifier G au groupe GLd des matrices d × d inversibles. Pour g ∈ GLd , on note ses coefficients gi,j , pour i, j = 1, . . . , d. On introduit les sous-groupes suivants : Bd le sous-groupe de Borel triangulaire supérieur, Ad le sous-tore diagonal, Ud le radical unipotent de Bd , Kd le sous-groupe compact spécial de GLd (F ) formé des matrices à coefficients entiers et de déterminant de valuation nulle. On note ξ le caractère du groupe Ud (F ) défini par X ξ(u) = ψ( ui,i+1 ). i=1,...,d−1

˜ ) défini par Introduisons la base duale (vi∗ )i=1,...,d de V ∗ . Notons θ d l’élément de G(F ∗ θ d (vi ) = (−1)i+[(d+1)/2] vd+1−i pour tout i. Notons simplement θd l’automorphisme −1 de G associé à θ d . On a θd (g) = Jd t g Jd−1 , où Jd est la matrice antidiagonale de i coefficients (Jd )i,d+1−i = (−1) . Cet automorphisme θd conserve les sous-groupes que l’on vient d’introduire. Il conserve aussi le caractère ξ. Le normalisateur de Bd dans ˜ est B ˜d = Bd θ d . Le normalisateur commun de Bd et Ad est A˜d = Ad θ d . G Pour g ∈ GLd (F ), on pose σ(g) = sup({1} ∪ {log(|gij |F ); i, j = 1, . . . , d} ∪ {log(|(g −1 )ij |F ); i, j = 1, . . . , d}). Pour g ∈ G(F ), on définit σ(g) en identifiant G à GLd par le choix d’une base. La fonction σ dépend évidemment du choix de la base, mais d’une façon inessentielle. Pour tout réel b, on note 1σ. On vérifie que ξ est invariant par θy˜ pour tout y˜ ∈ H(F

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

25

Fixons un oF -réseau R dans V qui est somme d’un oF -réseau de V0 et d’un oF -réseau de base sur oF formée de vecteurs proportionnels aux z±i pour i = 1, . . . , r. Notons K le stabilisateur de R dans G(F ) et R∨ le réseau dual de R dans V ∗ . On a l’égalité G(F ) = P (F )K. Pour un entier N ≥ 0, introduisons la fonction κN sur G(F ) définie de la façon suivante. Elle est invariante à gauche par U (F ) et à droite par K. Sur M (F ), c’est la fonction caractéristique de l’ensemble des m ∈ M (F ) qui s’écrivent m = ag0 , avec a ∈ A(F ), g0 ∈ G0 (F ), tels que : – pour tout i = ±1, . . . , ±r, |valF (ai )| ≤ N ; −N ∨ t ∗ – g0−1 z0 ∈ p−N F R et g0 z0 ∈ pF R . 3.2. Les ingrédients de la formule géométrique. — Considérons une décomposition W = W 0 ⊕ W 00 telle que la dimension de W 0 soit paire. Posons H 0 = GL(W 0 ) ˜ 0 = Isom(W 0 , W 0 ∗ ). Soit T˜0 un sous-tore maximal de H ˜ 0 qui est anisotrope, c’estet H à-dire que AT˜0 = {1}. Soit ζ˜H,T ∈ Isom(W 00 , W 00 ∗ ) une forme bilinéaire symétrique. ˜ On Notons V 00 = W 00 ⊕ Z et ζ˜G,T ∈ Isom(V 00 , V 00 ∗ ) la somme directe de ζ˜H,T et ζ. ˜ suppose que les groupes spéciaux orthogonaux des formes quadratiques ζH,T et ζ˜G,T ˜ tels que x sont quasi-déployés. Notons T˜ l’ensemble des éléments x ˜∈H ˜(W 0 ) = W 0 ∗ et x ˜(W 00 ) = W 00 ∗ , que la restriction de x ˜ à W 0 appartienne à T˜0 et que la restriction 00 ˜ ˜ obtenus de x ˜ à W soit égale à ζH,T . On note T l’ensemble des sous-ensembles T˜ de H de cette façon. ˜ en Pour un tel objet T˜, que l’on peut considérer comme un sous-tore tordu de H, 0 général non maximal, on note T le tore noté ci-dessus T , que l’on peut considérer comme un sous-groupe de H (un élément de T fixe tout point de W 00 ). On définit comme dans le cas d’un sous-tore tordu maximal les ensembles Tθ et T˜(F )/θ . Il est utile de remarquer que, parce que dim(W 0 ) est paire, on a l’égalité T (F )θ = Tθ (F ). On munit Tθ (F ) de la mesure de Haar de masse totale 1. Comme en 1.4, on en déduit une mesure sur T˜(F )/θ . Le normalisateur NormH (T˜) de T˜ dans H contient T × SO(ζ˜H,T ), ce dernier groupe étant le groupe spécial orthogonal de la forme quadratique ζ˜H,T sur W 00 . On pose W (H, T˜) = NormH (T˜)(F )/(T (F ) × SO(ζ˜H,T )(F )). −1 Soit t˜ ∈ T˜(F ). L’élément t = t t˜ t˜ appartient à GL(W 0 ). On pose r 2 +r+rdim(W 00 )

∆r (t˜) = |2|F

|det((1 − t)|W 0 |rF .

˜ ). On en déduit comme en [12] 7.3 une fonction cΓ Soit Γ un quasi-caractère de G(F définie presque partout sur T˜(F ). Rappelons la définition. Soit t˜ ∈ T˜(F ) en position générale. Son commutant connexe Gt˜ dans G est Tθ × SO(ζ˜G,T ). Si d est impair, la dimension de V 00 est elle-aussi impaire et l’algèbre de Lie gt˜(F ) possède une unique orbite nilpotente régulière que l’on note Oreg . On pose cΓ (t˜) = cΓ, Oreg (t˜), cf. 1.6. Si d est pair et si la dimension de V 00 est ≤ 2, la même construction s’applique. Si d est pair et si la dimension de V 00 est ≥ 4, il y a plusieurs orbites nilpotentes régulières dans gt˜(F ). Mais on sait les paramétrer, cf. [12] 7.1. En particulier, on peut associer à ν une

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

26

J.-L. WALDSPURGER

˜ ). orbite Oν . On pose cΓ (t˜) = cΓ, Oν (t˜). Soit maintenant Θ un quasi-caractère de H(F ˜ On lui associe une fonction cΘ définie presque partout sur T (F ). La construction est la même que ci-dessus, à ceci près que l’on remplace V 00 par W 00 et, dans la dernière éventualité ci-dessus, le paramètre ν par −ν. Les fonctions cΓ et cΘ sont invariantes par conjugaison par T (F ). On a Lemme 3.1. — Les fonctions cΓ et cΘ sont localement constantes sur un ouvert de Zariski non vide de T˜(F ). La fonction ˜ t˜ 7→ cΘ (t˜)cΓ (t˜)DH (t˜)∆r (t˜) est localement intégrable sur T˜(F )/θ .

La preuve est la même que celle de la proposition 7.3 de [12]. Le groupe H(F ) agit par conjugaison sur T . On fixe un ensemble T de représentants des orbites. ˜ ) et f˜ ∈ 3.3. La formule géométrique. — Soient Θ un quasi-caractère sur H(F ∞ ˜ Cc (G(F )) une fonction très cuspidale. Pour g ∈ G(F ), posons Z Z Θ(˜ y )f˜(g −1 y˜ug)ξ(u) du d˜ y. J(Θ, f˜, g) = ˜ ) H(F

U (F )

Pour tout entier N ≥ 1, posons Z JN (Θ, f˜) =

J(Θ, f˜, g)κN (g)dg.

H(F )U (F )\G(F )

Pour T˜ ∈ T , on définit la fonction cΘ sur T˜(F ). A f˜, on associe le quasi-caractère ˜ ), cf. 1.7, puis une fonction cΘJ sur T˜(F ). On note simplement c ˜ cette ΘJf˜ sur G(F f ˜ f

fonction. Posons Jg´eom (Θ, f˜) =

X

|W (H, T˜)|−1

Z T˜ (F )/θ

T˜ ∈ T

˜ cΘ (t˜)cf˜(t˜)DH (t˜)∆r (t˜)dt˜.

Théorème 3.2. — On a l’égalité lim JN (Θ, f˜) = Jg´eom (Θ, f˜).

N →∞

La démonstration occupe la fin de la section. Remarquons que l’égalité du théorème ne dépend pas des mesures choisies, à l’exception de celles sur les tores compacts que l’on a supposées de masse totale 1 (la mesure sur G(F ) intervient directement dans le membre de gauche, mais aussi dans la définition du quasi-caractère ΘJf˜ associé à f˜). Il est plus commode dans cette section de normaliser les mesures de la façon suivante : – on munit g(F ) de la forme bilinéaire (X, X 0 ) 7→ 21 trace(XX 0 ) et tout sous-espace non dégénéré de la mesure autoduale ; – on munit arbitrairement d’une mesure de Haar tout autre sous-espace de g(F ) (par exemple le radical nilpotent d’un sous-groupe parabolique) ; – on relève ces mesures aux groupes via l’exponentielle.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

27

Dans le cas d’un tore compact, la mesure de masse totale 1 n’est plus dt, mais ν(T )dt. 3.4. Localisation. — Par partition de l’unité, on peut localiser le problème de la ˜ ss (F ) et un bon voisinage ω de 0 dans gx˜ (F ), façon suivante. On fixe un point x ˜∈G aussi petit que l’on veut. On note Ω = (˜ xexp(ω))G = {g −1 x ˜exp(X)g; g ∈ G(F ), X ∈ ω}. On suppose le support de f˜ inclus dans Ω. ˜ ). Supposons d’abord que la classe de conjugaison de x ˜ par G(F ) ne coupe pas H(F J ˜ ˜ Alors, pour tout T ∈ T , le quasi-caractère Θf˜ est nul au voisinage de T (F ), donc la fonction cf˜ est nulle. Donc Jg´eom (Θ, f˜) = 0. Pour démontrer l’égalité du théorème, il suffit de prouver que J(Θ, f˜, g) = 0 pour tout g ∈ G(F ). Il suffit de prouver que ˜ )U (F ) ne coupe pas Ω. Puisque la partie semi-simple d’un élément de H(F ˜ )U (F ) H(F ˜ est conjuguée à un élément de H(F ) et que Ω est stable par l’opération consistant à prendre les parties semi-simples, il suffit de prouver qu’aucun élément semi-simple de ˜ ). On se rappelle qu’en 2.1, on a associé à x Ω n’est conjugué à un élément de H(F ˜ une forme quadratique sur le sous-espace propre Vx˜00 de V associé à la valeur propre 1 de t x ˜−1 x ˜. Notons (Vx˜00 , x ˜) l’espace quadratique formé de ce sous-espace propre et de la forme quadratique définie par la restriction de x ˜. Dire que la classe de conjugaison ˜ ) revient à dire qu’aucun sous-espace de (V 00 , x de x ˜ par G(F ) ne coupe pas H(F x ˜ ˜) ˜ Soit X ∈ ω un élément semi-simple, n’est isomorphe à l’espace quadratique (Z, ζ). posons x ˜0 = x ˜exp(X). Si ω est assez petit, Vx˜000 est le noyau de X dans Vx˜00 et la forme quadratique x ˜0 sur ce noyau est la restriction de x ˜. Donc (Vx˜000 , x ˜0 ) ne contient aucun ˜ sous-espace isomorphe à (Z, ζ). Un tel élément ne peut pas être conjugué à un élément ˜ ). Cela démontre l’assertion. de H(F ˜ ). On ne perd On suppose désormais que la classe de conjugaison de x ˜ coupe H(F ˜ ). On note W 00 , resp. V 00 , le sous-espace rien à supposer plus simplement x ˜ ∈ H(F propre de W , resp. V , associé à la valeur propre 1 de x =t x ˜−1 x ˜. On munit ces espaces des formes quadratiques définies par x ˜. On a la décomposition orthogonale V 00 = W 00 ⊕ Z. On note O(V 00 ), SO(V 00 ) etc. les groupes orthogonaux et spéciaux orthogonaux de ces espaces. On note W 0 l’unique supplémentaire de W 00 dans W stable par x et H 0 = GL(W 0 ). On a les égalités Hx˜ = Hx˜0 SO(W 00 ), Hx˜ = Hx˜0 SO(V 00 ) (par abus de notations, on note Hx˜0 le commutant connexe dans H 0 de la restriction de x ˜ à W 0 ). On suppose ω = ω 0 × ω 00 , où ω 0 ⊂ h0x˜ (F ) et ω 00 ⊂ so(V 00 )(F ). On définit le quasi-caractère Θx˜,ω de hx˜ (F ) par ( Θ(˜ xexp(X)), si X ∈ ω, Θx˜,ω (X) = 0, sinon. Pour g ∈ G(F ), on définit une fonction g f˜x˜,ω ∈ Cc∞ (gx˜ (F )) comme en 1.8, puis une fonction g f˜x˜ξ,ω ∈ Cc∞ (hx˜ (F )) par Z g ˜ξ g ˜ fx˜,ω (X) = f x˜,ω (X + N )ξ(N )dN. ux ˜ (F )

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

28

J.-L. WALDSPURGER

On a noté ici ξ le caractère N 7→ ξ(exp(N )) de ux˜ (F ). Posons Z ξ ˜ Jx˜,ω (Θ, f , g) = Θx˜,ω (X) g f˜x˜,ω (X)dX, hx ˜ (F )

puis Z

Jx˜,ω,N (Θ, f˜) =

Jx˜,ω (Θ, f˜, g)κN (g)dg.

Ux ˜ (F )Hx ˜ (F )\G(F )

Notons T 0 l’ensemble des sous-tores maximaux de Hx˜0 qui sont anisotropes, c’està-dire ne contiennent pas de sous-tore déployé autre que {1}. Le couple d’espaces quadratiques (W 00 , V 00 ) vérifient les conditions de [12] 7.1. On définit un ensemble T 00 de sous-tores (en général non maximaux) de SO(W 00 ) comme en [12] 7.3. On vérifie que l’application T˜ 7→ Tθ est une bijection du sous-ensemble des éléments T˜ ∈ T qui contiennent x ˜ sur l’ensemble T 0 × T 00 . Pour T˜ dans l’ensemble de départ, les fonctions cΘ et cf˜ sont définies sur T˜(F ). On définit des fonctions cΘ,˜x,ω et cf˜,˜x,ω sur tθ (F ) : elles sont nulles hors de tθ (F ) ∩ ω ; pour X ∈ tθ (F ) ∩ ω, cΘ,˜x,ω (X) = cΘ (˜ xexp(X)), cf˜,˜x,ω (X) = cf˜(˜ xexp(X)). Fixons un ensemble de représentants T x˜ des classes de conjugaison par Hx˜ (F ) dans T 0 × T 00 . On définit une fonction ∆00 sur hx˜ (F ) par ∆00 (X) = |det(X|W 00 /W 00 (X) )|F , où W 00 (X) est le noyau de X agissant dans W 00 . Posons Z X |W (Hx˜ , I)|−1 ν(I) cΘ,˜x,ω (X)cf˜,˜x,ω (X)DHx˜ (X)∆00 (X)r dX. Jx˜,ω,g´eom (Θ, f˜) = i(F )

I∈ T x ˜

Posons enfin r 2 +r+rdim(W 00 )

C(˜ x) = |2|F

˜

[ZH (˜ x)(F ) : Hx˜ (F )]−1 DH (˜ x)|det((1 − x)|W 00 )|rF .

Lemme 3.3. — On a les égalités JN (Θ, f˜) = C(˜ x)Jx˜,ω,N (Θ, f˜), Jg´eom (Θ, f˜) = C(˜ x)Jx˜,ω,g´eom (Θ, f˜). Démonstration. — Soit g ∈ G(F ). En utilisant la formule de Weyl, on a X (1) J(Θ, f˜, g) = |W (H, T˜)|−1 [T (F )θ : Tθ (F )]−1 ˜ T˜ ∈ T (H)

Z

Z

T˜ (F )/θ

g ˜ξ

˜ f (h−1 t˜h)dhΘ(t˜)DH (t˜)dt˜,

Tθ (F )\H(F )

˜ ), on a posé où, pour y˜ ∈ H(F g ˜ξ

Z

f (˜ y) =

f˜(g −1 y˜ug)ξ(u)du.

U (F )

Pour tout sous-tore maximal I de Hx˜ , notons TI son commutant dans H et T˜I = ˜ Introduisons un ensemble T (Hx˜ ) de TI x ˜, qui est un sous-tore maximal tordu de H.

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

29

représentants des classes de conjugaison par Hx˜ (F ) dans l’ensemble des sous-tores ˜ notons maximaux de Hx˜ . Pour deux sous-tores maximaux tordus T˜ et T˜0 de H, W (T˜, T˜0 ) = {h ∈ H(F ); hT˜h−1 = T˜0 }/T (F ). Tout élément w ∈ W (T˜, T˜0 ) induit une bijection de T˜(F )/θ sur T˜0 (F )/θ . On va prouver les propriétés suivantes : ˜ et t˜ ∈ T˜(F )/θ , en position générale ; supposons (2) soient T˜ ∈ T (H) Z g ˜ξ −1 ˜ f (h th)dh 6= 0; Tθ (F )\H(F )

alors il existe I ∈ T (Hx˜ ) et w ∈ W (T˜I , T˜) tel que t˜ ∈ w(˜ xexp(i(F ) ∩ ω)); ˜ et, pour i = 1, 2, soit Ii ∈ T (Hx˜ ) et wi ∈ W (T˜I , T˜) ; alors les (3) soit T˜ ∈ T (H) i sous-ensembles w1 (˜ xexp(i1 (F ) ∩ ω)) et w2 (˜ xexp(i2 (F ) ∩ ω)) de T˜(F )/θ sont disjoints ou confondus ; ˜ I1 ∈ T (Hx˜ ) et w1 ∈ W (T˜I , T˜) ; alors le nombre de (4) soient T˜ ∈ T (H), 1 couples (I2 , w2 ) tels que I2 ∈ T (Hx˜ ), w2 ∈ W (T˜I2 , T˜) et w2 (˜ xexp(i2 (F ) ∩ ω)) = w1 (˜ xexp(i1 (F ) ∩ ω)) est égal à |W (Hx˜ , I1 )|[ZH (˜ x)(F ) : Hx˜ (F )][T (F )θ : Tθ (F )]−1 . Sous les hypothèses de (2), on voit comme au début du paragraphe que la classe de conjugaison par G(F ) de t˜ coupe l’ensemble x ˜exp(ω). Soient X ∈ ω et g ∈ G(F ) tels que g t˜g −1 = x ˜exp(X). L’élément g se restreint en une isométrie entre les espaces ˜ quadratiques (Vt˜00 , t˜) et (Vx˜00exp(X) , x ˜exp(X)). Le premier de ces espaces contient (Z, ζ) 00 00 ˜ tandis que le second est inclus dans (V , x ˜) = (V , x ˜), qui contient lui-aussi (Z, ζ). x ˜

D’après le théorème de Witt, on peut trouver un élément g 00 ∈ O(V 00 )(F ) tel que g 00 g conserve Z et y agisse par l’identité. Rappelons que O(V 00 ) ⊂ ZG (˜ x). Quitte à 00 00 00 −1 remplacer g par g g et X par g Xg , on se ramène au cas où g conserve Z et agit −1 par l’identité sur cet espace. Considérons l’égalité g t t˜ t˜g −1 = t (˜ xexp(X))−1 x ˜exp(X). Sur Z, le premier terme agit par l’identité. Le second agit par la restriction à Z de exp(2X). Cette restriction est donc l’identité, donc la restriction de X à Z est nulle. Un élément de gx˜ dont la restriction à Z est nulle appartient à hx˜ . Donc X ∈ hx˜ (F ). L’élément g étant une isométrie de (Vt˜00 , t˜) sur (Vx˜00exp(X) , x ˜exp(X)) et conservant Z, il 00 00 00 envoie l’orthogonal Wt˜ de Z dans Vt˜ sur l’orthogonal Wx˜exp(X) de Z dans Vx˜00exp(X) . Il envoie aussi Vt˜0 = Wt˜0 sur Vx˜0exp(X) = Wx˜0 exp(X) . Puisque W = Wt˜0 ⊕ Wt˜00 = Wx˜0 exp(X) ⊕ Wx˜00exp(X) , g conserve W , donc g ∈ H(F ). Quitte à multiplier g par un élément de Hx˜ (F ), on peut supposer que X ∈ i(F ) pour un élément I ∈ T (Hx˜ ). Alors l’élément g −1 définit un élément w de W (T˜I , T˜) pour lequel t˜ appartient à w(˜ xexp(i(F ) ∩ ω)). Cela prouve (2).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

30

J.-L. WALDSPURGER

Sous les hypothèses de (3), supposons que les ensembles w1 (˜ xexp(i1 (F ) ∩ ω)) et w2 (˜ xexp(i2 (F ) ∩ ω)) ne sont pas disjoints. On peut relever w1 et w2 en des éléments h1 et h2 de H(F ) tels que h1 (˜ xexp(i1 (F ) ∩ ω))h−1 xexp(i2 (F ) ∩ ω))h−1 1 ∩ h2 (˜ 2 6= ∅. Posons h = h−1 2 h1 . D’après les propriétés des bons voisinages, h appartient à ZG (˜ x)(F ). Donc la conjugaison par h conserve ω. D’autre part y conjugue T˜I1 en T˜I2 , donc aussi I1 en I2 . Alors h(˜ xexp(i1 (F ) ∩ ω))h−1 = x ˜exp(i2 (F ) ∩ ω), puis h1 (˜ xexp(i1 (F ) ∩ ω))h−1 xexp(i1 (F ) ∩ ω))h−1 h−1 xexp(i2 (F ) ∩ ω))h−1 1 = h2 h(˜ 2 = h2 (˜ 2 . Cela prouve (3). Sous les hypothèses de (4), posons

Y = {h ∈ ZH (˜x)(F ); hI1 h−1 ∈ T (Hx˜ )}/(ZH (˜x)(F ) ∩ TI1 (F )). La preuve de (2) montre que l’application h 7→ (I2 = hI1 h−1 , w2 = w1 h−1 ) est une surjection de Y sur l’ensemble des paires dont on veut calculer le nombre. On voit que l’application est aussi injective. Le nombre cherché est donc | Y |. Remarquons que ZH (˜ x)(F ) ∩ TI1 (F ) = TI1 (F )θ . Il y a une application naturelle

Y → Hx˜ (F )\ZH (˜x)(F )/TI1 (F )θ . Elle est surjective et ses fibres sont en bijection avec W (Hx˜ , I1 ). D’autre part, Hx˜ est distingué dans ZH (˜ x) et son intersection avec TI1 (F ) est I1 (F ). Le quotient ci-dessus a donc pour nombre d’éléments [ZH (˜ x)(F ) : Hx˜ (F )][TI1 (F )θ : I1 (F )]−1 . Enfin, [TI1 (F )θ : I1 (F )] = [T (F )θ : Tθ (F )]. L’assertion (4) résulte de ces calculs. On utilise ces trois assertions pour transformer la formule (1). On doit rappeler que, d’après le choix de nos mesures, pour I ∈ T (Hx˜ ), l’application i(F ) ∩ ω X

→ T˜I (F )/θ 7→ x ˜exp(X)

préserve les mesures. On obtient

J(Θ, f˜, g) = [ZH (˜ x)(F ) : Hx˜ (F )]−1

X I∈ T (Hx˜ )

Z i(F )∩ω

Z

g ˜ξ

|W (Hx˜ , I)|−1

X

|W (H, T˜)|−1

˜ T˜ ∈ T (H)

X w∈W (T˜I ,T˜ )

˜

f (h−1 w˜ xexp(X)w−1 h)dhΘ(w˜ xexp(X)w−1 )DH (w˜ xexp(X)w−1 )dX.

Tθ (F )\H(F )

On a ici identifié les éléments w à des représentants dans H(F ). Les éléments w disparaissent de cette formule par le changement de variables h 7→ wh. Evidemment,

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

31

pour tout I, il y a un seul T˜ tel que W (T˜I , T˜) soit non vide et, pour ce T˜, le nombre d’éléments de W (T˜I , T˜) est le même que celui de W (H, T˜). On obtient Z Z X |W (Hx˜ , I)|−1 J(Θ, f˜, g) = [ZH (˜ x)(F ) : Hx˜ (F )]−1 i(F )∩ω

I∈ T (Hx ˜) g ˜ξ

I(F )\H(F )

˜

f (h−1 x ˜exp(X)h)dhΘ(˜ xexp(X))DH (˜ xexp(X))dX.

˜

˜

On a DH (˜ xexp(X)) = DH (˜ x)DHx˜ (X), d’où ˜

J(Θ, f˜, g) = [ZH (˜ x)(F ) : Hx˜ (F )]−1 DH (˜ x)

Z

X

|W (Hx˜ , I)|−1

Hx ˜ (F )\H(F ) I∈ T (H ) x ˜

Z i(F )∩ω

Z

hg ˜ξ

f (y −1 x ˜exp(X)y)dyΘ(˜ xexp(X))DHx˜ (X)dX dh.

I(F )\Hx ˜ (F )

On peut remplacer les intégrations sur i(F ) ∩ ω par des intégrations sur i(F ), à condition de remplacer la fonction Θ(˜ xexp(X)) par Θx˜,ω (X). Par la formule de Weyl appliquée dans hx˜ (F ), on obtient Z Z ξ ˜ −1 H ˜ J(Θ, f , g) = [ZH (˜ x)(F ) : Hx˜ (F )] D (˜ x) Θx˜,ω (X) hg f˜ (˜ xexp(X))dX. Hx˜ (F )\H(F )

hx˜ (F )

Pour X ∈ ω, on a Z

hg ˜ξ

hg

f (˜ xexp(X)) =

f˜(˜ xexp(X)u)ξ(u)du

U (F )

Z

Z

hg

= Ux ˜ (F )\U (F )

f˜(˜ xexp(X)uv)ξ(uv)du dv.

Ux ˜ (F )

−1 Pour u ∈ Ux˜ (F ), l’application v 7→ θx−1 )v est un isomorphisme de ˜exp(X)u (v Ux˜ (F )\U (F ) sur lui-même. Son jacobien est la valeur absolue du déterminant de 1 − θx−1 agissant sur u(F )/ux˜ (F ). Notons d(˜ x) ce déterminant. Par changement de ˜ variables, et en remarquant que −1 ξ(θx−1 )v) = 1, ˜exp(X)u (v

on obtient Z

hg ˜ξ

Z

hg

f (˜ xexp(X)) = |d(˜ x)|F Ux ˜ (F )\U (F )

Z

Ux ˜ (F )

Z

vhg

= |d(˜ x)|F Ux ˜ (F )\U (F )

f˜(v −1 x ˜exp(X)uv)ξ(u)du dv

f˜(˜ xexp(X)u)ξ(u)du dv.

Ux ˜ (F )

On remplace u par exp(N ) avec N ∈ ux˜ (F ). D’après les propriétés de ω, la condition X ∈ ω entraîne X + N ∈ ω pour tout N . On obtient alors Z hg ˜ξ vhg ˜ξ f (˜ xexp(X)) = |d(˜ x)|F f x˜,ω (X)dv. Ux ˜ (F )\U (F )

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

32

J.-L. WALDSPURGER

Reportons cette expression dans (5), multiplions l’expression obtenue par κN (g), puis intégrons sur g ∈ H(F )U (F )\G(F ). On obtient ˜ JN (Θ, f˜) = [ZH (˜ x)(F ) : Hx˜ (F )]−1 DH (˜ x)|d(˜ x)|F Jx˜,ω,N (Θ, f˜).

Pour obtenir la première égalité de l’énoncé, il reste à calculer d(˜ x). Pour cela, on peut étendre le corps des scalaires et se placer sur F¯ . On peut fixer une base (vi )i=1,...,d de V et une famille (λi )i=1,...,d d’éléments de F¯ × de sorte que : – Z ait pour base la famille des vi pour i ∈ {1, . . . , r} ∪ {d − r, . . . , d} ; – le sous-groupe P est le stabilisateur du drapeau F v1 ⊂ F v1 ⊕ F v2 ⊂ · · · ⊂ F v1 ⊕ · · · ⊕ F vr ⊂ F v1 ⊕ · · · ⊕ F vd−r ⊂ F v1 ⊕ · · · ⊕ F vd−r+1 ⊂ · · · ⊂ F v1 ⊕ · · · ⊕ F vd ; ∗ – pour tout i, x ˜vi = λi vd+1−i . λi vi . Le L’élément x =t x ˜−1 x ˜ est l’élément diagonal qui envoie vi sur µi = λd+1−i 0 0 sous-espace W est engendré par les vi tels que µi 6= 1. Puisque W ∩ Z = {0}, on a µi = 1 si vi ∈ Z. Introduisons la base (Ei,j )i,j=1,...,d de g(F ), formée des matrices Ei,j n’ayant qu’un coefficient non nul, le (i, j)-ième, lequel vaut 1. On calcule λd+1−i θx−1 ˜ (Ei,j ) = − λd+1−j Ed+1−j,d+1−i . L’espace u(F ) se décompose en sommes des sous-

espaces suivants, qui sont stables par θx−1 ˜ : – les espaces F Ei,j ⊕ F Ed+1−j,d+1−i pour i = 1, . . . , r, i < j ≤ r ou d + 1 − r ≤ j < d + 1 − i; – les droites F Ei,d+1−i pour i = 1, . . . , r ; – les espaces F Ei,j ⊕ F Ed+1−j,d+1−i , pour i = 1, . . . , r, j = r + 1, . . . , d − r. Considérons un sous-espace du troisième type. La matrice de 1 − θx−1 ˜ s’y écrit ! λj 1 λi . λd+1−i 1 λd+1−j Si µj 6= 1, c’est-à-dire si vj ∈ V 0 , cette matrice est inversible donc le sous-espace ne coupe pas ux˜ . Le déterminant de la matrice est 1 − µd+1−j . La contribution de ces sous-espaces à d(˜ x) est donc det((1 − x)|W 0 )r . Si µj = 1, la matrice a un noyau de dimension 1, qui est l’intersection du sous-espace avec ux˜ . L’autre valeur propre est 2 et la contribution du sous-espace à d(˜ x) est 2. On voit de même que la contribution de chaque sous-espace du premier ou du deuxième type est 2. Il reste à compter le nombre de sous-espaces qui contribuent par 2. On trouve r2 + r + rdim(W 00 ). D’où d(˜ x) = 2r

2

+r+rdim(W 00 )

det((1 − x)|W 0 )r ,

ce qui achève la preuve de la première égalité de l’énoncé. Pour I ∈ T x˜ , on note T˜I l’unique élément de T qui contient x ˜ et est tel que T˜I,θ = I. Pour deux éléments T˜1 et T˜2 de T , on pose W (T˜1 , T˜2 ) = {h ∈ H(F ); hT˜1 h−1 = T˜2 }/(T1 (F ) × SO(ζ˜H,T1 )(F )). On a les propriétés suivantes :

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

33

(6) soient T˜ ∈ T et t˜ ∈ T˜(F )/θ en position générale ; supposons cf˜(t˜) 6= 0 ; alors il existe I ∈ T x˜ et w ∈ W (T˜I , T˜) tel que t˜ ∈ w(˜ xexp(i(F ) ∩ ω)) ; (7) soit T˜ ∈ T et, pour i = 1, 2, soient Ii ∈ T x˜ et wi ∈ W (T˜Ii , T˜) ; alors les sous-ensembles w1 (˜ xexp(i1 (F ) ∩ ω)) et w2 (˜ xexp(i2 (F ) ∩ ω)) de T˜(F )/θ sont disjoints ou confondus ; (8) soient T˜ ∈ T , I1 ∈ T x˜ et w1 ∈ W (T˜I1 , T˜) ; alors le nombre de couples (I2 , w2 ) tels que I2 ∈ T x˜ , w2 ∈ W (T˜I2 , T˜) et w2 (˜ xexp(i2 (F ) ∩ ω)) = w1 (˜ xexp(i1 (F ) ∩ ω)) est égal à |W (Hx˜ , I1 )|[ZH (˜ x)(F ) : Hx˜ (F )]. Ces propriétés se prouvent comme (2), (3) et (4) (en se rappelant qu’ici T (F )θ = Tθ (F )). On laisse les preuves au lecteur. Comme ci-dessus, elles permettent de transformer Jg´eom (Θ, f˜) en l’expression X ˜ |W (Hx˜ , I)|−1 ν(I) Jg´eom (Θ, f˜) = [ZH (˜ x) x)(F ) : Hx˜ (F )]DH (˜ I∈ T x ˜

Z i(F )

cΘ,˜x,ω (X)cf˜,˜x,ω (X)DHx˜ (X)∆r (˜ xexp(X))dX.

Soit I ∈ T x˜ et X ∈ i(F ) ∩ ω, en position générale. Notons W 00 = 0 W 00 ⊕ 00 W 00 la −1 décomposition de W 00 associée à I, posons t˜ = x ˜exp(X) et t = t t˜ t˜. On a 2

r +r+rdim( ∆r (t˜) = |2|F

00

W 00 )

|det((1 − t)|W 0 ⊕0 W 00 )|rF .

L’élément 1−t agit sur W 0 comme 1−x. Il agit sur 0 W 00 comme 1−exp(2X) et la valeur absolue du déterminant de cette application est la même que celle du déterminant de dim(0 W 00 ) 00 2X. C’est donc |2|F ∆ (X). On obtient r 2 +r+rdim(W )

∆r (t˜) = |2|F

|det((1 − x)|W 0 )|rF ∆00 (X)r .

Alors l’égalité ci-dessus devient Jg´eom (Θ, f˜) = C(˜ x)Jx˜,ω,g´eom (Θ, f˜). Cela achève la preuve. 3.5. Une première expression de Jx˜,ω,N (Θ, f˜). — Le lemme précédent nous ramène à prouver l’égalité (1) lim Jx˜,ω,N (Θ, f˜) = Jx˜,ω,g´eom (Θ, f˜). N →∞

Posons Hx˜00 = SO(W 00 ), G00x˜ = SO(V 00 ). On a Hx˜ = Hx˜0 Hx˜00 et Gx˜ = Hx˜0 G00x˜ . Un certain nombre d’objets relatifs à ces groupes se décomposent conformément à ces décompositions en produits. On affectera leurs composantes d’un 0 ou d’un 00 . Par exemple, on décompose tout élément X ∈ hx˜ (F ) en X = X 0 + X 00 , avec X 0 ∈ h0x˜ (F ) et X 00 ∈ h00x˜ (F ). Puisque Θ est un quasi-caractère, on peut supposer, en prenant ω assez petit, que Θx˜,ω est la restriction à hx˜ (F )∩ω d’une combinaison linéaire de transformées de Fourier d’intégrales orbitales nilpotentes. Grâce à la « conjecture de Howe », on

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

34

J.-L. WALDSPURGER

peut remplacer les intégrales orbitales nilpotentes par des intégrales orbitales associées à des éléments semi-simples réguliers et même « en position générale ». L’égalité que l’on veut prouver étant linéaire en Θ, on peut fixer un élément S ∈ h00x˜ (F ), en position générale, et supposer que, pour tout X ∈ hx˜ (F ) ∩ ω, on a l’égalité 00

Θx˜,ω (X) = ˆjS (X 0 )ˆj Hx˜ (S, X 00 ), où la seconde fonction est la transformée de Fourier de l’intégrale orbitale associée à S et la première est une telle transformée de Fourier associée à un élément de h0x˜ (F ) que l’on n’a pas besoin de préciser. Pour g ∈ G(F ), on a l’égalité Z ξ ˜ Jx˜,ω (Θ, f , g) = Θx˜,ω (X)g f˜x˜,ω (X)dX. h0x (F )×h00 (F ) ˜ x ˜

En utilisant la formule de Weyl pour h0x˜ (F ), on obtient Z X 0 0 −1 ˜ ˆjS (X 0 )DHx˜0 (X 0 ) Jx˜,ω (Θ, f , g) = |W (Hx˜ , I )| i0 (F )

0) I 0 ∈ T (Hx ˜

Z

Z

0 (F ) I 0 (F )\Hx ˜

h00 (F ) x ˜

ˆj Hx˜00 (S, X 00 )g f˜ξx˜,ω (h0 −1 X 0 h0 + X 00 )dX 00 dh0 dX 0 .

D’où X

Jx˜,ω,N (Θ, f˜) =

|W (Hx˜0 , I 0 )|−1

Z

0) I 0 ∈ T (Hx ˜

Z

Z

00 (F )U (F )\G(F ) I 0 (F )Hx x ˜ ˜

h00 (F ) x ˜

ˆjS (X 0 )DHx˜0 (X 0 )

i0 (F )

ˆj Hx˜00 (S, X 00 )g f˜ξx˜,ω (X 0 + X 00 )dX 00 κN (g)dg dX 0 .

Les deux dernières intégrales peuvent s’écrire Z Z Z ξ ˆj Hx˜00 (S, X 00 )g00 g f˜x˜,ω (X 0 + X 00 )dX 00 κN (g 00 g)dg 00 dg. I 0 (F )G00 (F )\G(F ) x ˜

Hx˜00 (F )Ux˜ (F )\G00 (F ) x ˜

h00 (F ) x ˜

On peut utiliser le paragraphe 9 de [12] pour calculer les deux intégrales intérieures ci-dessus. Pour retrouver les notations de cette référence, on doit poser vi = zi pour i = 0, . . . , r, v−i = z−i /(2ν(−1)i ) pour i = 1, . . . , r et définir des constantes ξi , i = 0, . . . , r − 1, de sorte que, pour u ∈ Ux˜ (F ), on ait X X ∗ < z−i−1 , uzi >= ξi < v−i−1 , x ˜uvi > . i=−r,...,r−1

i=0,...,r−1

On a défini en [12] 9.2 et 9.3 un élément Ξ ∈ g00x˜ (F ) et un sous-espace Σ de g00x˜ (F ). Avec les notations ci-dessus, Ξ est l’élément de g00x˜ (F ) qui annule W 00 et vérifie Ξvi+1 = ξi vi pour tout i = 0, . . . , r − 1. L’espace Σ est la somme directe de a(F ) ∩ g00x˜ (F ), de l’orthogonal de h00x˜ (F ) dans g00x˜ (F ) ∩ g0 (F ) et de ux˜ (F ). Pour tout sous-tore maximal I 00 de G00x˜ , on note i00 (F )S le sous-ensemble des éléments de i00 (F ) qui sont conjugués à un élément de Ξ + S + Σ par un élément de G00x˜ (F ). Pour tout X 00 ∈ i00 (F )S , on −1 00 fixe un élément γX 00 ∈ G00x˜ (F ) tel que γX 00 X γX 00 ∈ Ξ + S + Σ. On peut imposer à ] γX 00 diverses contraintes de croissance et de régularité. On introduit la fonction g f˜ x ˜,ω

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

35

comme en 1.8 et la formule 9.8(2) de [12] appliquée à nos deux dernières intégrales ci-dessus conduit à l’égalité : Z X ˜ = ˆjS (X 0 )DG0x˜ (X 0 )DG00x˜ (X 00 )1/2 (2) Jx˜,ω,N (Θ, f) ν(AI 00 )−1 |W (Gx˜ , I)|−1 i0 (F )×i00 (F )S

I∈ T (Gx˜ )

Z I 0 (F )AI 00 (F )\G(F )

g ˜] f x˜,ω (X 0

+ X 00 )κN,X 00 (g)dg dX 00 dX 0 ,

où Z κN,X 00 (g) = ν(AI 00 )

−1 κN (γX 00 ag)da.

AI 00 (F )

On voit comme en [12] 10.1 que cette expression est absolument convergente et bornée par une puissance de N . 3.6. Changement de fonction de troncature. — Fixons I ∈ T (Gx˜ ). On a défini en [12] 10.1 trois polynômes non nuls sur i(F ). Pour ε > 0, on note i(F )[≤ ε] l’ensemble des X ∈ i(F ) pour lesquels on a |Q(X)|F ≤ ε pour l’un au moins de ces polynômes Q. On note i(F )[> ε] le complémentaire. On a (1) il existe un entier b ≥ 1 tel que Z

0 00 |ˆjS (X 0 )|DGx˜ (X 0 )DGx˜ (X 00 )1/2

(i0 (F )×i00 (F )S )∩i(F )[≤N −b ]

Z

]

I 0 (F )AI 00 (F )\G(F )

|g f˜x˜,ω (X 0 + X 00 )|κN,X 00 (g)dg dX 00 dX 0  N −1

pour tout N ≥ 1. La notation  signifie qu’il existe une constante c > 0 telle que le membre de gauche soit inférieure ou égale à c fois le membre de droite. La relation ci-dessus se prouve comme le (ii) du lemme 10.1 de [12]. On fixe b vérifiant cette relation. ˜ \ le commutant de AI 00 dans G. ˜ C’est un Lévi tordu de G ˜ qui contient Notons M 0 Gx ˜. On a l’égalité AM˜ \ = AI 00 . Fixons un Lévi minimal Mmin de G contenu dans M\ et un sous-groupe parabolique Pmin = Mmin Umin ∈ P (Mmin ). Pour simplifier, on peut supposer que K est en bonne position relativement à Mmin . On utilise le groupe ˜ ∈ L G˜ . Notons ∆ l’ensemble des K pour définir les fonctions HQ˜ sur G(F ), pour Q racines simples de AMmin dans umin . Fixons Y ∈ A Mmin . Pour tout P 0 ∈ P (Mmin ), ˜ ∈ il y a un unique w ∈ W G tel que wPmin w−1 = P 0 . On pose YP 0 = wY . Pour Q 0 ˜ P (M\ ), notons YQ˜ la projection orthogonale de YP 0 sur A M˜ \ , où P est un élément quelconque de P (Mmin ) tel que P 0 ⊂ Q. Soit g ∈ G(F ). On pose Y (g)Q˜ = YQ˜ −HQ¯˜ (g), ¯ ˜ est le parabolique tordu opposé à Q. ˜ La famille Y (g) = (Y (g) ˜ ) ˜ où Q est ˜ Q Q∈ P (M\ )

˜ M ˜ \ )-orthogonale. Il existe une constante c > 0 telle que, si (G, inf{σ(mg); m ∈ M\ (F )} < c inf{α(Y ); α ∈ ∆},

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

36

J.-L. WALDSPURGER

˜ = M ˜ \ UQ ∈ P (M ˜ \ ) et toute racine α de A ˜ on ait α(Y (g)Q˜ ) > 0 pour tout Q M\ ˜

G dans uQ . Supposons cette condition vérifiée. On note λ 7→ σM ˜ \ (λ, Y (g)) la fonction caractéristique dans A M˜ \ de l’enveloppe convexe des points de la famille Y (g). On pose Z ˜

v(g) = ν(AI 00 ) AI 00 (F )

G σM ˜ \ (a), Y (g))da. ˜ (HM \

On a (2) il existe c > 0 et un sous-ensemble compact ωI de i(F ) tels que les propriétés ] suivantes soient vérifiées ; soient g ∈ G(F ) et X ∈ i(F )[> N −b ] tels que g f˜x˜,ω (X) 6= 0 ; alors X ∈ ωI et il existe t ∈ I(F ) tel que σ(tg) < c log(N ). La preuve est la même que celle de [12] 10.4(2). Cette propriété assure que le membre de droite de l’égalité ci-dessous est bien défini. Proposition 3.4. — Il existe c > 0 et un entier N0 ≥ 1 tels que, si N ≥ N0 et c log(N ) < inf{α(Y ); α ∈ ∆}, on ait l’égalité Z I 0 (F )AI 00 (F )\G(F )

g ˜] f x˜,ω (X)κN,X 00 (g)dg

Z = I 0 (F )AI 00 (F )\G(F )

g ˜] f x˜,ω (X)v(g)dg

pour tout X ∈ i(F )[> N −b ] ∩ (i0 (F ) × i00 (F )S ). Démonstration. — Pour simplifier la notation, fixons un ensemble ωI comme en (2), posons X N = ωI ∩ i(F )[> N −b ] ∩ (i0 (F ) × i00 (F )S ) et notons ΩN l’ensemble des g ∈ G(F ) pour lesquels il existe X ∈ X N tel que g ˜] f (X) 6= 0. Soit Z ∈ A M tel que α(Z) > 0 pour tout α ∈ ∆ (on ne confond x ˜,ω

min

pas cet élément avec le sous-espace Z de V ). En remplaçant Y par cet élément, on construit une famille de points Z (g) pour tout g ∈ G(F ). On suppose inf{α(Z); α ∈ ∆} ≥ c1 log(N ), ˜ ˜ ce qui assure que, pour g ∈ ΩN , on a Z(g)Q˜ ∈ A + ˜ pour tout Q ∈ P (M\ ). Pour Q ˜ = LU ˜ Q ∈ P (M ˜ \ ), notons λ 7→ σ Q˜ (λ, Z (g)) la fonction caractéristique dans A ˜ de Q ˜\ M\ M ˜ min ), P˜ 0 ⊂ Q. ˜ la somme de A ˜ et de l’enveloppe convexe des Z(g) ˜ 0 pour P˜ 0 ∈ P (M L

P

˜

+ Notons τQ˜ la fonction caractéristique du sous-ensemble A L ˜ \ . On a ˜ \ ⊕ AQ ˜ de A M M l’égalité X ˜ Q σM ˜ (λ − Z(g)Q ˜) = 1 ˜ (λ, Z (g))τQ \

˜ F (M ˜ \) Q∈

pour tout λ ∈ A M˜ \ . Pour g ∈ ΩN et X ∈ X N , on peut donc écrire X ˜ g), v(g) = ν(AI 00 ) v(Q, ˜ F (M ˜ \) Q∈

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

X

κN,X 00 (g) = ν(AI 00 )

37

˜ g), κN,X 00 (Q,

˜ F (M ˜ \) Q∈

où ˜ g) = v(Q,

Z

˜

˜

Q G σM ˜ \ (a), Y (g))σM ˜ \ (a), Z (g))τQ ˜ (HM ˜ \ (a) − Z(g)Q ˜ )da, ˜ (HM ˜ (HM \

AI 00 (F )

˜ g) = κN,X 00 (Q,

Z

\

˜

AI 00 (F )

Q −1 κN (γX 00 ag)σ ˜ (HM ˜ \ (a), Z (g))τQ ˜ (HM ˜ \ (a) − Z(g)Q ˜ )da. M \

˜ g) et g 7→ κN,X 00 (Q, ˜ g) sont invariantes à gauche par Les fonctions g 7→ v(Q, 0 00 I (F )AI (F ). On peut donc décomposer le membre de gauche, resp. de droite, de l’égalité de l’énoncé en X ˜ X), ν(AI 00 ) Φ1 (Q, ˜ F (M ˜ \) Q∈

resp. X

ν(AI 00 )

˜ X), Φ2 (Q,

˜ F (M ˜ \) Q∈

où ˜ X) = Φ1 (Q,

Z I 0 (F )AI 00 (F )\G(F )

˜ X) = Φ2 (Q,

g ˜] ˜ g)dg, f x˜,ω (X)κN,X 00 (Q,

Z I 0 (F )AI 00 (F )\G(F )

g ˜] ˜ g)dg. f x˜,ω (X)v(Q,

On a : (3) si Z vérifie les inégalités ( sup{α(Z); α ∈ ∆} ≤

inf{α(Y ); α ∈ ∆}, log(N )2

˜ X) = Φ2 (G, ˜ X) pour tout X ∈ X N , pourvu que N soit assez grand. on a Φ1 (G, En effet, soit g ∈ ΩN . On vérifie comme en [12] 10.4(8) que, sous ces hypo˜ −1 G thèses, on a κN (γX 00 ag) = σ ˜ (HM ˜ \ (a), Y (g)) = 1 pour tout a ∈ AI 00 (F ) tel que M \

˜ G ˜ ˜ σM ˜ \ (a), Z (g)) = 1. Donc κN,X 00 (G, g) = v(G, g) et la conclusion. ˜ \ (HM ˜ = LU ˜ Q ∈ F (M ˜ \ ), Q ˜ 6= G. ˜ On a : Fixons Q

˜ X) = (4) il existe c > 0 tel que, si c log(N ) < inf{α(Z); α ∈ ∆}, on a Φ1 (Q, ˜ X) = 0 pour tout X ∈ X N . Φ2 (Q, On écrit ˜ X) = Φ1 (Q,

Z

Z

Kmin

I 0 (F )AI 00 (F )\L(F )

Z

u ¯lk ˜] ˜ u f x˜,ω (X)κN,X 00 (Q, ¯lk)d¯ uδQ (l)dl dk.

UQ ¯ (F )

u ¯lk ˜] f x˜,ω (X)

6= 0 pour un X ∈ X N , on a une majoration σ(¯ u)  On vérifie que, si log(N ) et on peut représenter l par un élément tel que σ(l)  log(N ). Le point est que, pour de tels éléments, on a l’égalité ˜ u ˜ lk). κN,X 00 (Q, ¯lk) = κN,X 00 (Q,

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

38

J.-L. WALDSPURGER

Cela résulte de l’assertion : (5) soit c > 0 ; il existe c0 > 0 tel que, si c0 log(N ) < inf{α(Z); α ∈ ∆}, les propriétés suivantes sont vérifiées ; soient X ∈ X N , g ∈ G(F ) et u ¯ ∈ UQ¯ (F ) ; supposons ˜ u ˜ g). σ(g), σ(¯ u), σ(¯ ug) < clog(N ) ; alors on a l’égalité κN,X 00 (Q, ¯g) = κN,X 00 (Q, Reportons la preuve de cette assertion à plus tard. A l’intérieur de l’intégrale cidessus apparaît donc l’intégrale Z u ¯lk ˜] f x˜,ω (X)d¯ u. UQ ¯ (F )

˜ X) = 0. On prouve de même que Or celle-ci est nulle d’après 1.8(1). Donc Φ1 (Q, ˜ ˜ g). Φ2 (Q, X) = 0, en utilisant une assertion similaire à (5) pour la fonction v(Q, On a utilisé l’élément auxiliaire Z. Il existe c > 0 tel que, si c log(N ) < inf{α(Y ); α ∈ ∆}, on peut choisir cet élément auxiliaire vérifiant les hypothèses de (3) et (4). Ces relations entraînent la conclusion de l’énoncé. ˜ g). La preuve Il reste à prouver l’assertion (5) et son analogue pour la fonction v(Q, de cette analogue est la même que celle de [12] 10.5 et on ne la fera pas. Soient c, X, g, u ¯ vérifiant les hypothèses de (5). Considérons la formule intégrale qui définit ˜ g). La fonction κN,X 00 (Q, ˜

Q λ 7→ σM ˜ (λ − Z(g)Q ˜) ˜ (λ, Z (g))τQ \

˜ \ ) , P˜ 0 ⊂ Q. ˜ Or ces ne dépend de g que par l’intermédiaire des HP¯˜ 0 (g) pour P˜ 0 ∈ P (M termes sont insensibles au changement de g en u ¯g. On en déduit : Z ˜ Q ˜ u ˜ g) = σM (6) κN,X 00 (Q, ¯g)−κN,X 00 (Q, ˜ \ (a), Z (g))τQ ˜ (HM ˜ \ (a)− Z (g)Q ˜) ˜ (HM AI 00 (F )

\

−1 −1 (κN (γX ug) − κN (γX 00 a¯ 00 ag))da.

Supposons prouvée l’assertion suivante : (7) il existe c00 > 0, ne dépendant que de c (et pas de g, u ¯, X), tel que, pour tout a ∈ AI 00 (F ) tel que α(HM˜ \ (a)) > c00 log(N ) pour toute racine α de AI 00 dans uQ , on −1 −1 ait l’égalité κN (γX ug) = κN (γX 00 a¯ 00 ag). 0 On peut trouver c > 0, ne dépendant que de c, tel que les deux conditions c0 log(N ) < inf{α(Z); α ∈ ∆} et

˜

Q σM ˜) = 1 ˜ \ (a), Z (g))τQ ˜ (HM ˜ \ (a) − Z (g)Q ˜ (HM \

entraînent α(HM˜ \ (a)) > c00 log(N ) pour toute racine α de AI 00 dans uQ . Si l’on impose la première condition à Z, la fonction que l’on intègre dans la formule (6) est donc nulle, d’où la conclusion de (5). Cela nous ramène à prouver (7). La preuve est essentiellement la même que celle du lemme 10.8 de [12]. Signalons seulement les points à modifier. On voit comme dans cette référence que l’on peut étendre les

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

39

scalaires. Remarquons qu’en étendant les scalaires, on peut changer le tore AI 00 mais celui-ci ne peut que devenir plus gros et l’assertion (7) n’en devient que plus forte. Après extension des scalaires, on peut supposer que le groupe spécial orthogonal G00x˜ de la restriction de x ˜ à V 00 est quasi-déployé et que I 00 = AI 00 en est un tore déployé ˜ \ ) et se limiter aux éléments a ∈ AI 00 (F ) maximal. On peut fixer un élément P˜\ ∈ P (M tels que HM˜ \ (a) appartient à la chambre positive fermée pour ce parabolique tordu. Montrons que : (8) il existe δ ∈ G00x˜ (F ) tel que δ P˜\ δ −1 ⊂ P¯˜ et AM˜ ⊂ δAI 00 δ −1 . Le tore déployé AM˜ est contenu dans G00x˜ et AI 00 est un sous-tore maximal de ce groupe. On peut donc trouver δ ∈ G00x˜ (F ) tel que AM˜ ⊂ δAI 00 δ −1 . Alors δ −1 P¯˜ δ ∈ F (M˜ \ ). Fixons P˜ 0 ∈ P (M˜ \ ) tel que P˜ 0 ⊂ δ −1 P¯˜ δ. Le tore AI 00 étant un sous-tore maximal d’un groupe spécial orthogonal, il a une forme particulière : ses sous-espaces propres dans V sont tous de dimension 1, sauf éventuellement celui sur lequel AI 00 ˜ \ étant le commutant de ce tore a lui-aussi une forme agit par l’identite. Le Lévi M particulière : M\ est un produit de GL1 et éventuellement d’un unique bloc GLk . ˜ \ ) sont conjugués par le groupe Pour un tel Lévi, deux éléments quelconques de F (M ˜ NormG(F ) (M\ ). Si d est impair, l’application naturelle ˜ \ )/M\ (F ) NormG00x˜ (F ) (AI 00 ) → NormG(F ) (M est surjective. Donc P˜\ et P˜ 0 sont conjugués par un élément de NormG00x˜ (F ) (AI 00 ). Quitte à multiplier δ à droite par un tel élément, on peut supposer P˜ 0 = P˜\ et la conclusion de (8) est vérifiée. Supposons d pair et introduisons le groupe orthogonal O(V 00 ) de la restriction à V 00 de la forme x ˜ (G00x˜ en est sa composante neutre). L’application naturelle ˜ \ )/M\ (F ) NormO(V 00 )(F ) (AI 00 ) → NormG(F ) (M et on peut comme ci-dessus multiplier δ à droite par un élément de NormO(V 00 )(F ) (AI 00 ) de sorte que P˜ 0 = P˜\ . Si cet élément appartient à G00x˜ (F ), on a fini. Sinon, on re˜ x˜ , plus précisément, il agit trivialement marque que AM˜ n’est pas maximal dans G 00 sur un sous-espace non nul de V : il fixe z0 . Il en résulte qu’il existe un élément y ∈ NormO(V 00 )(F ) (AI 00 ) ∩ δ −1 M δ tel que le déterminant de y agissant dans V 00 soit −1. En multipliant δ à droite par un tel élément, on obtient la conclusion de (8). Grâce à (8), le même raisonnement qu’en [12] 10.8 nous ramène au cas où r = 0. Dans ce cas, κN est par définition le produit de deux fonctions κ1,N κ2,N . La première est la fonction caractéristique de l’ensemble des g ∈ G(F ) tels que g −1 z0 ∈ p−N F R. La seconde est la fonction caractéristique de l’ensemble des g ∈ G(F ) tels que t ∨ gz0∗ ∈ p−N F R . La démonstration de [12] 10.8 s’applique sans changement pour la première fonction, c’est-à-dire que l’on démontre l’analogue de (7) où la conclu−1 −1 sion est remplacée par κ1,N (γX ug) = κ1,N (γX 00 a¯ 00 ag). Considérons la seconde fonc−1 ∗ ˜ tion. On a x ˜(z0 ) = ζ(z0 ) = 2νz0 . La relation κN,2 (γX ug) = 1 équivaut donc à 00 a¯ t t t t −1 ∨ gu ¯ a γX 00 x ˜z0 ∈ 2νp−N R . Les produits sont ici les produits naturels et non pas les F ˜ Faisons commuter x produits dans G. ˜ aux éléments qui sont à sa gauche. La relation

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

40

J.-L. WALDSPURGER

−N ∨ 0 précédente équivaut à x ˜g 0 −1 u ¯0 −1 a0 −1 γX R , où g 0 = θx−1 ¯0 = θx−1 u), 00 z0 ∈ 2νpF ˜ (g), u ˜ (¯ −1 −1 −N 0 0 0 0 −1 0 −1 0 −1 0 00 a = θx˜ (a), γX 00 = θx˜ (γX ). Elle équivaut encore à g u ¯ a γX 00 z0 ∈ pF R , 0 où R0 = 2ν x ˜−1 (R∨ ). Mais a0 = a et γX 00 = γX 00 car ces éléments sont dans Gx ˜ (F ). −1 Alors la condition précédente est du même type que la condition κN,1 (γX ug) = 1 : 00 a¯ on a simplement remplacé u ¯ par u ¯0 , g par g 0 et R par R0 . Ces objets vérifient les mêmes hypothèses que u ¯, g et R. Alors la même démonstration qu’en [12] 10.8 s’applique −1 et on démontre l’analogue de (7) où la conclusion est remplacée par κ2,N (γX ug) = 00 a¯ −1 κ2,N (γX 00 ag). Evidemment, les deux analogues de (7) pour les fonctions κ1,N et κ2,N entraînent l’assertion (7) elle-même. Cela achève la preuve.

3.7. Apparition des intégrales orbitales pondérées. — Le tore I et la constante b sont fixés comme dans le paragraphe précédent. Lemme 3.5. — Il existe N0 ≥ 1 tel que, pour tout N ≥ N0 et tout X ∈ i(F )[> N −b ] ∩ (i0 (F ) × i00 (F )S ), on ait les égalités Z g ˜] f x˜,ω (X)κN,X 00 (g)dg = 0, I 0 (F )AI 00 (F )\G(F )

si AI 0 6= {1} ; Z I 0 (F )AI 00 (F )\G(F )

g ˜] f x˜,ω (X)κN,X 00 (g)dg

= ν(I 0 )ν(AI 00 )ΘJ,] (X) f˜,˜ x,ω

si AI 0 = {1}. Démonstration. — Notons v(g, Y ) la fonction notée v(g) dans le paragraphe précédent. La proposition 3.4 nous autorise à remplacer κN,X 00 (g) par v(g, Y ) dans les intégrales de l’énoncé, pourvu que Y vérifie une minoration inf{α(Y ); α ∈ ∆}  log(N ). Fixons X. Les intégrales sont à support compact. On peut faire tendre Y vers l’infini. Dans le cas non tordu, Arthur a calculé en [4] p.46 le comportement de v(g, Y ) quand Y tend vers l’infini. Le même calcul vaut dans le cas tordu. Pour Y dans un certain réseau R ⊂ A Mmin , la fonction Y 7→ v(g, Y ) est une somme de fonctions Y 7→ qζ (Y )exp(ζ(Y )), où qζ est un polynôme et ζ ∈ Hom( R , 2πiQ/2πiZ). De telles fonctions sont linéairement indépendantes. Puisque l’expression que l’on calcule est indépendante de Y , on peut aussi bien remplacer v(g, Y ) par son « terme constant » q0 (0). D’après [4] p.92 (adapté au cas tordu), on a X ˜ a˜ Q q0 (0) = (−1) M\ c0Q˜ vM ˜ (g). \

˜ F (M ˜ \) Q∈

Les c0Q˜ sont des constantes et on a c0G˜ = 1. Cela conduit à l’égalité Z X a˜ g ˜] ˜ f x˜,ω (X)κN,X 00 (g)dg = (−1) M\ c0Q˜ Φ(Q), I 0 (F )AI 00 (F )\G(F )

ASTÉRISQUE 347

˜ F (M ˜ \) Q∈

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

où ˜ = Φ(Q)

Z I 0 (F )AI 00 (F )\G(F )

41

˜ Q g ˜] f x˜,ω (X)vM ˜ \ (g)dg.

˜ = LU ˜ Q 6= G, ˜ on décompose l’intégrale sur I 0 (F )AI 00 (F )\G(F ) en produit Pour Q 0 d’intégrales sur I (F )AI 00 (F )\L(F ), UQ (F ) et K. On voit apparaître une intégrale Z ulk ˜] f x˜,ω (X)du, UQ (F )

˜ = G, ˜ qui vaut qui est nulle d’après 1.8(1). Il ne reste plus que le terme pour Q ˜

˜ = mes(I(F )/I 0 (F )AI 00 (F ))DGx˜ (X)−1/2 J ] Φ(G) ˜ M

x,ω \ ,˜

] Si AI 0 6= {1}, on a AM˜ \ = AI 00 ( AG˜ x˜exp(X) = AI 0 AI 00 , donc JM ˜

1.8(2). D’où la première assertion de l’énoncé. Supposons AI 0 ˜ (X) en 1.8 et on obtient Lévi tordu noté M aM ˜

˜ = (−1) Φ(G)

\

(X, f˜).

(X, f˜) = 0 d’après ˜ \ est le = {1}. Alors M x,ω \ ,˜

ν(I)mes(I(F )/I 0 (F )AI 00 (F ))ΘJ,] (X). f˜,˜ x,ω

On rappelle que l’on n’utilise pas les mêmes mesures qu’en 1.8 (cf. 3.3), ce qui explique l’apparition de ν(I). Il reste à vérifier que ν(I)mes(I(F )/I 0 (F )AI 00 (F )) = ν(I 0 )ν(AI 00 ) pour obtenir le (ii) de l’énoncé. 3.8. Preuve du théorème 3.2. — Si A Hx˜0 6= {1}, on a AI 0 6= {1} pour tous les tores I intervenant dans la formule 3.5(2). En utilisant la relation 3.6(1) et le lemme 3.5, on voit que lim Jx˜,ω,N (Θ, f˜) = 0. N →∞

On a aussi Jx˜,ω,g´eom (Θ, f˜) = 0 d’après la définition de ce terme : il n’y a pas de sous-tore maximal de Hx˜0 qui soit anisotrope. D’où la relation 3.5(1) dans ce cas. Supposons A Hx˜0 = {1}. Le même raisonnement nous débarrasse de tous les tores I intervenant dans 3.5(2) tels que I 0 n’est pas elliptique. Posons X Jx˜,ω,∞ (Θ, f˜) = ν(I 0 )|W (Gx˜ , I)|−1 0 )× T (G00 ) I=I 0 I 00 ∈ T ell (Hx ˜ x ˜

Z i0 (F )×i00 (F )S

ˆjS (X 0 )DG0x˜ (X 0 )DG00x˜ (X 00 )1/2 ΘJ,] (X)dX. f˜,˜ x,ω

Un calcul familier montre que cette expression est absolument convergente. Cette fois, la relation 3.6(1) et le lemme 3.5 montrent que lim Jx˜,ω,N (Θ, f˜) = Jx˜,ω,∞ (Θ, f˜).

N →∞

On a supposé 00 Θx˜,ω (X) = ˆjS (X 0 )ˆj Hx˜ (S, X 00 ).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

42

J.-L. WALDSPURGER

00 Notons maintenant Θ00 la fonction X 00 7→ ˆj Hx˜ (S, X 00 ). Un quasi-caractère à support dans ω se décompose en combinaison linéaire de produits d’un quasi-caractère dans ω 0 et d’un quasi-caractère dans ω 00 . Ecrivons ainsi X ΘJf˜,˜x,ω (X) = Θ0f˜,b (X 0 )Θ00f˜,b (X 00 ),

b∈B

où B est un ensemble fini d’indices. On a alors X 00 Jx˜,ω,∞ (Θ, f˜) = Jb0 Jb,∞ , b∈B

Jx˜,ω,g´eom (Θ, f˜) =

X

00 Jb0 Jb,g´ eom ,

b∈B

où X

Jb0 =

Z

|W (G0x˜ , I 0 )|−1 ν(I 0 )

i0 (F )

I 0 ∈ T ell (G0x ) ˜ 00 Jb,∞ =

X

|W (G00x˜ , I 00 )|−1

I 00 ∈ T (G00 ) x ˜ 00 Jb,g´ eom =

X

ν(I 00 )

I 00 ∈ T 00

Z

Z i00 (F )S

ˆjS (X 0 )Θ0˜ (X 0 )DG0x˜ (X 0 )dX 0 , f ,b ˆ 00˜ (X 00 )DG00x˜ (X 00 )1/2 dX 00 , Θ f ,b 00

i00 (F )

cΘ00 (X 00 )cΘ00˜ (X 00 )DHx˜ (X 00 )∆00 (X)r dX 00 . f ,b

00 00 D’après [12] théorème 7.9 et lemme 11.2(ii), on a l’égalité Jb,∞ = Jb,g´ eom pour tout b ∈ B. D’où l’égalité Jx˜,ω,∞ (Θ, f˜) = Jx˜,ω,g´eom (Θ, f˜), puis l’égalité 3.5(1) qu’il fallait prouver.

4. Majorations 4.1. Les résultats. — On énonce dans ce paragraphe les majorations qui seront prouvées dans cette section. Les hypothèses sont celles de 3.1. Pour un entier N ≥ 1 et un réel D, posons Z I(N, D) = ΞG (g)2 κN (g)σ(g)D dg. G(F )

(1) Cette intégrale est convergente. Le réel D étant fixé, il existe un réel R tel que I(N, D)  N R pour tout entier N ≥ 1. Pour u ∈ U (F ) et i = −r, . . . , r − 1, rappelons que l’on a noté ui+1,i la coordonnée ∗ < zi+1 , uzi > de u. Pour un entier c ≥ 1, on note U (F )c le sous-ensemble des u ∈ U (F ) tels que valF (ui+1,i ) ≥ −c pour tout i = −r, . . . , r − 1. C’est un sous-groupe de U (F ) conservé par la conjugaison par H(F ). Pour un réel D et un élément m ∈ M (F ), posons Z ΞG (um)σ(um)D du.

X(c, D, m) = U (F )c

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

43

(2) Cette expression est convergente. Pour D fixé, il existe un réel R tel que X(c, D, m)  cR σ(m)R δP (m)1/2 ΞM (m) pour tous c ≥ 1 et tout m ∈ M (F ). (3) Pour tout réel D et tout entier c ≥ 1, l’intégrale Z ΞH (h)ΞG (hu)σ(hu)D du dh H(F )U (F )c

est convergente. (4) Pour tout réel D et tout entier c ≥ 1, l’intégrale Z Z ΞG (hu)ΞH (h0 h)ΞG (h0 u0 )σ(hu)D σ(h0 u0 )D du0 dh0 du dh H(F )U (F )c

H(F )U (F )c

est convergente. Soient D et C deux réels, c, c0 et N trois entiers. On suppose C, c, c0 , N ≥ 1. Pour m ∈ M (F ), h ∈ H(F ), u, u0 ∈ U (F ), posons

φ(m, h, u, u0 ; D) = ΞH (h)ΞG (u0 m)ΞG (u−1 h−1 u0 m)κN (m)σ(u0 )D σ(u)D σ(h)D σ(m)D δP (m)−1 . Posons Z

Z

Z

I(c, N, D) = M (F ) 0

Z

H(F )U (F )c

Z

φ(m, h, u, u0 ; D)du0 du dh dm,

U (F )

Z

φ(m, h, u, u0 ; D)du0 du dh dm,

I(c, c , N, D) = M (F )

I(c, c0 , N, C, D) =

Z M (F )

H(F )U (F )c

Z

U (F )−U (F )c0

Z

H(F )U (F )c

1σ≥C (hu)φ(m, h, u, u0 ; D)du0 du dh dm.

U (F )c0

(5) L’intégrale I(c, N, D) est convergente. Les termes c et D étant fixés, il existe un réel R tel que I(c, N, D)  N R pour tout N ≥ 1. (6) L’intégrale I(c, c0 , N, D) est convergente. Les termes c et D étant fixés, pour tout réel R, il existe α > 0 tel que I(c, c0 , N, D)  N −R pour tout N ≥ 2 et tout c0 ≥ α log(N ). (7) L’intégrale I(c, c0 , N, C, D) est convergente. Les termes c et D étant fixés, pour tout réel R, il existe α > 0 tel que I(c, c0 , N, C, D)  N −R pour tout N ≥ 1, tout c0 ≥ 1 et tout C ≥ α(log(N ) + c0 ).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

44

J.-L. WALDSPURGER

4.2. Choix d’une base. — On fixe une base (vi )i=r+1,...,d−r−1 de W . On la complète en une base de V en posant vi = zr+1−i pour i = 1, . . . , r, vi = zd−i−r pour i = d − r, . . . , d. Dans cette section, le réseau R que l’on a fixé n’intervient que via les fonctions κN . Considérons un autre réseau R0 , qui donne naissance à d’autres fonctions κ0N . On vérifie qu’il existe c ≥ 0 tel que κ0N (g) ≤ κN +c (g) ≤ κ0N +2c (g) pour tout g ∈ G(F ) et tout N ≥ 1. Les majorations que l’on veut obtenir sont donc insensibles au changement de κN en κ0N . Cela nous autorise à supposer que R est le réseau de base (vi )i=1,...,d sur oF . Donc K = Kd . On introduit le tore Ad et le sousgroupe de Borel Bd . Notons Sd le groupe des permutations de l’ensemble {1, . . . , d}. Pour tout s ∈ Sd , on note Ad (F )− s le sous-ensemble des a ∈ Ad (F ) tels que valF (as(1) ) ≥ valF (as(2) ) ≥ · · · ≥ valF (as(d) ). Pour s égal à l’identité, on pose simplement Ad (F )− = Ad (F )− s . 4.3. Comparaison de ΞH et ΞG Lemme 4.1. — Supposons r = 0. Il existe ε > 0 tel que ΞG (h)  exp(−εσ(h))ΞH (h) pour tout h ∈ H(F ). Démonstration. — Pour r = 0, on a H = GLd−1 . En vertu de l’égalité H(F ) = Kd−1 Ad−1 (F )− Kd−1 , on peut supposer h = a ∈ Ad−1 (F )− . Si valF (a1 ) < 0, posons k = 1. Sinon, soit k le plus grand entier tel que 2 ≤ k ≤ d tel que valF (ak−1 ) ≥ 0. Introduisons l’élément b ∈ Ad (F ) tel que bi = ai pour i = 1, . . . , k − 1, bk = 1 et bi = ai−1 pour i = k + 1, . . . , d. L’élément b appartient à Ad (F )− et est conjugué à a. En vertu du lemme II.1.1 de [9], il existe un entier D, indépendant de a, tel que ΞG (a) = ΞG (b)  δBd (b)1/2 σ(a)D . On a aussi δBd−1 (a)1/2  ΞH (a). On calcule δBd (b)1/2 = δBd−1 (a)1/2 (

Y

1/2

Y

|ai |F )(

i=1,...,k−1

i=k,...,d−1

En vertu de la définition de k, cela équivaut à δBd (b)1/2 = δBd−1 (a)1/2 q −Σ(a) , où q est le nombre d’éléments du corps résiduel et X Σ(a) = |valF (ai )|. i=1,...,d−1

On obtient ΞG (a)  σ(a)D q −Σ(a) ΞH (a). Mais Σ(a)  σ(a) et le lemme s’ensuit.

ASTÉRISQUE 347

−1/2

|ai |F

).

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

45

4.4. Majorations d’intégrales unipotentes. — Pour simplifier les notations, on pose B = Bd . Pour tout Q = MQ UQ ∈ F (Ad ) et pour tout g ∈ G(F ), on fixe une décomposition g = mQ (g)uQ (g)kQ (g), avec mQ (g) ∈ MQ (F ), uQ (g) ∈ UQ (F ), kQ (g) ∈ K. Dans le cas particulier où Q ∈ P (Ad ), on note plutôt aQ (g) le terme mQ (g). Supposons r ≥ 1. Notons Vr−1 le sous-espace de V engendré par V0 et les vecteurs z±j pour j = 0, . . . , r − 1. Notons Pr le sous-groupe parabolique de G formé des éléments qui conservent le drapeau F zr ⊂ F zr ⊕ Vr−1 . On note Ur son radical unipotent et Mr sa composante de Lévi qui contient M . Notons Ur,\ le sous-groupe des éléments u ∈ Ur tels que ur,r−1 = u1−r,−r = 0. Pour deux réels b et D, posons Z Ir,\ (b, D) = 1σ≥b (u)δP¯ (mP¯ (u))1/2 ΞM (mP¯ (u))σ(u)D du. Ur,\ (F )

Lemme 4.2. — Cette intégrale est convergente. Pour D fixé, il existe ε > 0 tel que Ir,\ (b, D)  exp(−εb) pour tout b ≥ 0. Démonstration. — Supposons r ≥ 2. Remarquons que l’on peut aussi bien travailler avec l’intégrale Z Jr,\ (b, D) = 1σ≥b (u)δB¯ (aB¯ (u))1/2 σ(u)D du. Ur,\ (F )

En effet, d’après [9] lemmes II.1.1 et II.3.2, il existe un réel D1 tel que (m))1/2 σ(m)D1 δP¯ (m)1/2 ΞM (m)  δB¯ (aB∩M ¯ (mP¯ (g)) et pour tout m ∈ M (F ). Pour g ∈ G(F ), on peut supposer aB¯ (g) = aB∩M ¯ on a σ(mP¯ (g))  σ(g). Alors Ir,\ (b, D)  Jr,\ (b, D + D1 ). Notons P 0 le sous-groupe parabolique de G formé des éléments qui conservent la droite F zr . Notons U 0 son radical unipotent et M 0 sa composante de Lévi contenant M . Posons P 00 = M 0 ∩ Pr et notons U 00 = M 0 ∩ Pr le radical unipotent de P 00 . On a P 00 = Mr U 00 . On pose U\0 = U 0 ∩ Ur,\ , U\00 = U 00 ∩ Ur,\ . On a Ur = U 0 U 00 = U 00 U 0 et Ur,\ = U\0 U\00 = U\00 U\0 . Posons Z 0 J\ (b, D) = 1σ≥b (u)δB¯ (aB¯ (u))1/2 σ(u)D du, U\0 (F )

J\00 (b, D) =

Z U\00 (F )

1/2 1σ≥b (u)δB∩M σ(u)D du. 0 (aB∩M 0 (u)) ¯ ¯

On a (1) ces intégrales sont convergentes ; pour D fixé, il existe εD > 0 tel que J\0 (b, D)  exp(−εD b), J\00 (b, D)  exp(−εD b)

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

46

J.-L. WALDSPURGER

pour tout b ≥ 0. L’assertion concernant J\0 (b, D) est l’assertion (1) de [14] 3.3. Considérons J\00 (b, D). On a M 0 = GL1 × GLd−1 et tout se passe dans le bloc GLd−1 . Appliquons dans ce bloc l’automorphisme θd−1 . Cela transforme le groupe U\00 en l’analogue de U\0 quand on remplace d par d − 1. Alors l’assertion résulte de la même assertion (1) de [14] 3.3, appliquée au groupe GLd−1 . D’autre part, on vérifie facilement qu’il existe α > 0 tel que δB¯ (aB¯ (gg 0 ))1/2  δB¯ (aB¯ (g))1/2 δB¯ (aB¯ (g 0 ))1/2 exp(ασ(g 0 ))

(2)

pour tous g, g 0 ∈ G(F ). Fixons un réel auxiliaire β > 0 que l’on précisera plus tard. Décomposons Jr,\ (b, D) en Jr,\ (b, D) = J≥ (b, D) + J< (b, D), où

Z

Z

J≥ (b, D) = U\00 (F )

Z

U\0 (F )

Z

J< (b, D) = U\00 (F )

U\0 (F )

1σ≥b (u0 u00 )1σ≥βσ(u00 )+b/2 (u0 )δB¯ (aB¯ (u0 u00 ))1/2 σ(u0 u00 )D du0 du00 , 1σ≥b (u0 u00 )1σ 0 et α − βεD < 0. D’après le lemme II.4.2 de [9], l’intégrale est convergente. On obtient J≥ (b, D)  exp(−εD b/2).

(3) 00

0

Le groupe U normalise U . Dans J< (b, D), effectuons le changement de variables u0 → 7 u00 u0 u00 −1 . Le terme 1σ 0, θt˜(α) < 0 et mα (τλ ) = 0. On pose ετλ (t˜) = (−1)n (t˜) . Introduisons l’opérateur d’entrelacement normalisé G RQ|θt˜(Q) (τλ ) : K G θt˜(Q),τ → K Q,τ .

Ici, la normalisation choisie n’a pas d’importance, pouvu que cet opérateur préserve les produits scalaires. Fixons un automorphisme A(τλ ) de l’espace de τ tel que τλ (l) ◦ A(τλ ) = A(τλ ) ◦ θt˜(τλ )(l) pour tout l ∈ L(F ). Définissons un opérateur G A(τλ , t˜) : K G Q,τ → K θt˜(Q),τ

par (A(τλ , t˜)e)(k) = A(τλ ) ◦ e(θ(t−1 k)) 0 0 0 ˜0 ˜0 0 ˜0 pour tous e ∈ K G Q,τ , k ∈ K. Pour Q = L U ∈ P (L ), posons Q(Q ) = (L ∩ Q)U . 1,4 ˜ C’est un élément de P (L). On définit les deux fonctions µ 7→ jQ˜ 0 (t, λ, µ) et µ 7→ ∗ ˜ j 2,3 ˜ 0 par ˜ 0 (t, λ, µ) sur i A L Q

1,4 ˜ −1 ˜ jQ JQ(Q¯ 0 )|Q (τλ+µ )e4 ), ¯ 0 )|Q (τλ ) ˜ 0 (t, λ, µ) = (RQ|θt˜(Q) (τλ )A(τλ , t)e1 , JQ(Q 2,3 ˜ −1 jQ JQ(Q0 )|Q (τλ+µ )e2 , RQ|θt˜(Q) (τλ )A(τλ , t˜)e3 ). ˜ 0 (t, λ, µ) = (JQ(Q0 )|Q (τλ )

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

83

2,3 ˜ 1,4 ˜ ˜ ˜0 Les familles (jQ ˜ 0 ∈ P (L ˜ 0 ) sont des (G, L )-familles. Notons ˜ 0 ∈ P (L ˜ 0 ) et (jQ ˜ 0 (t, λ))Q ˜ 0 (t, λ))Q ( J Q˜ 0 (t˜, λ))Q˜ 0 ∈ P (L˜ 0 ) la famille produit : 2,3 ˜ ˜ J Q˜ 0 (t˜, λ, µ) = jQ1,4 ˜ 0 (t, λ, µ). ˜ 0 (t, λ, µ)jQ

˜ L ˜ 0 )-famille, on peut lui associer la fonction J ˜ 0 (t˜, λ, µ), puis le Comme à toute (G, L ˜ nombre J L˜ 0 (t, λ) = J L˜ 0 (t˜, λ, 0). Admettons que ce nombre soit fonction C ∞ de λ. Posons X X |det(1 − θt˜)| A L / A L˜ 0 |−1 Φ((ei )i=1,...,4 , ϕ) = ˜0 ˜ ˜0∈ LG L ;L⊂L0 t˜∈W L (L)reg

X λ∈Λ O (t˜)/(i A

∨ L,F +i

ετλ (t˜) A

∗ ˜0 ) L

Z i A ∗˜ 0

ϕ(λ + χ) J L˜ 0 (t˜, λ + χ)dχ.

L ,F

Pour tout entier k ∈ N, fixons une base X k de l’espace des opérateurs différentiels sur i A ∗L , à coefficients constants et d’ordre ≤ k. Posons |ϕ|k = sup{|Xϕ(λ)|; λ ∈ i A ∗L , X ∈ X k }. Introduisons l’espace PolExp des fonctions Φ sur A A˜d ,F ⊗Z Q vérifiant la condition suivante. Soit R ⊂ A A˜d ,F ⊗Z Q un réseau. Alors il existe un ensemble fini Ξ R ⊂ ∨ ∨ i A ∗A˜d /i R (où R est l’ensemble des λ ∈ A ∗A˜d tel que λ(Y ) ∈ 2πZ pour tout Y ∈ R ) et, pour tout ξ ∈ Ξ R , il existe un polynôme p R,ξ sur A A˜d de sorte que X Φ(Y ) = eξ(Y ) p R,ξ (Y ) ξ∈Ξ R

pour tout Y ∈ R . Un tel développement est unique. On pose c R,0 (Φ) = p R,0 (0). Proposition 6.4. — (i) La fonction λ 7→ J L˜ 0 (t˜, λ) est C ∞ . (ii) Il existe une unique fonction Φ(ei )i=1,...,4 ,ϕ ∈ PolExp de sorte que (a) pour tout réseau R ⊂ A A˜d ,F ⊗Z Q, lim p k1 R,0 (Φ(ei )i=1,...,4 ,ϕ ) = Φ((ei )i=1,...,4 , ϕ);

k→∞

(b) pour tout R > 0, il existe un entier k et une constante c > 0 dépendant de R et des ei mais pas de ϕ, de sorte que |ΦY ((ei )i=1,...,4 , ϕ) − Φ(ei )i=1,...,4 ,ϕ (Y )| ≤ c|ϕ|k |Y |−R pour tout Y ∈ D. Démonstration. — L’existence d’un élément de Φ(ei )i=1,...,4 ,ϕ ∈ PolExp vérifiant la propriété (ii)(b) est le lemme 3.19 de [13], précisé par la relation 3.19(1). Un tel élément est forcément unique. Le corollaire 3.24 de [13] calcule limk→∞ p k1 R,0 (Φ(ei )i=1,...,4 ,ϕ ), mais exprime cette limite sous une forme différente de celle que l’on veut. Dans la preuve de la proposition 3.24 de [13], on montre qu’après sommation sur un certain ensemble de quadruplets (ei )i=1,...,4 , ces deux formes sont

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

84

J.-L. WALDSPURGER

équivalentes. En fait, la même preuve vaut pour un quadruplet fixé. Cette preuve démontre en même temps l’assertion (i). 6.7. Utilisation de la formule des traces locale tordue. — Revenons aux données de 6.5. Pour g 0 ∈ G(F ) et Y ∈ D, on a défini ΦY (g 0 ) dans ce paragraphe. ˜ 0 ∈ L G˜ tel que L ⊂ L0 et soient t˜ ∈ W L˜ 0 (L)reg et λ ∈ Λ O (t˜). On définit les deux Soit L ˜ L ˜ 0 )-familles suivantes. Pour Q ˜ 0 ∈ P (L ˜ 0 ) et µ ∈ i A ∗˜ 0 , on pose (G, L X jQ˜ 0 (t˜, λ, µ) = (RQ|θt˜(Q) (τλ )A(τλ , t˜)e, JQ(Q¯ 0 )|Q (τλ )−1 JQ(Q¯ 0 )|Q (τλ+µ )πλ (f 0 )e), K 0

e∈ B O f

dQ˜ 0 (t˜, λ, g 0 , µ) = (JQ(Q0 )|Q (τλ )−1 JQ(Q0 )|Q (τλ+µ )e00 , RQ|θt˜(Q) (τλ )A(τλ , t˜)πλ (g 0 )e0 ). Posons (jd)Q˜ 0 (t˜, λ, g 0 , µ) = jQ˜ 0 (t˜, λ, µ)dQ˜ 0 (t˜, λ, g 0 , µ)cQ˜ 0 (µ). ˜ L ˜ 0 )-famille et on lui associe le nombre La famille ((jd)Q˜ 0 (t˜, λ, g 0 ))Q˜ 0 ∈ P (L˜ 0 ) est une (G, 0 (jd)L˜ 0 (t˜, λ, g ). Le (i) de la proposition du paragraphe précédent entraîne que ce nombre est fonction C ∞ de λ. On pose X X Φ(g 0 ) = |det(1 − θt˜)| A L / A L˜ 0 |−1 ˜ ˜0 ˜0∈ LG L ;L⊂L0 t˜∈W L (L)reg

X

ετλ (t˜)

Z iA

∗ λ∈Λ O (t˜)/(i A ∨ L,F +i A ˜ 0 ) L

∗ ˜ 0 ,F L

ϕ(λ + χ)(jd)L˜ 0 (t˜, λ + χ, g 0 )dχ.

Proposition 6.5. — Pour tout réel R ≥ 1, il existe un entier k ≥ 0 tel que l’on ait une majoration |ΦY (g 0 ) − Φ(g 0 )|  σ(g 0 )k ΞG (g 0 )|Y |−R pour tous g 0 ∈ G(F ) et Y ∈ D. Démonstration. — Fixons un sous-groupe ouvert compact K0 de K, conservé par l’automorphisme θ, et qui fixe e00 . La fonction g 7→ u ˜(g, Y ) est biinvariante par K. Dans la définition de ΦY (g 0 ) donnée en 6.5, on peut remplacer g par kg pour k ∈ K0 , puis intégrer en k, en divisant l’expression obtenue par mes(K0 ). Cela remplace ΦY (g 0 ) par une expression analogue, où πλ (g 0 )e0 est remplacé par Z −1 mes(K0 ) πλ (kg 0 )e0 dk. K0 K0

K0 Fixons une base orthonormée B O de ( K G . Le terme ci-dessus est égal à Q,τ ) X (e0 , πλ (g 0 )e0 )e0 . K

e0 ∈ B O 0

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

K

85

0

De même, pour e ∈ B O f , on peut remplacer πλ (f 0 )e par son expression dans la base K

B O f 0 . On voit alors que X

ΦY (g 0 ) =

K 0 f

e,e4 ∈ B O

ΦY (e, e0 , e00 , e4 , ϕe,e0 ,e4 ,g0 ), K

,e0 ∈ B O 0

où ϕe,e0 ,e4 ,g0 (λ) = ϕ(λ)(e4 , πλ (f 0 )e)(e0 , πλ (g 0 )e0 ). La proposition du paragraphe précédent nous fournit une fonction X Φg 0 = Φ(e,e0 ,e00 ,e4 ),ϕe,e ,e ,g0 . 0

K 0

4

K

e,e4 ∈ B O f ,e0 ∈ B O 0

Elle appartient à PolExp. Le (ii)(b) de la proposition nous dit que, pour tout réel R ≥ 1, il existe un entier k et une constante c > 0 indépendants de g 0 telle que |ΦY (g 0 ) − Φg0 (Y )| ≤ c supe,e0 ,e4 |ϕe,e0 ,e4 ,g0 |k |Y |−R pour tout Y ∈ D. On montre que supe,e0 ,e4 |ϕe,e0 ,e4 ,g0 |k  σ(g 0 )k ΞG (g 0 ), cf. [14] 6.7. La majoration précédente devient (1)

|ΦY (g 0 ) − Φg0 (Y )| ≤ cσ(g 0 )k ΞG (g 0 )|Y |−R .

Montrons que cela entraîne que Φg0 est constante. Pour cela, on peut fixer g 0 . Fixons c1 et c2 vérifiant les conditions de la proposition 6.3 pour η = 1/2. Pour Y ∈ D, notons 0 0 NY la partie entière de 2c−1 2 |Y | + 1. Soit Y ∈ D tel que |Y − Y | ≤ |Y |/2. Si |Y | 0 est assez grand, les deux couples (NY , Y ) et (NY , Y ) vérifient les conditions de la proposition 6.5 (et on a aussi σ(g 0 ) ≤ Clog(NY )). Cette proposition appliquée aux deux couples entraîne |ΦY (g 0 ) − ΦY 0 (g 0 )|  NY−R  |Y |−R . Grâce à (2), on en déduit |Φg0 (Y ) − Φg0 (Y 0 )|  |Y |−R . Or un élément de PolExp qui vérifie une telle majoration pour tout Y ∈ D tel que |Y | soit assez grand et tout Y 0 ∈ D tel que |Y − Y 0 | ≤ |Y |/2 ne peut qu’être constant. Cela prouve l’assertion. Puisque Φg0 est constant, sa valeur n’est autre que c R,0 (Φg0 ) pour tout réseau R ⊂ A A˜d ,F ⊗Z Q. L’assertion (ii)(a) de la proposition 6.4 implique alors que cette valeur est égale à X Φ(e, e0 , e00 , e4 , ϕe,e0 ,e4 ,g0 ). K 0

K

e,e4 ∈ B O f ,e0 ∈ B O 0

Mais on reconstitue aisément cette somme : c’est Φ(g 0 ). Alors la majoration (1) devient celle de l’énoncé.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

86

J.-L. WALDSPURGER

˜ 0 ∈ L G˜ tel que L ⊂ L0 . Fixons S˜0 = L ˜0U 0 ∈ 6.8. Simplification de Φ(g 0 ). — Soit L 0 ˜ ∗ L0 0 L ˜ P (L ). Notons Λ O,ell l’ensemble des λ ∈ i A L tels que la représentation IndQ∩L0 (τλ ) ˜ 0 (F ). On a décrit ces représentations s’étende en une représentation elliptique de L en 2.4. Pour tout élément λ de cet ensemble, fixons un prolongement unitaire σ ˜λ de 0 ˜ 0 G ˜ (˜ IndL (τ ) à L (F ). A cette représentation est associé un caractère pondéré J 0 λ Q∩L ˜ 0 σλ , .) L G ∞ ˜ sur Cc (G(F )), cf. 1.9. La représentation πλ = IndQ (τλ ) s’identifie à l’induite de S 0 (F ) à G(F ) de la représentation précédente (remarquons que, pour les groupes linéaires, toutes ces induites sont irréductibles). Du prolongement fixé σ ˜λ se déduit ˜ ). un prolongement π ˜λ de πλ à G(F ˜0 ∗ Remarquons que ΛLO,ell est invariant par translations par i A ∨ ˜ 0 . On peut L,F + i A L ∗ , σ ˜ = (˜ σ ) . Rappelons que supposer et on suppose que, pour χ ∈ i A ∨ + i A ˜0 λ+χ λ χ L,F L ˜0 L l’on a noté aL˜ 0 la dimension de A L˜ 0 et que, pour tout λ ∈ Λ O,ell , on a défini un entier s(˜ σλ ) en 2.4. Lemme 6.6. — Pour tout g 0 ∈ G(F ), on a l’égalité X X Φ(g 0 ) = (−1)aL˜ 0 ˜ G

˜ 0 ∈ L ;L⊂L0 L

Z iA

˜0 λ∈ΛL /(i O,ell

2−s(˜σλ )−aL˜ 0

∗ A∨ ˜0 ) L,F +i A L

˜

∗ ˜ 0 ,F L

(˜ πλ+χ (θ d )e00 , πλ+χ (g 0 )e0 )JLG σλ+χ , f˜)ϕ(λ + χ)dχ. ˜ 0 (˜

˜ 0 ∈ L G˜ tel que L ⊂ L0 , t˜ ∈ W L˜ 0 (L)reg et λ ∈ Λ O (t˜). Démonstration. — Fixons L Considérons le terme (jd)L˜ 0 (t˜, λ, g 0 ) du paragraphe précédent. Remplaçons dans ˜ L ˜ 0 )-familles les opérateurs d’entrelacement par des opéles définitions des (G, rateurs normalisés. Cela remplace la famille produit ((jd)Q˜ 0 (t˜, λ, g 0 , µ))Q˜ 0 ∈ P (L˜ 0 ) par un triple produit ((jdc)Q˜ 0 (t˜, λ, g 0 , µ))Q˜ 0 ∈ P (L˜ 0 ) , où maintenant les familles (jQ˜ 0 (t˜, λ, µ))Q˜ 0 ∈ P (L˜ 0 ) et (dQ˜ 0 (t˜, λ, g 0 , µ))Q˜ 0 ∈ P (L˜ 0 ) sont définies à l’aide d’opérateurs normalisés et (cQ˜ 0 (t˜, λ, g 0 , µ))Q˜ 0 ∈ P (L˜ 0 ) est formée des facteurs de normalisation. On a donc maintenant X (RQ|θt˜(Q) (τλ )A(τλ , t˜)e, RQ(Q¯ 0 )|Q (τλ )−1 RQ(Q¯ 0 )|Q (τλ+µ )πλ (f 0 )e). jQ˜ 0 (t˜, λ, µ) = K 0

e∈ B O f

0

Puisque θt˜(τλ ) = τλ , la représentation IndL L0 ∩Q (τλ ) s’étend en une représentation ˜ 0 (F ). Celle-ci n’a pas de raison d’être elliptique, mais on peut tout irréductible de L de même définir comme avant l’énoncé les représentations σ ˜λ et π ˜λ . Considérons l’opérateur RQ|θt˜(Q) (τλ )A(τλ , t˜). En revenant à sa définition, on voit qu’il vérifie πλ (g)RQ|θt˜(Q) (τλ )A(τλ , t˜) = RQ|θt˜(Q) (τλ )A(τλ , t˜)πλ (θ(g))

ASTÉRISQUE 347

CALCUL D’UNE VALEUR D’UN FACTEUR ε PAR UNE FORMULE INTÉGRALE

87

pour tout g ∈ G(F ). Mais π ˜λ (θ d )−1 vérifie la même propriété. Puisque πλ est irréductible, les deux opérateurs sont proportionnels. Puisqu’ils sont tous deux unitaires, il existe un nombre complexe z de module 1 tel que RQ|θt˜(Q) (τλ )A(τλ , t˜) = z˜ πλ (θ d )−1 . K

Kf 0 L’ensemble {˜ πλ (θ d )e; e ∈ B O f } est encore une base orthonormée de ( K G . Q,τ ) Kf 0 Notons-la B\ . Par le changement de variables e 7→ π ˜λ (θ d )e, on obtient X jQ˜ 0 (t˜, λ, µ) = (ze, RQ(Q¯ 0 )|Q (τλ )−1 RQ(Q¯ 0 )|Q (τλ+µ )πλ (f 0 )˜ πλ (θ d )e). 0

K 0 f

e∈ B\

En se rappelant que f 0 (g) = f˜(gθ d ), on vérifie que πλ (f 0 )˜ πλ (θ d ) = π ˜λ (f˜). Alors jQ˜ 0 (t˜, λ, µ) = z¯ trace(RQ(Q¯ 0 )|Q (τλ )−1 RQ(Q¯ 0 )|Q (τλ+µ )˜ πλ (f˜)). On peut encore remplacer le sous-groupe parabolique Q par Q(S 0 ). En effet, les propriétés de composition des opérateurs d’entrelacement entraînent que j ˜ 0 (t˜, λ, µ) = z¯ trace(RQ(Q¯ 0 )|Q(S 0 ) (τλ )−1 RQ(Q¯ 0 )|Q(S 0 ) (τλ+µ )r(λ, µ)˜ πλ (f˜)), Q

où on réalise maintenant π ˜λ dans K G Q(S 0 ),τ et où r(λ, µ) = RQ(S 0 )|Q (τλ+µ )RQ(S 0 )|Q (τλ )−1 . ˜ L ˜ 0 )-familles Cet opérateur ne dépend pas de Q0 et une propriété familière des (G, entraîne qu’il disparaît quand on calcule le nombre associé jL˜ 0 (t˜, λ). Autrement dit, ˜ L ˜ 0 )-famille (j 0 0 (t˜, λ)) ˜ 0 si on définit une (G, ˜ 0 ) par ˜ Q ∈ P (L Q 0 ˜ jQ ¯ trace(RQ(Q¯ 0 )|Q(S 0 ) (τλ )−1 RQ(Q¯ 0 )|Q(S 0 ) (τλ+µ )˜ πλ (f˜)), ˜ 0 (t, λ, µ) = z

on a l’égalité jL˜ 0 (t˜, λ) = jL0˜ 0 (t˜, λ). Mais on reconnaît ce dernier terme en se reportant à la définition de 1.9. On obtient ˜ j ˜ 0 (t˜, λ) = z¯J G σλ , f˜). ˜ 0 (˜ L

L

˜ 00 = L ˜ 00 U 00 ∈ F (L ˜ 0 ), le même calcul vaut pour les (L ˜ 00 , L ˜ 0 )-familles déduites, Si Q c’est-à-dire que l’on a ˜ 00 ˜ 00 ˜ jLQ ¯JLQ σλ , f˜). ˜ 0 (t, λ) = z ˜ 0 (˜ On se rappelle que f˜ est très cuspidale. D’après le lemme 1.6(i), le terme ci-dessus est ˜ 00 6= G. ˜ En appliquant les formules de descente habituelles, on obtient nul si Q ˜0

˜0

0 Q ˜ (jdc)L˜ 0 (t˜, λ, g 0 ) = jL˜ 0 (t˜, λ)dQ ˜ 0 (t, λ, g )cL ˜ 0 (λ), L 0

˜ 0 est un élément quelconque de P (L ˜ 0 ). On vérifie que cQ˜ (λ) = 1 et où Q ˜0 L 0

˜ 0 00 0 0 ˜ ˜ dQ ˜ 0 (t, λ, g ) = (e , RQ|θt˜(Q) (τλ )A(τλ , t)πλ (g )e ) L

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

88

J.-L. WALDSPURGER

= (e00 , z˜ πλ (θ d )−1 πλ (g 0 )e0 ) = z(˜ πλ (θ d )e00 , πλ (g 0 )e0 ). Les termes z z¯ disparaissent puisque z est de module 1.Toujours d’après le lemme ˜ σλ , f˜) est nul si σ ˜λ est une induite propre, ce qui 1.6(i), le caractère pondéré JLG ˜ 0 (˜ équivaut à ce qu’elle ne soit pas elliptique. On a obtenu ( ˜ ˜0 (˜ πλ (θ d )e00 , πλ (g 0 )e0 )JLG σλ , f˜), si λ ∈ ΛLO,ell , ˜ 0 (˜ 0 (jdc)L˜ 0 (t˜, λ, g ) = 0, sinon. ˜0 ˜0 Il reste à remarquer que pour tout λ ∈ ΛLO,ell , il existe exactement un t˜ ∈ W L (L)reg tel que λ ∈ Λ O (t˜) et que, pour ce t˜, on a |det(1 − θt˜)| A M / A L˜ 0 | = 2s(˜σλ )+aL˜ 0 . Ces propriétés se vérifient aisément sur la description de 2.4. Cela achève la preuve.

6.9. Évaluation d’une limite Lemme 6.7. — On a l’égalité −1 lim JL, O,N,C (Θρ˜, f˜) = [i A ∨O : i A ∨ L,F ] N →∞

L0

X

2−s(πλ

)−aL ˜0

εν ((˜ σλ )∨ , ρ˜)

˜0

λ∈ΛL /((i A ∨ ˜0 ) L,F +i A L O,ell

X

(−1)aL˜ 0

˜ ˜0∈ LG L ;L⊂L0

Z i A∗ L0 ,F

˜ JLG σλ+χ , f˜)dχ. ˜ 0 (˜

Démonstration. — Considérons la définition de JL, O,N,C (Θρ˜, f˜) donnée avant le lemme 6.2. Un calcul formel montre qu’elle ne dépend pas du choix de la base K orthonormée B O f , ni de celui du groupe Kf pourvu qu’il soit assez petit. En faisant K

entrer la sommation en e dans la dernière intégrale, on peut même remplacer B O f par une base dépendant de λ. Soit γ l’élément de G(F ) tel que y˜ = γθ d . On a les égalités f (g) = f˜(g y˜) = f˜(gγθ d ) = f 0 (gγ) pour tout g ∈ G(F ). On peut donc K supposer que Kf = γKf 0 γ −1 et remplacer B O f par K

0

{πλ (γ)e; e ∈ B O f }. On a πλ (f )πλ (γ)e = πλ (f 0 )e, et πλ (θy˜(g))πλ (γ)e = πλ (γ)πλ (θ(g))e. On obtient ainsi X −1 JL, O,N,C (Θρ˜, f˜) = [i A ∨O : i A ∨ L,F ] j=1,...,n

Z

−1 ¯ 1σ d0 . On choisit ρ comme ci-dessus, relativement aux représentations σ0 et σ 0 . Remarquons que ρ vérifie alors pour tout j les mêmes hypothèses relativement aux représentations σ0 et σj0 . Donc, d’après (2), m(σ0 , σ ˇj0 ) = m(ρ × σj0 , σ ˇ0 ), puis X m(σ0 , σ ˇj0 ) = m(ρ × σ 0 , σ ˇ0 ). j=1,...,k

On peut maintenant appliquer les mêmes résultats de [13]. Ils entraînent que ce dernier terme vaut m(σ0 , σ00 ). Cela prouve (3).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

180

C. MŒGLIN & J.-L. WALDSPURGER

Revenons au cas général. On définit un invariant X X N (σ, σ 0 ) = ( Ni ) + ( i=1,...,t;bi 6=0

Ni0 ).

i=1,...,t0 ;b0i 6=0

Soit N un entier naturel. On va démontrer par récurrence sur N que l’inégalité (1) est vérifiée pour toutes données G, G0 , σ, σ 0 vérifiant les conditions requises et telles que N (σ, σ 0 ) = N . Le cas N = 0 est couvert par (3). On suppose maintenant N > 0 et on fixe des données avec N (σ, σ 0 ) = N . 1er cas. On suppose d = d0 + 1, t ≥ 1 et b1 ≥ b01 . Posons σ1 = π2 |.|bF2 × · · · × πt |.|bFt × σ0 . C’est une représentation d’un groupe G1 de même type que G et on a σ = π1 |.|bF1 × σ1 . La situation permet d’appliquer le lemme 1.2 : on a m(σ, σ ˇ 0 ) ≤ m(σ 0 , σ ˇ1 ). On applique l’hypothèse de récurrence aux groupes G0 et G1 et à leurs représentations σ 0 et σ1 . C’est loisible puisque N (σ 0 , σ1 ) = N (σ, σ 0 ) − dπ1 < N . On en déduit m(σ 0 , σ ˇ1 ) ≤ m(σ0 , σ00 ), puis (1). e 2 cas. On suppose t0 ≥ 1 et b01 ≥ b1 . Choisissons une représentation ρ vérifiant les hypothèses permettant d’appliquer (2). Grâce à cette relation, on a m(σ, σ ˇ0) = 0 0 m(ρ × σ , σ ˇ ). Mais les représentations ρ × σ et σ vérifient les hypothèses du premier cas. Donc m(ρ × σ 0 , σ ˇ ) ≤ m(σ0 , σ00 ). 3e cas. On suppose t ≥ 1 et b1 ≥ b01 . On raisonne comme dans le deuxième cas, à ceci près que les représentations ρ × σ 0 et σ vérifient maintenant les hypothèses du deuxième cas. Pour N > 0, on est forcément dans l’un des deuxième ou troisième cas et cela prouve (1). 1.7. Produit multilinéaire. — On suppose d = d0 + 1. Fixons un sous-tore déployé maximal A0 de G0 et un sous-tore déployé maximal A de G qui contient A0 . 0 Fixons des sous-groupes paraboliques minimaux Pmin de G0 et Pmin de G, contenant 0 respectivement A et A. On peut les choisir de sorte que : 0

– soient n0 ≤ n les entiers tels que A ' GL(1)n et A0 ' GL(1)n ; alors le plongement de A0 dans A s’identifie à (a1 , . . . , an0 ) 7→ (a1 , . . . , an0 , 1, . . . , 1) ; 0 – l’ensemble des racines simples de a0 relatif à Pmin est formé des caractères −1 0 (a1 , . . . , an0 ) 7→ ai ai+1 pour i = 1, . . . , n − 1 et de (a1 , . . . , an0 ) 7→ an0 , sauf dans le cas où d0 = 2n0 , auquel cas la dernière racine est remplacée par (a1 , . . . , an0 ) 7→ an0 −1 an0 ; de même pour l’ensemble des racines simples de T relatif à Pmin . On peut supposer que les sous-groupes paraboliques servant à définir les représen0 tations σ et σ 0 de 1.3 contiennent les sous-groupes paraboliques Pmin , resp. Pmin . 0 0 On fixe des sous-groupes compacts spéciaux K de G (F ) et K de G(F ), en bonne 0 position relativement à Pmin et Pmin .

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

181

En 1.3, on a supposé que les bi et b0i étaient réels et vérifiaient certaines inégalités. Oublions ces conditions en prenant pour bi et b0i des nombres complexes quelconques. On introduit les paramètres z = (z1 , . . . , zt ) et z0 = (z10 , . . . , zt00 ), avec zi = q −bi et 0 zi0 = q −bi , où q est le nombre d’éléments du corps résiduel de F . On note plutôt nos représentations σz et σz0 0 . Suivant Bernstein, on peut considérer σz et σz0 0 comme les spécialisations pour ces valeurs des paramètres de représentations à valeurs dans l’algèbre R = C[z1±1 , . . . , zt±1 , (z10 )±1 , . . . , (zt00 )±1 ]. La représentation σz se réalise dans un espace E de fonctions e : K → Eπ1 ⊗C · · · ⊗C Eπt ⊗ Eσ0 et cet espace est indépendant de z. On note σ ˇz la contragrédiente de σz . Elle se réalise ˇ de même dans un espace E de fonctions eˇ : K → Eπˇ1 ⊗C · · · ⊗C Eπˇt ⊗ Eσˇ0 . On introduit le produit bilinéaire naturel sur E × ˇE : Z dk, = K

où le produit intérieur est l’accouplement naturel sur (Eπ1 ⊗C · · · ⊗C Eπt ⊗ Eσ0 ) × (Eπˇ1 ⊗C · · · ⊗C Eπˇt ⊗ Eσˇ0 ). 0 Les mêmes considérations valent pour σz0 0 et on introduit des espaces E0 et ˇE , munis 0 d’un produit bilinéaire. Pour e ∈ E, eˇ ∈ ˇE, e0 ∈ E0 et eˇ0 ∈ ˇE , posons Z L (z, z0 ; e0 , eˇ0 , e, eˇ) = dx. G0 (F ) 0

Notons D le domaine de (C× )n × (C× )n défini par les relations q −1/2 < |zi |, |zj |, |zi zj0 |, |zi zj0

−1

| < q 1/2 ,

les i, j parcourant tous les entiers possibles. Lemme 1.4. — (i) L’intégrale L (z, z0 ; e0 , eˇ0 , e, eˇ) est absolument convergente pour (z, z0 ) ∈ D. (ii) Il existe un polynôme non nul D ∈ R et, pour tous e, eˇ, e0 , eˇ0 , il existe un polynôme L(z, z0 ; e0 , eˇ0 , e, eˇ) ∈ R de sorte que D(z, z0 ) L (z, z0 ; e0 , eˇ0 , e, eˇ) = L(z, z0 ; e0 , eˇ0 , e, eˇ) pour tout (z, z0 ) ∈ D. Démonstration. — Pour simplifier, on suppose d 6= 2n et d0 6= 2n0 . On indiquera plus loin comment adapter la preuve si l’une de ces conditions n’est pas vérifiée. Posons 0 A = X∗ (A0 ) et A R = X∗ (A0 ) ⊗Z Rn . L’ensemble des racines simples de A0 relatif à 0 Pmin s’identifie à un ensemble ∆0 de formes linéaires sur A R . On introduit l’ensemble

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

182

C. MŒGLIN & J.-L. WALDSPURGER

des poids {$α ; α ∈ ∆0 }. Fixons une uniformisante $F de F et identifions A à un sous-groupe de A0 (F ) par m

m = (m1 , . . . , mn0 ) 7→ ($Fm1 , . . . , $F t0 ). Introduisons le sous-ensemble A + formé des m ∈ A tels que m1 ≥ m2 ≥ · · · ≥ mt0 ≥ 0. D’après la décomposition de Cartan, il existe un sous-ensemble fini Γ0 de G0 (F ), contenu dans le commutant de A0 , de sorte que G0 (F ) soit union disjointe des ensembles K 0 mγ 0 K 0 pour m ∈ A + et γ 0 ∈ Γ0 . On a Z X X L (z, z0 ; e0 , eˇ0 , e, eˇ) = mes(mγ 0 ) K 0 ×K 0 γ 0 ∈Γ0 m∈ A +

dk1 dk2 , où mes(mγ 0 ) = mes(K 0 mγ 0 K 0 )mes(K 0 )−2 . Nos représentations étant lisses, cela nous permet de fixer γ 0 ∈ Γ0 et de remplacer l’intégrale L (z, z0 ; e0 , eˇ0 , e, eˇ) par la série X mes(mγ 0 ) S(z, z0 ; e0 , eˇ0 , e, eˇ) = m∈ A +

Considérons un élément T = (T1 , . . . , Tt0 ) ∈ A tel que T1 > · · · > Tt0 > 0. Un tel élément permet de décomposer A + en union disjointe de sous-ensembles A + (Q0 ), où 0 Q0 parcourt les sous-groupes paraboliques de G0 qui contiennent Pmin , cf. [2] 3.9. A Q0 0 sont associés un sous-ensemble ∆0 (Q0 ) ⊂ ∆0 et une décomposition A R = A Q0 ,R ⊕ A Q R . Le premier sous-espace est l’intersection des annulateurs des α ∈ ∆0 (Q0 ) et le second est engendré par les coracines α ˇ pour α ∈ ∆0 (Q0 ). On écrit tout m ∈ A R sous la forme 0 Q m = mQ0 + m conformément à cette décomposition. L’ensemble A + Q0 est celui des + m ∈ A tels que – α(mQ0 − TQ0 ) > 0 pour α ∈ ∆ \ ∆0 (Q0 ) ; 0 0 – $α (mQ − TQ ) ≤ 0 pour α ∈ ∆0 (Q0 ). On peut fixer Q0 et remplacer S(z, z0 ; e0 , eˇ0 , e, eˇ) par la série S(Q0 ; z, z0 ; e0 , eˇ0 , e, eˇ) où l’on restreint la somme aux m ∈ A + (Q0 ). Notons M 0 la composante de Lévi de Q0 qui contient A0 . On écrit M 0 = GL(N1 ) × · · · × GL(Nk ) × G01 , où G01 est un groupe de même type que G0 . Les éléments e0 et eˇ0 étant fixés, les résultats de Casselman nous disent que, si α(T) est assez grand pour tout α ∈ ∆, la propriété suivante est vérifiée. Notons pQ0 : Eσ0 0 → Eσ0 0 0 et pˇQ¯ 0 : Eσˇ 0 0 → E(ˇσ0 0 )Q¯ 0 les projections sur les modules z z ,Q z z de Jacquet. Alors il existe un produit bilinéaire M 0 (F ) invariant sur ces modules de sorte que, pour tout m ∈ A + (Q0 ), on ait l’égalité = δQ0 (m)1/2 . Remarquons qu’à Q0 est naturellement associé un sous-groupe parabolique Q de G contenant Pmin : le Lévi M de Q est GL(N1 ) × · · · × GL(Nk ) × G1 , où G1 est de même type que G. Un élément de A + (Q0 ) vérifie les mêmes conditions relativement

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

183

à Q que celles indiquées ci-dessus et on peut appliquer le résultat de Casselman. Les éléments e et eˇ étant fixés, si α(T) est assez grand pour tout α ∈ ∆, on a une égalité e)> = δQ (m)1/2 (2) c 7→ 0 telle que mes(K 0 mcγ 0 K 0 ) = mδQ0 (c)−1 pour tout c dans ce cône. Alors notre série est combinaison linéaire de séries de la forme X Y lj +l0 δQ0 (c)−1/2 δQ (c)1/2 χ0z0 (c)χz (c) cj j . (4) c∈ C (M 0 )+

j=1,...,k

On calcule δQ0 (c)−1/2 δQ (c)1/2 = q

−

P j=1,...,k

Nj cj /2

.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

184

C. MŒGLIN & J.-L. WALDSPURGER

Considérons l’expression (1). La représentation σ1 est tempérée, donc χ est bornée des nombres |zi |±1 , χz (c) est essentiellement sur C (M 0 )+ . Si on note z le plus grand P Q N c borné sur C (M 0 )+ par Pj=1,...,k z j=1,...,k j j . De même, χ0z0 (c) est essentiellement Q N c borné par j=1,...,k (z 0 ) j=1,...,k j j . La série (4) est donc essentiellement bornée par X Y 0 (zz 0 q −1/2 )Nj cj |cj |lj +lj . c∈ C (M 0 )+ j=1,...,t

Cette dernière série est convergente sous les hypothèses du (i) de l’énoncé et cela démontre cette assertion. On vérifie que la somme de la série (4) est une fraction rationnelle en z, z0 . Remarquons que les termes qui y interviennent parcourent des ensembles finis indépendants des vecteurs e, eˇ, e0 , eˇ0 . En reprenant le calcul ci-dessus, on voit que, pour démontrer le (ii) de l’énoncé, il suffit de prouver l’assertion suivante. Considérons les différentes fonctions de la forme (3) qui peuvent intervenir. Elles sont déterminées par un caractère χ et des familles d’entiers fi,j − f−i,j et lj , ces données parcourant des ensembles finis. Notons (fh,z )h∈H cette famille de fonctions, l’ensemble d’indices H étant donc fini. Notons fz la fonction (2). Ecrivons X fz = Ch (z)fh,z . h∈H

On doit prouver que les différents coefficients Ch (z) sont des fractions rationnelles en z, de dénominateur borné indépendamment de e et eˇ. On doit aussi prouver l’assertion similaire relative au groupe G0 , mais elle se prouve évidemment de la même façon. Pour z en position générale, la famille de fonctions (fh,z )h∈H est linéairement indépendante. On peut donc fixer une famille (ch )h∈H d’éléments de C (M 0 ) telle que le déterminant de la matrice (fh,z (ch0 ))h,h0 ∈H soit non nul pour au moins une valeur de z. Ce déterminant est donc un élément non nul de R . Les coefficients Ch (z) sont déterminés par le système d’équations X fz (ch0 ) = Ch (z)fh,z (ch0 ) h∈H 0

pour tout h ∈ H. Le membre de gauche de cette équation appartient à R . Il en résulte que les Ch (z) sont des fractions rationnelles, de dénominateur divisant le déterminant ci-dessus, lequel ne dépend pas des vecteurs e et eˇ. Cela démontre l’assertion requise et le lemme, sous les hypothèses d 6= 2n, d0 6= 2n0 . Supposons d = 2n. Cela implique que G est déployé et l’hypothèse sur le plongement de V 0 dans V implique que G0 est lui-aussi déployé. Donc n0 = n − 1. La seule chose qui change dans le raisonnement ci-dessus est que, si N1 + · · · + Nk = n0 , le Lévi du parabolique Q associé à Q0 est GL(N1 ) × · · · × GL(Nk ) × GL(1). Cela n’a aucune incidence. Supposons maintenant d0 = 2n0 . Les deux groupes G et G0 sont déployés et on a n = n0 . Dans la définition de A + , la dernière inégalité mn0 ≥ 0 doit a priori être remplacée par mn0 −1 + mn0 ≥ 0. Mais on peut décomposer cet ensemble en deux, l’un sur lequel mn0 ≥ 0 et l’autre sur lequel mn0 0 au lieu de mn0 ≥ 0, mais c’est sans importance). On peut donc considérer que A + est défini par les mêmes inégalités que précédemment. Pour un sous-groupe parabolique Q0 tel que N1 + · · · + Nk < n0 , rien ne change. Soit Q0 tel que N1 + · · · + Nk = n0 et Nk ≥ 2. Si ∆0 (Q0 ) contient la racine m 7→ mn0 −1 − mn0 , de nouveau rien ne change. Supposons que ∆0 (Q0 ) contienne la racine m 7→ mn0 −1 + mn0 . On définit Q de sorte que sa composante de Lévi M soit égale à GL(N1 ) × · · · × GL(Nk−1 ) × G1 . On vérifie les deux propriétés suivantes : (5) notons ∆ l’ensemble des racines simples de A associé à Pmin et ∆(Q) le sousensemble associé à Q ; pour m ∈ A + (Q0 ) et α ∈ ∆ \ ∆(Q), on a α(m) > α(T) ; (6) il existe C ∈ N tel que mi ≤ C pour tout m ∈ A + (Q0 ) et tout i = N1 + · · · + Nk−1 + 1, . . . , n0 . L’assertion (5) vient de l’inclusion ∆\∆(Q) ⊂ ∆0 \∆0 (Q0 ). Démontrons (6). Posons e = N1 + · · · + Nk−1 . Soit m ∈ A + (Q0 ). Cette hypothèse implique que l’on peut écrire (me+1 − te+1 , . . . , mn0 − tn0 ) = (z, . . . , z, −z) + (p1 , . . . , pNk −1 , −pNk ), avec z > 0, p1 + · · · + pf ≤ 0 pour tout f = 1, . . . , Nk−1 , p1 + · · · + pNk = 0. Cela entraîne pNk ≥ 0. Alors z = tn0 − mn0 − pNk est majoré (puisque l’on a supposé mn0 ≥ 0). On a aussi p1 ≤ 0, donc me+1 = te+1 + z + p1 est majoré. Puisque me+1 ≥ me+2 ≥ · · · ≥ mn0 ≥ 0, (6) s’ensuit. La relation (5) nous permet d’appliquer les résultats de Casselman aux termes provenant du groupe G, pour le sous-groupe parabolique Q. On remplace dans les raisonnements ci-dessus le groupe C (M 0 ) par son analogue C (M ) pour le groupe M . Grâce à la relation (6), A + (Q0 ) est inclus dans un nombre fini d’orbites pour l’action de ce groupe. La preuve se poursuit alors comme précédemment. Soit enfin Q0 tel que N1 + · · · + Nk = n0 et Nk = 1. On décompose notre série en une somme sur les m tels que mn0 > tn0 et d’une somme sur les mn0 ≤ tn0 . La première se traite comme dans le cas général, en prenant Q de composante de Lévi GL(N1 ) × · · · × GL(Nk ). La seconde se traite comme dans le cas particulier ci-dessus en prenant Q de composante de Lévi GL(N1 ) × · · · × GL(Nk−1 ) × G1 . Cela achève la preuve. 1.8. Prolongement méromorphe du produit multilinéaire. — La situation est la même que dans le paragraphe précédent. On fixe un polynôme D vérifiant le lemme de ce paragraphe. Considérons l’hypothèse 0 (1) il existe e1 ∈ E, eˇ1 ∈ ˇE, e01 ∈ E0 , eˇ01 ∈ ˇE et (z1 , z01 ) ∈ D tels que L (z1 , z01 ; e01 , eˇ01 , e, eˇ1 ) 6= 0. Remarquons que, puisque L (z, z0 ; e0 , eˇ0 , e, eˇ) est holomorphe en (z, z0 ) pour (z, z0 ) ∈ D, on peut renforcer cette hypothèse en imposant au couple (z1 , z01 ) de vérifier D(z1 , z01 ) 6= 0. On fixe des éléments vérifiant cette hypothèse renforcée. 0 Considérons maintenant un couple quelconque (z, z0 ) ∈ (C× )n × (C× )n . Pour un 0 couple (β, β 0 ) ∈ Cn × Cn et pour s ∈ C, notons (z(s), z0 (s)) le couple dont les

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

186

C. MŒGLIN & J.-L. WALDSPURGER

0

coordonnées sont zi (s) = zi q −sβi , zi0 (s) = zi0 q −sβi . On a (z(0), z0 (0)) = (z, z0 ). On suppose (β, β 0 ) choisi tel que (z(1), z0 (1)) = (z1 , z01 ). Pour s proche de 1, (z(s), z0 (s)) appartient à D, l’intégrale L (z(s), z0 (s); e0 , eˇ0 , e, eˇ) est donc bien définie pour tous e, eˇ, e0 , eˇ0 . L’égalité (ii) du lemme 1.4 montre que cette fonction de s se prolonge en une fonction méromorphe pour tout s ∈ C et que l’ordre de son éventuel pôle en s = 0 est borné par l’ordre du zéro de la fonction s 7→ D(z(s), z0 (s)). Par ailleurs, l’hypothèse (1) implique que cette fonction n’est pas identiquement nulle dans le cas où (e, eˇ, e0 , eˇ0 ) = (e1 , eˇ1 , e01 , eˇ01 ). On peut donc définir un entier relatif N ∈ Z comme le plus grand entier tel que s−N L (z(s), z0 (s); e0 , eˇ0 , e, eˇ) soit holomorphe en s = 0 pour tous e, eˇ, e0 , eˇ0 . On pose

L res (z, z0 ; e0 , eˇ0 , e, eˇ) = lims→0 s−N L (z(s), z0 (s); e0 , eˇ0 , e, eˇ). Remarquons que ce terme dépend du point (z1 , z01 ) choisi. Lemme 1.5. — (i) Si m(σ0 , σ00 ) = 0, L (z, z0 ; e0 , eˇ0 , e, eˇ) = 0 pour tous e, eˇ, e0 , eˇ0 et tout (z, z0 ) ∈ D. (ii) Si m(σ0 , σ00 ) = 1, l’hypothèse (1) est vérifiée. Effectuons les constructions ci0 dessus pour un élément (z, z0 ) ∈ (C× )n ×(C× )n . Alors on a la relation d’entrelacement

L res (z, z0 ; σz0 0 (g0 )e0 , eˇ0 , σz (g0 )e, eˇ) = L res (z, z0 ; e0 , eˇ0 , e, eˇ) pour tous e, eˇ, e0 , eˇ0 et tout g 0 ∈ G0 (F ) et il existe e, eˇ, e0 , eˇ0 tels que L res (z, z0 ; e0 , eˇ0 , e, eˇ) 6= 0. Démonstration. — La proposition 5.7 et le lemme 5.3 de [13] affirment l’assertion (i) et la première assertion de (ii) (dans [13], on a considéré des produits hermitiens plutôt que des produits bilinéaires, mais la traduction est facile puisque les représentations sont unitaires). L’assertion de non-nullité de (ii) résulte de la définition de l’entier N . Enfin, le terme L (z(s), z0 (s); e0 , eˇ0 , e, eˇ) vérifie la relation d’entrelacement requise pour s tel que (z(s), z0 (s)) ∈ D (par sa définition intégrale). Cette relation se prolonge par holomorphie en tout s qui n’est pas un pôle, puis s’en déduit pour la fonction L res (z, z0 ; e0 , eˇ0 , e, eˇ) par passage à la limite. 1.9. Preuve de l’inégalité m(σ0 , σ00 ) ≤ m(σ, σ ˇ 0 ). — On considère la situation 0 de 1.3 et on suppose d’abord d = d + 1. Il n’y a rien à prouver si m(σ0 , σ00 ) = 0. On suppose donc m(σ0 , σ00 ) = 1. On peut écrire σ = σz et σ 0 = z0 , où z et z0 sont définis au début du paragraphe 1.7. Le lemme 1.5(ii) entraîne l’existence d’un produit 0 multilinéaire sur E0 ⊗ ˇE ⊗ E ⊗ ˇE, que l’on note ici (e0 , eˇ0 , e, eˇ) 7→ Lσ,σ0 (e0 , eˇ0 , e, eˇ), qui n’est pas identiquement nul et qui vérifie la relation Lσ,σ0 (σ 0 (g 0 )e0 , eˇ0 , σ(g 0 )e, eˇ) = Lσ,σ0 (e0 , eˇ0 , e, eˇ)

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

187

pour tout g 0 ∈ G0 (F ). Fixons alors eˇ et eˇ0 et définissons une application linéaire l : Eσ → Eσˇ 0 par l’égalité = Lσ,σ0 (e0 , eˇ0 , e, eˇ). Elle appartient à HomG0 (σ, σ ˇ 0 ). Pour de bons choix de eˇ, eˇ0 , elle est non nulle. Donc 0 m(σ, σ ˇ ) ≥ 1. Supposons maintenant d > d0 + 1. On choisit ρ comme en 1.6(2). On a m(σ, σ ˇ0) = 0 m(ρ × σ , σ ˇ ). D’après ce que l’on vient de prouver, cette dernière multiplicité est supérieure ou égale à 1. L’inégalité que l’on vient de prouver et celle de 1.6 démontrent la proposition 1.1.

2. Irréductibilité et représentations génériques 2.1. Rappels sur les paramétrages. — Dans cette section, G est un groupe spécial orthogonal ou symplectique défini sur F . Précisément, cela signifie que l’on fixe un espace vectoriel V sur F de dimension finie et une forme bilinéaire q non dégénérée sur V qui est soit symétrique, soit antisymétrique. Alors G est la composante neutre du groupe d’automorphismes de (V, q). On note dG la dimension de V . Un groupe similaire G0 est dit de même type que G s’il est associé à un couple (V 0 , q 0 ) satisfaisant les conditions suivantes : q 0 vérifie la même condition de symétrie que q ; le plus grand des espaces (V, q) et (V 0 , q 0 ) est isomorphe à la somme orthogonale du plus petit et de plans hyperboliques. ˆ de G est : On considère que le L-groupe G – le groupe spécial orthogonal complexe SO(dˆG , C), où dˆG = dG + 1, si G est symplectique ; – le groupe symplectique complexe Sp(dˆG , C), où dˆG = dG − 1, si G est spécial orthogonal « impair » (c’est-à-dire que dG est impair) ; – le groupe orthogonal complexe O(dˆG , C), où dˆG = dG , si G est spécial orthogonal « pair » (c’est-à-dire que dG est pair). Toutes les représentations de groupes réductifs que l’on considérera seront supposées admissibles et de longueur finie. Dans les cas symplectique ou spécial orthogonal impair, on conjecture (et nous admettons cette conjecture) que l’ensemble des classes de conjugaison de représentations irréductibles tempérées de G(F ) se décompose en union disjointe de L-paquets ΠG (ϕ), où ϕ parcourt les classes de conjugaison par ˆ d’homomorphismes ϕ : WDF → G ˆ qui vérifient quelques conditions usuelles de G continuité et de semi-simplicité et qui sont tempérés, c’est-à-dire que l’image de WF par ϕ est relativement compacte. Un tel homomorphisme ϕ se pousse en un homomorphisme de WDF dans GL(dˆG , C). Via la correspondance de Langlands (théorème de Harris-Taylor et Henniart), on associe à ϕ une représentation irréductible π(ϕ) de GL(dˆG , F ). Elle est tempérée et autoduale. On peut la prolonger en une représentation du produit semi-direct GL(dˆG , F ) o {1, θ}, où θ est l’automorphisme extérieur −1 habituel défini par θ(g) = t g . Notons π ˜ (ϕ) sa restriction à la composante connexe

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

188

C. MŒGLIN & J.-L. WALDSPURGER

non neutre GL(dˆG , F )θ. D’autre part, pour toute représentation σ, notons Θσ son caractère. Les propriétés essentielles du L-paquet ΠG (ϕ) sont les suivantes : P (1) la somme ΘΠG (ϕ) = π∈ΠG (ϕ) Θπ est une distribution stable ; (2) si G est quasi-déployé, il existe c ∈ C× tel que |c| = 1 et que la distribution Θπ˜ (ϕ) soit le transfert, par endoscopie tordue, de cΘΠG (ϕ) ; (3) si G n’est pas quasi-déployé, introduisons sa forme quasi-déployée G et le L-paquet ΠG (ϕ) de représentations de G(F ) ; alors il existe c ∈ C× tel que |c| = 1 et que ΘΠG (ϕ) soit le transfert, par endoscopie ordinaire, de cΘΠG (ϕ) . La condition (2) se traduit concrètement de la façon suivante. Soit x ˜ un élément ˆ semi-simple fortement régulier de GL(dG , F )θ. Alors on a une égalité X ˜ D0GL (˜ x)1/2 Θπ˜ (ϕ) (˜ x) = c ∆(g, x ˜)DG (g)1/2 ΘΠG (ϕ) (g), g

où g parcourt un ensemble de représentants des classes de conjugaison stable dans ˜ G(F ) qui correspondent à celle de x ˜, où D0GL (˜ x) et DG (g) sont des fonctions modules et où ∆(g, x ˜) est le facteur de transfert de Kottwitz et Shelstad, privé de son terme ∆IV . En fait, dans notre cas (symplectique ou spécial orthogonal impair), cette formule se simplifie. D’abord les deux modules sont égaux. Ensuite, il y a une unique classe de conjugaison stable dans G(F ) qui correspond à celle de x ˜. Pour g dans cette classe, on a ∆(g, x ˜) = 1. Enfin, inversement, pour un élément g ∈ G(F ) semisimple et fortement régulier, il y a toujours un x ˜ dont la classe de conjugaison stable corresponde à celle de g. On peut donc récrire la relation précédente sous la forme ΘΠG (ϕ) (g) = c−1 Θπ˜ (ϕ) (˜ x),

(4)

pour tout g ∈ G(F ) semi-simple et fortement régulier, où x ˜ est comme ci-dessus. De même, la relation (3) se traduit par ΘΠG (ϕ) (g) = cΘΠG (ϕ) (g), où g ∈ G(F ) est un élément de la classe de conjugaison stable dans G(F ) qui correspond à celle de g. Par indépendance linéaire des caractères, ces égalités déterminent uniquement le paquet ΠG (ϕ). Remarque. — Dans le cas d’un groupe orthogonal impair, les conjectures posées en [15] 4.2 faisaient intervenir l’endoscopie tordue entre G et GL(dˆG + 1)θ. Ici, on utilise l’endoscopie tordue plus habituelle entre G et GL(dˆG )θ. Pour la validité des résultats de cette section, celle-ci suffit. Mais, pour le reste de l’article, on doit admettre aussi la validité des conjectures telles qu’on les a formulées en [15]. Dans le cas d’un groupe spécial orthogonal pair, il faut imposer à ϕ une condition portant sur le déterminant det ◦ ϕ (celui-ci doit correspondre au discriminant de la forme q, cf. [8] paragraphe 2.1 et l’introduction ci-dessus), et on considère les classes de conjugaison de tels ϕ par SO(dˆG , C) et non par O(dˆG , C). Le paquet ΠG (ϕ) vérifie les mêmes conditions que ci-dessus. Mais les correspondances entre classes de conjugaison stable sont plus compliquées : deux classes conjuguées par le groupe

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

189

orthogonal tout entier ne sont pas discernables par endoscopie tordue. Par ailleurs, le facteur de transfert ne vaut plus toujours 0 ou 1. Enfin les modules ne sont plus égaux. Notons G+ ce groupe orthogonal et fixons un élément w ∈ G+ (F ) \ G(F ). L’analogue de la relation (4) devient ˜

DG (g)1/2 (ΘΠG (ϕ) (g) + ΘΠG (ϕ) (wgw−1 )) = c−1 ∆(g, x ˜)−1 D0GL (˜ x)1/2 Θπ˜ (ϕ) (˜ x), où x ˜ est un élément quelconque de GL(dˆG , F )θ dont la classe de conjugaison stable correspond à celle de g (un tel élément existe toujours). Ces relations ne déterminent plus ΠG (ϕ). Toutefois, pour toute représentation σ de G(F ), notons σ w la représentation g 7→ σ(wgw−1 ) et posons ΠG (ϕ)w = {π w ; π ∈ ΠG (ϕ)}. Alors l’ensemble avec ¯ multiplicités Π(ϕ) = ΠG (ϕ) t ΠG (ϕ)w est uniquement déterminé. Comme on l’a expliqué dans l’introduction, la définition des L-paquets s’étend au cas non tempéré en utilisant la classification de Langlands. Notation. — Soit π une représentation irréductible de G(F ). On pose π GL = π(ϕ), où ϕ est le paramètre de Langlands tel que π ∈ ΠG (ϕ). C’est une représentation de GL(dˆG , F ). 2.2. Induction et modules de Jacquet. — Soit π une représentation irréductible tempérée d’un groupe linéaire GL(dπ , F ). Le support cuspidal de π a la forme suivante : il existe un ensemble fini avec multiplicités, que l’on note Jord(π), de couples (ρ, a), où ρ est une représentation irréductible cuspidale et unitaire d’un groupe linéaire et a ≥ 1 est un entier, de telle sorte que le support cuspidal de π est exactement ∪(ρ,a)∈Jord(π) ∪x∈[(a−1)/2,−(a−1)/2] {ρ|.|xF }.

(1)

On a donc défini Jord(π) pour toute représentation irréductible tempérée π d’un groupe linéaire. On transpose cela en une définition de Jord(π) pour toute représentation irréductible tempérée π de G(F ), on posant Jord(π) = Jord(π GL ), avec la notation introduite en 2.1. Remarquons que Jord(π) ne dépend que du L-paquet Π contenant π, ce qui permet de définir Jord(Π) pour un tel L-paquet. Soit π une représentation irréductible tempérée de G(F ). L’ensemble Jord(π) a les propriétés suivantes. Pour tout (ρ, a) ∈ Jord(π), ou bien la mutliplicité de (ρ, a) dans Jord(π) est paire, ou bien la représentation de WDF associée à la représentation de Steinberg St(ρ, a) est à valeurs dans un groupe classique de même type que le groupe dual de G. Dans ce dernier cas, on dira que (ρ, a) a bonne parité. Dans les autres cas, on dira que (ρ, a) n’a pas bonne parité. Ce dernier cas couvre à la fois celui où ρ n’est pas autodual et celui où le paramètre de Langlands de St(ρ, a), bien qu’autodual, ne se factorise pas par le bon groupe classique. Le facteur de transfert de Kottwitz et Shelstad est compatible à l’induction. Cela signifie la chose suivante. Supposons G quasi-déployé et fixons un tel facteur ∆ pour l’endoscopie tordue entre G et GL(dˆG )θ. Soit L un Lévi de G. Il lui correspond un Lévi θ-stable L de GL(dˆG ). Soient g ∈ L(F ) et x ˜ ∈ L(F )θ des éléments suffisamment réguliers. Définissons un facteur ∆L,Lθ (g, x ˜) par

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

190

C. MŒGLIN & J.-L. WALDSPURGER

∆L,Lθ (g, x ˜) = ∆(g, x ˜) si les classes de conjugaison stable de g dans L(F ) et de x ˜ dans L(F )θ se correspondent ; ∆L,Lθ (g, x ˜) = 0 sinon. Alors ∆L,Lθ est un facteur de transfert pour le couple (L, Lθ). Cela entraîne que le transfert est compatible à l’induction : le transfert de l’induite d’une distribution stable est l’induite du transfert de cette distribution. Cela a la conséquence suivante. Soit Π un paquet de représentations tempérées de G(F ). Supposons donnée une décomposition en union disjointe (au sens des ensembles avec multiplicités) : Jord(Π) = E t F t ˇE, où ˇE = {(ˇ ρ, a); (ρ, a) ∈ E}. Il existe un L-paquet tempéré Π0 d’un groupe de même type que G tel que F = Jord(Π0 ). Alors (2) si G est symplectique ou spécial orthogonal impair, Π est exactement formé des composantes irréductibles de toutes les induites (×(ρ,a)∈ E St(ρ, a)) × π 0 quand π 0 décrit Π0 . Dans le cas où G est spécial orthogonal pair, on a une assertion analogue. On doit ¯ et Π ¯ 0 définis en 2.1. Dans le cas où le sous-groupe remplacer Π et Π0 par les paquets Π parabolique P servant à définir l’induite ci-dessus n’est pas semblable à wP w−1 , il faut sommer sur les deux induites possibles. Notons ϕ et ϕ0 les paramètres de Langlands de Π et Π0 . L’assertion (1) résulte simplement du fait que la somme des caractères des composantes en question est stable et se transfère en le caractère de l’induite tordue (×(ρ,a)∈ E St(ρ, a)) × π ˜ (ϕ0 ). Or cette dernière n’est autre que π ˜ (ϕ).  En particulier, un paquet tempéré Π est formé de représentations de la série discrète si et seulement si tous les éléments de Jord(Π) sont de bonne parité et interviennent avec multiplicité 1. Une autre conséquence concerne les modules de Jacquet. Fixons un sous-groupe parabolique P de G de Lévi GL(d1 ) × · · · × GL(dm ) × G0 . Pour i = 1, . . . , m, soient ρi une représentation irréductible cuspidale de GL(di , F ), pas forcément unitaire. Pour une représentation irréductible π de G(F ), notons Jacρ1 ,...,ρm (π) la représentation semi-simple de G0 (F ) telle que le semi-simplifié du module de Jacquet πP soit la somme de ρ1 ⊗ · · · ⊗ ρm ⊗ Jacρ1 ,...,ρm (π) et de représentations dont les premières composantes ne sont pas égales à ρ1 ⊗ · · · ⊗ ρm . Soit π une représentation irréductible tempérée de G(F ). On a (3) supposons Jacρ1 ,...,ρm (π) 6= {0} ; alors pour tout (ρ, a) ∈ Jord(π), il existe deux éléments bρ,a et ˇbρ,a de [(a + 1)/2, −(a + 1)/2], avec bρ,a > ˇbρ,a tels que : – la famille (ρi )i=1,...,m s’obtienne en mélangeant les familles (ρ|.|xF )x∈[(a−1)/2,bρ,a ] , pour (ρ, a) ∈ Jord(π), sans changer l’ordre dans chacune d’elles ;

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

191

– la famille (ˇ ρi )i=m,...,1 s’obtienne en mélangeant les familles (ρ|.|xF )x∈[ˇbρ,a ,−(a−1)/2] , pour (ρ, a) ∈ Jord(π), sans changer l’ordre dans chacune d’elles. En effet, supposons G symplectique ou spécial orthogonal impair. Soit Π le L-paquet contenant π. D’après un lemme analogue à [11] lemme 4.2.1, la somme des caractères des Jacρ1 ,...,ρm (π1 ), pour π1 ∈ Π, est stable et a pour transfert un certain module de Jacquet « tordu » Jacθρ1 ,...,ρm (π GL ). En tant que représentation d’un groupe linéaire non tordu, celui-ci se construit de façon analogue à ci-dessus. On note P un sous-groupe parabolique de GL(dˆG ) de Lévi GL(d1 ) × · · · × GL(dm ) × GL(d0 ) × GL(dm ) × · · · × GL(d1 ). Alors Jacθρ1 ,...,ρm (π GL ) est module de Jacquet (π GL )P

la représentation semi-simple de GL(d0 , F ) telle que le soit la somme de

ρ1 ⊗ · · · ⊗ ρm ⊗ Jacθρ1 ,...,ρm (π GL )) ⊗ ρˇm ⊗ · · · ⊗ ρˇ1 , et de représentations dont les composantes non centrales ne sont pas celles ci-dessus. L’hypothèse que Jacρ1 ,...,ρm (π) 6= {0} impose que ce module de Jacquet tordu n’est pas nul. Mais on sait bien calculer (π GL )P et la conclusion s’ensuit. Dans le cas où G ¯  est spécial orthogonal pair, la démonstration s’adapte en considérant le paquet Π. On a un résultat plus précis pour des familles particulières. Par exemple, fixons une représentation irréductible ρ cuspidale et unitaire d’un groupe linéaire et un réel x > 0 et supposons ρi = ρ|.|xF pour tout i = 1, . . . , m. On a (4) supposons Jacρ1 ,...,ρm (π) 6= {0} ; alors x est un demi-entier et (ρ, 2x + 1) intervient avec multiplicité au moins m dans Jord(π). Cela résulte immédiatement de (3). Remarque. — Nous appelons « demi-entier » un réel x tel que 2x ∈ Z. Soit Π un paquet de représentations tempérées de G(F ). Soit (ρ, a) ∈ Jord(Π) avec a ≥ 2, notons m sa multiplicité. Notons Π− le paquet tempéré tel que Jord(Π− ) se déduise de Jord(Π) en remplaçant les m copies de (ρ, a) par m copies de (ρ, a − 2). (a−1)/2 Prenons ρi = ρ|.|F pour i = 1, . . . , m. Soit π ∈ Π. Alors (5) toutes les composantes irréductibles de Jacρ1 ,...,ρm (π) appartiennent à Π− dans ¯ − dans le cas orthogonal pair. le cas symplectique ou orthogonal impair, à Π − En notant ϕ et ϕ les paramètres de Langlands des paquets Π et Π− , on calcule facilement Jacθρ1 ,...,ρm (π(ϕ)) = π(ϕ− ). Alors la même preuve que celle de (3) entraîne (5).  2.3. Support cuspidal étendu. — Dans la suite de la section, on suppose G symplectique ou spécial orthogonal impair. On indiquera dans le dernier paragraphe 2.15 comment adapter les arguments au cas d’un groupe spécial orthogonal pair. Soit π une représentation irréductible de G(F ). On appelle support cuspidal étendu de π le support cuspidal ordinaire de π GL . C’est un ensemble avec multiplicités de

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

192

C. MŒGLIN & J.-L. WALDSPURGER

représentations irréductibles cuspidales non nécessairement unitaires de groupes linéaires. On remarque que par sa construction, cet ensemble est stable par passage à la contragrédiente. Lemme 2.1. — Soit π une représentation de G(F ) de la forme π = σ×π 0 , où σ est une représentation irréductible d’un groupe linéaire et π 0 une représentation irréductible d’un groupe de même type que G. Alors tout sous-quotient irréductible de π a pour support cuspidal étendu l’union disjointe du support cuspidal étendu de π 0 et des supports cuspidaux ordinaires de σ et σ ˇ. Ceci permet de parler du support cuspidal étendu d’une représentation induite même si celle-ci n’est pas irréductible : c’est le support cuspidal étendu de n’importe lequel de ses sous-quotients irréductibles. Remarque. — Les représentations considérées n’étant pas supposées tempérées, il est exclu d’utiliser des propriétés de transfert pour démontrer le lemme. Démonstration. — Soit π une représentation irréductible de G(F ). On peut la réaliser comme sous-quotient d’une induite (×i=1,...,v ρi ) × πcusp , où πcusp est une représentation irréductible cuspidale d’un groupe de même type que G et, pour tout i = 1, . . . , v, ρi est une représentation irréductible cuspidale d’un groupe linéaire, pas forcément unitaire. Appelons support cuspidal ordinaire de π l’ensemble avec multiplicités {ρi ; i = 1, . . . , v} t {ˇ ρi ; i = 1, . . . , v} t {πcusp }. On sait qu’il ne dépend pas de l’induite (1) choisie. Il est formé de représentations de groupes linéaires et d’au plus une représentation πcusp d’un groupe de même type que G (cette représentation disparaît ici et dans la suite quand ce groupe est réduit à 1). On va montrer (1) le support cuspidal étendu de π est l’union disjointe de celui de πcusp et du complémentaire de {πcusp } dans le support cuspidal ordinaire de π. Cette assertion entraîne le lemme car, sous les hypothèses de l’énoncé, le support cuspidal ordinaire de tout sous-quotient irréductible de σ × π 0 est l’union disjointe de celui de π 0 et de ceux de σ et σ ˇ. Pour prouver (1), on utilise la remarque suivante : (2) supposons que π apparaisse comme sous-quotient d’une induite σ1 ×· · ·×σv ×π 0 , où π 0 et les σi sont irréductibles et où v ≥ 1, et que l’on sache que le support cuspidal étendu de π soit réunion de celui de π 0 et des supports cuspidaux ordinaires des σi et des σ ˇi pour i = 1, . . . , v ; alors (1) est vrai pour π. En effet, le support cuspidal ordinaire de π est forcément réunion de celui de π 0 et de ceux des σi et σ ˇi pour i = 1, . . . , v. En raisonnant par récurrence sur dG , on peut supposer que le support cuspidal étendu de π 0 se déduit de son support cuspidal étendu de la façon prescrite par (1) et on en déduit que le support cuspidal étendu de π se déduit de la même façon de son support cuspidal ordinaire.

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

193

Si π n’est pas tempérée, on réalise π comme quotient de Langlands d’une induite comme en (2), où π 0 est tempérée et les σi sont des représentations tempérées tordues par un caractère. Par définition du support cuspidal étendu de π, les hypothèses de (2) sont satisfaites. Donc (1) est vérifiée pour π. Supposons que π soit tempérée et qu’il existe un élément (ρ, a) de Jord(π) tel que, ou bien (ρ, a) ne soit pas de bonne parité, ou bien (ρ, a) soit de bonne parité mais intervienne avec multiplicité au moins 2. Alors 2.2(2) permet de réaliser π comme sous-quotient d’une induite de sorte que les hypothèses de (2) soient satisfaites. D’où la conclusion dans ce cas. Supposons que π soit tempérée, que Jord(π) soit formé de couples (ρ, a) de bonne parité intervenant avec multiplicité 1, et que π ne soit pas cuspidale. Cette dernière hypothèse entraîne que l’on peut réaliser π comme sous-module d’un induite ρ0 ×π 0 , où π 0 est irréductible et ρ0 est irréductible et cuspidale, pas forcément unitaire. D’après l’hypothèse sur Jord(π), 2.2(3) entraîne qu’il existe (ρ, a) ∈ Jord(π) tel que a ≥ 2 et (a−1)/2 ρ0 = ρ|.|F . La relation 2.2(4) entraîne alors que le support cuspidal étendu de π est réunion de celui de π 0 et de {ρ0 , ρˇ0 }. Autrement dit, les hypothèses de (2) sont vérifiées et on conclut. On est ramené au cas où π est cuspidale. Mais alors (1) est tautologique. Remarque. — Soient π une représentation irréductible tempérée de G(F ), ρ une représentation irréductible cuspidale et unitaire d’un groupe linéaire et s ∈ R. Supposons que l’induite ρ|.|sF × π ait un sous-quotient irréductible ayant même support cuspidal qu’une représentation tempérée. Alors l’une des conditions suivantes est vérifiée : – s = 0; – s est un demi-entier avec |s| ≥ 1, ρ ' ρˇ et Jord(π) contient le couple (ρ, 2|s| − 1) – s = ±1/2 et (ρ, 2) a bonne parité. En effet, le support cuspidal étendu de π est de la forme 2.2(1). L’hypothèse et le lemme impliquent que la réunion (au sens des ensembles avec multiplicités) de ce support et de l’ensemble {ρ|.|sF , ρˇ|.|−s F } est aussi de la forme 2.2(1). L’assertion en résulte aisément. 2.4. Support cuspidal étendu et induction dans le cas tempéré Lemme 2.2. — Soit π une représentation irréductible tempérée de G(F ). On suppose qu’elle est sous-quotient d’une induite ρ × π 0 où [e, f ] est un segment tel que e ≥ 0 ≥ f , ρ est une repésentation irréductible cuspidale et unitaire d’un groupe linéaire et π 0 est une représentation irréductible tempérée d’un groupe de même type que G . Alors l’une des propriétés suivantes est vérifiée : – ρ ' ρˇ, e et f sont des demi-entiers et Jord(π) = Jord(π 0 ) ∪ {(ρ, 2e + 1), (ρ, −2f + 1)} ;

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

194

C. MŒGLIN & J.-L. WALDSPURGER

– ρ 6' ρˇ, e = −f et Jord(π) = Jord(π 0 ) ∪ {(ρ, 2e + 1), (ˇ ρ, 2e + 1)}. Démonstration. — Le support cuspidal étendu de π est, d’après le lemme précédent, l’union de celui de π 0 avec ∪x∈[e,f ] {ρ|.|xF } ∪x∈[−f,−e] {ˇ ρ|.|xF }. Les conditions sur ρ, e, f résultent des propriétés rappelées en 2.2 du support cuspidal étendu des représentations tempérées. 2.5. Un lemme technique Lemme 2.3. — Considérons une induite σ|.|s × π 0 , où π 0 est une représentation irréductible tempérée d’un groupe de même type que G, σ = St(ρ, a) est une représentation de Steinberg généralisée tempérée d’un groupe linéaire et s > 0 est un réel. Alors le quotient de Langlands de cette induite est l’unique sous-quotient irréductible qui possède une inclusion dans une induite de la forme (×x∈[(a−1)/2,−(a−1)/2] ρˇ|.|x−s F ) × τ, où τ est une représentation non nécessairement irréductible d’un groupe de même type que G. En particulier si σ|.|sF × π 0 ,→ (×x∈[(a−1)/2,−(a−1)/2] ρˇ|.|x−s F )×τ avec τ comme ci-dessus, l’induite σ|.|sF × π 0 est irréductible. Démonstration. — Il est clair que le quotient de Langlands de l’induite σ|.|sF × π 0 a la 0 propriété requise car il est inclus dans σ ˇ |.|−s F ×π et cette induite est elle-même incluse x−s 0 dans (×x∈[(a−1)/2,−(a−1)/2] ρˇ|.|F ) × π . Soit donc π un sous-quotient irréductible de l’induite ayant une inclusion comme dans l’énoncé. Comme π est irréductible, une telle inclusion en donne une de même type mais avec τ irréductible. On suppose donc que τ est irréductible. Par réciprocité de Frobenius un module de Jacquet convenable de π 0 admet (⊗x∈[(a−1)/2,−(a−1)/2] ρˇ|.|x−s F ) ⊗ τ comme quotient. On sait calculer tous les termes du module de Jacquet de l’induite σ|.|sF × π 0 . Les termes d’un module de Jacquet cuspidal de cette induite peuvent se regrouper en sous-ensembles paramétrés par un demi-entier entier x ∈ [(a + 1)/2, −(a − 1)/2] et y 0 un terme cuspidal, (⊗j=1,...,k ρj |.|Fj ) × πcusp du module de Jacquet de π 0 . Les termes correspondants, écrits sous la forme 0

0 (⊗(ρ0 ,z0 )∈ E ρ0 |.|zF ) ⊗ πcusp

sont tels que le l’ensemble ordonné E s’obtient en mélangeant les ensembles ordonnés écrits ci-dessous sans permuter l’ordre interne à chacun de ces sous-ensembles : s+i {ρ|.|F ; i ∈ [(a − 1)/2, x]}(c’est l’ensemble vide si x = (a + 1)/2 ); 0

{ˇ ρ|.|iF −s ; i0 ∈ [(a − 1)/2, −x[} (c’est l’ensemble vide si x = −(a − 1)/2) ; y

{ρj |.|Fj ; j = 1, . . . , k}.

ASTÉRISQUE 347

195

LA CONJECTURE LOCALE DE GROSS-PRASAD

Ainsi les a premiers exposants d’un tel terme, écrits zi0 pour i = 1, . . . , a se décomposent en a1 termes du premier ensemble, a2 termes du deuxième et a3 termes du troisième. Donc on a : X X X X zi0 = (s + `) + (−s + `) + yj . i=1,...,a

`∈[(a−1)/2,(a+1)/2−a1 ] 0

`∈[(a−1)/2,(a+1)/2−a2 ]

Puisque π est une représentation tempérée, on a sûrement X zi0 ≥ a1 s − a2 s ≥ −a2 s.

P

j=1,...,a3

j=1,...,a3

yj ≥ 0 et donc

i=1,...,a

Pour le terme considéré du module de Jacquet de π, cette somme vaut −as. Comme a2 ≤ a, on doit avoir égalité a2 = v, d’où a1 = a3 = 0. Notons P le sous-groupe parabolique qui sert à définir l’induite σ|.|sF × π 0 . Les termes du module de Jacquet de l’induite σ|.|sF × π 0 qui vérifient les conditions précédentes sont ceux qui proviennent 0 s 0 du sous-quotient σ ˇ |.|−s F ⊗π du module de Jacquet (σ|.|F ×π )P . Ils n’interviennent que dans le quotient de Langlands de notre induite. Donc π est ce quotient de Langlands. Cela démontre la première assertion de l’énoncé. Sous l’hypothèse de la seconde assertion, l’unique sous-module irréductible de σ|.|sF × π 0 est le quotient de Langlands d’après ce que l’on vient de prouver. Puisque l’unique sous-module irréductible et aussi l’unique quotient irréductible, la représentation est irréductible. 2.6. Induction et L-paquets tempérés. — Ci-dessous, on utilise à plusieurs reprises la remarque élémentaire suivante. Soit x un nombre réel non nul et ρ une représentation irréductible cuspidale et unitaire d’un groupe linéaire. Soient aussi m ≥ 1 un entier et σ une représentation de G(F ). On suppose qu’il n’existe pas d’inclusion de la forme σ ,→ ρ|.|xF × σ 0 où σ 0 est une représentation quelconque. Alors l’induite ρ|.|xF × · · · ρ|.|xF × σ, où il y a m copies de ρ|.|xF , a un unique sous-module irréductible. C’est un calcul de module de Jacquet et de réciprocité de Frobenius pour le parabolique standard de sous-groupe de Levi GL(mdρ ) × G. En effet, les sous-quotients irréductibles de ce module de Jacquet de la forme τ ⊗ τ 0 vérifient soit que le support cuspidal de τ n’est pas m copies de ρ|.|xF , soit que τ est l’induite irréductible ρ|.|xF × · · · × ρ|.|xF . Dans ce dernier cas, on a nécessairement τ 0 ' σ et un tel terme n’intervient qu’avec multiplicité au plus 1 comme sous-quotient irréductible du module de Jacquet. Par réciprocité de Frobenius, tout sous-module irréductible de l’induite écrite a son module de Jacquet qui admet (ρ|.|xF × · · · × ρ|.|xF ) ⊗ σ comme quotient irréductible. Comme le foncteur de Jacquet est exact, cela force l’unicité d’un tel sous-module irréductible. Remarquons que, d’après 2.1(2), l’hypothèse sur σ est vérifiée si les deux conditions suivantes le sont : – σ est une représentation irréductible tempérée ; – x n’est pas un demi-entier positif, ou x est un tel demi-entier mais Jord(σ) ne contient pas (ρ, 2x + 1). Lemme 2.4. — Soit Π un paquet de représentations tempérées. Soit x > 0 un demientier tel que (ρ, 2x + 1) ∈ Jord(Π). On note m la multiplicité de (ρ, 2x + 1) dans

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

196

C. MŒGLIN & J.-L. WALDSPURGER

Jord(Π) et Π− le paquet de représentations tempérées qui se déduit de Π en remplaçant les m copies de (ρ, 2x + 1) par m copies de (ρ, 2x − 1). Pour tout π − ∈ Π− , on note π l’unique sous-module irréductible de l’induite ρ|.|xF × · · · ρ|.|xF × π − . Alors π est une représentation tempérée de Π et l’application ainsi définie de Π− dans Π est une injection. Démonstration. — Soit π ∈ Π. Supposons qu’il existe une inclusion de la forme π ,→ ρ|.|xF × · · · × ρ|.|xF × σ, avec m copies de ρ|.|xF . On vérifie que l’on n’a certainement aucune inclusion de la forme σ ,→ ρ|.|xF × σ 0 . Sinon, on aurait une inclusion π ,→ ρ|.|xF × · · · × ρ|.|xF × σ, avec m + 1 copies de ρ|.|xF et Jord(π) contiendrait m + 1 copies de (ρ, a), cf. 2.1(3). Les calculs de modules de Jacquet expliqués ci-dessus montrent alors que si une telle inclusion se produit avec σ que l’on suppose irréductible, tout sous-quotient irréductible du module de Jacquet de π de la forme ρ|.|xF ×· · · ρ|.|xF ⊗σ 00 , où il y a m copies de ρ|.|xF , vérifie σ 00 ' σ. Un peu plus généralement supposons que π ∈ Π et que le module de Jacquet de π contient un sous-quotient irréductible de la forme ρ|.|xF × · · · ρ|.|xF ⊗ σ 00 ; alors quitte à changer σ 00 on peut supposer que ce sous-quotient est en fait un quotient du module de Jacquet de π et, par réciprocité de Frobenius que π est un sous-module comme ci-dessus. Quand on applique le module de Jacquet pour le parabolique GL(mdρ , F ) ⊗ G0 (pour G0 convenable) à la distribution stable formée de la somme des éléments de π et que l’on projette sur le caractère de la représentation ρ|.|xF × · · · × ρ|.|xF (avec m-copies), on obtient une distribution stable associée à Π− . Ainsi d’après ce que l’on a vu ci-dessus, une représentation π ∈ Π soit disparaît dans cette procédure, soit contribue par le caractère de σ (avec les notations ci-dessus). Ainsi nécessairement σ ∈ Π− et toute représentation de Π− est obtenue par cette procédure. On a donc défini sur un sous-ensemble de Π un inverse surjectif de l’application de l’énoncé. Cela montre que cette dernière application est bien une injection de Π− dans Π.

2.7. Propriété des représentations tempérées ayant un modèle de Whittaker. — Supposons G quasi-déployé. On définit de la façon habituelle la notion de modèle de Whittaker. Il y a plusieurs types de tels modèles, autant que de classes de conjugaison d’éléments unipotents réguliers dans G(F ). On utilise la propriété suivante : soit π une représentation irréductible tempérée de G(F ) ; il existe une unique représentation tempérée irréductible π0 de G(F ) ayant un modèle de Whittaker d’un type fixé et telle que Jord(π0 ) = Jord(π). Cf. section 4. D’après la construction des L-paquets généraux rappelée dans l’introduction et d’après les propriétés bien connues reliant modèles de Whittaker et induction, la propriété ci-dessus entraîne :

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

197

soit Π un L-paquet de représentations de G(F ) ; il existe un unique élément de Π qui soit le quotient de Langlands d’une induite ayant un modèle de Whittaker d’un type donné. Lemme 2.5. — Supposons G quasi-déployé, soit π une représentation irréductible de G(F ) ayant un modèle de Whittaker. On suppose que le support cuspidal étendu de π est celui d’une représentation tempérée. Alors π est tempérée. Démonstration. — On démontre ce lemme par récurrence sur le rang de G et pour cela on a besoin d’une conséquence du lemme. Pour fixer les notations, on note Π un paquet de représentations tempérées et on suppose que le support cuspidal étendu de π est le même que celui des éléments de Π. Le lemme dit alors que π appartient à Π. Ceci montre que le support cuspidal ordinaire de π est bien déterminé. On peut décrire ce support cuspidal. En effet, notons ϕ le morphisme de WDF dans le L-groupe de G paramétrisant Π. Notons ϕL le morphisme de WDF dans ce L-groupe qui est trivial sur SL(2, C) et qui, sur WF , est le!composé de l’inclusion : WF ,→ WDF = Å ã 1/2 |w|F 0 WF × SL(2, C); w 7→ w, avec ϕ. Ainsi ϕL détermine un certain −1/2 0 |w|F paquet de Langlands. Le support cuspidal étendu de tout élément de ce paquet est le même que celui des éléments de Π. Comme on l’a dit ci-dessus, il existe exactement une représentation de ce paquet qui soit le quotient de Langlands d’une induite ayant un modèle de Whittaker. Notons π0 le sous-quotient irréductible de cette induite ayant un modèle de Whittaker. Le lemme dit que π0 est tempérée et isomorphe à π. Supposons π cuspidale. Une représentation cuspidale n’étant sous-quotient d’une induite que si elle est égale à toute l’induite, la représentation π0 = π est aussi égale au quotient de Langlands de l’induite, donc appartient au L-paquet associé à ϕL . D’après la construction de ce paquet rappelée dans l’introduction, il en résulte que l’image de WF par ϕL est relativement compacte. Par définition de ϕL , cette image est somme des images des ρ|.|xF , pour (ρ, a) ∈ Jord(π) et x ∈ {(−a+1)/2, . . . , (a−3)/2, (a−1)/2}. Elle ne peut être relativement compacte que si a = 1 pour tout (ρ, a) ∈ Jord(π). En conclusion, si π est cuspidale, Jord(π) est un ensemble de couples (ρ, 1). Remarque. — On pourrait montrer que π = π0 est la représentation duale au sens d’Aubert, Schneider-Stuhler du quotient de Langlands. Prouvons le lemme. On fixe π comme dans l’énoncé et Π comme ci-dessus. Si π est cuspidale, elle est a fortiori tempérée, il n’y a rien à démontrer. Sinon, on écrit π comme sous-module d’une induite de représentations cuspidales π ,→ (×i=1,...,v ρi |.|sFi ) × πcusp ,

(1)

où πcusp est une représentation irréductible cuspidale d’un groupe de même type que G, v ≥ 1 est un entier et, pour tout i = 1, . . . , v, ρi est une représentation cuspidale unitaire irréductible d’un groupe linéaire et si est un nombre réel. Comme πcusp a nécessairement un modèle de Whittaker et est une représentation d’un groupe de rang plus petit que G, on sait, par récurrence, que Jord(πcusp ) est un ensemble de couples

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

198

C. MŒGLIN & J.-L. WALDSPURGER

(ρ, 1). Puisque πcusp est de la série discrète, cet ensemble est sans multiplicités et pour tout (ρ, 1) y intervenant, (ρ, 1) est de bonne parité, en particulier ρ est autodual. Soit (ρ, a) ∈ Jord(Π). On suppose d’abord que ρ n’est pas autoduale. Ainsi (ˇ ρ, a) ∈ −si Jord(Π) et il existe un sous-ensemble E de {1, . . . , v} tel que ∪i∈ E {ρi |.|sFi , ρˇi |.|F }= ∪x∈[(a−1)/2,−(a−1)/2] {ρ|.|xF , ρˇ|.|xF }. Un tel ensemble n’est pas unique, en général, et on en fixe un. Ainsi π est certainement un sous-quotient irréductible de l’induite : (×x∈[(a−1)/2,−(a−1)/2] ρ|.|xF ) × (×i=1,...,v;i∈/ E ρi |.|sFi ) × πcusp . Il existe donc un sous-quotient irréductible σ de l’induite ×x∈[(a−1)/2,−(a−1)/2] ρ|.|xF et un sous-quotient irréductible π 0 de l’induite (×i=1,...,v;i∈/ E ρi |.|sFi ) × πcusp tels que π soit un sous-quotient irréductible de l’induite σ × π 0 . Nécessairement σ a un modèle de Whittaker au sens usuel et π 0 en a un du même type que π. Ainsi σ ' ρ . En fait, on connaît aussi π 0 . En effet le support cuspidal étendu de l’induite (×i=1,...,v;i∈/ E ρi |.|sFi )×πcusp est celui des représentations tempérées dans le paquet Π0 , qui se déduit de Π en enlevant (ρ, a) et (ˇ ρ, a). En appliquant le lemme par récurrence, on sait que π 0 est une représentation tempérée. Il en est donc de même de tout sous-quotient de σ × π 0 , donc π est tempérée. Cela prouve le lemme dans ce cas. Supposons maintenant que Jord(Π) contient un élément (ρ, a) tel que ρ soit autoduale, avec une multiplicité notée m vérifiant l’une des conditions suivantes : – m > 2; – m = 2 et a est pair ; – m = 2 et a est impair mais (ρ, 1) n’intervient pas dans Jord(πcusp ). Ces conditions sont par exemple automatiques si (ρ, a) est de mauvaise parité. Alors E comme ci-dessus existe encore et π0 défini comme ci-dessus a encore son support cuspidal étendu qui se déduit de celui de π en enlevant deux copies de (ρ, a). On conclut comme ci-dessus. D’autre part, si a = 1 pour tout (ρ, a) ∈ Jord(Π), les si sont tous nuls et σ est certainement une représentation tempérée d’après l’inclusion (1). Il nous suffit donc maintenant de démontrer le lemme dans le cas où Jord(Π) contient un élément (ρ, a) de bonne parité avec a ≥ 2. On peut se limiter au cas où la multiplicité de (ρ, a) est inférieure ou égale à 2. On fixe un tel (ρ, a) et on suppose que a est maximal avec cette propriété. On fait d’abord la démonstration dans le cas où la multiplicité de (ρ, a) dans Jord(π) est 1 pour clarifier la méthode. On fixe une inclusion (1) et on sait qu’il s ζ(a−1)/2 existe i0 ∈ {1, . . . , v} tel que ρi0 |.|Fi0 ' ρ|.|F pour un signe convenable ζ. On fixe une telle inclusion avec l’hypothèse supplémentaire que pour tous les choix possibles, i0 est minimum. On suppose d’abord que i0 = 1 et on conclut : il existe un sous-quotient π 0 de l’induite (×i=2,...,v ρi |.|sFi ) × πcusp tel que π soit un sous-module ζ(a−1)/2 irréductible de l’induite ρ|.|F ×π 0 . Le support cuspidal étendu de π 0 est celui des représentations tempérées dans le paquet qui se déduit de Π en remplaçant (ρ, a) par (ρ, a − 2). De plus π 0 admet un modèle de Whittaker. Par l’hypothèse de récurrence, on sait que π 0 est tempérée. Ainsi si ζ = +, π est un sous-module irréductible de

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

199

(a−1)/2

l’induite ρ|.|F × π 0 . On applique le lemme 2.4 avec ici m = 1, π − = π 0 . Ce lemme nous dit que π appartient à Π, donc est une représentation tempérée. Considérons le cas où ζ = −. Sous cette hypothèse, π est le sous-module de Langlands de l’induite −(a−1)/2 ρ|.|F ×π 0 . Comme π a un modèle de Whittaker, le théorème 1.1 de [Mu] montre que cette induite est irréductible et π est donc aussi un sous-module irréductible de (a−1)/2 l’induite ρ|.|F ×π 0 . On conclut comme précédemment. Au passage d’ailleurs cette conclusion montre que l’induite ne peut pas être irréductible et que ce cas ne peut se produire. Il suffit donc de démontrer que i0 = 1. Supposons qu’il n’en soit pas ainsi mais que s (a−1)/2 ζ = +. Dans ce cas ρi0 −1 |.|Fi0 −1 ×ρ|.|F est soit irréductible soit de longueur deux. Dans le premier cas on peut commuter les facteurs ce qui contredit la minimalité de s (a−3)/2 (a−3)/2 i0 . Dans le deuxième cas, ρi0 −1 |.|Fi0 −1 ' ρ|.|F et on peut remplacer ρ|.|F × (a−1)/2 ρ|.|F par son unique sous-quotient ayant un modèle de Whittaker. Ce sous(a−1)/2 quotient est ρ . Or ρ ,→ ρ|.|F × (a−3)/2 ρ|.|F et on peut donc encore échanger i0 et i0 − 1 ce qui contredit la minimalité de i0 . Donc si ζ = +, i0 = 1. On suppose que ζ = −. Ici la deuxième partie de l’argument ci-dessus est différente. −(a−3)/2 −(a−1)/2 On peut remplacer ρ|.|F × ρ|.|F par ρ . En procédant ainsi de proche ne proche, on montre qu’il existe un segment décroissant [e, −(a − 1)/2] et une inclusion π ,→ ρ × π 0 ,

(2)

où π 0 est une représentation irréductible convenable. On va montrer que nécessairement e = (a − 3)/2. De (1) on tire que π est un sous-quotient irréductible de l’induite (a−1)/2 ×π1 où π1 a pour support cuspidal étendu celui de π où on a remplacé (ρ, a) ρ|.|F par (ρ, a − 2). Comme π1 a nécessairement un modèle de Whittaker, π1 est tempérée. (a−1)/2 On sait calculer les modules de Jacquet de l’induite ρ|.|F × π1 . On voit que (2) force l’existence d’une inclusion : π1 ,→ ×j∈[e,−(a−3)/2] ρ|.|jF × π2 , où π2 ne nous intéresse pas. Comme π1 est une représentation tempérée, nécessairement e = (a − 3)/2 comme annoncé. Le support cuspidal étendu de π1 contient donc ∪x∈[(a−3)/2,−(a−3)/2 {ρ|.|xF } avec multiplicité au moins 2. Ceci est donc aussi vrai pour le support cuspidal de π et il existe des entiers b, b0 supérieurs ou égaux à a − 2 tel que (ρ, b) et (ρ, b0 ) soient dans Jord(Π). Par maximalité de a, on a b, b0 ≤ a et comme (ρ, a) n’intervient qu’avec multiplicité 1 dans Jord(Π), l’un des deux vaut a − 2. Ainsi Jord(Π) contient (ρ, a) et (ρ, a − 2) et le support cuspidal étendu de π 0 se déduit de celui de Jord(π) en enlevant (ρ, a) et (ρ, a − 2). On applique l’hypothèse de récurrence à π 0 qui a nécessairement un modèle de Whittaker et on sait que π 0 est tempérée. Ainsi π est le sous-module de Langlands de l’induite ρ ×π 0 . D’après [Mu] théorème 1.1, cette

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

200

C. MŒGLIN & J.-L. WALDSPURGER

induite doit être irréductible, elle est donc isomorphe à ρ × π 0 on trouve encore une inclusion avec i0 = 1 ce qui contredit la minimalité de i0 . Il nous reste donc à voir le cas où la multiplicité de (ρ, a) dans Jord(π) est égale à 2. On procède comme ci-dessus mais ici, i0 et remplacé par i1 < i2 où pour j = 1, 2, si ζ (a−1)/2 il existe un signe ζj tel que ρij |.|F j = ρ|.|Fj . On fixe une telle inclusion. En ζi (a−1)/2

procédant comme ci-dessus, on pousse d’abord vers la gauche les ρ|.|F j où ζj = +. Puis on pousse les autres. On montre que pour tout j = 1, 2 tel que ζj = −, il existe un demi-entier ej tel que [ej , ζj (a − 1)/2] soit un segment décroissant et une inclusion (a−1)/2

π ,→ (×j=1,2;ζj =+ ρ|.|F

) × (×j=1,2;ζj =− ρ ) × π 0 ,

pour π 0 irréductible convenable. Comme ci-dessus on vérifie que ou bien ζj = +, ou bien ej ≥ (a − 3)/2 et que l’égalité est nécessaire par maximalité de a (ici on utilise (a−1)/2 le fait que l’on a déjà poussé tous les ρ|.|F en première position). On note m+ le nombre de j = 1, 2 tels que ζj = + et m− = 2 − m+ . On pose (a−1)/2

τ = ρ|.|F

(a−1)/2

× · · · × ρ|.|F

× ρ × · · · × ρ ,

avec m+ copies de la première représentation et m− copies de la seconde. Ainsi π 0 est une représentation irréductible ayant un modèle de Whittaker et dont le support cuspidal étendu s’obtient à partir Jord(Π) en enlevant le support cuspidal de τ et celui de τˇ. Autrement dit, le support cuspidal étendu de π 0 s’obtient en remplaçant d’abord dans Jord(Π) les 2 copies de (ρ, a) par 2 copies de (ρ, a − 2) puis en enlevant 2m− copies de (ρ, a − 2) ; il se peut que 2m− > 2 mais comme dans la démonstration du cas m = 1 cela ne gêne pas. Ainsi le support cuspidal étendu de π 0 est le support cuspidal d’une représentation tempérée et π 0 est donc une représentation tempérée. On pose m = inf(m+ , m− ). On suppose que m 6= 0, donc m = m+ = m− = 1, et on remarque que l’inclusion π ,→ τ × π 0 se factorise necessairement par le sous-module irréductble de τ ayant un modèle de Whittaker. Celui-ci est ρ . La représentation π 0 a pour support cuspidal étendu celui de π dont on a enlevé les deux copies de (ρ, a). C’est donc bien le support cuspidal étendu d’une représentation tempérée et par hypothèse de récurrence, on sait que π 0 est tempérée. Ainsi π est un sous-module d’une représentation induite tempérée et est donc tempérée. On suppose donc que m = 0. On a donc soit m+ = 2 et m− = 0, soit m− = 2 et m+ = 0. Dans le cas où m+ = 2, on sait que π est une représentation tempérée en appliquant le lemme 2.4. Si m− = 2, on sait que π est le sous-module de Langlands de l’induite τ × π 0 . Cette induite est donc irréductible d’après [Mu] théorème 1.1. D’où encore π ' τˇ × π 0 (a−1)/2

(a−1)/2

,→ ρ|.|F × ρ|.|F × ρ × ρ × π 0 . On trouve encore une inclusion (a−1)/2

π ,→ ρ|.|F

ASTÉRISQUE 347

(a−1)/2

× ρ|.|F

× π 00 ,

LA CONJECTURE LOCALE DE GROSS-PRASAD

201

où π 00 est une représentation tempérée. L’ensemble Jord(π 00 ) se déduit de Jord(Π) en remplaçant les 2 copies de (ρ, a) par 2 copies de (ρ, a − 2). En particulier Jord(π 00 ) ne contient pas (ρ, a) et contient au moins 2 copies de (ρ, a − 2) (on peut avoir a = 2 bien que le cas où a est pair ait déjà été démontré). Il suffit d’appliquer le lemme 2.4 pour conclure que σ est une représentation tempérée. Cela termine la preuve. 2.8. Définition des points de réductibilité possible pour une représentation tempérée. — Soit π une représentation irréductible tempérée de G(F ). On note RP (π) (pour « réductibilité possible ») l’ensemble des couples (ρ, x), où ρ une représentation irréductible cuspidale unitaire d’un groupe linéaire et x un nombre réel, tel que : – ρ|.|xF × π ait pour support cuspidal éténdu le support cuspidal d’une représentation tempérée de GL(dˆG + 2dρ , F ) ; – de plus, si x = 0, (ρ, 1) est de bonne parité mais n’appartient pas à Jord(π). Ce sont exactement les couples décrits dans la remarque 2.3 sauf quand x = 0 où on a restreint les possibilités. Remarquons que, pour (ρ, x) ∈ RP (π), on a ρˇ = ρ et (ρ, −x) ∈ RP (π). Proposition 2.6. — Soient π une représentation irréductible tempérée de G(F ), ρ une représentation cuspidale unitaire irréductible d’un groupe linéaire et x un réel non nul. On suppose que (ρ, x) ∈ / RP (π). Alors l’induite ρ|.|xF × π est irréductible. Démonstration. — Le cas x = 0 résulte de la classification des représentations tempérées. Dans tout ce qui suit, on suppose x 6= 0 et, par symétrie, on peut supposer x > 0. On appelle série discrète strictement positive une série discrète telle que tous les termes de son module de Jacquet cuspidal soient de la forme (⊗i=1,...,v ρi |.|sFi ) ⊗ πcusp où πcusp est une représentation irréductible cuspidale d’un groupe de même type que G, v est un entier convenable et, pour i = 1, . . . , v, ρi est une représentation irréductible cuspidale unitaire d’un groupe linéaire et si est un réel strictement positif. Remarquons que les si sont forcément des demi-entiers. On suppose d’abord que π est une série discrète strictement positive. On va alors montrer la propriété suivante : l’induite ρ|.|xF × π est irréductible ou elle contient un sous-quotient irréductible qui est une représentation tempérée. En effet, soit σ un sous-quotient irréductible de l’induite ρ|.|xF × π. On regarde les termes d’un module de Jacquet cuspidal de σ c’est-à-dire les inclusions σ ,→ (×i=1,...,v+1 ρi |.|sFi ) × πcusp . (1) D’après la propriété de positivité de π tous les si qui interviennent sont strictement positifs sauf éventuellement un, pour i = i0 disons, tel que ρi0 ' ρˇ et si0 = −x. Si i0 = 1, alors σ est le quotient de Langlands de l’induite ρ|.|xF × π d’après le lemme 2.3. Supposons que i0 > 1 et supposons d’abord que x 6= 1/2. Cette hypothèse assure que, pour tout i = 1, . . . , i0 − 1, les induites ρi |.|sFi × ρˇ|.|−x F sont irréductibles car si ∈ 1/2N

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

202

C. MŒGLIN & J.-L. WALDSPURGER

et si + x est un nombre réel positif qui n’est pas 1. Ainsi l’inclusion ci-dessus donne une inclusion analogue mais où ρˇ|.|−x F a été poussé à la première place. Dans ce cas σ est le quotient de Langlands. Donc si x 6= 1/2, σ est soit une série discrète positive soit est le quotient de Langlands. Ainsi si l’induite ρ|.|xF × π est réductible, elle contient un sous-quotient qui est une série discrète et x ∈ RP (π) comme annoncé. −1/2 Le cas où x = 1/2 est de même nature ; on ne peut pas « pousser » ρˇ|.|F à la première place s’il existe i = 1, . . . , i0 − 1 tel que ρi ' ρˇ et si = 1/2. Mais dans ce cas, le terme du module de Jacquet que l’on considère vérifie la propriété de positivité large qui caractérise les représentations tempérées. Donc ici, soit σ est une représentation tempérée soit σ est le quotient de Langlands de l’induite ρ|.|xF × π. Et on conclut comme ci-dessus. On suppose maintenant que π est une représentation tempérée quelconque et on prouve la proposition par récurrence sur le rang de G. On suppose que x ∈ / RP (π) et on montre que l’induite ρ|.|xF × π est irréductible. On suppose que π n’est pas une série discrète strictement positive puisque ce cas a déjà été vu. Alors il existe : – une représentation irréductible cuspidale unitaire ρ0 d’un groupe linéaire ; – un segment [e0 , f0 ] formé de demi-entiers tel que e0 ≥ 0 ≥ f0 ; – une représentation irréductible tempérée π 0 d’un groupe de même type que G ; de sorte que l’on ait une inclusion : π ,→ ρ0 × π 0 . Si π n’est pas de la série discrète, cela résulte de 2.2(2). Si π est de la série discrète, c’est le lemme 3.1 de [9]. Si ρ0 6' ρˇ0 nécessairement e0 = −f0 et d’après le lemme 2.2 : ( RP (π 0 ) ∪ (ρ0 , e0 + 1) ∪ (ρ0 , −f0 + 1) si ρ0 ' ρˇ0 , RP (π) = RP (π 0 ) ∪ (ρ0 , e0 + 1) ∪ (ˇ ρ0 , e0 + 1) si ρ0 6' ρˇ0 . Ainsi si (ρ, x) ∈ / RP (π), l’induite ρ|.|xF × ρ0 est irréductible car soit ρ 6' ρ0 , soit ρ ' ρ0 et x 6= d0 + 1, (on rappelle que x > 0 ce qui force x 6= f0 − 1). De même soit ρ 6' ρˇ0 , soit ρ ' ρˇ0 et x 6= −f0 + 1, d’où l’irréductibilité de l’induite / RP (π 0 ), ρˇ0 × ρ|.|xF et par dualité celle de ρ0 × ρˇ|.|−x F . Comme x ∈ x 0 par l’hypothèse de récurrence, on sait aussi que ρ|.|F × π est irréductible. On a donc une suite de morphismes : ρ|.|xF × π ,→ ρ|.|xF × ρ0 × π 0 ' ρ0 × ρ|.|xF × π 0 0 0 ' ρ0 × ρˇ|.|−x ˇ|.|−x F ×π 'ρ F × ρ0 × π .

L’irréductibilité cherchée résulte alors du lemme 2.3 et cela termine la preuve. 2.9. Réductibilité et généricité Lemme 2.7. — Soit ρ une représentation irréductible d’un groupe linéaire, que l’on suppose cuspidale, unitaire et autoduale. Soient e, f des demi-entiers tels que e ≥ 0 et e + f 6= 0. On suppose que (ρ, 2e + 1) et (ρ, 2|f | + 1) ont la bonne parité. Supposons

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

203

G quasi-déployé, soit π une représentation tempérée de G(F ), irréductible, ayant un modèle de Whittaker. Alors (i) si f ≤ 0, l’induite ρ × π est réductible ; (ii) supposons que f > 0 et que (ρ, f ) ∈ RP (π) ; alors l’induite ρ × π est réductible. Démonstration. — Les hypothèses de (i) comme de (ii) assurent que tout sousquotient irréductible de l’induite écrite a même support cuspidal étendu qu’une représentation tempérée π 0 : dans le cas (i), Jord(π 0 ) = Jord(π) ∪ {(ρ, 2e + 1), (ρ, −2f + 1)} et dans le cas (ii), Jord(π 0 ) se déduit de Jord(π) en remplaçant (ρ, 2f − 1) par (ρ, 2e + 1). Or ces induites ont un sous-quotient irréductible ayant un modèle de Whittaker. On applique alors le lemme 2.5 pour montrer que ce sous-quotient irréductible est tempéré. Puisque l’induite n’est pas tempérée, elle est réductible. 2.10. La notion de liaison. — On fixe une représentation irréductible cuspidale et unitaire ρ d’un groupe linéaire et un segment [e, f ] de nombres réels. Soit π une représentation irréductible tempérée de G(F ). On dit que (ρ, e, f ) et Jord(π) sont liés si les conditions suivantes sont satisfaites : e est un demi-entier et (1) si (ρ, 2|e|+1) n’est pas de bonne parité, il existe un entier a ≥ 1 de même parité que 2e + 1 tel que (ρ, a) ∈ Jord(π) et les segments [e, f ] et [(a − 1)/2, −(a − 1)/2] sont liés au sens de Zelevinsky ; (2) si (ρ, 2|e| + 1) est de bonne parité, alors soit e ≥ −1/2 et f ≤ 1/2, soit il existe (ρ, a) ∈ Jord(π) avec (a + 1)/2 ∈ [e, f ] ∪ [−f, −e]. La notion de liaison ne dépend que de Jord(π) et non de π. De plus, (ρ, e, f ) et Jord(π) sont liés si et seulement si (ˇ ρ, −f, −e) et Jord(π) le sont. L’intérêt de cette notion de liaison est qu’elle sert à énoncer des conditions suffisantes pour qu’une induite soit irréductible, ces conditions devenant nécessaires et suffisantes dans le cas où l’induite est supposée générique. Cf. le théorème 2.11 cidessous que ce paragraphe et les suivants visent à prouver. Proposition 2.8. — On suppose G quasi-déployé. Soit (ρ, e, f ) comme ci-dessus et soit π une représentation irréductible tempérée de G(F ) ayant un modèle de Whittaker. On suppose que (ρ, e, f ) et Jord(π) sont liés et que e + f 6= 0. Alors l’induite ρ × π est réductible. Démonstration. — Par symétrie, on suppose e + f > 0, a fortiori e > 0. On suppose d’abord que (ρ, e, f ) satisfait la propriété (1) de la condition de liaison. On fixe a comme dans cette propriété ; comme (ρ, a) n’a pas bonne parité (puisque (ρ, 2e + 1) ne l’a pas) π est une induite de la forme ρ × π 0 , où π 0 est une représentation irréductible tempérée convenable. On a donc un isomorphisme : ρ × π ' ρ × ρ × π 0 .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

204

C. MŒGLIN & J.-L. WALDSPURGER

Or l’induite ρ × ρ dans le GL convenable n’est pas irréductible d’où la réductibilité de l’induite de gauche comme annoncé. Ici on n’a d’ailleurs pas utilisé le fait que π a un modèle de Whittaker. On suppose que c’est (2) de la définition de la liaison qui est satisfait. En particulier (ρ, 2e + 1) et (ρ, 2|f | + 1) sont de bonne parité. Si f ≤ 1/2 le lemme 2.7 montre que l’induite est réductible. On suppose donc que f > 1/2 et qu’il existe un entier a ≥ 1 tel que (ρ, a) ∈ Jord(π) et (a + 1)/2 ∈ [e, f ]. On note σ le sous quotient irréductible de l’induite ρ ×π ayant un modèle de Whittaker. Ainsi σ est aussi un sous-quotient irréductible de l’induite ρ × ρ × π. On note π 0 le sous-quotient irréductible de l’induite ρ × π ayant un modèle de Whittaker et on sait que π 0 est une représentation tempérée, cf. lemme 2.5. Ainsi σ est un sous-quotient de l’induite ρ × π 0 . Si l’induite ρ × π est irréductible, elle coïncide avec σ et σ est un sous-module de l’induite ρ × −e π. Donc un module de Jacquet cuspidal de σ contient un terme ρ|.|−f F ⊗· · ·⊗ρ|.|F ⊗· · · On sait calculer les modules de Jacquet cuspidaux de l’induite ρ × π 0 . Pour qu’ils contiennent le terme précédent, il faut nécessairement qu’il existe x ∈ [−f, −e] tel que le module de Jacquet de π 0 contienne un terme de la forme −x ρ|.|F ⊗ · · · car le facteur ρ ne peut contribuer au mieux qu’au soussegment [−f, (a − 1)/2] de [−f, −e]. Ceci contredit le fait que π 0 est tempérée et termine la preuve. 2.11. Un résultat d’irréductibilité Lemme 2.9. — Soient (ρ, e, f ) comme en 2.10 et π une représentation irréductible et tempérée de G(F ). On suppose que (ρ, e, f ) et Jord(π) ne sont pas liés, que e + f 6= 0 et que, ou bien e n’est pas un demi-entier, ou bien e est demi-entier et (ρ, 2|e| + 1) n’est pas de bonne parité. Alors l’induite ρ × π est irréductible. Démonstration. — On suppose, par symétrie, que e + f > 0. On démontre d’abord le lemme dans le cas où soit ρ 6' ρˇ, soit 0 ∈ / [e, f ]. On gagne le fait que pour tout x ∈ [e, f [, l’induite (dans un groupe linéaire convenable) ρ × ρˇ|.|−x+1 F est irréductible. Supposons de plus pour le moment que π est une série discrète. Alors pour tout x ∈ [e, f ], (ρ, x) ∈ / RP (π) (puisque (ρ, x) n’a pas la bonne parité) et l’induite ρ|.|xF × π est irréductible donc isomorphe à ρˇ|.|−x F × π. De proche en proche, on montre alors que l’on a une inclusion ρ × π ,→ ρˇ|.|−f ˇ|.|−x+1 × ρ × π F × ···ρ F ,→ ρˇ|.|−f ˇ|.|−e F × ··· × ρ F × π. Et cela donne l’irréductibilité annoncée dans l’énoncé d’après le lemme 2.3. On enlève l’hypothèse que π est une série discrète. S’il n’en est pas ainsi, π est une sous-représentation d’une induite de la forme ρ0 × π 0 , où π 0 est

ASTÉRISQUE 347

205

LA CONJECTURE LOCALE DE GROSS-PRASAD

une représentation irréductible tempérée. Il est immédiat que (ρ, e, f ) et Jord(π 0 ) ne sont pas liés car Jord(π 0 ) est un sous-ensemble de Jord(π). De plus puisque (ρ, e, f ) et Jord(π) ne sont pas liés, on sait que si ρ ' ρ0 , les segments [(a − 1)/2, −(a − 1)/2] et [e, f ] ne sont pas liés. Il en est de même si ρ ' ρˇ0 car si (ρ, a) ∈ Jord(π) alors (ˇ ρ, a) aussi. Par symétrie par rapport à 0, les segments [(a − 1)/2, −(a − 1)/2] et [−f, −e] ne sont liés que si les segments [(a − 1)/2, −(a − 1)/2] et [e, f ] sont liés. Ainsi l’induite ρ × ρ0 est irréductible et il en est de même de l’induite ρ0 × ρˇ. On admet par récurrence, que l’induite ρ × π 0 est irréductible donc isomorphe à l’induite ρˇ × π 0 et on a alors une série d’isomorphismes : ρ × π ,→ ρ × ρ0 × π 0 ' ρ0 × ρ × π 0 ' ρ0 × ρˇ × π 0 ' ρˇ × ρ0 × π 0 . Et l’irréductibilité annoncée résulte du lemme 2.3. Le cas restant est plus délicat. On suppose donc que ρ ' ρˇ et que 0 ∈ [e, f ], c’està-dire que e et f sont des entiers tels que e ≥ 0 ≥ f . Pour éviter les confusions de signes, on pose f + = −f ≥ 0. On traite d’abord le cas où π est une série discrète strictement positive. Soit σ un sous-quotient irréductible de l’induite ρ × π. On va montrer que soit σ est une représentation tempérée, soit σ est le quotient de Langlands de l’induite ρ × π. On considère les termes constants cuspidaux de σ c’est-à-dire les inclusions s0

σ ,→ (×i=1,...,v0 ρ0i |.|Fi ) × πcusp ,

(1) 0

ρ0i

où πcusp est irréductible et cuspidale et, pour tout i = 1, . . . , v , est une représentation irréductible cuspidale et unitaire d’un groupe linéaire et s0i ∈ R. Les termes constants cuspidaux de toute l’induite sont indexés par le choix d’un entier x ∈ [e + 1, −f + ] et d’un terme constant cuspidal pour π, c’est-à-dire d’une inclusion : π ,→ (×i=1,...,v ρi |.|sFi ) × πcusp et s’obtiennent en mélangeant les 3 ensembles ordonnés suivants (en gardant l’ordre dans chaque ensemble) ∪i∈[e,x] {ρ|.|iF }; ∪i∈[f + ,−x[ {ρ|.|iF }; ∪i=1,...,v {ρi |.|sFi }. Un tel terme vérifie la condition de positivité des représentations tempérées si x ≤ f + + 1. Le point est donc de démontrer que si σ contient un terme comme ci-dessus avec x > f + + 1 alors σ est le quotient de Langlands de l’induite ρ × π. On fixe donc σ et un terme comme ci-dessus avec x > f + + 1. On utilise le fait que pour tout i = 1, . . . , v, si ρi ' ρ alors si est un demi-entier non entier : (ρ, 2si + 1) doit avoir bonne parité, or e est entier et (ρ, 2e + 1) n’a pas bonne parité. Donc pour tout entier y ∈ [e, −f + ] ∪ [f + , −e] et pour tout i = 1, . . . , v, l’induite ρ|.|yF × ρi |.|sFi est irréductible. On peut donc commuter ces facteurs. De même pour tout y ∈ [e, x] et

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

206

C. MŒGLIN & J.-L. WALDSPURGER

0

tout y 0 ∈ [f + , −x[ l’induite ρ|.|yF × ρ|.|yF est irréductible car y − y 0 ≥ x − f + > 1. On peut donc aussi commuter de tels facteurs et finalement l’assertion sur σ se traduit par l’existence d’une inclusion : σ ,→ (×j∈[f + ,−x] ρ|.|jF ) × (×i=1,...,v ρi |.|sFi ) × (×y∈[e,x[ ρ|.|yF ) × πcusp . Pour tout y ∈ [e, x[, ρ|.|yF × πcusp est irréductible (proposition 2.6) et donc isomorphe à ρ|.|−y F × πcusp . D’où finalement une inclusion σ ,→ (×j∈[f + ,−x] ρ|.|jF ) × (×i=1,...,v ρi |.|sFi ) × (×y∈[x,e] ρ|.|−y F ) × πcusp ' (×j∈[f + ,−e] ρ|.|jF ) × (×i=1,...,v ρi |.|sFi ) × πcusp . Et σ est le quotient de Langlands de l’induite comme annoncé, cf. lemme 2.3. Ainsi ρ × π a un seul sous-quotient irréductible qui n’est pas tempéré, c’est le sousquotient de Langlands. Mais une telle induite ne peut avoir de sous-quotient irréductible qui sont des représentations tempérées car son support cuspidal étendu est l’union de celui de π avec les 2 segments [e, −e] ∪ [f + , −f + ] basés sur ρ. Ceci n’est pas le support cuspidal étendu d’une représentation tempérée car (ρ, 2e+1) n’a pas bonne parité, ni d’ailleurs (ρ, 2f + + 1), et que e 6= f + par hypothèse. D’où l’irréductibilité. On considère maintenant une représentation irréductible tempérée π quelconque et on prouve l’irréductibilité par récurrence. Si π n’est pas une série discrète strictement positive, alors, comme on l’a dit en 2.8, il existe une représentation cuspidale ρ0 (unitaire irréductible), un segment [e0 , −f 0 ] de demi-entiers avec e0 , f 0 ≥ 0, et une représentation irréductible tempérée π 0 avec une inclusion : π ,→ ρ0 × π 0 . De plus si ρ0 ' ρ soit (ρ, 2e0 + 1) et (ρ, 2f 0 + 1) sont de bonne parité ce qui entraîne que e0 − e et f 0 + f sont des demi-entiers non entiers, soit (ρ, 2e0 + 1) et (ρ, 2f 0 + 1) ne sont pas de bonne parité ce qui force e0 = f 0 et, par l’hypothèse de non liaison, que les segments [e, f ] et [e0 , −f 0 ] ne sont pas liés. Ainsi l’induite ρ × ρ0 est irréductible. On vérifie de la même façon que l’induite et ρ0 × ρ est irréductible. On a donc : ρ × π ,→ ρ × ρ0 × π 0 ' ρ0 × ρ × π 0 . On sait d’après le lemme 2.2 que Jord(π) = Jord(π 0 ) ∪ {(ρ, 2e0 + 1), (ρ, 2f 0 + 1)} et ainsi (ρ, e, f ) n’est pas lié à Jord(π 0 ). Par l’hypothèse de récurrence ρ × π 0 est donc aussi irréductible et on a encore une inclusion ρ × π ,→ ρ0 × ρ × π 0 ' ρ × ρ0 × π 0 . Avec le lemme 2.3, cette inclusion montre l’irréductibilité de l’induite ρ × π. Cela termine la preuve.

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

207

2.12. Un second résultat d’irréductibilité Proposition 2.10. — Soient (ρ, e, f ) comme en 2.10 et π une représentation irréductible tempérée de G(F ). On suppose que (ρ, e, f ) et Jord(π) ne sont pas liés. Alors l’induite ρ × π est irréductible. Démonstration. — En tenant compte du lemme précédent, il nous reste à voir le cas où e est demi-entier et (ρ, 2|e| + 1) est de bonne parité. On peut encore supposer e + f > 0. L’hypothèse de non liaison assure alors que f > 1/2 et que pour tout x ∈ [e, f ], ρ|.|xF ∈ / RP (π). En particulier, pour un tel x, on sait que ρ|.|xF × π est 0 irréductible (proposition 2.6), donc isomorphe à ρ|.|−x F × π. De plus pour tous y, y ∈ 0 y −y [d, f ], y + y 0 ≥ 2f > 1 et les induites ρ|.|F × ρ|.|F sont donc aussi irréductibles. On a donc un isomorphisme : (×x∈[e,f ] ρ|.|xF ) × π ' (×x∈[−f,−e] ρ|.|xF ) × π. D’où ρ × π ,→ (×x∈[e,f ] ρ|.|xF ) × π ' (×x∈[−f,−e] ρ|.|xF ) × π. Et on conclut, avec le lemme 2.3, à l’irréductibilité de l’induite. 2.13. Critère d’irréductibilité. — Généralisons la notion de liaison. Soit k ∈ N et pour tout i = 1, . . . , k soit (ρi , ei , fi ) un triplet formé d’une représentation irréductible ρi cuspidale et unitaire d’un groupe linéaire et d’un segment [ei , fi ] de nombres réels. Soit aussi π une représentation irréductible tempérée de G(F ). On dit que {(ρi , ei , fi )i=1,...,k } et Jord(π) ne sont pas liés si pour tout i = 1, . . . , k, (ρi , ei , fi ) et Jord(π) ne sont pas liés et si, pour tout j = 1, . . . , k, j 6= i, les induites ρi × ρj et ρi × ρˇj sont irréductibles. Théorème 2.11. — Soient {(ρi , ei , fi )i=1,...,k } comme ci-dessus et π une représentation irréductible tempérée de G(F ). On suppose que pour tout i = 1, . . . , k, ei + fi 6= 0. (i) On suppose que G est quasi-déployé et que π a un modèle de Whittaker. Alors l’induite (×i=1,...,k ρi ) × π est irréductible seulement si {(ρi , ei , fi )i=1,...,k } et Jord(π) ne sont pas liés. (ii) On suppose que {(ρi , ei , fi )i=1,...,k } et Jord(π) ne sont pas liés. Alors l’induite (×i=1,...,k ρi ) × π est irréductible. En d’autres termes, la condition de non liaison est nécessaire et suffisante pour avoir l’irréductibilité de l’induite si π a un modèle de Whittaker et est seulement suffisante sans cette hypothèse de modèle de Whittaker. Démonstration. — Prouvons (i). On suppose que l’induite figurant dans cette assertion est irréductible. Il faut certainement que pour tout i, j = 1, . . . , k, i 6= j, les induites ρi × ρj soient irréductibles. Pour un choix de j = 1, . . . , k, l’irréductibilité de l’induite de l’assertion est aussi équivalente à l’irréductibilité de la même induite mais où on remplace ρj par sa contragrédiente ρˇj ; on doit donc avoir aussi l’irréductibilité pour tout i, j = 1, . . . , k, i 6= j, des induites

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

208

C. MŒGLIN & J.-L. WALDSPURGER

ρi × ρˇj . De plus pour tout i = 1, . . . , k, l’induite ρi × π doit aussi être irréductible et donc, d’après la proposition 2.8, (ρi , ei , fi ) et Jord(π) ne sont pas liés. Cela montre que les conditions de non liaison sont bien nécessaires pour avoir l’irréductibilité quand π a un modèle de Whittaker. Prouvons (ii). On suppose que, pour tout i = 1, . . . , k, ei +fi > 0, sinon on remplace ρi par ρˇi . En permutant, comme on en a le droit, on suppose aussi que e1 +f1 ≥ · · · ≥ ek +fk . Avec ces choix, l’induite (×i=1,...,k ρi ) × π (1) a un unique quotient irréductible, σ. De plus σ intervient avec multiplicité 1 comme sous-quotient irréductible et l’induite (×i=1,...,k ρˇi ) × π ' (×i=k,...,1 ρˇi ) × π

(2)

a un unique sous-module irréductible et il est isomorphe à σ. Pour démontrer l’irréductibilité de l’induite (1), il suffit donc de montrer que (1) est un sous-module de (2) et on va même vérifier que (1) et (2) sont isomorphes. On a les isomorphismes (×i=1,...,k ρi ) × π ' (×i=1,...,k−1 ρi ) × ρˇk × π ' ρˇk × (×i=1,...,k−1 ρi ) × π. Et de proche en proche on construit donc un isomorphisme de (1) et (2). Ceci termine la preuve. 2.14. Irréductibilité et L-paquets génériques. — Soit G la forme intérieure quasi-déployée de G. Pour un L-paquet Π de représentations tempérées de G(F ), on note Π le L-paquet de représentations tempérées de G(F ) qui correspond à Π, autrement dit dont le paramètre de Langlands est le même que celui de Π. On a Jord(Π) = Jord(Π). Dans l’énoncé ci-dessous, l’induite désigne une représentation de G(F ) ou de G(F ) selon que π appartient à Π ou à Π. Corollaire 2.12. — Soit k ∈ N. Pour tout i = 1, . . . , k, soit σi une représentation irréductible d’un groupe linéaire, unitaire et de la série discrète, et soit si un nombre réel non nul. Soit Π un L-paquet de représentations irréductibles tempérées de G(F ). Alors l’induite (×i=1,...,k σi |.|sFi ) × π est irréductible pour tout π ∈ Π t Π si et seulement s’il existe une représentation π0 ∈ Π ayant un modèle de Whittaker et tel que l’induite précédente soit irréductible pour π = π0 . Démonstration. — Il est évident que si l’induite de l’énoncé est irréductible pour tout π ∈ Π t Π, elle l’est en particulier pour π = π0 ayant un modèle de Whittaker. Réciproquement on suppose que cette induite est irréductible pour une représentation π = π0 ayant un modèle de Whittaker. On écrit, pour tout i = 1, . . . , k, σi |.|sFi sour la forme ρi et on a si = ei + fi 6= 0. Le (i) du théorème précédent dit que les

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

209

{(ρi , ei , fi )i=1,...,k } et Jord(Π) ne sont pas liés. Le (ii) du même théorème donne alors l’irréductibilité de l’induite pour tout π ∈ Π t Π. Cela termine la preuve. 2.15. Le cas des groupes spéciaux orthogonaux pairs. — On suppose que G est spécial orthogonal pair. La principale différence avec les cas symplectique et spécial orthogonal impair est que notre notation simplifiée σ1 × · · · × σm × π pour les induites est trop imprécise car d’une part, il peut y avoir deux sous-groupes paraboliques non conjugués de même Lévi GL(d1 ) × · · · × GL(dt ) × G0 , d’autre part, l’identification du groupe central G0 n’est canonique qu’à conjugaison près par un élément du groupe orthogonal tout entier (ce qui fait que selon l’identification choisie, π est remplacé par π w ). On peut remédier à cela de la façon suivante. Fixons une décomposition V = F v1 ⊕ · · · ⊕ F vt ⊕ Van ⊕ F v−t ⊕ · · · ⊕ F v−1 de sorte que – les vecteurs vi sont isotropes et q(vi , v−i ) = 1 pour i = ±1, . . . , ±t ; – les espaces F v1 ⊕ F v−1 , . . . , F vt ⊕ F v−t et Van sont deux à deux orthogonaux ; – la restriction de q à Van est anisotrope. Appelons famille parabolique une famille (Ij )j=1,...,m vérifiant les conditions suivantes : – chaque Ij est un sous-ensemble non vide de {±1, . . . , ±t} ; – en posant Iˇj = {−i; i ∈ Ij }, les ensembles I1 , . . . , Im , Iˇ1 , . . . , Iˇm sont deux à deux disjoints. Pour une telle famille et pour j = 1, . . . , t, notons Xj le sous-espace de V engendré par les vecteurs vi pour i ∈ ∪k=1,...,j Ik . Notons PI1 ,...,Im le sous-groupe parabolique de G formé des éléments qui conservent le drapeau de sous-espaces X1 ⊂ X2 ⊂ · · · ⊂ Xm . La composante de Lévi de PI1 ,...,Im s’identifie à GL(d1 ) × · · · × GLdm × G0 où, pour tout j, dj est le nombre d’éléments de Ij et G0 est le groupe spécial orthogonal du S sous-espace de V engendré par Van et les vi pour i 6∈ j=1,...,m (Ij ∪ Iˇj ). Cette identification est canonique (à automorphismes intérieurs près pour les blocs GL(dj ), mais cela n’a pas d’importance). Supposons d’abord Van 6= {0}. Alors l’application qui, à une famille parabolique (Ij )j=1,...,m , associe PI1 ,...,Im est injective. La classe de conjugaison de ce parabolique est déterminée par la suite d’entiers d1 , . . . , dm . Supposons maintenant Van = {0}. L’application n’est plus injective. Le défaut d’injectivité est le suivant. Considérons une famille parabolique (Ij )j=1,...,m telle qu’il existe i0 ∈ {1, . . . , t} de sorte que [ ( (Ij ∪ Iˇj )) = {±1, . . . , ±t} \ {i0 , −i0 }. j=1,...,m

On peut compléter cette famille en deux autres, en lui ajoutant un élément Im+1 égal soit à {i0 }, soit à {−i0 }. On a PI1 ,...,Im = PI1 ,...,Im ,{i0 } = PI1 ,...,Im ,{−i0 } .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

210

C. MŒGLIN & J.-L. WALDSPURGER

Remarquons que les Lévi de ces paraboliques ne sont pas exactement les mêmes. Le premier a un bloc central G0 qui est un groupe SO(2) déployé, les deux autres n’ont pas de bloc central, mais ont un facteur GL(1) supplémentaire. Cela correspond aux deux identifications possibles de SO(2) déployé avec GL(1). Par ailleurs, la suite d1 , . . . , dm ne détermine plus toujours la classe de conjugaison du parabolique. Dans les constructions des paragraphes précédents, il convient maintenant, à chaque fois que l’on se donne une induite σ1 × · · · × σm × π, de fixer auparavant une famille parabolique (Ij )j=1,...,m et de préciser que l’induite est IndG PI1 ,...,Im (σ1 ⊗ · · · ⊗ σm ⊗ π). Au cours d’une démonstration, la famille parabolique peut changer. Par exemple, dans le cas où m = 2, dire que l’on peut permuter σ1 et σ2 signifie que l’on a G IndG PI1 ,I2 (σ1 ⊗ σ2 ⊗ π) = IndPI2 ,I1 (σ2 ⊗ σ1 ⊗ π).

De même, quand IndG PI1 (σ ⊗ π) admet un quotient de Langlands, celui-ci est une

sous-représentation de IndG σ ⊗ π). PIˇ1 (ˇ Comme on le voit, le groupe SO(2) déployé peut intervenir dans nos raisonnements. Il convient de considérer que, pour ce groupe, aucune représentation n’est de la série discrète, a fortiori aucune n’est cuspidale. Les représentations tempérées π sont les caractères unitaires. Pour une telle représentation, on a Jord(π) = {ρ, ρ−1 }, où ρ est un caractère unitaire de GL(1, F ). L’élément ρ a bonne parité si et seulement si ρ = ρ−1 , c’est-à-dire ρ est un caractère quadratique. Certains raisonnements utilisent la caractérisation des représentations tempérées par la positivité de leurs exposants cuspidaux. La notion de positivité est a priori différente pour un groupe spécial orthogonal pair de ce qu’elle est pour un groupe symplectique ou spécial orthogonal impair. Par exemple, pour un exposant cuspidal (b1 , . . . , bt ) relatif à un sous-groupe parabolique minimal, la condition de positivité s’exprime par les inégalités b1 ≥ 0, b1 + b2 ≥ 0, . . . , b1 + · · · + bt ≥ 0

(1)

dans les cas symplectique ou spécial orthogonal impair, tandis qu’il faut ajouter la condition b1 + · · · + bt−1 − bt ≥ 0

(2)

dans le cas spécial orthogonal pair. Mais l’utilisation des familles paraboliques cidessus élimine cette différence. En effet, posons Ij = {j} pour tout j = 1, . . . , t. Si (b1 , . . . , bt ) est un exposant relatif au parabolique PI1 ,...,It , alors (b1 , . . . , bt−1 , −bt ) est un exposant relatif à PI1 ,...,It−1 ,Iˇt . Si on impose les conditions (1) pour chacune des familles paraboliques, la condition (2) en résulte. Dans certains raisonnements, par exemple la preuve du lemme 2.4, il convient de ¯ définis en 2.1. Enfin, la preremplacer les paquets Π par les paquets plus grossiers Π mière propriété de 2.7 n’est plus vraie. Il peut y avoir deux représentations π1 et π2 de G(F ) ayant un modèle de Whittaker d’un type fixé et vérifiant Jord(π1 ) = Jord(π2 ).

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

211

Mais alors π2 = π1w et cette unicité à conjugaison près par le groupe orthogonal tout entier suffit pour assurer la validité de nos raisonnements. Avec ces adaptations, on vérifie que les résultats des paragraphes précédents et leurs preuves restent valables. Remarque. — On a présenté en 2.1 et admis la forme fine des conjectures. On peut se contenter d’un forme un peu plus faible où l’on ne paramètre plus que les ¯ cf. [15] 4.4 pour des énoncés précis. Nos raisonnements restent valables. paquets Π, L’intérêt de cette forme plus faible des conjectures est qu’elle est un résultat annoncé par Arthur, ainsi qu’on l’a dit dans l’introduction. 3. Preuve du théorème Soient G et G0 comme dans l’introduction. Rappelons le théorème principal que nous allons maintenant démontrer. Théorème 3.1. — Soient ϕ ∈ Φ(G) et ϕ0 ∈ Φ(G0 ). On suppose ϕ et ϕ0 génériques. Alors : 0 (i) toutes les représentations induites dont les éléments de ΠG (ϕ) et de ΠG (ϕ0 ) sont les quotients de Langlands sont irréductibles ; 0 (ii) si E(ϕ, ϕ0 ) = −µ(G, G0 ), on a m(σ, σ 0 ) = 0 pour tous σ ∈ ΠG (ϕ), σ 0 ∈ ΠG (ϕ0 ) ; (iii) si E(ϕ, ϕ0 ) = µ(G, G0 ), on a m(σ(ϕ, ε), σ 0 (ϕ0 , ε0 )) = 1 0

et m(σ, σ 0 ) = 0 pour tous σ ∈ ΠG (ϕ), σ 0 ∈ ΠG (ϕ0 ) tels que (σ, σ 0 ) 6= (σ(ϕ, ε), σ 0 (ϕ0 , ε0 )). Démonstration. — Introduisons la forme quasi-déployée G de G. Il y a un Lévi L = GL(d1 ) × · · · × GL(dm ) × G0 de G, des représentations irréductibles tempérées σj de GL(dj , F ) et des réels bj pour j = 1, . . . , m, et un paramètre de Langlands tempéré ϕ0 ∈ Φ(G0 ) de sorte que la suite (b1 , . . . , bm ) soit strictement positive relativement à un sous-groupe parabolique de composante de Lévi L et que ΠG (ϕ) soit l’ensemble des quotients de Langlands des induites σ1 |.|bF1 × · · · × σm |.|bFm × π0 (1) G0 pour π0 ∈ Π (ϕ0 ). Remarque. — Ici, on peut supposer et on suppose que groupe G0 n’est pas un groupe SO(2) déployé : on peut remplacer un tel groupe par un facteur GL(1). Si L ne correspond à aucun Lévi de G (cela se produit quand G0 = {1} et G n’est pas quasi-déployé), le paquet ΠG (ϕ) est vide. Sinon, L correspond à un Lévi L = GL(d1 ) × · · · × GL(dm ) × G0 G

de G et Π (ϕ) est formé des quotients de Langlands des induites (1) pour π0 ∈ ΠG0 (ϕ0 ).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

212

C. MŒGLIN & J.-L. WALDSPURGER

Par hypothèse, il existe π ∈ ΠG (ϕ) qui admet un modèle de Whittaker d’un certain type. C’est le quotient de Langlands de l’induite (1) pour une représentation π0 ∈ ΠG0 (ϕ0 ) qui admet elle-aussi un modèle de Whittaker. D’après [Mu] théorème 1.1, le quotient de Langlands de l’induite admet un modèle de Whittaker si et seulement si l’induite est irréductible. Donc cette induite est irréductible. En appliquant le corollaire 2.12 au paquet ΠG0 (ϕ0 ) et, quand il existe, au paquet ΠG0 (ϕ0 ), on voit que toutes les induites (1) sont irréductibles pour π0 ∈ ΠG0 (ϕ0 ) ou π0 ∈ ΠG0 (ϕ0 ). Cela démontre l’assertion concernant ΠG (ϕ) du (i) du théorème. La même chose vaut du côté de G0 . On introduit les objets similaires, auquels on 0 ajoute des 0 . L’assertion concernant ΠG (ϕ0 ) du (i) du théorème s’obtient comme ci0 dessus. Supposons E(ϕ, ϕ0 ) = −µ(G, G0 ). Si l’un des paquets ΠG (ϕ) ou ΠG (ϕ0 ) est vide, l’assertion (ii) l’est aussi. Supposons ces deux paquets non vides, a fortiori, les 0 Lévi L et L0 existent. Soient ε ∈ EG (ϕ) et ε0 ∈ EG (ϕ0 ). Alors σ(ϕ, ε) est l’induite (1) pour π0 = σ(ϕ0 , ε). On a une assertion analogue pour σ 0 (ϕ0 , ε0 ). D’après la proposition 1.1, on a m(σ(ϕ, ε), σ 0 (ϕ0 , ε0 )) = m(σ(ϕ0 , ε), σ 0 (ϕ00 , ε0 )). (2) On a E(ϕ, ϕ0 ) = E(ϕ0 , ϕ00 ) et µ(G, G0 ) = µ(G0 , G00 ), donc E(ϕ0 , ϕ00 ) = −µ(G0 , G00 ). D’après [15] théorème 4.9, on a m(σ(ϕ0 , ε), σ 0 (ϕ00 , ε0 )) = 0, d’où l’égalité cherchée m(σ(ϕ, ε), σ 0 (ϕ0 , ε0 )) = 0. Supposons maintenant E(ϕ, ϕ0 ) = µ(G, G0 ). Montrons qu’alors, les Lévi L et L0 existent bel et bien. Si ce n’est pas le cas, l’un des groupes G0 ou G00 est réduit à {1}. Le paramètre ϕ0 ou ϕ00 correspondant est vide et on a E(ϕ, ϕ0 ) = E(ϕ0 , ϕ00 ) = 1. Alors µ(G, G0 ) = 1 et les deux groupes G et G0 sont quasi-déployés. Donc les Lévi L et L0 existent, contrairement à l’hypothèse. De plus, l’hypothèse E(ϕ, ϕ0 ) = µ(G, G0 ) 0 entraîne que le couple (ε, ε0 ) paramètre un élément du produit ΠG (ϕ) × ΠG (ϕ0 ). Ces paquets sont donc non vides. La preuve du (iii) du théorème est alors la même 0 que celle de (ii) : pour ε ∈ EG (ϕ) et ε0 ∈ EG (ϕ0 ), on a l’égalité (2) ; en appliquant le théorème 4.9 de [15] au membre de droite de cette égalité, on obtient l’assertion cherchée. Remarque. — Supposons que F soit le complété d’un corps de nombres k en une place v de ce corps et que G soit la composante en cette place v d’un groupe spécial orthogonal G défini sur k. Notons A l’anneau des adèles de k. Considérons une représentation automorphe irréductible π de G(A) intervenant dans le spectre discret. Conjecturalement, il lui correspond une famille (π i )i=1,...,k de représentations automorphes irréductibles de groupes linéaires intervenant dans le spectre discret. En notant di l’entier tel que π i soit une représentation automorphe de GL(di , A), on a P dˆG = i=1,...,k di . Ce résultat conjectural est annoncé par Arthur, sous les mêmes réserves que dans le cas local, cf. l’introduction. Supposons que toutes les π i soient cuspidales. Notons π = π v la composante de π en la place v. Alors π appartient à un paquet Π auquel on peut appliquer nos résultats, c’est-à-dire que c’est un paquet générique. Cela résulte de [10] proposition 5.1.

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

213

4. Existence et unicité des représentations génériques dans un paquet tempéré Proposition 4.1. — (i) Soit G un groupe symplectique ou spécial orthogonal impair déployé et soit Π un L-paquet de représentations tempérées de G(F ). Pour chaque type de modèle de Whittaker, il existe un unique élément π ∈ Π qui admet un tel modèle. (ii) Soit G un groupe spécial orthogonal pair quasi-déployé. Alors (a) la même assertion est vraie si l’on admet les conjectures formulées en 2.1 ; ¯ un L-paquet modifié comme en 2.1 et fixons un type de modèle de (iii) soit Π ¯ π admet un modèle de ce type si et seulement si π w Whittaker ; pour tout π ∈ Π, admet un tel modèle et il existe un unique couple {π, π w } d’éléments de Π tel que π et π w admettent un tel modèle. Remarque. — Une forme plus faible de ces assertions est démontrée dans [7]. Pour le groupe spécial orthogonal impair, l’assertion se déduit aussi des résultats de Jiang et Soudry ([6]). Démonstration. — Dans le cas spécial orthogonal, c’est un cas particulier de la conjecture de Gross-Prasad, appliquée au cas où le deuxième groupe de la paire est réduit à {1}. Cf. [15] 4.11. Notons que, dans le cas spécial orthogonal impair, les conjectures admises dans [15] sont maintenant démontrées puisque G est supposé déployé. Dans le cas spécial orthogonal pair, c’est seulement une forme plus faible de ces conjectures qui est démontrée, c’est pourquoi la formulation de l’énoncé est différente dans ce cas. Remarque. — Dans le paragraphe 7.10 de [13], nous avions admis des conjectures plus fortes qui incluaient l’énoncé que l’on veut démontrer. Mais dans [15], on n’a bien admis que des conjectures maintenant prouvées par Arthur (et on ne s’est pas servi de ce paragraphe 7.10 de l’article antérieur). On suppose maintenant que G = Sp(d), où d est un entier pair. Considérons les éléments semi-simples de GL(d + 1, F )θ dont la classe de conjugaison géométrique correspond à celle de l’unité de G(F ). Ils forment une seule classe de conjugaison stable, qui se décompose en un certain nombre de classes de conjugaison par GL(d + 1, F ) permutées par multiplication par le centre de ce groupe. Le nombre de ces classes est [F × : F ×2 ]. Fixons un élément x ˜1 de cet ensemble. La composante neutre G0 de son commutant dans GL(d + 1) est un groupe spécial orthogonal SO(d + 1) déployé. 0 Fixons des sous-tores maximaux déployés T G de G et T G de G0 . Notons par des lettres gothiques les algèbres de Lie de nos groupes. Il y a un isomorphisme 0

f : tG (F ) → tG (F ) 0

tel que, pour Y ∈ tG (F ) régulier et assez proche de 0, la classe de conjugaison stable de G(F ) qui correspond à celle de x ˜1 exp(Y ) est celle de exp(f (Y )). Notons π GL la représentation de GL(d + 1, F ) qui correspond à Π et π ˜ la restriction à GL(d + 1, F )θ

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

214

C. MŒGLIN & J.-L. WALDSPURGER

de son prolongement. La relation 2.1(4) devient (1)

Θπ˜ (˜ x1 exp(Y )) = c(Π)

X

Θπ (exp(f (Y )))

π∈Π

pour Y comme ci-dessus, où c(Π) est un nombre complexe de module 1. On fixe de la façon habituelle une transformation de Fourier sur l’espace des fonctions localement constantes et à support compact sur g(F ). Soit π ∈ Π et soit X ∈ g(F ) un élément régulier. D’après Harish-Chandra, quand X tend vers 0, on a une égalité X (2) Θπ (exp(X)) = c O (π)ˆj G ( O, X). O∈ N G

On a noté N G l’ensemble des orbites nilpotentes de g(F ). La fonction X 7→ ˆj G ( O, X) est la fonction associée à la distribution localement intégrable transformée de Fourier de l’intégrale orbitale sur O (la transformation de Fourier étant fixée, il y a une façon canonique de normaliser la mesure sur une telle orbite). Les termes c O (π) sont des G coefficients complexes. En particulier, notons N G le sous-ensemble des orbites reg ⊂ N nilpotentes régulières. Cet ensemble est naturellement en bijection avec celui des types de modèles de Whittaker. D’après un résultat de Rodier ([12]), pour O ∈ N G reg , on a les égalités c O (π) = 1 si π admet un modèle de Whittaker « de type O », c O (π) = 0 sinon. On fixe une transformation de Fourier sur l’espace des fonctions localement constantes et à support compact sur g0 (F ). Pour un élément régulier Y ∈ g0 (F ) tendant vers 0, on a de même un développement X 0 0 c O0 (˜ x1 , π ˜ )ˆj G ( O , Y ). Θπ˜ (˜ x1 exp(Y )) = O 0 ∈ N G0 0

Ici, il n’y a qu’une orbite nilpotente régulière, notons-la Oreg . On peut calculer le coefficient c O0reg (˜ x1 , π ˜ ) grâce au théorème 7.1 de [14]. On remplace dans ce théorème G par GL(d+1) et H par GL(0). Alors c O0reg (˜ x1 , π ˜ ) est égal au terme noté εg´eom,ν (˜ π , ρ˜) dans [14], où ρ˜ est l’extension triviale de la représentation triviale de H(F ) = {1} et ν ∈ F × est convenablement choisi (le choix de ν correspond au choix de x ˜1 ). D’après le théorème cité, c O0reg (˜ x1 , π ˜ ) est aussi égal à l’expression notée εν (˜ π , ρ˜) dans [14] 2.5. C’est une expression un peu compliquée mais c’est en tout cas un produit de complexes de valeurs absolues 1. On en déduit |c O0reg (˜ x1 , π ˜ )| = 1. 0

Pour Y ∈ tG (F ) régulier et assez proche de 0, la relation (1) devient X X 0 0 c O0 (˜ x1 , π ˜ )ˆj G ( O , Y ) = c(Π) c O (Π)ˆj G ( O, f (Y )), O0 ∈ N G0

O∈ N G

P

où c O (Π) = π∈Π c O (π). On sait bien que les fonctions intervenant sont homogènes. Par exemple, pour O ∈ N G et λ ∈ F × , on a une égalité ˆj G ( O, λ2 X) = |λ|−dim( O) ˆj G ( O, X).

ASTÉRISQUE 347

LA CONJECTURE LOCALE DE GROSS-PRASAD

215

L’égalité précédente se décompose en égalités des composantes homogènes de même degré. Pour le degré maximal, on obtient X 0 0 c O0reg (˜ x1 , π ˜ )ˆj G ( Oreg , Y ) = c(Π) c O (Π)ˆj G ( O, f (Y )). O∈ N G reg

Notons GAD le groupe adjoint de G. Les orbites nilpotentes réguliéres de g(F ) sont permutées transitivement par GAD (F ). Par ailleurs, puisque la fonction ΘΠ est stablement invariante, elle est a fortiori invariante par conjugaison par GAD (F ). On en déduit que c O (Π) ne dépend pas de O, pour O ∈ N G reg . Notons simplement creg (Π) ce terme. On obtient l’égalité 0 0 G c O0reg (˜ x1 , π ˜ )ˆj G ( Oreg , Y ) = c(Π)creg (Π)ˆjreg (f (Y )),

où G ˆjreg (X) =

X

ˆj G ( O, X).

O∈ N G reg

Supposons un instant que Π soit un L-paquet de séries principales. On sait bien qu’il est réduit à un seul élément π et que celui-ci admet un modèle de Whittaker de chaque type. Donc creg (Π) = 1. On sait aussi calculer son caractère. On voit que le terme de plus haut degré dans le développement (2) est non nul pour tout élément G (X) ne s’annule régulier X ∈ tG (F ). On en déduit d’abord que la fonction X 7→ ˆjreg 0 G pas sur les éléments réguliers de t (F ). Ensuite, pour un élément régulier Y ∈ tG (F ), on a l’égalité ˆj G0 ( O0reg , Y ) c(Π)creg (Π) |=| | = 1. | G (f (Y )) ˆjreg c O0reg (˜ x1 , π ˜) Revenons mainenant au cas d’un paquet tempéré général. On a de même les égalités ci-dessus, dans un ordre different : ˆj G0 ( O0reg , Y ) c(Π)creg (Π) | = 1. |creg (Π)| = | |=| G (f (Y )) ˆjreg c O0reg (˜ x1 , π ˜) Donc, pour tout O ∈ N

G reg ,

on a l’égalité X c O (π) = 1. π∈Π

D’après le résultat de Rodier cité plus haut, cela signifie exactement la conclusion de la proposition. Références [1] A. Aizenbud, D. Gourevitch, S. Rallis & G. Schiffmann – Multiplicity one theorems, Ann. of Math. 172 (2010), p. 1407–1434. [2] J. Arthur – A local trace formula, Publ. Math. I.H.É.S. 73 (1991), p. 5–96. [3] , The endoscopic classification of representations : orthogonal and symplectic groups, prépublication, 2011.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2012

216

C. MŒGLIN & J.-L. WALDSPURGER

[4] I. N. Bernstein & A. V. Zelevinsky – Induced representations of reductive p-adic groups. I, Ann. Sci. École Norm. Sup. 10 (1977), p. 441–472. [5] W. Gan, B. Gross & D. Prasad – Symplectic local root numbers, central critical L-values and restriction problems in the representation theory of classical groups, Astérisque 346 (2012), p. 1–110. [6] D. Jiang & D. Soudry – The local converse theorem for SO(2n + 1) and applications, Ann. of Math. 157 (2003), p. 743–806. [7] T. Konno – Twisted endoscopy and the generic packet conjecture, Israel J. Math. 129 (2002), p. 253–289. [8] C. Mœglin – Représentations quadratiques unipotentes des groupes classiques padiques, Duke Math. J. 84 (1996), p. 267–332. [9] , Sur la classification des séries discrètes des groupes classiques p-adiques : paramètres de Langlands et exhaustivité, J. Eur. Math. Soc. (JEMS) 4 (2002), p. 143–200. [10] , Image des opérateurs d’entrelacements normalisés et pôles des séries d’Eisenstein, prépublication, 2009. [11] C. Mœglin & J.-L. Waldspurger – Sur le transfert des traces d’un groupe classique p-adique à un groupe linéaire tordu, Selecta Math. (N.S.) 12 (2006), p. 433–515. [12] F. Rodier – Modèle de Whittaker et caractères de représentations, Lecture Notes in Math. 466 (1975), p. 151–171. [13] J.-L. Waldspurger – Une formule intégrale reliée à la conjecture locale de GrossPrasad, 2e partie : extension aux représentations tempérées, Astérisque 346 (2012), p. 171–311. [14] , Calcul d’une valeur d’un facteur  par une formule intégrale, ce volume. , conjecture locale de Gross-Prasad pour les représentations tempérées des [15] groupes spéciaux orthogonaux, ce volume. [16] A. V. Zelevinsky – Induced representations of reductive p-adic groups. II. On irreducible representations of GL(n), Ann. Sci. École Norm. Sup. 13 (1980), p. 165–210.

C. Mœglin, CNRS Institut de mathématiques de Jussieu, 2, place Jussieu, 75005 Paris E-mail : [email protected] J.-L. Waldspurger, CNRS Institut de mathématiques de Jussieu, 2, place Jussieu, 75005 Paris E-mail : [email protected]

ASTÉRISQUE 347