Séminaire Bourbaki. Volume 2012/2013. Exposés 1059–1073 2856297854, 9782856297858

A note to readers: This book is in French. This 65th volume of the Bourbaki Seminar contains the texts of the fifteen su

217 92 8MB

English; French Pages 520 [536] Year 2014

Report DMCA / Copyright

DOWNLOAD FILE

Polecaj historie

Séminaire Bourbaki. Volume 2012/2013. Exposés 1059–1073
 2856297854, 9782856297858

Citation preview

´ SEMINAIRE BOURBAKI VOLUME 2012/2013 ´ 1059-1073 EXPOSES

´ ASTERISQUE 361

Soci´ et´ e Math´ ematique de France 2014

Astérisque est un périodique de la Société mathématique de France. Numéro 361

Comité de rédaction Ahmed ABBES Viviane BALADI Gérard BESSON Laurent BERGER Philippe BIANE Hélène ESNAULT

Damien GABORIAU Michael HARRIS Fabrice PLANCHON Bertrand TOEN Pierre SCHAPIRA Éric VASSEROT (dir.) Diffusion

Maison de la SMF B.P. 67 13274 Marseille Cedex 9 France [email protected]

Hindustan Book Agency O-131, The Shopping Mall Arjun Marg, DLF Phase 1 Gurgaon 122002, Haryana Inde

AMS P.O. Box 6248 Providence RI 02940 USA www.ams.org

Tarifs 2014 Vente au numéro : 98 € ($ 147) Abonnement Europe : 530 €, hors Europe : 569 € ($ 853) Des conditions spéciales sont accordées aux membres de la SMF. Secrétariat : Nathalie Christiaën Astérisque Société Mathématique de France Institut Henri Poincaré, 11, rue Pierre et Marie Curie 75231 Paris Cedex 05, France Tél : (33) 01 44 27 67 99 • Fax : (33) 01 40 46 90 96 [email protected] • http://smf.emath.fr/ c Société Mathématique de France 2014

Tous droits réservés (article L 122–4 du Code de la propriété intellectuelle). Toute représentation ou reproduction intégrale ou partielle faite sans le consentement de l’éditeur est illicite. Cette représentation ou reproduction par quelque procédé que ce soit constituerait une contrefaçon sanctionnée par les articles L 335–2 et suivants du CPI.

ISSN 0303-1179 ISBN 978-285629-785-8 Directeur de la publication : Marc Peigné

´ ASTERISQUE 361

´ SEMINAIRE BOURBAKI VOLUME 2012/2013 ´ 1059-1073 EXPOSES

Soci´ et´ e Math´ ematique de France 2014 Publi´ e avec le concours du Centre National de la Recherche Scientifique

Association des collaborateurs de Nicolas Bourbaki, École normale supérieure, 45, rue d’Ulm, F-75230 Paris Cedex 05. Url : http://www.bourbaki.ens.fr/

Mots clefs et classification mathématique par sujets (2000) Exposé no 1059. — Fonction de Hilbert, dimension d’Iitaka, corps d’Okounkov. — 14-02. Exposé no 1060. — Surfaces plates, flot géodésique de Teichmüller, exposants de Lyapunov, espace de modules de différentielles quadratiques, constantes de Siegel-Veech, variations de structure de Hodge, déterminant du laplacien. — 30F30, 32G15, 32G20, 57M50. Exposé no 1061. — Hyperbolicité au sens de Kobayashi, différentielles holomorphes, inégalités de Morse holomorphes, courbure. — 14J70, 14F10, 32Q45, 58A20. Exposé no 1062. — KK-théorie, conjecture de Baum-Connes, groupe hyperbolique, propriété (T). — 19K35. Exposé no 1063. — Variations de structures de Hodge, cycles algébriques, conjecture de Hodge. — 14C25, 14D07, 32G20, 32S35. Exposé no 1064. — Groupes pleins-topologiques, homéomorphismes minimaux, groupes moyennables, échanges d’intervalles, odomètres, sous-décalages topologiques, dynamique symbolique, groupes approximativement finis, groupes élémentairement moyennables, actions commensurantes. — 20E32, 20F05, 37B10, 37B50, 43A07, 43025. Exposé no 1065. — Flots de gradient, espaces métriques mesurés, distance de Wasserstein, ÉDP d’évolution, flot de la chaleur. — 30L99, 49J45, 35K05, 53C21. Exposé no 1066. — ÉDP stochastiques, renormalisation, trajectoires rugueuses. — 60H15, 82C28. Exposé no 1067. — Mouvement brownien branchant, équations F-KPP, extrêmes. — 60J80, 60G70, 60J65. Exposé no 1068. — Groupes kleiniens, laminations terminales, complexe des courbes. — 30F40 (20H10, 57M50). Exposé no 1069. — Ore conjecture, Thompson conjecture, commutators, word maps. — Primary: 20-02, 20D05, 20E32, 20F12, 20P05; Secondary: 20C15, 20C33, 20G15, 20G40. Exposé no 1070. — Classification des formes automorphes de carré intégrable pour les groupes classiques via la fonctorialité endoscopique tordue, groupes classiques, formes automorphes de carré intégrable, classification, fonctorialité, endoscopie tordue. — 11F72, 11R39, 22E55. Exposé no 1071. — Diagramme de Young, symétriseur de Young, graphe expanseur, carte, biparti, unicellulaire, partition, caractère, polynôme de Kerov. — 05E10, 20B30, 20C15. Exposé no 1072. — Categorification, semisimple Lie algebras, quantum groups, canonical bases. — 17B37, 32S60. Exposé no 1073. — Cohomologie motivique, cohomologie étale, cohomologie galoisienne, K-théorie de Milnor, conjecture de Bloch-Kato, théorie homotopique des schémas, algèbre de Steenrod. — 14F42.

´ SEMINAIRE BOURBAKI VOLUME 2012/2013 ´ 1059-1073 EXPOSES

Résumé. — Ce 65e volume du Séminaire Bourbaki regroupe les textes des quinze exposés de synthèse sur des sujets d’actualité effectués pendant l’année 2012/2013 : un exposé de théorie de Hodge, un sur la structure de certains groupes d’homéomorphismes d’un espace de Cantor, un concernant les équations différentielles dans les espaces métriques, un d’équations aux dérivées partielles stochastiques, un de probabilités, un exposé sur les laminations et les variétés de dimension 3, deux de théorie des groupes finis, un exposé sur les représentations des groupes classiques et un sur la catégorification de celles des algèbres de Lie, un exposé sur la conjecture de BlochKato en cohomologie galoisienne, un de géométrie algébrique, un de théorie ergodique, un exposé sur l’hyperbolicité des hypersurfaces de l’espace projectif et un exposé à propos de la conjecture de Baum-Connes. Abstract (Séminaire Bourbaki, volume 2012/2013, exposés 1059-1073) This 65th volume of the Bourbaki Seminar contains the texts of the fifteen survey lectures done during the year 2012/2013: one lecture on Hodge theory, one on the structure of certain homeomorphism groups of a Cantor space, one about differential equations in metric spaces, one lecture on stochastic partial differentiel equations, one on probability theory, one on laminations and 3-dimensional manifolds, two on finite groups, one lecture on the representations of classical groups and one on the categorification of those of Lie algebras, one lecture on the Bloch-Kato conjecture in Galois cohomology, one in algebraic geometry, one in ergodic theory, one lecture on the hyperbolicity of hypersurfaces in projective spaces and one lecture about the Baum-Connes conjecture.

c Astérisque 361, SMF 2014

` TABLE DES MATIERES

R´esum´es des expos´es . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

v

vii

OCTOBRE 2012 1059 S´ebastien BOUCKSOM — Corps d’Okounkov [d’apr`es Okounkov, Lazarsfeld-Musta¸tˇ a et Kaveh-Khovanskii] . . . . . . . . . . . . . . . . . . . . . . . . . . .

1

1060 Julien GRIVAUX & Pascal HUBERT — Les exposants de Liapounoff du flot de Teichm¨ uller [d’apr`es Eskin-Kontsevich-Zorich] . . . . . . . . . . . ˘ 1061 Mihai PAUN — Techniques de construction de diff´erentielles holomorphes et hyperbolicit´e [d’apr`es J.-P. Demailly, S. Diverio, J. Merker, E. Rousseau, Y.-T. Siu...] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

77

1062 Michael PUSCHNIGG — The Baum-Connes conjecture with coefficients for word-hyperbolic groups [after Vincent Lafforgue] . . . . . . . . . . . . . . . .

115

43

JANVIER 2013 1063 Fran¸cois CHARLES — Progr`es r´ecents sur les fonctions normales [d’apr`es Green-Griffiths, Brosnan-Pearlstein, M. Saito, Schnell...] . .

149

1064 Yves de CORNULIER — Groupes pleins-topologiques [d’apr`es Matui, Juschenko, Monod, ...] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

183

1065 Filippo SANTAMBROGIO — Flots de gradient dans les espaces m´etriques et leurs applications [d’apr`es Ambrosio–Gigli–Savar´e ] . . . . . . .

225

1066 Lorenzo ZAMBOTTI — L’´equation de Kardar-Parisi-Zhang [d’apr`es Martin Hairer ] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

251

MARS 2013 ´ E ´ — Le mouvement brownien branchant vu de1067 Jean-Baptiste GOUER puis sa particule la plus ` a gauche [d’apr`es Arguin-Bovier-Kistler et A¨ıd´ekon-Berestycki-Brunet-Shi] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

271

1068 Cyril LECUIRE — Mod`eles et laminations terminales [d’apr`es Minsky et Brock-Canary-Minsky] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

299

1069 Gunter MALLE — The proof of Ore’s conjecture [after Ellers-Gordeev and Liebeck-O’Brien-Shalev-Tiep] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

325

1070 Colette MOEGLIN — Le spectre discret des groupes classiques [d’apr`es J. Arthur ] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

349

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

vi

` TABLE DES MATIERES

JUIN 2013 1071 Pierre CARTIER — Nouveaux d´eveloppements sur les valeurs des caract`eres des groupes sym´etriques ; m´ethodes combinatoires [d’apr`es V. F´eray, ...] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

373

1072 Joel KAMNITZER — Categorification of Lie algebras [after Rouquier, Khovanov-Lauda, ...] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

397

1073 Jo¨el RIOU — La conjecture de Bloch-Kato [d’apr`es M. Rost et V. Voevodsky] . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

421

Table par noms d’auteurs . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .

465

´ ASTERISQUE 361

´ ´ DES EXPOSES ´ RESUM ES

vii

S´ebastien BOUCKSOM – Corps d’Okounkov [d’apr`es Okounkov, Lazarsfeld-Musta¸tˇ a et Kaveh-Khovanskii ] La th´eorie des corps d’Okounkov g´en´eralise aux vari´et´es alg´ebriques non toriques la correspondance entre sections d’un fibr´e en droites et points entiers d’un corps convexe, ramenant ainsi l’´etude asymptotique des sections des puissances d’un fibr´e en droites ` a un probl`eme d’´equidistribution de points rationnels dans un corps convexe. Cette technique se substitue avantageusement aux m´ethodes ant´erieures reposant sur des th´eor`emes d’annulation de la cohomologie, sp´ecifiques ` a la caract´eristique nulle. Dans cet expos´e je pr´esenterai l’id´ee de base de la construction, remarquablement simple, des corps d’Okounkov, et en exposerai diverses applications, en g´eom´etrie alg´ebrique et en g´eom´etrie d’Arakelov. Julien GRIVAUX & Pascal HUBERT – Les exposants de Liapounoff du flot de Teichm¨ uller [d’apr`es Eskin-Kontsevich-Zorich] On sait depuis les travaux de Zorich et Forni que les d´eviations moyennes ergodiques pour les flots lin´eaires sur les surfaces de translation sont gouvern´ees par les exposants de Liapounoff du cocycle de Kontsevich-Zorich. Kontsevich a donn´e une formule pour la somme des exposants (positifs) de ce cocycle en 1997 et a conjectur´e la rationalit´e de cette somme. Eskin, Kontsevich et Zorich ont tr`es r´ecemment d´emontr´e que la somme des exposants de Liapounoff s’exprime en fonction de constantes de Siegel-Veech (mesure du nombre de cylindres sur une surface de translation). En combinant ce r´esultat avec des travaux ant´erieurs de Eskin-Masur-Zorich et Eskin-Okounkov, on obtient une r´eponse positive ` a la conjecture de Kontsevich. Le but de mon expos´e est de pr´esenter le travail d’Eskin-Kontsevich-Zorich dont les m´ethodes sont tout aussi int´eressantes et novatrices que le r´esultat. ˘ Mihai PAUN – Techniques de construction de diff´erentielles holomorphes et hyperbolicit´e [d’apr`es J.-P. Demailly, S. Diverio, J. Merker, E. Rousseau, Y.-T. Siu...] Nous pr´esentons quelques techniques de construction de diff´erentielles de jets. Tout d’abord, nous allons expliquer les points clef des travaux de S. Diverio, J. Merker et E. Rousseau concernant l’hyperbolicit´e des hypersurfaces g´en´eriques de grand degr´e de l’espace projectif : les diff´erentielles holomorphes sont construites ici par un proc´ed´e essentiellement dˆ u` a Y.-T. Siu, lui-mˆeme inspir´e par les travaux de C. Voisin, H. Clemens et L. Ein sur le sujet. Ensuite, nous allons pr´esenter une nouvelle approche due ` a J.-P. Demailly qui permet d’obtenir des diff´erentielles holomorphes sur une vari´et´e de type g´en´eral arbitraire. Michael PUSCHNIGG – The Baum-Connes conjecture with coefficients for word-hyperbolic groups [after Vincent Lafforgue] In a recent breakthrough, V. Lafforgue verified the Baum-Connes conjecture with coefficients for all word-hyperbolic groups. This provides the first examples of groups with Kazhdan’s Property (T) satisfying the conjecture. His proof (of almost 200 pages) is completely elementary, but of impressive complexity. It makes essential use of group representations of weak exponential growth. These representations are also the topic of Lafforgue’s work on strengthened versions of Property (T). His results about these properties for higher rank groups and lattices have interesting applications in graph theory and rigidity theory. They also indicate that it might be very difficult to establish the Baum-Connes conjecture for higher rank lattices with the approaches used so far.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

viii

´ ´ DES EXPOSES ´ RESUM ES

Fran¸cois CHARLES – Progr`es r´ecents sur les fonctions normales [d’apr`es Green-Griffiths, Brosnan-Pearlstein, M. Saito, Schnell...] ´ Etant donn´ee une famille de vari´et´es complexes projectives lisses, la conjecture de Hodge pr´edit l’alg´ebricit´e du lieu des classes de Hodge. Ce r´esultat a ´et´e d´emontr´e de mani`ere inconditionnelle par Cattani, Deligne et Kaplan en 1995. De mani`ere analogue, l’´etude conjecturale des relations d’´equivalence sur les cycles alg´ebriques ont amen´e Green et Griffiths ` a conjecturer l’alg´ebricit´e du lieu des z´eros des fonctions normales. Cet ´enonc´e correspond ` a une version dans le cas mixte du th´eor`eme de Cattani-Deligne-Kaplan. Il a r´ecemment ´et´e d´emontr´e par Brosnan-Pearlstein et Schnell, en s’appuyant sur les travaux de M. Saito. On pr´esentera les grandes lignes de la preuve. Yves de CORNULIER – Groupes pleins-topologiques [d’apr`es Matui, Juschenko, Monod, ...] Les groupes pleins-topologiques sont des groupes d’autohom´eomorphismes de l’espace de Cantor, d´ecrits localement comme puissances d’un autohom´eomorphisme fix´e ` a l’avance. Il a ´et´e d´emontr´e r´ecemment que certains de ces groupes, associ´es ` a des sous-d´ecalages minimaux, sont infinis, simples, de type fini et moyennables ; l’existence de groupes ayant ces propri´et´es n’´etait pas connue auparavant. Filippo SANTAMBROGIO – Flots de gradient dans les espaces m´etriques et leurs applications [d’apr`es Ambrosio–Gigli–Savar´e ] Un flot de gradient dans Rn est une solution d’une ´equation du type x′ (t) = −∇F (x(t)), c’est-` a-dire une courbe de pente maximale pour une fonction F . Une discr´etisation variationnelle en temps (Euler implicite) permet d’´eviter d’utiliser le gradient et de d´efinir donc une notion de solution qui a un sens pour des fonctions peu r´eguli`eres sur des espaces sans structure diff´erentiable. La longue s´erie de travaux d’Ambrosio, Gigli et Savar´e, que je tˆ acherai de pr´esenter bri`evement, a trait´e au moins trois grandes questions : l’existence, l’unicit´e et les notions appropri´ees de solutions dans des espaces m´etriques assez g´en´eraux ; le cas de l’espace des mesures de probabilit´e avec la distance induite par le transport optimal et ses applications aux EDP d’´evolutions ; l’application de ces id´ees ` a l’analyse des espaces m´etriques mesur´es et de leurs structures diff´erentielles, dans laquelle je me concentrerai en particulier sur ce qui a ´et´e fait autour de l’´equation de la chaleur. Lorenzo ZAMBOTTI – L’´equation de Kardar-Parisi-Zhang [d’apr`es Martin Hairer ] L’´equation de Kardar-Parisi-Zhang a ´et´e introduite dans les ann´ees quatre-vingt pour mod´eliser les fluctuations d’une interface soumise ` a un ph´enom`ene de croissance al´eatoire ; elle apparaˆıt dans l’´etude des syst`emes de particules en interaction, des polym`eres dirig´es en milieu al´eatoire, des matrices al´eatoires. Il s’agit d’une ´equation stochastique aux d´eriv´ees partielles dirig´ee par un bruit blanc en espace-temps, contenant un terme quadratique en la d´eriv´ee spatiale, difficile ` a rendre rigoureuse car on s’attend ` a avoir des solutions au plus h¨ old´eriennes en espace. Bizarrement, on peut ´ecrire une solution explicite de cette ´equation, mais on ne sait pas donner un sens rigoureux ` a la non lin´earit´e ; surtout, aucune th´eorie connue ne donne de r´esultats d’unicit´e. Dans cet expos´e je pr´esenterai les r´ecents r´esultats de Martin Hairer, qui a donn´e une th´eorie compl`ete d’existence, unicit´e et approximation pour cette ´equation, dans laquelle la faible r´egularit´e en espace est g´er´ee ` a travers la th´eorie des trajectoires rugueuses.

´ ASTERISQUE 361

´ ´ DES EXPOSES ´ RESUM ES

ix

´ E ´ – Le mouvement brownien branchant vu depuis sa particule la plus Jean-Baptiste GOUER ` gauche [d’apr`es Arguin-Bovier-Kistler et A¨ıd´ekon-Berestycki-Brunet-Shi ] a Le mouvement brownien branchant est, dans cet expos´e, un processus stochastique d´e` l’instant initial, le crivant l’´evolution d’un syst`eme fini de particules sur la droite r´eelle. A syst`eme consiste en une particule situ´ee en l’origine. La particule se d´eplace selon un mouvement brownien. Apr`es un temps al´eatoire ind´ependant et de loi exponentielle, la particule se divise en deux particules. Ces deux particules ´evoluent alors ind´ependamment et suivant le mˆeme processus que la premi`ere particule (trajectoires browniennes puis divisions) et ainsi ` chaque instant, le syst`eme consiste ainsi en un nombre al´eatoire de particules de suite. A dont les positions sont d´ependantes. Mon expos´e sera essentiellement consacr´e aux travaux r´ecents de Arguin-Bovier-Kistler et A¨ıd´ekon-Berestycki-Brunet-Shi qui d´ecrivent la limite en temps grand du syst`eme de particules vu depuis sa particule la plus ` a gauche. Cyril LECUIRE – Mod`eles et laminations terminales [d’apr`es Minsky et Brock-CanaryMinsky] Soit M une vari´et´e de dimension 3 compacte dont l’int´erieur est muni d’une m´etrique hyperbolique compl`ete g. Les travaux d’Ahlfors, Bers, Bonahon et Thurston permettent d’associer ` a g des invariants, dits « de bouts », d´ecrivant son comportement asymptotique. La conjecture des laminations terminales, formul´ee dans les ann´ees 70 par Thurston pr´edit que ces invariants de bouts d´eterminent g ` a isom´etrie pr`es. Elle a ´et´e r´esolue dans les ann´ees 2000 par Brock-Canary-Minsky. L’´el´ement principal de la preuve est la construction d’un mod`ele associ´e aux invariants de bouts de g et d’une application bilipschitzienne de ce mod`ele vers (M, g). Gunter MALLE – The proof of Ore’s conjecture [after Ellers-Gordeev and Liebeck-O’BrienShalev-Tiep] Ore’s conjecture asserts that in a non-abelian finite simple group, every element is a commutator. The proof of this statement was recently completed by Liebeck, O’Brien, Shalev and Tiep. We report on the various ingredients used in that proof, reaching from Deligne-Lusztig character theory to explicit computations. We also mention several related, still open problems. Colette MOEGLIN – Le spectre discret des groupes classiques [d’apr`es J. Arthur ] Grˆ ace ` a Langlands, on connaˆıt la d´ecomposition spectrale de l’espace des fonctions de carr´e int´egrable (modulo le centre) d’un quotient arithm´etique d’un groupe r´eductif, par exemple, un groupe de matrices GL(n), un groupe de matrices orthogonales, un groupe de matrices symplectiques... Mais cette connaissance tr`es th´eorique n´ecessite de connaˆıtre les repr´esentations irr´eductibles du groupe dans cet espace de fonctions, c’est ce que l’on appelle le spectre discret. Le but de cet expos´e est de formuler les r´esultats concrets obtenus par J. Arthur pour les groupes classiques. Pierre CARTIER – Nouveaux d´eveloppements sur les valeurs des caract`eres des groupes sym´etriques ; m´ethodes combinatoires [d’apr`es V. F´eray, ...] L’´etude asymptotique des diagrammes de Young de grande taille a ´et´e entreprise ` a la fin ´ du 20e si`ecle par l’Ecole de Saint-Petersbourg (Vershik, Kerov, Okunkov). Les m´ethodes des probabilit´es « libres » ont ´et´e invent´ees par Voiculescu dans le but de contrˆ oler les alg`ebres d’op´erateurs li´ees aux groupes libres ; elles ont servi ensuite ` a l’´etude des matrices al´eatoires

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

x

´ ´ DES EXPOSES ´ RESUM ES

de grande taille, qui s’est r´ev´el´ee tr`es importante tant en physique statistique que dans l’´etude des z´eros de la fonction zeta de Riemann. Plus r´ecemment, elles ont ´et´e appliqu´ees par Biane aux propri´et´es asymptotiques des permutations. Nous insisterons surtout sur les formules exactes qui sous-tendent ces formules asymp´ totiques, obtenues par les collaborateurs de Biane (Sniady, F´eray), et qui d´eveloppent de nouveaux domaines de la combinatoire (principalement les cartes planaires). Joel KAMNITZER – Categorification of Lie algebras [after Rouquier, Khovanov-Lauda, ...] Given a vector space with an action of a semi-simple Lie algebra, we can try to “categorify” this representation, which means finding a category where the generators of the Lie algebra act by functors. Such categorical representations arise naturally in geometric representation theory. A framework for studying these categorical representations was introduced by Rouquier and Khovanov-Lauda. Their definitions are algebraic/combinatorial, but are connected to the topology of quiver varieties by the work of Varagnolo-Vasserot. Jo¨el RIOU – La conjecture de Bloch-Kato [d’apr`es M. Rost et V. Voevodsky] La conjecture de Bloch-Kato ´enonce que pour tout corps k et tout nombre premier ℓ diff´erent de la caract´eristique de k, l’alg`ebre de K-th´eorie de Milnor de k modulo ℓ (qui est d´efinie par g´en´erateurs et relations) s’identifie ` a une alg`ebre de cohomologie galoisienne associ´ee ` a k. La d´emonstration de cet ´enonc´e, qui admet de nombreuses applications, utilise de fa¸con essentielle d’une part les th´eories motiviques (cohomologie, homotopie, op´erations de Steenrod) et d’autre part des constructions g´eom´etriques de vari´et´es alg´ebriques ayant des propri´et´es remarquables par rapport ` a des symboles en K-th´eorie de Milnor.

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1059, p. 1 `a 41

Octobre 2012

CORPS D’OKOUNKOV [d’apr` es Okounkov, Lazarsfeld-Musta¸tˇ a et Kaveh-Khovanskii] par S´ ebastien BOUCKSOM

INTRODUCTION La th´eorie des corps d’Okounkov, d´evelopp´ee ind´ependamment par Lazarsfeld et Musta¸taˇ [LM09] et par Kaveh et Khovanskii [KK09], syst´ematise une construction due `a Okounkov [Ok96, Ok00] ; elle g´en´eralise le lien entre vari´et´es toriques et polytopes rationnels, en associant un corps convexe `a tout fibr´e en droites sur une vari´et´e alg´ebrique projective, via l’introduction d’une valuation ad´equate sur le corps de fonctions de cette vari´et´e. Afin d’´enoncer dans un langage ´el´ementaire une des cons´equences principales de la th´eorie des corps d’Okounkov, donnons-nous un corps alg´ebriquement clos k de L caract´eristique arbitraire, et consid´erons une k-alg`ebre gradu´ee A = a m∈N Am (` laquelle on impose toujours qu’elle soit commutative, et que k = A0 ( A). La fonction de Hilbert de A est d´efinie par HA (m) := dimk Am . On suppose de plus que A est int`egre, ce qui assure que N(A) := {m ∈ N | HA (m) 6= 0} est un semigroupe de N, non r´eduit ` a 0 (donc infini) par hypoth`ese. Si A est de type fini, sa fonction de Hilbert HA est `a valeurs finies, et le classique th´eor`eme de Hilbert-Serre permet alors de montrer l’existence de e ∈ Q∗+ (la multiplicit´e de A) tel que mκ HA (m) = e + o (mκ ) κ! lorsque m ∈ N(A) tend vers l’infini, avec κ := tr. deg(A/k) − 1, tr. deg(A/k) d´esignant le degr´e de transcendance sur k du corps des fractions de A. Ce r´esultat admet la g´en´eralisation importante suivante, d´emontr´ee dans [KK09]. Th´ eor` eme 0.1. — Soit A 6= k une k-alg`ebre gradu´ee, et supposons que A se plonge dans une k-alg`ebre gradu´ee int`egre et de type fini. Si on pose κ := tr. deg(A/k) − 1, ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

2

S. BOUCKSOM

alors il existe e ∈ R∗+ tel que HA (m) = e

mκ + o (mκ ) κ!

lorsque m ∈ N(A) tend vers l’infini. D’un point de vue g´eom´etrique, l’hypoth`ese sur A signifie qu’elle peut se r´ealiser comme sous-alg`ebre de l’anneau des coordonn´ees homog`enes d’une vari´et´e projective X, pour un plongement ad´equat dans un espace projectif. L Ceci s’applique en particulier ` a l’alg`ebre des sections R(X, L) := m∈N H 0 (X, mL) d’un fibr´e en droites arbitraire L sur X. L’´etude asymptotique de la fonction de Hilbert m 7→ h0 (mL) := dimk H 0 (X, mL), classiquement appel´ee probl`eme de Riemann-Roch, est une question centrale de la g´eom´etrie alg´ebrique, tr`es subtile d`es la dimension 2 du fait que R(X, L) n’est alors plus de type fini en g´en´eral. Dans son article fondateur [Zar62], Zariski ´etudie ce probl`eme sur les surfaces, et montre qu’il existe un polynˆ ome P de degr´e au plus 2 tel que h0 (mL)−P (m) est born´ee pour m ∈ N(X, L) := N(R(X, L)) ; en caract´eristique nulle, Cutkosky et Srinivas ont montr´e bien plus tard que h0 (mL) − P (m) est mˆeme p´eriodique pour m ≫ 1 [CS93]. En dimension n = dim X quelconque et caract´eristique nulle, Iitaka montre dans [Iit71] l’existence d’une estim´ee C −1 mκ 6 h0 (mL) 6 Cmκ pour m ∈ N(X, L) grand, avec κ = tr. deg(R(X, L)/k) − 1 ∈ {0, 1, . . . , n} (ou κ = −∞ si R(X, L) = k), connu sous le nom de dimension d’Iitaka de L. Si L est gros, i.e. si κ = n, un th´eor`eme de Fujita permet de montrer que le volume h0 (mL) m→∞ mn /n!

vol(L) := lim

existe dans ]0, +∞[ ; celui-ci a fait l’objet de nombreux travaux (cf. [Laz04]), bas´es pour la plupart sur le th´eor`eme d’annulation de Kawamata-Viehweg, donc valables uniquement en caract´eristique nulle. La th´eorie des corps d’Okounkov permet non seulement d’obtenir simplement l’existence du volume et ses principales propri´et´es en caract´eristique arbitraire [LM09], mais permet de plus d’´etudier le cas de fibr´es non gros avec une pr´ecision jusque-l` a inaccessible, comme l’illustre le th´eor`eme 0.1. On va maintenant d´ecrire dans ses grandes lignes la d´emonstration du th´eor`eme 0.1, et son lien avec la th´eorie des corps convexes. On suppose A plong´ee dans l’anneau des coordonn´ees homog`enes R d’une vari´et´e alg´ebrique projective X ⊂ PN k , dont on note n = dim X la dimension. La construction qui suit repose sur le choix d’une valuation v : K ∗ → Zn sur le corps de fonctions K de X, i.e. un homomorphisme de groupes tel que v(f + g) > min{v(f ), v(g)} pour f, g ∈ K ∗ , relativement `a un ordre total sur le groupe Zn ; on demande de plus que le groupe des valeurs v(K ∗ ) de v soit ´egal

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

3

a` Zn . La th´eorie ´el´ementaire des valuations montre d’une part que de telles valuations abondent, et d’autre part qu’elles satisfont la propri´et´e cruciale (1)

dimk E = card v(E \ {0})

pour tout k-espace vectoriel de dimension finie E ⊂ K. Pour chaque m ∈ N, la valuation v induit de fa¸con naturelle une fonction v : Rm \ {0} → Zn , et Sm := v(Am \ {0}) est ainsi un sous-ensemble fini de Zn pour chaque m ∈ N, de cardinal HA (m) = dimk Am . On a de plus Sm + Sl ⊂ Sm+l pour m, l ∈ N, puisque Am · Al ⊂ Am+l . Le point cl´e est alors le th´eor`eme d’´equir´epartition suivant : Th´ eor` eme 0.2. — Soit S = (Sm )m∈N une suite de sous-ensembles de Zn telle que Sm + Sl ⊂ Sm+l pour m, l ∈ N, et posons N(S) := {m ∈ N | Sm 6= ∅}. Alors S 1 1 Sm est un convexe ferm´e de Rn , et la suite m Sm ⊂ Rn s’´equir´epartit ∆ := m∈N m dans ∆, au sens o` u Z X 1 lim f (x) = f dµ, n∈N(S),m→+∞ mdim ∆ ∆ 1 x∈ m Sm

pour toute fonction f ∈ Cc0 (Rn ), avec µ la mesure de Lebesgue sur l’enveloppe affine de ∆, correctement normalis´ee. En outre, ∆ est compact ssi card Sm = O(mdim ∆ ), et on a dans ce cas lim

m∈N(S),m→∞

card Sm = µ(∆) ∈ ]0, +∞[. mdim ∆

′ On montre ensuite que le convexe ferm´e ∆′ associ´e `a la suite Sm := v(Rm \ {0}) est ′ de dimension maximale n, et donc compact selon le th´eor`eme 0.2, puisque card Sm = n dimk Rm = O(m ) par le th´eor`eme de Hilbert-Serre. Le convexe ∆ associ´e `a Sm = v(Am \ {0}), ´etant contenu dans un translat´e de ∆′ , est donc lui aussi compact, et on obtient le th´eor`eme 0.1. On appelle ∆ = ∆v (A) le corps d’Okounkov de A (relatif `a v).

` la suite des articles fondateurs [Ok96, Ok00, LM09, KK09], la th´eorie des corps A d’Okounkov s’est d´evelopp´ee dans diff´erentes directions : ´etude de la g´eom´etrie des corps d’Okounkov [KLM12, AKL12, Sep12] ; cas des vari´et´es avec une action de groupe r´eductif [KK12], qui ´etoffe les r´esultats originaux de [Ok96, Ok00] ; analogues arithm´etiques en g´eom´etrie d’Arakelov [Yua09, BC11] ; liens avec la th´eorie du pluripotentiel et le diam`etre transfini [WN09] ; comportement asymptotique de certaines d´eg´en´erescences ´equivariantes (« test configurations ») [WN10, Sze11] ; construction de d´eg´en´erescences vers des vari´et´es toriques [And11], dans la lign´ee de [Tei03] ; utilisation de ces d´eg´en´erescences pour construire des syst`emes int´egrables [HK12]. Plutˆot que de survoler ces diff´erents d´eveloppements, le pr´esent texte prend le parti de pr´esenter en d´etail les aspects fondamentaux de la th´eorie. Le lecteur trouvera dans

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

4

l’excellent article [LM09] ainsi que dans [KK09, dBP12, CS12a, CS12b] une foule d’informations compl´ementaires. Le texte est organis´e comme suit. La premi`ere partie ´etudie les semigroupes de Zn , selon un point de vue adapt´e aux corps d’Okounkov. On y montre en particulier le th´eor`eme d’´equir´epartition ´enonc´e ci-dessus. La seconde partie pr´esente quelques r´esultats appartenant `a la th´eorie ´el´ementaire des valuations, le but ´etant de montrer que les valuations de rang rationnel maximal sont exactement celles qui sont adapt´ees `a la construction d’Okounkov. La troisi`eme partie d´ecrit le cœur de la construction des corps d’Okounkov, et d´emontre en particulier le th´eor`eme 0.1 ci-dessus. Enfin, la quatri`eme et derni`ere partie porte un regard plus g´eom´etrique sur les corps d’Okounkov. On montre sur des exemples que la g´eom´etrie du corps d’Okounkov d’un fibr´e en droites d´epend de mani`ere essentielle du choix de la valuation, et on d´etaille ´egalement la construction des corps d’Okounkov num´eriques, en suivant [LM09], avec en sus quelques faits nouveaux concernant la dimension num´erique. Remerciements. — Je tiens ` a exprimer ma reconnaissance `a Charles Favre, Mattias Jonsson, Patrick Popescu-Pampu et Victor Lozovanu pour leurs suggestions et leur relecture attentive de ce texte. Je remercie ´egalement chaleureusement David WittNystr¨ om et Huayi Chen, au contact desquels j’ai pu affiner ma compr´ehension des corps d’Okounkov.

1. SEMIGROUPES DISCRETS Dans cette partie, V d´esigne un R-espace vectoriel de dimension finie n ∈ N. On ´etudie la structure des semigroupes de V engendrant un groupe discret ; on en d´eduit un r´esultat d’´equir´epartition pour les semigroupes gradu´es, qui est le point central de la th´eorie des corps d’Okounkov. Les r´esultats de cette partie sont pour l’essentiel issus de [KK09, §1], qui est une syst´ematisation de [Ok96, §2.5]. 1.1. Semigroupes discrets d’un espace vectoriel Un semigroupe S ⊂ V est un sous-ensemble non vide de V stable par addition. On note – – – –

ZS le sous-groupe de V engendr´e par S ; RS le R-espace vectoriel engendr´e par S ; C(S) le cˆ one convexe engendr´e par S ; ˚ C(S) son adh´erence, et C(S) son int´erieur relatif, i.e. son int´erieur dans RS.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

5

La propri´et´e de semigroupe donne imm´ediatement (2)

ZS = {x − y | x, y ∈ S}

et (3)

C(S) =



 s | s ∈ S, m ∈ N∗ . m

On d´efinit la dimension r´eelle dimR (S) de S comme ´etant celle de RS (qui peut ˆetre strictement plus petite que dimQ (QS) dans cette g´en´eralit´e). D´ efinition 1.1. — La r´egularisation d’un semigroupe S ⊂ V est le semigroupe S reg := C(S) ∩ ZS. Notons que C(S reg ) = C(S) et ZS reg = ZS. On dira que S est un semigroupe discret si ZS est discret, donc un r´eseau de RS. ` isomorphisme pr`es, les semigroupes discrets d’un espace vectoriel sont exactement A les sous-semigroupes de Zd pour un certain d. On prendra garde au fait que la terminologie choisie est un peu abusive, puisqu’il se peut que S forme un sous-ensemble discret de V sans que ZS soit discret. C’est √ par exemple le cas de S = N + N 2 ⊂ R, qui n’est donc pas un semigroupe discret en notre sens. Exemple 1.2. — Puisque tout sous-groupe discret de R est monog`ene, il existe pour tout semigroupe discret S ⊂ R un r´eel e ∈ R tel que S reg = Ze ou S reg = Ne ; il est ´egalement bien connu que S reg \ S est fini (un cas particulier du th´eor`eme 1.3 ci-dessous). Le but de ce qui suit est de montrer que tout semigroupe discret S de V co¨ıncide ˚ asymptotiquement avec S reg dans C(S). Th´ eor` eme 1.3. — Soit S ⊂ V un semigroupe discret. Pour tout cˆ one convexe σ ` a ˚ base compacte contenue dans C(S), l’ensemble (S reg \ S) ∩ σ est fini. Lemme 1.4. — Soit S ⊂ V un semigroupe discret. Si S est de type fini, alors il existe un ensemble fini F ⊂ S reg tel que S reg = F + S. Remarque 1.5. — D’apr`es [BG09, Proposition 2.7], la conclusion signifie pr´ecis´ement que k[S reg ] est un k[S]-module de type fini, pour n’importe quel corps k donn´e. Le lemme 1.4 implique en particulier que S de type fini =⇒ S reg de type fini, qui est le contenu du classique lemme de Gordan (voir par exemple [Oda88, Proposi tion 1.1]). L’exemple de S := (x, y) ∈ N2 | y > x + 1 montre que S reg peut ˆetre de type fini sans que S le soit.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

6

S. BOUCKSOM

D´emonstration. — Par hypoth`ese, il existe un ensemble fini A ⊂ S tel que S = P P P a∈A [0, 1]a est compact et a∈A R+ a. Puisque a∈A Na, et donc C(S) = C(S) = ZS est un groupe discret, ! X F := ZS ∩ [0, 1]a a∈A

est fini. Montrons que S reg = F +S. On commence par observer que F ⊂ ZS ∩C(S) = S reg , et donc F + S ⊂ S reg . R´eciproquement, chaque u ∈ S reg = C(S) ∩ ZS s’´ecrit P u = a∈A ta a avec ta ∈ R+ . En notant ma := ⌊ta ⌋ ∈ N la partie enti`ere de ta et en P posant v := a∈A ma a ∈ S, on voit que X w := u − v = (ta − ma )a a∈A

appartient ` a F puisque u et v sont dans ZS et ta − ma ∈ [0, 1], d’o` u le r´esultat. D´emonstration du th´eor`eme 1.3. — Fixons une norme k · k sur V . Puisque ZS est discret (et ferm´e), il s’agit de montrer qu’il existe R > 0 tel que tout x ∈ ZS ∩ σ avec kxk > R appartient ` a S. Le lemme 1.6 ci-dessous montre que [ ˚ ˚ ), C(S) = C(T T ⊂S

o` u T ⊂ S parcourt l’ensemble des sous-semigroupes de type fini de S. Comme la base ˚ ˚ ). Puisque ZS est de de σ est un compact de C(S), elle est contenue dans un des C(T type fini sur Z, on peut ´egalement supposer que ZS = ZT , ce qui nous ram`ene au cas o` u S = T est de type fini. Dans ce cas, il existe u0 ∈ S tel que u0 + S reg ⊂ S. En effet, le point (ii) du lemme 1.4 fournit un ensemble fini F ⊂ S reg tel que S reg = F + S. Comme chaque ´el´ement de F est en particulier dans ZS = {x − y | x, y ∈ S}, il existe u0 ∈ S tel que u0 + f ∈ S pour tout f ∈ F , et donc u0 + S reg ⊂ S. ˚ Comme σ est ` a base compacte dans C(S), on peut trouver un cˆ one σ ′ `a base ˚ compacte dans C(S) et contenant σ dans son int´erieur relatif. Puisque σ ∩ {kxk = 1} est un compact de l’int´erieur relatif de σ ′ , on peut trouver R > 0 tel que (σ ∩ {kxk = 1}) − t−1 u0 ⊂ σ ′ pour tout t > R, ce qui revient a` dire que (σ ∩ {kxk > R}) − u0 ⊂ σ ′ puisque σ et σ ′ sont des cˆ ones. Pour tout x ∈ ZS ∩ σ tel que kxk > R, on a donc x − u0 ∈ σ ′ , d’o` u x ∈ u0 + (ZS ∩ σ ′ ), et donc x ∈ S puisque u0 + S reg ⊂ S. Lemme 1.6. — Soient W un R-espace vectoriel de dimension finie et (Cα ) une S S famille croissante de convexes de W . Alors α C˚α co¨ıncide avec l’int´erieur de α Cα . ´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

7

S D´emonstration. — Soit x un point de l’int´erieur de α Cα . On peut trouver S x1 , . . . , xN ∈ α Cα tel que x soit dans l’int´erieur du polytope Conv{x1 , . . . , xN }. Mais l’un des Cα contient tous les xi , donc aussi Conv{x1 , . . . , xN }, et on en d´eduit que x est dans l’int´erieur de Cα . Bien que ce ne soit pas indispensable pour la suite, on conclut cette partie par une caract´erisation int´eressante des semigroupes discrets de type fini, tir´ee de [BG09, Corollary 2.10]. Proposition 1.7. — Soit S ⊂ V un semigroupe discret. (i) Le semigroupe S est de type fini ssi le cˆ one convexe engendr´e C(S) est de type fini, i.e. un cˆ one polyh´edral. (ii) Le semigroupe S reg est de type fini ssi le cˆ one convexe ferm´e engendr´e C(S) est un cˆ one polyh´edral rationnel de RS. D´emonstration (i) Si S est de type fini, C(S) est trivialement de type fini. Supposons r´eciproquement que C(S) soit un cˆ one polyh´edral. Ses rayons extr´emaux sont n´ecessairement de la forme R+ a avec a ∈ S, donc il existe un ensemble fini A ⊂ S tel P emonstration du lemme 1.4, on a alors que C(S) = a∈A R+ a. Comme dans la d´ S reg = F + T avec ! X F := ZS ∩ [0, 1]a , a∈A

P

qui est fini, et T := a∈A Na. Donnons-nous un corps k. Comme dans la remarque 1.5, S reg = F + T signifie que k[S reg ] est un k[T ]-module de type fini. Puisque T est de type fini, l’anneau k[T ] est noeth´erien, et le sous-module k[S] est donc lui aussi de type fini sur k[T ]. La k-alg`ebre k[S] est donc a fortiori de type fini, et il n’est pas difficile d’en d´eduire que S est de type fini comme semigroupe (cf. [BG09, Proposition 2.7]). (ii) C’est le lemme de Gordan. Remarque 1.8. — Il n’est pas suffisant dans (ii) de supposer √ que C(S) est simplement  polyh´edral, comme le montre S := (u, v) ∈ N2 | v > u 2 . 1.2. Semigroupes gradu´ es On appellera semigroupe gradu´e un semigroupe S ⊂ N×V . On note πV : N×V → V la projection sur le second facteur, et on pose pour chaque m ∈ N Sm := πV (S ∩ ({m} × V )) .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

8

S. BOUCKSOM

On supposera toujours que Sm est non vide pour au moins un m > 1. La suite (Sm )m∈N de sous-ensembles de V ainsi d´efinie est additive, au sens o` u (4)

Sm + Sl ⊂ Sm+l pour tous m, l ∈ N.

R´eciproquement, toute suite additive (Sm )m∈N de sous-ensembles de V d´efinit un S semigroupe gradu´e S := m∈N ({m} × Sm ). On introduit N(S) := {m ∈ N | Sm 6= ∅} ,

qui est un semigroupe de N, donc co¨ıncide avec m(S)N en dehors d’un ensemble fini, pour un certain entier m(S) ∈ N∗ . On pose ´egalement κ(S) := dimR (S) − 1. one convexe ferm´e engendr´e par S, qui est ici contenu Rappelons que C(S) d´esigne le cˆ dans R+ × V . D´ efinition 1.9. — Si S ⊂ N × V est un semigroupe gradu´e, on d´efinit la base de S comme  ∆(S) := πV C(S) ∩ ({1} × V ) .

La base ∆(S) de S est un convexe ferm´e de V , de dimension κ(S). La projection πV induit un isomorphisme affine entre RS ∩ ({1} × V ) et le sous-espace affine ~ Aff(S) ⊂ V engendr´e par ∆(S) ; l’espace vectoriel sous-jacent Aff(S) est donc ´egal `a πV (RS ∩ ({0} × V )). 1 Sm ⊂ ∆(S), et il r´esulte de (3) que Pour tout m ∈ N∗ on a par construction m [ 1 (5) ∆(S) = m Sm . m>1

On dit comme pr´ec´edemment qu’un semigroupe gradu´e S ⊂ N × V est discret si le groupe ZS ⊂ Z × V qu’il engendre est discret dans R × V . C’est par exemple le cas si tous les Sm sont contenus dans un r´eseau fixe de V . Notre but est de montrer, pour tout semigroupe gradu´e discret S, que les ensembles 1 equir´epartis dans ∆(S), relativement `a une mesure limite que nous d´ecrim Sm sont ´ vons maintenant. D´ efinition 1.10. — Soit S ⊂ N × V un semigroupe gradu´e discret. Le sous-espace affine Aff(S) ⊂ V engendr´e par ∆(S) poss`ede une structure enti`ere naturelle, d´efinie par le r´eseau ~ Aff(S) Z := πV (ZS ∩ ({0} × V ))

~ de Aff(S) = πV (RS ∩ ({0} × V )). On note µS la mesure de Lebesgue de Aff(S) normalis´ee par cette structure enti`ere.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

9



Lemme 1.11. — Il existe un isomorphisme affine φ : Aff(S) − → Rκ(S) , de partie κ(S) ~ : Aff(S) ~ lin´eaire φ →R , v´erifiant : κ(S) ~ Aff(S) ~ (i) φ( . Z) = Z 1 reg (ii) φ( m Sm ) =

1 κ(S) mZ

∩ ∆ pour tout m ∈ Nm(S), avec ∆ := φ(∆(S)).

La propri´et´e (i) montre en particulier que φ∗ (µS ) est la mesure de Lebesgue standard de Rκ(S) . D´emonstration. — Notons κ := κ(S) = dimR (S) − 1, et soit ρ : ZS → Z la restriction de la premi`ere projection Z × V → Z. Puisque Im ρ = Zm(S) et que toute suite exacte de Z-modules libres est scind´ee, il existe une Z-base (u0 , . . . , uκ ) de ZS telle que ρ(u0 ) = m(S) et (u1 , . . . , uκ ) engendre Ker ρ = ZS ∩ ({0} × V ). On d´efinit φ comme la composition ∼



→ Rκ . Aff(S) − → RS ∩ ({1} × V ) ֒→ RS = Ru0 + . . . + Ruκ → Ru1 + . . . + Ruκ −

~ donn´ee par On voit facilement que φ est un isomorphisme affine, de partie lin´eaire φ ∼ ∼ ~ → Rκ , Aff(S) − → RS ∩ ({0} × V ) = Ru1 + . . . + Ruκ − ∼

d’o` u (i). L’isomorphisme Aff(S) − → RS ∩ ({1} × V ) envoie 1 m

({m} ×

reg Sm )

=

1 m C(S)

qui co¨ıncide avec 1 m C(S)

∩ ZS ∩ ({m} × V ) =

 ∩ Zu1 + . . . + Zuκ +

1 m

1 reg m Sm

sur

 C(S) ∩ ρ−1 ({m}) ,

m uκ+1 m(S)



lorsque m est un multiple de m(S) (et est vide sinon). Le point (ii) en d´ecoule facilement. On peut maintenant ´enoncer le r´esultat d’´equir´epartition des ensembles ∆(S) ´evoqu´e ci-dessus.

1 m Sm

dans

Th´ eor` eme 1.12. — Soit S ⊂ N × V un semigroupe gradu´e discret. Pour toute fonction continue ` a support compact f : V → R, on a alors Z X 1 f dµS . f (x) = lim m∈N(S), m→+∞ mκ(S) ∆(S) 1 x∈ m Sm

On commence par une reformulation du th´eor`eme 1.3 pour les semigroupes gradu´es. Lemme 1.13. — Soit S ⊂ N × V un semigroupe gradu´e discret, et soit K ⊂ V un convexe compact contenu dans l’int´erieur relatif de ∆(S). Pour tout m ∈ N assez grand on a alors 1 1 reg K∩m Sm = K ∩ m Sm .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

10

D´emonstration. — Puisque le cˆ one σ := R+ ({1} × K) ⊂ R × V est contenu dans l’int´erieur relatif de C(S) = R+ ({1} × ∆(S)), le th´eor`eme 1.3 montre que S ∩ σ et S reg ∩ σ co¨ıncident en dehors d’un ensemble fini. Il en r´esulte que S ∩ σ ∩ ({m} × V ) = {m} × (Sm ∩ (mK)) est ´egal ` a pour tout m ≫ 1.

reg S reg ∩ σ ∩ ({m} × V ) = {m} × (Sm ∩ (mK))

D´emonstration du th´eor`eme 1.12 ∼

Étape 1. — On montre d’abord le r´esultat avec S reg `a la place de S. Soit φ : Aff(S) − →  Rκ(S) l’isomorphisme affine donn´e par le lemme 1.11, et posons g := f |Aff(S) ◦ φ−1 . Par la propri´et´e (ii) du lemme 1.11, on a alors X X 1 1 g(y) f (x) = mκ(S) mκ(S) 1 1 reg x∈ m Sm

y∈∆∩ m Zκ(S)

pour tout m ∈ Nm(S). Comme pour tout ensemble convexe, le bord ∂∆ de ∆ est de mesure nulle dans Rκ(S) . Il s’ensuit que 1∆ g est int´egrable au sens de Riemann, ce qui donne Z X 1 g(y) = g dλ, lim m→+∞ mκ(S) ∆ 1 y∈∆∩ m Zκ(S)

avec λ la mesure de Lebesgue standard sur Rκ(S) . Mais on a φ∗ (µS ) = λ, donc R R u le r´esultat. g dλ = ∆(S) f dµS , d’o` ∆

Étape 2. — On consid`ere maintenant le cas g´en´eral. Au vu de l’´etape pr´ec´edente, il reste ` a ´etablir que   X (6) f (x) = o mκ(S) 1 reg 1 x∈ m Sm \ m Sm

lorsque m ∈ N(S) tend vers l’infini. Soit B une boule ferm´ee de V (pour une certaine norme) contenant le support de f , et soit ε > 0. Comme ∆(S) ∩ B est convexe et compact, on peut trouver un convexe compact K ⊂ V contenu dans l’int´erieur relatif de ∆(S) et une fonction de troncature χ ∈ Cc0 (V ) telle que 0 6 χ 6 1, χ ≡ 1 sur R (∆(S) ∩ B) \ K, et ∆(S) χ dµS 6 ε.

1 1 reg Sm \ m Sm est contenu dans Le lemme 1.13 implique que, pour tout m ≫ 1, m  1 reg 1 le compl´ementaire de K, et donc χ ≡ 1 sur B ∩ m Sm \ m Sm . En posant kf k := sup |f |, on obtient X X χ(x). |f (x)| 6 kf k 1 reg 1 \ m Sm x∈ m Sm

´ ASTERISQUE 361

1 reg x∈ m Sm

(1059)

L’´etape 1 donne 1 mκ(S)

CORPS D’OKOUNKOV

X

1 reg x∈ m Sm

χ(x) →

Z

11

χ dµS 6 ε

∆(S)

lorsque m ∈ N(S) tend vers l’infini. On en d´eduit que X |f (x)| 6 2kf kε 1 reg 1 x∈ m Sm \ m Sm

pour tout m ∈ N(S) suffisamment grand, d’o` u (6). La cons´equence suivante du th´eor`eme 1.12 nous sera plus directement utile par la suite. Corollaire 1.14. — Pour tout semigroupe gradu´e discret S ⊂ N × V , on a lim

m→∞,m∈N(S)

card Sm = µS (∆(S)) ∈ ]0, +∞]. mκ(S)

Cette limite est finie ssi ∆(S) est compact. D´emonstration. — Puisque ∆(S) est un convexe ferm´e d’int´erieur non vide de Aff(S), son volume µS (∆(S)) est fini ssi ∆(S) est compact. Supposons d’abord que ∆(S) est de volume fini, et donc compact. On peut alors 1 choisir f ∈ Cc0 (V ) valant 1 sur ∆(S), et donc aussi sur m Sm pour tout m ; le r´esultat d´ecoule alors du th´eor`eme 1.12. ´ Supposons maintenant que ∆(S) est de volume infini. Etant donn´ee C > 0, on peut R 0 trouver f ∈ Cc (V ) telle que 0 6 f 6 1 et ∆(S) f dµS > C. Le th´eor`eme 1.12 donne Z X 1 card Sm > lim f (x) = f dµS > C . lim inf m→∞,m∈N(S) mκ(S) m→∞,m∈N(S) mκ(S) ∆(S) 1 x∈ m Sm

Ceci ´etant valable pour tout C > 0, on obtient bien card Sm = +∞. m→∞,m∈N(T ) mκ(S) lim

On conclut cette partie par le r´esultat d’approximation suivant. Th´ eor` eme 1.15. — Soient S ⊂ N × V un semigroupe gradu´e discret, et T (m) ⊂ S, m ∈ N, une suite de sous-semigroupes de S v´erifiant Sm ⊂ T (m)m pour tout m ∈ N. On a alors :

~ ~ (i) Aff(T (m)) = Aff(S) et Aff(T (m))Z = Aff(S) Z pour tout m ∈ N(S) suffisamment grand ; (ii) limm∈N(S),m→∞ µT (m) (∆(T (m))) = µS (∆(S)) dans [0, +∞].

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

12

D´emonstration. — Notons hSm i le sous-semigroupe de S engendr´e par Sm × {m}. Il est imm´ediat de voir que  1 Sm . ∆(hSm i) = Conv m L’hypoth`ese implique par ailleurs que

hSm i ⊂ T (m) ⊂ S. Étape 1. — On commence par montrer que (7)

lim

m∈N(S),m→∞

µS (∆(hSm i)) = µS (∆(S)) .

Ceci impliquera en particulier que ∆ (hSm i) est d’int´erieur non vide dans Aff(S) pour tout m ∈ N(S) assez grand, et donc que Aff(hSm i) = Aff(S) pour de telles valeurs de m. On aura donc a fortiori Aff(T (m)) = Aff(S), ce qui ´etablira (i). Soit K ⊂ Aff(S) un convexe compact contenu dans l’int´erieur relatif de ∆(S). Par (5) on a en particulier [ [  1 ∆(S) = Sm = Conv m ∆(hSm i). m∈N

m∈N

Le lemme 1.6 entraˆıne donc que

∆(hSm i) ⊃ K pour tout m ∈ N(S) assez grand, d’o` u lim inf m∈N(S),m→∞ µS (∆(hSm i)) > µS (K). Cela ´etant vrai pour tout convexe compact K dans l’int´erieur relatif de ∆(S), on en d´eduit que lim inf µS (∆(hSm i)) > µS (∆(S)), m∈N(S),m→∞

ce qui ´etablit (7) puisque ∆(hSm i) ⊂ ∆(S). ~ ~ Étape 2. — V´erifions maintenant que Aff(hS m i)Z = Aff(S)Z pour tout m ∈ N(S) assez ~ grand, ce qui impliquera a fortiori que Aff(T (m))Z = Aff(S)Z , et donc µT (m) = µS . ∼

On choisit un isomorphisme φ : Aff(S) − → Rκ(S) comme dans le lemme 1.11. Intro~ duisons Sm − Sm := {x − y | x, y ∈ Sm } ⊂ V . Comme Aff(hS efinition m i)Z est par d´ ´egal au groupe engendr´e par Sm − Sm , il s’agit de montrer que Sm − Sm engendre κ(S) ~ ~ ~ Aff(S) , ceci revient `a Z pour tout m ∈ N(S) assez grand. Puisque φ(Aff(S)Z ) = Z dire que    ~ m − Sm ) = m φ ~ 1 Sm − 1 Sm = m φ 1 Sm − φ 1 Sm φ(S m m m m

engendre Zκ(S) . Fixons un convexe compact K dans l’int´erieur relatif de ∆(S). Par le lemme 1.13, 1 reg 1 S et´e (ii) du lemme 1.11, m m contient m Sm ∩ K pour tout m ≫ 1. Par la propri´   1 1 Sm − φ m Sm on obtient donc que, pour tout m ∈ N(S) assez grand, m φ m contient l’ensemble des diff´erences de points dans Zκ(S) ∩ (mφ(K)), lequel engendre Zκ(S) puisque mφ(K) contient [−1, 1]κ(S) pour tout m ≫ 1.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

S Remarque 1.16. — On a toujours ∆(S) = m∈N Conv dessus. Par contraste, la proposition 1.7 montre que

1 m Sm

13

 , comme mentionn´e ci-

S de type fini ⇐⇒ il existe m ∈ N tel que ∆(S) = Conv

1 m Sm



.

2. VALUATIONS SUR LES CORPS DE FONCTIONS Le but de cette partie est de passer en revue quelques propri´et´es ´el´ementaires des valuations sur les corps de fonctions, afin de d´egager la classe de valuations adapt´ee `a la construction des corps d’Okounkov. L’ouvrage classique [ZS60] et l’expos´e de survol [Vaq06] nous serviront de r´ef´erences pour ce qui suit. On se donne un corps alg´ebriquement clos k de caract´eristique arbitraire, et K/k une extension de corps de type fini. On appelle mod`ele de K une k-vari´et´e alg´ebrique (i.e. un k-sch´ema de type fini, r´eduit et irr´eductible) X ayant K pour corps de fonctions. On pose n := tr. deg(K/k), qui est donc la dimension de tout mod`ele de K. 2.1. Centre et semigroupe des valeurs Nous adopterons la terminologie suivante : D´ efinition 2.1. — Une valuation v sur une k-alg`ebre int`egre A, ` a valeurs dans un groupe ab´elien totalement ordonn´e Λ, est une application v : A \ {0} → Λ telle que – v(f g) = v(f ) + v(g) pour f, g ∈ A \ {0} ; – v(f + g) > min{v(f ), v(g)} si f + g 6= 0 ; – v(a) = 1 pour tout a ∈ k ∗ . Il est commode de poser v(0) := +∞, ´el´ement qu’on adjoint `a Λ en imposant λ < +∞ pour tout λ ∈ Λ, et les r`egles arithm´etiques ´evidentes qui en d´ecoulent. On utilisera les faits ´el´ementaires suivants. Lemme 2.2. — Soient f1 , . . . , fm ∈ A \ {0}. Si les v(fi ) sont 2 ` a 2 distincts, alors P P f ) = min v(f ). f = 6 0 et v ( i i i i i i

Lemme 2.3. — Soient A ⊂ K une sous-k-alg`ebre ayant K pour corps des fractions, et Λ un groupe ab´elien totalement ordonn´e. Toute valuation v : A \ {0} → Λ s’´etend de fa¸con unique en une valuation v : K ∗ → Λ en posant v(f /g) = v(f ) − v(g) pour f, g ∈ A \ {0}. On associe ` a une valuation v sur K les objets suivants : – le groupe des valeurs Λv := v (K ∗ ) ; – l’anneau de valuation Ov = {f ∈ K | v(f ) > 0}, d’id´eal maximal mv = {f ∈ K | v(f ) > 0} et de corps r´esiduel k(v) := Ov /mv , dans lequel se plonge k. Notons que l’homomorphisme de groupes : K ∗ → Λ induit un isomorphisme Λv ≃ K ∗ /Ov∗ , o` u Ov∗ d´esigne le groupe des unit´es de Ov . ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

14

Remarque 2.4. — Le groupe des valeurs Λv n’est pas de type fini en g´en´eral. De fait, tout sous-groupe additif de Q peut ˆetre r´ealis´e comme groupe des valeurs d’une valuation sur le corps k(T1 , T2 ) des fractions rationnelles de deux variables, cf. [ZS60, p. 102]. D´ efinition 2.5. — Soit v une valuation sur K, et soit X un mod`ele de K. Un centre de v sur X est un point (sch´ematique) ξ ∈ X tel que OX,ξ ⊂ Ov et mξ ⊂ mv (o` u l’on note mξ l’id´eal maximal de OX,ξ ). On a automatiquement mξ = OX,ξ ∩ mv , d’o` u les extensions de corps r´esiduels (8)

k ⊂ k(ξ) ⊂ k(v).

Lorsqu’un centre de v sur X existe, il est unique par le crit`ere valuatif de s´eparation [Har77, p. 97] ; on dit alors que v est centr´ee sur X. Si X = Spec A est affine, v est centr´ee sur X ssi A ⊂ Ov (i.e. v > 0 sur A), et son ` l’oppos´e, si X est propre sur k, centre correspond alors ` a l’id´eal premier A ∩ mv . A toute valuation sur K est centr´ee sur X, cette fois par le crit`ere valuatif de propret´e [Har77, p. 101]. D´ efinition 2.6. — Soient X un mod`ele de K, et v une valuation centr´ee sur X. Le semigroupe des valeurs de v sur X est le sous-semigroupe de Λ>0 d´efini par Sv (X) := v (OX,ξ \ {0}) , o` u ξ ∈ X d´esigne le centre de v sur X. On a not´e Λ>0 = {λ ∈ Λ | λ > 0}. Soulignons que le semigroupe Sv (X), contrairement au groupe des valeurs Λv , d´epend du choix du mod`ele X de K. Comme K est le corps des fractions de OX,ξ , Sv (X) engendre Λv = v(K ∗ ) comme groupe. Par ailleurs, si v est centr´ee sur X = Spec A affine, alors Sv (X) = v (A \ {0}), puisque v(f ) = 0 pour toute f ∈ A \ A ∩ mv . Exemple 2.7. — Soient Λ un groupe ab´elien totalement ordonn´e, et S ⊂ Λ>0 un semigroupe de type fini. La k-alg`ebre k[S] est alors int`egre et de type fini, de sorte que X := Spec k[S] est une vari´et´e alg´ebrique affine sur k (et aussi une vari´et´e torique [Oda88], du moins si S est satur´e dans Λ). D’apr`es le lemme 2.3, on d´efinit une valuation v sur le corps de fonctions de X en posant P

v(f ) = min {s ∈ S | as 6= 0}

pour f = ee sur X, et on a s∈S as s ∈ k[S]. Comme v > 0 sur k[S], v est centr´ Sv (X) = v (k[S] \ {0}) = S. Bien que le semigroupe Sv (X) soit de type fini dans cet exemple, ce n’est pas le cas en g´en´eral, puisque le groupe ZSv (X) = Λv n’est lui-mˆeme pas toujours de type fini (remarque 2.4). Par contre, on a toujours :

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

15

Lemme 2.8. — Le semigroupe des valeurs Sv (X) est bien ordonn´e (pour l’ordre induit par celui de Λ). Rappelons que « bien ordonn´e » signifie que tout sous-ensemble non vide admet un plus petit ´el´ement. D´emonstration. — Pour tout sous-ensemble non vide F de Sv (X), soit IF l’id´eal de OX,ξ engendr´e par {f ∈ OX,ξ \ {0} | v(f ) ∈ F }. Puisque v > 0 sur OX,ξ , on voit imm´ediatement que v(f ) > min F pour tout f ∈ IF lorsque F est fini. Pour F quelconque, la noeth´erianit´e de OX,ξ montre qu’il existe un sous-ensemble fini G ⊂ F tel que IF = IG . La remarque pr´ec´edente implique donc que s > min G pour tout s ∈ F , et min G est donc le plus petit ´el´ement de F . En appliquant ceci ` a l’exemple 2.7, on obtient : Corollaire 2.9. — Soient Λ un groupe ab´elien totalement ordonn´e, et S un semigroupe de type fini de Λ>0 . Alors S est bien ordonn´e. Remarque 2.10. — Ce fait est classique pour les ordres monomiaux sur S = Nn , dans le cadre de la th´eorie des bases de Gr¨obner (voir par exemple [Eis, §15.2]). 2.2. Trivialit´ e du corps r´ esiduel Toute valuation v sur K d´efinit une filtration d´ecroissante (Fvλ K)λ∈Λv de K en sous-Ov -modules, d´efinis par (9)

Fvλ K := {f ∈ K | v(f ) > λ}

pour λ ∈ Λv . Si E ⊂ K est un sous-k-espace vectoriel, on note Fvλ E := E ∩ Fvλ K la filtration (en sous-k-espaces vectoriels) induite, et Grλv E =

{f ∈ E | v(f ) > λ} {f ∈ E | v(f ) > λ}

les gradu´es correspondants. Le lemme suivant joue un rˆole essentiel dans la suite. Lemme 2.11. — Le corps r´esiduel k(v) d’une valuation v sur K satisfait k(v) = k ssi (10)

dimk E = card v (E \ {0})

pour tout k-espace vectoriel de dimension finie E ⊂ K. Ces propri´et´es sont en outre ´equivalentes ` a: (i) dimk Grλv K = 1 pour tout λ ∈ Λv ; (ii) il existe une sous-k-alg`ebre A ⊂ K, de corps des fractions K, telle que dimk Grλv A 6 1 pour tout λ ∈ Λv .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

16

D´emonstration. — Si E ⊂ K est un sous-k-espace vectoriel de dimension finie, alors X dimk Grλv E, dimk E = λ∈Λv

Grλv E

et 6= 0 ⇐⇒ λ ∈ v(E \ {0}). On voit donc que (10) ´equivaut `a dimk Grλv E 6 1 pour tout λ ∈ Λv . Supposons que k(v) = k, et soit E ⊂ K un sous-k-espace vectoriel de dimension ´ finie. Etant donn´ees f, g ∈ E \ {0} telles que v(f ) = v(g) =: λ, on veut voir qu’il existe a ∈ k tel que v(f − ag) > λ. Mais u := f /g appartient `a Ov∗ , donc l’hypoth`ese k(v) = k montre qu’il existe a ∈ k tel que v(u − a) > 0, d’o` u v(f − ag) > v(g) = λ. R´eciproquement, supposons que (10) soit valable pour tout sous-k-espace vectoriel E ⊂ K de dimension finie, et montrons que k(v) = k. Tout ´el´ement non nul de k(v) est repr´esent´e par un f ∈ Ov \ mv , qui satisfait donc v(f ) = 0. On cherche a ∈ k tel que v(f − a) > 0. Mais ceci r´esulte du fait que le k-espace vectoriel E engendr´e par f et 1 satisfait en particulier dimk Gr0v E 6 1. L’´equivalence de ces propri´et´es avec (i) et (ii) est du mˆeme acabit, et laiss´ee au lecteur. 2.3. Valuations monomiales On va expliciter une construction menant au r´esultat suivant : Proposition 2.12. — Soient X un mod`ele de K, et Λ un groupe ab´elien totalement ordonn´e. Si S ⊂ Λ>0 est un semigroupe engendr´e par au plus n = dim X ´el´ements, alors il existe une valuation v : K ∗ → Λ centr´ee sur X avec Sv (X) = S. On commence par traiter le cas de l’espace affine Ank = Spec k[T1 , . . . , Tn ], de corps de fonctions k(T1 , . . . , Tn ). Une valuation v sur k(T1 , . . . , Tn ) `a valeurs dans Λ est centr´ee sur Ank ssi v(Ti ) > 0 pour tout i. D´ efinition 2.13. — Une valuation monomiale v sur k(T1 , . . . , Tn ) est une valuation qui est uniquement d´etermin´ee par les v(Ti ), via la formule ) ! ( X X n α (11) v αi v(Ti ) | α ∈ N , aα 6= 0 aα T = min α∈Nn

pour tout polynˆ ome

P

α∈Nn

i

α

aα T ∈ k[T1 , . . . , Tn ].

Le groupe des valeurs d’une valuation monomiale v est donn´e par Λv = P Si v est centr´ee sur Ank , alors Sv (Ank ) = i Nv(Ti ).

P

i

Zv(Ti ).

Lemme 2.14. — Toute valuation v sur k(T1 , . . . , Tn ) telle que les v(Ti ) soient Z-lin´eairement ind´ependantes est automatiquement monomiale ; de plus, son corps r´esiduel k(v) co¨ıncide avec k.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

17

P D´emonstration. — L’hypoth`ese implique que les v(T α ) = i αi v(Ti ) sont 2 `a 2 distincts lorsque α parcourt Nn . Le lemme 2.2 montre donc que la relation (11) est satisfaite. Pour voir que k(v) = k, il suffit de v´erifier la propri´et´e (ii) du lemme 2.11 avec A := k[T1 , . . . , Tn ]. On a Grλv A 6= 0 ssi λ ∈ v(A \ {0}) ; dans ce cas, il existe un unique P α ∈ Nn tel que λ = i αi λi , et on v´erifie ais´ement que Grλv A est engendr´e sur k par l’image du monˆ ome T α . Lemme 2.15. — Soit v une valuation monomiale sur k(T1 , . . . , Tn ), centr´ee sur Ank . On peut alors ´etendre v en une valuation sur k[[T1 , . . . , Tn ]], en posant (11) pour toute s´erie formelle. P D´emonstration. — D’apr`es le lemme 2.8, le semigroupe Sv (Ank ) = i Nv(Ti ) est bien ordonn´e ; (11) fait donc sens pour toute s´erie formelle, et on v´erifie sans peine que ceci d´efinit bien une valuation sur k[[T1 , . . . , Tn ]]. D´emonstration de la proposition 2.12. — Puisque k est alg´ebriquement clos, on peut choisir un point ferm´e r´egulier p ∈ X, et donc un syst`eme r´egulier de param`etres (z1 , . . . , zn ) de OX,p . D’apr`es le th´eor`eme de structure de Cohen [ZS60, p. 307], l’injection k[T1 , . . . , Tn ] ֒→ OX,p d´efinie par (z1 , . . . , zn ) s’´etend en un isomorphisme bX,p au niveau des compl´et´es formels. Chaque f ∈ O bX,p admet k[[T1 , . . . , Tn ]] ≃ O P donc un d´eveloppement en s´erie formelle f = α∈Nn aα z α . P Par hypoth`ese sur S, on peut choisir λ1 , . . . , λn ∈ Λ>0 tels que S = i Nλi . Le bX,p en posant lemme 2.15 montre qu’on d´efinit une valuation v sur OX,p ֒→ O ( ) X v(f ) = min αi λi | α ∈ Nn , aα 6= 0 . l

Cette valuation s’´etend en une valuation v sur K par le lemme 2.3. Puisque v > 0 sur OX,p , v admet un centre ξ sur X, tel que p ∈ {ξ}. Le semigroupe des valeurs Sv (X), P i.e. l’image de v : OX,ξ \ {0} → Λ, est par construction contenu dans S = i Nλi , et il contient aussi chaque λi = v(zi ). On a donc bien Sv (X) = S. Exemple 2.16 (Le cas r´eel). — Soient w = (w1 , . . . , wn ) ∈ Rn+ et z = (z1 , . . . , zn ) un syst`eme r´egulier de param`etres en un point r´egulier p ∈ X. On d´efinit une valuation vw,z sur k(X) en posant ) ! ( X X α vw,z αi λi | aα 6= 0 . aα z = min α∈Nn

i

T Le centre de vw,z sur X est le point g´en´erique de wi >0 {zi = 0} contenant p, et P son groupe des valeurs est i Zwi ⊂ R, muni de l’ordre induit par la composante irr´eductible de celui de R. ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

18

S. BOUCKSOM

Exemple 2.17 (Valuations de drapeau [Ok96, §2.1]). — Appelons drapeau de sousvari´et´es de X centr´e en un point (ferm´e) p ∈ X une suite (12)

X• = {X = X0 ⊃ X1 ⊃ . . . ⊃ Xn = {p}}

de sous-vari´et´es ferm´ees v´erifiant codim Xi = i, et telles que Xi+1 soit un diviseur de Cartier de Xi au voisinage de p. On notera que l’existence d’un tel drapeau entraˆıne que X est Cohen-Macaulay en p. On d´efinit alors une valuation vX• : k(X)∗ → Zn , centr´ee en p ∈ X, comme suit. On choisit pour chaque i une ´equation locale wi+1 ∈ OXi ,p de Xi+1 dans Xi , et on pose pour toute f ∈ k(X)∗ vX• (f ) = (ordX1 (f0 ), ordX2 (f1 ), . . . , ordXn (fn−1 )), o` u les fi ∈ k(Xi )∗ sont d´efinies par r´ecurrence par f0 := f et   − ord (fi ) X fi+1 := wi+1 i+1 fi |Xi+1 .

On voit imm´ediatement que le semigroupe des valeurs de vX• sur X co¨ıncide avec Nn . Si, comme dans la d´emonstration de la proposition 2.12, p ∈ X est un point r´egulier et (z1 , . . . , zn ) est un syst`eme r´egulier de param`etres, on d´efinit un drapeau de sousvari´et´es X• en posant Xi := {z1 = . . . = zi = 0}, et on v´erifie alors que la valuation vX• co¨ıncide avec la valuation construite dans la d´emonstration de la proposition 2.12 avec Λ = Zn muni de l’ordre lexicographique et λ1 , . . . , λn la base canonique de Zn . En d’autres termes, la valuation vX• associ´ee `a ce drapeau satisfait vX• (f ) = min {α ∈ Nn | aα 6= 0} P u le min est pour toute f ∈ OX,p d´evelopp´ee en s´erie formelle f = α∈Nn aα z α , o` relatif ` a l’ordre lexicographique. Exemple 2.18 (Valuations de drapeau infinit´esimal [LM09, §5.2]). — Soient p ∈ X un point ferm´e r´egulier et F• un drapeau P(TX,p ) ≃ Pkn−1 = F0 ⊃ . . . ⊃ Fn−1 en sous-espaces projectifs. Si on note π : X ′ → X l’´eclatement de X en p, de diviseur exceptionnel E ≃ P(TX,p ), le drapeau F• d´efinit un drapeau de sous-vari´et´es de X ′ , donc une valuation de drapeau sur k(X ′ ) ≃ k(X), que l’on note vp,F• . En choisissant un syst`eme r´egulier de param`etres (z1 , . . . , zn ) de OX,p dont les diff´erentielles en p d´ecoupent F• , on v´erifie que Nn est, ici aussi, le semigroupe des valeurs de vp,F• sur X. Remarque 2.19. — D`es que n > 2, aucune des valuations r´eelles de l’exemple 2.16 ne se r´ealise comme valuation de drapeau. On montre en effet que ces derni`eres sont de rang (r´eel) n ; on renvoie ` a [ZS60] pour cette notion, dont nous n’aurons pas l’usage dans ce texte.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

19

2.4. Valuations de rang rationnel maximal Soit v une valuation sur K. Son groupe des valeurs Λv = v(K ∗ ), ´etant totalement ordonn´e, est sans torsion, donc se plonge dans le R-espace vectoriel Vv := Λv ⊗Z R (lequel n’est toutefois plus ordonn´e). Le rang rationnel rg. rat(v) de v est d´efini comme le rang du groupe des valeurs Λv , i.e. le nombre maximal d’´el´ements Z-lin´eairement ind´ependants de Λv , qui est aussi la dimension de Vv . Comme on va le voir, le rang rationnel est au plus ´egal ` a n = tr. deg(K/k), et les valuations telles que rg. rat(v) = n jouissent de propri´et´es particuli`eres, qui joueront un rˆole cl´e dans la construction des corps d’Okounkov. Lemme 2.20. — Soient v une valuation sur K, et K ′ un sous-corps quelconque de K contenant k. Alors : (i) card (v(K ∗ )/v(K ′∗ )) 6 [K : K ′ ]. (ii) rg (v(K ∗ )/v(K ′∗ )) 6 tr. deg(K/K ′ ). D´emonstration (i) [ZS60, p. 52]. Soient f1 , . . . , fm ∈ K ∗ telles que les v(fi ) soient 2 `a 2 distincts dans v(K ∗ )/v(K ′∗ ). Il suffit de montrer que les fi sont lin´eairement ind´ependantes sur K ′ . Supposons qu’il existe g1 , . . . , gm ∈ K ′ non tous nuls tels que g1 f1 + . . . + gm fm = 0. Par le lemme 2.2, il doit alors exister deux indices i 6= j tels que gi , gj 6= 0 et v(gi fi ) = v(gj fj ), et on en d´eduit que v(fi ) − v(fj ) = v(gj ) − v(gi ) est nul dans v(K ∗ )/v(K ′∗ ), contradiction. (ii) [ZS60, p. 50]. Soient f1 , . . . , fm telles que les v(fi ) soient Z-lin´eairement ind´ependantes dans v(K ∗ )/v(K ′∗ ). Il suffit de montrer que les fi sont alg´ebriquement ind´ependantes sur K ′ . Si ce n’est pas le cas, on peut trouver un nombre fini de coeffiP αm = 0. cients non tous nuls aα ∈ K ′ , α = (α1 , . . . , αm ) ∈ Nm , tels que α aα f1α1 . . . fm Par le lemme 2.2, il existe alors α 6= β tels que P

βm αm ), ) = v(aβ f1β1 . . . fm v(aα f1α1 . . . fm

et on en d´eduit i (βi − αi )v(fi ) = v(aα ) − v(aβ ) ∈ v(K ′∗ ), ce qui fournit une relation de d´ependance Z-lin´eaire des v(fi ) dans v(K ∗ )/v(K ′∗ ). En appliquant le point (ii) avec K ′ = k, on obtient : Corollaire 2.21. — Pour toute valuation v sur K, on a rg. rat(v) 6 n. D´ efinition 2.22. — Soit v une valuation sur K. On dit que v est de rang rationnel maximal si rg. rat(v) = n. La proposition suivante d´ecrit les propri´et´es essentielles des valuations de rang rationnel maximal (du moins en ce qui nous concerne).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

20

Proposition 2.23. — Soit v une valuation sur K de rang rationnel maximal. (i) Le groupe des valeurs Λv est un Z-module libre de rang n. (ii) Pour tout k-espace vectoriel E ⊂ K de dimension finie, on a dimk E = card v(E \ {0}). (iii) Pour toute sous-extension de corps K ′ /k, la restriction de v ` a K ′ est encore de rang rationnel maximal. ` propos du point (iii), rappelons au passage que l’extension de corps K ′ /k est A automatiquement de type fini, puisque K/k l’est. On commence par montrer que toutes les valuations de rang rationnel maximal sont des extensions finies de valuations monomiales. Lemme 2.24. — Une valuation v sur K est de rang rationnel maximal ssi il existe une extension finie K/k(T1 , . . . , Tn ) telle que la restriction de v ` a k(T1 , . . . , Tn ) soit monomiale, avec les v(Ti ) Z-lin´eairement ind´ependantes. D´emonstration. — Soit v une valuation sur K de rang rationnel maximal. Par d´efinition, ceci signifie qu’il existe f1 , . . . , fn ∈ K ∗ telles que les v(fi ) soient Z-lin´eairement ind´ependantes. D’apr`es le lemme 2.20, les fonctions fi sont alg´ebriquement ind´ependantes sur k, donc induisent un plongement k(T1 , . . . , Tn ) ֒→ K qui est fini, puisque K/k est de type fini avec tr. deg(K/k) = n. Comme les v(Ti ) = v(fi ) sont Z-lin´eairement ind´ependantes, la restriction de v `a k(T1 , . . . , Tn ) est monomiale par le lemme 2.14. R´eciproquement, une valuation monomiale v sur k(T1 , . . . , Tn ) avec les v(Ti ) Z-lin´eairement ´equivalentes a pour groupe des valeurs Zv(T1 ) + . . . + Zv(Tn ), donc est de rang rationnel n, qui est aussi le rang rationnel de toute extension de v `a une extension finie de k(T1 , . . . , Tn ), d’apr`es le lemme 2.20. D´emonstration de la proposition 2.23. — D’apr`es le lemme 2.11, (ii) ´equivaut `a (ii)′ k(v) = k. D’apr`es le lemme 2.24, il existe une extension finie K/K ′ avec K ′ = k(T1 , . . . , Tn ) telle que la restriction v ′ de v a` K ′ soit monomiale, avec les v(Ti ) Z-lin´eairement ind´ependantes. Le lemme 2.14 montre donc que Λv′ = Zv(T1 ) + . . . + Zv(Tn ) ≃ Zn et k(v ′ ) = k.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

21

On va maintenant remonter ces propri´et´es `a K. Puisque K est fini sur K ′ , le lemme 2.20 montre que Λv′ est d’indice fini dans Λv , ce qui donne (i). Par ailleurs, le fait que l’extension K/K ′ est finie implique facilement que l’extension de corps r´esiduels k(v)/k(v ′ ) est aussi finie. Mais on a vu que k(v ′ ) = k ; ce dernier ´etant alg´ebriquement clos, on obtient (ii)′ . Enfin, la propri´et´e d’h´er´edit´e (iii) r´esulte imm´ediatement du point (ii) du lemme 2.20, en utilisant rg v(K ∗ ) = rg (v(K ∗ )/v(K ′∗ )) + rg v(K ′∗ ) et tr. deg(K/k) = tr. deg(K/K ′ ) + tr. deg(K ′ /k). Remarque 2.25. — L’in´egalit´e d’Abhyankar-Zariski [ZS60, p. 331] stipule qu’on a en fait (13)

rg. rat(v) + tr. deg(k(v)/k) 6 n,

ce qui montre directement que rg. rat(v) = n =⇒ k(v) = k. La propri´et´e (i) de la proposition 2.23 est plus g´en´eralement vraie pour les valuations v telles que (13) soit une ´egalit´e, parfois appel´ees valuations d’Abhyankar ([ZS60, p. 355], voir aussi [Vaq06, p. 16]). Remarque 2.26. — Dans [KK09, §2.2], deux types de conditions sont consid´er´ees pour une valuation v sur K : (i) « faithful Zn -valued valuation », qui veut dire que le groupe des valeurs est isomorphe ` a Zn ; (ii) « one-dimensional leaves », qui signifie que dim Grλv K 6 1 pour tout λ ∈ Λv . Bien que ce ne soit pas explicitement mentionn´e dans [KK09], on a en fait (i)=⇒(ii) (si k est alg´ebriquement clos, comme on le suppose). En effet, d’apr`es la proposition 2.23, (i) ´equivaut ` a la condition de rang rationnel maximal. Le lemme 2.20 ´enonce quant `a lui que (ii) ´equivaut ` a k(v) = k, et la proposition 2.23 montre donc que (i) implique (ii). Exemple 2.27. — Pour tout mod`ele X de K, la proposition 2.12 (et en particulier les valuations de drapeau et de drapeau infinit´esimal des exemples 2.17 et 2.18), fournissent des exemples de valuations sur K de rang rationnel maximal, centr´ees sur X. Il suffit en effet de choisir n ´el´ements positifs λ1 , . . . , λn Z-lin´eairement ind´ependants dans un groupe totalement ordonn´e Λ ad´equat, et d’appliquer la proposition 2.12 P `a S := i Nλi . Par construction, ces exemples ont la propri´et´e que Sv (X) = S est de type fini, mais on donnera plus loin un exemple de valuation de rang rationnel maximal dont le semigroupe des valeurs sur un mod`ele X de K n’est pas de type fini (cf. exemple 3.13).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

22

3. CORPS D’OKOUNKOV Cette partie d´ecrit le cœur de la th´eorie des corps d’Okounkov, selon un point de vue proche de celui de [KK09]. Dans tout ce qui suit, X d´esigne une vari´et´e alg´ebrique propre sur un corps alg´ebriquement clos k de caract´eristique arbitraire. On note n la dimension de X et K := k(X) son corps de fonctions. On utilise la notation additive pour les produits tensoriels de fibr´es en droites ; en particulier, pour tout fibr´e en droites L sur X, on ´ecrit mL = L⊗m pour m ∈ Z. L’alg`ebre des sections de L est la k-alg`ebre gradu´ee M R(X, L) := H 0 (X, mL). m∈N

3.1. Semigroupe gradu´ e des valeurs sur un fibr´ e en droites Soit v une valuation sur K, de centre ξ ∈ X (dont l’existence est garantie par la propret´e de X). Rappelons que l’on note Sv (X) = v(OX,ξ \ {0}) le semigroupe des valeurs de v sur X, Λv = v(K ∗ ) le groupe des valeurs de v, et Vv = Λv ⊗Z R le R-espace vectoriel engendr´e, de dimension rg. rat(v). Pour tout fibr´e en droites L sur X et toute section non nulle σ ∈ H 0 (X, L) \ {0}, on peut d´efinir v(σ) ∈ Sv (X) de la fa¸con suivante. On choisit une trivialisation τ de L au voisinage du centre ξ ∈ X de v. Toute section non nulle σ de L s’´ecrit, au voisinage de ξ, σ = f · τ avec f ∈ OX,ξ . Toute autre trivialisation locale de L en ξ est de la forme u · τ o` u u est une unit´e de OX,ξ , et v(σ) := v(f ) est donc bien d´efinie puisque v(u) = 0. Notons que v(σ) > 0 ssi σ s’annule en ξ. Si L′ est un second fibr´e en droites sur X et σ ′ ∈ H 0 (X, L′ ) \ {0}, alors v(σ ⊗ σ ′ ) = v(σ) + v(σ ′ ). D´ efinition 3.1. — Soient v une valuation sur K, et L un fibr´e en droites sur X tel que R(X, L) 6= k. Le semigroupe gradu´e des valeurs de v sur L est d´efini comme  Sv (X, L) := (m, v(σ)) | m ∈ N, σ ∈ H 0 (X, mL) \ {0} ,

semigroupe gradu´e de N × Vv .

Pour toute sous-alg`ebre gradu´ee A de R(X, L) qui est non triviale (i.e. A 6= k), on introduit plus g´en´eralement le semigroupe gradu´e Sv (A) ⊂ N × V des valeurs de v sur A, d´efini par Sv (A) := {(m, v(σ)) | m ∈ N, σ ∈ Am \ {0}} . En d’autres termes, on pose pour tout m ∈ N (14)

´ ASTERISQUE 361

Sv (A)m = v (Am \ {0}) .

(1059)

CORPS D’OKOUNKOV

23

En particulier, le semigroupe N(Sv (A)) = {m ∈ N | Sv (A)m 6= ∅} co¨ıncide avec N(A) := {m ∈ N | Am 6= 0} . Remarque 3.2. — Si L est un fibr´e en droites sur X, on note K(L) le corps de fonctions de l’espace total du fibr´e dual L∗ , qui contient en particulier R(X, L) = O(L∗ ). Puisque L est trivial sur un ouvert de Zariski de X, on a K(L) ≃ K(T ), et tout ´el´ement de K(L) s’´ecrit comme quotient de fonctions rationnelles sur L∗ du type P u chaque σm est une section rationnelle de mL, nulle σ(x, τ ) = m∈N σm (x) · τ m , o` sauf pour un nombre fini d’indices m. Soit v une valuation sur K, et munissons Z× Λv de l’ordre lexicographique produit, d´efini par (m1 , λ1 ) 6 (m2 , λ2 ) ⇐⇒ (m1 < m2 ) ou (m1 = m2 et λ1 6 λ2 ). On ´etend v en une valuation

en posant pour σ(x, τ ) =

P

vˆL : K(L)∗ → Z × Λv m∈N σm (x)

· τ m comme ci-dessus

vˆ(σ) := (m0 , v(σm0 ))

avec m0 := min{m ∈ N | σm 6= 0}. On v´erifie alors sans peine que (15)

vˆL (A \ {0}) = Sv (A)

pour toute sous-alg`ebre gradu´ee A de R(X, L). ˆ := Spec A Si A est de type fini sur k (par exemple si A = R(X, L) avec L ample), X est une vari´et´e affine sur k, munie d’une action du groupe multiplicatif correspondant `a la graduation de A (un cˆ one). La valuation vˆL se restreint en une valuation sur ˆ centr´ee en son sommet, et son semigroupe des valeurs le corps de fonctions de X, co¨ıncide avec Sv (A). La proposition suivante recense les propri´et´es essentielles des semigroupes gradu´es de valeurs relatifs ` a une valuation de rang rationnel maximal. Rappelons que l’on pose, pour tout semigroupe gradu´e S, κ(S) := dimR (S) − 1. Si A est une sous-alg`ebre gradu´ee non triviale de R(X, L), on note K(A) son corps des fractions, et on pose κ(A) := tr. deg (K(A)/k) − 1. Proposition 3.3. — Soit v une valuation sur K de rang rationnel maximal. Pour tout fibr´e en droites L sur X et toute sous-alg`ebre gradu´ee A non triviale de R(X, L), on a alors : (i) Sv (A) ⊂ N × Vv est un semigroupe gradu´e discret (au sens de 1.2) ; (ii) card Sv (A)m = dimk Am pour tout m ∈ N ;

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

24

(iii) κ(Sv (A)) = κ(A) ; (iv) si L est gros, Sv (X, L) engendre Z × Λv . Rappelons qu’un fibr´e en droites L sur X est gros ssi, pour tout fibr´e ample H, on a H 0 (X, mL − H) 6= 0 pour m ≫ 1. On renvoie `a [Laz04] pour plus de d´etails. D´emonstration (i) Comme v est de rang rationnel maximal, Λv est un r´eseau de Vv d’apr`es le point (i) de la proposition 2.23. Le semigroupe Sv (A), ´etant contenu dans Z × Λv , engendre donc un sous-groupe discret de R × Vv , ce qui signifie par d´efinition que Sv (A) est un semigroupe gradu´e discret. (ii) Ceci r´esulte directement de (14) et du point (ii) de la proposition 2.23. (iii) Soit vˆL : K(L)∗ → Z × Λv la valuation d´efinie dans la remarque 3.2. Puisque v est de rang rationnel maximal sur K et que L est trivial sur un voisinage de Zariski du centre de v sur X, il est facile de voir que vˆL est elle aussi de rang rationnel maximal. Par la propri´et´e de transitivit´e (iii) de la proposition 2.23, c’est donc encore le cas de la restriction de vˆL ` a K(A). Mais (15) implique que vˆL (K(A)∗ ) = ZSv (A), et on obtient (iii). (iv) Le point (iii) donne d´ej` a que ZSv (X, L) est d’indice fini dans Z×Λv . Pour avoir le r´esultat plus pr´ecis de (iv), on adapte l’argument de [LM09, Lemma 2.2]. Puisque Λv est un groupe ab´elien libre de rang n, on peut choisir des fonctions rationnelles f1 , . . . , fn ∈ K ∗ telles que le groupe Λv soit engendr´e par les v(fi ). Le conducteur c := {g ∈ OX | g · fi ∈ OX , i = 1, . . . , n} ´etant un faisceau coh´erent d’id´eaux, on peut trouver un fibr´e ample H tel que OX (H) ⊗ c admette une section globale non nulle τ . Pour i = 1, . . . , n, τ · fi d´efinit donc une section σi ∈ H 0 (X, H). On note que v(fi ) = v(σi ) − v(τ ). Comme L est gros, on peut maintenant choisir m ∈ N∗ tel que mL−H admette une section non nulle s ; il en r´esulte que Sv (X, L) contient (m, v(s) + v(τ )) et (m, v(s) + v(σi )) pour i = 1, . . . , n, et donc que ZSv (X, L) contient (0, v(fi )) pour i = 1, . . . , n. Ceci montre que ZSv (X, L) contient {0}×Λv , et il reste donc `a v´erifier qu’il contient aussi (1, 0). On peut choisir H tr`es ample tel que H ′ := L + H soit aussi tr`es ample. Une section non nulle s ∈ H 0 (X, mL − H) avec m ≫ 1 peut alors aussi ˆetre vue comme une section de (m + 1)L − H ′ = mL − H. Puisque H et H ′ sont tous deux tr`es amples, chacun d’eux admet une section ne s’annulant pas sur le centre de v ; on voit donc que (m, v(s)) et (m + 1, v(s)) sont dans Sv (X, L), ce qui donne bien (1, 0) ∈ ZSv (X, L). 3.2. Corps d’Okounkov et multiplicit´ e On fixe dor´enavant une valuation v sur K de rang rationnel maximal. On se donne ´egalement un fibr´e en droites L sur X et une sous-alg`ebre gradu´ee non triviale A de R(X, L).

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

25

D´ efinition 3.4. — Le corps d’Okounkov ∆v (A) de A relatif ` a v est d´efini comme la base du semigroupe gradu´e Sv (A) ⊂ N × Vv (cf. d´efinition 1.9). Pour A = R(X, L), on note simplement ∆v (X, L) := ∆v (R(X, L)). Plus concr`etement, on a par (5) [  1 (16) ∆v (A) = m v(s) | s ∈ Am \ {0} ⊂ Vv . m>1

Il s’agit d’un convexe ferm´e de Vv . Mieux :

Lemme 3.5. — Le corps d’Okounkov ∆v (A) est compact. D´emonstration. — Puisque ∆v (A) est contenu dans ∆v (X, L), il suffit de montrer le r´esultat pour A = R(X, L). Par le lemme de Chow [Har77, p.107], il existe un morphisme birationnel π : Y → X avec Y projective. On peut alors trouver un fibr´e en droites ample H sur Y tel que H −π ∗ L admette une section globale s sur Y . Identifiant v avec une valuation sur k(Y ) ≃ k(X), on v´erifie facilement que v(s) + ∆v (X, L) ⊂ ∆v (Y, H), ce qui nous ram`ene ` a montrer que ∆v (Y, H) est compact. Le th´eor`eme de Hilbert-Serre implique que dim H 0 (Y, mH) = O(mn ), et donc card Sv (Y, H)m = O(mn ) par le point de (ii) de la proposition 3.3. Mais le point (iii) de la mˆeme proposition donne κ(Sv (X, L)) = n, et le corollaire 1.14 montre donc que ∆v (Y, H) est compact. Comme on l’a vu au §1.2, le sous-espace affine de Vv engendr´e par ∆v (A) est naturellement muni d’une structure enti`ere, ce qui permet de normaliser sa mesure de Lebesgue µSv (A) . On note le cas particulier important suivant : Lemme 3.6. — Si on note µv la mesure de Lebesgue de Vv normalis´ee par son r´eseau Λv , alors µSv (X,L) = µv pour tout fibr´e en droites gros L. D´emonstration. — Posons S = Sv (X, L). La structure enti`ere sur l’enveloppe affine Aff(S) de ∆(S) ne d´epend que du groupe ZS engendr´e par S ; or on a ZS = Z × Λv par le point (iv) de la proposition 3.3, et le r´esultat suit. Grˆace au corollaire 1.14, on peut maintenant ´enoncer le r´esultat fondamental suivant : Th´ eor` eme 3.7. — Soient X une vari´et´e propre sur k et L un fibr´e en droites sur X. Pour toute sous-alg`ebre gradu´ee non triviale A ⊂ R(X, L), la limite lim

m∈N(A),m→+∞

dimk Am mκ(A)

existe dans ]0, +∞[. Pour toute valuation v sur k(X) de rang rationnel maximal, on a de plus dim Am = µSv (A) (∆v (A)) . m∈N(A),m→+∞ mκ(A) lim

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

26

Rappelons qu’on a pos´e κ(A) = tr. deg(K(A)/k) − 1, et que ceci co¨ıncide avec κ(Sv (A)) d’apr`es le point (iii) de la proposition 3.3. D´ efinition 3.8. — La multiplicit´e de A est d´efinie comme e(A) :=

dimk Am . m∈N(A),m→+∞ mκ(A) /κ(A)! lim

On prendra garde au fait que la multiplicit´e n’est en g´en´eral pas un entier, ni mˆeme un rationnel. Le choix de normalisation est dict´e par le Corollaire 3.9. — Si L est un fibr´e en droites gros, de volume vol(L), alors e(R(X, L)) = vol(L) = n! µv (∆v (X, L)) , avec µv la mesure de Lebesgue de Vv normalis´ee par son r´eseau Λv . Ici encore, on renvoie ` a [Laz04] pour la d´efinition et les propri´et´es du volume vol(L). D´emonstration. — L’´egalit´e e(R(X, L)) = vol(L) vaut par d´efinition. Le second point r´esulte alors du th´eor`eme 3.7 combin´e `a l’´egalit´e µSv (X,L) = µv du lemme 3.6. Remarque 3.10. — Il existe en particulier une constante C > 0 telle que C −1 mκ(A) 6 dim Am 6 Cmκ(A) pour tout m ∈ N(A) suffisamment grand. Pour A = R(X, L) et k de caract´eristique z´ero, ce r´esultat de croissance polynomiale fut ´etabli pour la premi`ere fois par Shigeru Iitaka dans [Iit71]. Remarque 3.11. — Avant [KK09], l’existence de la limite dans le th´eor`eme 3.7 n’´etait connue que dans les deux cas suivants : – A est de type fini (comme cons´equence du th´eor`eme de Hilbert-Serre, voir le lemme 3.14 ci-dessous). – le corps de base k est de caract´eristique z´ero, et A = R(X, L) est l’alg`ebre des sections d’un fibr´e L gros (cf. [Laz04]). Exemple 3.12 (Le cas des courbes). — Soit C une courbe projective lisse, et notons g son genre. Toute valuation sur K = k(C) est dans ce cas une valuation discr`ete, multiple positif de l’ordre d’annulation vp : k(C)∗ → Z en un point p ∈ C. Un fibr´e en droites L tel que R(C, L) 6= k est n´ecessairement ample, de degr´e d > 0. Pour tout m ≫ 1, on affirme que Svp (C, L)m est constitu´e de md + 1 − g entiers situ´es entre 0 et md (la suite des valeurs d’annulation de mL au point p). En effet, d`es que md > 2g − 2, on a h1 (C, mL) = h0 (C, KC − mL) = 0 par dualit´e de Serre, d’o` u h0 (C, mL) = md + 1 − g par Riemann-Roch ; la proposition 3.3 montre donc que Svp (X, L) ⊂ N est de cardinal md + 1 − g. On a de plus vp (σ) 6 md pour toute section σ ∈ H 0 (C, mL) \ {0}, ce qui d´emontre l’assertion. ´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

27

On d´eduit ais´ement de ce qui pr´ec`ede que ∆vp (C, L) = [0, d] ⊂ R. Il est cependant remarquable que, mˆeme dans un cas aussi simple, le semigroupe Svp (C, L) n’est pas de type fini en g´en´eral. Plus pr´ecis´ement, la remarque 1.16 montre que Svp (C, L) est de type fini ssi il existe  1 Svp (C, L)m , ce qui signifie qu’il existe une section m ∈ N tel que [0, d] = Conv m σ ∈ H 0 (C, mL) telle que vp (σ) = md. On en d´eduit que Svp (C, L) est de type fini ⇐⇒ L − dp est de torsion dans Pic0 (C). Si g > 1 et si k est un corps non d´enombrable de caract´eristique 0, Svp (C, L) n’est donc pas de type fini pour p ∈ C tr`es g´en´eral (i.e. en dehors d’un ensemble au plus d´enombrable). Exemple 3.13. — En combinant l’exemple ci-dessus avec la remarque 3.2, on va construire une surface affine X sur C et une valuation v centr´ee sur X, de groupe des valeurs Z2 muni de l’ordre lexicographique (et donc de rang rationnel maximal), mais dont le semigroupe des valeurs Sv (X) n’est pas de type fini. Pour ce faire, on consid`ere une courbe projective lisse C ⊂ P2C , de degr´e au moins 3, donc de genre g > 1. On pose X := Cˆ = Spec R(C, O(1)), le cˆ one affine sur C. Pour p ∈ C tr`es g´en´eral, soit vˆp la valuation sur X `a valeurs dans Z2 induite par vp , comme dans la remarque 3.2. Alors vˆp est centr´ee au sommet de X, et Svˆp (X) = Svp (C, O(1)) n’est pas de type fini. 3.3. Interpr´ etation g´ eom´ etrique de la multiplicit´ e Soit A une sous-alg`ebre gradu´ee non triviale de l’alg`ebre des sections R(X, L) d’un fibr´e en droites L sur X. Le but de cette partie est de donner une interpr´etation g´eom´etrique de la multiplicit´e e(A), en suivant [KK09, §3.1]. On commence par le cas particulier suivant, celui o` u la k-alg`ebre A est de type fini, engendr´ee en degr´e 1. Lemme 3.14. — Soit V ⊂ H 0 (X, L) un sous-espace vectoriel non nul, et soit ΦV : X 99K P(V ∗ ) l’application rationnelle d´efinie par V . Si l’on note hV i la sous-alg`ebre de R(X, L) engendr´ee par V , alors κ (hV i) = dim ΦV (X) et e(hV i) = deg ΦV (X). On entend par ΦV (X) l’adh´erence de l’image d’un ouvert de Zariski non vide sur lequel ΦV est d´efinie. D´emonstration. — D’apr`es le th´eor`eme de Hilbert-Serre [Har77, p. 51–52], il suffit de v´erifier que hV i est isomorphe ` a l’anneau des coordonn´ees homog`enes de ΦV (X). ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

28

Soit (σ1 , . . . , σN ) une base de V , de sorte que ΦV : X 99K P(V ∗ ) ≃ PN −1 est donn´ee en coordonn´ees homog`enes par ΦV (x) = [σ1 (x) : . . . : σN (x)]. Si l’on note I ⊂ k[T1 , . . . , Tn ] l’id´eal homog`ene de ΦV (X), on voit donc que P (σ1 , . . . , σN ) = 0 ⇔ P ◦ ΦV = 0 ⇔ P ∈ I pour tout polynˆome homog`ene P . Comme on a par d´efinition hV im = {P (σ1 , . . . , σN ) | P ∈ k[T1 , . . . , TN ]m } pour tout m ∈ N, on obtient bien hV i ≃ k[T1 , . . . , TN ]/I. On consid`ere maintenant le cas g´en´eral : Th´ eor` eme 3.15. — Soit A une sous-alg`ebre gradu´ee non triviale de R(X, L). Pour tout m ∈ N(A), notons Φm : X 99K P(A∗m )

l’application rationnelle d´efinie par le syst`eme lin´eaire Am ⊂ H 0 (X, mL). On a alors κ(A) = dim Φm (X) pour tout m ∈ N(A) suffisamment grand, et e(A) =

lim

m∈N(A),m→∞

deg Φm (X) . mκ(A)

D´emonstration. — Pour chaque m ∈ N(A), notons hAm i la sous-alg`ebre de A engendr´ee par Am , qui satisfait N(hAm i) = Nm et  hAm ilm = Im Syml Am → Alm

pour tout l ∈ N.

Étape 1. — Montrons d’abord que κ(A) = κ(hAm i) = dim Φm (X) pour tout m ∈ N(A) assez grand, qui est un fait bien connu. Si l’on note K(A)0 le sous-corps de K(A) form´e des quotients f /g avec f, g ∈ Am de mˆeme degr´e, on voit facilement que K(A) ≃ K(A)0 (T ), et donc tr. deg(K(A)0 /k) = tr. deg(K(A)/k) − 1 = κ(A). Mais puisque K(A) est de type fini sur k, en tant que sous-corps de K, il est ´egalement clair qu’on a K(hAm i)0 = K(A)0 pour tout m ∈ N(A) assez grand. Le lemme 3.14 nous permet alors de conclure, puisqu’il implique que K(hAm i)0 est le corps de fonctions de Φm (X). Étape 2. — On v´erifie maintenant que lim

m∈N(S),m→∞

´ ASTERISQUE 361

e (hAm i) = e(A).

(1059)

CORPS D’OKOUNKOV

29

Soit v une valuation sur K de rang rationnel maximal, et posons S := Sv (A). Pour chaque m ∈ N, le semigroupe T (m) := Sv (hAm i) contient {m} × Sm . Comme on a κ(hAm i) = κ(T (m)), κ(A) = κ(S), et e(hAm i) = κ(hAm i)! µT (m) (∆(T (m))),

e(A) = κ(A)! µS (∆(S))

par le th´eor`eme 3.7, on conclut par le th´eor`eme 1.15. ´ Etape 3. — En appliquant, ` a m ∈ N(A) fix´e, le lemme 3.14 `a mL et Am ⊂ H 0 (X, mL), on obtient par le th´eor`eme de Hilbert-Serre (ou par le th´eor`eme 3.7)  l dm + o l dm dm ! avec dm := dim Φm (X) et em := deg Φm (X). Il en r´esulte que κ(hAm i) = dm et e(hAm i) = em /mdm , et on conclut grˆace `a l’´etape 2. dimhAm ilm = em

Remarque 3.16. — On trouvera dans [Jow12, Theorem C] une variante du th´eor`eme 3.15, exprim´ee en termes de nombres d’intersection g´en´eriques, dans le cas o` u Φm est birationnelle sur son image pour tout m ∈ N suffisamment grand. ´ ´ 4. GEOM ETRIE DES CORPS D’OKOUNKOV Le but de cette partie est d’´etudier de fa¸con plus d´etaill´ee la g´eom´etrie des corps d’Okounkov, suivant l’approche de [LM09]. On d´ecrit dans un premier temps une variante des corps d’Okounkov pour les classes d’´equivalence num´erique de diviseurs ; suivant [KLM12, AKL12, Sep12], on s’int´eresse ensuite `a la forme possible que peuvent revˆetir les corps d’Okounkov, en particulier ceux associ´es aux valuations de drapeau. On d´esigne par X une vari´et´e alg´ebrique normale et projective sur un corps alg´ebriquement clos k de caract´eristique quelconque, et on se donne une valuation v sur k(X) de rang rationnel maximal. 4.1. Corps d’Okounkov num´ eriques 4.1.1. Positivit´e num´erique. — On note Div(X) le groupe des diviseurs de Cartier de X, qui se plonge dans le groupe ab´elien libre Z 1 (X) des cycles de codimension 1 (diviseurs de Weil), puisque X est suppos´ee normale. On note Div>0 (X) le soussemigroupe des diviseurs effectifs. On note ´egalement ≡ l’´equivalence num´erique sur Div(X)R , d´efinie par D ≡ D′ ssi D · C = D′ · C pour toute courbe propre C ⊂ X, et N 1 (X) le R-espace vectoriel quotient, qui est de dimension finie par le th´eor`eme de la base. Rappelons qu’une classe num´erique δ ∈ N 1 (X) est grosse s’il existe un R-diviseur effectif E tel que δ−E soit ample. Un fibr´e en droites L est gros ssi sa classe num´erique c1 (L) ∈ N 1 (X) est grosse (cf. [Laz04]). ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

30

On note Big(X) ⊂ N 1 (X) le cˆ one form´e des classes grosses (big en anglais), qui est convexe et ouvert. Une classe δ ∈ N 1 (X) dans son adh´erence Big(X) est dite pseudoeffective. Enfin, une classe δ ∈ N 1 (X) est nef si δ · C > 0 pour toute courbe propre C ⊂ X. Le cˆ one Nef(X) ⊂ N 1 (X) des classes nef est convexe et ferm´e, et son int´erieur co¨ıncide avec le cˆ one des classes amples d’apr`es le th´eor`eme de Kleiman. 4.1.2. Corps d’Okounkov et ´equivalence num´erique. — Toute valuation v sur k(X) d´efinit une application Z-lin´eaire v : Div(X) → Λv , d´efinie par v(D) := v(f ) avec f ∈ k(X)∗ une ´equation locale de D au voisinage du centre de v sur X. On note que v(Div>0 (X)) ⊂ Sv (X). Par lin´earit´e, on obtient une application R-lin´eaire v : Div(X)R → Vv . Si L est un fibr´e en droites sur X, alors R(X, L) 6= k ⇐⇒ {D ∈ Div>0 (X)Q | D ∼Q L} 6= ∅, o` u D ∼Q L signifie qu’il existe m ∈ N∗ tel que m(D − L) = div(f ) avec f ∈ k(X)∗ . L’´equation (16) montre que (17)

∆v (X, L) = v ({D ∈ Div>0 (X)Q | D ∼Q L}).

Proposition 4.1 ([LM09], Proposition 4.1). — Si L est un fibr´e en droites gros, alors ∆v (X, L) = v ({D ∈ Div>0 (X)R | D ≡ L}).

En particulier, ∆v (X, L) ne d´epend que de la classe d’´equivalence num´erique de L. D´emonstration. — L’inclusion ∆v (X, L) ⊂ v ({D ∈ Div>0 (X)R | D ≡ L})

est claire par (17). R´eciproquement, soit D un R-diviseur effectif num´eriquement ´equivalent `a L. Pour voir que v(D) est dans ∆v (X, L), on se ram`ene d’abord au cas o` u D est un Q-diviseur, 1 de la fa¸con suivante. Notons W ⊂ Z (X)R le R-espace vectoriel (de dimension finie) engendr´e par les composantes irr´eductibles de D. Notons que tout ´el´ement de W suffisamment proche de D est un diviseur effectif. L’ensemble N := {D ∈ Div(X)R | D ∈ W, D ≡ L} est un espace affine d´efini sur Q, et D ∈ N est limite d’une suite (Dj )j∈N d’´el´ements de NQ . Mais on a alors v(D) = limj v(Dj ), et Dj est un Q-diviseur num´eriquement ´equivalent ` a L, et effectif pour j ≫ 1. On suppose donc que D est un Q-diviseur Q-Cartier num´eriquement ´equivalent `a L, et on veut voir que v(D) ∈ ∆v (X, L). D’apr`es [Fuj83, Corollary 6.10] (voir aussi [Laz04, Lemma 2.2.42]), on peut trouver un fibr´e en droites H sur X tel que H + P soit tr`es ample pour tout fibr´e en droites nef P .

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

31

Puisque D est gros, on peut ensuite choisir m0 ∈ N tel que m0 D soit Cartier et que m0 D − H admette une section non nulle σ ∈ H 0 (X, m0 D − H) \ {0}. Pour tout m ∈ N, on pose Pm := (m + m0 )(L − D), et on observe que (m + m0 )L = mD + (m0 D − H) + (H + Pm ). Si m est suffisamment divisible, alors Pm est un fibr´e en droites num´eriquement trivial ; H + Pm est donc tr`es ample, et admet par cons´equent une section ne s’annulant pas sur le centre de v dans X, ce qui montre que mv(D) + v(σ) ∈ ∆v (X, L). m + m0 Ceci ´etant vrai pour tout m suffisamment divisible, on obtient bien `a la limite v(D) ∈ ∆v (X, L). Remarque 4.2. — Le r´esultat ci-dessus admet une r´eciproque [Jow12, Theorem A] : si L1 , L2 sont deux fibr´es en droites gros sur X tels que ∆v (X, L1 ) = ∆v (X, L2 ) pour toute valuation v sur K de rang rationnel maximal (les valuations de drapeau suffisent), alors L1 ≡ L2 . 4.1.3. D´efinition des corps d’Okounkov num´eriques. — La proposition 4.1 permet d´ej` a de d´efinir par homog´en´eit´e le corps d’Okounkov num´erique d’une classe grosse δ ∈ N 1 (X)Q , en choisissant m ∈ N∗ et un fibr´e gros L tel que c1 (L) = mδ, et en posant 1 ∆v (X, L). ∆num (X, δ) := m v On ´etend maintenant cette d´efinition `a toute classe pseudoeffective, en suivant [LM09, Remark 4.14]. D´ efinition 4.3. — Le corps d’Okounkov num´erique global ∆num (X) de X relatif ` a v v est d´efini comme l’adh´erence dans Vv × N 1 (X) de [ ∆v (X, δ) × {δ}. δ∈N 1 (X)Q ∩ Big(X)

Si δ ∈ Big(X) est une classe pseudoeffective, on d´efinit son corps d’Okounkov num´erique comme la fibre ∆num (X, δ) := {x ∈ Vv | (x, δ) ∈ ∆num (X)} v v

de ∆num (X) au-dessus de δ. v

On v´erifie que ∆num (X) est un cˆ one convexe ferm´e (et donc pas du tout un corps v convexe au sens usuel de la g´eom´etrie convexe !). On a ainsi (18) (19)

(X, δ) + ∆num (X, δ ′ ) ⊂ ∆num (X, δ + δ ′ ), ∆num v v v ∆num (X, tδ) = t∆num (X, δ) v v

pour δ, δ ′ ∈ N 1 (X) pseudoeffectives et t ∈ R+ . ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

32

Les corps d’Okounkov num´eriques admettent la description plus directe suivante, dont la v´erification ne pose pas de difficult´e : Proposition 4.4. — Pour toute classe grosse δ ∈ N 1 (X), ∆num (X, δ) ⊂ Vv est un v convexe compact d’int´erieur non vide, et on a ∆num (X, δ) = v ({D ∈ Div>0 (X)R | D ≡ δ}). v Si δ ∈ N 1 (X) est seulement pseudoeffective, alors ∆v (X, δ) ⊂ Vv est un convexe compact non vide, et \ ∆num (X, δ) = ∆num (X, δ + εh) v v ε>0

1

pour toute classe ample h ∈ N (X). On en d´eduit par exemple que δ ∈ Nef(X) =⇒ 0 ∈ ∆num (X, δ). v

(20)

R´eciproquement, on note que si 0 ∈ ∆num (X, δ) pour tout v, alors δ est nef. v Un fibr´e en droites L sur X avec R(X, L) 6= k est en particulier pseudoeffectif, et on a ∆v (X, L) ⊂ ∆num (X, L) ; cette inclusion est cependant stricte en g´en´eral, mˆeme v quand L est nef : Exemple 4.5. — On se place sur k = C. Une construction classique due `a Serre (d´ecrite par exemple dans [DPS94, Example 1.7]) exhibe un exemple de courbe projective lisse C dans une surface projective lisse X sur C, avec la propri´et´e que X \ C soit Stein en tant que vari´et´e analytique complexe (i.e. r´ealisable comme une sousvari´et´e analytique ferm´ee d’un CN ), sans ˆetre affine comme surface alg´ebrique (i.e. non plongeable comme sous-vari´et´e alg´ebrique ferm´ee d’un CN ). On a en fait (C 2 ) = 0, de sorte que C est nef, et X \ C n’admet aucune fonction r´eguli`ere non constante, ce qui implique imm´ediatement que {D ∈ Div>0 (X)Q | D ∼Q C} est r´eduit ` a C elle-mˆeme. Si le centre de v sur X est contenu dans C, (17) montre donc que ∆v (X, C) = {v(C)} avec v(C) 6= 0 ; mais 0 ∈ ∆num (X, C) par (20), d’o` u v num ∆v (X, C) ( ∆v (X, C). 4.1.4. Volume et dimension num´erique. — Rappelons que la fonction volume vol : N 1 (X) → R+ est une fonction continue, avec vol(δ) > 0 ⇐⇒ δ ∈ Big(X) 1

pour toute classe δ ∈ N (X), et telle que vol(δ) = (δ n ) si δ est nef (cf. [Laz04]). Proposition 4.6. — Si on note µv la mesure de Lebesgue de Vv normalis´ee par son r´eseau Λv , alors vol(δ) = n! µv (∆num (X, δ)) pour toute classe grosse δ ∈ N 1 (X). v ´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

33

D´emonstration. — Pour δ ∈ N 1 (X)Q ∩ Big(X), le r´esultat d´ecoule du corollaire 3.9. Dans le cas g´en´eral, (18), (19) et l’in´egalit´e de Brunn-Minkowski montrent que δ 7→ µv (∆num (X, δ)) est log-concave sur Big(X), et donc continue puisque ce cˆ one v est un ouvert convexe. On conclut par densit´e. Rappelons ´egalement que la dimension num´erique d’une classe nef δ ∈ N 1 (X) est d´efinie comme  ν(δ) = max p ∈ N | (δ p · hn−p ) 6= 0 ,

o` u h ∈ N 1 (X) est une classe ample quelconque. Comme vol(δ + εh) = (δ + εh)n , on a aussi  ν(δ) = max p ∈ N | vol(δ + εh) > cεn−p , c > 0 ,

qu’on peut prendre comme d´efinition de la dimension num´erique ν(δ) d’une classe pseudoeffective quelconque δ ∈ N 1 (X) [Nak04]. On a en particulier ν(δ) = n ssi δ est grosse. Remarque 4.7. — D’apr`es [Leh11], cette notion de dimension num´erique co¨ıncide avec celle de [BDPP04], i.e. on a ν(δ) = max {p ∈ N | hδ p i 6= 0} , o` u hδ p i ∈ N p (X) d´esigne la classe d’intersection mobile d´efinie dans [BDPP04] dans le cas complexe, et dans [BFJ09] en g´en´eral. Lemme 4.8. — Pour toute classe pseudoeffective δ ∈ N 1 (X) on a dim ∆num (X, δ) 6 ν(δ). v (X, h) pour (X, δ) et ∆ := ∆num D´emonstration. — Si on pose d := dim ∆num v v 1 une classe ample donn´ee h ∈ N (X), l’existence des volumes mixtes montre que (X, δ) + ε∆) ∼ εd . D’apr`es la proposition 4.6, on a donc vol(δ + εh) > cεd µv (∆num v avec c > 0, et on conclut par d´efinition de ν(δ). Si L est un fibr´e en droites sur X, sa dimension d’Iitaka κ(L) co¨ıncide avec la dimension de ∆v (X, L), et l’inclusion ∆v (X, L) ⊂ ∆num (X, L) redonne donc l’in´egalit´e v standard κ(L) 6 ν(L) entre dimension d’Iitaka et dimension num´erique. Comme on le verra dans l’exemple 4.14, l’in´egalit´e dim ∆num (X, δ) 6 ν(δ) est v stricte en g´en´eral lorsque δ ∈ Big(X) est pseudoeffective ; la proposition 4.15 cidessous donne cependant : Proposition 4.9. — Il existe une valuation v sur k(X) de rang rationnel maximal, telle que dim ∆num (X, δ) = ν(δ) pour toute classe nef δ ∈ N 1 (X). v

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

34

4.2. Corps d’Okounkov relatifs aux valuations de drapeau Comme on l’a vu dans l’exemple 2.17, un drapeau de sous-vari´et´es X• = {X = X0 ⊃ X1 ⊃ . . . ⊃ Xn = {p}}

d´efinit une valuation de rang rationnel maximal vX• : k(X)∗ → Zn , centr´ee en p ∈ X et ayant Nn comme semigroupe des valeurs sur X. On supposera ici que Xi est globalement un diviseur de Cartier de Xi−1 (et pas seulement au voisinage de p). On note pour simplifier Xi |Y la classe d’´equivalence lin´eaire d´efinie par OXi−1 (Xi )|Y , pour toute sous-vari´et´e Y ⊂ Xi−1 . De mˆeme, d’apr`es l’exemple 2.18, tout drapeau F• en sous-espaces lin´eaires de P(TX,p ) pour un point ferm´e r´egulier p ∈ X d´efinit une valuation de rang rationnel maximal vp,F• : k(X)∗ → Zn , ayant ´egalement Nn comme semigroupe des valeurs sur X. Pour toute classe pseudoeffective δ ∈ N 1 (X), on notera simplement n num ∆num X• (δ), ∆p,F• (δ) ⊂ R+

les corps d’Okounkov num´eriques relatifs `a vX• et vp,F• . Proposition 4.10. — Posons, pour tout drapeau X• de sous-vari´et´es de X et toute classe pseudoeffective δ ∈ N 1 (X), \  ∆nef x ∈ Rn+ | (δ − x1 X1 − . . . − xi Xi ) |Xi−1 ∈ Nef(Xi−1 ) X• (δ) := 16i6n

et

∆psef X• (δ) :=

\  x ∈ Rn+ | (δ − x1 X1 − . . . − xi Xi ) |Xi−1 ∈ Big(Xi−1 ) .

16i6n

Alors

∆nef X• (δ)

et ∆psef X• (δ) sont des convexes compacts, et on a psef num ∆nef X• (δ) ⊂ ∆X• (δ) ⊂ ∆X• (δ).

D´emonstration. — Puisque les cˆ ones nef et psef de N 1 (Xi ) sont convexes et ferm´es, psef nef e. ∆X• (L) et ∆X• (L) le sont aussi. Il suffit donc de montrer que ∆psef X• (L) est born´ Choisissons pour ce faire un diviseur ample H sur X. Si (x1 , . . . , xn ) appartient `a  n−1 , calcul´e sur X, est ∆psef X• (L), alors le nombre d’intersection (L − x1 X1 ) · H X  positif, donc n−1 L·H X 0 6 x1 6 (X1 · H n−1 )X est born´e ; on obtient de mˆeme que  (L − x1 X1 − . . . − xi−1 Xi−1 ) · H n−i Xi−1 , 0 6 xi 6 (Xi · H n−i )Xi−1 ce qui montre par r´ecurrence sur i = 1, . . . , n que les xi sont born´es. En utilisant la proposition 4.4, on voit facilement que les deux inclusions `a montrer se ram`enent au cas o` u δ est la classe d’un fibr´e en droites gros L.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

35

0 On commence par v´erifier que ∆X• (L) ⊂ ∆psef X• (L). Soit σ ∈ H (X, mL) \ {0} et posons v(σ) = (a1 , . . . , an ). D’apr`es (16), il s’agit de voir que ( am1 , . . . , amn ) ∈ ∆psef a dire que (mL − a1 X1 − . . . − ai Xi )|Xi−1 est pseudoeffectif X• (L), ce qui revient ` pour i = 1, . . . , n. Mais σ induit, par d´efinition de vX• , une section non nulle dans H 0 (Xi−1 , mL − a1 X1 − . . . − ai Xi ) pour chaque i = 1, . . . , n, et le r´esultat suit. Montrons maintenant que ∆nef X• (L) ⊂ ∆X• (L). On peut bien supposer qu’il existe (x1 , . . . , xn ) ∈ Rn+ tel que (L − x1 X1 − . . . − xi Xi )|Xi−1 soit nef pour i = 1, . . . , n. Quitte ` a remplacer L par L + εH avec H ample et ε > 0, on se ram`ene donc au cas o` u l’ouvert \  x ∈ Rn+ | (L − x1 X1 − . . . − xi Xi )|Xi−1 ample 16i6n

est non vide ; dans ce cas, \  x ∈ Qn+ | (L − x1 X1 − . . . − xi Xi ) |Xi−1 ample 16i6n

n est dense dans ∆nef X• (L) ; il suffit donc de montrer que tout x ∈ Q+ tel que L − x1 X1 − . . . − xi X est ample sur Xi−1 pour i = 1, . . . , n appartient `a ∆X• (L). Puisque L − x1 X1 − . . . − xn Xn est ample sur Xn−1 , on peut trouver mn grand et divisible et une section dans H 0 (Xn−1 , mn (L − x1 X1 − . . . − xn Xn )) ne s’annulant pas en p, qui induit une section

σn ∈ H 0 (Xn−1 , mn (L − x1 X1 − . . . − xn−1 Xn−1 )) telle que ordXn (σn ) = mn xn . Puisque L − x1 X1 − . . . − xn−1 Xn−1 est ample sur m Xn−2 , on peut maintenant choisir mn−1 grand et divisible tel que σn n−1 s’´etende en une section dans H 0 (Xn−2 , mn−1 mn (L − x1 X1 − . . . − xn−1 Xn−1 )), qui induit une section σn−1 ∈ H 0 (Xn−2 , mn−1 mn (L − x1 X1 − . . . − xn−2 Xn−2 ))

telle que ordXn−1 (σn−1 ) = mn−1 mn xn−1 . En continuant de la sorte, on aboutit `a une section σ1 ∈ H 0 (X, m1 . . . mn L)

telle que vX• (σ1 ) = m1 . . . mn (x1 , . . . , xn ), et on en d´eduit que x = (x1 , . . . , xn ) appartient bien ` a ∆X• (L).

Ce r´esultat nous permet maintenant de pr´eciser la g´eom´etrie de certains corps d’Okounkov, suivant [KLM12, AKL12, Sep12]. Corollaire 4.11. — Soit δ ∈ N 1 (X) une classe pseudoeffective, et notons (e1 , . . . , en ) la base canonique de Rn . (i) Si δ est nef, et si le drapeau X• v´erifie Xi = H1 ∩ . . . ∩ Hi pour i = 1, . . . , n − 1 avec H1 , . . . , Hn−1 ≡ δ des diviseurs effectifs, alors n ∆num X• (δ) = Conv {0, e1 , . . . , en−1 , (δ )en } .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

36

(ii) Si chaque Xi tel que dim Xi > 2 est une vari´et´e homog`ene, alors psef nef ∆num X• (δ) = ∆X• (δ) = ∆X• (δ).

(iii) Soit F• un drapeau de sous-espaces lin´eaires de P(TX,p ) pour un point ferm´e r´egulier p ∈ X, et notons π : X ′ → X l’´eclatement de X en p, de diviseur exceptionnel E ≃ P(TX,p ). Pour toute classe nef δ ∈ N 1 (X), ∆num e entre p,F• (δ) est alors coinc´  (x1 , . . . , xn ) ∈ Rn+ | π ∗ δ − x1 E ∈ Nef(X ′ ), x2 + . . . + xn 6 x1

et

 (x1 , . . . , xn ) ∈ Rn+ | π ∗ δ − x1 E ∈ Big(X ′ ), x2 + . . . + xn 6 x1 .

D´emonstration. — Sous l’hypoth`ese de (i), on a

deg (δ − x1 X1 − . . . − xn Xn ) |Xn−1 = (δ n )(1 − x1 − . . . − xn−1 ) − xn , ce qui montre que (δ n )(x1 + . . . + xn−1 ) + xn 6 (δ n ) pour tout x ∈ ∆psef X• (δ), et donc aussi x1 + . . . + xi 6 1 pour i = 1, . . . , n − 1. Mais alors (δ − x1 X1 − . . . − xi Xi ) |Xi−1 ≡ (1 − x1 − . . . − xi )δ|Xi−1 nef est aussi nef pour i = 1, . . . , n − 1. On voit donc que ∆psef X• (δ) ⊂ ∆X• (δ), et on conclut grˆace ` a la proposition 4.10 que  n n n n ∆num X• (δ) = x ∈ R+ | (δ )(x1 +. . .+xn−1 )+xn 6 (δ ) = Conv {0, e1 , . . . , en−1 , (δ )en } .

(ii) Si Xi est homog`ene, alors tout diviseur effectif sur Xi est automatiquement nef ; nef ceci est aussi vrai pour la courbe Xn−1 . L’hypoth`ese donne donc ∆psef X• (δ) = ∆X• (δ), et on conclut par la proposition 4.10. (iii) Notons X•′ le drapeau de sous-vari´et´es de X ′ d´efini par F• . On a alors OX0′ (−X1′ )|X1′ ≃ O(1) sur X1′ ≃ Pn−1 , et OXi−1 (Xi ) ≃ O(1) pour i > 1 ; le r´esultat d´ecoule maintenant de la proposition 4.10. Exemple 4.12 (Corps d’Okounkov simplicial [Sep12, AKL12]). — Le point (i) du corollaire 4.11 montre que, pour tout fibr´e en droites ample L sur X, il existe un drapeau X• tel que ∆X• (L) soit un simplexe. Exemple 4.13 (Corps d’Okounkov non polyh´edral [KLM12], Example 3.4). — On se place sur k = C. On va construire un fibr´e ample L sur une vari´et´e projective lisse X de dimension 3 et un drapeau X• de sous-vari´et´es lisses tels que ∆X• (L) ne soit pas polyh´edral. Soit C ⊂ P2 une cubique lisse g´en´erale, de sorte que le nombre de Picard de la surface ab´elienne C × C vaille 3. Posons X := P2 × C, X1 := C × C, et choisissons une courbe lisse X2 ⊂ X1 lin´eairement ´equivalente `a F1 + F2 + diag(C × C), ´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

37

avec F1 , F2 les fibres des deux projections C × C → C. Le cˆ one nef de X est de dimension 2, donc polyh´edral ; celui de X1 co¨ıncide avec une des composantes du cˆ one de lumi`ere de la forme d’intersection, donc est un cˆ one quadratique (non polyh´edral). En prenant par exemple L := OP2 ×P2 (3, 1)|X , on v´erifie alors facilement que ∆nef edral. X• (L) n’est pas polyh´ Comme X et X1 sont homog`enes, le point (ii) du corollaire 4.11 donne par ailleurs nef ∆num e. X• (L) = ∆X• (L), et on a donc l’exemple souhait´ Exemple 4.14. — On consid`ere, comme dans l’exemple 4.5, l’exemple de Serre C ⊂ X. Pour tout p ∈ X \ C et tout drapeau F• = {q ∈ P(TX,p )}, on va montrer que ∆num p,F• (C) = {0}, de sorte que dim ∆num p,F• (C) < ν(C) = 1. D’apr`es le point (iii) du corollaire 4.11, si l’on note π : X ′ → X l’´eclatement de X en p ∈ X \ C, de diviseur exceptionnel E, il suffit de v´erifier que π ∗ C − x1 E n’est pseudoeffectif sur X ′ pour aucun x1 > 0. On va montrer ceci via un argument analytique, en s’appuyant sur [DPS94, Example 1.7]. Rappelons pour ce faire que si Y est une vari´et´e projective lisse sur C, une classe δ ∈ N 1 (Y ) ֒→ H 1,1 (Y, C) est pseudoeffective ssi elle peut ˆetre repr´esent´ee par un courant positif ferm´e. La propri´et´e cl´e d´emontr´ee dans loc. cit. est que le courant d’int´egration [C] est le seul courant positif ferm´e cohomologue `a C. S’il existe x1 > 0 tel que π ∗ C − x1 E est pseudoeffectif, on peut trouver un courant positif ferm´e T sur X ′ tel que T + x1 [E] repr´esente la classe de cohomologie de π ∗ C. Il est alors standard de voir que T + x1 [E] = π ∗ S avec S := π∗ (T + x1 [E]). Mais S est cohomologue ` a C, donc S = [C] d’apr`es la propri´et´e cl´e. On obtient ainsi [π ∗ C] = π ∗ [C] = T + x1 [E], d’o` u π ∗ C > x1 E, ce qui contredit p ∈ / C. Proposition 4.15. — Soit X• un drapeau ample, au sens o` u Xi+1 est un diviseur ample de Xi pour i = 0, . . . , n − 1. Pour toute classe nef δ ∈ N 1 (X), on a alors dim ∆num X• (δ) = ν(δ). En utilisant les r´esultats de [Leh11], on peut sans doute ´etendre ce r´esultat `a une classe pseudoeffective quelconque. Lemme 4.16 ([LM09, Proposition 4.16]). — Soit X• un drapeau de sous-vari´et´es de X, et posons Y := X1 , avec le drapeau induit Y• d´efini par Yi := Xi+1 . Pour toute classe nef δ ∈ N 1 (X), on a  n−1 = ∆num ∆num Y• (δ|Y ). X• (δ) ∩ {0} × R ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

38

D´emonstration. — Par la proposition 4.4, on se ram`ene au cas o` u δ est la classe d’un fibr´e en droites ample L sur X. La fl`eche de restriction H 0 (X, mL) → H 0 (Y, mL) est alors surjective pour tout m ≫ 1, et il est imm´ediat d’en d´eduire que  SX• (L)m ∩ {0} × Rn−1 = SY• (L|Y )m pour tout m ≫ 1. On peut alors montrer sans trop de peine que  ∆X• (L) ∩ {0} × Rn−1 = ∆Y• (L|Y ),

voir [LM09, Proposition A.1].

D´emonstration de la proposition 4.15. — Le drapeau Y• induit sur Y := X1 est aussi ample. On peut supposer que ν(δ) < n. Puisque Y ⊂ X est un diviseur ample, on voit alors que ν(δ|Y ) = ν(δ). Par r´ecurrence sur la dimension, on a donc dim ∆num Y• (δ|Y ) = ν(δ|Y ) = ν(δ), d’o` u dim ∆num ace au lemme 4.8. X• (δ) > ν(δ) par le lemme 4.16, et on conclut grˆ

´ ERENCES ´ REF [And11]

D. Anderson – « Okounkov bodies and toric degenerations », Math. Ann. 356 (2013), no. 3, p. 1183–1202.

[AKL12]

D. Anderson, A. K¨ uronya & V. Lozovanu – « Okounkov bodies of finitely generated divisors », pr´epublication arXiv:1206.2499, 2012.

[BC11]

S. Boucksom & H. Chen – « Okounkov bodies of filtered linear series », Compos. Math. 147 (2011), no. 4, p. 1205–1229.

˘ un & T. Peternell – « The [BDPP04] S. Boucksom, J.-P. Demailly, M. Pa pseudo-effective cone of a compact K¨ahler manifold and varieties of negative Kodaira dimension », J. Algebraic Geom. 22 (2013), no. 2, p. 201–248. [BFJ09]

S. Boucksom, C. Favre & M. Jonsson – « Differentiability of volumes of divisors and a problem of Teissier », J. Algebraic Geom. 18 (2009), no. 2, p. 279–308.

[BG09]

W. Bruns & J. Gubeladze – Polytopes, rings, and K-theory, Springer Monogr. Math., Springer, Dordrecht, 2009.

[CS12a]

S. D. Cutkosky – « Multiplicities Associated to Graded Families of Ideals », pr´epublication arXiv:1206.4077, 2012.

´ ASTERISQUE 361

(1059)

CORPS D’OKOUNKOV

39

[CS12b]

S. D. Cutkosky – « The asymptotic growth of graded linear series on arbitrary projective schemes », pr´epublication arXiv:1212.6186, 2012.

[CS93]

S. D. Cutkosky & V. Srinivas – « On a problem of Zariski on dimensions of linear systems », Ann. of Math. (2) 137 (1993), no. 3, p. 531–559.

[DPS94]

J.-P. Demailly, T. Peternell & M. Schneider – « Compact complex manifolds with numerically effective tangent bundles », J. Algebraic Geom. 3 (1994), no. 2, p. 295–345.

[dBP12]

L. Di Biagio & G. Pacienza – « Restricted volumes of effective divisors », pr´epublication arXiv:1207.1204, 2012.

[ELS03]

L. Ein, R. Lazarsfeld & K. E. Smith – « Uniform approximation of Abhyankar valuation ideals in smooth function fields », Amer. J. Math. 125 (2003), no. 2, p. 409–440.

[Eis]

D. Eisenbud – Commutative algebra. with a view toward algebraic geometry, Grad. Texts in Math., vol. 150, Springer-Verlag, New York, 1995.

[Fuj83]

T. Fujita – « Semipositive line bundles », J. Fac. Sci. Univ. Tokyo Sect. IA Math. 30 (1983), no. 2, p. 353–378.

[HK12]

M. Harada & K. Kaveh – « Integrable systems, toric degenerations and Okounkov bodies », pr´epublication arXiv:1205.5249v1, 2012.

[Har77]

R. Hartshorne – Algebraic geometry, Grad. Texts in Math., vol. 52, Springer-Verlag, New York, 1977.

[Iit71]

S. Iitaka – « On D-dimensions of algebraic varieties », J. Math. Soc. Japan 23 (1971), p. 356–373.

[Jow12]

S.-Y. Jow – « Okounkov bodies and restricted volumes along very general curves », Adv. Math. 223 (2010), no. 4, p. 1356–1371.

[KK09]

K. Kaveh & A. G. Khovanskii – « Newton-Okounkov bodies, semigroups of integral points, graded algebras and intersection theory », Ann. of Math. (2) 176 (2012), no. 2, p. 925–978.

[KK12]

K. Kaveh & A. G. Khovanskii – « Convex bodies associated to actions of reductive groups », Mosc. Math. J. 12 (2012), no. 2, p. 369–396, 461.

[KLM12] A. K¨ uronya, V. Lozovanu & C. Maclean – « Convex bodies appearing as Okounkov bodies of divisors », Adv. Math. 229 (2012), no. 5, p. 2622–2639. [Laz04]

R. Lazarsfeld – Positivity in algebraic geometry I, Ergeb. Math. Grenzgeb. (3), vol. 48, Springer-Verlag, Berlin, 2004.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S. BOUCKSOM

40

[LM09]

˘ – « Convex bodies associated to linear R. Lazarsfeld & M. Musta¸ ta ´ Norm. Sup´er. (4) 42 (2009), no. 5, p. 783–835. series », Ann. Sci. Ec.

[Leh11]

B. Lehmann – « Comparing numerical dimensions », Algebra Number Theory 7 (2013), no. 5, p. 1065–1100.

[Nak04]

N. Nakayama – Zariski-decomposition and abundance, MSJ Mem., vol. 14, Math. Soc. Japan, Tokyo, 2004.

[Oda88]

T. Oda – « Convex bodies and algebraic geometry – toric varieties and applications I », in Algebraic Geometry Seminar (Singapore, 1987), World Sci. Publishing, Singapore, 1988, p. 89–94.

[Ok96]

A. Okounkov – « Brunn-Minkowski inequality for multiplicities », Invent. Math. 125 (1996), no. 3, p. 405–411.

[Ok00]

, « Why would multiplicities be log-concave? », in The orbit method in geometry and physics (Marseille, 2000), Progr. Math., vol. 213, Birkh¨ auser Boston, Boston, 2003, p. 329–347.

[Sep12]

H. Sepp¨ anen – « Okounkov bodies for ample line bundles », pr´epublication arXiv:1007.1915v3, 2012.

[Sze11]

G. Szekelyhidi – « Filtrations and test configurations », pr´epublication arXiv:1111.4986v1, 2011.

[Tei03]

B. Teissier – « Valuations, deformations, and toric geometry », in Valuation theory and its applications (Proceedings of the Saskatoon Conference and Workshop, 1999) II (F.-V. Kuhlmann, S. Kuhlmann & M. Marshall, ´eds.), Fields Inst. Commun., vol. 33, Amer. Math. Soc., Providence, 2003, p. 361–459.

[Vaq06]

M. Vaqui´ e – « Valuations and local uniformization », in Singularity theory and its applications (S. Izumiya, G. Ishikawa, H. Tokunaga, I. Shimada & T. Sano, ´eds.), Adv. Stud. Pure Math., vol. 43, Math. Soc. Japan, Tokyo, 2006, p. 477–527.

[WN09]

D. Witt Nystr¨ om – « Transforming metrics on a line bundle to the Okounkov body », pr´epublication arXiv:0903.5167, 2009.

[WN10]

, « Test configurations and Okounkov bodies », Compos. Math. 148 (2012), no. 6, p. 1736–1756.

[Yua09]

X. Yuan – « On volumes of arithmetic line bundles », Compos. Math. 145 (2009), no. 6, p. 1447–1464.

[Zar62]

O. Zariski – « The theorem of Riemann-Roch for high multiples of an effective divisor on an algebraic surface », Ann. of Math. (2) 76 (1962), p. 560–615.

´ ASTERISQUE 361

(1059)

[ZS60]

CORPS D’OKOUNKOV

41

O. Zariski & P. Samuel – Commutative algebra II, Springer-Verlag, 1960.

S´ebastien BOUCKSOM CNRS-Universit´e Pierre et Marie Curie Institut de Math´ematiques de Jussieu Case 7012 4, place Jussieu 75252 Paris Cedex 05 France E-mail : [email protected]

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1060, p. 43 `a 75

Octobre 2012

LES EXPOSANTS DE LIAPOUNOFF ¨ DU FLOT DE TEICHMULLER [d’apr` es Eskin-Kontsevich-Zorich] par Julien GRIVAUX & Pascal HUBERT

Dans ce texte, nous pr´esentons un r´esultat dˆ u `a Eskin, Kontsevich et Zorich [EKZ2] concernant les exposants de Liapounoff du flot de Teichm¨ uller.

1. INTRODUCTION 1.1. Surfaces de translation et 1-formes holomorphes Nous allons en premier lieu fixer le cadre g´en´eral (pour des textes introductifs, on renvoie le lecteur aux r´ef´erences suivantes : [MT], [Vi], [Yo1], [Yo2], [Zo4]). Une surface de translation compacte est la donn´ee d’une 1-forme holomorphe globale non nulle ω sur une surface de Riemann compacte X (1) . G´eom´etriquement, une telle surface se repr´esente comme un polygone dans le plan complexe dont on a identifi´e par translation des cˆ ot´es parall`eles et de mˆeme longueur. La 1-forme ω sur X est induite par dz, et ses z´eros sont certains sommets du polygone. De plus, X est munie d’une m´etrique plate h´erit´ee de la m´etrique plate naturelle du polygone, avec des singularit´es coniques sur le lieu d’annulation de ω. De mani`ere pr´ecise, un z´ero d’ordre k correspond `a un point conique d’angle 2(k + 1)π. L’aire de X pour la m´etrique plate est l’aire euclidienne d’un polygone associ´e, et on a Z i Aire(X) = ω ∧ ω. 2 X Enfin le genre g de X est d´etermin´e par la donn´ee combinatoire (k1 , . . . , kr ) de (X, ω), qui est la liste des ordres de multiplicit´es des z´eros de ω, via la formule r X

ki = 2g − 2.

i=1

1. Eskin-Kontsevich-Zorich traitent aussi le cas des formes diff´ erentielles quadratiques qui est analogue, mais nous nous limiterons aux formes holomorphes pour simplifier l’exposition.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

44

L’exemple de base de surface de translation est le tore plat qui est ´evidemment une surface de translation sans singularit´e (2) , le polygone associ´e ´etant un parall´elogramme dont les cˆ ot´es oppos´es sont identifi´es.

Figure 1. Tore plat et flot lin´eaire.

Pour tout angle θ, le flot lin´eaire de direction θ est bien d´efini sur X, et ses propri´et´es dynamiques sont d’un grand int´erˆet. 1.2. Espace des modules des 1-formes holomorphes Un genre g ´etant fix´e, l’espace des modules des 1-formes holomorphes est l’ensemble des surfaces de translation compactes (X, ω) de genre g modulo l’action naturelle des diff´eomorphismes. Cet espace de modules est naturellement stratifi´e par les donn´ees combinatoires. Pour toute donn´ee combinatoire (k1 , . . . , kr ) nous noterons H(k1 , . . . , kr ) la strate correspondante. On peut montrer que H(k1 , . . . , kr ) est une orbifolde complexe de dimension 2g + r − 1 localement model´ee sur le groupe de cohomologie relative H1 (X, Σ, C), o` u Σ est le lieu d’annulation de ω. On rappelle bri`evement la construction de coordonn´ees locales orbifoldes sur H(k1 , . . . , kr ). Fixons une base symplectique (Ai , Bi )i=1,...,g de H1 (X, Z), et soient (Ci )i=1,...,r−1 des chemins reliant un z´ero fix´e de ω `a tous les autres. Les coordonn´ees locales sont les p´eriodes de ω le long de ces chemins, c’est-`a-dire les int´egrales Z Z Z Z Z Z ω. ω, . . . , ω, ω, . . . , ω, ω, . . . , A1

Ag

B1

Bg

C1

Cr−1

Les changements de cartes correspondent `a un changement de base symplectique et sont donc lin´eaires, ce qui entraˆıne que chaque strate H(k1 , . . . , kr ) admet une structure affine. De mani`ere plus pr´ecise, dans les coordonn´ees ci-dessus, une matrice de changement de base est de la forme   U V 0 Ir−1 2. Pour ˆ etre coh´ erent avec le reste de la th´ eorie, l’origine du tore est tout de mˆ eme un point marqu´ e.

´ ASTERISQUE 361

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

(1060)

45

o` u U est dans Sp2g (Z) et V est dans M2g×(r−1) (Z). Une telle matrice est ´evidemment dans SL2g+r−1 (Z). Par cons´equent, la mesure de Lebesgue de C2g+r−1 est bien d´efinie globalement sur la strate H(k1 , . . . , kr ). Le r´eseau entier (Z + iZ)2g+r−1 = H 1 (X, Σ, Z + iZ) est invariant par changement de cartes ; ce r´eseau nous fournit une normalisation naturelle pour la mesure de Lebesgue : on demande que son covolume soit 1. Le groupe GL2 (R) agit de fa¸con naturelle sur H(k1 , . . . , kr ). Cette action correspond ` a l’action lin´eaire sur les polygones, qui est bien d´efinie au niveau des surfaces de translation et pr´eserve la donn´ee combinatoire. Dans les coordonn´ees des p´eriodes introduites dans la section pr´ec´edente, l’action de toute matrice M de GL2 (R) est diagonale : Z  Z Z Z Z Z M· ω ω, . . . , ω, ω, . . . , ω, ω, . . . , A1

 Z = M·

A1

Ag

B1

ω, . . . , M ·

Z

Ag

Bg

ω, M ·

Z

B1

C1

ω, . . . , M ·

Cr−1

Z

Bg

ω, M ·

Z

C1

ω, . . . , M ·

Z

Cr−1

 ω .

Cette action est R–lin´eaire dans chaque coordonn´ee complexe (vue comme coordonn´ee `a valeurs dans R2 ). L’action de GL2 (R) permet de feuilleter les strates par les orbites, ce feuilletage sera particuli`erement important dans la suite. Il est ´evident par la formule pr´ec´edente que le groupe SL2 (R) pr´eserve la mesure de Lebesgue de H(k1 , . . . , kr ), ainsi que l’aire des surfaces de translation. Notons H1 (k1 , . . . , kr ) la sous-vari´et´e de codimension r´eelle un form´ee des surfaces de translation d’aire 1 et de donn´ee combinatoire (k1 , . . . , kr ). La mesure de Lebesgue sur H(k1 , . . . , kr ) induit une mesure ν sur H1 (k1 , . . . , kr ). Dans les coordonn´ees des p´eriodes, la mesure d’un ensemble de H1 (k1 , . . . , kr ) est celle du cˆ one de sommet l’origine bord´e par cet ensemble `a un facteur dimensionnel pr`es. Un sous-groupe ` a un param`etre de SL2 (R) joue un rˆole fondamental dans toute la suite, c’est le groupe des matrices diagonales   t e 0 . 0 e−t Le flot associ´e est le flot de Teichm¨ uller, qui est le flot g´eod´esique pour la m´etrique de Teichm¨ uller. Un des premiers th´eor`emes importants concernant ce flot est dˆ u ind´ependamment ` a Masur et Veech en 1982 : Th´ eor` eme 1 ([Ma1], [Ve1]). — La mesure de Lebesgue ν sur H1 (k1 , . . . , kr ) est finie. De plus, le flot g´eod´esique de Teichm¨ uller est ergodique sur chaque composante connexe de H1 (k1 , . . . , kr ).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

46

J. GRIVAUX & P. HUBERT

Les composantes connexes de H1 (k1 , . . . , kr ) ont ´et´e classifi´ees par Kontsevich et Zorich dans [KZ2], il y en a au plus 3. Dans le cas des diff´erentielles quadratiques, elles ont ´et´e classifi´ees par Lanneau [La]. Remarque 2. — Dans toute la suite, nous parlerons de strate l` a o` u il faudrait parler en toute rigueur de composante connexe de strate, ceci pour ne pas alourdir le texte. La mesure ν d´epend de la composante connexe consid´er´ee : c’est son support. 1.3. Fibr´ e de Hodge et cocycle de Kontsevich-Zorich ´ Etant donn´ee une surface de Riemann X de genre g, rappelons la d´efinition de la norme de Hodge sur l’espace H1 (X, R). La d´ecomposition de Hodge s’´ecrit H1 (X, C) = H1,0 (X) ⊕ H0,1 (X) o` u H1,0 (X) est l’espace vectoriel de dimension g des 1-formes holomorphes sur X et H0,1 (X) l’espace vectoriel des 1-formes anti-holomorphes. La forme d’intersection sur H1 (X, C) donn´ee par Z i ω1 ∧ ω 2 ι(ω1 , ω2 ) = 2 X est d´efinie positive sur le sous-espace H1,0 (X) et d´efinie n´egative sur le sous-espace conjugu´e H0,1 (X). Notons φ : H1,0 (X) → H1 (X, R) l’isomorphisme qui `a toute forme holomorphe associe la classe de sa partie r´eelle. C’est un isomorphisme de R–espaces vectoriels qui permet de munir H1 (X, R) de la norme de Hodge : si α est dans H1 (X, R), on pose  kαk2Hodge = ι φ−1 (α), φ−1 (α) .

On consid`ere maintenant le fibr´e de Hodge r´eel au-dessus d’une strate H(k1 , . . . , kr ) dont la fibre au-dessus de chaque point (X, ω) est H1 (X, R). Ce fibr´e de Hodge provient d’un syst`eme local de R-espaces vectoriels, ce qui permet d’identifier localement les fibres voisines entre elles. L’identification se fait grˆace `a la connexion plate sur le fibr´e de Hodge associ´ee ` a ce syst`eme local, appel´ee connexion de Gauß-Manin. Une grande partie de la g´eom´etrie du probl`eme est contenue dans le fait que le fibr´e de Hodge complexe de fibre H1 (X, C) est un fibr´e plat, mais que le sous-fibr´e de fibre H1,0 (X) qui tient compte de la structure complexe de X ne respecte pas cette structure plate (c’est-` a-dire n’est pas invariant par la connexion de Gauß-Manin). ´ Etant donn´ee une surface de translation X et une classe de cohomologie α dans H (X, R), on souhaite comprendre la croissance de la norme de Hodge ||αt ||gt X quand t tend vers l’infini, o` u gt est le flot de Teichm¨ uller et αt est la classe transport´ee parall`element le long du flot ` a partir de α. 1

La monodromie de la connexion de Gauß-Manin d´efinit un cocycle : en tout point X de la strate, on dispose d’une repr´esentation du groupe fondamental de la composante connexe de X dans H1 (X, R) qui est bien d´efinie `a conjugaison pr`es. Par le th´eor`eme d’Ehresmann, l’action d’un ´el´ement du groupe fondamental est celle d’un

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

47

diff´eomorphisme orient´e sur l’homologie ; c’est donc une matrice symplectique car tout diff´eomorphisme orient´e pr´eserve la forme d’intersection. Expliquons intuitivement comment obtenir ce cocycle de fa¸con concr`ete le long des g´eod´esiques du flot de Teichm¨ uller. On fixe un petit ouvert U de la strate dans lequel on peut identifier de mani`ere canonique les espaces de cohomologie H1 (Y, R) entre eux lorsque Y parcourt U . Soient X un point de U et α une classe de cohomologie dans H1 (X, R). On suit par transport parall`ele la classe α sous l’action du flot de Teichm¨ uller gt jusqu’` a revenir dans U (ce qui se produit en temps fini pour presque tout X car le flot est ergodique). La classe αt obtenue dans H1 (gt X, R) s’identifie de mani`ere canonique ` a une classe dans H1 (X, R) qui est pr´ecis´ement l’action du cocycle de Kontsevich-Zorich GKZ sur la classe α. t 1.4. Exposants de Liapounoff du flot de Teichm¨ uller Comme le flot de Teichm¨ uller est ergodique, on peut appliquer le th´eor`eme d’Oseledets au cocycle de Kontsevich-Zorich. Il existe donc des nombres r´eels λ1 > · · · > λk et une d´ecomposition H1 (X, R) = E1 (ω) ⊕ · · · ⊕ Ek (ω) d´ependant mesurablement de (X, ω) telle que, si α est dans Ei (ω), on a 1 log k GKZ t (α) k = λi . t Il est plus ais´e pour la suite de consid´erer 2g exposants de Liapounoff λ1 > λ2 > · · · > λ2g , chaque exposant ´etant r´ep´et´e avec une multiplicit´e correspondant `a la dimension de l’espace d’Oseledets associ´e. Comme le cocycle est symplectique, ces exposants v´erifient la relation de sym´etrie λ2g−i+1 = −λi . De plus, on montre que λ1 = 1 de la mani`ere suivante : le sous-fibr´e de rang 2 du fibr´e de Hodge dont la fibre en tout point (X, ω) est le plan r´eel engendr´e par Re ω et Im ω est stable par le flot de Teichm¨ uller. Le cocycle de Kontsevich-Zorich restreint `a ce plan n’est autre que l’action lin´eaire donn´ee par le flot g´eod´esique de SL2 (R), et les exposants de Liapounoff associ´es sont 1 et −1. Ces exposants sont extr´emaux d’apr`es le th´eor`eme de Teichm¨ uller. lim

t→±∞

Les valeurs des autres exposants sont dans la plupart des cas totalement inconnues. Forni [Fo] a prouv´e que λg est strictement positif et Avila-Viana [AV] que tous les exposants sont distincts. Ces r´esultats difficiles sont vrais uniquement dans le cas des strates et pour la mesure ν. ` la suite d’exp´eriences num´eriques obtenues par l’algorithme de Rauzy-Veech (qui A permet de discr´etiser le flot de Teichm¨ uller), Kontsevich et Zorich ([Ko], [KZ1]) ont conjectur´e vers le milieu des ann´ees 90 que la somme des exposants positifs λ1 +· · ·+λg est un nombre rationnel, ce qui est remarquable et a priori tr`es surprenant vu la d´efinition des exposants. L’article d’Eskin-Kontsevich-Zorich donne une formule explicite

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

48

pour cette somme. Combin´e avec des r´esultats ant´erieurs, cette formule implique la rationalit´e de la somme des exposants positifs. L’´etude de ces exposants de Liapounoff se justifie par le fait que le flot de Teichm¨ uller joue le rˆole d’op´erateur de renormalisation pour les surfaces de translation, ce qui est connu depuis les travaux de Masur et Veech. Le th´eor`eme de Kerckhoff, Masur et Smillie [KMS] affirme que pour toute surface de translation, le flot lin´eaire est uniquement ergodique dans presque toute direction. Supposons pour simplifier que le flot vertical est uniquement ergodique, fixons un long morceau d’orbite de ce flot que l’on ferme par un chemin de longueur born´ee, et notons γt cette courbe ferm´ee. Le th´eor`eme ergodique nous assure que la quantit´e t−1 [γt ] converge dans H1 (X, R) (3) . Zorich et Forni ([Zo2], [Zo3], [Fo]) ont montr´e que les d´eviations par rapport `a cette moyenne sont gouvern´ees par les exposants de Liapounoff d´ecrits ci-dessus. Notons (Fi (ω))16i62g la filtration d´ecroissante d’Oseledets pour le cocycle de Kontsevich-Zorich agissant sur H1 (X, R). Zorich ([Zo2], [Zo3]) montre que pour une surface de translation g´en´erique (X, ω) et tout ´el´ement f dans Fi (ω) \ Fi+1 (ω), on a lim sup t→+∞

log |hf, γt i| = λi log t

lorsque λi > 0 (c’est-` a-dire si i 6 g). De plus, la quantit´e |hf, γt i| est born´ee si f appartient ` a Fg+1 . Ce r´esultat est utilis´e dans Delecroix-Hubert-Leli`evre [DHL] pour comprendre la vitesse de diffusion d’un billard polygonal non compact, appel´e mod`ele windtree. Ici, non seulement l’existence des exposants mais aussi leur valeur est importante. Pour terminer ces motivations, mentionnons que le fait que λg soit strictement positif pour les strates est un ´el´ement essentiel de la preuve du th´eor`eme d’Avila et Forni [AF] sur le m´elange faible des ´echanges d’intervalles. 1.5. Constantes de Siegel-Veech Pour ´enoncer la formule d’Eskin-Kontsevich-Zorich sur la somme des exposants de Liapounoff du flot de Teichm¨ uller, il est n´ecessaire d’introduire au pr´ealable les constantes de Siegel-Veech. Rappelons que, sur une surface de translation, on appelle lien de selles un segment g´eod´esique (pour la m´etrique plate) reliant deux singularit´es et n’en contenant aucune dans son int´erieur. Dans une surface de translation, les orbites p´eriodiques arrivent par familles ; elles forment des cylindres bord´es par des liens de selles. Pour un cylindre C, on notera w(C) son p´erim`etre et h(C) sa hauteur. L’aire du cylindre est w(C)h(C), son module Mod(C) est h(C) . w(C)

3. Cette limite s’appelle cycle asymptotique de Schwartzman.

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

49

h w

Figure 2. Cylindre horizontal (les cˆ ot´es verticaux sont identifi´es).

Pour toute surface de translation (X, ω) et tout r´eel positif T , notons N (X, T ) le nombre de liens de selles de longueur inf´erieure ou ´egale `a T sur X. Masur [Ma2] montre que cette quantit´e a une croissance quadratique : il existe une constante C = C(X) > 1 telle que, pour tout T positif, C −1 T 2 6 N (X, T ) 6 C T 2 . On peut se demander si T −2 N (X, T ) a une limite quand T tend vers l’infini. Dans le cas du tore, il est bien connu que cette limite existe et vaut 6/π 2 (qui est le terme dominant dans le probl`eme du cercle). La question n’est toujours pas r´esolue pour une surface de translation arbitraire. N´eanmoins, Eskin et Masur [EM] montrent qu’il existe une constante C(ν) telle que pour ν-presque toute surface de la strate H1 (k1 , . . . , kr ) on a lim T −2 N (X, T ) = π C(ν).

T →+∞

La constante C(ν) est appel´ee constante de Siegel-Veech (4) . Pour ce qui suit, on va consid´erer un probl`eme l´eg`erement diff´erent : on s’int´eresse au comptage de cylindres pond´er´es, le poids attach´e `a chaque cylindre ´etant son aire. Ceci peut ˆetre justifi´e de mani`ere g´eom´etrique par le fait que les cylindres sont des g´eod´esiques « ´epaisses », ils ont donc un poids. Pour tout r´eel positif R, on pose X 1 Aire(C). Naire (X, R) = Aire(X) C⊂X w(C )0 le spectre de −∆g . La fonction zˆeta P∞ −s du laplacien ∆g est d´efinie pour Re(s) > 1 par la formule ζ(s) = i=0 µi . Les estimations classiques du noyau de la chaleur entraˆınent l’existence d’un prolongement analytique de la fonction zˆeta en une fonction m´eromorphe sur C avec 1 pour seul pˆ ole. Le d´eterminant du laplacien est d´efini par, det ∆g = exp(−ζ ′ (0)), et correspond formellement au produit infini des µi (qui est un produit infini divergent). Pour de plus amples d´etails, on renvoie le lecteur aux r´ef´erences [BGV, Chap. 2] et [So, Chap. V].

13. Le genre de la courbe de Teichm¨ uller n’a a priori rien ` a voir avec celui de la surface de Veech X qui l’engendre. 14. Nous prenons la convention de signe des analystes pour le laplacien : toutes ses valeurs propres sont n´ egatives.

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

59

Comme expliqu´e pr´ec´edemment, il va ˆetre n´ecessaire de comparer la m´etrique hyperbolique et la m´etrique plate. Pour ce faire, rappelons la formule de Polyakov. Soient g1 et g2 deux m´etriques riemannienes lisses dans la mˆeme classe conforme, et ´ecrivons g2 = exp(2φ)g1 o` u φ est une fonction lisse `a valeurs r´eelles. Alors on a : Z  Z 1 (5) log det ∆g2 − log det ∆g1 = φKg1 dg1 φ∆g1 φ dg1 − 2 12π X X + log Aireg2 (X) − log Aireg1 (X). La m´etrique plate n’est pas lisse aux singularit´es de la surface de translation, on peut n´eanmoins d´efinir un d´eterminant du laplacien relatif. Fixons une surface de translation (X0 , ω0 ) dans une strate H(k1 , . . . , kr ), et faisons varier (X, ω) dans la mˆeme strate. On pose det ∆plat (X, X0 ) = lim

ε→0

det ∆plat,ε (X) det ∆plat,ε (X0 )

o` u ∆plat,ε (X) est une approximation de la m´etrique plate au niveau des z´eros (on ne modifie la m´etrique que dans un ε-voisinage des z´eros par une fonction radiale). Sur la surface (X, ω), il y a une unique m´etrique hyperbolique dans la classe conforme de la m´etrique plate poss´edant des pointes aux z´eros de la 1-forme ω. La surface de Riemann associ´ee n’est pas compacte, il faut donc aussi r´egulariser la m´etrique pour d´efinir le d´eterminant du laplacien, ce qui conduit `a nouveau `a un d´eterminant du laplacien relatif det ∆hyp (X, X0 ). Th´ eor` eme 7. — Soit X0 une surface fix´ee dans la strate H(k1 . . . kr ). Alors, pour tout (X, ω) dans cette strate, r

−4Λ(X) = ∆Teich log det ∆plat (X, X0 ) −

1 X kj (kj + 2) . 3 j=1 kj + 1

Le terme combinatoire est celui du th´eor`eme principal, il restera donc `a relier ∆Teich log det ∆plat (X, X0 ) aux constantes de Siegel-Veech. Expliquons comment v´erifier la formule dans le cas du tore, ce qui est d´ej` a fort instructif. Pour ce faire, on consid`ere la coordonn´ee τ dans le domaine fondamental de la surface modulaire 1 1 Im(τ ) > 0, |τ | > 1, − 6 Re(τ ) < . 2 2 Pour tout tore d’aire 1, la formule de Ray-Singer [RS] s’´ecrit det ∆plat = 4 Im(τ ) |η(τ )|4 o` u η est une forme modulaire explicite. Ainsi ∆Teich log det ∆plat = ∆Teich log Im(τ )

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

60

J. GRIVAUX & P. HUBERT

 car η est holomorphe. On peut bien sˆ ur calculer dans ce cas det ι (ωi , ωj ) : il y  a une seule forme holomorphe ω de p´eriodes 1 et τ , de sorte que det ι (ωi , ωj ) = kωk2 = Im(τ ), ce qui ´etablit la formule souhait´ee dans ce cas tr`es simple.

Une mani`ere de prouver le th´eor`eme 7 est d’utiliser un th´eor`eme de Kokotov et Korotkin [KK] dont l’´enonc´e est le suivant : Th´ eor` eme 8 (Kokotov, Korotkin). — Pour toute surface de translation (X, ω) et tout point fix´e X0 dans la strate H(k1 , . . . , kr ), on a det ∆plat (X, X0 ) = k · Aire(X, ω) det (Im B) · |τ (X, ω)|2

o` u B est la matrice des p´eriodes secondaires de X et τ est une section holomorphe d’un fibr´e en droite au-dessus de la strate H(k1 , . . . , kr ). De plus, τ (X, ω) est homog`ene en ω de degr´e r 1 X ki (ki + 2) . p= 12 i=1 ki + 1 On voit clairement que ce th´eor`eme est une g´en´eralisation de la formule de RaySinger. Comme nous l’avons expliqu´e auparavant, le th´eor`eme 7 est un r´esultat de type Riemann-Roch analytique. Pour motiver ce th´eor`eme, nous allons ´etablir un r´esultat plus faible (car cohomologique) en appliquant le th´eor`eme de Grothendieck-RiemannRoch usuel pour des familles de courbes. Ceci permettra d’expliquer de mani`ere coPr ki (ki +2) . homologique l’apparition du myst´erieux terme combinatoire 1 i=1 12

ki +1

Soit π : C → B une famille holomorphe de surfaces de translation dans la strate H(k1 , . . . , kr ) param´etr´ee par une base B. On dispose d’une section holomorphe globale du fibr´e projectif P(π∗ Ω1C/B ) sur B. Cette section peut ˆetre interpr´et´ee comme une section globale ω partout non nulle de π∗ Ω1C/B ⊗ L∨ , o` u L est un fibr´e en droites holomorphe sur B. Quitte ` a prendre un revˆetement fini sur la base, il existe r sections s1 , . . . , sr de C telles que si D1 , . . . , Dr sont les images de ces sections, le diviseur d’annulation de ω (en tant que section globale sur C de Ω1C/B ⊗π ∗ L∨ ) est k1 D1 +· · ·+kr Dr . Cela signifie concr`etement que chaque forme ωb d´efinissant la structure de translation de Cb s’annule aux points marqu´es s1 (b), . . . , sr (b) avec multiplicit´es respectives k1 , . . . , kr . On a donc l’isomorphisme ! r X 1 ∗ ΩC/B ≃ π L ⊗ O ki Di . i=1

Proposition 2.1. — Si H est le fibr´e de Hodge π∗ Ω1C/B sur B, r

c1 (H ) =

´ ASTERISQUE 361

1 X ki (ki + 2) c1 (L). 12 i=1 ki + 1

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

61

Pour prouver ce r´esultat, on applique le th´eor`eme de Grothendieck-Riemann-Roch pour le morphisme π au faisceau OC . On a R0 π∗ OC = OB et, en utilisant la dualit´e de Grothendieck relative, R1 π∗ OC ≃ (R0 π∗ Ω1C/B )∨ ≃ H ∨ , donc la classe de Rπ∗ OC dans K(B) est [OB ] − [H ∨ ]. On en d´eduit l’´egalit´e   1 π∗ c1 (TC/B )2 . c1 (H ) = π∗ td2 (TC/B ) = 12 Pr Comme c1 (TC/B ) = −π ∗ c1 (L) − i=1 ki [Di ], r r X X  ki2 π∗ [Di ]2 . ki c1 (L) π∗ [Di ] + π∗ c1 (TC/B )2 = 2 i=1

i=1

Remarquons que π∗ [Di ] = π∗ si∗ (1) = 1. De plus, la suite exacte des diff´erentielles ∗ , donc en identifiant Di relatives restreinte ` a Di entraˆıne l’´egalit´e (Ω1C/B )|Di = ND i /X i +1 et B, ND⊗k = L∨ . On en d´eduit i /X

π∗ [Di ]2 = π∗ (si∗ (1).[Di ]) = π∗ si∗ si ∗ [Di ] = c1 (NDi /X ) = − d’o` u la formule souhait´ee r   X 2 2ki − π∗ c1 (TC/B ) = i=1

ki2 ki + 1



c1 (L) =

r X ki (ki + 2) i=1

ki + 1

c1 (L) ki + 1

c1 (L).

2.4. Compactification et th´ eor` emes de Rafi On veut comprendre ce qui se passe lorsque les surfaces de Riemann d´eg´en`erent, il faut donc d´efinir une compactification adapt´ee `a la situation. On peut faire cela en termes alg´ebriques, ce qui correspond `a la compactification classique de DeligneMumford. Topologiquement, on rajoute pour compactifier des surfaces de Riemann dont certaines courbes ont ´et´e pinc´ees. Il est cependant difficile de comprendre alg´ebriquement la g´eom´etrie plate ` a l’infini. Nous allons maintenant d´evelopper un point de vue topologique dˆ u` a Rafi ([Ra1, Ra2]) permettant de bien exprimer la g´eom´etrie plate dans la compactification. Tout d’abord, on rappelle que la surface de translation (X, ω) est munie de la m´etrique plate associ´ee mais aussi de la m´etrique hyperbolique se trouvant dans la mˆeme classe conforme et poss´edant des pointes aux z´eros de la 1–forme holomorphe ω. Hors d’un compact de l’espace des modules des surfaces de Riemann de genre g, on sait exactement localiser les g´eod´esiques courtes. Deux g´eod´esiques hyperboliques courtes ne peuvent s’intersecter, donc leur nombre est born´e par 3g − 3 + r o` u g est le genre et r le nombre de z´eros. Pour δ assez petit, notons Γ(δ) l’ensemble des g´eod´esiques de longueur au plus δ. Sur une surface de Riemann de volume fini, une courbe δ–courte est l’ˆ ame d’un anneau de grand module. Il faut par contre noter que de telles courbes ne sont en g´en´eral pas g´eod´esiques pour la m´etrique plate.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

62

a b

b a

Figure 6. Deux tores sont recoll´es le long d’un lien de selles. Les cˆ ot´es des carr´es sont identifi´es, les liens de selles sont identifi´es suivant a et b. Le lien de selles est beaucoup plus court que le cˆ ot´e du carr´e, la courbe repr´esent´ee par un cercle est courte. On voit en gris l’anneau de grand module qui l’entoure.

Figure 7. Cylindre plat de grand module, les cˆ ot´es verticaux sont identifi´es. La courbe en pointill´es est courte.

Au niveau plat, il y a deux possibilit´es, d´ecrites sur les figures 6 et 7 : cet anneau est ou bien un cylindre plat, ou bien un anneau euclidien. Pour γ courbe simple ferm´ee non p´eriph´erique, on consid`ere son repr´esentant g´eod´esique pour la m´etrique plate, il est unique sauf si γ est l’ˆ ame d’un cylindre. On d´ecoupe alors la surface X le long des repr´esentants g´eod´esiques de Γ(δ), et on ˆote compl`etement les cylindres plats dont l’ˆ ame est dans Γ(δ). Une composante connexe du compl´ementaire de ces ´ cylindres est appel´ee δ–´epaisse. Etant donn´ee une telle composante Y , on obtient en d´ecoupant le long des repr´esentants plats de Γ(δ) une sous-surface `a bord Yˆ , appel´ee par Rafi repr´esentant plat de Y , qui a le mˆeme type d’homotopie que Y . Il y a ici une

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

63

subtilit´e que nous passerons sous silence : la sous-surface Yˆ peut d´eg´en´erer sous forme de graphe (il faut alors consid´erer qu’elle vient avec un voisinage infinit´esimal pour que le discours reste correct). Rafi [Ra1], [Ra2] d´efinit la taille λ(Yˆ ) d’une sous-surface `a bord Y comme ´etant la longueur plate minimale d’une courbe ferm´ee essentielle non p´eriph´erique dans Yˆ . Il montre le th´eor`eme suivant : Th´ eor` eme 9 (Rafi). — Il existe une constante C qui d´epend uniquement de δ et de la topologie de X telle que, pour toute courbe α essentielle contenue dans Yˆ , on ait C −1 λ(Yˆ ) ℓhyp (α) 6 ℓflat (α) 6 C λ(Yˆ ) ℓhyp (α). De plus, 1 ˆ λ(Y ) 6 Diam(Yˆ ) 6 Cλ(Yˆ ) 2 o` u Diam(Yˆ ) est le diam`etre de Yˆ . Ce th´eor`eme signifie que la taille est le bon invariant num´erique pour comparer longueur plate et longueur hyperbolique. Ce r´esultat de Rafi est le pas essentiel pour obtenir l’´enonc´e sur la compactification. Celui-ci affirme que lorsqu’une suite de surfaces de translation converge vers une surface de Riemann stable, sur une partie ´epaisse, quitte ` a prendre une sous-suite, les 1-formes convergent vers une 1-forme non nulle ` a condition de renormaliser par la taille (15) . Comme le sugg`ere la figure 8 l’exemple classique consiste ` a coller ensemble deux tores plats d’aire respective 1 et ε avec ε tendant vers 0. Sur la partie droite de la figure 8 la forme limite est nulle si on ne renormalise pas. Par contre, la m´etrique hyperbolique est bien sˆ ur invariante par homoth´etie. Le th´eor`eme suivant exprime pr´ecis´ement ce comportement : Th´ eor` eme 10. — Soit (Xτ , ωτ ) une suite de surfaces de translation dans une strate H(k1 , . . . , kr ) telle que (Xτ ) converge vers une surface de Riemann stable X∞ . Consid´erons une composante irr´eductible Y∞,j de X∞ , soient Yτ,j la composante ´epaisse correspondante dans Xτ et λ(Yτ,j ) la taille de son repr´esentant plat. Notons ωτ,j = λ(Yτ,j )−1 ωτ . Alors une sous-suite de (ωτ,j )τ restreinte ` a Yˆτ,j converge vers une 1-forme m´eromorphe non nulle ωj sur (le repr´esentant plat de) Y∞,j . Les z´eros et pˆ oles de ωj sont les limites de ceux de ωτ ′ ,j et ´eventuellement les nœuds. La d´emonstration de ce th´eor`eme n’est pas difficile une fois admis le th´eor`eme de ` quelques d´etails pr`es, il faut construire une triangulation de Yτ,j par liens Rafi. A de selles de longueur born´ee apr`es avoir renormalis´e par la taille. Ceci s’obtient par r´ecurrence vu que le diam`etre de Yτ,j est contrˆol´e par la taille. On a alors un ensemble 15. Si on ne renormalise pas, on peut tr` es facilement imaginer une partie de la surface stable o` u la forme limite est nulle.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

64

1

a b

ε 1

b a ε

Figure 8. Deux tores recoll´es le long d’un lien de selles, celui de droite est d’aire beaucoup plus petite que celui de gauche.

compact de structures plates (vu que les longueurs des arˆetes de la triangulation sont born´ees), il suffit alors de prendre une limite de ces structures.

2.5. D´ eterminant du laplacien pr` es du bord et th´ eor` eme de Lundelius Comme nous l’avons d´ej` a expliqu´e, une id´ee fondamentale est d’´etablir un lien entre le d´eterminant relatif du laplacien pour la m´etrique plate et pour la m´etrique hyperbolique. Eskin, Kontsevich et Zorich donnent une estim´ee sur la diff´erence entre ces deux quantit´es et montrent que leurs valeurs au bord de l’espace des modules sont ´equivalentes, mˆeme si elles sont toutes deux non born´ees. Dans toute la suite, nous notons ℓplat (S) la longueur du plus petit lien de selles sur une surface de translation S. Le r´esultat est le suivant : Th´ eor` eme 11. — Soient (X, ω) une surface de translation et X0 un point base dans la mˆeme strate que X. Alors  log det ∆plat (X, X0 ) − log det ∆hyp (X, X0 ) = O | log ℓplat (X)| .

Dans l’article original, les auteurs produisent des estim´ees explicites. Les constantes sont universelles et ne d´ependent que du genre, du nombre de z´eros et de la surface de r´ef´erence X0 . Un th´eor`eme de Lundelius [Lu] donne un d´eveloppement asymptotique de log det ∆hyp lorsqu’un certain nombre de courbes d´eg´en`erent.

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

65

Th´ eor` eme 12 (Lundelius). — Soient (Cτ ) une famille de surfaces hyperboliques de volume fini, de type topologique fix´e, qui tend vers une courbe stable C∞ , et C0 une surface de r´ef´erence de mˆeme type topologique que Cτ . Alors − log | det ∆hyp (Cτ , C0 )| =

X π2  + O − log ℓhyp (Cτ ) + O(1) 3ℓτ,k k

lorsque τ tend vers l’infini, o` u ℓτ,k sont les longueurs des g´eod´esiques hyperboliques pinc´ees et ℓhyp (Cτ ) est la longueur hyperbolique de la plus petite g´eod´esique sur Cτ . Ce th´eor`eme est une g´en´eralisation de r´esultats de Wolpert [Wo] et d’Osgood, Phillips et Sarnak [OPS] dans le cas compact. Une ´etape de la preuve du th´eor`eme 3 consiste ` a combiner le th´eor`eme 11 avec le th´eor`eme de Lundelius pour obtenir un d´eveloppement asymptotique de la fonction zˆeta de ∆plat . Les auteurs prouvent le th´eor`eme suivant : Th´ eor` eme 13. — Pour toute strate H(k1 , . . . , kr ), il existe une constante M telle que X  π hC − log | det ∆plat (X, X0 )| = + O − log ℓplat (S) 3 wC cylindres C avec hC /wC >M

o` u hC est la hauteur du cylindre C, wC sa circonf´erence et X0 une surface de r´ef´erence dans la strate H(k1 , . . . , kr ). Les d´emonstrations de ces th´eor`emes sont tr`es techniques, calculatoires et d´evelopp´ees sur plusieurs dizaines de pages, nous n’allons ´evidemment pas les d´etailler. Nous donnons simplement quelques rep`eres qui aideront le lecteur `a comprendre la structure de la preuve. La premi`ere id´ee est la formule de Polyakov (5) qui permet d’exprimer la diff´erence log det ∆plat (S, S0 ) − log det ∆hyp (S, S0 ) sous forme int´egrale. Nous avons expliqu´e plus haut que l’on consid`ere des d´eterminants relatifs en r´egularisant les m´etriques (plates et hyperboliques) aux voisinage des z´eros. Il faut donc comprendre la contribution de ces points. C’est l’objet de la partie 6 de l’article qui est essentiellement calculatoire. Ensuite, il faut tirer profit du th´eor`eme 10 et estimer log det ∆plat (S, S0 ) − log det ∆hyp (S, S0 ) lorsque les surfaces d´eg´en`erent. On obtient alors une version forte du th´eor`eme 11. Pour passer du th´eor`eme de Lundelius au th´eor`eme 13, il faut montrer que la contri bution des anneaux euclidiens est n´egligeable et que | log ℓhyp | = O | log ℓplat | . Le lemme cl´e est ici la relation entre module et longueur de g´eod´esique. ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

66

Lemme 14. — Si A est un cylindre de module M , il existe une unique g´eod´esique pour sa m´etrique hyperbolique dont la longueur hyperbolique est π/M . Ceci est totalement classique (16) . Lorsqu’un cylindre de grand module est contenu dans une surface hyperbolique, on a approximativement le mˆeme r´esultat pour la m´etrique hyperbolique de la surface. La subtilit´e est que la m´etrique hyperbolique du cylindre n’est pas la mˆeme que celle de la surface ambiante. Les estim´ees pr´ecises sont dues ` a Masur, Minsky et Wolpert. Pour les cylindres plats, la circonf´erence du cylindre est donc approximativement la longueur de la g´eod´esique hyperbolique correspondante. Par contre, pour les anneaux, la longueur de la g´eod´esique hyperbolique est de l’ordre du logarithme de la longueur plate de la courbe correspondante. Ainsi,  la contribution des anneaux est comprise dans le terme d’erreur en O | log ℓplat (S)| . 2.6. D´ eterminant du laplacien et constantes de Siegel-Veech

La derni`ere partie importante de l’article (Section 9) prouve le th´eor`eme suivant : Th´ eor` eme 15. — Soient H(k1 , . . . , kr ) une strate de 1-formes holomorphes, ν1 la mesure normalis´ee de Masur-Veech associ´ee et Caire (ν) la constante de Siegel-Veech correspondante. Alors Z 4 ∆Teich log ∆plat (X, X0 ) dν1 (X) = − π 2 Caire (ν) 3 H1 (k1 ,...,kr ) o` u X0 est n’importe quelle surface de r´ef´erence dans la strate. Ce r´esultat combin´e avec le th´eor`eme de Riemann-Roch analytique donne bien entendu le r´esultat principal. Donnons tout d’abord une id´ee heuristique du lien entre les deux membres de l’´egalit´e ci-dessus. En utilisant la formule de Green, le terme de gauche se r´e´ecrit comme une int´egrale sur un voisinage du bord de la strate. Vu le th´eor`eme 13, le terme dominant est une int´egrale sur les cylindres de grands modules. Les constantes de Siegel-Veech mesurent elles aussi la contribution de (certains) cylindres de grands modules. On compte donc intuitivement la mˆeme chose. Essayons d’expliquer cela un peu plus pr´ecis´ement. Rappelons tout d’abord la formule classique de Siegel-Veech [Ve3], ainsi que quelques faits dus ` a Eskin-Masur [EM] utilisant les constantes de Siegel-Veech. Soient (X, ω) une surface de translation, f : R2 → R une fonction continue `a support compact et V (X) l’ensemble des vecteurs d’holonomie des liens de selles sur 16. On pourra voir le livre de Hubbard [Hu] o` u les calculs de g´ eom´ etrie hyperbolique sont fort bien pr´ esent´ es.

´ ASTERISQUE 361

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

67

R u γ parcourt l’ensemble une surface de translation X (17) , c’est-`a-dire les vecteurs γ ω o` des liens de selles sur X. On d´efinit la transform´ee de Siegel-Veech de f par la formule X f (v) ; fˆ(X) = v∈V (X)

fˆ est bien d´efinie car V (X) est un ensemble discret et f est `a support compact. Lemme 16 (Formule de Siegel-Veech). — Il existe une constante cˆ (ν) telle que, pour tout f continue ` a support compact sur R2 , Z Z fˆ(X) dν1 = cˆ (ν) f (x, y)dxdy. R2

H1 (k1 ,...,kr )

D’apr`es [EM], la constante cˆ (ν) est exactement celle qui intervient dans l’asymptotique quadratique du nombre de liens de selles sur une surface g´en´erique. De plus, la formule est aussi valable pour des fonctions plus g´en´erales, comme par exemple les fonctions caract´eristiques de boules. La d´emonstration de la formule est tr`es simple. L’application Z f 7→ fˆ(X) dν1 H1 (k1 ,...,kr )

est une forme lin´eaire continue positive, donc une mesure. Comme V (X) est ´equivariant sous l’action de SL2 (R), cette mesure est invariante par cette action. C’est donc une combinaison de la mesure de Dirac en (0, 0) et de la mesure de Lebesgue. On voit, en testant sur des fonctions ad hoc, que c’est un multiple de la mesure de Lebesgue, d’o` u le r´esultat. Voici un exemple d’application de cette formule : Lemme 17. — Il existe une constante C > 0 telle que pour tout ε > 0,  ν1 (X, ω) telles que ℓplat (X) < ε 6 Cε2 .

Nous donnons une id´ee de la preuve car elle est simple et instructive. Notons N (X, L) le nombre de liens de selles de longueur au plus L. On rappelle que cette quantit´e croˆıt quadratiquement quand L tend vers l’infini, regardons son comportement quand L tend vers 0. La formule de Siegel-Veech appliqu´ee `a la fonction indicatrice de la boule de R2 centr´ee en 0 de rayon ε nous dit que Z N (X, ε) dν1 (X) = cˆ(ν) πε2 H1 (k1 ,...,kr )

o` u cˆ(ν) est la constante de Siegel-Veech du probl`eme de comptage des liens de selles. Vu que, lorsque ℓplat (X) < ε on a N (X, ε) > 1, on obtient le r´esultat du lemme. 17. V (X) peut aussi ˆ etre l’ensemble des vecteurs d’holonomie des a ˆmes des cylindres sur X.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

68

Une cons´equence de ce lemme est que, pour tout β < 2, ℓ−β egrable. Eskinplat est int´ Masur montrent ´egalement le r´esultat suivant : Th´ eor` eme 18 (Eskin-Masur). — Pour tout β tel que 1 < β < 2 et pour tout ε assez petit, on a  N (X, ε) = O ℓplat (X)−β .

La preuve de ce r´esultat ([EM, Th. 5.1]) est nettement plus d´elicate que celle du lemme 17.

Nous allons maintenant expliquer deux lemmes simples qui donnent un aper¸cu de la strat´egie de preuve du th´eor`eme 15. Fixons un r´eel K qui sera toujours suppos´e suffisamment grand, et notons CylK (X) l’ensemble des cylindres de modules au moins K sur X. Pour K assez grand, les cylindres de module au moins K sont disjoints (car les g´eod´esiques hyperboliques associ´ees sont simultan´ement courtes). Ainsi CylK (X) contient au plus 3g − 3 + r ´el´ements. On d´efinit  ℓK (X) = min w(C), C ∈ CylK (X) .

On donnera 1 comme valeur ` a ℓK (X) lorsque l’ensemble est vide. Il est bien clair que ℓK (X) > ℓplat (X)

vu qu’un cylindre plat est bord´e par des liens de selles. Soit χε la fonction caract´eristique de l’ensemble des surfaces de translation (X, ω) tels que ℓK (X) > ε. On d´efinit en premier lieu une fonction auxiliaire qui sert `a r´egulariser. Soit η : SL2 (R) → R une R fonction r´eguli`ere positive SO2 (R) invariante telle que SL2 (R) η(g)dg = 1, de support contenu dans la couronne des ´el´ements g tels que 1/2 < kgk < 2. La norme sur SL2 (R) est la norme induite par la norme euclidienne de R2 . On d´efinit Z η(g)χε (gX) dg. fε (X) = SL2 (R)

La fonction fε satisfait les propri´et´es suivantes : (1) fε (X) = 0 si ℓK (X) 6 ε/2 (2) fε (X) = 1 si ℓK (X) > 2ε (3) fε est r´eguli`ere le long des disques de Teichm¨ uller et son gradient ainsi que son laplacien sont born´es ind´ependamment de ε. Autrement dit, le gradient de fε est concentr´e sur une couronne Aε = {X tel que ε/2 6 ℓK (X) 6 2ε} qui est bien sˆ ur un voisinage du bord et fε (X) tend vers 1 lorsque ε tend vers 0. Posons ψ K (X) =

X

C∈CylK (X)

´ ASTERISQUE 361

 Mod(C) − K .

(1060)

¨ LES EXPOSANTS DE LIAPOUNOFF DU FLOT DE TEICHMULLER

69

Par construction, la fonction ψ K est une fonction continue et r´eguli`ere par morceaux. Pour se rapprocher un peu du probl`eme de comptage intervenant dans la d´efinition des constantes de Siegel-Veech, il est important de ne consid´erer que les cylindres qui g (X) l’ensemble de sont parall`eles ` a celui dont l’ˆ ame est la plus courte. On note Cyl K ces cylindres et on pose X  Mod(C) − K . ψeK (X) = g (X) C∈Cyl K

Les fonctions ψ K et ψeK ont un comportement analogue pr`es du bord. Ce point est technique mais important : c’est exactement `a ce niveau que l’hypoth`ese de r´egularit´e de la mesure intervient dans la preuve g´en´erale. Pour les strates, Eskin-Masur-Zorich montrent que l’ensemble des surfaces qui ont deux liens de selles non homologues de longueur au plus ε est de mesure ε4 . Le lemme 17 dit que l’ensemble des surfaces avec un lien de selles de longueur au plus ε a une mesure au plus de l’ordre de ε2 . Ainsi des surfaces g´en´eriques proches du bord ont uniquement des liens de selles courts parall`eles. On montre alors : Lemme 19. — Avec les notations pr´ec´edentes, on a Z ∆Teich log ∆plat (X, X0 ) dν1 H1 (k1 ,...,kr )

π lim = 3 ε→0

Z

H1 (k1 ,...,kr )

∇Teich ψeK (X).∇Teich fε dν1 .

Donnons un sch´ema de preuve pour comprendre comment interviennent les arguments introduits plus haut. Posons f = log ∆plat (X, X0 ) pour simplifier les notations. Par la formule de Green, on a Z Z ∆Teich f dν1 = lim fε ∆Teich f dν1 ε→0

H1 (k1 ,...,kr )

= lim

ε→0

H1 (k1 ,...,kr )

Z

f ∆Teich fε dν1 .

H1 (k1 ,...,kr )

On utilise ici le th´eor`eme 13 pour estimer f pour obtenir le d´eveloppement  π f (X) = − ψ K (X) + O log(ℓplat (X) . 3

Rappelons que ∆Teich fε est born´e et que son support est contenu dans la couronne Aε . D’apr`es le lemme 17 et le fait que ℓK (X) > ℓplat (X), on a ν1 (Aε ) = O(ε2 ). De  plus, le lemme pr´e-cit´e entraˆıne que la fonction X → log ℓplat (X) est int´egrable sur H1 (k1 , . . . , kr ). Ainsi, en appliquant le th´eor`eme de convergence domin´ee, on obtient Z lim | log ℓplat | ∆Teich fε = 0. ε→0

H1 (k1 ,...,kr )

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. GRIVAUX & P. HUBERT

70

On en d´eduit Z ∆Teich log ∆plat (X, X0 ) dν1 H1 (k1 ,...,kr )

=

π lim 3 ε→0

Z

∇Teich ψ K (X).∇Teich fε dν1 .

H1 (k1 ,...,kr )

Reste ` a comparer ψ K et ψeK au voisinage du bord, ce qui se fait sans mal avec le discours pr´ec´edent.

Nous passons maintenant au second lemme qui exprime la constante de SiegelVeech sous forme int´egrale. Notons Cyl(X, ε) les cylindres plats sur X qui ont une ˆame de longueur plate entre ε/2 et ε. Lemme 20. — Si on pose

on a

K eaire N (X, ε) =

Caire (ν) = lim

ε→0

X

Aire(C)

g (X) ∩ Cyl(X,ε) C∈Cyl K

4 3πε2

Z

H1 (k1 ,...,kr )

e K (X, ε) dν1 (X). N aire

g par Cyl , ce qui ne change presque Montrons le r´esultat en rempla¸cant Cyl K K ˆaire (X, ε) la contribution d’une couronne, c’est-`a-dire Naire (X, ε) − rien. Notons N Naire (X, ε/2). Une fois de plus, la formule de Siegel-Veech nous permet d’´ecrire Caire (ν) sous forme int´egrale : pour tout ε > 0, Z 4 ˆaire (X, ε) dν1 (X). (6) Caire (ν) = N 3πε2 H1 (k1 ,...,kr ) Si C est un cylindre dans Cyl(X, ε) \ CylK (X), h × w2 < Kε2 . w  Par le th´eor`eme 18, N (X, ε) = O ℓplat (X)−β pour 1 < β < 2, donc Aire(C) =

K ˆaire (X, ε) − Naire N (X, ε) 6 κ Kε2 ℓplat (X)−β

o` u κ est une constante ind´ependante de ε. On int`egre cette in´egalit´e sur l’ensemble des surfaces de translation (X, ω) telles que ℓ(X) < ε. Pour le membre de gauche cela revient ` a int´egrer sur la strate tout enti`ere. Ainsi Z  1 ˆaire (X, ε) − N K (X, ε) dν1 (X) N aire ε2 H1 (k1 ,...,kr ) Z ℓplat (X)−β dν1 (X). 6 κK {(X,ω) | ℓplat (X) 0; ∃f : ∆ → X, f (0) = x, λf ′ (0) = v}, o` u ∆ ⊂ C est le disque unit´e, et f est une application holomorphe.

Bien entendu, il se peut tr`es bien que kX,x (v) = 0 ; toutefois, grˆace au lemme de reparam´etrisation de Brody (cf. [Bro78]), cette situation a une contrepartie g´eom´etrique bien comprise. S’il existe un point x ∈ X et un vecteur non nul v ∈ TX,x tels que kX,x (v) = 0, alors il existe une application holomorphe non constante ϕ : C → X. Une telle fonction sera appel´ee courbe enti`ere. Nous remarquons en passant que le point x ne se trouve pas n´ecessairement dans l’image de ϕ, voir l’exemple trouv´e par J. Winkelmann, dans [Winkel]. Si la vari´et´e X ne poss`ede pas de courbes enti`eres non constantes, alors la pseudom´etrique infinit´esimale de Kobayashi sera non d´eg´en´er´ee ; nous disons dans ce cas que X est hyperbolique au sens de Brody, ou tout simplement hyperbolique (car toutes les vari´et´es dans cet expos´e seront compactes). ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

78

˘ M. PAUN

En dimension 1, le th´eor`eme d’uniformisation montre que seules les courbes de genre sup´erieur ou ´egal ` a 2 sont hyperboliques. La situation devient beaucoup plus compliqu´ee d`es la dimension 2 ; toutefois, on esp`ere que la non d´eg´en´erescence de la m´etrique de Kobayashi est intimement li´ee aux propri´et´es de positivit´e du fibr´e canonique de X. Nous allons rappeler maintenant quelques notions qui vont intervenir par la suite. Un fibr´e en droites L → X est dit ample s’il existe un entier m > 1 tel que l’application naturelle vers l’espace projectif induite par les sections globales de L⊗m est un plongement. La version birationnelle de cette notion est celle de fibr´e gros (ou big) : L est gros s’il existe un entier m > 1 tel que le degr´e de transcendance du corps des fonctions rationnelles sur X induites par les sections holomorphes de L⊗m est maximal (i.e. ´egal ` a la dimension de X). On se propose de pr´esenter dans cet expos´e quelques r´esultats r´ecents en rapport avec l’hyperbolicit´e des vari´et´es n-dimensionnelles X dont le fibr´e canonique KX est ample. Ces r´esultats donnent des r´eponses partielles `a la conjecture classique suivante, cf. [Kob70]. Conjecture 0.1 (Kobayashi). — Une hypersurface g´en´erique X de l’espace projectif Pn+1 de degr´e d sup´erieur ` a 2n + 1 est hyperbolique. Dans l’´enonc´e pr´ec´edent, le terme g´en´erique a la signification suivante. Consid´erons la vari´et´e X ⊂ Pn+1 × PNd param´etrant les hypersurfaces de degr´e d dans Pn+1 . Alors il existe une r´eunion d´enombrable Y de vari´et´es alg´ebriques de X telle que, si X correspond ` a un point dans X \ Y, alors elle est hyperbolique. Une autre conjecture standard dans le domaine est celle formul´ee par Green-Griffiths dans [GG80] ; nous allons la rappeler maintenant. Conjecture 0.2 (Green-Griffiths). — Soit X une vari´et´e projective ; on suppose que son fibr´e canonique est gros. Alors il existe une sous-vari´et´e propre Y ( X de X telle que l’image de toute courbe enti`ere ϕ : C → X se trouve dans Y . Si l’image d’une courbe enti`ere ϕ : C → X est contenue dans une sous-vari´et´e propre de X, on dit que ϕ est alg´ebriquement d´eg´en´er´ee. On remarque que, dans ce cadre g´en´eral, un ´enonc´e de type Green-Griffiths est le meilleur qu’on puisse esp´erer obtenir, mˆeme si KX est ample. Pour s’en convaincre, il suffit de consid´erer la surface de Fermat  X := Z0d + . . . + Z3d = 0 ⊂ P3 .

Si d est assez grand, le fibr´e canonique de cette vari´et´e est ample. Elle contient des courbes rationnelles, donc des courbes enti`eres non constantes. La m´etrique de Kobayashi de X est donc partiellement d´eg´en´er´ee ; n´eanmoins, la conjecture 0.2 pour les hypersurfaces de Fermat est v´erifi´ee dans [Gr75], [Dem95].

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

79

Afin de mettre en perspective les r´esultats des articles [DMR10], [Dem11] et [Siu12] qui constituent la colonne vert´ebrale de notre expos´e, il convient de pr´esenter en quelques mots une strat´egie g´en´erale pour traiter les conjectures 0.1 et 0.2 qui remonte aux articles fondateurs de A. Bloch [Blo26a], [Blo26b] (voir ´egalement [Siu04] pour un compte rendu moderne de [Blo26a]). Le premier pas dans la strat´egie que A. Bloch a invent´ee pour ´etudier l’hyperbolicit´e des sous-vari´et´es de tores consiste `a utiliser l’amplitude de KX pour construire des op´erateurs diff´erentiels d’ordre sup´erieur. Cette notion sera pr´esent´ee de fa¸con formelle plus loin ; en voici ici un bref aper¸cu. Pour chaque entier k > 1, consid´erons l’espace des k-jets Jk (X) dont les ´el´ements sont des disques holomorphes f : (C, 0) → X modulo la relation d’´equivalence suivante : f ∼ g si et seulement si leurs d´eriv´ees en z´ero jusqu’` a l’ordre k co¨ıncident. Nous appelons diff´erentielle holomorphe d’ordre k et de degr´e m (ou simplement diff´erentielle holomorphe, lorsqu’il n’y a pas de risque de confusion) toute fonction holomorphe sur l’espace des k-jets Jk (X) qui est polynomiale homog`ene de degr´e pond´er´e m par restriction aux fibres de la projection Jk (X) → X. Par exemple, si k = 1, les diff´erentielles de degr´e m correspondent aux sections ⋆ du fibr´e S m TX . Signalons aussi que dans l’analyse de l’hyperbolicit´e d’une vari´et´e X il est indispensable de consid´erer des diff´erentielles d’ordre k > 2. Leur existence et l’analyse de leurs propri´et´es se trouvent au cœur de notre expos´e, principalement `a cause du th´eor`eme d’annulation suivant : si P est un op´erateur diff´erentiel d’ordre k  et de degr´e m ` a valeurs dans le dual d’un fibr´e ample sur X, alors P ϕ′ , . . . , ϕ(k) ≡ 0 pour toute courbe enti`ere ϕ : C → X. L’´etape suivante dans la strat´egie de Bloch serait de montrer qu’on peut construire beaucoup de k-diff´erentielles holomorphes alg´ebriquement ind´ependantes. Tr`es vaguement, ceci veut dire qu’on peut « ´eliminer » successivement les d´eriv´ees ϕ′ , . . . , ϕ(k)  dans le syst`eme d’´equations Pj ϕ′ , . . . , ϕ(k) ≡ 0 induit par les diff´erentielles holomorphes, et obtenir ainsi une ´equation alg´ebrique pour la courbe ϕ (plutˆot que pour son jet d’ordre k). Il nous semble que le degr´e de difficult´e pr´esent dans les deux ´etapes de cette strat´egie est r´eparti de fa¸con in´egale : le deuxi`eme pas est beaucoup plus d´elicat que le premier. Dans les travaux qui font l’objet de cet expos´e, ces id´ees ont ´et´e impl´ement´ees avec succ`es pour les hypersurfaces X de l’espace projectif. Un premier r´esultat qui sera discut´e ici est le suivant. Th´ eor` eme 0.3 ([Div09], [DMR10], [Dem12], [Siu12]). — Soit n un entier positif. Il existe un nombre entier explicite d1n avec la propri´et´e suivante : toute hypersurface g´en´erique X ⊂ Pn+1 de degr´e d > d1n admet une n-diff´erentielle holomorphe (non identiquement nulle) ` a valeurs dans le dual d’un fibr´e ample sur X.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

80

˘ M. PAUN

Voici quelques commentaires sur les diverses approches pour montrer ce th´eor`eme. Dans les articles [Siu02], [Siu04] et [Siu12], Y.-T. Siu s’inspire de la construction explicite des formes diff´erentielles pour les courbes planes de degr´e assez ´elev´e. Il calcule l’ordre des pˆ oles des n-diff´erentielles m´eromorphes qu’on peut facilement construire sur l’espace projectif, puis il montre que la restriction `a X de certaines diff´erentielles ainsi obtenues sera holomorphe, pourvu que le polynˆome d´efinissant X soit g´en´erique et que son degr´e soit assez grand. Dans l’article [DMR10], le th´eor`eme 0.3 est obtenu comme cons´equence des in´egalit´es de Morse holomorphes. Cette technique a ´et´e introduite par J.-P. Demailly dans [Dem85], et elle s’est montr´ee extrˆemement utile dans beaucoup de situations : cela fait l’effet d’un best seller perp´etuel... Son utilisation syst´ematique dans le contexte actuel a ´et´e initi´ee par S. Diverio dans sa th`ese de doctorat (cf. [Div08], [Div09]). En quelques mots, via la forme alg´ebrique des in´egalit´es de Morse, l’existence des n-diff´erentielles est ´equivalente `a la positivit´e d’un certain produit d’intersection. S. Diverio, J. Merker et E. Rousseau montrent dans [DMR10] que le produit d’intersection ` a calculer est un polynˆ ome de degr´e n + 1 en d, dont le coefficient dominant est un entier strictement positif. En estimant les autres coefficients, ils trouvent une borne effective pour d ` a partir de laquelle le polynˆome en question sera strictement positif. Une partie de ce travail utilise des r´esultats obtenus ant´erieurement dans [Merk09], [Rou07a], [Div09]. Signalons ´egalement que J. Merker montre dans l’article [Merk10] que pour k ≫ 0 on peut construire des k-diff´erentielles holomorphes non nulles sur toute hypersurface X de Pn+1 , d`es que KX est ample. Les calculs effectifs qu’il d´eploie dans ce but sont impressionnants. Tr`es r´ecemment dans [Dem11], J.-P. Demailly ´etablit l’existence des diff´erentielles holomorphes non nulles pour toute vari´et´e de type g´en´eral ; en particulier, son r´esultat g´en´eralise amplement les travaux [GG80], [Merk10], [Rou06a] [Rou06b], [Rou07a], [Rou07b] [Siu02], [DMR10]. Th´ eor` eme 0.4 ([Dem11]). — Soit X une vari´et´e n-dimensionnelle de type g´en´eral ; alors pour tous ε > 0, k > k0 (ε) et m > m0 (k, ε) il existe une k-diff´erentielle d’ordre m −(δ −ε)m . sur X ` a valeurs dans KX k , o` u on note δk := 1+1/2+...+1/k nk Comme cons´equence de ce travail, il obtient une preuve du th´eor`eme 0.3 dans des conditions num´eriques nettement meilleures que celles de [DMR10], [Siu12], ... Sa m´ethode utilise la version analytique des in´egalit´es de Morse holomorphes, en exploitant de plus la nature « probabiliste » des k-jets, les d´eriv´ees successives ´etant vues comme des variables al´eatoires ind´ependantes. Avant d’aller plus loin dans cette th´ematique, signalons l’article de Y. Brunebarbe, B. Klingler et B. Totaro dans [BKT12]. C’est un travail tr`es ´el´egant, dans lequel l’existence des formes diff´erentielles sym´etriques sur une vari´et´e k¨ahl´erienne compacte X est ´etablie en faisant une hypoth`ese sur le groupe fondamental de X. Dans

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

81

cet article, la positivit´e n´ecessaire pour produire des diff´erentielles sym´etriques est extraite de la variation des structures de Hodge. Nous ne pouvons pas pr´esenter ici leur travail, mais les techniques qu’ils produisent dans le domaine semblent tr`es prometteuses. Il se trouve que dans le cas des hypersurfaces de Pn+1 on peut analyser les points base des n-diff´erentielles holomorphes d’une fa¸con tr`es pr´ecise. Th´ eor` eme 0.5 ([Siu02], [DMR10], [Dem12]). — Soit X ⊂ Pn+1 une hypersurface g´en´erique de degr´e d > dn . Alors il existe une sous-vari´et´e Y ( X telle que pour tout n-jet γ : ∆ → X de disque holomorphe trac´e sur X il existe une n-diff´erentielle holomorphe P ` a valeurs dans le dual d’un fibr´e ample telle que  P γ ′ (0), . . . , γ (n) (0) 6= 0 d`es que γ(0) ∈ X \ Y .

Les grandes lignes de la preuve du th´eor`eme 0.5 ont ´et´e expliqu´ees dans [Siu02], et trait´ees en d´etail dans [DMR10], [Siu12] ; l’observation importante repose sur des travaux ant´erieurs de C. Voisin, H. Clemens et L. Ein, cf. [Vois98], [Cle86], [Ein88], [Ein91]. Consid´erons la vari´et´e X ⊂ Pn+1 × PNd qui param`etre les hypersurfaces de degr´e d dans Pn+1 . En coordonn´ees homog`enes, X est l’hypersurface donn´ee par l’´equation suivante de bi-degr´e (d, 1) X aα Z α = 0. α

Compte tenu du fait que le degr´e de X par rapport aux variables (aα ) vaut 1, on montre dans [Vois98] que le fibr´e TX ⊗OPn+1 (1) est engendr´e par ses sections globales. Afin de l’adapter pour l’´etude des points base des diff´erentielles holomorphes, ce r´esultat a ´et´e g´en´eralis´e comme suit dans [Siu02], [Merk09]. Consid´erons la projection sur le second facteur π : X → PNd ; pour chaque k > 1 on note Jkvert (X ) l’espace des k-jets relatifs de X par rapport `a π. Des calculs explicites (op. cit.) montrent que le fibr´e

(1)

TJnvert (X ) ⊗ OPn+1 (n2 + 2n) ⊗ OPNd (2)

est engendr´e par ses sections globales. a ´evoSoit s0 ∈ PNd ; on note Xs0 l’hypersurface correspondante. Comme on l’a d´ej` qu´e, les n-diff´erentielles holomorphes sur Xs0 peuvent ˆetre vues comme fonctions sur l’espace des n-jets de cette vari´et´e. Supposons maintenant que s0 est suffisamment g´en´erique pour que les n-diff´erentielles holomorphes sur Xs0 se prolongent au voisinage U de s0 dans PNd . Cela veut dire que la fonction d´efinie sur la fibre Xs0 = π −1 (s0 )

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

82

˘ M. PAUN

admet un prolongement sur π −1 (U ). On produit de nouvelles n-diff´erentielles holomorphes en d´erivant cette fonction dans la direction des champs de vecteurs obliques sur Jnvert (X ) obtenus dans (1), puis en restreignant le r´esultat `a Xs0 . C’est en gros le m´ecanisme de la d´emonstration du th´eor`eme 0.5 ; les trois articles [Siu02], [DMR10], et [Dem12] en font usage. En combinant le th´eor`eme 0.3 avec le proc´ed´e que nous venons d’expliquer, on obtient le r´esultat suivant. Th´ eor` eme 0.6 ([Siu02], [DMR10], [Dem12]). — Soit n un entier positif ; il existe un entier dn tel que toute courbe enti`ere ϕ trac´ee sur une hypersurface g´en´erique X ⊂ Pn+1 de degr´e d > dn est alg´ebriquement d´eg´en´er´ee. Le nombre dn obtenu dans ces travaux s’est trouv´e progressivement am´elior´e. Dans [Siu02] et [Siu04], l’auteur indique le fait qu’on peut le calculer explicitement, laissant le soin de le faire aux lecteurs friands de calculs compliqu´es (voir toutefois les d´etails de son approche sur la Toile, cf. [Siu12]). Le degr´e dn a ´et´e rendu effectif dans [DMR10] par S. Diverio, J. Merker et E. Rousseau ; comme on aura l’occasion de le voir un peu plus loin dans cet expos´e, leur travail est un v´eritable tour de force, 5 qui aboutit sur le degr´e dn = 2n . Cette borne a ´et´e consid´erablement am´elior´ee par J.-P. Demailly dans [Dem12], suite `a son travail [Dem11] ; le degr´e qu’il obtient n 4 est dn = n3 n log(n log 24n) .

Comme on peut le constater, dans cette introduction nous avons pris la libert´e de ne pas mentionner les r´esultats autour de la conjecture de Green-Griffiths en petites dimensions (surfaces, 3-vari´et´es...). Pour les lecteurs int´eress´es, nous recommandons l’excellent expos´e [Bru02], men´e de main de maˆıtre par le regrett´e Marco Brunella. Le texte qui suit est organis´e en plusieurs parties. Tout d’abord nous pr´esentons quelques r´esultats concernant les espaces de jets, la d´efinition formelle des diff´erentielles d’ordre k, les in´egalit´es de Morse holomorphes et quelques calculs de classes de Chern. Ensuite nous discutons quelques r´esultats particuli`erement frappants des travaux [Siu12], [DMR10], [Dem11].

´ ES ´ DIRIGEES ´ ´ 1. VARIET ET DIFFERENTIELLES D’ORDRE ´ SUPERIEUR Nous allons rappeler dans ce paragraphe quelques faits concernant les diff´erentielles d’ordre k et de degr´e m. Les grandes lignes de notre pr´esentation suivent de pr`es l’article [Dem95] (voir aussi [Gher41], [Semp54], [Mey89]).

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

83

1.1. Diff´ erentielles holomorphes Pour commencer, consid´erons l’espace vectoriel Cnk = Cn × . . . × Cn et l’action de C⋆ sur Cnk \ {0} donn´ee par (2)

t · (ξ1 , . . . , ξk ) = (tξ1 , t2 ξ2 , . . . , tk ξk )

o` u les ξj sont des vecteurs de Cn pour tout j = 1, . . . , k. On d´esignera le quotient de cette action par P(1n , 2n , . . . , k n ) ; cette vari´et´e est appel´ee espace projectif ` a poids. Il existe un morphisme fini (3)

Pkn−1 → P(1n , 2n , . . . , k n );

donc la vari´et´e P(1n , 2n , . . . , k n ) est un quotient global de Pkn−1 . Au-dessus de l’espace projectif `a poids P(1n , 2n , . . . , k n ) nous disposons d’un faisceau L dont l’image inverse par rapport `a la projection (3) s’identifie avec le fibr´e tautologique usuel O(1) sur Pkn−1 . Si p est un entier divisible par le plus petit commun multiple de (1, . . . , k) alors L⊗p est inversible (voir [Dol81] pour une pr´esentation exhaustive de ce sujet). Via la projection pk : Cnk \ {0} → P(1n , 2n , . . . , k n ), une m´etrique h sur L correspond ` a une fonction positive Ψh : Cnk → R telle que   Ψh t · (ξ1 , . . . , ξk ) = |t|2 Ψh ξ1 , . . . , ξk . La forme de courbure de (L, h) sera not´ee ΘL,h ; c’est une forme de type (1,1) sur P(1n , 2n , . . . , k n ) telle que √  −1 ∂∂Ψh . (4) p⋆k ΘL,h = 2π En conclusion, mˆeme si L n’est pas un « vrai fibr´e », on peut d´efinir la notion de m´etrique sur L, respectivement de courbure associ´ee au couple (L, h).

Nous allons consid´erer ensuite la version relative de cette construction. Soit X une vari´et´e complexe compacte. Pour chaque k > 1 on note Jk (X) la vari´et´e des k-jets de disques holomorphes param´etr´es de X, i.e. l’ensemble des classes d’´equivalence des applications f : (C, 0) → X modulo la relation f ∼ g si et seulement si f (j) (0) = g (j) (0) pour chaque j = 0, . . . , k. Les d´eriv´ees de f et g sont calcul´ees par rapport `a un syst`eme de coordonn´ees, mais on voit facilement que la relation f ∼ g a un sens intrins`eque. Soit f un ´el´ement de Jk (X). Par rapport `a un syst`eme de coordonn´ees d´efini sur un ouvert Ω ⊂ X centr´e en x les composantes de f s’´ecrivent f = (f1 , . . . , fn ) : (C, 0) → Ω ⊂ Cn . ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

84

˘ M. PAUN

Consid´erons la projection Jk (X) → X, f 7→ x := f (0) ; on note Jk (X)|Ω l’image inverse de l’ouvert Ω. Alors l’application  Jk (X)|Ω → Ω × Ckn , f → f (0), f ′ (0), . . . , f (k) (0) est bien d´efinie, et induit un syst`eme de coordonn´ees sur Jk (X)|Ω .

Si k = 1, la vari´et´e J1 (X) s’identifie naturellement avec TX , l’espace tangent de X. En g´en´eral, si k > 2 l’espace Jk (X) n’a pas une structure de fibr´e vectoriel sur X, car les fonctions de transition le d´efinissant sont polynomiales non lin´eaires (de degr´e k). Soit Gk le groupe de germes de k-jets d’automorphismes de (C, 0). Ce groupe agit sur la vari´et´e de jets Jk (X) de fa¸con naturelle : si (f, ρ) ∈ Jk (X) × Gk , alors on a l’application de reparam´etrisation `a la source (f, ρ) → f ◦ ρ. Plus particuli`erement, l’action du sous-groupe des homoth´eties C⋆ ⊂ Gk est donn´ee par λ · (f ′ , . . . , f (k) ) = (λf ′ , . . . , λk f (k) ).

Le quotient de Jk (X) \ {0} par l’action de C⋆ ainsi d´efinie sera not´e XkGG. C’est une vari´et´e singuli`ere d`es que k > 2 : en fait, c’est la version relative de la construction de l’espace projectif ` a poids. Les singularit´es de XkGG sont de type quotient, elles sont bien comprises et ne vont pas nous poser de difficult´es par la suite. Le faisceau tautologique sur XkGG (analogue de L) sera not´e OXkGG (1). Si m est un entier assez divisible, alors le faisceau OXkGG (m) est un fibr´e en droites. Nous notons GG Ek,m := πk⋆ OXkGG (m)

son image directe ; c’est un fibr´e vectoriel sur X. La notion centrale de notre expos´e est la suivante. D´ efinition 1.1. — On appelle diff´erentielle holomorphe d’ordre k et de degr´e m sur X (ou tout simplement k-diff´erentielle holomorphe) toute section globale du GG fibr´e Ek,m . GG Soit P ∈ H 0 (X, Ek,m ) une diff´erentielle holomorphe ; par d´efinition, sa restriction aux fibres de l’application de projection Jk (X) → X s’identifie `a un polynˆome homog`ene de degr´e pond´er´e m, i.e. on a l’´egalit´e

P (λf ′ , . . . , λk f (k) ) = λm P (f ′ , . . . , f (k) ) pour tout λ ∈ C \ {0} et pour tout k-jet f . On remarque que la notion de polynˆ ome homog`ene sur les fibres de l’application de projection a un sens intrins`eque, compte tenu du fait que les fonctions de transition de Jk (X) sont polynomiales et respectent l’action de C∗ .

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

85

On peut exprimer P par rapport `a un syst`eme de coordonn´ees z = (z1 , . . . , zn )  u i = 1, . . . , k et j = 1, . . . , n ; centr´e au point x. Consid´erons les symboles di zj , o` alors on a X aα (z)dz α1 . . . dk z αk P = |α1 |+2|a2 |+...+k|αk |=m

o` u les αj = (αj1 , . . . , αjn ) sont des multi-indices, et o` u on utilise la notation p αj

d z

:=

n Y

(dp zi )αji

i=1

P ainsi que |αj | = i αji . Si f est un k-jet de disque analytique en (X, x), alors chaque (i) symbole di zj agit sur f de mani`ere naturelle : di zj · f := fj (0), et ceci indique la fa¸con dont P agit sur les k-jets. Pour plus de d´etails concernant ces notions, nous renvoyons ` a l’article [GG80]. 1.2. Diff´ erentielles holomorphes invariantes Nous allons nous concentrer dans ce paragraphe sur une classe plus particuli`ere de diff´erentielles holomorphes, notamment celles qui sont invariantes par tous les ´el´ements du groupe Gk , cf. [Dem95], [SY96a], [SY96b], [SY97]. D´ efinition 1.2. — Soit P une k-diff´erentielle de degr´e m ; on dit qu’elle est invariante si   P (f ◦ ρ)′ , . . . , (f ◦ ρ)(k) = ρ′ (0)m P f ′ , . . . , f (k) pour tout k-jet f et pour tout ´el´ement ρ ∈ Gk .

La notion suivante est importante, car elle permettra en particulier d’avoir une interpr´etation des diff´erentielles holomorphes invariantes dans le langage des fibr´es lin´eaires. D´ efinition 1.3. — On appelle vari´et´e dirig´ee un couple (X, V ), o` u X est une vari´et´e complexe compacte et V ⊂ TX est un sous-fibr´e de son fibr´e tangent. e Ve ) (cf. [Semp54], Le couple (X, V ) engendre une nouvelle vari´et´e dirig´ee (X, e := P(V ) la [Dem95]), dont nous allons maintenant expliquer la construction : soit X e vari´et´e projectivis´ee des droites de V ; le fibr´e V ⊂ TX1 est d´efini comme suit Ve(z,[v]) = {ξ ∈ TX1 ,z : dπ(ξ) ∈ Cv}

e → X est la projection canonique. Au-dessus de la vari´et´e X e on dispose d’un o` uπ:X fibr´e tautologique OXe (−1) ⊂ π ⋆ V

tel que OXe (−1)(z,[v]) = Cv.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

86

Soit f : ∆ → X un disque holomorphe non constant, tangent en tout point `a V ; autrement dit, on a f ′ (t) ∈ Vf (t) pour chaque t dans le domaine de d´efinition de f . e par On d´efinit le rel`evement canonique de f `a X  e (5) fe : ∆ → X, fe(t) = f (t), [f ′ (t)] .

Dans l’expression (5), on suppose implicitement que le point t n’est pas stationnaire ; n´eanmoins, on voit facilement que fe sera a posteriori bien d´efini sur ∆ en simplifiant les z´eros de f ′ (t). Une autre remarque importante par rapport `a cette construction est que le disque fe est tangent ` a Ve . En effet, on a π ◦ fe = f et en d´erivant cette ´egalit´e on obtient π⋆ fe′ (t) = f ′ (t) ∈ Vf (t) .

Du point de vue g´eom´etrique, le fibr´e Ve est ainsi caract´eris´e : un disque holomorphe e est tangent ` γ : (C, 0) → X a Ve si et seulement si ou bien il est contenu dans une des fibres de π, ou bien il co¨ıncide avec le relev´e fe d’un disque holomorphe f de X tangent ` a V. Du point de vue alg´ebrique, le fibr´e Ve est caract´eris´e par les suites exactes suivantes (6)

et (7)

0 → TX/X → Ve → OXe (−1) → 0 e

0 → OXe → π ⋆ V ⊗ OXe (1) → TX/X → 0, e

e → X. On d´eduit en o` u TX/X d´esigne le fibr´e tangent relatif associ´e `a la fibration X e e e = dim(X) + particulier que le rang de V co¨ıncide avec celui de V , et que dim(X) rk(V ) − 1. En it´erant cette construction ` a partir de (X0 , V0 ) := (X, TX ) nous obtenons une suite de vari´et´es dirig´ees (Xk , Vk )k>0 ; nous avons donc Xk+1 := P(Vk ),

fk Vk+1 := V

pour chaque k > 0. La dimension de Xk est ´egale `a n + k(n − 1).

On note OXk (−1) → Xk le fibr´e tautologique induit par (Xk−1 , Vk−1 ), et uk ∈ H 1,1 (Xk , R) ∩ H 2 (Xk , Z)

sa (premi`ere) classe de Chern. Pour chaque couple k > l nous allons utiliser les notations πk,l : Xk → Xl et πk : Xk → X afin de d´esigner les projections naturelles respectives. Par la suite, il sera commode d’introduire la notation suivante : soit a = (a1 , . . . , ak ) ∈ Zk un k-uplet de nombres entiers. On pose  ⋆ (8) OXk (a) := ⊗kj=1 πk,j OXj (aj ) . ´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

87

Pour k > 2, on d´efinit le diviseur Dk sur la vari´et´e Xk de la fa¸con suivante. Consid´erons la suite exacte (6) associ´ee au couple (Xk−1 , Vk−1 ) ; en particulier, on a l’injection naturelle 0 → TXk−1 /Xk−2 → Vek−1 .   On d´efinit l’hypersurface Dk := P TXk−1 /Xk−2 ⊂ P Vk−1 comme projectivis´e du fibr´e tangent relatif correspondant `a la projection πk−1,k−2 . C’est une vari´et´e non singuli`ere, et en utilisant la suite (6) on d´eduit l’´egalit´e O(Dk ) = OXk (−1, 1) (voir [Dem95]). Dans ce contexte, on a le r´esultat suivant. Th´ eor` eme 1.4 ([Dem95]). — Soit X une vari´et´e complexe compacte, et soit Jk (X) l’espace de ses k-jets. On note Jkreg ⊂ Jk (X) la sous-vari´et´e des jets r´eguliers ( i.e. les classes d’´equivalence des applications f : (C, 0) → X telles que f ′ (0) 6= 0). (a) Il existe un plongement holomorphe jk : Jkreg (X)/Gk → Xk , dont l’image est l’ouvert de Zariski \ −1 Xkreg := πk,j (Xj \ Dj ). j6k

Ainsi, la vari´et´e Xk peut ˆetre vue comme compactification naturelle du quotient Jkreg (X)/Gk . (b) Pour chaque m > 1, le faisceau image directe (9)

(πk )⋆ OXk (m) := Ek,m

est un fibr´e vectoriel sur X, dont l’espace des sections globales s’identifie avec les diff´erentielles holomorphes invariantes d’ordre k et de degr´e m. (c) Plus g´en´eralement, pour chaque a = (a1 , . . . , ak ) ∈ Zk+ tel que a1 +. . .+ak := m, l’image directe  (10) (πk )⋆ OXk (a) ⊂ O(Ek,m )

s’identifie au sous-fibr´e vectoriel dont les sections globales sont des diff´erentielles invariantes X P = ξα (z)(dz)α1 . . . (dk z)αk α∈Sa

o` u on note Sa ⊂

Znk +

l’ensemble des α = (α1 , . . . , αk ) d´efini par les relations

|α1 | + . . . + k|αk | = m,

|αp+1 | + . . . + (k − p)|αk | 6 ap+1 + . . . + ak

pour chaque p = 0, . . . , k − 1.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

88

Nous n’allons pas reproduire ici la preuve de ce r´esultat ; n´eanmoins, voici les id´ees principales. Pour le premier point, on d´efinit jk comme suit : si f ∈ Jkreg est le k-germe d’un disque holomorphe r´egulier, alors on consid`ere l’application f → f[k] (0) ∈ Xk o` u f[k] d´esigne la k-i`eme relev´ee de f . Cette application est constante sur les orbites de Gk et jk est obtenue par passage au quotient. Les points (b) et (c) sont d´emontr´es  en observant que pour toute section u ∈ H 0 Xk , OXk (m) on obtient un op´erateur d’ordre k et de degr´e m en posant ⊗m  ′ (0) ; P (f ′ , . . . , f (k) ) := u f[k] (0) · f[k−1]

il se trouve que P est une diff´erentielle invariante. Nous invitons le lecteur `a consulter l’article [Dem95] pour une preuve compl`ete de ce th´eor`eme.

D’apr`es le r´esultat pr´ec´edent, on voit que l’existence des diff´erentielles holomorphes sur X est ´equivalente ` a l’existence des sections du fibr´e OXk (a) sur Xk . 1.3. Les in´ egalit´ es de Morse holomorphes Soit L → Y un fibr´e holomorphe en droites sur une vari´et´e complexe compacte Y de dimension N . On se propose d’´evaluer l’ordre de croissance de la dimension de l’espace des sections globales  h0 (Y, L⊗m ) := dim H 0 Y, L⊗m

lorsque m → ∞. Pour cela, on dispose de la c´el`ebre formule de Riemann-RochHirzebruch-Grothendieck, qui exprime la caract´eristique d’Euler de L⊗m comme suit Z N X (−1)j hj (Y, L⊗m ). ch(L⊗m ) · Todd(X) = (11) Y

j=0

C’est un r´esultat ´evidemment fondamental ; toutefois, la pr´esence des groupes de cohomologie sup´erieurs dans le membre de droite de (11) fait que son utilisation dans le but d’´evaluer l’espace des sections globales de L⊗m est a priori assez limit´ee. Une version tr`es raffin´ee de ce type de r´esultat permettant d’´evaluer individuellement les groupes de cohomologie a ´et´e obtenue par J.-P. Demailly dans [Dem85]. Soit h une m´etrique hermitienne non singuli`ere sur L, et soit ΘL,h la forme de courbure correspondante. Pour chaque 0 6 q 6 N , on d´esigne par Y (ΘL,h , q) l’ensemble des points x ∈ Y en lesquels la forme de courbure ΘL,h a pr´ecis´ement q valeurs propres n´egatives et n − q valeurs propres positives. Nous remarquons ici que pour d´efinir les valeurs propres de ΘL,h on utilise une m´etrique de r´ef´erence sur la vari´et´e Y , mais leur signe ne d´epend pas de cette structure suppl´ementaire. Aussi, les valeurs propres nulles ne jouent aucun rˆole.

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

89

Nous d´efinissons ´egalement l’ensemble de points d’indice au plus q comme suit [ Y (ΘL,h , 6 q) := Y (ΘL,h , r). 06r6q

Le r´esultat suivant est un corollaire du th´eor`eme principal de [Dem85]. Th´ eor` eme 1.5 ([Dem85]). — Sous les hypoth`eses et notations pr´ec´edentes, on a l’in´egalit´e asymptotique Z mN 0 ⊗m 1 ⊗m ΘN − o(mn ) ; h (Y, L ) − h (Y, L ) > N ! Y (ΘL,h ,61) L,h R en particulier, si Y (ΘL,h ,61) ΘN L,h > 0, alors L est gros.

Les ensembles Y (ΘL,h , 6 1) sont difficiles `a manipuler, et pour cette raison le r´esultat pr´ec´edent est souvent utilis´e dans sa version alg´ebrique ([Tra95]). Par d´efinition, un fibr´e L est nef (num´eriquement effectif) si sa classe de Chern c1 (L) est limite de classes de Q-fibr´es amples. Corollaire 1.6 ([Tra95]). — Soit Y une vari´et´e projective, et soient F et G deux fibr´es en droites nef sur Y , tels que c1 (L) = c1 (F ) − c1 (G). Si le produit d’intersection F N − N F N −1 G

(12)

est strictement positif, alors L est gros, i.e. il existe une constante C > 0 telle que h0 (Y, L⊗m ) > CmN , pour tout m > 1. Le r´esultat suivant est une version ponctuelle de ce corollaire. Corollaire 1.7 ([Dem85]). — Soit g une forme r´eelle de type (1,1) sur une vari´et´e compacte Y de dimension N . Supposons qu’on puisse ´ecrire g = γ1 − γ2 o` u γ1 et γ2 sont des formes semi-positives sur Y . Alors (13)

χ(g,61) g N > γ1N − N γ1N −1 γ2 .

Donc s’il existe un Q-fibr´e L tel que {g} = c1 (L), et si Z Z N γ1N −1 γ2 > 0, γ1 − N Y

Y

alors L est gros.

Dans la formule (13) ci-dessus, nous avons not´e la fonction caract´eristique de l’ensemble de points d’indice au plus 1 de g par χ(g,61) . Nous d´esirons utiliser ces r´esultats pour montrer l’existence d’un vecteur a = (a1 , . . . , ak ) ∈ Zk+ tel que le fibr´e correspondant OXk (a) soit gros. Le corollaire 1.6 montre qu’il suffit d’´ecrire ce fibr´e comme diff´erence de fibr´es nef, telle que le

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

90

produit d’intersection (12) soit strictement positif. Nous allons analyser les propri´et´es num´eriques de OXk (a) ; ce sera l’objet du paragraphe suivant. 1.4. Propri´ et´ es num´ eriques et classes de Chern On voit sans peine que le fibr´e OX1 (1) est relativement ample (par rapport `a la projection π1 ), mais d`es que k > 2, ceci n’est plus vrai. En effet, consid´erons une courbe rationnelle C ⊂ X1 contenue dans une fibre de l’application π1 : X1 → X. L’espace tangent ` a C est un sous-fibr´e de V1 |C , et consid´erons la relev´ee canonique C1 := P(TC ) de C dans X2 . Nous avons OX2 (1) · C1 = TC⋆ · C = −2 donc on en d´eduit que le fibr´e OX2 (1) est tr`es loin d’ˆetre relativement ample par rapport ` a la projection π2 : X2 → X. N´eanmoins, on a le r´esultat suivant, d´emontr´e dans [Dem95], [Div08], [DR11]. Lemme 1.8 ([Dem95], [Div08], [DR11]). — Soit X ⊂ Pq une vari´et´e projective ; pour chaque entier k > 2 on note a := (a1 , . . . , ak ) ∈ Zk+ un vecteur dont les composantes sont des entiers positifs tels que pour tout j = 1, . . . , k − 2 on ait (14)

aj > 3aj+1

ak−1 > 2ak > 0 ;

on note ´egalement |a| := a1 + . . . + ak . Si OX (1) d´esigne la restriction du diviseur hyperplan correspondant au plongement X ⊂ Pq ` a X, alors le fibr´e (15)

OXk (a) ⊗ OX (2|a|)

est nef. Preuve (esquisse). — Nous allons rappeler ici en quelques lignes les arguments de [Div08] ; on proc`ede par r´ecurrence sur k. Rappelons d’abord que l’espace cotangent TP⋆ q ⊗ O(2) est globalement engendr´e ; ⋆ comme cons´equence, on en d´eduit que TX ⊗OX (2) a la mˆeme propri´et´e. En particulier, le fibr´e OX1 (1) ⊗ OX (2)

est nef. Supposons que pour un certain rang k nous ayons d´etermin´e un fibr´e nef Ak sur Xk−1 , tel que OXk (1) ⊗ Ak soit nef. Nous voulons trouver Ak+1 sur Xk ayant les mˆemes propri´et´es ; pour cela, on utilise les suites exactes (6) et (7) associ´ees `a la vari´et´e dirig´ee (Xk , Vk ) : 0 → TXk /Xk−1 → Vk → OXk (−1) → 0

(16) et respectivement (17)

´ ASTERISQUE 361

⋆ 0 → OXk → πk,k−1 Vk−1 ⊗ OXk (1) → TXk /Xk−1 → 0.

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

91

En utilisant la suite (17) on montre l’existence d’un morphisme surjectif  ⋆ ⋆ ⋆ → TX ⊗ OXk (2) → 0 Vk−1 Λ2 πk,k−1 k /Xk−1

⋆ donc le fibr´e TX ⊗ OXk (2) ⊗ A⊗2 erons la suite duale `a (16) ; on k est nef. Consid´ k /Xk−1 en d´eduit que le fibr´e

Vk⋆ ⊗ Ak+1

est nef, et on note Ak+1 := A⊗3 k ⊗ OXk (2). En conclusion, le fibr´e

Mk := OXk (2 · 3k−2 , . . . , 2, 1) ⊗ OX (2 · 3k−1 ) est nef – ceci est un cas particulier de l’´enonc´e 1.8. Le cas g´en´eral s’en d´eduit ais´ement en observant que le fibr´e OXk (a)⊗OX (2|a|) peut s’exprimer en fonction de M1 , . . . , Mk comme combinaison lin´eaire ` a coefficients positifs, grˆace aux in´egalit´es (14). Pour une preuve compl`ete de ce lemme, nous renvoyons `a [Div08]. Consid´erons maintenant a ∈ Zk un vecteur dont les composantes v´erifient les relations alg´ebriques (14). Il sera important par la suite (cf. [DMR10]) d’avoir un crit`ere pour l’existence des sections des multiples du Q-fibr´e −δ|a|

OXk (a) ⊗ KX

o` u δ est un nombre rationnel positif. Pour cela on ´ecrit le fibr´e  −δ|a| −δ|a|  OXk (a) ⊗ KX = OXk (a) ⊗ OX (2|a|) ⊗ OX (−2|a|) ⊗ KX

comme diff´erence de deux fibr´es nef (cf. le lemme pr´ec´edent), et les in´egalit´es de −δ|a| Morse holomorphes montrent que le fibr´e OXk (a)⊗KX sera gros d`es que le produit d’intersection n n −1 δ|a|  OXk (a) ⊗ OX (2|a|) k − nk OXk (a) ⊗ OX (2|a|) k · OX (2|a|) ⊗ KX est strictement positif, o` u nk := n + k(n − 1).

Pour le reste de ce texte nous allons adopter les notations et conventions suivantes. Soient l > k deux entiers positifs. La classe de Chern du fibr´e OXk (1), ainsi que son image inverse sur Xl par l’application πl,k : Xl → Xk , sera not´ee uk . La classe de Chern de la section hyperplane OX (1), ainsi que ses images inverses, sera d´esign´ee par le symbole h. Le produit d’intersection pr´ec´edent devient !nk −1 !nk k k X X  aj uj + 2|a|h aj uj + 2|a|h − nk |a| (18) 2h − δc1 (X) j=1

j=1

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

92

et on voit clairement que pour d´eterminer son signe on va devoir ´evaluer les nombres hp ui11 ui22 . . . uikk o` u i1 + . . . + ik + p = nk . Pour cela, nous allons employer une r´ecurrence `a de multiples reprises, et nous rappelons maintenant `a cet effet les relations alg´ebriques entre (uj )j=1,...k et les classes de Chern de X. Par construction, pour chaque k > 1, on a unk +

(19)

n X

cs0 (Vk−1 )ukn−s0 = 0.

s0 =1

Les suites exactes (16) et (17) permettent d’exprimer les classes de Chern de Vk−1 en fonction de uk−1 et des classes de Chern de Vk−2 (cf. [Dem95], [Div08]) : pour chaque l = 1, . . . , n on a cs0 (Vk−1 ) =

(20)

l X

0 −s1 b(s0 , s1 )usk−1 cs1 (Vk−2 )

s1 =1

o` u on note b(s0 , s1 ) := (21) X cs0 (Vk−1 ) =

n−s1 s0 −s1





n−s1 s0 −s1 −1

 . En it´erant cette ´egalit´e, on obtient s

0 −s1 s1 −s2 b(s0 , s1 , . . . , sk−1 ) usk−1 uk−2 . . . u1k−2

−sk−1

csk−1 (X)

s0 >s1 >...>sk−1 >1

avec b(s0 , s1 , . . . , sk−1 ) := b(s0 , s1 )b(s1 , s2 ) . . . b(sk−2 , sk−1 ). Un calcul imm´ediat montre que (22)

b(s0 , s1 , . . . , sk−1 ) = ε(s)(n − s0 + 1)s0 −sk−1

k−2 Y j=0

1 (sj − sj+1 )!

o` u ε(s) est un nombre rationnel, dont la valeur absolue est inf´erieure `a 1. On peut donc ´ecrire l’´egalit´e (20) sous la forme (23)

X

cs0 (Vk−1 ) =

ε(i)

p+|i|=s0

o` u i := (i1 , . . . , ik−1 ), ui := dans (19), on obtient (24)

unk +

X

Qk−1

p+|i|+ik =n

q=1

ε(i)

(n − s0 + 1)s0 −p i u cp (X), i!

i

uqq et |i| := i1 + . . . + ik−1 . Par substitution

(ik + 1)n−ik −p i ik u uk cp (X) = 0 ; i!

dans la somme pr´ec´edente, on a i := (i1 , . . . , ik−1 ) et ik < n.

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

93

´ 2. DIFFERENTIELLES HOLOMORPHES SUR LES HYPERSURFACES DE L’ESPACE PROJECTIF, I Nous allons pr´esenter dans la suite la construction des diff´erentielles holomorphes dans l’ordre chronologique, selon [Siu02], [Siu12], [DMR10] et [Dem11], respectivement. Dans l’article [Siu12] publi´e tr`es r´ecemment sur la Toile, Y.-T. Siu apporte des pr´ecisions au sujet de son ancien projet dans [Siu02], [Siu04]. Compte tenu de la taille impressionnante du manuscrit, il nous est difficile de pr´esenter ici toutes les subtilit´es des arguments invoqu´es dans la preuve. Cependant, dans ce chapitre nous allons essayer de tracer le fil rouge des id´ees contenues dans l’article [Siu12], lesquelles impliqueraient in fine une preuve de la conjecture de S. Kobayashi pour les hypersurfaces g´en´eriques de grand degr´e de Pn+1 . Soit X = (P = 0) une hypersurface de degr´e d dans l’espace projectif. Nous fixons des coordonn´ees homog`enes z0 , . . . , zn+1 sur Pn+1 , et pour chaque j = 1, . . . , n + 1 z ´ donn´e un couple d’entiers soient xj = z0j les coordonn´ees affines associ´ees. Etant positifs (m0 , m) tel que (25)

m0 + 2m < d,

consid´erons l’espace vectoriel V(m0 , m) des polynˆomes X pα (z)dz1α1. . . dznαn P= |α1 |+...+n|αn |=m

o` u pour chaque indice α le coefficient pα est un polynˆome de degr´e inf´erieur ou ´egal a` m0 . La dimension de cet espace est minor´ee par    m0 + n + 1 ⌊ m n ⌋ + n(n + 1) − 1 , m0 n(n + 1) − 1

comme on le voit imm´ediatement par des calculs ´el´ementaires. Il se trouve que P d´efinit une diff´erentielle m´eromorphe d’ordre n sur Pn+1 ; en utilisant les changements de coordonn´ees usuels de l’espace projectif, on d´eduit dans [Siu12] que l’ordre des pˆ oles de la restriction P|X n’exc`ede pas m0 + 2m. Ensuite, Y.-T. Siu montre (cf. proposition 3.8, p. 58, op. cit.) que l’espace vectoriel V(m0 , m) contient un ´el´ement P qui s’annule identiquement sur la sous-vari´et´e S de X d´ecrite en coordonn´ees affines par l’´equation (26)

Px1 = 1

(on note ici Px1 la d´eriv´ee partielle de P par rapport `a la variable x1 ). Si P est assez g´en´eral, alors S sera non singuli`ere, et on en d´eduit que le quotient −1  Px1 − 1 P est une diff´erentielle holomorphe sur X, `a valeurs dans O(m0 + 2m − d).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

94

La condition d’annulation de P le long de S se traduit par un syst`eme d’´equations lin´eaires homog`enes (o` u les inconnues sont les coefficients des pα ). Afin de montrer que le syst`eme en question admet une solution non triviale, on tient compte du fait que les 1-formes dx1 , . . . , dxn ne sont pas ind´ependantes par restriction `a X, car n X Pxi (x)dxi = 0. (27) i=1

Par la relation (27) et celles obtenues en la d´erivant on peut donc ´eliminer dx1 , . . . , dn x1 dans l’expression de P (quitte `a multiplier P avec une puissance a cette op´eration, le nombre d’´equations de notre syst`eme ad´equate de Px1 ). Suite ` diminue consid´erablement, ce qui est crucial. Ces arguments entraˆınent le r´esultat suivant. Proposition 2.1 ([Siu02]). — Consid´erons les param`etres r´eels ε, ε′ , θ0 , θ′ , θ tels que (28)

nθ0 + θ > n + ε,

θ ′ < 1 − ε′ .

Alors il existe m0 6 dθ0 et m 6 dθ , ainsi qu’un entier positif explicitement calculable d(n, ε, ε′ ), tel que pour toute hypersurface X ⊂ Pn+1 de degr´e d > d(n, ε, ε′ ) il existe une diff´erentielle holomorphe P ∈ V(m0 , m) non identiquement nulle, ` a valeurs dans ′ le fibr´e OPn+1 (−dθ ). Nous remarquons que les in´egalit´es (28) sont n´ecessaires dans la preuve du r´esultat pr´ec´edent, ceci afin de montrer que le nombre d’´equations du syst`eme d’´equations lin´eaires homog`ene mentionn´e auparavant est inf´erieur au nombre des inconnues. Aussi, il se trouve que sous la condition m0 + 2m < d, la restriction ` a X de tout ´el´ement de V(m0 , m) non identiquement nul sera non triviale, cf. Lemma 3.4, p. 51. La quantit´e d(n, ε, ε′ ) peut ˆetre donn´ee explicitement, voir [Siu12, p. 61]. Les origines de la construction des diff´erentielles holomorphes telle qu’elle est envisag´ee dans [Siu02] se trouvent dans la construction classique des 1-formes holomorphes sur les courbes planes. Soit C := (P = 0) ⊂ P2 une courbe non singuli`ere. Alors on d´efinit la forme λ (en coordonn´ees affines) dy dx =− ; Py Px elle sera holomorphe d`es que le degr´e de P sera assez ´elev´e. En conclusion, grˆ ace ` a la proposition 2.1, on contrˆole parfaitement les degr´es de pα , i.e. m0 6 dθ0 . Ceci marque une diff´erence de taille par rapport aux ´enonc´es analogues dans [DMR10], ..., obtenus « abstraitement », e.g. par les in´egalit´es de Morse holomorphes, et c’est une information particuli`erement pr´ecieuse (cf. les commentaires

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

95

dans l’introduction de [Siu12], et dans le dernier paragraphe de ce texte). En contrepartie, le degr´e d(n, ε, ε′ ) est beaucoup plus grand que celui obtenu dans [DMR10] (encore plus grand que celui de [Dem12]).

´ 3. DIFFERENTIELLES HOLOMORPHES SUR LES HYPERSURFACES DE L’ESPACE PROJECTIF, II Soit X une hypersurface non singuli`ere de degr´e d de l’espace projectif Pn+1 . Nous allons suivre dans ce paragraphe l’approche de S. Diverio, J. Merker et E. Rousseau dans [DMR10] pour montrer l’existence des diff´erentielles holomorphes d’ordre n et de −δn m degr´e m ` a valeurs dans KX sur X, sous l’hypoth`ese d > d1n . Ici d1n et δn d´esignent des nombres rationnels positifs explicitement calculables en fonction de n = dim(X). Signalons ´egalement l’article tr`es int´eressant [BeKi10] qui traite de questions voisines, et que nous n’allons malheureusement pas pouvoir pr´esenter ici. L’id´ee de [DMR10] est d’utiliser la version alg´ebrique des in´egalit´es de Morse (cf. corollaire 1.6) ; on doit montrer que le produit d’intersection (12) est positif si k = n (et si le degr´e d > d1n est assez grand). Ce choix n’est pas arbitraire : suite aux r´esultats de [Div08], [Rou06a], on sait que l’ordre k = n est le minimum pour lequel on puisse esp´erer montrer que le groupe  H 0 X, Ek,m n’est pas r´eduit ` a z´ero, si m ≫ 0.

Les classes de Chern de l’hypersurface X ⊂ Pn+1 s’´ecrivent ainsi (voir e.g. [DR11]) cp (X) = Qp (d)hp

(29)

 p−r Pp o` u Qp (d) = r=0 (−1)r+p n+2 d est un polynˆome de degr´e p en d. Il sera comr mode d’introduire la notation (30)

Qp (d) =

p X

qr dp−r

r=0

r

pour chaque r = 0, . . . , p. En combinant les ´egalit´es (24) et (29) nous o` u |qr | 6 (n+2) r! obtenons la formule (31)

unk +

X

p X

p+|i|+ik =n r=0

ε(i)

(ik + 1)n−ik −p qr dp−r hp ui uikk = 0, i!

o` u on pose ε(i) = 0 si ik = n. Les arguments de [DMR10] visant `a d´emontrer le th´eor`eme 0.3 s’articulent autour des trois lemmes suivants.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

96

Lemme 3.1 ([Div09]). — Soit j := (j1 , . . . , jn ) ∈ Zn+ un vecteur dont les coefficients sont des entiers positifs et soit s ∈ Z+ tels que s + |j| = n2 . Alors le produit d’intersection hs uj11 . . . ujnn

(32)

est un polynˆ ome en d de degr´e inf´erieur ` a n + 1 − s. Ainsi, on peut ´ecrire (18) sous la forme !n2 !n2 −1 n n X X  at ut + 2|a|h − n2 |a| at ut + 2|a|h 2h − δc1 (X) t=1

t=1

=

n+1 X

bq (a)dq + δ

n+1 X q=0

q=0

ebq (a)dq .

o` u les bq et ebq de la formule pr´ec´edente sont des polynˆ omes homog`enes de degr´e n2 en a = (a1 , . . . , an ).

Preuve (esquisse). — On prouve ce lemme par une double r´ecurrence sur n et jn : si jn−1 jn < n − 1, la quantit´e (32) vaut z´ero, car la classe hs uj11 . . . un−1 vit en codimension s + j1 + · · · + jn−1 = s + |n| − jn > n2 − n + 1 = dim(Xn−1 ).

Si jn = n − 1, on a (33)

j

j

n−1 n−1 n−1 hs uj11 . . . un−1 un = hp uj11 . . . un−1

(car la restriction du fibr´e en droites OXn (1) aux fibres du morphisme Xn → Xn−1 co¨ıncide avec le fibr´e tautologique sur l’espace projectif) et on poursuit le raisonnement. Si in > n, alors on a hs uj11 . . . ujnn = −

X

p X

ε(i)qr dp−r

p+|i|+in =n r=0

(in + 1)n−in −p p+s i+j jn +in −n h u un i!

et le lemme est d´emontr´e grˆ ace `a l’hypoth`ese de r´ecurrence, car dans la somme cidessus on a jn + in − n < jn . Dans le lemme suivant, nous allons analyser le coefficient bn+1 du polynˆome Bδ,a (d) :=

n+1 X q=0

 bq (a) + δebq (a) dq .

Pour cela, il sera utile de d´efinir le pav´e  aj C := (a1 , . . . , an ) ∈ Rn : 3n−j + . . . + 3 6 2 6 3n−j + . . . + 3 + 1, j = 1, . . . , n − 1 n 2 et 1 6 an 6 n . Lemme 3.2 ([Div09]). — Il existe un ´el´ement a ∈ C ∩ Zn tel que bn+1 (a) > 1. ´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

97

Preuve (esquisse). — Tout d’abord, remarquons que, si a ∈ C, alors le fibr´e OXn (a) ⊗ OX (2|a|) est nef, car les composantes de a satisfont les relations alg´ebriques requises par le lemme 1.8. Ceci combin´e avec le lemme 3.1 montre que bn+1 (a) > 0 pour tout a ∈ C. Si le polynˆ ome bn+1 est identiquement nul par restriction `a l’ensemble C ∩ Zn , alors il est ais´e de voir que ceci entraˆıne l’annulation de tous ses coefficients. Mais cette ´eventualit´e ne peut pas se produire, car un1 . . . unn > 0 d`es que d > n + 2 (i.e. d`es que KX est ample). Il nous reste ` a majorer de fa¸con effective les autres coefficients de Bδ,a . Les composantes de a sont born´ees explicitement par rapport `a n, car a ∈ C. Par la formule du binˆ ome, on voit qu’il suffit d’estimer les coefficients des puissances de d dans les expressions hα uj11 . . . ujnn o` u α + |j| = n2 (cf. [DMR10, th´eor`eme 5.1]). Lemme 3.3 ([DMR10]). — Soit k > 1 un entier positif. On note c(k) le maximum des valeurs absolues des coefficients des polynˆ omes hα uj11 . . . ujkk , o` u α + |j| = n + k(n − 1). Alors nous avons l’in´egalit´e k(n−1)+1 c(k) 6 n(n + 2)(k + n + 2) c(k − 1); 3

3

en particulier, c(n) 6 2 2 (n

+n)

3

3

n 2 (n

+n)

.

Preuve (esquisse). — L’argument est une « version it´er´ee » de la preuve du lemme 3.1. Consid´erons un vecteur j := (j1 , . . . , jk ) et un entier α tels que α + |j| = n + k(n − 1). Comme nous l’avons d´ej` a vu, le produit correspondant hα uj11 . . . ujkk est un polynˆome de degr´e au plus n + 1 par rapport `a d. Sans perte de g´en´eralit´e on peut supposer jk > n, et comme dans la preuve de 3.1 on ´ecrit j

k−1 hα uj11 . . . ujkk = −hα uj11 . . . uk−1

n X

ujkk −l cl (Vk−1 )

l=1

en utilisant la formule (19). On applique ce proc´ed´e `a plusieurs reprises, afin de diminuer la puissance de uk jusqu’` a n − 1 ; ceci donne j

k−1 (34) hα uj11 . . . ujkk = ±hα uj11 . . . uk−1

jk X −n+1 s=0

X

cl1 (Vk−1 ) . . . cls (Vk−1 ).

l1 +...+ls =jk −n+1

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

98

Les indices lp figurant dans la somme varient entre 1 et n ; par la formule (23), nous obtenons (35)

cl (Vk−1 ) =

p X X

ε(i)

p+|i|=l r=0

(n − l + 1)l−p qr dp−r hr ui . i!

Tr`es grossi`erement, d’apr`es la formule (34), pour trouver un majorant de c(k), il suffit de multiplier c(k − 1) par le nombre ! pβ jkX −n+1 s X Y X X (n − lβ + 1)lβ −pβ |ε(iβ )| qrβ . iβ ! s=0 r =0 l1 +...+ls =jk −n+1 β=1

pβ +|iβ |=lβ

β

La quantit´e sous le signe produit est major´ee par lβ ; nk + 3

on peut v´erifier cette affirmation comme suit. Pour chaque β = 1, . . . , s et lβ 6 n on doit ´evaluer le nombre (36)

lβ pβ X X

X

pβ =1 rβ =1 |iβ |=lβ −pβ

L’in´egalit´e (n+2) rβ !



Ppβ

rβ =1 qrβ

(n − lβ + 1)lβ −pβ qrβ . iβ !

6 (n + 3)pβ est une cons´equence directe du fait que qrβ 6

, par (30). Ensuite, par la formule du binˆome on obtient l’´egalit´e X

|iβ |=lβ −pβ

1 (k − 1)lβ −pβ = , iβ ! (lβ − pβ )!

et la quantit´e (36) sera donc major´ee par (37)

lβ X (n + 3)pβ (k − 1)lβ −pβ (n − lβ + 1)lβ −pβ 6 (3 + k + nk)lβ ; (l − p )! β β p =1 β

en conclusion, on doit majorer la somme  jkX −n+1  s jk − n + 1 3 + k + nk . (38) s s=0 Mais ceci est vite fait, car l’expression (38) vaut j −n+1 (39) nk + k + 4 k

et finalement, pour tout k 6 n, nous obtenons l’in´egalit´e kn (40) c(k) 6 n2 + n + 4 c(k − 1),

`a partir de laquelle on d´eduit imm´ediatement la majoration de c(n).

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

99

Nous nous retrouvons ` a pr´esent dans la situation suivante. Le produit d’intersection figurant dans le lemme 3.1 s’´ecrit n+1 X

bq (a)dq + δ

q=0

n+1 X q=0

ebq (a)dq ;

d’apr`es le lemme 3.2, nous pouvons choisir un vecteur a0 ∈ C tel que bn+1 (a0 ) > 1. Le lemme 3.3 et la relation a0 ∈ C fournissent une majoration explicite en fonction   de n pour les quantit´es (bq (a0 ) 06q6n et ebq (a0 ) 06q6n+1 . On peut donc choisir un nombre rationnel positif δ = δn tel que bn+1 (a0 ) + δnebn+1 (a0 ) > 1/2.

Ensuite, dans [DMR10] les auteurs d´eterminent une quantit´e effective d1n telle que la positivit´e du (18) sera v´erifi´ee d`es lors que d > d1n ; ceci se fait par des consid´erations ´el´ementaires sur l’estimation des valeurs absolues des racines des polynˆomes d’une variable en fonction de la valeur absolue de leurs coefficients. Pour r´esumer, il existe (d1n , δn ) ∈ Z+ × Q+ tel que pour toute hypersurface non singuli`ere X de Pn+1 de degr´e d > d1n on ait (41)

−δn m ⋆ H 0 (X, En,m TX ⊗ KX ) 6= 0.

´ ´ E ´ DE 4. DIFFERENTIELLES HOLOMORPHES SUR UNE VARIET ´ ´ TYPE GENERAL L’´etude des questions qui nous int´eressent dans cet expos´e a enregistr´e un progr`es important grˆ ace aux travaux de J.-P. Demailly dans [Dem11], [Dem12]. Ceux-ci montrent que le fibr´e OXkGG (1) est gros, pour toute vari´et´e de type g´en´eral X, `a condition que k ≫ 0. Un r´esultat analogue dans le cas des hypersurfaces de Pn+1 avait ´et´e ´etabli auparavant par J. Merker dans [Merk10], par des m´ethodes diff´erentes. L’article [Dem11] est tr`es riche en contenu ; nous nous proposons de n’illustrer ici que quelques aspects qui nous paraissent particuli`erement frappants. 4.1. M´ etriques sur le Q-fibr´ e OXkGG (1) Tour d’abord on cherche ` a munir le Q-fibr´e OXkGG (1) d’une m´etrique, afin d’utiliser la version analytique des in´egalit´es de Morse holomorphes (cf. [Dem85], et th´eor`eme 1.5 dans le premier paragraphe de ce texte).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

100

Si k = 1, l’espace J1 (X) s’identifie avec l’espace tangent TX de X, et une m´etrique sur OX1GG (1) est simplement ce qu’on appelle une m´etrique de Finsler sur X. Par exemple, si on fixe une m´etrique hermitienne ω sur X, alors elle induit naturellement une m´etrique sur OX1GG (1). Si k > 2, la seule donn´ee (X, ω) n’est pas suffisante pour munir OXkGG (1) d’une S m´etrique. Soit X = α∈Λ Uα un recouvrement de X par un nombre fini d’ouverts de coordonn´ees ; pour chaque α ∈ Λ on fixe les coordonn´ees zα = (zα1 , . . . , zαn ) : Uα → Cn . Comme nous l’avons vu dans le paragraphe 2.1, ceci induit une carte pour la vari´et´e de jets Jk (X)|Uα → Uα × Cnk , d´efinie comme suit :  f 7→ f (0), fα′ (0), . . . , fα(k) (0)

o` u fα := zα ◦ f est l’image du k-jet f par l’application zα . La d´efinition de la m´etrique sur OXkGG (1) fait intervenir des param`etres (εj )j=1,...k tels que 1 = ε1 ≫ ε2 ≫ . . . ≫ εk > 0, un nombre entier p assez divisible, une m´etrique hermitienne ω sur X ainsi qu’une partition de l’unit´e (θα )α∈Λ subordonn´ee `a (Uα ). ´ Etant donn´e un k-jet f ∈ Jk,x (X) en x ∈ X, on d´efinit sa norme par la formule !1/p k X X 2p (s) 2p/s (42) Ψε,ω (f ) := θα εs |fα (0)|ωx . α∈Λ

s=1

La fonction Ψε,ω d´efinit une exhaustion de la vari´et´e des k-jets Jk (X) de X, et elle induit une m´etrique hε sur OXkGG (1) dont la forme de courbure sera d´esign´ee par Θε,k . Si on note pk la projection de Jk (X) \ {0} sur XkGG , on a √ −1 ∂∂ log Ψε,ω . Θε,k = 2π Afin de montrer que OXkGG (1) est gros, il suffit de montrer l’in´egalit´e Z n(k+1)−1 Θε,k > 0. (43) p⋆k



XkGG (Θε,k ,61)

En regardant la d´efinition (42) de la fonction Ψε,ω on pourrait a priori ´emettre des doutes sur les propri´et´es de positivit´e de la forme de courbure associ´ee. En effet, si L est un fibr´e en droites et si on se donne une famille de fonctions ind´efiniment d´erivables ϕα : Uα → R, on peut construire une m´etrique h sur L en recollant des m´etriques locales e−ϕα par la partition de l’unit´e θα . En g´en´eral, la courbure de (L, h) peut ˆetre substantiellement diff´erente de la hessienne des fonctions locales ϕα . Cependant, nous nous trouvons ici dans une situation sp´eciale : si les param`etres ε2 , . . . , εk tendent vers z´ero, la limite de Ψε,ω se trouve ˆetre ind´ependante de la partition de l’unit´e (θα ). Donc, si les (εj ) sont petits, on peut esp´erer que l’influence des (θα ) sera r´eduite. C’est ce qu’on va montrer ensuite, cf. [Dem11]. Soit α ∈ Λ, et supposons qu’on dispose d’un biholomorphisme ρα : πk−1 (Uα ) → πk−1 (Uα ),

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

101

o` u πk : XkGG → X est la projection naturelle. On peut appliquer la formule de changement de variables, et l’int´egrale `a calculer Z n(k+1)−1 (44) Θε,k XkGG (Θε,k ,61)|Uα

est ´egale ` a (45)

Z

  n(k+1)−1 ρ⋆α Θε,k ,

XkGG (Θε,k ,61)|Uα

o` u on utilise la mˆeme notation XkGG (Θε,k , 6 1)|Uα pour d´esigner l’ensemble des points d’indice au plus 1 dans XkGG qui se projettent sur Uα pour les deux formes sous le signe de la somme dans (44) et (45) respectivement. En utilisant la carte Jk (X)|Uα → Uα × Ckn , on d´efinit le biholomorphisme ρα,ε : a fibre Jk (X)|Uα → Jk (X)|Uα fibre ` (46)

−2 −k ρα,ε (x, ξ1 , ξ2 . . . , ξk ) = (x, ε−1 1 ξ1 , ε2 ξ2 . . . , εk ξk ).

L’importance de cette application r´eside dans le fait que la fonction Ψε,ω ◦ ρα,ε est presque ind´ependante de la partition de l’unit´e ! Pour ´etayer ces propos, on esquisse maintenant la v´erification de cette affirmation pour le cas particulier k = 2. On note gαβ la fonction de transition correspondant aux coordonn´ees (zα ) et (zβ ), i.e. zβ = gαβ (zα ) ; la fonction de transition induite sur l’espace des 2-jets est  (47) (ξβ1 , ξβ2 ) = dgαβ ξα1 , dgαβ ξα2 + d2 gαβ (ξα1 , ξα1 )

o` u les d´eriv´ees sont calcul´ees en zα . Soit f un 2-jet en zα ; les composantes du 2-jet ρα,ε ◦ f par rapport aux coordon ′′ es la formule (47), ses composantes par rapport aux n´ees α sont fα′ , ε−2 2 fα et, d’apr` coordonn´ees β sont  ′′ 2 ′ ′ dgαβ fα′ , ε−2 2 dgαβ fα + d gαβ (fα , fα ) .

Alors en comparant les expressions ′ 2p fα |ω + ε2p ε−2 fα′′ p , dgαβ fα′ 2p + ε2p ε−2 dgαβ fα′′ + d2 gαβ (fα′ , fα′ ) p 2 2 2 2 ω ω ω on voit qu’elles co¨ıncident ` a l’ordre C ∞ , modulo des termes d’erreur en ε.

En conclusion, cet argument montre que dans l’´evaluation de l’int´egrale (43) on peut supposer que la fonction Ψε,ω est r´eduite `a son expression locale (avec changement d’´echelle) ! p1 k X 2p/j ξ j , Ψ(z, ξ 1 , . . . , ξ k ) = ω

j=1

o` u chaque ξ j est interpr´et´e comme vecteur tangent en z.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

102

En utilisant des coordonn´ees g´eod´esiques pour la m´etrique ω, on a X 2 X j 2 ξ = ξ j + cpmβ α zp zm ξβj ξαj , α ω α

m,p,α,β

modulo des termes d’ordre 3 en z et, grˆace `a cette formule, on montre (cf. [Dem11, proposition 2.13]) que la forme de courbure associ´ee `a Ψ s’´ecrit Θε,k

√ k −1 X 1 |ξi |2p/i = ωk (ξ) + P 2π i=1 i k ξ j 2p/j j=1

on a not´e ici



−1 ωk (ξ) := ∂∂ log 2π

X

cjmβα

m,j,α,β

k X i=1

i 2p/i

|ξ |

ξβi ξαi j dz ∧ dz m ; |ξ i |2

!1/p

l’analogue de la forme de Fubini-Study pour l’espace projectif `a poids, et les coeffi⋆ , ω) au point z. cients (cjmβα ) sont ceux de la forme de courbure de (TX ` pr´esent, il est clair que la positivit´e relative du fibr´e OX GG (1) est cruciale : l’ouvert A k des points o` u sa forme de courbure est d’indice au plus 1 est enti`erement d´etermin´e par la courbure de (X, ω). En anticipant un peu sur la suite, on peut montrer que, lorsque k ≫ 0, ce n’est pas l’int´egralit´e du tenseur de courbure qui contribue aux termes dominants, mais seulement sa trace, `a savoir la courbure de Ricci (voir aussi le calcul de la caract´eristique d’Euler dans [GG80]). Une fois cette situation comprise, le calcul de l’int´egrale (43) dans [Dem11] ne pr´esente plus de complications importantes, mais il est assez long et comporte quelques points d´elicats. Avant d’en donner un tr`es bref aper¸cu dans le paragraphe suivant, une observation g´en´erale voisine se d´egage quant aux techniques discut´ees ici. Remarque 4.1. — Consid´erons une suite exacte de fibr´es 0→F →E→G→0 et supposons F et G munis de m´etriques hermitiennes hF et hG respectivement. Via un scindage C ∞ (non holomorphe en g´en´eral) E ≃ F ⊕ G, on obtient une m´etrique sur E, dont la forme de courbure s’exprime en fonction de ΘF,hF , ΘG,hG et de la seconde forme fondamentale de la suite pr´ec´edente. Cette derni`ere quantit´e (i.e. son analogue pour les applications entre espaces fibr´es) semble absente de nos consid´erations dans ce paragraphe ; bien entendu, ce n’est pas le cas. N’oublions pas que c’est la forme de courbure du fibr´e OE (1) qui nous int´eresse, et dans son expression on a la courbure de E ´evalu´ee dans les directions [ξ] du fibr´e dual E ⋆ . Ainsi, la seconde forme fondamentale apparaˆıt dans les termes non diagonaux, qui ne sont pas perceptibles lorsqu’on fait agir les changements d’´echelle ρε , mais apparaissent certainement dans les termes d’erreur.

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

103

Comme cons´equence, on en d´eduit l’´enonc´e suivant : supposons que F (ou G) est muni d’une m´etrique dont la forme de courbure est semi-positive, et que G (ou F ) est gros (au sens de Hartshorne). Alors E est gros.

4.2. Les calculs En travaillant en coordonn´ees polaires (cf. [Dem11, p. 18]), on voit que l’int´egrale (43) devient Z Z (n + kn − 1)! (48) χgk (z, x, u)gk (z, x, u)n dνdµ n!(k!)n z∈X (x,u)∈∆k−1 ×(S 2n−1 )k o` u on utilise les notations ∆k−1 :=

  n X xi = 1 ; (x1 , . . . , xk ) ∈ Rk+ : i=1

les mesures par rapport auxquelles on int`egre sont dν := (x1 . . . xk )n−1 dλ, Finalement, on note (49)

k dµ := mesure produit sur S 2n−1 .

√ k −1 X xi X cjmβα uiβ uiα dz j ∧ dz m gk (z, x, u) := 2π i=1 i m,j,α,β

et χgk est la fonction caract´eristique correspondant `a l’ouvert des points (z, x, u) ∈ k X × ∆ × S 2n−1 o` u l’indice de gk est au plus 1.

Pour d´eterminer la valeur asymptotique de la quantit´e (48) lorsque k → ∞, on propose deux m´ethodes dans [Dem12]. – On commence par observer que le calcul est imm´ediat si les coefficients du ⋆ tenseur de courbure (cjmβα )j,m,α,β de (TX , ω) v´erifient (50)

cjmβα = rjm δαβ

(autrement dit, si la matrice de courbure est diagonale et telle que les formes sur la diagonale co¨ıncident). Dans ce cas, la forme gk est particuli`erement simple, nous avons une parfaite corr´elation entre les points d’indice au plus 1 sur XkGG et sur X, et on obtient Z Z  (log k)n n(k+1)−1 (51) Θε,k = χθ θn + O (log k)−1 n n!(k!) XkGG (Θε,k ,61) X

´ o` u θ est la courbure du fibr´e canonique, muni de la m´etrique d´eduite de ω. Etant donn´e que par hypoth`ese KX est ample (ou au moins gros, mais nous n’allons pas discuter cette version ici), on peut supposer que θ est d´efinie positive.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

104

⋆ En g´en´eral il n’y pas de raison que la courbure de (TX , ω) ait une forme aussi particuli`ere que celle demand´ee dans (50). Mais on peut toujours d´ecomposer la forme gk en

gk = gkdiag + gek

o` u dans la d´efinition de gkdiag on remplace chaque coefficient cjmβα par θjm := 1/nδαβ

n X

cjmαα ,

α=1

et dans celle de e gk par e cjmβα := cjmβα − θjm δαβ . On montre (cf. [Dem11]) que la contribution de la forme de trace nulle gek dans le calcul de (48) est de l’ordre k)n−1 de grandeur (log n!(k!)n , ce qui marque la fin de la preuve. Bien entendu, au cours de la « vraie » d´emonstration de [Dem11] il y a quelques points d´elicats – des estim´ees de d´eviation de nature probabiliste – que nous ne pouvons pas ´evoquer ici. Observons pour finir que malgr´e sa souplesse, cette m´ethode ne permet pas de d´eterminer un ordre optimal k `a partir duquel on obtient des sections du fibr´e OXkGG (m), bien qu’elle permette tout de mˆeme d’obtenir des bornes explicites pour k en fonction des invariants de X. – La deuxi`eme m´ethode fait intervenir une borne inf´erieure pour le tenseur de courbure du fibr´e cotangent, dans le sens suivant. Soit E un fibr´e vectoriel sur X, muni d’une m´etrique h dont la forme de courbure en un point x0 ∈ X s’´ecrit √ −1 X Rjiβα dz j ∧ dz i ⊗ eβ ⊗ e⋆α . Θh (E)x0 = 2π i,j,α,β

On dit que (E, h) est positif au sens de Griffiths si on a X

Rjiβα v j v i ξ β ξ α > 0

i,j,α,β

pour tout couple de vecteurs (v, ξ) ∈ TX,x0 × Ex0 . Soit ω une m´etrique sur X ; supposons qu’il existe une forme γ sur X telle que X cjiβα v j v i ξ β ξ α > −γji v j v i |ξ|2 i,j,α,β

⋆ o` u on note cjiβα les coefficients de la courbure de TX par rapport `a la m´etrique d´eduite de ω. Ici v est un vecteur tangent et ξ est un vecteur cotangent en x0 .

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

105

Dans ce cas on ´ecrit la forme gk comme diff´erence de deux formes d´efinies semi-positives sur Xk , notamment gk := gk1 − gk2 ; on note (1) gk

√ k −1 X xi X := 2π i=1 i

m,j,α,β

 cjmβα + γjm δαβ uiβ uiα dz j ∧ dz m

et respectivement (2)

gk := |u|2

X i,j

γji v j v i dz j ∧ dz i .

On contrˆ ole l’int´egrale sur l’ensemble des points d’indice au plus 1 de gk sur Xk en appliquant le corollaire 1.7. En fait, il sera utile de travailler dans un cadre un peu plus g´en´eral, et de consid´erer le fibr´e Lk := OXkGG (1) ⊗ A−δk (cf. notations dans le th´eor`eme 0.4) ; on montre dans [Dem12], pages 52–53 que si k > n on a Z N (n, k) Θn+kn−1 Lk ,hk >

Z

XkGG (hk ,61)

n

X

(ΘKX ,ω + nγ) − c(n, k)

Z

(ΘKX ,ω + nγ)n−1 (ΘA,hA + nγ)

X

o` u les symboles N (n, k) et c(n, k) sont des nombres rationnels positifs explicites tels que n 1 c(n, n) 6 n log(n log 24n) 3 (cf. [Dem12, p. 52–53]). En conclusion, le fibr´e Lk sera gros d`es que la condition num´erique suivante est satisfaite : Z Z n (ΘKX ,ω + nγ) > c(n, n) (ΘKX ,ω + nγ)n−1 (ΘA,hA + nγ). (52) X

X

5. LA CONJECTURE DE GREEN-GRIFFITHS POUR LES HYPER´ ERIQUES ´ SURFACES GEN DE L’ESPACE PROJECTIF Pour montrer que toute courbe transcendante trac´ee sur une hypersurface g´en´erique X de Pn+1 est alg´ebriquement d´eg´en´er´ee, dans [DMR10] les auteurs utilisent une strat´egie mise au point par Y.-T. Siu dans [Siu02], [Siu04], et ´ecrite en d´etail tr`es r´ecemment dans [Siu12]. Nous allons la pr´esenter bri`evement par la suite, mais d’abord nous rappelons le th´eor`eme d’annulation fondamental mis en jeu.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

106

Th´ eor` eme 5.1 ([Siu97], [Dem97]). — Soit P une k-diff´erentielle holomorphe de degr´e m ` a valeurs dans le dual d’un fibr´e ample sur X. Alors P(ϕ′ , . . . , ϕ(k) ) ≡ 0 pour toute courbe enti`ere ϕ : C → X. Les r´esultats pr´esent´es dans les paragraphes pr´ec´edents montrent l’existence de ⋆ sections non-triviales du fibr´e En,m TX ⊗ A−1 si le degr´e de X ⊂ Pn+1 est assez ´elev´e. Par le th´eor`eme 5.1 ci-dessus, l’image de la d´eriv´ee d’ordre n de toute courbe enti`ere ϕ se situe dans une sous-vari´et´e propre Y ( Xn . Nous voudrions cependant montrer qu’il existe une sous-vari´et´e Y verticale par rapport `a la projection Xn → X (i.e. telle que son image dans X n’est pas dense). Soit X ⊂ Pn+1 × PNd l’hypersurface donn´ee par la relation n o X X := (z, A) ∈ Pn+1 × PNd : aα z α = 0 , n+d+1 d

α



o` u Nd := − 1. Il se trouve que X est une vari´et´e non-singuli`ere, de bidegr´e (d, 1). Comme cons´equence du fait que le degr´e de X par rapport aux variables A est ´egal ` a 1, on peut construire des champs de vecteurs m´eromorphes sur X dont l’ordre des pˆ oles est ind´ependant de d ; en fait, C. Voisin montre dans [Vois98] que le fibr´e (53)

TX ⊗ OPn+ (1)

est engendr´e par ses sections globales. Bien entendu, les vecteurs construits dans le th´eor`eme 5.2 ne seront pas tangents au point g´en´erique des fibres de la projection πN : X → PNd (c’est en r´ef´erence `a cela que Siu les appelle obliques), mais n´eanmoins, leur existence sera d´eterminante pour montrer le th´eor`eme 0.5. En fait, on aura besoin d’une g´en´eralisation des r´esultats de [Vois98], dans le contexte des jets. Pour chaque entier positif k, on d´efinit la vari´et´e Jkreg (X ) des k-jets relatifs de X qui consiste en classes d’´equivalence des disques holomorphes contenus dans les fibres de la projection πN . Le r´esultat suivant est d´emontr´e dans [Merk09] et [Siu12] (voir ´egalement [Pa08] pour un argument « `a la main » dans le cas n = 2). On prend ici k = n. Th´ eor` eme 5.2 ([Merk09], [Siu12]). — Le fibr´e vectoriel (54)

TJnreg (X ) ⊗ OPn+1 (n2 + 2n) ⊗ OPNd (2)

est engendr´e par ses sections globales Gn -invariantes. La preuve de ce r´esultat ne sera pas esquiss´ee ici ; on se contentera de mentionner que la construction de champs de vecteurs est explicite, selon un algorithme tr`es bien expliqu´e dans [Merk09].

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

107

En utilisant le th´eor`eme pr´ec´edent, le r´esultat de non-annulation 0.5 proc`ede comme suit (` a quelques virgules pr`es, les arguments sont identiques dans les trois articles [Siu02], [DMR10], [Dem12]). Soit X une hypersurface non-singuli`ere de degr´e d dans Pn+1 ; nous supposons que X est g´en´erique, dans le sens suivant. Soit a0 ∈ PNd tel que X = Xa0 . Alors toute diff´erentielle holomorphe d’ordre n et de degr´e arbitraire se prolonge au voisinage de a0 . Nous avons vu dans les paragraphes 3 et 4 que si d est assez grand, il existe une −δn m diff´erentielle holomorphe P d’ordre n et de degr´e m ≫ 0 `a valeurs dans KX . Dans les articles cit´es pr´ec´edemment la constante δn n’est pas la mˆeme, mais ce n’est pas important ici. Localement, en tant que fonction sur Jn (X) on peut ´ecrire P sous la forme X pα (z)(ξ 1 )α1 . . . (ξ n )αn P(z, ξ) = |α1 |+...+n|αn |=m

(on utilise ici les notations multi-indices) ; pour z ∈ X g´en´erique, le polynˆome P(z, ·) n’est pas identiquement z´ero, donc son ordre d’annulation en un point (disons (ξ0 ), correspondant au jet γ dans le th´eor`eme 1.5) est au plus m. La diff´erentielle holomorphe P se prolonge au voisinage de a0 , car X est g´en´erique. Donc une nouvelle diff´erentielle holomorphe sera produite en d´erivant l’extension de P dans la direction d’un champ de vecteurs, puis en consid´erant la restriction du r´esultat `a Xn . Si on a  (55) v ∈ H 0 X , TJnreg (X ) ⊗ OPn+1 (n2 + 2n) ⊗ OPNd (2) ,

alors la d´eriv´ee de l’extension de P dans la direction v sera une diff´erentielle holomorphe de degr´e n ` a valeurs dans −δn m KX ⊗ OPn+1 (n2 + 2n).

Afin de montrer le r´esultat de non-annulation 0.5, on doit d´eriver au plus m fois, compte tenu de la discussion pr´ec´edente concernant les singularit´es de P par rapport aux variables ξ. La diff´erentielle ainsi construite induira une ´equation pour la courbe enti`ere ϕ : C → X ` a condition que (56)

δn (d − n − 2) > n2 + 2n.

• Conjointement avec la condition n´ecessaire pour produire la diff´erentielle holomorphe P dans le paragraphe 3, l’in´egalit´e (56) impose dans l’article [DMR10] la contrainte (57)

5

d > 2n .

Ceci marque la fin de notre survol de ce travail. Nous remarquons que la seule raison qui empˆeche les auteurs de [DMR10] de montrer l’hyperbolicit´e de X (et non pas

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

108

˘ M. PAUN

« seulement » la d´eg´en´erescence des courbes enti`eres) est l’absence de contrˆole de la taille des singularit´es des coefficients pα dans (2.1). • Dans l’article [Dem12] que nous d´ecrivons bri`evement, J.-P. Demailly obtient une am´elioration consid´erable du degr´e obtenu dans (57), que nous d´ecrivons bri`evement. Soit X ⊂ PN une sous-vari´et´e. On a d´ej` a vu dans la d´emonstration du lemme 1.8 ⋆ que le fibr´e vectoriel TX ⊗ O(2) est engendr´e par ses sections globales. L’observation suivante est qu’un fibr´e vectoriel engendr´e par ses sections globales admet une m´etrique hermitienne telle que la forme de courbure associ´ee soit positive au sens de Griffiths. En cons´equence, les r´esultats pr´esent´es dans le paragraphe 4 montrent qu’il suffit de satisfaire l’in´egalit´e (52), avec des donn´ees qui sont les suivantes. La forme γ est la restriction ` a X de 2ωF S , la forme de Fubini-Study et A := O(n4 − 2n) (ce choix est dict´e par l’ordre des pˆ oles des champs de vecteurs construits dans le th´eor`eme 5.2). Ainsi, [Dem12] prouve que la conjecture de Green-Griffiths est v´erifi´ee `a partir du degr´e n n4 n log(n log 24n) . dn := 3 Remarquons que dans l’article [DMR10] on doit ´ecrire le fibr´e tautologique comme diff´erence de fibr´es nef directement sur la vari´et´e Xn , ce qui induit un manque de pr´ecision consid´erable et se traduit par une augmentation substantielle de la borne dn . • Y.-T. Siu annonce dans l’article [Siu12] l’hyperbolicit´e des hypersurfaces de grand degr´e de Pn+1 . En reprenant les notations du paragraphe 3, son id´ee est de montrer que les polynˆ omes (pα )α ne sont pas trop singuliers par restriction `a X (comme nous l’avons vu dans ce paragraphe, ceci est une information cruciale, qui a un impact direct sur le nombre de fois que doivent d´eriver les diff´erentielles holomorphes pour  obtenir 0.5). Nous rappelons que pour chaque indice α on a pα ∈ H 0 X, OX (δ) , o` u δ 6 dθ0 est un entier positif, et l’assertion dans [Siu12] est que le degr´e δ sera une borne sup´erieure pour les singularit´es de pα |X . En principe, il est tr`es probable que cela soit ainsi, car X est g´en´erique. Cependant, cette affirmation nous semble loin d’ˆetre imm´ediate (ou banale), car les coefficients pα des diff´erentielles holomorphes construites dans [Siu12] d´ependent de l’´el´ement a ∈ PNd correspondant `a X. Les arguments qu’il invoque dans sa d´emonstration sont actuellement en cours de v´erification. Remarque 5.3. — L’analyse des points base des diff´erentielles holomorphes telle que d´ecrite dans ce paragraphe fait intervenir des objets « ext´erieurs » `a la vari´et´e X, notamment les champs de vecteurs obliques dans le th´eor`eme 5.2. Il serait plus que souhaitable de disposer d’une approche compl´ementaire pour cette partie de la preuve de la conjecture de Green-Griffiths relative au cas des hypersurfaces de Pn+1 .

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

109

Remarque 5.4 (communiqu´ee par S. Diverio). — Remarquons pour finir qu’il n’est pas raisonnable d’esp´erer que l’abondance des diff´erentielles holomorphes (th´eor`eme 0.5) dans le cas des hypersurfaces de l’espace projectif se produise pour toutes les vari´et´es de type g´en´eral. En effet, il existe des surfaces complexes S dont le revˆetement universel est le bidisque, telles que c21 = 2c2 et qui ont la propri´et´e suivante. Pour tout point x ∈ S et pour tout k > 1 il existe un k-jet jx de S en x qui se trouve dans l’ensemble des z´eros de toute diff´erentielle holomorphe d’ordre k et de degr´e arbitraire (ce r´esultat est `a comparer avec le th´eor`eme de S. Lu, cf. [Lu91], compte tenu des propri´et´es des classes de Chern de S). Nous renvoyons le lecteur `a l’article de S. Lang cf. [Lan86] ; une analyse d´etaill´ee des exemples dans cet article a ´et´e r´ecemment faite dans [DR12].

´ ERENCES ´ REF [BeKi10] G. B´ erczi & F. Kirwan – « A geometric construction for invariant jet differentials », arXiv: 1012.1797. [Blo26a] A. Bloch – « Sur les syst`emes de fonctions uniformes satisfaisant `a l’´equation d’une vari´et´e alg´ebrique dont l’irr´egularit´e d´epasse la dimension », J. Math. Pures Appl. (9) 5 (1926), p. 19–66. [Blo26b]

, « Sur les syst`emes de fonctions holomorphes `a vari´et´es lin´eaires ´ lacunaires », Ann. Sci. Ecole Norm. Sup. (3) 43 (1926), p. 309–362.

[Bog77]

F. A. Bogomolov – « Families of curves on a surface of general type », Dokl. Akad. Nauk SSSR 236 (1977), no. 5, p. 1041–1044.

[Bog79]

, « Holomorphic tensors and vector bundles on projective varieties », Math. USSR, Izv. 13 (1979), p. 499–555.

[Bro78]

R. Brody – « Compact manifolds and hyperbolicity », Trans. Amer. Math. Soc. 235 (1978), p. 213–219.

[BrGr77] R. Brody & M. Green – « A family of smooth hyperbolic hypersurfaces in P3 », Duke Math. J. 44 (1977), no. 4, p. 873–874. [BKT12] Y. Brunebarbe, B. Klingler & B. Totaro – « Symmetric differentials and the fundamental group », arXiv:1204.6443. [Bru02]

M. Brunella – « Courbes enti`eres dans les surfaces alg´ebriques complexes (d’apr`es McQuillan, Demailly-El Goul,. . . ) », in S´eminaire Bourbaki, vol. 2000/2001, Ast´erisque, vol. 282, Soc. Math. France, Paris, 2002, exp. no 881, p. 39–61.

[Car28]

H. Cartan – « Sur les syst`emes de fonctions holomorphes `a vari´et´es ´ lin´eaires lacunaires et leurs applications », Ann. Sci. Ecole Norm. Sup. (3) 45 (1928), p. 255–346.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

110

[Cle86]

´ H. Clemens – « Curves on generic hypersurfaces », Ann. Sci. Ecole Norm. Sup. (4) 19 (1986), no. 4, p. 629–636.

[Dem85] J.-P. Demailly – « Champs magn´etiques et in´egalit´es de Morse pour la d′′ -cohomologie », Ann. Inst. Fourier (Grenoble) 35 (1985), no. 4, p. 189– 229. [Dem95]

, « Algebraic criteria for Kobayashi hyperbolic projective varieties and jet differentials », in AMS Summer School on Algebraic Geometry (Santa Cruz, 1995) (J. Koll´ar & R. Lazarsfeld, ´eds.), Proc. Sympos. Pure Math., vol. 62, Amer. Math. Soc., Providence, 1997, p. 285–360.

[Dem97]

, « Vari´et´es hyperboliques et ´equations diff´erentielles alg´ebriques », Gaz. Math. (1997), no. 73, p. 3–23.

[Dem11]

, « Holomorphic Morse inequalities and the Green-Griffiths-Lang conjecture », Pure Appl. Math. Q. 7 (2011), no. 4, p. 1165–1207.

[Dem12]

, « Hyperbolic algebraic varieties and holomorphic differential equations », Acta Math. Vietnam. 37 (2012), no. 4, p. 441–512.

[DLu01] G.-E. Dethloff & S. S.-Y. Lu – « Logarithmic jet bundles and applications », Osaka J. Math. 38 (2001), no. 1, p. 185–237. [Div08]

S. Diverio – « Differential equations on complex projective hypersurfaces of low dimension », Compos. Math. 144 (2008), no. 4, p. 920–932.

[Div09]

, « Existence of global invariant jet differentials on projective hypersurfaces of high degree », Math. Ann. 344 (2009), no. 2, p. 293–315.

[DMR10] S. Diverio, J. Merker & E. Rousseau – « Effective algebraic degeneracy », Invent. Math. 180 (2010), no. 1, p. 161–223. [DR11]

S. Diverio & E. Rousseau – A survey on hyperbolicity of projective hypersurfaces, Publ. Mat. IMPA, Inst. Mat. Pura Apl., Rio de Janeiro, 2011.

[DR12]

S. Diverio & E. Rousseau – « Communication personnelle », octobre 2012.

[DT10]

S. Diverio & S. Trapani – « A remark on the codimension of the GreenGriffiths locus of generic projective hypersurfaces of high degree », J. reine angew. Math. 649 (2010), p. 55–61.

[Dol81]

I. Dolgachev – « Weighted projective varieties », in Group actions and vector fields (Vancouver, 1981) (J. B. Carrels, ´ed.), Lecture Notes in Math., vol. 956, Springer, Berlin, 1982, p. 34–71.

[Ein88]

L. Ein – « Subvarieties of generic complete intersections », Invent. Math. 94 (1988), no. 1, p. 163–169.

[Ein91]

, « Subvarieties of generic complete intersections II », Math. Ann. 289 (1991), no. 3, p. 465–471.

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

111

[Gher41] G. Gherardelli – « Sul modello minimo della variet` a degli elementi differenziali del 2◦ ordine del piano projettivo », Atti Accad. Italia. Rend. Cl. Sci. Fis. Mat. Nat. (7) 2 (1941), p. 821–828. [Grau89] H. Grauert – « Jetmetriken und hyperbolische Geometrie », Math. Z. 200 (1989), no. 2, p. 149–168. [GG80]

M. Green & P. Griffiths – « Two applications of algebraic geometry to entire holomorphic mappings », in The Chern Symposium 1979 (Proc. Internat. Sympos., Berkeley, 1979), Springer, New York, 1980, p. 41–74.

[Gr75]

M. L. Green – « Some Picard theorems for holomorphic maps to algebraic varieties », Amer. J. Math. 97 (1975), p. 43–75.

[Kob70]

S. Kobayashi – Hyperbolic manifolds and holomorphic mappings, Pure Appl. Math., vol. 2, Marcel Dekker Inc., New York, 1970.

[Kob76]

, « Intrinsic distances, measures and geometric function theory », Bull. Amer. Math. Soc. 82 (1976), no. 3, p. 357–416.

[Lan86]

S. Lang – « Hyperbolic and Diophantine analysis », Bull. Amer. Math. Soc. (N.S.) 14 (1986), no. 2, p. 159–205.

[Lu91]

S. S.-Y. Lu – « On meromorphic maps into varieties of log-general type », in Several complex variables and complex geometry (Santa Cruz, 1989) II, Proc. Sympos. Pure Math., vol. 52, Amer. Math. Soc., Providence, 1991, p. 305–333.

[Merk10] J. Merker – « Complex projective hypersurfaces of general type: toward a conjecture of Green and Griffiths », arXiv:1005.0405. [Merk09]

, « Low pole order frames on vertical jets of the universal hypersurface », Ann. Inst. Fourier (Grenoble) 59 (2009), no. 3, p. 1077–1104.

[Mey89]

P.-A. Meyer – « Qu’est ce qu’une diff´erentielle d’ordre n ? », Exposition. Math. 7 (1989), no. 3, p. 249–264.

[Nogu77] J. Noguchi – « Holomorphic curves in algebraic varieties », Hiroshima Math. J. 7 (1977), no. 3, p. 833–853. [Nogu81]

, « Lemma on logarithmic derivatives and holomorphic curves in algebraic varieties », Nagoya Math. J. 83 (1981), p. 213–233.

[Pac04]

G. Pacienza – « Subvarieties of general type on a general projective hypersurface », Trans. Amer. Math. Soc. 356 (2004), no. 7, p. 2649–2661 (electronic).

[PacR]

G. Pacienza & E. Rousseau – « On the logarithmic Kobayashi conjecture », J. reine angew. Math. 611 (2007), p. 221–235.

[Pa08]

˘ un – « Vector fields on the total space of hypersurfaces in the projecM. Pa tive space and hyperbolicity », Math. Ann. 340 (2008), no. 4, p. 875–892.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

˘ M. PAUN

112

´ [Rou06a] E. Rousseau – « Equations diff´erentielles sur les hypersurfaces de P4 », J. Math. Pures Appl. (9) 86 (2006), no. 4, p. 322–341. ´ , « Etude des jets de Demailly-Semple en dimension 3 », Ann. Inst. [Rou06b] Fourier (Grenoble) 56 (2006), no. 2, p. 397–421. [Rou07a]

, « Weak analytic hyperbolicity of generic hypersurfaces of high degree in P4 », Ann. Fac. Sci. Toulouse Math. (6) 16 (2007), no. 2, p. 369–383.

[Rou07b]

, « Weak analytic hyperbolicity of complements of generic surfaces of high degree in projective 3-space », Osaka J. Math. 44 (2007), no. 4, p. 955–971.

[Sak78]

F. Sakai – « Symmetric powers of the cotangent bundle and classification of algebraic varieties », in Algebraic geometry (Copenhagen, 1978), Lecture Notes in Math., vol. 732, Springer, Berlin, 1979, p. 545–563.

[Semp54] J. G. Semple – « Some investigations in the geometry of curve and surface elements », Proc. London Math. Soc. (3) 4 (1954), p. 24–49. [Siu97]

Y.-T. Siu – « A proof of the general Schwarz lemma using the logarithmic derivative lemma », lettre `a J.-P. Demailly, avril 1997.

[Siu02]

, « Some recent transcendental techniques in algebraic and complex geometry », in Proceedings of the International Congress of Mathematicians (Beijing, 2002) I, Higher Ed. Press, Beijing, 2002, p. 439–448.

[Siu04]

, « Hyperbolicity in complex geometry », in The legacy of Niels Henrik Abel, Springer, Berlin, 2004, p. 543–566.

[Siu12]

, « Hyperbolicity of generic high-degree hypersurfaces in complex projective spaces », arXiv:1209.2723.

[SY96a]

Y.-T. Siu & S.-k. Yeung – « Hyperbolicity of the complement of a generic smooth curve of high degree in the complex projective plane », Invent. Math. 124 (1996), no. 1-3, p. 573–618.

[SY96b]

, « A generalized Bloch theorem and the hyperbolicity of the complement of an ample divisor in an abelian variety », Math. Ann. 306 (1996), no. 4, p. 743–758.

[SY97]

Y.-T. Siu & S.-K. Yeung – « Defects for ample divisors of abelian varieties, Schwarz lemma, and hyperbolic hypersurfaces of low degrees », Amer. J. Math. 119 (1997), no. 5, p. 1139–1172.

[Tra95]

S. Trapani – « Numerical criteria for the positivity of the difference of ample divisors », Math. Z. 219 (1995), no. 3, p. 387–401.

[Vois98]

C. Voisin – « On a conjecture of Clemens on rational curves on hypersurfaces », J. Differential Geom. 44 (1996), no. 1, p. 200–213, correction : J. Differential Geom. 49 (1998), p. 601–611.

´ ASTERISQUE 361

(1061)

´ ´ DIFFERENTIELLES HOLOMORPHES ET HYPERBOLICITE

113

[Winkel] J. Winkelmann – « On Brody and entire curves », Bull. Soc. Math. France 135 (2007), no. 1, p. 25–46.

˘ Mihai PAUN Korea Institute for Advanced Study School of Mathematics 85 Hoegiro, Dongdaemun-gu Seoul 130-722 Korea E-mail : [email protected]

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1062, p. 115 `a 148

Octobre 2012

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS FOR WORD-HYPERBOLIC GROUPS [after Vincent Lafforgue] by Michael PUSCHNIGG

INTRODUCTION In a recent breakthrough V. Lafforgue verified the Baum-Connes conjecture with coefficients for all word-hyperbolic groups [41]. This is spectacular progress since it provides the first examples of groups with Kazhdan’s property (T) satisfying the conjecture with coefficients (1) . Lafforgue’s proof is elementary, but of impressive complexity. In fact, the Baum-Connes conjecture with coefficients is known to be false in general. The first counterexamples were obtained by N. Higson, V. Lafforgue, and G. Skandalis [24] for certain classes of Gromov’s random groups [19]. (Note that Gromov’s groups are nothing but inductive limits of word-hyperbolic groups!) Already in the early eighties, A. Connes emphasized that Kazhdan’s property (T), which means that the trivial representation of a locally compact group is separated from all other unitary representations, might be a serious obstruction to the BaumConnes conjecture. The only previously known approach, due to Kasparov [32], demands the construction of a homotopy among unitary representations between the regular and the trivial representation, which cannot exist for non-compact groups with Property (T). This led to a search for such homotopies among larger classes of representations [26, 36, 41]. V. Lafforgue [38] introduces the notion of group representations of weak exponential growth. He shows that the trivial representation is not isolated among such representations for hyperbolic groups which opens the way to his proof of the Baum-Connes conjecture with coefficients. For higher rank groups and lattices however, a corresponding version of Property (T) continues to hold [38, 39]. This leads to interesting applications in graph theory and rigidity theory [39] and 1. A proof for the Property (T) groups Sp(n, 1) has been announced earlier by P. Julg in [28].

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

116

makes it hard to believe that the Baum-Connes conjecture (at least in the case with coefficients) might be proved for higher rank lattices by the established methods [40]. In Section 1, we review index theory and formulate the Baum-Connes conjecture as a deep and far reaching generalization of the Atiyah-Singer index theorem. The tools which are used to approach the conjecture are presented in Section 2: Kasparov’s bivariant K-theory [30, 32], and his construction of “γ-elements”. Section 3 collects the present knowledge about the Baum-Connes conjecture. In particular, we explain the counterexamples of Higson, Lafforgue, and Skandalis. Section 4 deals with Lafforgue’s work on generalizations of Kazhdan’s property (T). We discuss his results on his Strengthened Property (T) for higher rank groups and lattices and give an account of their proofs. The applications of his work in graph theory and rigidity theory are mentioned as well. In Section 5 we finally outline V. Lafforgue’s proof of the Baum-Connes conjecture with coefficients for word-hyperbolic groups. Acknowledgements. — I thank Vincent Lafforgue very heartily for his help and advices during the preparation of this manuscript. It is a pleasure to thank Nigel Higson, Georges Skandalis, and Guoliang Yu for their explanations and constructive remarks.

1. THE BAUM-CONNES CONJECTURE 1.1. Index theory Consider a linear elliptic differential operator D on a smooth compact manifold M . Its analytical index is defined as (1.1)

Inda (D) = dim (Ker D) − dim(CoKer D) ∈ Z.

The analytical index is invariant under perturbations of the elliptic operator and turns out to be calculable by topological means. In fact, it only depends on the class (1.2)

[σpr (D)] ∈ K 0 (T ∗ M )

of the principal symbol of D. Here T ∗ M is the total space of the cotangent bundle of M and K ∗ denotes (compactly supported) topological K-theory [3]. (The latter K-group can actually be identified with the set of homotopy classes of pseudo-elliptic symbols.) The topological K-theory of Atiyah-Hirzebruch is a generalized oriented cohomology theory in the sense of algebraic topology. K-oriented manifolds, for example the total space of the cotangent bundle T ∗ M of a compact manifold M , therefore satisfy a K-theoretic version of Poincar´e duality. The image of the symbol class under (1.3)

PD

p∗

K 0 (T ∗ M ) −→ K0 (M ) −→ K0 (pt) = Z,

p : M → pt the constant map, is called the topological index Indt (D) of D.

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

117

Suppose now that a compact Lie group H acts smoothly on M , leaving D invariant. Then kernel and cokernel of D become finite-dimensional H-modules and one may define the equivariant analytical index of D (1.4)

Inda (D) = [Ker D] − [CoKer D] ∈ R(H),

as element of the representation ring R(H). The equivariant topological index can be defined in a similar way as before as an element of the equivariant K-homology group K0H (pt) of a point. There is a tautological isomorphism ≃

µ : K0H (pt) −→ R(H)

(1.5)

which allows to view both equivariant indices as virtual finite dimensional representations of H. The Atiyah-Singer Index Theorem reads then as follows: Theorem 1.1 ([3, (6.7)]). — The analytical index and the topological index coincide as homomorphisms KH (T ∗ M ) → R(H). 1.2. Higher index theory Kasparov [32] and Baum-Connes [7, 8] claim that a similar index theorem holds in the following much more general setting: – G is an arbitrary locally compact group, – M is a smooth manifold equipped with a proper and cocompact G-action, – D is a G-invariant linear elliptic differential operator on M . Note that the condition on the action of G implies that M is non-compact if G is. In particular, D cannot be Fredholm in any naive sense for non-compact G. Thus completely new ideas are needed to give a meaning to an “analytical index”. Assume that the locally compact group G acts smoothly and properly on the manifold M . Then there exists a G-invariant smooth positive measure dvol on M . The corresponding Sobolev spaces become G-Hilbert spaces, which appear as subrepresentations of a (countable) multiple of the (left)-regular representation on L2 (G). Definition 1.2. — The reduced group C ∗ -algebra of a locally compact group G is the closure in operator norm of the image of the group Banach algebra L1 (G) under the (left)-regular representation: (1.6)

Cr∗ (G) = πreg (L1 (G)) ⊂ L(L2 (G)).

Let D be a G-invariant linear elliptic differential operator on M . If the G-action on M is proper and in addition cocompact one may define an equivariant analytical index (1.7)

∗ IndG a (D) = “[Ker D] − [CoKer D]” ∈ K0 (Cr (G))

of D. If the kernel and the cokernel of D happen to be finitely generated and projective as modules over Cr∗ (G), then the equivariant analytical index of D coincides with their

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

118

formal difference. As in the classical case the equivariant analytical C ∗ -index is of 0 topological nature and depends only on the symbol class [σpr (D)] ∈ KG (T ∗ M ). The G-equivariant topological K-theory for proper G-spaces [47] is very similar to the equivariant K-theory with respect to a compact Lie group [3]. In particular, one may define the equivariant topological index IndG t (D) of D as the image of the symbol class under PD

ϕ∗

0 KG (T ∗ M ) −→ K0G (M ) −→ K0G (EG),

(1.8)

where P D denotes K-theoretic Poincar´e duality and ϕ : M → EG is the equivariant classifying map to a universal proper G-space EG [8] (such a space always exists and is unique up to equivariant homotopy equivalence). There is a canonical assembly map [7, 8] µ : K∗G (EG) −→ K∗ (Cr∗ (G)),

(1.9)

which generalizes (1.5). The corresponding index theorem is Theorem 1.3 ([8], [31]). — Let G be a locally compact group and let D be a G-invariant linear elliptic differential operator on the proper, cocompact G-manifold M . Then (1.10)

G µ(IndG t (D)) = Inda (D).

Every class in K0G (EG) can be represented by an equivariant topological index, so that the index theorem characterizes the assembly homomorphism µ as the unique map sending topological to analytical indices. Baum and Connes conjecture that the assembly map provides the link, which allows a purely geometric description of the K-theory of reduced group C ∗ -algebras. Conjecture 1.4 (Baum-Connes Conjecture (BC) [8, (3.15)]) Let G be a second countable, locally compact group. Then the assembly map (1.11)

µ : K∗G (EG) −→ K∗ (Cr∗ (G))

is an isomorphism of abelian groups. 1.3. The conjecture with coefficients Baum, Connes, and Higson formulate also a much more general twisted version of conjecture 1.4 [8]. If D : E0 → E1 is a G-invariant elliptic operator over the proper and cocompact G-manifold M , as considered before, then the topological vector spaces E0 , E1 are simultaneously modules over G and the C ∗ -algebra C0 (M ) of continuous functions on M vanishing at infinity. One assumes now in addition that – E0 and E1 are (right)-modules over an auxiliary G − C ∗ -algebra A, – The A-action on E0 , E1 commutes with D and the action of C0 (M ), – The module multiplications C0 (M )⊗E → E and E ⊗A → E are G-equivariant.

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

119

These conditions imply that the kernel and the cokernel of D are simultaneously G-modules and A-modules, i.e., they are modules over the following C ∗ -algebra. Definition 1.5. — The reduced crossed product of a locally compact group G acting on a C ∗ -algebra A is the closure (in operator norm) of the image of the twisted group Banach algebra L1 (G, A) under the (left)-regular representation: (1.12) (1.13)

Cr∗ (G, A) = πreg (L1 (G, A)) ⊂ L(L2 (G, H)), Z π(g −1 · f (g ′ ))ξ(g ′′ )dµ, (f ∗ ξ)(g) = g′ g′′ =g

1

∀f ∈ L (G, A), ∀ξ ∈ L2 (G, H),

where π : A → L(H) is any faithful representation. (The algebra Cr∗ (G, A) is independent of the choice of π.) As before, one may define a twisted analytical index (1.14)

(D) ∈ K0 (Cr∗ (G, A)), IndG,A a

and a twisted topological index (1.15)

IndG,A (D) ∈ K∗G (EG, A). t

Here the groups K∗G (−, A) denote a twisted form of topological K-homology for proper G-spaces. Again, there is a corresponding twisted assembly map, which leads to an index theorem with coefficients. Example 1.6. — If G = 1 and A = C(X), X a compact Hausdorff space, then K∗ (Cr∗ (G, A)) ≃ K∗G (EG, A) ≃ K ∗ (X) and the previous index theorem equals the index theorem of Atiyah-Singer [4] for families of elliptic operators parametrized by X. Baum, Connes, and Higson conjecture that the twisted assembly map allows a geometric description of the K-theory of reduced crossed product C ∗ -algebras. Conjecture 1.7 (Baum-Connes Conjecture with Coefficients (BCCoeff ) [8, (6.9)]) Let G be a second countable locally compact group and let A be a separable G-C ∗ -algebra. Then the assembly map (1.16)

µ(G,A) : K∗G (EG; A) −→ K∗ (Cr∗ (G, A))

from the topological K-homology with coefficients in A of a universal proper G-space EG to the K-theory of the reduced crossed product C ∗ -algebra of (G, A) is an isomorphism of abelian groups. Remark 1.8. — For A = C this is just the Baum-Connes conjecture for G. Remark 1.9. — If BCcoeff holds for a given group G, then it holds for all its closed subgroups H. More specifically, BCcoeff for G and A = C0 (G/H) implies BC for H.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

120

M. PUSCHNIGG

2. HOW TO PROVE THE CONJECTURE Classical index theory was not only the point of departure for the developments that led to the Baum-Connes conjecture. Up to now, all attempts to prove it were inspired by Atiyah’s index theoretic proof of the Bott periodicity theorem [2], and rely essentially on Kasparov’s bivariant K-theory. 2.1. Kasparov’s bivariant K-theory Kasparov’s bivariant K-theory [30, 32, 15] provides the correct framework and the most advanced technology for the study of (higher) index theory and the K-theory of operator algebras. It associates to a pair (A, B) of C ∗ -algebras a Z/2Z-graded abelian group KK ∗ (A, B), which is contravariant in A and covariant in B. There is a natural isomorphism (2.1)



K∗ (A) −→ KK ∗ (C, A).

The bivariant K-functor is in both variables – stable, i.e., it turns the inclusion (2.2)

A ֒→ lim Mn (A) ≃ A ⊗C ∗ K(H) n→∞

into an isomorphism, and – split exact, i.e., it maps splitting extensions of C ∗ -algebras into split exact sequences of abelian groups. The key property of Kasparov theory is the existence of a natural associative product (2.3)

KK ∗ (A, B) ⊗ KK ∗ (B, C) −→ KK ∗ (A, C),

making the groups KK ∗ (A, A) into unital and associative graded algebras. Contrary to ordinary operator K-theory, bivariant K-theory can be characterized by a simple axiom. The Kasparov product allows to define an additive category KK with (separable) C ∗ -algebras as objects and the even bivariant K-groups as morphisms: (2.4)

ObKK = C ∗ − Alg, MorKK (A, B) = KK 0 (A, B).

Theorem 2.1 (Cuntz [14], Higson [21]). — Every stable and split exact functor from the category of C ∗ -algebras to an additive category factors uniquely through KK. In particular, there is a natural transformation (2.5)

KK ∗ (A, B) −→ Hom∗ (K∗ A, K∗ B).

For a given locally compact group G, there exists an equivariant bivariant K-theory KKG on the category of separable G-C ∗ -algebras [32], which is characterized by a

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

121

similar universal property [45, 51]. The universal property implies the existence of natural “Descent” transformations (2.6)

∗ KKG (A, B) −→ Hom∗ (K∗ (Cr∗ (G, A ⊗ C)), K∗ (Cr∗ (G, B ⊗ C))),

which are compatible with the Kasparov product. (Here C is an auxiliary coefficient C ∗ -algebra and the symbol ⊗ denotes either the maximal or the minimal C ∗ -tensor product. For commutative C, the only case we need, both tensor products coincide.) To apply the theory, one needs an explicit description of bivariant K-groups as homotopy classes of K-cycles and means to calculate their Kasparov products. We give such a description in the case A = B = C. Definition 2.2 (Kasparov [32]). — Let G be a (second countable) locally compact 0 group. Then the ring KKG (C, C) of Fredholm-representations of G is given by the set of homotopy classes of triples E = (H± , ρ± , F ),

(2.7)

where H± is a Z/2Z-graded (separable) Hilbert space, equipped with an even unitary representation ρ± of G, and F : H± → H∓ is an odd, bounded linear operator such that (2.8)

F 2 − Id ∈ K(H± ) and g 7→ [F, ρ± (g)] ∈ C(G, K(H± )).

Here K(H± ) denotes the algebra of compact operators on H± . If one writes F = ( v0 u0 ), then the conditions (2.8) state that u and v are almost equivariant Fredholm operators, which are inverse to each other modulo compact operators. If G is compact, then the Fredholm representation ring coincides with the ordi0 nary representation ring. For G abelian, KKG (C, C) is canonically isomorphic to the b viewed as locally compact topological (Steenrod)-K-homology of the dual group G, topological space. 2.2. The γ-element All attempts to prove the Baum-Connes conjecture rely up to now on Kasparov’s “Dirac-Dual Dirac” method [32], which can be viewed as nonlinear version of Atiyah’s proof of equivariant Bott-periodicity [2]. Suppose for simplicity that there exists a G-manifold M , which serves as a model for the universal proper G-space EG. Then there exists a canonical class (2.9)

α ∈ KK G (C0 (T ∗ M ), C),

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

122

M. PUSCHNIGG

which induces the Baum-Connes map under descent (modulo Poincar´e-duality). So the assembly map with coefficients factorizes as (2.10) PD

α

∗ K∗ (Cr∗ (G, A)) µG,A : K∗G (EG, A) = K∗G (M, A) ≃ K∗ (Cr∗ (G, C0 (T ∗ M, A))) −→

for any G-C ∗ -algebra A. The key idea is to show that the class α is invertible with respect to the Kasparov product. The Baum-Connes conjecture with coefficients follows then simply by descent. In full generality Kasparov’s approach to the BaumConnes conjecture can be summarized as follows: Theorem 2.3 (“Dirac-Dual Dirac” Method [32, 23]). — Let G be a locally compact group. Suppose that there exist a locally compact proper G-space X and elements n α ∈ KKG (C0 (X), C) and β ∈ KK n (C, C0 (X)), n = dim(X), such that (2.11)

0 γ = β ⊗ α ∈ KKG (C, C)

0 satisfies resG H (γ) = 1 ∈ KKH (C, C) for every compact subgroup H of G. Then the Baum-Connes assembly map (with coefficients) for G is split injective. If moreover

(2.12)

γ = 1 ∈ KKG (C, C),

or if at least the image of γ under descent (2.6) equals the identity, then the BaumConnes conjecture (with coefficients) holds for G. The γ-element of the previous theorem is unique if it exists [52].

3. STATUS OF THE CONJECTURE The Baum-Connes map provides a link between a rather well understood geometric object, the equivariant K-homology of a certain classifying space of a group, and a quite mysterious analytic object, the K-theory of its reduced group C ∗ -algebra. The Baum-Connes conjecture appears therefore as quite deep and surprising. It has two aspects: the injectivity of the assembly map (1.11), which has important implications in geometry and topology, and its surjectivity, which proved to be a much more elusive problem. The injectivity of the Baum-Connes map with coefficients is known for all connected groups and all groups acting properly and isometrically on a CAT (0)-space. Kasparov and Yu [34] recently showed its injectivity for the very huge class of discrete groups, which (viewed as metric spaces with respect to a word metric) admit a uniform coarse imbedding (see (3.10)) into a Banach space B with the following property: there exist an increasing sequence of finite dimensional subspaces of B with dense union, a similar sequence of subspaces of a Hilbert space, and a uniformly continuous family of degree one maps between the corresponding unit spheres of the two families of subspaces.

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

123

A possible source for counterexamples is the seemingly quite different functorial behavior of source and target of the Baum-Connes map. Whereas the left hand side of (1.11) is functorial under continuous group homomorphisms, this is not at all obvious for the right hand side. The reduced group C ∗ -algebra Cr∗ (G) is functorial under proper, but not under arbitrary group homomorphisms. For example, the reduced C ∗ -algebra of a non-abelian free group is simple [48], i.e., has no nontrivial quotients! It is also easy to see, that the trivial homomorphism G → 1 gives rise to a homomorphism of reduced group C ∗ -algebras iff G is amenable. The Baum-Connes conjecture claims that the K-groups K∗ (Cr∗ (G)) should nevertheless be functorial under arbitrary group homomorphisms, which is quite surprising. At this point one might be tempted to replace the reduced group C ∗ -algebra Cr∗ (G) ∗ by the maximal group C ∗ -algebra Cmax (G). The representations of the latter corre∗ spond to arbitrary unitary representations of G and Cmax (G) is therefore fully functorial in G. Examples (see Section 4.5) show however that the corresponding assembly map (3.1)

∗ µmax : K∗G (EG) −→ K∗ (Cmax (G))

is far from being an isomorphism in general. For the conjecture with coefficients, one may study in addition the functoriality with respect to the coefficients of source and target of the Baum-Connes map. This time, the different behavior of both sides leads to the counterexamples to BCcoeff found by Higson, Lafforgue and Skandalis [24]. We will present them at the end of this section. On the other hand Bost has defined an assembly map (3.2)

µL1 : K∗G (EG, A) −→ K∗ (L1 (G, A))

and conjectures that it is always an isomorphism. This is true for a quite large class of groups [36]. In addition, the counterexamples of [24] do not apply to (3.2). 3.1. Lie groups and algebraic groups over local fields Let G be a connected Lie group and let H ⊂ G be a maximal compact subgroup. The homogeneous space G/H may serve as a model of the universal proper G-space EG. If G/H carries a G-invariant Spinc -structure, the Baum-Connes conjecture equals Conjecture 3.1 (Connes-Kasparov Conjecture [8]). — Let i = dim (G/H) mod 2. Then the map (3.3)

µ e : R(H) −→ Ki (Cr∗ (G)),

which associates to a virtual representation [V ] ∈ R(H) the G-index of the twisted Dirac-operator ∂V on G/H, is an isomorphism of abelian groups. Moreover Ki+1 (Cr∗ (G)) = 0.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

124

M. PUSCHNIGG

Conjecture 3.1 was proved for linear real reductive groups by A. Wassermann [53] in 1982. He used many deep results in the representation theory of semisimple Lie groups. In his thesis [36], V. Lafforgue used geometric methods and employed the existence of a γ-element to establish (BC) for real reductive groups as well as for reductive algebraic groups over local fields. This work was presented at S´eminaire Bourbaki by G. Skandalis [50]. 3.2. Amenable and connected groups Following Gromov [18], a locally compact group is called a-T-menable if it admits a proper, affine, isometric action on a Hilbert space. This is in some sense complementary to Kazhdan’s property (T ), discussed in the next section. The class of a-T-menable groups contains all amenable groups and all closed subgroups of real and complex Lorentz groups. A proper action of such a group G on a Hilbert space is universal in the sense that the affine Hilbert space may serve as a model for EG. Higson and Kasparov [23] view an affine Hilbert space as the limit of its finite-dimensional affine subspaces, and use the “Dirac” and “Dual Dirac” elements 2.3 on these subspaces to construct a γ-element γG for every a-T-menable group G. They show that γ = 1 ∈ KK G (C, C), and deduce that BCCoeff holds for all a-T-menable groups. See the talk of P. Julg at S´eminaire Bourbaki [27] for a detailed account to their work. Combining the results of Lafforgue and Higson-Kasparov, Chabert, Echterhoff and Nest [12] succeeded finally in verifying BC for all locally compact, connected groups. 3.3. Discrete groups Let G = Γ be a countable discrete group. We suppose for simplicity that Γ is torsion free. Any contractible, proper and free Γ-space EΓ may serve as a model for EΓ and the Baum-Connes conjecture equals Conjecture 3.2 ([7]). — Let Γ be a torsion free, countable discrete group and let BΓ be a classifying space for principle-Γ-bundles. Then the assembly map (3.4)

µ : K∗top (BΓ) −→ K∗ (Cr∗ (Γ))

is an isomorphism of abelian groups. The most important progress up to now was achieved by V. Lafforgue [36, 35], who established BC for word-hyperbolic groups in the sense of Gromov and for uniform lattices in the higher rank groups SL3 (K), K a local field. He and P. Julg [28] were the first who overcame the barrier of Kazhdan’s Property (T ) (which holds for generic hyperbolic groups and all higher rank lattices). For both classes of groups there exists a γ-element, but it cannot be equal to 1 in the presence of property (T ). Nevertheless γ acts as the identity on K∗ (Cr∗ (Γ)) which already implies BC. See also Skandalis’ report at S´eminaire Bourbaki [50].

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

125

3.4. The conjecture with coefficients The Baum-Connes conjecture with coefficients was previously known only for a-T -menable groups by [23], and for hyperbolic groups and commutative (!) coefficients by the work of Lafforgue [37]. The first proof of BCCoeff for a class of groups with Property (T), the Lie groups Sp(n, 1), is due to Julg and sketched in [28]. The spectacular recent breakthrough, which is the main topic of this expos´e, is again due to Vincent Lafforgue: Theorem 3.3 (Lafforgue [41]). — The Baum-Connes conjecture with coefficients holds for all locally compact groups acting properly and isometrically on a weakly geodesic and locally uniformly finite hyperbolic metric space. In particular, it holds for all word-hyperbolic groups. Contrary to the Baum-Connes conjecture, which is open at the moment, the BaumConnes conjecture with coefficients is known to be false in general. 3.5. A counterexample In recent years Gromov’s spectacular theory of “Random Groups” [19, 16] has been used to produce various counterexamples to open questions in geometric group theory and operator algebras. One instance is the following counterexample to the Baum-Connes conjecture with coefficients, which is due to Higson, Lafforgue, and Skandalis [24]. It is based on the possibility of embedding some expander graphs coarsely and uniformly into the Cayley graphs of random groups. As indicated before, it is the different functorial behavior of source and target of the Baum-Connes assembly map µ(G,A) , which leads to the desired counterexamples. The main idea is the following. Let Γ be a discrete group. Suppose that there exists an extension (3.5)

0 → I → A → B → 0

of Γ-C ∗ -algebras (I ⊂ A an ideal and B ≃ A/I), such that the upper line in the commutative diagram

(3.6)

K∗ (Cr∗ (Γ, I)) −−−−→ K∗ (Cr∗ (Γ, A)) −−−−→ K∗ (Cr∗ (Γ, B)) x x x       K∗Γ (EΓ, I)

−−−−→

K∗Γ (EΓ, A)

−−−−→

K∗Γ (EΓ, B)

is not exact in the middle. As the lower line is always exact in the middle, one deduces that the vertical arrows, given by the corresponding Baum-Connes assembly maps, cannot all be isomorphisms, as the Baum-Connes conjecture with coefficients predicts. The key point is therefore to find a projector p ∈ Cr∗ (Γ, A), whose class in K-theory is not in the image of K∗ (C ∗ (Γ, I)), and which maps to 0 in Cr∗ (Γ, B).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

126

Recall that the Laplace operator ∆ : ℓ2 (G) → ℓ2 (G) on a graph G of bounded valency is the positive bounded linear operator given by X (f (x) − f (y)) , (3.7) ∆f (x) = d(x,y)=1

where the sum runs over the set of all vertices y adjacent to x. If G is finite, then the kernel of ∆ coincides with the space of locally constant functions. A sequence (Gn ), n ∈ N, of finite connected graphs of uniformly bounded valency is an expander [20, 9], if their cardinality tends to infinity (3.8)

lim ♯(Gn ) = ∞,

n→∞

and if their Laplace operators have a uniform spectral gap. i.e., ∃ ǫ > 0 : (3.9)

Sp(∆(Gn )) ∩ ]0, ǫ[ = ∅,

∀n ∈ N.

The Cayley graph G(Γ, S) of a finitely generated group (Γ, S) has the group Γ itself as set of vertices, and two vertices g, h ∈ Γ are adjacent iff g −1 h ∈ S. Now, according to Gromov [19, 16, 1], it is possible to imbed a suitable expander coarsely and uniformly into the Cayley graph of some finitely generated group (Γ, S). This means that there exists a sequence in : Gn0 → G 0 (Γ, S), n ∈ N, of maps of vertex sets, such that (3.10)

ρ0 (dGn (x, y)) 6 dG(Γ,S) (in (x), in (y)) 6 ρ1 (dGn (x, y)),

∀x, y ∈ Gn ∀n ∈ N,

for some monotone increasing, unbounded functions ρ0 , ρ1 : R+ → R+ . The coarse imbeddings in (which we suppose to be injective to simplify notations) may be used to “transport” the Laplace operators of the expander graphs to an operator on ℓ2 (Γ). To be precise set (3.11)

Θn : ℓ2 (Gn ) → ℓ2 (Γ), ex 7→ ein (x)

and put ∆′n = Θn ∆(Gn )Θ∗n + (1 − Θn Θ∗n ) ∈ L(ℓ2 (Γ)). L 2 L 2 Consider the operator ∆′ = n ∆′n on the Hilbert sum H = n ℓ (Γ) = ℓ (N × Γ). ∗ The reduced crossed product Cr (Γ, Cb (N, C0 (Γ))) acts faithfully on H. The operator P 1−∆′ may be written as a finite (!) sum g fg ug , fg ∈ Cb (N, C0 (Γ)) because of (3.10) and the fact that the propagation speed of the Laplace operator on a graph is equal to one. In particular 1−∆′ ∈ Cc (Γ, Cb (N, C0 (Γ))) ⊂ Cr∗ (Γ, Cb (N, C0 (Γ))). It is a positive operator which, according to (3.9), has a spectral gap, i.e., Sp(∆′ ) ∩ ]0, ǫ[ = ∅. The L ′ spectral projection p′ = n pn onto M M (3.13) Ker(∆′ ) = Ker(∆′n ) = C

(3.12)

n



n

may thus be obtained from ∆ by continuous functional calculus, so that

(3.14)

´ ASTERISQUE 361

p′ ∈ Cr∗ (Γ, Cb (N, C0 (Γ))).

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

127

This is the projection we are looking for. As an element of the reduced crossed P product, it can be uniquely written as infinite sum p′ = g fg ug , fg ∈ Cb (N, C0 (Γ)), g ∈ Γ. It follows from (3.12) and (3.8) that (3.15)

fg ∈ C0 (N, C0 (Γ)), ∀g ∈ Γ.

Consider now the extension (3.16)

0 → C0 (N, C0 (Γ)) → Cb (N, C0 (Γ)) → Q → 0

of Γ-C ∗ -algebras. On the one hand, the image of the projection p′ ∈ Cr∗ (Γ, Cb (N, C0 (Γ))) in Cr∗ (Γ, Q) is zero by (3.15). On the other hand, its K-theory class [p′ ] ∈ K0 (Cr∗ (Γ, Cb (N, C0 (Γ))))

(3.17)

does not lie in the image of K0 (Cr∗ (Γ, C0 (N, C0 (Γ)))) = limK0 (Cr∗ (Γ, C0 (Γ))) because −→ n (3.18)

πn ([p′ ]) = [p′n ] 6= 0 ∈ K0 (Cr∗ (Γ, C0 (Γ))) = K0 (K(ℓ2 (Γ))) ≃ Z, ∀n ∈ N.

In this way Higson, Lafforgue and Skandalis obtain the desired counterexample.

4. KAZHDAN’S PROPERTY (T) AND ITS GENERALIZATIONS The most important classes of groups, for which the Baum-Connes conjecture is unsettled, are simple linear groups of split rank > 2 over local fields, where BCCoeff is open, and lattices in such groups where already BC is unknown in most cases. These classes are distinguished by their astonishing rigidity properties [42]. They also provide the most prominent examples of groups with Kazhdan’s property (T), which plays a key role in rigidity theory, and has important applications in operator algebras, representation theory, and graph theory [20, 9, 42]. In this section we report what is known about V. Lafforgue’s strengthened versions of Property (T) [38], and outline its applications to graph theory and rigidity theory [39]. Strengthened Property (T) appears also to be very serious obstruction against a possible “Dirac-Dual Dirac” approach to the Baum-Connes conjecture [40]. 4.1. Property (T) Recall that a locally compact group G has Kazhdan’s Property (T) if the following equivalent conditions hold: – The trivial representation is an isolated point in the unitary dual of G. – Every unitary representation π of G with almost invariant vectors, i.e., ∀ǫ > 0, ∀K ⊂ G compact, ∃ ξ ∈ H − {0} : kπ(g)ξ − ξk 6 ǫkξk, ∀g ∈ K, contains nonzero fixed vectors. – Every continuous isometric affine action of G on a Hilbert space has a fixed point.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

128

– There exists a projection p ∈ C ∗ (G), such that for any unitary representation (π, H) of G the operator π(p) ∈ L(H) equals the orthogonal projection onto Hπ(G) . Here C ∗ (G) denotes the “full” group C ∗ -algebra, i.e., the enveloping C ∗ -algebra of the involutive Banach algebra L1 (G). Examples of Kazhdan groups: – Compact groups, – Simple algebraic groups of split rank at least two over local fields and their lattices. – Many hyperbolic groups, for example lattices in the simple Lie groups Sp(n, 1), n > 1, or F4,−20 of real rank one. – Generic, randomly produced hyperbolic groups [19]. Basic examples of groups without Property (T) are free groups and non-compact amenable or a-T-menable groups. 4.2. Lafforgue’s Strengthened Property (T) In recent years various generalizations of Property (T) have been proposed. These deal with larger classes of representations than the unitary ones. A first example is Definition 4.1 (Bader, Furman, Gelander, Monod, [6]) a) A locally compact group G has Property(T)uc , if every isometric representation of G on a uniformly convex Banach space with almost invariant vectors has non zero fixed vectors. b) A locally compact group G has Property(F)uc , if every affine isometric action of G on a uniformly convex Banach space has a fixed point. Lafforgue goes one step further and allows not only isometric representations, but representations of weak exponential growth. Definition 4.2 (Lafforgue). — Let G be a locally compact group with a proper, continuous and symmetric length function ℓ : G → R+ , and let λ > 1. A continuous representation π of G on a Banach space B is of exponent λ (with respect to ℓ) if (4.1)

k π kλ = sup λ−ℓ(g) k π(g) kL(B) < ∞. g∈G

The representations of G of exponent λ on a self-dual class of Banach spaces B give rise to representations of the corresponding involutive Fr´echet algebra [35] (4.2)

´ ASTERISQUE 361

Cλ (G, ℓ, B),

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

129

obtained by completion of the convolution algebra of compactly supported continuous functions on G with respect to the seminorms (4.3)

sup kπ(f )kL(B) , N ∈ N.

kf kN =

(π,B),

kπkλ 6N

The supremum is taken over all representations (π, B) of exponent λ > 1 and λ-norm kπkλ 6 N on a space B ∈ B. Definition 4.3 (Lafforgue [38, 39]) a) Let B be a class of Banach spaces which is closed under taking duals. A locally compact group G has Lafforgue’s Property (TStrong ), if for every proper symmetric B length function ℓ on G, there exists λ > 1 and a selfadjoint idempotent pλ ∈ Cλ (G, ℓ, B) such that (4.4)

π(pλ )(B) = B π(G)

for every representation (π, B) of exponent λ on a Banach space B ∈ B. Such an idempotent is unique and central in Cλ (G, ℓ, B). b) It satisfies Property (T)Strong if (TStrong ) holds for B = {Hilbert spaces}. B Hilb ) holds for every class B which is if (TStrong c) It possesses Property (T)Strong B Ban (uniformly) of type > 1. This means that there exist n ∈ N and ǫ > 0 such that no n-dimensional subspace of any B ∈ B is (1 + ǫ)-isometric to ℓ1n . Note that every uniformly convex space is of type > 1. The relations between these properties are displayed below. (T)BanStrong

+3 (F)uc

+3 (T)uc

(4.5)  (T)Strong Hilb

 +3 (T)

4.3. Results Concerning the strengthened property (T) one observes a strict dichotomy between groups of “split rank one” and “higher rank” groups. Despite the fact that they generically satisfy the ordinary Kazhdan property, word-hyperbolic groups are very far from sharing the strengthened versions of property (T). Theorem 4.4 (Lafforgue [38]). — Word-hyperbolic groups do not satisfy (T)Strong Hilb . Lafforgue’s proof is closely linked to his work on the Baum-Connes conjecture and will be explained in Section 5. The following remarkable result of Yu asserts that hyperbolic groups do not have property (F)uc either.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

130

M. PUSCHNIGG

Theorem 4.5 (Yu [54]). — Every hyperbolic group admits a proper, isometric, affine action on an ℓp -space for p ∈ ]1, ∞[ sufficiently large. Yu’s construction of the desired affine action is related to an explicit description of the γ-element of a hyperbolic group. For higher rank groups and their lattices however, many (and conjecturally all) strengthened versions of the Kazhdan property hold. Theorem 4.6 (Lafforgue, [38]). — A simple real Lie group, whose Lie algebra contains a copy of sl3 , satisfies (T)Strong Hilb . The same holds for its uniform lattices. Theorem 4.7 (Lafforgue [39]). — A simple linear algebraic group over a nonarchimedian local field, whose Lie algebra contains a copy of sl3 , satisfies (T)Strong . Ban The same holds for its uniform lattices. This result has applications in graph theory. It is well known that an expanding sequence of graphs (3.8), (3.9) cannot be imbedded uniformly (3.10) into Hilbert space. Theorem 4.8 (Lafforgue [39]). — Let (Γ, S) be a uniform lattice in a simple algebraic group over a non-archimedian local field, whose Lie algebra contains a copy of sl3 . Let (Γn ), n ∈ N, be a sequence of finite index normal subgroups of Γ, whose intersection is 1. Then the sequence of (finite) Cayley graphs (G(Γ/Γn ), π(S)) cannot be imbedded uniformly in any Banach space of type > 1. Recently, Mendel and Naor [43],[44] used completely different methods to construct huge families of expanders which do not admit a uniform embedding into any uniformly convex Banach space. 4.4. Proofs Let G = SL3 (F ), F a local field. Let K be a maximal compact subgroup of G. Lafforgue’s key observation (which generalizes the Howe-Moore property of unitary representations [25]) is that the matrix coefficients of K-invariant vectors in representations of sufficiently small exponent tend very quickly (exponentially fast) to a limit at infinity: (4.6)

|hξ, π(g)ηi − cξ,η | = O(e−µ(λ)ℓ(g) ),

where (π, B) is a representation of G of exponent λ, ξ ∈ B ∗ , η ∈ B are K-invariant vectors, and µ(λ) > 0 if λ is close to 1. (Here B is a Hilbert space in the archimedian case and a Banach space in a class B of type > 1 in the non-archimedian case.)

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

131

It is then easy to see that for a fixed, compactly supported positive function of mass one χ ∈ Cc (G) the family Z χ(k1 gxk2 ) dk1 dk2 , g ∈ G, (4.7) fg : x 7→ K×K

of K-biinvariant, compactly supported functions on G tends to a limit (4.8)

lim fg = pλ ∈ Cλ (G, ℓ, B)

g→∞

as g ∈ G tends to infinity. It follows from a non-spherical version of (4.6) that pλ is the desired “Kazhdan”-projection. It is selfadjoint as limit of selfadjoint functions. This establishes 4.6 and 4.7. We outline Lafforgue’s strategy for proving the decay estimates (4.6) in the non-archimedian case. Let F be a non-archimedian local field with ring of integers O and residue field Fq . Let G = SL(3, F ) and put K = SL(3, O). There is a Cartan decomposition G = KA+ K with (4.9)

A+ = { diag(π −i1 , π −i2 , π −i3 ), i1 + i2 + i3 = 0, i1 > i2 > i3 },

where π denotes a fixed uniformizing element of F . A canonical K-biinvariant proper length function on G is given by ℓ(kak ′ ) = i1 (a) − i3 (a).

(4.10)

Let B be a class of type > 1 of Banach spaces, which is closed under taking duals. Let (π, B), B ∈ B, be a representation of G of exponent λ and denote by (ˇ π , B ∗ ) its ∗ contragredient representation. Let η ∈ B, ξ ∈ B be K-invariant unit vectors. The corresponding matrix coefficient g 7→ hξ, π(g)ηi is then determined by its values (4.11) c(i1 −i2 , i2 −i3 ) = hξ, π(diag(π −i1 , π −i2 , π −i3 ))ηi, i1 +i2 +i3 = 0, i1 > i2 > i3 . Fix integers m > n > 0, m+n ∈ 3N. Lafforgue finds two finite families (ai )i∈I , (bj )j∈J of elements of G/K (considered as points of the affine building), and a matrix T ∈ MIJ (C) satisfying a) ℓ(ai ) = m, ℓ(bj ) = n, ∀i ∈ I, ∀j ∈ J. b) |I| = q 2m , |J| = q 2n . c) The Schur product Te ∈ MIJ (C), Teij = Tij hˇ π (ai )ξ, π(bj )ηi, satisfies X 1 1 (4.12) |I|− 2 |J|− 2 Teij = c(m − n + 2, n − 1) − c(m − n, n). i,j

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

132

d) The norm of the operator T ⊗ idB : L2 (J, B) → L2 (I, B) is bounded by the norm of the (normalized) Fourier transform   X B ˇ B), f 7→ χ 7→ 1 (4.13) FA : L2 (A, B) → L2 (A, χ(a)f (a) ♯A a 1

on a finite abelian group A = AJ of order |J| 2 . This allows Lafforgue to bring Fourier analysis on finite abelian groups and the geometry of Banach spaces into play. According to Bourgain [11], the (normalized) Fourier transform satisfies a uniform bound of the type B kFA k = O((♯A)−α ), α = α(B) > 0,

(4.14)

for every finite abelian group A and every Banach space B in a class B of type > 1. Lafforgue derives thus from (4.12) the estimate (4.15) |c(m − n + 2, n − 1) − c(m − n, n)|    B )ξ k max kπ(b )ηk k max k π ˇ (a 6 kTek 6 kFA i j J i∈I

6

kπk2λ

(q

−α n

m+n

) λ

j∈J

.

This, together with the analogous estimate obtained by exchanging the roles of m and n, implies for λ > 1 sufficiently close to 1 the exponential decay of differences of matrix coefficients. Claim (4.6) follows then by a simple Cauchy sequence argument. 4.5. Relation to the Baum-Connes conjecture It was realized very early by A. Connes, that Kazhdan’s Property (T) might be a serious obstruction against the validity of the Baum-Connes conjecture for a noncompact group. At least Kasparov’s original “Dirac-Dual Dirac” method cannot possibly work in the presence of Property (T). To see this, recall that the unitary representations of a locally compact group G correspond bijectively to the representations of its full group C ∗ -algebra C ∗ (G). In particular, there are epimorphisms πreg : C ∗ (G) → Cr∗ (G) and πtriv : C ∗ (G) → C corresponding to the regular and the trivial representation of G, respectively. Now Connes argues as follows. For every locally compact group G one may construct an assembly map with values in the K-theory of the full group C ∗ -algebra. It fits into the commutative diagram

(4.16)

µmax : K∗top (EG) −−−−→ K∗ (C ∗ (G)) 

πreg∗

y

µ:

´ ASTERISQUE 361

K∗top (EG) −−−−→ K∗ (Cr∗ (G)).

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

133

Suppose that there exists a γ-element for G, which equals one: γ = 1 ∈ KK G(C, C). Then both assembly maps have to be isomorphisms and one deduces that πreg∗ is a bijection. If G has Kazhdan’s Property (T) while not being compact, then the class [p] ∈ K0 (C ∗ (G)) of the Kazhdan projection is nontrivial because πtriv ([p]) = 1 ∈ K0 (C) = Z, but maps to zero in K0 (Cr∗ (G)) because the regular representation of a non compact group has no fixed vectors. Thus γ 6= 1 for a non compact group with Property (T ). A beautiful argument of Skandalis [49] shows that for hyperbolic groups with Property (T) even the image of γ under descent to bivariant K-theory [32] differs from 1: (4.17)

jr (γ) 6= jr (1) = 1 ∈ KK(Cr∗ (Γ), Cr∗ (Γ)).

Nevertheless, it is sometimes possible to show that γ maps to the identity under descent (2.6) even for property (T) groups. The idea, originally due to Julg [26], is g of bivariant K-theory, which will not have particularly to find enlarged versions KK nice properties, but allow to factorize the descent map as (4.18)

and satisfy (4.19)

g Γ (C, C) → Hom(K∗ (Cr∗ (Γ, A)), K∗ (Cr∗ (Γ, A))), KKΓ (C, C) → KK g Γ (C, C). [γ] = [1] ∈ KK

In [36], Lafforgue developed a bivariant K-theory for Banach algebras to deal at least with (BC). In the case with coefficients, the absence of (T)Strong for wordHilb hyperbolic groups (4.4) enables Lafforgue to construct the desired homotopy between γ and 1 using bivariant K-cycles, whose underlying representations are of small exponential growth [41]. For general higher rank lattices property (T)Strong is a very Hilb serious obstruction against an implementation of the “Dirac-Dual Dirac” approach. Lafforgue explains in [35, 40] that the only known way to establish (4.18) and (4.19) consists in finding a homotopy between γ and 1 among representations which define bounded Schur multipliers on some isospectral subalgebra of Cr∗ (Γ). For lattices in SL3 (F ), F a local field, the existence of such an algebra would contradict (4.12). In fact, it was this circle of ideas which led Lafforgue to the invention of Strengthened Property (T).

5. LAFFORGUE’S APPROACH In this last section we discuss Lafforgue’s proof of the Baum-Connes conjecture with coefficients for word-hyperbolic groups [41]. Recall that a geodesic metric space (X, d) is hyperbolic [17], if there exists δ > 0, such that for any points a, b, c ∈ X (5.1)

x ∈ geod(a, c) ⇒ d( x, geod(a, b) ∪ geod(b, c) ) < δ,

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

134

where for any (nonempty) subsets A, B ⊂ X (5.2)

geod(A, B) = {x ∈ X, ∃a ∈ A, ∃b ∈ B, d(a, x) + d(x, b) = d(a, b)}

denotes the union of all geodesic segments joining a point of A and a point of B. A finitely generated group Γ is word-hyperbolic [17], if for one (and therefore every) finite symmetric set of generators S the Cayley-graph G(Γ, S) is a hyperbolic metric space. An important class of word-hyperbolic groups is provided by fundamental groups of compact Riemannian manifolds of strictly negative sectional curvature. There is a distinguished class of models for the universal proper Γ-space EΓ of a hyperbolic group: the Rips complexes [17]. For fixed R > 0, the Rips complex ∆R ∗ (Γ, dS ) is the simplicial set of finite, oriented subsets of Γ of diameter at most R: ′ ′ ′ S ′ ∈ ∆R p (Γ, dS ) ⇔ S ⊂ Γ, |S | = p + 1, diam(S ) 6 R.

(5.3)

(Here and in the sequel we will use the same notation for a Rips-simplex and its underlying set.) The natural action of Γ on ∆R ∗ (Γ, dS ) induced by left translation is simplicial and proper. For hyperbolic groups the Rips complex is in addition contractible, provided that R is sufficiently large. It may therefore serve as model for EΓ. The associated chain complex (5.4)

(C(∆R ∗ (Γ, dS )), ∂), ∂(g0 , . . . , gn ) =

n X i=0

(−1)i (g0 , . . . , gbi , . . . , gn )

is a Γ-finite and Γ-free resolution of the constant Γ-module C.

Various authors [33, 36, 41] have constructed γ-elements (2.11) for hyperbolic groups. Theorem 5.1 (Kasparov, Skandalis [33]). — For a suitable choice of a hyperbolic distance d′ on Γ, a square zero contracting chain homotopy h (see 5.2) of (C(∆R ∗ ), ∂), and R, t ≫ 0 sufficiently large ′  td′x0 (∂ + h) e−tdx0 (5.5) ℓ2 (∆R ∗ ), e defines a bounded K-cycle representing γ ∈ KK Γ (C, C).

The K-cycle (5.5) is in fact a slightly modified version of the original γ-element of Kasparov and Skandalis. It is better adapted to Lafforgue’s needs [36]. Suppose for a moment, that the K-cycles (5.5) were well defined for all t > 0. Then for t = 0 the K-cycle (ℓ2 (∆R ∗ ), ∂ + h) would represent 1 ∈ KKΓ (C, C) (because ∂ is strictly equivariant), and the continuous family (5.5) would provide the desired homotopy between γ and the unit K-cycle. As we know, this is too much to hope for, because many hyperbolic groups have Kazhdan’s property (T), which rules out the existence of such a homotopy. However, according to Lafforgue, hyperbolic groups do not satisfy his strengthened property (T).

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

135

So one may still hope to find a homotopy as above among Hilbert spaces with Γ-action of small exponential growth. Lafforgue’s main theorem states that this is indeed the case: Theorem 5.2 (Lafforgue [41]). — Let (Γ, S) be a word-hyperbolic group, let R > 0 be large enough so that the Rips complex ∆R ∗ (Γ, dS ) is contractible, and let x0 ∈ ∆0 be a base point. Fix λ > 1. Then there exist – a Hilbert space Hx0 ,λ = C(∆R ∗ (Γ, dS )), given by a completion of the Rips chain complex, – a hyperbolic distance d′ on Γ such that d′ − d is bounded, – a contracting square zero chain homotopy of the Rips complex, i.e., a linear map R hx0 : C(∆R ∗ (Γ, dS )) → C(∆∗+1 (Γ, dS ))

satisfying (5.6)

h2x0 = 0, ∂ ◦ hx0 + hx0 ◦ ∂ = Id − px0 , Im(px0 ) = Cx0 ,

such that the following hold: ′



a) The maps Ft = etdx0 (∂ + hx0 )e−tdx0 , where d′x0 : ∆R ∗ (Γ, dS ) → R+ denotes the distance from the base point, extend to a continuous family of bounded linear operators on Hx0 ,λ . b) The natural action of Γ on C(∆R ∗ (Γ, dS )) extends to a continuous representation π of exponent λ on Hx0 ,λ . c) The operators [Ft , π(g)] are compact for all g ∈ Γ and all t ∈ R+ . In particular, the generalized K-cycles (5.7)





Et = Hx0 ,λ , etdx0 (∂ + hx0 )e−tdx0



define an exponent-λ-homotopy between 1 ∈ KKΓ (C, C) and γ ∈ KKΓ (C, C). The key point is the existence of the desired homotopy for all λ > 1 ! Now one has left the framework of Kasparov’s bivariant K-theory, but an argument of Higson ([40, (2.12)]) shows that the previous theorem still implies BCcoeff . Thus Corollary 5.3 (Lafforgue [41]). — The Baum-Connes conjecture with coefficients is true for all word-hyperbolic groups. The demonstration of Lafforgue’s theorem requires almost 200 pages and is extremely complicated. We therefore can only outline the strategy of the proof and have to refer to the original paper [41] for details.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

136

5.1. The case of free groups We will study free groups first because the proof of Lafforgue’s theorem for free groups is easy and suggests the right strategy for the general case. The fact that γ = 1 for free groups is due to P. Julg and A. Valette [29]. Their work inspired the line of thought followed here. Let Γ = F2 be the nonabelian free group on two generators s, t, and let S = {s±1 , t±1 }. The geometric realization of the Rips complex X∗ = ∆R ∗ , R = 1, is a tree. Once a base point has been chosen, for example x0 = xe ∈ X0 = F2 , there is a canonical contracting simplicial homotopy hx0 of the tree X∗ : every vertex is sent to the unique simplicial geodesic joining it to the origin. The operators [Ft , π(g)] for this homotopy and for the original metric d = d′ are of finite rank and will be compact, once they are bounded. The whole problem therefore boils down to find the right Hilbert space. P Rewrite the contracting homotopy as hx0 = r hx0 ,r , where hx0 ,r : C(X0 ) → C(X1 ) sends a vertex to the edge at distance r on its geodesic journey to the origin x0 . By definition hx0 ,r (xg ) = 0 if ℓ(g) < r. The first step is to replace the ℓ2 -norm on C(X0 ) by the graph norms of the operators hx0 ,r : ℓ2 (X0 ) → ℓ2 (X1 ). For λ > 1 and f ∈ C(X0 ) one puts kf k2x0 ,λ,prel = kf k2ℓ2 (X0 ) +

(5.8)

∞ X

λ2r khx0 ,r (f )k2ℓ2 (X1 )

r=1

(note that the sum is finite) and gains the boundedness of h : Hx,λ,prel → ℓ2 (X1 ). Lafforgue gives a geometric description of a closely related Hilbert space, which applies immediately to general hyperbolic groups. Let ex , x ∈ X∗ , be the canonical basis of C(X∗ ) and let lx , x ∈ X∗ , be the dual basis. The operator hx,1 provides an ≃ identification e : X0 − {x0 } → X1 . The norm (5.8) can then be rewritten as X X (5.9) k − k2x0 ,λ,prel = λ2r |htx0 ,r (le(y) )|2 , |lx |2 + x∈X0

y∈X0 −{x0 }

where htx0 ,r denotes the transpose of hx0 ,r . One has X lv (5.10) htx0 ,r (le(y) ) = v∈Flx0 (y,r)

where Flx0 (y, r) is the flower based at y of height r, i.e., the set of vertices in X0 , which lie at distance r from y and pass through y on their journey to the origin. An alternative way to describe flowers is the following. Let B(x0 , k) be the ball around x0 of radius k = d(x0 , y). Then every geodesic path from elements v, v ′ ∈ Flx0 (y, r) to a vertex w in B(x0 , k) will pass through z. Consequently (5.11)

d(v, w) = d(v, y) + d(y, w) = d(v ′ , y) + d(y, w) = d(v ′ , w).

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

137

The flowers over B(x0 , k), i.e., the flowers of arbitrary height and based at points of the k-sphere around x0 appear thus as the equivalence classes of points of X0 −B(x0 , k) with respect to the equivalence relation (5.12)

Rk : x ∼ x′ ⇔ d(x, z) = d(x′ , z), ∀z ∈ B(x0 , k) k

0,k x0

the set of equivalence classes of Rk . These are the flowers on X0 . Denote by Y 0,k over B(x0 , k) and the points of B(x0 , k). The height r of a flower Z ∈ Y x0 equals r = d(x0 , Z) − k. Now Lafforgue defines the Hilbert space Hx0 ,λ,0 as the completion of C(X0 ) with respect to the norm (5.13)

k−

k2x0 ,λ,0

=

∞ X

X

k=0 Z∈Y

X 2 lv .

2(d(x0 ,Z)−k)

λ

0,k x0

v∈Z

In this formula the sum over the terms satisfying d(x0 , Z) − k > 0 gives exactly the second term on the right hand side of (5.9) by (5.10), whereas the sum over the other terms equals a constant multiple of the first term of the right hand side of (5.9). In particular, the norms (5.9) and (5.13) are equivalent. Let us have a closer look at the group action on Hx0 ,λ,0 . The norm on this Hilbert space is defined purely in terms of the geometry of the Cayley graph (tree) of (F2 , S), but depends heavily on the choice of the base point x0 . Calculating the norm of the operator π(g) amounts therefore to bound the norm k − kx′0 ,λ,0 with respect to the new base point x′0 = g −1 x0 in terms of the original norm k − kx0 ,λ,0 . To this end 0,k one has to express each flower Z ′ ∈ Y x′0 over a ball around x′0 as a disjoint union of 0,ki flowers Zi ∈ Y x0 over balls around x0 . Such a decomposition is not unique, and one is interested in decompositions with as few flowers as possible. Let Z ′ = Flx′0 (y, r) be a flower based at y. If y does not lie on the geodesic segment geod(x0 , x′0 ) joining x0 and x′0 , then Z ′ = Flx′0 (y, r) = Flx0 (y, r) is simultaneously a flower over balls around x0 and x′0 . If y ∈ geod(x0 , x′0 ), then a (5.14) Z′ = Zj j

is the disjoint union of at most C(Γ, S)(d(x0 , x′0 ) + 1) flowers Zj = Flx0 (yj , rj ) over balls around x0 whose base point lies at distance 1 from geod(x0 , x′0 ) and which satisfy (5.15)

d(x0 , Zj ) > d(x0 , Z ′ ) − d(x0 , x′0 ).

Therefore (5.16)

1

1

kπ(g)ξk2x0 ,λ,0 6 C(Γ, S) 2 (1 + ℓ(g)) 2 λℓ(g) kξk2x0 ,λ,0 , ∀ξ ∈ C(X),

i.e., the representation of F2 on H is of exponent λ′ for every λ′ > λ.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

138

5.2. The Hilbert space, an Ansatz The formula (5.13) for the Hilbert space completion of the Rips complex can easily be generalized. Let (Γ, S) be a word-hyperbolic group. Let R > 0 be large enough so that the Rips-complex ∆∗ = ∆R ∗ (Γ, dS ) is contractible and fix a base point x0 ∈ ∆0 . Rips p-simplices correspond then to oriented (p + 1)-element subsets of Γ of diameter at most R.

Z

y x0

S

B(x0,k) p,k

Figure 1. A flower in Y x0

Lafforgue says that two Rips p-simplices S ′ , S ′′ are k-equivalent, if there exists an isometry between B(x, k) ∪ S ′ and B(x, k) ∪ S ′′ , which sends S ′ to S ′′ while preserving orientations, and fixes B(x, k) pointwise. This is an equivalence relation p,k and the set of equivalence classes is denoted by Y x . The equivalence classes are called flowers over B(x0 , k) if d(x, S ′ ) > k and equal a single simplex if d(x, S ′ ) 6 k − R. Lafforgue defines now, similar to (5.13), a Hilbert space Hx0 ,λ,0 (∆p ) as the completion of C(∆p ) with respect to the norm 2 ∞ X X X 2 2(d(x0 ,Z)−k) (5.17) k − kx0 ,λ,0 = lS ′ , λ p,k k=0 Z∈Y x 0

S ′ ∈Z

where again (lS ), S ∈ ∆p , is the dual of the canonical basis of C(∆p ). The left translation action of Γ on the Rips complex gives rise to a representation π on Hx0 ,λ,0 (∆p ), which is of exponent λ′ for every λ′ > λ by essentially the same argument as in the case of free groups. A direct consequence is Theorem 5.4 (Lafforgue [38]). — Hyperbolic groups do not have property (T)Strong Hilb .

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

139

This follows easily from the properties of Hx0 ,λ,0 (∆0 ). It is clear that the regular representation π of Γ on Hx,λ,0 (∆0 ) has no fixed vectors. However, there is a fixed vector for its contragredient representation π ˇ , because the linear functional X X (5.18) l: ag xg 7→ ag is bounded: one has (5.19)

l =

∞ X

X

lv =

r=0 d(x0 ,v)=r

X X 0,0 x0

Z∈Y

lv ,

v∈Z

0,0

(note that the flowers in Y x0 are just the spheres around x0 ), so that (5.20)

X  |l(ξ)| = λ−d(x0 ,Z) , λd(x0 ,Z) 0,0 2

Z∈Y x0

X

v∈Z

! 2 lv 6 (1 − λ−2 )−1 kξk2x,λ,0

by the Cauchy-Schwarz inequality. Suppose that Γ possesses property (T)Strong Hilb . Then, for λ sufficiently close to one, there exists a self-adjoint “Kazhdan”-projection p ∈ Cλ (Γ, ℓS , H). It satisfies π(p) = 0, but π ˇ (p) 6= 0 cannot be zero, because its image contains l. This is impossible because π ˇ (p) = π(p)∗ for self-adjoint projections.

5.3. Metrically controlled operators Lafforgue’s Hilbert spaces have interesting properties: they are defined in terms of the geometry of the Cayley-graph, the regular representation on them may be of arbitrary small exponent and it cannot be separated from the trivial representation. This makes them into excellent candidates for the Hilbert spaces needed in Theorem 5.2. However, for general hyperbolic groups, it is difficult to establish the boundedness of any contracting chain homotopy of the Rips complex. The naive solution of completing the natural domain C(∆∗ ) of such an operator with respect to the graph norm will not work: contrary to the case of free groups, it will destroy the purely geometric nature of the Hilbert space and one will loose the control over the norm of the representation on it. In order to solve the problem Lafforgue proceeds in two steps: He identifies a class of operators, which are sufficiently controlled by the geometry of (Γ, dS ), so that their graph norms are equivalent to norms of the type (5.17) considered before. A weighted sum of iterated graph norms can then still be defined in a purely geometric way and leads to Hilbert spaces, on which all controlled operators act boundedly. Then Lafforgue constructs very carefully controlled contractions of the Rips complex.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

140

His notion of control, inspired by the properties of the operators hr in the case of free groups, is Definition 5.5. — Let M, r1 , r2 > 1, and let r ∈ N. A linear operator Φ : C(∆∗ ) → C(∆∗ ) is r1 -geodesic (with respect to x0 ) and (M, r2 )-controlled of propagation r, if its matrix coefficients ΦS0 ,S1 , S0 , S1 ∈ ∆∗ , satisfy the following conditions: – ΦS0 ,S1 = 0 unless d(S1 , geod(x0 , S0 )) < r1 and |d(S0 , S1 ) − r| < r2 . – If there exists an isometry between B(x0 , M ) ∪ B(S0 , M ) ∪ B(S1 , M ) and

B(x0 , M ) ∪ B(S0′ , M ) ∪ B(S1′ , M ),

which sends S0 to S0′ , S1 to S1′ , while preserving orientations, and fixes B(x0 , M ) pointwise, then the matrix coefficients ΦS0 ,S1 and ΦS0′ ,S1′ coincide. – The set of all matrix coefficients is bounded. This notion suggests the following modification of Lafforgue’s Hilbert space. p,k,m

be the set of m-fold Definition 5.6. — Fix M, r1 > 1 and let k ∈ N. Let Y x0 iterated, M -thickened flowers of p-simplices over B(x0 , k), i.e., the set of equivalence classes of (m + 1)-tuples (S0 , S1 , . . . , Sm ), m ∈ N, of Rips-simplices Si ∈ ∆∗ , S0 ∈ ∆p , such that d(Si+1 , geod(x0 , Si )) < r1 and d(x0 , Sm ) > k + 2M , with respect to the ′ following equivalence relation. Two (m + 1)-tuples (S0 , . . . , Sm ) and (S0′ , . . . , Sm ) are equivalent if there exists an isometry between the subsets B(x0 , k + 2M ) ∪ B(S0 , M ) ∪ · · · ∪ B(Sm , M ) and ′ B(x0 , k + 2M ) ∪ B(S0′ , M ) ∪ · · · ∪ B(Sm , M)

of (Γ, dS ), which maps Si to Si′ for all i (preserving the orientations of S0 and S0′ ) and fixes B(x0 , k + 2M ) pointwise.

1

S0

y x0

B(x0 ,k) p,k,1

Figure 2. A flower in Y x0

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

141

Lafforgue defines then the Hilbert space Hx0 ,λ (∆p ) as the completion of C(∆p ) with respect to the norm 2 ! ∞ ∞ X X X X 2 −m 2(d(x0 ,S0 )−k) (5.21) k − kx0 ,λ = B lS0 , λ p,k,m m=0

(S0 ,...,Sm )∈Z

k=0 Z∈Y x 0

where B = B(λ) ≫ 0 is large, but fixed. Its new basic property is described in

R Lemma 5.7. — Every linear map Φ : C(∆R p ) → C(∆q ), which is r1 -geodesic (with respect to x0 ) and metrically (M, r2 )-controlled and of fixed bounded propagation, extends to a bounded linear operator R Φ : Hx0 ,λ (∆R p ) → Hx0 ,λ (∆q ). p,k,m

In fact, let Z1 ∈ Y x0 . Then, as Φ is r1 -geodesic and (M, r2 )-controlled of fixed propagation, its transpose Φt satisfies ! ! X X X lS0 , = lS1 αZ,Z1 (5.22) Φt (S1 ,...,Sm )∈Z1

Z

(S0 ,S1 ,...,Sm )∈Z

where – The (m + 1)-fold iterated M -thickened flowers Z “prolongate” the m-fold iterated M -thickened flower Z1 . – The number of flowers Z, which occur in the sum on the right hand side, is bounded by an absolute constant C1 (Γ, S, R, M, r1 , r2 ). – αZ,Z1 = ΦS0 ,S1 is a matrix coefficient of Φ, which depends only on Z. Thus (5.23)

kΦ(ξ)kx0 ,λ 6 C2 kξkx0 ,λ

by the Cauchy-Schwarz inequality, where C2 depends on C1 , the ℓ∞ -norm of the matrix coefficients of Φ, and of the propagation r of Φ. With this result at hand, the next step is to look whether the homotopy (5.7) may be realized by geodesic and metrically controlled operators. The simplicial differential of the Rips complex is obviously R-geodesic, R-controlled, and of propagation at most R. Concerning the contracting chain homotopy hx0 , the story is more complicated. There is a standard procedure for contracting the Rips complex of a hyperbolic group [17, 33, 41]. For a given Rips p-simplex S0 , one lets e h′x0 (S0 ) be a mean over the Rips (p + 1)-simplices S0 ∪ {y} with y ∈ Γ of minimal word-length (distance to the P∞ hx0 ψxn0 will be a contracting hx0 ). Then n=0 e hx 0 ∂ + ∂ e origin). Put ψx0 = Id − (e chain-homotopy of C(∆∗ ). The construction shows also that the subcomplexes spanned by Rips simplices supported in a given ball B ⊂ (Γ, dS ), are contractible as well (take the center of the ball as new origin).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

142

M. PUSCHNIGG

The operators h′x0 and ψx0 are clearly geodesic, controlled, and of finite propagation. So they extend to bounded operators on Hx0 ,λ (∆∗ ). However, one cannot prevent the norms of the powers ψxn0 , n ∈ N, to grow exponentially! This is due to the fact, that for fixed control parameters the operator ψxn0 will not anymore be geodesic and controlled if n is large: the transition coefficient from a simplex S0 to S1 will depend on the whole trajectory from S0 to S1 , and not only on the geometry of the union of balls of fixed radius around x, S0 and S1 . Lafforgue solves the problem by constructing ad hoc geodesic and metrically controlled chain maps (5.24)

ϕx0 ,r : C(∆∗ ) → C(∆∗ ),

which cover the identity in degree -1 and move each simplex r steps towards the origin. For {y} ∈ ∆0 let ϕx0 ,r ({y}) be the mean over the points of geod(x0 , y) ∩ S(y, r), and extend by linearity to C(∆0 ). If ϕx0 ,r has been defined on C(∆k ), and if S ′ is a (k + 1)-Rips-simplex, then let ϕx0 ,r (S ′ ) be a filling of the cycle ϕx0 ,r (∂S ′ ) inside S a fixed ball of diameter R + 2δ containing y∈S ′ geod(x0 , S ′ ) ∩ S(y, r), (such fillings exist as remarked before), and extend by linearity to C(∆k ). Finally use the same procedure to construct geodesic and metrically controlled homotopy operators (5.25)

h′x0 ,r : C(∆∗ ) → C(∆∗+1 )

satisfying (5.26)

ϕx0 ,r+1 − ϕx0 ,r = h′x0 ,r ∂ + ∂h′x0 ,r ,

and put (5.27)

h′x0 =

X

h′x0 ,r .

r

Lafforgue combines the two constructions to obtain a contracting square zero homotopy N −1 X e hx0 ◦ ψxn0 , (5.28) h′′x0 = h′x0 ◦ ψxN0 + n=0

which is controlled and moves simplices strictly towards the origin. The linear maps (5.29)

Ft = etdx0 (∂ + h′′x0 )e−tdx0

extend then to bounded operators on Hx0 ,λ (∆∗ ) for every λ > 1 and every t ∈ R+ . 5.4. The pigeonhole principle and the end of the proof What remains to be done? Still one step, and it is by far the hardest: it has to be shown that the commutators [Ft , π(g)] are compact for all g ∈ Γ and t ∈ R+ . The work of Kasparov-Skandalis [33] and of Mineyev-Yu [46] suggests how to proceed:

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

143

– The contracting homotopy h′′x0 has to be replaced by a contraction hx0 which depends “continuously” on x0 :  (5.30) lim hx0 (S0 ) − hx′0 (S0 ) = 0, ∀x′0 ∈ ∆0 . S0 →∞

– The word-metric d on Γ has to be changed into an equivalent “continuous metric” d′ with the crucial property lim (d′ (x0 , x) − d′ (x′0 , x)) = 0, ∀x′0 ∈ ∆0 .

(5.31)

x→∞

The necessary changes are quite subtle. They bring a pigeonhole argument into play which allows to deduce (5.30) and (5.31). Unfortunately, the operator hx0 and R the operator d′x : C(∆R ∗ ) → C(∆∗ ) of multiplication with the distance from the origin cannot be metrically controlled anymore. This forces Lafforgue to modify again the underlying Hilbert space. The final formula for the norm turns out to be much more complicated than our “baby model” (5.21) and depends on nine parameters (instead of the four parameters R, M, B, r1 we used). We will only give some indications and refer to Lafforgue’s original paper for more detailed information. In the notations of 5.2 it suffices more or less to verify that the operators [π(g), hx0 ,r ] and [π(g), d′x0 ] are compact for every r > 0 and g ∈ S (and thus for every g ∈ G). (The commutators [π(g), ∂] vanish because the differential ∂ is Γ-equivariant.) In more convenient terms, this means that the operators (5.32)

hx′0 ,r − hx0 ,r , and d′x0 − d′x′0 , x0 , x′0 ∈ ∆0 , d(x0 , x′0 ) = 1,

are compact. Decompose the operator (5.28) into a sum of operators of propagation r: h′′x0 = P ′′ ′′ r hx0 ,r . The construction of the operator hx0 ,r depends on a large number of choices. Any of these choices was sufficient to arrive at (5.29), but now, one has good reason to keep track of the choices made. So Lafforgue introduces a probability space (Ω, µ), whose points label the possible choices in the construction of h′′x0 ,r , r ∈ N. The corresponding operators are denoted by h′′x0 ,r,ω , ω ∈ Ω. If a simplex S0 ∈ ∆∗ is very far from the origins x0 and x′0 in the sense that d(x0 , S) ≫ r, then one may hope that h′′x0 ,r,ω (S0 ) = h′′x′ ,r,ω (S0 ) with a high probability. In fact 0

Lemma 5.8. — There exists a universal constant C > 0 such that (5.33)

µ({ ω ∈ Ω, h′′x0 ,r,ω (S0 ) 6= h′′x′0 ,r,ω (S0 ) }) 6

C d(x0 , x′0 ) 1 + (d(x0 , S0 ) − r)

for all S0 ∈ ∆∗ , all r ∈ N, and all x0 , x′0 ∈ ∆0 = Γ.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

144

The proof uses a counting argument as in [33], which is based on a pigeonhole principle. The operator Z X h′′x0 ,r,ω dµ, (5.34) hx 0 = hx0 ,r , hx0 ,r = Ω

r=0

will be the definitive contracting homotopy required in 5.2. Suppose that the operators h′′x,r,ω , ω ∈ Ω, were uniformly bounded with norms summable with respect to r. The operator hx − hx′ would then split as a sum of an operator of arbitrary small norm (neglecting simplices close to the origin) and a finite rank operator. In other words, it would be compact. e In the same spirit, Lafforgue introduces a family of modified metrics dωe , ω e ∈ Ω, e labeled by another probability space (Ω, µ e). They are obtained by an extremely subtle averaging process, and satisfy (5.35)

′ e dωe (x0 , x) 6= dωe (x′0 , x) }) 6 C(d(x0 , x0 )) . µ e({ ω e ∈ Ω, 1 + d(x0 , x)

Consequently the final new metric (5.36)

d′ =

Z

e Ω

dωe de µ,

used in 5.2, is “continuous” over large distances, and one could essentially conclude 5.2 c), provided that the operators dx0 ,ω′ − dx′0 ,ω′ were uniformly bounded. However, one cannot prove this: neither the operators h′′x,r,ω , nor the operators dx0 − dx0 ,eω are metrically controlled! Fortunately, they almost are: their matrix coefficients aS0 ,S1 vanish unless d(S1 , geod(x, S0 )) < r1 and |d(S0 , S1 ) − r| < r2 (resp. S0 = S1 ), and depend only on the isometry class of the union of B(x, M ) ∪ B(S0 , M ) ∪ B(S1 , M ) and a uniformly finite family of “control sets” of uniformly bounded diameter, located along geod(x, S0 ). This leads Lafforgue to the definitive version of his Hilbert space. He enriches the definition of the iterated flowers 5.6 by the introduction of uniformly finite families of “control sets” of uniformly bounded diameter, located uniformly close to geod(x, S0 ). The corresponding isometry relation has to take control sets into account and the number of control sets introduces a weight factor in the sums defining the Hilbert norm. Another weight factor, given by a very mildly decaying exponential of the cardinality of each flower, has still to be introduced to arrive finally at a Hilbert space satisfying (5.7). The proof of Theorem 5.2 is thus complete. 5.5. Concluding remarks Lafforgue’s proof of the Baum-Connes conjecture with coefficients for wordhyperbolic groups shows once more the power and flexibility of Kasparov’s “DiracDual Dirac” approach. It may even work in the presence of Kazhdan’s property (T)

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

145

as he shows. His work on the strengthened property (T) indicates however, that the method has its limits. There seems to be no way to apply it in the crucial case of lattices in simple algebraic groups of split rank > 2 over local fields. At present the search for a “truly noncommutative” version of J.-B. Bost’s Oka-principle [10] seems to be the only hope to settle this case. New ideas will be needed to decide whether the fascinating predictions of Baum and Connes hold for further classes of groups.

REFERENCES [1] G. Arzhantseva & T. Delzant – “Examples of random groups”, preprint, 2008. [2] M. F. Atiyah – “Bott periodicity and the index of elliptic operators”, Quart. J. Math. Oxford Ser. (2) 19 (1968), p. 113–140. [3] M. F. Atiyah & I. M. Singer – “The index of elliptic operators I”, Ann. of Math. (2) 87 (1968), p. 484–530. , “The index of elliptic operators IV”, Ann. of Math. (2) 93 (1971), p. 119–

[4] 138.

[5] S. Baaj & P. Julg – “Th´eorie bivariante de Kasparov et op´erateurs non born´es dans les C ∗ -modules hilbertiens”, C. R. Acad. Sci. Paris S´er. I Math. 296 (1983), no. 21, p. 875–878. [6] U. Bader, A. Furman, T. Gelander & N. Monod – “Property (T) and rigidity for actions on Banach spaces”, Acta Math. 198 (2007), no. 1, p. 57–105. [7] P. Baum & A. Connes – “Geometric K-theory for Lie groups and foliations”, Enseign. Math. (2) 46 (2000), no. 1-2, p. 3–42. [8] P. Baum, A. Connes & N. Higson – “Classifying space for proper actions and K-theory of group C ∗ -algebras”, in C ∗ -algebras: 1943–1993 (San Antonio, 1993), Contemp. Math., vol. 167, Amer. Math. Soc., Providence, 1994, p. 240–291. [9] B. Bekka, P. de la Harpe & A. Valette – Kazhdan’s property (T), Cambridge Univ. Press, Cambridge, 2008. [10] J.-B. Bost – “Principe d’Oka, K-th´eorie et syst`emes dynamiques non commutatifs”, Invent. Math. 101 (1990), no. 2, p. 261–333. [11] J. Bourgain – “A Hausdorff-Young inequality for B-convex Banach spaces”, Pacific J. Math. 101 (1982), no. 2, p. 255–262. [12] J. Chabert, S. Echterhoff & R. Nest – “The Connes-Kasparov conjecture ´ for almost connected groups and for linear p-adic groups”, Publ. Math. IHES (2003), no. 97, p. 239–278. [13] A. Connes – Noncommutative geometry, Academic Press Inc., San Diego, 1994.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

146

[14] J. Cuntz – “A new look at KK-theory”, K-Theory 1 (1987), no. 1, p. 31–51. [15] T. Fack – “K-th´eorie bivariante de Kasparov”, in S´eminaire Bourbaki, vol. 1982/83, Ast´erisque, vol. 105-106, Soc. Math. France, Paris, 1983, p. 149– 166. ´ Ghys – “Groupes al´eatoires (d’apr`es Misha Gromov, . . . )”, in S´eminaire Bour[16] E. baki, vol. 2002/03, Ast´erisque, vol. 294, Soc. Math. France, Paris, 2004, p. 173– 204. [17] M. Gromov – “Hyperbolic groups”, in Essays in group theory, Math. Sci. Res. Inst. Publ., vol. 8, Springer, New York, 1987, p. 75–263. [18]

, “Asymptotic invariants of infinite groups”, in Geometric group theory (Sussex, 1991) II, London Math. Soc. Lecture Note Ser., vol. 182, Cambridge Univ. Press, Cambridge, 1993, p. 1–295.

[19]

, “Random walk in random groups”, Geom. Funct. Anal. 13 (2003), no. 1, p. 73–146.

[20] P. de la Harpe & A. Valette – La propri´et´e (T ) de Kazhdan pour les groupes localement compacts (avec un appendice de Marc Burger), Ast´erisque, vol. 175, Soc. Math. France, Paris, 1989. [21] N. Higson – “A characterization of KK-theory”, Pacific J. Math. 126 (1987), no. 2, p. 253–276. [22]

, “The Baum-Connes conjecture”, in Proceedings of the International Congress of Mathematicians (Berlin, 1998), no. extra vol. II, 1998, p. 637–646.

[23] N. Higson & G. Kasparov – “E-theory and KK-theory for groups which act properly and isometrically on Hilbert space”, Invent. Math. 144 (2001), no. 1, p. 23–74. [24] N. Higson, V. Lafforgue & G. Skandalis – “Counterexamples to the BaumConnes conjecture”, Geom. Funct. Anal. 12 (2002), no. 2, p. 330–354. [25] R. E. Howe & C. C. Moore – “Asymptotic properties of unitary representations”, J. Funct. Anal. 32 (1979), no. 1, p. 72–96. [26] P. Julg – “Remarks on the Baum-Connes conjecture and Kazhdan’s property T ”, in Operator algebras and their applications (Waterloo, 1994/1995), Fields Inst. Commun., vol. 13, Amer. Math. Soc., Providence, 1997, p. 145–153. [27]

, “Travaux de N. Higson et G. Kasparov sur la conjecture de BaumConnes”, in S´eminaire Bourbaki, vol. 1997/98, Ast´erisque, vol. 252, Soc. Math. France, Paris, 1998, p. 151–183.

[28]

, “La conjecture de Baum-Connes `a coefficients pour le groupe Sp(n, 1)”, C. R. Math. Acad. Sci. Paris 334 (2002), no. 7, p. 533–538.

[29] P. Julg & A. Valette – “K-theoretic amenability for SL2 (Qp ), and the action on the associated tree”, J. Funct. Anal. 58 (1984), no. 2, p. 194–215.

´ ASTERISQUE 361

(1062)

THE BAUM-CONNES CONJECTURE WITH COEFFICIENTS

147

[30] G. Kasparov – “The operator K-functor and extensions of C ∗ -algebras”, Izv. Akad. Nauk SSSR Ser. Mat. 44 (1980), no. 3, p. 571–636. [31]

, “Operator K-theory and its applications: elliptic operators, group representations, higher signatures, C ∗ -extensions”, in International Congress of Mathematicians Proceedings (Warsaw, 1983), PWN, Warsaw, 1984, p. 987–1000.

[32]

, “Equivariant KK-theory and the Novikov conjecture”, Invent. Math. 91 (1988), no. 1, p. 147–201.

[33] G. Kasparov & G. Skandalis – “Groups acting properly on “bolic” spaces and the Novikov conjecture”, Ann. of Math. (2) 158 (2003), no. 1, p. 165–206. [34] G. Kasparov & G. Yu – “The Novikov conjecture and geometry of Banach spaces”, Geom. Topol. 16 (2012), no. 3, p. 1859–1880. [35] V. Lafforgue – “Banach KK-theory and the Baum-Connes conjecture”, in International Congress of Mathematicians Proceedings (Beijing, 2002) II, Higher Ed. Press, Beijing, 2002, p. 795–812. [36]

, “K-th´eorie bivariante pour les alg`ebres de Banach et conjecture de Baum-Connes”, Invent. Math. 149 (2002), no. 1, p. 1–95.

[37]

, “K-th´eorie bivariante pour les alg`ebres de Banach, groupo¨ıdes et conjecture de Baum-Connes (avec un appendice d’Herv´e Oyono-Oyono)”, J. Inst. Math. Jussieu 6 (2007), no. 3, p. 415–451.

[38]

, “Un renforcement de la propri´et´e (T)”, Duke Math. J. 143 (2008), no. 3, p. 559–602.

[39]

, “Propri´et´e (T) renforc´ee banachique et transformation de Fourier rapide”, J. Topol. Anal. 1 (2009), no. 3, p. 191–206.

[40]

, “Propri´et´e (T) renforc´ee et conjecture de Baum-Connes”, in Quanta of maths, Clay Math. Proc., vol. 11, Amer. Math. Soc., Providence, 2010, p. 323– 345.

[41]

, “La conjecture de Baum-Connes `a coefficients pour les groupes hyperboliques”, J. Noncommut. Geom. 6 (2012), no. 1, p. 1–197.

[42] G. A. Margulis – Discrete subgroups of semisimple Lie groups, Ergeb. Math. Grenzgeb. (3), vol. 17, Springer-Verlag, Berlin, 1991. [43] M. Mendel & A. Naor – “Towards a calculus for non-linear spectral gaps”, in Proceedings of the Twenty-First Annual ACM-SIAM Symposium on Discrete Algorithms, Soc. Ind. Appl. Math., Philadelphie, 2010, p. 236–255. , “Non-linear spectral calculus and super-expanders”, arXiv:1207.4705,

[44] 2012.

[45] R. Meyer – “Equivariant Kasparov theory and generalized homomorphisms”, K-Theory 21 (2000), no. 3, p. 201–228.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

M. PUSCHNIGG

148

[46] I. Mineyev & G. Yu – “The Baum-Connes conjecture for hyperbolic groups”, Invent. Math. 149 (2002), no. 1, p. 97–122. [47] C. Phillips – Equivariant K-theory for proper actions, Pitman Res. Notes Math., vol. 178, Longman Scientific and Technical, Essex, 1989. [48] R. T. Powers – “Simplicity of the C ∗ -algebra associated with the free group on two generators”, Duke Math. J. 42 (1975), p. 151–156. [49] G. Skandalis – “Une notion de nucl´earit´e en K-th´eorie (d’apr`es J. Cuntz)”, K-Theory 1 (1988), no. 6, p. 549–573. [50]

, “Progr`es r´ecents sur la conjecture de Baum-Connes. Contribution de Vincent Lafforgue”, in S´eminaire Bourbaki, vol. 1999/2000, Ast´erisque, vol. 276, Soc. Math. France, Paris, 2002, p. 105–135.

[51] K. Thomsen – “The universal property of equivariant KK-theory”, J. reine angew. Math. 504 (1998), p. 55–71. [52] J.-L. Tu – “The Baum-Connes conjecture and discrete group actions on trees”, K-Theory 17 (1999), no. 4, p. 303–318. [53] A. Wassermann – “Une d´emonstration de la conjecture de Connes-Kasparov pour les groupes de Lie lin´eaires connexes r´eductifs”, C. R. Acad. Sci. Paris S´er. I Math. 304 (1987), no. 18, p. 559–562. [54] G. Yu – “Hyperbolic groups admit proper affine isometric actions on lp -spaces”, Geom. Funct. Anal. 15 (2005), no. 5, p. 1144–1151.

Michael PUSCHNIGG IML UMR 6206 du CNRS Universit´e d’Aix-Marseille 13009 Marseille France E-mail : [email protected]

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1063, p. 149 `a 181

Janvier 2013

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES [d’apr` es Green-Griffiths, Brosnan-Pearlstein, M. Saito, Schnell...] par Fran¸ cois CHARLES

INTRODUCTION Ce texte a pour but de d´ecrire un certain nombre d’avanc´ees r´ecentes en th´eorie de Hodge concernant les valeurs limites de fonctions normales et les d´eg´en´erescences de jacobiennes interm´ediaires. Soit X une vari´et´e projective lisse sur le corps des nombres complexes. G´en´eralisant l’application d’Abel-Jacobi habituelle associant `a un diviseur homologiquement trivial sur X un point de la jacobienne de X, Griffiths a construit dans [Gr68] une application d’Abel-Jacobi pour les cycles de codimension quelconque homologues `a z´ero ` a valeurs dans un tore complexe, la jacobienne interm´ediaire de X. Quand X varie dans une famille lisse au-dessus d’une base B, les jacobiennes interm´ediaires varient elles aussi en une famille lisse, et les familles de cycles fournissent des sections de cette fibration en jacobiennes interm´ediaires. Ces sections, qui v´erifient une ´equation diff´erentielle venant de la propri´et´e de transversalit´e de Griffiths, sont des cas particuliers de fonctions normales. La construction qui pr´ec`ede est de nature transcendante : les jacobiennes interm´ediaires ne sont pas en g´en´eral des vari´et´es ab´eliennes, et les fonctions normales sont donc des fonctions seulement analytiques. D’autre part, pour les probl`emes de nature globale, il est n´ecessaire de pouvoir travailler dans un contexte o` u la vari´et´e X ci-dessus peut d´eg´en´erer en une vari´et´e singuli`ere. Se pose alors la question du comportement ` a la limite de la fibration en jacobiennes interm´ediaires et des fonctions normales. Dans le cas d’un pinceau de Lefschetz – donc d’une base de dimension 1 – ces pr´eoccupations apparaissent d`es la preuve par Poincar´e de la conjecture de Hodge pour les diviseurs. En direction de la conjecture de Hodge, le th´eor`eme de Zucker sur les fonctions normales [Zu76] donne une correspondance entre classes de Hodge dans la cohomologie primitive de degr´e 2d d’une vari´et´e projective lisse complexe de

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

150

F. CHARLES

dimension 2d et certaines fonctions normales pour une compactification de la fibration en jacobiennes interm´ediaires associ´ee `a un pinceau de Lefschetz. Pour les cycles de codimension au moins 2, l’application d’Abel-Jacobi n’est pas surjective en g´en´eral. La d´etermination de son image est aujourd’hui une question largement ouverte. Il est bien connu que ce probl`eme est un obstacle majeur dans l’´etude de la conjecture de Hodge par la m´ethode du paragraphe pr´ec´edent. Depuis quelques ann´ees, ` a la suite d’un article de Thomas [Th05] puis d’un article, fondamental pour les questions dont nous traitons, de Green et Griffiths [GG07], est apparue l’id´ee de construire des cycles alg´ebriques en travaillant non pas avec un pinceau de Lefschetz, mais avec la famille universelle des sections hyperplanes d’une vari´et´e. Comme Green et Griffiths l’ont mis en avant, travailler au-dessus d’une base de grande dimension permet de faire apparaˆıtre des invariants, les singularit´es d’une fonction normale, qui sont de torsion dans le cas d’une base de dimension 1. L’existence de singularit´es qui ne sont pas de torsion est pr´edite par la conjecture de Hodge, et lui est en fait ´equivalente. Suivant ce cercle d’id´ees, l’´etude des d´eg´en´erescences des fonctions normales audessus d’une base quelconque s’est d´evelopp´ee de mani`ere importante en quelques ann´ees. Un ´enonc´e particuli`erement frappant dans ce contexte est le suivant. Th´ eor` eme 0.1. — Soit ν une fonction normale admissible sur une vari´et´e alg´ebrique complexe B. Alors le lieu d’annulation de ν est alg´ebrique. Il s’agit d’un r´esultat de th´eorie de Hodge. Dans le th´eor`eme pr´ec´edent, une fonction normale admissible est la version abstraite d’une fonction normale venant de la g´eom´etrie comme plus haut. L’alg´ebricit´e du lieu des z´eros ci-dessus contraste avec le fait que la d´efinition mˆeme de fonction normale n’a de sens que dans un cadre analytique et que le lieu des z´eros de ν n’est a priori qu’un sous-ensemble analytique de X. Nous expliquerons dans le cours du texte le lien entre les m´ethodes de Green-Griffiths, ainsi que les conjectures usuelles sur les cycles alg´ebriques, et le th´eor`eme 0.1. D’apr`es un th´eor`eme de Carlson [Ca87], les jacobiennes interm´ediaires param`etrent des familles de structures de Hodge mixtes. Plus pr´ecis´ement, si H est une structure de Hodge polaris´ee de poids strictement n´egatif, la jacobienne interm´ediaire J(H) est en bijection canonique avec les structures de Hodge mixtes H ′ qui sont extension de Z par H. Une telle extension est scind´ee si et seulement si H ′ contient une classe de Hodge – c’est-` a-dire un ´el´ement de H ′ ∩ W0 HQ′ ∩ F 0 HC , o` u W est la filtration par le poids et F la filtration de Hodge. Via cette interpr´etation, le th´eor`eme 0.1 est un r´esultat d’alg´ebricit´e du lieu des classes de Hodge dans l’espace total d’une variation de structures de Hodge mixte. En ce sens, il est l’analogue d’un r´esultat c´el`ebre de Cattani, Deligne et Kaplan [CDK95] sur l’alg´ebricit´e du lieu des classes de Hodge dans l’espace total d’une variation de structures de Hodge pures polaris´ees de poids pair. De mˆeme que le r´esultat de

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

151

Cattani-Deligne-Kaplan serait une cons´equence de la conjecture de Hodge, le th´eor`eme 0.1 est reli´e aux conjectures de Bloch et Beilinson sur l’existence d’une filtration sur les groupes de Chow des vari´et´es alg´ebriques. Pour d´emontrer le th´eor`eme 0.1, il suffit, c’est le th´eor`eme GAGA de Serre [Se56], de montrer que l’adh´erence du lieu des z´eros de ν dans une compactification alg´ebrique de X est encore un sous-ensemble analytique. Dans une s´erie d’articles [BP1, BP2, BP3], Brosnan et Pearlstein sont parvenus `a prouver ce r´esultat par une analyse fine de la th´eorie de Schmid d´ecrivant en un certain sens les limites de familles de structures de Hodge sur des produits de disques ´epoint´es, ainsi que de ses g´en´eralisations dues en particulier ` a Cattani, Deligne et Kaplan. Leur m´ethodes n’´etudient que le lieu des z´eros et ne d´ecrivent pas la d´eg´en´erescence de la fibration en jacobiennes interm´ediaires. L’´etude de cette d´eg´en´erescence, et la recherche d’un mod`ele de N´eron pour les familles de jacobiennes interm´ediaires – en un sens `a pr´eciser plus tard – a ´et´e entreprise par Green, Griffiths et Kerr [GGK10], puis Brosnan, Pearlstein et Saito [BPS08], g´en´eralisant des travaux ant´erieurs de Zucker [Zu76] et Clemens [Cle83]. Dans cette direction, le r´esultat le plus puissant est dˆ u `a Schnell [Sc12] qui construit un mod`ele de N´eron pour les familles de jacobiennes interm´ediaires au-dessus d’une compactification lisse quelconque de la base. L’apport essentiel de la construction de Schnell est d’utiliser de mani`ere efficace la th´eorie des modules de Hodge mixtes de Saito [Sa88, Sa90]. Ces derniers, qui jouent en th´eorie de Hodge le rˆole des faisceaux pervers ℓ-adiques pour les vari´et´es sur les corps finis, fournissent ici des faisceaux coh´erents ´etendant les fibr´es vectoriels qui permettent de d´efinir la fibration en jacobiennes interm´ediaires. C’est eux aussi qui permettent ` a la construction de fonctionner au-dessus d’une base quelconque, quand la th´eorie de Schmid et ses g´en´eralisations ne sont en g´en´eral adapt´ees qu’`a la situation o` u l’on travaille sur un produit de disques ´epoint´es. Le mod`ele de N´eron construit par Schnell est suffisant pour donner une d´emonstration du th´eor`eme 0.1. C’est celle-l`a que nous esquisserons. Il existe une troisi`eme approche `a ce type de questions, dont nous ne parlerons pas, d´evelopp´ee principalement par Kato, Nakayama et Usui [KNU08, KNU10, KNU11, KU09]. Dans cette s´erie d’articles, les auteurs montrent comment appliquer des m´ethodes de g´eom´etrie logarithmique `a l’´etude des d´eg´en´erescences de structures de Hodge mixtes. Dans le cas o` u la d´eg´en´erescence se produit au-dessus d’un diviseur `a croisements normaux, on peut construire un mod`ele de N´eron qui permette de d´emontrer le th´eor`eme 0.1. Les r´esultats de d´eg´en´erescences ´evoqu´es ci-dessus font tous appel de mani`ere fine a` des calculs pr´ecis sur les structures de Hodge limites. Les techniques introduites par Schmid dans [Sc73] notamment orbites nilpotentes, th´eor`emes de l’orbite SL2 , ainsi que leurs variantes et leurs g´en´eralisations, jouent un rˆole dans les trois d´emonstrations

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

152

F. CHARLES

mentionn´ees plus haut. Il s’agit dans tous les cas d’obtenir des estim´ees souvent d´elicates sur les normes de certaines solutions d’´equations diff´erentielles – correspondant aux sections du syst`eme local entier ou r´eel sous-jacent `a une variation de structures de Hodge – au voisinage d’une d´eg´en´erescence. Dans ce texte, nous avons choisi d’´evoquer un autre aspect du cercle d’id´ees en question en nous concentrant sur le versant « pervers » de la discussion. Le formalisme des faisceaux pervers et des modules de Hodge mixtes joue un rˆole crucial `a la fois dans l’´etude des singularit´es des fonctions normales et dans la construction du mod`ele de N´eron de Schnell. C’est pr´ecis´ement cet aspect-l` a qui est suffisamment fonctoriel pour travailler audessus d’une base quelconque. En ce qui concerne les applications aux cycles alg´ebriques, cela permet notamment de travailler avec la famille universelle des sections hyperplanes d’une vari´et´e projective lisse donn´ee, cas o` u le diviseur param´etrant le lieu des hypersurfaces singuli`eres est loin d’ˆetre `a croisements normaux. En particulier, la famille universelle des hypersurfaces de degr´e donn´e de l’espace projectif est un exemple int´eressant, et les r´esultats de Schnell permettent de prolonger, en un sens, l’´etude de la cohomologie des hypersurfaces lisses, pour lesquelles la filtration de Hodge a ´et´e d´ecrite par Griffiths [Gr69]. Une situation similaire est d´ecrite par le th´eor`eme du support de Ngˆo [Ngˆ o10] qui, dans un cas tr`es particulier, d´ecrit les faisceaux pervers intervenant dans le th´eor`eme de d´ecomposition pour la courbe plane universelle. En un certain sens, ces r´esultats pr´ecisent et ´elargissent l’´enonc´e du th´eor`eme de d´ecomposition de Beilinson-Bernstein-Deligne-Gabber [BBD82] dans ce contexte. Nous renvoyons ` a [KP10] pour une autre exposition d´etaill´ee de la th´eorie r´ecente des fonctions normales. Le texte est organis´e comme suit. Dans la premi`ere partie, nous rappelons bri`evement la th´eorie classique des fonctions normales, due `a Griffiths. La deuxi`eme partie est consacr´ee aux questions d’alg´ebricit´e de lieux de Hodge et `a des variations sur l’´enonc´e du th´eor`eme 0.1. La troisi`eme partie est consacr´ee `a l’utilisation – largement conjecturale – des fonctions normales dans la construction de cycles alg´ebriques. Apr`es avoir d´ecrit le cas des pinceaux de Lefschetz et le th´eor`eme de Zucker, nous introduisons la notion de singularit´e d’une fonction normale, qui n’apparaˆıt, `a torsion pr`es, qu’au-dessus d’une base de dimension sup´erieure, et nous expliquons, suivant [BFNP09], comment l’existence de suffisamment de singularit´es pour les fonctions normales est ´equivalente ` a la conjecture de Hodge. Enfin, la derni`ere partie de ce texte est consacr´ee ` a la construction d’un mod`ele de N´eron pour les familles de jacobiennes interm´ediaires, suivant Schnell. Nous d´ecrivons l’objet obtenu dans le cas de la courbe plane universelle en utilisant le th´eor`eme du support de Ngˆo [Ngˆ o10] et donnons les grandes lignes de la preuve du th´eor`eme 0.1.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

153

Tout au long de l’expos´e, le corps de base est le corps des nombres complexes. Les groupes de cohomologie singuli`ere que nous aurons `a utiliser seront toujours consid´er´es modulo leur sous-groupe de torsion. Remerciements. — Je tiens ` a exprimer ma reconnaissance `a Christian Schnell pour ses nombreuses r´eponses ` a mes nombreuses questions. Je remercie G´erard Laumon de m’avoir expliqu´e le th´eor`eme du support de Ngˆo dans le cas de la famille universelle des courbes planes, Alexander Beilinson de m’avoir indiqu´e son texte [Be12], ainsi que Patrick Brosnan, Matt Kerr et Olivier Benoist.

´ 1. LA THEORIE CLASSIQUE Dans cette partie, on d´ecrit sans d´emonstrations la th´eorie classique de l’application d’Abel-Jacobi et des fonctions normales. Sous cette forme, elle est essentiellement due `a Griffiths. Nous nous concentrons sur le cas du poids −1, mais la plupart des ´enonc´es valent mutatis mutandis pour les structures de Hodge de poids strictement n´egatif. 1.1. Jacobiennes interm´ ediaires et application d’Abel-Jacobi Soit H une structure de Hodge enti`ere de poids −1. On note HZ le groupe ab´elien sous-jacent, HC l’espace vectoriel complexe correspondant, et F • la filtration de Hodge sur HC . Le poids ´etant −1, les sous-espaces F 0 HC et leur conjugu´e complexe F 0 HC sont en somme directe, et l’on a HC = F 0 H C ⊕ F 0 H C . Il r´esulte de cette d´ecomposition que l’application canonique HR ⊂ HC → HC /F 0 HC est un isomorphisme d’espaces vectoriels r´eels. Cela signifie que le groupe ab´elien HZ s’identifie ` a un r´eseau de l’espace vectoriel complexe HC → HC /F 0 HC , et justifie la d´efinition suivante. D´ efinition 1.1. — La jacobienne interm´ediaire de H est le tore complexe HC J(H) = 0 . F HC + H Z Remarque 1.2. — Le point cl´e de la d´efinition ci-dessus, celui qui permet de quotienter par le groupe HZ et d’obtenir un espace topologique s´epar´e, est pr´ecis´ement le fait que la filtration de Hodge soit oppos´ee `a sa filtration conjugu´ee. Cela se traduit ici par l’´egalit´e F 0 HC ∩ F 0 HC = 0. Il s’agit l`a d’une propri´et´e de nature analytique, qui n’est semble-t-il pas accessible par la g´eom´etrie alg´ebrique seule, et dont la d´emonstration fait appel `a la th´eorie

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

154

F. CHARLES

des op´erateurs diff´erentiels elliptiques. Les estim´ees n´ecessaires `a la construction des mod`eles de N´eron sont justement, on le verra, celles qui permettent de garantir la propri´et´e de s´eparation. Si X est une vari´et´e projective lisse et k un entier strictement positif, la construction pr´ec´edente s’applique au cas o` u H est le groupe de cohomologie singuli`ere 2k−1 H (X, Z(k)) muni de sa structure de Hodge canonique. On obtient ainsi la k-i`eme jacobienne interm´ediaire de X, not´ee J k (X). Si k = 1, cette construction fournit le tore complexe sous-jacent `a la vari´et´e ab´elienne Pic0 (X), qui param`etre les fibr´es en droite homologiquement triviaux sur X. Si k est ´egal ` a la dimension de X, on retrouve la vari´et´e d’Albanese, qui param`etre elle certaines classes d’´equivalence de z´eros-cycles sur X. Dans le cas g´en´eral, la jacobienne interm´ediaire est un objet de nature plus myst´erieuse. En g´en´eral, si k est diff´erent de 1 et de la dimension de X, il ne s’agit pas d’une vari´et´e ab´elienne. En effet, ` a l’exception de ces deux cas extrˆemes, une polarisation de la structure de Hodge H 2k−1 (X, Z(k)) n’induit pas, pour des raisons de signe, une polarisation du tore complexe J k (X). Dans la suite de l’expos´e, nous expliquerons comment g´en´eraliser la construction des jacobiennes interm´ediaires lorsque la structure de Hodge H varie et peut ´eventuellement d´eg´en´erer. Dans ce contexte, HC est remplac´e par un D-module holonome r´egulier M. En g´en´eral, M n’est pas coh´erent comme O-module, mais on dispose de sous-O-faisceaux coh´erents de M. C’est avec ceux-ci qu’il est plus facile de construire des objets g´eom´etriques prolongeant les jacobiennes interm´ediaires. Pour cette raison, nous aurons besoin d’une d´efinition diff´erente, mais ´equivalente. ˇ = H ∨ (1) Proposition 1.3. — Soit H une structure de Hodge de poids −1. Soit H la structure de Hodge duale de H, normalis´ee pour ˆetre de poids −1. La jacobienne interm´ediaire de H est canoniquement isomorphe au tore complexe ˇ C )∨ (F 0 H . HZ ˇ C est donn´ee par la formule F p H ˇC = Preuve. — La filtration de Hodge sur H 0 ∨ ˇ {f : HC → C|f|F −p HC = 0}. Le r´eseau entier HZ s’envoie dans (F HC ) par bidualit´e et restriction. Cela ´etant, on dispose d’un accouplement canonique ˇ C ) ⊗ HC → C (F 0 H qui passe au quotient pour donner un isomorphisme HC ˇ C )∨ ≃ (F 0 H F 0 HC compatible ` a l’inclusion de HZ des deux cˆ ot´es, ce qui d´emontre la proposition.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

155

Remarque 1.4. — Tout cela vaut encore si le poids est seulement strictement n´egatif. Dans ce cas, les jacobiennes interm´ediaires ne sont cependant pas compactes en g´en´eral. G´en´eralisant la situation des diviseurs et des z´eros-cycles, on peut d´efinir des appli´ cations d’Abel-Jacobi ` a valeurs dans les jacobiennes interm´ediaires. Etant donn´e un cycle Z de codimension k sur X, c’est-`a-dire une combinaison formelle `a coefficients entiers de sous-sch´emas r´eduits de X de codimension k, la classe de cohomologie de Z appartient au groupe H 2k (X, Z(k)). Si Z est homologue `a z´ero, on peut d´efinir de mani`ere canonique l’image aj(Z) de Z dans la jacobienne interm´ediaire J k (X). On peut montrer que l’application aj envoie les cycles rationnellement ´equivalents `a z´ero sur l’´el´ement neutre de la jacobienne interm´ediaire. L’application d’Abel-Jacobi passe donc au quotient pour d´efinir une application aj : CH k (X)hom → J k (X) d´efinie sur le groupe de Chow des cycles homologues `a z´ero dans X. C’est un morphisme de groupes. Pour k = 1, on retrouve l’application d’Abel-Jacobi pour les diviseurs. Il s’agit dans ce cas d’une bijection. Si k est ´egal `a la dimension de X, on obtient l’application d’Albanese. Cette application est surjective. Cependant, mˆeme dans ce cas, le noyau peut ˆetre tr`es gros comme l’a montr´e Mumford [Mu68]. En g´en´eral, le noyau comme l’image de l’application d’Abel-Jacobi sont tr`es mal compris. En un sens ` a pr´eciser, l’application d’Abel-Jacobi est compatible `a l’action des correspondances. Dans la suite de cette section, nous d´ecrivons les r´esultats de Griffiths sur son comportement quand X et Z varient dans une famille analytique. 1.2. Variations de structures de Hodge Soient B une vari´et´e analytique lisse et k un entier. Une variation de structures de Hodge enti`ere de poids k sur B est la donn´ee – d’un syst`eme local HZ de groupes ab´eliens libres sur B, – d’un fibr´e vectoriel holomorphe H sur B muni d’une connexion plate ∇, – d’une filtration d´ecroissante F • de H par des sous-fibr´es vectoriels holomorphes. La filtration ci-dessus est appel´ee la filtration de Hodge. On exige en outre les propri´et´es et compatibilit´es suivantes : – le syst`eme local d’espaces vectoriels complexes HC obtenu `a partir de HZ est le syst`eme local des sections plates de H, – en tout point b de B, la filtration de Hodge sur H induit, via l’identification ci-dessus, une structure de Hodge de poids k sur la fibre en b, HZ,b , – la filtration de Hodge satisfait la propri´et´e de transversalit´e de Griffiths ∇(F p H) ⊂ F p+1 H ⊗ Ω1B/C .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

156

F. CHARLES

La notion de variation de structures de Hodge est la version abstraite de l’objet obtenu lorsque l’on consid`ere la cohomologie relative d’un morphisme projectif et lisse π : X → B. Dans ce cas, Deligne a prouv´e [De68] que le complexe Rπ∗ Q dans la cat´egorie d´eriv´ee est somme directe de ses objets de cohomologie Rk π∗ Q. La donn´ee du syst`eme local Rk π∗ Q et du faisceau de cohomologie de de Rham relative Hk (X /B) muni de la connexion de Gauss-Manin et de la filtration de Hodge donnent alors lieu `a une variation de structures de Hodge. Comme dans le cas des structures de Hodge, on dispose d’une notion de polarisation pour les variations de structures de Hodge mixtes. Il s’agit simplement d’un accouplement compatible ` a la connexion de Gauss-Manin qui induit une polarisation sur les structures de Hodge au-dessus des points de B. Dans la suite, mˆeme si nous ne le mentionnons pas, nous ne consid´ererons que des variations de structures de Hodge polaris´ees. 1.3. Fonctions normales Soit H = (HZ , H) une variation de structures de Hodge polaris´ee sur B, de poids −1. La construction des jacobiennes interm´ediaires en 1.1 se g´en´eralise au cas relatif comme suit. Bien que la construction et la v´erification de ses propri´et´es soient ais´ees, l’importance de cette construction dans le cas o` u la variation de structures de Hodge mixte est remplac´ee par un module de Hodge nous am`ene `a donner quelques d´etails. La variation de structure de Hodge duale `a H, normalis´ee pour ˆetre elle aussi de ˇ de H. Comme dans la proposipoids −1, a pour fibr´e vectoriel sous-jacent le dual H tion 1.3, on dispose d’une fl`eche naturelle ˇ ∨ HZ ֒→ (F 0 H) ˇ ∨. du syst`eme local HZ dans le fibr´e vectoriel (F 0 H) Soit pZ : TZ → B l’espace ´etal´e du faisceau HZ . C’est un espace analytique en ˇ groupes sur B dont les sections s’identifient aux sections de HZ . De mˆeme, soit T (F 0 H) 0 ˇ le spectre relatif de l’alg`ebre sym´etrique sur le faisceau localement libre F H. L’espace ˇ est l’espace total du fibr´e vectoriel F 0 H. ˇ T (F 0 H) ` l’inclusion HZ ֒→ (F 0 H) ˇ ∨ correspond une fl`eche A ˇ ǫ : TZ → T (F 0 H) au-dessus de B, compatible aux structures de groupes. Proposition 1.5. — Le morphisme ǫ est une immersion ferm´ee.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

157

Preuve. — L’injectivit´e de ǫ se d´emontre fibre par fibre, et vient de la construction des jacobiennes interm´ediaires de 1.1. Pour montrer que i est une immersion ferm´ee, on peut raisonner localement sur B et donc supposer que HZ est le syst`eme local trivial. Dans ce cas, TZ est simplement une union d´enombrable de copies de B index´ee par le groupe discret des sections globales de HZ . En particulier, la restriction de pZ `a chaque composante connexe de TZ est propre, ce qui implique que la restriction de ǫ `a chaque composante connexe de TZ est propre. La restriction de ǫ `a chacune des composantes connexes de TZ est donc une immersion ferm´ee. L’injectivit´e globale de ǫ permet de conclure. Ce qui pr´ec`ede permet de construire le quotient d’espaces analytiques en groupes ˇ J = T (F 0 H)/T ediaires des fibres de la variaZ . Ses fibres sont les jacobiennes interm´ tion de structures de Hodge H. Puisque ǫ est une immersion ferm´ee, il est facile de v´erifier que J est lisse sur B. D´ efinition 1.6. — L’espace analytique J → B est la fibration en jacobiennes interm´ediaires associ´ee ` a H. Ce qui pr´ec`ede permet d’introduire la notion de fonction normale. Supposons d’abord donn´e un morphisme projectif lisse X → B. La cohomologie de degr´e 2k − 1 des fibres de X fournit, apr`es un twist de Tate convenable, la fibration en jacobiennes interm´ediaires J k (X ) → B. Si maintenant Z est une famille de cycles de codimension k de X au-dessus de B, dont la restriction ` a chaque fibre est homologiquement triviale, l’application d’AbelJacobi donn´ee fibre par fibre comme en 1.1 fournit une section holomorphe ν de J k (X ) → B. La section ν est le prototype d’une fonction normale. En g´en´eral, les fonctions normales sont des sections holomorphes de la fibration en jacobiennes interm´ediaires J → B. Comme dans le cas des variations de structures de Hodge, les fonctions normales venant de la g´eom´etrie v´erifient une ´equation diff´erentielle, c’est la condition d’horizontalit´e – dont nous verrons plus tard qu’il s’agit d’une forme mixte de la transversalit´e de Griffiths. Nous ne d´efinissons pas la condition d’horizontalit´e dans ce paragraphe, pr´ef´erant la repousser ` a la section 2.2. Les fonctions normales sont par d´efinition les sections holomorphes horizontales de J → B. Dans le cas, qui nous int´eresse tout particuli`erement, o` u B est le compl´ementaire dans une vari´et´e analytique lisse d’un ferm´e analytique, El-Zein et Zucker [EZZ84], Kashiwara [Ka86] et Saito [Sa96] dans un contexte plus g´en´eral, ont isol´e une condition d’admissibilit´e pour les fonctions normales qui impose des conditions de croissance mod´er´ee ` a l’infini. Bien qu’elle soit importante techniquement, nous avons choisi de ne pas d´efinir cette notion et nous parlerons librement de fonctions normales admissibles.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

158

F. CHARLES

´ ´ 2. LIEUX DE HODGE – QUESTIONS D’ALGEBRICIT E Dans cette section, nous essayons de motiver l’´enonc´e du th´eor`eme 0.1 et en donnons quelques variantes.

2.1. Le th´ eor` eme de Cattani-Deligne-Kaplan Une r´ef´erence particuli`erement agr´eable pour ce qui vient est l’article [Vo]. Soit B une vari´et´e quasi-projective lisse, et soit π : X → B un morphisme projectif et lisse. Soit k un entier. Nous consid´erons dans ce paragraphe la variation de structures de Hodge de poids pair 2k associ´ee `a R2k π∗ Z. Soit b un point de B, et soit h un ´el´ement de H 2k (Xb , Z). On dit que h est une classe de Hodge si l’image de h dans H 2k (Xb , C) appartient `a F k H 2k (Xb , C). Le transport parall`ele associe ` a h un ´el´ement canonique du groupe H 2k (Xb′ , Z) pour tout point b′ dans un petit voisinage – simplement connexe – de b dans B. Le lieu de Hodge T de h dans B est le lieu des points b′ comme ci-dessus o` u h reste une classe de Hodge – de mani`ere ´equivalente, o` u h reste dans F k H 2k . Il r´esulte du fait que la filtration de Hodge varie de mani`ere holomorphe que T est le germe d’un sous-ensemble analytique de B. Cependant, la conjecture de Hodge pr´evoit plus. Rappelons que celle-ci pr´edit que les classes de Hodge sont exactement, `a un multiple entier pr`es, les classes de cohomologie des cycles alg´ebriques. Supposons-la v´erifi´ee. Dans ce cas, le lieu de Hodge T est le lieu des points b′ de B o` u le transport parall`ele de h est une classe de cycle. Un argument simple, utilisant le th´eor`eme de Baire, montre alors qu’il existe une famille de cycles sur X au-dessus de B dont la projection, au voisinage de b, contient T comme composante irr´eductible. En particulier, T est le germe d’une sous-vari´et´e alg´ebrique. C’est ce r´esultat que prouvent de mani`ere inconditionnelle Cattani, Deligne et Kaplan dans [CDK95]. Th´ eor` eme 2.1. — Soit H une variation de structures de Hodge polarisable de poids pair sur une vari´et´e alg´ebrique complexe B. Les lieux de Hodge associ´es ` a H sont des germes de sous-ensembles alg´ebriques de B. La signification g´eom´etrique et arithm´etique de l’´enonc´e pr´ec´edent a ´et´e explor´ee par Voisin dans [Vo07, Vo]. Dans ce qui suit, nous expliquons pourquoi le th´eor`eme 0.1 est l’analogue dans le cas mixte du th´eor`eme pr´ec´edent, et nous expliquons pourquoi les conjectures de Bloch et Beilinson motivent le r´esultat d’alg´ebricit´e dans ce cadre.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

159

2.2. Fonctions normales et variations de structures de Hodge mixtes Nous commen¸cons par un r´esultat de Carlson [Ca87]. Proposition 2.2. — Soit H une structure de Hodge enti`ere de poids −1. Il existe une bijection canonique entre la jacobienne interm´ediaire J(H) et le groupe des extensions de structures de Hodge mixtes Ext1MHS (H, Z) qui param`etre les extensions 0 → H → H ′ → Z → 0. Preuve. — Nous montrons simplement comment associer `a toute extension comme cidessus un ´el´ement de J(H). Consid´erons une telle suite exacte. Dualisant, et tordant par Z(1), on obtient une extension de structures de Hodge mixtes ˇ′ → H ˇ → 0. 0 → Z(1) → H ˇ ′ ≃ F 0 H. ˇ Les morphismes de structures de Hodge ´etant stricts, on a F 0 H C ′ ′ ′ Soit h un ´el´ement de HZ s’envoyant sur 1 ∈ Z. L’´el´ement h est bien d´efini modulo ˇ ′ )∨ ≃ (F 0 H) ˇ ∨ , qui est donc le groupe HZ . Il d´efinit par bidualit´e un ´el´ement de (F 0 H C bien d´efini modulo HZ . La proposition 1.3 fournit bien un ´el´ement de J(H). Remarque 2.3. — Dans ce qui pr´ec`ede, on pourrait remplacer H par une structure de Hodge mixte enti`ere dont tous les poids sont strictement n´egatifs. La proposition pr´ec´edente se combine `a 1.3 et montre que, dans le cas o` u H est une famille de structures de Hodge de poids −1 au-dessus d’une base B, les sections holomorphes de la vibration en jacobiennes interm´ediaires J(H) correspondent aux familles de structures de Hodge mixtes qui sont extension de la structure de Hodge constante Z par H. Ici, par famille de structures de Hodge mixtes nous entendons une donn´ee comme au d´ebut de 1.2, munie en outre d’une filtration croissante par le poids, et soumise aux mˆemes compatibilit´es. Cela permet de d´efinir simplement la condition d’horizontalit´e de 1.3 pour une section holomorphe ν de J(H). Une telle section ν d´efinit une famille de structures de Hodge mixtes H ′ au-dessus de B. On dit que ν est horizontale si H ′ est une variation de structures de Hodge mixtes, c’est-`a-dire, si H ′ v´erifie la condition de transversalit´e de Griffiths. Dans [Ka86, Sa90], Kashiwara et Saito – dans le contexte des modules de Hodge mixtes – ont d´egag´e une condition d’admissibilit´e pour les variations de structures de Hodge mixtes. Dans [Sa96], Saito montre qu’une fonction normale est admissible si et seulement si la variation de structures de Hodge mixtes correspondante l’est. Remarque 2.4. — Suivant la remarque 2.3, on peut d´efinir des fonctions normales associ´ees ` a n’importe quelle variation de structures de Hodge mixtes dont les poids sont strictement n´egatifs. C’est dans cette g´en´eralit´e que le th´eor`eme 0.1 est vrai. Le cas pur est l’objet de ce texte, et nous nous concentrons sur le cas du poids −1. Le cas mixte est une cons´equence du th´eor`eme 2.9 ci-dessous.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

160

F. CHARLES

2.3. Alg´ ebricit´ e du lieu de Hodge pour une variation admissible de structures de Hodge mixtes Le paragraphe pr´ec´edent montre en quel sens le th´eor`eme d’alg´ebricit´e 0.1 est un analogue mixte du th´eor`eme de Cattani, Deligne et Kaplan. D´ efinition 2.5. — Soit H une structure de Hodge mixte. On dit qu’un ´el´ement h de HZ est une classe de Hodge si h appartient ` a W0 HQ ∩ F 0 HC , o` u W• est la filtration • par le poids et F est la filtration de Hodge. ` un twist de Tate pr`es, il s’agit des mˆemes classes de Hodge Remarque 2.6. — A qu’en 2.1. Remarque 2.7. — Par d´efinition, les classes de Hodge dans H s’identifient aux morphismes de structures de Hodge mixtes de la structure de Hodge Z dans H. De mani`ere tautologique, on trouve : Proposition 2.8. — Soit H une structure de Hodge de poids −1. Soit x un point de J(H) et soit 0 → H → H′ → Z → 0 l’extension de structures de Hodge mixtes associ´ee. Alors x est nul dans J(H) si et seulement si H ′ contient une classe de Hodge qui s’envoie sur 1 dans Z. De mˆeme, x est un point de torsion de J(H) si et seulement si H ′ contient une classe de Hodge non nulle. Ce qui pr´ec`ede montre que le lieu des z´eros d’une fonction normale est pr´ecis´ement une union d´enombrable de lieux de Hodge pour la variation de structures de Hodge mixtes associ´ee. Le th´eor`eme 0.1 est en ce sens une version du th´eor`eme 2.1 pour certaines variations de structures de Hodge mixtes admissibles qui apparaissent par extension de Z par une variation pure de poids −1. En fait, la combinaison de 0.1 et 2.1 donne en toute g´en´eralit´e le r´esultat suivant. Th´ eor` eme 2.9. — Soit H une variation de structures de Hodge mixtes sur une vari´et´e alg´ebrique complexe B. Supposons H admissible et polarisable. Alors le lieu de Hodge pour H est une r´eunion d´enombrable de sous-ensembles alg´ebriques de B. Preuve. — Sans perte de g´en´eralit´e, on peut supposer que la graduation par le poids est d´efinie sur Z. Quitte ` a remplacer H par W0 H, on se ram`ene au cas o` u les poids de H sont tous n´egatifs. Soient maintenant b un point de B et h une classe de Hodge dans Hb . L’image de h dans GrW 0 Hb = W0 H/W−1 Hb est une classe de Hodge dans la structure de Hodge W pure GrW H b . Par 2.1, le lieu de Hodge de l’image de h dans Gr0 Hb est un sous0 ensemble alg´ebrique de B. Quitte `a se restreindre `a ce dernier, on peut donc supposer que l’image de h dans GrW 0 Hb est une classe de Hodge au-dessus de B tout entier.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

161

L’action de monodromie sur GrW efinie (posi0 Hb respecte une polarisation, qui est d´ tive ou n´egative) sur l’espace des classes de Hodge. Cela implique que l’orbite de h dans GrW 0 Hb sous la monodromie est finie. On peut donc supposer que h est invariant par la monodromie, et correspond donc `a un morphisme de la famille de structures de Hodge constante Z dans GrW 0 H. On dispose d’une extension de structures de Hodge mixtes 0 → W−1 H → H → GrW 0 H → 0. Tirant en arri`ere par le morphisme Z → GrW 0 H induit par h, on peut maintenant supposer que H se place dans une suite exacte 0 → W−1 H → H → Z → 0. Par d´evissage et par r´ecurrence sur les poids qui apparaissent dans W−1 H, on se ram`ene facilement au cas o` u W−1 H est une variation admissible de structures de Hodge qui est pure (de poids strictement n´egatif). Le th´eor`eme 0.1 permet de conclure grˆace ` a 2.2 et ` a la remarque 2.4. 2.4. Remarques sur l’alg´ ebricit´ e et le noyau de l’application d’Abel-Jacobi Dans ce paragraphe, on se place dans un cadre g´eom´etrique. Nous discutons bri`evement de quelques liens, mis d’abord en ´evidence par Bloch et Beilinson, entre certaines conjectures g´en´erales sur les groupes de Chow et le th´eor`eme 0.1. Nous renvoyons aux articles [Be87, Bl10, Ja94] pour des d´etails sur ces conjectures. Certains aspects de ce lien sont abord´es dans [Ch10]. Soit d’abord X une vari´et´e projective lisse sur C. Bloch et Beilinson ont conjectur´e l’existence d’une filtration d´ecroissante F • sur les groupes de Chow CH k (X)Q de X ` a coefficients dans Q. Cette filtration permet d’interpr´eter le th´eor`eme de Mumford [Mu68] sur le noyau de l’application d’Abel-Jacobi pour les z´eros-cycles sur les surfaces. Rappelons que ce dernier montre que l’existence d’une structure de Hodge non-triviale sur le second groupe de cohomologie d’une surface implique que ce noyau est trop gros pour ˆetre param´etr´e par une vari´et´e alg´ebrique. Une filtration de Bloch-Beilinson sur CH k (X)Q doit ˆetre finie, fonctorielle, compatible aux correspondances, et doit v´erifier notamment que le gradu´e GrFi Chk (X)Q doit ˆetre contrˆ ol´e, en un certain sens, par le groupe de cohomologie H 2k−i (X, Q). Nous renvoyons ` a [Ja94] pour une discussion d´etaill´ee des propri´et´es d’une telle filtration. La filtration de Bloch-Beilinson devrait provenir de la suite spectrale E2p,q = ExtpMM(C) (1, hq (X)(k)) =⇒ HomDb (MM(C)) (1, h(X)(k)[p + q]). Dans ce qui pr´ec`ede, M M (C) est la cat´egorie (conjecturale) des motifs mixtes sur C. Pour p + q = 2i, l’aboutissement de cette suite spectrale est le groupe de Chow CH k (X) par un th´eor`eme de Voevodsky [MVW06]. Pour des raisons de poids, la suite spectrale devrait d´eg´en´erer en E2 ⊗ Q, d’o` u la filtration de Bloch-Beilinson.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

162

F. CHARLES

Si le terme F 1 CH k (X)Q est clair – c’est le noyau de l’application classe de cycles `a valeurs dans H 2k (X, Q(k)) – le terme F 2 CH k (X)Q est moins bien compris. Il semble raisonnable de s’attendre ` a ce que ce terme soit exactement le noyau de l’application d’Abel-Jacobi. C’est en tout cas ce que sugg`ere le fait que GrF1 Chk (X)Q = F 1 CH k (X)Q /F 2 CH k (X)Q ne d´epende que de la cohomologie de X en degr´e 2k − 1. Si c’est le cas, et puisque la filtration de Bloch-Beilinson est unique si elle existe, ce noyau doit ˆetre invariant sous l’action des automorphismes de C. Cela ´etant, un argument ´el´ementaire montre que, dans la situation g´eom´etrique, le lieu des z´eros d’une fonction normale doit ˆetre un sous-ensemble alg´ebrique de la base. Cela se fonde sur le fait qu’une r´eunion d´enombrable de sous-ensembles analytiques d’une vari´et´e alg´ebrique globalement invariant par les automorphismes du corps C est en fait r´eunion de sous-ensembles alg´ebriques. En fait, cet argument ne repose que sur la propri´et´e suivante. On a vu plus haut que l’annulation d’une fonction normale ´etait caus´ee par l’existence de certaines classes de Hodge dans une variation de structures de Hodge mixtes. Dans le cas g´eom´etrique, cette derni`ere vient elle aussi de la g´eom´etrie, et vient donc avec une version ´etale ℓ-adique. On peut dans ce cas se demander si les classes de Hodge en question sont absolues suivant la d´efinition de Deligne [De82], voir aussi [CS11]. Si c’est le cas, l’argument pr´ec´edent s’applique et montre l’alg´ebricit´e du lieu des z´eros. Pour conclure cette partie, on peut remarquer que le th´eor`eme 0.1, ainsi que la version du th´eor`eme 2.1 de Cattani, Deligne et Kaplan, prouvent en fait un r´esultat plus fort que ce qui est pr´evu par les conjectures usuelles sur les cycles alg´ebriques. En effet, le th´eor`eme 0.1 montre non seulement que les composantes du lieu des z´eros d’une fonction normale sont alg´ebriques, mais il montre en outre que ces composantes sont en nombre fini. De mˆeme, le th´eor`eme 2.9 admet une version plus forte dans laquelle est prouv´ee une condition de finitude en fonction d’une polarisation. Comme expliqu´e dans [Vo, 7.3], les contre-exemples `a la conjecture de Hodge enti`ere rendent cet ´enonc´e de finitude pour le th´eor`eme 2.1 assez myst´erieux. De la mˆeme fa¸con, nous ne connaissons pas d’explication motivique de la finitude du nombre de composantes du lieu des z´eros d’une fonction normale venant de la g´eom´etrie.

´ 3. FONCTIONS NORMALES ET CYCLES ALGEBRIQUES 3.1. Le th´ eor` eme des fonctions normales et la conjecture de Hodge pour les diviseurs Dans ce paragraphe, nous d´ecrivons la m´ethode qu’utilise Poincar´e pour d´emontrer la conjecture de Hodge pour les diviseurs, ainsi que sa g´en´eralisation suivant Zucker [Zu76]. Une r´ef´erence pour les classes de cohomologie de fonctions normales est [Vo02].

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

163

Soient B et X deux vari´et´es quasi-projectives lisses, et soit π : X → B un morphisme plat. Soit B l’ouvert de B au-dessus duquel π est lisse, et X l’ouvert de X correspondant. Dans ce paragraphe, on se restreint au cas o` u la base B est de dimension 1. On suppose la dimension de X paire et ´egale `a 2n. Soit k un entier, et soit α ∈ H 2n (X , Z(k)) une classe de Hodge. On suppose que la restriction de α aux fibres lisses de π est triviale. La fibration J n (X /B) → B admet une sous-fibration constante venant de la jacobienne interm´ediaire de l’espace total. Notons J → B la fibration quotient. Il s’agit de la fibration en jacobiennes interm´ediaires associ´ee au quotient de la cohomologie des fibres en degr´e 2n − 1 par l’image de la cohomologie de l’espace total X . On peut associer ` a la classe de cohomologie α une fonction normale qui est une section de J. Cela peut se voir de la mani`ere suivante. Au-dessus de B, on dispose de la vari´et´e X × B munie de la seconde projection. Le morphisme Id × π : X → X × B est une immersion ferm´ee au-dessus de B. Soit ψ : U → B l’ouvert compl´ementaire. Via la suite exacte ouvert-ferm´e compl´ementaire relative et le fait que la partie de poids k de la cohomologie de X en degr´e k est l’image de la cohomologie de X, on obtient une suite exacte de structure de Hodge mixtes H 2n−1 (X , Z(n)) ⊗ ZB → R2n−1 π∗ Z(n) → R2n−1 ψ∗ Z(n) → H 2n (X , Z(n)) ⊗ ZB , o` u ZS est la structure de Hodge constante sur B. Tirant en arri`ere par la classe de α, qui est dans l’image de la derni`ere fl`eche car elle se restreint `a z´ero sur les fibres de π, on obtient une extension de structures de Hodge mixtes qui d´efinit, par 2.2, une fonction normale να pour J. Il est montr´e dans [Sa96] que να est admissible. Supposons maintenant que π soit le morphisme obtenu `a partir d’un pinceau de Lefschetz de sections hyperplanes sur une vari´et´e projective lisse X en ´eclatant le lieu de base du pinceau. Pour fixer les id´ees et simplifier les notations, supposons en outre que la cohomologie de X soit nulle en degr´e 2n − 1. Dans ce cas, J est la fibration J n (X ) et να correspond ` a une extension de structures de Hodge mixtes 0 → R2n−1 π∗ Z(n) → H ′ → Z → 0. D´ efinition 3.1. — La classe de cohomologie [να ] de να est l’image de 1 dans le groupe H 1 (B, R2n−1 π∗ Z(n)) par la suite exacte longue venant de l’extension pr´ec´edente. Remarque 3.2. — Cette d´efinition vaut telle quelle pour une fonction normale associ´ee `a une variation de structure de Hodge de poids −1 quelconque.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

164

F. CHARLES

On peut montrer, en chassant les diagrammes, que la classe [να ] s’obtient `a partir de α par la suite spectrale de Leray. Grˆace au th´eor`eme de Lefschetz fort, cela montre que να d´etermine α. En outre, si α est la classe de cohomologie d’un cycle Z, on peut montrer que να est bien la fonction normale associ´ee `a Z par l’application d’AbelJacobi relative. Ce qui pr´ec`ede sugg`ere la m´ethode suivante pour d´emontrer la conjecture de Hodge pour α : on peut esp´erer, dans certains cas, que les jacobiennes interm´ediaires des fibres de π param`etrent des cycles alg´ebriques sur les fibres. La fonction να param`etre alors une famille (a priori holomorphe) de cycles sur les fibres de π. L’espace total de cette famille est alors un candidat pour un cycle dont la classe de cohomologie serait α. Cette strat´egie se heurte ` a deux probl`emes. Le premier est d’assurer effectivement que les jacobiennes interm´ediaires param`etrent des cycles alg´ebriques. Cela est faux en g´en´eral, d`es que n est strictement sup´erieur `a 1. C’est un obstacle majeur pour la conjecture de Hodge, et cela correspond au fait que l’image de l’application d’AbelJacobi pour les cycles de codimension sup´erieure est tr`es mal connue. Mˆeme dans le cas o` u le probl`eme ci-dessus ne se pose pas, en particulier dans le cas de la conjecture de Hodge pour les diviseurs sur les surfaces, le probl`eme se pose de montrer que la famille holomorphe de cycles ainsi obtenues est en fait alg´ebrique. Par [Se56], ce probl`eme est essentiellement ´equivalent `a celui de prolonger la fibration J et la section να . Sans hypoth`ese sur n, c’est ce qui est r´ealis´e dans [Zu76, EZZ84] – toujours dans le cas d’un pinceau de Lefschetz. Dans cette situation, on peut construire une compactification de J au-dessus de B de la mani`ere suivante. Soit H l’extension canonique de Deligne [De70] du fibr´e vectoriel H = H2n−1 (X /B)(n) de cohomologie de de Rham relative. Il s’agit d’un fibr´e vectoriel canonique tel que la connexion de Gauss-Manin sur H s’´etende en une connexion ` a pˆ oles logarithmiques sur H. La filtration de Hodge s’´etend `a H – c’est ´el´ementaire dans ce cas car B est de dimension 1. Soit TZ l’espace ´etal´e du faisceau j∗ R2n−1 π∗ Z(n), o` u j est l’inclusion de B dans B, et soit T l’espace total du fibr´e H/F 0 H. On peut montrer que l’on a une injection TZ ֒→ T au-dessus de B prolongeant l’inclusion de la proposition 1.5. D´ efinition 3.3. — L’extension de Zucker de la famille de jacobiennes interm´ediaires J → B est le quotient J Z (R2n−1 π∗ Z(n)) = T /TZ . Les deux r´esultats qui suivent correspondent au « th´eor`eme sur les fonctions normales » de Zucker. Proposition 3.4. — L’espace analytique J Z (R2n−1 π∗ Z(n)) est s´epar´e.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

165

Remarque 3.5. — La d´efinition ci-dessus est valable en toute g´en´eralit´e, au-dessus notamment d’une base de dimension quelconque, pourvu que le compl´ementaire de B a croisements normaux. Cependant, la s´eparation de l’extendans B soit un diviseur ` sion de Zucker, cruciale pour les applications, n’est vraie que dans le cas d’un pinceau de Lefschetz. En effet, elle est fausse en g´en´eral [Sa96, GGK10] mais vaut d`es que les monodromies locales T satisfont (T − 1)2 = 0 comme prouv´e dans [Zu76]. Proposition 3.6. — Il existe un entier non nul m tel que la fonction normale mνα se prolonge en une section de l’extension de Zucker de J. Nous pr´eciserons la signification g´eom´etrique de l’entier m un peu plus bas. Ces deux r´esultats permettent de d´emontrer la conjecture de Hodge pour les diviseurs par la m´ethode d´ecrite ci-dessus : pour n = 1, on obtient, apr`es multiplication par m, une famille de diviseurs de degr´e z´ero sur les fibres de π qui s’´etend de mani`ere holomorphe – c’est la conjonction de la propri´et´e d’extension de la fonction normale et de la s´eparation de J Z . Par [Se56], la famille est alg´ebrique, et son espace total fournit un diviseur de X , qui est celui pr´edit par la conjecture de Hodge via les diverses compatibilit´es mentionn´ees ci-dessus. 3.2. Singularit´ es des fonctions normales Nous introduisons ici la notion de singularit´e d’une fonction normale, suivant [GG07, dCM09, BFNP09]. Il s’agit d’un invariant qui n’apparaˆıt qu’au-dessus d’une base de dimension au moins 2, pour des raisons que nous expliquerons. Soient B une vari´et´e analytique lisse, B un ouvert de B, H une variation de structures de Hodge de poids −1 et ν une fonction normale admissible pour J = J(H). On note comme plus haut HZ le syst`eme local sous-jacent `a H. Soit d la dimension de B, et notons j l’inclusion de B dans B. Si E est un syst`eme local sur B et si b est un point de B, on note H k (E)b le groupe limite projective des H k (U ∩ B, E), o` u U parcourt les voisinages ouverts de b dans B. Autrement dit, on a H k (E)b = H k ({b}, i∗Rj∗ E) o` u i est l’inclusion de {b} dans B. La d´efinition suivante est due `a Green et Griffiths dans [GG07]. D´ efinition 3.7. — La singularit´e σZ,b (ν) de ν en b est l’image de [ν] dans H 1 (HZ )b . On note σb (ν) son image dans H 1 (HQ )b . Ici [ν] est la classe de cohomologie de ν d´efinie en 3.1. La singularit´e de ν mesure la non-trivialit´e topologique au voisinage de b de l’extension de syst`emes locaux sousjacente ` a l’extension de structures de Hodge mixtes correspondant `a ν. Bien entendu, elle est nulle si b appartient ` a B.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. CHARLES

166

C’est dans le contexte des faisceaux pervers qu’il faut envisager la notion de singularit´e d’une fonction normale. Cela n´ecessite en particulier de travailler avec des coefficients rationnels. Nous ne rappelons pas les ´el´ements de la th´eorie et renvoyons `a [BBD82, dCM] pour la notion de faisceau pervers et pour le th´eor`eme de d´ecomposition de Beilinson-Bernstein-Deligne-Gabber. Le syst`eme local HQ d´efinit un faisceau pervers HQ [d]. Son extension interm´ediaire j!∗ HQ [d] est un faisceau pervers, c’est le complexe d’intersection IC(HQ ). On note IH k (HQ )b la cohomologie d’intersection associ´ee en b. On a par d´efinition IH k (HQ )b = H k−d ({b}, i∗IC(HQ )), d’o` u une fl`eche IH k (HQ )b → H k (HQ )b . On peut montrer que cette fl`eche est injective pour k = 1. Notre but est maintenant d’esquisser la preuve du r´esultat suivant, d´emontr´e dans [BFNP09, dCM09]. Th´ eor` eme 3.8. — La singularit´e σb (ν) appartient ` a l’image de IH 1 (HQ )b dans 1 H (HQ )b . On trouve en particulier : Corollaire 3.9. — Le lieu des points b de B tel que σb (ν) est non nul est de codimension au moins 2 dans B. En particulier, si B est de dimension 1, la singularit´e σZ,b (ν) est de torsion pour tout point b de B. Preuve du corollaire. — Puisque IC(HQ ) est un faisceau pervers, le support de H1−d (IC(HQ )) est de codimension au moins 2. On conclut par l’injectivit´e de IH 1 (HQ )b → H 1 (HQ )b . Remarque 3.10. — La notion de singularit´e permet de comprendre les questions de prolongement de fonctions normales `a l’extension de Zucker comme en 3.1 : une fonction normale (admissible) se prolonge au mod`ele de Zucker si et seulement si ses singularit´es sont nulles. En particulier, l’entier m de la proposition 3.6 est le pgcd des ordres des singularit´es locales. Cela vaut encore dans le cas o` u le compl´ementaire de B a croisements normaux. Dans ce cas, la singularit´e peut ne pas dans B est un diviseur ` ˆetre de torsion et aucun multiple de la fonction normale ne se prolonge `a l’extension de Zucker. L’existence de singularit´es qui ne sont pas de torsion est pr´edite par la conjecture de Hodge. Nous le verrons plus bas.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

167

Preuve du th´eor`eme. — Nous ne donnons que les grandes lignes de la d´emonstration. Soit 0 → HQ → H ′ → Q → 0 l’extension de syst`emes locaux de Q-espaces vectoriels sur B induite par la fonction normale ν. Consid´erons le complexe de faisceaux pervers 0 → IC(HQ ) → j!∗ H ′ [d] → Q[d] → 0 obtenu par extension interm´ediaire. On va montrer que ce complexe est exact. Pour des raisons g´en´erales, le foncteur j!∗ pr´eserve injections et surjections de faisceaux pervers. C’est une cons´equence formelle de l’exactitude `a gauche de p j∗ et de l’exactitude `a droite de p j! . Pour montrer l’exactitude de tout le complexe ci-dessus, il faut raisonner avec des poids. Comme on le verra dans la section suivante, c’est le formalisme des modules de Hodge mixtes de Saito qui est adapt´e dans ce cadre. Dans le cas g´eom´etrique, o` u ν est une fonction normale venant d’une famille de cycles homologues `a z´ero sur une base alg´ebrique, [BBD82] fournit, apr`es tensorisation par Qℓ et par sp´ecialisation de la situation ` a un corps fini, la notion de poids n´ecessaire. Nous parlerons donc librement de poids et de puret´e pour HQ et H ′ , au prix d’un abus de langage. Le syst`eme local HQ [d] est pur de poids −1 par hypoth`ese, et Q[d] est pur de poids 0. Par cons´equent, le complexe d’intersection IC(HQ ) est pur de poids −1. Les ′ poids de j!∗ H ′ [d] sont donc 0 et −1. Consid´erons le gradu´e GrW eche 0 j!∗ H [d]. La fl` W ′ Gr0 j!∗ H [d] → Q[d] est surjective comme mentionn´e plus haut, ce qui permet d’´ecrire ′ GrW 0 j!∗ H [d] = Q[d] ⊕ D

o` u D est support´e sur le compl´ementaire de B dans B. Mais on dispose d’une surjection ′ j!∗ H ′ [d] → GrW 0 j!∗ H [d] → D.

Comme j!∗ H ′ [d] n’a pas de quotient non trivial support´e sur le compl´ementaire de B ′ ′ eme, GrW dans B, on trouve D = 0 et GrW 0 j!∗ H [d] = Q[d]. De mˆ −1 j!∗ H [d] = IC(HQ ), ce qui ach`eve de prouver l’exactitude du complexe ci-dessus. Il est maintenant facile de conclure la preuve. La classe de l’extension (1)

0 → IC(HQ ) → j!∗ H ′ [d] → Q[d] → 0

donne, en localisant en tout point b de B un ´el´ement σ de IH 1 (HQ )b . D’autre part, son tir´e en arri`ere par j ∗ est l’extension venant de ν. Il en r´esulte que l’image de σ dans H 1 (HQ )b est σb (ν), ce qui conclut.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

168

F. CHARLES

3.3. La conjecture de Hodge et la famille universelle des sections hyperplanes d’une vari´ et´ e Avant d’´enoncer le r´esultat principal de cette section, nous aurons besoin d’une g´en´eralisation de 3.1. Soit X une vari´et´e projective lisse complexe de dimension 2n. Soit L un fibr´e en droite tr`es ample sur X. Soit P l’espace projectif |L|. On dispose de la vari´et´e d’incidence X associ´ee `a la paire (X, L), dont les points sont les couples (x, f ) o` u x est un point de X et f un point de P tels que f (x) = 0. Soient p et π les projections de X sur X et π respectivement. La fl`eche p : X → X est un fibr´e projectif. Soit X ∨ la vari´et´e duale de X, et soit P le compl´ementaire de X ∨ dans P . Le morphisme π est lisse au-dessus de P par d´efinition. Notons H la variation de structures de Hodge de poids −1 sur P associ´ee `a R2n−1 π∗ Z(n), et J → P le quotient de la fibration en jacobienne interm´ediaire J(H) par la jacobienne interm´ediaire J n (X) de X. Le proc´ed´e de 3.1 permet, si α est une classe de Hodge dans H 2n (X, Z(n)), d’associer ` a α une fonction normale να sur J. Les singularit´es des fonctions normales associ´ees ` a la fibration constante J(X) ´etant nulles comme on le v´erifie sans difficult´e, on consid´erera les singularit´es σp (να ) de να comme des ´el´ements de IH 1 (HQ )p grˆace au th´eor`eme 3.8. Le but de cette section est d’esquisser la preuve du th´eor`eme suivant, d’apr`es [GG07, BFNP09, dCM09]. Son sens est double. D’une part, bien que l’application d’AbelJacobi ne soit pas surjective en g´en´eral, ce qui comme on l’a vu rend difficile l’application ` a la conjecture de Hodge de l’´etude des fonctions normales associ´ees aux pinceaux de Lefschetz, il montre que l’´etude des fonctions normales au-dessus d’une base de grande dimension permet d’aborder la construction de cycles alg´ebriques. D’autre part, il met en avant, par sa d´emonstration, l’importance dans le contexte de la conjecture de Hodge du th´eor`eme de d´ecomposition de [BBD82], et prolonge en ce sens le th´eor`eme 3.8. Th´ eor` eme 3.11. — Les deux ´enonc´es suivants sont ´equivalents. (1) La conjecture de Hodge vaut pour toutes les vari´et´es projectives lisses complexes. (2) Si X est une vari´et´e projective lisse complexe de dimension 2n munie d’un fibr´e en droites tr`es ample L, et si α est une classe de Hodge primitive dans H 2n (X, Z(n)), on peut, quitte ` a remplacer L par Lk pour un entier k assez grand, trouver un point P de P tel que la singularit´e σp (να ) soit non nulle. D´emonstration. — On va montrer que le deuxi`eme ´enonc´e implique le premier. Notons d’abord qu’un argument impliquant le th´eor`eme de Baire permet de r´eduire la conjecture de Hodge en degr´e 2n aux vari´et´es de dimension 2n. On raisonne par r´ecurrence, et on suppose la conjecture de Hodge d´emontr´ee en tous degr´es jusqu’` a 2n − 2.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

169

Commen¸cons par appliquer le th´eor`eme de d´ecomposition `a π. On obtient une d´ecomposition dans la cat´egorie d´eriv´ee M p i (2) Rπ∗ Q[2n] ≃ H (Rπ∗ Q[2n])[−i] i

du complexe Rπ∗ Q en somme de ses faisceaux de cohomologie perverse. Soient d la dimension de P et j l’inclusion de P dans P . Au-dessus de P , il s’agit de la d´ecomposition donn´ee par la d´eg´en´erescence de la suite spectrale de Leray [De68], et l’on a j ∗ p H i (Rπ∗ Q[2n]) = Ri+2n−d (π|P )∗ Q[d]. Consid´erons le faisceau p H i (Rπ∗ Q[2n]). Il se d´ecompose suivant le support strict. En particulier, il contient comme facteur direct l’extension interm´ediaire de sa restriction ` a P , soit IC(Ri+2n−d (π|P )∗ Q). Ce qui pr´ec`ede permet d’exprimer les groupes H −i (IC(Ri+2n−d (π|P )∗ Q)) = IH −i+d (Ri+2n−d (π|P )∗ Q) comme facteurs directs de H 2n (X, Q). De mˆeme, si p est un point de P , la fibre de (2) en p permet d’exprimer les H −i (IC(Ri+2n−d (π|P )∗ Q))p = IH −i+d (Ri+2n−d (π|P )∗ Q)p comme facteurs directs de H 2n (Xp , Q). Bien entendu, ces expressions comme facteurs directs ne sont pas canoniques, car la d´ecomposition (2) ne l’est pas. N´eanmoins, la fl`eche H 2n (X, Q) → IH 0 (R2n (π|P )∗ Q) est bien d´efinie – elle vient de la suite spectrale de foncteurs compos´es pour π et le foncteur sections globales. Notons que le faisceau R2n (π|P )∗ Q est constant par le th´eor`eme de Lefschetz fort. La fl`eche ci-dessus correspond `a la restriction d’une classe de cohomologie aux fibres lisses de π. Si α est une classe de primitive comme dans le second ´enonc´e du th´eor`eme, son image dans IH 0 (R2n (π|P )∗ Q) est nulle par hypoth`ese. Pour la mˆeme raison, son image dans IH 1 (R2n−1 (π|P )∗ Q) est bien d´efinie. On peut v´erifier qu’il s’agit de la classe de l’extension (1) dans la preuve du th´eor`eme 3.8. On peut appliquer le mˆeme raisonnement `a la cohomologie de Xp . La restriction de la classe de α ` a H 2n (Xp , Q) a une image nulle dans le groupe IH 0 (R2n (π|P )∗ Q)p , et d´efinit par cons´equent un ´el´ement canonique de IH 1 (R2n−1 (π|P )∗ Q)p . D’apr`es ce qui pr´ec`ede, cet ´el´ement est la singularit´e σp (να ) de la fonction normale να en p. Supposons la conjecture de Hodge fausse. Par le th´eor`eme de l’indice de Hodge et par le th´eor`eme de Lefschetz fort, on peut dans ce cas trouver une classe α qui soit d’intersection nulle avec tout cycle alg´ebrique de dimension n sur X. Supposons maintenant que σp (να ) soit non nul pour un point p de P . Alors la restriction de α ` a Xp est non nulle. Par hypoth`ese de r´ecurrence, et quitte `a travailler

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

170

F. CHARLES

sur une r´esolution des singularit´es de Xp , cette restriction est une classe de cycle alg´ebrique de codimension n non nulle d’apr`es la discussion ci-dessus. En particulier, on peut trouver sur une d´esingularisation de Xp un cycle alg´ebrique de dimension n d’intersection non-nulle avec α|Xp . L’image de ce cycle dans X a une intersection non nulle avec α, d’o` u la contradiction cherch´ee. Nous ne d´emontrons pas l’affirmation r´eciproque. Elle repose, outre les arguments pr´ec´edents, sur le th´eor`eme de Thomas [Th05] qui montre que la conjecture de Hodge implique que si α est une classe de Hodge non nulle dans H 2n (X, Q(n)), on peut trouver une section hyperplane Xp de X telle que la restriction de α `a Xp est non nulle. Un th´eor`eme de Lefschetz faible pervers permet d’en d´eduire, si L est suffisamment ample, la non-nullit´e de la singularit´e de να en p. Dans [Be12], Beilinson donne une preuve de cette derni`ere implication qui ´evite le recours aux arguments ci-dessus et repose sur une utilisation particuli`erement ´el´egante de la transformation de Radon. Il semble difficile de produire des singularit´es pour les fonctions normales. Un ´enonc´e dans cette direction est le suivant. C’est une application simple du th´eor`eme 0.1 qui apparaˆıt dans [Sc10]. Proposition 3.12. — Avec les notations ci-dessus, soit ν la fonction normale sur J associ´ee ` a une classe de Hodge primitive non nulle dans H 2n (X, Q(n)). Si le lieu des z´eros contient une composante de dimension strictement positive, ν est singuli`ere en l’un des points o` u l’adh´erence de cette composante rencontre la vari´et´e duale X ∨ . Il ne semble pas que ce dernier ´enonc´e permette d’obtenir des r´esultats d’existence de cycles alg´ebriques.

` ´ 4. MODELE DE NERON POUR LES FAMILLES DE ´ JACOBIENNES INTERMEDIAIRES Cette partie est consacr´ee ` a une description du mod`ele de N´eron de Schnell introduit dans [Sc12], et ` a des ´el´ements de preuve du th´eor`eme 0.1. 4.1. Modules de Hodge mixtes Comme entrevu dans la section pr´ec´edente, l’´etude des fonctions normales sur une base quelconque fait intervenir d’une part des faisceaux pervers et d’autre part des arguments de poids. La construction par Saito de la cat´egorie des modules de Hodge mixtes [Sa88, Sa90] est le pendant de la th´eorie des faisceaux pervers ℓ-adiques de [BBD82] au-dessus des corps finis et permet d’utiliser ce type d’arguments en th´eorie de Hodge. Nous rassemblons ici quelques ´el´ements de cette construction.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

171

Dans tout ce qui suit, nous travaillons sur une base B analytique lisse, munie d’une compactification partielle lisse j : B ֒→ B. On note d la dimension de B. Un module de Hodge mixte est un objet qui g´en´eralise la notion de variation de structures de Hodge mixte. Sur B, un tel objet est constitu´e des donn´ees suivantes : – un faisceau pervers K ` a coefficients rationnels, muni d’une filtration croissante W• par des sous-faisceaux pervers, – un DB -module r´egulier holonome M muni d’une filtration croissante W• , – une bonne filtration croissante F• de M par des sous-OB -faisceaux coh´erents. La filtration W• est la filtration par le poids, et la filtration F• est la filtration de Hodge. Via la correspondance de Riemann-Hilbert [Ka84, Me84], on exige que le faisceau pervers associ´e ` a M soit KC , et que les filtrations par le poids se correspondent. Ces donn´ees sont soumises ` a des compatibilit´es suppl´ementaires d´efinies par r´ecurrence sur la dimension de B ` a l’aide des faisceaux de cycles ´evanescents et de cycles proches. On dispose d’une notion de polarisation, et l’on ne consid´erera que des modules de Hodge mixtes polarisables. Un exemple de modules de Hodge mixte est donn´e par une variation admissible H de structures de Hodge mixtes sur B. Le faisceau pervers associ´e est HQ [d], et le DB -module H est muni de sa connexion plate. La filtration de Hodge est dans ce cas donn´ee par Fp = F −p . Pour cette raison, nous utiliserons d´esormais des filtrations de Hodge croissantes en faisant usage de la convention pr´ec´edente. Le point remarquable de la th´eorie de Saito est l’existence d’un formalisme des six op´erations que nous utiliserons librement. Si H est une variation de structures de Hodge mixtes sur B, admissible relativement `a B, on dispose ainsi de l’extension interm´ediaire M = j!∗ H. Le faisceau pervers sous-jacent `a M est obtenu par extension interm´ediaire, et le DB -module par extension minimale. Le fait que M soit un module de Hodge mixte est une des cons´equences difficiles de la th´eorie de Saito [Sa90, 3.10]. Il est ` a noter que le DB -module sous-jacent `a un module de Hodge mixte n’est en g´en´eral pas coh´erent comme OB -module. C’est le cas seulement s’il correspond `a une variation de structures de Hodge mixte. 4.2. Construction du mod` ele de N´ eron La construction de Schnell est l’exact analogue, dans le cadre des modules de Hodge mixtes, de la construction des jacobiennes interm´ediaires en 1.3. Soit H une variation de structures de Hodge polarisable pure de poids −1, admissible relativement `a B. Le module de Hodge mixte correspondant est lui de poids d − 1 – remarquer que le faisceau pervers sous-jacent est HQ plac´e en degr´e -d. Soit M le module de Hodge j!∗ M . Il s’agit d’un module de Hodge polarisable sur ˇ = D (M )(1 − d) le dual de Verdier de M , B, pur de poids d − 1 lui aussi. Soit M B normalis´e pour avoir poids d − 1. Sa restriction `a B est le module de Hodge mixte

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

172

F. CHARLES

ˇ le DB associ´e ` a la variation de structures de Hodge H ∨ (1). On note M (resp. M) ˇ ). module holonome r´egulier sous-jacent `a M (resp. M ˇ La filtration de Hodge fournit un faisceau F0 M coh´erent sur B. Notons ˇ →B p : T (F0 M) ˇ Il s’agit d’un espace analytique au-dessus le spectre de l’alg`ebre sym´etrique de F0 M. ˇ ∨ . C’est en un certain sens l’espace total de B, dont le faisceau des sections est (F0 M) ˇ ∨. du faisceau coh´erent (F0 M) ˇ ∨. Au-dessus de B, on dispose d’un morphisme du syst`eme local HZ dans (F0 H) Soit maintenant pZ : T Z → B l’espace ´etal´e du faisceau j∗ HZ sur B. C’est un espace analytique muni d’un isomorphisme local vers B dont les sections s’identifient aux sections de j∗ HZ . ˇ ∨ au-dessus de B correspond `a un Comme en 1.3, l’inclusion de HZ dans (F0 H) morphisme au-dessus de B ˇ |B . ǫ|B : (TZ )|B → T (F0 M) La proposition 1.5 montre qu’il s’agit d’une immersion ferm´ee d’espaces analytiques en groupes. Proposition 4.1. — Le morphisme ǫ|B se prolonge de mani`ere canonique en un morphisme holomorphe de groupes au-dessus de B ˇ ǫ : TZ → T (F0 M). Preuve. — Soit K le faisceau pervers sous-jacent `a M . Le faisceau K est l’extension interm´ediaire j!∗ HQ [d]. En particulier, on a τ 6−d K ≃ HQ [d]. D’autre part, par la correspondance de Riemann-Hilbert, le faisceau pervers KC est quasi-isomorphe au complexe de de Rham d ⊗ M][d]. DRB (M) = [M → Ω1B ⊗ M → · · · → ΩB

Ces deux remarques montrent que l’on a un isomorphisme canonique de faisceaux sur B j∗ HC → Ker(M → Ω1B ⊗ M). Autrement dit, le faisceau j∗ HC est le faisceau des sections plates de M. Un argument de dualit´e montre que l’on a un isomorphisme canonique de faisceaux sur B ˇ O ). Ker(M → Ω1B ⊗ M) ≃ HomDB (M, B Par bidualit´e et restriction, ces deux isomorphismes permettent de faire agir les ˇ On en d´eduit l’existence du morphisme ǫ. sections de j∗ HZ sur les sections de F0 M.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

173

D´ efinition 4.2. — Le mod`ele de N´eron de Schnell associ´e ` a la variation de structures de Hodge H sur B est le groupe topologique quotient au-dessus de B ˇ J S (H) = T (F0 M)/ǫ(T Z ). Nous verrons plus bas que le morphisme ǫ est une immersion ferm´ee. Cela permet de montrer que J S (H) est muni d’une structure canonique d’espace analytique s´epar´e au-dessus de B. Un point tout ` a fait remarquable de cette d´efinition est qu’elle est valable sans ur, on aucune hypoth`ese sur la g´eom´etrie du compl´ementaire de B dans B. Bien sˆ peut supposer qu’il s’agit d’un diviseur car les variations de structures de Hodge s’´etendent au-dessus des ferm´es de codimension au moins 2. Cela rend le mod`ele de N´eron ci-dessus particuli`erement adapt´e `a l’´etude de la famille universelle des sections hyperplanes d’une vari´et´e. Cette situation est abord´ee dans [Sc12-2]. D´ecrivons bri`evement un exemple concret. Je remercie G´erard Laumon de m’avoir communiqu´e ces notes sur la g´eom´etrie de la courbe plane universelle. Soit d un entier strictement positif, et soit C0 → P la famille universelle des courbes planes de degr´e d. Une courbe de degr´e d g´en´erique intersecte la droite `a l’infini en d points. Restreignons-nous aux courbes transverses `a la droite `a l’infini, et soit π : C → U la courbe plane universelle obtenue en passant au revˆetement de groupe Σd correspondant et en se restreignant `a l’ouvert param´etrant les courbes r´eduites. Soit J la composante neutre du champ de Picard relatif de C/U . C’est un sch´ema en groupes commutatifs lisse de dimension relative q = (d−1)(d−2) . La restriction de 2 J `a l’ouvert de lissit´e V de π est bien entendu la famille des jacobiennes des fibres. Si H est la variation de structures de Hodge de poids −1 associ´ee `a R1 π∗ Z(1) au-dessus de l’ouvert V , alors la restriction de J `a V est la jacobienne interm´ediaire J(H). On peut montrer le r´esultat suivant. Proposition 4.3. — L’espace analytique sous-jacent au sch´ema en groupes J → U est le mod`ele de N´eron de Schnell associ´e ` a la famille de jacobiennes interm´ediaires J(H) sur V ⊂ U . Remarque 4.4. — Mˆeme dans cette situation simple, la g´eom´etrie des d´eg´en´erescences n’est pas facile ` a comprendre, et le compl´ementaire de V dans U est tr`es singulier. Preuve (esquisse). — Appliquons le th´eor`eme de d´ecomposition `a π. La dimension de la base U est q + 3d − 1. On obtient une d´ecomposition M p i Rπ∗ Q[q + 3d] = H (Rπ∗ Q[q + 3d])[i]. i

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. CHARLES

174

Int´eressons-nous comme dans 3.11 au faisceau pervers p H 0 (Rπ∗ Q[q + 3d]). Sa restriction ` a l’ouvert de lissit´e V est ´egale `a j ∗ p H 0 (Rπ∗ Q[q + 3d]) = R1 π∗ Q[q + 3d − 1]. Le th´eor`eme du support de Ngˆo [Ngˆ o10, 7.2.1] – que l’on pourrait remplacer dans ce cas par le th´eor`eme de Lefschetz pervers de [BFNP09] ou par [Sc10] – montre, apr`es un argument de sp´ecialisation, que le faisceau pervers p H 0 (Rπ∗ Q[q + 3d]) admet U comme support strict. Autrement dit, on a p

H 0 (Rπ∗ Q[q + 3d]) = j!∗ R1 π∗ Q[q + 3d − 1] = IC(R1 π∗ Q).

Le th´eor`eme de d´ecomposition ci-dessus est encore valable dans la cat´egorie des modules de Hodge mixtes, et l’´egalit´e ci-dessus vaut dans cette cat´egorie par pleine fid´elit´e de la correspondance de Riemann-Hilbert. Cela montre que, dans la cat´egorie des modules de Hodge mixtes, on a un isomorphisme canonique H 0 (Rπ∗ Q[q + 3d]) = j!∗ H o` u H est la variation de structure de Hodge pure de poids −1 associ´ee `a R1 π∗ Q(1). L’´egalit´e pr´ec´edente permet de relier le mod`ele de N´eron de Schnell, construit `a partir du module de Hodge de droite, `a la g´eom´etrie de π. Il n’est pas tr`es difficile d’en d´eduire le r´esultat annonc´e. 4.3. S´ eparation du mod` ele et extension des fonctions normales Nous d´ecrivons maintenant, sans preuves, les principales propri´et´es du mod`ele de N´eron construit ci-dessus. On garde les notations de la partie pr´ec´edente. Tous les r´esultats sont tir´es de [Sc12]. Proposition 4.5. — Le morphisme ˇ |B ǫ : TZ → T (F0 M) est une immersion ferm´ee propre. Une cons´equence imm´ediate de ce qui pr´ec`ede est la propri´et´e fondamentale suivante. Th´ eor` eme 4.6. — Le mod`ele de N´eron J S (H) est un espace analytique – en particulier s´epar´e – sur B. Cette propri´et´e de s´eparation est celle qui ne vaut pas pour le mod`ele de Zucker. C’est pour cette raison que l’utilisation des D-modules est plus efficace ici que celle de l’extension de Deligne, qui choisit de prolonger le fibr´e vectoriel en perdant la structure diff´erentielle – puisque la connexion de Gauss-Manin acquiert des singularit´es. Le fait que le DB -module apparaissant dans la d´efinition de J S (H) n’est pas coh´erent comme OB -module n’est pas gˆenant car on peut ne travailler qu’avec un sous-fibr´e de Hodge qui lui est de type fini.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

175

Ce qui pr´ec`ede assurant que le mod`ele de N´eron J S (H) est un objet analytique raisonnable, on peut analyser les propri´et´es de prolongement des fonctions normales. Proposition 4.7. — Soit ν : B → J(H) une fonction normale admissible relativement ` a B. La fonction normale ν se prolonge en une section B → J S (H) si et seulement si les singularit´es de ν sont toutes nulles. En fait, on peut montrer plus g´en´eralement que les sections globales horizontales de J S (H), pour une notion d’horizontalit´e ad´equate, sont exactement les fonctions normales admissibles non-singuli`eres ν : B → J(H). Le r´esultat pr´ec´edent r´esulte des bonnes propri´et´es de fonctorialit´e de J S (H). Ce qui suit est plus difficile. Th´ eor` eme 4.8. — Soit ν : B → J(H) une fonction normale admissible relativement ` a B. L’adh´erence topologique du graphe de ν dans J S (H) est un sous-ensemble analytique de J S (H). On en d´eduit imm´ediatement le th´eor`eme 0.1 – dans le cas au moins des variations de structures de Hodge de poids −1. ´ ements de preuve 4.4. El´ Nous donnons pour conclure quelques ´el´ements de preuve des r´esultats annonc´es dans la section pr´ec´edente. La propri´et´e la plus simple est celle de prolongement des fonctions normales admissibles sans singularit´es. Preuve de la proposition 4.7. — Par [Sa96], la fonction normale admissible ν correspond ` a une extension de modules de Hodge mixtes (3)

0 → M → N → Q[n] → 0

o` u Q est le module de Hodge constant de poids 0 sur B. D’autre part, la nullit´e des singularit´es de ν signifie pr´ecis´ement que l’on a une extension de faisceaux de groupes ab´eliens sur B (4)

0 → j∗ HZ → j∗ HZ′ → Z → 0

obtenue en poussant en avant l’extension correspondant `a ν sur B. Le raisonnement de la proposition 2.2 s’applique : relevant localement la section triviale du syst`eme local Z dans la suite exacte (4) et dualisant la suite exacte de a (3), on produit effectivement par bidualit´e et restriction DB -modules sous-jacente ` ˇ ∨ bien d´efinie `a des sections de j∗ HZ pr`es, soit une des sections locales de (F0 M) section globale de J S (H). Cela conclut.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

176

F. CHARLES

Les preuves de la proposition 4.5 et du th´eor`eme 4.8 sont plus difficiles. On peut remarquer tout d’abord que les deux r´esultats sont analogues. Soit ν une fonction normale admissible comme dans le th´eor`eme 4.8. Elle induit une extension de syst`emes locaux sur B 0 → HZ → HZ′ → Z → 0. Soit Tν le sous-espace de l’espace ´etal´e du faisceau HZ′ correspondant aux sections s’envoyant sur 1 par la suite exacte pr´ec´edente. On a un morphisme au-dessus de B ˇ obtenu comme plus haut. Le th´eor`eme 4.8 revient essentiellede Tν dans T (F0 M) ˇ est un sous-ensemble ment ` a montrer que l’adh´erence de l’image de Tν dans T (F0 M) analytique. Si maintenant la fonction normale ν est identiquement nulle, Tν s’identifie `a la ˇ par ǫ. A ` la propri´et´e d’injectivit´e pr`es, restriction de TZ ` a B s’envoyant dans T (F0 M) les ´enonc´es de 4.5 et 4.8 se correspondent. On consid`ere maintenant la proposition 4.5 seulement. C’est la fonctorialit´e de J S (H) qui permet de se ramener `a une situation g´eom´etrique accessible – elle ne permet cependant pas par elle-mˆeme de montrer que le morphisme ǫ est une immersion ferm´ee. Montrons d’abord comment obtenir l’injectivit´e de ǫ. Il suffit de raisonner fibre par fibre. Soit i : {b} ֒→ B l’inclusion d’un point dans B. Soit H la structure de Hodge mixte H −d i∗ M . Il s’agit d’une structure de Hodge mixte dont tous les poids sont inf´erieurs ` a −1 car le poids de M est d − 1. On peut montrer, via la th´eorie des cycles ´evanescents, qu’elle est munie d’une structure enti`ere via l’inclusion de TZ,b et que l’on a une surjection ˇ b → HC /F0 HC T (F0 M) compatible aux inclusions de TZ,b . Comme les poids de H sont inf´erieurs `a −1, TZ,b s’identifie ` a un sous-groupe discret de HC /F0 HC . Cela montre que la restriction de ǫ ` a TZ,b est injective. Soit f : C → B une application holomorphe. On suppose que l’image r´eciproque C de B est dense dans C. Soit dC la dimension de C. Soit M f le module de Hodge mixte M f = H d−dC f ! M (d − dC ). Cette formule traduit la construction suivante : le module de Hodge mixte M f est l’extension interm´ediaire de C a` C du module de Hodge mixte associ´e au tir´e en arri`ere ` a C de la variation de structures de Hodge H sur B. La fonctorialit´e pour les modules de Hodge mixtes donne un morphisme canonique ˇ ˇ f → f ∗ F0 M. F0 M

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

177

C’est un isomorphisme au-dessus de C. Suivant ces compatibilit´es, on obtient la fonctorialit´e des mod`eles de N´eron sous la forme d’un morphisme holomorphe canonique J S (H) ×B C → J S ((f|C )∗ H). Par un raisonnement semblable `a celui que nous avons utilis´e pour montrer l’injectivit´e, la fonctorialit´e ci-dessus permet de ramener la preuve de la proposition 4.5 – et celle du th´eor`eme 4.8 – pour H `a celle pour f ∗ H si f est propre. Apr`es r´esolution des singularit´es du compl´ementaire de B dans B, passage `a un revˆetement fini et restriction ` a un ouvert, cela permet de se ramener au cas o` u B est d ∗ d un produit (∆ ) de disques ´epoint´es inclus dans B = ∆ . Dans cette situation, l’extension interm´ediaire M admet une description explicite en termes de l’extension de Deligne H de H. L’extension de Deligne est un sousfaisceau de j∗ H. Ce dernier est muni d’une structure de DB -module venant de la connexion de Gauss-Manin sur H. Le DB -module M est alors le DB -module engendr´e par H. Autrement dit, les sections de M sont les diff´erentielles it´er´ees des sections de H. La filtration de Hodge de M est la convolution de la filtration venant de l’extension des fibr´es de Hodge de H `a H et de la filtration de DB par l’ordre des formes diff´erentielles. C’est cette description qui explique pourquoi le mod`ele de N´eron de Schnell est s´epar´e tandis que l’extension de Zucker ne l’est pas. En effet, montrer que le morˇ via la phisme ǫ est une immersion ferm´ee revient `a montrer que les sections de F0 M, polarisation, s´eparent uniform´ement les sections de j∗ HZ au voisinage des points du ˇ compl´ementaire de B dans B. D’apr`es ce qui pr´ec`ede, il y a plus de sections de F0 M que de sections de H. C’est ce point qui permet ` a Schnell de d´emontrer la proposition 4.5 et le th´eor`eme 4.8. La mise en œuvre technique de cette id´ee repose sur des estim´ees d´elicates venant de la th´eorie de Schmid, et notamment d’un th´eor`eme de l’orbite SL2 prouv´e dans [KNU08]. Il s’agit ici de borner les normes de certaines classes de cohomologie r´eelles, et ce sont ces bornes qui expriment le caract`ere propre de ǫ.

´ ERENCES ´ REF [Be87]

A. A. Be˘ılinson – « Height pairing between algebraic cycles », in K-theory, arithmetic and geometry (Moscow, 1984–1986), Lecture Notes in Math., vol. 1289, Springer, Berlin, 1987, p. 1–25.

[Be12]

, « A remark on primitive cycles and Fourier-Radon transform », in Regulators, Contemp. Math., vol. 571, Amer. Math. Soc., Providence, 2012, p. 19–23.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. CHARLES

178

[BBD82]

A. A. Be˘ılinson, J. Bernstein & P. Deligne – « Faisceaux pervers », in Analysis and topology on singular spaces (Luminy, 1981) I, Ast´erisque, vol. 100, Soc. Math. France, Paris, 1982, p. 5–171.

[Bl10]

S. Bloch – Lectures on algebraic cycles, 2nde ´ed., New Math. Monogr., vol. 16, Cambridge Univ. Press, Cambridge, 2010.

[BFNP09] P. Brosnan, H. Fang, Z. Nie & G. Pearlstein – « Singularities of admissible normal functions », Invent. Math. 177 (2009), no. 3, p. 599–629. [BP2]

P. Brosnan & G. Pearlstein – « Zero loci of admissible normal functions with torsion singularities », Duke Math. J. 150 (2009), no. 1, p. 77– 100.

[BP1]

, « The zero locus of an admissible normal function », Ann. of Math. (2) 170 (2009), no. 2, p. 883–897.

[BP3]

, « On the algebraicity of the zero locus of an admissible normal function », Compos. Math. 149 (2013), no. 11, p. 1913–1962.

[BPS08]

P. Brosnan, G. Pearlstein & M. Saito – « A generalization of the N´eron models of Green, Griffiths and Kerr », arXiv:0809.5185v1.

[Ca87]

J. A. Carlson – « The geometry of the extension class of a mixed Hodge structure », in Algebraic geometry, Bowdoin, 1985, Proc. Sympos. Pure Math., vol. 46, Amer. Math. Soc., Providence, 1987, p. 199–222.

[dCM]

M. A. A. de Cataldo & L. Migliorini – « The decomposition theorem, perverse sheaves and the topology of algebraic maps », Bull. Amer. Math. Soc. (N.S.) 46 (2009), no. 4, p. 535–633.

[dCM09]

, « On singularities of primitive cohomology classes », Proc. Amer. Math. Soc. 137 (2009), no. 11, p. 3593–3600.

[CDK95]

E. Cattani, P. Deligne & A. Kaplan – « On the locus of Hodge classes », J. Amer. Math. Soc. 8 (1995), no. 2, p. 483–506.

[Ch10]

F. Charles – « On the zero locus of normal functions and the ´etale AbelJacobi map », Int. Math. Res. Not. IMRN (2010), no. 12, p. 2283–2304.

[CS11]

F. Charles & C. Schnell – « Notes on absolute Hodge classes », arXiv:1101.3647.

[Cle83]

H. Clemens – « The N´eron model for families of intermediate Jacobians ´ acquiring “algebraic” singularities », Publ. Math. Inst. Hautes Etudes Sci. (1983), no. 58, p. 5–18 (1984).

[De68]

P. Deligne – « Th´eor`eme de Lefschetz et crit`eres de d´eg´en´erescence de ´ suites spectrales », Publ. Math. Inst. Hautes Etudes Sci. 35 (1968), p. 107– 126.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

179

[De70]

´ P. Deligne – Equations diff´erentielles ` a points singuliers r´eguliers, Lecture Notes in Math., vol. 163, Springer-Verlag, Berlin, 1970.

[De82]

, « Hodge cycles on abelian varieties », in Hodge cycles, motives, and Shimura varieties, Lecture Notes in Math., vol. 900, Springer-Verlag, Berlin, 1982, p. 9–100.

[EZZ84]

F. El Zein & S. Zucker – « Extendability of normal functions associated to algebraic cycles », in Topics in transcendental algebraic geometry (Princeton, 1981/1982), Ann. of Math. Stud., vol. 106, Princeton Univ. Press, Princeton, 1984, p. 269–288.

[GG07]

M. Green & P. Griffiths – « Algebraic cycles and singularities of normal functions », in Algebraic cycles and motives I, London Math. Soc. Lecture Note Ser., vol. 343, Cambridge Univ. Press, Cambridge, 2007, p. 206–263.

[GGK10] M. Green, P. Griffiths & M. Kerr – « N´eron models and limits of Abel-Jacobi mappings », Compos. Math. 146 (2010), no. 2, p. 288–366. [Gr68]

P. Griffiths – « Periods of integrals on algebraic manifolds I-II », Amer. J. Math. 90 (1968), p. 568–626, et 805–865.

[Gr69]

, « On the periods of certain rational integrals I-II », Ann. of Math. (2) 90 (1969), p. 460–495, et 496–541.

[Ja94]

U. Jannsen – « Motivic sheaves and filtrations on Chow groups », in Motives (Seattle, 1991), Proc. Sympos. Pure Math., vol. 55, Amer. Math. Soc., Providence, 1994, p. 245–302.

[Ka84]

M. Kashiwara – « The Riemann-Hilbert problem for holonomic systems », Publ. Res. Inst. Math. Sci. 20 (1984), no. 2, p. 319–365.

[Ka86]

, « A study of variation of mixed Hodge structure », Publ. Res. Inst. Math. Sci. 22 (1986), no. 5, p. 991–1024.

[KNU08] K. Kato, C. Nakayama & S. Usui – « SL(2)-orbit theorem for degeneration of mixed Hodge structure », J. Algebraic Geom. 17 (2008), no. 3, p. 401–479. [KNU10]

, « N´eron models in log mixed Hodge theory by weak fans », Proc. Japan Acad. Ser. A Math. Sci. 86 (2010), no. 8, p. 143–148.

[KNU11]

, « Analyticity of the closures of some Hodge theoretic subspaces », Proc. Japan Acad. Ser. A Math. Sci. 87 (2011), no. 9, p. 167–172.

[KU09]

K. Kato & S. Usui – Classifying spaces of degenerating polarized Hodge structures, Ann. of Math. Stud., vol. 169, Princeton Univ. Press, Princeton, 2009.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. CHARLES

180

[KP10]

M. Kerr & G. Pearlstein – « An exponential history of functions with logarithmic growth », in Topology of stratified spaces, Math. Sci. Res. Inst. Publ., vol. 58, Cambridge Univ. Press, Cambridge, 2011, p. 281–374.

[MVW06] C. Mazza, V. Voevodsky & C. Weibel – Lecture notes on motivic cohomology, Clay Math. Monogr., vol. 2, Amer. Math. Soc., Providence, 2006. [Me84]

Z. Mebkhout – « Une autre ´equivalence de cat´egories », Compos. Math. 51 (1984), no. 1, p. 63–88.

[Mu68]

D. Mumford – « Rational equivalence of 0-cycles on surfaces », J. Math. Kyoto Univ. 9 (19698), p. 195–204.

[Ngˆ o10]

ˆ – « Le lemme fondamental pour les alg`ebres de Lie », Publ. B. C. Ngo ´ (2010), no. 111, p. 1–169. Math. IHES

[Sa88]

M. Saito – « Modules de Hodge polarisables », Publ. Res. Inst. Math. Sci. 24 (1988), no. 6, p. 849–995 (1989).

[Sa90]

, « Mixed Hodge modules », Publ. Res. Inst. Math. Sci. 26 (1990), no. 2, p. 221–333.

[Sa96]

, « Admissible normal functions », J. Algebraic Geom. 5 (1996), no. 2, p. 235–276.

[Sc73]

W. Schmid – « Variation of Hodge structure : the singularities of the period mapping », Invent. Math. 22 (1973), p. 211–319.

[Sc10]

C. Schnell – « Two observations about normal functions », in The geometry of algebraic cycles, Clay Math. Proc., vol. 9, Amer. Math. Soc., Providence, 2010, p. 75–79.

[Sc12]

, « Complex analytic N´eron models for arbitrary families of intermediate Jacobians », Invent. Math. 188 (2012), no. 1, p. 1–81.

[Sc12-2]

, « Residues and filtered D-modules », Math. Ann. 354 (2012), no. 2, p. 727–763.

[Se56]

J.-P. Serre – « G´eom´etrie alg´ebrique et g´eom´etrie analytique », Ann. Inst. Fourier, Grenoble 6 (1955/1956), p. 1–42.

[Th05]

R. P. Thomas – « Nodes and the Hodge conjecture », J. Algebraic Geom. 14 (2005), no. 1, p. 177–185.

[Vo02]

C. Voisin – Th´eorie de Hodge et g´eom´etrie alg´ebrique complexe, Cours Sp´ec., vol. 10, Soc. Math. France, Paris, 2002.

[Vo07]

, « Hodge loci and absolute Hodge classes », Compos. Math. 143 (2007), no. 4, p. 945–958.

´ ASTERISQUE 361

(1063)

` RECENTS ´ PROGRES SUR LES FONCTIONS NORMALES

181

[Vo]

C. Voisin – « Hodge loci », in Handbook of moduli (G. Farkas & I. Morrison, ´eds.), Adv. Lect. Math. (ALM), vol. 26, International Press, Somerville ; Higher Education Press, Beijing, 2013, p. 507–546.

[Zu76]

S. Zucker – « Generalized intermediate Jacobians and the theorem on normal functions », Invent. Math. 33 (1976), no. 3, p. 185–222.

Fran¸cois CHARLES Universit´e de Rennes 1 Institut de Recherche Math´ematique de Rennes UMR 6625 du CNRS 263 avenue du G´en´eral Leclerc CS 74205 35042 Rennes Cedex E-mail : [email protected]

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1064, p. 183 `a 223

Janvier 2013

GROUPES PLEINS-TOPOLOGIQUES [d’apr` es Matui, Juschenko, Monod, ...] par Yves de CORNULIER

1. INTRODUCTION Le but de cet expos´e est de d´ecrire la construction r´ecente et ´el´egante de groupes infinis de type fini, simples et moyennables. Elle d´ecoule du th´eor`eme ci-dessous. On appelle espace de Cantor un espace hom´eomorphe `a l’ensemble triadique de Cantor. Soit ϕ un autohom´eomorphisme d’un espace de Cantor X, c’est-`a-dire un hom´eomorphisme de X sur lui-mˆeme. On suppose ϕ minimal, au sens o` u toutes ses orbites sont denses. Par d´efinition, son groupe plein-topologique [[ϕ]], est le groupe (discret !) des autohom´eomorphismes de X qui co¨ıncident localement avec une puissance de ϕ (voir au §2.2 une d´efinition plus g´en´erale et plus d´etaill´ee). Th´ eor` eme. — Le groupe plein-topologique [[ϕ]] est infini, ainsi que son sous-groupe d´eriv´e [[ϕ]]′ ; de plus – (Matui, 2006) le groupe d´eriv´e [[ϕ]]′ est un groupe simple ; – (Matui, 2006) si ϕ est un sous-d´ecalage topologique (voir §2.1), alors le groupe d´eriv´e [[ϕ]]′ est un groupe de type fini ; – (Juschenko–Monod, 2012 ; conjectur´e par Grigorchuk–Medynets [GrMe12]) le groupe [[ϕ]] est moyennable (et donc [[ϕ]]′ aussi). Le groupe plein-topologique [[ϕ]] est un cas particulier d’une construction de W. Krieger (1980) [Kri80, p. 88] mais n’y est pas ´etudi´e dans le cas d’une action d’un autohom´eomorphisme minimal. Il est ensuite implicitement introduit, dissimul´e sous le nom « Γ », en termes de C ∗ -alg`ebres par Putnam (1989) [Pu89, Sec. 5], en ´etudiant dans un cadre topologique des objets introduits par Vershik [Ve81, Ve82] dans un contexte mesurable. Le groupe plein-topologique d’un autohom´eomorphisme minimal est ensuite ´etudi´e de mani`ere syst´ematique par E. Glasner et B. Weiss [GlW95] (sous le nom « groupe plein-fini »), Skau [Sk97] et surtout Giordano, Putnam et Skau (1999) dans [GiPS99] (et d´ej` a, de mani`ere implicite mais profonde, dans l’article

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

184

Y. de CORNULIER

important [GiPS95]). Ces derniers montrent notamment, en utilisant un r´esultat de Boyle [Bo83], que la classe d’isomorphie du groupe [[ϕ]] caract´erise la paire {ϕ, ϕ−1 } `a conjugaison pr`es dans le groupe des autohom´eomorphismes de l’espace de Cantor. Ceci a ´et´e ´etendu ` a [[ϕ]]′ par Bezuglyi et Medynets [BeM08], avec une m´ethode plus directe. De l’existence d’un continuum d’autohom´eomorphismes minimaux de l’espace de Cantor deux ` a deux non conjugu´es et qui sont des sous-d´ecalages (par exemple, associ´es aux rotations irrationnelles, voir l’exemple plus bas), il d´ecoule que les groupes simples de type fini obtenus [[ϕ]]′ forment ´egalement un continuum de classes d’isomorphie. Moyennabilit´ e Un groupe Γ est moyennable s’il poss`ede une moyenne (c’est-` a-dire une probabilit´e finiment additive d´efinie sur toutes les parties) invariante par translations `a gauche. Un des int´erˆets de la moyennabilit´e est qu’elle peut aussi bien ˆetre caract´eris´ee de ` titre d’illustration, mani`ere analytique, probabiliste, dynamique et g´eom´etrique. A en voici diverses caract´erisations ´equivalentes (qu’il n’est pas n´ecessaire de d´echiffrer pour comprendre la suite ; voir notamment [Gre, Eym, Pat]). – Γ admet des parties presque invariantes : pour toute partie finie S ⊂ Γ et ε > 0, il existe une partie finie non vide F de Γ telle que #(SF r F )/#F 6 ε. – Toute action de Γ par autohom´eomorphismes sur un espace compact non vide pr´eserve une mesure de probabilit´e invariante sur les bor´eliens. – Toute action affine continue de Γ sur un convexe compact non vide d’un espace localement convexe admet un point fixe. – Γ n’admet pas de d´ecomposition paradoxale (voir remarque 2.2). – La repr´esentation r´eguli`ere de Γ sur ℓ2 (Γ) admet des vecteurs unitaires presque invariants. – L’alg`ebre de Banach ℓ1 (Γ) est nucl´eaire. – L’alg`ebre de von Neumann de Γ est hyperfinie. – Le morphisme canonique de la C ∗ -alg`ebre maximale de Γ vers sa C ∗ -alg`ebre r´eduite est un isomorphisme. – Pour toute mesure de probabilit´e sym´etrique `a support fini S ⊂ Γ contenant 1, la marche al´eatoire donn´ee au temps n par multiplication `a droite par un ´el´ement choisi au hasard dans S, a une probabilit´e de retour en 1 d´ecroissant sous-exponentiellement vers 0. Les groupes moyennables constituent une classe stable par passage aux sousgroupes, quotients, extensions et limites directes. La plus petite classe de groupe stable par ces op´erations contenant les groupes finis et ab´eliens est appel´ee classe des groupes ´el´ementairement moyennables. De fait, ce sont les exemples « imm´ediats » de groupes moyennables, comprenant notamment les groupes virtuellement r´esolubles (c’est-` a-dire, ayant un sous-groupe d’indice fini r´esoluble). Cependant, il est facile de v´erifier que tout groupe de type fini ´el´ementairement moyennable et non trivial admet

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

185

un quotient fini non trivial (et, s’il est infini, admet un quotient infini virtuellement ab´elien non trivial), si bien que ces groupes sont tr`es loin d’ˆetre simples. S’il est connu depuis le d´ebut de l’´etude de la croissance des groupes que tout groupe de croissance sous-exponentielle est moyennable, les premiers exemples non triviaux (` a croissance dite interm´ediaire) ont ´et´e obtenus par Grigorchuk en 1984 [Gri84]. Ce sont les premiers exemples connus de groupes moyennables et non ´el´ementairement moyennables. Ce sont des groupes d’automorphismes d’arbres enracin´es de degr´e fini et `a ce titre ils sont r´esiduellement finis (et donc loin d’ˆetre simples). La plus petite classe de groupes stable par les op´erations d´ecrites pr´ec´edemment contenant les groupes `a croissance sous-exponentielle est appel´ee classe des groupes sous-exponentiellement moyennables ; elle contient les groupes ´el´ementairement moyennables mais est strictement plus grosse puisqu’elle contient ´egalement les groupes `a croissance interm´ediaire. Les premiers exemples de groupes moyennables mais pas sous-exponentiellement moyennables, comprenant le « groupe de la basilique », ont ´et´e introduits par Grigorchuk et Zuk [GrZu02] ; leur moyennabilit´e a ´et´e d´emontr´ee par Bartholdi et Virag [BV05], en utilisant les marches al´eatoires ; ils sont ´egalement r´esiduellement finis. Leur m´ethode a ´et´e largement g´en´eralis´ee et ´etendue [Kai05, Ers06, Bri09, BKN10] par des m´ethodes ´egalement bas´ees sur les marches al´eatoires et s’appliquant `a des groupes agissant naturellement sur des arbres enracin´es de valence finie. On ne connaissait pas, pr´ec´edemment, de groupe de type fini moyennable non trivial sans quotient fini non trivial, et donc, a fortiori, aucun qui soit infini et simple. Les exemples [[ϕ]]′ sont ` a croissance exponentielle, par un r´esultat de Matui [Ma13], et il en d´ecoule imm´ediatement qu’ils ne sont pas sous-exponentiellement moyennables (voir le fait A.2). Le crit`ere de moyennabilit´e utilis´e par Juschenko et Monod [JM13] est le suivant. Rappelons qu’une permutation σ de Z est `a d´eplacement born´e si |σ(n) − n| est born´e ind´ependamment de n ∈ Z, et que deux parties A, B ⊂ Z sont commensurables si la diff´erence sym´etrique A △ B est finie. Th´ eor` eme (Crit`ere de Juschenko-Monod). — Soit Γ un groupe agissant sur Z par permutations ` a d´eplacement born´e. On suppose que le stabilisateur de N est moyennable. Alors Γ est moyennable. Dans le cas d’un autohom´eomorphisme minimal d’un espace de Cantor, le th´eor`eme pr´ec´edent s’applique ` a [[ϕ]], qui agit sur Z via l’identification de Z `a une orbite d’un ´el´ement quelconque x0 dans l’espace de Cantor : ψ · n, pour ψ ∈ [[ϕ]] et n ∈ Z, est l’unique entier m tel que ψ(ϕn (x0 )) = ϕm (x0 ). Putnam ayant montr´e [Pu89] que le stabilisateur dans [[ϕ]] de toute orbite positive {ϕn (x) : n ∈ N} est localement fini (au sens o` u toute partie finie engendre un sous-groupe fini), le th´eor`eme implique que [[ϕ]] est moyennable.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

186

Y. de CORNULIER

Exemples Un exemple explicite de sous-d´ecalage minimal ϕ s’obtient comme ceci : on consid`ere un irrationnel α et on consid`ere, sur le cercle R/Z, la rotation rα : z 7→ z + α. On peut d´efinir un espace [R/Z]Zα , hom´eomorphe `a l’espace de Cantor, muni d’une projection sur le cercle par laquelle la rotation rα se rel`eve canoniquement en un autohom´eomorphisme minimal ϕ = r˜α (x). Une mani`ere de l’obtenir est de remplacer chaque point x de l’orbite Zα ⊂ R/Z par une paire {x− , x+ }, et de munir l’espace ainsi obtenu de l’ordre cyclique ´evident et de la topologie associ´ee. Ainsi si x ∈ / Zα, ± ± on d´efinit r˜α (x) = x + α et si x ∈ Zα on d´efinit r˜α (x ) = (x + α) ; l’espace [R/Z]Zα est m´etrisable, compact, non vide, totalement discontinu et sans point isol´e et donc est hom´eomorphe ` a l’espace de Cantor ; l’autohom´eomorphisme r˜α est minimal. On v´erifie alors que, pour tout ε ∈ Zα ∩ ]0, 1/2[ ⊂ R/Z, les translat´es de l’ouvert ferm´e [0+ , ε− ] s´eparent les points de [R/Z]Zα , si bien que ([R/Z]Zα , ϕα ) est un sous-d´ecalage (voir le fait 2.1.2). Cette construction est due `a Keane [Kea75, §5] et le groupe plein-topologique associ´e est consid´er´e sp´ecifiquement par Matui dans [Ma06, Example 6.2]. Notons que rα est uniquement ergodique (th´eor`eme d’´equidistribution de Kronecker-Weyl, voir [KH, Proposition 4.2.1]) et les valeurs propres de l’op´erateur unitaire associ´e sur L2 ([R/Z]Zα ) = L2 (R/Z) sont les e2iπnα pour n ∈ Z ; en particulier les groupes cycliques hrα i ⊂ Homeo([R/Z]Zα ) pour α irrationnel dans [0, 1/2] sont deux ` a deux non conjugu´es et donnent donc, par le r´esultat de Boyle et Giordano-Putnam-Skau, des groupes pleins-topologiques deux `a deux non isomorphes. L’exemple pr´ec´edent est sous-groupe du groupe IET des ´echanges d’intervalles, introduit par Keane [Kea75], habituellement d´efini comme l’ensemble des translations par morceaux continues `a droite de R/Z mais qui, comme Keane l’a observ´e [Kea75, §5], peut s’interpr´eter comme groupe d’autohom´eomorphismes d’un compact totalement discontinu. La question de la moyennabilit´e du groupe entier IET est ouverte. La r´esoudre consisterait `a d´emontrer un r´esultat de moyennabilit´e pour des groupes pleins-topologiques associ´es `a certaines actions de groupes ab´eliens de type fini. Cependant, le th´eor`eme de Juschenko-Monod ne se g´en´eralise pas sans hypoth`ese suppl´ementaire : une construction ´el´ementaire dans [EM13] montre que le groupe plein-topologique associ´e `a une action libre et minimale de Z2 sur un espace de Cantor peut contenir un groupe libre non ab´elien. Plan (Ci-dessous, ϕ est un autohom´eomorphisme minimal de l’espace de Cantor.) On va commencer par introduire les notions g´en´erales en d´etail, dans la partie 2 ; et ´enoncer quelques faits g´en´eraux (non sp´ecifiques aux actions de Z), notamment le fait 2.2.4 qui montre que les groupes pleins-topologiques contiennent « beaucoup » d’´el´ements de torsion et, en particulier, que [[ϕ]]′ est un groupe infini.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

187

La partie 3 contient les principaux r´esultats alg´ebriques connus sur le groupe [[ϕ]]′ . En particulier, les r´esultats de Matui mentionn´es plus haut sont ´etablis au §3.1 pour la simplicit´e et au §3.2 pour la type-finitude dans le cas d’un sous-d´ecalage minimal. D’autres r´esultats sont prouv´es au §3.4, notamment le r´esultat, ´egalement dˆ u `a Matui, que [[ϕ]]′ n’est jamais de pr´esentation finie, ainsi que le fait, dˆ u `a Grigorchuk et Medynets, qu’il n’est pas finiment approximable (d´efinition 3.4.1). Au §3.5, on prouve le r´esultat, aussi dˆ u` a Matui, que pour un sous-d´ecalage minimal infini, [[ϕ]]′ contient un semi-groupe libre ` a 2 g´en´erateurs et est donc `a croissance exponentielle. La partie 4 contient le r´esultat de moyennabilit´e de Juschenko-Monod. Elle est ind´ependante de la pr´ec´edente en ce qui concerne la preuve du crit`ere. Le fait d’appliquer le crit`ere est lui bas´e sur le lemme de Putnam, qui se trouve au §3.3. ` titre d’illustration de l’importance de l’hypoth`ese de minimalit´e dans certains A des r´esultats ci-dessus, quelques exemples de groupes pleins-topologiques [[ϕ]] pour ϕ sous-d´ecalage non minimal sont ´etudi´es au §3.7. Probl` emes et questions ouvertes On consid`ere le groupe plein-topologique associ´e `a un sous-d´ecalage minimal infini sur Z. Rappelons que son groupe d´eriv´e [[ϕ]]′ est, par un r´esultat de Matui, un groupe simple de type fini. (1) Estimer la fonction de Følner de [[ϕ]]′ , peut-ˆetre en discutant sur ϕ. Rappelons qu’apr`es choix d’un syst`eme g´en´erateur fini S sym´etrique et contenant 1, elle associe ` a n > 1 le nombre Føl(n) = inf{#K | #(SK r K)/#(K) 6 1/n}, K parcourant les parties finies non vides du groupe. De mˆeme, estimer la fonction de Følner dans les boules BFøl(n) = inf{diam(K) | #(SK r K)/#(K) 6 1/n} et la probabilit´e de retour des marches al´eatoires sur le graphe de Cayley de [[ϕ]]′ . (2) Donner des r´esultats g´en´eraux sur la structure des sous-groupes de [[ϕ]]. Par exemple : (2a) ´etant moyennable, [[ϕ]] ne contient pas de sous-groupe libre non ab´elien. Donner une preuve directe de ce fait. (2b) Est-ce que tous les sous-groupes de pr´esentation finie (resp. r´esiduellement finis, resp. sans torsion) de [[ϕ]]′ sont ´el´ementairement moyennables ? (2c) Est-il vrai que tout sous-groupe de type fini de [[ϕ]] est `a croissance exponentielle ou polynomiale ? que tout sous-groupe infini de type fini poss`ede un ´el´ement d’ordre infini ?

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

188

(2d) Est-il vrai que tout sous-groupe de [[ϕ]] soit contient un sous-groupe isomorphe ` a [[ψ]] (pour un autre sous-d´ecalage minimal ψ), soit est ´el´ementairement moyennable ? (Cela impliquerait une r´eponse positive `a toutes les questions de (2b) et (2c).) (2e) Peut-on donner des r´esultats g´en´eraux sur la structure des sous-groupes ´el´ementairement moyennables de [[ϕ]] ? (2f) Classifier les morphismes entre les diff´erents groupes [[ϕ]] ou [[ϕ]]′ (ici ϕ peut ˆetre plus g´en´eralement un autohom´eomorphisme minimal d’un espace de Cantor). En particulier, le groupe [[ϕ]]′ a-t-il des endomorphismes injectifs non surjectifs (autrement dit, en termes savants, est-il non cohopfien) ? [Le cas des isomorphismes et automorphismes est bien compris, principalement par les r´esultats de Giordano, Putnam et Skau [GiPS99], voir §3.6.1.]

(3) Peut-on classifier les groupes [[ϕ]]′ `a quasi-isom´etrie pr`es ? Peut-on caract´eriser les groupes (de type fini, ou plus g´en´eralement localement compacts et compactement engendr´es) qui leur sont quasi-isom´etriques ? (4) Est-ce que [[ϕ]]′ admet une action propre sur un complexe cubique CAT(0) (sans hypoth`ese de dimension finie) ? Peut-on d´eterminer les sous-groupes de codimension 1 dans les groupes [[ϕ]]′ ? Rappelons qu’un sous-groupe H est dit de codimension 1 si le graphe de Schreier [[ϕ]]′ /H a au moins 2 bouts, voir par exemple Sageev [Sag97]. Les stabilisateurs dans [[ϕ]]′ des points de X sont de codimension 1 puisque le graphe de Schreier est quasi-isom´etrique `a Z. (5) Est-ce que le groupe [[ϕ]] a une complexit´e de d´ecomposition finie ? (Voir [GTY10].)

(6) Le groupe [[ϕ]]′ contient-il un arbre r´egulier trivalent quasi-isom´etriquement plong´e ? un semi-groupe libre quasi-isom´etriquement plong´e ? (7) Le groupe [[ϕ]]′ a-t-il une croissance exponentielle uniforme ? A-t-il un diam`etre semi-libre (resp. sans torsion) uniforme (c’est-` a-dire, existe-t-il un entier N tel que pour tout syst`eme g´en´erateur, la N -boule contient un couple d’´el´ements engendrant librement un semi-groupe libre (resp. contient un ´el´ement sans torsion) ? (8) Soit sϕ cardinal minimal d’une famille g´en´eratrice de [[ϕ]]′ . Existe-t-il des sousd´ecalages minimaux avec sϕ arbitrairement grand ? Remerciements. — Je remercie Mikael de la Salle pour une simplification substantielle de la preuve de la proposition 4.3.1 et Pierre Py pour une correction dans la preuve du th´eor`eme 3.1.6. Je suis reconnaissant envers toutes les personnes m’ayant signal´e diverses coquilles, omissions ou impr´ecisions, et notamment Laurent Bartholdi, Pierre de la Harpe et Ralph Strebel pour leur relecture critique attentive. Je remercie Hiroki Matui et Jean-Fran¸cois Quint pour des discussions utiles.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

189

´ 2. SOUS-DECALAGES ET GROUPES PLEINS-TOPOLOGIQUES 2.1. Sous-d´ ecalages et odom` etres Si X est un espace topologique, on note Homeo(X) le groupe des hom´eomorphismes de X sur lui-mˆeme, ou autohom´eomorphismes de X. On consid`ere un espace topologique X muni d’une action par autohom´eomorphismes d’un groupe discret Γ ; on parlera souvent du couple (Γ, X). On supposera souvent que X est totalement s´epar´e, au sens o` u les fonctions continues de X vers les espaces discrets s´eparent les points de X, ou de mani`ere ´equivalente, les clouverts de X forment une base de la topologie ; c’est un peu plus fort que totalement discontinu (voir [SS, Ex. 129] pour un contre-exemple sous-ensemble du plan « tipi de Cantor ´epoint´e »), et ´equivalent pour des espaces localement compacts [Bou, II.§4, cor. de la prop. 6]. Commen¸cons par introduire des exemples fondamentaux. D´ efinition 2.1.1. — Soit d ∈ N∗ , soient Ad un alphabet ` a d lettres et Γ un groupe Γ discret quelconque. L’espace Ad , muni de la topologie produit, est compact totalement s´epar´e (si d > 2 et Γ est infini d´enombrable, il est hom´eomorphe ` a un espace de Cantor). Il admet une action naturelle de Γ par d´ecalage : si f est une fonction de Γ dans Ad et g ∈ Γ, on d´efinit g · f par g · f (γ) = f (g −1 γ). Muni de l’action de Γ, l’espace AΓd est appel´e d´ecalage (` a d lettres) sur Γ. Un ferm´e Γ-invariant est appel´e sous-d´ecalage topologique ` a d lettres sur Γ (on omettra syst´ematiquement l’adjectif topologique). Par extension et abus de langage, un espace X muni d’une action de Γ par autohom´eomorphismes sera appel´e sous-d´ecalage s’il est hom´eomorphe, de mani`ere Γ-´equivariante, ` a un sous-d´ecalage au sens ci-dessus. Lorsqu’on parlera de d´ecalage ou sous-d´ecalage, on supposera toujours implicitement le nombre de lettres fini. Le fait suivant donne une caract´erisation ´el´ementaire et tr`es utile des sousd´ecalages. On rappelle qu’un clouvert est par d´efinition un ouvert ferm´e. On note Clo(X) l’ensemble des clouverts de X, qui est une sous-alg`ebre bool´eenne de 2X . Fait 2.1.2. — Un espace X muni d’une action de Γ par autohom´eomorphismes est un sous-d´ecalage si et seulement si X est compact et il existe une partition finie de X en clouverts, dont les Γ-translat´es s´eparent les points. Plus pr´ecis´ement, il est hom´eomorphe, de mani`ere Γ-´equivariante, ` a un sous-d´ecalage ` a d lettres si et seulement s’il existe une partition de X en (au plus) d clouverts, dont les Γ-translat´es s´eparent les points. Remarque 2.1. — La condition du fait 2.1.2 sur la partition se reformule en disant que l’alg`ebre bool´eenne Clo(X) est de type fini comme alg`ebre munie d’une action de Γ ; la condition plus pr´ecise dit qu’elle est engendr´ee par d − 1 ´el´ements disjoints.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

190

D´emonstration du fait 2.1.2. — Dans un sens, on remarque que, dans AΓd , les translat´es des clouverts Ωi = {w ∈ AΓd | w(1) = i}, pour i ∈ Ad , s´eparent les points. Fd R´eciproquement, si X = i=1 Xi avec Xi clouvert, on d´efinit, pour x ∈ X, la lettre ι(x) comme l’unique i ∈ Ad tel que x ∈ Xi ; alors on remarque que l’application continue Γ-´equivariante Ψ:X x

→ AΓd

7→ (ι(γ −1 x))γ∈Γ

est injective si et seulement si les translat´es de la partition (Xi ) s´eparent les points. La compacit´e de X implique que Ψ est un hom´eomorphisme sur son image, qui est un ferm´e Γ-invariant de AΓd . On a un autre type d’exemple, en un certain sens diam´etralement oppos´e. D´ efinition 2.1.3. — On dit que (Γ, X) est un odom`etre si X est compact totalement s´epar´e, et si l’action de Γ sur l’ensemble Clo(X) des clouverts de X a toutes ses orbites finies. Un exemple prototypique est l’action par addition de Z sur l’anneau des nombres entiers p-adiques Zp ; il est souvent d´ecrit de mani`ere plus explicite, l’action du g´en´erateur positif de Z consistant `a effectuer effectivement l’addition de 1 `a un entier p-adique, en posant les retenues ! Fait 2.1.4. — Soit X un espace topologique muni d’une action par autohom´eomor´ phismes de Γ. Equivalences : (i)

X est un odom`etre ;

(ii)

X est compact totalement s´epar´e et toute application ´equivariante continue de X vers un sous-d´ecalage a une image finie ;

(iii) X est une limite projective filtrante de Γ-ensembles finis. Si de plus X admet une Γ-orbite dense, (iii) se reformule en : (iii ′ ) X est isomorphe, comme espace topologique muni d’une action de Γ (et canoniquement, apr`es choix d’un point de X dont l’orbite est dense) au quotient ˆ a droite Γ/K ` du compl´et´e profini de Γ par un sous-groupe ferm´e K. Si en outre Γ est ab´elien, alors cela se reformule encore en (iii ′′ ) X s’identifie (apr`es choix d’un point de X) ` a un groupe ab´elien muni d’un morphisme d’image dense ´emanant de Γ. D´emonstration. — (iii)⇒(i) est imm´ediat. Faisons sa r´eciproque : pour toute partie finie I de Clo(X), on peut consid´erer l’union J(I) des Γ-orbites des ´el´ements de I, qui est encore finie par hypoth`ese et d´efinir XI comme le quotient de X par la partition d´efinie par l’alg`ebre bool´eenne engendr´ee par J(I), c’est un Γ-ensemble, quotient de X. Clairement toute inclusion I ⊂ I ′ induit une application quotient XI ′ → XI . ´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

191

L’application naturelle de X vers la limite projective des XI (I parcourant les parties finies de Clo(X)) a donc une image dense ; comme X est totalement s´epar´e, cette application est injective ; par compacit´e c’est donc un hom´eomorphisme. Pour (i)⇒(ii), il suffit de montrer qu’un sous-d´ecalage X ⊂ AΓ qui est un odom`etre est n´ecessairement fini. Par hypoth`ese, il existe un sous-groupe d’indice fini Λ de Γ tel que pour tout a ∈ A, en notant Ωa = {w ∈ X : w(1) = a}, on a gΩa = Ωa pour tout g ∈ Λ. On en d´eduit que X est constitu´e de suites Λ-p´eriodiques `a droite (et est donc fini) : en effet, on voit dans un premier temps que w(λ) = w(1) pour tout λ ∈ Λ et w ∈ X. Puis si g ∈ G, comme g −1 w ∈ X, on a g −1 w(λ) = g −1 w(1), autrement dit w(gλ) = w(g). R´eciproquement, si X n’est pas un odom`etre, il existe un clouvert Ω dont la Γ-orbite est infinie. La construction du fait 2.1.2 fournit une application ´equivariante continue vers le d´ecalage {0, 1}Γ , d’image infinie. L’assertion suppl´ementaire (iii ′ ) implique ´evidemment (iii) en ´ecrivant K comme intersection filtrante d´ecroissante de sous-groupes ouverts d’indice fini. R´eciproquement, supposons que X est limite projective filtrante de Γ-ensembles finis Xi . En fixant un ˆ i point w dont l’orbite est dense, on peut identifier chaque Xi `a un espace quotient Γ/Λ T ˆ avec Λi ouvert d’indice fini. L’application naturelle de Γ/ Λi vers la limite projective ˆ i est continue, injective et d’image dense, donc est un hom´eomorphisme par des Γ/Λ compacit´e ; elle est Γ-´equivariante. Pour Γ ab´elien, pour obtenir (iii ′′ ) `a partir de (iii ′ ) (le sens inverse ´etant trivial), ˆ on remarque que K est distingu´e et le groupe Γ/K est bien un groupe muni d’un morphisme d’image dense ´emanant de Γ. 2.2. Semi-groupes pleins et groupes pleins Rappelons qu’une fonction ´etag´ee entre deux ensembles est une fonction dont l’image est finie. D´ efinition 2.2.1. — Soit Γ un groupe discret agissant par autohom´eomorphismes sur un espace topologique. On d´efinit le semi-groupe plein-topologique associ´e ` a (Γ, X) comme [[Γ, X]]s = {f : X → X : ∃κ : X → Γ continue ´etag´ee : ∀x ∈ X, f (x) = κ(x).x}. On dit que la fonction ´etag´ee κ ci-dessus est associ´ee ` a f. Notons que la pr´ecision que κ est ´etag´ee est superflue lorsque X est compact. Il est clair que [[Γ, X]]s est constitu´e d’applications continues X → X, contient l’identit´e et est stable par composition, c’est donc bien un semi-groupe. Si l’action de Γ sur X est libre, ce qui sera souvent le cas par la suite, l’application κ associ´ee `a un ´el´ement f est uniquement d´etermin´ee par f , ce qui donne une bijection canonique entre [[Γ, X]]s et l’ensemble Cet (X, Γ) des fonctions continues ´etag´ees X → Γ. Ceci reste valable sous ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

192

Y. de CORNULIER

l’hypoth`ese plus faible que tout ´el´ement de Γ distinct de l’identit´e a un ensemble de points fixes d’int´erieur vide dans X. Remarquons d´ej` a que si X est compact m´etrisable, et Γ d´enombrable (on consid`ere les ensemble finis comme d´enombrables), alors Cet (X, Γ) est d´enombrable, et en particulier [[Γ, X]]s est d´enombrable. D´ efinition 2.2.2. — Le groupe plein-topologique de (Γ, X) est d´efini comme l’ensemble des ´el´ements inversibles du semi-groupe [[Γ, X]]s ; on le note [[Γ, X]]. On peut remarquer que [[Γ, X]] = [[Γ, X]]s ∩ Homeo(X). En effet, on v´erifie que, pour f ∈ Homeo(X) donn´e par f (x) = κ(x).x, on a f −1 (x) = κ(f −1 (x))−1 .x pour tout x ∈ X. Lorsque Γ ⊂ Homeo(X) et X est fix´e, il est commode d’´ecrire [[Γ]]s et [[Γ]]. Il est souvent possible de s’y ramener, en rempla¸cant Γ par son image dans Homeo(X). Si Γ est engendr´e par un autohom´eomorphisme ϕ, on ´ecrit alors [[ϕ]]s et [[ϕ]]. Dans une direction diff´erente, le groupe Γ peut ˆetre fix´e et l’espace X sur lequel il agit variable, et on ´ecrit alors [[X]]s et [[X]]. Si Γ ⊂ Homeo(X), on a toujours Γ ⊂ [[Γ]]. Remarquons que si X est connexe, alors toute application continue X → Γ est constante, de sorte que [[Γ]]s = [[Γ]] = Γ. Cette construction est donc surtout int´eressante lorsque X est totalement s´epar´e. Le groupe [[Γ, X]] sera consid´er´e ici comme un groupe discret. L’adjectif (quelque peu maladroit) « topologique » permet de distinguer [[Γ, X]] du groupe plein [Γ, X] ⊂ Homeo(X) d´efini comme le pr´ec´edent, mais sans supposer l’application κ continue ou ´etag´ee. Le groupe plein est souvent beaucoup plus gros que le groupe plein-topologique. Remarque 2.2. — On dit que le groupe Γ est paradoxal si, munissant Γ de l’action `a gauche sur lui-mˆeme, il existe dans [[Γ, Γ]]s deux injections d’images disjointes. Le th´eor`eme de Tarski (voir [HS86]) dit que Γ est paradoxal si et seulement si Γ est non moyennable, et on peut alors mˆeme supposer que les images des deux injections pr´ec´edentes partitionnent Γ. On commence par quelques propri´et´es ´el´ementaires et g´en´erales des groupes pleinstopologiques. En remarquant que les orbites de [[Γ]] sont contenues dans les Γ-orbites, on obtient : Fait 2.2.3. — Si Γ ⊂ Homeo(X) est un groupe fini (ou, plus g´en´eralement, a des orbites de cardinal born´e), alors les orbites de [Γ] sont de cardinal born´e, de sorte que le groupe plein [Γ] (et donc [[Γ]]) est un groupe localement fini, d’exposant fini, car il se plonge dans un produit (infini) de groupes finis de cardinal born´e.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

193

Notons que X est totalement s´epar´e si et seulement si les clouverts s´eparent les points. Dans ce cas, on a Fait 2.2.4. — Si X est totalement s´epar´e et si Γ agit sur X par autohom´eomorphismes avec des orbites de cardinal non born´e (par exemple, Γ a une orbite infinie), alors [[Γ]] contient, pour tout n, un sous-groupe isomorphe au groupe sym´etrique Sn L (et contient mˆeme une copie du produit direct restreint n>1 Sn ). En particulier, le groupe [[Γ]] ne satisfait aucune loi (un groupe G satisfait une loi w, o` u w(t1 , . . . , tk ) est un ´el´ement non trivial du groupe libre ` a k g´en´erateurs, si w(g1 , . . . , gk ) = 1 pour tous g1 , . . . , gk dans G). D´emonstration. — On consid`ere des ´el´ements distincts x1 , . . . , xn dans une mˆeme Γ-orbite, disons xi = gi x1 . On choisit un voisinage clouvert U de x1 tel que les gi U sont deux ` a deux disjoints. Si σ ∈ Sn est une permutation de {1, . . . , n}, alors pour x ∈ X, on d´efinit Tσ (x) = gσ(i) gi−1 x ∈ gσ(i) U si x ∈ gi U , et Tσ (x) = x si S x∈ / i gi U . On v´erifie imm´ediatement que ρ : σ 7→ Tσ est un morphisme injectif de Sn dans [[Γ]]. L (n) Pour obtenir un plongement de Sn , on choisit simultan´ement xi , 1 6 i 6 n < ∞ deux ` a deux distincts et, `a n fix´e, dans la mˆeme orbite, et on choisit les (n) a deux disjoints. Comme les ρ(n) (Sn ) ont des supports deux Ui ´egalement deux ` `a deux disjoints, ils commutent deux `a deux et engendrent leur produit direct restreint. Pour la derni`ere assertion, on utilise le fait qu’il n’existe aucune loi de groupe satisfaite simultan´ement par tous les groupes sym´etriques : en effet une telle loi serait satisfaite par tous les groupes finis, donc par les produits directs de groupes finis. Or les groupes libres, ´etant r´esiduellement finis [Sch27, p. 170], se plongent dans de tels produits. La preuve d´emontre en fait ´egalement Corolaire 2.2.5. — Si X est totalement s´epar´e, alors [[Γ]] agit ∞-transitivement sur toute Γ-orbite, au sens o` u il agit transitivement, pour tout n, sur les n-uplets d’´el´ements distincts. De plus, le sous-groupe d´eriv´e [[Γ]]′ agit (n − 2)-transitivement sur toute Γ-orbite de cardinal au moins n, et donc ∞-transitivement sur toute orbite infinie. En particulier, les [[Γ]]′ -orbites co¨ıncident avec les Γ-orbites (qui sont aussi les [[Γ]]-orbites), ` a l’exception des Γ-orbites ` a deux ´el´ements. En outre, si la r´eunion des Γ-orbites de cardinal au plus 4 est d’int´erieur vide, alors le commutant de [[Γ]]′ dans le groupe des permutations de X (et donc dans Homeo(X)) est trivial.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

194

Y. de CORNULIER

D´emonstration. — En effet, on a v´erifi´e que pour toute partie P `a n ´el´ements de toute orbite, il existe une action du groupe sym´etrique Sn , via [[Γ]], qui induit l’action standard sur P . En particulier, son sous-groupe d´eriv´e, le groupe altern´e An , agit via [[Γ]]′ , qui agit donc (n − 2)-transitivement. Pour le commutant, on remarque que si on a trois points x, gx, hx distincts dans une mˆeme Γ-orbite, alors pour tout voisinage clouvert U de x assez petit, on a un ´el´ement de [[Γ]]′ permutant cycliquement les clouverts disjoints U , gU et hU et agissant par l’identit´e ailleurs. En particulier, le commutant C de [[Γ]]′ pr´eserve U ∪ gU ∪ hU . Comme c’est vrai pour tout voisinage clouvert de x inclus dans U , on en d´eduit que C laisse invariant {x, gx, hx}. Maintenant s’il existe deux autres points g ′ x, h′ x dans l’orbite, le mˆeme argument montre que C laisse invariant {x, g ′ x, h′ x} et donc laisse invariant l’intersection de ces deux parties, `a savoir {x}. Comme par hypoth`ese l’ensemble des x dont l’orbite a au moins 5 ´el´ements est dense, cela prouve que C est r´eduit ` a l’identit´e. Ce fait implique ´egalement, par exemple, le corollaire suivant. Corolaire 2.2.6. — Sous les hypoth`eses du fait 2.2.4, [[Γ]] n’admet aucune repr´esentation fid`ele dans GLd (A), o` u A est un anneau commutatif quelconque et d un entier arbitraire. Il en est de mˆeme pour [[Γ]]′ . D´emonstration. — On fixe k assez grand, disons k = k(d) = max(5, 4d2 ). Montrons que pour tout anneau commutatif A, il n’y a aucun morphisme non trivial de Ak(d) vers GLd (A). On remarque d’abord que le groupe altern´e Ak contient d2 paires d’´el´ements, chacune des paires ne commutant pas, mais commutant avec toutes les autres. Il en d´ecoule ais´ement (voir [Ab06], ` a qui cette astuce est due) que tout morphisme injectif de Ak dans GLm d’un corps envoie ces 2d2 ´el´ements sur une famille lin´eairement libre, impliquant en particulier que m > d. Donc, par simplicit´e, tout morphisme de Ak dans GLd d’un corps est trivial. Comme tout anneau commutatif r´eduit se plonge dans un produit de corps, on en d´eduit que tout morphisme de Ak dans GLd (A), pour A anneau commutatif, a son image dans le noyau de GLd (A) → GLd (A/N ), o` u N est le nilradical de A. Or ce noyau est un groupe localement nilpotent, puisqu’il est nilpotent quand A est un anneau commutatif de type fini ou plus g´en´eralement noeth´erien. Donc l’image du groupe simple non ab´elien Ak dans GLd (A) est en fait triviale. Les sous-groupes Ak ´etant simples non ab´eliens, ils sont ´evidemment inclus dans [[Γ]]′ et l’argument s’applique donc aussi `a ce dernier. Fait 2.2.7. — On suppose qu’on a une partition de X (en parties appel´ees composantes). Si la partition est invariante par [[Γ]], alors toute Γ-orbite est soit compos´ee d’atomes (composantes r´eduites a ` un point), soit incluse dans une seule composante.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

195

Sous l’hypoth`ese plus faible que la partition est invariante par [[Γ]]′ , la mˆeme assertion est vraie pour toute orbite de cardinal distinct de 2. D´emonstration. — On se donne une Γ-orbite non r´eduite `a un singleton (l’´enonc´e ´etant trivial pour un point fixe). Si par l’absurde elle ne v´erifie pas la conclusion, elle contient deux points x, y dans deux composantes distinctes, telles que la composante de x contient un autre point w de X. Le fait 2.2.4 fournit dans [[Γ]] un ´el´ement fixant w et ´echangeant y et z ; cet ´el´ement ne pr´eserve pas la partition, contradiction. Dans le cas d’une partition [[Γ]]′ -invariante, le mˆeme raisonnement (pour une orbite `a au moins 3 ´el´ements) aboutit `a l’existence de points w, x, y v´erifiant les mˆemes hypoth`eses, et d’un point suppl´ementaire z dans l’orbite de x. Si x 6= z, le fait 2.2.4 fournit dans [[Γ]]′ un ´el´ement fixant w et permutant cycliquement x, y, z ; si x = z, il fournit dans [[Γ]]′ un ´el´ement permutant cycliquement w, x, y ; dans les deux cas, l’´el´ement d’ordre 3 obtenu ne pr´eserve pas la partition.

´ ES ´ ALGEBRIQUES ´ 3. PROPRIET DES GROUPES PLEINSTOPOLOGIQUES SUR Z 3.1. Simplicit´ e du groupe d´ eriv´ e On montre ici que si ϕ est un autohom´eomorphisme minimal d’un compact totalement s´epar´e X, alors le groupe d´eriv´e [[ϕ]]′ est simple. Ce r´esultat est dˆ u `a Matui [Ma06]. Une preuve plus directe en a ´et´e donn´ee par Bezuglyi et Medynets [BeM08], que l’on va suivre. (On dira cependant plus loin quelques mots sur l’approche de Matui.) La m´ethode de Bezuglyi-Medynets consiste `a montrer directement que pour tout f ∈ [[ϕ]] non trivial, le commutateur de deux ´el´ements `a petit support (en un sens li´e aux probabilit´es ϕ-invariantes sur X) appartient au sous-groupe distingu´e engendr´e par f . Le r´esultat de simplicit´e en d´ecoule, une fois qu’on sait exprimer tout ´el´ement comme produit d’´el´ements ` a petit support. Ceci utilise la notion de fonction de premier retour, d´efinie ci-dessous. Soit X un espace topologique et soit ψ un autohom´eomorphisme. On dit que A ⊂ X S est ψ-omniscient si n∈Z ψ n (A) = X ou, autrement dit, si l’ensemble Z(x) = Z(A, ψ, x) = {n ∈ Z : ψ n (x) ∈ A}

est non vide pour tout x ∈ X. Fait 3.1.1. — On suppose X compact. Si A ⊂ X est un ouvert ψ-omniscient, alors pour tout x ∈ X, l’ensemble Z(x) n’est ni minor´e ni major´e.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

196

D´emonstration. — Par hypoth`ese, Z(x) est non vide pour tout x. Soit Mk l’ensemble des x pour qui sup(Z(x)) 6 k. C’est un ferm´e ; si on suppose par l’absurde qu’il est non vide pour au moins un k, il est en fait non vide pour tout k puisque ψ(Mk ) = Mk−1 . T En outre, Mk ⊂ Mk+1 pour tout k, donc par compacit´e on obtient k Mk 6= ∅, ce qui est une contradiction. Ceci prouve que Z(x) n’est jamais major´e ; pour la mˆeme raison il n’est jamais minor´e. Ceci permet de d´efinir, si A est ψ-omniscient, la fonction  inf(Z(x) ∩ ]0, +∞[) si x ∈ A ; ψA (x) = ψ k(x) (x), o` u k(x) = kA,ψ (x) = 0 sinon. La fonction ψA est appel´ee fonction de premier retour de ψ sur A ; c’est un autohom´eomorphisme, de r´eciproque (ψ −1 )A . Si A est clouvert, il est imm´ediat que la fonction k est continue (c’est-` a-dire localement constante), si bien que ψA ∈ [[ψ]] et donc ψA ∈ [[ϕ]] si ψ ∈ [[ϕ]] pour un autohom´eomorphisme ϕ pr´ealablement fix´e. Fait 3.1.2. — Si X est compact, ψ est un autohom´eomorphisme, et A est un clouvert ψ-omniscient, alors ψ −1 ψA est p´eriodique. D´emonstration. — Posons v(x) = inf(Z(x) ∩ ]0, +∞[) et u(x) = sup(Z(x) ∩ ]−∞, 0]). Remarquons que 1 6 v − u 6 sup k

et (ψ −1 ψA )v(x)−u(x) x = x

pour tout x. Donc (ψ −1 ψA )n = 1, o` u n = (sup k)!. Lemme 3.1.3. — Soit f un autohom´eomorphisme d’un espace compact totalement s´epar´e X, et n > 1 un entier. On suppose que f i est sans point fixe pour tout 1 6 i 6 n − 1. Alors il existe un clouvert U tel que les (f i (U )), pour 0 6 i 6 n − 1, sont deux S a deux disjoints et i∈Z f i (U ) = X. ` En particulier, si f n = 1 et si f d´efinit une action libre de Z/nZ, alors les (f i (U )), pour 0 6 i 6 n − 1, forment une partition de X. D´emonstration. — Pour tout x ∈ X on choisit un voisinage clouvert Vx disjoint de S i 16i6n−1 f (Vx ). On extrait du recouvrement (Vx ) un recouvrement fini (Wk )16k6m . On pose, pour 1 6 k 6 m, [ Xk = Wk r f i (Wj ). 0 1/ε. Le lemme 3.1.3 montre qu’il existe un clouvert U ψ-omniscient tel que U ∩ ψ i (U ) = ∅ pour tout 0 6 i 6 n − 1. Donc, comme toute probabilit´e bor´elienne ecrit ψ = ψU τ , o` u ϕ-invariante est aussi ψ-invariante, on a L+ ϕ (U ) 6 1/n < ε. On ´ −1 ψ est p´eriodique par le fait 3.1.2. Alors L+ (Supp(ψ )) < ε, et on peut τ = ψU U ϕ d´ecomposer τ par le cas p´eriodique. Pour ψ quelconque, si N est assez grand, alors ψϕN et ϕ−N n’ont pas d’orbite finie et ψ = (ψϕN )ϕ−N , si bien qu’on peut d´ecomposer chacun des deux par le cas pr´ec´edent. On utilise le lemme suivant, dˆ u `a Glasner et Weiss [GlW95]. Sa preuve se distingue ici par l’invocation d’arguments ` a caract`ere ergodique. Lemme 3.1.5. — Soit ϕ un autohom´eomorphisme minimal d’un compact totalement s´epar´e X. Soient A, B des clouverts tels que µ(B) < µ(A) pour toute probabilit´e bor´elienne ϕ-invariante sur X. Alors il existe α ∈ [[ϕ]]′ tel que α(B) ⊂ A. D´emonstration. — Le cas o` u X est fini ´etant trivial, on suppose X infini, si bien R que l’action de Z est libre. On pose f = 1A − 1B ; on a donc f dµ > 0 pour tout µ ∈ Mϕ (X). On commence par observer qu’il existe c > 0 et N0 > 5 tels que pour tout N > N0 et tout x ∈ X, on a (3.1)

N −1 1 X f (ϕi (x)) > c. N i=0

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

198

Y. de CORNULIER

Sinon, on trouve une suite (Nk ) tendant vers l’infini, une suite (ck ) avec lim ck 6 0 PNk −1 f (ϕi (xk )) 6 ck . Autrement dit, en posant et une suite (xk ) telle que N1k i=0 R P Nk −1 i µk = N1k i=0 ϕ∗ δxk , on a f dµk 6 ck . Par compacit´e, la suite (µk ) admet un R point d’accumulation µ pour la topologie faible-*, et donc f dµ 6 0. Or µ doit ˆetre ϕ-invariante et c’est une contradiction. Consid´erons maintenant un clouvert non vide U inclus dans A, tel que les ϕi (U ) pour 0 6 i < N0 soient deux `a deux disjoints. Comme ϕ est minimal, U est ϕ-omniscient. Soient k = kA,ϕ la fonction temps de retour sur U et κ une borne sup´erieure pour k. On peut trouver une partition en clouverts (Uℓ′ ) de U telle que k soit constante sur chacune des composantes de la partition. Remarquons que les ϕi (Uℓ′ ), pour 0 6 i 6 k(Uℓ′ ) − 1, sont deux `a deux disjoints, et qu’en faisant varier ´egalement i ils forment une partition de U (commun´ement appel´ee partition en « tours de Kakutani-Rokhlin »). On raffine la partition (Uℓ′ ) en une partition de U en clouverts (Uj ) et telle que chaque ϕi (Uj ), pour 0 6 i 6 k(Uj ) − 1, soit inclus dans l’un des ensembles A r B, B r A, A ∩ B, ou bien X r (A ∪ B). Comme pour la partition pr´ec´edente on a une partition G G ϕi (Uj ). X= j 06i6k(Uj )−1

F Pour chaque j, appelons « tour » une r´eunion 06i6k(Uj )−1 ϕi (Uj ). Pour chaque j, soit Aj (resp. Bj , Cj , Dj ) l’ensemble des i ∈ {0, . . . , k(Uj ) − 1} tel que ϕi (Uj ) appartient `a A r B (resp. B r A, A ∩ B, X r (A ∪ B)). Alors pour tout j on a #(Aj ) > #(Bj ). En effet, par (3.1), pour x ∈ Uj , on a 1 #(Aj ) − #(Bj ) = k(Uj ) k(Uj )

k(Uj )−1

X

f (ϕi (x)) > c > 0.

i=0

Pour tout j, on peut trouver une permutation σj de {0, . . . , k(Uj ) − 1} qui envoie Bj dans Aj , et pr´eserve Cj et Dj . Cela d´efinit naturellement un ´el´ement α ∈ [[ϕ]], pr´eservant globalement chaque tour, qui envoie B dans A. Remarquons qu’on peut s’arranger pour que chaque σj soit une permutation paire : en effet comme k(Uj ) > 5 pour tout j, au moins l’un des ensembles Aj , . . . , Dj a deux ´el´ements et on peut donc composer par une transposition si n´ecessaire. Ce choix ´etant fait, l’´el´ement α obtenu est un commutateur. Th´ eor` eme 3.1.6. — Soit ϕ un autohom´eomorphisme minimal d’un compact totalement s´epar´e X ` a au moins 5 points. Alors le groupe d´eriv´e [[ϕ]]′ est simple et est contenu dans tout sous-groupe distingu´e non trivial de [[ϕ]]. D´emonstration. — Si X est fini, ce n’est rien d’autre que la simplicit´e du groupe altern´e, qu’il n’est pas n´ecessaire de red´emontrer ici. On suppose maintenant X infini.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

199

Consid´erons un sous-groupe non trivial N de [[ϕ]] normalis´e par [[ϕ]]′ . Le commutant de [[ϕ]]′ dans Homeo(X) est trivial (corollaire 2.2.5), si bien qu’on peut choisir un ´el´ement non trivial f dans N ∩ [[ϕ]]′ . Pour d´emontrer le r´esultat, il faut montrer que pour tous g, h ∈ [[ϕ]] on a [g, h] ∈ N . Supposons, dans un premier temps (1) , que N est distingu´e dans [[ϕ]].

Soit E un clouvert non vide disjoint de f (E). L’application qui `a µ ∈ Mϕ (X) associe µ(E) est continue ; par compacit´e de Mϕ (X), il en d´ecoule que ε = L− ϕ (E) > 0. Q Q + Par le lemme 3.1.4, on peut ´ecrire g = gi et h = hj avec Lϕ (Supp(gi )) et L+ (Supp(h )) strictement inf´ e rieurs a ` ε/2. L’´ e l´ e ment [g, h] appartient au sous-groupe j ϕ distingu´e engendr´e par les [gi , hj ] (comme on voit en quotientant par ce dernier). Donc il suffit de montrer que les [gi , hj ] sont dans N . − Soit U le clouvert Supp(gi ) ∪ Supp(hj ) ; on a L+ ϕ (U ) < ε = Lϕ (E). Par le lemme 3.1.5, il existe un ´el´ement α ∈ [[ϕ]]′ tel que α(U ) ⊂ E ; soit q = α−1 f α ∈ N . ˆ j = [hj , q] = hj qh−1 q −1 appartient `a N , et donc [gi , h ˆ j ] ∈ N . Puisque L’´el´ement h j −1 −1 q(U ) ∩ U = ∅, les ´el´ements gi et qhj q commutent, donc −1 −1 −1 −1 [gi , ˆ hj ] = gi hj (qh−1 )gi (qhj q −1 )h−1 j q j = gi hj gi hj = [gi , hj ],

si bien que [gi , hj ] ∈ N .

On a donc d´emontr´e que tout sous-groupe distingu´e de [[ϕ]] non r´eduit `a l’identit´e contient [[ϕ]]′ . On peut appliquer ce r´esultat au sous-groupe de [[ϕ]] engendr´e par les ´el´ements d’ordre 5. En effet, ´etant donn´e un tel ´element, l’ensemble de ses points fixes est clouvert, et on peut appliquer le fait 3.1.3 au compl´ementaire de l’ensemble de ses points fixes, ce qui permet de v´erifier que cet ´el´ement est contenu dans un sousgroupe de [[ϕ]] isomorphe au groupe altern´e A5 ; en particulier, tout ´el´ement d’ordre 5 est un commutateur, et d’autre part le fait 2.2.4 montre qu’il existe des ´el´ements d’ordre 5 ; ceci d´emontre que le groupe [[ϕ]]′ est ´egal au sous-groupe de [[ϕ]] engendr´e par les ´elements d’ordre 5 (le lecteur peut v´erifier qu’il en est de mˆeme pour tout ordre entier impair sup´erieur ` a 2). Ceci d´emontre en outre que [[ϕ]]′ est engendr´e par ses sous-groupes isomorphes ` a A5 , et donc co¨ıncide avec son sous-groupe d´eriv´e (ce qu’on voit ´egalement en remarquant que [[ϕ]]′′ est non trivial et distingu´e dans [[ϕ]] et contient donc le groupe d´eriv´e). Pour montrer le th´eor`eme, puisque [[ϕ]]′′ = [[ϕ]]′ , il suffit de montrer que pour tous g, h ∈ [[ϕ]]′ on a [g, h] ∈ N . On peut donc, avec la version « p´eriodique d’ordre 5 » du lemme 3.1.4, faire le raisonnement pr´ec´edent en supposant que gi , hj ∈ [[ϕ]]′ , auquel cas il suffit de supposer N distingu´e dans [[ϕ]]′ pour obtenir que [gi , hj ] appartient `a N . 1. Pierre Py m’a signal´ e une erreur dans la preuve dans une version pr´ ec´ edente de ce texte, reprenant une erreur dans [BeM08]. L’argument donn´ e ne fonctionnait en effet qu’en supposant N distingu´ e dans [[ϕ]], ce qui ne suffisait pas ` a´ etablir la simplicit´ e de [[ϕ]]′ .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

200

L’approche de Matui, tr`es diff´erente, est plus complexe mais apporte d’autres informations. Elle suppose toujours de mani`ere essentielle que Γ = [[ϕ]] et X est compact totalement s´epar´e, minimal. Elle est bas´ee sur une ´etude du sous-groupe [[ϕ]][xi = {f ∈ [[ϕ]] : f (ϕN (x)) = ϕN (x)},

o` u ϕN (x) = {ϕn (x) : n ∈ N};

montrant notamment que si x, y appartiennent `a des orbites distinctes alors [[ϕ]]′ ⊂ [[ϕ]][xi [[ϕ]][yi . On utilisera ce sous-groupe `a plusieurs reprises par la suite (§3.3 et §4.1), mais de mani`ere moins approfondie que dans [Ma06]. 3.2. Type-finitude On commence par l’observation suivante qui justifie que sous des hypoth`eses tr`es g´en´erales, ˆetre un sous-d´ecalage est une condition n´ecessaire pour que le groupe pleintopologique et son d´eriv´e soient de type fini. Proposition 3.2.1. — Soit Γ un groupe agissant par autohom´eomorphismes sur un espace compact totalement s´epar´e X, sans point fixe global. Si Λ = [[Γ]] est de type fini et X n’a qu’un nombre fini de Γ-orbites de cardinal au plus deux, alors (Γ, X) est un sous-d´ecalage. Si de plus aucune Γ-orbite n’est de cardinal deux, il en est de mˆeme si Λ est un sous-groupe de [[Γ]] contenant [[Γ]]′ . D´emonstration. — Pour tout x il existe γx dans Γ et un voisinage clouvert Vx de x disjoint de γx Vx . On peut raffiner et extraire une partition (Uj ) en clouverts telle que chaque Uj ne contient aucune orbite. Supposons que [[Γ]] est de type fini. Consid´erons un nombre fini de clouverts sur qui chaque g´en´erateur est donn´e par action d’un ´el´ement donn´e de Γ. Consid´erons l’alg`ebre bool´eenne Γ-invariante engendr´ee par ces clouverts et par les Uj . Elle d´efinit une partition Γ-invariante de X. Comme les Uj ne contiennent aucune orbite, aucune composante de cette partition ne contient d’orbite. Donc, par le fait 2.2.7, toute Γ-orbite est compos´ee d’atomes de cette partition, donc c’est la partition triviale, ce qui montre, par le fait 2.1.2, que (Γ, X) est un sous-d´ecalage. Pour Λ contenant [[Γ]]′ , grˆ ace au fait 2.2.7, l’hypoth`ese suppl´ementaire permet d’appliquer le mˆeme raisonnement. On va maintenant se restreindre au cas de Γ = Z. Matui prouve le th´eor`eme suivant [Ma06, Theorem 5.4]. Th´ eor` eme 3.2.2. — Soit (X, ϕ) un sous-d´ecalage minimal sur Z. Alors le groupe d´eriv´e [[ϕ]]′ du groupe plein-topologique correspondant est de type fini. On commence par deux lemmes. Rappelons qu’un sous-d´ecalage X ⊂ AZ est dit k-propre si pour tout w ∈ X et tous m, n tels que 0 < |m − n| 6 k on a w(m) 6= w(n). ´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

201

Lemme 3.2.3. — Soit d > 1. Tout sous-d´ecalage (X, ϕ) sur Z sans orbite de cardinal au plus d est isomorphe ` a un sous-d´ecalage d-propre (sur un autre alphabet). D´emonstration. — Par hypoth`ese (cf. le fait 2.1.2), X est compact totalement s´epar´e et il existe une partition de X en clouverts, index´ee par un ensemble fini A, dont les Γ-translat´es s´eparent les points. Notons ϕ l’autohom´eomorphisme de d´ecalage. Par hypoth`ese, pour tout x ∈ X, les ´el´ements x, ϕ(x), . . . , ϕd (x) sont deux `a deux distincts. Donc on peut raffiner la partition en une partition en clouverts (Vb )b∈B , index´ee par un ensemble fini B plus grand, tel que pour tout b, les ϕi (Vb ), pour i = 0, . . . , d, sont deux ` a deux disjoints. La r´ealisation correspondante comme sousd´ecalage sur B Γ est donc, par d´efinition, d-propre. D´ efinition 3.2.4. — Si I est une partie finie de Z, on dit qu’un clouvert U est I-bon si les (ϕi (U ))i∈I sont deux ` a deux disjoints. On abr`ege « {−1, 0, 1}-bon » en « bon ». ´ Etant donn´e un clouvert U ⊂ X bon, on d´efinit σU ∈ [[ϕ]] comme l’´el´ement d’ordre au plus 3 qui vaut l’identit´e hors de ϕ−1 U ∪ U ∪ ϕU et permute cycliquement : ϕ

ϕ−2

ϕ

U −→ ϕ(U ) −→ ϕ−1 (U ) −→ U. Lemme 3.2.5. — Soit (X, ϕ) un sous-d´ecalage minimal infini sur Z. Le groupe [[ϕ]]′ est engendr´e par les σU , o` u U parcourt les clouverts bons. D´emonstration. — Commen¸cons par observer que [[ϕ]]′ est engendr´e par ses ´el´ements d’ordre 3 : en effet il existe dans [[ϕ]]′ des ´el´ements d’ordre 3, et comme [[ϕ]]′ est simple (th´eor`eme 3.1.6), ils forment donc une partie g´en´eratrice. Disons qu’un ´el´ement σ d’ordre 3 est sp´ecial s’il existe une partie `a 3 ´el´ements I = {i, j, k} et un S clouvert U I-bon tel que σ est l’identit´e hors de i∈I ϕi (U ) et ´echange ϕi (U ), ϕj (U ) et ϕk (U ) par action de ϕj−i , ϕj−k , et ϕk−i . Si σ est un ´el´ement d’ordre 3 quelconque et κ est la fonction ´etag´ee associ´ee, alors en regardant les fibres de la fonction x 7→ (κ(x), κ(ϕ(x)), κ(ϕ2 (x))), on voit que σ est un produit d’´el´ements d’ordre 3 sp´eciaux ` a supports disjoints. Soit maintenant σ d’ordre 3 sp´ecial, et U et I les parties correspondantes. Soit J un segment entier contenant I. Alors il existe une partition (Uk ) de U en clouverts J-bons ; on peut ´ecrire σ comme produit de ses restrictions S u σ a la propri´et´e suppl´ementaire que aux i∈I ϕi (Uk ) ; ainsi on est ramen´e au cas o` I est J-bon. On observe alors que pour tout intervalle entier J, le groupe altern´e est engendr´e par les 3-cycles (i − 1; i; i + 1) compris dans J (voir par exemple [Ma06, Lemma 5.1] pour une preuve). Or ce 3-cycle correspond `a l’´el´ement σϕi (U) ; ainsi σ est produit de tels ´el´ements et de leurs inverses, ce qui termine la preuve. Preuve du th´eor`eme 3.2.2. — On suppose X infini, puisque sinon le r´esultat est trivial. Par le lemme 3.2.3, on peut supposer que X ⊂ AZ est un sous-d´ecalage 4-propre.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

202

On commence par l’observation suivante : si U, V ⊂ X sont des clouverts et si les ensembles ϕ−1 U , U , ϕU , ϕ−1 V , V et ϕV sont deux `a deux sauf peut-ˆetre ϕU et ϕ−1 V , alors, en notant [s, t] = sts−1 t−1 , on a l’´egalit´e −1 [σV , σU ] = σϕU∩ϕ−1 V .

(3.2)

Si I est une partie finie non vide de Z et f ∈ AI , on d´efinit le cylindre Cyl(I, f ) = {w ∈ X | w|I = f }. Remarquons que les cylindres sont des clouverts, et sont bons (d´efinition 3.2.4) car X est 1-propre (et I non vide) ; en outre, ils forment, en faisant varier I et f , une base de la topologie de X. On d´efinit Λ comme le sous-groupe de [[Γ]] engendr´e par l’ensemble fini constitu´e des ´el´ements de la forme σCyl({−1,0,1},f ) o` u f ∈ A{−1,0,1} . On va prouver ′ le th´eor`eme en montrant que Λ = [[ϕ]] . Par le lemme 3.2.5, il suffit de v´erifier que les σU , pour U clouvert bon, sont dans Λ. En d´ecomposant U , on voit qu’il suffit de le v´erifier dans le cas o` u U est un cylindre Cyl(In , h), o` u In = {−n, . . . , n}. V´erifions donc par r´ecurrence sur n > 1 que pour tout h ∈ AIn on a σCyl(In ,h) ∈ Λ. C’est vrai par hypoth`ese pour n = 1 et supposons que n > 2 et que c’est d´emontr´e en de¸ca`. On note τ (n) = n + 1 la translation sur Z, si bien que τ agit sur les fonctions partiellement d´efinies sur Z : si on a f ∈ AI , alors τ · f ∈ Aτ I est d´efinie par τ · f (n) = f (n − 1) (on ´ecrit τ I = τ (I) pour all´eger les notations). La fonction τ ±1 · h est d´efinie sur τ ±1 In . Soit h± sa restriction `a In−1 . Notons Y± = Cyl(In−1 , h± ). Alors on a τ Y− ∪ τ −1 Y+ ⊂ Cyl({0}, h(0)). Donc, par 4-propret´e, on a Y+ ∩ τ i Y+ = Y− ∩ τ i Y− = ∅ et τ j+1 Y− ∩ τ k−1 Y+ = ∅ pour tous i, j, k ∈ Z tels que 1 6 |i| 6 4 et 1 6 |j − k| 6 4. Les hypoth`eses de (3.2) sont donc remplies, et on d´eduit que i h −1 σCyl(In ,h) = σCyl(In−1 ,h− ) , σCyl(I n−1 ,h+ ) et par cons´equent σCyl(In ,h) ∈ Λ. Remarque 3.1. — Dans le meilleur des cas, A a 6 ´el´ements (` a cause de la 4-propret´e), cela fait une partie g´en´eratrice ` a 120 = 6 × 5 × 4 ´el´ements (ou 241 = 2 × 120 + 1 si on veut une partie sym´etrique avec 1), soit autant que d’injections de {−1, 0, 1} dans A ; c’est loin d’ˆetre optimal ; dans un cas particulier Matui [Ma06, §6] donne une partie g´en´eratrice ` a 4 ´el´ements (voir aussi [Ma13, §3.1]). ´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

203

3.3. Structure de l’ab´ elianis´ e Les r´esultats de cette sous-partie sont principalement dus `a Giordano-Putnam-Skau et Matui [GiPS99, Ma06]. Soient X un compact totalement s´epar´e non vide et ϕ un autohom´eomorphisme. Soit x un point dont la ϕ-orbite est infinie. On note N = {0, 1, 2 . . .} et Nc son compl´ementaire dans Z. On d´efinit modx : [[ϕ]] ψ

→ Z

 c    c 7→ # ϕN (x) ∩ ψ −1 (ϕN (x)) − # ϕN (x) ∩ ψ −1 (ϕN (x)) .

Intuitivement, c’est le « transfert global » d’´el´ements de gauche `a droite dans l’orbite de x. Proposition 3.3.1. — L’application modx est un morphisme de groupes et ne d´epend pas du choix de x dans son orbite ; on a modx (ϕ) = 1 (si bien que modx est surjectif ). De plus, si Hom([[ϕ]], Z) est muni de la topologie de la convergence ponctuelle, l’application x 7→ modx , d´efinie sur la r´eunion des orbites infinies, est continue. D´emonstration. — Que modx est un morphisme est un fait g´en´eral sur le groupe des permutations ` a d´eplacement born´e de Z et est laiss´e en exercice au lecteur. Le fait que modx = modϕ(x) en d´ecoule, car modϕ(x) (ψ) = modx (ϕ−1 ◦ ψ ◦ ϕ) pour tout ψ ∈ [[ϕ]]. V´erifions la deuxi`eme assertion. Il faut montrer que si (xn ) converge vers x et ψ est fix´e alors modxn (ψ) est ´egal, pour n assez grand, `a modx (ψ). Soit m une borne sup´erieure sur la fonction ´etag´ee associ´ee `a ψ. Soit (Ui ) une partition en clouverts trivialisant ψ. Il existe n0 tel que pour tout |i| 6 m, l’´el´ement ϕi (xn ) est dans la mˆeme composante de la partition (Ui ) que x. On en d´eduit facilement que modxn (ψ) = modx (ψ) pour tout n > n0 . En particulier, s’il existe une ϕ-orbite dense (par exemple, X est minimal), alors modx ne d´epend pas de x, on le note alors mod. Th´ eor` eme 3.3.2. — Si X est un compact totalement s´epar´e et ϕ agit minimalement, alors le noyau [[ϕ]]0 = Ker(mod) est engendr´e par ses ´el´ements d’ordre fini. Cela implique en particulier que mod est l’unique morphisme de [[ϕ]] vers Z envoyant ϕ sur 1. Or, il existe d’autres mani`eres de construire ce morphisme. Par exemple, si µ est une probabilit´e bor´elienne invariante, on v´erifie directement que R l’application ιµ : ψ 7→ kψ dµ, o` u kψ est la fonction ´etag´ee associ´ee `a ψ, est un morphisme vers R envoyant ϕ sur 1, et il en d´ecoule facilement que ιµ = mod (et en particulier que ιµ prend des valeurs enti`eres et ne d´epend pas de µ). Pour prouver le th´eor`eme 3.3.2, on a besoin du lemme classique suivant, qui servira aussi dans la preuve de la moyennabilit´e ; il semble remonter `a Putnam [Pu89, Sec. 5] ; mˆeme si tous les ingr´edients de la preuve y sont contenus, le r´esultat n’y est pas

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

204

explicit´e ; cependant les papiers ult´erieurs s’y r´ef`erent. Une preuve directe est donn´ee par Juschenko et Monod dans [JM13] (voir aussi Matui [Ma06, Proposition 3.2], dans un langage un peu diff´erent mais `a port´ee plus g´en´erale). Lemme 3.3.3 (Putnam). — Si X est compact totalement s´epar´e et ϕ est un autohom´eomorphisme minimal, alors pour tout x ∈ X le stabilisateur [[ϕ]][xi de l’orbite positive ϕN (x) est localement fini. D´emonstration. — Soit ix la fonction orbitale n 7→ ϕn (x) ; soit jx l’action de [[ϕ]] sur Z obtenue ` a partir de celle sur l’orbite de x via la bijection ix : Z → ϕZ (x) ; autrement dit, pour ψ ∈ [[ϕ]], on d´efinit jx (ψ) comme la permutation i−1 x ◦ ψ ◦ ix de Z. L’assertion du lemme revient ` a affirmer que toute partie finie F (qu’on peut supposer sym´etrique) de [[ϕ]][xi engendre un groupe agissant sur Z (via jx ) avec orbites finies. Posons τx (ψ)(n) = jx (ψ)(n) − n, si bien que τx (ψ) : Z → Z est une fonction born´ee. Fixons F . Soient m=

sup θ∈F, n∈Z

|τx (θ)(n)|,

A = {−m, . . . , m}F .

On a une application anti-´equivariante naturelle α continue de X dans le d´ecalage (AZ , T ) (avec T (w)(n) = w(n − 1)), qui envoie y ∈ X sur la suite n 7→ (θ 7→ τy (θ)(n)). Son image est un sous-d´ecalage minimal. Ceci implique facilement (voir par exemple [MH38, Theorem 7.2]) que si on d´efinit I comme l’ensemble des n ∈ Z tels que T −n α(x) et α(x) co¨ıncident sur {0, . . . , m − 1}, alors I est coborn´e, au sens o` u la fonction d(·, I) est born´ee sur Z. On peut indexer I de fa¸con strictement croissante : I = {pn , n ∈ Z}, si bien que la suite (pn+1 − pn )n∈Z est born´ee. On d´efinit l’intervalle entier Pn = {pn , pn + 1, . . . , pn+1 − 1}, de telle mani`ere que Z est la r´eunion disjointe des Pn . Si 0 6 k 6 m − 1 et θ ∈ F , alors jx (θ)(pn + k) − pn = τx (θ)(pn + k) + k

= T −pn τx (θ)(k) + k = T −pn α(x)(k)(θ) + k

= α(x)(k)(θ) + k = τx (θ)(k) + k = jx (θ)(k) > 0 car θ ∈ [[ϕ]][xi . Comme les ´el´ements de F translatent les points d’au plus m, cela S d´emontre que jx (θ)(Pn ) ⊂ n′ >n Pn′ pour tout θ ∈ F , et comme F est suppos´e S sym´etrique, le mˆeme argument montre que jx (θ)(Pn ) ⊂ n′ 6n Pn′ , et par cons´equent chaque Pn est stable par jx (F ). Comme ils sont de cardinal born´e, la preuve est termin´ee. Preuve du th´eor`eme 3.3.2. — Soit ψ ∈ [[ϕ]]0 . Soit m une borne sup´erieure sur la foncc c tion ´etag´ee associ´ee. Soient I = ϕN (x) ∩ ψ −1 (ϕN (x)) et J = ϕN (x) ∩ ψ −1 (ϕN (x)). Par hypoth`ese, I et J ont mˆeme cardinal et sont inclus dans ϕ{−m,...,m} (x). Le fait 2.2.4 montre qu’il existe une involution s ∈ [[ϕ]] qui ´echange les ´el´ements de I et les ´el´ements de J, et dont la fonction ´etag´ee associ´ee est born´ee par 2m. Dans la preuve du fait, en choisissant leurs supports assez petits, on peut supposer qu’ils

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

205

´evitent l’ensemble fini ϕ{−2m,...,2m} (x). Par cons´equent, l’´el´ement sψ stabilise ϕN (x). Par le lemme 3.3.3, sψ est d’ordre fini. On va maintenant donner une version plus pr´ecise du th´eor`eme 3.3.2, due `a Matui. Proposition 3.3.4. — Le groupe [[ϕ]]0 est engendr´e par ses ´el´ements d’ordre 2. D´emonstration. — Dans la preuve du th´eor`eme 3.3.2, on a montr´e, apr`es avoir fix´e x ∈ X que tout ´el´ement de [[ϕ]]0 est produit d’une involution et d’un ´el´ement de [[ϕ]][xi , qui est localement fini par le lemme 3.3.3. Il suffit donc de montrer que tout ´el´ement d’ordre fini est produit d’´el´ements d’ordre 2. L’argument du lemme 3.1.4 montre que tout ´el´ement d’ordre fini est produit (` a supports disjoints) d’´el´ements ψi d’ordre fini ni d´efinissant une action libre d’un groupe cyclique Z/ni Z sur le support de ψi . Par le lemme 3.1.3, il existe un clouvert U tel que le support de ψi est union disjointe des (ϕ(U ))06i6ni −1 . L’argument du fait 2.2.4 montre qu’on peut plonger le groupe sym´etrique sur {0, . . . , ni −1} dans [[ϕ]], de fa¸con `a envoyer le ni -cycle (012 . . . ) sur ψi . Donc ψi est produit d’´el´ements d’ordre 2. Corolaire 3.3.5. — Le quotient [[ϕ]]0 /[[ϕ]]′ est un 2-groupe ab´elien ´el´ementaire et l’ab´elianis´e [[ϕ]]/[[ϕ]]′ est isomorphe au produit direct de Z et de [[ϕ]]0 /[[ϕ]]′ . La classe d’isomorphie du groupe [[ϕ]]0 /[[ϕ]]′ est donc d´etermin´ee par sa dimension comme espace vectoriel sur Z/2Z. Celle-ci d´epend, en g´en´eral, de ϕ. Matui [Ma06] prouve que ce groupe est isomorphe au groupe des co-invariants sous ϕ du groupe des fonctions continues de X dans Z/2Z. 3.4. Approximation et pr´ esentation infinie D´ efinition 3.4.1. — Un (semi-)groupe G est finiment approximable (ou LEF « locally embeddable into finite groups ») s’il v´erifie l’une des conditions ´equivalentes suivantes – tout syst`eme fini d’´egalit´es et in´egalit´es sans param`etre ayant une solution dans G a une solution dans un (semi-)groupe fini ; – G est isomorphe ` a un sous-groupe d’un ultraproduit de (semi-)groupes finis ; – (pour G groupe d´enombrable) G est isomorphe au quotient d’un groupe r´esiduellement fini par un sous-groupe distingu´e N qui est r´eunion d’une suite croissante de sous-groupes distingu´es finis de G. Un groupe est finiment approximable comme groupe si et seulement s’il l’est comme (semi-)groupe. Un (semi-)groupe est finiment approximable si et seulement si tout ses sous-(semi-)groupes de type fini le sont. Un (semi-)groupe r´esiduellement fini est finiment approximable ; la r´eciproque est vraie pour les (semi-)groupes de pr´esentation finie mais pas pour les groupes de type fini (ces observations sont dues `a St¨epin [St84]). Il d´ecoule de la d´efinition qu’ils forment une classe stable par passage aux sous-(semi-) groupes et limites inductives filtrantes. On va montrer le r´esultat suivant.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

206

Y. de CORNULIER

Th´ eor` eme 3.4.2 (Grigorchuk-Medynets [GrMe12]). — Pour tout X compact totalement s´epar´e muni d’une action minimale de Z, le semi-groupe (et donc le groupe) plein-topologique est finiment approximable. Notons que ce r´esultat est faux pour un autohom´eomorphisme arbitraire, voir l’exemple de la proposition 3.7.4. Corolaire 3.4.3 (Matui [Ma06]). — Pour Γ = Z, consid´erons un sous-d´ecalage (Γ, X) minimal infini. Soit Λ un sous-groupe de [[Γ]] (ou sous-semi-groupe de [[Γ]]s ) contenant [[Γ]]′ . Alors il n’est pas de pr´esentation finie. D´emonstration. — Par le th´eor`eme 3.4.2, Λ est finiment approximable ; si par l’absurde il est de pr´esentation finie, il en d´ecoule qu’il est aussi r´esiduellement fini, et donc que [[Γ]]′ est aussi r´esiduellement fini. Or c’est un groupe simple par le th´eor`eme 3.1.6, et il est infini par le fait 2.2.4, ce qui est contradictoire. (Cet argument, bas´e sur la r´esiduelle finitude, combine l’id´ee de Grigorchuk-Medynets [GrMe12] d’utiliser la r´esiduelle finitude avec, en amont, l’approche de Matui qui a permis de montrer le th´eor`eme 3.4.2.) Remarque 3.2. — Il est fructueux et naturel de penser `a un r´esultat de pr´esentation infinie G = G∞ comme un r´esultat d’approximation : un groupe (de type fini) de pr´esentation infinie peut ˆetre approch´e par des groupes Gn obtenus en tronquant une pr´esentation sur un nombre fini de g´en´erateurs, ou parfois en prenant des quotients Gn /Hn de ces derniers (par exemple finis) qui ne sont pas quotients de G∞ . Le th´eor`eme 3.4.2 se prouve par sp´ecification au cas des sous-d´ecalages, auquel cas il est valable sous des conditions moins restrictives que la minimalit´e. On a besoin d’introduire quelques notions classiques. D´ efinition 3.4.4. — Dans un d´ecalage AZ , un motif est une fonction partiellement d´efinie, ` a domaine de d´efinition un intervalle entier fini, de Z vers A, ` a translation pr`es. Un motif d’un sous-d´ecalage X ⊂ AZ est autoris´e ou interdit selon qu’il est ou non la restriction d’un ´el´ement de X ` a un intervalle entier fini. On dit qu’un sous-d´ecalage X ⊂ AZ est de type fini s’il est d´efini par un nombre fini de motifs interdits, autrement dit s’il existe un clouvert U ⊂ AZ tel que X = T n u T est la fonction de d´ecalage sur AZ . n∈Z T U , o` On dit qu’un sous-d´ecalage X ⊂ AZ est irr´eductible si pour tout couple (w1 , w2 ) de motifs autoris´es dans X, il existe un motif autoris´e de X admettant w1 comme segment initial et w2 comme segment terminal. Notons qu’un sous-d´ecalage X ⊂ AZ est caract´eris´e par l’ensemble de ses motifs autoris´es. On v´erifie ais´ement qu’un sous-d´ecalage de type fini irr´eductible sur Z a un ensemble dense de points p´eriodiques, et qu’un sous-d´ecalage minimal sur Z est ´egalement irr´eductible (voir [MH38]).

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

207

Proposition 3.4.5. — Pour tout sous-d´ecalage irr´eductible sur Z, le semi-groupe (et donc le groupe) plein-topologique est finiment approximable. Lemme 3.4.6. — Soit X ⊂ AZ un sous-d´ecalage de type fini irr´eductible sur Z et non vide. Alors X est l’intersection d´ecroissante d’une suite de sous-d´ecalages de type fini irr´eductibles. D´emonstration. — Pour tout ensemble de mots Z, on note XZ le sous-d´ecalage d´efini par l’ensemble de mots interdits Z. Pour n > 1, soit Pn l’ensemble des motifs interdits T de taille n. Clairement X = n>1 XPn et chaque XPn est un sous-d´ecalage de type fini ; il reste ` a v´erifier que XPn est irr´eductible. Consid´erons des motifs w1 et w2 de XPn , qu’on peut supposer de taille au moins n. Soient u1 le segment terminal de taille n de w1 et u2 le segment initial de taille n de w2 . Comme u1 et u2 sont des motifs de X, il existe, par irr´eductibilit´e, un motif v de X ayant u1 pour segment initial et u2 pour segment terminal. En ´ecrivant v = u1 uu2 , on en d´eduit que w1 uw2 est autoris´e dans XPn , ce qui d´emontre que XPn est irr´eductible. Preuve de la proposition 3.4.5. — Si X est fini, il n’y a rien `a d´emontrer. On suppose donc X infini. Il d´ecoule alors de l’irr´eductibilit´e que X est sans point isol´e. T Grˆace au lemme 3.4.6, on ´ecrit X = Xn (intersection d´ecroissante) o` u Xn ⊂ AZ est un sous-d´ecalage ayant un ensemble dense de points p´eriodiques. On affirme que le morphisme naturel lim −→[[Xn ]]s → [[X]]s est un isomorphisme. La surjectivit´e d´ecoule de celle de [[Xn ]]s → [[X]]s pour tout n ; montrons l’injectivit´e. Par la surjectivit´e de [[AZ ]]s → [[X]]s , cela revient ` a v´erifier que si ψ, ψ ′ ∈ [[AZ ]]s et ψ et ψ ′ co¨ıncident sur X, alors ils co¨ıncident sur Xn pour n assez grand. Il suffit, par compacit´e, de le montrer localement sur x. En supposant le contraire, il existe donc x ∈ X tel que pour tout voisinage clouvert V de x et tout n, les fonctions ψ et ψ ′ ne co¨ıncident pas sur V ∩Xn . On choisit V sur qui ψ et ψ ′ sont des translations par des entiers distincts k 6= k ′ . Soit ℓ = |k − k ′ |. Ainsi, tout ´el´ement de U ∩ X est ℓ-p´eriodique, si bien que U ∩ X est fini, et donc x est isol´e dans X, ce qui est contradictoire. Or [[Xn ]]s agit sur Xn avec un ensemble dense d’orbites finies, donc est r´esiduellement fini. Comme ˆetre finiment approximable est stable par limites inductives filtrantes, on en d´eduit que lim −→[[Xn ]]s l’est aussi, et donc [[X]]s est finiment approximable. Remarque 3.3. — Une preuve de la proposition 3.4.5 dans le cadre restreint aux groupes pleins-topologiques (au lieu des semi-groupes) aurait ´et´e compliqu´ee par le fait que les applications de restriction ne sont pas forc´ement continues. D´emonstration du th´eor`eme 3.4.2. — Montrons que le semi-groupe [[X]]s est finiment approximable. Il suffit de montrer que quelle que soit la partie finie F , il existe un morphisme u du sous-semi-groupe engendr´e par F vers un groupe qu’on sait d´ej` a finiment approximable, et qui est injectif en restriction `a F . On indexe injectivement F = {fi } ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

208

Y. de CORNULIER

et on choisit pour i 6= j un ´el´ement xij ∈ X tel que fi (xij ) 6= fj (xij ). On consid`ere une partition finie de X en clouverts, sur lesquels les fi se trivialisent, et s´eparant fi (xij ) et fj (xij ) pour tous i 6= j. On consid`ere l’alg`ebre bool´eenne Z-invariante engendr´ee par cette partition, Y le quotient correspondant. On voit que Y est minimal et, par le fait 2.1.2, est un sous-d´ecalage. On note [[X ⋌Y ]]s l’ensemble des ´el´ements de [[X]]s dont la fonction ´etag´ee associ´ee est constante sur les fibres de X → Y (ceci est d´efini en toute g´en´eralit´e (Γ quelconque) par W. Krieger [Kri80]). Ainsi on a un morphisme u de semi-groupes canonique [[X ⋌ Y ]]s → [[Y ]]s ; on remarque que F ⊂ [[X ⋌ Y ]]s et que par construction fi et fj ont des images distinctes par cette projection, pour tous i 6= j. Comme [[Y ]]s est finiment approximable par la proposition 3.4.5, on en d´eduit que [[X]]s l’est aussi. 3.5. Sous-groupes ab´ eliens libres et sous-semi-groupes libres Dans tout groupe, il est naturel de s’int´eresser `a la question d’existence de sousgroupes et sous-semi-groupes libres. On commence par la proposition suivante. Proposition 3.5.1. — Soient X un compact totalement s´epar´e infini et ϕ un autohom´eomorphisme minimal. Alors [[ϕ]]′ n’est pas de torsion ; il contient en fait un groupe ab´elien libre de rang infini. D´emonstration. — On choisit un clouvert non vide U ⊂ X disjoint de V = ϕ(U ). Soit σ l’´el´ement d’ordre deux qui ´echange U et V par action de ϕ±1 et agit par l’identit´e ailleurs. Alors ϕV = σϕU σ −1 , et on voit donc que σ et ϕU engendrent un groupe isomorphe au groupe Z2 ⋊ hσi (qui est un produit en couronne Z ≀ (Z/2Z)). Ce groupe contient bien la diagonale de Z2 dans son sous-groupe d´eriv´e. Si W est un clouvert de X, notons [[ϕ]][W ] l’ensemble des ´el´ements de [[ϕ]] qui sont l’identit´e hors de W . Soit W un clouvert non vide et montrons que [[ϕ]][W ] n’a pas un d´eriv´e de torsion. Comme l’action est minimale, la fonction de retour ϕW est bien d´efinie, et on a [[ϕW ]] = [[ϕ]][W ] . Le cas pr´ec´edent s’applique donc. Consid´erant une famille infinie (Wn ) de clouverts non vides deux `a deux disjoints, les sous-groupes [[ϕ]]′[Wn ] ⊂ [[ϕ]]′ ont des supports deux `a deux disjoints, si bien que [[ϕ]]′ L ′ ′ contient une copie du produit direct restreint n [[ϕ]][Wn ] . Comme [[ϕ]][Wn ] contient ′ un sous-groupe cyclique infini, on en d´eduit que [[ϕ]] contient un groupe ab´elien libre de rang infini d´enombrable. Notons que le groupe de l’allumeur de r´everb`eres (Z/2Z) ≀ Z contient un semigroupe libre ` a deux g´en´erateurs (cela se voit directement, et a ´et´e largement g´en´eralis´e, par exemple par Rosenblatt [Ros74] au cas des groupes de type fini r´esolubles non virtuellement nilpotents). Le th´eor`eme suivant, dˆ u `a Matui [Ma13], g´en´eralise une construction de Dahmani, Fujiwara et Guirardel [DFG13] dans le cas des ´echanges d’intervalles.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

209

Rappelons qu’un groupe est ` a croissance exponentielle s’il poss`ede une partie finie S telle qu’en notant S n l’ensemble des produits de n ´el´ements de S, on ait lim#(S n )1/n > 1. Th´ eor` eme 3.5.2 (Matui). — Soient X un compact totalement s´epar´e et ϕ un autohom´eomorphisme minimal. On suppose en outre que (X, ϕ) n’est pas un odom`etre (cf. d´efinition 2.1.3). Alors tout sous-groupe du groupe plein-topologique [[ϕ]] contenant [[ϕ]]′ contient un sous-groupe isomorphe au groupe de l’allumeur de r´everb`eres. En particulier, il contient un semi-groupe libre ` a deux g´en´erateurs et a une croissance exponentielle. D´emonstration. — Comme X n’est pas un odom`etre, commen¸cons par observer que, par compacit´e, il existe x ∈ X poss´edant des voisinages clouverts arbitrairement petits `a orbite infinie dans Clo(X). Il suffit bien entendu de d´emontrer le th´eor`eme dans le cas de [[ϕ]]′ , mais commen¸cons par [[ϕ]] pour ´eviter, dans un premier temps, des complications techniques non essentielles. Comme x n’est pas fixe, on peut se donner un voisinage clouvert U de x disjoint de ϕ(U ), et dont l’orbite dans Clo(X) par ϕ est infini. Soit ψ = ϕU la fonction de premier retour. On remarque que ϕU n’est pas un odom`etre : sinon, il existerait un entier m > 1, une partition (Ui )i∈Z/mZ de U en clouverts et des ni ∈ Z tels que P ψ(Ui ) = Ui+1 pour tout i et ψ = ϕni sur Ui . Si n = ni , on en d´eduit que ψ m = ϕn sur U , donc ϕn (U ) = U contredisant le choix de U . Il existe donc un clouvert V inclus dans U , dont la ψ-orbite est infinie. V´erifions que dans le Z/2Z-espace vectoriel (Z/2Z)U , la famille des 1ψn V est libre : Pb sinon on a une relation du type k=a εi 1ψn V = 0 avec a 6 b, εi ∈ {0, 1} et εa = εb = 1. Elle montre, en translatant, que pour tout k > b, l’´el´ement 1ψk V est dans le sous-groupe additif engendr´e par les 1ψℓ V pour ℓ ∈ {a, . . . k − 1} ; par r´ecurrence il en d´ecoule qu’il appartient en fait au sous-groupe additif engendr´e par les 1ψℓ V pour ℓ ∈ {a, . . . b − 1}, qui est un sous-groupe fini ind´ependant de k. Ceci contredit que les (1ψk V )k>b sont deux ` a deux distincts ; la famille (1ψn V )n∈Z est donc libre. P Si F ∈ (Z/2Z)(Z) est une partie finie de Z, on d´efinit AF = n∈F 1ψn U ∈ (Z/2Z)U , et σF ∈ [[ϕ]] comme l’involution qui ´echange AF et ϕ(AF ) par action de ϕ±1 , et agit par l’identit´e ailleurs. On a σF ∈ [[ϕ]] et l’application F 7→ σF est un morphisme injectif, par ce qui pr´ec`ede. Si on d´efinit Ψ comme le produit (commutatif) de ψ et ϕ ◦ ψ ◦ ϕ−1 , alors on v´erifie que Ψ ◦ σF ◦ Ψ−1 = σT (F ) , o` u T : n 7→ n + 1 est la translation de Z. Ainsi Ψ et σ{0} engendrent un groupe H isomorphe au groupe de l’allumeur de r´everb`eres. Pour obtenir un allumeur ` a l’int´erieur de [[ϕ]]′ , on suppose en outre que les ϕi U sont disjoints pour 0 6 i 6 3 (on peut le supposer car l’orbite de x a au moins 4 ´el´ements). Consid´erons le groupe H pr´ec´edemment construit, et l’´el´ement d’ordre deux s ´echangeant U ∪ ϕ(U ) et ϕ2 (U ) ∪ ϕ3 (U ) par action de ϕ±2 et agissant par l’identit´e ailleurs ; on voit que le groupe engendr´e par s et H est isomorphe au produit

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

210

Y. de CORNULIER

semidirect (H ×H)⋊hsi, o` u s agit par permutation des facteurs. Il est facile de voir que ce groupe contient, dans son d´eriv´e, un groupe isomorphe `a l’allumeur, par exemple le sous-groupe de H × H engendr´e par (Ψ, Ψ−1 ) et (σ{0} , σ{0} ). Remarque 3.4. — R´eciproquement, dans le cas d’un odom`etre X (pour une action d’un groupe ab´elien Γ quelconque), on v´erifie sans peine que tout sous-groupe de type fini de [[Γ, X]] est virtuellement ab´elien, donc `a croissance polynomiale ; en particulier, [[Γ, X]] ne contient pas de sous-semi-groupe libre `a deux g´en´erateurs. 3.6. Autres r´ esultats Mentionnons quelques autres r´esultats sur la structure de [[ϕ]], quand ϕ est un autohom´eomorphisme minimal d’un espace compact totalement s´epar´e. 3.6.1. Isomorphismes et automorphismes. — Un r´esultat de Giordano, Putnam et Skau [GiPS99], sous une version l´eg`erement am´elior´ee par Bezuglyi et Medynets [BeM08] (mais avec une approche diff´erente) montre que si ϕ1 , ϕ2 sont des autohom´eomorphismes minimaux d’espaces de Cantor Xi et, si pour i = 1, 2 on se donne un sous-groupe Λi de [[ϕi ]] contenant [[ϕi ]]′ , alors tout isomorphisme Λ1 → Λ2 est induit par un hom´eomorphisme h : X1 → X2 , au sens o` u Λ2 = hΛ1 h−1 . En particulier, le groupe des automorphismes de Λ1 s’identifie au normalisateur de Λ1 dans Homeo(X1 ). D’autre part, un th´eor`eme de la th`ese de Boyle [Bo83] (disponible dans [GiPS95] ou, g´en´eralis´e, dans [BoTo98]) montre que pour un autohom´eomorphisme minimal ϕ de l’espace de Cantor X, si ψ ∈ [[ϕ]] a les mˆemes orbites que ϕ alors le groupe cyclique hψi est conjugu´e ` a hϕi dans [[ϕ]]. Giordano, Putnam et Skau combinent ces r´esultats pour montrer que, sous les hypoth`eses pr´ec´edentes, hϕ1 i et hϕ2 i sont conjugu´es dans Homeo(X), et d´eduisent ´egalement que le groupe des automorphismes de tout sousgroupe Λ de [[ϕ]] contenant [[ϕ]]′ est engendr´e par [[ϕ]] et par le commutant de ϕ dans Homeo(X). En particulier, le groupe des automorphismes ext´erieurs de [[ϕ]]0 (voir §3.3) s’identifie au commutant Cϕ de ϕ dans Homeo(X), et celui de [[ϕ]], au quotient de Cϕ par son sous-groupe cyclique central hϕi. 3.6.2. Distorsion. — Dans [[ϕ]], pour ϕ autohom´eomorphisme minimal d’un espace compact totalement s´epar´e infini X, les sous-groupes cycliques sont non distordus ; autrement dit pour toute partie finie S et tout sous-groupe cyclique infini hzi inclus dans le sous-groupe engendr´e par S, la longueur de z par rapport `a S croˆıt lin´eairement. En effet, en fixant x ∈ X et en consid´erant l’action jx de [[ϕ]] sur Z par permutations ` a d´eplacement born´e obtenue en identifiant l’orbite de x `a Z (voir la preuve du lemme 3.3.3), on voit que si la longueur de (z n ) croˆıt sous-lin´eairement, alors ses orbites dans Z sont finies ; en particulier, en prenant la r´eunion des orbites contenues dans N, on obtient une partie finie A telle que A △ N est invariant par z. Or le lemme de Putnam (lemme 3.3.3) implique que le stabilisateur de N + k est

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

211

localement fini pour tout k ∈ Z, et l’argument du d´ebut de la preuve du crit`ere 4.1.1 implique alors que le stabilisateur de A △ N est localement fini, si bien que z est de torsion. Ce r´esultat de non-distorsion des groupes cycliques est ´egalement vrai dans le cas du groupe des ´echanges d’intervalles (C. Novak [Nov09]). 3.7. Quelques exemples non minimaux On va indiquer quelques exemples de sous-d´ecalages non minimaux sur Z, pour qui la structure du groupe plein-topologique est tr`es diff´erente du cas d’un sous-d´ecalage minimal. On commence par une construction due `a van Douwen [Do90]. Consid´erons un alphabet A = {a1 , a2 , . . . , aq } ` a q lettres. Consid´erons le d´ecalage propre ϕ associ´e `a l’ensemble des mots bi-infinis propres Z AZ pro = {w ∈ A | ∀n ∈ Z, w(n) 6= w(n + 1)}.

Proposition 3.7.1. — Si q > 3, alors le groupe plein-topologique [[AZ pro ]] contient un sous-groupe libre non ab´elien (agissant fid`element sur au moins une orbite). D´emonstration. — La preuve consiste `a plonger dans [[AZ pro ]] le produit libre de q groupes cycliques d’ordre 2, sachant que le produit libre de 3 groupes cycliques d’ordre 2 contient un sous-groupe d’indice 2 libre `a 2 g´en´erateurs. Pour toute lettre Z ai , on d´efinit une involution σi ∈ [[AZ pro ]] comme ceci : si w ∈ Apro , on pose   1 si w(0) = ai ; κi (w) σi (w) = ϕ w, o` u κi (w) = −1 si w(1) = ai ;  0 dans les autres cas,

en remarquant que les conditions w(0) = ai et w(1) = ai sont exclusives. On v´erifie bien que σi est une involution ´echangeant les clouverts disjoints {κi = 1} et {κi = −1} et appartient ` a [[AZ erifions que les σi engendrent un produit libre de groupes pro ]]. V´ Q cycliques d’ordre 2. Il faut montrer que pour tout mot non trivial m = nj=1 σkj sans deux lettres cons´ecutives ´egales (n > 1 et kj 6= kj+1 pour tout 1 6 j < n), on a m 6= 1. En effet, on choisit w tel que w(j) = kj pour tout j = 1, . . . , n, tel que w(0) ∈ / {k1 , kn } et w(n + 1) 6= kn . Alors on v´erifie que m−1 · w = ϕ−n w 6= w. Remarquons qu’il existe dans AZ pro une orbite dense (choisir un mot bi-infini propre contenant tout mot fini propre comme sous-mot) et [[AZ element sur pro ]] agit donc fid` cette orbite. Cette construction est apparent´ee `a la premi`ere preuve connue, due `a Schreier [Sch27, p. 170], de la r´esiduelle finitude des groupes libres. Corolaire 3.7.2 (Schreier). — Tout groupe libre est r´esiduellement fini.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

212

Y. de CORNULIER

D´emonstration. — Clairement on peut se ramener au cas d’un groupe libre de type fini ; un tel groupe peut se plonger dans [[AZ pro ]] par la proposition. Il suffit alors de remarquer que comme la r´eunion des orbites finies, c’est-`a-dire l’ensemble des suites Z p´eriodiques, est dense dans AZ esiduellement pro , le groupe plein-topologique [[Apro ]] est r´ fini. La construction de la proposition a ´et´e adapt´ee par Elek et Monod [EM13] pour exhiber un sous-d´ecalage minimal sur Z2 dont le groupe plein-topologique contient un sous-groupe libre. Passons ` a des exemples plus ´el´ementaires, toujours avec Γ = Z. On consid`ere l’alphabet {a, b} et Y ⊂ AZ l’ensemble des suites ne contenant pas le motif ba. Ainsi Y est constitu´e des deux suites constantes et des suites commen¸cant par une infinit´e de a et terminant par une infinit´e de b. (C’est un sous-d´ecalage de type fini mais pas irr´eductible.) On peut identifier Y `a la compactification Z ∪ {±∞} o` u n ∈ Z correspond ` a l’´el´ement pour lequel la transition de a `a b est en position (n, n + 1), et +∞ et −∞ correspondent ` a la suite constante a et b respectivement. Proposition 3.7.3. — Sous cette identification, [[Y ]] est le groupe des permutations de Z qui co¨ıncident avec une translation hors d’un ensemble fini. Ce groupe est bien connu. Il a un morphisme vers Z, donn´e par la longueur de translation ` a l’infini, dont le noyau est constitu´e des permutations `a support fini de Z. Il est finiment approximable (voir la d´efinition 3.4.1) [Neu37, p. 127], mais pas r´esiduellement fini puisqu’il contient un groupe simple infini. Il peut s’interpr´eter comme le groupe des permutations du graphe de Cayley standard de Z qui pr´eserve presque toute arˆete et fixe les bouts. Preuve de la proposition 3.7.3. — Soit H2 le groupe d´efini dans la proposition. V´erifions d’abord que H2 ⊂ [[Y ]]. Comme H2 est engendr´e par la translation τ (n) = n+1 et par la transposition (0, 1), il suffit de v´erifier que cette derni`ere est dans [[Y ]] : c’est bien le cas car elle est d´efinie par la fonction κ d´efinie par κ(w) = 1 si (w(0), w(1), w(2)) = (a, b, b), par κ(w) = −1 si (w(0), w(1), w(2)) = (a, a, b) et κ(w) = 0 sinon. Montrons maintenant que tout σ ∈ [[Y ]] appartient `a H2 . Par d´efinition de [[Y ]], il existe k tel que la fonction ´etag´ee κ d´efinissant σ est de la forme κ(w) = κ′ (w|{−k,...,k} ). Soient fa , fb les fonctions constantes ´egales `a a et b sur {−k, . . . , k}. Soient N− = κ′ (fb ) et N+ = κ′ (fa ). Alors on voit que σ(n) = n + N+ pour tout n > k et σ(n) = n + N− pour tout n 6 −k − 1. Cet argument montre en fait que tout σ ∈ [[Y ]]s est une translation de chaque cˆ ot´e `a partir d’un certain rang. Le fait que σ est une permutation implique de plus que N+ = N− , donc [[Y ]] ⊂ H2 . L’exemple suivant est similaire. On consid`ere un alphabet A = {a, b, c} et on consid`ere le sous-d´ecalage Y ′ d´efini par l’interdiction de tous les motifs de deux lettres, sauf aa, ab, bc, cb. Ainsi Y ′ est constitu´e de l’ensemble Z des suites translat´ees

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

213

de . . . aaabcbcbc . . . , et de trois points, la suite constante a (not´ee +∞, et les deux suites . . . bcbcbc . . . , not´ees −∞pair (pour celle avec w(0) = c) et −∞impair (pour celle avec w(0) = b). Comme Z est dense, pour d´ecrire [[Y ′ ]], il suffit de comprendre son action sur Z. On identifie Z `a Z en identifiant n `a l’unique suite w ∈ Z telle (w(n), w(n + 1)) = (a, b). Remarquons, pour la consistance des notations, que l’´el´ement correspondant ` a 2n (resp. 2n + 1) tend vers −∞pair (resp. −∞impair ) quand n tend vers −∞. Proposition 3.7.4. — Sous cette identification, [[Y ′ ]] est le groupe des permutations de Z qui, en restriction ` a chacune des parties N, −2N et −2N − 1, co¨ıncident avec une translation hors d’un ensemble fini. La preuve, similaire ` a celle de la proposition 3.7.3, est laiss´ee au lecteur. Ce groupe est connu, du moins son sous-groupe d’indice 2 constitu´e des permutations qui, modulo un ensemble fini, pr´eservent −2N et −2N − 1 : c’est le groupe de Houghton H3 (introduit dans [Hou78]). En effet, si on munit Z d’une structure de graphe en joignant n ` a n + 1 pour tout n > −1 et n `a n + 2 pour tout n 6 −2, le graphe obtenu est constitu´e de 3 branches infinies jointes en 0 ; H3 est par d´efinition le groupe des permutations de Z qui pr´eservent la structure de graphe sauf en un nombre fini d’arˆetes et fixent les bouts. Ici, [[Y ′ ]] est son sur-groupe d’indice 2, le stabilisateur du bout +∞. On d´eduit que [[Y ′ ]] est un groupe de pr´esentation finie (puisque H3 l’est, par un r´esultat non publi´e de Burns et Solitar, prouv´e par Brown dans [Bro87]). Comme il contient le groupe simple infini des permutations `a support fini altern´ees, [[Y ′ ]] n’est donc pas finiment approximable (voir la d´efinition 3.4.1), en contraste avec [[Y ]]. En g´en´eral, pour n > 2, le groupe de Houghton Hn est le groupe des permutations d’un graphe constitu´e de n branches infinies jointes en un point, qui pr´eservent la structure de graphe sauf en un nombre fini d’arˆetes, et fixent les bouts. Une g´en´eralisation facile de l’exemple pr´ec´edent fournit un sous-d´ecalage de type fini dont le groupe plein-topologique contient le groupe de Houghton Hn comme sous-groupe d’indice fini.

´ 4. MOYENNABILITE 4.1. Le crit` ere ´ On va commencer par une construction g´en´erale. Etant donn´e un groupe Γ, on d´efinit le groupe des translations par morceaux TM(Γ) comme le groupe plein-topologique associ´e ` a l’action ` a gauche de Γ sur l’espace topologique discret Γ. Si Γ est muni d’une m´etrique invariante ` a gauche dont les boules sont finies (tout groupe d´enombrable poss`ede une telle m´etrique), on peut interpr´eter ce groupe de mani`ere purement m´etrique,

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

214

Y. de CORNULIER

`a savoir comme l’ensemble des permutations σ de Γ `a d´eplacement born´e au sens o` u supγ∈Γ d(γ, σ(γ)) < ∞. Si Γ agit par autohom´eomorphismes sur un espace topologique X, et si x ∈ X, soit ix l’application orbitale γ 7→ γx de Γ vers X. Si x a un stabilisateur trivial, ix est une bijection de Γ vers l’orbite Γx, et l’action de [[Γ, X]], restreinte `a l’orbite Γx, est conjugu´ee, via la bijection ix , `a une action de [[Γ, X]] sur Γ par translations par morceaux, donn´ee par le morphisme jx : [[Γ, X]] → TM(Γ) d´efini par jx (γ) = i−1 x ◦γ◦ix . On a vu (proposition 3.7.1) que pour Γ = Z, pour un sous-d´ecalage convenable (X, ϕ) avec une orbite dense, le groupe [[Z, X]] = [[ϕ]] peut contenir un sous-groupe libre agissant fid`element sur l’orbite d’un point x. Par cons´equent, en prenant l’image par jx , on voit que le groupe TM(Z) contient ´egalement des sous-groupes libres, et n’est donc pas moyennable. Cependant c’est en utilisant ce groupe que Juschenko et Monod prouvent leur r´esultat. Th´ eor` eme 4.1.1 (Crit`ere de Juschenko-Monod). — Soit G un groupe et consid´erons une action de G sur Z par permutations ` a d´eplacement born´e, c’est-` a-dire, donn´ee par un morphisme G → TM(Z). On suppose que le stabilisateur {g ∈ G | g(N) = N} de N est moyennable. Alors G est lui-mˆeme moyennable. On discutera la preuve de ce crit`ere plus loin. Commen¸cons par la principale cons´equence. Corolaire 4.1.2. — Le groupe plein-topologique [[ϕ]] associ´e ` a un autohom´eomorphisme minimal d’un compact totalement s´epar´e X est moyennable. Le th´eor`eme s’applique : fixons en effet x ∈ X et faisons agir [[ϕ]] sur Z par permutations ` a d´eplacement born´e via jx . Alors le stabilisateur de N est ´egal au stabilisateur [[ϕ]][xi de l’orbite positive {ϕn x : n ∈ N} de x, qui, par le lemme de Putnam (lemme 3.3.3) est localement fini (c’est-` a-dire r´eunion croissante filtrante de groupes finis), donc moyennable. 4.2. Sur la d´ emonstration du crit` ere Le crit`ere est bas´e sur le r´esultat analytique suivant. Notons C2 le groupe cyclique (Z) d’ordre 2 et C2 le groupe des fonctions `a support fini Z → C2 , qui s’identifie `a l’ensemble des parties finies de Z. (Z)

Th´ eor` eme 4.2.1 (Juschenko-Monod). — L’action affine de C2 pr´eserve une moyenne.

(Z)

⋊ TM(Z) sur C2

Ici, l’action est simplement l’action affine engendr´ee par l’action Z/2Z-lin´eaire de TM(Z) et par le groupe des translations. Le th´eor`eme s’applique pour d´emontrer le crit`ere 4.1.1 ` a l’aide du fait suivant.

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

215

Fait 4.2.2. — Si un groupe discret G agit sur un ensemble X en pr´eservant une moyenne, et si chaque point a un stabilisateur moyennable, alors G est lui-mˆeme moyennable. D´emonstration. — On commence par rappeler que G est moyennable si, et seulement si, pour toute action de G par transformations affines continues sur un espace localement convexe pr´eservant un convexe compact non vide K, l’action fixe un point de K (au besoin, on choisit cela comme d´efinition de moyennabilit´e ; voir par exemple [Gre]). Soit donc une telle action ; il suffit en fait de montrer que G pr´eserve une probabilit´e sur les bor´eliens de K, car le barycentre de cette derni`ere (voir par exemple [Luk, Theorem 2.29]) est alors un point de K fix´e par G. On choisit donc un sous-ensemble I ⊂ X contenant exactement un ´el´ement de chaque G-orbite, et pour tout i ∈ I soit Hi son stabilisateur. Par moyennabilit´e, Hi fixe un point κi ∈ K. L’application i 7→ κi s’´etend de mani`ere unique en une fonction G-´equivariante X → K. L’image directe d’une moyenne invariante sur X est une moyenne invariante sur K, d´efinissant une forme lin´eaire positive normalis´ee G-invariante sur ℓ∞ (K). Celle-ci se restreint en une forme lin´eaire positive normalis´ee sur C(K), qui d´efinit par le th´eor`eme de repr´esentation de Riesz une unique mesure de probabilit´e de Radon sur K, qui par unicit´e est G-invariante. Preuve du th´eor`eme 4.1.1. — Soit maintenant G v´erifiant le crit`ere du th´eor`eme 4.1.1 et montrons que G est moyennable. L’hypoth`ese de stabilisateur implique en particulier que le noyau de l’action de G sur Z est moyennable ; la moyennabilit´e ´etant stable par extensions et passage au quotient, on peut donc se ramener au cas d’une action fid`ele, ce qui revient `a supposer que G est contenu dans TM(Z). V´erifions d’abord que pour toute partie B de Z telle que N △ B est finie, le stabilisateur GB de B dans G est moyennable. Commen¸cons par le cas de B = N+k = {k, k + 1, . . .} pour k ∈ Z. En effet, remarquons d’abord que tout sous-groupe de TM(Z) pr´eserve une moyenne sur chacune de ses orbites dans Z. Si par l’absurde GN+k est non moyennable, alors pour tout j ∈ Z, en appliquant le fait 4.2.2 `a l’orbite de j pour l’action de GN+k , on obtient que le stabilisateur (GN+k )j est non moyennable. Or pour j = k ce stabilisateur est contenu dans GN+k+1 et pour j = k − 1 ce stabilisateur est contenu dans GN+k−1 . Ceci montre que GN+k+1 et GN+k−1 sont non moyennables, et donc par une r´ecurrence de chaque cˆ ot´e, GN+j est non moyennable pour tout j ∈ Z, contredisant pour j = 0 l’hypoth`ese du crit`ere. Si maintenant B est quelconque, il existe une permutation `a support fini de Z ´echangeant B et N + k pour un certain (unique) k ∈ Z, on remarque alors que le stabilisateur GB est inclus dans le sous-groupe engendr´e par le stabilisateur de GN+k , qui est moyennable par ce qui pr´ec`ede, et par le groupe des permutations `a support fini, qui est distingu´e et moyennable. Le stabilisateur GB est donc lui-mˆeme moyennable.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

216

Terminons maintenant la preuve. On a une premi`ere action, dite ordinaire, de (Z) TM(Z) sur le Z/2Z-espace vectoriel C2 , donn´ee par w · 1A = 1w(A) . On a ´egalement (Z)

une action affine de TM(Z) sur C2 , de partie lin´eaire l’action ordinaire, donn´ee par w · 1A = 1w(A) + 1N − 1w(N) .

Le stabilisateur de 1A pour cette action affine est ´egal au stabilisateur pour l’action ordinaire de la diff´erence sym´etrique A △ N. Cette action affine pr´eserve une moyenne par le th´eor`eme 4.2.1. Pour toute partie finie A, le stabilisateur de 1A dans G pour l’action affine est ´egal au stabilisateur GN△A de N △ A pour l’action ordinaire dont on vient de v´erifier la moyennabilit´e. Le fait 4.2.2 s’applique donc `a l’action affine de (Z) G sur C2 , si bien que G est moyennable. 4.3. Preuve du th´ eor` eme 4.2.1 Le groupe CZ 2 des fonctions Z → C2 est muni de la topologie produit, qui en fait un groupe compact, et de la mesure produit de la mesure ´equir´epartie sur C2 = {0, 1}, qui est sa mesure de Haar. Juschenko et Monod observent que l’existence d’une moyenne invariante comme dans le th´eor`eme 4.2.1 d´ecoule de l’existence d’une suite d’´el´ements non nuls fn ∈ L2 (CZ 2 , R) telle que (1) (fn ) est asymptotiquement TM(Z)-invariante, c’est-`a-dire que pour tout g ∈ TM(Z) on a limn→∞ kfn − gfn k2 /kfnk2 = 0 ; Zr{0}

CZ 2

(2) (fn ) est asymptotiquement support´ee par l’hyperplan H0 = C2 : u(0) = 0}, au sens o` u limn→∞ kfn 1H0 k2 /kfn k2 = 1.

= {u ∈

En effet, consid´erons une telle suite (fn ). La suite des transform´ees de Fourier (fc n) (Z)  est une suite dans ℓ2 C2 , asymptotiquement TM(Z)-invariante par (1). La transform´ee de Fourier entrelace la multiplication par 1H0 `a la projection sur l’ensemble des ({0}) (Z)  qui sont invariantes par C2 . Donc par (2), la suite (fc fonctions dans ℓ2 C2 n ) est ({0}) (Z) ({0}) asymptotiquement C2 -invariante. Puisque C2 ⋊ TM(Z) est engendr´e par C2 et (Z) TM(Z), on en d´eduit que la suite (fc ) est asymptotiquement C ⋊TM(Z)-invariante ; n 2 c autrement dit en posant un = |fn |/kfn k2 , on a kun k2 = 1 et kun − gun k2 → 0 pour (Z) tout g ∈ C2 ⋊ TM(Z). Ainsi ku2n k1 = 1 et, par l’in´egalit´e de Cauchy-Schwarz, on obtient ku2n − gu2n k1 6 kun + gun k2 kun − gun k2 6 2kun − gun k2 , si bien que ku2n − gu2n k1 → 0. Par cons´equent, si m est une valeur d’adh´erence (Z)  (Z)  de la suite de probabilit´es (u2n ) de ℓ1 C2 , alors m d´efinit une faible-* dans ℓ∞ C2 (Z) (Z) moyenne C2 ⋊ TM(Z)-invariante sur C2 .

´ ASTERISQUE 361

(1064)

GROUPES PLEINS-TOPOLOGIQUES

217

Cette observation ´etant faite, Juschenko et Monod donnent explicitement une suite (fn )n>1 , ` a savoir, en identifiant C2 et {0, 1} {0, 1}Z

fn :

x = (xj )j∈Z

→ ]0, 1]   X −|j|/n . 7→ exp − n xj e j∈Z

La condition (2) se v´erifie facilement, tandis que (1) demande plus de travail (d’analyse ´el´ementaire). On va utiliser ici une autre suite de fonctions, qui nous a ´et´e indiqu´ee par M. de la Salle, pour laquelle ces v´erifications sont plus directes. On d´efinit, pour n > 1 {0, 1}Z

hn :

x = (xj )j∈Z

→ [0, 1] Y 7→ hnj (xj ), j∈Z

avec √ (hnj (0), hnj (1)) = 2(cos θnj , sin θnj );

θnj

π = min 4

r

|j| ,1 n



∈ [0, π/4].

Remarquons que le produit d´efinissant hn (x) est fini puisque hnj = 1 si |j| > n. On observe ´egalement que θn0 = 0, si bien que hn0 (1) = 0 et hn (x) = 0 si x0 = 1. En d’autres termes, on a hn = hn 1H0 , ce qui donne (2) (avec hn en lieu et place de fn ). Notons que khn k2 = 1 pour tout n > 1, puisque khnj k2 = 1 pour tous n et j (l’ensemble {0, 1} ´etant muni de la mesure de Haar de C2 ). Il reste `a prouver (1) ou, ce qui revient au mˆeme : Proposition 4.3.1. — Pour tout g ∈ TM(Z) on a lim hhn , g −1 hn i = 1.

n→∞

D´emonstration. — On a g −1 hn (x) = hn (gx) et (gx)j = xg−j (j) , si bien que Q (g −1 hn )(x) = j∈Z hn g(j) (xj ). On a donc, par le th´eor`eme de Fubini, la formule Y Y hhn , g −1 hn i = hhnj , hn g(j) i = cos(θnj − θn g(j) ). j∈Z

j∈Z

En utilisant l’in´egalit´e cos(x) > exp(−x2 ) valable pour tout x ∈ [−π/4, π/4], on en d´eduit   X −1 2 (4.1) hhn , g hn i > exp − (θnj − θn g(j) ) . j∈Z

On va majorer la somme dans le terme de droite. En utilisant que |

p

j−

√ k| 6

|j − k| √ , max(1, j)

∀j, k ∈ N,

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

Y. de CORNULIER

218

on obtient, en posant c = supj∈Z |g(j)| − |j|

1 πc p . |θnj − θn g(j) | 6 √ 4 n max(1, |j|)

Il en d´ecoule, en remarquant en outre que θnj − θn g(j) = 0 si |j| > n + c X X (θnj − θn g(j) )2 (θnj − θn g(j) )2 = j∈Z

|j|6n+c

6

π 2 c2 16n

X

|j|6n+c

1 max(1, |j|)

2 2

π c (3 + log(n + c)) 16n  log n  log n   = O c2 ; + c2 log c = Oc n n donc par (4.1) on obtient que hhn , g −1 hn i tend bien vers 1 `a g fix´e. 6

Remarque 4.1. — La preuve de la proposition 4.3.1 montre que pour tout g ∈ TM(Z) fix´e, on a 1 − hhn , ghn i = O(log(n)/n), ou de mani`ere ´equivalente khn − ghn k2 = O((log n/n)1/2 ). D’autre part, remarquons que la preuve de la proposition s’applique sans changement ` a tout g ∈ TM(|Z|), o` u ce dernier d´esigne le groupe des permutations g de Z telles que supn∈Z |g(n)| − |n| < ∞. Ce groupe contient strictement TM(Z), par exemple il contient l’involution n 7→ −n qui n’est pas dans TM(Z) ; il est ´egalement isomorphe au sous-groupe TM(N) de TM(Z), comme on voit en conjuguant par la bijection 2-lipschitzienne de Z sur N qui envoie n > 0 sur 2n et −n 6 −1 sur 2n − 1. APPENDICE A ´ EMENTAIRES ´ CLASSES EL Soit C une classe de groupes (invariante par isomorphie). On d´efinit E (C) comme la plus petite classe de groupes contenant C et stable par isomorphie et passage aux sous-groupes, quotients, extensions et limites inductives filtrantes. On l’appelle classe ´el´ementaire engendr´ee par C. Le lemme suivant est bien connu. Lemme A.1. — On suppose C stable par passage aux sous-groupes et aux quotients. On d´efinit par r´ecurrence transfinie – E0 (C) = C ; – si α est un ordinal, Eα+1 (C) comme l’ensemble des groupes isomorphes ` a une extension ` a noyau dans Eα (C) et quotient dans C, ou ` a une limite directe (c’esta-dire limite inductive filtrante d’injections) de groupes de Eα (C) ; ` S – Eα (C) = β 0, x(0) = x0 .

Ce probl`eme de Cauchy standard a une solution unique si ∇F est lipschitzien, c’est`a-dire si F ∈ C 1,1 , mais on verra, entre autres, que l’existence et l’unicit´e pour cette solution pourront ˆetre obtenues sous des hypoth`eses beaucoup plus faibles, grˆace `a la structure variationnelle du probl`eme. ` titre d’exemple, on peut voir que l’unicit´e est garantie d`es que la fonction F est A convexe, puisque pour deux solutions x(t) et y(t) on peut poser E(t) = |x(t) − y(t)|2 et calculer E ′ (t) = 2(x(t) − y(t)) · (x′ (t) − y ′ (t)) = −2(x(t) − y(t)) · (∇F (x(t)) − ∇F (y(t))) 6 0, l’in´egalit´e venant de la propri´et´e de monotonie (∇F (x) − ∇F (y)) · (x − y) > 0, v´erifi´ee pour tous x, y ∈ Rn d`es lors que F est convexe. Ceci entraˆıne ´evidemment l’´egalit´e x(t) = y(t) si x(0) = y(0), et donne aussi une estimation de stabilit´e, la distance entre deux solutions au temps t s’estimant avec celle entre les donn´ees initiales. De mˆeme, si F n’est pas convexe mais juste λ-convexe (c’est-` a-dire que x 7→ F (x)− 2 λ |x|2 est convexe, une condition plus forte que la convexit´e si λ > 0 et plus faible si

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

226

λ < 0), on peut ´egalement conclure `a une estimation de ce genre grˆace au Lemme de Gronwall. En effet, dans ce cas on a (∇F (x) − ∇F (y)) · (x − y) > λ|x − y|2 , et donc E ′ (t) 6 −2λE(t) ⇒ E(t) 6 e−2λt E(0), ce qui entraˆıne encore l’unicit´e et la stabilit´e. Le fait de savoir traiter des fonctions λ-convexes (c’est-` a-dire des fonctions dont les d´eriv´ees secondes sont born´ees inf´erieurement) est un point important, en particulier parce que cela fait une extension du cas C 1,1 (toute fonction C 1,1 ´etant λ-convexe pour un certain λ). Or, notre but principal est d’´etendre cette th´eorie au cas o` u l’espace euclidien Rn est remplac´e par un espace m´etrique. Cela n’est pas du tout ´evident et n´ecessite de donner les d´efinitions opportunes, qui n’utilisent pas la notion de gradient ∇F . Aussi, il va sans dire que, si on sait le faire, on sait ´egalement se passer de l’hypoth`ese F ∈ C 1,1 . Une premi`ere interpr´etation des flots de gradient qui ne requiert pas la structure diff´erentielle vient de leur discr´etisation en temps. En effet, si l’on fixe un pas de temps τ > 0, on peut consid´erer, au lieu de l’´equation diff´erentielle, la suite (xτk )k d´efinie par r´ecurrence de la mani`ere suivante : |x − xτk |2 2τ (ind´ependamment du fait que le probl`eme de minimisation ci-dessus admette ou pas une solution unique). Ce qui est important de cette suite est qu’on peut interpr´eter ses points comme les valeurs de la courbe x(t) aux instants t = 0, τ, 2τ, . . . , kτ, . . . . En effet, les conditions d’optimalit´e de cette suite r´ecursive de probl`emes d’optimisation nous donnent exactement xτk+1 ∈ argminx F (x) +

xτ − xτk |x − xτk |2 ⇒ ∇F (xτk+1 ) + k+1 = 0, 2τ τ xτk+1 − xτk i.e. = −∇F (xτk+1 ). τ Cette expression correspond ` a ce que l’on appelle sch´ema d’Euler implicite de l’´equation x′ = −∇F (x). Si on prouve que, pour τ → 0, la suite qu’on a trouv´ee, interpol´ee de mani`ere opportune, converge a` la solution du probl`eme, alors on soup¸conne qu’on pourrait mˆeme d´efinir une notion de flot de gradient pour une fonction F qui satisfasse juste les hypoth`eses aptes ` a donner l’existence d’un minimiseur `a chaque ´etape (F semi-continue inf´erieurement et quelques hypoth`eses de compacit´e). Encore mieux, on s’aper¸coit que cette formulation discr´etis´ee en temps peut s’adapter parfaitement au cas o` u Rn est remplac´e par un espace m´etrique. Si l’on a un espace m´etrique (X, d) (compact, par exemple) et une fonction F : X → R ∪ {+∞} semicontinue, on peut d´efinir la suite xτk+1 ∈ argmin F (x) +

(1)

´ ASTERISQUE 361

xτk+1 ∈ argminx F (x) +

d(x, xτk )2 , 2τ

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

(1065)

227

l’interpoler de mani`ere constante par morceaux xτ (t) := xτk

(2)

pour tout t ∈ [kτ, (k + 1)τ [ τ

et ´etudier les limites des courbes x lorsque τ → 0. De Giorgi, dans [DeG], d´efinissait ainsi les mouvements minimisant g´en´eralis´es : D´ efinition 0.1. — Une courbe x : [0, T ] → X est dite Mouvement Minimisant G´en´eralis´e (MMG) si il existe une suite de pas de temps τj → 0 telle que la suite de courbes xτj d´efinies en (2) en partant d’une suite de solutions du sch´ema discret (1) converge uniform´ement ` a x sur [0, T ]. Les r´esultats de compacit´e garantissant l’existence d’un tel mouvement minimisant g´en´eralis´e d´ecoulent d’une propri´et´e assez simple de presque-continuit´e H¨older : pour tout τ et tout k, l’optimalit´e de xτk+1 nous donne F (xτk+1 ) +

(3)

d(xτk+1 , xτk )2 6 F (xτk ), 2τ

ce qui entraˆıne  d(xτk+1 , xτk )2 6 2τ F (xτk ) − F (xτk+1 ) .

Si F (x0 ) est fini et F est born´ee inf´erieurement, en prenant la somme sur k on a l X

k=0

 d(xτk+1 , xτk )2 6 2τ F (xτ0 ) − F (xτl+1 ) 6 Cτ.

L’in´egalit´e de Cauchy-Schwartz nous donne alors, si t < s, t ∈ [kτ, (k + 1)τ [ et + 1) s ∈ [lτ, (l + 1)τ [ (et donc |l − k| 6 |t−s| τ τ

τ

d(x (t), x (s)) 6

l X

k=0

d(xτk+1 , xτk )

6

l X

k=0

!1/2

d(xτk+1 , xτk )2

|t − s| +1 τ

1/2

6 C |t − s|1/2 +

√  τ .

Cela nous dit que les courbes xτ – si on oublie qu’elles sont discontinues – sont moralement ´equi-h¨ old´eriennes d’exposant 1/2, et permet d’extraire une sous-suite convergente. Or, si l’espace X, la distance d, et la fonctionnelle F sont connus explicitement, dans certains cas il est d´ej` a possible de passer `a la limite dans les conditions d’optimalit´e de chaque probl`eme d’optimisation en temps discret, et de caract´eriser les courbes (ou la courbe) limite x(t). Il sera possible de faire ainsi dans le cadre des mesures de probabilit´e dont il est question dans la section 2, mais pas dans d’autres cas. De fait, sans un petit peu de structure (diff´erentielle) sur l’espace X, cela est pratiquement impossible. Si l’on souhaite d´evelopper une th´eorie g´en´erale pour les flots de gradient dans les espaces m´etriques, il faut utiliser des instruments plus fins, qui permettent vraiment de caract´eriser, `a l’aide seulement de quantit´es m´etriques, le fait

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

228

F. SANTAMBROGIO

qu’une courbe continue x(t) soit un flot de gradient. Le livre d’Ambrosio-Gigli-Savar´e [AGS05], et en particulier sa premi`ere partie (la deuxi`eme ´etant d´edi´ee aux espaces de mesures de probabilit´e), se donne exactement cet objectif. Nous pr´esentons ici deux in´egalit´es qui sont satisfaites par les flots de gradient dans le cas euclidien r´egulier, et qui peuvent ˆetre utilis´ees comme d´efinition de flot de gradient dans un cadre m´etrique, toutes les quantit´es qui y apparaissent ayant une contrepartie m´etrique. La premi`ere observation est la suivante : pour toute courbe x(t) on a Z t Z t |∇F (x(r))||x′ (r)| dr −∇F (x(r)) · x′ (r) dr 6 F (x(s)) − F (x(t)) = s s  Z t 1 ′ 1 6 |x (r)|2 + |∇F (x(r))|2 dr. 2 2 s

Ci-dessus, la premi`ere in´egalit´e est une ´egalit´e si et seulement si x′ (r) et ∇F (x(r)) sont des vecteurs de directions oppos´ees pour presque tout r, et la deuxi`eme est une ´egalit´e si et seulement si leurs modules sont ´egaux. Ainsi, la condition, appel´ee EDE (Energy Dissipation Equality)  Z t 1 ′ 1 2 2 F (x(s)) − F (x(t)) = |x (r)| + |∇F (x(r))| dr, pour tous s < t 2 2 s  Rt (ou mˆeme la simple in´egalit´e F (x(s)) − F (x(t)) > s 21 |x′ (r)|2 + 12 |∇F (x(r))|2 dr) est ´equivalente ` a x′ = −∇F (x) p.p., et pourrait ˆetre prise comme d´efinition de flot de gradient. On verra que les deux objets |x′ | et |∇F | ont un sens dans les espaces m´etriques, et que cela donne des r´esultats tr`es puissants d’existence. Pour les r´esultats d’unicit´e, une autre caract´erisation est propos´ee. Elle se base sur l’observation suivante : si F : Rn → R est convexe, alors l’in´egalit´e F (y) > F (x) + p · (y − x)

pour tout y ∈ Rn

caract´erise (par d´efinition) les vecteurs p ∈ ∂F (x) et, si F ∈ C 1 , elle est v´erifi´ee uniquement par p = ∇F (x). De mˆeme, si F est λ-convexe, l’in´egalit´e qui caract´erise le gradient est λ F (y) > F (x) + |x − y|2 + p · (y − x) pour tout y ∈ Rn . 2 Ainsi, on peut prendre une courbe x(t) et un point y et calculer d 1 |x(t) − y|2 = (y − x(t)) · (−x′ (t)). dt 2 Par cons´equent, imposer que, pour tout t et tout y, on ait λ d 1 |x(t) − y|2 6 F (y) − F (x(t)) − |x(t) − y|2 , dt 2 2 sera donc ´equivalent ` a l’´egalit´e −x′ (t) = ∇F (x(t)) pour tout t. Cela donnera une deuxi`eme caract´erisation (appel´ee EVI, Evolution Variational Inequality) des flots de gradient dans un environnement m´etrique. Mˆeme si on oubliera souvent la d´ependance ´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

229

en λ, il faut remarquer que la condition EVI devrait ˆetre indiqu´ee comme EVIλ , puisqu’elle fait intervenir un param`etre λ, a priori arbitraire. D’ailleurs, remarquons aussi que la λ-convexit´e de F n’est pas n´ecessaire pour d´efinir la propri´et´e EVIλ , mais le sera pour l’existence de courbes la satisfaisant, ce qui nous am`enera `a d´efinir ce qu’est une fonction λ-convexe dans un espace m´etrique (ce sera d’ailleurs une propri´et´e n´ecessaire pour l’existence de ces courbes). Plan de l’expos´ e. — Jusque-l` a on a vu comment certaines notions dans la th´eorie euclidienne des flots de gradient pourraient s’exprimer `a l’aide de quantit´es m´etriques : dans la suite – structur´ee bien entendu en trois parties, chacune compos´ee de trois sous-parties – on verra d’abord par quelles techniques on pourra avoir des r´esultats d’existence et unicit´e pour les flots de gradient (d´efinis `a l’aide des conditions EDE ou EVI) dans un espace m´etrique (Section 1) ; ensuite viendra le tour du cas particulier de l’espace des mesures de probabilit´e muni d’une distance issue du transport optimal et des EDP d’´evolution associ´ees `a ces flots de gradient (Section 2) ; on terminera par des r´esultats r´ecents de Gigli et de ses collaborateurs, motiv´es par l’observation que le flot de la chaleur est en mˆeme temps un flot de gradient par rapport `a la m´etrique du transport et par rapport ` a la distance L2 (Section 3).

´ ´ ERALE ´ ´ 1. LA THEORIE GEN DANS LES ESPACES METRIQUES 1.1. Pr´ eliminaires m´ etriques Pour esquisser une th´eorie g´en´erale dans les espaces m´etriques, il est tout d’abord n´ecessaire de d´efinir au moins les trois objets dont on a besoin pour parler des propri´et´es EDE et EVI caract´erisant les flots de gradient : la notion de vitesse d’une courbe, celle de pente d’une fonction, et celle de convexit´e g´eod´esique. D´ eriv´ ee m´ etrique. — Pour toute courbe x : [0, T ] → X `a valeur dans un espace m´etrique on peut d´efinir, au lieu de la vitesse x′ (t) en tant que vecteur (avec sa direction, comme on le ferait dans un espace vectoriel), le module de sa vitesse : |x′ |(t) := lim

h→0

d(x(t), x(t + h)) , |h|

a` condition que la limite existe. On voit facilement que cette d´efinition co¨ıncide avec la norme de la d´eriv´ee si l’on est dans un espace norm´e. Dans l’esprit du Th´eor`eme de Rademacher, on peut d´emontrer que cette limite existe pour presque tout t si la courbe x est lipschitzienne (il est facile de le faire dans l’espace m´etrique l∞ , en prenant le sup des modules des vitesses des composantes, et la g´en´eralisation `a tout espace m´etrique compact se fait en le plongeant dans l∞ ; la preuve peut ˆetre restreinte au cas des espaces compacts, puisque l’image de [0, T ] par la courbe continue x l’est toujours). De mˆeme, par reparam´etrage, cela s’´etend aux courbes absolument continues. ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

230

F. SANTAMBROGIO

Celle-ci est la notion de vitesse qu’on utilisera dans les espaces m´etriques. On remarque que la longueur d’une courbe est bien l’int´egrale de sa d´eriv´ee m´etrique, et qu’on peut reparam´etrer les courbes de longueur finie de mani`ere `a ce que leur d´eriv´ee m´etrique soit constante. Pente et module du gradient. — Plusieurs d´efinitions diff´erentes du module du gradient d’une fonction F d´efinie sur un espace m´etrique sont possibles. Tout d’abord on peut appeler gradient sup´erieur (upper gradient, en anglais) toute fonction g : X → R telle que, pour toute courbe lipschitzienne x, on a Z 1 |F (x(0)) − F (x(1))| 6 g(x(t))|x′ |(t) dt. 0

Si F est lipschitzienne, un choix possible est la constante de Lipschitz locale (4)

|∇F |(x) := lim sup y→x

|F (x) − F (y)| ; d(x, y)

un autre est la pente descendante (descending slope en anglais, mais on l’indiquera simplement pente en fran¸cais), qui est une notion en soi plus adapt´ee `a la minimisation d’une fonction qu’`a sa maximisation, et donc a priori raisonnable pour des fonctions semi-continues inf´erieurement : [F (x) − F (y)]+ |∇− F |(x) := lim sup d(x, y) y→x (remarquons que la pente est nulle en tout point de minimum local). En g´en´eral il n’est pas vrai que la pente soit un gradient sup´erieur, mˆeme si on donnera des cas o` u elle l’est. On verra ensuite (Section 3) comment, pour ´etablir une notion d’espace H 1 sur un espace m´etrique, on prendra des notions « relax´ees » du module du gradient de F . Convexit´ e g´ eod´ esique. — Troisi`eme notion `a fixer, celle de convexit´e. Cela ne marche que dans un espace g´eod´esique, c’est-`a-dire dans un espace m´etrique (X, d) tel que, pour tout couple (x(0), x(1)) de points de X, il existe une courbe x : [0, 1] → X les connectant et telle que d(x(t), x(s)) = |t − s|d(x(0), x(1)). Une telle courbe est forc´ement une g´eod´esique (courbe de longueur minimale connectant deux points donn´es) et sa vitesse |x′ |(t) est constante et ´egale `a d(x(0), x(1)). On peut alors d´efinir les fonctions g´eod´esiquement convexes comme ces fonctions F : X → R ∪ {+∞} qui sont convexes le long des g´eod´esiques. Plus pr´ecis´ement, on demande `a ce que pour tout couple (x(0), x(1)) il existe (1) une g´eod´esique x `a vitesse constante 1. Attention, cette d´ efinition n’´ equivaut pas ` a la vraie convexit´ e le long de la g´ eod´ esique, parce qu’on ne compare que les instants interm´ ediaires t aux instants 0 et 1, pas entre eux ; toutefois, en cas d’unicit´ e de la g´ eod´ esique ou si on demandait ` a ce que cette condition soit valable pour toute g´ eod´ esique cela reviendrait au mˆ eme. Aussi, on peut remarquer qu’on n’aurait besoin de l’existence de g´ eod´ esiques que pour connecter les points o` u F < +∞.

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

231

connectant les deux points telle que F (x(t)) 6 (1 − t)F (x(0)) + tF (x(1)). On peut ´egalement d´efinir les fonctions λ-convexes comme celles qui satisfont une version modifi´ee de l’in´egalit´e ci-dessus, `a savoir F (x(t)) 6 (1 − t)F (x(0)) + tF (x(1)) − λ

t(1 − t) 2 d (x(0), x(1)). 2

1.2. Existence d’un flot de gradient Une fois ´etablies ces notions de bases, on passe maintenant aux notions de flots de gradient. L’approche est encore et toujours celle de proc´eder `a une minimisation par ´etapes temporelles pour un pas de temps τ > 0 fix´e, et de passer `a la limite ensuite. On veut tout d’abord pr´eciser le cadre dans lequel cela est bien pos´e. On suppose que l’espace X et la fonction F sont tels que tout ensemble de sous-niveau {F 6 c} soit compact dans X, soit pour la topologie donn´ee par la distance d, soit pour une topologie plus faible, par rapport `a laquelle la distance d est semi-continue inf´erieurement ; F serait aussi semi-continue par rapport `a la mˆeme topologie. Ceci est le cadre minimal qui garantit l’existence des minimiseurs `a chaque ´etape et le fait que des estimations du type de (3) donnent l’existence d’une courbe limite. C’est d’ailleurs une situation assez g´en´erale, comme on peut le voir dans le cas o` u X est un espace de Banach r´eflexif et la distance celle induite par la norme : se limiter aux fonctions F fortement continues serait trop contraignant, mais la topologie faible fait typiquement l’affaire. On comprend ais´ement que, bien que l’estimation (3) soit suffisante `a donner la compacit´e, et donc l’existence d’un MMG, elle ne pourra jamais caract´eriser la courbe limite (elle est satisfaite par toute ´evolution discr`ete o` u xτk+1 donne une vaτ leur meilleure que xk , sans aucune optimalit´e requise) et donc on n’obtiendra a priori aucune des deux formulations – EDE ou EVI – des flots de gradient m´etriques. Pour am´eliorer le r´esultat, il faut mieux exploiter « combien » xτk+1 fait mieux que a De Giorgi permet d’obtenir le r´esultat souhait´e, et ce par une xτk . Une id´ee due ` interpolation « variationnelle » entre les points xτk et xτk+1 . Pour ce faire, xτk ´etant fix´e pour toute valeur du param`etre θ ∈ ]0, 1], on peut consid´erer min x

F (x) +

d2 (x, xτk ) 2θτ

et appeler x(θ) un minimiseur de ce probl`eme, et v(θ) la valeur minimale. Il est clair que, pour θ → 0+ , on a x(θ) → xτk et v(θ) → F (xτk ), et que, pour θ = 1, on revient au probl`eme et au minimiseur xτk+1 usuels. De plus, la fonction v est monotone d´ecroissante et, par cons´equent, d´erivable presque partout (on peut mˆeme d´emontrer qu’elle est localement semi-concave). Sa d´eriv´ee v ′ (θ) est donn´ee par la d´eriv´ee de la

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

232

d2 (x,xτ )

fonction θ 7→ F (x) + 2θτ k , calcul´ee au point x = x(θ) optimal (l’existence de v ′ (θ) implique que cette d´eriv´ee est la mˆeme quel que soit le minimiseur x(θ)). On a donc v ′ (θ) = −

d2 (x(θ), xτk ) , 2θ2 τ

ce qui implique d’ailleurs que la distance d(x(θ), xτk )2 ne d´epend pas du minimiseur x(θ). Aussi, les conditions d’optimalit´e pour le probl`eme de minimisation `a θ > 0 fix´e nous montrent assez facilement que |∇− F |(x(θ)) 6 d(x(θ), xτk )/θτ . Ceci peut se voir si on consid`ere la minimisation d’une fonction x 7→ F (x) + cd2 (x, x¯), pour c > 0 et x ¯ quelconques, et on consid`ere un comp´etiteur y. Si x est optimal on a F (y) + cd2 (y, x ¯) > F (x) + cd2 (x, x¯)  ⇒ F (x) − F (y) 6 c d2 (y, x ¯) − d2 (x, x¯) = c (d(y, x ¯) + d(y, x ¯)) (d(y, x ¯) − d(y, x¯)) 6 c (d(y, x ¯) + d(y, x ¯)) d(y, x).

En divisant par d(y, x) et en prenant la lim sup pour y → x, on a |∇− F |(x) 6 2cd(x, x¯). R1 On revient ` a la fonction v et on utilise v(0) − v(1) = − 0 v ′ (θ)dθ, avec l’in´egalit´e −v ′ (θ) =

d(x(θ), xτk )2 τ > |∇− F (x(θ))|2 2 2θ τ 2

que l’on vient d’obtenir. Il en r´esulte donc une version am´elior´ee de (3) : Z d(xτk+1 , xτk )2 τ 1 − F (xτk+1 ) + 6 F (xτk ) − |∇ F (x(θ))|2 dθ. 2τ 2 0 Si on ajoute ces in´egalit´es pour k = 0, 1, 2, . . . et qu’ensuite on passe `a la limite τ → 0, on peut obtenir, pour tout MMG x, l’in´egalit´e Z Z 1 t − 1 t ′ |x |(r)2 dr + |∇ F (x(r))|2 dr 6 F (x(0)), (5) F (x(t)) + 2 0 2 0 pourvu que des hypoth`eses opportunes aient ´et´e ´etablies. En particulier, il faut la semi-continuit´e inf´erieure de F pour g´erer le terme F (xτk+1 ) qui donnera F (x(t)), mais il faut ´egalement la semi-continuit´e de la pente |∇− F | pour g´erer le terme correspondant. Cette in´egalit´e ne correspond pas exactement `a EDE : d’une part on a une in´egalit´e, et d’autre part on compare les instants t et 0 au lieu de t et s. Si on veut obtenir cette propri´et´e plus forte on peut demander `a ce que la pente soit un gradient sup´erieur. Ceci Rt parce que, dans ce cas, on a l’in´egalit´e F (x(0)) − F (x(t)) 6 0 |∇− F (x(r))||x′ |(r)dr et, en continuant avec les in´egalit´es usuelles, on trouve que (5) est en fait une ´egalit´e. Cela permet de soustraire l’´egalit´e pour s de celle pour t, et obtenir, pour tout s < t : Z Z 1 t ′ 1 t − 2 F (x(t)) + |x |(r) dr + |∇ F (x(r))|2 dr = F (x(s)). 2 s 2 s

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

233

Or, il se trouve que si on suppose que F est λ-g´eod´esiquement convexe, le cadre se simplifie fortement. En effet, on a deux avantages : la semi-continuit´e de la pente, ainsi que le fait qu’elle est un gradient sup´erieur. Ces deux r´esultats sont prouv´es dans [AGS05, AG]. Nous ne donnons ici que l’id´ee principale qui permet de prouver les deux. Elle repose sur une repr´esentation ponctuelle de la pente comme un sup au lieu d’une lim sup : si F est λ-g´eod´esiquement convexe, en effet, on peut v´erifier qu’on a   F (x) − F (y) λ − + d(x, y) . (6) |∇ F |(x) = sup d(x, y) 2 y6=x + Pour v´erifier cette ´egalit´e, il suffit de rajouter un terme λ2 d(x, y) `a l’int´erieur de la partie positive de la d´efinition de |∇− F |(x), ce qui ne change pas la limite y → x et montre que |∇− F |(x) est inf´erieure ou ´egale `a ce sup, et prouver l’in´egalit´e oppos´ee en fixant un y, le connectant ` a x par une g´eod´esique x(t), et en calculant ensuite la limite le long de cette g´eod´esique. Cette repr´esentation comme un sup permet aussi de d´emontrer la semi-continuit´e de la pente (2) . Il est ´egalement possible (voir [AG], par exemple) de prouver que la pente est un gradient sup´erieur. J’insiste n´eanmoins sur le fait que l’hypoth`ese de λ-convexit´e n’est pas naturelle ni cruciale pour l’existence d’un flot de gradient. D’une part, parce que des fonctions suffisamment r´eguli`eres pourraient satisfaire ´egalement les hypoth`eses de semi-continuit´e de F et de la pente |∇− F | et le fait que |∇− F | soit un gradient sup´erieur ind´ependamment de la convexit´e, et d’autre part parce que le sch´ema discret donne d´ej` a une m´ethode, bien d´efinie sous des hypoth`eses bien plus faibles, pour trouver une courbe limite. Si l’espace et la fonctionnelle le permettent (comme ce sera le cas dans la prochaine section) on peut esp´erer caract´eriser cette courbe comme la solution d’une ´equation (aux d´eriv´ees partielles dans la section 2) sans passer par la th´eorie g´en´erale et par la condition EDE. 1.3. Unicit´ e et contractivit´ e Au contraire, au vu de la preuve d’unicit´e qu’on avait donn´ee dans le cas euclidien dans l’introduction, une certaine convexit´e semble ˆetre une condition `a demander si on veut des r´esultats d’unicit´e. Pour ne pas alourdir l’exposition, on se limitera ici `a donner les lignes g´en´erales de ce qui est la th´eorie de l’unicit´e dans un cadre m´etrique. Le point cl´e est qu’elle se base sur la condition EVI au lieu de la condition EDE. La relation entre ces deux

2. Attention, dans ce cas on a semi-continuit´ e par rapport a ` la topologie de la distance d, ce qui permet de g´ erer seulement le cas o` u les ensembles de niveau {F 6 c} sont d-compacts.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

234

F. SANTAMBROGIO

conditions a ´et´e ´etudi´ee et clarifi´ee par Savar´e (dans un papier non publi´e, mais la preuve peut se trouver dans [AG]), qui a montr´e que – Toute courbe qui est un flot de gradient au sens de la condition EVI l’est aussi au sens de la condition EDE. – La condition EDE n’est en g´en´eral pas suffisante pour garantir l’unicit´e d’une solution (3) . En revanche, il y a pratiquement toujours existence d’un flot de gradient au sens EDE. – La condition EVI est en g´en´eral trop contraignante pour garantir l’existence d’un flot de gradient en ce sens, mais elle permet toujours d’´etablir l’unicit´e et mˆeme la stabilit´e (par rapport aux donn´ees initiales) des flots de gradient. Remarquons au passage que l’existence d’un flot de gradient au sens EVI est tr`es contraignante pour la fonction (on verra ensuite qu’elle l’est aussi pour l’espace), puisqu’un r´esultat contenu dans [DS] affirme que si F est telle que, pour tout point de d´epart x0 , il existe un flot de gradient satisfaisant la condition EVIλ , alors F est forc´ement λ-g´eod´esiquement convexe. Nous donnons une id´ee de preuve de la contractivit´e (et donc de l’unicit´e) des flots de gradient EVI : Proposition 1.1. — Si deux courbes x et y : [0, T ] → X satisfont la condition EVI, alors on a d d(x(t), y(t))2 6 −2λd(x(t), y(t))2 dt et d(x(t), y(t)) 6 e−λt d(x(0), y(0)). La deuxi`eme partie de l’´enonc´e est une cons´equence de la premi`ere par le Lemme de Gronwall. La premi`ere est obtenue (formellement) en d´erivant t 7→ d(x(t), y(t0 ))2 par rapport ` a t en t = t0 , puis s 7→ d(x(t0 ), y(s))2 par rapport `a s, en s = t0 . L’in´egalit´e qui d´efinit la condition EVI permet de dire d d(x(t), y(t0 ))2|t=t0 6 −λd(x(t0 ), y(t0 ))2 + 2F (y(t0 )) − 2F (x(t0 )) dt d d(x(t0 ), y(s))2|s=t0 6 −λd(x(t0 ), y(t0 ))2 + 2F (x(t0 )) − 2F (y(t0 )) ds et donc, en ajoutant les deux in´egalit´es, et en jouant avec les d´eriv´ees compos´ees, d d(x(t), y(t))2 6 −2λd(x(t), y(t))2 . dt 3. L’exemple le plus simple est le suivant : prenons X = R2 muni de la distance l∞ donn´ ee par d((x1 , x2 ), (y1 , y2 )) = |x1 − y1 | ∨ |x2 − y2 |, et F (x1 , x2 ) = x1 ; il se trouve que toute courbe (x1 (t), x2 (t)) avec x′1 (t) = −1 et |x′2 (t)| 6 1 satisfait la condition EDE ; dans le mˆ eme exemple, on peut ´ egalement voir qu’il n’y a pas de courbes satisfaisant EVI.

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

235

Si l’on veut une th´eorie satisfaisante de l’unicit´e pour les flots de gradient, il reste donc ` a d´emontrer l’existence de courbes qui satisfassent la condition EVI, sachant que cela demandera sans doute des hypoth`eses additionnelles. Cela se fait encore grˆace au sch´ema discret, en rajoutant une hypoth`ese de compatibilit´e entre la fonction F et la distance d, condition qui fait intervenir une certaine notion de convexit´e. Nous ne rentrons pas dans les d´etails de la preuve, pour laquelle on renvoie `a [AGS05], o` u est prouv´ee la convergence vers un flot de gradient EVI, avec des estimations d’erreur explicites. Ces estimations a priori permettent d’ailleurs de d´emontrer qu’on a affaire `a une suite de Cauchy, en se passant donc de la compacit´e pour avoir la convergence (on pourrait mˆeme se passer de l’hypoth`ese de compacit´e dont on aurait besoin pour d´emontrer l’existence d’une solution `a chaque ´etape temporelle discr`ete, si on utilise de presque-minimiseurs en faisant appel au principe variationnel d’Ekeland). Nous nous limitons ` a discuter cette hypoth`ese ult´erieure de convexit´e. L’hypoth`ese, qu’on appellera C2 G2 (Compatibilit´e du Comportement sur les G´eod´esiques G´en´eralis´ees) est la suivante : supposons que, pour toute paire (x0 , x1 ) et tout point y ∈ X, il existe une courbe x(t) connectant x(0) `a x(1), telle que t(1 − t) 2 d (x(0), x(1)), 2 d2 (x(t), y) 6 (1 − t)d2 (x(0), y) + td2 (x(1), y) − t(1 − t)d2 (x(0), x(1)). F (x(t)) 6 (1 − t)F (x(0)) + tF (x(1)) − λ

Autrement dit, on demande la λ-convexit´e de la fonction F mais ´egalement la 2-convexit´e de la fonction x 7→ d2 (x, y), le long d’une mˆeme courbe qui n’est pas forc´ement la g´eod´esique. Il faut remarquer que cette deuxi`eme condition est automatiquement v´erifi´ee, en prenant la g´eod´esique, dans l’espace euclidien (et dans tout espace de Hilbert) puisque la fonction x 7→ |x − y|2 est quadratique avec matrice hessienne ´egale ` a 2I en tout point. On peut ´egalement v´erifier qu’elle n’est satisfaite dans un espace norm´e que si la norme provient d’un produit scalaire. Il a ´et´e remarqu´e r´ecemment par Gigli que la bonne condition pour avoir l’existence des flots de gradient au sens EVI est en effet que l’espace soit « infinit´esimalement hilbertien » (en un sens ` a pr´eciser, on y reviendra `a la fin de la section 3). Ici, on se contente de remarquer que la C2 G2 implique la (λ + τ1 )-convexit´e, le long de ces courbes (parfois appel´ees g´eod´esiques g´en´eralis´ees, sachant que ce sont des courbes qui d´ependent d’un point base typiquement ext´erieur aux deux points `a connecter), de la fonctionnelle qu’on minimise `a chaque ´etape du sch´ema discret. Cela donne l’unicit´e du minimiseur pour τ petit, et permet de faire les estimations voulues. Aussi, le choix de cette hypoth`ese a ´et´e fait en vue des applications aux espaces de Wasserstein, qu’on pr´esentera dans la prochaine section. En effet, dans ces espaces le carr´e de la distance n’est pas en g´en´eral 2-convexe mais on peut trouver, pour beaucoup de fonctionnelles F , des courbes adapt´ees qui permettent d’avoir la convexit´e opportune.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

236

F. SANTAMBROGIO

2. LES FLOTS DE GRADIENT DANS L’ESPACE DE WASSERSTEIN L’une des applications les plus excitantes (et peut-ˆetre la seule (4) v´eritable application, au sens des math´ematiques appliqu´ees) de la th´eorie des flots de gradient dans les espaces m´etriques est sans doute celle aux EDP d’´evolutions dans des espaces de mesures. Ce sujet puise son inspiration dans les travaux de Jordan, Kinderlehrer et Otto ([JKO]), qui avaient eu l’intuition que l’´equation de la chaleur et celle de FokkerPlanck ont une structure variationnelle commune vis-`a-vis d’une m´etrique particuli`ere sur les mesures de probabilit´e, la distance de Wasserstein. Cependant, ce n’est qu’avec les travaux d’Ambrosio, Gigli et Savar´e que la th´eorie a ´et´e formalis´ee dans un cadre plus abstrait et g´en´eral (sans que cela signifie que la preuve de [JKO] n’´etait pas rigoureuse, c’est l’intuition sur la structure g´en´erale qui n´ecessitait encore une mise au point). L’id´ee principale est celle de munir l’espace P(Ω) des mesures de probabilit´e sur un domaine Ω d’une distance et de traiter ensuite les flots de gradient de certaines fonctionnelles sur cet espace m´etrique. Pour expliquer de quoi il s’agit, nous allons d’abord donner un bref aper¸cu de cette distance, issue de la th´eorie du transport optimal. On peut trouver plus de d´etails sur cette th´eorie dans les ouvrages de C. Villani ([Vil03, Vil09]), ainsi que dans le livre [AGS05] (5) . 2.1. Transport optimal et distance W2 La distance sur les mesures de probabilit´e qu’on va consid´erer est celle, d´esormais appel´ee Distance de Wasserstein (6) , issue du probl`eme de transport optimal de ´ Monge-Kantorovitch. Etant donn´ees deux mesures de probabilit´e µ, ν ∈ P(Ω) sur un 4. Qu’il s’agisse de la seule est sˆ urement exag´ er´ e ; on pourrait penser par exemple ` a la th´ eorie des ´ evolutions g´ eom´ etriques de formes et d’ensembles, mˆ eme s’il semble que cette approche m´ etrique ne se soit pas encore impos´ ee. 5. Des versions plus all´ eg´ ees de ces r´ ef´ erences existent, comme par exemple [AS], ou le tout r´ ecent User’s Guide to Optimal Transport ([AG]), qui est en effet une tr` es bonne r´ ef´ erence pour cet expos´ e, puisqu’il traite ` a moiti´ e de transport optimal (bien que le titre ne fasse r´ ef´ erence qu’` a cet aspect), puis pour un sixi` eme de la th´ eorie g´ en´ erale des flots de gradient (comme dans notre section 1), et pour un tiers des espaces m´ etriques avec courbures born´ ees inf´ erieurement (ce dont on parlera rapidement dans la section 3). 6. Cette terminologie est tr` es contest´ ee, en particulier en Russie, parce que ce L. Vaserstein, dont le nom est souvent ´ ecrit Wasserstein, n’a pas vraiment eu le rˆ ole qu’on pourrait croire dans cette notion ; cependant, elle est tellement utilis´ ee en Occident qu’il semble impossible de la changer au profit d’autres d´ enominations qui pourraient ˆ etre plus appropri´ ees, comme distance de MongeKantorovitch, ou autres. . .

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

237

domaine Ω ⊂ Rd (qu’on peut prendre compact par simplicit´e d’exposition), le probl`eme du transport optimal consiste en Z  min |x − y|2 dγ : γ ∈ Π(µ, ν) , Ω×Ω

o` u Π(µ, ν) est l’ensemble des plans de transport, c’est-`a-dire Π(µ, ν) = {γ ∈ P(Ω × Ω) : (px )# γ = µ, (py )# γ = ν, }, px et py ´etant les deux projections d’Ω×Ω sur Ω. Il s’agit d’une extension du probl`eme de Monge : Z  2 inf |x − T (x)| dµ : T : Ω → Ω, T# µ = ν (une extension parce qu’`a toute fonction T de ce type on peut associer un plan γT en prenant γT = (id × T )#µ, tel que le coˆ ut de T dans le probl`eme de Monge est le mˆeme que celui de γT dans celui de Kantorovitch ; de plus, sous des hypoth`eses opportunes sur µ, le minimum parmi les plans est atteint en un plan de la forme γT et, sous des hypoth`eses moins restrictives, l’ensemble des γT est dense dans Π(µ, ν)).

Ind´ependamment du fait que le minimum soit r´ealis´e par une fonction T ou pas, on peut d´efinir une distance sur les mesures, not´ee W2 , `a l’aide de la valeur de ce minimum (7) . Nous pouvons d´efinir en effet la distance W2 (µ, ν) comme la racine carr´ee de la valeur minimale :  Z 1/2 W2 (µ, ν) := min |x − y|2 dγ : γ ∈ Π(µ, ν) Ω×Ω

n o

= min x − y L2 (γ) : γ ∈ Π(µ, ν) .

On peut d´emontrer que W2 est une distance sur P(Ω), qui m´etrise la converge faible-∗ des mesures de probabilit´e (mˆeme si des subtilit´es additionnelles se pr´esentent dans le cas d’un domaine Ω non compact). On appellera donc Espace de Wasserstein W2 (Ω) l’espace P(Ω) muni de cette distance.

Pour une approche rapide et alternative aux flots de gradient dans l’espace de Wasserstein, nous pr´esentons ici les ingr´edients dont on a besoin `a propos du probl`eme du transport optimal et de W2 pour les utiliser dans l’´etude du sch´ema discret. Cette approche, bas´ee sur des perturbations « verticales », diff´erentes des perturbations « horizontales » utilis´ees dans [JKO] et [AGS05], a ´et´e essentiellement propos´ee 7. L’indice 2 se r´ ef` ere ` a l’exposant dans le coˆ ut quadratique, des distances Wp ´ etant possibles pour 1 6 p 6 ∞ ; la lettre W se r´ ef` ere surtout au nom « Wasserstein », mˆ eme si Kantorovitch utilisait d´ ej` a cette lettre, pour W = Work ; pour se d´ ebarrasser de cette terminologie controvers´ ee, et sans doute ` a la solde de l’industrie de l’entertainment, Y. Brenier proposait de passer plutˆ ot ` a la notation M K2 , avec M K, bien ´ evidemment, pour Monge-Kantorovitch. . .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

238

par moi-mˆeme et ne repr´esente que mon choix personnel ; j’ai commenc´e `a l’utiliser dans d’autres contextes (voir [BS]) et l’ai ensuite appliqu´ee aux flots de gradient (voir [MRS, San-X, San-O]). Le point principal dont on aura besoin pour la suite est le suivant. Pour toute paire (µ, ν) il existe une fonction lipschitzienne ϕ : Ω → R, appel´ee potentiel de Kantorovitch avec les propri´et´es suivantes : – si ϕ est diff´erentiable µ-p.p. (ce qui est le cas, par exemple, si µ ≪ Ld ), alors il y a une unique solution au probl`eme de Kantorovitch, qui est de la forme γT , et le T optimal est donn´e par T (x) = x − ∇ϕ(x) ;

– la fonction ϕ joue aussi le rˆole de d´eriv´ee (variation premi`ere) de 21 W22 (·, ν) : on a Z d 1 2 W2 (µ + εχ, ν)|ε=0 = ϕdχ. dε 2 Cette fonction ϕ (d´efinie ` a une constante additive pr`es) est en fait la solution d’un probl`eme d’optimisation « dual » du probl`eme de Kantorovitch, au sens de l’analyse convexe (le probl`eme de Kantorovitch ´etant un probl`eme de programmation lin´eaire en dimension infinie, il admet une formulation duale, d´efinie sur un espace de fonctions continues dont les mesures sont le dual). Pour faciliter la suite de la lecture, on introduit la notation suivante pour les d´eriv´ees : ´etant donn´ee une fonctionnelle G : P(Ω) → R on indique par δG δρ (ρ), si elle d G(ρ + εχ)|ε=0 = existe, la seule fonction (` a une constante additive pr`es) telle que dε R δG δρ (ρ)dχ pour toute perturbation χ telle que, au moins pour ε ∈ [0, ε0 ], la mesure ρ + εχ soit dans P(Ω). Ainsi, dans le cas du potentiel de Kantorovitch, la condition δ( 1 W 2 (·,ν))

2 = ϕ. ci-dessus se lit 2 δρ Un dernier ingr´edient important concernant l’espace de Wasserstein est la connais´ sance de ses g´eod´esiques, qui ont une forme assez intuitive. Etant donn´es deux mesures µ, ν ∈ P(Ω) et T un transport optimal de µ `a ν, en supposant que le domaine Ω soit convexe, la courbe

(7)

µt := ((1 − t)id + tT )# µ,

t ∈ [0, 1]

est une g´eod´esique ` a vitesse constante reliant µ0 = µ `a µ1 = ν. De plus, toutes les g´eod´esiques ont cette forme (ou une forme ´equivalente µt = (πt )# γ o` u γ est un plan optimal et πt (x, y) = (1 − t)x + ty, au cas o` u l’optimum serait r´ealis´e par un plan au lieu d’un transport). La convexit´e du domaine Ω sert `a garantir µt ∈ P(Ω) et sera implicitement suppos´ee dans le reste de la section. 2.2. Sch´ ema discret dans l’espace de Wasserstein et EDP d’´ evolution Nous pouvons maintenant consid´erer une fonctionnelle F d´efinie sur l’espace de Wasserstein et d´efinir le sch´ema discret W 2 (ρ, ρτ (k)) ρτk+1 ∈ argminρ F (ρ) + 2 . 2τ

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

239

Quelles sont les conditions d’optimalit´e ? De mani`ere informelle, on peut ´ecrire ϕ δF τ (ρ ) + = const δρ k+1 τ (la raison pour avoir une constante au lieu de 0, outre le fait que ϕ est aussi d´efinie `a une constante pr`es, est que les conditions sur χ pour que ρ + εχ ∈ P(Ω) imposent R en particulier dχ = 0). L’´egalit´e ci-dessus peut en fait ˆetre d´emontr´ee proprement (voir [San-O]) et a lieu ρ-p.p. Nous allons passer directement aux cons´equences de cette condition : si on met ensemble le fait que la somme ci-dessus est constante et que l’on a T (x) = x − ∇ϕ(x) pour le T optimal, on obtient  δF  T (x) − x ∇ϕ(x) (8) =− =∇ (ρ) (x). τ τ δρ

Nous allons ´ecrire −v pour le ratio T (x)−x . Pourquoi ? Parce que, en tant que ratio τ entre un d´eplacement et un pas de temps, il joue le rˆole d’une vitesse, et le signe n´egatif est justifi´e par le fait qu’il repr´esente le mouvement de ρτk+1 `a ρτk , en remontant donc le temps. ere qu’`a la limite τ → 0 on Or, comme on a obtenu v = −∇ δF δρ (ρ)), cela sugg` obtiendra une solution de l’´equation   δF  ∂ρ − ∇ · ρ∇ (ρ) = 0, (9) ∂t δρ simplement parce que la densit´e ρt d’une famille de particules qui bouge instantan´ement ` a la vitesse vt est solution (au sens des distributions) de l’´equation de continuit´e ∂t ρt + ∇ · (ρt vt ) = 0.

Cette ´equation est compl´ement´ee par des conditions au bord de Neumann (8) v·nΩ = 0, correspondant au fait que la masse ne sort jamais du domaine Ω et permettant de v´erifier la conservation de la masse. Pour clarifier le sens de (9), il est utile de donner des exemples. Nous consid´erons trois types de fonctionnelles sur P(Ω) : Z Z ZZ 1 F (ρ) = f (ρ(x))dx, G(ρ) = V (x)dρ, H(ρ) = W (x − y)ρ(dx)ρ(dy), 2

o` u f : R → R est une fonction convexe et superlin´eaire (et ρ(x) indique la densit´e de ρ par rapport ` a la mesure de Lebesgue, la fonctionnelle F valant +∞ si ρ n’est pas absolument continue), V : Ω → R et W : Rd → R sont des fonctions suffisamment r´eguli`eres (on peut prendre W sym´etrique, par simplicit´e, W (z) = W (−z)). Dans ce cas il est assez simple de calculer δG δH δF (ρ) = f ′ (ρ), (ρ) = V, (ρ) = W ∗ρ. δρ δρ δρ

8. Nous signalons juste qu’une approche propos´ ee par Figalli et Gigli [FG] permet, en consid´ erant une variante de la distance W2 qui donne un rˆ ole sp´ ecial au bord, d’obtenir des conditions de Dirichlet.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

240

F. SANTAMBROGIO

Un exemple int´eressant est celui de f (t) = t ln t, qui donne f ′ (t) = ln t + 1 et equent, le flot de gradient associ´e `a cette fonctionnelle F ∇(f ′ (ρ)) = ∇ρ ρ : par cons´ ´ donnera l’Equation de la Chaleur ∂ρ ∂t − ∆ρ = 0. Si on prend F + G, on aura alors ´ −∆ρ−∇·(ρ∇V ) = 0. Le choix f (t) = tm peut donner l’Equation de Fokker-Planck ∂ρ ∂t ´ l’Equation des milieux poreux et la fonctionnelle d’interaction H donne, au contraire, des ´equations non-locales (et non-lin´eaires). Nous signalons aussi les ´equations pour les mod`eles de mouvement de foules, qui ont une forme diff´erente et beaucoup moins r´eguli`ere, ´etudi´ees d’abord dans un cas discret dans [MV1] (voir [MV2] pour plus de d´etails) et ´etendues au cas continu dans [MRS]. Ce n’est qu’en utilisant des m´ethodes de transport et flots de gradient que l’existence d’une solution dans le cas continu – auparavant trop dure – a ´et´e prouv´ee. Sans rentrer dans les d´etails de comment d´emontrer que ce sch´ema discret converge `a une solution de l’´equation de continuit´e, nous donnons juste une petite id´ee suppl´ementaire, qui porte sur l’interpolation de la suite ρτk (et des vitesses discr`etes correspondantes vkτ ). En effet, deux interpolations diff´erentes se r´ev`elent utiles : d’une part, on peut d´efinir une interpolation (ρτ , v τ ) constante par morceaux, comme dans (2) ; d’autre part, on peut connecter chaque mesure ρτk `a ρτk+1 en utilisant une g´eod´esique ρ˜τ de l’espace de Wasserstein, et (7) donne son expression explicite et montre qu’elle est obtenue en d´epla¸cant les particules avec une vitesse v˜τ apparent´ee `a v τ . Or, l’avantage de cette deuxi`eme interpolation est qu’on a une courbe continue et qu’on peut garantir que l’´equation de continuit´e est satisfaite. Au contraire, la premi`ere interpolation est discontinue et l’´equation n’est pas satisfaite, mais il y a un lien τ entre v τ et ρτ (v τ = −∇ δF ˜τ et v˜τ . Il est possible de δρ (ρ ))), ce qu’on n’a pas entre ρ d´emontrer que les deux interpolations convergent finalement `a la mˆeme limite lorsque τ → 0, et que donc ` a la limite on satisfait l’´equation de continuit´e avec un champ de vitesse qui est bien donn´e par v = −∇ δF δρ (ρ)), ce qui permet de conclure. Au niveau des applications en EDP, il me semble judicieux de souligner que – le point important en EDP est que les courbes (ρt )t obtenues de cette mani`ere sont de vraies solutions faibles de l’´equation de continuit´e ; de ce point de vue, le formalisme d´evelopp´e dans la premi`ere moiti´e de [AGS05] n’est pas crucial ; par contre, dans la deuxi`eme moiti´e du livre les auteurs s’occupent exactement d’´etudier les propri´et´es des courbes dans l’espace de Wasserstein (en donnant les r´esultats n´ecessaires pour pouvoir effectuer soigneusement le passage `a la limite τ → 0 ci-dessus) et de faire l’´equivalence entre les diff´erentes notions. Pourtant, si le but est d’obtenir l’existence d’une solution faible, la th´eorie dans les espaces m´etriques est souvent excessivement lourde. – Apr`es avoir utilis´e la th´eorie du transport optimal pour choisir la distance dans le sch´ema discret et ensuite pour l’interpolation, le passage `a la limite peut se faire par des techniques classiques de compacit´e dans l’espace des mesures et d’analyse fonctionnelle.

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

241

– Les hypoth`eses de λ-convexit´e ne sont en g´en´eral pas importantes `a ce niveau, en ce qui concerne l’existence. – Quant ` a l’unicit´e de la solution, le point de vue naturel serait celui de v´erifier l’unicit´e des solutions faibles de l’´equation (ou, ´eventuellement, de d´efinir une notion plus restrictive de solution de l’EDP correspondante), ce qui est a priori diff´erent des notions d’EDE ou d’EVI. Cependant, de fait l’unicit´e n’est pratiquement jamais prouvable sans des hypoth`eses de convexit´e. 2.3. Convexit´ e g´ eod´ esique pour W2 Or, bien qu’on ait insist´e sur le fait que dans ce cadre l’approche la plus naturelle est celle qui consiste ` a consid´erer les solutions faibles de certaines EDP, il est ind´eniable qu’il peut ˆetre int´eressant de v´erifier si la th´eorie d´evelopp´ee `a la section 1 peut s’appliquer aux fonctionnelles mod`eles F, G et H pr´esent´ees ci-dessus, d’autant plus que cela peut ˆetre une mani`ere de v´erifier l’unicit´e. En particulier, on peut se demander si elles sont g´eod´esiquement convexes, sachant qu’on connaˆıt maintenant les g´eod´esiques de l’espace de Wasserstein. Par exemple, il n’est pas difficile de v´erifier que la convexit´e de V est suffisante pour garantir la convexit´e g´eod´esique de G, puisque Z Z   G(µt ) = V d (1 − t)id + tT # µ = V (1 − t)x + tT (x) dµ, tout comme la convexit´e de W garantit celle de H : Z      H(µt ) = W (x − y) d (1 − t)id + tT # µ ⊗ (1 − t)id + tT # µ (x, y) Z  = W (1 − t)x + tT (x), (1 − t)y + tT (y) dµ ⊗ µ.

De mˆeme, si V ou W sont λ-convexes on obtient une λ-convexit´e g´eod´esique. Aussi, on pourrait se demander si l’hypoth`ese C2 G2 est satisfaite et, en regardant la question de pr`es, on se rend compte que la d´efinition a ´et´e justement donn´ee expr`es pour faire face au cas de l’espace de Wasserstein. En effet, le probl`eme principal de cet espace est que l’application µ 7→ W22 (µ, ν) n’a pas de propri´et´e de convexit´e g´eod´esique mais elle est plutˆ ot concave ; par contre, si on fixe ν ∈ P(Ω), et que l’on prend µ0 , µ1 deux autres mesures de probabilit´e et T0 , T1 les transports optimaux de ν vers µ0 et µ1 , alors la courbe (10)

µt := ((1 − t)T0 + tT1 )# ν

connecte µ0 ` a µ1 et peut ˆetre utilis´ee dans C2 G2 . Cette courbe est appel´ee une g´eod´esique g´en´eralis´ee entre µ0 et µ1 . Il n’est pas difficile de voir que ν 7→ W22 (µt , ν) satisfait l’hypoth`ese de convexit´e que l’on cherche, puisque Z 2 W22 (µt , ν) 6 |x − ((1 − t)T0 (x) + tT1 (x))| dν ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

242

F. SANTAMBROGIO

et le calcul suit de la convexit´e du coˆ ut quadratique. Aussi, la convexit´e des fonctionnelles G et H le long de la mˆeme courbe est ´evidente (puisqu’elle se basait uniquement sur le fait que la courbe µt ´etait obtenue en interpolant lin´eairement deux fonctions de transport). La convexit´e de F est plus d´elicate, mais faisable, et tout est r´esum´e dans la proposition suivante, essentiellement due `a McCann ([McC]). Proposition 2.1. — Supposons que Ω est un domaine convexe de Rd . Alors la fonctionnelle F est g´eod´esiquement convexe dans l’espace de Wasserstein si f est convexe et t 7→ td f (t−d ) est convexe d´ecroissante. G et H sont λ-g´eod´esiquement convexes si V et W sont λ-convexes, respectivement. Sous les mˆemes hypoth`eses, la convexit´e de F , G et H est ´egalement v´erifi´ee le long des g´eod´esiques g´en´eralis´ees d´efinies en (10). Ce r´esultat permet d’appliquer `a ces fonctionnelles la th´eorie de la section pr´ec´edente. Il est utile de remarquer que l’hypoth`ese sur la fonction f de la proposition 2.1 est satisfaite par toute fonction du type f (t) = tq , q > 1, et par f (t) = t ln t. Aussi, ce th´eor`eme se base, toujours en ce qui concerne la fonctionnelle F , sur la structure euclidienne de Ω et changerait profond´ement si on ´etait sur une vari´et´e. Il a ´et´e signal´e (voir [vRS]) que la condition de K-convexit´e g´eod´esique de la fonctionnelle Entropie sur une vari´et´e caract´erise une borne inf´erieure sur la courbure de la vari´et´e : Proposition 2.2. — Soient M une vari´et´e compacte de dimension d et ν sa mesure de volume renormalis´ee, de mani`ere ` a avoir ν ∈ P(M ). Soit E la fonctionnelle entroR pie d´efinie par E(ρ) = ρ ln ρ dν pour toute mesure ρ ≪ ν (et +∞ pour les mesures qui ne sont pas absolument continues par rapport ` a ν). Alors E est K-g´eod´esiquement convexe dans l’espace de Wasserstein (P(M ), W2 ) si et seulement si la courbure de Ricci RicM satisfait RicM > K. Pour le cas K = 0, la mˆeme ´equivalence est vraie si on remplace la fonction f (t) = t ln t par la fonction fN (t) = −t1−1/N avec N > d. Cela a donn´e lieu (on le verra dans la section 3) `a une d´efinition bas´ee sur le transport optimal de la notion de courbure de Ricci dans des espaces plus abstraits, d´efinition dont il est question dans les papiers c´el`ebres de Sturm, [St], et, ind´ependamment, de Lott et Villani, [LV].

´ 3. LE FLOT DE LA CHALEUR DANS LES ESPACES METRIQUES Cette troisi`eme section ne se propose que de pr´esenter le d´ebut des nouvelles recherches du trio Ambrosio-Gigli-Savar´e, `a nouveau centr´ees sur les espaces m´etriques, mais beaucoup plus ambitieuses, visant maintenant une th´eorie g´en´erale de l’analyse

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

243

dans ces espaces, en tirant profit des techniques et des notions d´evelopp´ees dans le cadre du transport optimal et des flots de gradient. Un point de d´epart pour tout cela a ´et´e la th´eorie du flot de la chaleur qu’on tˆ achera de pr´esenter bri`evement ici. L’observation cl´e est la suivante : dans l’espace euclidien Rd (ou dans un domaine Ω ⊂ Rd ), le flot de la chaleur ∂t ρ = ∆ρ peut ˆetre vu comme un flot de gradient de deux mani`eres diff´erentes – tout d’abord il s’agit du flot de gradient dans l’espace de Hilbert L2 (Ω), muni R de la norme usuelle, de la fonctionnelle d’´energie de Dirichlet D(ρ) = |∇ρ|2 dx (fonctionnelle qui vaut +∞ si ρ ∈ / H 1 (Ω)) ; dans ce cadre, le point de d´epart ρ0 pourrait ˆetre une fonction arbitraire dans L2 (Ω) mais les propri´et´es bien connues de l’´equation de la chaleur nous disent que ρ0 > 0 ⇒ ρt > 0 et, si Ω est tout R l’espace, ou si les conditions au bord sont de Neumann, alors ρ0 dx = 1 ⇒ R ρt dx = 1, ce qui permet de se restreindre aux densit´es de probabilit´e. – aussi, en prenant la fonctionnelle E de la section pr´ec´edente (avec f (t) = t ln t), le flot de la chaleur est ´egalement un flot de gradient dans l’espace W2 (Ω), comme on l’a d´ej` a remarqu´e. La question naturelle est : est-ce que le fait que ces deux flots co¨ıncident est un fait g´en´eral ? Que faudrait-il faire pour analyser et donner une r´eponse `a cette question dans un espace m´etrique g´en´eral ? Dans l’espace euclidien c’est simple : on ´ecrit l’EDP associ´ee ` a ces deux flots et, comme c’est la mˆeme et qu’il y a unicit´e, les deux flots co¨ıncident. Tout d’abord on se rend compte que la question n’est pas bien pos´ee si la seule structure dont on dispose est celle d’espace m´etrique, puisqu’il nous faut ´egalement une mesure de r´ef´erence (rˆ ole jou´e par la mesure le Lebesgue dans le cas euclidien), R R pour d´efinir l’int´egrale |∇ρ|2 dx, ainsi que pour l’entropie ρ ln ρ dx (cette fonctionnelle n’´etant pas 1-homog`ene, sa valeur d´epend de la mesure par rapport `a laquelle on calcule la densit´e ρ). On d´ecidera donc de se placer dans le cas des espaces m´etriques mesur´es, (X, d, m), o` u m > 0 est une mesure (de pr´ef´erence finie) sur les bor´eliens de X. Ceci ne doit pas surprendre, les espaces m´etriques mesur´es sont en ce moment la nouvelle fronti`ere de certaines branches de l’analyse g´eom´etrique, comme g´en´eralisation naturelle des vari´et´es riemanniennes. Pour ne pas alourdir la liste des r´ef´erences, on peut se limiter `a remarquer que les papiers suivants, d´ej` a pr´esents dans la bibliographie de cet expos´e par ailleurs, touchent ` a ces questions : [AG, AGS-heat, AGS-riem, AGS-grad, Che, Gig10, GKO, Haj1, Haj2, HK, LV, Sha, St]. ´ 3.1. Energies de Dirichlet et Cheeger dans des espaces m´ etriques mesur´ es ´ Pour bien poser la question il faut d’abord d´efinir le flot de l’Energie de Dirichlet et donc d´efinir cette ´energie. En gros, cela revient `a d´efinir l’espace H 1 (X) pour X espace m´etrique mesur´e (EMM). Ceci n’est pas une nouveaut´e, plusieurs auteurs l’ont ´etudi´e (en particulier [Haj1, Haj2, Che, Sha]) et les travaux r´ecents

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

244

d’Ambrosio, Gigli et Savar´e ([AGS-heat, AGS-grad]) ont d´emontr´e des r´esultats compl´ementaires utiles ` a leur analyse en toute g´en´eralit´e (en particulier, beaucoup de r´esultats pr´ec´edents demandaient des propri´et´es de doubling et l’existence d’une in´egalit´e de Poincar´e – voir aussi [HK] – comme hypoth`ese sur (X, d, m), absente dans ces papiers). L’une des premi`eres d´efinitions de l’espace de Sobolev sur un EMM avait ´et´e donn´ee par Hailasz, qui utilisait la d´efinition « f ∈ H 1 (X, d, m) si et seulement si il existe g ∈ L2 (X, m) telle que |f (x) − f (y)| 6 d(x, y)(g(x) + g(y)) », propri´et´e qui caract´erise les espaces de Sobolev dans Rn en prenant pour g la fonction maximale de |∇f |. Cette d´efinition n’´etant pas locale, tous les travaux plus r´ecents se fondent plutˆ ot sur les id´ees de Cheeger ([Che]), bas´ees sur la relaxation `a partir des fonctions lipschitziennes, et de Shanmuganlingam ([Sha]), bas´ees sur l’estimation R |f (x(0)) − f (x(1))| 6 |∇f (x(t))||x′ (t)| demand´ee sur « presque toutes » courbes, en un sens opportun. Le papier r´ecent [AGS-grad] pr´esente une classification de diff´erentes notions de « module du gradient » au sens faible dans un EMM et l’´equivalence R en analyse, mais ici on va se baser sur une seule d´efinition de |∇f |2 dm, celle qui nous semble la plus simple. Pour toute fonction f lipschitzienne sur X, prenons sa constante de Lipschitz locale R |∇f | d´efinie en (4), et posons D(f ) := |∇f |2 (x)dm. Ensuite, par relaxation on d´efinit ´ l’Energie de Cheeger (9) C(f ) : n o C(f ) := inf lim inf D(fn ) : fn → f en L2 (X, m), fn ∈ Lip(X) . n

On peut ensuite d´efinir l’espace de Sobolev H 1 (X, d, m) comme l’espace des fonctions telles p que C(f ) < +∞. Cet espace sera un espace de Banach muni de la norme f 7→ C(f ) et la fonction C sera convexe. On peut d´efinir −∆f comme l’´el´ement de norme minimale du sous-diff´erentiel p ∂C(f ), sachant qu’en g´en´eral l’application f 7→ −∆f ne sera pas lin´eaire (la norme C(f ) n’´etant pas hilbertienne). D´efinir le flot de la fonctionnelle C dans l’espace de Hilbert L2 (X, m) n’est maintenant gu`ere difficile, et rentre bien dans le cadre classique des fonctionnelles convexes dans les espaces de Hilbert et des op´erateurs maximaux monotones (voir [Bre]), avec des r´esultats d’existence et d’unicit´e qui sont valables dans un cadre tr`es g´en´eral (et qui s’appliquent ici). 3.2. Un flot de gradient bien pos´ e pour l’entropie Une deuxi`eme ´etape (d´evelopp´ee d’abord dans [Gig10] et ensuite g´en´eralis´ee dans [AGS-heat]) consiste ` a donner des conditions d’existence et d’unicit´e du flot de l’entropie. Pour ce faire, on consid`ere la fonctionnelle E, d´efinie sur l’ensemble des densit´es f R telles que ρ := f · m soit une mesure de probabilit´e, par E(f ) := f ln f dm et on

9. Le nom venant du fait que Cheeger avait aussi donn´ e une d´ efinition par relaxation ; de plus, les ´ auteurs ne souhaitaient pas l’appeler Energie de Dirichlet, parce que ce nom indique habituellement une forme quadratique.

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

245

en consid`ere les flots de gradient dans W2 au sens EDE. Pour pouvoir appliquer la th´eorie g´en´erale de la section 1, puisqu’on ne peut pas passer par la formulation faible de l’´equation de continuit´e, il est naturel de supposer que cette fonctionnelle E soit λ-g´eod´esiquement convexe pour un certain λ ∈ R. Cela revient `a dire, au sens de Sturm et Lott-Villani, que l’espace (X, d, m) est un EMM avec courbure de Ricci minor´ee. Nous donnons ici la d´efinition correspondante, d´ej` a ´evoqu´ee en fin de section 2. D´ efinition 3.1. — Un espace m´etrique mesur´e (X, d, m) est dit avoir une courbure de Ricci minor´ee par K ∈ R au sens de Sturm et Lott-Villani si la fonctionnelle d’entropie E : P(X) → R ∪ {+∞} d´efinie par (R f ln f dm si ρ = f · m E(ρ) = +∞ si ρ n’est pas absolument continue par rapport ` am est K-g´eod´esiquement convexe dans l’espace W2 (X). On dit alors que (X, d, m) satisfait la condition (10) CD(K, ∞). Remarquons aussi que la formulation EVI du flot de gradient n’est pas disponible dans ce cas, parce qu’il nous manque la convexit´e du carr´e de la distance de Wasserstein le long des g´eod´esiques. Pour pouvoir bien d´efinir le flot de gradient de E, Gigli a introduit dans [Gig10] une strat´egie int´eressante de preuve d’unicit´e pour les flots EDE. Proposition 3.2. — Si F : P(X) → R ∪ {+∞} est une fonctionnelle strictement convexe (par rapport aux combinaisons convexes usuelles µs := (1 − s)µ0 + sµ1 , ce qui a un sens dans le cadre des mesures de probabilit´es), telle que |∇− F | est un gradient sup´erieur pour F et que son carr´e |∇− F |2 est convexe, alors pour toute mesure µ ¯ de d´epart il existe au plus un seul flot de gradient µ(t) au sens EDE pour la fonctionnelle F d´emarrant en µ ¯ : µ(0) = µ ¯. En particulier, cela s’applique au cas de l’entropie E (la stricte convexit´e de la fonctionnelle ´etant ´evidente, la convexit´e de la pente se basant sur la formulation (6), valable en cas de λ-convexit´e g´eod´esique, et sur des propri´et´es alg´ebriques particuli`eres de la fonction t 7→ t ln t). 3.3. Comparaison des flots de gradient Il reste ensuite ` a v´erifier (et ce n’est pas trivial), que tout flot de gradient de C (par rapport ` a la m´etrique L2 ) est aussi un flot de gradient EDE pour E et la m´etrique W2 . Celle-ci ((C, L2 ) ⇒ (E, W2 )) est la direction la plus simple dans ce cadre, puisque les calculs sont plus simples ` a faire, la structure des flots de gradient des fonctionnelles 10. On utilise la notation g´ en´ erale CD(K, N ), qui repr´ esente le fait d’avoir une courbure minor´ ee par K et une dimension major´ ee par N (« CD » signifiant « curvature-dimension »).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

246

F. SANTAMBROGIO

convexes dans les espaces de Hilbert ´etant plus claire. Pour ce faire, il convient de calculer et d’estimer d E(ft ), o` u ft est un flot de gradient de C dans L2 (X, m). dt Ceci se base essentiellement sur une strat´egie d´evelopp´ee dans [GKO] et sur un lemme dˆ u` a Kuwada. La preuve initiale, contenue dans [GKO], est valable dans le cas des espaces d’Alexandroff (11) . La g´en´eralisation de ce mˆeme r´esultat aux EMM arbitraires satisfaisant CD(K, ∞) est faite dans [AGS-heat]. Proposition 3.3. — Si ft est un flot de gradient de C dans L2 (X, Hn ), on a l’´egalit´e avec l’information de Fischer : p d − E(ft ) = C(2 ft ). dt De plus, pour tout ρ = f · Hn ∈ P(X) on a p C(2 f ) > |∇− E|2 (ρ) (o` u la pente de E est calcul´ee par rapport ` a la distance W2 ). Aussi, en prenant la courbe ρt = ft · Hn , on trouve que ρt est une courbe absolument continue dans l’espace W2 (X) et p |ρ′ |(t)2 6 C(2 ft ).

Ces trois estimations impliquent que ρt est un flot de gradient pour l’entropie E par rapport ` a W2 .

Une fois qu’on a cette ´equivalence, on peut se poser la question des propri´et´es de ce flot de gradient. La distance L2 ´etant hilbertienne, il est facile de v´erifier la propri´et´e C2 G2 qui permet de dire que ce flot satisfait la condition EVI. Au contraire, il n’est pas du tout ´evident qu’il la satisfasse en ce qui concerne la fonctionnelle E et la distance W2 . On peut v´erifier que les trois assertions suivantes (dont le caract`ere vrai ou faux d´epend de l’espace (X, d, m), qui est suppos´e satisfaire CD(K, ∞)) sont ´equivalentes (voir [AGS-riem]) : – l’unique flot de gradient de l’entropie E dans l’espace de Wasserstein satisfait la condition EVI ; – le flot de la chaleur (qui est en mˆeme temps flot de E pour W2 et de C pour L2 ) est lin´eaire par rapport aux donn´ees initiales ; – (si on suppose de plus que (X, d, m) est une vari´et´e finsl´erienne munie de sa distance naturelle et de sa mesure de volume) X est une vari´et´e riemannienne. 11. Il s’agit (voir [BGP]) d’espaces m´ etriques o` u les triangles sont au moins aussi « gros » (en comparant les distances d’un sommet aux points d’une g´ eod´ esique connectant les autres sommets) que les triangles d’une vari´ et´ e mod` ele de comparaison de courbure constante k en dimension 2 (la dimension 2 ´ etant suffisante, puisque seuls les triangles apparaissent dans la d´ efinition). Il se trouve que ces espaces ont toujours une dimension enti` ere, et on peut les consid´ erer comme des EMM quand ils sont de dimension finie, et on les munit de la mesure Hn .

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

247

Par cons´equent, Ambrosio, Gigli et Savar´e ont propos´e dans [AGS-riem] une d´efinition d’EMM qui a une courbure de Ricci riemannienne born´ee inf´erieurement, en demandant ` a satisfaire CD(K, ∞) et la lin´earit´e du flot de la chaleur. C’est la notion d’espace « infinit´esimalement hilbertien » mentionn´ee dans la section 1. Il est important de remarquer (mais nous ne d´eveloppons pas ce sujet ici) que ces notions de bornes sur la courbure (riemanniennes ou pas) sont stables par convergence de Gromov-Hausdorff mesur´ees (une convergence `a la Gromov-Hausdorff bas´ee sur la distance de Wasserstein minimale entre les mesures images des deux espaces par des plongements isom´etriques dans un mˆeme espace).

´ ERENCES ´ REF [Amb]

L. Ambrosio – « Minimizing movements », Rend. Accad. Naz. Sci. XL Mem. Mat. Appl. (5) 19 (1995), p. 191–246.

[AG]

L. Ambrosio & N. Gigli – « A user’s guide to optimal transport », in Modelling and Optimisation of Flows on Networtks, Lecture Notes in Math., vol. 2062, Springer, 2013, p. 1–155.

[AGS05]

L. Ambrosio, N. Gigli & G. Savar´ e – Gradient flows in metric spaces and in the space of probability measures, Lectures Math. ETH Z¨ urich, Birkh¨ auser Verlag, Basel, 2005.

[AGS-riem]

, « Metric measure spaces with Riemannian Ricci curvature bounded from below », pr´epublication, 2011.

[AGS-comp]

, « Heat flow and calculus on metric measure spaces with Ricci curvature bounded below – the compact case », Boll. Unione Mat. Ital. (9) 5 (2012), no. 3, p. 575–629.

[AGS-grad]

, « Density of Lipschitz functions and equivalence of weak gradients in metric measure spaces », Rev. Mat. Iberoam. 29 (2013), no. 3, p. 969–996.

[AGS-heat]

, « Calculus and heat flow in metric measure spaces and applications to spaces with Ricci bounds from below », Invent. Math. 195 (2014), no. 2, p. 289–391.

[AS]

L. Ambrosio & G. Savar´ e – « Gradient flows of probability measures », (C. Dafermos & E. Feireisl, ´eds.), Handb. Differ. Equ., vol. 3, Elsevier/North-Holland, Amsterdam, 2007, p. 1–136.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

248

[Bre]

H. Br´ ezis – Op´erateurs maximaux monotones et semi-groupes de contractions dans les espaces de Hilbert, North-Holland Math., vol. 5, North-Holland Publishing Co., Amsterdam, 1973.

[BGP]

Y. Burago, M. Gromov & G. Perel′ man – « A. D. Aleksandrov spaces with curvatures bounded below », Uspekhi Mat. Nauk 47 (1992), p. 3–51, traduction anglaise : Russian Math. Surveys 47 (1992), p. 1–58.

[BS]

G. Buttazzo & F. Santambrogio – « A model for the optimal planning of an urban area », SIAM J. Math. Anal. 37 (2005), no. 2, p. 514– 530.

[Che]

J. Cheeger – « Differentiability of Lipschitz functions on metric measure spaces », Geom. Funct. Anal. 9 (1999), no. 3, p. 428–517.

[DS]

´ – « Eulerian calculus for the displacement S. Daneri & G. Savare convexity in the Wasserstein distance », SIAM J. Math. Anal. 40 (2008), no. 3, p. 1104–1122.

[DeG]

E. De Giorgi – « New problems on minimizing movements », in Boundary value problems for partial differential equations and applications, RMA Res. Notes Appl. Math., vol. 29, Masson, Paris, 1993, p. 81–98.

[FG]

A. Figalli & N. Gigli – « A new transportation distance between nonnegative measures, with applications to gradients flows with Dirichlet boundary conditions », J. Math. Pures Appl. (9) 94 (2010), no. 2, p. 107– 130.

[Gig10]

N. Gigli – « On the heat flow on metric measure spaces: existence, uniqueness and stability », Calc. Var. Partial Differential Equations 39 (2010), no. 1-2, p. 101–120.

[Gig-HDR]

, « Propri´et´es g´eom´etriques et analytiques de certaines structures non lisses », M´emoire HDR, Univ. Nice-Sophia-Antipolis, 2011.

[GKO]

N. Gigli, K. Kuwada & S.-I. Ohta – « Heat flow on Alexandrov spaces », Comm. Pure Appl. Math. 66 (2013), no. 3, p. 307–331.

[Haj1]

P. Hajlasz – « Sobolev spaces on an arbitrary metric space », Potential Anal. 5 (1996), no. 4, p. 403–415.

[Haj2]

, « Sobolev spaces on metric-measure spaces », in Heat kernels and analysis on manifolds, graphs, and metric spaces (Paris, 2002) (P. Auscher, T. Coulhon & A. Grigor´ıyan, ´eds.), Contemp. Math., vol. 338, Amer. Math. Soc., Providence, 2003, p. 173–218.

[HK]

P. Hajlasz & P. Koskela – « Sobolev met Poincar´e », Mem. Amer. Math. Soc. 145 (2000), no. 688, p. 1–101.

´ ASTERISQUE 361

(1065)

´ FLOTS DE GRADIENT DANS LES ESPACES METRIQUES

249

[JKO]

R. Jordan, D. Kinderlehrer & F. Otto – « The variational formulation of the Fokker-Planck equation », SIAM J. Math. Anal. 29 (1998), no. 1, p. 1–17.

[Kan]

L. V. Kantorovitch – « On the transfer of masses », Dokl. Akad. Nauk. SSSR 37 (1942), p. 227–229.

[LV]

J. Lott & C. Villani – « Ricci curvature for metric-measure spaces via optimal transport », Ann. of Math. (2) 169 (2009), no. 3, p. 903–991.

[MRS]

B. Maury, A. Roudneff-Chupin & F. Santambrogio – « A macroscopic crowd motion model of gradient flow type », Math. Models Methods Appl. Sci. 20 (2010), no. 10, p. 1787–1821.

[MV1]

B. Maury & J. Venel – « A mathematical framework for a crowd motion model », C. R. Acad. Sci. Paris, S´er. I 346 (2008), no. 23-24, p. 1245–1250.

[MV2]

, « A discrete contact model for crowd motion », ESAIM Math. Model. Numer. Anal. 45 (2011), no. 1, p. 145–168.

[McC]

R. J. McCann – « A convexity principle for interacting gases », Adv. Math. 128 (1997), no. 1, p. 153–179.

[Otto]

F. Otto – « The geometry of dissipative evolution equations : the porous medium equation », Comm. Partial Differential Equations 26 (2001), no. 1-2, p. 101–174.

[vRS]

M.-K. von Renesse & K.-T. Sturm – « Entropic measure and Wasserstein diffusion », Ann. Probab. 37 (2009), no. 3, p. 1114–1191.

[San-X]

F. Santambrogio – « Gradient flows in Wasserstein spaces and appli´ cations to crowd movement », S´eminaire Laurent Schwartz no 27, Ecole polytechnique, 2010.

[San-O]

, « Optimal transport for applied mathematicians », notes de ´ cours d’Ecole doctorale, Orsay, 2012, en r´evision, disponibles `a la page http://www.math.u-psud.fr/~santambr/OTAM.pdf.

[Sha]

N. Shanmugalingam – « Newtonian spaces : an extension of Sobolev spaces to metric measure spaces », Rev. Mat. Iberoamericana 16 (2000), no. 2, p. 243–279.

[St]

K.-T. Sturm – « On the geometry of metric measure spaces. I », Acta Math. 196 (2006), no. 1, p. 65–131.

[Vil03]

C. Villani – Topics in optimal transportation, Grad. Stud. Math., vol. 58, Amer. Math. Soc., Providence, 2003.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

F. SANTAMBROGIO

250

[Vil09]

C. Villani – Optimal transport: old and new, Grundlehren Math. Wiss., vol. 338, Springer-Verlag, Berlin, 2009.

Filippo SANTAMBROGIO Universit´e Paris-Sud Laboratoire de Math´ematiques d’Orsay UMR 8628 du CNRS Bˆatiment 425 91405 Orsay Cedex France E-mail : [email protected]

´ ASTERISQUE 361

Séminaire BOURBAKI 65e année, 2012-2013, no 1066, p. 251 à 269

Janvier 2013

L’ÉQUATION DE KARDAR-PARISI-ZHANG [d’après Martin Hairer] par Lorenzo ZAMBOTTI

1. INTRODUCTION Dans cet exposé, nous présentons les résultats de Martin Hairer [6] sur l’équation de KPZ (Kardar-Parisi-Zhang, à ne pas confondre avec la formule de Knizhnik-PolyakovZamolodchikov en gravité quantique, qui a été l’objet d’un Séminaire Bourbaki en mars 2012). Cette équation a été introduite en 1986 dans [8] pour décrire les fluctuations d’une interface dans un modèle de croissance aléatoire et a été ensuite reconnue comme un objet universel, censé être la limite d’échelle de nombreux modèles en mécanique statistique, comme les fluctuations du WASEP (weakly asymmetric simple exclusion process) [2], ou la fonction de partition de polymères dirigés en milieu aléatoire [7, 1] : voir [3] pour plus de résultats et détails dans ce contexte. Formellement, l’équation de KPZ s’écrit (1)

∂t h = ∂x2 h + (∂x h)2 − ∞ + ξ,

def

t > 0, x ∈ S1 = R/2πZ,

où h = h(t, x) est une fonction continue aléatoire sur R+ × S1 et ξ = ξ(t, x) est une distribution aléatoire sur R+ × S1 avec loi gaussienne (qui sera précisée ci-dessous). Il s’agit d’une équation parabolique non-linéaire avec un terme aléatoire, en d’autres termes d’une équation aux dérivées partielles stochastique (EDPS). Dans le membre de droite de (1) on voit une constante infinie, dont le rôle est de renormaliser la non-linéarité quadratique, censée diverger car la solution h ne peut pas être différentiable en espace. L’équation de KPZ n’est en effet pas une EDPS standard ; paradoxalement, depuis une vingtaine d’années, on connaît un candidat explicite pour h, la solution de Cole-Hopf décrite ci-dessous, mais on ne sait pas prouver rigoureusement qu’il satisfait (1) ! Tous les résultats récents où intervient l’équation de KPZ sont en effet fondés sur la connaissance de cette solution explicite, pas sur la forme de l’équation qu’elle est censée résoudre.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

252

L. ZAMBOTTI

Malheureusement cette approche a plusieurs défauts, notamment l’impossibilité de développer des méthodes robustes d’approximation de (1) et de montrer que des limites d’échelle d’objets discrets sont solutions de cette équation : cela a été accompli par exemple pour le WASEP car il est l’un des rares processus discrets à posséder une version discrète de la transformation de Cole-Hopf ; dès que ce miracle ne se produit pas, on est dans l’impasse. Toutes les tentatives de donner une théorie d’existence et d’unicité pour les solutions de (1) sans passer par la transformation de Cole-Hopf ont jusque-là échoué. Le travail récent [6] résout ce problème et ouvre des perspectives passionnantes ; les deux problématiques principales, a priori non directement reliées à l’équation (1), sont les suivantes : 1) comment définir le produit d’une distribution (au sens de Schwartz) et d’une fonction de régularité très faible, et résoudre des EDP ou EDPS contenant de tels produits ; 2) comment prouver l’existence d’une classe, indexée par des arbres binaires, de fonctions polynomiales d’un champ aléatoire gaussien. Le premier problème est de nature analytique, et il est résolu avec la théorie des chemins rugueux ; le second est de nature probabiliste mais il requiert une étude combinatoire d’une classe de graphes associés, inspirés des diagrammes de Feynman. Un aspect intrigant est que les résultats « à la Cole-Hopf » et ceux de Hairer restent à peu près orthogonaux, car il semble aujourd’hui impossible de prouver les uns dans le contexte des autres. Cependant les deux théories se développent actuellement très rapidement et on ne peut qu’attendre avec impatience les nouvelles avancées qui se préparent déjà.

2. PREMIERS PAS VERS KPZ Le prototype d’EDPS est l’équation de la chaleur stochastique avec bruit additif : ∂t Y = ∂x2 Y + ξ,

(2)

t > 0, x ∈ S1 ,

où Y = Yt (x) est une fonction continue aléatoire sur R+ × S1 et ξ = ξ(t, x) est un bruit blanc en espace-temps, c’est-à-dire un champ aléatoire à valeurs dans les distributions sur R+ × S1 avec loi gaussienne centrée et fonction de corrélation (3)

t, s > 0, x, y ∈ S1 .

E(ξ(x, t)ξ(y, s)) = δ(x − y) δ(t − s),

Par les propriétés des vecteurs gaussiens, ξ(x, t) et ξ(y, s) sont indépendants lorsque (x, t) 6= (y, s). Une façon standard de construire un tel champ aléatoire consiste à considérer la base de Fourier (ek (·))k∈Z de L2 (S1 ) et une suite indépendante de mouvements browniens réels (Bk )k∈Z ; on définit alors pour tous t > 0 et ψ ∈ C(S1 ) Z X def ψ(x) ξ(s, x) ds dx = Bk (t) hek , ψi, [0,t]×S1

ASTÉRISQUE 361

k

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

253

où nous notons h·, ·i le produit scalaire canonique dans L2 (S1 ). On voit facilement que la série dans le terme de droite converge p.s. et que la fonction de corrélation de ξ est donnée par (3). Pour toute condition initiale Y0 ∈ C(S1 ), l’équation (2) a une unique solution explicite qui s’écrit par la méthode de variation des constantes Z t XZ t 2 def def Yt = Pt Y0 + St , St = e−k (t−s) dBk (s) ek = Pt−s ξ(s, ·) ds, k

0

0

où (Pt )t>0 est le semigroupe de la chaleur sur S1 . La fonction S = St (x) est appelée la convolution stochastique et il est bien connu [4] que presque sûrement elle admet 1 une version dans C(R+ ; C 2 −ε (S1 )) pour tout ε > 0 mais pas mieux. Quand f : R 7→ R est une application lipschitzienne, on peut donner une théorie d’existence et unicité de solutions de l’EDPS non-linéaire (4)

∂t X = ∂x2 X + f (X) + ξ,

t > 0, x ∈ S1 ,

en s’appuyant sur la formulation mild Z (5)

t

Xt = Pt X0 +

Pt−s f (Xs ) ds + St 0

et sur une méthode de point fixe, voir par exemple [4]. La régularité de X = Xt (x) est évidemment la même que celle de S = St (x). On peut remarquer que tout l’aléa dans (5) est concentré dans S ; on peut donc considérer S comme une fonction continue générique, résoudre (5) pour tout S ∈ C(R+ × S1 ), montrer que l’application S 7→ X est mesurable et ensuite remplacer S par l’expression de la convolution stochastique donnée ci-dessus. 2.1. La solution à la Cole-Hopf Comme nous l’avons vu pour (4), les solutions des EDPS avec bruit blanc en espace-temps ne sont pas plus que höldériennes en espace, donc le terme (∂x h)2 dans (1) ne peut pas être défini de façon classique, et la constante infinie « ∞ » est censée renormaliser ce terme divergent. Une formulation mild comme (5) n’est pas possible pour KPZ. Une autre justification de la nécessité d’une telle renormalisation du terme quadratique est donnée par la transformation de Cole-Hopf. Si l’on pose (6)

∂t Z = ∂x2 Z + Zξ,

t > 0, x ∈ S1 ,

où Zξ est à interpréter comme une intégrale stochastique à la Ito donnée par X def Zξ = hek , Zi ek dBk , k

alors un résultat dû à Mueller [10] montre que p.s. Z(t, x) > 0 pour tous t > 0, x ∈ S1 def si Z(0, ·) > 0 ; une application formelle de la formule d’Ito montre alors que h = log Z

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

254

L. ZAMBOTTI

est une solution de KPZ. Pour justifier ce calcul formel, nous pouvons considérer une régularisation en espace ξε de ξ, définie pour tous t > 0 et ψ ∈ C(S1 ) par Z X def (7) ψ(x) ξε (s, x) ds dx = ϕ(εk) Bk (t) hek , ψi, [0,t]×S1

k

où ϕ : R 7→ R+ est une fonction paire, régulière, décroissante sur R+ , avec support compact et telle que ϕ(0) = 1. Nous définissons alors Zε en remplaçant ξ par ξε dans (6) et une application (cette fois-ci rigoureuse) de la formule d’Ito montre que def hε = log Zε est solution classique de ∂t hε = ∂x2 hε + (∂x hε )2 − Cε + ξε , R P où Cε = k∈Z ϕ2 (kε) ≈ 1ε R ϕ2 (x) dx. Puisque Zε converge vers Z et donc hε vers h, il est naturel de considérer h = log Z comme une solution de KPZ. Cependant le passage à la limite dans (8) reste impossible à cause du terme quadratique qui n’est pas bien défini à la limite et de la constante Cε qui diverge lorsque ε ↓ 0. (8)

Pour les EDPS classiques comme (4), on se réduit à l’EDP (5) avec un terme aléatoire S et ensuite on applique une méthode « déterministe » de point fixe. Hairer a développé pour KPZ une version beaucoup plus sophistiquée de cette approche, en écrivant une équation différente mais équivalente à (8), où apparaît un nombre fini (cinq) de fonctions polynomiales du bruit sous-jacent ξε et pour laquelle on peut écrire un problème de point fixe ; ensuite il montre que les (cinq) fonctions polynomiales convergent lorsque ε ↓ 0 et que le problème de point fixe reste stable par ce passage à la limite. Plus précisément, il obtient – un espace polonais X , – une application h : X 7→ C(R+ × S1 ) continue, – des variables aléatoires Ψε , Ψ ∈ X , tels que presque sûrement h(Ψε ) est la solution de l’équation régularisée (8), h(Ψ) est la solution à la Cole-Hopf et Ψε → Ψ dans X . Une solution de KPZ est donc construite pour une classe générale de bruits ξ avec des propriétés de continuité dans une topologie appropriée. Cela donne une résolution trajectorielle de KPZ. 2.2. Processus indexés par des arbres binaires Commençons par une étude de l’équation (8). La structure quadratique de la nonlinéarité suggère une écriture de la solution comme une série indexée par l’ensemble T des arbres binaires finis enracinés. Nous notons • ∈ T l’arbre trivial contenant uniquement la racine ; si τ1 , τ2 ∈ T , alors τ = [τ1 , τ2 ] est la concaténation de τ1 et τ2 , c’est-à-dire que τ contient sa racine, à laquelle sont attachés τ1 et τ2 par les racines respectives. Nous définissons (9)

ASTÉRISQUE 361

∂t Yε = ∂x2 Yε + ξε ,

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

255

et pour tout τ = [τ1 , τ2 ] avec τ1 , τ2 ∈ T , ∂t Yετ = ∂x2 Yετ + ∂x Yετ1 ∂x Yετ2 − Cετ ,

(10)

t > 0, x ∈ S1 ,

où Cετ est une constante qui devra être choisie de façon appropriée. Les conditions initiales de (9) et (10) sont telles que les processus τ (hYε,t , ek i, k ∈ Z \ {0})t>0 ,

(11)

∀τ ∈ T ,

τ soient stationnaires, et hYε,0 , e0 i = 0 (ces choix ne sont pas les seuls possibles mais ils simplifient les calculs dans la preuve du théorème 2.1 ci-dessous). On voit alors facilement que la série formelle X def (12) hε = Yετ τ

résout (formellement aussi) l’équation ∂t hε = ∂x2 hε + (∂x hε )2 −

X

Cετ + ξε ,

τ τ τ Cε .

P

c’est-à-dire l’équation (8) si Cε = Le problème avec cette approche est que, pour ε > 0, la convergence de la série dans (12) est loin d’être évidente ; ensuite, même après avoir surmonté ce problème, on ne saurait pas montrer que hε converge quand ε ↓ 0. La stratégie adoptée par Hairer est différente : il effectue une troncature de la série dans (12), en cherchant des solutions de (8) sous la forme X def (13) hε = Yετ + uε = h?ε + uε , T¯ = {•, , , , , , , , }, τ ∈T¯

et il prouve que (1) pour τ ∈ T¯ il existe une constante Cετ telle que Yετ converge en probabilité dans un espace de fonctions höldériennes (de régularité dépendant de τ ) vers un processus Y τ quand ε ↓ 0 ; (2) le reste uε satisfait une équation pour laquelle il est possible de justifier un passage à la limite quand ε ↓ 0 et on peut prouver que les limites possibles sont uniques et dépendent du bruit ξ de façon continue (dans une topologie appropriée). 2.3. Convergence de Yετ Plus précisément, le point 1 est prouvé dans le Théorème 2.1. — On définit α =

1 , 2

α = 1,

α[τ1 ,τ2 ] = (ατ1 ∧ ατ2 ) + 1,

τ1 , τ2 ∈ T .

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

256

L. ZAMBOTTI

On pose Cετ = 0 si τ ∈ T \ { , , , , , } et X  ϕ2 (kε) = Cε , Cε =     k∈Z    Z Z  4π xϕ0 (y)ϕ(y)ϕ2 (y − x) log y dx dy, Cε = √ | log ε| − 8 (14) x2 − xy + y 2  3 R+ R        C = C = C = C = − Cε . ε ε ε ε 4 τ Avec ce choix des constantes Cε dans (10), pour tout τ ∈ T le processus Yετ converge en probabilité dans C(R+ , C δ (S1 )), pour tout δ ∈ ]0, ατ [, vers un processus Y τ qui ne dépend pas de la fonction ϕ choisie pour régulariser le bruit ξ. Nous discutons le théorème 2.1 dans la section 4 ci-dessous. On remarque que, avec le choix (14), nous avons bien Cε = la symétrie de la fonction bilinéaire dans (10) Yε = Yε ,

P

τ

Cετ . En outre, par

Yε = Yε = Yε = Yε .

def On peut donc restreindre l’étude à Yετ pour τ ∈ T¯0 = {•, , , , }. Le résultat de convergence des processus Yετ inclut le tableau suivant sur la régularité en espace des processus limites Y τ pour τ ∈ T

(15)

Yτ ατ

Y 1 2

Y 1

Y 3 2

Y 2

Y 3 2

Y [ ,τ ] 3 2

Y τ,τ ∈ / T¯0 3 >2

où l’on rappelle que Y τ ∈ C(R+ , C δ (S1 )), pour tout δ < ατ . En particulier (1) Le processus racine Y est le moins régulier, avec α = 1/2. / {•, }, alors ατ > 3/2 et Y τ est donc continûment différentiable en (2) Si τ ∈ espace. 2.4. L’équation satisfaite par le reste Nous introduisons la notation def Y¯ετ = ∂x Yετ ,

τ ∈T.

Par des simples manipulations algébriques, on voit que si hε doit résoudre (8) et h?ε est défini par (13), alors il faut et il suffit que uε = hε − h?ε résolve  ¯? + R ¯ ?ε , (16) ∂t uε = ∂x2 uε + 2 Y¯ε ∂x uε + Y¯ε + 4 Y¯ε + (∂x uε )2 + 2 ∂x uε ∂x h ε où (17)

? ¯ ? def h ε = hε − Yε =

X τ ∈T¯ \{•}

ASTÉRISQUE 361

Yετ ,

¯ ?ε = R

X ¯ \{•} τ,κ∈T ¯ [τ,κ]6∈T

Y¯ετ Y¯εκ .

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

257

Par le tableau de régularité (15), on voit que (16) contient un terme Y¯ε , dérivée en 1 espace d’une fonction C 2 . Nous avons donc besoin d’introduire des espaces de régularité höldérienne négative : si α ∈ ]0, 1[ on définit C −α = C −α ([0, 2π]) comme la complétion def de C par rapport à la norme kf kC −α = kF kC 1−α où F est une primitive de f . On rappelle la Proposition 2.2. — Soient α ∈ (0, 1) et β > α. L’application bilinéaire (u, v) 7→ uv admet une extension continue de C −α × C β dans C −α . Par le théorème 2.1, la proposition 2.2 et le tableau de régularité (15), quand ε ↓ 0, ¯ ? ) converge vers (R ¯ ? ) dans C(R+ , C −β × C −β ) pour tout β > 0. ¯ ?ε , h ¯ ?, h le couple (R ε Le terme le moins régulier dans (16) est Y¯ε , qui converge dans C(R+ , C −γ ) pour tout γ > 1/2 ; on s’attend alors à ce que uε puisse converger dans C(R+ , C α ) pour tout α < 3/2, car le semigroupe de la chaleur permet de gagner deux dérivées spatiales. Malheureusement, on ne peut pas prouver la convergence du produit Y¯ε ∂x uε de façon classique quand ε ↓ 0, car pour appliquer la proposition 2.2 on aurait besoin de α > 3/2. De même, la proposition 2.2 permet de traiter le produit Y¯ε Y¯ε mais pas Y¯ε Y¯ε quand ε ↓ 0. La solution utilisée par Hairer consiste à prouver que les processus Yετ et uε convergent en un sens plus fort que dans des espaces de fonctions höldériennes (voir le théorème 3.2 ci-dessous pour une formulation précise). Pour expliquer cela, nous avons def besoin d’une manipulation supplémentaire de l’équation (16). En notant vε = ∂x uε , (16) devient  (18) ∂t vε = ∂x2 vε + ∂x Y¯ε vε0 + ∂x Fε (vε , t), où nous posons (19)

 def vε0 = 2 vε + Y¯ε + 4 Y¯ε ,

def ¯? + R ¯ ?. Fε (vε , t) = vε2 + 2 vε ∂x h ε ε

Par les arguments précédents, on s’attend à ce que, quand ε ↓ 0, vε0 puisse converger dans C(R+ , C α¯ ) pour α ¯ < 1/2, et que la non-linéarité Fε ne pose pas de problèmes. Par (18) nous obtenons donc que vε peut être étudié comme une perturbation du processus Φε , solution de (20)

∂t Φε = ∂x2 Φε + ∂x2 Yε .

Si on est capable de montrer que, quand ε ↓ 0, Φε ∂x Yε converge vers une distribution et si vε est localement comparable à Φε uniformément en ε, alors on peut espérer pouvoir donner un sens à l’expression v ∂x Y . Ceci est effectivement possible grâce à la théorie des chemins rugueux que l’on va présenter ci-dessous.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

258

L. ZAMBOTTI

3. FORMULATION RIGOUREUSE DE KPZ Dans cette section nous discutons comment le résultat du théorème 2.1 permet de donner une résolution trajectorielle de l’équation (1) de KPZ. 3.1. Chemins rugueux Le but est de donner une extension de la proposition 2.2 à des cas où β 6 α : en d’autres termes, de définir une distribution produit uv quand u est une distribution et v est une fonction avec régularité faible. Une approche possible est donnée par les rough paths (chemins rugueux), une théorie initiée par Terry Lyons [9] et développée ensuite par plusieurs auteurs ; nous présentons rapidement ici une approche due à Massimiliano Gubinelli [5] et utilisée par Hairer. Soient I = [a, b] un intervalle compact, α, α ¯ , β, β¯ ∈ ]0, 1[, tels que α ¯ 6 α,

β¯ 6 β,

¯ ∧ (α (α + β) ¯ + β) > 1.

Le cas intéressant est celui où α < 1/2, et donc β¯ > 1/2, car sinon on est dans le contexte de la proposition 2.2. Soit Y l’espace des quintuplets (Y, Φ, Y, v, v 0 ) tels que Y, Φ, v ∈ C α (I), Y ∈ C β (I × I), v 0 ∈ C α¯ (I), satisfaisant la relation algébrique (21)

Y(x, z) − Y(x, y) − Y(y, z) = δY (x, y) δΦ(y, z),

∀x, y, z ∈ I,

β¯

et tels que R ∈ C (I × I), où (22)

def

R(x, y) = δv(x, y) − v 0 (x) δΦ(x, y),

∀x, y ∈ I,

et nous utilisons la notation def

δv(x, y) = v(y) − v(x). La relation (21) est satisfaite si Y est régulier et l’on pose Z y Y(x, y) = δΦ(x, z) dY (z), x, y ∈ I. x

La relation (22) dit que localement v est comparable à un multiple de Φ, modulo un reste R plus régulier que v car β¯ > α ; la fonction v 0 est interprétée comme une sorte de dérivée. Suivant la terminologie de Gubinelli, on interprète (22) en disant que (v, v 0 ) est un chemin contrôlé par Φ. La fonction Y est liée à l’aire de Lévy sur l’intervalle [x, y] du vecteur (Φ, Y ). Nous avons alors le résultat suivant Proposition 3.1. — L’application Z ·   (Y, Φ, Y, v, v 0 ) 7→ Y, Φ, Y, v dY, v , 0

définie sur les éléments réguliers de Y, a une extension unique à une application continue I : Y → Y, que nous notons Z ·   (23) I : (Y, Φ, Y, v, v 0 ) 7→ Y, Φ, Y, v dY, v , 0

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

259

par rapport à la norme naturelle (24)

k(Y, Φ, Y, v, v 0 )kY = kY kα + kΦkα + kYkβ + kv 0 kα¯ + kRkβ¯ .

Cette proposition permet donc de définir une distribution produit vu = v dY dans un R· cadre plus général que dans la proposition 2.2. L’intégrale généralisée 0 v dY définie dans (23) est appelée intégrale rugueuse (ou rough integral). Les chemins rugueux ont été introduits pour étudier des équations différentielles contenant les dérivées distributionnelles en temps de processus höldériens ; l’idée d’appliquer cette théorie à des distributions en espace est plus récente et, dans le cas des EDPS, due à Hairer aussi.

3.2. Retour à KPZ régularisé Pour traiter la convergence de vε dans (18) lorsque ε ↓ 0, nous allons utiliser la proposition 3.1 et en particulier la continuité de l’application I. Pour cela, nous avons 0 besoin de construire un processus (Yε,t , Φε,t , Yε,t , vε,t , vε,t )t>0 à valeurs dans Y et montrer sa convergence par rapport à la norme (24). En utilisant les définitions (19) et (20) on définit le processus aire Z y Yε,t (x, y) = δΦε,t (x, z) dYε,t (z), x, y ∈ S1 . x

On a alors (Yε , Φε , Yε , vε , vε0 ) ∈ C([0, T ]; Y). L’un des résultats principaux de l’article de Hairer, qui renforce le théorème 2.1 aussi, est le suivant Théorème 3.2. — Soient dans la définition de Y α=

1 − κ, 2

β = 2α,

α ¯ = 3κ,

1 β¯ = + 2κ 2

pour un κ > 0 petit. Quand ε ↓ 0 (1) (Yε , Φε , Yε , vε , vε0 ) converge en probabilité vers un processus (Y , Φ, Y, v, v 0 ) dans C([0, T ]; Y) (2) (Yε , Φε , Yε , Y¯ε , Y¯ε ) converge en probabilité vers un processus (Y , Φ, Y, Y¯ , Y¯ ) dans C([0, T ]; Y). En particulier, Y¯ est contrôlé en espace par Φ avec dérivée Y¯ et reste R . Ce résultat, grâce à la proposition 3.1, permet de traiter la convergence des termes Y¯ε vε et Y¯ε Y¯ε dans (18).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

260

L. ZAMBOTTI

3.3. Formulation précise de KPZ Nous rappelons que le but est de donner une résolution trajectorielle de KPZ, c’est-à-dire de trouver un espace polonais X , une application h : X 7→ C(R+ × S1 ) continue, et des variables aléatoires Ψε , Ψ ∈ X , tels que presque sûrement h(Ψε ) est la solution de (8), h(Ψ) est la solution de Cole-Hopf et Ψε → Ψ dans X . Nous fixons d’abord des notations, motivées par les arguments des pages précédentes. (1) Pour T¯ = {•, , , , , , , , } nous définissons α =

1 , 2

α[τ1 ,τ2 ] = (ατ1 ∧ ατ2 ) + 1,

α = 1,

τ1 , τ2 ∈ T¯ ,

def

et les espaces polonais Xτ = ∪δ∈ ]0,ατ [ C(R+ , C δ (S1 )) avec les semi-normes naturelles. (2) Pour T¯0 = {•, , , , }, nous définissons !     M 3 3 (25) W= Xτ ⊕ C R+ , C 4 ([0, 2π]2 ) ⊕ C R+ , C 4 ([0, 2π]2 ) , τ ∈T¯0

et nous notons Ψ = ((Y τ )τ ∈T¯0 , Y, R ) ∈ W. Si τ ∈ { , , , }, alors Y τ est défini par Y =Y ,

Y

=Y =Y

=Y .

(3) L’espace X ⊂ W est la sous-variété algébrique définie par les relations  ∂t Φ = ∂x2 Φ + ∂x2 Y    Y(x, z) − Y(x, y) − Y(y, z) = δY (x, y) δΦ(y, z), ∀x, y, z ∈ [0, 2π]    ∀x, y ∈ [0, 2π] Rt (x, y) = δ Y¯t (x, y) − Y¯t (x) δΦt (x, y), où δv(x, y) = v(y) − v(x). (4) Nous définissons X ¯? = h Y τ, τ ∈T¯ \{•}

¯? + Y , h? = h

X

¯? = R

Y¯ τ Y¯ κ .

¯ \{•} τ,κ∈T ¯ [τ,κ]6∈T

(5) Pour tout Ψ = ((Y τ )τ ∈T¯0 , Y, R ) ∈ X nous définissons l’espace BΨ,T des triplets (v, v 0 , Rv ) = (vt (x), vt0 (x), Rtv (x, y))t∈[0,T ],

x,y∈S1

tels que Rtv (x, y) = δvt (x, y) − vt0 (x) δΦt (x, y). L’espace BΨ,T est muni d’une distance induite par une norme höldérienne que nous n’explicitons pas et qui le rend polonais.

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

261

Avec ces définitions, nous pouvons écrire une équation dont seront solutions les limites h de hε quand ε ↓ 0. Pour tout Ψ = ((Y τ )τ ∈T¯0 , Y, R ) ∈ X , on aura h = h? + u,

(26) def

avec v = ∂x u solution de l’équation obtenue en passant à la limite dans (18) (   ¯? + R ¯? , ∂t v = ∂x2 v + 2 ∂x Y¯ v + Y¯ + 4 Y¯ + ∂x v 2 + 2 v ∂x h (27) v0 = ∂x (h0 − h?0 ) où les produits Y¯ v et Y¯ Y¯ sont les dérivées distributionnelles en espace des intégrales rugueuses définies à l’aide de la proposition 3.1 ; la moyenne spatiale mt de ut (·) est récupérée en intégrant par rapport à x et en passant à la limite dans (16) Z Z   ¯? + R ¯ ? dz. (28) ∂t m = 2 vt (z) + Y¯t (z) + 4 Y¯t (z) dY¯t (z) + (vt )2 + 2 vt ∂x h t t S1

S1

L’un des résultats principaux de l’article de Hairer est le suivant Théorème 3.3. — Soit β ∈ ]0, 1/2[. (1) Pour tout Ψ ∈ X et tout h0 ∈ C β (S1 ) il existe T? = T? (h0 , Ψ) > 0 tel que (27) a une et une seule solution v = v(h0 , Ψ) dans BΨ,T? . (2) Pour tout Ψ ∈ X , h0 ∈ C β et T < T? (h0 , Ψ), il y a un voisinage U de (h0 , Ψ) ˆ 0 , Ψ) ˆ 7→ h ∈ C([0, T ] × S1 ) est continue, où h dans C β × X tel que l’application U 3 (h est défini par (26), (27), (28). Le théorème 3.3 donne existence et unicité d’une solution locale en temps : cette restriction vient du fait que l’on écrit un problème de point fixe v = MT (v) dans BΨ,T , et l’application MT est une contraction si T > 0 est suffisamment petit. Nous remarquons que pour tout (v, v 0 , Rv ) ∈ BΨ,T , (v, v 0 ) est un processus (en temps) à valeurs dans les chemins (en espace) contrôlés par Φ ; c’est donc dans cette classe que la dérivée v du reste u (26) prend naturellement ses valeurs. Dans le cas de KPZ avec bruit blanc en espace-temps (1), nous obtenons une réalisation de la solution de Cole-Hopf h = log Z comme un système dynamique aléatoire avec des bonnes propriétés de continuité par rapport au bruit (dans une topologie appropriée). Puisque presque sûrement la solution de Cole-Hopf est définie sur tout R+ , l’on obtient en particulier que p.s. T? = +∞ dans ce cas.

4. CONSTRUCTION DES PROCESSUS Y τ Dans cette section nous allons expliquer les grandes lignes de la preuve du théorème 2.1 sur la convergence de Yετ vers un processus Y τ pour tout τ ∈ T . Nous remarquons d’abord que Yε défini dans (9) est un processus gaussien car fonction affine du champ

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

262

L. ZAMBOTTI

gaussien ξε . Plus généralement, pour tout τ ∈ T , la construction récursive (10) montre que Yετ est une fonction polynomiale de ξε , de degré égal au nombre des feuilles de τ . Nous définissons l’opérateur Π0 de projection sur les constantes dans L2 (S1 ) et Id − Π0 . La preuve de la convergence de Yετ lorsque ε ↓ 0 est divisée en def τ deux étapes : d’abord on considère le processus centré Xετ = Π⊥ 0 Yε , et ensuite on τ montre la convergence de la moyenne spatiale Π0 Yε . Puisque les processus Xετ sont stationnaires (voir (11) ci-dessus) on peut les réaliser comme processus indexés par τ t ∈ R : Xετ = (Xε,t )t∈R . def Π⊥ 0 =

La preuve de la convergence de Xετ est fondée sur une étude des coefficients de Fourier en espace : on pose pour τ ∈ T et t ∈ R def

def τ ¯ ε,k X (t) = h∂x Xετ (t), ek i,

τ Xε,k (t) = hXετ (t), ek i,

k ∈ Z,

où (ek )k∈Z est la base de Fourier de L2 (S1 ). Pour obtenir la convergence de Xετ dans un espace de fonction höldériennes, il suffit de montrer la convergence des coefficients de Fourier et une estimation uniforme en ε > 0 de leur comportement asymptotique quand |k| → ∞. Dans le cas particulier τ = • on voit facilement que par le choix (7) de la régulari¯ = ϕ(εk)X ¯ où sation du bruit, pour tout k 6= 0, l’on a simplement X ε,k k  ¯ k (s)X ¯ ` (t) = δk,−` exp(−k 2 |t − s|), (29) E X k, ` ∈ Z \ {0}. ¯ )k∈Z\{0} est une suite indépendante de processus d’OrnsteinEn particulier, (X k Uhlenbeck stationnaires. Dans le cas général on obtient à partir des équations (9) et (10) des relations de récurrence pour ces familles de coefficients de Fourier. Par exemple pour k 6= 0 Z t X 2 ¯ ε,` (s) X ¯ ε,k−` (s) ds Xε,k (t) = e−k (t−s) X −∞

=

X

`∈Z

Z

t

ϕ(ε`) ϕ(ε(k − `))

e−k

2

(t−s)

¯ (s) X ¯ (s) ds X ` k−`

−∞

`∈Z

et plus généralement (30)

[τ ,τ ] Xε,k1 2 (t)

=

XZ `∈Z

t

−∞

e−k

2

(t−s)

¯ τ1 (s) X ¯ τ2 (s) ds, X ε,k−` ε,`

τ1 , τ2 ∈ T .

τ Par itération de (30) on obtient une expression pour Xε,k (t) en fonction seulement des ¯ ¯ (s))`∈Z,s6t , qui coefficients de Fourier (Xε,` (s))`∈Z,s6t de l’arbre racine et donc de (X ` forment une famille gaussienne pour laquelle le calcul des covariances se fait à l’aide du Théorème de Wick :

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

263

Proposition 4.1. — Soit (Xα )α∈T une famille finie de variables centrées et conjointement gaussiennes. Alors ! Y X Y E Xα = E(Xα Xβ ), α∈T

P ∈P(T ) {α,β}∈P

où P(T ) est l’ensemble des appariements de T , i.e. des partitions de T en couples. τ Cependant la complexité des expressions que l’on obtient pour Xε,k (t) par itération de (30) augmente rapidement avec la taille de l’arbre, et une approche naïve de l’étude du comportement asymptotique en k est destinée à échouer. Hairer a développé avec un algorithme combinatoire un critère de « sommabilité » fondé sur une méthode inspirée des diagrammes de Feynman en théorie des champs, que nous allons présenter.

4.1. Arbres étiquetés Nous fixons un arbre τ ∈ T \ {•}, par exemple τ = . La brique de base pour τ l’étude de Xε,k (t) est le choix d’un étiquetage des arêtes de τ par des entiers non-nuls ` ∈ Z \ {0} et d’un étiquetage des sommets qui ne sont pas des feuilles par des réels s 6 t : cela correspond aux variables de sommation et intégration nécessaires dans les formules de type (30). Les entiers sur les arêtes doivent satisfaire la version suivante de la loi des nIJuds de Kirchhoff : pour tout sommet v qui ne soit ni la racine ni une feuille, la somme des étiquettes des arêtes qui relient v à ses deux enfants doit être égale à l’étiquette de l’arête reliant v à son parent ; cette règle s’explique par le fait que dans (30) nous avons à gauche un coefficient de paramètre k et à droite une somme de produits de coefficients de paramètres (`, k − `). La somme des étiquettes sortant de la racine % est égale au paramètre k du coefficient que l’on est en train d’étudier. On appelle L τ les étiquetages des arêtes de τ satisfaisant ces règles ; par exemple −1

4 3

1

∈L ,

2

4 2

1

6∈ L .

Pour un étiquetage L ∈ L τ nous notons %(L) la somme des étiquettes sortant de la racine %. On note `(τ ) l’ensemble des feuilles de τ et i(τ ) l’ensemble des sommets internes (c’est-à-dire qui ne sont pas des feuilles). En utilisant l’ordre canonique 6 dans l’arbre enraciné τ , on note T τ l’ensemble de tous les étiquetages assignant à chaque sommet v ∈ i(τ ) un réel Tv ∈ R avec la contrainte Tv 6 Tv¯ si v¯ 6 v. On note enfin µτt la restriction de la mesure de Lebesgue au sous-ensemble Ttτ de T τ défini par {T% 6 t}. Dans le cas spécial τ = •, on note Tt = T = {0} et µt = δ0 . Ces étiquettes réelles correspondent aux variables d’intégration en temps dans les relations obtenues à partir de (30).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

264

L. ZAMBOTTI

τ Toutes ces notations permettent de donner une formule générale pour Xε,k (t) en ¯ (s))`∈Z,s6t de l’arbre racine : fonction seulement des coefficients de Fourier (X `

Proposition 4.2. — Pour tout τ ∈ T \ {•} et k 6= 0 Z X τ (31) Xε,k (t) = Cε (L) ZLτ (t, T ) µτt (dT ), Ttτ

L∈L τ %(L)=k

où, en notant ˆι(τ ) = i(τ ) \ {%}, v↓ le parent de v, e(v) l’arête (v, v↓ ), δTe = Tv − Tu pour une arête e = (u, v),    Y Y 2 2 ¯ L (Tv ), (32) ZLτ (t, T ) = e−%(L) (t−T% )  iLe(v) e−Le(v) |δTe(v) |  X ↓ e(v) v∈ˆ ι(τ )

v∈`(τ )

et def

Cε (L) =

Y

ϕ(εLe(v) ).

v∈`(τ )

On peut comparer (31)-(32) à un exemple pour τ = X Xε,k (t) = ϕ(ε(k − `)) ϕ(εm) ϕ(εp) ·

:

`+m+p=k

Z

t

Z

s

· −∞

e−k

2

(t−s)−(k−`)2 (s−r)

¯ (r)X ¯ (r) dr ds, ¯ (s)X i(k − `) X ` m p

−∞

qui correspond aux étiquetages m k−`

p

r `

s

4.2. Appariements et étiquetages adaptés τ ¯ (t), Puisque Xε,k (t) est une fonction polynomiale de la famille gaussienne X ` p τ l’estimation des normes L de Xε,k (t) repose sur la connaissance des covariances  τ τ E Xε,k (t) Xε,` (s) et donc, par (31), de  (33) E ZLτ (t, T ) ZLτ¯ (t¯, T¯) .

¯ (s) Par les propositions 4.1 et 4.2, (33) s’écrit en fonction des covariances (29) de X k τ ¯ ¯ et X` (t). Puisque les X` (t) qui apparaissent dans la définition (32) de ZL (t, T ) sont indexés par les feuilles de τ , la covariance (33) s’écrit comme une somme sur l’ensemble P τ de tous les appariements des feuilles de τ , comme par exemple

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

265

¯ ∈ L τ , on note L t L ¯ l’application Pour L, L ¯ : E(τ ) t E(τ ) → Z, (L t L)

(34)

¯ sur la première (respectivement seconde) copie qui est égale à L (respectivement L) de E(τ ), où E(τ ) est l’ensemble des arêtes de τ . Pour tout appariement P ∈ P τ et ¯ ∈ L τ , on dit que L t L ¯ est un étiquetage adapté à P si L, L ¯ e(u) + (L t L) ¯ e(v) = 0 , (L t L)

∀ {u, v} ∈ P,

c’est-à-dire si la somme des étiquettes des deux arêtes attachées aux deux feuilles appariées est nulle. L’importance de ce concept est montrée par le fait que  ¯ ∈ L τ ; en E ZLτ (t, T )ZLτ¯ (t¯, T¯) 6= 0 ssi il existe un appariement P ∈ P τ tel que L t L P def ˆ ¯ effet, par (32), en notant L = L t L,   X Y  ¯ ˆ (Tˆv ) . ¯ ˆ (Tˆu ) X E ZLτ (t, T ) ZLτ¯ (t¯, T¯) ∝ E X ↓ ↓ L L e(u)

e(v)

P ∈P τ {u,v}∈P

ˆ ∈ L τ . En outre, L τ = ∅ ssi Par (29), un tel produit de covariances est non-nul ssi L P P il existe un sommet interne tel que, parmi ses descendants dans τ , toutes les feuilles soient appariées entre elles. Un critère suffisant pour la convergence de Xετ quand ε ↓ 0 est donné par une estimation appropriée du noyau obtenu de (32) pour un appariement P et un étiquetage ˆ adapté L ! Z Z Y ˆ 2 (Tˆv −Tˆv ) ˆ 2 (δ−T% −T¯%¯) def −L τ −%(L) ˆ ˆ (v) ↓ K (P, L; δ) = e Le(v) e T0τ

Tδτ

v∈ˆ ι(τ )tˆ ι(τ )

(35) ×

Y

e

ˆ 2 |Tˆu −Tˆv | −L e(v) ↓ ↓

! µτδ (dT ) µτ0 (dT¯)

{u,v}∈P

où Tˆ = T t T¯ et {%, %¯} sont les deux racines. Hairer définit une version symétrisée τ τ Ksym de Kτ utilisant les symétries naturelles de τ . Le contrôle de Ksym donne un τ critère suffisant plus fort que celui fondé sur K . Sans qu’il soit nécessaire d’entrer dans tous les détails de la construction, il est évident que l’étude des covariances (33) dépend de la combinatoire de l’ensemble LPτ des étiquetages adaptés à P , pour tout appariement P des feuilles de deux copies de τ . C’est vers cela que nous tournons notre attention maintenant. 4.3. Graphes pondérés L’idée de base est la suivante : pour tout appariement P ∈ P τ , on peut identifier l’ensemble LPτ des étiquetages adaptés à P à un certain ensemble de fonctions L : E 7→ Z, où (G, E) est un graphe fini associé à P que nous allons décrire graphiquement ; on dessine l’appariement comme il suit, on ajoute une arête joignant les deux racines et

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

266

L. ZAMBOTTI

on « supprime » chaque feuille, en identifiant en une seule les deux arêtes incidentes ; on obtient un graphe où chaque sommet est de degré 3 :

Les arêtes de G qui proviennent d’arêtes internes des deux copies de τ plus la nouvelle arête e¯ reliant les deux racines forment un arbre recouvrant de G noté T et dessiné en gris dans la figure à droite. Une orientation (arbitraire) de (G, E) permet de définir le groupe des cycles intégraux C (G, E), ensemble des étiquetages L : E 7→ Z satisfaisant la loi des nIJuds de Kirchhoff en tout sommet v ∈ G , c’est-à-dire tels que la somme des étiquettes des arêtes sortant de v est égale à celle des arêtes entrant. L’intérêt ici de cette construction réside dans le résultat suivant : il existe une identification canonique de LPτ avec le sous-espace C? (G, E) = {L ∈ C (G, E) : Le 6= 0, τ suffisante pour ∀ e ∈ E} des éléments partout non-nuls. L’estimation sur Kτ ou Ksym τ la convergence de Xε suit si on peut trouver une pondération L : E 7→ R+ bien choisie (c’est-à-dire satisfaisant certaines propriétés que nous ne détaillons pas) qui rende le graphe sommable, c’est-à-dire X Y (36) |Le |−Le < ∞. L∈C? (G,E) e∈E

La pondération L sert dans les manipulations qui permettent d’estimer des intégrales du noyau Kτ en termes de la quantité (36). En effet, Kτ peut être réécrit en termes de la quantité ! ! Y X 2 Le exp − |Le | |δTe | e∈T

e∈E

où l’on reconnaît que e ∈ T correspond dans (35) à v ∈ ˆι(τ ) t ˆι(τ ) et la somme sur e ∈ E vient de tous les exponentiels indexés par v ∈ ˆι(τ ) t ˆι(τ ) et {u, v} ∈ P . Par des intégrations successives en dTu , u ∈ G, en utilisant des inégalités de Hölder avec des poids donnés par la pondération bien choisie L, on obtient une majoration d’une norme intégrale de Kτ en termes de la quantité (36). Le résultat final est le suivant Théorème 4.3. — Pour τ ∈ T , Xετ converge lorsque ε ↓ 0 si pour tout appariement P ∈ P τ il existe une pondération bien choisie L satisfaisant (36). La dernière question est comment vérifier qu’une pondération bien choisie satisfait (36). Pour cela Hairer donne un algorithme élémentaire sur les graphes pondérés, décrit

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

simplement par les figures                      (37)                    

α

α

β



0



267

α+β



α ⇒

γ

β où γ est une fonction explicite de α et β. Cet algorithme diminue à chaque étape le nombre d’arêtes, jusqu’à se stabiliser ; si le résultat final est un arbre, alors le graphe est sommable. En effet, la valeur de l’expression (36) est majorée par la valeur que l’on obtient après une étape de l’algorithme à une constante multiplicative universelle près. Pour les arbres le groupe des cycles intégraux C (G, E) est trivial et on obtient donc que la quantité (36) est finie. Ce simple algorithme est l’une des nouveautés principales de l’article, car il permet d’obtenir des estimations qui seraient trop longues et complexes à traiter et même à écrire analytiquement. D’un autre côté il n’y a pas une règle générale pour construire des pondérations bien choisies telles que l’algorithme réduit le graphe à un arbre et il faut les chercher à la main. 4.4. Convergence de Xετ τ τ Par (10) et la définition Xετ = Π⊥ 0 Yε nous obtenons que (Xε )t∈T satisfait l’équation récursive pour τ1 , τ2 ∈ T et τ = [τ1 , τ2 ] τ1 τ2 ∂t Xετ = ∂x2 Xετ + Π⊥ 0 (∂x Xε ∂x Xε ).

Par le tableau de régularité (15), valable pour X τ aussi, on voit que pour τ ∈ { , , , } une approche classique est impossible car le produit ∂x Xετ1 ∂x Xετ2 dans la définition de [τ ,τ ] Xε 1 2 n’est pas bien défini à la limite. Pour la convergence on utilise donc le théorème 4.3, en vérifiant à la main l’existence pour tout appariement d’une pondération bien choisie telle que l’algorithme (37) produit un arbre. À titre d’exemple, pour on doit étudier les appariements

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

268

L. ZAMBOTTI

pour lesquels on trouve des pondérations bien choisies pour un κ > 0 2 3

− 13

2 3

1

1 2

1 2

1

κ − 13

2 3

0

κ 1

1 2

0

1

1

0 κ

0

0

1 2

1

1 1

0

2 3

que l’algorithme (37) réduit à un arbre. Pour τ ∈ / {•, , , , }, on utilise le cadre classique de la proposition 2.2 ou les chemins rugueux en espace comme dans la proposition 3.1 pour montrer la convergence du produit ∂x Xετ1 ∂x Xετ2 lorsque ε ↓ 0. 4.5. La constante de renormalisation Comme il a été annoncé au début de cette section, une fois prouvée la convergence de Xετ on passe à l’étude du mode de Fourier constant Π0 Yετ , qui s’écrit par (10) XZ t τ ¯ τ1 (s) X ¯ τ2 (s) ds − Cετ t. Π0 Yε,t = X ε,k ε,−k k∈Z

0

La preuve de la convergence de cette expression, avec le choix de Cετ donné dans (14), suit de l’étude de la constante  X  ¯ τ1 X ¯ τ2 Kετ = E X τ = [τ1 , τ2 ], ε,k ε,−k , k∈Z

¯ τ1 est stationnaire ; pour cela on utilise à nouveau les qui ne dépend pas du temps car X ε,k relations de récurrence (30) et les covariances (29). On rappelle que cela est nécessaire seulement pour les arbres { , , , } car pour les autres la convergence se prouve de façon plus simple.

Remerciements. — L’auteur a beaucoup profité de plusieurs conversations avec Martin Hairer, Massimiliano Gubinelli, Yvain Bruned, Julien Reygner et Eric Luçon et tient à les remercier chaleureusement. Les figures sont toutes dues à Martin Hairer, qui a gentiment permis de les utiliser dans ce texte.

RÉFÉRENCES [1] G. Amir, I. Corwin & J. Quastel – « Probability distribution of the free energy of the continuum directed random polymer in 1 + 1 dimensions », Comm. Pure Appl. Math. 64 (2011), no. 4, p. 466–537.

ASTÉRISQUE 361

(1066)

L’ÉQUATION DE KARDAR-PARISI-ZHANG

269

[2] L. Bertini & G. Giacomin – « Stochastic Burgers and KPZ equations from particle systems », Comm. Math. Phys. 183 (1997), no. 3, p. 571–607. [3] I. Corwin – « The Kardar-Parisi-Zhang equation and universality class », Random Matrices Theory Appl. 1 (2012), no. 1. [4] G. Da Prato & J. Zabczyk – Stochastic equations in infinite dimensions, Encyclopedia of Mathematics and its Applications, vol. 44, Cambridge Univ. Press, Cambridge, 1992. [5] M. Gubinelli – « Controlling rough paths », J. Funct. Anal. 216 (2004), no. 1, p. 86–140. [6] M. Hairer – « Solving the KPZ equation », Ann. of Math. (2) 178 (2013), no. 2, p. 559–664. [7] T. Imamura & T. Sasamoto – « Replica approach to the KPZ equation with the half Brownian motion initial condition », J. Phys. A 44 (2011), no. 38. [8] M. Kardar, G. Parisi & Y.-C. Zhang – « Dynamic scaling of growing interfaces », Phys. Rev. Lett. 56 (1986), p. 889–892. [9] T. J. Lyons – « Differential equations driven by rough signals », Rev. Mat. Iberoamericana 14 (1998), no. 2, p. 215–310. [10] C. Mueller – « On the support of solutions to the heat equation with noise », Stochastics Stochastics Rep. 37 (1991), no. 4, p. 225–245.

Lorenzo ZAMBOTTI Laboratoire de Probabilités et Modèles Aléatoires Université Pierre et Marie Curie 4, place Jussieu 75252 Paris Cedex 05 France E-mail : [email protected]

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 2014

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1067, p. 271 `a 298

Mars 2013

LE MOUVEMENT BROWNIEN BRANCHANT ` GAUCHE VU DEPUIS SA PARTICULE LA PLUS A [d’apr` es Arguin-Bovier-Kistler et A¨ıd´ ekon-Berestycki-Brunet-Shi] ´ E ´ par Jean-Baptiste GOUER

1. INTRODUCTION Une particule est plac´ee en l’origine de la droite r´eelle `a l’instant initial. Cette particule se d´eplace en suivant un mouvement brownien standard. Au bout d’un temps ind´ependant de loi exponentielle de moyenne 1, cette particule se divise alors en 2 particules. Les deux particules ainsi obtenues ´evoluent ind´ependamment et de la mˆeme mani`ere que la premi`ere particule : d´eplacement brownien puis division. Notons N (t) le nombre de particules pr´esentes `a l’instant t > 0. Remarquons que N (t) est une variable al´eatoire d’esp´erance exp(t). Notons X1 (t) > · · · > XN (t) (t) les positions de ces particules ordonn´ees par ordre d´ecroissant. Le comportement asymptotique du maximum X1 (t) du mouvement brownien branchant a ´et´e l’objet de nombreux travaux de natures probabilistes et analytiques. Cette popularit´e s’explique en partie par l’existence de liens tr`es ´etroits entre ce mod`ele et la famille des ´equations aux d´eriv´ees partielles de Fisher ou Kolmogorov-Petrovsky-Piscounov (F-KPP). Ce lien a ´et´e mis en lumi`ere par McKean [McK75]. Explicitons-le sur un exemple. Notons v(t, ·) la fonction de r´epartition du maximum du nuage de particules `a l’instant t > 0 : (1)

v(t, x) = P (X1 (t) 6 x).

On v´erifie facilement que cette fonction est solution de l’´equation F-KPP suivante : ∂v 1 ∂2v = + v 2 − v. ∂t 2 ∂2x Plus r´ecemment, des r´esultats sur le comportement asymptotique de l’ensemble du nuage de particules vu depuis son maximum ont ´et´e obtenus ind´ependamment par Arguin-Bovier-Kistler [ABK11a, ABK12c, ABK11b, ABK12b, ABK12a] et A¨ıd´ekon-Berestycki-Brunet-Shi [ABBS11]. Cet expos´e est consacr´e `a la pr´esentation de ces r´esultats. Nous nous concentrerons essentiellement sur les articles [ABK11b] et [ABBS11] et, dans une moindre mesure, [ABK11a]. Ces travaux reposent

(2)

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

272

´ E ´ J.-B. GOUER

notamment sur ceux de Bramson [Bra78, Bra83], Chauvin-Rouault [CR88, CR90], Lalley-Sellke [LS87] et McKean [McK75]. Ils s’inspirent ´egalement en partie des travaux de Brunet-Derrida [BD09, BD11]. Plusieurs des propri´et´es du mouvement brownien branchant vu depuis un extremum sont conjectur´ees dans d’autres mod`eles, notamment le champ libre gaussien en dimension 2 [BDG01, BDZ11, BDZ13, BZ11, DZ12], le temps de recouvrement de graphes par des marches al´eatoires [Dem06, DPRZ04] et, plus g´en´eralement, les champs gaussiens exhibant des corr´elations logarithmiques [AZ12, CLD01, DRSV12, FB08]. Nous ne d´evelopperons pas ces aspects dans cet expos´e. ´ Je remercie Elie A¨ıd´ekon, Louis-Pierre Arguin, Julien Berestycki, Anton Bovier, ´ Eric Brunet, Nicola Kistler et Zhan Shi pour leurs r´eponses `a mes questions et pour leurs commentaires sur le manuscrit.

2. COMPORTEMENT ASYMPTOTIQUE DU MAXIMUM 2.1. R´ esultats Nous donnons principalement dans cette partie des r´esultats classiques sur le comportement asymptotique du maximum X1 (t). Notons med(t) la m´ediane du maximum X1 (t) `a l’instant t. Notons v(t, ·) sa fonction de r´epartition. Elle est d´efinie par (1) et elle v´erifie l’´equation F-KPP (2). Les r´esultats de Kolmogorov-Petrovsky-Piscounov [KPP37] affirment l’existence√ d’une variable al´eatoire non triviale W et d’un terme de centralisation m(t) ∼ 2 tels que : (3)

X1 (t) − m(t) → W en loi.

La fonction de r´epartition w de W est solution de 1 ′′ √ ′ w + 2w + w2 − w = 0. 2 Les solutions non triviales de cette ´equation sont uniques `a translation pr`es. Il existe une constante Cw > 0 (Bramson [Bra83]) telle que : (4)

1 − w(x) = P (W > x) ∼x→+∞ Cw xe−

√ 2x

.

Bramson [Bra83] a ´etabli que l’on pouvait prendre pour m la fonction d´efinie par : √ 3 (5) m(t) = 2t − √ ln(t). 2 2 Ainsi, il existe une constante Cmed telle que : √ 3 (6) med(t) = 2t − √ ln(t) + Cmed + o(1). 2 2

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

273

On d´efinit une martingale (pour la filtration naturelle du mouvement brownien branchant) en posant, pour tout t > 0 : N (t)

(7)

Z(t) =

X √  √ 2t − Xk (t) e− 2 k=1

 √ 2t−Xk (t)

.

Lalley et Sellke [LS87] ont ´etabli la convergence presque sˆ ure de Z(t) vers une variable al´eatoire finie et strictement positive Z ainsi que la convergence presque sˆ ure suivante : (8)

lim lim P (X1 (t + s) − m(t + s) 6 x|Fs ) = exp(−Cw Ze−

√ 2x

s→∞ t→∞

) p.s.

On en d´eduit la repr´esentation int´egrale suivante : (9)

w(x) = P (W 6 x) = E exp − Cw Ze−

´ Ecrivons exp(−Cw Ze−

√ 2x

) = exp − e−

√  2x

.

√  2(x−2−1/2 ln(Cw Z))

.

Conditionnellement ` a Z, c’est la fonction de r´epartition d’une distribution de Gumbel. La convergence (8) peut par cons´equent s’interpr´eter de la mani`ere suivante. La variable al´eatoire X1 (t) − m(t) converge vers la somme de deux termes : le terme 2−1/2 ln(Cw Z) qui provient de l’histoire du processus avant sa stabilisation en loi ; un terme de fluctuation al´eatoire qui suit une loi de Gumbel. Plus pr´ecis´ement, Lalley et Sellke ont conjectur´e la convergence en loi et la convergence en moyenne ergodique de l’ensemble du processus vu depuis m(t) + 2−1/2 ln(Cw Z). Arguin-Bovier-Kistler et A¨ıd´ekon-Berestycki-Brunet-Shi ont ´etabli ind´ependamment ces conjectures et ont donn´e deux descriptions diff´erentes du processus limite. Signalons pour conclure cette partie qu’un r´esultat r´ecent de Roberts [Rob11] d´ecrit le comportement presque sˆ ur du maximum. On a : √ X1 (t) − 2t 3 lim inf → − √ presque sˆ urement t→∞ ln(t) 2 2 mais

√ X1 (t) − 2t 1 lim sup urement. → − √ presque sˆ ln(t) t→∞ 2 2

Ces r´esultats sont les analogues en temps continus de r´esultats obtenus peu auparavant par Hu et Shi [HS09]. 2.2. Quelques arguments Nous donnons dans cette partie les principaux arguments menant au r´esultat suivant : √ 3 (10) med(t) = 2t − √ ln(t) + O(1). 2 2

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

274

C’est une version faible de (6). Elle a ´et´e ´etablie pour la premi`ere fois par Bramson [Bra78]. Une preuve courte a ´et´e fournie par Roberts [Rob11]. Cette partie s’inspire en particulier de ce dernier article et de l’article de Addario-Berry et Reed [ABR09]. Commen¸cons par ´etudier le cas ´el´ementaire o` u les particules sont ind´ependantes. Plus pr´ecis´ement, donnons-nous, conditionnellement `a N (t), N (t) particules de positions gaussiennes ind´ependantes centr´ees et de variance t. Notons ∗ X1∗(t) > X2∗(t) > · · · > XN ees des particules. D´esignons par (t)(t) les positions ordonn´ ∗ ∗ med (t) la m´ediane de X1 (t). La m´ediane admet le d´eveloppement asymptotique suivant : √ 1 med∗ (t) = 2t − √ ln(t) + O(1). 2 2 Ce r´esultat est ´el´ementaire. Il peut par exemple ˆetre obtenu par des consid´erations ∗ sur les deux premiers moments de Nq(t) (t), le nombre de particules au-dessus de q(t) `a l’instant t : N (t) X ∗ Nq(t) (t) = 1Xk∗ (t)>q(t) . k=1

On a :

∗ E(Nq(t) (t))2 ∗ (t)2 ) E(Nq(t)

∗ ∗ 6 P (Nq(t) (t) > 1) 6 E(Nq(t) (t)).

L’ind´ependance entre les particules permet de comparer utilement le second moment et le carr´e du premier moment. La d´etermination, `a une constante additive pr`es, de la m´ediane med∗ (t) est alors essentiellement ramen´ee `a la d´etermination √ du r´eel q(t) u pour lequel le premier moment est d’ordre 1. Prenons q(t) de la forme 2t − a(t) o` √ a(t) est n´egligeable devant t. On a : (11)

√  q(t)2 1 1 ∗ (t) ∼ √ et− 2t ∼ √ ea(t) 2 . E Nq(t) 2 πt 2 πt

Cette quantit´e est d’ordre 1 pour tout t grand lorsque 1 a(t) = √ ln(t). 2 2

Cela permet d’obtenir le d´eveloppement asymptotique souhait´e pour med∗ (t). Revenons maintenant au cas du mouvement brownien branchant. Notons que la variable al´eatoire N (t) X Nq(t) (t) = 1Xk (t)>q(t) k=1

∗ admet le mˆeme premier moment que la variable al´eatoire Nq(t) (t). Le premier moment de Nq(t) (t) ne donne par contre pas ici une information pr´ecise sur la probabilit´e

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

275

P (X1 (t) > q(t)). En effet, si une particule parvient au-del` a de q(t) `a l’instant t, plusieurs de ses ancˆetres sont probablement `a une altitude ´elev´ee et plusieurs de leurs descendants sont donc probablement au-del` a de q(t). Ainsi, le q(t) pour lequel E(Nq(t) (t)) est d’ordre 1 surestime la valeur de la m´ediane med(t) de X1 (t). ` un instant s 6 t, l’esp´erance du nombre de particules du mouvement brownien A branchant est es . En appliquant brutalement une borne de premier moment on obtient √ donc que, ` a l’instant s, les particules ne peuvent pas ˆetre tr`es loin au-dessus de 2s. L’une des id´ees est de rajouter ce type de contraintes sur la trajectoire des particules d’int´erˆet. Plus pr´ecis´ement, appelons particule basse une particule au-del` a de q(t) `a l’instant t et dont la trajectoire est rest´ee en dessous de la droite s 7→ q(t)st−1 + 2. Appelons particule haute une particule au-del` a de q(t) `a l’instant t et dont la trajectoire a touch´e la droite d’´equation s 7→ q(t)st−1 + 1. Notons Bq(t) (t) le nombre de particules basses et Hq(t) (t) le nombre de particules hautes. On a : E(Bq(t) (t))2 6 P (Bq(t) (t) > 1) 6 P (Nq(t) (t) > 1) 6 E(Bq(t) (t)) + P (Hq(t) (t) > 1). E(Bq(t) (t)2 ) La majoration sur la position des ancˆetres des particules basses permet de majorer efficacement l’esp´erance de Bq(t) (t) conditionnellement `a l’existence d’une particule basse. Cela permet – pour des choix de q(t) pertinents – de contrˆoler le second moment de Bq (t) par le carr´e de son premier moment. Par ailleurs, toute particule haute admet un ancˆetre sur la droite d’´equation s 7→ q(t)st−1 + 1. Cela permet – toujours pour des choix de q(t) pertinents – de minorer l’esp´erance de Bq(t) (t) conditionnellement `a l’existence d’une particule haute. La probabilit´e d’existence d’une particule haute peut ainsi ˆetre contrˆ ol´ee par l’esp´erance de Bq(t) (t). La conclusion est que la d´etermination de la m´ediane med(t) de X1 (t) se ram`ene `a la d´etermination du param`etre q(t) pour lequel le premier moment de Bq (t) est d’ordre 1. Estimons maintenant Bq(t) (t). Essentiellement, l’introduction de la contrainte sur la trajectoire divise par t le premier moment : (12)

E(Bq(t) (t)) ∼

C C ∗ E(Nq(t) (t)) = E(Nq(t) (t)). t t

Le facteur 1/t se comprend facilement dans un cadre discret en temps avec des ´ev´enements l´eg`erement diff´erents. Si X1 , . . . , Xt sont des v.a.i.i.d. de loi commune diffuse, alors :  1  s P X1 + · · · + Xs 6 Xt pour tout s 6 t X1 + · · · + Xt > q(t) = . t t La preuve est une cons´equence des deux remarques suivantes : les rotations des Xi laissent invariant l’´ev´enement par lequel on conditionne ; l’autre ´ev´enement est ∗ v´erifi´e pour une unique rotation des Xi . Rappelons que Nq(t) (t) et Nq(t) (t) ont le mˆeme

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

276

premier moment. En combinant les relations (11) et (12) on obtient, toujours lorsque √ a(t) est n´egligeable devant t : √  C E B√2t−a(t) (t) ∼ 3/2 ea(t) 2 . t Le premier moment de Bq (t) est ainsi d’ordre 1 pour t grand lorsque : √ 3 q(t) = 2t − √ ln(t). 2 2 Cela fournit l’estimation souhait´ee pour la m´ediane med(t).

3. MOUVEMENT BROWNIEN BRANCHANT VU DEPUIS SON SOMMET 3.1. Convergence On pose : √ 3 2t − √ ln(t). 2 2 Nous nous int´eressons aux processus suivants : – le mouvement brownien branchant :

(13)

m(t) =

N (t)

N (t) =

X

δXk (t) ;

k=1

– le mouvement brownien branchant vu depuis m(t) : N (t)

Nm (t) =

X

k=1

δXk (t)−m(t) = N (t) − m(t) ;

– le mouvement brownien branchant vu depuis m(t) + 2−1/2 ln(Cw Z) o` u Z est la limite de la martingale d´efinie en (7) et o` u Cw est d´efinie par (4) : N (t)

NZ (t) =

X

δXk (t)−m(t)− √1

k=1

2

ln(Cw Z)

  1 = N (t) − m(t) + √ ln(Cw Z) . 2

Si f est une fonction de R dans R et si P est un processus ponctuel nous noterons souvent f (P) l’int´egrale de f contre la mesure P. Ainsi et par exemple f (N (t)) = PN (t) k=1 f (Xk (t)). Le mouvement brownien vu depuis son sommet converge en loi. Arguin, Bovier et Kistler ont d´emontr´e le r´esultat suivant. Th´ eor` eme 3.1 ([ABK11b]) • Le processus Nm (t) converge en loi vers un processus ponctuel Nm . ´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

277

• Le processus ponctuel Nm a la mˆeme loi que le processus X 1 x + √ ln(Cw Z) + Cx 2 x∈P √ √ o` u P est un processus de Poisson ponctuel d’intensit´e 2 exp(− 2x)dx ind´ependant de Z et o` u, conditionnellement ` a Z et P, (Cx )x∈P est une famille de copies ind´ependantes d’un processus ponctuel C. • Le processus ponctuel C v´erifie max C = 0. Sa loi est celle du processus D d´efini par (16). A¨ıd´ekon, Berestycki, Brunet et Shi ont donn´e peu apr`es la version plus fine suivante. Th´ eor` eme 3.2 ([ABBS11]) • Le processus (NZ (t), Z(t)) converge en loi vers (NZ , Z) o` u NZ est un processus ponctuel ind´ependant de Z. • Le processus NZ a la mˆeme loi que le processus X (14) x + Cx . x∈P

√ √ u, o` u P est un processus de Poisson ponctuel d’intensit´e 2 exp(− 2x)dx et o` conditionnellement ` a P, (Cx )x∈P est une de famille de copies ind´ependantes d’un processus ponctuel C. • Le processus ponctuel C v´erifie max C = 0. Sa loi est celle du processus Q d´efini par (19).

Des r´esultats pr´ec´edents, on d´eduit facilement que le processus limite admet une propri´et´e de superposabilit´e : la superposition de copies ind´ependantes de NZ suit, `a une translation pr`es, la mˆeme loi que NZ . Maillard [Mai11] a ´etabli que la superposabilit´e caract´erise les processus de la forme (14). Les r´esultats principaux de [ABK11b] et [ABBS11] concernent la description du processus limite et, en particulier, les descriptions de la d´ecoration C donn´ees dans les deux parties suivantes. Les propri´et´es du mouvement brownien branchant vu depuis un extr´emum ont ´egalement ´et´e ´etudi´ees r´ecemment par Brunet-Derrida [BD09, BD11]. Ces travaux reposent notamment sur le lien entre mouvement brownien et ´equation F-KPP. On y trouve – au moins implicitement – la preuve de la convergence ainsi que diff´erentes conjectures. Certaines sont ´etablies, comme la superposabilit´e de la limite et la caract´erisation de Maillard. D’autres sont encore ouvertes, comme celles portant sur la densit´e du processus limite ou sur l’´ecart moyen entre deux particules successives du processus limite. L’approche de Arguin, Bovier et Kistler est de nature plutˆ ot analytique et s’inspire en partie des travaux r´ecents de Brunet et Derrida [BD09, BD11]. L’approche de

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

278

A¨ıd´ekon, Berestycki, Brunet et Shi est de nature plutˆ ot probabiliste et repose en partie sur les r´esultats r´ecents de Arguin, Bovier et Kistler [ABK11a] d´ecrits dans la partie 4. Dans [ABK12a], Arguin, Bovier et Kistler ´etablissent la convergence en moyenne ergodique de Nm (t) vers Nm . Les mˆemes auteurs avaient ´etabli pr´ec´edemment dans [ABK12b] la convergence en moyenne ergodique de X1 (t) − m(t) vers la somme d’une variable al´eatoire de loi Gumbel et de 2−1/2 ln(Cw Z). La preuve repose notamment sur une extension du r´esultat de Lalley et Sellke (8) et sur des r´esultats sur la g´en´ealogie du processus permettant de contrˆoler certaines corr´elations. 3.2. Loi de la d´ ecoration C : description de Arguin, Bovier et Kistler Arguin, Bovier et Kistler ´etablissent le r´esultat suivant : Th´ eor` eme 3.3 ([ABK11b]). — Soient a > 0 et b ∈ R. • Conditionnellement ` a √ √ (15) {X1 (t) − ( 2t + a t + b) > 0}, le processus

N (t)

X

δXk (t)−(√2t+a√t+b)

k=1

converge en loi vers un processus non trivial N . • La loi du processus limite N ne d´epend pas du choix de a et de b. • Le maximum de N suit une loi exponentielle de moyenne 2−1/2 . Rappelons que, sans conditionnement, maxk Xk (t) − (16)

√ 2t tend vers −∞. Posons :

D = N − max(N ).

Ce processus ponctuel est la d´ecoration apparaissant dans le th´eor`eme 3.1. Du th´eor`eme pr´ec´edent, on d´eduit que, conditionnellement `a (15), le processus √ √  N (t) − X1 (t), X1 (t) − ( 2t + a t + b)

converge en loi vers (D, H) o` u D et H sont ind´ependants et H suit une loi exponentielle de moyenne 2−1/2 . 3.3. Loi de la d´ ecoration C : description de A¨ıd´ ekon, Berestycki, Brunet et Shi Pour tout 0 6 s 6 t, notons X1,t (s) la position `a l’instant s de la particule qui est en X1 (t) ` a l’instant t. Autrement dit, X1,t (·) est la trajectoire de la particule

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

279

qui r´ealise le maximum ` a l’instant t. Nous nous int´eressons au renversement de cette trajectoire que nous notons Yt (·). Il est d´efini en s ∈ [0, t] par : Yt (s) = X1,t (t − s) − X1 (t). Si 1 6 i, j 6 N (t), nous notons τi,j (t) l’instant de [0, t] auquel les particules Xi (t) et Xj (t) se sont s´epar´ees. Pour tout ζ, nous consid´erons le processus ponctuel suivant : X δXk (t)−X1 (t) . (17) Q(t, ζ) = 16k6N (t):τ1,k (t)>t−ζ

C’est, vu depuis X1 (t), l’ensemble des particules `a l’instant t qui se sont s´epar´ees de X1 (t) apr`es l’instant t − ζ. A¨ıd´ekon, Berestycki, Brunet et Shi ´etablissent la convergence de (Yt , Q(t, ζ), X1 (t) − m(t)) lorsque t puis ζ tendent vers l’infini. D´ecrivons tout d’abord l’objet limite. Pour cela, nous commen¸cons par d´efinir pour tout b > 0 (b) un processus ` a valeurs r´eels (Γt )t>0 . Soient (B(t))t>0 un mouvement brownien standard et (R(t))t>0 un processus de Bessel ind´ependant de dimension 3 issu de 0. Notons Tb le premier temps d’atteinte du niveau b par le mouvement brownien B. Le processus Γ(b) est d´efini ainsi :  B(t), si t ∈ [0, Tb ], (18) Γ(b) (t) :=  b − R(t − Tb ), si t > Tb . √ Nous d´efinissons alors (Y (b) (t))t>0 par Y (b) (t) = Γ(b) − 2t. Conditionnellement `a Y (b)

Y (b) nous d´efinissons un processus ponctuel Q par X (b)  Y Nt (t) + Y (b) (t) , Q = δ0 + t∈χ

o` u χ est un processus de Poisson ponctuel ind´ependant sur [0, +∞[ de mesure d’intensit´e 2dt et o` u, conditionnellement `a ce qui pr´ec`ede, les (Nt (·))t∈χ sont des copies ind´ependantes du mouvement brownien branchant. Nous d´efinissons alors la loi de (Y, Q) par : Z +∞     Y (b) dbE φ Y (b) , Q (19) Eφ(Y, Q) = C 1 Y (b) 0

max Q

60

pour tout φ. La quantit´e C est la constante de normalisation. Le processus ponctuel Q est la d´ecoration apparaissant dans le th´eor`eme 3.2. A¨ıd´ekon, Berestycki, Brunet et Shi ´etablissent le r´esultat suivant.

Th´ eor` eme 3.4 ([ABBS11]) lim lim (Yt , Q(t, ζ), X1 (t) − m(t)) = (Y, Q, W ) en loi

ζ→∞ t→∞

o` u (Y, Q) et W sont ind´ependants.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

280

4. LOCALISATION DES TRAJECTOIRES DES PARTICULES ´ ´ EALOGIE ´ EXTREMALES ET GEN Nous d´ecrivons rapidement dans cette partie les travaux de Arguin, Bovier et Kistler obtenus dans [ABK11a]. Ces r´esultats sont utilis´es par A¨ıd´ekon, Berestycki, Brunet et Shi dans leur preuve du th´eor`eme 3.2. 4.1. Trajectoires des particules extr´ emales + − Soient t > 0 et α > 0. Les fonctions Ut,α et Ut,α sont d´efinies, pour tout s ∈ [0, t], par : s + Ut,α (s) = m(t) + min(sα , (t − s)α ) t et s − Ut,α (s) = m(t) − min(sα , (t − s)α ). t Rappelons que, pour tout k 6 N (t), Xk,t (·) est la trajectoire entre les instants 0 et t de la particule en Xk (t) ` a l’instant t. Arguin, Bovier et Kistler ´etablissent le r´esultat suivant.

Th´ eor` eme 4.1 ([ABK11a, Th´eor`emes 2.2, 2.3 et 2.5]). — Soit A > 0. Soit 0 < α < 12 .  + (1) lim sup P ∃k 6 N (t), ∃s ∈ [r, t − r] : Xk,t (s) > Ut,α (s) = 0. r→∞ t>3r

(2)

(3)

lim sup P ∃k 6 N (t) : |Xk (t) − m(t)| 6 A

r→∞ t>3r

 − et ∃s ∈ [r, t − r] : Xk,t (s) > Ut,1/2−α (s) = 0.

lim sup P ∃k 6 N (t) : |Xk (t) − m(t)| 6 A

r→∞ t>3r

 − et ∃s ∈ [r, t − r] : Xk,t (s) 6 Ut,1/2+α (s) = 0.

Notons que le premier point concerne toutes les trajectoires. Il pourrait par ailleurs ˆetre ´egalement ´enonc´e ainsi :  + lim sup P ∃s ∈ [r, t − r] : X1 (s) > Ut,α (s) = 0. r→∞ t>3r

C’est un contrˆ ole uniforme en temps sur le maximum du mouvement brownien branchant. La preuve du premier point donn´ee par Arguin, Bovier et Kistler repose sur le r´esultat suivant de Bramson [Bra78]. Il existe une constante C telle que, pour tout √ 0 m(t) + y) 6 C(1 + y)2 exp(− 2y). Cette in´egalit´e permet d’obtenir simplement un contrˆole uniforme sur les temps entiers. Un contrˆ ole sur tous les temps s’en d´eduit par des majorations grossi`eres.

Les deux derniers points ne concernent que les trajectoires des particules proches de m(t) ` a l’instant t. Ils se d´eduisent relativement facilement du premier point qui affirme

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

281

que ces particules suivent essentiellement la trajectoire d’une excursion brownienne en dessous de s 7→ (s/t)mt . Notons qu’il existe par contre, avec grande probabilit´e, des particules proches de m(t/2) = 21 m(t) + O(ln(t)) `a l’instant t/2 et proches de 2m(t/2) = m(t) + O(ln(t)) ` a l’instant t. La forme de la trajectoire des particules extr´emales peut ´egalement se comprendre comme le r´esultat d’une comp´etition entre ´energie – li´ee `a la probabilit´e qu’une particule ` a une hauteur q ` a un instant s fournisse un descendant extr´emal `a l’instant t – et entropie – li´ee au nombre de particules `a une hauteur q `a un instant s. A¨ıd´ekon, Berestycki, Brunet et Shi ´etablissent dans [ABBS11] une version l´eg`erement diff´erente du th´eor`eme 4.1. 4.2. G´ en´ ealogie du mouvement brownien branchant Rappelons que τi,j (t) d´esigne l’instant auquel les particules Xi (t) et Xj (t) se sont s´epar´ees. Dans [ABK11a], Arguin, Bovier et Kistler ´etablissent le r´esultat suivant. Th´ eor` eme 4.2 ([ABK11a, Th´eor`eme 2.1]). — Soit A > 0. On a :  lim sup P ∃i, j 6 N (t) : Xi (t), Xj (t) ∈ [m(t) − A, m(t) + A] et τi,j (t) ∈ [r, t − r] = 0.

r→∞ t>3r

La preuve de ce th´eor`eme repose sur les r´esultats de localisation des trajectoires de particules extr´emales ´enonc´es dans le th´eor`eme 4.1. Observons les particules `a un instant s loin de 0 et de t. Les particules susceptibles de fournir un descendant extr´emal `a l’instant t sont situ´ees aux environs de st−1 m(t) − min(s, (t − s))1/2 . La probabilit´e que l’une d’entre elles fournisse un descendant extr´emal `a l’instant t est faible. Le nombre de telles particules est par contre ´elev´e. Ces deux facteurs se compensent. Par contre, la probabilit´e que l’une de ces particules se scinde en deux et que chacune de ces deux particules admette un descendant extr´emal `a l’instant t est faible. Techniquement, la preuve repose sur une majoration de l’esp´erance du nombre de couples (i, j) v´erifiant les conditions apparaissant dans l’´enonc´e du th´eor`eme, ainsi que les conditions de localisation des trajectoires.

5. PREUVES 5.1. Approches de Arguin, Bovier et Kistler ´ 5.1.1. Equations F-KPP et mouvement brownien branchant. — Notons pour commencer que, si une application v est solution de l’´equation F-KPP 1 ∂2v ∂v = + v2 − v , ∂t 2 ∂2x alors u = 1 − v est solution de l’´equation F-KPP (20)

(21)

1 ∂2u ∂u = + u − u2 . ∂t 2 ∂2x

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

282

Voici maintenant une version plus pr´ecise de l’observation – ´el´ementaire et f´econde – de McKean liant le mouvement brownien branchant et les ´equations F-KPP. Lemme 5.1 ([McK75]). — Soit f : R → [0, 1]. La fonction v d´efinie par ! N (t) Y v(t, x) = E f (x + Xk (t)) k=1

est solution de l’´equation F-KPP (20) de condition initiale v(0, ·) = f .

Explicitons v dans les cas qui nous int´eresseront principalement dans la suite. Soit φ : R → R une fonction positive, continue et `a support compact. Soit δ un nombre r´eel. Prenons pour condition initiale la fonction f d´efinie par : f (y) = exp(−φ(−y))1]−∞,δ] (−y). La fonction v associ´ee v´erifie alors : N (t)

Y

v(t, x) = E

k=1 N (t)

Y

=E

k=1

!  exp − φ(−x − Xk (t)))1]−∞,δ] (−x − Xk (t) , !  exp − φ(−x + Xk (t)))1]−∞,δ] (−x + Xk (t) ,



  = E exp − φ(N (t) − x) 1X1 (t)6δ+x .

Si φ est constante ´egale ` a 0 et si δ = 0 on a par exemple : (22)

v(t, m(t) + x) = P (X1 (t) 6 m(t) + x).

L’´etude de la convergence en loi de X1 (t) − m(t) se ram`ene ainsi `a celle de la convergence des fonctions t 7→ v(t, m(t) + x) pour tout r´eel x. Si l’on consid`ere la condition initiale f d´efinie par f (y) = exp(−φ(−y)) alors on a par exemple : v(t, m(t)) = E(exp(−φ(Nm (t)))). ´ Etudier la convergence en loi du processus (Nm (t))t revient ainsi `a ´etudier la convergence des fonctions t 7→ v(t, m(t)) associ´ees aux diff´erentes fonctions φ. 5.1.2. Condition initiale : front born´e. — Dans cette partie, nous consid´erons le comportement asymptotique des solutions de l’´equation F-KPP (21) de condition initiale g : R → [0, 1] satisfaisant : (23)

Il existe A > 0 tel que g(x) = 1 pour x 6 −A et g(x) = 0 pour x > A.

Bramson a ´etabli dans [Bra83] le r´esultat de convergence suivant, dans lequel m(t) est d´efini par (13) et o` u w est la fonction de r´epartition de la variable al´eatoire W d´efinie en (3).

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

283

Th´ eor` eme 5.2 ([Bra83]). — Soit u une solution de l’´equation F-KPP (21) de condition initiale u(0, ·) = g o` u g : R → [0, 1] est une fonction satisfaisant la condition (23). Alors il existe une constante C ′ (g) telle que u(t, x + m(t)) → 1 − w(x + C ′ (g)) uniform´ement en x lorsque t → ∞. Par (9) on a : 1 − w(x + C ′ (g)) = 1 − E exp − C ′′ (g)Ze− √



√  2x

o` u C ′′ (g) = Cw e− 2C (g) . La constante C ′′ (g) peut se retrouver `a partir du comportement asymptotique de la limite. En effet, par (4), on a : (24)

1 − w(x + C ′ (g)) ∼ C ′′ (g)xe−

√ 2x

.

Nous noterons souvent ces constantes C ′ (u) et C ′′ (u) o` u u est la solution de l’´equation F-KPP (21) de condition initiale g. Le comportement asymptotique (6) est une cons´equence imm´ediate des r´esultats pr´ec´edents. En effet, par (22) et par le th´eor`eme 5.2 (la condition initiale est d´efinie par g(y) = 1 − 1]−∞,0[ (−y) = 1]−∞,0] ) on obtient : P (X1 (t) 6 m(t) + x) → w(x + C ′ (1]−∞,0] )). Ainsi, X1 (t)−m(t)−C ′ (1]−∞,0] ) converge en loi vers W (on a en fait C ′ (1]−∞,0] ) = 0). Bramson fournit dans [Bra83] une version plus pr´ecise du th´eor`eme 5.2. Il donne une condition n´ecessaire et suffisante sur la condition initiale g pour que u(t, ·) convenablement translat´ee converge vers w. Le r´esultat suivant est une cons´equence relativement simple d’un r´esultat de Bramson ´egalement obtenu dans [Bra83]. Proposition 5.3. — Soit u une solution de l’´equation F-KPP (21) de condition initiale u(0, ·) satisfaisant la condition (23). Posons, pour tout t > r > 0 et tout x r´eel : √ √ Z √   √ √ (y−(x− 2t))2 x−m(t) e− 2(x− 2t) ∞ 1 − e−2y t−r dy. ψ(r, t, x) = p u(r, y + 2r)ey 2− 2(t−r) 2π(t − r) 0

Alors, pour tout r suffisamment grand, pour tout t > 8r et tout x > m(t) + 8r, on a : (25)

γ −1 (r)ψ(r, t, x) 6 u(t, x) 6 γ(r)ψ(r, t, x)

o` u γ(r) d´ecroˆıt vers 1 lorsque r tend vers l’infini. Notons que ψ(r, ·, ·) ne d´epend de u qu’`a travers u(r, ·). La proposition donne le comportement de u(t, x) pour t grand et x−m(t) grand. Explicitons ce comportement dans diff´erents r´egimes.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

284

Posons : (26)

r

C(r, u) =

2 π

Z



√ √ u(r, y + r 2)yey 2 dy.

0

Arguin, Bovier et Kistler v´erifient que cette quantit´e est finie par comparaison de u avec la solution explicite de l’´equation F-KPP (21) lin´earis´ee. On en d´eduit alors simplement, pour tout r´eel x : lim ex

√ 2

t→∞

√ t3/2 ψ(r, t, 2t + x) = C(r, u). 3 √ ln(t) 2 2

L’encadrement (25) et le fait que γ tende vers 1 permet alors d’en d´eduire la convergence de C(r, u) vers un r´eel strictement positif C(u), r Z ∞ √ √ 2 (27) C(u) = lim u(r, y + r 2)yey 2 dy, r→∞ π 0 ainsi que la convergence suivante, pour tout r´eel x : lim ex

√ 2

t→∞

√ t3/2 u(t, 2t + x) = C(u). 3 √ ln(t) 2 2

Les arguments pr´ec´edents proviennent de Chauvin-Rouault [CR90]. On montre similairement √

ex 2 ψ(r, t, m(t) + x) = C(r, u), lim t→∞ x puis



ex 2 lim lim u(t, m(t) + x) = C(u). x→∞ t→∞ x Par (24), on en d´eduit C(u) = C ′′ (u). En utilisant (9) nous obtenons donc la repr´esentation int´egrale suivante : √  lim u(t, m(t) + x) = 1 − E exp − C(u)Ze− 2x t→∞

o` u C(u) est d´efini par (27).

Nous aurons ´egalement besoin du comportement asymptotique des solutions dans le r´egime suivant. Soient a > 0 et b un nombre r´eel. On obtient comme pr´ec´edemment le r´esultat suivant : (28)

lim

t→∞

e

√ √ 2(a t+b) 3/2

t a t+b √

√ √ 2 ψ(r, t, 2t + a t + b) = C(r, u)e−a /2 .

Soit A un r´eel tel que u(0, ·) 6 1]−∞,A] . En utilisant le lemme 5.1 on obtient : u(t, x) 6 P (X1 (t) > x − A). ´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

285

Un contrˆ ole suffisamment fin sur la queue de la distribution du maximum permet d’en d´eduire : Z A1 √r √ √ u(r, y + 2r)yey 2 dy = 0 lim lim sup A1 ց0

et

r→∞

lim lim sup

A2 ր∞ r→∞

0

Z



A2



u(r, y +



2r)yey



2

dy = 0.

r

R´esumons ces propri´et´es avec l’´ecriture suivante : Z √ √ (29) C(u) = lim u(r, y + 2r)yey 2 dy. √ r→∞

y≈ r

Ces contrˆ oles permettent notamment d’obtenir simplement le comportement de C(u) lorsque la condition initiale est translat´ee : C(u(·, · + x)) = C(u)e−

(30)



2x

.

5.1.3. Condition initiale localis´ee. — Certains des r´esultats pr´ec´edents restent valides pour des conditions initiales diff´erentes. Proposition 5.4. — Soit φ : R → R une fonction positive, continue, ` a support compact et non identiquement nulle. Notons u la solution de l’´equation F-KPP (21) associ´ee ` a la condition initiale g = 1 − exp(−φ(−·)). On a :   (31) lim E e−φ(Nm (t)) = E e−C(u)Z t→∞

o` u

(32)

C(u) = lim

t→∞

r

2 π

Z



√ √ u(t, t 2 + y)yey 2 dy

0

est une constante strictement positive ne d´ependant que de φ. Par ailleurs, pour tout r´eel x on a : C(u(·, · + x)) = C(u)e−

(33)



2x

.

On a enfin, avec le mˆeme sens qu’en (29) : Z √ √ y 2 (34) C(u) = lim u(r, y + 2r)ye dy. √ r→∞

y≈ r

Cette proposition permet d’obtenir la convergence en loi du processus (Nm (t))t . Elle donne ´egalement des informations sur le processus limite. Les relations (31) `a (33) s’inspirent des travaux de Chauvin-Rouault [CR90]. On a pour tout nombre r´eel x : √  − 2x  lim u(t, m(t) + x) = lim 1 − E e−φ(Nm (t)−x) = 1 − E e−C(u)Ze . t→∞

t→∞

La convergence n’est pas uniforme en x. Par sym´etrie, on observe en effet la formation d’un front sym´etrique autour de la position −m(t). ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

286

La limite pr´ec´edente peut s’´ecrire : −

E e−Ze Le terme naire.

√1 2



2

!

x− √12 ln(C(u))

.

ln(C(u)) s’interpr`ete ainsi comme un terme de retard de l’onde station-

La limite apparaissant dans (31) et la relation (32) permettent de donner une description probabiliste du processus limite. C’est l’objet du th´eor`eme 5.5. Cette description fait intervenir le processus auxiliaire de la partie suivante. La relation (34) permet de donner une description probabiliste alternative du processus limite. C’est la description qui fait l’objet du th´eor`eme 3.1. Dans la suite de cette partie, nous donnons quelques d´etails sur la preuve de la proposition 5.4. Pour tout r´eel δ, on consid`ere la condition initiale gδ d´efinie par gδ (x) = 1 − exp(−φ(−x))1−x6δ . La condition initiale gδ v´erifie la condition (23). Notons uδ la solution de l’´equation (21) associ´ee. La preuve est naturelle et consiste `a v´erifier que uδ converge convenablement vers u. Le lemme 5.1 permet d’obtenir facilement l’encadrement suivant : (35)

uδ (t, x) − P (X1 (t) > δ + x) 6 u(t, x) 6 uδ (t, x).

Ainsi : C(t, uδ ) − C(t, 1]−∞,−δ] ) 6 C(t, u) 6 C(t, uδ ). En prenant la limite en t et en δ et en utilisant (30) on obtient : lim C(t, u) = lim lim C(t, uδ ),

t→∞

δ→∞ t→∞

c’est-` a-dire, en appelant C(u) la premi`ere limite : C(u) = lim C(uδ ). δ→∞

Notons que δ 7→ C(uδ ) est croissante. La relation (33) se d´eduit alors de (30). L’encadrement (35) permet ´egalement d’obtenir : uδ (t, m(t) + x) − P (X1 (t) > m(t) + x + δ) 6 u(t, m(t) + x) 6 uδ (t, m(t) + x). En prenant la limite en t puis en δ dans l’encadrement, on obtient : √  √  lim u(t, m(t)+x) = 1−lim E exp −C(uδ )Ze− 2x = 1−E exp −C(u)Ze− 2x . t

δ

Si C(u) ´etait nul, alors la limite pr´ec´edente serait nulle pour tout nombre r´eel x. Or :   u(t, m(t) + x) = 1 − E e−φ(Nm (t)−x) > 1 − E e−φ(X1 (t)−m(t)−x) .

La convergence en loi de X1 (t) − m(t) permet de conclure que C(u) est non nul. ´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

287

5.1.4. Processus auxiliaire. — Arguin, Bovier et Kistler introduisent un processus auxiliaire (Π(t))t et montrent qu’il admet la mˆeme limite que (Nm (t))t . Ce processus est d´efini de la mani`ere suivante. Soit η un processus de Poisson ponctuel sur R de mesure d’intensit´e r √ 2 (−x)e− 2x 1]−∞,0[ (x)dx. π Conditionnellement ` a η, on se donne une famille (Nℓx )x∈η de copies ind´ependantes du processus (Nℓ (t))t d´efini par √ Nℓ (t) = N (t) − 2t. Le processus ponctuel η et la famille (Nℓx )x∈η sont ind´ependants de Z. Le processus auxiliaire est d´efini par : X 1 √ ln(Z) + x + Nℓx (t). Π(t) = 2 x∈η Rappelons que le maximum du processus Nℓ converge presque sˆ urement vers −∞. Le processus Π(t) converge n´eanmoins vers un processus ponctuel non trivial. Plus pr´ecis´ement, Arguin, Bovier et Kistler ´etablissent le r´esultat suivant : Th´ eor` eme 5.5. — Les processus (Π(t))t et (Nm (t))t convergent en loi vers la mˆeme limite. L’´etude du comportement asymptotique de Nm (t) via l’introduction de ce processus auxiliaire se rapproche par certains aspects de la cavity method introduite par Parisi et ses coauteurs [MPV87]. Nous renvoyons `a [ABK11b] pour plus de d´etails. Montrons ce r´esultat. Soit φ : R → R une fonction continue, positive et `a support compact. Notons u la solution de l’´equation F-KPP (21) associ´ee `a la condition initiale 1 − exp(−φ(−·)). Rappelons que l’on a :  u(t, y) = 1 − E e−φ(−y+N (t)) et donc :

    √ 1 −φ(x+ √12 ln Z+Nℓ (t)) u t, −x + 2t − √ ln Z = 1 − E e Z . 2

En utilisant ce qui pr´ec`ede, des conditionnements successifs et en utilisant la forme de la transform´ee de Laplace d’un processus de Poisson ponctuel on obtient : !! r Z 0  √ √  2 1 − 2x −φ(Π(t)) dx , (−x)e = E exp − u t, −x + 2t − √ ln Z E e π 2 −∞ !! r Z ∞  √ 1 2 √2x = E exp − u t, x + 2t − √ ln Z dx . xe π 2 0

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

288

En utilisant la proposition 5.4 on obtient alors :       1 , lim E e−φ(Π(t)) = E exp − C u ·, · − √ ln Z t→∞ 2  = E exp − ZC(u) ,  = lim E e−φ(Nm (t)) t→∞

ce qui conclut la preuve.

5.1.5. Preuve du th´eor`eme 3.3 et des deux derniers points du th´eor`eme 3.1. — Commen¸cons par donner les grandes lignes de la preuve du th´eor`eme 3.3. Soient a > 0 et b ∈ R. Soit φ : R → R une fonction continue, positive et `a support compact. On s’int´eresse au comportement en grand temps de : √ √ √ √  E e−φ(N (t)−( 2t+a t+b)) X1 (t) − ( 2t + a t + b) > 0 . Pour δ > 0, on commence par ´etudier :  √ √ √ √  2t + a t + b L(t) = E e−φ(N (t)−( 2t+a t+b)) 1]−∞,δ] X1 (t) −  √ √ X1 (t) − ( 2t + a t + b) > 0 . On peut ´ecrire

√ √ √ √ 1 − u2 (t, 2t + a t + b) 1 − u1 (t, 2t + a t + b) √ √ √ √ L(t) = − u3 (t, 2t + a t + b) u3 (t, 2t + a t + b) √ √ √ √ u1 (t, 2t + a t + b) u2 (t, 2t + a t + b) √ √ √ √ − = u3 (t, 2t + a t + b) u3 (t, 2t + a t + b)

o` u u1 , u2 et u3 sont les solutions de l’´equation F-KPP (21) associ´ees aux conditions initiales f1 , f2 et f3 d´efinies par f1 (y) = 1 − exp(−φ(−y))1]−∞,0] (−y), f2 (y) = 1 − exp(−φ(−y))1]−∞,δ] (−y) et f3 (y) = 1 − 1]−∞,0] (−y). En utilisant (25) et (28) on en d´eduit : C(f1 ) − C(f2 ) lim L(t) = . t→∞ C(f3 ) Notons que l’on ne peut avoir C(f1 ) = C(f2 ), car sinon on aurait : lim u1 (t, m(t)) = lim u2 (t, m(t))

t→∞

t→∞

et donc, en faisant la diff´erence :  lim E e−φ(N (t)−m(t)) 1]0,δ] (X1 (t) − m(t)) = 0,

t→∞

ce qui est exclu compte tenu du comportement du maximum et de N (t) − m(t). Ainsi, L(t) converge vers un r´eel strictement positif qui ne d´epend pas du choix de a et de b. √ √ La loi du maximum de N (t) − ( 2t + a t + b) conditionnellement `a la stricte positivit´e de ce maximum s’´etudie de mani`ere similaire, ce qui permet de conclure l’argument de troncature et la preuve du th´eor`eme 3.3.

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

289

Dans la fin de cette partie, nous d´emontrons les deux derniers points du th´eor`eme 3.1. Soit φ : R → R une fonction continue, positive et `a support compact. Notons u la solution de l’´equation F-KPP (21) associ´ee `a la condition initiale 1 − exp(−·). Par la proposition 5.4 on a :   (36) lim E e−φ(Nm (t)) = E e−ZC(u) t→∞

o` u

C(u) = lim

t→∞

r

2 π

Z



√ √ u(t, t 2 + y)yey 2 dy.

0

En utilisant (34) on obtient : r Z √ √ 2 y 2 C(u) = lim 2 + y)ye u(t, t dy, t→∞ π y≈√t r Z √ 2 E (1 − exp (−φ(Nℓ (t) − y)))ye 2y dy. = lim √ t→∞ π y≈ t Soit B un r´eel tel que φ 6 1[B,+∞[ . On a alors 1 − exp(−φ(Nℓ (t) − y)) = 0 si y < B. En ´ecrivant √ √   E 1 − e−φ(Nℓ (t)−y) = E 1 − e−φ(Nℓ (t)−y) X1 (t) − 2t − y > B P (X1 (t) − 2t − y > B)

et en utilisant le r´esultat ´enonc´e `a la suite du th´eor`eme 3.3 on obtient : r Z √ 2 √2y C(u) = lim E (1 − exp (−φ (D + H + B))) P (X1 (t) − 2t − y > B) dy, ye √ t→∞ y≈ t π r Z √ 2 √2y dy. P (X1 (t) − 2t − y > B) =E (1 − exp (−φ (D + H + B))) lim ye √ t→∞ y≈ t π

En utilisant (29) pour la solution de l’´equation F-KPP (21) associ´ee `a la condition initiale 1]−∞,−B[ on obtient : ∞

r √ 2 √2y P (X1 (t) − 2t − y > B) C(u) = E (1 − exp (−φ (D + H + B))) lim dy ye t→∞ 0 π = E (1 − exp (−φ (D + H + B))) C(1]−∞,B[ ). Z

En utilisant (30) et le fait que H suit une loi exponentielle de moyenne 2−1/2 , on obtient finalement : Z √ √ C(u) = C(1]−∞,0[ ) (1 − exp (−φ (D + y))) 2e− 2y . R

De (36) et de ce qui pr´ec`ede on d´eduit les deux derniers points du th´eor`eme 3.1.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

290

5.2. Approche de A¨ıd´ ekon, Berestycki, Brunet et Shi 5.2.1. Normalisation. — Pour exposer l’approche de A¨ıd´ekon, Berestycki, Brunet et Shi nous pr´ef´erons reprendre leur normalisation. Dans la suite, le mouvement brownien a une variance σ 2 = 2, une d´erive ρ = 2 et le temps d’atteinte avant fission est toujours de moyenne 1. Par ailleurs, nous nous int´eressons au minimum et au processus vu depuis son minimum. Ces normalisations sont telles que : ! ! N (t) N (t) X X −Xk (t) E = 0. Xk (t) = 1 et E Xk (t)e k=1

k=1

Nous conservons le nom des objets introduits pr´ec´edemment, mˆeme si les d´efinitions diff`erent parfois l´eg`erement. Ainsi, nous notons X1 (t) 6 X2 (t) 6 · · · 6 XN (t) les positions des particules class´ees par ordre croissant. On dispose de la convergence en loi de X1 (t) − m(t) vers une variable al´eatoire W o` u 3 m(t) = ln(t). 2 La fonction de r´epartition de la variable al´eatoire W v´erifie : P (W 6 x) ∼x→−∞ −Cw xex .

(37)

La martingale (Z(t))t est d´efinie par : N (t)

Z(t) =

X

Xi (t)e−Xi (t) .

k=1

La martingale converge presque sˆ urement vers une variable al´eatoire strictement positive Z. Le processus (N (t))t est d´efini comme pr´ec´edemment. Le processus (NZ (t))t est d´efini par : NZ (t) = N (t) − (m(t) − ln(Cw Z)) .

On note X1,t (·) la trajectoire de la particule qui r´ealise le minimum `a l’instant t. Le renversement Yt (·) de cette trajectoire, les instants de fissions τi,j (t), le processus ponctuel Q(t, ζ) et la famille de processus (Γ(b) )b sont ´egalement d´efinis comme pr´ec´edemment. On pose Y (b) (t) = −σΓ(b) . Conditionnellement `a Y (b) nous d´efinissons un processus ponctuel Q

Y (b)

par

Q

Y (b)

= δ0 +

X t∈χ

Nt (t) + Y (b) (t)



o` u χ est un processus de Poisson ponctuel ind´ependant sur [0, +∞[ de mesure d’intensit´e 2dt et o` u, conditionnellement `a ce qui pr´ec`ede, les (Nt (·))t∈χ sont des copies ind´ependantes du mouvement brownien branchant. Nous d´efinissons alors la loi de (Y, Q) par : Z +∞     Y (b) 1 dbE φ Y (b) , Q (38) Eφ(Y, Q) = C Y (b) 0

pour tout φ o` u C est la constante de normalisation. ´ ASTERISQUE 361

min Q

>0

(1067)

MOUVEMENT BROWNIEN BRANCHANT

291

A¨ıd´ekon, Berestycki, Brunet et Shi ´etablissent les r´esultats suivants. Th´ eor` eme 5.6 ([ABBS11]) lim lim (Yt , Q(t, ζ), X1 (t) − m(t)) = (Y, Q, W ) en loi

ζ→∞ t→∞

o` u (Y, Q) et W sont ind´ependants. Th´ eor` eme 5.7 ([ABBS11]) • Le processus (NZ (t), Z(t)) converge en loi vers (NZ , Z) o` u NZ est un processus ponctuel ind´ependant de Z. • Le processus NZ a la mˆeme loi que le processus X x + Cx x∈PZ

o` u PZ est un processus de Poisson ponctuel d’intensit´e exp(x)dx et o` u, conditionnellement ` a PZ , (Cx )x∈PZ est une suite de copies ind´ependantes du processus Q apparaissant dans le th´eor`eme pr´ec´edent. 5.2.2. Preuve du th´eor`eme 5.7 a ` partir du th´eor`eme 5.6. — Pour tout k > 1, on note Hk l’ensemble des particules qui sont les premi`eres de leur lign´ee `a atteindre le niveau k. Cet ensemble est presque sˆ urement fini. Notons Hk son cardinal et posons : Zk = ke−k Hk . Le processus (Zk )k est la martingale (Z(t))t regard´ee le long de lignes d’arrˆets diff´erentes. La suite des Zk converge ´egalement presque sˆ urement vers Z. Si u est un (u) ´el´ement de Hk et si t est suffisamment grand, on note X1 (t) la position de la particule la plus basse ` a l’instant t parmi celles qui descendent de u. Posons, pour tout t assez grand : X ∗ Pk,t = δX (u) (t) − m(t) + ln(Cw Zk ). u∈Hk

1

En utilisant la propri´et´e de branchement du mouvement brownien branchant, le fait que m(t + c) − m(t) converge vers 0 pour tout c et le fait que X1 (t) − m(t) converge ∗ vers W , on obtient la convergence de Pk,t vers : X ∗ Pk,∞ = δW (u) + k + ln(Cw Zk ) u∈Hk

o` u, conditionnellement ` a FHk , les W (u) sont des copies ind´ependantes de W . En utilisant (37) et des r´esultats classiques de la th´eorie des valeurs extrˆemes, on obtient facilement la convergence en loi de X δW (u) + (ln(Hk ) + ln(ln(Hk )) + ln(Cw )) u∈Hk

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

292

vers un processus ponctuel de Poisson χ sur R de mesure d’intensit´e ex dx. En utilisant la relation Hk = k −1 ek Zk , on obtient le comportement presque sˆ ur suivant : ln(Hk ) + ln(ln(Hk )) = ln(Zk ) + k + ok (1). ∗ En combinant les deux derniers r´esultats, on obtient la convergence en loi de Pk,∞ vers le processus de Poisson ponctuel χ. (u) Pour tout u ∈ Hk , tout ζ > 0 et pour t suffisamment grand, notons Qt,ζ le (u)

processus ponctuel – vu depuis X1 (t) – des descendants de u qui se sont s´epar´es de (u) X1 (t) apr`es l’instant t − ζ. D´efinissons de la mˆeme mani`ere Qζ `a partir de Q (Q ne contient pas d’information sur la g´en´ealogie, mais on peut d´efinir Qζ en reprenant la construction de Q). Fixons η > 0. Consid´erons l’´ev´enement d´efini par les deux conditions suivantes : (1) Si Xi (t) 6 2η et Xj (t) ∈ [−2η, 2η] alors τi,j 6∈ [ζ, t − ζ]. (2) Aucune particule n’atteint le niveau k avant l’instant ζ. (3) On a | ln(Cw Z)| 6 η.

Une l´eg`ere variante du th´eor`eme 4.2 permet de s’assurer que cet ´ev´enement est de probabilit´e proche de 1 pour un bon choix des param`etres. Si cet ´ev´enement est v´erifi´e, on a, pour t suffisamment grand :  X  (u) (u) NZ = Qt,ζ + X1,t − m(t) + ln(Cw Z) . [−η,η]

[−η,η]

u∈Hk

(u)

(u)

Conditionnellement ` a FHk , les Qt,ζ et les X1,t − m(t) + ln(Cw Zk ) sont ind´ependants. En faisant d´ependre convenablement ζ de k, en faisant tendre t vers l’infini puis k ∗ ∗ vers l’infini, en utilisant la convergence de Pk,t et de Pk,∞ et le th´eor`eme 5.6 puis en faisant tendre η vers l’infini, on obtient la convergence en loi de NZ vers Q.

5.2.3. D´ecomposition en ´epine dorsale. — Consid´erons F une fonction raisonnable de C([0, t], R) dans R. Rappelons que Xk,t d´esigne la trajectoire sur [0, t] de la particule en position Xk (t) ` a l’instant t. On a : ! N (t) X   E F (Xk,t ) = E N (t) E F (σB(s) + 2s, s ∈ [0, t]) k=1

 = et E F (σB(s) + 2s, s ∈ [0, t])

o` u B est un mouvement brownien standard. Un changement de mesure via la formule de Cameron-Martin permet d’´eliminer la d´erive et le facteur et . On obtient : ! N (t) X  E F (Xk,t ) = E F (σB(s), s ∈ [0, t]) . k=1

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

293

On peut en r´ealit´e faire un changement de mesure pour le mouvement brownien branchant lui-mˆeme. Le processus sous la nouvelle mesure admet une description probabiliste agr´eable. D´etaillons cela. On d´efinit une martingale (M (t))t>0 en posant : N (t) X M (t) = e−Xk (t) . k=1

Cette martingale converge presque sˆ urement vers 0. Notons (Ft )t la filtration naturelle du mouvement brownien branchant. Soit Q la mesure de probabilit´e sur F∞ telle que, pour tout t > 0 : Q|Ft = M (t).P|Ft .

Chauvin et Rouault ont fourni dans [CR88] la description suivante du processus sous la mesure de probabilit´e Q. Une particule initialement en l’origine ´evolue suivant un mouvement brownien sans d´erive et de variance σ 2 = 2. Cette particule est l’´epine dorsale du processus. Avec un taux 2, l’´epine dorsale donne naissance `a une particule qui ´evolue suivant un mouvement brownien branchant de loi P (branchements ` a taux 1 et mouvement brownien de d´erive ρ = 2 et de variance σ 2 = 2). Par ailleurs, si Ξ(t) ∈ {1, . . . , N (t)} d´esigne l’indice de l’´epine dorsale `a l’instant t, on a, pour i 6 N (t) : e−Xi (t) . Q(Ξ(t) = i|Ft ) = M (t) Si par exemple F (X1,t ) est une fonction de la trajectoire X1,t (·) sur [0, t] de la particule qui r´ealise le minimum `a l’instant t, on v´erifie facilement : ! N (t) X F (Xk,t )1k=1 , EP (F (X1,t )) = EP k=1

! N (t) 1 X F (Xk,t )1k=1 , M (t)

= EQ

k=1



 = EQ eXΞ(t) (t) F (XΞ(t),t )1Ξ(t)=1 .

Ce type de formule est connu sous le nom de many-to-one formula. L’´egalit´e Ξ(t) = 1 est v´erifi´ee lorsqu’aucun des minima des mouvements browniens branchants cr´e´es le long de la trajectoire de l’´epine dorsale n’est, `a l’instant t, sous XΞ(t) (t). Mais les instants de cr´eations de ces mouvements browniens branchants forment un processus de Poisson ponctuel sur [0, t] de mesure d’intensit´e 2dt. Par ailleurs, si s est l’un de ces instants, la probabilit´e que son minimum soit `a l’instant t sous XΞ(t) (t) est (conditionnellement ` a la trajectoire de l’´epine dorsale et aux temps de branchement sur cette ´epine dorsale) : Gt−s (XΞ(t) (t) − XΞ(t) (s)) ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

294

o` u, pour tout t > 0 et tout x ∈ R : Gt (x) = P (X1 (t) 6 x). Ainsi, le nombre de mouvements browniens branchants cr´e´es dont le minimum est sous XΞ(t) (t) ` a l’instant t suit, conditionnellement `a la trajectoire de l’´epine dorsale, Rt une loi de Poisson de param`etre 2 0 Gt−s (XΞ(t) (t) − XΞ(t) (s))ds. Par cons´equent : Rt  EP (F (X1,t )) = EQ eXΞ(t) (t) F (XΞ(t),t )e−2 0 Gt−s (XΞ(t) (t)−XΞ(t) (s))ds .

Notons (B(t))t un mouvement brownien standard. La trajectoire de l’´epine dorsale ´etant un mouvement brownien sans d´erive de variance σ 2 on obtient finalement : Rt  (39) EP (F (X1,t )) = E eσB(t) F (σB(s), s ∈ [0, t])e−2 0 Gt−s (σB(t)−σB(s))ds . 5.2.4. Preuve du th´eor`eme 5.6. — Soit F1 une fonction raisonnable de C(R+ , R) dans R. Si X est une fonction continue de [0, t] dans R, F1 (X) est l’image par F1 de la fonction d´efinie par s 7→ X(min(t, s)). Soient A1 , . . . , An des sous-ensembles bor´eliens de R et α1 , . . . , αn des nombres r´eels. Soit enfin η > 0. Nous nous int´eressons au comportement asymptotique de I(x, t, ζ) d´efini pour un param`etre x > 0 et pour t > ζ > 0 par :   Pn I(x, t, ζ) = E 1A (X1,t )F1 (Yt (s), s ∈ [0, ζ])e− i=1 αi Q(t,ζ)(Ai ) 1|X1 (t)−m(t)|6η . Une trajectoire X : [0, t] → R appartient `a A si :

– On a X(s) > a(s) pour s ∈ [0, t − ζ] o` u a(s) = −x pour s 6 t/2 et a(s) = m(t) − x pour s > t/2. – On a X(s) − X(t) > −x pour s ∈ [t − ζ, t]. – On a X(t − ζ) − X(t) ∈ [ζ 1/3 , ζ 2/3 ]. – Le minimum de X sur [t/2, t] est atteint en un point de [t − x, t].

Avec une probabilit´e arbitrairement proche de 1 pour x, ζ et t suffisamment grands, on a X1 (t) − m(t) ∈ [−η, η] o` u X1,t ∈ A. C’est un r´esultat semblable au th´eor`eme 4.1. (t)

Notons Ea,b l’esp´erance sous laquelle B = (B(s))s∈[0,t] est un pont brownien de longueur t entre a et b. Posons  Pn  G∗s (a) = 1 − E e− i=1 αi 1Ai (N (s)−a) 1min N (s)−a>0 .

Notons que, si tous les αi sont nuls, on a G∗s (a) = P (min N (s) − a < 0) = Gs (a). Un raisonnement semblable ` a celui menant `a (39), un renversement de trajectoire – remplacement de B = (B(s))s∈[0,t] par le processus de mˆeme loi B = (B(t) − B(t − s))s∈[0,t] ) – puis un conditionnement/d´econditionnement par la valeur de σB(t) permet d’obtenir : Z C η I(x, t, ζ) = P (σB(t) ∈ m(t) + dz)em(t)+z J(x, t, ζ, z) t −η ´ ASTERISQUE 361

(1067)

o` u:

MOUVEMENT BROWNIEN BRANCHANT

295

  Rζ ∗ Rt (t) J(x, t, ζ, z) = tE0,σ−1 (m(t)+z) 1A (σB)F1 (σB)e−2 0 Gs (σBs )ds−2 ζ Gs (σBs )ds .

En explicitant la densit´e de la loi de σB(t) et en exploitant le fait que les z pertinents appartiennent ` a un intervalle born´e, on obtient : Z η Z η C em(t)+z J(x, t, ζ, z)dz = C ez J(x, t, ζ, z)dz (40) I(x, t, ζ) ∼t→∞ 3/2 t −η −η o` u C est une constante qui change de ligne en ligne. Il reste `a ´etudier le comportement asymptotique de J(x, t, ζ, z) pour z dans [−η, η]. Pour cela, on applique la propri´et´e de Markov au pont brownien ` a l’instant ζ. Rappelons que nous avons renvers´e la trajectoire, cela correspond donc au temps r´eel t−ζ. Notons θ l’instant o` u (B(s))s∈[0,ζ] atteint son maximum. On obtient, toujours en exploitant le fait que z appartient `a un intervalle born´e : Z −ζ 1/3 J(x, t, ζ, z) ∼t→∞ K(x, ζ, w)L(x, t, ζ, z, w)P (σBζ ∈ dw), −ζ 2/3

o` u

  Rζ ∗ (ζ) K(x, ζ, w) = E0,σ−1 w 1σB(s)6x,s∈[0,ζ] 1θ6x F1 (σB(s), s ∈ [0, ζ])e−2 0 Gs (σBs )ds

et o` u L(x,t, ζ, z, w) =

  R t−ζ (t−ζ) tE0,σ−1 (m(t)+z−w) 1σB(t−ζ)−σB(t−ζ−s)>a(s),s∈[0,t−ζ] e−2 0 Gs+ζ (w+σBs )ds .

A¨ıd´ekon, Berestycki, Brunet et Shi montrent alors que L(x, t, ζ, z, w) converge lorsque t tend vers l’infini et que cette limite v´erifie, uniform´ement en ζ : lim L(x, t, ζ, z, w) ∼w→−∞ |w|ϕ(x, z)

(41)

t→∞

pour une fonction ϕ explicite. On peut alors en d´eduire, en utilisant le fait que les w pertinents appartiennent ` a l’intervalle [−ζ 2/3 , −ζ 1/3 ] : Z −ζ 1/3 K(x, ζ, w)|w|ϕ(x, z)P (σBζ ∈ dw). lim J(x, t, ζ, z) = t→∞

−ζ 2/3

On peut alors montrer : lim lim J(x, t, ζ, z) =

ζ→∞ t→∞

(42) ϕ(x, z)σ

Z

0

σ−1 x

  R∞ ∗ (b) E F1 (σΓ(b) (s), s > 0)e−2 0 Gs (σΓs )ds 1Tb 6x db.

On conclut la preuve en revenant `a (40) et en laissant tendre x vers l’infini. La relation (42) s’obtient par des d´ecompositions de trajectoires du mouvement brownien. L’obtention de la relation (41) est plus d´elicate. Des arguments semblables `a ceux menant au th´eor`eme 4.2 sur la g´en´ealogie permettent de limiter l’int´egrale

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

296

sur [0, t − ζ] intervenant dans l’exponentielle `a une int´egrale sur des ensembles de la forme [0, M ] ∪ [t − ζ − M, t − ζ]. Lorsque w tend vers −∞, l’int´egrale sur [0, M ] devient triviale. Apr`es retournement du temps, l’int´egrale sur [t − ζ − M, t − ζ] s’´ecrit : Z M Gt−s (m(t) + z + σB (t) (s))ds 0

o` u la loi de B (t) (s) est, asymptotiquement en t, celle d’un mouvement brownien standard. La convergence de l’int´egrale se d´eduit alors de la convergence en loi de X1 (t) − m(t). Nous renvoyons aux sections 7, 8 et 9 de [ABBS11] pour les d´etails des preuves de (41) et (42). ´ ERENCES ´ REF [ABK11a] L.-P. Arguin, A. Bovier & N. Kistler – « Genealogy of extremal particles of branching Brownian motion », Comm. Pure Appl. Math. 64 (2011), no. 12, p. 1647–1676. [ABK11b]

, « The extremal process of branching Brownian motion », Probab. Theory Related Fields 157 (2013), no. 3-4, p. 535–574.

[ABK12a]

, « An ergodic theorem for the extremal process of branching Brownian motion », pr´epublication arXiv:1209.6027, 2012.

[ABK12b]

, « An ergodic theorem for the frontier of branching Brownian motion », Electron. J. Probab. 18 (2013), p. 25.

[ABK12c]

, « Poissonian statistics in the extremal process of branching Brownian motion », Ann. Appl. Probab. 22 (2012), no. 4, p. 1693–1711.

[ABR09]

L. Addario-Berry & B. Reed – « Minima in branching random walks », Ann. Probab. 37 (2009), no. 3, p. 1044–1079. ´kon, J. Berestycki, E. Brunet & Z. Shi – « The branching [ABBS11] E. A¨ıde Brownian motion seen from its tip », pr´epublication arXiv:1104.3738, 2001, a paraˆıtre dans Prob. Th. Rel. Fields. ` [AZ12]

L.-P. Arguin & O. Zindy – « Poisson-Dirichlet statistics for the extremes of a log-correlated Gaussian field », pr´epublication arXiv:1203.4216, 2012.

[BDG01]

E. Bolthausen, J.-D. Deuschel & G. Giacomin – « Entropic repulsion and the maximum of the two-dimensional harmonic crystal », Ann. Probab. 29 (2001), no. 4, p. 1670–1692.

[BDZ11]

E. Bolthausen, J.-D. Deuschel & O. Zeitouni – « Recursions and tightness for the maximum of the discrete, two dimensional Gaussian free field », Electron. Commun. Probab. 16 (2011), p. 114–119.

[Bra78]

M. Bramson – « Maximal displacement of branching Brownian motion », Comm. Pure Appl. Math. 31 (1978), no. 5, p. 531–581.

´ ASTERISQUE 361

(1067)

MOUVEMENT BROWNIEN BRANCHANT

297

[Bra83]

M. Bramson« Convergence of solutions of the Kolmogorov equation to travelling waves », Mem. Amer. Math. Soc. 44 (1983).

[BDZ13]

M. Bramson, J. Ding & O. Zeitouni – « Convergence in law of the maximum of the two-dimensional discrete Gaussian free field », pr´epublication arXiv:1301.6669, 2013.

[BZ11]

[BD09]

M. Bramson & O. Zeitouni – « Tightness of the recentered maximum of the two-dimensional discrete Gaussian free field », Comm. Pure Appl. Math. 65 (2012), no. 1, p. 1–20. ´ Brunet & B. Derrida – « Statistics at the tip of a branching random E.

[BD11]

walk and the delay of traveling waves », EPL 87 (2009). ´ Brunet & B. Derrida« A branching random walk seen from the tip », E. J. Stat. Phys. 143 (2011), no. 3, p. 420–446.

[CLD01]

D. Carpentier & P. L. Doussal – « Glass transition of a particle in a random potential, front selection in nonlinear renormalization group, and entropic phenomena in Liouville and Sinh-Gordon models », Phys. Rev. E (3) 63 (2001).

[CR88]

B. Chauvin & A. Rouault – « KPP equation and supercritical branching Brownian motion in the subcritical speed area. Application to spatial trees », Probab. Theory Related Fields 80 (1988), no. 2, p. 299–314.

[CR90]

B. Chauvin & A. Rouault« Supercritical branching Brownian motion and K-P-P equation in the critical speed-area », Math. Nachr. 149 (1990), p. 41–59.

[Dem06]

A. Dembo – « Simple random covering disconnection, late and favorite points », in International Congress of Mathematicians III, Eur. Math. Soc., Z¨ urich, 2006, p. 535–558.

[DPRZ04] A. Dembo, Y. Peres, J. Rosen & O. Zeitouni – « Cover times for Brownian motion and random walks in two dimensions », Ann. of Math. (2) 160 (2004), no. 2, p. 433–464. [DZ12]

J. Ding & O. Zeitouni – « Extreme values for two-dimensional discrete Gaussian free field », pr´epublication arXiv:1206.0346, 2012.

[DRSV12] B. Duplantier, R. Rhodes, S. Sheffield & V. Vargas – « Critical Gaussian multiplicative xhaos: Convergence of the serivative martingale », pr´epublication arXiv:1206.1671, 2012. [FB08]

Y. V. Fyodorov & J.-P. Bouchaud – « Freezing and extreme-value statistics in a random energy model with logarithmically correlated potential », J. Phys. A 41 (2008), no. 37.

[HS09]

Y. Hu & Z. Shi – « Minimal position and critical martingale convergence in branching random walks, and directed polymers on disordered trees », Ann. Probab. 37 (2009), no. 2, p. 742–789.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

´ E ´ J.-B. GOUER

298

[KPP37]

´ A. N. Kolmogorov, I. G. Petrovsky & N. Piskunovi – « Etude de l’´equation de la diffusion avec croissance de la quantit´e de mati`ere et son application ` a un probl`eme biologique », Moscow Univ. Bull. Math. 1 (1937), p. 1–25.

[LS87]

S. P. Lalley & T. Sellke – « A conditional limit theorem for the frontier of a branching Brownian motion », Ann. Probab. 15 (1987), no. 3, p. 1052– 1061.

[Mai11]

P. Maillard – « A characterisation of superposable random measures », pr´epublication arXiv:1102.1888, 2011.

[McK75]

H. P. McKean – « Application of Brownian motion to the equation of Kolmogorov-Petrovskii-Piskunov », Comm. Pure Appl. Math. 28 (1975), no. 3, p. 323–331.

[MPV87] M. M´ ezard, G. Parisi & M. A. Virasoro – Spin glass theory and beyond, World Sci. Lecture Notes in Phys., vol. 9, World Scientific Publishing Co. Inc., Teaneck, 1987. [Rob11]

M. I. Roberts – « A simple path to asymptotics for the frontier of a branching Brownian motion », Ann. Probab. 41 (2013), no. 5, p. 3518– 3541.

´ E ´ Jean-Baptiste GOUER Universit´e d’Orl´eans UFR Sciences MAPMO (UMR 6628 du CNRS) F´ed´eration Denis Poisson B.P. 6759 45067 Orl´eans Cedex 2 France E-mail : [email protected]

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1068, p. 299 `a 323

Mars 2013

` MODELES ET LAMINATIONS TERMINALES [d’apr` es Minsky et Brock-Canary-Minsky] par Cyril LECUIRE

INTRODUCTION En paraphrasant Minsky, on peut dire que la conjecture des laminations terminales r´epond ` a la question suivante : est-ce qu’une vari´et´e hyperbolique de dimension 3 dont le groupe fondamental est de type fini est uniquement d´etermin´ee par sa g´eom´etrie asymptotique ? Les travaux sur les invariants de bouts initi´es d’une part par Ahlfors et Bers et d’autre part par Thurston permettent, d’une certaine fa¸con, de quantifier cette g´eom´etrie asymptotique et de donner un ´enonc´e pr´ecis `a cette conjecture. Jetons un coup d’œil ` a ces invariants. Soit N une vari´et´e hyperbolique de dimension 3 dont le groupe fondamental est de type fini. C’est-`a-dire que N est une vari´et´e de dimension 3 orientable munie d’une m´etrique riemannienne compl`ete dont toutes les courbures scalaires sont ´egales `a −1. D’apr`es la conjecture dite de sagesse, prouv´ee par Agol et Calegary-Gabai ([Ag] et [CG]), N est hom´eomorphe `a l’int´erieur d’une vari´et´e compacte M . Pour simplifier, supposons que N n’a pas de pointes paraboliques. Dans ce cas, comme nous le verrons dans la section 1.1, les bouts de N sont en correspondance avec les composantes de ∂M . Ces bouts sont class´es en deux types ` un bout g´eom´etriquement fini (voir auxquels sont associ´es deux types d’invariants. A partie 1 pour les d´efinitions) est associ´ee une structure conforme sur la composante de ∂M correspondante et ` a un bout g´eom´etriquement infini est associ´ee une lamination g´eod´esique (elle aussi sur la composante correspondante de ∂M ). La collection des structures conformes et des laminations g´eod´esiques ainsi produites par les bouts de N constitue ce qu’on appelle les invariants de bouts de N . Remarquons que ces invariants vivent sur ∂M , on peut donc comparer les invariants de bouts de deux vari´et´es hyperboliques diff´erentes pourvu qu’elles soient hom´eomorphes `a l’int´erieur de la mˆeme vari´et´e compacte. On dit que deux telles vari´et´es ont le mˆeme type topologique. La conjecture des laminations terminales (qui est d´esormais un th´eor`eme), ´enonc´ee par Thurston ([Th2]), se formule de la mani`ere suivante.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

300

C. LECUIRE

Th´ eor` eme 0.1 (Th´eor`eme des laminations terminales). — Une vari´et´e hyperbolique dont le groupe fondamental est de type fini est uniquement d´etermin´ee par son type topologique et ses invariants de bouts. En d’autres termes, deux vari´et´es hyperboliques N et N ′ qui sont hom´eomorphes et ont les mˆemes invariants de bouts sont isom´etriques (par une isom´etrie dans la classe d’homotopies de l’hom´eomorphisme entre N et N ′ ). Un certain nombre de cas particuliers ont ´et´e trait´es par Minsky ([Mi1], [Mi2], [Mi3]) et une preuve pour toutes les vari´et´es ind´ecomposables est donn´ee dans [Mi4] et [BCM1]. Les arguments pour le cas g´en´eral sont d´esormais connus et largement accept´es bien que l’article correspondant soit encore en cours de r´edaction. Bowditch a donn´e une preuve diff´erente bien que suivant le mˆeme sch´ema g´en´eral ([Bow3], [Bow4] et [Bow5]), c’est-` a-dire que sa preuve repose aussi sur la construction d’une vari´et´e mod`ele (qui est diff´erente de celle de Minsky). Une approche diff´erente, au sens o` u elle n’introduit pas de vari´et´e mod`ele, a ´et´e annonc´ee dans [BB1]. Dans cet expos´e, nous allons essayer de donner aux lecteurs des ´el´ements pour comprendre comment obtenir des informations sur la g´eom´etrie d’une vari´et´e hyperbolique ` a partir de ses invariants de bouts et `a quoi peut servir le type d’informations ainsi acquises. Apr`es avoir d´efini les bouts et leurs invariants, nous expliquerons des r´esultats de Minsky et Bowditch qui font le lien entre des propri´et´es g´eom´etriques d’une vari´et´e hyperbolique et ses invariants de bouts. Ceci nous conduira naturellement ` a expliquer, dans un cas simple, la construction de la vari´et´e mod`ele de Minsky. Nous pr´esenterons ensuite un certain nombre de r´esultats dont les preuves utilisent cette vari´et´e mod`ele ou des variantes.

´ ES ´ HYPERBOLIQUES DE DIMENSION 3 1. BOUTS DES VARIET Dans cette premi`ere partie, nous allons d´efinir les bouts des vari´et´es hyperboliques, leurs types et leurs invariants. Nous d´ecrirons ensuite deux exemples classiques pour illustrer ces concepts et nous conclurons par un aper¸cu de la preuve du th´eor`eme des laminations terminales. 1.1. Bouts relatifs aux pointes paraboliques En suivant Bonahon ([Bon]), nous allons partir de la d´efinition de Freudenthal (voir [Fr]) d’un bout d’un espace topologique X. Un bout b de X est une famille d’ouverts connexes (Ui )i∈I avec les propri´et´es suivantes : (1) Pour tout i, Ui est de fronti`ere compacte mais n’est pas relativement compacte. (2) Pour tous i et j, il existe k tel que Uk est contenu dans Ui ∩ Uj . (3) La famille (Ui )i∈I est maximale pour les propri´et´es 1 et 2.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

301

On munit l’union de X et de l’ensemble de ses bouts d’une topologie en prenant pour voisinage d’un bout b = (Ui )i∈I la famille des ouverts Ui ∪b. Par abus de langage on appellera voisinage du bout b dans X chacun des ouverts Ui . Nous noterons H3 l’espace hyperbolique de dimension 3, i.e. l’unique vari´et´e hyperbolique simplement connexe de dimension 3. Le revˆetement universel de toute vari´et´e hyperbolique N de dimension 3 est isom´etrique `a H3 . Le choix d’une telle isom´etrie induit une repr´esentation ρ : π1 (M ) → Isom(H3 ). On d´eduit du lemme de Margulis ([KM]) qu’il existe une collection ρ(π1 (M ))-invariante d’horoboules dans H3 qui sont deux ` a deux disjointes et « centr´ees » aux points fixes des isom´etries paraboliques de ρ(π1 (M )). La projection de chacune de ses horoboules sur N est un voisinage d’une pointe parabolique. Un tel voisinage est hom´eomorphe au produit d’une demi-ligne (0, ∞) avec soit un tore de dimension 2, soit un anneau ouvert. La r´eunion de ces voisinages des pointes dans N est appel´ee la partie cuspidale de N et son compl´ementaire la partie non-cuspidale, que nous noterons N0 . Un bout de N relatif aux pointes paraboliques est un bout de la partie non-cuspidale N0 . Dans la suite nous consid´ererons uniquement des bouts relatifs aux pointes paraboliques et nous les appellerons simplement bouts de N . Un cœur pour une vari´et´e M (non-compacte) de dimension 3 est une sous-vari´et´e C ⊂ M telle que l’inclusion C ֒→ M est une ´equivalence d’homotopie. Lorsque le groupe fondamental de M est de type fini, un th´eor`eme de Scott ([Sc]) garantit l’existence d’un cœur compact. Un tel cœur compact n’est pas unique mais McCullough, Miller et Swarup ([MMS]) ont d´emontr´e que deux cœurs compacts diff´erents sont hom´eomorphes. Remarquons que deux tels cœurs ne sont cependant pas n´ecessairement isotopes, par exemple un cœur compact dans un bretzel ouvert peut ˆetre nou´e. Pour une vari´et´e hyperbolique N , un cœur compact relatif (aux pointes paraboliques) C ⊂ N0 est un cœur compact qui est bien positionn´e vis-`a-vis des pointes paraboliques, c’est-` a-dire que l’inclusion (C, C ∩ ∂N0 ) ֒→ (N0 , ∂N0 ) est une ´equivalence d’homotopie. L’existence d’un cœur compact relatif a ´et´e d´emontr´ee par McCullough ([Mc]). ´ Etant donn´e un cœur compact relatif C, chaque composante de N0 − C est un voisinage d’un bout de N . On a ainsi une correspondance biunivoque entre les bouts de N et les composantes de N0 − C (voir [Bon]) et donc entre les bouts de N et les composantes de ∂C − (C ∩ ∂N0 ). Un bout de N est topologiquement sage s’il a un voisinage hom´eomorphe `a S × (0, ∞), S ´etant une surface de type fini. Dans les ann´ees 70, Marden a conjectur´e qu’une vari´et´e hyperbolique N dont le groupe fondamental est de type fini est hom´eomorphe ` a l’int´erieur d’une vari´et´e compacte. Cette conjecture, dite de sagesse, a ´et´e r´esolue ind´ependamment par Agol et Calegary-Gabai ([Ag] et [CG]). Il s’ensuit

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

302

C. LECUIRE

que tous les bouts d’une vari´et´e hyperbolique dont le groupe fondamental est de type fini sont topologiquement sages. Soit N une vari´et´e hyperbolique de volume infini dont le groupe fondamental est de type fini. D’apr`es ce qu’on vient de voir, N est hom´eomorphe `a l’int´erieur d’une vari´et´e compacte M . De plus N poss`ede un cœur compact relatif C hom´eomorphe `a M . Ceci nous permet de plonger ∂C − (C ∩ ∂N0 ) dans ∂M et d’obtenir une correspondance biunivoque entre les bouts de N et des sous-surfaces disjointes de ∂M de fa¸con que chaque bout b est hom´eomorphe `a S × (0, ∞), S ´etant la sous-surface de M correspondant au bout b. Un bout de N est g´eom´etriquement fini s’il a un voisinage qui ne rencontre aucune g´eod´esique ferm´ee. Si tout voisinage d’un bout b rencontre une g´eod´esique ferm´ee alors b est g´eom´etriquement infini. Dans les deux sections qui suivent nous allons d´efinir les invariants associ´es ` a chacun de ces types de bouts. 1.2. Invariants des bouts g´ eom´ etriquement finis Un groupe kleinien est un sous-groupe discret de P SL(2, C). Comme P SL(2, C) est le groupe des isom´etries de H3 qui pr´eservent l’orientation, toute vari´et´e hyperbolique est isom´etrique au quotient de H3 par un groupe kleinien sans torsion et, r´eciproquement, le quotient de H3 par un groupe kleinien sans torsion est une vari´et´e hyperbolique. Dans la suite nous supposerons par d´efaut que les groupes kleiniens que nous consid´erons sont sans torsion, de covolume infini et ne sont pas ab´eliens. Prenons pour H3 le mod`ele de la boule unit´e ouverte int(B 3 ) ⊂ R3 . L’ensemble 2 = ∂B 3 (la sph`ere `a l’infini) limite ΛΓ d’un groupe kleinien Γ est l’adh´erence dans S∞ 3 de l’orbite d’un point de int(B ). Le domaine de discontinuit´e ΩΓ de Γ est le compl´e2 mentaire dans S∞ de ΛΓ . Un ´el´ement de P SL(2, C) (ou transformation de M¨ obius) est `a la fois une isom´etrie de H3 qui pr´eserve l’orientation et une transformation conforme 2 ˆ Le groupe kleinien Γ agit donc sur S 2 par transformations conformes. de S∞ = C. ∞ Cette action est proprement discontinue sur ΩΓ . Il s’ensuit que le quotient ΩΓ /Γ est une surface de Riemann. D’apr`es un th´eor`eme d’Ahlfors ([Ah]), si Γ est de type fini, alors ΩΓ /Γ est une union finie de surfaces de type fini. On peut voir ΩΓ /Γ comme le bord ` a l’infini ∂∞ N de la vari´et´e quotient N = H3 /Γ. Le cœur convexe C(Γ) de la vari´et´e quotient H3 /Γ est le quotient de l’enveloppe convexe E(ΛΓ ) de l’ensemble limite de Γ. Il n’est pas tr`es difficile de montrer qu’un bout de H3 /Γ est g´eom´etriquement fini si et seulement s’il a un voisinage disjoint de C(Γ). De plus on peut choisir un cœur compact relatif C0 de fa¸con `a ce que ∂C(Γ)∩N0 soit une r´eunion de composantes connexes de l’adh´erence de ∂C0 − ∂N0 . On a ainsi une correspondance biunivoque entre les bouts g´eom´etriquement finis de H3 /Γ et les composantes connexes de ∂C(Γ).

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

303

Notons Vǫ ⊂ H3 l’ensemble des points de H3 `a distance au plus ǫ de E(ΛΓ ) ; cet ensemble est strictement convexe et pour ǫ petit, son quotient Vǫ /Γ est hom´eomorphe au cœur convexe C(Γ) (si Γ n’est pas fuchsien). De la stricte convexit´e de Vǫ on 2 d´eduit que chaque point de ΩΓ est le « centre » (i.e. le point de contact avec S∞ ) d’une horoboule qui est tangente `a Vǫ en un (unique) point. L’application qui envoie chaque point de ΩΓ sur cet unique point de tangence fournit un hom´eomorphisme Γ-´equivariant entre ΩΓ et ∂Vǫ . On en d´eduit un hom´eomorphisme entre ΩΓ /Γ et ∂C(Γ) ֒→ C0 . Ainsi ` a chaque bout g´eom´etriquement fini de la vari´et´e quotient est associ´ee une structure conforme sur une composante de ∂C(Γ) ֒→ C0 appel´ee structure conforme ` a l’infini. 1.3. Invariants des bouts g´ eom´ etriquement infinis L’invariant associ´e ` a un bout g´eom´etriquement fini est une lamination g´eod´esique. Commen¸cons par d´efinir un tel objet. Soit S une surface munie d’une m´etrique hyperbolique compl`ete de volume fini. Une lamination g´eod´esique L ⊂ S est un ferm´e qui est r´eunion disjointe de g´eod´esiques compl`etes plong´ees dans S. Une g´eod´esique compl`ete plong´ee contenue dans L est une feuille de L. L’exemple le plus simple de lamination g´eod´esique est une g´eod´esique ferm´ee simple mais, g´en´eriquement, l’intersection d’une lamination g´eod´esique et d’un arc est un ensemble de Cantor. Une lamination g´eod´esique L est minimale si toute feuille de L est dense dans L. Toute lamination g´eod´esique est la r´eunion d’un nombre fini de laminations minimales et de feuilles isol´ees. Ainsi d´efinie, une lamination g´eod´esique d´epend de la m´etrique choisie sur S. Le lemme classique suivant permet de s’abstraire de cette d´ependance. Lemme 1.1. — Soient s1 et s2 deux m´etriques hyperboliques compl`etes d’aires finies sur S. Alors il existe un hom´eomorphisme naturel entre l’espace des laminations g´eod´esiques pour la m´etrique s1 et l’espace des laminations g´eod´esiques pour la m´etrique s2 (ces deux espaces ´etant munis de la topologie de Hausdorff ). Un bout de N est simplement d´eg´en´er´e s’il a un voisinage U hom´eomorphe `a S×(0, ∞) et s’il existe une suite de surfaces fn : S → U hyperboliques (i.e. la m´etrique sur S induite par fn est hyperbolique) qui sort de tout compact et telle que fn (S) est homotope ` a S×{0}. Thurston, Bonahon et Canary ([Th1], [Bon], [Ca]) ont montr´e que tout bout topologiquement sage et g´eom´etriquement infini est simplement d´eg´en´er´e. En combinant ce r´esultat avec la r´esolution de la conjecture de sagesse mentionn´ee plus haut, on d´eduit qu’un bout g´eom´etriquement infini d’une vari´et´e hyperbolique dont le groupe fondamental est de type fini est simplement d´eg´en´er´e. Pour un tel bout, on consid`ere une suite cn ⊂ S de courbes ferm´ees simples telle que la longueur de fn (cn ) est born´ee (l’existence d’une telle suite de courbes est garantie par le lemme de Bers, [Be]). On extrait ensuite une sous-suite de mani`ere que cn converge pour la topologie de Hausdorff. La limite de {cn } est une lamination g´eod´esique qui contient

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

304

C. LECUIRE

une unique sous-lamination minimale λb . Bonahon ([Bon]) a montr´e que λb ne d´epend pas du choix de la suite cn . Il s’agit donc d’un invariant du bout b que l’on appelle la lamination terminale de b. Remarquons que le fait que l’image de fn sort de tout compact entraˆıne que λb remplit la surface S au sens o` u chaque composante de S − λb est soit simplement connexe, soit un anneau, voisinage d’une pointe de S ; on dit que λb est arationnelle. Soit N une vari´et´e hyperbolique de dimension 3 qui est hom´eomorphe `a l’int´erieur d’une vari´et´e compacte M . Chaque bout de N a un voisinage de la forme S ×(0, ∞) o` u S est une sous-surface de ∂M et un invariant lui est associ´e qui est soit une structure conforme sur S, soit une lamination g´eod´esique arationnelle sur S. On appelle invariants de bouts de N la collection des structures conformes `a l’infini des bouts g´eom´etriquement finis de N et des laminations terminales des bouts g´eom´etriquement infinis. 1.4. D´ ecomposition « ´ epaisse-fine » Dans la suite il sera utile au lecteur de savoir ce qu’est un tube de Margulis. Comme les sections pr´ec´edentes contenaient essentiellement des d´efinitions maintenant classiques, le moment paraˆıt opportun pour pr´esenter la d´ecomposition « ´epaisse-fine » des vari´et´es hyperboliques. Soient N une vari´et´e hyperbolique compl`ete et x un point de N . Le rayon d’injectivit´e injN (x) de x dans N est le rayon de la plus grande boule ouverte de N centr´ee en x qui est isom´etrique ` a une boule de H3 . La partie ǫ-´epaisse N >ǫ de N est l’ensemble des points en lesquels le rayon d’injectivit´e est sup´erieur `a ǫ et la partie ǫ-fine N 6ǫ , l’ensemble des points en lesquels il est inf´erieur `a ǫ. D’apr`es le lemme de Margulis, il existe une constante ǫn qui d´epend de la dimension n de N , appel´ee constante de Margulis, telle que pour tout ǫ 6 ǫn chaque composante de la partie ǫ-fine de N est ou bien un voisinage d’une pointe parabolique ou bien un voisinage r´egulier d’une g´eod´esique ferm´ee de longueur inf´erieure `a ǫ. Un tel voisinage d’une g´eod´esique ferm´ee est appel´e un tube de Margulis. Lorsque N est de dimension 3, un tube de Margulis peut ˆetre param´etr´e par une paire (λ, r) ∈ (C, R) avec Re λ > 0 et r > 0, de la fa¸con suivante : T(λ, r) est le quotient d’un r-voisinage dans H3 d’une g´eod´esique L par une isom´etrie hyperbolique d’axe L et de distance de translation complexe λ. On appellera r la profondeur du tube. 1.5. Deux exemples Nous allons pr´esenter deux exemples classiques pour illustrer les deux types de bouts. Pour ces deux exemples, on notera S une surface compacte sans bord de genre sup´erieur ` a 2.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

305

Consid´erons une repr´esentation ρ : π1 (S) → P SL(2, R) ⊂ P SL(2, C), fid`ele et discr`ete. Une telle repr´esentation est dite fuchsienne. La vari´et´e quotient Nρ = H3 /ρ(π1 (S)) est hom´eomorphe a` S × R et son cœur convexe C(ρ) est une surface totalement g´eod´esique hom´eomorphe `a S. On en d´eduit que Nρ a deux bouts g´eom´etriquement finis. Ces deux bouts ont la mˆeme structure conforme `a l’infini (modulo changement d’orientation) qui est donn´ee par la surface hyperbolique H2 /ρ(π1 (S)). Pour le deuxi`eme exemple, on consid`ere un diff´eomorphisme ψ : S → S qui est pseudo-Anosov, c’est-` a-dire que pour toute courbe ferm´ee simple c ⊂ S, la famille {ψ n (c)|n ∈ Z} contient une infinit´e de classes d’homotopie (cf. [Th4], voir aussi [Ot]). Notons Tψ le tore d’application de ψ, i.e. la vari´et´e quotient de S × [0, 1] par la relation (x, 0) ∼ (ψ(x), 1), ∀x ∈ S. D’apr`es le th´eor`eme d’hyperbolisation de Thurston ([Th3], voir aussi [Ot]), Tψ admet une m´etrique hyperbolique compl`ete, i.e. il existe une (unique d’apr`es le th´eor`eme de rigidit´e de Mostow [Mo]) vari´et´e hyperbolique Nψ hom´eomorphe ` a Tψ . La m´etrique hyperbolique de Nψ se rel`eve au revˆetement cyclique S × R → Tψ en une m´etrique hyperbolique compl`ete sur S × R. Notons N la vari´et´e hyperbolique ainsi produite. Par d´efinition, N est hom´eomorphe `a S × R. Comme Nψ n’a pas de paraboliques, N n’en a pas non plus et elle a donc deux bouts b+ et b− dont des voisinages sont S × (0, ∞) et S × (0, −∞) respectivement. Choisissons une courbe ferm´ee simple c ⊂ S que nous plongeons dans Nψ par l’interm´ediaire de l’inclusion S = S × { 12 } ⊂ Nψ et notons c∗ la g´eod´esique de Nψ dans la classe d’homotopie de c. Consid´erons la suite {cn }n∈Z ⊂ N des relev´es successifs de c∗ , cn est homotope `a ψ n (c) dans Nψ ≈ S × R. Chaque voisinage de b+ contient tous les cn pour n assez grand tandis que chaque voisinage de b− contient tous les cn pour −n assez grand. On en d´eduit que les deux bouts de n sont g´eom´etriquement infinis et que leurs laminations terminales sont des points d’accumulation de {ψ n (c)} pour n −→ +∞ et n −→ −∞. De tels points d’accumulation sont appel´es laminations stable et instable de ψ. 1.6. Bref aper¸ cu de la preuve Insistons un peu sur ce qu’il faut surtout retenir des sections 1.1, 1.2 et 1.3. Soit N une vari´et´e hyperbolique de dimension 3 dont le groupe fondamental est de type fini. D’apr`es [Ag] et [CG], N est hom´eomorphe `a l’int´erieur d’une vari´et´e compacte ` chaque parabolique de N , on associe un anneau ou un tore sur ∂M , `a bord M . A on obtient ainsi une sous-surface P ⊂ ∂M . Chaque composante connexe de ∂M − P correspond ` a un bout de N auquel est associ´e un invariant, une structure conforme si le bout est g´eom´etriquement fini ou une lamination g´eod´esique si le bout est g´eom´etriquement infini. La collection de ces invariants ainsi d´efinis sur ∂M − P forme les invariants de bouts de N . Rappelons que le th´eor`eme des laminations terminales nous dit qu’une vari´et´e hyperbolique dont le groupe fondamental est de type fini est uniquement d´etermin´ee

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

306

C. LECUIRE

par son type topologique et ses invariants de bouts. Nous allons maintenant d´ecrire le sch´ema g´en´eral de la preuve de Brock-Canary-Minsky. Dans le cas d’une vari´et´e de volume fini, il n’y a pas de bouts (relatifs aux pointes paraboliques) et donc pas d’invariants de bouts. La conjecture est alors r´esolue par le th´eor`eme de rigidit´e de Mostow-Prasad ([Mo], [Pr]). Le cas d’un vari´et´e N g´eom´etriquement finie, i.e. dont tous les bouts sont g´eom´etriquement finis, d´ecoule de la th´eorie des d´eformations d´evelopp´ee notamment par Ahlfors, Bers, Kra, Marden et Maskit (voir [BK] pour une vue d’ensemble de ces r´esultats). La preuve du th´eor`eme 0.1 dans le cas g´en´eral fait appel `a deux ingr´edients : la construction d’une vari´et´e mod`ele `a partir des invariants de bouts et un th´eor`eme de rigidit´e de Sullivan ([Sul]) dont on utilise la version qui suit. Th´ eor` eme 1.2. — Soient deux groupes kleiniens Γ et Γ′ . Un hom´eomorphisme quasiconforme qui conjugue Γ et Γ′ et qui est conforme sur le domaine de discontinuit´e de Γ est une transformation de M¨ obius. Une vari´et´e mod`ele Mν est une vari´et´e de dimension 3, dot´ee d’une m´etrique riemannienne par morceaux et d’une structure conforme `a l’infini, qui ne d´epend que des invariants de bouts ν (et du type topologique) de la vari´et´e N que l’on consid`ere. C’est une vari´et´e mod`ele pour N s’il existe un hom´eomorphisme bilipschitzien f : Mν → N qui s’´etend en une application conforme `a l’infini. Si on admet l’existence de vari´et´es mod`eles, la preuve du th´eor`eme des laminations ´ terminales tient en quelques lignes. Etant donn´ees deux vari´et´es hyperboliques N ′ et N qui ont le mˆeme type topologique et les mˆeme invariants de bouts ν, on a, d’apr`es [Mi7], [BCM1] et [BCM2], une vari´et´e mod`ele Mν commune aux deux. On en d´eduit un hom´eomorphisme bilipschitzien h : N → N ′ . De plus h s’´etend en une ˜ de h `a N ˜ = H3 s’´etend en une application conforme de ∂∞ N vers ∂∞ N ′ . Tout relev´e h 2 application quasiconforme et ´equivariante de S∞ qui est conforme sur le domaine de discontinuit´e de N . On d´eduit alors du th´eor`eme de rigidit´e de Sullivan (th´eor`eme 1.2) que h est isotope ` a une isom´etrie, ce qui permet de conclure.

´ ´ ´ ES ´ 2. INVARIANTS DE BOUTS ET GEOM ETRIE DES VARIET Dans cette partie nous allons ´evoquer un certain nombre de relations entre les invariants de bouts d’une vari´et´e et sa g´eom´etrie. Ensuite nous expliquerons la construction de la vari´et´e mod`ele de Minsky et de l’application bilipschitzienne sur un exemple simple. Aussi bien la description des relations entre invariants de bouts et g´eom´etrie que la construction de la vari´et´e mod`ele se font par l’interm´ediaire du complexe des courbes que nous allons tout de suite d´efinir.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

307

2.1. Le complexe des courbes Le complexe des courbes introduit par Harvey ([Har]) joue un rˆole majeur dans la preuve de la conjecture des laminations terminales, aussi bien dans les arguments de Brock-Minsky-Canary que dans ceux de Bowditch. Remarquons que ce complexe est aussi tr`es utile pour l’´etude des groupes modulaires des surfaces de Riemann. Pour simplifier l’expos´e, nous allons seulement d´efinir le 1-squelette du complexe des courbes que l’on appelle le graphe des courbes. Soit S une surface de type fini de caract´eristique d’Euler n´egative qui n’est pas une sph`ere ` a 3 trous. On autorise ici les surfaces `a bord. Un sommet du graphe des courbes est une classe d’homotopie de courbes simples qui ne peuvent pas ˆetre homotop´ees dans une pointe de S ni dans une composante de ∂S (on dit que ces courbes sont non-p´eriph´eriques). Deux sommets distincts sont reli´es par une arˆete si les classes d’homotopies correspondantes peuvent ˆetre r´ealis´ees par des courbes d’intersection minimales (i.e. avec deux points d’intersection si l’int´erieur de S est une sph`ere `a 4 trous, un point d’intersection si l’int´erieur de S est un tore perc´e et disjointes si S est une autre surface, cf. Figure 1). On fait de ce graphe un espace de longueurs en fixant la longueur de chaque arˆete `a 1. L’espace m´etrique ainsi obtenu est le graphe des courbes. Remarquons que le graphe des courbes n’est pas localement compact.

Figure 1. 2 sommets adjacents dans les graphes des courbes de diff´erentes surfaces.

Masur et Minsky dans [MM1] ont montr´e que le graphe des courbes est hyperbolique au sens de Gromov (voir aussi [Bow1]), c’est-`a-dire que les triangles g´eod´esiques sont uniform´ement finis. Un espace hyperbolique a un bord `a l’infini bien d´efini et Klarreich ([Kl], voir aussi [Ham]) a d´emontr´e que le bord `a l’infini du graphe des courbes est hom´eomorphe ` a l’espace des laminations g´eod´esiques arationnelles muni de la topologie de Thurston. Il a ´et´e d´emontr´e par Gabai ([Ga]) que le bord `a l’infini du graphe des courbes est connexe par arc (voir aussi [LS]).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

308

C. LECUIRE

2.2. Le th´ eor` eme de la borne a priori Le th´eor`eme de la borne a priori permet de d´eduire des invariants de bouts une collection de courbes de longueurs born´ees. Dans cette section, pour simplifier les ´enonc´es, nous allons prendre un exemple. Soit N une vari´et´e hyperbolique de dimension 3 qui est hom´eomorphe `a un fibr´e en droites S × R sur une sph`ere ` a 5 trous S. Cette vari´et´e est hom´eomorphe `a l’int´erieur ˆ ˆ de S × [0, 1] o` u S est une sph`ere de laquelle on a retir´e cinq disques ouverts disjoints. On supposera que chaque composante de ∂ Sˆ × [0, 1] correspond `a une pointe parabolique et que N n’a pas d’autres pointes paraboliques. La vari´et´e N ainsi d´efinie a deux bouts que nous supposerons g´eom´etriquement infinis, on dit qu’une telle vari´et´e (hom´eomorphe ` a un fibr´e en droites sur une surface et qui a pr´ecis´ement 2 bouts qui sont tous deux g´eom´etriquement infinis) est doublement d´eg´en´er´ee. Les invariants de bouts de N sont deux laminations g´eod´esiques arationnelles distinctes ν + et ν − sur S. Dans des notes d’expos´es ([Mi6]), Minsky a d´etaill´e la construction de la vari´et´e mod`ele Mν et d’une application lipschitzienne Mν → N pour cet exemple. Pour ´enoncer le th´eor`eme de la borne a priori, il faut introduire le concept de hi´erarchie dans le graphe des courbes, concept sur lequel nous reviendrons dans quelques lignes. Pour commencer nous allons en pr´esenter une version simplifi´ee qui, dans le cas de l’exemple d´ecrit ci-dessus, s’´enonce de la fa¸con suivante : Th´ eor` eme 2.1 (Th´eor`eme de la borne a priori, version all´eg´ee). — Il existe une constante B telle pour tout sommet c du graphe des courbes G(S) qui se trouve sur une g´eod´esique joignant ν + ` a ν − , la longueur de la g´eod´esique ferm´ee de N dans la classe d’homotopie de c est inf´erieure ` a B. Ce r´esultat est vrai en g´en´eral (i.e. pour toute surface S de caract´eristique d’Euler n´egative qui n’est pas une sph`ere `a 3 trous) si on remplace « g´eod´esique » par « g´eod´esique tendue » et si on ajoute que L d´epend de S. Remarquons ´egalement que, le graphe des courbes n’´etant pas localement compact, l’existence d’une g´eod´esique joignant ν + ` a ν − ne se d´eduit pas directement de son hyperbolicit´e. Des r´esultats d’existence et de finitude des g´eod´esiques (tendues) joignant deux points id´eaux ont ´et´e d´emontr´es dans [MM2] et dans [Bow1]. Dans le cas de la sph`ere `a 5 trous, ces r´esultats nous disent qu’il y a un nombre fini de g´eod´esiques joignant ν + et ν − . Grˆace au th´eor`eme 2.1, nous obtenons, en partant des invariants de bouts, une collection de courbes de longueurs born´ees dans N . En fait, le th´eor`eme 2.1 est li´e aux invariants de bouts simplement du fait que ces invariants ont, en quelque sorte, une longueur born´ee. Pour expliquer cette id´ee plus avant, ´enon¸cons une g´en´eralisation du th´eor`eme 2.1. Th´ eor` eme 2.2 ([Bow2, Th´eor`eme 1.5]). — Soient L > 0 une sous-surface compacte (et essentielle) Y de S et deux sommets c+ , c− de G(Y ) tels que des courbes ferm´ees de N dans les classes d’homotopie des composantes de ∂Y , de c+ et de c− , ont des longueurs inf´erieures ` a L. Alors il existe une constante B > 0 qui ne d´epend que ´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

309

de L telle que pour tout sommet c du graphe des courbes G(Y ) qui se trouve sur une g´eod´esique joignant c+ ` a c− , la longueur de la g´eod´esique ferm´ee de N dans la classe d’homotopie de c est inf´erieure ` a B. ` nouveau, ce r´esultat est vrai en g´en´eral si on remplace « g´eod´esique » par « g´eoA d´esique tendue » et si on ajoute que B d´epend aussi de S. − On a vu pr´ec´edemment que ν + et ν − sont les limites de suites {c+ n } et {cn } de courbes ferm´ees simples qui sont repr´esent´ees dans N par des g´eod´esiques de longueurs born´ees. Comme on peut choisir pour la borne sur leur longueur une constante qui ne d´epend que de S, le th´eor`eme 2.1 se d´eduit du th´eor`eme 2.2 par passage `a la limite en prenant Y = S. Le th´eor`eme 2.1 fournit une collection de g´eod´esiques de longueurs born´ees dans N . Nous allons utiliser le th´eor`eme 2.2 sur des sous-surfaces pour trouver encore plus de courbes dans N qui ont une longueur born´ee. Soit g ⊂ G(S) une g´eod´esique joignant ν + `a ν − . Choisissons un sommet c de G(S) sur cette g´eod´esique et notons c+ et c− ses voisins dans g. Par d´efinition, c+ et c− sont contenus dans la composante Yc du compl´ementaire de c qui est une sph`ere `a 4 trous (l’autre composante est une sph`ere `a 3 trous). Le th´eor`eme 2.1 nous fournit une borne sup´erieure sur la longueur des g´eod´esiques de N dans les classes d’homotopie de c, c+ et c− . Notons gc une g´eod´esique de G(Yc ) joignant c+ `a c− ; on appellera g´eod´esique subordonn´ee ` a g en c une telle g´eod´esique. Le th´eor`eme 2.2 nous fournit alors une borne sup´erieure pour la longueur des g´eod´esiques de N dans les classes d’homotopie des sommets de gc . En construisant pour chaque sommet c de g une g´eod´esique gc subordonn´ee `a g en c, i.e. une g´eod´esique de G(Yc ) qui joint les voisins de c, on obtient ce que Masur et Minsky appellent une hi´erarchie (voir Figure 2). Comme on vient de le voir, les th´eor`emes 2.1 et 2.2 nous fournissent une borne sup´erieure pour la longueur de la g´eod´esique de N dans la classe d’homotopie de chaque sommet de cette hi´erarchie. Ceci est en fait la conclusion du th´eor`eme de la borne a priori ([Mi6, §6] et [Mi7, Lemma 7.9]) dont l’´enonc´e 2.1 n’´etait qu’une version ´edulcor´ee. Lorsque S est une surface de caract´eristique d’Euler plus petite que celle d’une sph`ere ` a 5 trous, la construction d’une hi´erarchie est plus ´elabor´ee (voir [MM2] et [Mi7]) mais la conclusion du th´eor`eme de la borne a priori est la mˆeme (i.e. les longueurs des g´eod´esiques dans les classes d’homotopie des sommets d’une hi´erarchie sont uniform´ement born´ees). 2.3. Projection sur les sous-surfaces et courbes courtes Toujours dans le but d’illustrer les liens entre les invariants de bouts de N et leur g´eom´etrie, nous allons maintenant expliquer comment ces invariants permettent de rep´erer les g´eod´esiques qui sont courtes. Pour cela il nous faut d´efinir les projections sur les sous-surfaces. ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. LECUIRE

310

géodésiques subordonnées

ν+

ν−

géodésique principale Figure 2. Hi´erarchie.

Soit S une surface munie d’une m´etrique hyperbolique compl`ete de volume fini. Soient Y ⊂ S une surface compacte `a bord totalement g´eod´esique qui n’est pas un pantalon et c ⊂ S une g´eod´esique simple ferm´ee qui intersecte transversalement au moins une composante de ∂Y . Prenons une composante k de c ∩ Y et notons V un petit voisinage dans S de la r´eunion de k et des composantes de ∂F qui contiennent les points de ∂k (il y a une ou deux telles composantes). Chaque composante de ∂V ∩ Y est une courbe ferm´ee simple contenue dans Y . Chacune de ces courbes, si elle est non-p´eriph´erique, d´efinit un sommet du graphe des courbes G(Y ), nous appellerons ces courbes des projections de c sur G(Y ). Bien qu’on puisse avoir beaucoup de telles courbes, il n’est pas difficile de voir que le nombre de points d’intersection entre deux projections de c sur G(Y ) est inf´erieur `a 4. Il s’ensuit que leur distance dans G(Y ) est au plus 9 ([MM1, Lemma 2.1]). L’ensemble des projections de c sur G(Y ) a donc un diam`etre uniform´ement born´e. Les deux r´esultats suivants vont nous montrer comment, par le biais des projections sur les sous-surfaces, les invariants de bouts permettent de connaˆıtre les courbes ´ courtes d’une vari´et´e hyperbolique. Fixons d’abord quelques notations. Etant donn´ees une surface S et une repr´esentation fid`ele et discr`ete ρ : π1 (S) → P SL(2, C), nous noterons G(ρ, L) l’ensemble des courbes ferm´ees simples sur S dont les repr´esentants g´eod´esiques dans H3 /ρ(π1 (S)) ont une longueur inf´erieure `a L. On peut voir ´ G(ρ, L) comme un ensemble de sommets du graphe des courbes. Etant donn´ee une sous-surface Y ⊂ S essentielle de S, nous noterons diamY (G(ρ, L)) le diam`etre de l’ensemble des projections sur G(Y ) des ´el´ements de G(ρ, L) qui intersectent Y de mani`ere non triviale. Le r´esultat suivant montre qu’une sous-surface Y , sur laquelle la projection de G(ρ, L) a un grand diam`etre, a un bord de petite longueur. ´ Th´ eor` eme 2.3 ([Mi4])). — Etant donn´ees une surface S et des constantes ǫ > 0 et L > 0, il existe K > 0 tel que, si ρ : π1 (S) → P SL(2, C) est une repr´esentation fid`ele ´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

311

et discr`ete et Y ⊂ S est une sous-surface essentielle, alors : diamY (G(ρ, L)) > K ⇒ ℓρ (∂Y ) 6 ǫ . Dans cet ´enonc´e on a utilis´e la notation suivante : pour une courbe ferm´ee c ⊂ S, ℓρ (c) est la longueur dans la vari´et´e quotient Nρ = H3 /ρ(π1 (S)) de l’unique g´eod´esique ferm´ee dans la classe d’homotopie de c. ´ Le r´esultat suivant est une sorte de r´eciproque au th´eor`eme 2.3. Etant donn´ee une sous-surface Y ⊂ S essentielle de S, on d´efinit les projections d’une lamination g´eod´esique ν sur G(F ) comme on a d´efini les projections d’une courbe ferm´ee simple. On note ΠY (ν) ⊂ G(Y ) l’ensemble des projections de ν sur Y . Pour deux courbes ferm´ees simples ou deux laminations ν, µ ⊂ S et une sous-surface essentielle Y ⊂ S, on note dY (µ, ν) = diam(ΠY (µ) ∪ ΠY (ν)). D’apr`es Minsky ([Mi5]), on a : Th´ eor` eme 2.4 ([Mi5])). — Soient ρ : π1 (S) → P SL(2, C) une repr´esentation fid`ele et discr`ete doublement d´eg´en´er´ee dont les invariants de bouts sont ν + et ν − et K > 0 une constante. Il existe une constante ǫ > 0 qui ne d´epend que de K et du type topologique de S telle que, si c ⊂ S est une courbe ferm´ee simple, alors : sup(dY (ν + , ν − )) 6 K ⇒ ℓρ (c) > ǫ , Y

le supremum ´etant pris sur toutes les sous-surfaces dont le bord contient c et pour lesquelles dY (ν + , ν − ) est d´efini. Remarquons que, pour que ce th´eor`eme soit correct, on doit d´efinir dY (ν + , ν − ) aussi dans le cas o` u Y est un anneau. Nous renvoyons le lecteur `a [MM2] pour cette d´efinition. D’apr`es [Bon], si une courbe de N ≈ S × R est tr`es courte alors elle se projette sur S en une courbe ferm´ee simple. On d´eduit alors des th´eor`emes 2.3 et 2.4 qu’une g´eod´esique de N est tr`es courte si et seulement si elle borde une surface sur laquelle les projections de ν + et ν − sont tr`es ´eloign´ees. Si on revient `a l’exemple de la section pr´ec´edente dans lequel S est une sph`ere `a 5 trous, on d´eduit du th´eor`eme 2.4 et du th´eor`eme 2.5 ci-dessous que si une courbe est suffisamment courte dans N alors c’est un sommet de toute hi´erarchie entre ν + et ν − . eme 2.5 (Image de la g´eod´esique born´ee, [MM2, Theorem 3.1]). — Si Y est eor` Th´ une sous-surface essentielle de S et g est une g´eod´esique dans G(S) dont tous les sommets intersectent Y de mani`ere non triviale, alors la projection de l’image de g sur G(Y ) a un diam`etre uniform´ement born´e. 2.4. G´ eod´ esiques subordonn´ ees et r´ egions produits Dans cette derni`ere section portant sur les liens entre les invariants de bouts de N et sa g´eom´etrie, nous allons montrer comment des g´eod´esiques subordonn´ees dans la hi´erarchie sont associ´ees ` a de grandes « r´egions produit » de la vari´et´e N . ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

312

C. LECUIRE

Soient S une surface de type fini et N une vari´et´e hyperbolique hom´eomorphe `a S × R. Consid´erons une suite {cn } de sommets de G(S) et B > 0 tels que, pour tout n, la g´eod´esique c∗n de N dans la classe d’homotopie de cn a une longueur inf´erieure `a B. Comme un compact de N ne contient qu’un nombre fini de g´eod´esiques ferm´ees de longueur inf´erieure ` a B la suite c∗n ⊂ N finit par sortir de tout compact. En particulier, pour tout N ∈ N, on a d(c∗n , c∗N ) −→ ∞. Avec un argument de passage `a la limite, on peut obtenir une version plus quantitative de cette observation ([BB1, Proposition 8.16]) : ´ Proposition 2.6. — Etant donn´ees une surface S de type fini et des constantes L, D, il existe N > 0 telle que toute repr´esentation fid`ele et discr`ete ρ : π1 (S) → P SL(2, C) a la propri´et´e suivante : un compact K ⊂ Nρ de diam`etre inf´erieur ` a D intersecte au plus N classes distinctes d’homotopie de lacets de longueurs inf´erieures a L. ` Reprenons l’exemple de la section 2.2. C’est-`a-dire que N est une vari´et´e doublement d´eg´en´er´ee qui est hom´eomorphe `a un fibr´e en droites S × R sur une sph`ere ` nouveau on notera ν + , ν − les laminations terminales de N . Soit g ⊂ G(S) `a 5 trous. A une g´eod´esique joignant ν + et ν − . En combinant la proposition 2.6 avec le th´eor`eme de la borne a priori (th´eor`eme 2.2), on va expliquer comment une hi´erarchie entre ν + et ν − permet de d´ecrire la g´eom´etrie de certains morceaux de N . Consid´erons un sommet c d’une g´eod´esique g joignant ν + ` a ν − dans G(S). Notons c+ et c− les deux sommets voisins de c dans g et Yc la composante connexe de S − c qui les contient. Supposons que c+ est tr`es loin de c− dans G(Yc ), c’est-` a-dire qu’une g´eod´esique gc subordonn´ee `a g en c a beaucoup de sommets. D’apr`es le th´eor`eme 2.3, la g´eod´esique c∗ ⊂ N dans la classe d’homotopie de c est tr`es courte, en particulier elle est au cœur d’un tube de Margulis tr`es profond. D’apr`es le th´eor`eme 2.2 et la proposition 2.6, parmi les g´eod´esiques de N dans les classes d’homotopie des nombreux sommets de gc , il y en a (au moins) deux qui sont tr`es ´eloign´ees dans N ; appelons-les a∗ et b∗ . Notons U la r´eunion d’un tube de Margulis autour de c∗ et de voisinages des pointes de N . On construit une surface Fa immerg´ee dans un voisinage de a∗ (ou d’un tube de Margulis autour de a∗ si a∗ est courte) telle que Fa est homotope `a H et que le bord de Fa est contenu dans ∂U (par exemple `a partir d’une surface pliss´ee). On construit de la mˆeme mani`ere une surface Fb avec les mˆemes propri´et´es vis-`a-vis de b∗ . Comme a∗ est loin de b∗ , Fa est loin de Fb . On en d´eduit qu’il existe entre Fa , Fb et ∂U une sous-vari´et´e de grand diam`etre hom´eomorphe `a Yc × I. On voit ainsi qu’`a chaque g´eod´esique subordonn´ee suffisamment longue est associ´ee une sous-vari´et´e de N qui est hom´eomorphe `a Y × I (Y ´etant une sph`ere `a 4 trous) et a un grand diam`etre.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

313

2.5. Une vari´ et´ e mod` ele Pour construire une vari´et´e mod`ele `a partir des invariants de N , on utilise la hi´erarchie ´evoqu´ee plus haut et des briques ´el´ementaires. Nous allons `a nouveau nous placer dans le cas de notre exemple o` u N est une vari´et´e hyperbolique de dimension 3 doublement d´eg´en´er´ee qui est hom´eomorphe `a un fibr´e en droite sur une sph`ere `a 5 trous S × R et suivre [Mi6] dans la construction de la vari´et´e mod`ele. Le squelette du mod`ele est une hi´erarchie entre ν + et ν − dont la construction a ´et´e ´evoqu´ee dans la section pr´ec´edente. Rappelons que dans le cas d’une sph`ere `a 5 trous, elle est constitu´ee d’une g´eod´esique principale joignant ν + `a ν − et de g´eod´esiques subordonn´ees : pour chaque sommet c de la g´eod´esique principale g, si on note c+ et c− les deux sommets voisins de c dans g et Yc la composante connexe de S − c qui les contient, une g´eod´esique gc subordonn´ee `a g en c est une g´eod´esique de Yc qui joint c+ `a c− . En choisissant une g´eod´esique g entre ν + et ν − et une g´eod´esique subordonn´ee pour chacun des sommets de g, on obtient une hi´erarchie h entre ν + et ν − (Figure 2). ` chaque arˆete d’une g´eod´esique subordonn´ee, on va associer une brique ´el´ementaire A et on va ensuite coller ces briques les unes aux autres. Dans le cas de notre exemple, la brique ´el´ementaire, que suivant Minsky nous appellerons bloc, est d´efinie comme suit. Notons H une sph`ere de laquelle on a ˆot´e quatre disques ouverts (H est donc une surface compacte `a bord). Soient d+ , d− , deux courbes sur H qui s’intersectent en deux points (comme sur la figure 1, dessin de gauche) et D+ , D− des voisinages r´eguliers de d+ et d− . Un bloc B est hom´eomorphe `a H × [−1, 1] − (D+ × ( 12 , 1] ∪ D− × (− 12 , −1]). Le bord d’un tel bloc se d´ecompose en 4 pantalons « horizontaux » (les composantes connexes de (H − D+ ) × {1} et (H − D− ) × {−1}) et 4 anneaux. On choisit une m´etrique sur la brique ´el´ementaire B qui v´erifie les deux propri´et´es suivantes : – Chacun des pantalons sur le bord de B est isom´etrique `a un pantalon hyperbolique dont chaque composante de bord a une longueur ´egale `a 1. – Chacun des anneaux sur le bord de B est euclidien et les cercles g´eod´esiques sur cet anneau ont une longueur ´egale `a 1. Dans la suite nous sch´ematiserons un bloc comme sur la figure 3 ; les 4 segments horizontaux qui sont ´epaissis sur la figure correspondent aux 4 pantalons. Soient h une hi´erarchie entre ν + et ν − et c un sommet de la g´eod´esique principale de h. Soient s+ , s− deux sommets adjacents de la g´eod´esique gc subordonn´ee `a g en c. On associe un bloc Bs ` a l’arˆete s de gc qui joint s+ `a s− et on fixe un hom´eomorphsime de Yc vers l’int´erieur de H qui envoie s+ sur d+ et s− sur d− . Deux blocs sont coll´es l’un ` a l’autre en identifiant des pantalons horizontaux de l’un avec des pantalons horizontaux de l’autre suivant les sch´emas de la figure 4 (les deux arˆetes ´epaissies dans la hi´erarchie correspondent aux deux blocs qui sont recoll´es sous chaque sch´ema).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

314

C. LECUIRE

pantalons Figure 3. Sch´ema d’un bloc.

Figure 4. Recollement de blocs.

On obtient ainsi une vari´et´e Mν [0] munie d’une m´etrique riemannienne par morceaux. Remarquons que le choix de la m´etrique sur B permet de garantir que les recollements de blocs peuvent ˆetre r´ealis´es par des isom´etries et que les composantes de ∂Mν [0] sont des tores et des anneaux euclidiens dont une longitude a pour longueur 1. La vari´et´e Mν [0] ainsi obtenue est naturellement hom´eomorphe `a un produit S × R duquel ont ´et´e retir´es les voisinages de courbes correspondant aux sommets de la hi´erarchie et les fibres au-dessus de voisinages des pointes de S. En particulier on a un plongement naturel Mν [0] ֒→ S × R. La construction de la hi´erarchie permet

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

315

de garantir qu’une courbe c n’apparaˆıt qu’une seule fois (cf. [Mi6]) et donc que deux tores diff´erents dans le bord de Mν [0] ne sont pas homotopes dans S × R. On remplit ensuite chacun des tores qui composent le bord de Mν [0] par un tube de Margulis T(λ, r) (cf. Section 1.4). Remarquons que le plongement naturel de Mν [0] dans S × R fixe les m´eridiens de chacune des composantes de ∂Mν [0]. Ceci garantit que pour chaque tore Tc (correspondant au sommet c de la hi´erarchie) dans le bord de Mν [0], il y a une unique paire (λ, r) pour laquelle Tc peut ˆetre remplie par un tube de Margulis Tc = T(λ, r). Le vari´et´e ainsi obtenue est hom´eomorphe `a Sˆ × R, Sˆ ´etant une sph`ere dont on a ˆot´e 5 disques ouverts. Pour conclure la construction, on colle par une isom´etrie une pointe parabolique le long de chaque composante de ∂ Sˆ ×R. On obtient ainsi la vari´et´e mod`ele Mν . Pour le cas plus g´en´eral d’un produit en droite sur une surface de type fini, la construction est essentiellement la mˆeme, mais la hi´erarchie est plus complexe et il y a deux types de blocs. Dans le cas g´en´eral d’une vari´et´e hyperbolique dont le groupe fondamental est de type fini, on construit une vari´et´e mod`ele pour un voisinage de chacun des bouts, ce qui est suffisant puisque le compl´ementaire des bouts est compact. 2.6. L’application lipschitzienne Nous allons maintenant expliquer la construction de l’application bilipschitzienne f : Mν → N en nous concentrant sur le rˆole des r´esultats des sections 2.2, 2.3 et 2.4 et en passant sur de nombreux d´etails. Cette construction, commenc´ee dans [Mi7] et achev´ee dans [BCM1], conduit au th´eor`eme suivant : Th´ eor` eme 2.7. — Soient S une surface compacte et N une vari´et´e hyperbolique hom´eomorphe ` a S × R dont la collection des invariants de bouts est ν. Il existe une application bilipschitzienne f : Mν → N . Dans la section pr´ec´edente, nous avons d´efini un mod`ele Mν pour la vari´et´e N que nous avons pris comme exemple dans de nombreuses sections de cet expos´e. Par construction on a un hom´eomorphisme naturel f : Mν → N `a partir duquel nous allons maintenant construire une application bilipschitzienne. Le bord de chaque bloc se d´ecompose en 4 pantalons. Notons P un de ces pantalons ; chaque composante de ∂P correspond `a un sommet de la hi´erarchie. On change f par une homotopie de fa¸con qu’elle envoie chaque composante de ∂P sur le bord d’un tube de Margulis autour de la g´eod´esique correspondante ou sur la g´eod´esique correspondante si elle n’est pas courte. D’apr`es le th´eor`eme 2.1, l’image de chaque composante de ∂P a une longueur uniform´ement born´ee. En utilisant ce fait et des outils d´evelopp´es par Thurston ([Th1], une surface pliss´ee en l’occurrence), on change f de fa¸con que sa restriction ` a P est uniform´ement lipschitzienne (i.e. la constante ne d´epend pas de P ). On fait de mˆeme pour chaque pantalon sur le bord de chaque

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

316

C. LECUIRE

` nouveau en utilisant des r´esultats et outils dus `a Thurston, on change ensuite bloc. A f de fa¸con ` a ce que sa restriction `a chaque bloc soit uniform´ement lipschitzienne. On a ainsi obtenu un application (propre et de degr´e 1, cf. [Mi7]) f : Mν → N dont la restriction ` a Mν [0] est lipschitzienne et telle que f (Mν [0]) est contenu dans la partie ǫ-´epaisse pour une constante ǫ qui ne d´epend que de S. On utilise ensuite l’observation suivante : un tube Tc = T(λ, r) ⊂ Mν est tr`es profond si et seulement si la g´eod´esique c∗ ⊂ N correspondante est tr`es courte. En effet, d’apr`es les th´eor`emes 2.3 et 2.4, c∗ est tr`es courte si et seulement si c borde une surface S sur laquelle la distance entre les projections de ν + et de ν − est grande. D’un autre cˆ ot´e, r est grand si et seulement si un m´eridien sur le bord de Tc est tr`es long. Ceci se produit dans deux cas : lorsque le bord de Tc intersecte de nombreux blocs ou lorsque le m´eridien tourne de nombreuses fois autour de la longitude de longueur 1. Dans les deux cas on d´eduit de la construction de la hi´erarchie qu’il existe une soussurface de S bord´ee par c sur laquelle la projection de ν + est loin de la projection de ν − . Cette observation nous permet d’´etendre f aux tubes de Margulis les moins profonds de Mν en une application lipschitzienne. On se retrouve ainsi avec une application f : Mν → N qui envoie pr´ecis´ement les tubes de Margulis les plus profonds de Mν sur les tubes de Margulis les plus profonds de N (tout cela est bien ´evidemment quantifi´e dans [Mi7]) et est lipschtzienne sur le reste de Mν . L’´etape suivante consiste ` a changer f de fa¸con que sa restriction au compl´ementaire des tubes les plus profonds de Mν soit bilipschitzienne sur son image. Pour cela, on a besoin de faire un peu de topologie, en utilisant en particulier les travaux d’AndersonCanary ([AC]), pour obtenir une application qui ne tourne pas autour des tubes de Margulis et on a surtout besoin de montrer que f pr´eserve suffisamment bien l’ordre des blocs de Mν . Ce dernier point est obtenu en d´eveloppant des arguments apparent´es `a ceux pr´esent´es dans la section 2.4. Pour finir, on montre qu’une application dont la restriction `a la « partie ´epaisse » de Mν est bilipschitzienne peut ˆetre ´etendue en une application bilipschitzienne f : Mν → N .

´ ` 3. D’AUTRES RESULTATS ET D’AUTRES MODELES Dans cette derni`ere partie, nous allons pr´esenter des corollaires du th´eor`eme des laminations terminales et de sa preuve. Nous ´evoquerons aussi d’autres r´esultats dont les preuves utilisent la vari´et´e mod`ele de Minsky ou des variantes.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

317

3.1. D´ eformations des groupes kleiniens Soit S une surface ferm´ee (i.e. compacte sans bord) de genre sup´erieur `a 2. L’espace des d´eformations kleiniennes de π1 (S) que nous noterons AH(S) est l’espace des classes de conjugaison de repr´esentations fid`eles et discr`etes π1 (S) → P SL(2, C). C’est aussi l’espace des vari´et´es hyperboliques hom´eomorphes `a S × R. Cet espace est muni de la topologie quotient de la topologie compacte ouverte sur hom(π1 (S), P SL(2, C)) qui est appel´ee topologie alg´ebrique. On sait (cf. [BK, Expos´e 4], [Mr] et [Su2]) que l’int´erieur de AH(S) est hom´eomorphe `a T (S) × T (S) (T (S) d´esignant l’espace de Teichm¨ uller de S), l’hom´eomorphisme ´etant donn´e par les structures conformes `a l’infini. Par contre la topologie de l’ensemble AH(S) tout entier reste myst´erieuse. Par exemple, jusqu’` a la r´esolution de la conjecture des laminations terminales, on ne savait pas montrer que AH(S) est la fermeture de son int´erieur. Cette question est connue sous le nom de conjecture de densit´e de Bers-Sullivan-Thurston. D´esormais on a la r´eponse suivante : Th´ eor` eme 3.1 ([BCM1]). — Soit S une surface ferm´ee de genre g > 2, alors AH(S) est la fermeture de son int´erieur. La preuve de ce th´eor`eme utilise la r´esolution de la conjecture de sagesse ([Bon] dans ce cas), un r´esultat de compacit´e qui g´en´eralise le th´eor`eme de la limite double ([Th3], voir aussi [Ot]) et le th´eor`eme des laminations terminales. La mˆeme question se pose pour tout groupe kleinien de type fini et sa r´esolution est l’objet des articles [NS] et [Oh]. La topologie de AH(S) n’est pas bien comprise notamment parce qu’elle est compliqu´ee. Par exemple Bromberg ([Bm]) et Magid ([Mg]) ont montr´e que AH(S) n’est pas localement connexe. Comme on a essay´e de l’illustrer dans les sections 2.2, 2.3 et 2.4, les travaux de Minsky autour de la conjecture des laminations terminales permettent de tirer des informations g´eom´etriques sur une vari´et´e en partant de ses invariants de bouts. En particulier, dans certains cas, ils offrent la possibilit´e de d´eterminer les invariants de bouts et donc la limite d’une suite {ρn } ⊂ AH(S) (cf. [BBCM2]). Tel est le cas d’une suite dont la limite est quasiconform´ement rigide : une repr´esentation fid`ele et discr`ete ρ : π1 (S) → P SL(2, C) est quasiconform´ement rigide si elle n’a pas de d´eformations quasiconformes, i.e. toute repr´esentation qui est conjugu´ee `a ρ par une application quasiconforme est conjugu´ee `a ρ par une transformation de M¨obius. Th´ eor` eme 3.2 ([BBCM1]). — Soient S une surface ferm´ee de genre g > 2 et ρ un point quasiconform´ement rigide de AH(S). Alors AH(S) est localement connexe en ρ. Un autre exemple d’application de ce type d’id´ees se trouve dans les travaux d’Ohshika et Soma ([OS]) qui ont ´etudi´e les limites g´eom´etriques des groupes quasifuchsiens en utilisant des vari´et´es mod`eles, l´eg`erement diff´erentes de celles de Minsky.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

318

C. LECUIRE

3.2. Rigidit´ e et application de Cannon-Thurston Le th´eor`eme de rigidit´e suivant est un autre corollaire du th´eor`eme des laminations terminales et de sa preuve. Th´ eor` eme 3.3 ([BCM1]). — Si deux repr´esentations ρ1 , ρ2 ∈ AH(S) sont conjuˆ qui pr´eserve l’orientation, alors elles sont gu´ees par un hom´eomorphisme φ de C quasiconform´ement conjugu´ees. De plus, si φ est conforme sur Ω(ρ1 ), alors il est conforme. Pour prouver ce th´eor`eme on commence par construire un hom´eomorphisme quasiˆ →C ˆ qui conjugue ρ2 `a une repr´esentation ρ′ qui a la mˆeme structure conforme ψ : C 2 conforme ` a l’infini que ρ1 (avec le th´eor`eme de Riemann mesurable [AB]). On montre ensuite que les laminations terminales de ρ1 et ρ′2 peuvent ˆetre « lues » dans leurs ensembles limites. L’hom´eomorphisme ψ ◦ φ force alors ρ′2 (π1 (S)) `a avoir les mˆemes laminations terminales que ρ1 (π1 (S)). Le th´eor`eme des laminations terminales permet de conclure. L’argument qui permet de montrer que ρ′2 (π1 (S)) et ρ1 (π1 (S)) ont les mˆemes laminations terminales est apparent´e aux r´esultats de Mahan ([Mh2]) sur les applications de Cannon-Thurston. Mentionnons tout d’abord un r´esultat d’existence d’une telle application qui va nous permettre d’introduire sa d´efinition. Th´ eor` eme 3.4 ([Mh1]). — Soit S une surface ferm´ee de genre g > 2 et soit ρ : π1 (S) → P SL(2, C) une repr´esentation fid`ele et discr`ete. Alors il existe une application ´equivariante et continue du bord ` a l’infini (au sens de Gromov) de π1 (S) vers l’ensemble limite de ρ. L’application ∂∞ π1 (S) → Λρ ainsi obtenue est appel´ee une application de CannonThurston (la premi`ere application de ce type ayant ´et´e construite dans [CT]). Elle est reli´ee aux laminations terminales par le fait suivant ([Mh2]) : elle identifie les points correspondant aux extr´emit´es des relev´es des feuilles des laminations terminales de ρ. Ceci donne un sens plus pr´ecis ` a l’id´ee que l’on peut « lire » les laminations terminales dans les ensembles limites. Pour montrer l’existence d’applications de Cannon-Thurston et leurs propri´et´es, Mahan modifie la vari´et´e mod`ele de Minsky en « ´electrocutant » les tubes de Margulis les plus profonds. C’est-`a-dire qu’il change la m´etrique sur ces tubes de fa¸con que les g´eod´esiques passent autour des tubes au lieu de p´en´etrer profond´ement `a l’int´erieur. Il utilise ensuite des propri´et´es de cette nouvelle vari´et´e mod`ele pour montrer le th´eor`eme 3.4. L’application de Cannon-Thurston a ´egalement d’autres utilit´es que de faire le lien entre les laminations terminales et la structure de l’ensemble limite. Par exemple son existence permet de montrer le r´esultat suivant :

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

319

Th´ eor` eme 3.5 ([Mh1]). — Soit Γ un groupe kleinien de type fini dont l’ensemble limite ΛΓ est connexe. Alors ΛΓ est localement connexe. 3.3. Volume des vari´ et´ es hyperboliques de dimension 3 Nous allons conclure cet expos´e sur l’utilisation des vari´et´es mod`eles qui paraˆıt la plus naturelle : l’´etude du volume des vari´et´es hyperboliques de dimension 3. Par exemple, le mod`ele de Minsky permet de r´esoudre une conjecture de McMullen qui pr´edit que le volume de la partie ´epaisse du cœur convexe d’un groupe kleinien croˆıt exponentiellement. ´ Etant donn´ee une surface orientable S de type fini, on d´efinit d(S) = −χ(S) si S est de genre nul et d(S) = −χ(S) − 1 si S est de genre non nul. On a le th´eor`eme suivant : Th´ eor` eme 3.6 ([BCM1]). — Si ρ : π1 (S) → P SL(2, C) est une repr´esentation fid`ele et discr`ete et N = H3 /ρ(π1 (S)), alors pour tout x dans la partie ǫ1 -´epaisse du cœur convexe CN , on a : >ǫ1 volume(BR (x)) 6 cRd(S) pour une constante c qui ne d´epend que du type topologique de S. Pour prouver ce th´eor`eme, Brock, Canary et Minsky montrent (dans [BCM1]) que l’in´egalit´e est vraie dans la vari´et´e mod`ele. Dans un registre diff´erent, Brock a utilis´e un « mod`ele simplicial » pour ´etablir des liens entre la m´etrique de Weil-Petersson (introduite dans [We]) et le volume des vari´et´es hyperboliques de dimension 3 ([Bc2] et [Bc3]). Il s’agit d’un mod`ele purement combinatoire qui n’est pas muni d’une m´etrique mais qui d´ecrit n´eanmoins certaines propri´et´es g´eom´etriques de la vari´et´e qu’il mod´elise. En l’occurrence il permet de majorer son volume. Remarquons ´egalement que ce mod`ele est bas´e sur le graphe des pantalons qui est g´en´eralement diff´erent du graphe des courbes. Pour terminer, nous porterons `a l’attention du lecteur les travaux en cours de Brock-Minsky-Namazi-Souto qui, `a partir de la vari´et´e mod`ele de Minsky, construisent des vari´et´es mod`eles pour les vari´et´es hyperboliques compactes de dimension 3.

´ ERENCES ´ REF [Ag]

I. Agol – « Tameness and hyperbolic 3-manifolds », pr´epublication, 2004.

[Ah]

L. Ahlfors – « Finitely generated Kleinian groups », Amer. J. Math. 86 (1964), p. 413–429.

[AB]

L. Ahlfors & L. Bers – « Riemann’s mapping theorem for variable metrics », Ann. of Math. (2) 72 (1960), p. 385–404.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. LECUIRE

320

[AC]

J. W. Anderson & R. D. Canary – « Cores of hyperbolic 3-manifolds and limits of Kleinian groups », Amer. J. Math. 118 (1996), no. 4, p. 745– 779.

[Be]

L. Bers – « An inequality for Riemann surfaces », in Differential geometry and complex analysis, Springer, Berlin, 1985, p. 87–93.

[BK]

L. Bers & I. Kra (´eds.) – A crash course on Kleinian groups, Lecture Notes in Math., vol. 400, Springer-Verlag, Berlin, 1974.

[Bon]

F. Bonahon – « Bouts des vari´et´es hyperboliques de dimension 3 », Ann. of Math. (2) 124 (1986), no. 1, p. 71–158.

[Bow1]

B. H. Bowditch – « Intersection numbers and the hyperbolicity of the curve complex », J. Reine Angew. Math. 598 (2006), p. 105–129.

[Bow2]

, « Length bounds on curves arising from tight geodesics », Geom. Funct. Anal. 17 (2007), no. 4, p. 1001–1042.

[Bow3]

, « Geometric models for hyperbolic 3-manifolds », pr´epublication.

[Bow4]

, « End invariants of hyperbolic 3-manifolds », pr´epublication.

[Bow5]

, « The ending lamination theorem », pr´epublication.

[Bc1]

J. F. Brock – « Continuity of Thurston’s length function », Geom. Funct. Anal. 10 (2000), no. 4, p. 741–797.

[Bc2]

, « The Weil-Petersson metric and volumes of 3-dimensional hyperbolic convex cores », J. Amer. Math. Soc. 16 (2003), no. 3, p. 495–535 (electronic).

[Bc3]

, « Weil-Petersson translation distance and volumes of mapping tori », Comm. Anal. Geom. 11 (2003), no. 5, p. 987–999.

[BB1]

J. F. Brock & K. Bromberg – « Geometric inflexibility and 3-manifolds that fiber over the circle », J. Topol. 4 (2011), no. 1, p. 1–38.

[BBCM1] J. F. Brock, K. Bromberg, R. D. Canary & Y. N. Minsky – « Local topology in deformation spaces of hyperbolic 3-manifolds », Geom. Topol. 15 (2011), no. 2, p. 1169–1224. [BBCM2]

, « Convergence properties of end invariants », pr´epublication, arXiv:1208.3983.

[BCM1]

J. F. Brock, R. D. Canary & Y. N. Minsky – « The classification of Kleinian surface groups, II : The ending lamination conjecture », Ann. of Math. (2) 176 (2012), no. 1, p. 1–149.

[BCM2]

, « The classification of finitely-generated Kleinian groups », en pr´eparation.

[Bm]

K. Bromberg – « The space of Kleinian punctured torus groups is not locally connected », Duke Math. J. 156 (2011), no. 3, p. 387–427.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

321

[CG]

D. Calegari & D. Gabai – « Shrinkwrapping and the taming of hyperbolic 3-manifolds », J. Amer. Math. Soc. 19 (2006), no. 2, p. 385–446.

[Ca]

R. D. Canary – « Ends of hyperbolic 3-manifolds », J. Amer. Math. Soc. 6 (1993), no. 1, p. 1–35.

[CT]

J. W. Cannon & W. P. Thurston – « Group invariant Peano curves », Geom. Topol. 11 (2007), p. 1315–1355. ¨ H. Freudenthal – « Uber die Enden topologischer R¨aume und Grup-

[Fr]

pen », Math. Zeit. 33 (1932), p. 692–713. [Ga]

D. Gabai – « Almost filling laminations and the connectivity of ending lamination space », Geom. Topol. 13 (2009), no. 2, p. 1017–1041.

[Ham]

U. Hamenst¨ adt – « Train tracks and the Gromov boundary of the complex of curves », in Spaces of Kleinian groups, London Math. Soc. Lecture Note Ser., vol. 329, Cambridge Univ. Press, Cambridge, 2006, p. 187–207.

[Har]

W. J. Harvey – « Boundary structure of the modular group », in Riemann surfaces and related topics: Proceedings of the 1978 Stony Brook Conference, Ann. of Math. Stud., vol. 97, Princeton Univ. Press, Princeton, 1981, p. 245–251.

[Jo]

T. Jørgensen – « On discrete groups of M¨obius transformations », Amer. J. Math. 98 (1976), no. 3, p. 739–749.

[KM]

D. Kazhdan & G. Margulis – « A proof of Selberg’s conjecture », Math. USSR Sb. 4 (1968), p. 147–152.

[Kl]

E. Klarreich – « The boundary at infinity of the curve complex and the relative Teichm¨ uller space », pr´epublication.

[LS]

C. J. Leininger & S. Schleimer – « Connectivity of the space of ending laminations », Duke Math. J. 150 (2009), no. 3, p. 533–575.

[Mg]

A. D. Magid – « Deformation spaces of Kleinian surface groups are not locally connected », Geom. Topol. 16 (2012), no. 3, p. 1247–1320.

[Mr]

A. Marden – « The geometry of finitely generated kleinian groups », Ann. of Math. (2) 99 (1974), p. 383–462.

[MM1]

H. A. Masur & Y. N. Minsky – « Geometry of the complex of curves I. Hyperbolicity », Invent. Math. 138 (1999), no. 1, p. 103–149.

[MM2]

, « Geometry of the complex of curves II. Hierarchical structure », Geom. Funct. Anal. 10 (2000), no. 4, p. 902–974.

[MMS]

D. McCullough, A. Miller & G. A. Swarup – « Uniqueness of cores of noncompact 3-manifolds », J. London Math. Soc. (2) 32 (1985), no. 3, p. 548–556.

[Mc]

D. McCullough – « Compact submanifolds of 3-manifolds with boundary », Quart. J. Math. Oxford Ser. (2) 37 (1986), no. 147, p. 299–307.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. LECUIRE

322

[Mi1] [Mi2] [Mi3] [Mi4] [Mi5] [Mi6]

[Mi7] [Mh1] [Mh2] [Mo]

[NS]

[Oh] [OS] [Ot] [Pr] [Sc] [Sul]

Y. N. Minsky – « Teichm¨ uller geodesics and ends of hyperbolic 3manifolds », Topology 32 (1993), no. 3, p. 625–647. , « On rigidity, limit sets, and end invariants of hyperbolic 3manifolds », J. Amer. Math. Soc. 7 (1994), no. 3, p. 539–588. , « The classification of punctured-torus groups », Ann. of Math. (2) 149 (1999), no. 2, p. 559–626. , « Kleinian groups and the complex of curves », Geom. Topol. 4 (2000), p. 117–148 (electronic). , « Bounded geometry for Kleinian groups », Invent. Math. 146 (2001), no. 1, p. 143–192. , « Combinatorial and geometrical aspects of hyperbolic 3-manifolds », Lecture notes from the Workshop on Kleinian Groups and Hyperbolic 3-Manifolds (Warwick, England), sept. 2001. , « The classification of Kleinian surface groups I. Models and bounds », Ann. of Math. (2) 171 (2010), no. 1, p. 1–107. M. Mj – « Cannon-Thurston maps for surface groups », pr´epublication, arXiv:math/0607509. , « Ending laminations and Cannon-Thurston maps », pr´epublication, arXiv:1002.0996. G. D. Mostow – « Quasi-conformal mappings in n-space and the rigidity ´ of hyperbolic space forms », Inst. Hautes Etudes Sci. Publ. Math. (1968), no. 34, p. 53–104. H. Namazi & J. Souto – « Non-realizability and ending laminations : proof of the density conjecture », Acta Math. 209 (2012), no. 2, p. 323– 395. K. Ohshika – « Realising end invariants by limits of minimally parabolic, geometrically finite groups », Geom. Topol. 15 (2011), no. 2, p. 827–890. K. Ohshika & T. Soma – « Geometry and topology of geometric limits I », pr´epublication, arXiv:1002.4266. J.-P. Otal – Le th´eor`eme d’hyperbolisation pour les vari´et´es fibr´ees de dimension 3, Ast´erisque, vol. 235, Soc. Math. France, Paris, 1996. G. Prasad – « Strong rigidity of Q-rank 1 lattices », Invent. Math. 21 (1973), p. 255–286. G. P. Scott – « Compact submanifolds of 3-manifolds », J. London Math. Soc. (2) 7 (1973), p. 246–250. D. Sullivan – « On the ergodic theory at infinity of an arbitrary discrete group of hyperbolic motions », in Riemann surfaces and related topics: Proceedings of the 1978 Stony Brook Conference, Ann. of Math. Stud., vol. 97, Princeton Univ. Press, Princeton, 1981, p. 465–496.

´ ASTERISQUE 361

(1068)

LAMINATIONS TERMINALES

323

[Su2]

D. Sullivan – « Quasiconformal homeomorphisms and dynamics II. Structural stability implies hyperbolicity for Kleinian groups », Acta Math. 155 (1985), no. 3-4, p. 243–260.

[Th1]

W. P. Thurston – « The topology and geometry of 3-manifolds », notes de cours, Princeton Univ., 1976-79.

[Th2]

, « Three-dimensional manifolds, Kleinian groups and hyperbolic geometry », Bull. Amer. Math. Soc. (N.S.) 6 (1982), no. 3, p. 357–381.

[Th3]

, « Hyperbolic structures on 3-manifolds I. Deformation of acylindrical manifolds », Ann. of Math. (2) 124 (1986), no. 2, p. 203–246.

[Th4]

, « On the geometry and dynamics of diffeomorphisms of surfaces », Bull. Amer. Math. Soc. (N.S.) 19 (1988), no. 2, p. 417–431.

[We]

A. Weil – « Modules des surfaces de Riemann », in S´eminaire Bourbaki, vol. 1957/58, Ast´erisque, vol. 4, Soc. Math. France, Paris, 1995, exp. no 168, p. 413–419.

Cyril LECUIRE Universit´e Paul Sabatier Institut de Math´ematiques de Toulouse 118 route de Narbonne 31062 Toulouse Cedex 4 France E-mail : [email protected]

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1069, p. 325 `a 348

Mars 2013

THE PROOF OF ORE’S CONJECTURE [after Ellers-Gordeev and Liebeck-O’Brien-Shalev-Tiep] by Gunter MALLE

INTRODUCTION The commutator [g, h] := g −1 h−1 gh of two elements g, h of a group G is introduced in every first course in group theory, as well as the commutator subgroup [G, G] := h[g, h] | g, h ∈ Gi, generated by all commutators in G, and usually it is stated that not all elements of [G, G] need to be commutators. The first such example of finite order may have been given by Fite [Fi02]. The smallest example of a finite group G for which [G, G] contains non-commutators has order 96; in fact there are two non-isomorphic groups of that order in which the set of commutators does not equal the commutator subgroup, see Guralnick [Gu80]. In a 1951 paper, Oystein Ore [Ore] shows that every even element in a symmetric group of degree at least 3 is a commutator and claims that the proof can be extended to show that every element in a simple alternating group An is a commutator. He concludes by saying that “It is possible that a similar theorem holds for any simple group of finite order, but it seems that at present we do not have the necessary methods to investigate the question.” This has become known as Ore’s conjecture, the recent solution of which [LOST] is the topic of this lecture: Theorem 0.1 (Liebeck-O’Brien-Shalev-Tiep). — Let G be a finite non-abelian simple group. Then every element of G is a commutator. In fact, at almost the same time as Ore, Noboru Ito [Ito51] showed the same statement for the alternating groups An , but without speculating about other finite simple groups. The proof of Ore’s conjecture relies on the classification of the finite simple groups and, through Lusztig’s parametrization of irreducible characters of finite reductive

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

326

G. MALLE

groups, on the Weil conjectures; the final step also required a considerable amount of computer calculation. Note that obvious generalizations of Theorem 0.1 fail to hold. For example Guralnick [Gu10] gives a quite general construction of groups, including non-solvable ones, with the property that [G, G] does not consist of commutators only: let G = U ≀ H be the regular wreath product of two finite groups U, H with U abelian. If |U | > 2 or |[H, H]| > 2 then some element of [H, G] is not a commutator in G (see also Isaacs [Is77] for a weaker result). Thus, for U of order at least 3 and any non-abelian simple group H this gives a non-solvable example G with factor group H, and in fact one may also obtain a perfect one (that is, a group G with G = [G, G]). Computer calculations show that the smallest example of a perfect group not all of whose elements are commutators is an extension of an elementary abelian group of order 24 with the alternating group A5 . Even closer to the case of simple groups, H. I. Blau [Bl94] proved that there exist (finitely many) quasisimple groups that contain noncommutator central elements (see Theorem 6.1 below). Recall that a group G is called quasisimple if it is perfect and the quotient G/Z(G) by its center Z(G) is (nonabelian) simple. The smallest such example is the exceptional 6-fold covering group of the alternating group A6 (that is, a non-split central extension of the cyclic group of order 6 by A6 ), for which the central elements of order 6 can be seen not to be commutators. So the property required by Ore’s conjecture seems to be closely tied to simple groups. We want to mention another open problem closely related to Ore’s conjecture, which is concerned with the square C 2 := {xy | x, y ∈ C} of a conjugacy class C, and which in the introduction to the book [AH85] is attributed to J. G. Thompson: Conjecture 0.2 (J. G. Thompson). — Let G be a finite non-abelian simple group. Then there exists a conjugacy class C ⊆ G such that C 2 = G. Clearly, if C 2 = G then every element in the product C 2 is a commutator, so the Thompson conjecture implies the (now proven) Ore conjecture. Many papers on the Ore conjecture actually show that the stronger Thompson conjecture holds for particular families of groups, so in this survey we will consider both conjectures simultaneously. In a broader context, the Ore conjecture can be thought of as a particular instance of the surjectivity of word maps. For any word w in a free group Fr on r generators, and any group G, one can ask whether the corresponding word map is surjective, the Ore conjecture being the special case of the commutator word. This gives (noncommutative) analogues of diophantine equations on groups. For example, the representability of a group element by a product of kth powers, or by the kth power of a given word, can be considered to be analogues of Waring’s problem in number theory. This point of view has been propagated by Shalev (see e.g., [Sh09, LS09, LST11]).

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

327

One attractive feature of these questions, which we will insist on throughout this survey, is the fact that they also make sense for simple algebraic groups, where more powerful methods are available and much more can be shown to hold. Let us end this introduction with a short historical overview on the proof of Ore’s conjecture. After Ore and Ito proved the conjecture for the simple alternating groups, R.C. Thompson [Th61, Th62, Th62a] established it for the finite projective special linear groups PSLn (q) = SLn (q)/Z(SLn (q)). The symplectic groups Sp2n (q) with q ≡ 1 (mod 4) were handled by Gow [Gow88], and Bonten [Bo93] dealt with exceptional groups of Lie type of low rank. The case of sporadic groups was settled by Neub¨ user, Pahlings and Cleuvers [NPC84]. In 1998, E.W. Ellers and N.L. Gordeev [EG98] verified Ore’s conjecture (and in fact Thompson’s conjecture) for all finite simple groups of Lie type over a finite field Fq , whenever q > 9. This will be explained in Section 1. Building on this result, Shalev [Sh09] then used asymptotic methods to show that for finite simple groups G, the proportion of commutators tends to 1 as |G| tends to infinity. In that same paper he also showed that for any word w 6= 1, there exists N = N (w) such that for every finite simple group G of order |G| > N (w) we have w(G)3 = G. The exponent 3 was later improved to 2 by Larsen, Shalev and Tiep [LST11]. We will discuss these methods and results in Sections 4 and 5. The remaining (infinitely many) simple groups of Lie type over small fields were then treated in the paper of Liebeck, O’Brien, Shalev and Tiep [LOST]. We sketch their approach in Section 2.

1. THE APPROACH BY ELLERS AND GORDEEV Ellers and Gordeev [EG98] succeeded in proving Ore’s conjecture for the finite simple groups of Lie type defined over fields of order at least 9. Since there are infinitely many distinct classical groups over any given finite field, this still leaves infinitely many open cases. The approach of Ellers-Gordeev is by direct computation. To get some idea on the method, one should consider the following model case for algebraic groups. This was proved by Pasiencier-Wang [PW62] over the complex numbers (with a precursor result by Goto [Go49] for compact semisimple Lie groups), and then Ree [Ree64] noticed that their argument can be extended to arbitrary algebraically closed fields: Theorem 1.1 (Pasiencier-Wang, Ree). — Let G be a semisimple linear algebraic group over an algebraically closed field. Then each element of G is a commutator. Proof (Sketch). — We want to show that g ∈ G is a commutator. First note that a conjugate of a commutator is again a commutator, so we may replace g by any of its conjugates. By a result of Borel, any element of G lies in some Borel subgroup B of G, so we may assume that g ∈ B. Let U = Ru (B) be the unipotent radical of B,

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

328

G. MALLE

and T 6 B a maximal torus. One now needs the following auxiliary claim, whose proof relies on a result of Kostant on the action of the Weyl group on the character group of T , see [Ree64, (3.1)]: (∗) For any s ∈ T there exists a regular element t ∈ T (that is, with CG (t) = T ) and x ∈ NG (T ) such that x−1 tx = ts. Now let g = su be the Jordan decomposition of g, where we may assume that s ∈ T , since all maximal tori of B are conjugate. By (∗) there exists a regular element t ∈ T and x ∈ NG (T ) with x−1 tx = ts. By Lemma 1.2 below applied to the regular element ts ∈ T there is b ∈ B with b−1 tsb = tsu, so that finally g = su = t−1 b−1 tsb = t−1 b−1 x−1 txb = [t, xb] is a commutator. Lemma 1.2. — Let B = U · T be a semidirect product of a nilpotent normal subgroup U with an abelian group T . Then for t ∈ T with CB (t) = T the coset tU is a single B-conjugacy class. Proof. — By induction over a central series of U one easily shows that the map U → U , u 7→ [t, u], is bijective, so any tv ∈ tU has the form tu for some u ∈ U . An attempt to adapt this approach to finite groups of Lie type faces several problems. First, it is no longer true that all elements lie in a Borel subgroup. So one has to consider a larger collection of subgroups. Secondly, regular semisimple elements exist in the Borel subgroup only if the underlying field is sufficiently large compared to the rank. This is the principal reason why the Ellers-Gordeev method cannot handle all simple groups of Lie type. In a series of three papers Ellers-Gordeev show a particular form of Gauss decomposition for elements of finite reductive groups. Recall that any finite simple group of Lie type G can be obtained by the following construction. (This does not apply to the Tits simple group 2F4 (2)′ , which for most purposes should rather be considered as a 27th sporadic simple group.) There exist a simple linear algebraic group H of simply connected type over the algebraic closure of a finite field, and a Steinberg endomorphism F : H → H, that is, a bijective morphism with finite fixed point set H := HF , such that G = H/Z(H). Elements of G will be called regular if their preimages in the algebraic group H are. If T 6 B 6 H is an F -stable maximal torus inside an F -stable Borel subgroup of H, then the image in G of TF , respectively of BF , is called a maximally split torus, respectively a Borel subgroup of G. The group of F -fixed points of the unipotent radical Ru (B) is then called the unipotent radical of BF . Ellers-Gordeev [EG94, EG95, EG96] obtain the following statement on Gauss decompositions of elements.

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

329

Theorem 1.3 (Ellers-Gordeev). — Let G be a finite simple group of Lie type, T 6 B 6 G a maximally split torus inside a Borel subgroup of G, U the unipotent radical of B and U − the unipotent radical of the opposite Borel subgroup. Fix t ∈ T . Then for any 1 6= g ∈ G there exists x ∈ G such that xgx−1 = u1 tu2

for suitable u1 ∈ U − , u2 ∈ U.

For the special linear groups this was first shown by Sourour [So86]. In fact, EllersGordeev prove the statement for Chevalley groups over any field K. Their proof takes roughly 50 pages of explicit calculation in the various families of groups of Lie type. Corollary 1.4. — In the situation of Theorem 1.3, suppose that t1 , t2 ∈ T are regular elements, and write C1 , C2 for their conjugacy classes. Then C1 C2 ∪ {1} = G. Proof. — Let 1 6= g ∈ G, then by Theorem 1.3 some conjugate xgx−1 of g has the form u1 t1 t2 u2 with u1 ∈ U − , u2 ∈ U . Now by Lemma 1.2 applied to the semidirect products B = U T and U − T we can write u1 t1 = v1 t1 v1−1 , and t2 u2 = v2 t2 v2−1 for suitable v1 ∈ U − , v2 ∈ U , whence xgx−1 = u1 t1 t2 u2 = v1 t1 v1−1 v2 t2 v2−1 ∈ C1 C2 , as claimed. Corollary 1.5. — In the situation of Theorem 1.3, assume that T contains a regular element. Then the Ore conjecture holds for G. Proof. — Let t ∈ T be regular and let C1 , C2 in the previous corollary be the class of t, t−1 respectively. Then any element of G \ {1} is a commutator, and 1 ∈ G trivially is. Now note that, given H, F : H → H, and a maximally split maximal torus T 6 H as above, any regular semisimple element s ∈ T is F m -stable for m sufficiently large. Thus there exist regular semisimple elements in T over fields of sufficiently large order. But this field size might vary with the characteristic and with the type of G. So more elaborate arguments are needed to establish a uniform, explicit bound: Theorem 1.6 (Ellers-Gordeev [EG98]). — Let G be a finite simple group of Lie type over a field of order at least 9. Then Thompson’s and Ore’s conjectures hold for G. In fact, for most families of groups they obtain an even smaller bound on the field size; for example, they show that Ore’s conjecture holds for symplectic groups over fields of order at least 4. Note that this still leaves infinitely many open cases, namely the classical groups of unbounded rank. In their proof, Ellers-Gordeev use the following factorization result by Lev [Lev94], which is shown by direct computation (a similar, but weaker decomposition statement had been shown by Sourour [So86] in his proof of Thompson’s conjecture for SLn (K)).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

330

G. MALLE

Theorem 1.7 (Lev). — Let K be a field, |K| > 4, and a1 , a2 ∈ GLn (K) with n > 3 such that all eigenvalues of a1 , a2 lie in K. Then any non-scalar matrix g ∈ GLn (K) with det a1 · det a2 = det g can be factorized as g = b1 b2 with bi conjugate to ai , for i = 1, 2. Taking a1 = a2 a regular unipotent element, this implies that all non-central elements of SLn (K) with |K| > 4 lie in C 2 , where C is a class of regular unipotent elements, showing Thompson’s and thus Ore’s conjecture for SLn (q), q > 4, whence for the simple factor groups PSLn (q). To treat the other simple groups of Lie type G, Ellers-Gordeev consider the following situation: Assume that G has root system Φ with respect to a maximal torus T , G1 is a reductive subgroup of G with root system Φ1 ⊂ Φ, and U is the unipotent subgroup of G generated by the root subgroups for roots α ∈ Φ+ \ Φ1 . Then one has the following inductive statement (see [EG98, Prop. 5.1]): Proposition 1.8. — Let C ⊂ G be a real conjugacy class. Let g ∈ T G1 ∩ C and denote by C1 the union of the T G1 -conjugacy classes of g and g −1 . Suppose that (1) T ∩ G1 6= Z(G1 ), (2) C12 ∪ Z(G1 ) = G1 , and (3) g acts fixed point freely on all quotients Ui /Ui+1 of the central series (Ui )i of U . Then C 2 ∪ Z(G) = G. If G is simple, then C 2 = G. Here, an element (and its conjugacy class) is called real if it is conjugate to its inverse. For the proof of Theorem 1.6 it then remains to verify these technical conditions for the various families of simple groups of Lie type, where G1 is usually taken to be a subgroup of type A, and g is the product of a regular unipotent element of G1 with a suitable semisimple element of G.

2. THE CHARACTER THEORETIC METHOD In this section we sketch the approach of Liebeck-O’Brien-Shalev-Tiep [LOST] which completes the proof of Theorem 0.1. Its main ingredient is character-theoretic, relying on the following lemma of Frobenius: Lemma 2.1. — Let G be a finite group. Then g ∈ G is a commutator if and only if X χ(g) 6= 0. χ(1) χ∈Irr(G)

Here, Irr(G) denotes the set of complex irreducible characters of G.

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

331

Proof. — We want to count pairs (x, y) ∈ G×G with g = [x, y] = x−1 y −1 xy = x−1 xy , that is, representations of g as a product of x−1 times a conjugate of x. It is a wellknown result of Frobenius that for a fixed conjugacy class C of G the number of pairs (x1 , x2 ) ∈ C × C with x−1 1 x2 = g is given by |C|2 X |χ(x1 )|2 χ(g) . nC := |G| χ(1) χ∈Irr(G)

Conjugating x2 by y ∈ CG (x2 ) fixes the pair, so we get |CG (x2 )|nC pairs (x, y) ∈ C×G with [x, y] = g. Summing over all conjugacy classes C of G (with representative x ∈ C) yields X X χ(g) X X χ(g) |CG (x)|nC = |C| |χ(x)|2 = |G| χ(1) χ(1) C⊆G

χ∈Irr(G)

C⊆G

χ∈Irr(G)

for the desired number of pairs, where for the last equality we have used the orthogonality relations for characters. The claim follows. This allows us to deal with the 26 sporadic simple groups, since their character tables are known, see [NPC84], and more generally with any group whose character table is explicitly available. Liebeck-O’Brien-Shalev-Tiep’s idea for applying the Frobenius formula to the remaining groups of Lie type is as follows. By the orthogonality relations for characters we have |χ(g)|2 6 |CG (g)| for any g ∈ G. Splitting off the contribution by the trivial character 1G of G we may thus estimate X χ(g) X 1 . > 1 − |CG (g)|1/2 χ(1) χ(1) χ∈Irr(G)

χ6=1G

Thus one may hope that for elements g with small enough centralizer order |CG (g)|, the second term has absolute value less than 1 so that one gets the desired result for such elements. The crucial observation which makes this approach work follows easily from the orthogonality relations and an application of the Cauchy-Schwarz inequality (see [LOST, Lem. 2.6]): Lemma 2.2. — Let G be a finite group with kG conjugacy classes. Then for all N > 0 and all g ∈ G p X |χ(g)| kG |CG (g)| 6 . χ(1) N χ∈Irr(G) χ(1)>N

In order to apply this formula, one needs information on the number kG of conjugacy classes in a simple group of Lie type, and on lower bounds for degrees of its non-trivial complex irreducible characters. Let us write G = Gr (q) if G is a simple group of Lie type of rank r over the finite field Fq . Asymptotically, the number of conjugacy classes in Gr (q), for q → ∞, is bounded above by a polynomial in q of

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

332

degree r; more precise upper bounds for kG were obtained by Fulman and Guralnick [FG12], for example kG 6

qn + q n/2+1 q−1

for G = SLn (q) with n > 4.

In practice, the argument sketched above needs to be refined slightly since there often exist a few non-trivial characters of very low degree which have to be treated separately. The question on lower bounds for the minimal dimensions of non-trivial irreducible representations of finite simple groups is a very active area of research; first general results for groups of Lie type appeared in work of Landazuri and Seitz. For the present application, only complex irreducible representations matter, and for those, sharp lower bounds have been derived by Tiep and Zalesski [TZ96] from Lusztig’s classification [Lu84] of all complex irreducible characters. Often, there exist few irreducible characters of degree very close to the lower bound, and all others have degree at least roughly the square of that bound. Such gap results are crucial in many other problems in the study of finite simple groups. As one example, we cite the result for symplectic groups (see [TZ96, 5.2]): Lemma 2.3. — Let G = Sp2n (q) with n > 2 and q odd. Then G has four complex irreducible characters of degrees 21 (q n ± 1), the so-called Weil characters, and χ(1) >

(q n − 1)(q n − q) 2(q + 1)

for all other 1G 6= χ ∈ Irr(G). It is easy to see that any non-trivial irreducible representation of Sp2n (q) has dimension at least (q n − 1)/2: considering Fqn as an n-dimensional vector space over Fq we may embed SL2 (q n ) = Sp2 (q n ) into Sp2n (q), and the smallest non-trivial irreducible representation of SL2 (q n ) over any field of characteristic not dividing q has dimension (q n − 1)/2. Indeed, the Borel subgroup of SL2 (q) is an extension of the elementary abelian group U of order q with a cyclic group of order q − 1 which acts with two non-trivial orbits of length (q − 1)/2 on the set of linear characters of U , whence any non-trivial representation of SL2 (q) has at least that dimension. It is much harder to prove the stated gap result. For symplectic groups an elementary proof is available (see [GMST02]), but for other types, the full strength of Lusztig’s classification of irreducible characters [Lu84] is needed. Returning to Ore’s conjecture, for G = Sp2n (q) we can thus show that elements with small centralizer are commutators by applying Lemma 2.2 with the bound N = (q n − 1)(q n − q)/(2(q + 1)) together with the known bound on kG , once we control the values of the four Weil characters. This is indeed possible by the very explicit construction of those characters. Let P be the derived subgroup of an end node maximal parabolic subgroup of Sp2n+2 (q). Then P = U.Sp2n (q) where U is

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

333

a special group of order q 1+2n (that is, the center, the derived subgroup and the Frattini subgroup of U all agree and are elementary abelian). Then U has q − 1 faithful irreducible complex representations, of dimension q n , and these can be shown to extend to P . They take absolute value q N (g)/2 on elements g ∈ Sp2n (q), where N (g) = dim ker(g − 1). Upon restriction to Sp2n (q) these representations split into two irreducible constituents each, of dimensions (q n ± 1)/2, the above mentioned Weil representations (see [Ger77]). Similar bounds as in Lemma 2.3 exist for the other families of groups of Lie type [TZ96]. In the case of orthogonal groups, Liebeck-O’Brien-Shalev-Tiep need to prove estimates on character values for the q + 4 smallest irreducible characters (see [LOST, Prop. 5.12]). It still remains to show that elements with large centralizer are commutators. For this, the authors introduce the notion of breakable element. Let V be a vector space equipped with a non-degenerate symmetric bilinear or hermitean form, and denote its group of isometries of determinant 1 by Cl(V ). Thus, depending on the type of the form, Cl(V ) could be a symplectic, a special orthogonal or a special unitary group. An element g ∈ Cl(V ) is called breakable if there exists a proper non-degenerate subspace W < V such that g lies in the corresponding product Cl(W ) × Cl(W ⊥ ) of classical groups with respect to the induced forms, and either both factors Cl(W ) and Cl(W ⊥ ) are perfect groups, or at least Cl(W ) is perfect and the component of g in Cl(W ⊥ ) is a commutator. Since Ore’s conjecture can already be assumed for Cl(W ) (and for Cl(W ⊥ ) if it is perfect) by induction, such breakable elements are also commutators. This approach is complementary to the previous one; for example the authors show that for G = Sp2n (2), g unbreakable implies that |CG (g)| < 22n+15 is indeed small. This dichotomy approach fails if the factors in the decomposition are rather small, and thus not perfect or even solvable, like Cl(W ) = Sp2 (2), Sp2 (3), Sp4 (2) or SO+ 4 (2). This leads to various ‘small’ cases which have to be treated by ad hoc calculations with the computer algebra systems GAP and Magma, either using or constructing their character tables and applying Lemma 2.2, or by trying to construct commutators in all conjugacy classes by random methods. Some of the challenging big cases of this type are the groups Sp16 (2), SU6 (7), SO11 (3), of sizes roughly 6 · 1040 , 4 · 1029, 2 · 1026 respectively. In total the authors estimate that their computations used about 3 years of CPU time. An additional complication occurs for the projective special unitary groups PSUn (q) (which by [EG98] have to be treated for q 6 7 when n is even, and for q 6 3 when n is odd). Here the bounds for centralizers of unbreakable elements are much weaker than for the other classical types. Thus, the character-theoretic approach sketched above fails. Instead the authors imitate Thompson’s direct approach [Th61] for the special linear groups by representing elements directly as commutators. This again leaves open several cases with small n and q which have to be treated separately.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

334

For the groups of exceptional types, the small rank cases had already been handled completely by Bonten [Bo93], and for the remaining finitely many groups of type En , n = 6, 7, 8, the bounds on character degrees are much more favorable than in classical types, so that similar but easier arguments allow to conclude.

3. TOWARDS THOMPSON’S CONJECTURE Let us now turn to Thompson’s conjecture, stated in the introduction, that any finite non-abelian simple group contains a conjugacy class C ⊆ G such that C 2 = G. The example of 6.A6 mentioned in the introduction shows that there are counterexamples to an extension of Thompson’s conjecture to quasisimple groups. Moreover, the quasisimple groups SL2 (q), q ≡ 3 (mod 4), are covered by commutators by Theorem 6.1, but they can be seen not to be covered by the square of a single conjugacy class, so not all groups satisfying Ore’s condition satisfy Thompson’s condition. Note that a class satisfying Thompson’s conjecture must be real. Again, the orthogonality relations for group characters yield an easy character theoretic criterion: Lemma 3.1. — Let G be a finite group, C ⊂ G a real conjugacy class. Then G = C 2 if and only if X |χ(x)|2 χ(g) 6= 0 χ(1) χ∈Irr(G)

for all g ∈ G (where x ∈ C is arbitrary). Thompson’s conjecture has been checked for the sporadic groups [NPC84] (using the above criterion), for alternating groups by C.-H. Hs¨ u [Hs65] (see also Bertram [Ber72]), for special linear groups by Brenner [Br83] and Lev [Lev94], and for the groups of Lie type over fields of cardinality at least 9 by Ellers-Gordeev (see Theorem 1.6). Using Lemma 3.1, Guralnick and Malle showed that for groups of Lie type of rank 1, almost any class C has the desired covering property, and furthermore Thompson’s conjecture holds for all exceptional groups of Lie type of rank less than 4 [GM12, Thm. 7.1 and 7.3]. In these investigations one is naturally led to study pairs of conjugacy classes whose product covers all of G, except possibly for the identity element. In order to verify the latter, one again uses Frobenius’ character theoretic formula for structure constants, saying that for conjugacy classes C1 , C2 of G, an element g ∈ G is a product of elements x ∈ C1 , y ∈ C2 if and only if X χ(x)χ(y)χ(g −1 ) 6= 0. χ(1) χ∈Irr(G)

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

335

This sum is very hard to evaluate in general, but as was first recognized by Malle [M88] in the construction of Galois realizations with given group and then used extensively in Malle-Saxl-Weigel [MSW94], for groups of Lie type, Deligne-Lusztig theory allows to identify classes C1 , C2 such that very few irreducible characters do in fact contribute to this sum. Let G be an almost simple or quasisimple group of Lie type. Following L¨ ubeckMalle [LM99] we say that a pair T1 , T2 of maximal tori of G is strongly orthogonal, if only one non-trivial irreducible character χ ∈ Irr(G) has the property that χ(s1 )χ(s2 ) 6= 0 for any regular elements si ∈ Ti . This irreducible character is then necessarily the so-called Steinberg character St of G. Corollary 3.2. — Let T1 , T2 be a pair of strongly orthogonal tori of a finite quasisimple group of Lie type G, and Ci ⊆ G classes of regular semisimple elements of Ti , i = 1, 2. Then C1 C2 ∪ Z(G) = G. Proof. — By assumption, the only non-trivial irreducible character not vanishing on either si ∈ Ti is the Steinberg character St. This is known to take values ±1 on regular semisimple elements, see [Ca85, Thm. 6.5.9]. Thus the above formula for the structure constant evaluates to 1 ± St(g)/St(1), which is non-zero whenever g ∈ G is non-central since then |St(g)| < St(1). Such pairs of maximal tori were first considered in [MSW94] in the proof that all finite non-abelian simple groups except for PSU3 (3) can be generated by three involutions. Perhaps rather unexpectedly it turned out in [MSW94] and [LM99, Thm. 10.1] that: Proposition 3.3. — All families of finite simple groups of Lie type, with the possible exception of orthogonal groups of type D2n , possess strongly orthogonal pairs of maximal tori. Moreover, one of the tori in such a pair can be chosen to contain real elements. The proof requires Lusztig’s classification of unipotent characters as well as his results on character values on semisimple elements, see [Lu84]. As a direct consequence one obtains the following approximation to Thompson’s conjecture: Corollary 3.4. — Let G be a finite simple group of Lie type, not of type D2n . Then G has a conjugacy class C such that C 2 ∪ C 3 = G. Proof. — By Corollary 3.2 the product C1 C2 covers G \ {1}, for Ci classes of regular elements in the two strongly orthogonal tori, where moreover we may assume that C2 contains real elements. In particular, any element of C1 can be written as a product of two elements in C2 . As elements in C2 are real, the identity lies in C22 as well, so the claim follows with C = C2 .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

336

G. MALLE

This has recently been improved as follows (see [GT13, Cor. 1.3]): Theorem 3.5 (Guralnick-Tiep). — Let G be a finite simple group. Then G has a conjugacy class C such that C 3 = G. In order to deal with groups of type D2n , but also in other types, it is sometimes useful to consider the following weaker concept, formalized in [LST11]: Two maximal tori T1 , T2 of G are called weakly orthogonal if the intersection of T1 with any conjugate of T2 only contains the identity. Examples are any pairs of maximal tori T1 , T2 of mutually coprime orders. The relevance of such pairs of tori comes again from Lusztig’s classification of irreducible characters of finite reductive groups in terms of semisimple elements in the dual group (see [MSW94], [LM99] or [LST11, Prop. 2.2]): Proposition 3.6. — Let G be a finite simple group of Lie type, T1 , T2 6 G maximal tori such that the corresponding tori in the Langlands dual group are weakly orthogonal. Let χ ∈ Irr(G) and si ∈ Ti be regular elements. Then χ(s1 )χ(s2 ) = 0 unless χ is a so-called unipotent character of G. Using this, the following second approximation to Thompson’s conjecture can be shown (see [GM12, Thm. 1.4], and also [LST11, Thm. 1.1.4] for an asymptotic version): Theorem 3.7. — Let G be a finite non-abelian simple group. Then there exist conjugacy classes C1 , C2 ⊂ G with G = C1 C2 ∪ {1}. Proof. — For alternating groups, this is the main result of [Hs65]. For groups of Lie type different from D2n , the assertion is an immediate consequence of Proposition 3.3 in conjunction with Corollary 3.2. For type D2n , one has to establish bounds on the values of unipotent characters on elements of a pair of weakly orthogonal tori from [MSW94, 2.5], see [GM12, Thm. 7.6] or [LST11, Prop. 7.1.1]. In fact, for all but the two simple groups PSL2 (7) and PSL2 (17) we can arrange so that both classes contain elements of order prime to 6, see [GM12, Thm. 1.4]. Using this one gets (see [GM12, Cor. 1.5], and [LOST3, Thm. 2] for a slightly weaker statement): Theorem 3.8 (Guralnick-Malle). — Let k be a prime power or a power of 6. Then every element of any finite non-abelian simple group is a product of two kth powers. We will come back to the question on representing elements as products of powers in Section 5. For alternating groups, much better results can be obtained at least asymptotically. For example, the following is shown in [LS09, Thm. 1.1]:

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

337

Theorem 3.9 (Larsen-Shalev). — There exists a constant n0 such that for all n > n0 and all permutations g ∈ Sn with at most n1/128 orbits on {1, . . . , n}, the Sn -conjugacy class C of g satisfies C 2 = An . Choosing g ∈ An with not all cycle lengths distinct, this gives a solution of Thompson’s conjecture for An . The proof again relies on Frobenius’ formula and a careful estimate of character values on permutations with few cycles using the MurnaghanNakayama rule. Thus, at the time of writing, the Thompson conjecture remains open for simple groups of Lie type defined over fields of size at most 8, and of rank at least 4. One might hope that taking for C a class of regular unipotent elements should give the result. Indeed, for G of adjoint Lie type in good characteristic and x ∈ G regular unipotent, it is known that χ(x) ∈ {0, 1, −1} for all irreducible characters χ of G, but even with this choice the known estimates on character values are too weak to allow for an application of Lemma 3.1.

4. WORD MAPS FOR ALGEBRAIC GROUPS AND FINITE GROUPS OF LIE TYPE The formulation of Ore’s conjecture fits into the more general framework of word maps on groups. Here, surprisingly strong results for groups of sufficiently large order can be obtained by asymptotic arguments. Again, the approach relies on the theory of algebraic groups. In order to phrase the results, we need the concept of word map: Let Fr be the free group on r generators x1 , . . . , xr and w = xi1 · · · xim ∈ Fr a word. Then for any group G, w defines a map fw,G : Gr → G by sending (g1 , . . . , gr ) to gi1 · · · gim . Slightly abusing notation we will write w(G) := im(fw,G ) for the image of G under this word map. Again, let’s first consider the case of algebraic groups: Theorem 4.1 (Borel [Bor83]). — Let G be a semisimple linear algebraic group over an algebraically closed field K and 1 6= w ∈ Fr a word. Then fw,G is a dominant morphism, that is, w(G) contains a Zariski open dense subset of G. Proof (Sketch). — First note that if π : H → G is an isogeny, then the diagram fw,H

H r −−−−→   πr y fw,G

H  π y

Gr −−−−→ G commutes, so if the claim holds for H, it also holds for G. In particular we may take for π the simply connected covering, so it suffices to consider semisimple groups of

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

338

simply connected type. Since these are direct products of simple algebraic groups, we may even assume that G is simple. Secondly, we may reduce to the case of SLn . Indeed, let H 6 G be a subgroup of maximal rank. Then any maximal torus of H is a maximal torus of G. If the claim holds for H, then the image of fw,H intersects the dense open subset of regular semisimple elements of H in a dense open subset and so its image is dense in a maximal torus of H. Hence the image of fw,G is dense in a maximal torus of G, and so in G, whence the claim also holds for G. Now any simple algebraic group contains a semisimple maximal rank subgroup all of whose simple components are of type A. For example, we have SLn2 6 Sp2n , A22 6 F4 and A24 6 E8 . Thus, we are done when the result holds for groups SLn . For SLn consider the morphism χn : SLn → K n−1 sending an element to the vector of coefficients of its characteristic polynomial (except for the first and last one). By induction, the claim holds for SLn−1 , so χn ◦ fw,G contains a dense open subset of P the hyperplane {(a1 , . . . , an−1 ) | 1 + (−1)n + ai = 0} of K n−1 corresponding to elements with an eigenvalue 1. By going to the closure one sees that it suffices to exhibit an element in w(G) without eigenvalue 1. This is achieved by working inside an anisotropic subgroup of SLn (i.e., a division algebra of degree n over some global subfield of K). Theorem 1.1 shows that the commutator word map is surjective, but in general, word maps on simple algebraic groups need not be surjective: already on SL2 in characteristic 0, the word x2 is not surjective. See Mycielski [My77] for this and further examples. Similarly, in positive characteristic p, the image of the p-power word map does not contain regular unipotent elements. It is intriguing to speculate under which conditions surjectivity might hold for non-power words. Returning to finite groups, Theorem 4.1 allows us to deduce the following: Theorem 4.2 (Larsen [La04]). — Let 1 6= w ∈ Fr , and G1 , G2 , . . . be an infinite sequence of pairwise non-isomorphic finite non-abelian simple groups. Then lim

n→∞

log |Gn | = 1. log |w(Gn )|

Proof (Rough sketch). — Since w(Gn ) is closed under conjugation, it suffices to exhibit an element in the image with small enough centralizer, so with large class size. One distinguishes three cases: for a sequence of simple groups of Lie type with a fixed root system, Larsen shows that |w(Gn )| > c|Gn | for some c > 0, basically using Theorem 4.1, but the details are quite involved. In fact, it turns out that it is sufficient to prove this for groups of type A1 . As a second step, one shows the same statement for a sequence of alternating P groups. For this, one decomposes n = ki=1 (pi + 1) with suitable primes pi , embeds the product PSL2 (p1 ) × · · · × PSL2 (pk ) into An via the natural permutation action of

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

339

PSL2 (p) on the projective line over Fp , and uses the first part for the factors PSL2 (pi ) to find an element in w(An ) with small centralizer. Finally, for the classical groups of arbitrary rank, one uses natural embeddings like An 6 SLn (q) 6 SO+ 2n (q) 6 SO2n+1 (q) 6 SL2n+1 (q) to exhibit elements with small centralizer, starting with those for An . A different proof of Theorem 4.2 is given in [LS09] using the following important irreducibility property enjoyed by word maps, the proof of which would lead too far away from the topic of this lecture (see [LS09, Thm. 3.3]): Theorem 4.3 (Larsen-Shalev). — Let wi ∈ Fri , i = 1, 2, be non-trivial words in two disjoint sets of letters, and w ∈ Fr1 +r2 their concatenation. Let G be a simple algebraic group of simply connected type over an algebraically closed field. Then for −1 all non-central elements g ∈ G, the fiber fw,G (g) is irreducible.

5. ASYMPTOTIC WARING TYPE RESULTS The results stated in the previous section form a key ingredient for the study of various asymptotic Waring type questions on the image of word maps. Recall that in number theory the Waring problem, solved by Hilbert, asks whether there exists a function f such that any positive integer can be represented by f (k) kth powers. In analogy, in the setting of group theory, given any non-trivial word w ∈ Fr one may ask whether some power w(G) · · · w(G) covers G for all sufficiently large non-abelian finite simple groups G. (Recall that we write w(G) for the image of the word map on Gr associated to w.) Here the best and most general results are consequences of the following (see [LST11, Thm. 1.1.1]): Theorem 5.1 (Larsen-Shalev-Tiep). — Let w1 , w2 ∈ Fr be non-trivial words. Then there exists a constant N = N (w1 , w2 ) such that for all finite non-abelian simple groups G of order |G| > N we have w1 (G) w2 (G) = G. The case of alternating groups and of groups of Lie type of bounded rank had already been established earlier by Larsen and Shalev [LS09]. Using Theorem 4.3 and suitable embeddings as in the proof of Theorem 4.2 they show, for example, that each word map on An with n large enough contains elements with few cycles in their image and then conclude by Theorem 3.9. As an immediate consequence one has: Corollary 5.2. — For any 1 6= w ∈ Fr there exists a constant N = N (w) such that w(G)2 = G for all finite non-abelian simple groups G of order |G| > N .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

340

G. MALLE

Taking for w the commutator word shows in particular that any element in a sufficiently large finite non-abelian simple group is the product of two commutators. Earlier, Liebeck and Shalev [LS01] had proved that for any word w there exists an unspecified constant c = c(w) such that if G is a finite non-abelian simple group and w(G) 6= 1 then w(G)c = G. This was then improved by Shalev [Sh09, Thm. 1.1] who showed the statement of the above corollary with 3 in place of 2. Nikolov and Pyber [NP11] reproved this using different methods. A recent result of Jambor, Liebeck and O’Brien [JLO13, Cor. 3] shows that the exponent 2 in Corollary 5.2 cannot in general 2 be replaced by 1, even for non-power words: the word map for w = x21 [x−2 1 , x2 ] is not surjective on infinitely many groups PSL2 (q). It is not clear whether this also leads to a counterexample for simple algebraic groups. The constants in all of the above statements are not explicit. Guralnick and Tiep [GT13, Thm. 1.4 and Cor. 1.5] have recently obtained the following explicit bounds for the power word w = xk1 : Theorem 5.3 (Guralnick-Tiep). — Let G be a finite non-abelian simple group. 2

(a) Let 1 6 k 6 m. If |G| > m8m , then every element of G can be written as xk y m for some x, y ∈ G. (b) Let m > 1 be notp divisible by the exponent of G. Then every element of G is a product of at most 80m 2 log2 m + 56 mth powers in G. Recall that by Theorem 3.8, the conclusion of Theorem 5.3(a) actually holds for all non-abelian simple groups when k = m is restricted to prime powers or powers of 6. This particular question has a long history. Mart´ınez and Zelmanov [MZ96] and independently Saxl and Wilson [SW97] showed that there exists a function f such that any element in a finite non-abelian simple group G is a product of f (k) kth powers, provided there are any non-trivial kth powers in G. Shalev [Sh09] uses Theorem 4.2 of Larsen (to deal with Lie type groups of large rank) and Theorem 1.6 of Ellers-Gordeev (to dispose of groups of bounded rank) to show the following asymptotic version of Thompson’s conjecture: Theorem 5.4 (Shalev). — For any sequence (Gn )n of finite simple groups of increasing order there exist conjugacy classes Cn ⊂ Gn such that |Cn2 | −→ 1 |Gn |

for n → ∞.

The idea of proof for Theorem 5.1 is quite simple: by the result of Larsen and Shalev [LS09] one only has to consider groups of Lie type G. For these, one shows that wi (G) contains (elements of) a conjugacy class Ci of regular elements in a pair of (strongly or weakly) orthogonal maximal tori (as in Section 3), so that the product C1 C2 covers all of G except possibly for the identity element (which is clearly contained in w1 (G)w2 (G)). The main result guaranteeing this is [LST11, Thm. 5.3.2]:

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

341

Theorem 5.5 (Larsen-Shalev-Tiep). — Let w be a non-trivial word. Then for any sequence of finite simple groups G(q) of fixed Lie type and any maximal torus T (q), we have |{(g1 , . . . , gr ) ∈ G(q)r | w(g1 , . . . , gr ) ∈ T (q)}| −→ 1. q dim G−rkG |G(q)|r Corollary 5.6. — Let w be a non-trivial word. Then for any sequence of finite simple groups G(q) of fixed Lie type of rank at most d there exists q0 such that w(G(q)) contains regular elements of any maximal torus of G(q) for all q > q0 . Proof. — Fix a type of group G. It follows from Theorem 5.5 that there exists δ > 0 such that |T (q) ∩ w(G(q))| > δ|T (q)| for any maximally split torus T (q) of G(q). But the number of regular elements in a maximal torus T (q) is larger than (1 − δ)|T (q)| for q larger than a suitable q0 . We conclude by taking the maximum over all such q0 for all classes of maximal tori and all types of groups of rank at most d. We thus obtain the conclusion of Theorem 5.1 for groups of bounded rank, a case which had already been settled (in a slightly different way) in [LS09]: Corollary 5.7 (Larsen-Shalev). — Let w1 , w2 be non-trivial words and d0 > 0. Then there exists a constant N = N (w1 , w2 , d0 ) such that for all simple groups of Lie type G of rank d 6 d0 and order |G| > N we have w1 (G)w2 (G) = G. Proof. — By Corollary 5.6 the image wi (G) meets (and hence contains) a conjugacy class Ci of regular elements in a maximally split torus of G. Thus we are in the situation of Corollary 1.4, so G \ {1} is covered by C1 C2 . Since clearly 1 is also in the image, the claim follows. For groups G = Gr (q) not of type D2n , instead of appealing to the result of EllersGordeev, one may use that there exist pairs of strongly orthogonal maximal tori T1 , T2 in G by Proposition 3.3, and that wi (G) contains regular semisimple elements of Ti whenever d 6 d0 and q is large enough, again by Theorem 5.5. The claim then follows by Corollary 3.2. This leaves the case of (classical) groups of unbounded rank. Again, we want to exhibit regular semisimple elements in pairs of strongly or weakly orthogonal tori, but this time the argument must work for all fields Fq . We give the details in the easiest case: Proposition 5.8. — The claim of Theorem 5.1 holds for simple symplectic groups. Proof. — Let G = Sp2n (q). By the previous discussion we may assume that n is large. Let Ti (q), i = 1, 2, be representatives of the two classes of maximal tori of SL2 (q n ). Under the embedding of SL2 (q n ) into Sp2n (q) discussed in Section 2, T1 (q), T2 (q) are mapped onto a pair of strongly orthogonal tori of Sp2n (q). By Corollary 5.6, for n large enough, wi (SL2 (q n )) contains elements of Ti (q) which map to regular elements

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

342

in Sp2n (q). Thus G is covered by w1 (G)w2 (G) by Corollary 3.2, and passing to the quotient by the center we obtain the desired conclusion. A similar approach works for other families of classical groups, but here one cannot guarantee to find elements in strongly orthogonal tori. For example, in type SLn (q), one uses embeddings SLk (q l ) < SLkl (q) with k = 2, 3 to find regular elements in a pair of weakly orthogonal tori. It can be shown that exactly three non-trivial (unipotent) irreducible characters do not vanish on these elements, all of them of rather large degree. The non-vanishing of the relevant structure constant then follows by bounding the values of these characters. The argument for orthogonal groups is even more technically involved.

6. EXTENSIONS AND OPEN PROBLEMS We now discuss possible extensions of Ore’s conjecture and related open problems. As mentioned in the introduction, Blau [Bl94] proved that there is (only) a finite number of quasisimple (but not simple) finite groups that contain non-commutator central elements, and in a follow-up paper to their proof of Ore’s conjecture Liebeck-O’Brien-Shalev-Tiep [LOST2] determined all quasisimple groups containing non-commutators: Theorem 6.1 (Blau, Liebeck-O’Brien-Shalev-Tiep). — If G is a finite quasisimple group containing non-commutators, then G/Z(G) ∈ {PSL3 (4), PSU4 (3), PSU6 (2), 2E6 (2), A6 , A7 , M22 , F i22 }. For most quasisimple groups of classical Lie type, this had essentially already been contained in their first paper [LOST], so only the spin groups, the exceptional covering groups of classical groups and the exceptional groups of type E6 , 2E6 and E7 had to be considered. It turns out, though, that in all cases every element of a finite quasisimple group is a product of at most two commutators. Let us mention here that for more general groups, Nikolov and Segal [NS07] have shown the following: Theorem 6.2 (Nikolov-Segal). — There exists a function f such that for any group G generated by at most r elements, every element of its commutator subgroup [G, G] is a product of at most f (r) commutators. This was one of the key steps in their proof establishing that in a finitely generated profinite group, every subgroup of finite index is open. (The special case of finitely generated pro-p groups had long ago been shown by Serre.) The proof eventually relies on a result on twisted commutators in finite quasisimple groups, which in turn uses the classification of finite simple groups.

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

343

Closely related to Thompson’s conjecture is the concept of covering number. In a finite non-abelian simple group G, for any non-trivial conjugacy class C ⊂ G there exists some k = k(C) such that C k = G. The minimal exponent k which works for all non-trivial classes C is called the covering number cn(G) of G. The following upper bound on covering numbers for groups of Lie type has been obtained in [EGH99] (see also Lawther and Liebeck [LL98] for closely related results on the covering number with respect to C ∪ C −1 ): Theorem 6.3 (Ellers-Gordeev-Herzog). — There exists a constant d such that for any finite simple group of Lie type G of rank r we have cn(G) 6 dr. The expected best possible value for d is 4, but the estimates obtained in the above reference are weaker. The claim is first shown for classical groups, by embedding a type A subgroup of maximal possible rank and using that cn(PSLn (q)) = n for q, n > 4. For the finitely many exceptional types one can clearly assume that q is large enough, in which case Theorem 1.3 of Ellers-Gordeev can be used to deduce the result. The lecture notes of Arad and Herzog [AH85] list several further open questions on products of conjugacy classes in finite non-abelian simple groups. Let us mention one open problem, the Arad-Herzog conjecture, which claims that products of arbitrary conjugacy classes can never be too small: Conjecture 6.4 (Arad-Herzog). — Let G be a finite non-abelian simple group. Then the product of two non-trivial conjugacy classes of G is never a single conjugacy class. Note that the claim may fail for arbitrary groups: Let G be a Frobenius group of order pd with d|(p − 1). Then the product of any class of non-trivial elements of order dividing d with any class of elements of order p is a single conjugacy class. A more interesting example can be obtained in the extension of GL2n (q) by the transposeinverse automorphism, see [GMT13, Example 7.2]. So, as for the Ore conjecture, the property in question seems to be tied to simple groups. The Arad-Herzog conjecture is open in general, but has recently been shown to hold for various classes of simple groups (see [FA87, GMT13]): Theorem 6.5 (Fisman-Arad, Guralnick-Malle-Tiep). — Let G be an alternating group An , n > 5, a simple group PSLn (q) or a simple group of Lie type of rank less than 4. Then the Arad-Herzog Conjecture holds for G. The proofs rely on the following easy character theoretic observation, which again follows from the orthogonality relations (see [GMT13, Lem. 2.2]).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

344

Lemma 6.6. — Let G be a finite group, C, D ⊂ G two conjugacy classes of G. If CD is a single conjugacy class, then χ(x)χ(y) = χ(1)χ(xy) for all irreducible complex characters χ of G and x ∈ C, y ∈ D. For alternating groups and PSLn (q) this criterion can be applied with a single wellchosen character; for the groups of Lie type of small rank, one uses the knowledge of the complete character table (see [GMT13]). Again, the question becomes much simpler if we turn to the natural analogue for simple algebraic groups, see [GMT13, Thm. 1.1]: Theorem 6.7 (Guralnick-Malle-Tiep). — Let G be a simple algebraic group over an algebraically closed field and C, D non-central conjugacy classes of G. Then the product CD is never a single conjugacy class. In fact, the proofs show that except for a small number of well-understood situations where the product consists of two or three classes, CD is the union of infinitely many conjugacy classes. The above result has the following immediate consequence ([GMT13, Cor. 1.2]), whose analogue in the case of finite groups, formerly known as Szep’s conjecture, was proved by Fisman-Arad [FA87]: Corollary 6.8. — Let G be a simple algebraic group over an algebraically closed field. Let x, y ∈ G be non-central. Then CG (x)CG (y) 6= G. This investigation has recently been extended to almost simple algebraic groups in [GM13]; here, in disconnected groups there exist various pairs of conjugacy classes whose product is again a single class.

Acknowledgements. — I thank Michael Cuntz, Bob Guralnick, Radha Kessar, Michael Larsen, Martin Liebeck, Eamonn O’Brien, Aner Shalev and Pham Huu Tiep for valuable comments on a draft version.

REFERENCES [AH85]

Z. Arad & M. Herzog (eds.) – Products of conjugacy classes in groups, Lecture Notes in Math., vol. 1112, Springer-Verlag, Berlin, 1985.

[Ber72]

E. Bertram – “Even permutations as a product of two conjugate cycles”, J. Combinatorial Theory Ser. A 12 (1972), p. 368–380.

[Bl94]

H. I. Blau – “A fixed-point theorem for central elements in quasisimple groups”, Proc. Amer. Math. Soc. 122 (1994), no. 1, p. 79–84.

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

345

[Bo93]

¨ O. Bonten – Uber Kommutatoren in endlichen einfachen Gruppen, Aachener Beitr¨ age zur Math., vol. 7, Verlag der Augustinus-Buchhandlung, Aachen, 1993.

[Bor83]

A. Borel – “On free subgroups of semisimple groups”, Enseign. Math. (2) 29 (1983), no. 1-2, p. 151–164.

[Br83]

J. L. Brenner – “Covering theorems for finasigs. X. The group G = PSL(n, q) had a class C such that CC = G”, Ars Combin. 16 (1983), p. 57–67.

[Ca85]

R. W. Carter – Finite groups of Lie type, Pure Appl. Math. (New York), John Wiley & Sons Inc., New York, 1985.

[Hs65]

X. Cheng-hao – “The commutators of the alternating group”, Sci. Sinica 14 (1965), p. 339–342.

[EG94]

E. W. Ellers & N. Gordeev – “Gauss decomposition with prescribed semisimple part in classical Chevalley groups”, Comm. Algebra 22 (1994), no. 14, p. 5935–5950.

[EG95]

, “Gauss decomposition with prescribed semisimple part in Chevalley groups II. Exceptional cases”, Comm. Algebra 23 (1995), no. 8, p. 3085–3098.

[EG96]

, “Gauss decomposition with prescribed semisimple part in Chevalley groups. III. Finite twisted groups”, Comm. Algebra 24 (1996), no. 14, p. 4447–4475.

[EG98]

, “On the conjectures of J. Thompson and O. Ore”, Trans. Amer. Math. Soc. 350 (1998), no. 9, p. 3657–3671.

[EGH99]

E. W. Ellers, N. Gordeev & M. Herzog – “Covering numbers for Chevalley groups”, Israel J. Math. 111 (1999), p. 339–372.

[FA87]

E. Fisman & Z. Arad – “A proof of Szep’s conjecture on nonsimplicity of certain finite groups”, J. Algebra 108 (1987), no. 2, p. 340–354.

[Fi02]

W. B. Fite – “On metabelian groups”, Trans. Amer. Math. Soc. 3 (1902), no. 3, p. 331–353.

[FG12]

J. Fulman & R. Guralnick – “Bounds on the number and sizes of conjugacy classes in finite Chevalley groups with applications to derangements”, Trans. Amer. Math. Soc. 364 (2012), no. 6, p. 3023–3070. ´rardin – “Weil representations associated to finite fields”, J. AlgeP. Ge bra 46 (1977), no. 1, p. 54–101. ˆ – “A theorem on compact semi-simple groups”, J. Math. Soc. M. Goto Japan 1 (1949), p. 270–272.

[Ger77] [Go49] [Gow88]

R. Gow – “Commutators in the symplectic group”, Arch. Math. (Basel) 50 (1988), no. 3, p. 204–209.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

346

[Gow00]

R. Gow – “Commutators in finite simple groups of Lie type”, Bull. London Math. Soc. 32 (2000), no. 3, p. 311–315.

[Gu80]

R. Guralnick – “Expressing group elements as commutators”, Rocky Mountain J. Math. 10 (1980), no. 3, p. 651–654.

[Gu10]

, “Commutators and wreath products”, in Character theory of finite groups, Contemp. Math., vol. 524, Amer. Math. Soc., Providence, 2010, p. 79–82.

[GMST02] R. Guralnick, K. Magaard, J. Saxl & P. H. Tiep – “Cross characteristic representations of symplectic and unitary groups”, J. Algebra 257 (2002), no. 2, p. 291–347. [GM13]

R. Guralnick & G. Malle – “Products and commutators of classes in algebraic groups”, submitted, arXiv:1302.0182.

[GM12]

, “Products of conjugacy classes and fixed point spaces”, J. Amer. Math. Soc. 25 (2012), no. 1, p. 77–121.

[GMT13]

R. M. Guralnick, G. Malle & P. H. Tiep – “Products of conjugacy classes in finite and algebraic simple groups”, Adv. Math. 234 (2013), p. 618–652.

[GT13]

R. M. Guralnick & P. H. Tiep – “The Waring problem for finite quasisimple groups II”, preprint, arXiv:1302.0333.

[Is77]

I. M. Isaacs – “Commutators and the commutator subgroup”, Amer. Math. Monthly 84 (1977), no. 9, p. 720–722.

[Ito51]

N. Ito – “A theorem on the alternating group An (n ≧ 5)”, Math. Japonicae 2 (1951), p. 59–60.

[JLO13]

S. Jambor, M. W. Liebeck & E. A. O’Brien – “Some word maps that are non-surjective on infinitely many finite simple groups”, Bull. Lond. Math. Soc. 45 (2013), no. 5, p. 907–910.

[La04]

M. Larsen – “Word maps have large image”, Israel J. Math. 139 (2004), p. 149–156.

[LS09]

M. Larsen & A. Shalev – “Word maps and Waring type problems”, J. Amer. Math. Soc. 22 (2009), no. 2, p. 437–466.

[LST11]

M. Larsen, A. Shalev & P. H. Tiep – “The Waring problem for finite simple groups”, Ann. of Math. (2) 174 (2011), no. 3, p. 1885–1950.

[LL98]

R. Lawther & M. W. Liebeck – “On the diameter of a Cayley graph of a simple group of Lie type based on a conjugacy class”, J. Combin. Theory Ser. A 83 (1998), no. 1, p. 118–137.

[Lev94]

A. Lev – “Products of cyclic similarity classes in the groups GLn (F )”, Linear Algebra Appl. 202 (1994), p. 235–266.

´ ASTERISQUE 361

(1069)

THE PROOF OF ORE’S CONJECTURE

347

[LOST]

M. W. Liebeck, E. A. O’Brien, A. Shalev & P. H. Tiep – “The Ore conjecture”, J. Eur. Math. Soc. (JEMS) 12 (2010), no. 4, p. 939–1008.

[LOST2]

, “Commutators in finite quasisimple groups”, Bull. Lond. Math. Soc. 43 (2011), no. 6, p. 1079–1092.

[LOST3]

, “Products of squares in finite simple groups”, Proc. Amer. Math. Soc. 140 (2012), no. 1, p. 21–33.

[LS01]

M. W. Liebeck & A. Shalev – “Diameters of finite simple groups: sharp bounds and applications”, Ann. of Math. (2) 154 (2001), no. 2, p. 383–406.

[LM99]

F. L¨ ubeck & G. Malle – “(2, 3)-generation of exceptional groups”, J. London Math. Soc. (2) 59 (1999), no. 1, p. 109–122.

[Lu84]

G. Lusztig – Characters of reductive groups over a finite field, Ann. of Math. Stud., vol. 107, Princeton Univ. Press, Princeton, 1984.

[M88]

G. Malle – “Exceptional groups of Lie type as Galois groups”, J. reine angew. Math. 392 (1988), p. 70–109.

[MSW94] G. Malle, J. Saxl & T. Weigel – “Generation of classical groups”, Geom. Dedicata 49 (1994), no. 1, p. 85–116. [MZ96]

C. Martinez & E. Zelmanov – “Products of powers in finite simple groups”, Israel J. Math. 96 (1996), no. part B, p. 469–479.

[My77]

J. Mycielski – “Research Problems: Can One Solve Equations in Group?”, Amer. Math. Monthly 84 (1977), no. 9, p. 723–726.

[NPC84]

J. Neub¨ user, H. Pahlings & E. Cleuvers – “Each sporadic finasig G has a class C such that CC = G”, Abstr. Amer. Math. Soc. 34 (1984), no. 6.

[NP11]

N. Nikolov & L. Pyber – “Product decompositions of quasirandom groups and a Jordan type theorem”, J. Eur. Math. Soc. (JEMS) 13 (2011), no. 4, p. 1063–1077.

[NS07]

N. Nikolov & D. Segal – “On finitely generated profinite groups. I. Strong completeness and uniform bounds”, Ann. of Math. (2) 165 (2007), no. 1, p. 171–238.

[Ore]

O. Ore – “Some remarks on commutators”, Proc. Amer. Math. Soc. 2 (1951), p. 307–314.

[PW62]

S. Pasiencier & H.-c. Wang – “Commutators in a semi-simple Lie group”, Proc. Amer. Math. Soc. 13 (1962), p. 907–913.

[Ree64]

R. Ree – “Commutators in semi-simple algebraic groups”, Proc. Amer. Math. Soc. 15 (1964), p. 457–460.

[SW97]

J. Saxl & J. S. Wilson – “A note on powers in simple groups”, Math. Proc. Cambridge Philos. Soc. 122 (1997), no. 1, p. 91–94.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

G. MALLE

348

[Sh09]

A. Shalev – “Word maps, conjugacy classes, and a noncommutative Waring-type theorem”, Ann. of Math. (2) 170 (2009), no. 3, p. 1383– 1416.

[So86]

A. R. Sourour – “A factorization theorem for matrices”, Linear and Multilinear Algebra 19 (1986), no. 2, p. 141–147.

[Th61]

R. C. Thompson – “Commutators in the special and general linear groups”, Trans. Amer. Math. Soc. 101 (1961), p. 16–33.

[Th62]

, “On matrix commutators”, Portugal. Math. 21 (1962), p. 143–153.

[Th62a]

, “Commutators of matrices with coefficients from the field of two elements”, Duke Math. J. 29 (1962), p. 367–373.

[TZ96]

P. H. Tiep & A. E. Zalesskii – “Minimal characters of the finite classical groups”, Comm. Algebra 24 (1996), no. 6, p. 2093–2167.

Gunter MALLE TU Kaiserslautern Fachbereich Mathematik Postfach 3049 67653 Kaiserslautern Allemagne E-mail : [email protected]

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1070, p. 349 `a 372

Mars 2013

LE SPECTRE DISCRET DES GROUPES CLASSIQUES [d’apr` es J. Arthur] par Colette MOEGLIN

Il s’agit dans ce court expos´e de donner une id´ee de plusieurs milliers de pages ` la demande des de travaux de J. Arthur, ceci ne peut donc ˆetre que tr`es partiel. A organisateurs, le choix s’est port´e sur le cas particulier des groupes symplectiques et orthogonaux, qui sont ceux pour lesquels J. Arthur a obtenu les r´esultats les plus complets et on se limite, de plus, `a une description grossi`ere des r´esultats, ce qui n’en ´eclaire pas la profondeur. Sur ce sujet difficile, o` u l’oubli d’un seul mot rend le r´esultat faux, il existe toutefois des pr´esentations relativement abordables. J. Arthur lui-mˆeme a expliqu´e d`es les ann´ees 80, comment des compatibilit´es entre les conjectures existantes impliquent ses r´esultats [3], [4] et [5]. L’ensemble des articles ´ecrits par J. Arthur sont disponibles sur la page [10]. Et la r´ef´erence majeure pour l’expos´e ci-dessus est [9] o` u l’introduction fait, entre autres, un historique du sujet et le premier chapitre fait en cinquante pages un expos´e pr´ecis des r´esultats dont je vais parler ici. Les groupes consid´er´es ici sont la composante connexe du groupe d’automorphismes d’une forme bilin´eaire non d´eg´en´er´ee sym´etrique ou antisym´etrique sur un espace vectoriel de dimension finie sur un corps de nombres, c’est-`a-dire une extension de degr´e fini du corps Q. La question de d´epart est de connaˆıtre la d´ecomposition spectrale des quotients arithm´etiques de ce groupe. Le r´esultat g´en´eral est dˆ u `a Langlands [24] et ram`ene cette ´etude ` a celle des sous-repr´esentations irr´eductibles dans cet espace de fonctions ainsi qu’`a l’´etude analogue pour des sous-groupes assez particuliers. Il est plus facile d’expliquer la situation dans le cadre ad´elique, qui est une situation limite du cadre classique, limite sur les quotients arithm´etiques via les projections naturelles ; revenir du cadre ad´elique au cas des quotients arithm´etiques pose de difficiles probl`emes non r´eellement r´esolus. On note k le corps de nombres consid´er´e et A son anneau des ad`eles, c’est-`adire le produit restreint des compl´et´es de k pour toutes les valuations, p-adiques et archim´ediennes de k. Par exemple si k = Q, alors A est le sous-anneau du produit de R avec le produit des corps p-adiques Qp , o` u p parcourt l’ensemble des nombres

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

350

C. MOEGLIN

premiers, sous-anneau form´e des ´el´ements dont la composante en p est un entier padique pour tout nombre premier p sauf un nombre fini d’entre eux. On fixe un k-espace vectoriel de dimension finie, V , muni d’une forme orthogonale ou symplectique, non d´eg´en´er´ee. L’existence d’une forme symplectique n´ecessite ´evidemment que la dimension de V soit paire et il n’y a alors qu’une seule forme (` a conjugaison pr`es) ; on note G = Sp(2n) le groupe d’automorphismes de cette forme o` u 2n = dim V . Par contre, pour l’existence d’une forme orthogonale, il n’y a pas de restriction sur la dimension. Mais dans ce dernier cas il n’y a pas qu’une seule forme possible (` a conjugaison pr`es). Pour simplifier, ici nous ne consid´erons que les formes ayant un noyau anisotrope de dimension au plus 2, c’est-`a-dire : P u – si dim V =: 2n+1 est impaire, on consid`ere les formes ηx20 + i∈[1,n] xi x2n−i+1 o` η est un ´el´ement de k ∗ . Dans ce cas, on note SO(2n+1) le groupe des automorphismes de cette forme, de d´eterminant 1 ; ce groupe ne d´epend pas de η ; P – si dim V =: 2n est paire, on consid`ere les formes i∈[1,n−1] xi x2n−i+1 + x2n − ηx2n+1 , o` u η est un ´el´ement de k ∗ . Dans ce cas, le groupe d’automorphismes de la forme d´epend de η (ou plutˆ ot de sa classe modulo les carr´es de k ∗ ). On note k ′ l’extension de degr´e au plus 2 de k tel que η soit un carr´e dans cette extension. Et pour all´eger les notations, on note encore SO(2n) le groupe des automorphismes de la forme d´ecrite, de d´eterminant 1, oubliant k ′ . Et pour unifier les notations, on note G l’un des groupes qui viennent d’ˆetre d´ecrits, G(k) l’ensemble de ses points sur k (les matrices de d´eterminant 1 `a coefficients dans k et respectant la forme bilin´eaire) et G(A) l’ensemble des points ad´eliques de G, c’est`a-dire l’ensemble des matrices de d´eterminant 1, respectant la forme bilin´eaire fix´ee et `a coefficients dans A. Il faut voir G(A) comme un produit sur toutes les places v de k (tous les nombres premiers p, et la place ∞, si k = Q) des groupes G(kv ) o` u, sauf pour un ensemble fini de places, not´e g´en´eriquement S, incluant les places archim´ediennes, l’´el´ement en la place consid´er´ee est `a coefficients dans l’anneau des entiers de kv ; ´evidemment G(kv ) est le groupe des matrices de d´eterminant 1 respectant la forme consid´er´ee et dont les coefficients sont des ´el´ements de kv . Le groupe G(A) poss`ede une mesure de Haar qui donne une mesure sur le quotient G(k)\G(A) ; pour cette mesure, ce quotient est de volume fini. On consid`ere l’espace vectoriel des fonctions de carr´e int´egrable sur ce quotient. Le groupe G(A) y op`ere par translations ` a droite. Par d´efinition, le spectre discret de G est la somme des sousrepr´esentations irr´eductibles de cette repr´esentation (irr´eductible signifie qui se r´ealise dans un sous-espace ferm´e et qui ne se coupe pas en deux sous-repr´esentations dans des sous-espaces ferm´es propres). Le but est de d´ecrire ce spectre discret. En fait, il est sans espoir d’obtenir une description r´eellement explicite, mais Arthur r´eussit `a calculer (` a une l´eg`ere exception pr`es) la multiplicit´e de chaque repr´esentation irr´eductible dans cet espace et ` a d´ecrire ces repr´esentations en termes de repr´esentations cuspidales de groupes GL(m), le groupe des automorphismes lin´eaires de k m avec m 6 dim V + 1.

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

351

Une repr´esentation cuspidale, irr´eductible, de GL(m) est une sous-repr´esentation irr´eductible de GL(m, A) dans l’ensemble des fonctions sur GL(m, k)\GL(m, A), se transformant suivant un caract`ere central unitaire sous l’action du centre de GL(m, A) et engendr´e par des fonctions f nulles aux pointes, ce qui veut dire que pour tout entier ′ ′ m′ < m, donnant lieu ` a une d´ecomposition k m = k m ⊕ k m−m , en notant Um,m′ le R ′ ′ groupe des matrices Idkm +Homk (k m , k m−m ), l’int´egrale U ′ (k)\U ′ (A) d u f (ug) m,m m,m est nulle pour presque tout g ∈ GL(m, A) ; l’int´egrale est convergente car on int`egre sur un espace compact. Ces repr´esentations cuspidales des groupes GL(m) sont les briques ´el´ementaires de la th´eorie des formes automorphes d’apr`es la fonctorialit´e de Langlands. C’est ce programme de fonctorialit´e que J. Arthur r´ealise pour les groupes G d´ecrits pr´ec´edemment (en fait sans restriction sur la nature de la forme bilin´eaire orthogonale) et avec des m´ethodes suffisamment g´en´erales pour que d’autres groupes soient atteignables sans difficult´es suppl´ementaires. Et c’est ce que je vais essayer d’expliquer ci-dessous. Un des attraits du sujet est son interaction avec la th´eorie des nombres dont certains sujets ont aussi comme briques ´el´ementaires les repr´esentations cuspidales des groupes GL(m) ; il s’agit de les utiliser pour obtenir des renseignements sur les groupes de Galois et les repr´esentations de ces groupes, ce qui est une des motivations de la th´eorie de Langlands. Relativement r´ecemment, Harris a donn´e un expos´e `a peu pr`es exhaustif des r´esultats connus utilisables pour les applications arithm´etiques [15] et il y a expliqu´e ce que ces r´esultats permettaient actuellement de faire, par exemple, pour construire des syst`emes ℓ-adiques de repr´esentations galoisiennes. Je n’aborderai absolument pas ces questions ici.

´ 1. REPRESENTATIONS On garde les notations G, k, A de l’introduction. Soit S un ensemble fini de places de k contenant les places archim´ediennes et les valuations 2-adiques ; on note G(OS ) le sous-groupe de G(A) form´e des ´el´ements qui valent l’identit´e en toute place dans S et qui sont ` a coefficients dans l’anneau des entiers de kv pour toute place v non dans S ; c’est un groupe compact. Ce groupe intervient dans la d´efinition de G(A) puisque G(A) est l’union sur tous les choix de S des produits G(OS ) ×v∈S G(kv ), avec la structure de groupe ´evidente. Pour que les r´esultats qui sont d´ecrits ci-dessous incluent aussi le cas des valuations 2-adiques, il faudrait changer la forme orthogonale fix´ee pour d´efinir SO(2n), ce que nous ne ferons pas. Par contre on oublie l’espace des fonctions L2 (G(k)\G(A)), car on admet sans explication que l’on sait calculer la trace sur les repr´esentations irr´eductibles qui y apparaissent sans les r´ealiser dans cet espace, via la formule des traces.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

352

C. MOEGLIN

1.1. Composantes locales On va donc voir apparaˆıtre ci-dessous des repr´esentations irr´eductibles de G(A), not´ees g´en´eralement π, de fa¸con assez abstraite : si π est r´ealis´ee dans un espace W , W est un C-espace vectoriel de dimension en g´en´eral infinie (seuls les caract`eres de G(A) triviaux sur G(k) font exception). La repr´esentation de G(A) dans W est continue, donc elle est localement constante chaque fois qu’on la restreint `a un sous-groupe de la forme G(kv ) avec v une place non archim´edienne fix´ee. Pour w ∈ W − {0} fix´e, non nul, et pour une place v fix´ee, le sous-espace engendr´e par w sous G(kv ) d´efinit une repr´esentation de G(kv ) (j’oublie quelques subtilit´es aux places archim´ediennes) ; cette repr´esentation est une somme finie de repr´esentations irr´eductibles toutes isomorphes et on note πv la classe d’isomorphie de repr´esentations ainsi d´efinie. Celle-ci est ind´ependante du choix de w ∈ W − {0}. C’est la composante locale de π en la place v. En une place non archim´edienne v, se donner une repr´esentation irr´eductible continue de G(kv ) ou se donner une repr´esentation irr´eductible de l’alg`ebre (pour la convolution) des fonctions localement constantes `a support compact sur G(kv ) est ´equivalent ; on utilise ce deuxi`eme point de vue dans les paragraphes qui suivent. 1.2. Repr´ esentations non ramifi´ ees et alg` ebre de Hecke sph´ erique De plus, w ´etant toujours fix´e, il existe (par continuit´e) un ensemble fini S de places de k contenant les places archim´ediennes et les places o` u la caract´eristique r´esiduelle de kv est deux, tel que w soit fixe sous le groupe compact G(OS ). Ainsi si v est une place de k non dans S, la repr´esentation πv a des vecteurs fixes sous le compact G(Ov ) ; on suppose que k ′ d´efini dans l’introduction dans le cas des groupes orthogonaux pairs est, en la place v, une extension non ramifi´ee de k, alors : Proposition 1.1 ([12, section III]). — Soit πv une repr´esentation irr´eductible continue (dans un espace vectoriel complexe) de G(kv ). La dimension de l’espace des vecteurs fixes sous G(Ov ) dans la repr´esentation πv est au plus 1. Et si cette dimension est 1, l’alg`ebre des fonctions sur G(kv ) bi-invariantes par G(Ov ) op`ere sur cet espace par un caract`ere et ce caract`ere d´etermine uniquement la repr´esentation πv . On appelle alg`ebre de Hecke sph´erique l’alg`ebre des fonctions sur G(kv ) biinvariantes par G(Ov ). Et c’est parce que cette alg`ebre est commutative (voir le th´eor`eme 1.3 ci-dessous pour une description plus pr´ecise) que la proposition ci-dessus est vraie. Une repr´esentation irr´eductible de G(kv ) ayant des vecteurs invariants sous G(Ov ) est dite non ramifi´ee, ´etant entendu qu’il faut n´ecessairement que l’extension k ′ (quand elle a ´et´e introduite) de k soit elle-mˆeme non ramifi´ee.

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

353

1.3. Produit tensoriel restreint Soit π une repr´esentation irr´eductible et continue de G(A) ; pour toute place v, on a d´efini la composante locale πv de π. On a vu que pour presque tout v, la repr´esentation πv est non ramifi´ee. On d´efinit alors le produit tensoriel restreint ⊗′v πv , en prenant dans le produit tensoriel ordinaire les vecteurs pour lesquels il existe un ensemble fini de places, S, contenant les places archim´ediennes et les places o` u la caract´eristique r´esiduelle de kv est deux sous G(OS ). Proposition 1.2 ([14]). — La repr´esentation irr´eductible et continue π est isomorphe au produit tensoriel restreint de ses composantes locales πv . 1.4. Caract` eres de l’alg` ebre de Hecke sph´ erique On rappelle que l’on a introduit le groupe G de fa¸con concr`ete comme groupe d’automorphismes d’une forme bilin´eaire sur l’espace vectoriel V ; `a cette occasion on a introduit des coordonn´ees ; pour les groupes symplectiques on prend la forme symplecP tique standard h(xi ; i ∈ [1, 2n]), (yj ; j ∈ [1, 2n])i = i∈[1,n] (xi y2n−i+1 − x2n−i+1 yi ). Dans le cas o` u V n’est pas orthogonal et de dimension paire, les coordonn´ees sont les xi ∈ [1, 2n] (n = [dim V /2]) et ´eventuellement x0 si dim V = 2n + 1. On note alors T le sous-groupe de G isomorphe ` a k ∗n d´efini par ∀t = (ti ; i ∈ [1, n]) ∈ k ∗n , ∀v = (xi ; i ∈ [1, 2n], x0 ); t.v = (x0 , ti xi , t−1 i x2n−i+1 ; i ∈ [1, n]), o` u x0 n’intervient que si dim V = 2n + 1. Si V est un espace orthogonal de dimension paire, 2n, on a introduit l’extension k ′ de k ; si k ′ = k, on peut changer la forme P orthogonale en i∈[1,n] xi x2n−i+1 sans changer sa classe et la d´efinition de T est la mˆeme que dans les cas pr´ec´edents. Si k ′ est une extension de degr´e 2 de k, on v´erifie ais´ement que les formules pr´ec´edentes correctement adapt´ees montrent que G contient un sous-groupe isomorphe ` a k ∗(n−1) × k ′∗1 o` u k ′∗1 est le sous-groupe de k ′∗ form´e des ´el´ements de norme 1. Dans tous les cas, on note T ce groupe ; c’est un sous-tore de G, maximalement ` conjugaison pr`es, ce tore est ind´ependant des coordonn´ees choisies. d´eploy´e. A 0

Pour v une place de k, on note T (kv ) les points de T `a valeurs dans kv et on note Tv le compact maximal T (Ov ) de T (kv ).

Th´ eor` eme 1.3 (Isomorphisme de Satake [12, th. 4.1]). — Soit v une place de k et on suppose que si k ′ est d´efini, l’extension kv′ de kv est non ramifi´ee. On note aussi Wv := NormG(kv ) T (kv )/T (kv ), c’est le groupe de Weyl de G(kv ). L’alg`ebre de Hecke sph´erique de G(kv ) est naturellement isomorphe ` a l’alg`ebre des fonctions ` a support compact (c’est-` a-dire fini) sur T (kv )/0 Tv , invariantes sous Wv .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

354

Tout caract`ere continu de l’alg`ebre des fonctions localement constantes `a support compact sur T (kv )/0 Tv s’identifie naturellement `a un caract`ere non ramifi´e de T (kv ). On obtient donc le corollaire tr`es important suivant : Corollaire 1.4. — L’ensemble des orbites sous Wv des caract`eres non ramifi´es de T (kv ) est en bijection (naturelle) avec l’ensemble des classes d’isomorphie de repr´esentations irr´eductibles et non ramifi´ees de G(kv ).

´ DE LANGLANDS 2. FONCTORIALITE 2.1. Fonctorialit´ e pour les tores On garde la notation T du paragraphe pr´ec´edent. On se place en une place v de k ∗ et on fixe une clˆ oture alg´ebrique k v de kv . On pose X∗ (T ) := Hom(k v , T (kv )) ; c’est un Z-module libre (en fait isomorphe `a Zn ) muni d’une action du groupe de Galois ∗ de kv . On a T (kv ) ≃ X∗ (T ) ⊗Z k v . Le groupe de Galois de k v /kv op`ere sur T (kv ) et cette action est compatible avec l’action naturelle sur le membre de droite. Dans presque tous les cas, on a X∗ (T )Gal(kv /kv ) ≃ Hom(kv∗ , T (kv )) et T (kv ) ≃ X∗ (T )Gal(kv )/kv ⊗Z kv∗ . Le seul cas o` u ceci n’est pas vrai est le cas o` u V est un espace orthogonal de dimension paire et o` u kv′ est un corps extension de degr´e 2 de kv ; dans ce cas, on a : ′



T (k ′ v ) ≃ X∗ (T )Gal(kv )/kv ⊗Z kv∗ et le groupe de Galois de kv′ /kv op`ere naturellement sur chaque terme ´ecrit, de fa¸con ′ compatible ; remarquons que si dim V est de dimension 2, X∗ (T )Gal(kv )/kv est isomorphe ` a Z, notons µ un g´en´erateur et l’action de Gal(kv′ /kv ) sur ce Z-module est ′ l’inversion ; T (kv ) s’identifie donc aux ´el´ements x ∈ kv∗ tels que µ ⊗ x soit invariant sous Gal(kv′ /kv ), c’est-` a-dire µ ⊗ x = µ−1 ⊗ x ou encore xx = 1 ce qui est bien la description de T (kv ) dans ce cas. Le cas g´en´eral se d´eduit trivialement de ce cas-l`a. On d´efinit X ∗ (T ) le groupe des caract`eres rationnels du groupe alg´ebrique T ; ∗ X (T )(kv ) est naturellement le groupe des caract`eres rationnels de T (kv ) sauf si kv′ est un corps extension de degr´e deux de kv (comme ci-dessus). Dans ce cas X ∗ (T )(kv′ ) s’identifie au groupe des caract`eres rationnels de T (kv′ ) et est muni d’une action de Gal(kv′ /kv ). On pose pour unifier les notations kv′ = kv sauf dans le cas particulier o` u kv′ est d´ej` a d´efini comme extension de degr´e 2 de kv et on d´efinit L L

T := (X ∗ (T )(kv′ ) ⊗Z C∗ ) ⋊ Gal(kv′ /kv );

T est le produit semi-direct d’un tore complexe avec le groupe de Galois de kv′ /kv .

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

355

On note Wkv le groupe de Weil de kv ; pour la suite, on a besoin de savoir que, pour toute extension alg´ebrique galoisienne finie E de kv , le groupe de Weil de E est un sous-groupe distingu´e de Wkv et on a la suite exacte : 1 → WE → Wkv → Gal(E/kv ) → 1. En particulier Gal(kv′ /kv ) ≃ Wkv /Wkv′ . De plus, on suppose ` a partir de maintenant que v est une place non archim´edienne ; alors Wkv est muni d’une topologie telle que les sous-groupes d’inertie des groupes WE pour E une extension galoisienne finie de kv sont une base de voisinages ouverts et ferm´es de l’´el´ement neutre de Wkv . Proposition 2.1. — Soit v une place non archim´edienne. Le groupe des caract`eres continus de T (kv ) dans C∗ est isomorphe ( via la th´eorie du corps de classes) au groupe des homomorphismes continus, φ, de Wkv dans le produit semi-direct de X ∗ (T ) ⊗Z C∗ par Wkv rendant commutatif le diagramme : (X ∗ (T ) ⊗Z C∗ ) ⋊ Wkv

φ : Wkv

Wkv La proposition repose sur l’isomorphisme du corps de classes, c’est-`a-dire l’existence d’une suite exacte : (1)



1 → Wkcv′ → Wkv′ → kv∗ → 1,

o` u Wkcv′ est l’intersection des noyaux des caract`eres continus `a valeurs de Wkv′ dans C∗ . On en d´eduit (l’indice ct signifie continu) ′

Homct (T (kv′ ), C∗ ) ≃ Homct (X∗ (T )(kv′ ) ⊗Z kv∗ ), C∗ ) ≃ X ∗ (T )(kv′ ) ⊗Z Hom(kv∗ , C∗ ) ≃ X ∗ (T )(kv′ ) ⊗Z Homct (Wkv′ , C∗ ) ≃ Homct (Wkv′ , X ∗ (T )(kv′ ) ⊗Z C∗ ). Cela montre la proposition dans le cas o` u kv′ = kv . Dans le cas o` u kv′ 6= kv , on renvoie `a [11] paragraphe 9 qui provient de [23] theorem 1 ; plus de d´etails se trouvent dans [21] page 126 et suivantes. Dans notre cas, on peut le faire `a la main ; on se ram`ene au cas o` u dim V = 2 et on cherche la classification des caract`eres continus du groupe des ´el´ements de norme 1 dans kv′ . Via le th´eor`eme de Hilbert, tout ´el´ement de norme 1 dans kv′ est un quo′ ′ tient x/x avec x ∈ kv∗ et on cherche donc `a classifier les caract`eres continus de kv∗ ′ dont la restriction ` a kv∗ est le caract`ere trivial. On fixe ω un caract`ere continu de kv∗ que l’on identifie, via la th´eorie du corps de classes `a un homomorphisme de Wkv′ dans C∗ . On prolonge arbitrairement cet homomorphisme en une application de Wkv ˜ ), o` u dans C∗ × Gal(kv′ /kv ) en fixant t ∈ C∗ , σ ∈ Wkv −Wkv′ et en posant : ω(σ) = (t, σ σ ˜ est l’image de σ dans Gal(kv′ /kv ). Cette application est un homomorphisme de Wkv

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

356

dans le produit semi-direct C∗ ⋊ Gal(kv′ /kv ) si et seulement si les deux conditions suivantes sont satisfaites : ω(σ 2 ) = ω(σ)2 = (t, σ ˜ )(t, σ ˜ ) = (t t−1 , σ ˜ 2 ) = 1; ∀w ∈ Wkv′ , ω(σwσ −1 ) = ω(σ)ω(w)ω(σ)−1 = (ω(w)−1 , 1), ′

c’est-` a-dire ω(σwσ −1 w) = 1. Or l’image de σ 2 dans kv∗ via (1) est un ´el´ement de kv∗ qui n’est pas une norme alors que l’ensemble des ´el´ements σwσ −1 w quand w varie, ′ s’envoient via (1) sur l’ensemble des normes de kv∗ dans kv∗ . Ainsi les deux conditions ´ecrites sont exactement ´equivalentes `a ce que la restriction de ω `a kv∗ est triviale. ´ Evidemment a conjugaison pr`es, le choix du prolongement ne d´epend pas du choix de ` t ∈ C∗ puisque (t, σ ˜ ) = (t′ , 1)(1, σ ˜ )(t′ −1, 1) si t′2 = t. 2.2. Classification fonctorielle des repr´ esentations non ramifi´ ees On continue avec les notations pr´ec´edentes et on suppose que l’extension kv′ de kv (quand elle existe) est non ramifi´ee. On a d´ej` a introduit le groupe de Weyl, W ∗ de G(kv ). Il op`ere naturellement sur X (T ) en commutant `a l’action du groupe de Galois Gal(kv′ /kv ). On a donc une action de W sur L T . Corollaire 2.2. — L’ensemble des classes d’isomorphie de repr´esentations non ramifi´ees de G(kv ) est en bijection avec l’ensemble des classes d’isomorphie de a conjugaison pr`es sous l’action de W et morphismes continus de Wkv dans L T pris ` triviaux sur le groupe d’inertie de Wkv . Ce corollaire r´esulte de 1.4 et de 2.1. Remarquons que de 2.1, on n’a `a utiliser que la partie facile qui r´esulte directement de la th´eorie du corps de classes. On esp`ere que c’est clair quand T (kv ) est isomorphe `a un produit de copies de kv∗ ce qui se produit pour les groupes Sp(2n, kv ) et SO(2n + 1, kv ) et aussi pour les groupes SO(2n, k) quand avec les notations qui pr´ec`edent 1.3, soit k ′ = k soit le compl´et´e en v de k ′ n’est pas un corps. Si le compl´et´e de k ′ en la place v est un corps, T (kv ) est isomorphe ′ (le sous-groupe des ´el´ements de norme un de au produit de n − 1 copies de kv∗ avec k1v ′ ′ l’extension kv de kv ). Mais k1v est un groupe compact et tout caract`ere non ramifi´e de T (kv ) est, avec les hypoth`eses faites, trivial sur ce sous-groupe. On est alors ramen´e `a un produit de n − 1-copies de kv∗ . 2.3. L-groupes On fixe encore une place v ; on va d´ecrire ci-dessous explicitement le L-groupe de G(kv ) vu comme groupe alg´ebrique d´efini sur kv . Les constructions ne d´ependent de la place v que via l’extension ´eventuelle kv′ de kv . On pose    Sp(2n, C) si V est un espace orthogonal de dimension 2n + 1 ; ∗ G := SO(2n + 1, C) si V est un espace symplectique de dimension 2n + 1 ;   SO(2n, C) si V est un espace orthogonal de dimension 2n. ´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

357

La propri´et´e fondamentale est que X ∗ (T )(kv′ ) ⊗Z C∗ est un tore maximal de G∗ et que le groupe de Weyl de ce tore maximal s’identifie canoniquement au groupe de Weyl de u Gal(kv′ /kv ) agit trivialement sur G∗ sauf G(k v ). On pose L G := G∗ ⋊ Gal(kv′ /kv ) o` ′ dans le dernier cas quand kv est un corps extension de degr´e 2 de kv , o` u un ´el´ement non trivial de Gal(kv′ /kv ) agit par l’automorphisme ext´erieur de SO(2n, C) provenant d’un ´el´ement de O(2n, C). On v´erifie ais´ement que l’on peut prolonger l’inclusion de X ∗ (T )(kv′ ) ⊗Z C∗ dans G∗ en une inclusion de L T dans L G. J. Adams en [1] a remarqu´e qu’il est pr´ef´erable de remplacer le produit semidirect SO(2n, C) ⋊ Gal(kv′ /kv ) par O(2n, C) en consid´erant l’inclusion du produit semi-direct dans O(2n, C) en envoyant l’´el´ement non trivial de Gal(kv′ /kv ) sur l’´el´ement de O(2n, C) d´efini plus haut. Plutˆot que de regarder des morphismes de Wkv dans SO(2n, C) ⋊ Gal(kv′ /kv ) rendant commutatif le triangle analogue `a celui de 2.1 il est ´equivalent de regarder les morphismes de Wkv dans O(2n, C) dont le d´eterminant donne un caract`ere de Wkv qui, via le corps de classes, est le caract`ere de kv∗ correspondant ` a l’extension kv′ /kv . Ainsi L G est dans tous les cas un groupe classique complexe. On peut alors retraduire le corollaire pr´ec´edent de la fa¸con suivante, en supposant toujours que l’extension kv′ /kv est non ramifi´ee et que v n’est pas une valuation 2-adique : Corollaire 2.3. — L’ensemble des classes d’isomorphie de repr´esentations non ramifi´ees de G(kv ) est en bijection avec l’ensemble des classes de conjugaison de a valeurs dans l’ensemble des ´el´ements morphismes continus de Wkv dans L G ` semi-simples (matrices diagonalisables) dont le d´eterminant est le caract`ere de l’extension kv′ de kv . 2.4. Repr´ esentations de L-groupes La fonctorialit´e de Langlands trait´ee par Arthur correspond `a la repr´esentation naturelle de L G : Sp(2n, C) → GL(2n, C), SO(2n + 1, C) → GL(2n + 1, C) et O(2n, C) → GL(2n, C). Pour unifier les notations, on pose n∗G := 2n, 2n+1, 2n suivant les trois cas pr´ec´edents. On g´en´eralise les constructions ci-dessus de fa¸con `a param´etrer les classes d’isomorphie de repr´esentations non ramifi´ees de GL(m, kv ) (pour m ∈ N) ` a l’aide des classes de conjugaison de morphismes de Wkv dans GL(m, C) `a valeurs dans l’ensemble des ´el´ements semi-simples (matrices diagonalisables). D´ efinition 2.4. — La fonctorialit´e pour les repr´esentations non ramifi´ees est alors la correspondance entre une classe d’isomorphie de repr´esentations non ramifi´ees de G(kv ) et la classe d’isomorphie de repr´esentations non ramifi´ees de GL(n∗G , kv ) dont le param`etre est l’image du param`etre de la repr´esentation de G(kv ) par l’inclusion naturelle.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

358

` ´ 3. PREMIERE DECOMPOSITION DU SPECTRE DISCRET DES GROUPES CLASSIQUES 3.1. Rappel sur les groupes lin´ eaires Ici les groupes consid´er´es sont les groupes d’automorphismes lin´eaires d’un espace vectoriel de dimension finie, V = k m avec m ∈ N, et le groupe est not´e GL(m, k). Dans l’introduction, on a d´efini rapidement les repr´esentations cuspidales irr´eductibles et unitaires d’un tel groupe. C’est la brique de d´epart ; `a partir de l`a, on peut construire des s´eries d’Eisenstein. On a besoin des deux r´esultats suivants : on suppose que m s’´ecrit sous la forme da o` u d, a ∈ N. On fixe une repr´esentation cuspidale irr´eductible unitaire de GL(d, A). On note M le groupe alg´ebrique des matrices diagonales par bloc de taille d × d (il y a a copies de tels blocs) et U le groupe des matrices unipotentes sup´erieures par blocs pour ces mˆemes blocs. On fixe une repr´esentation cuspidale unitaire ρ de GL(d, A) et on r´ealise ρ ⊗ · · · ⊗ ρ dans l’ensemble des fonctions cuspidales sur M (k)\M (A) (cela se fait de fa¸con unique). On note Vρ cet espace de fonctions ; pour (si ; i ∈ [1, a]) ∈ Ca , on consid`ere Vρ,(si ;i∈[1,a]) comme l’espace Vρ tordu par le caract`ere de M (A) qui vaut en (mi ; i ∈ [1, a]) (dans Q u la valeur absolue est le produit la d´ecomposition en blocs) i∈[1,a] |det mi |si , o` de toutes les valeurs absolues des corps locaux, y compris en les places archim´ediennes. On consid`ere alors les fonctions φ(g, m, (si ; i ∈ [1, a])) sur GL(m, A) × (M (k)\M (A)) d´ependant holomorphiquement (dans un sens convenable des (si ; i ∈ [1, a])) v´erifiant : pour tout g ∈ GL(m, A) fix´e la fonction de m ∈ M (A), φ(g, m, (si ; i ∈ [1, a])) est ` a valeurs dans Vρ,(si ;i∈[1,a]) et ∀g ∈ GL(m, A), ∀u ∈ U (A), ∀m, m′ ∈ M (A), φ(um′ g, m, (si ; i ∈ [1, a])) = δ(m′ )1/2 φ(g, mm′ , (si ; i ∈ [1, a])), o` u δ(m′ ) est une fonction module que je ne d´efinis pas. On demande aussi que φ ait de bonnes propri´et´es en tant que fonction de g ; je ne les d´etaille pas. Avec ces fonctions on peut construire des s´eries d’Eisenstein : on somme sur γ ∈ M (k)U (k)\GL(m, k) la fonction φ(γg, 1, (si ; i ∈ [1, a])). La somme ne converge que pour certaines valeurs de (si ; i ∈ [1, a]) mais a un prolongement m´eromorphe pour toute valeur du param`etre. On note E(φ, (si ; i ∈ [1, a]))(g) la famille m´eromorphe de fonctions sur G(k)\G(A) obtenue et on a : Th´ eor` eme 3.1. — La famille des fonctions Y (si − si+1 − 1)E(φ, (si ; i ∈ [1, a]))(g) i∈[1,a[

d´epend holomorphiquement des param`etres (si ; i ∈ [1, a]) en tout point v´erifiant si = si+1 + 1 pour i ∈ [1, a[. En calculant la valeur en le point si = (n − i + 1)/2, on obtient une fonction (nulle pour certains choix de φ mais pas pour tous) de carr´e

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

359

int´egrable modulo le centre. Le groupe GL(m, A) agit par translation ` a droite dans l’espace de fonctions ainsi obtenues quand φ varie et la repr´esentation d´efinie est irr´eductible. Toute repr´esentation irr´eductible de GL(m, A) dans l’espace des fonctions de carr´e int´egrable modulo le centre sur GL(m, k)\GL(m, A) est n´ecessairement l’une des repr´esentations ainsi construites quand a, d sont tels que m = ad et ρ varient, chaque repr´esentation intervenant avec multiplicit´e exactement un. La premi`ere partie du th´eor`eme est due `a [37], compl´et´ee en [18] ; la deuxi`eme partie est conjectur´ee en [18] et d´emontr´ee en [29]. On a encore besoin d’un autre r´esultat de la th´eorie des s´eries d’Eisenstein ; on refait les constructions ci-dessus mais en consid´erant pour M un groupe diagonal par blocs de tailles ´eventuellement in´egales, M ≃ GL(m1 ) × · · · × GL(mt ) pour t ∈ N et m = m1 + · · · + mt et, pour chaque bloc index´e par i ∈ [1, t], on remplace la repr´esentation ρ par une repr´esentation, σi , de GL(mi , k)\GL(mi , A) irr´eductible, unitaire et de carr´e int´egrable modulo le centre. On peut encore construire les s´eries d’Eisenstein E(φ, (si ; i ∈ [1, t]))(g). Th´ eor` eme 3.2. — Les s´eries d’Eisenstein obtenues ` a partir de repr´esentations de carr´e int´egrable modulo le centre sont holomorphes en le point si = 0 pour tout i ∈ [1, t]. Et elles d´efinissent une repr´esentation irr´eductible de GL(m, A). La premi`ere partie du th´eor`eme est due `a Langlands ([24], [30]) ; elle dit que les s´eries d’Eisenstein sont holomorphes sur l’axe unitaire, ce qui est une propri´et´e g´en´erale des groupes r´eductifs. La deuxi`eme partie est propre `a GL(m) et d´ecoule des r´esultats d’irr´eductibilit´e de [43] et [39] dans le cas non archim´edien et [37], [40] pour le cas archim´edien. On utilise la terminologie suivante : les repr´esentations ainsi construites sont les induites de repr´esentations de carr´e int´egrable (d’un sous-groupe de Levi). Chaque σi pour i ∈ [1, t] s’obtient avec le th´eor`eme pr´ec´edent `a l’aide d’un couple (ρi , ai ) o` u mi /ai =: di ∈ N et ρi est une repr´esentation cuspidale unitaire irr´eductible de GL(di , A). On utilisera ces notations dans la suite. 3.2. D´ ecomposition suivant l’action des alg` ebres de Hecke sph´ eriques, fonctorialit´ e sph´ erique On reste dans la situation globale et on revient au groupe G. Soit π une sousrepr´esentation irr´eductible de L2 (G(k)\G(A)). On a vu qu’il existe un ensemble fini de places S de k (contenant les places archim´ediennes) tel que pour toute place v non dans S, la composante locale πv est non ramifi´ee. Par la correspondance non ramifi´ee d´ecrite en 2.4, on lui associe une repr´esentation non ramifi´ee, πvGL , de GL(n∗G , kv ). Th´ eor` eme 3.3 ([9], 3.4.3). — Il existe une unique repr´esentation irr´eductible, π GL , de GL(n∗G , A) induite de repr´esentations de carr´e int´egrable telle que pour toute place v de k, hormis un nombre fini, πvGL soit la composante locale de π GL en la place v.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

360

C. MOEGLIN

En fait πvGL est la repr´esentation d´ecrite avant l’´enonc´e pour toute place v telle que πv est non ramifi´ee et pas seulement hormis un nombre fini de places. L’unicit´e du th´eor`eme et ce compl´ement viennent des th´eor`emes de multiplicit´e 1 fort pour les groupes GL(m) qui r´esultent ind´ependamment de Piatetski-Shapiro et Shalika, pour les repr´esentations cuspidales, et de Jacquet, Piatetski-Shapiro, Shalika pour le cas consid´er´e ici (cf. [20], [19]). Ce th´eor`eme 3.3 apparaˆıt comme un th´eor`eme facile dans [9] mais il n´ecessite des milliers de pages ´ecrites dans des articles s´epar´es, en particulier [6], [7] et [8]. 3.3. Image de la fonctorialit´ e sph´ erique Dans un futur lointain, les repr´esentations cuspidales des groupes GL(m, A) seront classifi´ees par les repr´esentations complexes (irr´eductibles) de dimension m d’un groupe tannakien. Avec cela en tˆete, Arthur a remarqu´e [5], [4] que les repr´esentations de carr´e int´egrable de GL(m, A) seraient classifi´ees par les repr´esentations complexes irr´eductibles de dimension m du produit du groupe tannakien par SL(2, C) ; la repr´esentation de SL(2, C) est, elle, d´ej` a bien concr`ete, avec les notations m = da de 3.1, c’est la repr´esentation irr´eductible de dimension a de SL(2, C) ; `a isomorphisme pr`es, il n’y en a qu’une. On oublie le groupe tannakien, on garde la repr´esentation cuspidale irr´eductible (not´ee ρ en 3.1) et la repr´esentation de SL(2, C) de dimension a. On a ainsi classifi´e les repr´esentations de carr´e int´egrable et plus g´en´eralement les repr´esentations irr´eductibles de GL(m, A) induites de carr´e int´egrable `a l’aide d’un ensemble de couples, (ρi , ai ; i ∈ [1, t]), form´es d’une repr´esentation cuspidale unitaire d’un groupe GL(di , A) et de la dimension ai d’une repr´esentation irr´eductible P de SL(2, C) satisfaisant ` a i∈[1,t] di ai = m (cf. la fin de 3.1). Conform´ement ` a la philosophie de Langlands, les repr´esentations induites de carr´e int´egrable de GL(n∗G , A) qui sont dans l’image de la fonctorialit´e sph´erique doivent exactement ˆetre celles dont le param`etre se factorise par le L-groupe de G. Et c’est ce qu’Arthur d´emontre en utilisant les fonctions L pour savoir si une repr´esentation cuspidale de GL(d, A) a un param`etre tannakien conjectural symplectique ou orthogonal. Pour le th´eor`eme ci-dessous on note ρ∗ la contragr´ediente de la repr´esentation ρ. Pour la commodit´e du lecteur, on rappelle qu’une repr´esentation irr´eductible de SL(2, C) de dimension a se factorise (` a conjugaison pr`es) par SO(a, C) exactement si a est impair et se factorise (` a conjugaison pr`es) par Sp(a, C) exactement si a est pair. Th´ eor` eme 3.4. — Les repr´esentations π GL qui sont dans l’image d’une repr´esentation de carr´e int´egrable de G(A) par la fonctorialit´e sph´erique sont exactement les repr´esentations de GL(n∗G , A) induites de repr´esentations de carr´e int´egrable associ´ees aux ensembles (ρi , ai ; i ∈ [1, t]) satisfaisant uniquement aux conditions suivantes : P (1) i∈[1,t] di ai = n∗G , (2) ∀i ∈ [1, t], ρi ≃ ρ∗i , ∀i 6= j ∈ [1, t], (ρi , ai ) 6= (ρj , aj ),

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

361

(3) si L G est un groupe orthogonal, pour tout i ∈ [1, t] si ai est impair, L(ρi , Sym2 , s) a un pˆ ole en s = 1 et si ai est pair, L(ρi , ∧2 , s) a un pˆ ole en s = 1; (4) si L G est un groupe symplectique, alors pour tout i ∈ [1, t] si ai est impair, L(ρi , ∧2 , s) a un pˆ ole en s = 1 et si ai est pair, L(ρi , Sym2 , s) a un pˆ ole en s = 1 ; (5) de plus, si G est le groupe symplectique, le caract`ere central de π GL est trivial et, si G est un groupe orthogonal pair, alors le caract`ere central de π GL est le caract`ere quadratique qui, via la th´eorie du corps de classes, s’identifie au caract`ere de A∗ /k ∗ trivial sur les normes de Ak′ . Ce th´eor`eme est tr`es difficile et il n’est d´emontr´e que tout `a la fin de [9]. On peut remarquer que pour une repr´esentation cuspidale ρ de GL(m, A) isomorphe `a sa contragr´ediente, on sait grˆ ace `a [20] et [35] que L(ρ, Sym2 , s)L(ρ, ∧2 , s) a un pˆ ole d’ordre 1 en s = 1 et qu’aucun des deux facteurs n’est nul en ce point ; ainsi une des deux fonctions L et une seule a un pˆ ole en s = 1. Avec l’´equation fonctionnelle, connue grˆ ace ` a [35], on peut remplacer s = 1 par s = 0 dans l’´enonc´e. L’avantage de consid´erer s = 1 est que la fonction L partielle, c’est-`a-dire celle o` u l’on ne prend que le produit des facteurs L aux places non ramifi´ees, a un pˆ ole en s = 1 si et seulement si la fonction L en a un ; il suffit donc de connaˆıtre la situation aux places non ramifi´ees pour utiliser le th´eor`eme.

4. DESCRIPTION DES FIBRES DE LA CORRESPONDANCE ´ SPHERIQUE 4.1. Le th´ eor` eme de base pour les classifications locales dans le cas non archim´ edien Le th´eor`eme de base pour toute classification locale est dˆ u `a Harris et Taylor, [16] (avec une preuve diff´erente due `a Henniart [17]) : ici v est une place non archim´edienne de k et on appelle repr´esentation cuspidale une repr´esentation irr´eductible dont les coefficients matriciels sont `a support compact (modulo le centre). On appelle repr´esentation temp´er´ee toute repr´esentation dont les coefficients matriciels sont des fonctions temp´er´ees, c’est-` a-dire des fonctions v´erifiant une certaine condition de croissance lente. Th´ eor` eme 4.1. — Il existe une bijection uniquement d´etermin´ee quand on lui impose d’ˆetre compatible aux fonctions L et facteurs ǫ de paires, entre les classes d’isomorphie de repr´esentations cuspidales de GL(n, kv ) et les classes de conjugaison de repr´esentations irr´eductibles complexes de dimension n de Wkv .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

362

C. MOEGLIN

On note Wk′ v := Wkv × SL(2, C) ; c’est le groupe de Weil-Deligne ; le SL(2, C) qui est ici n’a rien ` a voir avec le SL(2, C) de la section pr´ec´edente. Grˆace `a la description des repr´esentations temp´er´ees (cf. [43]), on obtient Corollaire 4.2. — Il existe une bijection (uniquement d´efinie mais on ne pr´ecise pas les conditions) entre l’ensemble des classes d’isomorphie de repr´esentations temp´er´ees de GL(m, kv ) et l’ensemble des classes de conjugaison d’homomorphismes born´es de Wk′ v dans GL(m, C). Cela permet d’obtenir une classification de Langlands de toutes les repr´esentations lisses irr´eductibles de GL(n, kv ) en utilisant les repr´esentations de dimension n du groupe de Weil-Deligne, Wk′ v . 4.2. Classification locale des repr´ esentations temp´ er´ ees On fixe une place v de k. On n’´enonce le th´eor`eme que pour les places non archim´ediennes o` u il est ` a nouveau dˆ u `a [9]. Th´ eor` eme 4.3. — On suppose que v est une place non archim´edienne. Il existe une bijection entre les classes d’isomorphie de repr´esentations temp´er´ees de G(kv ) et les couples form´es d’une classe de conjugaison de morphismes de Wk′ v dans L G d’image born´ee et d’un caract`ere du groupe des composantes du centralisateur de ce morphisme dans G∗ , dont la restriction au centre de G∗ est trivial. Cette bijection est uniquement d´etermin´ee en lui imposant de satisfaire aux diverses fonctorialit´es, les fonctorialit´es endoscopiques et la fonctorialit´e vers GL(n∗G , kv ). Les morphismes consid´er´es ont une restriction `a SL(2, C) qui est un morphisme alg´ebrique et on dit qu’ils sont born´es quand leur restriction `a Wkv est born´ee au sens usuel. L’´enonc´e est ´evidemment bien trop impr´ecis dans sa deuxi`eme partie et la construction n’est pas canonique pour les groupes SO(2n, kv ) ; disons que les fonctorialit´es endoscopiques viennent par exemple si G(kv ) = Sp(2n, kv ) de tous les groupes produits Sp(2n′ , kv ) × SO(2n′′ , kv ) (les deux formes de groupes de SO(2n′′ , kv ) vues ici) tels que n = n′ + n′′ ; le groupe dual d’un tel produit est SO(2n′ + 1, C) × O(2n′′ , C) ` toute fonctorialit´e qui s’envoie naturellement dans SO(2n + 1, C) (cf. [42, 1.8]). A est associ´ee une ´egalit´e de traces, pour des sommes convenables de repr´esentations, qu’il est impossible d’´ecrire simplement. Cela donne suffisamment d’´equations pour d´eterminer les traces de toutes repr´esentations temp´er´ees, avec une petite difficult´e pour les groupes SO(2n, kv ) o` u il est difficile, et en fait sans doute non canonique, de s´eparer une repr´esentation de son image par l’automorphisme ext´erieur ; il faut ajouter un choix suppl´ementaire (cf. [9, 8.4]). Cette classification s’´etend de fa¸con quasi imm´ediate `a des repr´esentations un peu plus g´en´erales qui sont celles qui par la fonctorialit´e vers GL(n∗G , kv ) sont presque temp´er´ees au sens que la d´ecroissance des exposants est inf´erieure strictement `a 1/2

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

363

(en un sens convenable) ; ceci ne sert que pour pallier le fait que l’on ne connaˆıt pas la conjecture de Ramanujan pour les repr´esentations cuspidales unitaires de GL(m, A) et pour avoir quand mˆeme le corollaire qui suit. On rappelle que, pour les places archim´ediennes, la classification de Langlands est connue depuis bien plus longtemps ([25]) ; le groupe Wk′ v est simplement Wkv , c’est`a-dire C∗ si kv = C et une extension non triviale de C∗ par Gal(C/R) si kv = R. Le th´eor`eme ´enonc´e ci-dessus est alors essentiellement vrai en une telle place, sauf que dans cette formulation un peu simpliste, il n’y a pas de surjectivit´e, mais c’est un probl`eme bien compris. Corollaire 4.4. — On revient ` a la situation globale ; soit π une repr´esentation de carr´e int´egrable irr´eductible de G(A) et on suppose que la repr´esentation π GL , qui lui est associ´ee par la fonctorialit´e sph´erique, a un param`etre (ρi , ai ; i ∈ [1, t]) tel que ai = 1 pour tout i. Alors en toute place v, πvGL a pour param`etre local l’image du param`etre de πv par l’inclusion naturelle de L G dans GL(n∗G , C). Pour les places non archim´ediennes, c’est essentiellement dans les d´efinitions et ´ pour les places archim´ediennes, c’est un travail r´ecent de Mezo ([26]). Evidemment le caract`ere du groupe des composantes du centralisateur disparaˆıt pour GL(n) et il y a donc, d´ej` a dans ce cas, une infinit´e de repr´esentations de G(A) qui ont mˆeme image dans la fonctorialit´e vers GL(n, A) (au moins en g´en´eral). On peut dire que dans ce cas, la correspondance globale est compatible aux correspondances locales. D`es que l’un des ai > 1, cela devient faux, d’o` u la n´ecessit´e d’introduire une autre param´etrisation des repr´esentations en paquets, malheureusement non disjoints en g´en´eral, et qui eux se correspondront correctement. 4.3. Paquets d’Arthur, param` etres On revient ` a la situation de GL(m, A) ; soit π une repr´esentation irr´eductible de carr´e int´egrable de GL(m, A). On lui a associ´e, en 3.1, une d´ecomposition m = da et une repr´esentation cuspidale unitaire irr´eductible de GL(d, A). En toute place v, on consid`ere le param`etre de Langlands de ρv , c’est-`a-dire un morphisme φρv de Wk′ v dans GL(d, C). En faisant le produit tensoriel de cette repr´esentation de Wk′ v avec la repr´esentation de dimension a de SL(2, C) on obtient un morphisme ψρv ,a de -Wk′ v × SL(2, C) dans GL(m, C). Si la conjecture de Ramanujan est vraie, la repr´esentation ρv est temp´er´ee et donc φρv est d’image born´ee ; on ne connaˆıt pas cette conjecture mais on en a une approximation ; les exposants de ρv sont de d´ecroissance certainement inf´erieure ` a 1/2. Mais ainsi, on sait que le param`etre de Langlands de πv n’est autre que ψρv ,a ◦ ι o` u ι est l’inclusion de Wk′ v dans Wk′ v × SL(2, C) donn´ee par    kwk1/2 0 ′ . ∀(w, s) ∈ Wkv = Wkv × SL(2, C), ι(w, s) = w, s, 0 kwk−1/2

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

364

C. MOEGLIN

Et r´eciproquement, pour ces repr´esentations πv , on d´eduit la repr´esentation de SL(2, C) de la d´ecroissance des exposants de fa¸con unique et le param`etre de Langlands de πv donne donc de fa¸con unique le morphisme ψρv ,a . Puisque l’on s’int´eresse aux repr´esentations induites de repr´esentations de carr´e int´egrable, on consid`ere des sommes de tels param`etres, c’est-`a-dire ⊕i∈[1,t] ψρi ,ai qui P est un morphisme de Wk′ v × SL(2, C) dans GL( i∈[1,t] di ai , C).

D´ efinition 4.5. — Un tel morphisme de Wk′ v × SL(2, C) dans GL(n∗G , C) est un param`etre d’un A-paquet pour G(kv ) si et seulement si son image est incluse (` a conjugaison pr`es) dans L G. Un A-param`etre est la donn´ee d’un morphisme, ψ, comme ci-dessus et d’un caract`ere du groupe des composantes du centralisateur dans L G de ψ ; on demande que le caract`ere soit trivial sur le centre de L G.

On a expliqu´e la situation dans le cas des places non archim´ediennes mais hormis le fait qu’il n’y a pas de repr´esentations cuspidales sauf pour GL(1, kv ), toutes les constructions s’appliquent avec Wk′ v = Wkv si v est une place archim´edienne. 4.4. Repr´ esentations associ´ ees ` a un A-param` etre On appelle repr´esentation virtuelle, unitaire, `a coefficients dans N une somme de repr´esentations irr´eductibles unitaires compt´ees avec une multiplicit´e. ` tout A-param`etre (avec des restricTh´ eor` eme 4.6 ([9]). — Soit v une place de k. A tions sur le caract`ere si v est archim´edienne) est associ´ee une repr´esentation virtuelle, unitaire, ` a coefficients dans N. Cette application est compatible ` a la fonctorialit´e vers GL(n, kv ) et aux fonctorialit´es endoscopiques ( cf. 4.2). Si dans le A-param`etre la repr´esentation de SL(2, C) est triviale, alors on retrouve la classification des repr´esentations temp´er´ees. Soit π une repr´esentation de carr´e int´egrable de G(A) ; on a d´efini par la fonctorialit´e sph´erique π GL . En toute place v on a d´efini un param`etre ψv , morphisme de Wk′ v × SL(2, C) dans GL(n∗G , C). Ce param`etre est `a valeurs `a conjugaison pr`es, dans L G et pour toute place v de k la composante locale πv de π apparaˆıt dans l’une des repr´esentations virtuelles du th´eor`eme pr´ec´edent pour un bon choix de caract`ere ǫv , ψv ´etant le A-param`etre de la composante πvGL de π GL ; ceci est repris avec plus de pr´ecision ci-dessous en 4.6. Aux places non archim´ediennes, on peut d´ecrire ces repr´esentations, hormis pour SO(2n, kv ) o` u ce qui suit n’est vrai que pour O(2n, kv ) ; en particulier pour ψv le param`etre d’un A-paquet, les repr´esentations associ´ees `a un caract`ere n’ont pas de multiplicit´e et sont disjointes pour deux caract`eres diff´erents. Par contre une mˆeme repr´esentation peut apparaˆıtre dans plusieurs A-paquets distincts, c’est typiquement le cas des repr´esentations cuspidales de G(kv ) quand leur param`etre en 4.2 est non

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

365

trivial sur SL(2, C). Aux places archim´ediennes, la situation n’est pas comprise compl`etement, bien que l’on pense que ces repr´esentations sont les mˆemes que celles d´efinies par Adams, Barbash et Vogan dans [2]. 4.5. Un dernier ingr´ edient avant la description compl` ete Soit π GL une repr´esentation irr´eductible de GL(n∗G , A) induite de repr´esentations de carr´e int´egrable ; on lui a donc associ´e un ensemble (ρi , ai ; i ∈ [1, t]) et pour i ∈ [1, t], ρi est une repr´esentation cuspidale unitaire de GL(di , A). On identifie ×i∈[1,t] GL(ai di ) au sous-groupe des matrices diagonales par blocs de GL(n∗G ) et pour tout i ∈ [1, t], on note si l’´el´ement de ce sous-groupe qui a tous ses blocs ´egaux `a 1 sauf le i-i`eme qui vaut −1. On note SπGL le groupe engendr´e par ces ´el´ements. Arthur d´efinit un caract`ere, ǫπGL , de ce groupe en [9] 1.5.2 (et (1.5.6), (1.5.7)) ce qui est conjecturalement ´equivalent `a la d´efinition g´en´erale de [5], [4] ; la diff´erence est qu’ici on utilise directement les fonctions L des repr´esentations cuspidales des groupes lin´eaire alors qu’en [5] et [4], le groupe lin´eaire n’est pr´esent que via une fonctorialit´e conjecturale. On peut traduire la d´efinition de [9] en (sauf erreur de ma part) Y ǫ(ρi × ρj , 1/2)inf(ai ,aj ) , ∀i ∈ [1, t], ǫπGL (si ) = j∈[1,t];aj 6≡ai [2]

o` u les facteurs ǫ du membre de droite sont ceux de [19] page 371 ´equation (15). En Q particulier ǫπGL ( i∈[1,t] si ) = 1. 4.6. Description des repr´ esentations de carr´ e int´ egrable de G(A) On reprend les notations de 4.5. En toute place v, grˆace `a la composante locale on d´efinit le morphisme ψv de Wk′ v × SL(2, C) dans GL(n∗G , C). On a vu qu’un des r´esultats de [9] est que, quitte `a conjuguer, en la place v, l’inclusion de L G dans GL(n∗G , C), ψv est ` a valeurs dans L G. Et il n’est pas difficile de voir que SπGL est naturellement inclus dans le centralisateur de ψv dans L G pour tout v sauf si L G = SO(2n + 1, C) o` u il faut prendre le centralisateur dans O(2n + 1, C) ; pour nous cela revient au mˆeme puisque dans ce dernier cas, on ajoute un ´el´ement du centre de O(2n + 1, C) et que l’on ne consid`ere que les caract`eres triviaux sur le centre de L G. On peut donc restreindre ` a SπGL tout caract`ere du centralisateur de ψv dans L G. πvGL

On fixe un ensemble fini, S, de places de k contenant les places archim´ediennes et tel que pour tout v non dans S la repr´esentation πvGL est non ramifi´ee et que l’extension kv′ de kv , quand elle existe, est, elle aussi, non ramifi´ee. Pour tout v non dans S, on note πv l’unique repr´esentation non ramifi´ee de G(kv ) d´etermin´ee par le param`etre de πvGL et pour tout v ∈ S, on fixe un caract`ere ǫv du centralisateur de ψv dans L G et une composante irr´eductible de la repr´esentation virtuelle unitaire associ´ee `a (ψv , ǫv ).

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

366

C. MOEGLIN

Th´ eor` eme 4.7. — La repr´esentation produit tensoriel restreint π := ⊗′v πv se r´ealise comme sous-repr´esentation irr´eductible de L2 (G(k)\G(A)) si et seulement si Y ∀s ∈ SπGL , ǫv (s) = ǫπGL (s). v∈S

Pour avoir une description compl`ete du spectre discret de G(A), il manque la multiplicit´e avec laquelle cette repr´esentation intervient. Cette multiplicit´e est th´eoriquement connue grˆ ace ` a [9] pour tous les groupes Sp(2n) et SO(2n + 1) ; le r´esultat n’est pas complet pour SO(2n). Cette multiplicit´e est le produit pour toutes les places v ∈ S des coefficients avec lequel πv intervient dans la repr´esentation virtuelle associ´ee ` a ψv , ǫv , ` a condition toutefois que ces repr´esentations virtuelles soient disjointes quand ǫv varie. Le probl`eme reste de calculer ces nombres aux places archim´ediennes. Une conjecture raisonnable est que la multiplicit´e est un pour les groupes Sp(2n), SO(2n + 1) et pour les repr´esentations ayant de la cohomologie `a l’infini. 4.7. Quelques compl´ ements Les r´esultats de [9] ne sont pas limit´es aux groupes consid´er´es ici mais sont valides aussi pour tous les groupes orthogonaux et bien plus g´en´eralement pour ce que l’on appelle les formes int´erieures de tels groupes. Les m´ethodes d´evelopp´ees dans [9] sont g´en´erales et doivent s’´etendre sans probl`eme aux groupes unitaires et ` a leurs formes int´erieures (en [31], C. P. Mok le fait d´ej` a pour les formes quasi-d´eploy´ees) et aux groupes GSpin. Toutefois, il faut signaler que ces r´esultats, mˆeme les r´esultats locaux, reposent sur ce que l’on appelle la stabilisation de la formule des traces ; la stabilisation de la formule des traces ordinaires est faite dans [6], [7] et [8] mais on a aussi besoin d’une variante tordue qui est en cours mais qui n’est pas achev´ee (un certain nombre d’´etapes se trouvent en [41]). On rappelle aussi que tout ceci n’est possible que parce que l’on sait comparer des traces de repr´esentations sur des groupes diff´erents ; pour cela il faut avoir des correspondances entre des fonctions sur ces diff´erents groupes, ce que l’on appelle le transfert. On renvoie `a [9] 2.1 pour un historique de la solution `a ce probl`eme tr`es difficile, le r´esultat crucial ´etant celui de Ngˆo [32]. D’autres m´ethodes ont ´et´e d´evelopp´ees pour obtenir la fonctorialit´e sph´erique : en partant du groupe GL(n∗G ) et en redescendant `a G, c’est la m´ethode de descente qui donne des r´ealisations explicites de la fonctorialit´e mais pas pour toutes les repr´esentations de G. Cette m´ethode est due `a Ginzburg, Rallis et Soudry (cf. [36] avec toutes les r´ef´erences qui s’y trouvent). En ce moment, L. Lafforgue ([22]) reprend les id´ees de Cogdell, Jacquet, Shalika et Piatetski-Shapiro (cf. en particulier [13]) pour construire cette fonctorialit´e en famille de fa¸con ` a trouver un noyau. Il montre que la construction de ce noyau est ´equivalent `a l’existence d’une formule de Poisson (conjecturale) qu’il appelle non lin´eaire.

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

367

5. UN EXEMPLE Les travaux men´es en [9] l’avaient ´et´e dans un cadre beaucoup plus restreint pour les groupes unitaires U (3) par J. Rogawski en [33] [34] ; la formule de multiplicit´e conjectur´ee en [5] y ´etait d´emontr´ee toutefois avec un ingr´edient, les s´eries theta, non g´en´eralisable pour des groupes de rang plus grand que U (3). Cela marque le fait que pour r´esoudre l’ensemble des difficult´es, il faut pouvoir travailler avec tous les groupes ´evoqu´es ici simultan´ement (pour les groupes unitaires, il faut consid´erer tous les groupes unitaires quelle que soit la parit´e de la dimension de l’espace unitaire). C’est ce qui est fait de fa¸con cruciale dans les chapitres 5 et 6 de [9], sp´ecialement dans 5.3. Un exemple analogue ` a celui de [33] dans le cadre consid´er´e ici concerne le groupe Sp(4). On fixe une repr´esentation cuspidale de GL(2, A), not´ee ρ. On suppose que L(ρ, ∧2 , s) a un pˆ ole en s = 1. On note 1 la repr´esentation triviale de A∗ et on a un Aparam`etre pour Sp(4) en consid´erant l’ensemble {(ρ, 2), (1, 1)}, ou en d’autres termes la repr´esentation π GL de GL(5, A) induite de la repr´esentation de carr´e int´egrable de GL(4, A) obtenu avec le couple (ρ, 2) (cf. 3.1) et le caract`ere trivial de A∗ ; cette repr´esentation est dans l’image de la fonctorialit´e sph´erique pour Sp(4) puisque toutes les conditions de 3.3 sont satisfaites. On d´ecrit en chaque place les repr´esentations dans le A-paquet associ´e ; comme on l’a vu les places archim´ediennes posent des difficult´es qui devraient pouvoir ˆetre r´esolues dans ce cas simple. Quoi qu’il en soit pour rester dans le cadre connu, on suppose que les places archim´ediennes sont des places r´eelles et que pour une telle place v, la repr´esentation ρv est une s´erie discr`ete n’ayant pas le mˆeme caract`ere infinit´esimal que la repr´esentation triviale. Pour d´ecrire les param`etres en toute place v, il faut connaˆıtre ρv : on sait que ρv est de type symplectique. En presque toute place v non archim´edienne, ρv est l’induite (n´ecessairement irr´eductible) de deux caract`eres µ, µ′ o` u µ′ = µ−1 . Ces caract`eres sont tr`es certainement unitaires mais on sait uniquement que leur valeur absolue est comprise entre ] − 1/2, 1/2[ ; cela suffit pour avoir l’irr´eductibilit´e de l’induite. Pour une telle place, le A-param`etre se d´ecrit en composant (2)

Wk′ v × SL(2, C) → SL(2, C) × SL(2, C) → SO(4, C) ֒→ SO(5, C),

o` u la premi`ere fl`eche est l’application ′

(w, s, s ) ∈ Wkv × SL(2, C) × SL(2, C) 7→



µ(w) 0

0 µ−1 (w)



,s





o` u µ est identifi´e ` a un caract`ere de Wkv via la th´eorie du corps de classes. Le commutant d’un tel morphisme dans SO(5, C) est soit C∗ (identifi´e aux groupes des matrices diagonales de SL(2, C)) si µ 6= µ−1 , soit SL(2, C) si µ = µ−1 ; cela r´esulte d’abord du calcul du commutant de la restriction du morphisme `a SL(2, C) qui n’est autre

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

368

que la premi`ere copie de SL(2, C) ´ecrite. Dans tous les cas le groupe des composantes du centralisateur est trivial ; on n’a donc `a consid´erer que le caract`etre trivial de ce centralisateur. On suppose ensuite que ρv n’est pas de la forme pr´ec´edente mais que v est une place non archim´edienne. Le fait que ρv soit autoduale force ρv `a ˆetre : – soit une repr´esentation cuspidale autoduale de GL(2, kv ), – soit la repr´esentation de Steinberg de GL(2, kv ) tensoris´ee par un caract`ere quadratique, – soit l’induite de deux caract`eres quadratiques distincts. La derni`ere hypoth`ese est exclue car ρv est suppos´e de type symplectique. Dans les deux premiers cas, la repr´esentation de Wk′ v param´etrant ρv est irr´eductible, `a valeurs dans SL(2, C) et le A-param`etre est du mˆeme type que (2) : (2)′

Wk′ v × SL(2, C) → SL(2, C) × SL(2, C) → SO(4, C) ֒→ SO(5, C),

o` u ici le morphisme de Wk′ v dans SL(2, C) repr´esente une repr´esentation irr´eductible de d´eterminant un. Et le centralisateur de ce morphisme dans SO(5, C) est isomorphe `a {±1}, le centre de SO(4, C). Il y a donc deux caract`eres possibles pour ce centralisateur, le caract`ere trivial et l’autre, d’o` u deux repr´esentations not´ees πv,+ et πv,− . On suppose maintenant que v est une place r´eelle et, par hypoth`ese, on est dans la mˆeme situation que ci-dessus ; il y a encore deux caract`eres du centralisateur `a consid´erer. La repr´esentation associ´ee au caract`ere trivial (cf. 4.4) est not´ee πv,+ et elle est irr´eductible, c’est l’unique quotient de Langlands de l’induite `a partir du parabolique de sous-groupe de Levi GL(2, kv ) de Sp(4, kv ) de la repr´esentation ρv |det|1/2 que v soit une place archim´edienne ou non archim´edienne. On note πv,− la repr´esentation de 4.4 correspondant au caract`ere non trivial quand il existe. D´etaillons sa construction dans chaque cas (les calculs sont tir´es de [27] et il y a ´evidemment une formule g´en´erale). On suppose d’abord que v est une place non archim´edienne et que ρv est une repr´esentation cuspidale. Alors πv,− est irr´eductible et c’est une repr´esentation cuspidale ; dans 4.2, son param`etre est le compos´e : Wk′ v = Wkv × SL(2, C) → SL(2, C) × SL(2, C) → SO(4, C) ֒→ SO(5, C), (w, s) 7→ (φ(w), s) o` u w ∈ Wkv 7→ φ(w) ∈ SL(2, C) est le param`etre de Langlands de ρv . Et le centralisateur dans SO(5, C) de ce param`etre est isomorphe `a ±1 ; la repr´esentation cuspidale, πv,− est alors celle qui correspond au caract`ere non trivial de ce groupe. On suppose encore que v est une place non archim´edienne et maintenant que ρv est une s´erie discr`ete non cuspidale. On note η le caract`ere quadratique, tel que ρv soit le produit tensoriel de η ◦ det avec la repr´esentation de Steinberg de GL(2, kv ). On suppose d’abord que η est non trivial. Alors πv,− est la somme de deux repr´esentations

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

369

cuspidales irr´eductibles. Dans la description de 4.2, le param`etre est la repr´esentation de Wk′ v = Wkv × SL(2, C) obtenu en composant le A-param`etre ψv (cf. (2)′ ) avec l’inclusion diagonale de SL(2, C). Concr`etement la repr´esentation de Wk′ v est : (3)

Wkv × SL(2, C) → η ⊗ SO(3, C) ⊕ η ⊗ 1 ⊕ 1 ֒→ SO(5, C),

o` u 1 est syst´ematiquement la repr´esentation triviale et o` u l’application de SL(2, C) dans SO(3, C) est la repr´esentation de dimension 3 de SL(2, C). Le centralisateur de ce morphisme dans O(5, C) est naturellement isomorphe `a trois copies de ±1 et les caract`eres qui d´eterminent les repr´esentations cuspidales constituant πv,− sont les caract`eres non triviaux sur la troisi`eme copie de ±1 et in´egaux sur les deux premi`eres copies ; ces caract`eres sont bien triviaux sur le centre de O(5, C). On suppose maintenant que η est le caract`ere trivial ; alors πv,− est irr´eductible. C’est une repr´esentation temp´er´ee ; on peut la d´ecrire dans la correspondance de 4.2 : le param`etre de la repr´esentation est le morphisme de Wk′ v dans SO(5, C) d´ecrit en (3). Mais le commutant dans SO(5, C) de ce param`etre est ici isomorphe `a O(2, C). Et la repr´esentation cherch´ee correspond au caract`ere non trivial de ce commutant. On suppose maintenant que v est une place archim´edienne. Alors, en anticipant les r´esultats en cours d’´ecriture de N. Arancibia, il me semble que πv,− est la somme de deux s´eries discr`etes. La situation me semble tr`es semblable `a la situation du cas non archim´edien avec η non trivial. Sans l’hypoth`ese que ρv a un caract`ere infinit´esimal diff´erent de celui de la repr´esentation triviale, on aurait sans doute aussi un cas analogue au cas consid´er´e ci-dessus, η = 1. Le th´eor`eme principal de [9] s’´enonce dans ce cas tr`es particulier de la fa¸con suivante : Proposition 5.1. — On suppose que l’ordre d’annulation de L(ρ, s) en s = 1/2 est pair (ce qui inclut le cas de non nullit´e), (resp. impair). On fixe un ensemble fini S de places de k, S ´etant de cardinal pair (resp. impair) et pour tout v ∈ S, on suppose que ρv est de la s´erie discr`ete et on fixe une composante irr´eductible de πv− , not´ee simplement πv . Alors la repr´esentation π := ⊗′v∈S ealise / πv,+ ⊗v∈S πv se r´ comme une sous-repr´esentation de L2 (Sp(4, k)\Sp(4, A)) avec multiplicit´e exactement 1. Ces repr´esentations sont toutes cuspidales sauf si L(ρ, 1/2) 6= 0 o` u la repr´esentation correspondant ` a S = ∅ n’est pas cuspidale. ´ ERENCES ´ REF [1] J. Adams – « L-functoriality for dual pairs », in Orbites unipotentes et repr´esentations II, Ast´erisque, vol. 171–172, Soc. Math. France, Paris, 1989, p. 85–129. [2] J. Adams, D. Barbasch & D. Vogan – The Langlands classification and irreducible characters for real reductive groups, Progr. Math., vol. 104, Birkh¨auser, Boston, 1992.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

370

[3] J. Arthur – « On some problems suggested by the trace formula », in Lie group representations (College Park, 1982/1983) II, Lecture Notes in Math., vol. 1041, Springer, Berlin, 1984, p. 1–49. [4]

, « Unipotent automorphic representations : conjectures », in Orbites unipotentes et repr´esentations II, Ast´erisque, vol. 171-172, Soc. Math. France, Paris, 1989, p. 13–71.

[5]

, « Unipotent automorphic representations : global motivation », in Automorphic forms, Shimura varieties, and L-functions I (Ann Arbor, 1988), Perspect. Math., vol. 10, Academic Press, Boston, 1990, p. 1–75.

[6]

, « A stable trace formula I. General expansions », J. Inst. Math. Jussieu 1 (2002), no. 2, p. 175–277.

[7]

, « A stable trace formula II. Global descent », Invent. Math. 143 (2001), no. 1, p. 157–220.

[8]

, « A stable trace formula III. Proof of the main theorems », Ann. of Math. (2) 158 (2003), no. 3, p. 769–873.

[9]

, The endoscopic classification of representations: Orthogonal and symplectic groups, Tata Inst. Fund. Res. Stud. Math., Amer. Math. Soc., Providence, 2013.

[10] « The collected works of James G. Arthur » – http://www.claymath.org/ publications/collected-works-james-g-arthur. [11] A. Borel – « Automorphic L-functions », in Automorphic forms, representations and L-functions (Corvallis, 1977) II, Proc. Sympos. Pure Math., vol. 33, Amer. Math. Soc., Providence, 1979, p. 27–61. [12] P. Cartier – « Representations of p-adic groups: a survey », in Automorphic forms, representations and L-functions (Corvallis, 1977) I, Proc. Sympos. Pure Math., vol. 33, Amer. Math. Soc., Providence, 1979, p. 111–155. [13] J. W. Cogdell & I. I. Piatetski-Shapiro – « Converse theorems for GL(n) », ´ Publ. Math. Inst. Hautes Etud. Sci. 79 (1994), p. 157–214. [14] D. Flath – « Decomposition of representations into tensor products », in Automorphic forms, representations and L-functions I (Corvallis, 1977), Proc. Sympos. Pure Math., vol. 33, Amer. Math. Soc., Providence, 1979, p. 179–183. [15] M. Harris – « Arithmetic applications of the Langlands program », Jpn. J. Math. 5 (2010), no. 1, p. 1–71. [16] M. Harris & R. Taylor – The geometry and cohomology of some simple Shimura varieties, Ann. of Math. Stud., vol. 151, Princeton Univ. Press, Princeton, 2001. [17] G. Henniart – « Une preuve simple des conjectures de Langlands pour GL(n) sur un corps p-adique », Invent. Math. 139 (2000), no. 2, p. 439–455.

´ ASTERISQUE 361

(1070)

´ A ` LA J. ARTHUR FONCTORIALITE

371

[18] H. Jacquet – « On the residual spectrum of GL(n) », in Lie group representations (College Park, 1982/1983) II, Lecture Notes in Math., vol. 1041, Springer, Berlin, 1984, p. 185–208. [19] H. Jacquet, I. Piatetski-Shapiro & J. Shalika – « Rankin-Selberg convolutions », Amer. J. Math. 105 (1983), p. 367–464. [20] H. Jacquet & J. Shalika – « On Euler products and the classification of automorphic representations II », Amer. J. Math. 103 (1981), p. 777–815. [21] R. Kottwitz & D. Shelstad – Foundations of twisted endoscopy, Ast´erisque, vol. 255, Soc. Math. France, Paris, 1999. [22] L. Lafforgue – « Noyaux du transfert automorphe de Langlands et formules de Poisson non lin´eaires », pr´epublication octobre 2012, disponible ´electroniquement : http://www.ihes.fr/~lafforgue/publications.html. [23] R. P. Langlands – « Representations groups », disponible ´electroniquement : DigitalMathArchive/Langlands/.

theory of abelian algebraic http://www.sunsite.ubc.ca/

[24]

, On the functional equations satisfied by Eisenstein series, Lecture Notes in Math., vol. 544, Springer-Verlag, Berlin, 1976.

[25]

, « On the classification of irreducible representations of real algebraic groups », in Representation theory and harmonic analysis on semisimple Lie groups, Math. Surveys Monogr., vol. 31, Amer. Math. Soc., Providence, 1989, p. 101–170.

[26] P. Mezo – « Spectral transfer in the twisted endoscopy of real groups », pr´epublication (2013), http://people.math.carleton.ca/~mezo/spectrans2.pdf. [27] C. Moeglin – « Paquets d’Arthur discrets pour un groupe classique p-adique », in Automorphic forms and L-functions II. Local aspects, Contemp. Math., vol. 489, Amer. Math. Soc., Providence, 2009, p. 179–257. [28]

, « Multiplicit´e 1 dans les paquets d’Arthur aux places p-adiques », in On certain L-functions, Clay Math. Proc., vol. 13, Amer. Math. Soc., Providence, 2011, p. 333–374.

[29] C. Moeglin & J.-L. Waldspurger – « Le spectre r´esiduel de GL(n) », Ann. ´ Sci. Ecole Norm. Sup. (4) 22 (1989), p. 605–674. [30]

, Spectral decomposition and Eisenstein series, Cambridge tracts in Math., vol. 113, Cambridge Univ. Press, Cambridge, 1995.

[31] C. P. Mok – « Endoscopic classification of representations of quasi-split unitary groups », Pr´epublication (2013), http://www.math.mcmaster.ca/~cpmok/. ˆ – « Le lemme fondamental pour les alg`ebres de Lie », Publ. Math. [32] B. C. Ngo ´ (2010), no. 111, p. 1–169. IHES

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

C. MOEGLIN

372

[33] J. D. Rogawski – Automorphic representations of unitary groups in three variables, Ann. of Math. Stud., vol. 123, Princeton Univ. Press, Princeton, 1990. [34]

, « Multiplicity in A-packets », in The zeta functions of Picard modular surfaces (R. P. Langlands & D. Ramakrishnan, ´eds.), Univ. Montr´eal-CRM, PM013, Montr´eal, 1992.

[35] F. Shahidi – « On the Ramanujan conjecture and finiteness of poles for certain L-functions », Ann. of Math. (2) 127 (1988), no. 3, p. 547–584. [36] D. Soudry – « On Langlands functoriality from classical groups to GLn », in Automorphic forms I, Ast´erisque, vol. 298, Soc. Math. France, Paris, 2005, p. 335– 390. [37] B. Speh – « Unitary representations of Gl(n, R) with nontrivial (g, K)cohomology », Invent. Math. 71 (1983), no. 3, p. 443–465. [38] B. Speh & D. A. Vogan, Jr. – « Reducibility of generalized principal series representations », Acta. Math. 145 (1980), p. 227–299. ´ – « Classification of unitary representations in irreducible representa[39] M. Tadic ´ tions of general linear group (non-Archimedean case) », Ann. Sci. Ecole Norm. Sup. (4) 19 (1986), no. 3, p. 335–382. [40] D. A. Vogan, Jr. – « The unitary dual of GL(n) over an Archimedean field », Invent. Math. 83 (1986), no. 3, p. 449–505. [41] http://www.math.jussieu.fr/~waldspur. [42] J.-L. Waldspurger – « Les facteurs de transfert pour les groupes classiques : un formulaire », Manuscripta Math. 133 (2010), no. 1-2, p. 41–82. [43] A. V. Zelevinsky – « Induced representations of reductive p-adic groups II. ´ On irreducible representations of GL(n) », Ann. Sci. Ecole Norm. Sup. (4) 13 (1980), no. 2, p. 165–210.

Colette MOEGLIN CNRS Institut de Math´ematiques de Jussieu 2 Place Jussieu 75005 Paris France E-mail : [email protected]

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1071, p. 373 `a 396

Juin 2013

´ NOUVEAUX DEVELOPPEMENTS SUR LES VALEURS DES ` ´ CARACTERES DES GROUPES SYMETRIQUES; ´ METHODES COMBINATOIRES [d’apr` es V. F´ eray, ...] par Pierre CARTIER

INTRODUCTION Il est difficile d’innover dans un sujet aussi v´en´erable que l’´etude des caract`eres des groupes sym´etriques. L’ouverture a ´et´e faite dans l’article fondateur de Frobenius [A2] en 1900, suivi par Schur [A11] en 1901, et par Young [A13] en 1928. On dispose aujourd’hui d’un bon nombre d’excellents expos´es d’ensemble [A5, A6, A8, A9, A10, A12]. ´ Les travaux dont nous allons parler ont leur origine dans l’Ecole de SaintPetersbourg (autrefois Leningrad) : Kerov, Vershik, Olshanski, Ivanov, Okunkov. . . Leur motivation initiale ´etait l’´etude des repr´esentations factorielles du groupe sym´etrique S∞ , r´eunion de la suite des groupes sym´etriques S1 ⊂ S2 ⊂ · · · ⊂ Sn ⊂ Sn+1 ⊂ . . . Il s’agissait d’un exemple embl´ematique des m´ethodes d’alg`ebres d’op´erateurs dans les espaces de Hilbert. En un sens convenable, il faut passer `a la limite sur les diagrammes de Young de taille croissante. Il apparut vite que cela revenait a ´etudier la forme limite de diagrammes de Young al´eatoires ; voici une illustration ` d’une simulation num´erique sur des tableaux de taille 20, 200, puis 2000. La courbe limite se dessine tr`es nettement.

2

−2

O n = 20

2

2

−2

O n = 200

2

2

−2

O

2

n = 2000

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

374

P. CARTIER

Une autre source d’inspiration est venue des probabilit´es non commutatives. Le cadre est le suivant : • un espace de Hilbert s´eparable H ; • une alg`ebre de von Neumann A d’op´erateurs born´es dans H (stable par l’adjonction x 7→ x∗ et ferm´ee pour la topologie faible de la dualit´e entre L(H) et l’espace L1 (H) des op´erateurs ` a trace) ; • un ´etat E sur A (forme lin´eaire faiblement continue, positive E(x∗ x) > 0, telle que E(1) = 1). Lorsque l’alg`ebre A est commutative, on est ramen´e au cas probabiliste usuel : un espace probabilis´e (Ω, A, P), avec A = L∞ (Ω, P) agissant par multiplication sur R l’espace de Hilbert H = L2 (Ω, P), et E[f ] = Ω f d P pour f dans A. Vers 1970, Voiculescu a entrepris l’´etude du cas fourni par l’alg`ebre de von Neumann engendr´ee par un groupe libre G agissant par la repr´esentation r´eguli`ere dans l’espace `2 (G). Voiculescu a d´ecouvert que les g´en´erateurs du groupe libre satisfont `a une propri´et´e qui se r´eduit dans le cas des probabilit´es commutatives `a l’ind´ependance stochastique. Ce nouveau domaine fut baptis´e : « probabilit´es libres ». Les moments et les cumulants classiques des variables al´eatoires se g´en´eralisent en « cumulants libres » qui font intervenir la combinatoire des « partitions non-crois´ees ». Le petit miracle est que ces partitions non-crois´ees correspondent aux factorisations minimales γk = τ σ d’une permutation circulaire γk dans le groupe sym´etrique Sk (cf. section 2.3.4). Ces factorisations minimales vont ` a leur tour se d´ecrire au moyen des cartes biparties unicellulaires (cf. section 2.1.2). Ces cartes seront le th`eme central des m´ethodes combinatoires d´ecrites ` a la section 2. Si λ est une partition de n, et χλ le caract`ere de Sn correspondant `a λ, on consid`ere les valeurs normalis´ees des caract`eres Chk (λ) :=

n! χλ (γk ) (n − k)! χλ (1)

pour n > k. Utilisant les m´ethodes de probabilit´es libres, Biane [C1] a ´etudi´e le comportement asymptotique de Chk (λ) quand n croˆıt, et que le nombre de lignes et √ de colonnes de λ est d’ordre O( n). La cl´e est fournie par les homoth´eties : identifiant λ` a une r´egion Dλ du plan R2 , l’homoth´etie de rapport t (t > 1 entier) transforme Dλ en Dht (λ) pour une partition ht (λ) de nt2 . Biane prouve que la limite Rk+1 (λ) = lim Chk (ht λ)/tk+1 t→∞

existe, et il l’interpr`ete en termes de cumulants libres. En particulier R2 (λ) est la taille |λ| de λ. ´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

375

Il est remarquable que les quantit´es Chk (λ) et Rk (λ) sont polynomiales : introduisant les coordonn´ees multirectangulaires p, q (cf. section 1.1.5) de λ, on a des expressions polynomiales en p, q. De plus, il existe des formules universelles liant les Chk et les Rk : voici un ´echantillon Ch1 = R2 Ch2 = R3 Ch3 = R4 + R2 Ch4 = R5 + 5 R3 Ch5 = R6 + 15 R4 + 5 R22 + 8 R2 Ch6 = R7 + 35 R5 + 35 R2 R3 + 84 R3 . Dans [C2], p. 199, Biane (1) donne les valeurs de Ch7 `a Ch11 . Il y a une graduation naturelle par le degr´e total en les variables p1 , p2 , . . . ; q1 , q2 , . . . Alors Rk est homog`ene de degr´e k, et le terme de plus haut degr´e de Chk est Rk+1 , de degr´e k + 1 (cf. section 2.3.3). L’estimation asymptotique de Biane [C1], p. 127, r´esulte facilement des relations entre les Rk et les Chk . D’une mani`ere g´en´erale, Kerov ´ecrit Chk sous la forme d’un polynˆome (de Kerov) Kk (R2 , R3 , . . . , Rk+1 ) , et la table ci-dessus sugg`ere la conjecture de Kerov : les coefficients de Kk sont des entiers positifs. Cela a ´et´e prouv´e r´ecemment par V. F´eray [B2] par utilisation de m´ethodes combinatoires de la th´eorie des graphes et des cartes. C’est ce que nous allons essayer d’expliquer en suivant ses expos´es du cours Peccot 2013 au Coll`ege de France.

´ 1. LE GROUPE SYMETRIQUE 1.1. Notations et pr´ eliminaires 1.1.1. — Le groupe sym´etrique Sn est le groupe des permutations de l’ensemble [n] des entiers 1, 2, . . . , n. On fait la convention [0] = ∅, d’o` u S0 = (1). L’´el´ement unit´e d’un groupe est toujours not´e 1. Pour 1 6 k 6 n, on identifie Sk `a un sous-groupe de Sn , en faisant correspondre ` a la permutation σ de [k] la permutation de [n] qui fixe tous les ´el´ements de [n]\[k]. On note γk le cycle (12 . . . k), vu comme ´el´ement de Sk , donc aussi de Sn pour n > k. 1. Ce que nous notons Chk est d´ esign´ e par Σk dans Biane, loc. cit.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

376

P. CARTIER

1.1.2. — Une composition c d’un entier n > 1 est une suite (c1 , . . . , ck ) d’entiers strictement positifs de somme c1 + · · · + ck ´egale `a n. Une partition λ de n est une composition ` a l’ordre pr`es des ´el´ements, et on peut toujours la normaliser de sorte que λ1 > λ2 > · · · > λk > 0 . La longueur de λ, not´ee `(λ), est k ; la taille de λ, not´ee |λ|, est la somme λ1 +· · ·+λk . La relation |λ| = n s’´ecrit aussi souvent λ ` n. On est parfois amen´e `a compl´eter une partition par une suite infinie de z´eros. Une composition d’un ensemble X est une suite (C1 , . . . , Ck ) de sous-ensembles non vides, deux `a deux disjoints, de X, de r´eunion X. Une partition Π de X est un ensemble de parties non vides de X, deux `a deux disjointes, de r´eunion X. 1.1.3. — Les partitions de n param´etrisent les classes de conjugaison des ´el´ements π de Sn ; le type cyclique de π est la partition λ de n, soit λ = (λ1 , . . . , λk ), telle que π se compose de cycles de longueurs λ1 , . . . , λk . Les partitions param´etrisent aussi les repr´esentations irr´eductibles de Sn (cf. section 1.2). Pour une partition λ de n, on note ρλ la repr´esentation irr´eductible correspondante de Sn , χλ son caract`ere, et ψ λ := χλ /χλ (1) le caract`ere normalis´e. Le degr´e dλ = χλ (1) est la dimension de l’espace de la repr´esentation ρλ . 1.1.4. — D´ecrivons les diagrammes de Young. Si λ = (λ1 , . . . , λk ) est une partition de n, on note ∆λ l’ensemble des couples (i, j) d’entiers tels que 1 6 j 6 k,

1 6 i 6 λj .

` tout couple (i, j) on associe le carr´e Di,j = [i − 1, i] × [j − 1, j] de cˆot´e 1 dans R2 , A dont le sommet nord-est est (i, j) ; on note aussi Dλ la r´eunion des carr´es Di,j pour (i, j) dans ∆λ (voir les figures dans le cas de la partition λ = (4, 4, 2, 1) de taille 11).

Le cardinal |∆λ | de ∆λ et l’aire |Dλ | de Dλ sont ´egaux `a |λ|. Sur le dessin de ∆λ , les lignes et les colonnes sont ´evidentes. Les longueurs des lignes sont λ1 , λ2 , . . . , λk ; ˜ = (λ ˜1, . . . , λ ˜ ` ) de n, dite duale de λ. celles des colonnes forment une partition λ

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

377

1.1.5. — Si p, q sont des entiers strictement positifs, on note p × q le diagramme rectangulaire form´e de p lignes de longueur q, et de q colonnes de longueur p. Plus g´en´eralement, si p et q sont des compositions de mˆeme longueur m > 1, le diagramme p × q se compose de pj lignes de longueur qj + qj+1 + · · · + qm pour 1 6 j 6 m, et de qj colonnes de longueur p1 + · · · + pj . Il y a en tout p1 + · · · + pm lignes et q1 + · · · + qm colonnes. Toute partition λ de n s’´ecrit de mani`ere unique sous la forme p × q ; le diagramme ∆λ est alors la r´eunion de rectangles pi × qj pour 1 6 i 6 j 6 m. La P taille de la partition λ (ou du diagramme correspondant) est alors |λ| = i6j pi qj . Notre strat´egie sera d’exprimer divers invariants associ´es `a un tableau de Young comme polynˆ omes en les coordonn´ees multi-rectangulaires p, q.

1.1.6. — Venons-en ` a la notation russe (2) . Le domaine polygonal Eλ est d´eduit de Dλ par la transformation lin´eaire (x, y) 7→ (x − y, x + y) dans R2 . Il existe une unique application continue ωλ de R dans R qui a les propri´et´es suivantes : • on a ωλ (x) = |x| pour |x| assez grand ; • la fonction ωλ est lin´eaire par morceaux, et sa pente est ´egale `a +1 ou −1 ; • le domaine Eλ est d´efini par les in´egalit´es |x| 6 y 6 ωλ (x) .

2. Ce que nous venons de d´ ecrire est la notation « fran¸caise ». La notation « anglo-saxonne » utilise le sym´ etrique de Dλ par rapport a ` l’axe horizontal.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

378

P. CARTIER

1.1.7. — Si λ correspond aux compositions p × q de mˆeme longueur m, il existe une suite de nombres entiers de la forme u0 < v1 < u1 < · · · < um−1 < vm < um qui sont les abscisses des points anguleux de la fonction ωλ . La suite u0 , u1 , . . . , um d´ecrit les minima locaux de la fonction ωλ , et v1 , . . . , vm les maxima locaux. Ce sont les coordonn´ees entrelac´ees de λ, et l’on a les lois de transformation u0 = −(p1 + · · · + pm ) ,

uj = vj + pm−j+1 ,

vj = uj−1 + qm−j+1

(1 6 j 6 m)

d’o` u l’on d´eduit u0 + · · · + um = v1 + · · · + vm . 1.1.8. — Au lieu de la fonction ωλ , on peut introduire la fonction wλ (x) = 1 efini par les in´egalit´es 2 (ωλ (x) − |x|), et le domaine Fλ d´ 0 6 y 6 wλ (x) dans R2 . L’aire de Fλ est d´efinie par l’int´egrale Z +∞ Z |Fλ | = wλ (x) dx = −∞

dx dy ;



elle est ´egale ` a |λ|. Il nous sera utile d’introduire des « moments » Z +∞ tk (λ) = k(k − 1) xk−2 wλ (x) dx −∞ Z = k(k − 1) xk−2 dx dy F

k(k − 1) = 2



xk−2 dx dy ,



d’o` u t2 (λ) = 2 |λ|. Dans les coordonn´ees entrelac´ees, on a k tk (λ) = uk0 + · · · + ukm − v1k − · · · − vm .

1.1.9. — On a d´ej` a introduit les homoth´eties ht de rapport t > 0 entier. On a aussitˆot les relations Dht λ = ht (Dλ ) ωht λ (x) = t ωλ (x/t) wht λ (x) = t wλ (x/t) , et la relation d’homog´en´eit´e pour les moments tk (ht λ) = tk tk (λ) . Enfin, l’homoth´etie ht transforme p × q en tp × tq, donc les coordonn´ees entrelac´ees de ht λ sont tu0 < tv1 < tu1 < . . .

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

379

1.2. Repr´ esentations irr´ eductibles du groupe sym´ etrique 1.2.1. Sym´etriseur de Young. — Soient n > 1 un entier et λ une partition de n. L’ensemble ∆λ de sommets est de taille n ; nous noterons S(λ) le groupe des permutations de ∆λ . Un tableau de Young est une bijection T de [n] sur ∆λ ; autrement dit, une num´erotation des ´el´ements de ∆λ , ou des carr´es correspondants de Dλ (voir la figure) :

Le tableau est standard lorsque les nombres dans les carr´es vont en croissant de gauche ` droite dans chaque ligne et de bas en haut dans chaque colonne, ce qui est le cas a dans la figure ci-dessus. Le choix d’un tableau T d´efinit un isomorphisme ϕT de Sn sur S(λ). On introduit deux sous-groupes C(λ) et L(λ) de S(λ), form´es des permutations de ∆λ qui transforment chaque colonne (ligne) en elle-mˆeme. Notons ε(σ) la signature d’une permutation σ ∈ S(λ), et eσ l’´el´ement de base correspondant dans l’alg`ebre du groupe C(S(λ)). On d´efinit deux ´el´ements aλ et bλ de C(S(λ)) par les formules X X aλ = eσ , bλ = ε(σ) eσ , σ∈L(λ)

σ∈C(λ)

et le sym´etriseur de Young est Cλ = aλ bλ . 1.2.2. — On note Iλ l’id´eal ` a gauche de C(S(λ)) engendr´e par Cλ , et ρλ (σ) la restriction ` a Iλ de la multiplication ` a gauche par eσ dans C(S(λ)). On a remarqu´e qu’un tableau T de forme λ d´efinit un isomorphisme ϕT de Sn sur S(λ), qui permet de transporter C(λ), L(λ), aλ , bλ , Cλ , Iλ , ρλ sur des objets C(T ), L(T ), aT , bT , CT , IT , ρT associ´es ` a Sn . La repr´esentation (ρT , IT ) de Sn ne d´epend `a isomorphisme pr`es que de λ. ´ore `me 1.1 (Frobenius-Schur) The a) Pour tout tableau de Young T de taille n, la repr´esentation (ρT , IT ) de Sn est irr´eductible. b) Toute repr´esentation irr´eductible de Sn est isomorphe ` a l’une des repr´esentations (ρT , IT ). 0 c) Deux repr´esentations (ρT , IT ) et (ρT , IT 0 ) sont isomorphes si et seulement si les tableaux T et T 0 correspondent ` a la mˆeme partition λ de n. Pour chaque partition λ, on choisira une fois pour toutes un tableau standard de forme λ, par exemple celui o` u la premi`ere ligne comporte les nombres 1 `a λ1 , la

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

380

P. CARTIER

seconde les nombres λ1 + 1 ` a λ1 + λ2 , etc. . . et l’on param´etrisera les repr´esentations de Sn par les partitions λ de n. 1.2.3. — Soit P l’ensemble des couples (i, j) d’entiers strictement positifs, muni de la relation d’ordre produit (i, j) > (k, `) ⇔ i > k et j > ` . Une partie H de P est dite h´er´editaire si avec tout ´el´ement (i, j) elle contient tous les ´el´ements (k, `) tels que (i, j) > (k, `). L’application λ 7→ ∆λ est une bijection de l’ensemble des partitions de n sur l’ensemble des parties h´er´editaires ` a n ´el´ements de P . Si λ et µ sont deux partitions, on ´ecrit λ 6 µ si ∆λ est contenu dans ∆µ . Si l’on prolonge toute partition par une suite infinie de 0, la relation λ 6 µ signifie que l’on a λk 6 µk pour tout entier k > 1. Un tableau de Young standard T de taille n peut ˆetre vu comme une application injective ϕ : [n] → P . Les applications en question sont caract´eris´ees par le fait que l’ensemble ϕ([k]) = {ϕ(1), . . . , ϕ(k)} est h´er´editaire pour 1 6 k 6 n. D’apr`es la remarque pr´ec´edente, un tableau standard T de forme λ correspond ` a une suite croissante de partitions λ(1) 6 λ(2) 6 · · · 6 λ(n) = λ avec n = |λ| et k = |λ(k) |. 1.2.4. — Venons-en ` a la r`egle de branchement. Soit λ une partition de n. La restriction a ` Sn−1 de la repr´esentation ρλ de Sn est canoniquement isomorphe ` a la somme directe des repr´esentations ρµ de Sn−1 , o` u µ parcourt l’ensemble des partitions de n − 1 telles que µ 6 λ. Par une it´eration facile, on voit que l’espace Iλ a une base index´ee par les suites croissantes λ(1) 6 λ(2) 6 · · · 6 λ(n) = λ de partitions, c’est-`a-dire par les tableaux de Young standard de forme λ (cf. section 1.2.3). Pour d´ecrire les partitions µ de n − 1 telles que µ 6 λ, le plus commode est d’utiliser les coordonn´ees multi-rectangulaires p1 , . . . , pm , q1 , . . . , qm . Il y a m possibilit´es, obtenues en supprimant de ∆λ l’un des m points s1 , . . . , sm d´efinis par sj = (qm−j+1 + qm−j+2 + · · · + qm , p1 + p2 + · · · + pm−j+1 ) pour 1 6 j 6 m (ou le carr´e correspondant de Dλ ). Dans la repr´esentation russe, ceci correspond aux m maxima locaux d’abscisses v1 , . . . , vm .

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

381

1.2.5. — Nous allons donner une autre description des repr´esentations de Sn , `a l’aide des ´el´ements Jk introduits par Jucys et Murphy en 1974. Rappelons qu’on plonge les groupes sym´etriques les uns dans les autres S1 ⊂ S2 ⊂ · · · ⊂ Sn ⊂ Sn+1 ⊂ . . . ; on nomme S∞ la r´eunion (ou limite inductive) de ces groupes, d’o` u une situation analogue pour les alg`ebres de groupes Q(S1 ) ⊂ Q(S2 ) ⊂ · · · ⊂ Q(Sn ) ⊂ Q(Sn+1 ) ⊂ · · · ⊂ Q(S∞ ) . Voici la d´efinition des Jk J1 := 0 ,

J2 := (12) ,

J3 := (13) + (23), . . . ,

Jk :=

k−1 X

(ik), . . .

i=1

o` u (ij) est la transposition de i et j. On voit que Jk appartient `a Q(Sk ) et commute aux ´el´ements de Q(Sk−1 ) ; par suite, les Jk commutent deux ` a deux. Il est imm´ediat que, dans toute repr´esentation unitaire (ρ, V ) de Sn , les op´erateurs ρ(J1 ), . . . , ρ(Jn ) sont hermitiens et commutent deux `a deux, donc se diagonalisent simultan´ement. De plus, l’alg`ebre engendr´ee par J1 , . . . , Jn dans Q(Sn ) est assez grosse pour qu’on ait le r´esultat suivant : si ρ est irr´eductible, le sous-espace de V d´efini par les relations ρ(Jk )v = ck v pour 1 6 k 6 n est de dimension 6 1. On peut donc indexer une base de V par des syst`emes de valeurs propres c1 , . . . , cn : c’est la strat´egie bien connue des « nombres quantiques » en physique quantique. Explicitement, pour la repr´esentation ρλ de Sn associ´ee `a la partition λ de n, on a la base (eT ) de l’espace Iλ index´ee par les tableaux standard T de forme λ, et l’on a ρλ (Jk ) eT = c(T (k)) eT

pour 1 6 k 6 n .

Rappelons que le tableau T est une suite T (1), . . . , T (n) d’´el´ements de P et c est l’application (i, j) 7→ i − j de P dans Z : c(i, j) est le contenu de la boˆıte (i, j). On

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

382

P. CARTIER

peut donc param´etrer la base de Iλ , sous la forme e(c1 , . . . , cn ), au moyen des suites c1 = c(T (1)), . . . , cn = c(T (n)) v´erifiant la condition suivante : (TS) Soit k ∈ [n]. Soit αi le nombre de fois que i apparaˆıt dans la suite c1 , . . . , ck . On a alors α0 > α−1 > α−2 > α−3 > . . . , α0 > α1 > α2 > α3 > . . . . Rappelons que le groupe Sn est engendr´e par les transpositions sk = (k, k +1) pour 1 6 k < n. L’action de ces g´en´erateurs dans la repr´esentation ρλ se d´ecrit ainsi (3) : • si ck+1 = ck ± 1, on a ρλ (sk ) e(c1 , . . . , cn ) = ±e(c1 , . . . , cn ) ;

• si |ck+1 − ck | > 2, ρλ (sk ) laisse fixe le plan ayant pour base le vecteur e = e(c1 , . . . , cn ) et le vecteur e0 d´eduit de e par ´echange de ck et ck+1 ; il y agit par  u 1+u avec u = (ck+1 − ck )−1 . la matrice 1−u −u

Utilisant la pr´esentation bien connue du groupe Sn par les relations  2 sk = 1 s s = s` sk si |k − `| > 2  k ` sk sk+1 sk = sk+1 sk sk+1 ,

on peut v´erifier que les op´erateurs ρλ (sk ), d´efinis comme ci-dessus sur un espace ayant pour base (4) les vecteurs e(c1 , . . . , cn ), correspondant `a la relation (TS), d´efinissent bien une repr´esentation du groupe Sn (pour tout corps de coefficients de caract´eristique 0). L’avantage de cette construction est qu’elle s’applique presque telle quelle aux repr´esentations de l’alg`ebre de Hecke Hq (Sn ). 1.2.6. — Les ´el´ements de Jucys-Murphy permettent de donner une description particuli`erement attrayante de la r`egle de branchement. Soient λ une partition de n, ρλ la repr´esentation de Sn correspondante, et u0 < v1 < u1 < · · · < vm < um les coordonn´ees entrelac´ees de λ. L’op´erateur ρλ (Jn ) a pour valeurs propres v1 , . . . , vm ; notons V1 , . . . , Vm les sous-espaces propres correspondants. Alors, pour 1 6 j 6 m, l’espace Vj est stable pour Sn−1 , et correspond ` a la repr´esentation irr´eductible ρµ(j) de Sn−1 , o` u µ(j) est la partition de n − 1 obtenue en supprimant le point sj de ∆λ (cf. section 1.2.4). Noter aussi que vj est le contenu du point sj .

´ 2. METHODES COMBINATOIRES 2.1. Graphes et cartes bipartis 2.1.1. — Un graphe biparti G se compose d’un ensemble V de sommets, muni d’une composition (V◦ , V• ) (les ´el´ements de V◦ sont de couleur blanche, et ceux de V• de 3. Vu les conditions impos´ ees, on a toujours ck 6= ck+1 . 4. Chaque suite (c1 , . . . , cn ) d´ ecrit un tableau de Young standard, et l’on doit se restreindre ` a ceux de forme λ.

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

383

couleur noire), d’un ensemble E d’arˆetes, et de deux applications s : E → V◦ , b : E → V• . On dit que l’arˆete e joint le sommet blanc s(e) au sommet noir b(e). Il est commode d’introduire pour chaque arˆete e une arˆete oppos´ee e¯, obtenue en ´echangeant ¯ l’ensemble de ces arˆetes e¯. Par exemple, si λ est les deux extr´emit´es de e. On note E une partition de n, on d´efinit un graphe biparti Gλ dont ∆λ est l’ensemble des arˆetes, les sommets blancs (noirs) correspondant aux lignes (colonnes), et l’arˆete (i, j) ∈ ∆λ joignant la ligne j ` a la colonne i. Tous les graphes consid´er´es seront finis, c’est-`a-dire que les ensembles V et E sont finis. 2.1.2. — Une carte bipartie M est un graphe biparti G sans sommet isol´e (5) et muni, pour chaque sommet v, d’un ordre cyclique sur l’ensemble Ev des arˆetes adjacentes `a v ; un tel ordre cyclique d´efinit sur Ev une permutation circulaire γv (et r´eciproquement). La donn´ee de la partition (Ev )v∈V◦ et des permutations circulaires γv ´equivaut, via la d´ecomposition en cycles, ` a la donn´ee d’une permutation σ de E. De mˆeme, au moyen des sommets noirs, on d´ecrit une autre permutation τ de E. Autrement dit, une carte bipartie est la repr´esentation combinatoire d’une paire de permutations σ, τ d’un ensemble fini E ; on la notera Mσ,τ . ` chaque sommet v, nous Il est bon d’introduire une repr´esentation g´eom´etrique. A associons un disque orient´e Dv dont le bord ∂Dv est diss´equ´e en une famille d’arcs de mˆemes longueurs, index´ee par Ev , de sorte que γv corresponde `a une rotation d’angle ` chaque arˆete e, on associe un rectangle orient´e Re dont 2π/|Ev | dans le sens positif. A le bord est compos´e des arˆetes e (orient´ee du blanc vers le noir), e¯ (orient´ee en sens inverse) et les deux arcs orient´es correspondent aux disques Ds(e) et Db(e) associ´es a ses extr´emit´es. On recolle ensuite les disques Dv et les rectangles Re , de mani`ere ` compatible avec les orientations, et l’on obtient une surface S(M ) (voir figure).

5. Autrement dit, les applications s : E → V◦ et b : E → V• sont surjectives.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

384

P. CARTIER

¯ de Le bord ∂S(M ) de cette surface se compose d’arcs orient´es index´es par E t E, ¯ sorte que deux arcs adjacents ne soient pas tous deux dans E, ou tous deux dans E. La d´ecomposition de ce bord en composantes connexes Γα correspond `a la d´ecomposition en cycles de στ : dans Γα , un arc sur deux est dans E et la permutation circulaire associ´ee ` a στ fait passer d’un arc dans E au suivant dans E dans le sens de l’orientation.

¯ on a la d´ecomposition en cycles de τ σ. En ´echangeant les rˆ oles de E et E, Il revient au mˆeme de supposer que le graphe G(M ) sous-jacent `a M et la surface S(M ) soient connexes. Le bord ∂S(M ) n’est pas toujours connexe, mais on le supposera d´esormais connexe. Ceci revient `a supposer que στ et τ σ ont un seul cycle. On dit dans ce cas que la carte est unicellulaire. Si l’on choisit de plus une arˆete e1 (la racine), et qu’il y ait k arˆetes, il existe une num´erotation e1 , . . . , ek des arˆetes et une seule, telle que τ σ soit ´egal au cycle γk = (12 . . . k). En r´esum´e, les factorisations γk = τ σ dans Sk correspondent bijectivement aux cartes biparties unicellulaires enracin´ees ` a k arˆetes. 2.1.3. — Il est bien connu que, dans un graphe connexe `a k arˆetes, le nombre des sommets est au plus ´egal ` a k + 1, et les arbres sont les graphes connexes `a k arˆetes et k + 1 sommets. Si l’on note C(σ) l’ensemble des cycles d’une permutation σ, dans la carte associ´ee ` a une factorisation γk = τ σ il y a |C(σ)| sommets blancs et |C(τ )| sommets noirs, d’o` u l’in´egalit´e |C(σ)| + |C(τ )| 6 k + 1 , sur laquelle nous reviendrons ` a la section 2.3.3. Nous dirons que la factorisation γk = τ σ est minimale si l’on a ´egalit´e dans la relation pr´ec´edente. Noter aussi que dans un arbre ` a racine noire, les sommets noirs sont ceux qui sont `a distance paire de la racine ; de la sorte, le coloriage des sommets est automatique. On a donc un corollaire du r´esultat ci-dessus : les factorisations minimales γk = τ σ correspondent aux arbres plans enracin´es a ` k arˆetes et k + 1 sommets (6) . La surface associ´ee ` a un tel arbre est hom´eomorphe `a un disque. 6. On a choisi plus haut pour racine d’une carte une des arˆ etes. Ceci est conforme aux conventions pour les arbres plans, si l’on prend pour arˆ ete privil´ egi´ ee e1 la plus ` a gauche pointant vers le sommet racine suppos´ e noir.

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

385

2.2. Calcul des caract` eres 2.2.1. — Pr´ecisons d’abord ce qu’on entend par s´erie formelle ` a une infinit´e de vaQ i correspond a ` une application α:I→N riables xi (i ∈ I). Un monˆ ome xα = i∈I xα i telle que l’ensemble des i avec αi 6= 0 soit fini. Une s´erie formelle est une combinaison P lin´eaire de la forme α∈M cα xα , o` u les cα appartiennent `a l’anneau de base K, et o` u M est l’ensemble des monˆ omes (« une infinit´e de monˆomes dont chacun ne d´epend que d’un nombre fini de variables »). ` toute 2.2.2. — Soit G un graphe biparti, avec l’ensemble des sommets V = V◦ t V• . A (7) ∗ application ϕ : V → N on associe le monˆome mϕ Y Y qϕ(w) pϕ(v) mϕ = w∈V•

v∈V◦

en les variables p1 , p2 , . . . , q1 , q2 , . . . On d´esigne par NG la s´erie formelle dans Z[[p1 , p2 . . . ; q1 , q2 , . . . ]] somme des monˆomes mϕ pour toutes les applications ϕ croissantes au sens suivant : s’il existe une arˆete allant du sommet blanc v au sommet noir w, on a ϕ(v) 6 ϕ(w). Cette s´erie NG ne d´epend que du graphe r´eduit Gred obtenu en identifiant deux arˆetes ayant les mˆemes extr´emit´es. 2.2.3. — Soient G un graphe biparti, et λ une partition de taille |λ| = n. On a d´efini le graphe biparti Gλ ` a la section 2.1.1. La notion de morphisme de graphes bipartis est ´evidente : un morphisme Φ du graphe biparti G = (V◦ , V• , E) dans le graphe biparti G0 = (V◦0 , V•0 , E 0 ) se compose de trois applications Φ◦ : V◦ → V◦0 ,

Φ• = V• → V•0 ,

Φe : E → E 0

rendant commutatif le diagramme suivant : V◦ o

s

Φ◦

 V◦0 o

E

b

Φe 0

s

 E0

/ V• Φ•

b

0

 / V•0 .

On note alors NG (λ) le nombre de morphismes de G dans Gλ . Ce nombre ne d´epend que du graphe r´eduit Gred associ´e `a G. 2.2.4. — Voici le lien entre ces deux d´efinitions : si le diagramme de Young ∆λ est de la forme p × q, avec deux compositions p = (p1 , . . . , pm ) et q = (q1 , . . . , qm ), on a NG (λ) = NG (p1 , p2 , . . . , pm , 0, 0, . . . ; q1 , q2 , . . . , qm , 0, 0 . . . ) .

7. Rappelons que N d´ esigne l’ensemble des entiers n > 0, et N∗ celui des entiers n > 1.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

386

P. CARTIER

Exemples : • on a NG (p × q) = p|V◦ | q |V• | pour tout graphe biparti G ;

• si λ = p × q, on a

(λ) =

X i6j

• on a

=

P

pi qj = |λ| ;

pi pj qk q` , la somme ´etant ´etendue aux syst`emes tels que i 6 k,

j 6 k, j 6 `. 2.2.5. — Fixons un entier k > 1. Si λ est une partition d’un entier n > k, on consid`ere Sk comme un sous-groupe de Sn , et donc la valeur χλ (π) du caract`ere irr´eductible χλ de Sn en l’´el´ement π de Sk est bien d´efinie. On utilise la normalisation suivante, due a Kerov et Olshanski [B5] ` Chπ (λ) =

n! χλ (π)/χλ (1) . (n − k)!

Comme la valeur des caract`eres en un ´el´ement π ne d´epend que de la partition µ d´ecrivant la d´ecomposition en cycles de π, on ´ecrira Chµ (λ) pour Chπ (λ) ; on a pour param`etres la partition µ de k, fix´ee, et la partition λ de n, variable. La normalisation ci-dessus a pour effet que Chµ (p × q) va ˆetre repr´esent´e comme un polynˆ ome en p1 , . . . , pm ; q1 , . . . , qm . Le point de d´epart est la formule de Stanley [B7] X Chπ (p × q) = ε(τ ) p|C(σ)| q |C(τ )| , στ =π

qu’il s’agit de g´en´eraliser. 2.2.6. — Soient σ et τ dans Sk . D’apr`es la construction de la section 2.1.2, on associe a σ, τ une carte bipartie Mσ,τ d´ecrite ainsi : ` • l’ensemble V◦ des sommets blancs est l’ensemble C(σ) des cycles de σ ; • de mˆeme, on a V• = C(τ ) ;

• l’ensemble des arˆetes est donn´e par E = [k] ;

• la source s(i) d’une arˆete i ∈ [k] est le cycle de σ contenant i, et de mˆeme b(i) est le cycle de τ contenant i. On note Gσ,τ le graphe biparti r´eduit associ´e `a Mσ,τ . Les sommets blancs (resp. noirs) sont les cycles de σ (resp. τ ), et il y a une arˆete joignant c1 ∈ C(σ) `a c2 ∈ C(τ ) si et seulement si c1 ∩ c2 est non-vide. On ´ecrit Nσ,τ pour NGσ,τ ; c’est une s´erie formelle ` a coefficients entiers en les variables p1 , p2 , . . . ; q1 , q2 , . . . 2.2.7. — Voici maintenant le r´esultat central de V. F´eray [B3], conjectur´e pr´ealablement par R. Stanley [B7]. La version que nous en donnons, aussi bien pour l’´enonc´e que pour la d´emonstration, suit l’article [C3] publi´e par F´eray en collaboration avec ´ Sniady.

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

387

´ore `me 2.1. — Soient π un ´el´ement de Sk et λ une partition d’un entier n > k. The On a X Chπ (λ) = ε(τ ) Nσ,τ (λ) τ σ=π

(sommation sur σ, τ dans Sk ). La d´emonstration comporte plusieurs ´etapes. 1) Rappelons la d´efinition du sym´etriseur de Young X Cλ = ε(τ ) eστ ; on a choisi un tableau T de forme λ, σ parcourt le groupe L(T ) et τ le groupe C(T ). Si l’on pose αλ := n!/dλ (o` u dλ est le degr´e de la repr´esentation ρλ de Sn associ´ee `a λ), on 2 a Cλ = αλ Cλ , donc pλ := αλ−1 Cλ est un idempotent, et l’espace de la repr´esentation ρλ est C(Sn ) · pλ . Il en r´esulte que la valeur χλ (π) du caract`ere χλ de ρλ est la trace de l’op´erateur x 7→ eπ x pλ dans C(Sn ). Un calcul facile donne X ˜σ,τ (λ) n! χλ (σ)/dλ = ε(τ ) N τ σ=π

pour tout π dans Sn . La sommation est ´etendue aux factorisations de π dans Sn , et ˜σ,τ (λ) est le nombre de tableaux T de forme λ tels que σ ∈ L(T ) et τ ∈ C(T ). AutreN ment dit, on compte les bijections de [n] sur ∆λ qui se d´eduisent d’un isomorphisme du graphe biparti Gσ,τ sur le graphe biparti Gλ associ´e ` a λ. 2) Il y a deux restrictions dans la formule pr´ec´edente : tout d’abord k = n, et ˜σ,τ (λ). Pour traiter le cas k < n, on note que n! est Nσ,τ (λ) est remplac´e par N (n−k)! le nombre d’applications injectives θ : [k] → [n], que toute application de ce type transforme un ´el´ement σ de Sk en une permutation de θ([k]) que l’on prolonge en un P ´el´ement σθ de Sn qui fixe les ´el´ements de [n]\θ([k]). La somme θ eσθ appartient au centre de l’alg`ebre de groupe C(Sn ), et donne un scalaire dans toute repr´esentation irr´eductible de Sn (« lemme de Schur ») (8) . 3) On obtient alors la relation (4)

Chπ (λ) =

X

˜σ,τ (λ) ε(τ ) N

π=τ σ

˜σ,τ (λ) compte les applications injectives f de [k] dans ∆λ qui d´efinissent un o` u N morphisme de graphes bipartis de Gσ,τ dans Gλ . Il faut se d´ebarrasser de l’hypoth`ese

8. Voir ` a la section 2.3.2 un raisonnement analogue.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

388

P. CARTIER

que f est injective. Or la somme qui nous int´eresse s’´ecrire X ε(τ )

P

ε(τ ) Nσ,τ (λ) peut aussi

π=τ σ

f,σ,τ

avec les conditions • σ ∈ Sk , τ ∈ Sk , τ σ = π ;

• f est une application de [k] dans ∆λ ;

• f (i) et f (σ(i)) sont dans la mˆeme ligne pour tout i ;

• f (i) et f (τ (i)) sont dans la mˆeme colonne pour tout i.

Montrons que la contribution pour une fonction f non injective fix´ee est nulle : en effet, si l’on a a 6= b et f (a) = f (b), `a toute factorisation π = τ σ comme ci-dessus, on en fait correspondre une autre π = τ 0 σ 0 avec σ 0 = (ab) · σ, τ 0 = τ · (ab) et comme (ab) est une transposition, on a ε(τ 0 ) = −ε(τ ), et les termes de la somme sur σ, τ s’annulent par paires. 2.3. L’alg` ebre Λ et les polynˆ omes de Kerov 2.3.1. — Nous d´efinissons le degr´e d’un polynˆome ou d’une s´erie formelle en les pi et les qi en donnant le degr´e 1 ` a pi et `a qi . Ayant choisi un anneau commutatif K de coefficients, nous noterons Φs (ou Φs (K)) le module des s´eries formelles en les pi et les qi homog`enes de degr´e s. La somme directe des Φs (pour s entier > 0) sera not´ee Φ ou Φ(K). Pour tout graphe biparti G ` a s sommets, la s´erie NG est somme de monˆomes de degr´e s, donc appartient ` a Φs (Z). Le th´eor`eme de F´eray, d´ecrit `a la section 2.2.7, P s’´ecrit Chµ = τ σ=π ε(τ ) NGσ,τ (µ partition de k, correspondant `a la d´ecomposition en cycles de π ∈ Sk , avec σ, τ parcourant Sk ) ; il montre que les Chµ appartiennent `a Φ. Nous noterons Λ(K) (ou Λ) le sous-K-module de Φ(K) engendr´e par les « caract`eres » Chµ pour toutes les partitions µ. 2.3.2. — Il est imm´ediat que si un graphe biparti G est r´eunion disjointe de deux sous-graphes bipartis G0 et G00 on aura NG = NG0 · NG00 . On peut aussi montrer que le produit de deux Chµ appartient encore `a Λ(K), donc que Λ(K) est une K-alg`ebre commutative. F´eray le d´emontre dans l’exemple Ch2 · Ch2 ; vu sa d´efinition, on a Ch2 (λ) = n(n − 1) ψ λ ((12)) =

X

λ

ψ ((ij)) = ψ

λ

! X (ij) i6=j

P la somme portant sur les couples i, j avec i 6= j dans [n]. L’´el´ement i6=j (ij) λ appartient au centre de l’alg`ebre K(Sn ). De plus ψ est multiplicatif sur ce centre. Par un calcul dans ce centre, on trouve l’identit´e Ch2 · Ch2 = Ch22 + 4 Ch3 + 2 Ch11 . ´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

389

Noter que Chµ n’est pas un ´el´ement homog`ene de Φ car le terme Nσ,τ correspondant a une factorisation π = τ σ est homog`ene de degr´e |C(σ)| + |C(τ )|. ` 2.3.3. — Examinons ce point de plus pr`es. Pour toute permutation σ de Sk , posons |σ| = k − |C(σ)| o` u |C(σ)| repr´esente le nombre de cycles de σ. On sait que l’on a |σ| = 1 pour une transposition (ij), qu’on a |1| = 0 et plus g´en´eralement que |σ| est le nombre minimal de facteurs dans une d´ecomposition σ = t1 . . . t` en produit de transpositions. On en d´eduit aussitˆot |π| 6 |σ| + |τ | si π = τ σ dans Sk , d’o` u |C(σ)| + |C(τ )| 6 |C(π)| + k . Si µ est le type cyclique de π, on a k = |µ| et |C(π)| est le nombre de parts (ou longueur) `(µ) de µ. Conclusion : Chµ est somme de termes homog`enes de degr´es 6 |µ| + `(µ). De plus, les relations ε(σ) = (−1)|σ| , ε(τ ) = (−1)|τ | , ε(στ ) = ε(σ) ε(τ ) montrent que tous les termes du d´eveloppement de Chµ sont homog`enes de degr´e |µ|+ `(µ) − 2` avec ` > 0 entier. Lorsque µ = k a une seule part, cela correspond au cas o` u n! π est conjugu´e ` a la permutation circulaire γk , et l’on a Chk (λ) = (n−k)! χλ (γk )/χλ (1) pour toute partition λ de taille n > k. D’apr`es ce qui pr´ec`ede, Chk est somme de termes homog`enes de degr´es 6 k + 1. On notera Rk+1 le terme homog`ene de plus haut degr´e k + 1 de Chk . 2.3.4. — D’apr`es ce qu’on a vu en 2.3.2, Rk+1 est la somme des termes ε(τ ) Nσ,τ correspondant aux factorisations τ σ = γk pour lesquelles |C(σ)| + |C(τ )| = k + 1 ; ˜ σ,τ sous-jacent `a la carte Mσ,τ poss`ede k arˆetes autrement dit, le graphe connexe G et k + 1 sommets ; il est donc r´eduit (sans arˆete multiple) et c’est un arbre, enracin´e, plan, comme on l’a vu ` a la section 2.1.3. En conclusion, on a (avec une d´etermination facile du signe) X R` = (−1)n0 (T )+1 NT , T

o` u la somme est ´etendue ` a tous les arbres plans enracin´es T `a ` sommets, ` − 1 arˆetes et n0 (T ) sommets blancs (voir [C3]). Exemples :

Notons aussi qu’on a Ch1 = R2 ,

Ch2 = R3 ,

Ch3 = R4 + R2 .

De mani`ere g´en´erale, pour obtenir les termes de plus haut degr´e de Chµ , pour une partition (µ1 , . . . , µ` ) de k, on doit s’int´eresser aux d´ecompositions π = τ σ minimales, c’est-` a-dire pour lesquelles |C(σ)| + |C(τ )| = |C(π)| + k. On les obtient comme ´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

390

P. CARTIER

suit : si π est d´ecompos´e en cycles γ1 , . . . , γ` de longueurs respectives k1 , . . . , k` (avec k1 + · · · + k` = k), on choisit des d´ecompositions minimales γi = τi σi dans Ski , et l’on pose τ = τ1 . . . τ` , σ = σ1 . . . σ` . Ceci prouve que le terme de plus haut degr´e Q` de Chµ est i=1 Rµi +1 (et ce degr´e est |µ| + `(µ)). En plus, ces deux polynˆomes ont mˆeme parit´e (comme on l’a vu a` la section 2.3.3), donc leur diff´erence est de degr´e 6 |µ| + `(µ) − 2. 2.3.5. — Il r´esulte des travaux de Kerov, Olshanski, Ivanov et Biane (voir [B5], [C1] et [C4]) que Λ est l’alg`ebre des polynˆ omes en R2 , R3 , . . . Par suite, on peut ´ecrire Chk = Kk (R2 , R3 , . . . ) o` u l’on a introduit le polynˆ ome de Kerov Kk `a coefficients entiers. Le r´esultat suivant a ´et´e conjectur´e par Kerov en 2000, prouv´e par F´eray en 2009 dans [B2]. ´ore `me 2.2. — Le polynˆ The ome de Kerov a des coefficients entiers positifs. Nous allons donner un aper¸cu de la d´emonstration. 2.3.6. — Commen¸cons par ´enoncer le principe d’inclusion-exclusion cyclique. Soit G un graphe biparti r´eduit (sans arˆete double), et soit E l’ensemble de ses arˆetes. Soit C un cycle orient´e dans G, et soit EC l’ensemble des arˆetes de C orient´ees d’un sommet blanc vers un sommet noir ; cela constitue la moiti´e des arˆetes. On a alors la relation X (IE) (−1)|F | NG\F = 0 , F ⊂EC

o` u G\F d´esigne le graphe G dont on a supprim´e les arˆetes appartenant `a F . Pour faire la d´emonstration, on peut oublier le reste du graphe, et se ramener au cas o` u G est un cycle biparti (c’est-` a-dire de longueur paire avec un coloriage adapt´e). Illustrons l’exemple typique d’un cycle de longueur 4 ; on a la relation NG0 − NG1 − NG2 + NG3 = 0 pour les graphes

On a ` a consid´erer des sommes de monˆomes pi pj qk q` (o` u on a num´erot´e les sommets blancs par i, j et les noirs par k, `). Chacun des graphes correspond `a un syst`eme d’in´egalit´es, et l’analyse est facile. Le cas g´en´eral est analogue. En corollaire, on a un algorithme pour r´eduire toute s´erie de la forme NG , donc aussi les Chµ , en polynˆ omes ` a coefficients entiers en les NT , o` u T est un arbre plan, enracin´e. En fait, on peut faire mieux. Consid´erons un graphe biparti G = (V◦ , V• , E) muni d’une composition (V◦1 , . . . , V◦` ) de V◦ , et d’une composition (V•1 , . . . , V•` ) de V• , de sorte que l’ensemble des arˆetes est la partie E de V◦ × V• r´eunion des V◦i × V•j ´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

391

pour 1 6 i 6 j 6 `. Si l’on pose c◦ (i) = |V◦i | et c• (i) = |V•i |, le graphe est d´efini ` a isomorphisme pr`es par les deux compositions c◦ = (c◦ (1), . . . , c◦ (`)) et c• = (c• (1), . . . , c• (`)). Ce n’est autre que le graphe Gλ associ´e `a la partition λ = c◦ × c• (cf. section 2.1.1). On notera N (c◦ , c• ) la s´erie NG correspondante. On montre alors sur la d´efinition explicite des s´eries NG (p1 , p2 , . . . ; q1 , q2 , . . . ) que les s´eries N (c◦ , c• ) sont lin´eairement ind´ependantes. De plus, par utilisation de la relation (IE) pour les cycles de longueur 4, on peut exprimer les s´eries NG (donc aussi Chµ , Chk , Rk ) dans la base form´ee des N (c◦ , c• ) avec des coordonn´ees enti`eres. 2.3.7. — Pour achever la d´emonstration, nous aurons besoin de la notion de graphe expanseur de type ν, o` u ν = (ν1 > ν2 > · · · > νr ) est une partition. Soient donc G un graphe biparti, et h une fonction d´efinie sur l’ensemble V◦ `a valeurs enti`eres > 2. On suppose que le multi-ensemble h(V◦ ) (i.e. la famille de ces entiers avec r´ep´etition ´eventuelle) se r´earrange en la partition ν. On dira que le graphe d´ecor´e (G, h) est expanseur si la propri´et´e suivante est v´erifi´ee : Pour toute partie V de V◦ , non vide, contenue dans une composante connexe de G, P et distincte d’elle, on a |V | + n(V ) > v∈V h(v), o` u n(V ) est le nombre de sommets noirs connect´es ` a un sommet blanc dans V . ´ Dolega, F´eray et Sniady montrent dans [B1] que le coefficient du monˆ ome ,

Rν1 . . . Rνr dans le polynˆ ome de Kerov Kk (R2 , R3 , . . . ) est ´egal au nombre de cartes biparties, unicellulaires, enracin´ees, avec k arˆetes, munies d’une d´ecoration h de type ν sur les sommets blancs, qui en fasse un graphe expanseur. Ce coefficient est donc un entier positif. La notion de graphe expanseur n’est pas nouvelle (voir [B4] pour une revue). La d´emonstration suppose un bon soin dans le contrˆole des signes. 2.3.8. — En conclusion, on peut formuler le th´eor`eme 2.1 de la mani`ere suivante. Pour tout entier k > 1, notons Mk l’ensemble des cartes biparties, avec k arˆetes dont une marqu´ee, unicellulaires (9) . On note Tk le sous-ensemble de Mk constitu´e des arbres planaires, enracin´es, avec k arˆetes (donc k + 1 sommets). On a alors X Chk = (−1)k (−1)|V◦ (M )| NG(M ) M ∈Mk

Rk+1 = (−1)k

X

(−1)|V◦ (T )| NG(T )

T ∈Tk

en notant G(M ) le graphe r´eduit associ´e `a M , et de mˆeme pour G(T ).

9. C’est-` a-dire avec un bord connexe.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

392

P. CARTIER

Comme Chk a Rk+1 pour terme de plus haut degr´e, l’alg`ebre Λ est aussi l’alg`ebre de polynˆ omes K[Ch1 , Ch2 , . . . ], mais la graduation n’est pas compatible. Comme Rµ1 +1 . . . Rµ` +1 est le terme de plus haut degr´e de Chµ pour µ = (µ1 > · · · > µ` ), on voit aussi que les s´eries Chµ forment une base de l’alg`ebre Λ. ´ 2.4. Evaluations asymptotiques Les formules exactes donn´ees pour les valeurs des caract`eres redonnent facilement les formules asymptotiques sur les diagrammes de Young, telles qu’elles ont ´et´e d´ecouvertes en 1977 par Kerov et Vershik dans [C6] et par Logan et Schepp dans [C7]. 2.4.1. — Notons Yn l’ensemble des partitions de n (ou des diagrammes de Young de taille n). Rappelons la formule bien connue en th´eorie des groupes  X |Sn | = n! si π = 1 λ dλ χ (π) = 0 si π 6= 1 . λ∈Yn P Faisant π = 1, on a donc λ d2λ = n!, d’o` u une mesure de probabilit´e Pn sur Yn attribuant la probabilit´e Pn (λ) := d2λ /n! au point λ (« mesure de Plancherel »). De plus, la moyenne sur Yn de la fonction λ 7→ ψ λ (π) = χλ (π)/dλ est ´egale `a δπ,1 . 2.4.2. — Introduisons l’espace fonctionnel L form´e des applications ω : R → R qui satisfont aux deux conditions : • il existe A > 0 tel que ω(x) = |x| pour |x| > A ;

• ω est 1-lipschitzienne, c’est-` a-dire qu’on a l’in´egalit´e |ω(x) − ω(y)| 6 |x − y| pour x, y r´eels. On le munit de la distance d(ω, ω 0 ) = sup |ω(x) − ω 0 (x)| . x∈R

Cette formule a un sens car la fonction x 7→ ω(x) − |x| est continue et born´ee pour ω ∈ L. Noter aussi que toute fonction ω ∈ L a presque partout une d´eriv´ee ω 0 et qu’on a −1 6 ω 0 (x) 6 1 pour presque tout x. D’apr`es le th´eor`eme d’Ascoli, pour tout A > 0, le sous-espace LA de L, form´e des fonctions ω telles que ω(x) = |x| lorsque |x| > A, est compact ; par suite, l’espace m´etrique L est r´eunion des sous-espaces m´etriques compacts L1 ⊂ L2 ⊂ L3 ⊂ . . . Autrement dit, l’int´egration ` a la Lebesgue fonctionne parfaitement dans l’espace L. 2.4.3. — Nous allons d’abord recalibrer les fonctions ωλ introduites `a la section 1.1.6. Pour toute partition λ de n, posons (10) ω ¯ λ (x) = n−1/2 ωλ (n1/2 x) . 10. Intuitivement,qcela revient ` a dessiner le diagramme de Young (en version russe) avec des pe2 , d’o` u n carr´ es d’aire 2/n. Cela revient ` a multiplier les coordonn´ ees multin

tits carr´ es de cˆ ot´ e

rectangulaires pi , qi par

´ ASTERISQUE 361

√1 . n

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

393

Alors l’aire de la r´egion de R2 d´efinie par les in´egalit´es |x| 6 y 6 ω ¯ λ (x) est ´egale ` a 2, ind´ependamment de n. Il est clair aussi que la fonction ω ¯ λ appartient a L. L’image par l’application ω ` ¯ (n) : λ 7→ ω ¯ λ de Yn dans L de la loi de probabilit´e Pn sur Yn est une loi de probabilit´e Πn sur L. Par ailleurs, on d´efinit un ´el´ement Ω de L par la formule  |x| si |x| > 2   Ω(x) = 2  x 2 1/2 x arcsin + (4 − x ) si |x| 6 2 . π 2

Soit aussi δΩ la masse unit´e au point Ω de L.

2.4.4. — Voici maintenant le th´eor`eme asymptotique de Kerov, Vershik, Logan et Schepp : ´ore `me 2.3. — Dans l’espace m´etrique L, la suite des mesures de probabilit´e Πn The tend vers δΩ . Employons un langage plus pittoresque : consid´erons pour n > 1 une partition al´eatoire λ(n) de taille n, choisie selon la loi de probabilit´e Pn sur Yn . Faisons subir a la courbe al´eatoire Cn : y = ωλ(n) (x) dans R2 une homoth´etie de rapport n−1/2 ` (qui la ram`ene dans une r´egion finie). Soit C¯n la courbe al´eatoire obtenue. Alors en probabilit´e, la courbe C¯n tend vers la courbe C∞ d´efinie par y = Ω(x) (voir la figure donn´ee dans l’introduction). 2.4.5. — Voici quelques points saillants de la d´emonstration. Il faut d’abord s’assurer que la suite des mesures Πn est « tendue » (tight en anglais international !). Autrement dit, pour tout ε > 0, il existe une partie compacte de la forme LA telle que Πn (LA ) > 1 − ε pour tout n > 1. Il faut ensuite s’assurer que pour tout A > 0 et toute fonction continue F sur LA , on a Z lim

n→∞

LA

F · d Πn = F (Ω) .

Pour cela, on peut utiliser le th´eor`eme de Stone-Weierstrass qui exprime toute fonction continue F sur l’espace compact LA comme limite uniforme de polynˆomes en une suite s´eparante de fonctions continues sur LA . C’est le moment d’introduire les moments tk (pour k > 2) de la section 1.1.8 ; la th´eorie des moments montre que c’est une suite s´eparante. On utilise alors les faits suivants : a) Une relation alg´ebrique k   1X k tk = k r=1 r

X

R`1 R`2 . . . R`r

`1 +···+`r =k

qui permet de naviguer de la suite (R2 , R3 , . . . ) `a la suite (t2 , t3 , . . . ) et vice-versa.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

394

P. CARTIER

Dans la th´eorie des probabilit´es libres, c’est la formule reliant les moments tk d’une variable al´eatoire ` a ses cumulants libres Rk . b) L’homog´en´eit´e des Rk permet de montrer que l’on a (avec l’abus de notation h1/√n pour les homoth´eties) lim R2 (h1/√n λ) = 1

(calcul d’aire)

lim Rk (h1/√n λ) = 0

pour k > 3 .

n→∞ n→∞

c) Les moments de la fonction Ω ´etant d´efinis par Z 2 1 tk (Ω) = (Ω(x) − |x|) xk−2 dx , 2 −2 la fonction Ω est caract´eris´ee par les valeurs  t2k (Ω) = (2k − 1)!/(k!)2 t2k+1 (Ω) = 0 . Ces relations ´equivalent ` a R2 (Ω) = 1, Rk (Ω) = 0 pour k > 3, en utilisant la formule de a) pour d´efinir Rk (Ω). Mais le calcul de limite dans b) s’´ecrit u une formule analogue pour les limn→∞ Rk (h1/√n λ) = Rk (Ω) pour tout k > 2, d’o` moments.

Remerciements. — Tout d’abord `a Valentin F´eray, qui m’a communiqu´e ses notes de cours, et Victor Rabiet pour le prˆet de ses fichiers, en particulier ceux des figures. Les auditeurs du S´eminaire Chevalley `a Paris-Diderot ont servi de cobayes. Enfin, une fois encore, l’assistance experte et souriante de C´ecile Gourgues, pour la saisie, ne m’a pas fait d´efaut.

´ ERENCES ´ REF

´sentations des groupes finis, et en particulier syme ´triques A. Repre [A0] Combinatoire et repr´esentations du groupe sym´etrique (Strasbourg, 1976) – Lecture Notes in Math., vol. 579, Springer-Verlag, Berlin, 1977. ´ ements de math´ematique. Alg`ebre. Chapitre 8. Modules et [A1] N. Bourbaki – El´ anneaux semi-simples, 2e ´ed., Springer-Verlag, Berlin, 2012. ¨ [A2] F. G. Frobenius – « Uber die Charaktere der symmetrischen Gruppe », Sitzungsber. Akad. Wiss. Berlin (1900), p. 516–534. [A3] W. Fulton & J. Harris – Representation theory: a first course, Grad. Texts in Math., vol. 129, Springer-Verlag, New York, 1991.

´ ASTERISQUE 361

(1071)

` ´ VALEURS DES CARACTERES DES GROUPES SYMETRIQUES

395

[A4] W. Fulton – Young tableaux, London Math. Soc. Stud. Texts, vol. 35, Cambridge Univ. Press, Cambridge, 1997. [A5] G. D. James – The representation theory of the symmetric groups, Lecture Notes in Math., vol. 682, Springer-Verlag, Berlin, 1978. [A6] G. D. James & A. Kerber – The representation theory of the symmetric group, Encycl. Maths. and Appl., vol. 16, Addison-Wesley Publishing Co., Reading, 1981. [A7] D. Knutson – λ-rings and the representation theory of the symmetric group, Lecture Notes in Math., vol. 308, Springer-Verlag, Berlin, 1973. [A8] I. G. Macdonald – Symmetric functions and Hall polynomials, 2e ´ed., Oxford Math. Monogr., Oxford Univ. Press, 1995. [A9] G. de B. Robinson – Representation theory of the symmetric group, Univ. Toronto Press, 1961. [A10] B. E. Sagan – The symmetric group, Wadsworth, Pacific Grove, 1991. ¨ [A11] I. Schur – « Uber eine Klasse von Matrizen, die sich einer gegebenen Matrix zuordnen lassen », in Gesammelte Abhandlungen. Band 1, Springer-Verlag, Berlin, 1973, p. 1–72. [A12] H. Weyl – The classical groups, Princeton Univ. Press, Princeton, 1997. [A13] A. Young – « On quantitative substitutional analysis III », Proc. London Math. Soc. 28 (1928), p. 255–292.

´thodes combinatoires pour les caracte `res B. Me ´ ´ray & P. Sniady [B1] M. Dolega, V. Fe – « Explicit combinatorial interpretation , of Kerov character polynomials as numbers of permutation factorizations », Adv. Math. 225 (2010), no. 1, p. 81–120. ´ray – « Combinatorial interpretation and positivity of Kerov’s character [B2] V. Fe polynomials », J. Algebraic Combin. 29 (2009), no. 4, p. 473–507. [B3]

, « Stanley’s formula for characters of the symmetric group », Ann. Comb. 13 (2010), no. 4, p. 453–461.

[B4] S. Hoory, N. Linial & A. Wigderson – « Expander graphs and their applications », Bull. Amer. Math. Soc. (N.S.) 43 (2006), no. 4, p. 439–561. [B5] S. Kerov & G. Olshanski – « Polynomial functions on the set of Young diagrams », C. R. Acad. Sci. Paris 319 (1994), no. 2, p. 121–126. [B6] A. Rattan – « Stanley’s character polynomials and coloured factorisations in the symmetric group », J. Combin. Theory Ser. A 115 (2008), no. 4, p. 535–546.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

396

P. CARTIER

[B7] R. Stanley – « A conjectured combinatorial interpretation and irreducible character values of the symmetric group », arXiv:math.CO/0606467, 2006.

C. Diagrammes de grande taille [C1] P. Biane – « Representations of symmetric groups and free probability », Adv. Math. 138 (1998), no. 1, p. 126–181. [C2]

, « Characters of symmetric groups and free cumulants », in Asymptotic combinatorics with applications to mathematical physics (St. Petersburg, 2001), Lecture Notes in Math., vol. 1815, Springer-Verlag, Berlin, 2003, p. 185–200. ´ ´ray & P. Sniady [C3] V. Fe – « Asymptotics of characters of symmetric groups related to Stanley character formula », Ann. of Math. (2) 173 (2011), no. 2, p. 887–906. [C4] V. Ivanov & G. Olshanski – « Kerov’s central limit theorem for the Plancherel measure on Young diagrams », in Symmetric functions 2001: surveys of developments and perspectives, NATO Sci. Ser. II Math. Phys. Chem., vol. 74, Kluwer Acad. Publ., Dordrecht, 2002, p. 93–151. [C5] S. Kerov – « The asymptotics of interlacing sequences and the growth of continual Young diagrams », Zap. Nauchn. Sem. S.-Petersburg. Otdel. Mat. Inst. Steklov. (POMI) 205 (1993), p. 21–29, 179. [C6] S. Kerov & A. Vershik – « Asymptotics of the Plancherel measure of the symmetric group and the limiting form of Young tableaux », Sov. Math. Dokl. 18 (1977), p. 527–531. [C7] B. F. Logan & L. A. Shepp – « A variational problem for random Young tableaux », Advances in Math. 26 (1977), no. 2, p. 206–222. [C8] A. Okounkov – « Random matrices and random permutations », Internat. Math. Res. Notices (2000), no. 20, p. 1043–1095.

Pierre CARTIER CNRS Institut Math´ematique de Jussieu (Paris) ´ et I.H.E.S. 35, route de Chartres 91440 Bures-sur-Yvette France E-mail : [email protected]

´ ASTERISQUE 361

S´eminaire BOURBAKI 65e ann´ee, 2012-2013, no 1072, p. 397 `a 419

Juin 2013

CATEGORIFICATION OF LIE ALGEBRAS [after Rouquier, Khovanov-Lauda, ...] by Joel KAMNITZER

INTRODUCTION Categorification is the process of finding hidden higher level structure. To categorify a natural number, we look for a vector space whose dimension is that number. For example, the passage from Betti numbers to homology groups was an important advance in algebraic topology. To categorify a vector space V , we look for a category C whose Grothendieck group is that vector space, K(C) = V . If V carries an action of a Lie algebra g, then it is natural to look for functors Fa : C → C for each generator a of g, such that Fa gives the action of a on the Grothendieck group level. In this case, we say that we have categorified the representation V . There are two general motivations for trying to categorify representations. First, by studying the category C, we hope to learn more about the vector space V . For example, we get a special basis for V coming from classes of indecomposable objects of C. Second, we may use the action of g on C to learn more about C. For example, Chuang-Rouquier used categorification to prove Brou´e’s abelian defect group conjecture for symmetric groups. Recently, there has been amazing progress towards constructing categorifications of representations of semisimple (or more generally Kac-Moody) Lie algebras. In this report, we aim to give an introduction to this theory. We start with the categorification of sl2 and its representations. We explain the naive definition and then the “true” definition, due to Chuang-Rouquier [CR]. We also explain how this definition leads to interesting equivalences of categories. We then address general Kac-Moody Lie algebras, reaching the definition of the Khovanov-Lauda-Rouquier 2-category [R2, KL3]. We explain the relationship to Lusztig’s categories of perverse sheaves, due to Varagnolo-Vasserot [VV] and Rouquier [R3]. We close by discussing three fundamental examples of categorical representations: modular representation

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

398

J. KAMNITZER

theory of symmetric groups (due to Lascoux-Leclerc-Thibon [LLT], Grojnowski [Gr], and Chuang-Rouquier [CR]), cyclotomic quotients of KLR algebras (due to KangKashiwara [KK] and Webster [W1]), and quantized quiver varieties (due to Zheng [Z] and Rouquier [R3]). In order to keep the exposition readable, we have made a number of simplifications and glossed over many details. In particular, we only address simply-laced Kac-Moody Lie algebras (and when it comes to the geometry, only finite-type). We suggest that interested readers consult the literature for more details. Throughout this paper, we work over C; all vector spaces are C-vector spaces (sometimes they are actually C(q)-vector spaces) and all additive categories are C-linear. I would like to thank R. Rouquier, M. Khovanov, and A. Lauda for developing the beautiful mathematics which is presented here and for their many patient explanations (an extra thank you to A. Lauda for allowing me to use his diagrams). I also thank D. Ben-Zvi, R. Bezrukavnikov, A. Braverman, J. Brundan, C. Dodd, D. Gaitsgory, H. Nakajima, A. Kleshchev, A. Licata, D. Nadler, B. Webster, G. Williamson, and O. Yacobi for interesting discussions about categorification over many years and a special thank you to S. Cautis for our long and fruitful collaboration. Finally, I thank S. Cautis, M. Khovanov, A. Lauda, C. Liu, S. Morgan, R. Rouquier, B. Webster and O. Yacobi for their helpful comments on a first draft of this paper.

1. CATEGORIFICATION OF sl2 REPRESENTATIONS 1.1. The structure of finite-dimensional representations The Lie algebra sl2 (C) has the basis e = [ 00 10 ] , h =

1

0 0 −1



, f = [ 01 00 ] .

Consider a finite-dimensional representation V of sl2 . A basic theorem of representation theory states that h acts semisimply on V with integer eigenvalues. Thus we may write V = ⊕r∈Z Vr as the direct sum of the eigenspaces for h. Moreover the commutation relations between the generators e, f, h imply the following. (1) For each r, e restricts to a linear map e : Vr → Vr+2 . (2) Similarly, f restricts to a linear map f : Vr → Vr−2 . (3) These restrictions obey the commutation relation (1)

ef − f e|Vr = rIVr .

Conversely, a graded vector space V = ⊕Vr , along with raising and lowering operators e, f as above, defines a representation of sl2 if these operators satisfy the relation (1). The following example will be very instructive.

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

399

Example 1.1. — Let X be a finite set of size n. Let V = CP (X) be a vector space whose basis consists of the subsets of X. For r = −n, −n + 2, . . . , n, define Vr to be the span of subsets of size k, where r = 2k − n. Define linear maps e : Vr → Vr+2 , f : Vr → Vr−2 by the formulas X X T T, f (S) = (2) e(S) = T ⊃S,|T |=|S|+1

T ⊂S,|T |=|S|−1

It is easy to check that (ef − f e)(S) = (2k − n)S, if S has size k. (The basic reason is that there are n − k ways to add something to S and k ways to take something away from S.) Thus this defines a representation of sl2 . In fact, this representation is isomorphic to an n-fold tensor product (C2 )⊗n of the standard representation of sl2 . We will also need the concept of a representation of the quantum group Uq sl2 , though we will neither need nor give an explicit definition of Uq sl2 . For each integer r, let [r] :=

q r − q −r = q r−1 + q r−3 + · · · + q −r+1 q − q −1

denote the quantum integer (the second expression is only valid if r > 0). A representation of Uq sl2 is a graded C(q) vector space V = ⊕Vr along with raising e : Vr → Vr+2 and lowering f : Vr → Vr−2 operators such that ef − f e|Vr = [r]IVr . 1.2. Naive categorical action Once we think of an sl2 representation in terms of a sequence of vector spaces together with raising and lowering operators, we are led to the notion of an action of sl2 on a category. Definition 1.2. — A naive categorical sl2 action consists of a sequence Dr of additive categories along with additive functors E : Dr → Dr+2 , F : Dr → Dr−2 , for each r, such that there exist isomorphisms of functors (3) (4)

⊕r , if r > 0 EF |Dr ∼ = F E|Dr ⊕ ID r ⊕r ∼ F E|Dr = EF |Dr ⊕ IDr , if r 6 0

Suppose that the categories Dr carry a naive categorical sl2 action. Then we can construct a usual sl2 representation as follows. We set Vr = K(Dr ), the complexified split Grothendieck group. The functors E, F give rise to linear maps e : Vr → Vr+2 , f : Vr → Vr−2 and we can easily see that (3) and (4) give the commutation relation (1). Thus we get a representation of sl2 on V = ⊕Vr . We say that the categories Dr categorify the representation V = ⊕Vr .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. KAMNITZER

400

It is also useful to consider a graded version of the above definition. A graded additive category is a category C along with an additive functor h1i : C → C. We define a graded naive categorical sl2 action as above but with (3), (4) replaced by EF |Dr ∼ = F E|Dr ⊕ IDr hr − 1i ⊕ · · · ⊕ IDr h−r + 1i, if r > 0 F E|Dr ∼ = EF |Dr ⊕ IDr hr − 1i ⊕ · · · ⊕ IDr h−r + 1i, if r 6 0 The Grothendieck groups K(Dr ) will then carry an action of Uq sl2 . We will now give an example of a naive categorical action which will build on Example 1.1. In Example 1.1, we studied subsets of a finite set. There is a well-known analogy between subsets of an n-element set and subspaces of an n-dimensional vector space over a finite field Fq , where q is a power of a prime. This analogy suggests that we try n to construct a representation of sl2 on ⊕Vr , where Vr = CG(k,Fq ) is a C-vector space whose basis is G(k, Fnq ), the set of k-dimensional subspaces of Fnq (where r = 2k − n as before). If we define e, f as in (2), then we get a representation of the quantum group U√q sl2 (after a slight modification). The finite set G(k, Fnq ) is the set of Fq -points of a projective variety, called the Grassmannian. By Grothendieck’s fonctions-faisceaux correspondence, we can caten n gorify CG(k,Fq ) using an appropriate category of sheaves on G(k, Fq ). For simplicity, we switch to characteristic 0 and consider sheaves on G(k, Cn ), the Grassmannian of k-dimensional subspaces of Cn . For each r = −n, −n + 2, . . . , n, we let Dr = Dcb (G(k, Cn )) denote the bounded derived category of constructible sheaves (again here r = 2k − n). These are graded categories, where the grading comes from homological shift. With the above motivations, we will define a categorical sl2 action using these categories. For each k, we define the 3-step partial flag variety F l(k, k + 1, Cn ) = {0 ⊂ V ⊂ V ′ ⊂ Cn : dim V = k, dim V ′ = k + 1} F l(k, k + 1, Cn ) serves as a correspondence between G(k, Cn ) and G(k + 1, Cn ) and thus it can be used to define functors between categories of sheaves on these varieties. Let p : F l(k, k + 1, Cn ) → G(k, Cn ) and q : F l(k, k + 1, Cn ) → G(k + 1, Cn ) denote the two projections. We define E : Dr = Dcb (G(k, Cn )) → Dr+2 = Dcb (G(k + 1, Cn )) A 7→ q∗ (p∗ A) F : Dr → Dr−2 A 7→ p∗ (q ∗ A) The above definition of E, F parallels the definition (2).

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

401

The following result was proven in an algebraic context (i.e., after applying the Beilinson-Bernstein correspondence) by Bernstein-Frenkel-Khovanov [BFK]. Theorem 1.3. — This defines a graded naive categorical sl2 action. The proof of this theorem is relatively straightforward. To illustrate the idea, let us fix V ∈ G(k, Cn ) and consider A1 = {V ′ : V ⊂ V ′ , dim V ′ = k + 1} and A2 = {V ′ : V ⊃ V ′ , dim V ′ = k − 1}; these are the varieties of ways to increase or decrease V . Note that A1 is a projective space of dimension n − k − 1 and A2 is a projective space of dimension k − 1. Thus dim H ∗ (A2 ) − dim H ∗ (A1 ) = 2k − n. This observation combined with the decomposition theorem proves the above result. Remark 1.4. — The Grothendieck group of these categories Dr is actually infinitedimensional. To cut down to a finite dimensional situation, we can consider the full subcategories Dr′ = PSch (G(k, Cn )) consisting of direct sums of homological shifts of IC-sheaves on Schubert varieties. The subcategories Dr′ carry a naive categorical sl2 action and by considering dimensions of weight spaces, we can see that they categorify the representation (C2 )⊗n . 1.3. Categorical sl2 -action In the definition of naive categorical sl2 action, we only demanded that there exist isomorphisms of functors in (3) and (4). We did not specify the data of these isomorphisms. This is very unnatural from the point of view of category theory. However, it is not immediately obvious how to specify these isomorphisms nor what relations these isomorphisms should satisfy. In their breakthrough paper, Chuang-Rouquier [CR] solved this problem. First, it is natural to assume that the functors E, F be adjoint (this is a categorification of the fact that e, f are adjoint with respect to the Shapovalov form on any finite-dimensional representation of sl2 ). Now (assume r > 0), we desire to specify a isomorphism of functors ⊕r (φ, ψ0 , . . . , ψr−1 ) : EF |Dr → F E|Dr ⊕ ID r

so φ ∈ Hom(EF, F E) ∼ = Hom(EE, EE) (using the adjunction) and ψs ∈ Hom(EF, I) ∼ = Hom(E, E) (again using the adjunction). Thus it is natural to choose two elements T ∈ Hom(EE, EE) and X ∈ Hom(E, E) such that φ corresponds to T and ψs corresponds to X s for s = 0, . . . , r − 1. This leads us to the following definition, essentially due to Chuang-Rouquier [CR]. Definition 1.5. — A categorical sl2 action consists of (1) a sequence Dr of additive categories, with Dr = 0 for r ≪ 0, (2) functors E : Dr → Dr+2 , F : Dr → Dr−2 , for each r,

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. KAMNITZER

402

(3) natural transformations ε : EF → I, η : I → F E, X : E → E, T : E 2 → E 2 such that the following holds. (1) The morphisms ε, η are the units and counits of adjunctions. (2) If r > 0, the morphism ⊕r (σ, ε, ε ◦ XIF . . . , ε ◦ X r−1 IF ) : EF |Dr → F E|Dr ⊕ ID r

(5)

is an isomorphism, where σ : EF → F E is defined as the composition ηIEF

I T1

I

ε

FE F F EF −−−→ F EEF −− −−→ F EEF −− −→ F E.

(And we impose a similar isomorphism condition if r 6 0.) (3) The morphisms X, T obey the following relations. (a) In Hom(E 2 , E 2 ), we have XIE ◦ T − T ◦ IE X = IE 2 = T ◦ XIE − IE X ◦ T . (b) In Hom(E 2 , E 2 ), we have T 2 = 0. (c) In Hom(E 3 , E 3 ), we have T IE ◦ IE T ◦ T IE = IE T ◦ T IE ◦ 1E T . Remark 1.6. — If we work in the graded setting, then it is natural to ask that X have degree 2, i.e., that it be a morphism X : E → Eh2i. Likewise, we give T degree −2. The degrees of ε and η depend on r. At first glance, it is not apparent where the relations among the X, T come from. To motivate them, we introduce the nil affine Hecke algebra. Definition 1.7. — The nil affine Hecke algebra Hn is the algebra with generators x1 , . . . , xn , t1 , . . . , tn−1 and relations t2i = 0, ti ti+1 ti = ti+1 ti ti+1 , ti tj = tj ti if |i − j| > 1, xi xj = xj xi , ti xi − xi+1 ti = 1 = xi ti − ti xi+1 Suppose that we have a categorical sl2 -action. Then the morphisms X, T generate an action of Hn on E n . More precisely, we have an algebra morphism Hn → Hom(E n , E n ) by sending xi to IE i−1 XIE n−i and ti to IE i−1 T IE n−i−1 . The above relations among X, T ensure that the relations of Hn hold. Remark 1.8. — In their original paper, Chuang-Rouquier [CR] used relations among X, T modelled after the affine Hecke algebra or degenerate affine Hecke algebra, rather than the nil affine Hecke algebra. The nil affine Hecke relations were first introduced by Lauda [La]. The nil affine Hecke algebra arises quite naturally in the study of the topology of the flag variety. Let F l(Cn ) denote the variety of complete flags in Cn . The following result appears to be due to Arabia [Ara] (see also [Gi, Prop. 12.8]).

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

403

Proposition 1.9. — There is an isomorphism of algebras Hn ∼ = H∗GLn (F l(Cn ) × F l(Cn )) where the right hand side carries an algebra structure by convolution. 1.4. Categorical sl2 actions coming from Grassmannians Let us return to constructible sheaves on Grassmannians. Consider the functor E : Dcb (G(k, Cn )) → Dcb (G(k + p, Cn )). It is given by the correspondence with the partial flag variety p

F l(k, k + 1, . . . , k + p, Cn ) = {0 ⊂ V0 ⊂ V1 ⊂ · · · ⊂ Vp ⊂ Cn : dim Vj = k + j} The map F l(k, k+1, . . . , k+p, Cn ) → G(k, Cn )×G(k+p, Cn ) is a fibre bundle onto its image F l(k, k + p, Cn ) with fibre F l(Cp ). By Proposition 1.9 this provides an action of the algebra Hp on the functor E p . This can be used to upgrade Theorem 1.3 to the following result. Theorem 1.10. — The naive graded categorical sl2 action on Dr = Dcb (G(k, Cn )) extends to a graded categorical sl2 action. The above result is well-known but does not appear explicitly in the literature. It is a special case of the main result of [W2]. It is worth mentioning a more“elementary”version of this categorical sl2 action. For each k = 0, . . . , n, let Dr′′ be the category of finite-dimensional H ∗ (G(k, n))-modules (with r = 2k − n). We have a functor Dr → Dr′′ given by global sections. The following result was sketched by Chuang-Rouquier [CR, section 7.7.2] and a complete proof was given by Lauda [La, Theorem 7.12]. Theorem 1.11. — There exists a categorical sl2 action on Dr′′ compatible with the functor Dr → Dr′′ . This categorifies the n + 1-dimensional irreducible representation of sl2 . Moreover, this categorical sl2 representation is the simplest possible categorification of this irreducible representation; more precisely, it is a minimal categorification, according to the results of Chuang-Rouquier [CR]. A related construction was given by Cautis, Licata, and the author in [CKL]. We considered derived categories of coherent sheaves on cotangent bundles to Grassmannians Dr′′′ := Db Coh(T ∗ G(k, Cn )), where again r = 2k − n. We proved the following result. Theorem 1.12. — There is a graded categorical sl2 action on Dr′′′ where the functors E, F come from the conormal bundles to the correspondences F l(k, k + 1, Cn ). This categorifies the representation (C2 )⊗n .

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

J. KAMNITZER

404

1.5. Equivalences We will now see how a categorical sl2 action can be used to produce interesting equivalences of categories, following Chuang-Rouquier [CR]. To motivate the construction, suppose that V = ⊕Vr is a finite-dimensional repre 0 1 sentation of sl2 . Then the group SL2 acts on ⊕Vr . In particular the matrix s = −1 0 acts on V . Since s is a lift of the non-trivial element in the Weyl group of SL2 , it gives an isomorphism of vector spaces s : Vr → V−r for all r. We would like to do something similar for categorical sl2 actions. To do this, let us fix r > 0 and note that the action of s on Vr is given by s|Vr = F (r) − EF (r+1) + E (2) F (r+2) − · · · 1 where E (n) = n! E n . (Note that this sum is finite since for large enough p, Vr−2p = 0.) The alternating signs in this expression suggest that we try to categorify s using a complex. This complex was introduced by Chuang-Rouquier [CR], inspired by certain complexes of Rickard. The following result is due to Chuang-Rouquier [CR] in the abelian case and Cautis-Kamnitzer-Licata [CKL] in the triangulated case (which is the one we state below).

Theorem 1.13. — Suppose that Dr is a sequence of triangulated categories carrying a graded categorical sl2 action such that all functors E, F are exact. Then the complex S = [F (r) → EF (r+1) h−1i → E (2) F (r+2) h−2i → · · · ] provides an equivalence S : Dr → D−r . ⊕n!

Here E (n) is defined using a splitting E n = E (n) which is achieved using the action of Hn on E n (see section 4.1.1 of [R2] or section 9.2 of [La]). The maps in this complex come from the adjunctions. See section 6.1 of [CR] for more details. Example 1.14. — Suppose that we have a categorical sl2 action with just D2 , D0 , D−2 non-zero. Then choosing r = 0, the above complex has two terms S = [I → EF h−1i]. In this case, the equivalence S is actually a Seidel-Thomas [ST] spherical twist with respect to the functor E : D−2 → D0 . Thus we see that the equivalences coming from categorical sl2 actions generalize the theory of spherical twists. Chuang-Rouquier applied Theorem 1.13 to prove that certain blocks of modular representations of symmetric groups were derived equivalent. This proved Brou´e’s abelian defect group conjecture for symmetric groups. See Theorem 4.1 for the construction of the relevant categorical action. Another very interesting application of Theorem 1.13 concerns constructible sheaves on Grassmannians, as in Theorem 1.10. In this case, it can be shown that the resulting equivalence Dcb (G(k, Cn )) → Dcb (G(n − k, Cn )) is given by the Radon transform. More precisely, S is given by the integral transform with respect to the

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

405

kernel j∗ CU , where U ⊂ G(k, Cn ) × G(n − k, Cn ) is the open GLn -orbit consisting pairs of transverse subspaces (1) . Yet another application of Theorem 1.13 involves coherent sheaves on cotangent bundles of Grassmannians. In [CKL], by combining Theorem 1.13 with Theorem 1.12, we were able to construct an equivalence Db Coh(T ∗ G(k, Cn )) → Db Coh(T ∗ G(n − k, Cn )), thus answering an open problem posed by Kawamata and Namikawa. (This approach was previously suggested by Rouquier in [R1].) The exact description of the equivalence in this case was given by Cautis [C].

2. THE KHOVANOV-LAUDA-ROUQUIER CATEGORIFICATION We will now rephrase the notion of categorical sl2 action (Definition 1.5) from a more general viewpoint. We will then proceed to define the categorification of any simply-laced Kac-Moody Lie algebra. 2.1. Generalities on categorification Let C be an additive category. Let K(C) denote the (complexified) split Grothendieck group of C; this is the vector space spanned by isomorphism classes [A] of objects of C modulo the relation [A ⊕ B] = [A] + [B]. If C is a graded additive category, then K(C) is a C[q, q −1 ]-module, where we define q[A] = [Ah1i]. We can then tensor to obtain a C(q)-vector space, which we will also denote by K(C). Let V be a vector space. A categorification of V is an additive category C, along with an isomorphism of vector spaces K(C) ∼ = V . If V is a C(q)-vector space, then a categorification of V is a graded additive category C, along with an isomorphism of C(q)-vector spaces K(C) ∼ =V. We will also need the notion of categorification of algebras. A monoidal category is an additive category C, along with an additive bifunctor ⊗ : C × C → C, such that A ⊗ (B ⊗ C) = (A ⊗ B) ⊗ C (2) . If C is a monoidal category, then K(C) acquires the structure of an algebra where the multiplication is defined by [A][B] = [A ⊗ B]. Let A be an algebra. A categorification of A is a monoidal category C, along with an isomorphism of algebras K(C) ∼ = A. (This generalizes in an obvious way to C(q)-algebras and graded monoidal categories.)

1. This result will appear in a forthcoming paper by Cautis, Dodd, and the author. 2. Actually, this defines the notion of strict monoidal category.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

406

J. KAMNITZER

Example 2.1. — The simplest algebra is A = C. This algebra is categorified by Vect, the category of finite-dimensional vector spaces. Similarly, C(q) is categorified by the category of graded vector spaces. More generally, if G is a finite group, then the category Rep(G) of finite-dimensional representations of G categorifies the algebra Cc (G) of class functions on G. The isomorphism K(Rep(G)) → Cc (G) is provided by the character map. An algebra A can be regarded as a linear category with one object whose set of endomorphisms is A and where the composition of morphisms is the multiplication in A. From this perspective, it is natural to try to categorify more general categories, especially those with very few objects. To this end, we will need to look at 2-categories. A 2-category C (for our purposes) is a category enriched over the category of additive categories. That means we have a set of objects C and for any two objects A, B ∈ C, a category Hom(A, B). We also have associative composition functors Hom(B, C) × Hom(A, B) → Hom(A, C). Note that a monoidal category is the same as a 2-category with one object. The simplest example of a 2-category is Cat, the 2-category of additive categories. The objects of Cat are additive categories and for any two additive categories A, B, we define Hom(A, B) to be the category of functors from A to B (the morphisms in Hom(A, B) are natural transformations of functors). If C is a 2-category, then we will define K(C) to be the category whose objects are the same as C and whose morphism sets are defined by HomK(C) (A, B) = K(Hom(A, B)). Let A be a linear category. A categorification of A is an additive 2-category C along with an isomorphism K(C) ∼ = A. We will also need the notion of idempotent completion (or Karoubi envelope). Recall that if C is an additive category, an idempotent in C is a morphism T : A → A in C such that T 2 = T . We say that T splits if we can write A as a direct sum A = A0 ⊕A1 , such that T acts by 0 on A0 and by 1 on A1 . The idempotent completion (C)i of C is the smallest enlargement of C such that all idempotents split in (C)i . If C is a 2-category, then (C)i will denote the 2-category with the same objects, but where we perform idempotent completion on every Hom-category. 2.2. 2-categorical rephrasing for sl2 Let us apply this setup to A = U sl2 , the universal enveloping algebra. Actually we will need Lusztig’s idempotent form U˙ sl2 . Since U˙ sl2 carries a system of idempotents, we can regard it as a category. Definition 2.2. — The category U˙ sl2 has objects r ∈ Z. It is the C-linear category with generating morphisms e ∈ Hom(r, r + 2) and f ∈ Hom(r, r − 2), for all r, subject to the relation ef − f e = rIr for all r (this is an equation in Hom(r, r)).

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

407

A representation of an algebra A is the same thing as a linear functor A˙ → Vect, where A˙ is the category with one object constructed using A. Thus we can speak more generally of a representation of a linear category C as a linear functor C → Vect. In particular, we can consider linear functors U˙ sl2 → Vect. From our discussion in section 1.1, we can see that a finite-dimensional representation V = ⊕Vr of sl2 is the same thing as a linear functor U˙ sl2 → Vect which takes the object r to the vector space Vr . We also have U˙ q sl2 , which is defined in the same fashion, except that it is C(q)linear and the relation is ef − f e = [r]Ir . Now we proceed to the question of trying to categorify U˙ sl2 . Since it is a category with objects r ∈ Z, it will be categorified by a 2-category with the same set of objects. In the previous section we explained Chuang-Rouquier’s definition (Definition 1.5) of a categorical sl2 action. By thinking about this definition, we reach the definition of a 2-category which categorifies U˙ sl2 . Definition 2.3. — Let Usl2 denote the additive 2-category with (1) objects r ∈ Z, (2) 1-morphisms generated under direct sum and composition by E ∈ Hom(r, r + 2) and F ∈ Hom(r, r − 2) for all r, (3) 2-morphisms generated by X : E → E, T : E 2 → E 2 , η : I → F E, ε : EF → I subject to the relations (1) in Hom(E, E), we have εIE ◦ IE η = IE , (2) in Hom(E 2 , E 2 ), we have XIE ◦ T − T ◦ IE X = IE 2 = T ◦ XIE − IE X ◦ T , (3) in Hom(E 2 , E 2 ), we have T 2 = 0, (4) in Hom(E 3 , E 3 ), we have T IE ◦ IE T ◦ T IE = IE T ◦ T IE ◦ 1E T , (5) if r > 0, the following 2-morphism (6)

(σ, ε, ε ◦ XIF . . . , ε ◦ X r−1 IF ) : EF → F E ⊕ Ir⊕r

is an isomorphism, where σ is defined as in Definition 1.5 (plus a similar condition if r 6 0). More precisely, the last condition means that for each r, in the category Hom(r, r) we adjoin the inverse of (σ, ε, ε ◦ XIF . . . , ε ◦ X r−1 IF ). Now that we have defined the 2-category Usl2 , it is natural to consider 2-functors Usl2 → Cat (these are 2-representations of Usl2 ). With the above definition, it is easy to see that a categorical sl2 action on some categories Dr (Definition 1.5) is the same thing as a 2-functor Usl2 → Cat which takes r to Dr for all r.

´ E ´ MATHEMATIQUE ´ SOCIET DE FRANCE 2014

408

J. KAMNITZER

Remark 2.4. — In this definition, we are following Rouquier’s definition [R2] of the 2-category. In the Lauda [La] version, which we denote by U L sl2 , we do not invert (σ, ε, . . . , ε ◦ X r−1IF ), but rather add extra relations to ensure that this map is invertible. In a recent paper, Cautis-Lauda [CL] proved that under some mild assumptions a 2-functor from Usl2 to Cat gives rise to a 2-functor from U L sl2 to Cat (the converse is automatically true). The following result is due to Lauda [La]. Theorem 2.5. — The 2-category U L sl2 categorifies U˙ sl2 . Remark 2.6. — The graded version of Usl2 categorifies Lusztig’s U˙ q sl2 . There is also a more precise version of Theorem 2.5, which states that the idempotent completion (U L sl2 )i categorifies Lusztig’s Z[q, q −1 ]-form of U˙ q sl2 (if we look at the Z[q, q −1 ] version of the Grothendieck group). 2.3. The 2-category for general g Suppose that g is an arbitrary Kac-Moody Lie algebra. It is natural to try to extend the above construction from sl2 to g, in particular to construct a 2-category Ug which categorifies U˙ g. Roughly equivalent constructions of this 2-category were achieved independently and simultaneously by Khovanov-Lauda [KL1, KL2, KL3] and by Rouquier [R2]. For simplicity, we will assume that g is simply-laced. Let us fix notation as follows. Let X denote the weight lattice of g. Let I denote the indexing set for the simple roots and let αi for i ∈ I denote the simple roots. Let ZI ⊂ X be the root lattice and let NI denote the positive root cone. Let h, i denote the symmetric bilinear form on X. Then hαi , αj i are the entries of the Cartan matrix of g (these lie in the set {2, −1, 0} by assumption). We choose an orientation of the Dynkin diagram of g in order to produce a directed graph, called a quiver and denoted Q. We write i → j if there is an oriented edge from i to j in Q. The category U˙ g is constructed from Lusztig’s idempotent form of the universal enveloping algebra U g and its definition parallels U˙ sl2 (Definition 2.2). In particular, it has objects λ ∈ X and generating morphisms ei ∈ Hom(λ, λ + αi ) and fi ∈ Hom(λ, λ − αi ) for i ∈ I and λ ∈ X (for reasons of brevity, we do not give a complete list of the relations in U˙ g). As before, there is a quantum version U˙ q g which is obtained by replacing all integers in the definition of U˙ g by quantum integers. We will describe the 2-category Ug using graphical notation due to Khovanov and Lauda. In this graphical notation, 2-morphisms are viewed as string diagrams in the plane, with strings oriented and labelled from i ∈ I. The orientations and labels on the strands tell you the source and target of the 2-morphism. An arrow labelled i pointing up (resp. down) denotes Ei (resp. Fi ). For more information on this graphical notation see [La, Section 4].

´ ASTERISQUE 361

(1072)

CATEGORIFICATION OF LIE ALGEBRAS

409

Definition 2.7. — The 2-category Ug is defined as follows. – The objects are λ for λ ∈ X. – The 1-morphisms are generated by Ei ∈ Hom(λ, λ + αi ),

Fi ∈ Hom(λ, λ − αi )

for i ∈ I and λ ∈ X. – The 2-morphisms are generated by O Xi = • : Ei → Ei , Xi = • : Fi → Fi , i  i❄ _❄❄ ⑧? ❄⑧⑧ ❄ ⑧ ❄ ⑧❄❄j : Fi Fj → Fj Fi Tij = i⑧⑧⑧ ❄j : Ei Ej → Ej Ei , Tij = i⑧⑧❄  O i O i i i : Fi Ei → I, : I → Ei Fi : I → Fi Ei ,  : Ei Fi → I,  for i ∈ I and λ ∈ X. (We have suppressed λ in the above notation — it should label a region in each elementary string diagram. This label tells you the source and target of the Ei , Fi .) The 2-morphisms are subject to the following relations. – The KLR algebra relations among upward pointing string diagrams

(7)

(1) If all strands are labeled by the same i ∈ I, the nil affine Hecke algebra relations O O O O O O O O O O O O O O O O O O O O • = • O O = 0, = , − = − • • O O O O (2) For i 6= j

O (8) O i

   O      i       O    • O = O   i  j            O   i

(9)

if hαi , αj ) = 0, O j

− O j

• O j

O

• O

if i ← j,

j

i

• O O

− i

(3) For i 6= j the dot sliding relations O O O O O • • = j j i i• i

if i → j. j

O

O j

=

i

O •j

´ E ´ MATHEMATIQUE ´ SOCIET DE FR