Fonctions symétriques, polynômes de Schubert et lieux de dégénérescence

308 104 15MB

French Pages 188 Year 1998

Report DMCA / Copyright

DOWNLOAD FILE

Polecaj historie

Fonctions symétriques, polynômes de Schubert et lieux de dégénérescence

  • Commentary
  • Same as http://libgen.is/book/index.php?md5=118f198397761cd7358a9774082300f6 but with duplicate pages removed
Citation preview

Cours Spécialisés COLLECTI

Fonctions symétriques, polynômes de Schubert et lieux de dégénérescence

Numéro 3

Laurent Manivel

Comité de rédaction Michèle AUDIN Daniel BARLET (Dir.) Jean-Benoît BOST

François LOESER Joseph OESTERLÉ

Diffusion Maison de la SMF B.P. 67 13274 Marseille Cedex 9 France

AMS P.O. Box 6248 Providence RI 02940

smf©smf . univ—mrs . fr

WWW . ams . OI‘g

USA

Tarifs 1998

Vente au numéro : 200 FF (S 44) Des conditions spéciales sont accordées aux membres de la SM F.

Secrétariat : Nathalie Hermellin Cours Spécialisés Société Mathématique de France Institut. Henri Poincaré, 11, rue Pierre et Marie Curie 75231 Paris Cedex 05, France Tél : (33) 01 44 27 67 97 o Fax : (33) 01 40 46 90 96 collectioamf . ens . fr

© Société Mathématique de France 1998 Tous droits réservés (article L 122—4 du Code de la propriété intellectuelle). Toute représentation ou reproduction intégrale ou partielle faite sans le consentement de I ’e’diteur est illicite. Cette représentation ou reproduction par quelque procédé que ce soit constituerait une contrefaçon sanctionnée par les articles L 335—2 et suivants du CPI.

ISBN 2—85629—066—3

Directeur de la publication : J.-J. Risler

COURS SPÉCIALISÉS 3

FONCTIAONS SYMÉTRIQUES, POLYNOMES [DE’ SÇHUBERT ET LIEUX DE DEGENERESCENCE

Laurent Manivel

Société Mathématique de France 1998

Laurent Manivel Institut Fourier, Université Grenoble I, BP 74, 38402 Saint Martin d’Hères Cedex, France.

E—mail : Laurent .ManivelQujf —grenob1e.fr Url : http: //WWW—fourier . uj f-grenoble . fr/"manivel

Classification mathématique par sujets (1991). — 05EO5, 05E10, 14M15, 14N10, 2OC30, 57T15. Mots clefs. —- Classe de Chern, grassmannienne, groupe symétrique, homologie singulière, ordre de Bruhat, partition, permutation, polynôme de Schubert, polynôme de

Schur, représentation, tableau, variété de drapeaux, variété de Schubert.

FONCTIONS SYMÉTRIQUES, POLYNÔMES DE SCHUBERT ET LIEUX DE DÉGÉNÉRESCENCE Laurent Manivel

Résumé. — Ce cours comprend deux chapitres de nature combinatoire. Le premier est consacré aux fonctions symétriques, et aux propriétés des polynômes de Schur. Nous les étu-

dions à l’aide, en particulier, de manipulations sur les tableaux, définies à l’aide du procédé d’insertion de Knuth. Nous montrons également que ces polynômes représentent les caractères des représentations irréductibles des groupes symétriques. Le second chapitre est une étude des polynômes de Schubert, définis par A. Lascoux et M.—P. Schützenberger en termes de différences divisées. Ces polynômes sont associés aux permutations, et leur combinatoire est très liée à l’ordre de Bruhat sur les groupes symétriques, ainsi qu’à certaines algèbres de Hecke de ces groupes. Le troisième et dernier chapitre est au contraire d’essence géométrique, puisqu’il a pour thème l’étude des variétés de Schubert dans les grassmanniennes et les variétés de drapeaux. Le fait que les classes d’homologie de ces variétés soient représentées par des polynômes de Schur, ou de Schubert, permet de traduire géométriquement bon nombre des résultats

des deux premiers chapitres. Enfin, les variétés de Schubert étant des modèles universels de certains lieux de dégénérescence de morphismes entre fibrés vectoriels, nous en déduisons des expressions des classes d’homologie de ces lieux en termes de classes caractéristiques des fibrés impliqués.

Abstract (Symmetric functions, Schubert polynomials and degeneracy loci) This course begins with two chapters of combinatorial nature. The first one is devoted t0 symmetric functions, and t0 the properties of Schur polynomials, which we study with the help of Young tableaux and the Knuth insertion algorithm. We show that these polynomials can be identified with the characters of the irreducible représentations of symmetric groups.

The second chapter is a study of Schubert polynomials, which were defined by A. Lascoux and M.-P. Schützenberger in terms of divided différences. These polynomials are associated with permutations. Their combinatorics is related t0 the Bruhat order on symmetric groups, and to certain Hecke algebras of these groups.

The third and last chapter is, on the contrary, of geometrical nature, its main theme being the study of Schubert varieties inside grassmannians and flag manifolds. The fact that the

© Cours Spécialisés 3,

SMF 1998

îv

homology classes of these varieties can be represented by Schur or Schubert polynomials, allows one t0 translate in geometrical language most of the results of the first two chapters. And since these Schubert varieties are universal models for certain degeneracy loci of mor— phisms between vector bundles, we deduce expressions for the homology classes of these loci in terms of characteristic classes of the bundles involved.

COURS SPÉCIALISÉS 3

Table des matières

Introduction ................................................................

1

l. L’anneau des fonctions symétriques ........................................

7

1.1. Fonctions usuelles .................................................... 7 1.2. Fonctions de Schur .................................................... 10 1.3. La correspondance de Knuth ............................................ 16 1.4. Quelques applications aux fonctions symétriques .......................... 19

1.5. La règle de Littlewood et Richardson .................................... 25 1.6. Les caractères du groupe symétrique .................................... 35

1.7. Les polynômes de Kostka-Foulkes ...................................... 47 1.8. Comment le groupe symétrique agit sur les tableaux ...................... 54

2. Les polynômes de Schubert ................................................ 59 2.1. Permutations et ordre de Bruhat ........................................ 59 2.2. De quelques classes de permutations .................................... 66

2.3. Les polynômes de Schubert ............................................ 72 2.4. Quelques propriétés des polynômes de Schubert .......................... 79 2.5. Polynômes de Schubert simples ........................................ 82 2.6. Fonctions de Schur drapeaux ............................................ 89

2.7. Multiplication des polynômes de Schubert ................................ 97 2.8. L’énumération des mots réduits

.......................................... 103

3. Les variétés de Schubert .................................................. 107 3.1. Les grassmanniennes .................................................. 3.2. Les variétés de Schubert des grassmanniennes ............................ 3.3. Les monômes standard ................................................ 3.4. Singularités des variétés de Schubert .................................... 3.5. Classes caractéristiques et lieux de dégénérescence ........................ 3.6. Les variétés de drapeaux ................................................ 3.7. Singularités des variétés de Schubert, reprise .............................. 3.8. Lieux de dégénérescence et polynômes de Schubert ........................

107 111 118 123 128 141 151 156

vi

TABLE DES MATIÈRES

Une brève introduction à l’homologie singulière .............................. A. 1. Homologie singulière .................................................. A.2. Cohomologie singulière ................................................ A.3. Classe fondamentale et dualité de Poincaré .............................. A.4. Intersection de sous-variétés algébriques ................................

163 163 165 167 169

Bibliographie .............................................................. 1 7 1 Index

...................................................................... 177

COURS SPÉCIALISÉS 3

INTRODUCTION

CE DONT IL SERA QUESTION DANS CE COURS. — Ce texte est issu d’un cours de troisième cycle donné à l’Institut Fourier (Université Joseph Fourier, Grenoble l), durant l’année universitaire 1995-96. Il se veut d’une part une introduction à la combinatoire des fonctions symétriques, plus précisément des polynômes de Schur, ainsi qu’à celle des polynômes de Schubert. Nous y étudierons d’autre part la géométrie des grassmanniennes, des variétés de drapeaux, et surtout de leurs variétés de Schubert. Les liens profonds qui unissent, par delà nos artificielles classifications, ces deux sujets de peu de rapport a priori, ont curieusement tardé à se laisser apercevoir. Les polynômes de Schur, d’un côté, furent explicités par Jacobi dès 1841 [43]. Mais leur importance provient avant tout du rôle que leur fait jouer la théorie des représentations des groupes. C’est en effet à leur éponyme, Isaiah Schur, élève de Frobenius, que l’on doit d’avoir reconnu dans ces fonctions, dans un mémoire célèbre de 1901, les caractères irréductibles des

groupes linéaires complexes GL(n, (C) [82]. Plus encore, les polynômes de Schur décrivent aussi les représentations des groupes de permutations, étudiées par A. Young à l’aide des tableaux auxquels il a laissé son nom [98]. Les variétés de Schubert, d’un autre côté, sont des sous-variétés des grassmanniennes, ces

dernières paramétrant les sous-espaces linéaires de dimension donnée d’un espace vectoriel, en l’occurence complexe. Elles furent introduites, au siècle dernier, pour les besoins de la géo-

métrie énumérative [81]. Combien de droites de l’espace projectif coupent-elles une famille donnée de sous-espaces linéaires ? Combien de droites contient une hypersurface de degré

donné de ce même espace projectif ? Combien de coniques du plan sont-elles tangentes à cinq droites données ? Les variétés de Schubert font partie des outils forgés par les géomètres

allemands et italiens pour répondre à de telles questions. On peut en effet les traduire en termes d’intersection de certaines variétés paramétrant les objets considérés. En particulier, il arrive que le problème se ramène à celui de compter le nombre de points d’une intersection de variétés de Schubert. Or, formellement, calculer des produits de polynômes de Schur, ou des intersections de variétés de Schubert (en homologie tout au moins, ou dans l’anneau de Chow), c’est la même

chose! Mais si la réponse générale au premier de ces problèmes fut donnée par Littlewood et Richardson (sans démonstration tout à fait rigoureuse, d’ailleurs) dès 1934 [64], ce n’est

qu’en 1947 que Lesieur explicita l’analogie [62]. Le nœud, ainsi rendu visible, n’a cessé depuis de se resserrer, entre la combinatoire des partitions et des permutations d’une part, la géométrie des grassmanniennes et des variétés de drapeaux d’autre part. C’est tout le sujet de ce cours, dont voici plus précisément le contenu.

2

INTRODUCTION

CE QUE CONTIENT CE COURS... — Je l’ai divisé en trois chapitres. Le premier est consacré aux fonctions symétriques, plus particulièrement aux polynômes de Schur : ce sont des polynômes à coefficients entiers positifs, dont chacun des monômes est en correspondance avec un tableau de Young ayant la propriété d’être « semistandard ». Les propriétés combinatoires de ces tableaux ont été explorées successivement par Robinson ([77], 1938), Schensted ([80], 1961), Knuth ([48], 1970), puis Schützenberger et son école [83, 84, 96]. Elles sont encore aujourd’hui, et plus que jamais, l’objet d’un grand intérêt. Via l’introduction du monoïde plaxique, ce sont elles qui nous permettront, après bien d’autres propriétés des fonctions symétriques, de démontrer la règle célèbre de Littlewood & Richardson, qui gouverne la multiplication des polynômes de Schur. J’ai adopté cette approche pour au moins deux raisons. D’abord, parce qu’elle offre un point de vue différent de celui du traité, déjà classique, de Macdonald [66]. Ensuite, parce qu’il me donnait l’occasion de rendre plus accessible une théorie trop peu connue, me semblet-il, et dont l’importance n’a pourtant cessé de croître depuis quelques années. J ’expliquerai ensuite comment les polynômes de Schur permettent de décrire les caractères irréductibles des groupes symétriques Su. J ’établirai entre fonctions symétriques et représen— tations des groupes de permutations, le dictionnaire suivant : I

Représentations de 5,, Représentations irréductibles (1.6.6) Degrés (1.6.8) Règle de Young (1.6.14)

Fonctions symétriques Partitions de poids n (1.1.1) Nombres de tableaux standard (1.4.12) Formule de Pieri (1.2.5)

Induction (1.6.2)

Règle de Littlewood & Richardson (1.5.23)

Produit tensoriel

??????????

Cette dernière ligne pour signaler que 1e problème, pourtant fondamental, de la décomposition d’un produit tensoriel de représentations irréductibles d’un groupe symétrique, décom— position dont on sait peu de choses, reste l’un des points obscurs de la théorie. Le dictionnaire précédent ayant été établi, nous nous intéresserons aux polynômes de Kostka-Foulkes. Ce sont des «q-généralisations» des classiques nombres de Kostka (1882), dont l’intérêt provient du fait qu’ils apparaissent simultanément dans la théorie des caractères des groupes linéaires sur les corps finis GL(n, IFq) (Green 1955), dans la description de

la cohomologie des orbites nilpotentes de GL(n, C) (Kraft 1981, DeConcini & Procesi 1981, Garsia & Procesi 1992), comme polynômes de Kazhdan—Lusztig (Lusztig 1983), ou comme décrivant la statistique de la charge sur les tableaux de Young (Lascoux & Schützenberger 1978 [56]). C’est sous ce dernier aspect que nous les étudierons, pour en établir certaines des plus remarquables propriétés. Le second chapitre sera consacré aux polynômes de Schubert. Ces polynômes ont été découverts, ou inventés, en 1982 par A. Lascoux et M.-P. Schützenberger [58], qui en ont lar— gement exploré les propriétés combinatoires. Nous verrons par exemple qu’ils entretiennent des liens subtils avec les problèmes d’énumération des décompositions réduites des permutations, ou bien avec la règle de Littlewood & Richardson, dont ils permettent d’obtenir une

version particulièrement efficace.

COURS SPÉCIALISÉS 3

INTRODUCTION

3

On doit également à Macdonald un agréable compte—rendu d’une part non négligeable de cette théorie, d’ores et déjà considéré comme référence [67]. J ’ai cependant pris de manière répétée le parti de m’en écarter. En particulier, j’ai préféré reprendre l’élégante approche des polynômes de Schubert qu’ont proposée Fomin et Kirillov, en rapport avec l’équation de Yang-Baxter et les algèbres de Hecke des groupes symétriques [14]. J’ai également choisi de tirer parti de la méthode des chemins de Gessel et Viennot, méthode combinatoire qui depuis son apparition vers 1986 [28, 29], n’a cessé de démontrer sa pertinence.

Signalons que les polynômes de Schubert sont loin d’avoir révélé tous leurs secrets. On ne sait à peu près rien, par exemple, de leur multiplication, et de la règle de type Littlewood

& Richardson qui devrait la gouverner. Si les deux premiers tiers de ce cours sont de nature essentiellement combinatoire, son

troisième et dernier chapitre est d’essence géométrique. Il sera en effet consacré aux variétés de Schubert, sous—variétés des grassmanniennes, ou des variétés de drapeaux, définies par

certaines conditions d’incidence avec des sous-espaces fixés. Ces variétés ont d’abord été introduites pour les besoins de la géométrie énumérative. Dès les premiers pas de la topologie algébrique, des efforts importants ont été accomplis pour rendre rigoureux les travaux de Schubert et des géomètres énumératifs [94]. Il s’agissait en effet de résoudre le 15e problème de Hilbert, qui s’énonce comme suit [38] :

Détermination rigoureuse des nombres de la géométrie énumérative, et cela en fixant de manière plus précise les limites de leur validité, et, en particulier, des nombres que Schubert a trouvés en s’appuyant sur le principe de son calcul énumératif, dit de la position spéciale ou de la conservation du nombre. Ce programme n’est encore qu’imparfaitement accompli [47]. L’anneau de cohomologie des grassmanniennes fut cependant l’un des tous premiers à être correctement compris [94], et manifeste une étonnante analogie formelle avec l’anneau des fonctions symétriques. Un de mes premiers objectifs a été de mettre en place 1e dictionnaire qui permet de transcrire les problèmes d’intersection des variétés de Schubert, en termes de fonctions symétriques. Ce dictionnaire s’établit comme suit :

L

Grassmanniennes Variétés de Schubert (3.2.l) Incidence (3.2.3)

Classes fondamentales (3.2.9) Degrés (3.2.2) Formule de Pieri (3.2.8) Formule de Giambelli (3.2.10) Intersection (3.2.11) Postulation (3.3.5)

J

Fonctions symétriques Partitions (1 .1.1) Inclusion des partitions (1.1.1) Polynômes de Schur (1.2.1) Nombres de Kostka (1.2.3) Formule de Pieri (1.2.2) Formule de Jacobi-Trudi (1.2.4) Règle de Littlewood & Richardson (1.5.23) Partitions planes (1.4.4)

L’anneau de cohomologie des variétés de drapeaux, par ailleurs, a donné lieu à nombre de travaux importants. Citons ceux d’Ehresmann ([13], 1934), de Borel ([4], 1953) le décrivant

comme un quotient d’un anneau de polynômes, de Chevalley ([9], circa 1958), plus tard ceux de Bernstein, Gelfand & Gelfand ([2], 1973) et Demazure ([10], 1974). Ces derniers

socnânï: MATHÉMATlQUE DE FRANCE I998

4

INTRODUCTION

auteurs utilisent de façon essentielle les différences divisées de Newton, sur lesquelles repose

la définition même des polynômes de Schubert. Ces polynômes apparaissent ainsi comme des représentants, dans la présentation de Bore], des duaux de Poincaré des classes fondamentales des variétés de Schubert : représentants aux propriétés si remarquables, il faut le signaler, que la définition de leurs analogues pour des groupes de Lie complexes simples autres que SL(n, (C), continue de poser des problèmes difficiles. Dans le cas des variétés de drapeaux complets, nous mettrons en place une partie du dictionnaire suivant : Variétés de drapeaux I Polynômes Variétés de Schubert (3.6.2) Incidence (3.6.5) Classes fondamentales (3.6.13) Formule de Monk (3.6.12)

Degrés

Permutations (2.1.1) Ordre de Bruhat (2.1.2) Polynômes de Schubert (2.3.4) Formule de Monk (2.7.1)

Nombres de chaînes de permutations

Postulation

Monômes standard

Intersection

’7 ‘7 7 7 7 7 ’7 7 9 ’7 7

Les grassmanniennes se réalisent comme variétés projectives grâce aux plongements de Plücker. Après avoir montré comment s’obtiennent les équations des variétés de Schubert, nous nous intéresserons à leurs lieux singuliers, que nous décrirons explicitement. Dans le cas des variétés de drapeaux, nous établirons un critère simple de lissité. Et nous construirons des désingularisations des variétés de Schubert. Nous expliciterons ensuite le lien qui existe entre les variétés de Schubert, et les classes caractéristiques qu’associe Chern à un fibré vectoriel complexe sur une variété différentiable. On peut interpréter ces classes comme représentant par exemple les sous-variétés définies par l’annulation d’une section convenable du fibré considéré. Plus généralement, les classes d’homologie des lieux de dégénérescence de morphismes entres fibrés vectoriels, c’est-à-dire de lieux définis par certaines conditions de rang, peuvent s’exprimer en termes de classes caractéristiques. L’exemple le plus célèbre en est sans doute la formule de Thom & Porteous, qui date de 1971 [72]. En 1992, W. Fulton a obtenu une vaste généralisation de cette formule et des cousines

qu’ont lui connaissait jusqu’alors (Kempf & Laksov 1974, Pragacz 1988), en démontrant que les lieux de dégénérescence de morphismes entres fibrés vectoriels munis de drapeaux de sous-fibrés, peuvent être décrits au moyen de certains polynômes de Schubert [2l] : les variétés de Schubert jouent en l’occurence le rôle de lieux de dégénérescence universels. En particulier, pour une classe très particulière de permutations, appelées vexillaires par Lascoux et Schützenberger, on obtient des formules déterminantales dont certains exemples remontent à Giambelli. Ce cours se conclut sur la démonstration de ce résultat, dont on appréciera, je l’espère, tant la remarquable généralité de son énoncé, que la simplicité de sa démonstration. On doit d’ailleurs à Fulton un ouvrage récent sur les tableaux de Young et leur utilisation en géométrie, ouvrage dont ce cours a tiré une partie de sa substance [22]. Le lecteur intéressé y trouvera des détails sur la combinatoire des tableaux, sujet sur lequel nous avons préféré

COURS SPÉCIALISÉS 3

INTRODUCTION

5

ne pas nous attarder excessivement. La partie géométrique de ce livre est très succincte au contraire. C’est en partie du désir de la prolonger qu’est né cet ouvrage.

ET CE QU’IL AURAIT PU CONTENIR. — Ce texte n’a, faut-il le dire, pas la moindre

prétention à l’exhaustivité. Sa seule ambition est de poser quelques pierres d’un édifice qui pourrait être beaucoup plus vaste. J’aimerais donc signaler au passage quelques thèmes qui auraient pu, si le temps et les compétences ne m’avaient manqués, le compléter. Je n’ai pas considéré la théorie des représentations projectives des groupes symétriques (Schur 1911), et je me suis gardé d’évoquer les problèmes posés par la caractéristique positive : aussi bien pour étendre la théorie des représentations complexes des groupes symétriques, aux représentations sur les corps finis, que pour comprendre — problème en quelque sorte inverse du précédent — la théorie des représentations complexes des groupes linéaires à

coefficients dans un corps fini GL(n, q) [30, 66]. J’ai également fait l’impasse sur la description classique des foncteurs de Schur, qui définissent les représentations du groupe linéaire complexe. J’ai déjà mentionné le fait que les polynômes de Schur décrivent leurs caractères irréductibles : là encore, il est possible d’établir un dictionnaire assez riche entre fonctions symétriques et représentations de GL(n, (C)

[97, 66, 49]. On a d’ailleurs découvert des rapports aussi subtils que remarquables, entre certains aspects de la combinatoire des tableaux et des partitions planes, et les représentations des autres

groupes et algèbres de Lie classiques — en particulier, via la formule des caractères de Weyl [97]. Du côté géométrique, les problèmes que nous avons abordés ne sont que certains aspects de l’étude des variétés de Schubert dans les variétés de drapeaux généralisées. Celles—ci sont

définies comme des quotients X = G/P d’un groupe de Lie complexe semi-simple G’, par certains types de sous-groupes algébriques P, qualifiés de paraboliques. Ce sont des variétés projectives, dont les sous-variétés dites de Schubert sont indexées par un certain quotient WP du groupe de Weyl W de G : dans le cas des variétés de drapeaux usuelles, pour lesquelles

G = SL(n,(C), le groupe W = WP n’est autre qu’un groupe de permutations; dans le cas des grassmanniennes, WP est l’ensemble des permutations grassmanniennes de descente donnée. Ici encore, on peut obtenir une décomposition cellulaire de X, différentes descriptions de son anneau de cohomologie entière, des opérateurs de différences divisées, et des liens subtils avec la combinatoire de l’ordre de Bruhat sur le groupe de Weyl [4, 9, 2, 10]. De même, la compréhension des idéaux des variétés de Schubert requiert la définition de monômes standard, théorie qui remonte à Hodge et dont nous avons esquissé la théorie

dans le cas des grassmanniennes, Ceci aurait pu nous entraîner assez loin dans l’étude des représentations des groupes de Lie complexes [52]. Beaucoup d’attention a également été consacrée aux singularités des variétés de Schubert généralisées : elles demeurent cependant mal comprises. L’étude de ces singularités est d’ailleurs liée à celle des polynômes de Kazhdan-Lusztig (Kazhdan & Lusztig 1979, Lascoux & Schützenberger 1981, Lascoux 1995). Ces polynômes, sur lesquels nous aurions également pu nous arrêter, nous auraient eux-mêmes renvoyés à l’étude des algèbres de Hecke, que nous n’avons fait qu’effleurer.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I993

6

INTRODUCTION

Nous aurions pu, dans une direction voisine, nous permettre quelques incursions dans le monde « quantique ». D’abord, parce que certaines « q-déformations » des fonctions symétriques classiques — à commencer par les polynômes de Kostka-Foulkes — sont liées aux représentations des groupes quantiques (Lascoux, Leclerc & Thibon 1995). Ensuite, parce qu’on a pu récemment définir des anneaux de « cohomologie quantique », qui sont des déformations des anneaux de cohomologie de certaines variétés. En particulier, pour les grassmanniennes ou les variétés de drapeaux, il est possible de développer un calcul de Schubert quantique, dont la combinatoire fait à l’heure actuelle l’objet d’une étude attentive (Bertram 1994, Gi-

vental & Kim 1995, Ciocan-Fontanine 1995, Fomin, Gelfand 8L Postnikov 1996, Bertram, Ciocan-Fontanine & Fulton 1997). Enfin, il aurait été intéressant d’étudier les lieux de dégénérescence de morphismes entre fibrés vectoriels, lorsque des conditions de symétrie sont imposées. Cela nous aurait amené à introduire des outils combinatoires tout aussi remarquables que les fonctions de Schur, et d’ailleurs quasi homonymes : les Q-polynômes de Schur, qui sont directement liés aux représentations modulaires des groupes symétriques. On trouvera un développement détaillé de ce thème dans la monographie [25]. QUELQUES REMARQUES EN GUISE DE CONCLUSION. -— Terminons cette introduction sur

quelques remarques de forme. J’ai déjà dit que ce cours n’avait pas d’ambition encyclopédique : tout au plus, pourra-t-il permettre de rendre plus accessibles un certain nombre de travaux, qui ne le sont pas autant qu’on pourrait le souhaiter. Peut-être servira-t-il également de marchepied, à qui voudrait aborder des thèmes plus ambitieux. Il ne prétend pas non plus à l’originalité : il ne contient ni résultat nouveau, ni démonstration nouvelle. J’ai picoré, à gauche et à droite, un certain nombre de sources pour en extraire ce qui m’en semblait constituer la substantifique moelle. J’ai tenté d’en faire un ensemble à

la fois cohérent, et largement ouvert sur ses prolongements possibles. Par ailleurs, j’ai cherché, autant que possible, à rester élémentaire. Ce qui était facile pour les deux premiers chapitres, qui n’exigent aucune connaissance préalable, l’était un peu moins pour le troisième, où l’on utilise quelques notions rudimentaires de topologie et de géométrie algébrique. Pour venir en aide au lecteur auquel pourrait être utile un bref « digest» de l’homologie singulière, en tout cas des quelques notions que nous lui emprunterons, j’ai en partie repris, et adapté, le très agréable appendice consacré dans [22] à la topologie des variétés algébriques. En contrepartie, si je puis dire, du caractère élémentaire de beaucoup d’énoncés de ce cours, je me suis permis d’en donner des démonstrations le plus souvent sans fioritures — mais je l’espère toujours complètes, à quelques rares (et volontaires !) exceptions près. Quelques efforts seront donc parfois nécessaires de la part du lecteur, efforts de toute façon indispen— sables ne serait-ce, par exemple, que pour saisir la combinatoire des tableaux : qui prétendra comprendre la correspondance de Knuth sans l’avoir suffisamment pratiquée ? Pour aider à l’acquisition de cette pratique, j’ai saupoudré ce texte d’un certain nombre d’exercices, rarement difficiles, souvent accompagnés d’indications succinctes.

Puissent-ils soutenir le lecteur de bonne volonté, dans la découverte d’une théorie qui s’enorgueillit de quelques joyaux !

COURS SPÉCIALISÉS 3

CHAPITRE l

L’ANNEAU DES FONCTIONS SYMÉTRIQUES

L’objet d’étude fondamental de ce premier chapitre est l’anneau An des polynômes sy— métriques à coefficients entiers de n variables indépendantes. Nous nous intéresserons tout particulièrement à la famille des polynômes de Schur, dont nous montrerons que les monômes

sont en correspondance avec certains tableaux d’entiers, dits semistandard. Les différentes opérations combinatoires sur ces tableaux, qu’il est possible de définir à partir de l’algorithme d’insertion de Knuth, nous permettront d’établir certaines des propriétés les plus remarquables de cette famille de fonctions symétriques. C’est avec leur aide que nous établirons la célèbre règle de Littlewood & Richardson, qui décrit la décomposition du produit de deux fonctions de Schur en termes de ces mêmes fonctions. Nous verrons ensuite de quelle façon les polynômes de Schur permettent de décrire les caractères des représentations irréductibles des groupes de permutations, et nous nous attar-

derons assez longuement sur l’étude de ces représentations, les modules de Specht. Enfin, nous concluerons ce chapitre par une étude des polynômes de Kostka—Foulkes, qui sont des «q—généralisations» des nombres de tableaux semistandard de forme et de poids donnés. Nous établirons en particulier une conjecture de Foulkes, démontrée par Lascoux et Schützenberger, selon laquelle ces polynômes sont décrits par une certaine statistique sur les tableaux, dite de la charge. Et nous en explorerons les rapports avec l’action du groupe symétrique qu’il est possible de définir sur les tableaux semistandard.

1.1. Fonctions usuelles

1.1.1. Fonctions symétriques élémentaires. —— Commençons par quelques notations relatives aux partitions, suites finies décroissantes /\ d’entiers naturels Al Z - -- Z À, Z 0. Les

entiers A1 , . . . , A; sont les parts. La longueur l()\) désigne le nombre de parts non nulles, et le poids |/\|, la somme des parts. On se soucie peu, d’ordinaire, des parts nulles : on se permet en particulier, le cas échéant, d’en ajouter ou d’en ôter.

Le diagramme de Ferrers de A s’obtient en superposant, de haut en bas, des lignes dont l’extrémité gauche est sur une même colonne, et de longueurs données par les parts de À. Par symétrie diagonale, on obtient le diagramme de Ferrers de la partition conjuguée, que l’on notera /\*.

8

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMÉ’I‘RIQUES

l. Diagramme de Ferrers d’une partition et de sa conjuguée.

Exemple 1.1.1. — La figure ci—dessus est celle du diagramme de la partition /\ = (5, 3, 3, 2), de longueur 4 et de poids 13, et de sa partition conjuguée /\* = (4, 4, 3, 1, 1), de longueur 5 et de même poids. On notera d’ailleurs plutôt, sauf ambiguïté, /\ = 5332 et /\* = 44311.

On peut munir l’ensemble des partitions de l’ordre partiel naturel, défini par la relation d’inclusion pour les diagrammes de Ferrers. Plus utile, cependant, nous sera l’ordre partiel dit dominant, selon lequel /\ 2 p si ces deux partitions ont même poids, et si l’inégalité

/\1+"'+Ài2fl1+"'+fli est vérifiée pour tout entier i. Exercice 1.1.2. —

Montrer que l’ensemble des partitions, muni de l’un ou l’autre de ces

ordres partiels, forme un treillis : étant données deux partitions, il existe un unique élément minimal parmi ceux qui dominent (ou sont dominés par) chacune d’elles. Vérifier que pour l’ordre dominant, les partitions de poids donné forment un treillis symétrique, au sens où /\ 2 u si et seulement si M 2 /\*. La façon la plus naturelle qui soit de construire un polynôme symétrique de n variables

consiste sans doute à se donner un monôme :12" = xî‘l - - - xàn, et le symétriser. On obtient ainsi les fonctions symétriques monomiales mx =

z

x“.

a ESn (À)

Dans cette expression n’apparaissent que des monômes distincts deux à deux : /\ est une partition ayant n parts /\1 , . . . , An ; de plus, 8,, désigne le groupe des permutations des entiers compris entre 1 et n, et l’on a noté 8,, (A) l’ensemble des n-uplets d’entiers a tels que l’on ait a, = ’\w(i) pour une permutation w E S", pas nécessairement unique. Les fonctions symétriques monomiales forment une base de l’anneau An des polynômes symétriques à coefficients entiers des n variables 11:1, . . . ,œn. Pour les partitions dont les parts

non nulles sont égales à un, ces fonctions monomiales donnent en particulier les fonctions symétriques élémentaires 6k:

z Œi1"'Œz‘k, 1511< (26k) = 28),.

p. paire

k=0

À

1.2.3. Tableaux. — Les formules de Pieri s’interprètent commodément en termes de diagrammes de Ferrers : on ajoute à /\, pour calculer les produits slek ou sÀhk, des bandes verticales ou horizontales, de longueur totale k. En particulier, si l’on part d’un diagramme vide, effectuer des produits de fonctions symétriques complètes revient à construire des dia— grammes qui sont une superposition de bandes horizontales. En numérotant ces différentes bandes par les entiers successifs, on obtient un diagramme numéroté de façon croissante sur les lignes (de gauche à droite), et strictement croissante sur les colonnes (de haut en bas). On appelle tableau semistandard un tel diagramme T numéroté — on parle souvent de tableau de Young, mais nous négligerons cette référence à Alfred Young à seule fin d’alléger un

peu notre lexique. Laforme À(T) du tableau T est la partition qui lui tient lieu de support. Son poids ”(T) est la suite constituée des nombres d’apparitions dans T des entiers successifs : p(T)i est le nombre d’entrées de T égales à z', les entrées de T étant les entiers qui le numérotent. Un tableau semistandard numéroté par les entiers successifs, chacun n’apparaissant qu’une seule fois, donc de poids (1, . . . , 1), est dit standardæ). Exemple 1.2.8. — Le tableau semistandard T de la figure 3 ci-après est de forme la partition

/\(T) = 4221, et de poids u(T) = 3213.

(2)Ces tableaux ont été introduits par le révérend Alfred Young dans ses travaux sur les représentations des groupes de permutations [98].

COURS SPÉCIALISÉS 3

1.2. FONCTIONS DE SCHUR

2. Décomposition en bandes.

Corollaire 1.2.9. ———

13

1 1 1 [4 |

1 2 3 19 |

2 2 3 4

4 5 6 8

i

L7_

3. Tableau semistandard.

4. Tableau standard.

Soit KA” le nombre de tableaux semistandard de forme /\ et poids p

(ces entiers sont appelés nombres de Kostka). Alors hli = ZKÀMSÀ

et

6,. = ZKÀMSÀ"

,\

A

En particulier; si KÀ est le nombre de tableaux standard de forme À, alors eî’ =

z KA3).

|r\|=n

Corollaire 1.2.10. — Si |À| 5 n, alors w(s,\) = s». Exercice 1.2.11. — Montrer que K>44 7è 0 si et seulement si /\ Z p. Exercice 1.2.12. — Démontrer les identités

KÀ = Z K,“ (1 + plus = z K. et À€p®1

p€À®1

Z Kä :11, |,\|=t

la seconde par récurrence sur la taille de de /\, la troisième par récurrence sur l à partir de la seconde. Nous verrons dans la section 1.6 que cette dernière formule, qui par ailleurs découle immédiatement de la correspondance de Robinson, s’interprète comme le cas particulier,

pour le groupe symétrique 81, du fait général suivant z la somme des carrés des dimensions des représentations irréductibles d’un groupe fini, est égale au cardinal de ce groupe.

1.2.4. Les formules de Jacobi-Trudi. — Nous venons de voir comment les fonctions symétriques élémentaires ou complètes se décomposent sur les fonctions de Schur. Réciproquement, les fonctions de Schur s’expriment en termes de fonctions symétriques élémentaires ou complètes selon les formules suivantes :

Formules de Jacobi-Trudi 1.2.13. — Si la partition À est de longueur au plus n, alors sÀ = dét(hÀi_i+j)1Si,jS-n,,

Ct

8M = dét(€Ai—i+j)15i,jîn'

Démonstration. — On observe tout d’abord que ces formules sont inchangées si l’on res— treint l’ordre de ces déterminants à la longueur l de /\. Ceci rend possible une récurrence sur l. Pour la première formule, par exemple, on obtient en développant le déterminant par

rapport à sa dernière colonne la somme alternée

l . l—i E (—1) 5A1,...,).,-_1,Ài+1—1,...,).1—1 Xhài+l—iz—‘l

socu’ïnâ MATHÉMATIQUE DE FRANCE 1998

14

CHAPITRE l. L'ANNEAU DES FONCTIONS SYMÉTRIQUES

D’après les formules de Pieri, on peut écrire 1e i-ème terme de cette somme sous la forme Ésfl+

Z

s,“

#6Ji+1

11€.];

où J,- est l’ensemble des partitions u de même poids que A, telles que Àj S W 5 Àj_1 pour j < i, et Àj+1 — 1 5 ,uj _ l, la i-ème ligne de cette dernière matrice possède un seul coefficient non nul, situé sur la colonne d’indice k tel que n — k = i — À, — 1. Or il est facile de vérifier que le complémentaire dans {0, . . . , n — 1} des entiers i — À, — 1 positifs (ce qui signifie que i > l), est précisément l’ensemble des entiers [3j = A; — j positifs (ce qui signifie que j S l). En effet, on dispose bien au total de n entiers compris entre O et n — 1, et l’on ne peut

jamais avoir (A; —j) — (i — À, — 1) = (A; — i) + (A, —j) + 1 = 0, puisque A; — 'i et À, —j sont simultanément positifs ou strictement négatifs, selon que le diagramme de Ferrers de /\

contient ou non la case (i, j). En développant 1e déterminant précédent par rapport à ses n —l dernières lignes, on obtient donc bien, après une vérification de signe que nous laisserons au lecteur de bonne volonté, la

formule de Giambelli.

D

Exemple 1.2.17. — Pour la partition 3211, on obtient les expressions déterminantales suivantes de la fonction de Schur associée :

_

33211 —

h3

h4

h5

ha

hl 0

h2 1

ha hr

h4 h2

0

Û

1

hl

_

"'

e

e

e

4 0

62

5 1

63

e1

6

e

_

_

5(2l3) 3(0l3)

5(2IO) 3(0|0)



1.2.6. L’anneau des fonctions symétriques. — Concluons cette section par quelques remarques formelles. Si Al“, désigne l’ensemble des polynômes symétriques de n variables, homogènes de degré k, à coefficients entiers, on dispose d’applications de restriction k _ k k rn+1.An+1 —)An,

définies en posant xn+1 = 0. Par exemple, si /\ est une partition de poids k, rfl+1(s,\) = s), si l()\) S n, alors que rä+1(s,\) = 0 sinon. En conséquence, r1“,+1 est un isomorphisme lorsque n Z k. La limite projective A" = limon AÏ, admet donc pour base une famille d’éléments que l’on notera encore si, indexée par l’ensemble fini des partitions A de poids k. Ces éléments se spécialisent dans AÏ, sur les fonctions de Schur de n variables.

socn’zrÉ MATHÉMATIQUE DE FRANCE I991!

16

CHAPITRE 1. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

Définition 1.2.18. — On appellera la somme directe

A = {B A", Iczo anneau desfonctions symétriques. Cet anneau admet encore une structure d’anneau gradué — c’est un anneau de polynômes sur une famille dénombrable d’indéterminées : A = Z[ek, k > 0] = Z[hk, k > 0], ek et hk étant de degré k. Toutes les formules démontrées jusqu’ici sont valables dans A, sans les restrictions du genre de celle qui apparaît dans l’énoncé du corollaire 1.2.10 : w s’étend en un automor— phisme involutif de A, et pour toute partition À, on a w(si) = s». En général, on travaille donc d’emblée dans A, et l’on spécialise quand c’est nécessaire à un nombre donné de variables, ce qui a simplement pour effet d’annuler les fonctions de Schur associées à des partitions de longueur supérieure à cet entier.

1.3. La correspondance de Knuth On a vu apparaître tout naturellement, dans la section précédente, tableaux et matrices à coefficients entiers. Ces objets entretiennent des rapports combinatoires subtils, dont la correspondance de Knuth [48] est parmi les plus importants. Le problème de départ est le suivant : comment ajouter, de manière canonique, un entier donné à un tableau ? 1.3.1. Insertion. — Soient T un tableau semistandard, et n un entier. L’insertion de Knuth est un procédé permettant d’adjoindre à T une boîte numérotée de l’entier n — cela d’une manière qui fasse sens combinatoirement. Nous aurons dans les pages qui suivent maintes occasions d’apprécier les vertus de cet algorithme, que nous allons maintenant décrire sans plus de justification. Considérons tout d’abord la ligne supérieure de T. Si n’y figurent que des entiers inférieurs ou égaux à n, on place la nouvelle case à la droite de cette ligne et l’on s’en tient là. Sinon, on considère la case de cette première ligne de T, située le plus à gauche parmi celles qui sont numérotées d’entiers strictement supérieurs à n. On y fait alors figurer l’entier n à la place de l’entier p qui s’y trouve, puis on passe à la ligne suivante avec cet entier p. Et cela, jusqu’à ce que le procédé s’arrête. On obtient finalement ainsi un nouveau tableau semistandard S, numéroté des mêmes entiers que le tableau T, plus l’entier n qui a été inséré.

111|4|CnnJàH

UînJàI—I

H—v-IÀOOI—I

On peut aussi définir, de manière symétrique, une insertion par les colonnes. Étant donnés un entier n et un tableau T, on place n à l’extrémité de la première colonne de T s’il est plus grand que toutes les entrées de celle—ci. Sinon, on le place dans la case occupée par le plus petit entier de cette colonne qui lui est supérieur ou égal, et l’on passe à la colonne suivante, jusqu’à épuisement du procédé.

2|3|

23|

6bis. Insertion par les colonnes.

1.3.2. Correspondances. — Si l’on se donne une suite finie m d’entiers strictement posi-

tifs, ce que l’on appellera un mot sur l’alphabet N" , on peut mettre à profit le procédé d’insertion qui vient d’être décrit pour déduire de m un tableau semistandard T. Tout simplement, on insère successivement ses lettres, de gauche à droite à partir du tableau vide. On dira que le tableau T ainsi obtenu est le redressement du mot m. D’après la remarque précédente, il est possible de reconstituer le mot m à partir du tableau T si l’on connaît l’ordre d’apparition de ses cases — ordre donné par un tableau standard S de

même forme que T. Ce qui s’énonce de la façon suivante : Correspondance de Schensted 1.3.2. — Il existe une correspondance biunivoque entre mots

m sur l’alphabet 1, . . . , n, et paires (T, S) de tableaux de même forme, numérotés d’entiers compris entre 1 et n, le premier semistandard et le second standard.

On remarquera que T est standard si et seulement si le mot m qui lui est associé est de

la forme w(1)w(2) . . . w(n) pour une certaine permutation w E Su. D’où l’ancêtre de la correspondance précédente : Correspondance de Robinson 1.3.3. — Il existe une correspondance biunivoque entre les permutations w E Sn, et les paires (T, S) de tableaux standard de taille n, de même forme.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 199x

4I6J

ŒŒM

T=

Il

—)

C0

w = 279385146

{ËŒAH

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

[sexuel—ooeneo

18

3|9|

7. Correspondance de Robinson.

La correspondance de Schensted peut s’étendre aux paires (T, S) de tableaux semistandard de même forme, avec la convention suivante. Si ces tableaux sont de taille l, soit si la

plus grande entrée de S. On choisit, parmi les cases de S numérotées de cet entier, celle qui se trouve le plus à droite. On la supprime, et l’on chasse la case correspondante de T par le procédé inverse de l’insertion, ce qui prive ce tableau d’un entier t1.

En itérant ce procédé, on obtient deux suites d’entiers s = (81, . . . , si) et t = (t1, . . . , t1), avec 81 5

S si, et tk 5 tk+1 si sk = 3H1. En effet, si l’on chasse d’un tableau deux

cases situées sur des coins, en commençant par la plus à droite, celle-ci chasse nécessairement un entier supérieur ou égal à celui que chasse la seconde. Notons que s et t sont les suites des entrées des tableaux S et T. La première est ordonnée de façon croissante, et l’on dira que la seconde est ordonnée de façon compatible avec le première. Réciproquement, étant donnée les suites s et t, vérifiant les conditions de monotonie précédentes, on reconstruit la paire de tableaux de départ en insérant successivement t1 , . . . ,t;

pour construire T, alors que S s’obtient en placant sk là où l’on a inséré tk en construisant T. Les propriétés de croissance de la suite double de départ assurent le caractère semistandard de S (voir l’exercice 1.3.1 ci-dessus).

Remarquons que la donnée de s et t est équivalente à celle des couples (31, t1), . . . , (s; , t1), dans un ordre quelconque. Elle équivaut donc aussi à la donnée de la matrice A = Et. Es; ,t,‘ ,

où Em7 est la matrice dont toutes les composantes sont nulles, exceptée celle de la ligne p et de la colonne q, qui vaut un. En conclusion :

IIPNH

Iiàwwi—I

||

1|4| CI)

HÀMI—l

IFÀCIJNl—l

Oi—low

H O O

OHl—lo

l0

o

l-‘

o

O

Correspondance de Knuth 1.3.4. — Il existe une correspondance biunivoque entre matrices A à coefficients entiers positifs, presque tous nuls, et paires de tableaux (T, S) semistandard et de même forme. Dans cette correspondance, les sommes des composantes de A sur ses colonnes (respectivement ses lignes) sont données par le poids de T (respectivement de S).

213|

8. Correspondance de Knuth.

Si l’on part d’une permutation, si on lui applique la correspondance de Robinson, puis la correspondance de Knuth à la paire obtenue de tableaux standard, on obtient simplement la matrice de la permutation de départ.

COURS SPÉCIALISÉS 3

1.4. QUELQUES APPLICATIONS AUX FONCTIONS SYMÉTRIQUES

l9

1.4. Quelques applications aux fonctions symétriques L’intérêt des manipulations sur les tableaux dont nous venons de commencer l’étude, est

qu’il va nous permettre d’obtenir sans difficultés toute une série de propriétés non triviales des fonctions symétriques. 1.4.1. Le théorème de Littlewood. — Le théorème de Littlewood donne la façon la plus commode d’expliciter une fonction de Schur : à chaque tableau semistandard de forme une

partition donnée, correspond un monôme de la fonction de Schur associée. Théorème 1.4.1 . — Pour toute partition /\, on a l’identité

SA =

z ŒM(T), A(T)=À

cette somme portant sur l’ensemble des tableaux semistandard de forme À. Démonstration. — Notons tÀ le membre de droite de l’identité ci—dessus : il n’est a priori pas évident du tout que ce soit une fonction symétrique ! Développons cependant le produit n

ht=hm---htm=znæu

a.

a1'+m+an'

A j=1

Cette somme porte sur l’ensemble des matrices A = (aij) d’ordre n, à coefficients entiers, telles que 2k au, = m pour tout l. On obtient donc via la correspondance de Knuth l’identité hl‘ =

Z

:L'MS) = zKÀptÀ-

A(T)=À(S), #(T)=ll»

A

Autrement dit, les fonctions h” ont même développement sur les fonctions de Schur s), que sur les fonctions t,\. Sachant ce développement inversible, puisqu’il correspond à un changement de base dans l’anneau des fonctions symétriques, on en déduit que 3À = t,\ pour toute

partition A.

EI

Remarque 1.4.2. — Ce résultat laisse à penser qu’il existe une action, préservant le poids, du groupe symétrique sur les tableaux semistandard. Cette action existe en effet, mais est assez délicate à définir : nous la décrirons dans la section 1.8.

1.4.2. Les formules de Cauchy. — Nous allons également démontrer deux identités remarquables dues, sous une forme un peu différente, à Cauchy. Considérons deux ensembles de variables indépendantes 9:1, . . . , æ" et yl , . . . , y".

Premièreformule de Cauchy 1.4.3

HÜ — won—1 = ZSÀ(æ)3À(y)' i,j

A

Démonstration. — Développons brutalement

HÛ - man—1 = Z H(m,-yj)“”, i,j

A i,j

socnïrnî MATHÉMATIQUE DE FRANCE 1998

20

CHAPITRE l. L'ANNEAU DES FONCTIONS SYMÉTRIQUES

cette somme formelle portant sur l’ensemble des matrices à coefficients entiers, presque tous nuls. La correspondance de Knuth donne donc

HÜ — zen—1 =

z

Œ”(T)y"(s) = Z 8x(Œ)8x(y), À

À(T)=>\(S)

iJ

ce qui est bien la formule annoncée.

EI

Définissons sur l’anneau An un produit scalaire à valeurs entières en convenant que la famille des fonctions de Schur soit orthonormale. Ce produit s’étend à A et fait de l’involution w une isométrie. Exercice 1.4.4. — Déduire de la formule de Cauchy le résultat suivant : si a). et b). sont des familles de fonctions symétriques, homogènes de degré AI indexées par les partitions, et telles que

HG — Œiyj)—1 = zaA(Œ)b/\(y)» x

iyJ'

alors elles forment des bases de An, duales relativement au produit scalaire considéré. Proposition 1.4.5. — Les bases de An formées des produits de fonctions symétriques com— plètes h,\ d ’une part, et des fonctions symétriques monomiales mfl d’autre part, sont duales. Démonstration. — Cela découle de l’identité

11(1 — won-1: H Zwâhfly) = Zmuxmo), m

i

et de l’exercice précédent.

j

x

D

Appliquons alors l’involution w, sur les variables yl, . . . ,yn, à l’identité

z mx(z)hx (y) = z 3A(Œ)8A (y). ,\

x

On obtient la variante suivante de la formule 1.4.3.

Seconde formule de Cauchy 1.4.6

H(1 + œil/j) = z SAGE)” (y)m Exercice 1.4.7. —

x

Soient z1,. . . ,zm+n des variables auxiliaires. Si J est une partie de

cardinal n de {1, . . . , m + n}, on pose [8]

tJ(:c,z) = H (æ,- — zk)/ H(Zj —— 2k). lgign keËJ

jeJ kçêJ

Si I est aussi une telle partie, notons z; le sous—ensemble correspondant de variables. En

remarquant que tJ (ZI, z) = 61,1, montrer que ces fonctions forment une base de l’espace des polynômes symétriques en :1: dont les degrés par rapport à chaque variable z,- n’excèdent pas m. Vérifier de plus qu’un tel polynôme f se développe sous la forme

f(93) = Z f(ZJ)tJ(ŒaZ)#J=n

COURS SPÉCIALISÉS 3

1.4. QUELQUES APPLICATIONS AUX FONCTIONS SYMÉTRIQUES

2l

En appliquant cette formule d’interpolation à la fonction f = 1, après avoir changé chaque

variable m. en æi—l, établir l’identité

(z....z....>mn i. Déterminons maintenant ce que l’on appelle la spécialisation principale des fonctions de Schur, qui s’obtient lorsque l’on évalue une telle fonction sur une série géométrique [65]. Proposition 1.4.10. — Soit q une indéterminée. Alors 71— 3À(1’q""’q

q'n 1):

1 _ qn+c(æ) (À)H1—hq(æ)

Démonstration. — Partons de l’expression déterminantale des polynômes antisymétriques

a,\+5. Si l’on fait xi = q‘—1, on obtient un déterminant de Vanderrnonde qui mène aisément à l’expression

ai+.s(1,q,. . .,q"-1> = q"(*)+" 0. Or l’image réciproque de p,,, par l’application caractéristique, est égale à z“ fois la fonction ô", égale à un sur la classe de conjugaison associée à a, et nulle ailleurs. Donc (sÀipIÆ) = (XÀtzltâlL) = X27

COURS SPÉCIALISÉS 3

1.6. LES CARACTÈRES DU GROUPE SYMÉTRIQUE

39

le nombre d’éléments de cette classe de conjugaison étant précisément n! /z#. Cela démontre la formule des caractères, puisqu’en particulier,

28(1) = (81,10?) = K1 > 0, comme il fallait le vérifier.

D

Corollaire 1.6.8. — Le degré de la représentation irréductible de 8,, de caractère xÀ est égal au nombre K1 de tableaux standard de forme À, donné par la formule de Frame— Robinson-Ïhrall. Exercice 1.6.9. — Etablir la table des caractères x2 de S5 :

l /\\/1, |{1111112111l221|311|32|41| 5 J 11111 2111 221 311 32 41 5

1 4 5 6 5 4 l

-1 -2 -1 0 1 2 l

1 0 1 -2 1 0 1

1 1 -1 O -1 1 l

-1 1 —l O 1 -l 1

-1 0 l O -1 O 1

1 -1 O 1 0 -1 1

Exercice 1.6.10. — Montrer que la formule des caractères de Frobenius s’inverse en

5A = z z;1XîiPu|M|=n Exercice 1.6.11 . — Montrer que l’application caractéristique fait correspondre à la fonction symétrique élémentaire en le caractère e de la représentation signe de Sn, qui à chaque permutation associe sa signature. Vérifier que via l’application caractéristique, l’involution w sur les fonctions symétriques correspond à la multiplication par s. Exercice 1.6.12. — Si d) est le caractère unité de 81, montrer que d)" est le caractère de la représentation régulière de 8". En déduire, ce qui est un fait général, que la multiplicité d’une représentation irréductible dans la représentation régulière est égale à son degré. Le fait que l’application caractéristique soit un isomorphisme permet également de décomposer la restriction d’une représentation à un sous—groupe S -1 de 8,, :

Règle de branchement 1.6.13. — Soit À une partition de poids n. Alors ReSSZ—l XÀ =

Z

aeu®1

XM'

Rappelons que p®1 désigne l’ensemble des partitions qui s’obtiennent en ajoutant une case à p. D’après la règle précédente, la restriction de la représentation de caractère xÀ à Sn_1, est donc simplement 1a somme deS-représentations irréductibles associées aux parti-

tions qui s’obtiennent en enlevant une case à /\. Donnons également un énoncé traditionnellement appelé règle de Young :

socnänâ MATHÉMATIQUE DE FRANCE 19911

40

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

Règle de Young 1.6.14. — Soit u = (p1,...,m) une partition a'e poids n, soit N" la représentation de 8,, obtenue par induction de la représentation triviale du sous-groupe de Young 5m >< - - - X S,“ de 87,. Alors la multiplicité dans N‘L de la représentation irréductible de caractère x" est égale au nombre de Kostka KA”. Par ailleurs, on peut déduire une interprétation combinatoire des coefficients xà, de l’ana— logue suivant des formules de Pieri. Appelons bande un ensemble connexe 0 de cases, qui ne contienne aucun carré de côté deux. Sa hauteur h(0) est définie comme le nombre de lignes occupées par cette bande, moins un.

Proposition 1.6.15. — Pour toute partition /\ et tout entier le, on a

8k = Z(—1)h(9)sx+a, a cette somme portant sur les bandes 0 de longueur k telles que À + 0 soit une partition. Ici, la somme signifie la superposition des diagrammes, supposés d’intersection vide : voir les figures ci-dessous. Exemple 1.6.16. —

En particulier, les fonctions de Newton sont des sommes alternées de

fonctions de Schur associées à des équerres :

ph = Z (-1)’5(z‘lj)i+j=lc—1

Démonstration. — D’après l’expression de Jacobi des fonctions de Schur, il suffit de considérer le produit ’11.

aÀ+ôPk = zaÀ+ksg+ôi=1

On conclut en réordonnant À + k6. + 6, ce qui donne une suite de la forme À + 0 + 6, où 0 est une bande de longueur k, avec un nombre d’inversions égal à h(0). E1 Exemple 1.6.17. — On a 5321123 = 3621 — 8441 — 3333 + 3321111, les différents termes de cette somme correspondant aux diagrammes suivants, où apparaîssent des bandes de hauteurs respectives 0, 1, 1, 2.

Exercice 1.6.18. — Montrer que xn’1(w) = .91 — 1, où 31 est 1e nombre de points fixes de la permutation w e 81.4.1. Afin de généraliser cette observation, reprenons les notations de l’exercice 1.6.2. Déduire alors des formules de Jacobi-Trudi l’identité

z 3M = h(1)De(_1)(sa), mEZ

COURS SPÉCIALISÉS 3

1.6. LES CARACTÈRES DU GROUPE SYMÉTRIQUE

41

où l’on a repris les notations h(t) et e(t) pour les séries formelles introduites dans la démonstration de la proposition 1.1.5. On observera que si n + la} = IBI, on a

XË’“ = (Z sm,a>pfl) = (sa,e(-1)Dh(1)(Pp))mEZ

Montrer que si w G Sn+|a| est une permutation ayant sk cycles de longueur k, alors X

n,a

_ (—2010) a s _ (w) — ë zÀ XÀUa (77101)) — 1301(8),

où /\ U a est la partition obtenue par réunion des parts de /\ et de a. Cette partition vérifie

donc l’égalité m(À U ,u) = m(À) + mm). En particulier, le polynôme Pa (s) ne dépend pas de n, plus grande part de la partition considérée. Par exemple, vérifier que P‘m(3) = Qm(s) "' Qm—1(5)

et

l (S) = Z(—1)kRm—k(3),

kzo où l’on a posé respectivement

z «Mm

z (mai),

|M|=m

“4:7"

Exercice 1.6.19. — Montrer que la fonction symétrique hk (:1211, . . . ,œfz) est combinaison linéaire de fonctions de Schur, avec des coefficients égaux à 0 ou 1. Montrer que si le coefficient de si dans cette expression est non nul, alors À se décompose en bandes horizontales

de longueur k.

1.6.5. La règle de Murnaghan-Nakayama. — Revenons à la formule des caractères de Frobenius. Une récurrence immédiate permet d’en déduire le résultat suivant. Appelons tableau multibande un tableau T numéroté de façon croissante, au sens large, sur ses lignes

et colonnes, de façon à ce que ses cases numérotées d’un entier donné forment une bande.

.4;

.4;

.4;

1 1 2 2

Natal—A

Définissons sa hauteur h(T) comme la somme des hauteurs des bandes dont il est formé.

21. Bande et tableau multibande.

Règle de Murnaghan-Nakayama 1.6.20. — Pour chaque partition À, la valeur du caractère irréductible x" sur la classe de conjugaison de 8,, associée à la partition p est égale à X2, = Z(_1)h(T)’ T

cette somme portant sur l ’ensemble des tableaux multibandes T de forme À et de poids a.

socrÉrÉ MATHÉMATIQUE DE FRANCE I998

42

CHAPITRE 1. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

Exercice 1.6.21. — Rappelons que le produit des caractères de deux représentations est le caractère de leur produit tensoriel. Si

A x x x“ = Z gflx", V

montrer que les entiers gà” sont symétriques en À, M, U.(10)

Exercice 1.6.22. —

Si /\ est une partition, soit c0.) la longueur de sa diagonale princi-

pale. Soit ,u la partition, de même taille que /\, dont les parts sont les longueurs des équerres diagonales de /\ : autrement dit, il, = h”. pour 1 S i S c. Vérifier que

x2 = (—1)'*I++1).

Montrer de plus que si xà‘ 7E 0, alors 1/ S [1. 1.6.6. Structure d’algèbre de Hopf. — On appelle algèbre de Hopfgraduée sur un anneau commutatif unitaire A, un A-module gradué H = Œnon, muni de morphismes de Amodules gradués (A étant gradué en degré zéro uniquement) 1. m : H®H —> H, la multiplication. Elle est supposée associative, et munit donc H d’une structure d’anneau :

mo(m®id) = mo (id®m)

sur

H®H®H;

2. e z A —> H, l’unité, telle que 6(1) soit unité de H;

3. m* : H —> H®H, la comultiplication. Elle est supposée co—associative, au sens où (m*®id) o m* = (id ®m*) o m", et on lui demande également d’être un morphisme d’anneaux;

4. 8* : H —) A, la co-unité, telle que (e*®id) o m* = (id ®e*) o m* = id. Exemple 1.6.23. —

L’anneau H = A des polynômes symétriques à coefficients entiers

d’une famille dénombrable d’indéterminées, gradué par le degré, est muni d’une structure

d’algèbre de Hopf graduée de la façon suivante : m est sa multiplication ordinaire, e son unité, tandis que la co-unité e* est la projection sur le terme constant. Enfin, la comultiplication m* est définie en introduisant deux familles dénombrables d’indéterminées, disons

(115),? et (Zj )1'21. Si u e H, on obtient en l’évaluant sur les indéterminées yl, z1,y2,z2, . . .

une fonction symétrique en chacune des deux familles (310,21 et (2j )j21, donc un élément m" (u) E H®H. Il est immédiat que l’on obtient bien ainsi une structure d’algèbre de Hopf graduée. Par exemple,

m*(h,.) =

z hk®hl, k+l=n

m*(pn) = pn®1+1®pn. Cette dernière identité s’exprime en disant que les sommes de puissances sont des éléments primitifs de A. (1°) On sait relativement peu de choses sur les produits tensoriels des représentations irréductibles des groupes de permutations. En particulier, on ne dispose pas de description combinatoire des multiplicités analogue à la règle

de Littlewood & Richardson.

COURS SPÉCIALISÉS 3

1.6. LES CARACTÈRES DU GROUPE SYMÉTRIQUE

43

Exercice 1.6.24. —— Démontrerl’identité

m*(s,\) = z càusu®sw 14.11

où les cf“, sont les coefficients de Littlewood & Richardson. Exemple 1.6.25. — L’anneau H = R des caractères des groupes de permutations peut également être muni d’une structure d’algèbre de Hopf graduée. La multiplication m est définie par induction. La comultiplication l’est par restriction : si xp est le caractère d’une

représentation p de Sn, on pose S" m a: (x) = z Resskxslxp.

k+l=n

L’unité e est définie par l’unité de R, et la counité 6* par projection sur R0. La seule difficulté pour montrer que ceci fait bien de R une algèbre de Hopf, est de vérifier que la comultiplication est un morphisme d’anneau z c’est une conséquence du théorème de Mackey mentionné

ci-dessus(1 1). Le fait que la proposition 1.6.3 puisse alors être précisée de la façon suivante ne présente

aucune difficulté : Proposition 1.6.26. — L’application caractéristique ch est un isomorphisme d ’algèbres de Hopfgradue’es.

1.6.7. Modules de Specht. — La formule des caractères de Frobenius implique que le degré de la représentation irréductible de 8,, de caractère x", est égal au nombre KÀ de tableaux standard de forme À. D’où l’idée de réaliser directement ces représentations en faisant agir le groupe symétrique non pas directement sur les tableaux, mais sur certains polynômes qui leur seront associés. Soit A une partition de taille n, et T un tableau de forme À, numéroté par les entiers successifs 1,. . . , n, sans condition de monotonie. Dans cette section, on ne considérera que des tableaux de ce type. À un tel tableau T, on associe les polynômes n

z k —1

QT=HŒk()

,

PT=H(Œi—Œj),

k=1

Î br. On supposera ces deux colonnes situées le plus à gauche possible dans S. Notons H le groupe des permutations des entiers b1, . . . , br, ar, . . . , al, et K le sous-groupe de H produit des groupes de permutations de b1, . . . , b, et ar, . . . , al. Enfin, donnons-nous un système U de représentants des classes à droite de K dans H, autres que celle de l’identité.

Lemme 1.6.30. — P5 = — ZueU 6(U)Pu(s).

Démonstration du lemme. —— Pour I C 8m notons d; = zw616(w)w’ de sorte qu’en particulier, b5 = dz:(s)v Comme K est un sous—groupe de (1(5), il s’agit de vérifier que dHPS = 0. Ce sera une conséquence de l’identité dHc(5)Qs = 0. En effet, chaque élé-

ment de HC (S) peut s’écrire comme produit d’un élément de H et d’un élément de C (S) de #(I-I n C (S)) = #K façons différentes, donc

#K >< dHC(S)Qs = dC(S)Qs = dHPS» Si w E HC (S), soit 72 le plus petit entier tel que w(a,') et w(b,) soient distincts de a1 , . . . , ar_1 et br+1 , . . . , bm. Notons t(w) la transposition des entiers a,- et b,, et t* (w) = wt('w)w—1 celle des entiers w(a,v) et w(b,-). Posons alors w* = wt(w) = t* (w)'w. Comme t(w), t* (w) E H,

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

46

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

on a w* e HC (S), et l’application w —) w* est une involution de HC (S), qui change la signature. Il vient

dHC(S)QS =

Z 5(“1*)W*Qs = weHC(S)

Z

5(w)wt(w)Qs = “dHC(S)QS,

weHC(S)

donc dHc(S)Qs = 0, puisque les transpositions t(w), appartenant à 11(5), n’affectent pas

Qs-

Ü

Conclusion. — Reste à vérifier que dans le membre de droite de l’identité du lemme pré— cédent, les tableaux 14(8) qui apparaissent, après que l’on ait ordonné convenablement les entrées de chacune de leurs colonnes, sont strictement plus petits que S pour l’ordre considéré. Or les colonnes qui précédent la colonne a1, . . . , a, ne sont pas modifiées. Comme les entiers a1, . . . , a,_1 de cette même colonne C ne le sont pas non plus, la suite formée par les r plus petites entrées de u(C) est majorée par une suite a1 < - - . < b,’ < - .. < a,_1, pour un certain entierz' < r. Et cette suite est strictement majorée par la suite a1 < ' . . < ar.

Donc 11(5) < S pour tout u e U, et le lemme précédent assure, par récurrence, que P5 est combinaison linéaire des polynômes PT, pour T standard. EI

Remarque 1.6.31. — Il aurait en fait été plus simple, dans cette démonstration, de vérifier que les polynômes PT, pour T standard de forme A, sont linéairement indépendants. Cependant, le lemme ci-dessus, qui énonce les relations de Garnir [26], fournit en principe le moyen d’expliciter les matrices des représentations du groupe symétrique sur les modules de Specht, dans la base des polynômes associés aux tableaux standard. Il suffit d’ailleurs pour cela d’expliciter l’action des transpositions simples. Or l’échange des entiers i et i + 1 d’un tableau T ne pose problème que si ces deux entiers se trouvent sur une même ligne de T, ce qui rend l’algorithme relativement aisé à mettre en œuvre. Exemple 1.6.32. — Pour la partition (3, 2), on dispose de cinq tableaux standard __I23]

T1—45

_124|

aT2—35

_125l

aT3—34

_134|

aT4—

_135|

,Tä—

les polynômes associés étant les suivants z

PT1 = (931 - Œ4)(Œ2 — 9:5), PT2 = (561 — Œ3)(Œ2 - ms), PT3 = (561 * Œ3)(Œ2 — 564), PT4 = (561 — 932x553 — ï'35), PT5 = ((1)1 — Œ2)(.’L‘3 -- 11:4).

En appliquant l’algorithme ci-dessus, on vérifie que l’action des transpositions simples si,

avec 1 S z' S 4, de 85 sur le module de Specht associée à 1a partition (3, 2) est donnée, dans

COURS SPÉCIALISÉS 3

1.7. LES POLYNÔMES DE KOSTKA-FOULKES

47

la base formée des cinq tableaux standard ci—dessus, par les matrices Mi suivantes :

(1000M M1:

M3—

0 1 0 0 —1—1

0

O

0

1 0 0—1

0 O

10000\ ,

M2:

0

0

0

1

0

——1 0

O 1

0 0

0 0

1 0

\10—10—1/

\10100)

(01000

(1000M

1 0 0

0 0 0

0 1 0

0 0 1

0 0 0

,

O 0 —1

M4=

\00—1—1—1/

0 1 0

1 0 0

0 0 0

,

0 0 1

\10010)

Exercice 1.6.33. — Montrer que les symétriseurs de Young sont des idempotents de l’algèbre du groupe symétrique, du moins à un coefficient près : il existe un entier nT strictement positif, tel que cäv = nTcT. Que vaut cet entier nT ? 1.7. Les polynômes de Kostka-Foulkes Les développements modernes de la théorie des fonctions symétriques accordent beaucoup d’attention à ce quon appelle les « q-analogues » de ces fonctions. Les polynômes de KostkaFoulkes, qui sont une extension polynomiale des nombres de Kostka, en sont un exemple important, que nous allons étudier de façon détaillée.

1.7.1. La formule de Kostant. — La définition des polynômes de Kostka-Foulkes repose sur une expression de la formule de Jacobi-Trudi, légèrement différente de celle qui a été donnée en 1.2.13. Définissons sur l’anneau An des endomorphismes Tij, pouri < j, de la façon suivante. Rappelons tout d’abord que An admet pour base l’ensemble des fonctions symétriques h,\, où À décrit l’ensemble des partitions de longueur majorée par n. On pose alors Tij hÀ = hÀ+€i —€j -

Dans cette expression, si désigne le i-ème vecteur de 1a base canonique de Z". De plus, on

adopte la convention suivante : si le vecteur À + si — 5j a une composante négative, autrement dit si Àj = 0, on pose Tij hA = 0. Ces opérateurs, qui commutent évidemment les uns avec les autres, sont liés par des relations du genre Tij 7‘17, = me si i < j < k.

Proposition 1.7.1. — Pour toute partition À, on a l ’identite’

5x = H(1 — ”Nui

S:

lrt—l

T=

IHÀWI—I

Exemple 1.8.6. — Partons du tableau T suivant, de poids 1221, charge 3 et cocharge 4. La permutation 3132 le transforme en le tableau S, de même cocharge.

12| 3

(14) Ce résultat est démontré dans une note de G.-N. Han, Croissance des polynômes de Kostka, C.R.A.S. 311, 269-272 (1990).

socrÉrÉ MATHÉMATIQUE DE FRANCE 1m

56

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

Luàcol—A

L’ensemble des cyclages possibles à partir du tableau T, où la cocharge diminue du haut vers le bas, est le suivant :

2m

/

\ 2|2|3|

1 2 214]

lœl—l

a;



122B

/ H

\

2mm“

2|2|3|3l

IEEEEE 24. Cyclages.

Supposons alors que a1 > a2, et posons fl = a — 51 + 52. On obtient une injection de l’ensemble des tableaux de poids a dans celui des tableaux de poids [3 en changeant le 1 d’un tableau T situé le plus à droite, en un 2. Exercice 1.8.7. — Montrer que cette opération conserve 1a cocharge. Si p et 1/ sont deux partitions telles que p, Z u, elles sont liées par une chaîne de partitions

11" telles que l’on passe de 11" à 11"“ en faisant glisser une case d’une ligne du diagramme sur Vk, sur une ligne inférieure. À une permutation près, on est donc ramené à la situation

précédente, ce qui permet d’obtenir une injection de l’ensemble des tableaux de poids 11’“ dans ceux de poids 11k“. D’où au total, une injection de l’ensemble des tableaux de poids p, dans ceux de poids V, compatible avec les structures ordonnées de ces ensembles, et qui respecte en particulier la cocharge. Exercice 1.8.8. — Montrer que cette injection ne dépend pas de la chaîne de partitions choisie pour joindre u à v.

COURS SPÉCIALISÉS 3

1.8. COMMENT LE GROUPE SYMÉTRIQUE AGIT SUR LES TABLEAUX

57

L’ensemble des tableaux semistandard se décompose alors en réunion disjointe d’atomes, où l’atome A(u) associé à la partition ,u est l’ensemble des tableaux de poids n qui ne proviennent pas, via les injections précédentes, de tableaux de poids 1/ < n. Introduisons, pour plus de commodité les polynômes

Ki,.(q)=q"‘”)Kx,i(q‘1)= z 41””), ,\(T)=>.,

u(T)=u

qui décrivent la statistique de la cocharge plutôt que de la charge. Ces polynômes se décomposent donc sous la forme

K;p(11)=zL,\./(q),

avec

USp.

qCO(T)_

z

[ou/(q):

TEAÛ’),

A(T)=À

Exercice 1.8.9. — Établir la table des polynômes LÀ” (q) en poids cinq :

| ,\\;1 || 11111

11111 q1°

2111 0

2111

q7 + q8 + q9

q6

221 311

q6 + q7 + q8 q5 q5 + q6 + q7 q4 + q5

221 311 32 41 5 0 0 0 0 0 0

0

0

q4 0

0

0 q3

0 0

0 0

0 0

32

q5 + q6

q4

q3

0

q2

0

0

41

q4

q3

0

q2

0

q

0

5

0

0

0

0

0

0

1

De la décomposition en atomes, on déduit par exemple immédiatement la propriété suivante des polynômes de Kostka-Foulkes.

Proposition 1.8.10. — Si p Z 11, alors Kîu(q) Z K;u(q) pour toute partition /\. Autrement dit,

q"(")Ki,. ((1—1) Z q"(”’Kxu(q’1)Il est possible d’obtenir des relations de comparaison plus générales de la façon suivante. À tout ensemble fini P muni d’un ordre partiel, on peut associer une fonction de Môbius Mp,

de façon à ce que pour toute collection de nombres ae et ,69, e E E, les relations

ae=2flf et fle=ZuP(f,e)ar fSe

fSe

soient équivalentes [90]. Soit par exemple l’ensemble des partitions de taille n, muni de l’ordre dominant : sa fonction de Môbius ne peut prendre pour valeurs que les entiers — 1 , 0, 1,

et l’on peut la déterminer explicitement(15). (15)Voir Brylawski T. : The Iattice ofinteger partitions, Discrete Math. 6, 201—219 (1973).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

58

CHAPITRE 1. L’ANNEAU DES FONCTIONS SYMÉTRIQUES

Exercice 1.8.11 . — Montrer que si a S p sont deux partitions, et si [0, p] désigne l’intervalle qu’elles définissent, alors [55]

Ë me,p1(v>K:y(q) z 0.

USVSp

COURS SPÉCIALISÉS 3

CHAPITRE 2

LES POLYNÔMES DE SCHUBERT

Ce deuxième chapitre s’ouvre sur un aperçu de l’ordre de Bruhat sur les groupes symétriques, dont nous donnerons différentes caractérisations. Nous enchaînerons sur l’étude de quelques classes particulières de permutations, dites grassmanniennes, vexillaires, ou presque

croissantes. Nous définirons ensuite les polynômes de Schubert, introduits par Lascoux et Schützenberger en termes de différences divisées. Nous ferons le lien avec l’équation de Yang-Baxter,

les algèbres de Hecke des groupes symétriques et les configurations de Fomin et Kirillov. Ces dernières fournissent en particulier un moyen agréable d’expliciter les polynômes de Schubert, et d’en obtenir simplement certaines propriétés parmi les plus intéressantes. La méthode des chemins de Gessel et Viennot nous permettra ensuite d’étudier les polynômes de Schubert associés aux différentes classses de permutations que nous aurons intro-

duites. Bien que n’étant plus des polynômes symétriques, certains se révèleront très proches des fonctions de Schur, et admettront en particulier des descriptions en termes de tableaux. Enfin, nous nous arrêterons sur les propriétés multiplicatives des polynômes de Schubert, qui sont encore mal comprises, mais sont liées de façon subtile à la combinatoire de l’ordre de

Bruhat, et des décompositions réduites des permutations. La formule de Monk, qui explicite

le produit d’un polynôme de Schubert par une indéterminée, nous permettra d’obtenir au passage une nouvelle formulation de la règle de Littlewood & Richardson, puis une méthode d’énumération des mots réduits d’une permutation.

2.1. Permutations et ordre de Bruhat Nous allons tout d’abord définir, et étudier brièvement différents objets qu’il est possible d’associer à une permutation. Nous définirons ensuite l’ordre de Bruhat sur les groupes symétriques, et nous en donnerons plusieurs caractérisations.

2.1.1. Diagrammes. — La longueur d’une permutation w e 8,, est le cardinal de l’en— semble de ses inversions,

I = {1 s i wm}.

60

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

C’est donc aussi le cardinal du diagramme, dit parfois diagramme de Rothe,

D(w) = {(14), 1 s M s n, w(i) > j, w—lo') > i}Ce diagramme s’obtient en permutant par w—1 les colonnes de I (w). Graphiquement, il se

contruit de la façon suivante : c’est le complémentaire des équerres de sommets (i, w(i)), 1 5 i 5 n. Ces sommets, situés aux coins NO (Nord—Ouest) des équerres correspondantes,

sont les points du graphe G (w). Notons au passage que d’après cette description, D(w‘1) est simplement le transposé de D(w) par rapport à la diagonale. De plus, le diagramme « a la

propriété NO» : s’il contient les cases (z’, j) et (k, l) aveci < k et j > l, il contient aussi la case (i, l). La suite des nombres de points du diagramme dans les lignes successives est le code c(w), parfois dit code de Lehmer. La partition que 1’ on obtient en ordonnant les composantes du

code est laforme À(w) de w. Lafonction de rang rw associe à chaque point (i, j), le nombre

de points du graphe G(w) situés dans le rectangle {1,.. ,z'}>< {1,.

mat) = #{k S i, w(k) S j}Enfin l’ensemble essentiel est l’ensemble des coins sud-est du diagramme :

Ess(w) = {(131) E D(w), (i + 1,1),(i,j+1),(i+ 1,2‘ + 1) t D(w)}. Exemple 2.1.1. ——

La permutation w = 3741652 e S7, dont le diagramme figure ci—

dessous, a pour code c(w) = 2520210, pour forme /\(w) = 52221, pour ensemble essentiel Ess(w — {(2) 6) (3 (2),(5,5),(6,2)}. On a indiqué sur la figure les valeurs de la fonction de rang aux points essentiels.

-I'-

E. Ï

l. Diagramme de la permutation w = 3741652 E S7. Proposition 2.1.2. — Une permutation 'w est déterminée par son code, donc par son diagramme, ou par safonction de rang — et même la restriction de celle—ci aux points essentiels.

Démonstration. —— Connaissant le code c(w), on reconstruit w par récurrence : w(k) est le (ck (w) + 1)—ième entier de la suite 1, . . . ,n privée des entiers 'w(1), . . . , w(k — 1). Supposons par ailleurs donnée la fonction ru, sur Ess(w), et déterminons w(k) par récurrence sur k. Pour k = 1, le point (1, w(1)) est immédiatement à droite du plus à droite des points essentiels où la fonction de rang s’annule — s’il n’existe pas de tel point, w(l) = 1. En— suite, on pourra procéder comme suit pour déterminer w(l w(j ), donc le couple (i, j) est dans l’ensemble I(w) des inversions de w. Or, connaissant une décomposition réduite de w, on peut en déduire ses inversions :

Lemme 2.1.4. — L’ensemble des inversions de la permutation w = si, - - ' sil, de longueur l, est le suivant :

[(10) = {Sa "'3ih+1(ih,ih + 1), 1 S h S l}-

couns srÉcmusÉs 3

2.1. PERMUTATIONS ET ORDRE DE BRUHAT

63

Démonstration du lemme. — On vérifie que si u est une permutation, et m un entier tel que l(usm) = [(u) + 1, alors

I(usm) = smI(u) U {(m,m + 1)}. Et l’on conclut par récurrence.

E!

Conclusion. — Il existe donc un entier k tel que (lui) = si: ' ' 'sik+1(ik’ik + 1)‘

Or ceci implique immédiatement que

tij = (si; "'8ik+1)8ik(8i. "‘sik+1)—1 = si: "'5ii+18ik8ik+1 "'sin d’où l’expression annoncée de v. Le même calcul fait en sens inverse implique la réciproque. EI 4321

/\ 4312

4l31

3421

MN 4132

4213

3412

2431

3241

W \W MW

4123

1432

1423

2413

3142

2341

1342

2143

3124

1243

1324

2134

3214

2314

\/ 1l34 4. Ordre de Bruhat fort sur S4.

Si sal - ' - sa, est une décomposition réduite de w, on dira que le mot a1 - - ' a; est un mot

réduit de w, et l’on notera R(w) l’ensemble de ces mots réduits. Il est possible de déterminer l’ensemble des décompositions réduites de w à partir d’une

seule d’entre elles. En effet, associons à w E 5,. le graphe ÿ (w) dont les sommets sont les mots réduits de w, deux d’entre eux étant reliés si l’on passe de l’un à l’autre en faisant

commuter deux transpositions simples (donc en échangeant deux chiffres dont la différence vaut au moins deux), ou en utilisant une relation de tresse.

socrÉn‘s MATHÉMATIQUE DE FRANCE I998

64

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

23431 42341— 243% \\23413 42314“ 24314

23143

42134— 24134

21343

\\21434/ 5. Graphe ÿ(w) des mots réduits de w = 31542 e 55.

Exemple 2.1.5. — La permutation w = 31542 E 85 admet 11 décompositions réduites. On a représenté ci—dessus son graphe, dont les sommets sont les différents mots réduits. On a indiqué d’un trait double les deux arêtes du graphe qui correspondent à des relations de

tresse. Une propriété importante du graphe des mots réduits d’une permutation est sa connexité. Cette propriété signifie qu’étant donnée une décomposition réduite d’une permutation, on

peut en déduire toutes les autres en faisant commuter des transpositions simples d’indices non consécutifs, ou en effectuant des relations de tresse.

Proposition 2.1.6. -—— Pour toute permutation w E 8", le graphe ÿ(w) des mots réduits de

w est connexe. Démonstration. — Par récurrence sur 1a longueur de w, à l’aide du lemme suivant. Lemme de l’échange 2.1.7. — Si i1 - - -il et jl - - - jl sont deux mots réduits de w, alors il existe un entier k tel que

w = Sj18i1"'5zî'”8in où le chapeau sur 35k signifie que cette transposition n ’apparaît pas. Démonstration du lemme.

D’après la description, donnée par le lemme précédent, de

I(w'1) en fonction d’une décomposition réduite, il existe un entier k tel que (j1,j1 + 1) = si. - - 'sik_1(iklik + 1). D’où 8j18i1 - . '85k_1 = sil - - - Sil._18i,,. ce qui implique le résultat.

El

Montrons donc, par récurrence sur l, que l’on peut passer de i1 - - -il à jl jl via des commutations ou des relations de tresse. Soit k l’entier donné par le lemme de l’échange. Par hypothèse de récurrence, on peut passer de i1 . - -il à j1i1 . - il: - . - il en opérant sur les l — 1 premiers termes uniquement, puis de jlil - - il, - - - il à jl - - - jl en opérant sur les l — 1 derniers. Cela, toutefois, à condition que k < l. Dans le cas contraire, supposonstout d’abord que i1 et jl ne soient pas consécutifs. Alors on peut passer de i1 - - - il à i1j1 - - - ik . - - il en opérant

COURS SPÉCIALISÉS 3

2.1. PERMUTATIONS ET ORDRE DE BRUHAT

65

sur les l — 1 derniers termes, puis à jlz'l - - - 127, - - - i; en faisant commuter les deux premiers —

et l’on conclut de même. Enfin, si i1 et jl sont consécutifs, on applique à nouveau le lemme de l’échange à i1 ' - -z'z etj1i1---il_1, d’où un nouveau mot réduit de la forme iljlil - - - {,1 - - -i1_1. On passe alors

de i1 ---i1 à iljlz'l . - zÎ, - . -il_1 en opérant sur les l — 1 derniers termes, puis de ce dernier à jliljl - . . z; - . - il_1 via une relation de tresse, et l’on conclut comme précédemment.

D

Exercice 2.1.8. — Montrer grâce au lemme de l’échange que si si, ---s,—m est une dé— composition non réduite d’une permutation w, alors il existe des entiers p < q tels que

w = sil - - - 3’; - - us}: ' - - sil. En déduire que v 5 w si et seulement si w se déduit de v par produits successifs par des transpositions, à droite ou à gauche indifféremment, chacun de ses produits augmentant la longueur — pas nécessairement d’une unité. Remarque 2.1.9. — Le diagramme d’une permutation w permet d’en déterminer simplement une décomposition réduite de la façon suivante. On commence par numéroter les cases

de D(w) consécutivement sur chaque ligne, de droite à gauche, en commençant par le numéro de la ligne. On lit alors les lignes de haut en bas, et l’on obtient la décomposition réduite suivante : 10:361 ...51...sc’c+k_1...sk...scn_1+n_2...sn_1_

De même pour w—1 en tranposant, d’où un nouveau mot réduit de w en lisant à l’envers le

mot obtenu. Vérifions en effet l’identité précédente, par récurrence sur le nombre d’inversions. Soit k le plus grand entier tel que ck > 0, et v la permutation de code (c1, . . . , ck_1, 0,. . . , 0) : il s’agit de vérifier que w = w’, où w’ = vsck+k_1 - - - sk. Vue la façon dont on reconstruit

une permutation à partir de son code, on doit avoir w(z’) = v(i) = w’ (i) si i < k. De plus, w’ (k) = 'v(ck + k), et d’après le code de v, cette permutation est croissante à partir de l’indice k z donc v(c;c +k) est le (c1, + 1)-ième terme de la suite 1, . . . , n privée de 12(1), . . . , v(k— 1), c’est-à—dire 10(1), . . . , w(k — 1). C’est donc bien w(k). Enfin, w et w’ sont croissantes au-delà de l’indice k ; elles sont donc bien égales.

21-»— 6 5

|4|3J2|»-

43 fi

Æ.

i î

6. Un mot réduit de w = 3741652 e S7 : w = 828186858483823483868585.

On peut encore caractériser l’ordre de Bruhat en termes de clés.

Définition 2.1.10. —— Si w E 8,, est une permutation, sa clé K (w) est le tableau semistandard de forme 6 = (n —— 1, . . . , 1,0), dont la i-ème colonne est formée des n — i + 1 entiers 10(1), . . . , w(n — i + 1), placés dans l’ordre croissant de haut en bas.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

66

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Proposition 2.1.11. —

On a v S w si et seulement si K (v) S K (w), au sens où chaque

entrée du premier de ces tableaux est majorée par l’entrée correspondante du second.

Démonstration. — Dans un sens, il suffit de vérifier que si w = ’Utij avec v(i) < v(j), alors K(v) 5 K(w), ce qui est élémentaire. Réciproquement, supposons v 76 w, et procédons par récurrence sur le plus petit entier k

tel que 'u(k) 9è w(k). Comme v(i) = w(i) pouri < k, on a w(k) = v(j) pour un entier j > le, et v(j) > v(k) puisque K(v) S K(w). Soit donc u = ’Utjk, de sorte que v < u et u(i) = v(z') pouri 5 k. Comme on a toujours K(u) S K(w), il vient v < u S w par hypothèse de récurrence.

D

11223|

K(v)=

2233 336 56 i

11244

2246 SK(w)= 446 56 i

7. Comparaison de v = 326154 et w = 462153 dans 86. Enfin, l’ordre de Bruhat peut aussi se lire tout aussi simplement sur les fonctions de rang : Proposition 2.1.12. — Soient v et w deux permutations. L’inégalité v S w est vérifiée si et seulement si rv Z rw, au sens où pour tout couple p, q, on ait

nm02mmÿ Démonstration. — Par définition, r1, (p, q) est le nombre d’entiers inférieurs ou égaux à q

dans la (n — p + 1)-ième colonne de K (v). Par conséquent, r1, 2 rw si et seulement si pour tout entier q, chaque colonne de K(v) contient au moins autant d’entiers majorés par q que la colonne correspondante de K (w). Or ceci équivaut à ce que K (v) S K(w), donc à v 5 'w d’après la proposition précédente.

Remarque 2.1.13. —

l:|

Concluons cet aperçu de l’ordre de Bruhat en signalant qu’il est

eulérien, au sens où sa fonction de Môbius (voir la fin du premier chapitre) admet l’expression

simple suivanteœ) :

#SnWa’U) = (-1)'(”)"("’

si u S v-

2.2. De quelques classes de permutations Nous allons maintenant utiliser les différentes notions que nous venons de mettre en place, dans l’étude de deux grandes classes de permutations : les permutations dites vexillaires (et les deux sous-classes qu’en constituent les permutations dites dominantes ou grassmanniennes) d’une part, et celles que nous qualifierons de presque croissantes d’autre part. (2) Voir D.N. Verma, Moebius inversion for the Bruhat ordering on a Weyl group, Ann. scient. Éc. Norrn. Sup. 4,

393-398 (1971).

COURS SPÉCIALISÉS 3

2.2. DE QUELQUES CLASSES DE PERMUTATIONS

67

2.2.1. Permutations vexillaires. — La notion de code permet de considérer que les permutations généralisent les partitions au moins de deux façons.

Définition 2.2.1 . —— Une permutation est dite dominante si son code est une partition, autrement dit si c1(w) Z Z cn(w). Exercice 2.2.2. ——— Montrer qu’une permutation est dominante si et seulement si son diagramme est le diagramme d’une partition. En particulier, son inverse est aussi dominante. De manière équivalente, vérifier qu’une permutation est dominante si et seulement si et seulement si sa fonction de rang est nulle sur son ensemble essentiel. Ou encore, si et seulement

s’il n’existe pas de triplet d’entiersi < j < k tels que w(i) < w(k) < w(j). “4——

n l'

r

8. Permutation dominante w = 6324571 e S7.

Définition 2.2.3. — Une permutation w est dite grassmannienne s’il existe un entier r tel

que c1(w) S --- S c,(w) et c,»(w) = 0 pouri > r. Autrement dit, w(i) < w(i+ 1) sii 9€ r: une permutation grassmannienne est une permutation ayant une unique descente.

Exercice 2.2.4. — Décrire les propriétés caractéristiques des diagrammes des permutations grassmanniennes. Exercice 2.2.5. — Une permutation est dite bigrassmannienne si elle est grassmannienne ainsi que son inverse. Que sont les diagrammes des permutations bigrassmanniennes ? Décrire complètement ces permutations(3). Les permutations dominantes et grassmanniennes sont des cas particuliers d’une classe plus large de permutations, appelées vexillaires(4).

Définition 2.2.6. — Une permutation est dite vexillaire si son diagramme, à permutation des lignes et des colonnes près, est le diagramme d’une partition. (3) Les permutations bigrassmanniennes jouent un rôle très important dans l’ordre de Bruhat. Elles forment en effet des bases des groupes symétriques, au-sens où pour deux permutations u, v E S”, on a 'u S w si et seulement

si toute permutation bigrassmannienne dominée par 'u l’est aussi par w : voir Lascoux & Schützenberger, Treillis et bases des groupes de Coxeter, prépublication 1995. (”Du latin vexillum, enseigne, étendard des armées romaines. Cette terminologie est due à A. Lascoux et M.-P.

Schützenberger.

socrÉrÉ MATHÉMATIQUE DE FRANCE I993

68

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Proposition 2.2.7. —

Une permutation w est vexillaire si et seulement si il n’existe pas de

suitei < j < k < l telle que w(j) < w(i) < w(l) < w(k). Démonstration. — Le diagramme d’une permutation w peut être transformé en partition par échange de ses lignes et colonnes si et seulement si ces lignes (ou colonnes) sont totalement ordonnées pour l’inclusion. On se trouve donc dans la situation contraire si et seulement si

il existe des points (i, w(j)) et (k, w(l)) du diagramme D(w), avec par exemplci < k, tels que (i, w(l)) et (k, 'w(j)) ne soient pas éléments de ce même diagramme. Nécessairement, w(j) < w(l), puisque sinon (i, 'w(l)) serait dans D('w) : celui-ci possède en effet la propriété NO. Or nos deux premières hypothèses équivalent respectivement aux

inégalités w(z') > w(j),j > i et w(k) > w(l),l > k, et les deux suivantes à w(i) < 10(1) et w(k) < w(j). D’oùi w(j) > l, donc w n’est pas presque croissante, de sorte que la première assertion implique la seconde.

Si la seconde est vérifiée, soient i < j tels que ci(w), Cj (w) > 0, mais c], (w) = 0 pour i < k < j. Alors les lignes z“ et j de D(w) sont formées de cases dont les indices des colonnes forment respectivement des suites croissantes (A, B) et (B, C), avec, si a E A, i < w‘1(a) < j. Donc c,-('w) — Cj(’l.U) S #A < j — 2', et la troisième assertion est avérée. Enfin, si w n’est pas presque croissante, soient i < j < k tels que w(i) > w(j) > w(k), avec i maximal et j minimal pour ce choix de i. Alors, si i < l < j, w(l) < w(i) par maximalité de i, puis w(l) < w(j) par minimalité de j. En tenant compte de celle d’indice w(j ), cela donne donc j — z' colonnes contenant une case du diagramme en i-ème ligne et pas en j—ième ligne. D’où

Ci(w) Z Cj(’LU) +j — iComme, pouri > l > m, on ne peut avoir w(i) > w(l) > w(m) par minimalité de j, on a cl(w) = 0 pouri < l < j. On se trouve donc en contradiction avec la troisième assertion. Ü

La seconde des propriétés précédentes peut s’interpréter de la façon suivante : si l’on supprime les lignes et les colonnes du carré de côté n, qui ne rencontrent pas le diagramme de

w, et si l’on symétrise par rapport à une colonne, on obtient une partition gauche À(w) /p(w). Plus précisément, il sera commode de plonger canoniquement cette partition gauche dans Z >< Z de la façon suivante. Si k1 < - - - < k; est la suite des indices des composantes non nulles du code de w, la partition gauche associée à w sera l’ensemble des cases (i, j), avec 1 S i 5 l, telles que i—ki—Cki v(j + 1), la permutation u = 'USJ'Sj—15j est de longueur

l(u) =l(’u) —3=l(w) — (k—i+1). Enfin, une décomposition réduite de u donne une décomposition réduite de w, où apparaît la tresse 313,;133' = 3j_13j3j_1. D

Si w e 8,, est presque croissante, de longueur l, soit a = a1 - ' -az e R(w). Tous les mots réduits de w s’obtiennent alors à partir de a, en faisant commuter uniquement des lettres non consécutives. On peut interpréter les commutations interdites au moyen d’un ordre total sur

un ensemble P = {191, . . . , p1}, ordre défini par

pi< Z, défini par (i, k) 5 (j, l) si i 5 j et k S l, induit donc sur /\(w)//i(w) un ordre partiel isomorphe à celui dont on a muni P. Un ordre total compatible s’identifie donc simplement à une numérotation standard de À(w) /p(w). Sachant par ailleurs, d’après la proposition 1.5.20 du premier chapitre, que 1e nombre de tels tableaux gauches dont le redressement est un tableau standard de forme u, est le coefficient de Littlewood & Richardson correspondant, on en déduit en particulier [3] :

socrÉrÉ MATHÉMATIQUE DE FRANCE |998

72

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Corollaire 2.2.17. — Si w est presque croissante, le nombre de ses décompositions réduites est donné par la formule suivante .'

_ MM #R(“’) — Z 0,410,q

321

[0— .->— -

5

4

543

A

3

-

3

LE—

2

2

1

r--Ï:

10. Permutation presque croissante : w = 4612375 E S7, P et /\(w)/;t(w). Nous verrons dans la section 2.8 que le nombre de décompositions réduites d’une permutation peut toujours s’écrire comme une somme de degrés de certaines représentations du groupe symétrique (autrement dit d’entiers Kl,) qui lui sont naturellement associées. Ce sera la conséquence des remarquables propriétés combinatoires des polynômes de Schubert, polynômes qu’il n’est que temps d’introduire.

2.3. Les polynômes de Schubert Les polynômes de Schubert se définissent de manière inductive, à partir de celui de plus haut degré, qui est un produit très simple de formes linéaires. Nous obtiendrons de nombreuses propriétés importantes de ces polynômes à partir de l’algèbre nilCoxeter et de l’équation dite de Yang—Baxter.

2.3.1. Différences divisées. — Les difi‘e’rences divisées de Newton agissent sur les polynômes de n variables : on note ô,- l’opérateur de degré —1 défini, pour 1 S i < n, par

(ôiP)(æ1,.-.,-’Bn) =

P(...,Œi,:l:i+1,...)—P(...,Œi+1,.’vi,...)

xi — mm

De façon plus compacte, 6.- = (1:,- — mi+1)—1 (1 — si). Cet opérateur a pour image et pour noyau l’espace des polynômes symétriques en xi et xi“. Les différences divisées vérifient des relations très semblables à celles auxquelles obéissent les transpositions simples : 612

=

0,

aiajai = ôjôiôj si li — jl = 1-

COURS SPÉCIALISÉS 3

2.3. LES POLYNÔMES DE SCHUBERT

73

Définition 2.3.1. — Si a = a1 - . - a; est un mot réduit d’une permutation w, l’opérateur ôal "-0,1, ne dépend que de w. C’est en effet une conséquence immédiate des relations vérifiées par les opérateurs de différences divisées, et de 1a connexité du graphe ÿ(w) des mots réduits de w. On notera ôw cet opérateur“), qui est homogène de degré —l (w) Les différences divisées étant de carré nul, l’opérateur associé comme ci-dessus à un mot

a1 . . . a1 non réduit, est nul. Soit en effet i le plus grand entier tel que a1 . . .ai soit réduit, u la permutation correspondante. Alors v = usa, +1 est de longueurz’ — 1, et si b1 ' - - bi_1 en est un mot réduit, b1 - ‘ - bi_1ai+1 est un mot réduit de u. Il vient ôai ' ' ' au! = 61160.41 ' ' ' 6a, = ôbl ' ' ' alla—1365H 611.41 ' ' ' aux = 0'

En conséquence, pour deux permutations quelconques u et v, âuâv =

8m,

si l(uv) =l(u)+l(v),

0

smon.

.

Proposition 2.3.2. — Si 'wg est la permutation de longueur maximale de 8m alors

ôwo = a? z e(w)w. 'wEtS',l

Démonstration. ——— Chaque opérateur 81, peut s’écrire sous la forme av = z fu,ww)

où fww est une fraction rationnelle. Comme l’image de ôwo est constituée de polynômes symétriques, on a u—lôwo = wo pour toute permutation u. Donc fwo,w = 5(u)fwo,uw = 6(ww0)fwo,wO>

et l’on vérifie que fwmw0 ‘= 6(wo)a;'1 en utilisant par exemple la décomposition réduite de wo qui se lit sur son diagramme.

D

Remarque 2.3.3. ——— Le fait que les différences divisées soient de carré nul n’intervient pas dans la définition des opérateurs ôw. Si l’on définit les différences divisées isobares 7H par

l’identité mP = âi(ziP), les relations de tresse et de commutation sont encore vérifiées, avec cette fois riz = m. On peut donc encore associer à toute permutation w un opérateur 7rw, de degré zéro.

(5)Les opérateurs de différences divisées ont été introduits dans un contexte plus général, dans lequel on les nomme le plus souvent opérateurs de Demazure, indépendamment par Demazure [10] et Bernstein-Gelfand-Gelfand [2] (et même antérieurement dans un manuscrit de C. Chevalley, longtemps resté inédit [9]). Dans ce cadre, ce sont des opérateurs sur l’anneau de cohomologie d’une variété de drapeau généralisée X = G/ P, où G est un groupe de Lie semi-simple complexe et P un sous-groupe dit parabolique. Parmi ces variétés figurent les grassmanniennes et les variétés de drapeaux complets, que nous rencontrerons dans le chapitre troisième, et dont nous étudierons en détail les anneaux de cohomologie.

socrÉrÉ MATHÉMATIQUE DE FRANCE 1993

74

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Considérons deux ensembles a: = (x1, . . . ,zn) et y = (3/1,... ,yn) d’indéterminées, et leur résultant partiel

N17, 3/) = H (z, — 11j)2+a

Définition 2.3.4. — double

À chaque permutation w E S" est associé le polynôme de Schubert 61001:, y) = ôw—ïwoA(-Ta y),

où les différences divisées portent uniquement sur la variable w. Les polynômes de Schubert simples sont les spécialisations

6w(z) = 6w(z,0) = ôw—1w°æô. La définition de ces polynômes est due à A. Lascoux et M.-P. Schützenberger [58](6),

et date de 1982. Les propriétés de compositions des opérateurs de différences divisées impliquent immédiatement que

6.46", =

q—x

si l(wu'1) =l(w)—l(u),

0

sinon.

2.3.2. Equation de Yang-Baxter et configurations. — Avant de commencer l’étude proprement dite des propriétés des polynômes de Schubert, nous allons développer l’approche de ces polynômes qu’ont proposée S. Fomin et A. Kirillov [14, 15, l7], et faire tout d’abord un petit détour par les algèbres de Hecke du groupe symétrique.

Si a, et b sont des nombres complexes, définissons l’algèbre de Hecke 712,1, par générateurs et relations. Les générateurs sont au nombre de n — 1, on les notera u1,. . . ,un_1. Les relations sont les suivantes :

u?

= aui + b,

’11,i

=

ujui

Si I1: — jl > 1,

Ui’Uni

=

Uj’Ulz‘Uj

si Ii — j| = 1.

Exercice 2.3.5. — Montrer qu’en tant qu’espace vectoriel complexe, ’Hÿ’b admet toujours une base indexée par les permutations. Par exemple, H311 = (C[8,,] est l’algèbre du groupe symétrique, tandis que ’Hïo est l’algèbre engendrée par les différences divisées isobares. Dans ce qui suit, on utilisera plutôt 713,0, algèbre engendrée par les différences divisées, que l’on appellera algèbre nilCoxeter. Notons pour simplifier 7l = 713,0 l’algèbre nilCoxeter, u1,. . .,u,,_1 ses générateurs. Si l’on fait correspondre au générateur u, la transposition simple si de 8,1, alors en tant (6)Signalons que l’on peut développer le même formalisme en remplaçant les différences divisées par les diffé-

rences divisées isobares, et définir en lieu et place des polynômes de Schubert, des polynômes dits de Grothendieck, qui possèdent des propriétés très similaires. De même que les polynômes de Schubert, comme on le verra au troisième chapitre, permettent de décrire l’anneau de cohomologie des variétés de drapeaux, les polynômes de Grothendieck permettent d’en décrire les anneaux de Grothendieck, qui sont des anneaux de classes d’isomorphismes de fibrés vectoriels Virtuels. Pour'plus de détails, on pourra par exemple consulter [54], et l’article de W. Fulton et A. Lascoux

[24].

COURS SPÉCIALISÉS 3

2.3. LES POLYNÔMES DE SCHUBERT

75

qu’espace vectoriel complexe, ’H admet les permutations pour base. De plus, le produit dans ’H de deux permutations est donné par

u_v={ uv si l(uv)=l(u)+l(v), O

sinon.

Si a: est une indéterminée, posons h,(x) = 1 + xui. Les relations vérifiées par les générateurs de ”H se traduisent par les relations suivantes :

hi(Œ)hi(y)

=

hi(Œ)hj(y)

= hj(y)h,(œ)

hiÛL‘ + y),

Si li — il > 1,

h,(æ)hj(:c + y)h,(y) = hj(y)hi(y + Œ)hj(93) Si li — il = 1. Cette dernière relation est appelée équation de Yang-Baxter. Appelons configuration une famille C de n brins continus, coupant chaque droite verticale en un unique point, et astreints à se rencontrer deux à deux au plus une fois, toujours transversalement, en des points d’abscisses distinctes. On convient qu’une isotopie, c’est-à-dire une déformation continue, préservant ces propriétés et l’ordre des croisements des brins, ne modifie pas une configuration. Si w est la permutation correspondante des n brins, la configuration C code une décom— position réduite de w, qui se lit de la façon suivante. Si a1, . . . ,az sont les hauteurs des croisements successifs, lus de gauche à droite (la hauteur étant le nombre de brins situés au

dessous du croisement, plus un), alors 'w = sa1 - - - 3a.- C’est bien une décomposition réduite

puisque deux brins sont astreints à ne pas se croiser plus d’une fois.

11. Une configuration Associons maintenant à chaque brin une indéterminée, qu’on appellera son poids. Supposons que le i-ème croisement de C implique des brins de poids 56k, et z,” le second correspondant au brin de plus grande pente : autrement dit, le second brin passe au—dessus du premier quand on va de la gauche vers la droite. On pose alors Ô(C) = ha1(æk1 — 11351)‘ ' ' ham (k — x1m)‘

C’est un polynôme à coefficients dans l’algèbre nilCoxeter ’H.

Lemme 2.3.6. — Les poids des brins étant fixés, le polynôme 45(0) ne dépend que de la permutation w qui correspond à la configuration C.

socrÉrÉ MATHÉMATIQUE DE FRANCE I998

76

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Démonstration. —— Du fait de la connexité, attestée par la proposition 2.1.6, du graphe ÿ(w)

des mots réduits de w, il suffit de vérifier que q5(C) est inchangé quand on fait subir à C des déformations qui correspondent aux opérations élémentaires sur les décompositions réduites. Permuter deux transpositions simples d’indices non consécutifs revient à opérer la défor— mation suivante :

wy >< i i Z

t

>< y :137 i ——>

i

l

I

:>< . i |

I

l

si

> 1. De même, une relation de tresse entre indices consécutifs correspond à une déformation du type suivant : :1:

z

y Z

. I I l I I

l l l l l

-->

y

I l I I I

I I l l

&Swlm

l I l l

l I I I

æ

sfllææfl

Ici, c’est la relation de Yang—Baxter

h,(y — Z)hi+1(z — z)h,—(m — 3/) = hi+1(œ - y)h,(a: - z)h,-+1(y — Z) qui assure que le polynôme associé n’est pas modifié.

EI

On peut étendre cette construction à des configurations dont les brins sont divisés en segments de poids distincts. Le polynôme associé reste inchangé si l’on déforme une telle confi— guration comme ci—dessus, à condition de ne jamais traverser un point d’un brin qui sépare deux segments de poids distincts.

2.3.3. Une configuration particulière. — Fixons un entier n, et considérons la configura— tion CSch suivante, dont les brins, à l’exception des deux diagonales, sont formés de deux

segments de poids distincts :

COURS SPÉCIALISÉS 3

2.3. LES POLYNÔMES DE SCHUBERT

yn—1

77

zn_1

'

3/2

172

3/1

971 12. La configuration C'sch-

Le polynôme associé à cette configuration est, par définition, n—2

45(CSch) = H

H hi+j—1(Œi - 21j),

d=2—n i—j=d, 1+a

où l’on prendra garde à l’ordre des facteurs, puisque ceux-ci ne commutent pas. Déformons Ose}, de la façon suivante z on fait glisser la diagonale descendante très loin à gauche du

diagramme, puis le brin suivant un peu moins loin, de façon à ce que son premier croisement reste à droite du dernier croisement du précédent : et l’on fait de même successivement, pour tous les brins suivants. Cette déformation ne modifiant pas le polynôme associé, il vient n—l

1

45(ÛSch)= H H hi+j—1(Œi-yj)'i=1 j=n—’i

Théorème 2.3.7. — Si l ’on décompose dans ’H[:L', y], (MCSch) = z d’w(CSch)w, wESn

alors 4510(Csch) n’est autre que le polynôme de Schubert double 6w(m, y). Démonstration. — C’est bien le cas si w = wo : en effet, 'wo est la permutation associée à la configuration Csch, donc 45m0 (05ch) =

H (Œz' — 31j) = 6'100 (517,31)-

i+j5n

Reste à montrer que ÛHMC'sch) = çù(CsCh)ui, les différences divisées agissant sur la variable z. En effet, ceci équivaut à la relation

âiqswsi(CSch) = i+ 1. Notons également que hi(œ) et hi(—:r) sont inverses l’un de l’autre. Lemme 2.3.8. —— Les identités suivantes sont vérifiées :

1. Hi(Œ)Hi(y) = Hi(y)Hi(-’v), 2. Hi(x)Hi+1(3/) - Hi(y)Hi+1(Œ) = (w - y)Hi(Œ)Hi+1(3/)UiDémonstration du lemme. — Le premier point se démontre par récurrence descendante sur i. On a successivement

Hi(Œ)Hz'(y) = Hi+1(Œ)hi(Œ)Hz‘+2(y)hi+1(y)hi(y) = Hi+1(Œ)Hi+2(1/)hi(w)hi+1 (y)h,»(y - Œ)hi(x) = Hi+1(Œ)Hi+2(!/)hi+1(y — Œ)hi(y)hi+1(w)hi(ïv) = Hi+1(y)Hi+2(Œ)hi(3/)hi+1(Œ)hz‘(Œ)

= Hi(y)Hi(Œ), où l’on passe de la deuxième à la troisième ligne via une équation de Yang-Baxter, puis à la ligne suivante grâce à l’hypothèse de récurrence. Le second point s’en déduit immédiatement. EI

Lemme 2.3.9. — Sont vérifiées les identités suivantes :

1' hi(z — y) = H;11(Œ)HÏ1(y)Hi(Œ)Hi+1(3/),

2- lin—106 — yn_1)mh,-(œ - 1/1): H;—11(yn—1) ' ' ' Hi—1(yi)x >>ewosw.w(æ)). wESn

Mais d’après l’identité de Cauchy pour les polynômes de Schubert 2.4.8, cette somme est égale à

H (mm, —z,) = 0

siv 7e id.

15i0 i=1n1 (i + 1, j), pondéré par Œj, ou verticaux

(i, j) —) (i, j + l), pondérés par 1. Soient (ai, bi) les coordonnées de Mi, (ci, di) celles de N,- : les deux suites seront compatibles si l’on suppose que a, > ai+1, b, S bg+1, ci > ci+1 et d, S di+1. De plus, G(C(Miv N1» = t-ai (Œbn - ' - ,Œdj)'

On code alors un n-uplet C de chemins par un tableau gauche U de la façon suivante z si C,-

contient le segment horizontal (l, h) —> (l + 1, h), on pose Un” = h. Ce tableau gauche est donc de forme À/p, où À,- = a, +z' -— 1 et u, = c, +z' — 1, et le fait que C, joigne des points

de hauteurs respectives b, et d, signifie que pour tout j, b,- S Uij S di. Enfin, le fait que les chemins de C soient deux à deux disjoints se traduit très précisément par la propriété pour U

d’être semistandard. N3

N2

Îni'"i"*"'ï"'"î'"i I

r—-

I

I

I

.

l

I l l i i În—"l" . . _ +____'__ ___'__ me. . î i l . l

+—

I2I

I

—"'|'--"'—l'—"l

l

l

I

IN1 Î

4 2

4

__'

l

3

5

l

L__l___l___l__‘_.__L__l

M1 16. Chemins codés par un tableau gauche.

socrÉrÉ MATHÉMATIQUE DE FRANCE I998

92

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Corollaire 2.6.3. — Soient À Z) a des partitions, b et d deux suites faiblement croissantes de n entiers, avec n 2 l (À) Alors

dét(hA.-—pj—i+j(œbj , - - - ,Œdi))15i,15n = z 93W”, U

cette somme portant sur l’ensemble des tableaux gauches semistandard U, de forme À/u, numérotés sur la i-ême ligne d’entiers compris entre bi et di. En particulier; lesfonctions de Schur drapeaux se développent sous la forme ), sÀ/fl(Xd1,'-'3a) = ZŒMT T

cette somme portant sur l’ensemble des tableaux gauches semistandard T, de forme À/a, dont les entrées de la i—ème ligne sont majorées par di. Si les entiers dj sont supérieurs au nombre d’indéterminées, on retrouve les fonctions de Schur gauches ordinaires et le théorème de Littlewood 1.4.1. 2.6.3. Deuxième application. — En plus des arêtes de l’application précédente, on admet

des arêtes diagonales (i, j) —) (i + 1, j + 1), pondérées par yj, où les yk, k E N sont une autre famille d’indéterminées. Comme précédemment, on fait correspondre à une famille de chemins un tableau gauche de forme À/a, dont la i-ème ligne se déduit du chemin C,- de la façon suivante : c’est la suite des ordonnées des origines des segments successifs horizontaux ou diagonaux du chemin, ces derniers étant repérés par un « prime ». On obtient ainsi une correspondance biunivoque entre familles de chemins disjoints deux

à deux, et tableaux gauches de forme À/a sur un alphabet 1 < 1’ < 2 < 2’ < ' - . , admettant les propriétés suivantes : ils sont numérotés de façon croissante sur les lignes et colonnes,

strictement croissante sur les lignes pour le sous-alphabet 1’ < 2’ < 3’ . - - , strictement croissante sur les colonnes pour 1e sous—alphabet 1 < 2 < 3 ' - . ; enfin, ils sont numérotés

sur la i—ème ligne par des entiers h tels que bi S h 5 di, ou h’ tels que b.‘ 5 h’ < di. On parlera de bitableaux gauches semistandard, et l’on notera 7'(À/,u, b., d.) l’ensemble de ces

bitableaux gauches U, auxquels sont naturellement associés deux poids ,u(U) et p’ (U).

3’ 4]

3’ 4 4’

M1 17. Chemins codés par un bitableau gauche.

COURS srÉcrAusÉs 3

2.6. FONCTIONS DE SCHUR DRAPEAUX

93

Définition 2.6.4. — Si X = (amie; et Y = (yj)jeJ sont deux familles finies d’indéterminées, définissons les polynômes ek(X — Y) et h], (X — Y) par les séries formelles

Ztkek(X — Y): Ë tkhk(Y — X) = Ha + ma/ Ha — tyj). kEZ

kEZ

z'EI

jEJ

Les fonctions multiSchur sont alors les déterminants

3A/u(X r Y) = dét(hA.-—n,-—i+j(X - Y))15i,j5nSi l’on choisit bi = 1, et si dj est strictement plus grand que le nombre d’indéterminées des familles X et Y, la proposition précédente se traduit par l’identité suivante : Corollaire 2.6.5. —— Soient /\ D ,u des partitions, X et Y des familles de n et m variables

respectivement, avec n, m z l(À). Alors sÀ/#(X—Y) =

Z

æ#(U)y#I(U),

UeTm,n(z\/Iz)

où ’Î'm,n (À/p) est l’ensemble des bitableaux gauches semistandard deforme /\//.L, numérotés sur1,...,net1’,...,m’. Exercice 2.6.6. —

On considère le graphe ci-dessous dans Z x N*. Les arêtes verticales

sont montantes en abscisse positive ou nulle, descendantes en abscisse négative : elles sont pondérées par l’entier 1. Les arêtes diagonales (—l, h + 1) —) (—l + 1, h) et horizontales (l, h) —) (l + 1, h) sont pondérés par æh.

I I

l l H

| l

l l

l l

|.__

l

l I

l l l"-

l—l

iI

-__I_——|—_T——l———Î L..-

l

l l

Α

No, .———.—--.—--r ————— n | l | l l | l l I l I |-——I-— —-I | I 7 I l l | J I l l 'I _"I’"T"I l 4 l l l I l I l I

l l

n+1l\ l k I l k l I b I I

Pour afi Z 0, on considère les points N = (a, n) et Mfi = (—,6 — 1,'n + 1). Montrer que la fonction génératrice de l’ensemble des chemins joignant ces points est G(C(Mp,Na)) = 5(a|,8)(-771, . . . ,zn). En déduire une nouvelle démonstration de la formule de Giambelli 1.2.16.

SOCIÉTÉ MA'l'l-IÉMA'l'lQUE DE FRANCE 1993

94

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

2.6.4. Permutations dominantes et grassmanniennes. — Après cette longue digression, revenons aux polynômes de Schubert. Montrons tout d’abord que l’expression de 6,00012, y)

= Hi+j5n(zi — yj) comme produit de différences de variables :L' et y, s’étend à l’ensemble des permutations dominantes. Proposition 2.6.7. — Pour toute permutation dominante w, de forme À(w), on a 6w(xiy) =

H

(512i _yj)'

(i,j)ez\(w) Démonstration. — On procède par récurrence sur la taille de À(w) C 6. Soit j le plus grand entier tel que À(w)n_k = k pour 1 S k < j, et soiti = Mut); + 1. Alors wsz- est dominante, et /\(ws,-) s’obtient en ajoutant à /\(w) la case (i, j). Notons que Mut), = /\(w),-+1. Graphiquement, le passage de w à wsi se fait de 1a façon suivante, où les o désignent des points du graphe de w à gauche, et du graphe de wsi à droite :

J' 1 z

O

. O

O

O

—>

n—1 Par hypothèse de récurrence, on peut alors écrire 610013,?!)

=

81161118; (æ: y)

ôitm - w)

H

(Œp - yq)]

(p,q)e/\(W) =

H

(x? _ 114),

(ptq)ez\(w) cette dernière égalité provenant du fait, puisque /\(w)i = À(w),-+1 , que le produit précédent est un scalaire pour ôi, puisque symétrique en xi et 11:51.1. Ü Pour ce qui est des permutations grassmanniennes, on traitera d’abord le cas des polynômes de Schubert simples. Celui des polynômes de Schubert doubles sera un cas particulier du théorème 2.6.9. Proposition 2.6.8. —

Si 'w est une permutation grassmannienne, et si r est son unique

descente, alors

611,011) = s,\(w)(a:1,...,:z;r). Démonstration. — On a À('w) = (w(r) — r, . . . ,w(1) —- 1). Soit par ailleurs 1115 l’élement de 8,. de plus grande longueur. Alors, si l’on note 6' = (r — 1, . . . , 1,0), la permutation

COURS SPÉCIALISÉS 3

2.6. FONCTIONS DE SCHUR DRAPEAUX

95

wwg est dominante de forme /\(w) + 6", . De plus, l (w) = l(ww5) + l(w5), donc d’après la proposition précédente, 61001") = 6111561111115 (Il?) = aura xÀ(w)+6’ = sÀ(w) (:131, - - - 1 Œr)’

cette dernière égalité étant conséquence de la proposition 2.3.2.

E1

2.6.5. Permutations vexillaires. — Nous allons montrer maintenant que les polynômes de Schubert associés aux permutations vexillaires, sont des fonctions de Schur drapeaux. Étant donnée une permutation vexillaire w, nous reprendrons les notations de la définition 2.2.9, et

de l’exercice 2.2.11, pour la forme et 1e drapeau de w et de son inverse. Notons par ailleurs X,- la famille d’indéterminées (:L'l, . . . ,xi). Introduisons les polynômes 3À/p(Xa1 — Ybl i - - - ,Xam — m) = dét(hÀi-uj —i+J' (X05 — Ybi))15i,jsmi

qui généralisent les fonctions multiSchur de la section 2.6.3. Théorème 2.6.9. — Si la permutation w est vexillaire, alors 610(xvy) = 3À(w)(Xf1 — YÎw ' ' ' 1k — Ytti)‘

Corollaire 2.6.10. —

hæ—’

W

m1

mk

Si w est une permutation vexillaire, de forme /\(w) et de drapeau

(Mm) = (o1,...,qäm), ona 6.007) = s,\(w)(X451, . . . ,Xém). Démonstration. — Reprenons les notations ci-dessus :

À(w)

=

(lin1 ...lk’“’°),

0(w) = (1mn- Il“), «Mm—1) = (91“ mai“). On procèdera par récurrence sur le plus grand entier j tel que le code de w commence par

la suite If“ ...l;"_j1" : on a j = k + 1 si et seulement si w est dominante. Notons que fi =m1 +--'+mipouri < ep(x1,...,xm) =

z

61,.

"65m,p(W)

Démonstration. — Rappelons que X,- = (1:1, . . . , xi). On procèdera par double récurrence sur p et m, en utilisant l’identité élémentaire suivante :

eP(Xm) = ep(Xm—1)+ xmep-1(Xm—1)-

socrÉrÉ MATHÉMATIQUE DE FRANCE I99x

100

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Notons tout d’abord que la formule de Monk est équivalente à l’identité œmsu =

E

Gutmq —

E

sutjm'

q>ma

q w(j1) >

> t, et il doit exister un indicez' tel que

j, = m. Mais alors, on peut écrire Ç = (tjiq ' ' ' tji—Iq)(tji+1m ' ' ' tjhm)tm4’ et ceci montre que v = utmq, avec u e Sm_1,p_1(w). Ainsi, tous les m-soulèvements

gauches de degré p de w apparaissent dans l’une (et une seule) des deux premières sommes du membre de droite de l’identité précédente.

Réciproquement, soit v E Sm_1,p('w)\Sm,p (w). Cette fois, l’un des cycles du produit

10—11; doit s’écrire r tel que u = wtr,c soit de

longueur l (w) — 1. Cela signifie que w(k) < w(r), et que le rectangle ayant pour sommets les points (k, w(k)) et (r, w(r)) ne contient pas d’autre point du graphe de w. De plus, il ne doit pas exister d’autre entier k’ > r pour lequel wtrk trk: soit de longueur l (w) : autrement

dit, les régions ]w(r), oo[>< [r, k] et ]k, oo[>< [w(k), w(r)] sont également vides de points du graphe. En particulier, r est nécessairement une descente de w.

Soit alors v E S(w,1‘) z il existe un entier j < r tel que v = utJ-r soit de même lon— gueur que w, ce qui signifie que w(j) < w(k) et que le rectangle de sommets (r, w(k)) et (j, w(j)) ne contient pas d’autre point du graphe que ce dernier. Si j est maximal, le rectangle [1, w(j)[>< [j, r] est disjoint du graphe : on dira que v est extrêmale.

J ----- >.< ----- 9 (agi;

’l"

..... g ..... ..... X .....

k

x”... .....

:ŒÉÜ .0 20. Transition extrêmale.

Lemme 2.7.7. —

Pour toute permutation w, on a /\(w—1)* 2 À(w), avec égalité si et

seulement si w est vexillaire. De plus, si T(w, 'r) est une transition, et si v E S (w, 7‘), alors

Mur—1V Z À(v'1)* Z /\(v) Z MW), la dernière de ces inégalités étant une égalité si et seulement si v est extrêmale. Démonstration. — Notons L1, . . . ,Lh les lignes non vides du diagramme de w, rangées de telle sorte que leurs longueurs décroissent. Pour toute partie H de {1, . . . , h}, notons n(H)

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1993

102

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

le nombre de colonnes rencontrant toutes les lignes Lj , j E H. Alors, pour tout entier j ,

,\(w)1+---+/\(w)j = ZZnŒ) i=1 iEH J'

/\(w—1)Ï+---+ Min—1); = z z n(H). i=1 #H_>_i Si H est fixé, il apparaît dans le terme de droite de la première identité avec un coefficient

#H n {1, . . . , j}, et dans celui de la seconde avec un coefficient min(#H, j). Le pemier étant majoré par le second, l’inégalité /\(w'1)* Z À(w) s’ensuit. De plus, l’égalité signifie que n(H) est non nul si et seulement si H est de la forme {1, . . . , i}, ce qui signifie que les lignes du diagramme de D(w) sont totalement ordonnées pour l’inclusion, donc que w est vexillaire.

Soit alors une transition T (w, r), et v e S(w, r). À partir de w, avec les mêmes notations qu’avant l’énoncé du lemme, la permutation v s’obtient en posant v(j) = w(k), v(r) = w(j) et v(k) = w(r). En conséquence, les codes de v et w coïncident, à l’exception de leurs composantes d’indices j et r qui vérifient 01(1)) S cj(w),

cr(w) S cjw)‘

Ceci implique l’inégalité /\(v) S À(w). De plus, en cas d’égalité, on doit nécessairement avoir c, (v) = ej (w) et c, (w) = 63(1)), ce qui est équivalent au fait que v soit extrêmale. On remarque alors que toute cette discussion est invariante par symétrie diagonale sur les graphes, donc que si v s’obtient par transition à partir de w, 11—1 s’obtient de même à partir

de w’l. En particulier, il vient À(v‘1) 5 Mut—1), et l’on conclut grâce à la première partie du lemme.

I:I

2.7.4. Multiplication des fonctions de Schur. — À chaque permutation w E Soc, nous allons associer un arbre A(w) formé de permutations, de sommet w, de la façon suivante.

Si 'w est vexillaire, posons simplement A(w) = {w}. Sinon, nous considérons la transition maximale T(w, r), et l’on relie w aux permutations v E S('w, r), auxquelles on applique le même procédé. Cela si S (w, r) n’est pas vide : dans le cas contraire, on commence par changerw en 1 X w. Notons que toutes les permutations qui apparaissent dans cet arbre ont leur plus grande descente majorée par celle de w. Comme leur forme est elle même bornée par le lemme

précédent, il est facile d’en déduire que l’arbre A(w) est fini. Proposition 2.7.8. — Si rm : ’Pœ —) ’Pm est l’homomorphisme de restriction, et si m est inférieur ou égal à la plus petite descente a'e w e 50°, alors rm(6w)=

z

s)‘(v)(x1,...,mm).

v€A(w)

Démonstration. — Pour les permutations vexillaires, ce n’est rien de plus que la proposition 2.6.8. Le cas général s’en déduit par récurrence, via la transition maximale de w.

COURS SPÉCIALISÉS 3

EI

2.8. L'ÉNUMÉRATION DES Mors RÉDUITS

103

On en déduit immédiatement une nouvelle formulation de la règle de Littlewood & Richardson, qui possède entre autres avantages celui de s’étendre au produit d’un nombre quelconque de fonctions de Schur. Corollaire 2.7.9. — Soient il et 1/ des partitions, soient u et v les permutations grassmanniennes qui leur sont associées. Alors 8,, >< 8,, =

Z

SMW)‘

w€A(u>< w) est le même que celui

des formes des permutation de A(w).

EI

Notons que Fw est donc une fonction de Schur si et seulement si w est vexillaire. D’autre

part, si l = l(w) S m, le théorème 2.5.1 implique que 1e coefficient de x1 - ' '17; dans 61m x", est égal au cardinal de l’ensemble R(w) des mots réduits de w. Comme, d’après le théorème 1.4.1 du chapitre premier, le coefficient de ce même monôme dans s,\ est le nombre KÀ de tableaux standard de forme A, on aboutit ainsi au résultat suivant :

Corollaire 2.8.2. — Le nombre de décompositions réduites d ’une permutation w est

#R(w) = z Kan.)v€A(w)

En particulier, si w est vexillaire, et seulement dans ce cas,

#R(w) = Km”)Exercice 2.8.3. —

Soit wo la permutation de longueur maximale de 5m et notons sa lon-

gueur N = n(n — 1) /2. La permutation 1m x wo est alors vexillaire. Déduire du théorème 2.6.9, de la proposition 2.6.3 et du corollaire 2.5.16, que lorsque a décrit R(w0), la somme des produits (m + a1) ' . . (m + aN) est égale au produit de N! par le nombre de tableaux semistandard de forme 6, dont les entrées de la i-ème ligne sont majorées par m + i. Si T est

un tel tableau, on obtient en changeant l’entrée tij en m + i + 1 — tij une partition plane de forme ô, de hauteur majorée par m + 1. Ce procédé induit une bijection entre ces ensembles de tableaux et de partitions planes. Et le nombre de ces partitions planes a été calculé par Proctor [75] : on obtient finalement l’identité [16]

z (m+a1)---(m+aN)=N! aERWO)

H ..

151

136| 24

125| 36

i

i

23. Promotion, évacuation : T r——> p(T), e(T). On constate sur cet exemple que p(T) est simplement le tranposé du tableau T de départ : on peut démontrer que c’est un fait général. En particulier, l’opérateur de promotion est une involution, et il en est de même de l’opérateur d’évacuation.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1993

106

CHAPITRE 2. LES POLYNÔMES DE SCHUBERT

Ces opérations fournissent le lien cherché entre tableaux standard et décompositions réduites de wo de la façon suivante : notons qk le numéro de la colonne de la plus grande entrée

du tableau ô"_1T. Théorème 2.8.6. — L’application qui à T associe le mot ql ' - - qN, est une bijection de l ’ensemble des tableaux standard de forme 6 sur l’ensemble des mots réduits de wg. 2.8.3. Correspondance d’Edelman & Greene. —- On a défini au paragraphe précédent une correspondance entre mots réduits de longueur maximale et tableaux, qui n’est pas sans rappeler la correspondance de Knuth. On peut en fait définir une correspondance entre mots réduits et certaines paires de tableaux, en remplaçant l’anneau plaxique par un anneau dit nilplaxique et défini comme suit : c’est le Z—module des classes d’équivalence de mots sur l’alphabet des entiers naturels, modulo les relations de Knuth, à la différence près que les relations æyz N yzx et yyx N yzy sont remplacées, pour y = x + 1, par la relation de tresse yœy N æyæ. Le produit est défini comme dans l’anneau plaxique, par juxtaposition des mots. On peut encore définir un procédé d’insertion, dit de Coxeter—Knuth, correspondant à ces

relations modifiées. Ce procédé est identique à l’insertion de Knuth sinon que si l’on veut insérer a: dans une ligne où figure déjà la paire æ, a: + 1, on laisse cette ligne inchangée et l’on passe à la ligne suivante avec a: + 1. Ce procédé est réversible si l’on connaît la case d’arrivée. Comme pour la correspondance de Knuth, on en déduit la correspondance suivante : Correspondance d’Edelman & Greene 2.8. 7. — Le procédé d’insertion de Coxeter—Knuth

induit une correspondance biunivoque m H (P* (m), Q* (m)) entre mots réduits etpaires de tableaux de même forme, le second standard, le premier strictement croissant sur ses lignes et colonnes. Notons qu’il existe un seul tableau de forme ô, numéroté d’entiers plus petit que n, et qui soit strictement croissant sur ses lignes et colonnes. On obtient donc à nouveau une correspondance entre décompositions réduites de wo et tableaux standard de forme 6. Par ailleurs, comme dans le cas de l’équivalence plaxique, deux mots réduits m et m’ sont

équivalents au sens de Coxeter—Knuth si et seulement si P* (m) = P* (m’). Or deux mots réduits équivalents sont nécessairement des décompositions réduites d’une même permutation : à chaque permutation w E 5',I correspond donc un certain nombre de classes d’équivalence

nilplaxique, définies par une famille 73(w) de tableaux P, et les mots de la classe de P sont en correspondance avec les tableaux standard de même forme. On aboutit donc pour le nombre de mots réduits de w à l’expression

#R(w)= z KMP), PE'P(w)

ce qui permet de retrouver le corollaire 2.8.2 sous une forme un peu différente.

COURS SPÉCIALISÉS 3

CHAPITRE 3

LES VARIÉTÉS DE SCHUBERT

Le chapitre géométrique de ce cours commence avec les grassmanniennes et leurs plonge— ments de Plücker. On définit une famille de sous—variétés des grassmanniennes, indexées par des partitions : les variétés de Schubert, dont l’étude des propriétés d’intersection dévoilera une remarquable analogie formelle avec la multiplication des fonctions de Schur. Les mo-

nômes standard nous permettront ensuite de décrire l’idéal d’une variété de Schubert, et d’en étudier les singularités. Nous définirons alors les classes de Chem d’un fibré vectoriel complexe sur une variété différentiable, classes dont nous expliquerons le rapport avec les fonctions symétriques. En faisant le lien avec les classes fondamentales des variétés de Schubert des grassmanniennes, nous démontrerons la formule de Thom & Porteous pour les classes fondamentales des lieux de dégénérescence, où le rang d’un morphisme entre fibrés vectoriels est majoré par un entier donné. Nous en donnerons quelques applications énumératives. Sur les variétés de drapeaux complets, il est possible de mener une étude similaire à celle que nous aurons consacrée aux grassmanniennes. Les variétés de Schubert seront cette fois indexées par des permutations, et leurs classes fondamentales représentées par des polynômes de Schubert. Nous caractériserons simplement les permutations qui définissent des variétés de Schubert non singulières. Le formalisme introduit sur les variétés de drapeaux complets nous permettra de conclure sur la démonstration d’un théorème de Fulton, qui constitue une vaste généralisation de la formule de Thom & Porteous. Il s’agit cette fois de morphismes entre fibrés vectoriels munis respectivement de drapeaux de sous—fibrés et de fibrés quotients, soumis à certaines conditions de rang. La classe fondamentale du lieu de dégénérescence correspondant est alors donnée par un polynôme de Schubert en les classes de Chem des fibrés impliqués.

3.1. Les grassmanniennes 3.1.1. Les grassmanniennes comme variétés algébriques. — Notons Gm,l l’ensemble des sous-espaces linéaires de dimension m, donc de codimension n dans Cm+n : cet en—

semble est une grassmannienne complexe.

108

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Le groupe linéaire complexe GL(m + n, (C) agit transitivement sur Gmm, de même que le groupe unitaire Um+n. D’où des identifications Gmm z GL(m + n,C)/Pm,n 2

m+n/Um >< Un,

où l’on a désigné par Pmyn le sous-groupe de GL(m + n, (C) qui stabilise le sous-espace de Cm+n engendré par les m premiers vecteurs de sa base canonique“). Pour m = 1, on obtient en particulier l’ensemble lP’((Cm+1) des droites de Cm“, qui est l’espace projectif complexe de dimension m, noté lP'".

Si V e Gmm, donnons—nous une base 121,. . . ,vm de cet espace. Complétons-la en une base de Cm+n par des vecteurs vm+1, . . . ,vm+n. On peut alors définir des coordonnées locales au voisinage de V comme suit. Notons Vl l’espace engendré par vm+1, . . . , vm+m

et supposons que W e (Gmm vérifie W fl Vl = {O}. Alors cet espace W admet une unique base formée de vecteurs wl , . . . ,wm de la forme n

wz- = 111+ 226,3v,

1 S i S m.

j=1 Autrement dit, W est engendré par les lignes d’une unique matrice m >< (m + n) de la forme 1

0

0

1

...

...

0

1:11

O

æ21

Œln ...

ŒZn

Les 2:5,» forment alors un système de coordonnées locales dans un voisinage de V, voisinage isomorphe à Cm". De plus, pour tout point W de ce voisinage, si l’on se donne des coordonnées locales analogues au voisinage de W, les formules de changement de base sont affines, donc a fortiori polynomiales. La grassmannienne Gmm est ainsi munie d’une structure de variété algébrique complexe [34]. 3.1.2. Le plongement de Plücker. — Si W e Gmm, la puissance extérieure AmW est une

droite de AmCm+", d’où une application (p : Gmm —) IP(/\mC"‘+").

Supposons que W soit engendré par m vecteurs que l’on représente par les lignes d’une matrice m x (m + n) «T11

1‘12

"'

"'

x1,m+n

2‘21

:1222

' ' '

' ' '

æ2,m+n

xml

zm2

' ' '

' ' '

Œm,m+n

(”Les grassmanniennes, comme les variétés de drapeaux complets que l'on rencontrera un peu plus loin, sont des exemples de variétés de drapeaux généralisées, qui sont des variétés projectives obtenues comme quotients d'un groupe de Lie semi-simple complexe, par un sous-groupe dit parabolique [50].

couns SPÉCIALISÉS 3

3.1. LES GRASSMANNlENNES

109

Alors les coordonnées homogènes de go(W) dans ]P’(/\"’(C"‘+") sont les mineurs d’ordre m de cette matrice, que l’on notera Pi]...’lm = dét(ŒP)iq)lspuq’

il < l I D < im'

Ces mineurs sont les coordonnées de Plücker de W. On utilisera d’ailleurs cette notation

même si i1 , . . . , im n’est pas croissant. Proposition 3.1.1 . — L’application (p est un plongement, appelé plongement de Plücker: Démonstration. — Il s’agit de montrer que (p est injective, ainsi que sa différentielle en chaque point. Soit donc V E Gmm. Comme nous l’avons déjà fait, choisissons une base v1 , . . . , vm de V, et complétons-la en une base de Cm+n par des vecteurs vm+1 , . . . , vm+m formant une base d’un espace VJ: Supposons que W e (Gm,n soit engendré par des vecteurs qui dans la base précédente ont pour coordonnées les lignes d’une matrice de la forme

1 0

0 1

0 0

9311 11321

m1,, :32”

0

0

1

37m1

Œmn

On obtient alors parmi ses coordonnées de Plücker Pl’.'.,i_1,m+j,i+1,u.’m = Œij. Ceci implique d’une part que la différentielle de (p est injective en V, d’autre part que (p elle-même

est injective sur l’ouvert de (Gym,n formé des sous-espaces dont Vl est un supplémentaire. Mais deux éléments de (Gm,n ont toujours un supplémentaire commun, donc (p est injective. E!

Le plongement de Plücker permet donc de réaliser 1a grassmannienne (Gym,n comme sousvariété d’un espace projectif. On va constater qu’elle en est une sous-variété algébrique, c’està—dire qu’elle est définie par 1’ annulation de certains polynômes, en l’occurence quadratiques, en les coordonnées de Plücker.

Si Jm,n est l’ensemble des m-uplets strictement croissants d’entiers compris entre 1 et m + n, notons C[PJ, J E Jmm] l’anneau des polynômes en les coordonnées de Plücker.

Désignons par I(Gm,n) l’idéal formé des polynômes homogènes s’annulant identiquement sur Gmm. Exercice 3.1.2. — Montrer que 1(Gmm) ne contient pas de polynôme de degré un. Autre-

ment dit, la grassmannienne Gm,n n’est pas incluse dans un hyperplan de 1P(/\"‘(C"’+"). On dit qu’elle est non dégénérée. Par contre, nous allons expliciter toute une famille d’équations quadratiques, les relations de Plücker. Relations de Plücker 3.1.3. — Soient i1, . . . , in, et jl, . . . , jm deux suites d’entiers compris entre 1 et m + n, etl un entier compris entre 1 et m. Alors, identiquement sur Gmm, on a la relation

z

501031...t,_1w(i.)...w(im)Pw(J-1)...w(j,)j,+1...j.,, = 0,

wES/S’XS”

socu’mâ MATHÉMATIQUE DE FRANCE I998

110

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

où 8 est le groupe des permutations des symboles il, . . . ,im, jl , . . . , jz, 8’ celui de il, . . . , im, et 8" celui de j1,. . . ,jl. Démonstration. — Étant donnés des vecteurs ai, bj, c], de Cm, considérons la somme Z

6(w) dét(a1,...,al_1,bw(il),...,bw(im)) X

wGS/S' x8”

>< dét(bw(j1), . . . , bwU'), 614.1, . . . , cm).

C’est une forme multinéaire alternée en bi, , . . - ,bim , bj1l , . . . , bj” qui sont m + 1 vecteurs de (Cm. Elle est donc identiquement nulle, puisque Am+1Cm = 0. Les relations de Plücker s’en déduisent en spécialisant sur les vecteurs colonnes de la matrice m x (m + n) dont les

mineurs d’ordre m sont les coordonnées de Plücker.

EI

Exemple 3.1.4. -—— En particulier, pourl = m, on obtient les relations ’rn

Pil...'ii1.njm = Z(—1)

k—l 'P’Ïlmim—ljk“Pimj1...1î...jm '

k=1

Exercice 3.1.5. — Si m = n = 2, on obtient une unique équation,

P121334 — P13P24 + P14P23 = 0' En déduire que le plongement de Plücker réalise G212 comme une hypersurface quadratique

de P5. Théorème 3.1.6. — Les relations de Plücker déterminent complètement la grassmannienne, et engendrent l 'idéal I(Gmm). Démonstration. — Notons provisoirement Jmm l’idéal engendré par les relations de Plücker. Montrons tout d’abord qu’il détermine ensemblistement la grassmannienne, c’est-à—dire

que le lieu des zéros communs des éléments de Jmm est précisément Gmm. Considérons donc un point de lP’(/\m Cm+") dont les coordonnées homogènes vérifient les relations de Plücker, et montrons qu’il est dans l’image du plongement de Plücker. Soit tout d’abord une coordonnée non nulle Pi, ...im — par homogénéité, on peut la supposer égale à un. Posons œpq

= “Pila.-ip_1qip+lnoaim

pour

1

S p S m7

1

S q S m +77"

Les colonnes de cette matrice d’indices i1, . . . , im forment une matrice identité, et ses lignes engendrent donc un sous espace W de (Cm'H’ de dimension m. Notons Qjlmjm les coordonnées de Plücker de W. Alors

Qil...ip_1qip+1...im = Pilnjrlqipflnim quels que soient les indices p et q. Mais ces coordonnées, compte tenu des relations de Plücker, déterminent toutes les autres. En effet, ceci se vérifie par récurrence décroissante sur le

nombre d’indices communs des m-uplets i1 . . .z'm et jl .. . jm, en utilisant les relations de l’exemple ci-dessus. Cela démontre la première partie du théorème. De plus, dans ces conditions, Jmm ne peut être très différent de I(Gm,n). En effet, consi-

dérons un anneau de polynômes C[Z0, . . . , ZN], et J un idéal homogène de cet anneau

COURS SPÉCIALISÉS 3

3.2. LES VARIÉTÉS DE SCHUBERT DES GRASSMANNIENNES

lll

(homogène au sens où il contient les composantes homogènes de chacun de ses éléments). Le lieu des zéros communs des polynômes éléments de J est une sous-variété algébrique X = X (J) de lP’N, et l’on a le résultat fondamental suivant [37] : Théorème des zéros de Hilbert 3.1.7. — Soit J un idéal homogène d ’un anneau de poly-

nômes C[Z0, . . . , ZN]. Soit X = X (J) C lP’N l’ensemble des zéms communs aux éléments de cet idéal, et I = I(X ) l’idéal des polynômes s ’annulant sur X. Alors, si X n ’est pas vide, I est l’idéal radical de J :

I=rad(J)={PeI, Elk>0, P” eJ}. Reste donc, pour démontrer le théorème, à vérifier que Jmm est égal à son radical, ce qui

sera l’objet du théorème 3.3.4. Définition 3.1.8. —

E!

Avec les notations du théorème des zéros de Hilbert ci-dessus, on

appelle le quotient R[X] = C[Zo, . . . , ZN] /I l’anneau de coordonnées de la variété X.

3.2. Les variétés de Schubert des grassmanniennes Les espaces projectifs contiennent des sous-espaces linéaires, qui en sont les sous-variétés les plus simples, et sont définies par des relations d’incidence. De plus, ces sous-espaces

permettent d’en obtenir des décompositions cellulaires, et déterminent donc les groupes de cohomologie des espaces projectifs. Dans les grassmanniennes, un rôle similaire sera tenu par les variétés de Schubert : celles-ci sont également définies par des relations d’incidence, codées par certaines partitions. Mais leur géométrie, comme on le verra, est infiniment plus riche.

3.2.1. Cellules et variétés de Schubert. — Fixons un drapeau complet 0=V0 C"‘CViC "'CVn+m=Cn+m,

qui sera notre drapeau de référence. C’est une suite strictement croissante de sous-espaces vectoriels de Cn+m, où V, est de dimension i. Soit /\ est une partition incluse dans un rectangle m >< n, autrement dit, une suite décroissante d’entiers n Z /\1 Z - ' - Z Àm 2 0. On lui associe 1a cellule de Schubert

Q), = {W E Gmm, dim(WflV,-) =isin+i—Ài 5j 5 n+i—)\,—+1}, ainsi que la variété de Schubert X), = {W E Gmm, dim(W n Vn+i—Ài) Z ’l, 1 S i S m}. Par exemple, Xg = Gmm et Xa est le point Vm. Pour une partition dont une seule part est non nulle, on obtient une variété de Schubert spéciale Xk = {W E Gmma W n Vn+1—k % 0}.

Autre exemple : soit /\(p, q) la partition dont le diagramme est le complémentaire d’un rec— tangle p X q dans le rectangle m X n. Alors XÀ(p’q) = {W e Gmyn,

Vm—p C W C Vm+q} z Gp’q.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

112

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Le théorème 3.4.4 montrera que les XMM) sont les seules variétés de Schubert non singulières. Remarque 3.2.1. —

Lorsqu’on a fixé une base 121, . . . , vm+n de Cm+n adaptée au dra-

peau de référence, c’est-à—dire telle que Vi = ('01, . . . ,vi) pour tout i, on dispose d’un point

privilégié de la cellule de Schubert Q; : à savoir l’espace WÀ = (vn+1—z\1 1 - - ' ivn+m—Àm)-

Si B est le sous—groupe de GL(m + n, (C) qui stabilise le drapeau de référence, la cellule de Schubert Q), est homogène sous l’action‘de B, et coïncide donc avec l’orbite de W" dans la

grassmannienne. Exercice 3.2.2. — On aurait pu décrire la variété de Schubert XA par les conditions d’in-

cidence dim(W n Vn+oi_j) 2 i, où (i, j) décrit l’ensemble des cases du diagramme de À. Montrer qu’il suffit de considérer les conditions données par les coins de ce diagramme. Proposition 3.2.3. — Pour toute partition À C m X n, 1. la variété de Schubert XÀ est une sous-variété algébrique de Gmm, dont Q), est un

ouvert dense inclus dans l’ensemble des points non singuliers ;

2. oÀ z «cm-W,1X), =Q—,\= [1p 9M 4. XA D Xu si et seulement si À C u. Démonstration. — La dimension de W n Vi est minorée par j si et seulement si le rang

de l’application W C Cm+n —> (Enfin/V, est majoré par m — j. En coordonnées locales, cela s’exprime en annulant les mineurs d’ordre m —— j + 1 de la matrice représentant cette application, donc par des équations polynomiales. La variété de Schubert XA étant définie par de telles conditions d’incidence est donc bien une sous-variété algébrique de Gmm.

Si W e Gmm, la suite des dimensions des intersections W n Vj croît de 0 à m, en augmentant à chaque cran d’au plus une unité. Il existe donc exactement m sauts, que l’on peut noter sous la forme n + i — ai, où ,u est une partition incluse dans le rectangle m >< n. Ceci montre que

Gmm = H o... pEa

De plus, si la dimension de W n Vn+i_,\_. est minorée par i, c’est que les i premiers sauts en dimension ont eu lieu avant n + i — Ai, qui est donc supérieur ou égal à n + i — pi. En conséquence,

XÀ = H on. un Choisissons alors une base v1, . . . , 12m..." de (Cm‘l'n telle que Vi = (111 , . . . ,vi) pour tout i. Si

W E (2),, cet espace admet une unique base formée de vecteurs de la forme

wi = 'Un+i—À.; +

z 15j5n+i—A,,

jaén+k—Ak, kSi COURS SPÉCIALISÉS 3

Œijvj,

3.2. LES VARIÉTÉS DE SCHUBERT DES GRASSMANNIENNES

113

pour 1 S i S m, et les paramètres Œij déterminent alors un isomorphisme de Q). avec Cmn—IÀ'. Plus précisément, d’ailleurs, dans le système de coordonnées locales naturellement défini au voisinage de W", ceci réalise QÀ comme un sous-espace de coordonnées.

Notons que les points de QÀ sont les espaces engendrés par les lignes d’une matrice de la forme * * *

...

* a:

0 *

*

*

...

0 *

0

*

...

0 *

O

...

0

où l’étoile la plus à droite de la i-ème ligne se trouve sur la colonne n + i — Ai, et est non nulle — pas nécessairement égale à un. Il est donc clair que si p D /\, alors 0,, C 0—). On peut en effet faire varier continûment les coefficients d’une matrice du type précédent pour obtenir à la limite n’importe quelle matrice du type correspondant à la partition a. Donc QÀ C XA C Q—À, et comme X,\ est fermée, X,\ = Î}: La proposition est démontrée. Ü D’après la proposition précédente, l’incidence des variétés de Schubert correspond simplement à l’inclusion des partitions correspondantes. De plus, les QÀ forment une décomposition cellulaire de la grassmannienne : les classes fondamentalesm de leurs adhérences X,\

forment donc une base de 1a cohomologie entière de Gmm. Notons a), = [XÀ] la classe de Schubert associée à une partition /\ C m >< n. Corollaire 3.2.4. — Pour toute partition À incluse dans le rectangle m x n, la classe de Schubert a). est élément de H2|À| (Gmm), et l’on a la décomposition

H*(Gm,n) = 69 ZoÀ. ÀCa

Cela permet en particulier de déterminer le rang des différents espaces de cohomologie de la grassmannienne. Introduisons le polynôme de Poincaré Pq (Gmm) = Z qk rang H2k (Gm,n)'

1:20

Corollaire 3.2.5. — suivante :

Le polynôme de Poincaré de la grassmannienne admet l’expression

Pq (Gmm) =

(1-q)(1— n. Exercice 3.2.13. — On dispose également d’un isomorphisme

H*(Gm,n) z Am ® An/IAm+n, où IAm+n désigne l’idéal engendré par les éléments homogènes de Am+n de degré strictement positif. En effet, notons a: un ensemble de m indéterminées, y un autre ensemble de n

indéterminées. On pourra montrer par récurrence sur k que les relations 6j (x, y) = 0, j 5 k

sont équivalentes aux relations h,v(m) = (—1)jej(y), j 5 k, puis en déduire l’isomorphisme ci-dessus.

Rappelons que le degré d’une sous-variété d’un espace projectif (appendice, A.4) peut être

défini comme le nombre de ses points d’intersection avec un sous—espace linéaire de dimension complémentaire, en position générale. Le degré d’une variété de Schubert, considérée comme sous-variété d’un espace projectif grâce au plongement de Plücker, est donné par le corollaire suivant. (4)La démonstration précédente de la formule de Pieri sous sa forme géométrique, est essentiellement due à Hodge [40]. Celui-ci remarquait que l’on pouvait en déduire une expression déterminantale des classes de Schubert

en termes de celles des variétés de Schubert spéciales (la formule de Giambelli ci—dessus), et que cela suffisait en principe à déterminer le produit de deux classes de Schubert quelconques. Citons la conclusion de l’article de Hodge : « T0 obtain the intersection of any two Schubert varieties, we merely have t0 express the first in the determinantal form (..) and then use Pieri ’s formula to calculate the intersection with the second. The problem is then, essentially. one ofelementary algebra. » J’espère que le premier chapitre de ce livre aura au moins convaincu d'une chose : que ce problème d’algèbre élémentaire est tout, sauf élémentaire.

socrÉrÉ MATHÉMATIQUE DE FRANCE 1993

118

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Corollaire 3.2.14. — la variété de Schubert Xx C 1l”(mv:")—1 a pour degré le nombre K: de tableaux standard de forme /\, partition complémentaire de À dans le rectangle m x n. En particulier;

d

G

0!1! - - - (n — 1)! 7, = ———

eg( m’)

m!(m + 1)! - - - (m + n — 1)!(m'n,)

!.

Démonstration. — Reprenons les notations du début de cette section. Un point W E Gym," a sa première coordonnée de Plücker P12...m égale à zéro, si et seulement si il contient un

vecteur qui soit combinaison linéaire des n derniers vecteurs de la base choisie de 01+“,

c’est-à—dire si et seulement si W fl V7: 96 0. Autrement dit, la variété de Schubert Xi est l’intersection de Gmm avec un hyperplan de lP(/\"’ n + k — Àk. Le mineur PJ peut alors se développer en somme de produits de mineurs pris sur les colonnes jl , . . . , jk_1 d’une part, sur les colonnes jk, . . . , jm d’autre part. Ces mineurs étant

éléments de M (A), le lemme est donc démontré.

EI

Revenons donc à la matrice précédente. Comme n, Z Ai, elle admet au plus m — i entrées égales à 1, celles-ci étant placées sur des lignes et colonnes deux à deux distinctes. Il existe donc des mineurs d’ordre m — i + 1 dont une dérivée à l’origine est non nulle, seulement si

”5+1 5 Ai. Et ces mineurs s’obtiennent en ajoutant au mineur d’ordre m — i où sont placés ces 1, une colonne, disons d’indice r, et une ligne, d’indice s. La seule dérivée non nulle de

ce mineur s’obtient alors par rapport à 1a variable æ". Le sous-espace du cotangent engendré par les dérivées premières au point W” des éléments de l’idéal de XA, est donc le sous-espace engendré par les vecteurs en, pour lesquels il existe un entieri compris entre 1 et m, tel que pi“ 5A,5;i,-,15r5i,

et

n+i—/\i Àj, et A}, > tu,“ pourk S h < j.

COURS SPÉCIALISÉS 3

3.4. SINGULARITÉS DES VARIÉTÉS DE SCHUBERT

125

Les partitions ,u minimales pour cette propriété s’obtiennent en choisissant un entier k tel que Àk > Ah“, puis en posant Mk+1 = Àk + 1, et en complétant p de façon minimale pour obtenir une partition contenant A. Autrement dit, on ajoute à À une bande de largeur unité autour de chacun de ses coins, comme dans l’exemple suivant. Exemple 3.4.3. —- Dans G55, Ol'l a Sing(X44221) = X55521 UX44333, CCS deux composantes

irréductibles, de codimensions respectives 5 et 4 dans X44221 , correspondant aux diagrammes suivants :

1. Sing(X44221) = X55521 U X44333 dans 65,5. Nous avons donc établi le résultat suivant [91] : Théorème 3.4.4. — Soit T(À) l’ensemble des partitions définies de lafaçon suivante : si la case c = (i, j) est un coin de À, avec 1 S i < m et 1 S j < n, on ajoute au diagramme de

À la case (i + 1, j + 1), et l’on complète en une partition defaçon minimale. Alors Sing(X,\)=

U

X“

nETO.)

est la décomposition du lieu singulier de la variété de Schubert XÀ en composantes irréductibles. Remarque 3.4.5. — Ceci implique en particulier que Sing(X,\) est toujours de codimension au moins trois dans X,\. Par ailleurs, les seules variétés de Schubert lisses sont celles qui correspondent à des partitions dont les diagrammes sont les complémentaires, dans le rectangle m x n, de rectangles plus petits. Nous avons vu que ces variétés n’étaient autres que des

sous-grassmanniennes. 3.4.2. Désingularisations des variétés de Schubert. — Une manière très différente d’appréhender les singularités des variétés de Schubert est d’en construire des désingularisations. Une désingularisation de XA sera un morphisme propre

fai —)X,\, où la variété Z,\ est non singulière, morphisme qui se restreint en un isomorphisme au-dessus d’un ouvert de Zariski dense de XÀ : c’est-à—dire au-dessus du complémentaire d’une sousvariété algébrique propre, qui n’est d’ailleurs pas nécessairement réduite au lieu singulier. On dit qu’un tel morphisme est birationnel. Avant de donner un procédé général de construction de telles désingularisations, commençons par l’exemple simple d’un cycle de Schubert associé à une partition rectangle : pq = {W E Gmfl” d1m(W fl Vn+p—q) Z p},

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1993

126

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Cette condition d’incidence signifie que l’intersection W n Vu”.q contient un espace U de dimension p, qui est uniquement déterminé lorsque W est élément de la cellule de Schubert

Qq. Ceci amène à introduire l’ensemble ZPXQ I: {(W7 U) E Gmm X Gp,m+n—-p, U C W n Vn+p—q}-

La seconde projection fait de pq une fibration en grassmanniennes, au—dessus de la grassmannienne des sous-espaces de dimension p de Vn+p_q : c’est donc une variété projective

lisse. Par contre, la première projection envoie p q surjectivement sur Xq, et se restreint en un isomorphisme au—dessus de la cellule 9px q z c’est dont une désingularisation de pq. Afin d’étendre ce type de construction à n’importe quelle variété de Schubert, introduisons

quelques notations. Si /\ est une partition, notons les coordonnées des creux de son diagramme sous la forme (a1+‘--+ai_1+1,bi+-'-+bc_1+1),

ISiSC.

Définissons ac et b0 de façon à ce que a1 + ' - ' + aC = m et b0 + - -- + bc_1 = n. D’après l’exercice 3.2.2, la variété de Schubert X,\ est alors déterminée par les seules conditions d’incidence

dim(WnV’) Za1+'-'+ag,

1 5i< (C est nulle. Celle du fibré dual d’un fibré en droites L est, pour les mêmes

raisons, c1(L*) = —c1 (L). En particulier, sur 1P", la classe hyperplane h est la première classe de Chem du fibré noté (9(1), dual du fibré en droites tautologique. Au-dessus d’une droite d e 1P", sa fibre O(1)d est l’espace des formes linéaires sur d, et s’identifie au quotient

de (C"+1)* par le sous-espace Td des formes linéaires nulles sur d. On a donc la suite exacte fibrés vectoriels sur 1P" :

0 —> T —> (C"+1)* —> 0(1) ——+ 0. Un fibré en droites L sur X admet toujours une famille finie so, . . . , sN de sections glo— bales de classe C°° qui ne s’annulent simultanément en aucun point. Ces sections permettent de définir une application

:X

—>

IPN,

:1:

I——)

[50(Œ):---:sN(æ)],

où l’on a noté entre crochets les coordonnées homogènes sur l’espace projectif.

Soit a une forme linéaire sur la droite (a;), qui soit la restriction de la forme linéaire (a0, . . . , aN) sur CN+1. Alors l’élément agso (æ) +' - - + aNsN (11;) de la fibre La, ne dépend que de a, et ceci définit un isomorphisme canonique entre la fibre de (9(1) en ‘I>(a:) et celle de L en 9:. D’où une identification L = (I>*O(1). En particulier, par fonctorialité, la première classe de Chem de L est complètement dé—

terminée par 'I> : on a c1 (L) = *(h). De plus, h s’identifie, via la dualité de Poincaré, à la classe fondamentale de n’importe quel hyperplan. Si un tel hyperplan H est défini par la forme linéaire (a0, . . . ,aN), considérons la section globale s = aoso + - ' ' + aNsN de L. La préimage de H par est le lieu des zéros Xs de la section s. Au voisinage d’un point :1: de X8, voisinage dans lequel on suppose avoir trivialisé L, cette section s est définie par une simple fonction f à valeurs complexes. Et si df(:c) 7è 0, l’application de X8 sur H obtenue

socnÿnâ MATHÉMATIQUE DE FRANCE I998

130

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

par restriction de *[H] = [47101)] = [Xs] dès que s(X) est transverse à la section nulle de L en tout point. Sous cette hypothèse, Xs est une sous-variété lisse orientée de X, de codimension réelle égale à deux. Nous ne tarderons pas à revenir sur cette notion de transversalité. Plus généralement, il est possible d’associer à un fibré vectoriel complexe E de rang e sur

une variété différentiable compacte X, une classe de Chem totale c(E) E H* (X), de façon à ce que les propriétés suivantes soient vérifiées :

l. fonctorialité .' si f : Y —+ X est continue, alors c(f*E) = f*c(E);

2. additivite’ : si E et F sont deux fibrés vectoriels complexes sur X, on a la formule d’addition de Whitney

c(E EB F) = c(E) U c(F); 3. normalisation : si L est un fibré en droites, alors c(L) = 1 + c1 (L). On peut décomposer la classe de Chem totale de E sous la forme

c(E) = zck(E),

avec ck(E) e H2’°(X).

k

La formule de Whitney s’écrit alors, puisque les classes de cohomologie de degré pair com-

mutent :

ck(E e F): z c,(E) u cj(F). i+j=k

Exemple 3.5.1. — Supposons que le fibré E soit la somme directe C°° de e fibrés en droites L1, . . . ,Le (on dit alors qu’il est topologiquement scindé), et notons xi = 01(Li). Alors d’après la formule de Whitney, ck(E) = 61601:1, ' ' '1Œe)

est la k-ième fonction symétrique élémentaire de ces premières classes de Chem. L’exemple ci-dessus implique que la théorie des classes de Chem est déterminée par le cas des fibrés en droites. En effet, en vertu du résultat suivant, que l’on établira un peu plus loin (voir la proposition 3.8.1 et 1a remarque qui la suit), on peut toujours «faire comme si» un fibré E vectoriel était somme directe de fibrés en droites. Autrement dit, on peut interpréter les classes de Chem ck (E) comme les fonctions symétriques élémentaires d’éléments « virtuels »

x1, . . . , are de H2 (X), ses racines de Chem. Un polynôme en (cl, . . . , æe ne fait alors sens que s’il est symétrique, auquel cas on peut l’exprimer en termes de fonctions symétriques élémentaires, et l’interpréter comme une classe de cohomologie sur X associée à E et au

polynôme considéré. Principe de scindage 3.5.2. — Pour tout fibré vectoriel complexe E sur la variété X, il existe une application continue f : Y —) X telle que l’image réciproque f*E soit scindée, et

telle que l’application induite en cohomologie f* : H* (X) —) H* (Y) soit injective.

COURS SPÉCIALISÉS 3

3.5. CLASSES CARACTÉRISTIQUES ET LIEUX DE DÉGÉNÉRESCENCE

131

Une conséquence immédiate de ce principe est que ck (E) = 0 si k > e. Plus généralement, on peut associer au fibré E et à une partition À une classe caractéristique si (E), définie par exemple en termes de classes de Chem comme la formule de Jacobi-Trudi exprime les fonctions de Schur en termes de fonctions symétriques élémentaires :

sAŒ) = dét(c,\;_i+j(E))15i,J-5,\1. Dans ce déterminant, les produits sont bien évidemment donnés par le cup-produit, dont on ne fera pas toujours figurer le symbole. Si E est scindé, on obtient la fonction de Schur correspondante des premières classes de Chem des fibrés en droites dont E est la somme —

ce qui implique que si (E) = 0 dès que l(À) > e. 3.5.2. Morphismes de Gysin. — Il est également possible de définir directement les classes

de Chem de la façon suivante. Considérons la variété Y = lP‘(E*) des hyperplans de E, qui est un fibré sur X en espaces projectifs lP’e‘l. Cette variété est munie d’un fibré en droites

OE(1), dont la restriction à chaque fibre de la projection 7T : Y —> X est le fibré 0(1). Posons Ç = c1(OE(1)), et notonsz’ : F z IF”—l L—> Y l’inclusion d’une fibre de 7r. Alors i*Ç = h, classe d’un hyperplan de IPe‘l. Notons que l’application induite en cohomologie 7r* : H* (X) —> H* (Y) fait de H* (Y) un H* (X )-module, et l’on peut définir un morphisme de Gysin, de degré ——2e + 2 (appendice, A.3) :

7T. :H*(Y) —> H*(X). Proposition 3.5.3. — L’anneau H* (Y) est un H" (X)-module libre de base 1, Ç, . . . , Çe'l. Autrement dit, toute classe de cohomologie y sur Y peut s’écrire de manière unique sous la forme e—l

y = Enfin U Ç’,

avec yi E H*(X).

i=0

Le morphisme de Gysin est alors donné par 711.. (y) = ye_1. Notons que le morphisme de Gysin 7r* vérifie m j = 0 si j < e — 1, pour de simples raisons de dimension. Par contre, 7m (6—1 = 1. En effet, soient a et fi des classes de coho-

mologie sur X, telles que a U [3 soit la classe d’un point. Alors 1r*(a U fi) = 7r*a U 7r*,6 est la classe d’une fibre de 7T, donc 7r*a U 7r*fl U ("1 est la classe d’un point de Y. La formule de projection implique alors que m Çe'l = 1. Cette remarque entraîne immédiatement l’assertion d’unicité dans la proposition ci-dessus.

On dispose sur Y d’une application surjective 7r*E—» OE(1), dont le noyau est le fibré en hyperplans tautologique H, de rang e — 1. La formule de Whitney implique l’égalité

c(7r*E) = c(H)(1 + Ç). L’annulation de ce (H) se traduit donc par l’identité (e = 7r*c1(E) U (8—1 + - - - + (-1)e—17r*ce(E). D’ après la proposition précédente, cette identité détermine complètement les classes de Chem de E. On s’en sert parfois comme d’une définition. Remarque 3.5.4. — Donnons une interprétation légèrement différente de l’énoncé qui précède. Notons pour ce faire —a:1, . . . , —œe_1 les racines de Chem du fibré H, et —a;e = Ç. Les racines de Chem de E sont alors —:1;1, . . . , —a:e, et tout polynôme symétrique en x1 , . . . ,xe

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 199x

132

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

s’interprète donc comme une classe caractéristique de E, en particulier comme une classe de cohomologie sur X.

Soit maintenant P un polynôme de x1, . . . ,æe, à coefficients dans H* (X), et qui soit symétrique seulement en m1, . . . ,œe_1. Alors P(:1:1, . . . , me) définit une classe de cohomologie sur Y, et l’on a l’identité 7I'*(P(.'B1, . . . ,Œe» = (6102 ' ' 'Ôe_1P)(æ1,. . .,Œe).

Remarquons tout d’abord que le terme de droite est symétrique en :111, . . . ,æe, donc définit bien une classe de cohomologie sur X. De plus, les polynômes symétriques en 3:1, . . . , me sont des scalaires pour l’opérateur 3182 - - 06-1. D’après la proposition précédente, il suffit donc de vérifier l’identité ci-dessus pour P = 11;: , avec k < e, ce qui ne présente aucune difficulté.

3.5.3. La formule de Gauss-Bonnet. — Nous avons vu que la première classe de Chem d’un fibré en droites pouvait s’interpréter concrètement, sous certaines conditions, comme la classe fondamentale du lieu des zéros d’une section globale. Nous allons obtenir maintenant des interprétations analogues pour les fibrés vectoriels de rang quelconque. Commençons par la grassmannienne Gmm. On dispose sur cette variété d’un fibré tauto-

logique T de rang m, dont la fibre au-dessus d’un sous-espace W de (Cm‘H’ est W lui-même. De façon analogue, le fibre’ quotient Q, de rang n, a pour fibre au-dessus de W le quotient

(Cm'l'n /W. Ce fibré quotient va jouer le rôle du fibré (9(1) pour les fibrés vectoriels de rang supérieur à un.

Proposition 3.5.5. —— La k-ième classe de Chem ck (Q) du fibré quotient sur la grassmannienne, est égale à la classe 0k d’une variété de Schubert spéciale de codimension k.

Démonstration. — D’après le théorème de dualité 3.2.7, il s’agit de vérifier que pour toute

partition /\ C m X n de taille IÀ] = mn — k, on a ck(Q) U 0'), ={

1

si).=).(1,k),

O

sinon,

où l’on se souvient que À(1, k) désigne le complémentaire d’un rectangle 1 >< k dans le rectangle m x n.

Notons tout d’abord que si |/\| = mn— k mais /\ 7è À(1, k), on a nécessairement l’inégalité /\m Z n — k + 1. Par conséquent, si W e X,\, alors dim(W n Vm+k_1) Z m, autrement dit W C Vm+k_1. La variété de Schubert X,\ est donc incluse dans la grassmannienne

G = Gm,k_1 des sous-espaces de dimension m de Vm+k_1. Sur G, on a une suite exacte de fibrés vectoriels

0 —> Vm+k_1/W —> Cn+m/W —> C"+m/Vm+k_1 —> 0. La restriction QG du fibré quotient à (G est donc extension d’un fibré trivial, par un fibré de

rang k — 1. Donc ck (Qg) = O d’après la formule d’addition de Whitney. Si j est l’inclusion de G dans (Gmm, la formule de projection (appendice, A.3) donne

ck(Q) U 0A = j*(j*(ck(Q) U [XA])) = 0, COURS SPÉCIALISÉS 3

3.5. CLASSES CARACTÉRISTIQUES ET LIEUX DE DÉGÉNÉRESCENCE

133

puisquej*(ck (QD = 6k (QG) = 0. Par contre, XÀÜIÏC) = {W E Gmma

V‘m—l C W C Vm+k}

s’identifie à l’espace projectif IP’ = lP’(Vm+;c /Vm_1), de dimension k. Notons z' leur isomor— phisme naturel. Sur cet espace 1P est défini le fibré en droites tautologique O(—1), et un fibré quotient l. De plus, on a une suite exacte

0 —> 0(—1) = W/Vm_1 —+ Vm+k/Vm_1 —> Qu» —> 0En conséquence, la classe de Chem totale de Qp est 0(Q1p) = (1 — h)—1. Et comme la restriction de Q à X>«(1,k) n’est autre que i*Q]p, il vient

Ck(Q) U 0x(1,k) = i*(0k(QI>)) = 1 La proposition est donc démontrée.

EI

Avant de tirer les conséquences de cet énoncé, nous aurons besoin d’introduire quelques définitions, relatives aux problèmes de transversalité. Nous avons déjà fait usage de la définition suivante : Définition 3.5.6. ——

Deux sous—espaces U et V d’un espace W sont dits transverses si

codim (U n V) = codim U + codim V. Définition 3.5.7. — On dit qu’une application f : X —) Y de classe C°° est transverse à une sous-variété lisse Z de Y, si pour tout z e f —1 (Z), les espaces df(TæX) et TfmZ sont transverses dans Tf(œ)Y.

Soit maintenant F un fibré vectoriel complexe de rang f sur X. On parlera dans la suite de sections s de F transverses à la section nulle au sens précédent. Pour une famille de sections s = (31, . . . , Sf) de sections globales de classe C°° de F, la notion de transversalité est un peu plus délicate. Considérons les lieux de dégénérescence, pour 0 _ (GN_f,f

qui au point a: associe le sous—espace des combinaisons linéaires de 31, . . . , sN qui s’annulent en æ. De la même façon que dans le cas d’un fibré en droites, cette construction donne une

identification naturelle F = *Q. Donc pour tout entier k, on a

Ck(F) = ‘I>*ck(Q) = ‘ï>*(ok)Mais la variété de Schubert correspondante est

Xk = {W E GN—fJ, W n Vf+1—k 95 0}, donc “1 (Xk) est l’ensemble des points de X où les sections sl, . . . , Sf_k+]_ ne s’annullent

pas toutes simultanément : c’est-à-dire Df_k+111(8). Pour des sections génériques, la restriction ‘1’ : Df_k+1,1(s) —) Xk

est une submersion, ce qui implique le résultat suivant z Proposition 3.5.9. — Si s est une famille générique de sections de F,

Ck(F) = [Dt—k+1,1(8)]Pour k = f, on obtient une formule appelée parfois“) Formule de Gauss-Bonnet 3.5.10. —

Si s est une section globale de F, transverse à la

section nulle, et si X8 = s—1(0), alors

Cf(F) = [X4 Remarque 3.5.11. — Dans un contexte algébrique, autrement dit si l’on a affaire à des sections algébriques d’un fibré vectoriel complexe algébrique, les choses, d’une certaine manière, se simplifient. Il suffira en effet, pour que des énoncés du type précédent soient valides, de supposer que les lieux de dégénérescence D,,j(s) sont de la codimension «attendue», (5)À proprement parler, la formule de Gauss—Bonnet désigne plutôt l’identité entre la caractéristique d’Euler— Poincaré topologique d’une variété complexe compacte M, de dimension n, et l’entier en (M) obtenu en évaluant la n-ième classe de Chern du fibré tangent de M, sur sa classe fondamentale. Voir dans [34] comment cette identité se déduit de la formule qui suit.

COURS SPÉCIALISÉS 3

3.5. CLASSES CARACTÉRISTIQUES ET LIEUX DE DÉGÉNÉRESCENCE

135

c’est-à-dire j(f — z' + j) (et cela pour chacune de leurs composantes irréductibles, dont l’en— semble peut éventuellement être vide) [46]. Il faut cependant prendre garde au fait que les

lieux de dégénérescence sont définis localement par l’annulation de certains mineurs des matrices représentant les sections considérées. Et ces mineurs peuvent s’annuler avec certaines multiplicités (égales à un dans le cas tranverse), dont il est nécessaire de tenir compte dans la définition de la classe fondamentale des lieux de dégénérescence, pour que les formules du type précédent restent valides. 3.5.4. La formule de Thom & Porteous. — Le résultat précédent peut être étendu au lieu de dégénéréscence DM (s), qui est en effet l’image réciproque par F entre fibrés vectoriels de rangs respectifs e et f, morphisme supposé transverse — au-sens où pour chaque ouvert U de X

dans lequel E et F sont simultanément trivialisés, l’application induite qSU —) MLe est transverse aux lieux formés des matrices de rang fixé. Alors pour tout entier k, le lieu de

dégénérescence

Dk(ç3) = {æ E X, rangqäœ S k} est lisse de codimension (e — k)(f — k) en dehors de Dk_1(çä), et l’on peut lui associer une classe fondamentale [D;c (45)]. René Thom avait remarqué, dès le début des années cinquante, que cette classe ne pouvait

dépendre que des classes caractéristiques des fibrés impliqués. En effet, sans entrer dans les détails, nous avons vu que l’on peut toujours, dans la catégorie différentiable, obtenir les fibrés E et F comme images inverses de fibrés quotients sur des grassmanniennes. Et l’anneau de cohomologie d’une grassmannienne est engendré par les classes caractéristiques de son seul fibré quotient, du fait de la proposition 3.5.5. Mais il a fallu attendre quelques années avant que Porteous [72] n’obtienne la formule explicite qui va suivre. Si :131, . . . , me et yl, . . . ,yf sont les racines de Chem des fibrés E et F, et si /\ est une partition, la fonction multiSchur sÀ(Y — X) (voir la définition 2.6.4) est

symétrique en a: aussi bien qu’en y. Elle s’exprime donc en termes des classes caractéristiques

de E et F, et définit en conséquence une classe de cohomologie sur X, notée s,\(F — E). Formule de Thom & Porteous 3.5.13. —— Sous les hypothèses ci—dessus,

[D1449] = 8(j—k)x(e—k)(F — E) = dét(cf—k—i+j (F — E))lsi,jSe—k' Remarque 3.5.14. — On peut décomposer cette classe en produits de classes caractéris— tisques de E et de F. En utilisant le développement

Ck(F—E) = z (—1)jci(F)8j(E), i+j=k

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1998

136

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

on obtient, via la formule de Jacobi-Trudi, l’expression

sq(F - E) = dét(cq—i+j (F — E))15i,j5p = z dét(cai—z'+j (F”132'451: H(—1)"“"° hq—at (E), cette somme portant sur les p—uplets d’entiers a. D’où la renlicarquable formule 3p>7r*E—>Q—>Û

w

i’” 7r*F

On a noté z/J : T —> 7r*F le morphisme induit, composé de l’inclusion de T dans 7r*F et de l’image réciproque de d) sur Y. Alors

Boul!) = {(Œ,W) e Y, W C kerda}. Ceci implique en particulier que la restriction de 7r à D0 (1,1)) induit un isomorphisme au—dessus

de Dk (45)\Dk_1 (qb) (6) . Sous l’hypothèse de transversalité, il vient

[D1449] = 7T4130W”De plus, on sait d’après la formule de Gauss-Bonnet que [Do(1fi)] est la classe de Chem maximale du fibré T* ® 7r*F, dont 1b est une section globale transverse à la section nulle. Or la seconde formule de Cauchy 1.4.6 permet précisément de décomposer la classe de Chem

maximale d’un produit tensoriel selon les classes caractéristiques des fibres impliqués. En l’occurence, il vient

[Doum = c(e_w(T* ® N) =

Z (—1)|”l5fi(7r*F)5u* (T). #Cf x (e—k)

Notons que les classes caractéristiques des fibrés vectoriels T, Q et E sont liées par l’identité

7r*c(E) = c(T)c(Q), soit encore 3m (T) =

z (—1)pcp(Q) 7r"‘sq (E) p+q=m

Si l’on exprime sp. (T) en termes des classes sm (T) à l’aide de la formule de Jacobi—Trudi, puis en termes des classes de Chem de Q et de E via l’identité ci-dessus, on va faire apparaître (6) On aura remarqué que cette construction est exactement la même que celle des désingularisations des cycles de Schubert spéciaux.

COURS SPÉCIALisÉs 3

3.5. CLASSES CARACTÉRISTIQUES ET LIEUX DE DÉGÉNÉRESCENCE

137

des produits de classes de Chem de Q, d’indices compris entre O et k, le nombre de termes de

ces produits étant la longueur de If, qui est majorée par e — k. Mais pour de simples raisons de dimension, 7r étant une fibration de dimension relative k(e — k), on a

k 7r*(Hci(Q)"") :0 i=1

k Si Zimi < k(e—k). i=1

Quand on appliquera le morphisme de Gysin m à l’expression précédente, on ne retiendra

donc que le terme ck (Q)7r* sm_k(E) de sm(T). Par ailleurs, on a

7h. (Ck(Q)e—k) = 1En effet, la proposition 3.5.5 et la formule de Pieri (ou la formule de Gauss-Bonnet appliquée à Qæe'k, puisqu’une section générique de ce fibré s’annule en un unique point de la grassmannienne, et cela sans multiplicité) montrent que c’est bien le cas lorsque X est un point. Le cas général s’en déduit en raisonnant comme on l’a fait pour une fibration en espaces projectifs dans les remarques qui suivent la proposition 3.5.3. Compte tenu de ces différentes observations, on obtient donc

MSMT) = dét(”*5nr-i+j(T))15i,j5f—k

= détW:—i+j—k(E))15i,jSe—k >< (—1)’°(°"".

En particulier, on obtiendra des termes non nuls uniquement pour les partitions ,u, telles que

”:46 Z k. Si à une telle partition p, on fait correspondre la partition À C (f — k) x (e — k) telle que X; = u: — k pour 1 5 z' 5 e — k, on obtiendra finalement

7T*[Do(î/J)l =

Z (—1)|’\|3:(F)8M(E) = 3(f—k)> V—» V/Vn+p_q, T désignant comme d’habitude le fibré tautologique sur Gmm. La formule de Thom & Por-

teous et la proposition 3.5.5 donnent donc [XPXq] = 5p> F de fibrés vectoriels, mais l’on suppose cette fois E muni d’un drapeau de sous-fibrés 0CE1C-'-CE;,=E,

avecrangEi=ei.

Et l’on considère le lieu de dégénérescence DT. (45) défini par les conditions

rang(E,' î) F) S ri, OnsupposequeO < 61 —r1
< (Gn_1,1 des grassmanniennes correspondant à chacun des membres d’un drapeau complet. En utili-

sant les différents plongements de Plücker 4p,- : Gim—i ——) lP’M—l, où Ni = (7:) , on en déduit un plongement

1%,:a —> JPWI-1 >
IF’(A ® B), qui à des droites engendrées par des vecteurs a e A et b E B, associe la droite engendrée par a ® b E A ® B, est un plongement— c’est le plongement de Segre.

L’exercice précédent montre que la variété IFn peut être plongée dans l’espace projectif

PN1“'N"-1—1, dont elle est une sous-variété algébrique. 3.6.2. Les variétés de Schubert d’une variété de drapeaux. — Fixons à nouveau un drapeau de référence V. de sous-espaces de C", et une base 61,. . . ,en dont les z“ premiers éléments engendrent V}. On notera V_’ le drapeau dual, tel que Vj’ soit engendré par les j derniers éléments de la base précédente. À une permutation w e S", nous avons associé au paragraphe 2.1.1 du chapitre deuxième, une fonction de rang rw, donnée par

rw(p, q) = #{i S p, w(i) S q}On définit alors la cellule de Schubert 910 = {W0 E F774 dim(WP n V11) = 7.100,51”, 1 _ w(i) oui > w’1(j).

3.6. LES VARIÉTÉS DE DRAPEAUX

143

Autrement dit, on place pour chaque entier i une équerre de zéros de sommet (i, w(i)), ce sommet excepté où l‘on place 1, et les coefficients restants sont indéterminés. Sur la i-ème ligne, le nombre d’indéterminées est le nombre de colonnes d’indices j < i sur lesquelles

on n’a pas été contraint de placer un zéro, ce qui serait le cas si w(j) < w(i). Le nombre d’indéterminées est donc égal au nombre d’inversions l (w), et l’on obtient un isomorphisme

Qw z Cm”). Plus précisément, on dispose de coordonnées locales au voisinage de W1”, qui est le drapeau défini par la matrice de la permutation w. Au voisinage de W1”, un drapeau W. est en effet

défini par une unique matrice obtenue en plaçant des 1 aux coordonnées (i, w(i)) et des zéros en dessous, les coefficients restants étant indéterminés. La cellule de Schubert Ou, apparaît alors comme un sous-espace de coordonnées.

OOOOI—lo

COOH-X-O

OHO**O

COOOOl—l

OoH-X-fl-àè

l—|*O***

Exemple 3.6.3. — Si w = 365142 e 83, un élément de Ou, est défini par une unique matrice de la forme

Proposition 3.6.4. — Pour toute permutation w E Sn', la variété de Schubert

Xw = H ou 115w

est la réunion disjointe des cellules de Schubert associées aux permutations majorées par w pour l’ordre de Bruhat. En conséquence, X10 = {W' E F71, (lima/V? n Î[(1)2 rw(p!q)fi 1 Sptq S n},

et les variétés de Schubert sont des sous-variétés algébriques de IF... Démonstration. — Notons provisoirement Yw la sous-variété algébrique de IFn définie par les conditions d’incidence ci-dessus. Comme Yw est fermée, on a Ou, C Xw C Yw. Mais d’après la proposition 2.1.12 du second chapitre, on a v S 'w si et seulement si r” 2 rw. Ceci implique que

Yw = H ou. vSw

Pour établir que Yw = Xw, il suffit donc de montrer que 0., C Xw si o S w. Par récurrence,

il suffit de le vérifier lorsque v = wtjk est de longueur l(v) = l(w) — 1. Ce n’est plus alors qu’un exercice élémentaire que nous abandonnerons au lecteur.

E1

Corollaire 3.6.5. — On a l’inclusion X1, C Xw si et seulement si v S w.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1993

144

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Pour les cellules de Schubert des grassmanniennes, on a remarqué que les conditions d’incidence n’étaient pas forcément indépendantes. Il en est de même dans les variétés de drapeaux, et l’on peut démontrer 1a proposition suivante :

Proposition 3.6.6. —— Une variété de Schubert Xw est déterminée par les relations d ’incidence

dim(Wp n Vq) 2 rw (p, q) pour (p, w(i+1),

0

sinon.

Notons IF; la variété formée des paires de drapeaux (W., W1) pour lesquels Wj = W]! si j 7É i. Les deux projections naturelles dellFiL sur a sont des fibrations en droites projectives :

plus précisément, on a l’identification IF:1 = IP’(Wi+1/Wi_1). Notons alors (Si le morphisme composé

5.-: mon.) Pi) mari.) ’23 H*(]Fn). Le théorème annoncé sera conséquence des deux lemmes qui suivent.

E|

Lemme 3.6.19. ——— Soitu E 8,1. Si u(’l) < u(l + 1), alors l’image de p2_I(Xu) par p1 est incluse dans Xu. Par contre, si u(z') > u(i + 1), et si l’on note A la diagonale de F2,, alors p1 réalise un isomorphisme de p;1(Qu)\A sur Quai. En conséquence,

si u(i) > u(’i + 1),

611(0'74) _ { ousi 0

sinon.

Démonstration du lemme. — Soit W.’ un drapeau, et w’l, . . . ,wÇ, une base adaptée. Un élément de p1 (p2'1(W,’)) est un drapeau W., dont tous les membres coïncident avec ceux de W1, sauf éventuellement en dimension i. Un tel drapeau admet donc une base adaptée wl , . . . , wn,

avec wj = w; si j 7€ i,z' + 1, et wi, wi+1 combinaisons linéaires de 1123,10;+1. Plus précisément, si W. 7è W1, on peut prendre wi = wg+1 + aiwg, et wi+1 = wg.

Supposons alors que W,’ E Ou. Si u(i) < u(z’ + 1), une vérification élémentaire montre qu’un drapeau de la forme précédente vérifie les conditions d’incidence qui définissent Xu.

Par contre, si u(i) < u(i + 1), choisissons des coordonnées locales en W_’ sur IF", qui permettent de représenter un drapeau par une matrice inversible d’ordre n, comme on l’a fait

dans la section précédente. On passe de W.’ à W. E p1(p2'1(W_’) — A) en modifiant les lignes i eti + 1 de la façon suivante :

i i+1

u(i) 1

0

0

*

O

u(i+l) O

*

1

0

l u(z')

u(i+1)

i

*

*

*

1

i+1

1

0

0

0

0

On obtient ainsi très précisément la description des matrices qui représentent les drapeaux de la cellule ouverte 0m. III Lemme 3.6.20. — Pour touti < n, on a 61' = âi comme opérateurs sur ’Hn.

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 199x

150

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Démonstration du lemme. — Rappelons que ses projections sur a identifient IF;l à la variété des droites du fibré de rang deux Wi+1/W'_1. Si l’on introduit la variété G; des drapeaux complets à l’exception du terme de dimension i, on dispose d’un diagramme commutatif

Fi, F714

V Ÿ À .À G2

G”

Comme la proposition 3.6.15 leur fait jouer un rôle symétrique, on peut permuter les variables dans l’énoncé du corollaire 3.6.17 : si l’on choisit pour les deux dernières xi et :05“, il

s’ensuit que tout élément de H* (a) peut s’écrire P +ŒiQ, où P et Q sont des polynômes où n’apparaissent ni xi ni 51:14.1. Ceci implique que l’on peut écrire P = q*P’ et Q = q* Q’, où P’ et Q’ sont des classes de cohomologie de G2, et la commutativité du diagramme ci-dessus assure que pËP = p’fP et p36) = pÏQ. Considérons alors l’image réciproque p; (P + œiQ). Relativement à la projection p1, pämi

est l’opposé de la première classe de Chem du fibré en droites tautologique. On connaît donc l’action du morphisme de Gysin — que l’on a explicitée à la suite de la proposition 3.5.3. En l’occurence,

P1*PÊ(P + Œz‘Q) = Q = ôtUD + ŒiQ)Le lemme, et le théorème du même coup, sont donc démontrés.

EI

Remarque 3.6.21. — Considérons les plongements naturels in : a H*(Fn+1)

pnl

i”

’Hn ———> H*(Fn)

On peut alors montrer que pour une permutation w E Soc dont la plus grande descente est

égale à k, le polynôme de Schubert Gw est l’unique polynôme Pw E 73k dont l’image dans ’Hn coïncide, pour tout entier n suffisamment grand, avec la classe de Schubert au, e H* (a)

— où pour n assez grand, on considère w comme élément de Sn. Les polynômes de Schubert simples peuvent donc être caractérisés comme les seuls polynômes qui, pour tout n assez

COURS SPÉCIALISÉS 3

3.7. SINGULARI’I‘ÉS DES VARIÉTÉS DE SCHUBERT, REPRISE

151

grand, donnent la classe de cohomologie des variétés de Schubert correspondantes dans les variétés de drapeaux JFn. Remarque 3.6.22. — L’anneau de cohomologie H * (a) z ’Hn, est naturellement muni d’une action du groupe symétrique 87,, agissant dans ’Hn par permutation des variables. Nous avons vu au corollaire 2.5.8 que cette représentation est isomorphe à la représentation régu— lière de 8“. En particulier, son caractère admet l’expression

X(H*(1Fn)) = Z KaxÀ. |À|=n

De plus, cette action respecte la graduation naturelle de H* (a) par le degré. On peut alors montrer que les caractères de l’action de 5,, sur chacune des composantes de cet anneau gradué sont donnés par l’identité

z q(H2'°(Fn)) = Z Ka,1n(q)xÀ, k

|À|=n

où KÀ’ln (q) est un polynôme de Kostka-Foulkes. Il est même possible d’obtenir tous les polynômes de Kostka-Foulkes par une variante de cette construction : au lieu de considérer toute la variété de drapeaux, on considère seulement ceux qui sont fixés par un endomorphisme unipotent (c’est-à-dire dont toutes les valeurs propres sont égales à un) donné. La décomposition de Jordan montre que les classes de conjugaison de ces endomorphismes, sous l’action du groupe linéaire, sont en correspondance avec les partitions de taille n. Si l’on fixe une telle partition u, l’anneau de cohomologie de la variété de drapeaux correspondante IF” admet encore une action du groupe symétrique, et son caractère gradué est donné par les polynômes de Kostka-Foulkes [27] :

Z q(H2'°(1Fu)) = Z KM(‘1)X’\k

|À|=n

3.7. Singularités des variétés de Schubert, reprise Nous allons maintenant, comme nous l’avons fait dans le cas des grassmanniennes, ca-

ractériser les permutations auxquelles correspondent des variétés de Schubert non singulières dans les variétés de drapeaux complets, et nous tenterons de décrire les lieux singuliers de celles qui ne le sont pas. Mais dans un premier temps, nous allons commencer par donner une construction simple de désingularisations des variétés de Schubert. 3.7.1. Désingularisations des variétés de Schubert. — Une construction simple de désingularisations des variétés de Schubert découle directement du lemme 3.6.19. Introduisons en effet la variété

Ffi1"""‘ = {W3 e IF", WJ' = Wg—l si k 9e ij, 1 g j 51}. Notons p0, ...,p1 les l + 1 projections de cette variété sur IF". On dispose de diagrammes commutatifs

SOCIÉTÉ MATHÉMATIQUE DE FRANCE 1998

152

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

11,12 \ t\

‘ÏI— bit



,

l

z

\

s

,

1’

I’

Proposition 3.7.1. — Soit u e Sn une permutation, et supposons que

l(usi1 n-sù) = l(u) + l. Alors la projection p1 définit un morphisme birationnel de la variété p51(Xu) sur la variété de Schubert Xm,‘1 ".351. Démonstration. — Pour l = 1, ce n’est rien d’autre que le lemme 3.6.19. La récurrence sur

l est alors immédiate, puisque chacun des carrés commutatifs du diagramme ci-dessus est un diagramme cartésien de fibrations en droites projectives. Pourl = 2 par exemple, sachant que l’image inverse de X“ dans F2} s’envoie birationnellement sur X14,“1 , cela implique en effet

que l’image inverse de Xu sur 117'511 ”2 s’envoie aussi birationnellement sur l’image inverse de Xuaü dans 11“23. Et cette dernière variété s’envoie elle-même birationnellement sur la variété de Schubert Xu 3‘1 952 - I:I Si la variété de Schubert Xu est lisse, alors p51(Xu) l’est aussi, étant obtenue à partir de Xu par une suite de fibrations en droites projectives. En particulier, si u est la permutation identité, alors Xu est réduite au drapeau de référence V., donc lisse. Posons maintenant

Za,...,e. = p51(V.), c’est-à-dire

Ztl,...,,-, = {W3 e Mir-r", W}: = Vk, 1 5 k 5 n}. Corollaire 3.7.2. — Si sil ' - -si, est une décomposition réduite de la permutation w, alors la dernière projection pl : Zi1,...,‘il —_—) Xw

définit une désingularisation de la variété de Schubert Xw. Cette construction est un cas particulier de celle des schémas de Bott—Samelson [36, 10, 25]. Signalons que contrairement au cas des grassmanniennes, on ne sait pas construire de petites résolutions des variétés de Schubert dans les variétés de drapeaux complets.

COURS srÉcrAusÉs 3

3.7. SINGULARITÉS DES VARIÉTÉS DE SCHUBERT, REPRISE

153

3.7.2. Lieux singuliers des variétés de Schubert. — Comme nous l’avons fait dans le cas des grassmanniennes, nous allons maintenant déterminer les variétés de Schubert singulières dans les variétés de drapeaux complets, et tenter de décrire leur lieu singulier. La démarche sera la même : traduire en termes combinatoires le critère jacobien de lissité 3.4.1. Une variété de Schubert Xw étant stable sous l’action du groupe B qui fixe le drapeau de référence, il en est de même de son lieu singulier, qui doit donc être une réunion de variétés de Schubert:

Sing(Xw) =

U

X”.

1168(10)

Ce lieu singulier étant fermé, l’ensemble S(w) est un idéal pour l’ordre de Bruhat : si une permutation v lui appartient, toutes les permutations u telles que u S v lui appartiennent

aussi. Bien entendu, S(w) est formé de permutations v telles que v 5 w. Enfin, étant homogène sous l’action de B, une cellule de Schubert 01,, avec v 5 w, sera comprise dans le lieu singulier de Xw si et seulement si son point de référence W.” en est un point singulier. Au voisinage de W”, pour chaque drapeau W., il existe une unique matrice (æij)155,jS-n

dont les h premières lignes engendrent Wh pour tout h compris entre 1 et n, et telle que

95mm = 1,

et 22,, = 0 si 2' > r10).

Les indéterminées Œij, pour 1 S i S n et j 9è 0(1), . . . ,v(i), forment alors un système de coordonnées locales au voisinage de Wf’. Nous noterons eij la base correspondante de l’espace cotangent de la variété de drapeaux au point considéré, et nous poserons fij = 65,00) pour’i < j.

La variété de Schubert Xu, est définie par la famille de conditions d’incidence dim(WP n 1/4) Z 7‘100), q),

soit encore

dim(Wp + Vçz) S p + q — rw(p,q), pour 1 S p,q 5 n. Une telle condition s’exprime par l’annulation des mineurs d’ordre

p+ q — rw(P,Q) + 1 de la matrice 1

0

0

0

0

1

0

0

0

0

...

1

...

0

131,1

131,2

"‘

Œ1,q

"'

951,11

312,1

312,2

'''

ŒM

‘'‘

Œpm

Nous admettrons que, comme dans le cas des grassmanniennes, ces mineurs engendrent l’idéal de X10“). Leur annulation équivaut à celle des mineurs d’ordre p — ru, (p, q) + 1 de la matrice formée des p dernières lignes et des n — q dernières colonnes de la précédente. Or cette matrice admet exactement p — r1, (p, q) coordonnées égales à un, qui sont placées sur des lignes et colonnes deux à deux distinctes. (8) Voir par exemple Lakshmibai V., Seshadri C.S., Geametry of G/ P, V, J. of Algébra 100, 462-557 (1986).

SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

154

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Mais v S w par hypothèse, donc r1, 2 ru, d’après la proposition 2.1.12 du chapitre deux.

Il existe donc des mineurs d’ordre p — ru, (p, q) + 1 dont une dérivée est non nulle à l’origine seulement si ru, (p, q) = r1, (p, q). De plus, ces mineurs s’obtiennent en ajoutant au mineur d’ordre p— ru, (p, q) où sont placés ces 1, une colonne, disons d’indice i, et une ligne, d’indice j. Et la seule dérivée non nulle de ce mineur s’obtiendra par rapport à la variable Œij , qui doit vérifier les conditions suivantes :

i510, J' > q, v(i) S q, 11—10) >p. Le sous-espace du cotangent de la variété de drapeaux, engendré par les dérivées premières au point W.” des éléments de l’idéal de Xw, est donc engendré par les vecteurs fij, tels qu’il

existe des entiers p, q, aveci S p < j et v(z') S q < v(j), pour lesquels ru, (p, q) = ru (p, q). Mais si le couple (p, q) vérifie ces inégalités, on a rut,j (p, q) = ru (p, q) + l, alors que rut”- (p, q) = r1, (p, q) sinon. La condition précédente équivaut donc précisément à la relation ru, Z rut” . Nous avons donc établi le résultat suivant(9) : Proposition 3.7.3. — La variété de Schubert Xw est singulière sur sa sous-variété X”, où v S w, si et seulement si

l(w) < m(w,v) := #{i < j, Utij S w}. En particulier, découle de ce résultat un critère de lissité pour les variétés de Schubert. En effet, le lieu singulier de Xw étant fermé, il est vide si et seulement si il ne contient pas le drapeau de référence, qui correspond à v = id. Donc Xw est lisse si et seulement si

l(w) = m(w) == #{i < j, tij S w}Si l’on pose pw(i) = min(max(w(1), . . . ,w(z')),max(w'1(1),.. .,w'1(i))), on vérifiera aisément l’égalité

m(w) = #{i l(w) — 1(1)), donc que m(w) > l(w) et Xw est encore singulière. Réciproquement, supposons Xw singulière et effectuons les réductions précédentes : écri-

vons w = vsl . . . 3f_1 et w = 81 . . . sg_1u. Notre raisonnement par récurrence nous permet de supposer que X” et Xu sont toutes les deux lisses, donc que m(v) = l(v) et m(u) = l (u) Posons f = w—1(1), g = w(l), et supposons par exemple que f S g. Il existe alors une transposition t1,f qui n’est pas de type R+ pour w, ainsi qu’une transposition tlg qui n’est pas de type R+ pour w‘l. Graphiquement, cela correspond aux configurations suivantes dans le graphe de w :

socrÉrÉ MATHÉMATIQUE DE FRANCE I998

156

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

x

P

x

\

I

\

x

Q

\

\

\

q X

\

X \

P X

q \

x\

Z \ \

\

\x

\

\

x

\

\

\\

\ \

X

\

\

\

\

\

x

Supposons que les points du graphe qui apparaissent dans ces diagrammes, soient distincts deux à deux. En superposant les deux figures, on obtient alors une configuration de type (b). Dans le cas contraire, les deux points situés en haut à droite des deux diagrammes, sont

confondus, mais pas les deux autres. Examinons alors w(p— 1). Par hypothèse, il est supérieur

à q’. S’il est supérieur à q, on obtient une configuration de type (b) : on peut donc supposer que q’ < w(p — 1) < q. Mais alors, comme nécessairement ’w—1(2) < p — 1, le point (w—1 (2), 2) fait apparaître une configuration de type (a). q \\

x

\

\

Z \

\

P X

x

>< \ \ \

z

\ x

\ \

Le théorème est donc démontré.

D

3.8. Lieux de dégénérescence et polynômes de Schubert Nous allons à présent considérer les variétés de Schubert non plus d’un simple espace vectoriel complexe, mais d’un fibré. Plus généralement, nous allons étudier des lieux de dégénérescence de morphismes entre fibrés vectoriels munis de drapeaux. Et nous généraliserons la formule de Thom & Porteous en montrant que, sauf pathologie, la classe fondamentale d’un tel lieu est donnée par un certain polynôme de Schubert : ce sera le théorème de Fulton. 3.8.1. Cohomologie des variétés de drapeaux relatives. —— Soit E un fibré vectoriel complexe de rang e sur une variété différentiable compacte X. On note ]F(E) la variété de drapeaux relative de ce fibré, et 7r sa projection naturelle sur X : c’est une fibration en variétés de drapeaux ordinaires lFe, la fibre au-dessus d’un pointa: e X étant la variété des drapeaux complets de la fibre correspondante de E,

0=W0CW1C---CWC=EŒ.

COURS SPÉCIALISÉE 3

3.8. LIEUX DE DÉGÉNÉRESCENCE ET POLYNÔMES DE SCHUBERT

157

Comme dans le cas des variétés de drapeaux ordinaires — qui correspond au cas où X est un point, on peut considérer chaque W, comme définissant un fibré tautologique W,- sur IF(E).

Notons xi = c1(Wi/W'_1). La proposition 3.6.15 s’étend de la façon suivante : Proposition 3.8.1. — En tant que H* (X)-module, l’anneau de cohomologie H* (]F(E)) est le quotient de H* (X) [271, . . . , :L'e] par les relations ek(Œ1,--.,Œe)=0k(E),

15195€

De plus, le morphisme de Gysin 7r* est alors identifié au symétriseur de Jacobi âwu, si l’on note wo = wofl la permutation de longueur maximale de 8e : pour tout polynôme P de

1:1, . . . , me, à coeflicients dans H* (X), on a 7r*(P(a:1,...,ze)) = (ôwoP)(a:1,...,ze). Démonstration. — La variété ]F(E) se construit par une suite de fibrations en droites projectives : on procédera donc par récurrence à partir de la proposition 3.6.15. Plus précisé— ment, notons également We_1 le fibré en hyperplans tautologique sur ]P(E*). Alors la variété

]F(We_1) des drapeaux complets de W64 s’identifie naturellement à IF(E), et l’on a un diagramme commutatif

]F(E) —"—> X

l fil W44) —°‘—+ P(E*) La description de la cohomologie de ]F(E) s’ensuit aussitôt. De plus, par la proposition 3.6.15 et l’hypothèse de récurrence, 7H = 16141:: = al ' ' 'ôe—lôwo,e_1 =

ce qu’il fallait démontrer.

me,”

E1

Remarque 3.8.2. — L’ énoncé précédent implique immédiatement le principe de scindage

3.5.2. En effet, l’image réciproque en cohomologie 1r* :H*(X) ——) H*(]F(E)) est injective, et 1r*E est muni d’un drapeau complet de sous-fibrés 0=WoC'-'CW3=1T*E. En particulier, on a des suites exactes 0 ——> W14 ——> W,- ——> Ei —> 0. Or une telle suite est toujours scindée au sens différentiable (par exemple, on peut munir W,- d’une métrique her— mitienne, et considérer l’orthogonal M,- de W-_1 dans W, : alors W; = Wi_1 69 Mi, et le fibré en droites Mi est isomorphe à Li). Par récurrence, on en déduit que 7r*E est bien

scindé. Exercice 3.8.3. — Soit À une partition de longueur au plus e. La proposition précédente implique la formule

"406”5) = 8A(E), socrÉrE MATHÉMATIQUE DE FRANCE I998

158

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

où ô = (e — 1,. . . , 1,0) est la suite strictement décroissante minimale de longueur e. Soit

alors Gym," (E) la variété des sous-espaces de dimension m, et codimension n, de E. Soit p sa projection sur X, et T et Q ses fibrés vectoriels tautologique et quotient. En remarquant

que

ME) = WT) XG,,.,,.(E) WQ), ensemble des paires de drapeaux de T et Q qui ont même projection sur (Gym,n (E), vérifier que le morphisme de Gysin p* est donné par les formules p*(5a(Q)sfi(T)) = 87(E)a

où 'y = (a1 — m, . . . ,an — m, ,81, . . . ,flm)[73] — si 'y n’est pas une partition, on utilise les règles habituelles de redressement des fonctions de Schur. Exercice 3.8.4. — Étendre la proposition précédente aux variétés de drapeaux partiels.

3.8.2. Lieux de dégénérescence relatifs. — Supposons E muni d’un drapeau complet E' de fibrés quotients

E = Ee—»Ee—1—»m—»E° = 0. À chaque permutation w e 8€, on peut alors associer le lieu de dégénérescence

Xw(E°) = {W. E 1F(E), rang(Wp -> E") S rw(p,q), 1 S p,q S e}. Si l’on note Vn.p le noyau de la projection E—>-> EP, ces différentes conditions sont équivalentes aux inégalités

dim(Wpf‘IVq) z p-rw(p,n-q) = #{iSn w(i) zn—q+1} = Twowmq)‘ Ceci implique que Xw (E') est une sous—variété de codimension l (w) de ]F(E), dont l’intersection avec chaque fibre de la projection 7r : ]F(E) —> X est la variété de Schubert X10 définie par le drapeau V. de E. Exemple 3.8.5. — Revenons à la variété de drapeaux complets IF", dont on fixe un drapeau de référence V.. Cela revient à se donner un drapeau complet trivial de fibrés quotient

V = Vn—)->Vn/V1—)->---—)->Vn/Vn_1—)-)0. De plus, on dispose sur a d’un drapeau de fibrés tautologique W., et Xw (W.) est la variété

de Schubert Xwow. Le théorème qui va suivre est donc une généralisation du théorème 3.6.18. Théorème 3.8.6. ——

Le dual de Poincare’ de la classe fondamentale de Xw(E'), est le

polynôme de Schubert double [Xw(E.)]

=

6w(—-’171a- - - 1 _æe; “—yla - ' ' 7 —y€))

=

Gw—1(y1,...,ye;x1,...,œe)

en les classes de Chem 2:5 = c1(W,-/W'_1) et yj = c1(ker(Ej—>-> Ej'1)).

COURS SPÉCIALISÉS 3

3.8. LIEUX DE DÉGÉNÉRESCENCE ET POLYNÔMES DE SCHUBERT

159

Démonstration. — Les lemmes 3.6.19 et 3.6.20 s’étendent sans changement au cas relatif et permettent de procéder par récurrence. Il suffit donc de traiter le cas de la permutation de longueur maximale wo. Le lieu de dégénérescence correspondant est défini par l’annulation simultanée des morphismes induits Wp —+ Ee'P, 1 S p S e — 1. Cependant, ces morphismes ne sont pas indépendants : 1a composition de 1a flèche Wp —> E3“p avec

jp : Ee—p—H E“""'1 peut aussi s’obtenir en composant l’inclusion ip : Wp —> Wp+1 avec

la flèche Wp+1 —) Ee‘P—l. On est donc amené à introduire le fibré e—l

e—2

1c = ker(Œ Hom(W,, Ee—P) —> 69 Hom(W,,,E°"’_1)), p=1

p=1

noyau du morphisme défini comme suit : à une famille d’applications up : Wp —) Ee—P, où 1 S p S e — 1, on associe les applications

vp=jpoup—up+1oip,

15pSe—2.

Ce morphisme est surjectif, de sorte que IC est de rang e(e — 1)/2, et X“,0 (E') est le lieu des zéros de la section de IC induite par l’identité de E. La formule de Gauss-Bonnet 3.5.10 donne donc

[Xwo(E°)] = Cg) (K) = H (1h - Œj), i+jSe

comme un petit calcul, à l’aide du principe de scindage, permet de le vérifier. Le théorème est donc établi pour wo, donc pour toute permutation. E1

3.8.3. Un théorème de Fulton. — Plus généralement, supposons que le fibré E soit seulement muni d’un drapeau partiel de fibrés quotients

E=Eh—»n-—»E°=0, où E’ est de rang eg. Considérons alors 1a variété lFm. (E) des drapeaux partiels de E de la forme Û=W0CW1 C"‘CWk=f*E,

dont les dimensions des membres sont les éléments d’une suite strictement croissante d’en-

tiers m. = (0 = m0 < X.

< mk = e). On a noté ici f la projection de En. (E) sur

On voudrait alors imposer des conditions de rang

rang(Wp -> f*E") S r(p,q) pour 1 S p S k et 1 S q S h, pour une fonction r donnée, et étudier les lieux de dégénérescence correspondants. Cependant, il peut arriver, selon le choix de la fonction r, que de telles conditions soient insuffisam-

ment précises, ou bien redondantes, voire contradictoires. Supposons par exemple que l’on ait affaire à des drapeaux complets de même longueur. On a vu que dans ce cas, seules les fonctions qui sont des fonctions de rang de permutations peuvent être effectivement réalisées (exercice 3.6.2). Un lieu de dégénérescence défini par une fonction de rang r qui n’est pas de ce type, se décomposera donc, dans la situation générique, en composantes irréductibles définies par de «bonnes» conditions de rang. Plus précisément, on obtiendra une composante irréductible pour chaque élément maximal de l’ensemble des permutations w telles que ru, S r. Ces considérations motivent la définition suivante :

socrÉnï: MATHÉMATIQUE DE FRANCE 1998

160

CHAPITRE 3. LES VARIÉTÉS DE SCHUBERT

Définition 3.8.7. — On dira qu’une fonction 1' : {1, . . . , h} >< {1, . . . , k} —) N est admissible s’il existe une permutation w e Seo dont tous les points essentiels sont de la forme (mp, eq), et telle que r(p, q) = rw(m,,, eq) pour tout couple p, q. Notons que dans ces conditions, la permutation 'w est nécessairement croissante sur chaque intervalle ]mp_1 , mp], de même que

w—1 est croissante sur les intervalles ]eq_1, eq]. On considère alors sur ]Fm_ (E) le lieu de dégénérescence Xr (E‘), constitué des drapeaux W. e lFm_ (E) vérifiant les conditions de rang

rang(Wp —> f*Eq) S r(p,q) pour 1 Sps ket 1 S q S hSoit nm. : IF(E) —) lFm_ (E) la projection naturelle. Sous les conditions précédentes, l’image réciproque de X,(E') par mm coïncide avec le lieu de dégénérescence Xw (E'),

et la projection de celle-ci sur celle-là est une fibration en produits de variétés de drapeaux complets. Il vient

7T1’;..[Xr(E')] = [Xw(E')] = 6w(w,y), polynôme de Schubert double donné par la proposition précédente.

Comme w (resp. w'l) est croissante sur chaque intervalle ]mp_1,mp] (resp. ]eq_1, eq]), le polynôme Su, est, d’après le corollaire 2.4.3 du chapitre deux, symétrique sur ces intervalles pour la variable :1: (resp. y). Si l’on considère zmp_1+1, . . .,xmp comme les racines de Chem du quotient W,p / W _1, et de même yeq_1+1, . . . , yeq comme celles du noyau ker(Eq—)-> Eq—l), il est donc possible d’exprimer 6w(æ, y) sous la forme d’un polynôme Pne. ,q. (007:1. W0); 0(7rîn. E.» en les classes de Chem de ces fibrés. Et comme nm“ qui est une fibration en variétés de drapeaux complets, induit d’après la proposition 3.8.1 une injection en cohomologie, il vient

[Xr(E')] = Pr,e.,q.(C(W.),C(E')), polynôme de Schubert associé à la permutation w, en les opposés des racines de Chem des

quotients Wp/Wp_1 et des noyaux ker(Eq—>-> Eq'l). Considérons finalement la situation suivante. Soit 45 z F —> G un morphisme entre fibrés vectoriels de rangs f et g sur X. Supposons F muni d’un drapeau de sous-fibrés F., dont le i—ème membre Fi est de rang f,- pour 1 S i S h. Supposons de même G muni d’un drapeau de fibrés quotients G', dont le j-ième membre Gj est de rang gj pour 1 S j 5 k. Soit par ailleurs

r : {1,...,f} >< {1,...,g} —) N une fonction admissible, associée à une permutation w, et X, (F., G', 4)) le lieu de dégéné-

rescence correspondant. Notons H = F EB G. Le drapeau quotient G' de G donne un drapeau quotient H' de H grâce à la projection p2 : H—>-> G .De même, 1e drapeau F. de F donne un drapeau H. de sous-fibrés de H grâce à l’injection id >< d} : F —> H. Ce drapeau définit une application

U=X —>1Ff..f+g(H) de X dans une variété de drapeaux partiels de H, et le lieu de dégénérescence Xr (F. , G' , (b) est l’image réciproque par u de X, (H ‘). Si l’on suppose le morphisme (b générique, la restriction de u à X, (F., G‘, 4)) sera génériquement une submersion. La classe fondamentale

COURS SPÉCIALISÉS 3

3.8. LIEUX DE DÉGÉNÉRESCENCE ET POLYNÔMES DE SCHUBERT

161

de X, (F., G', 45) sera donc l’image réciproque de celle de Xr (H'). On en déduit immédiatement l’expression de cette classe fondamentale comme un polynôme de Schubert en les racines de Chem des fibrés impliqués : c’est le théorème de Fulton ci-dessous [21]. Dans cet énoncé, on s’est débarassé des signes apparaissant dans le théorème 3.8.6, en

changeant w en w—l, et en faisant appel au corollaire 2.4.2 du deuxième chapitre. Théorème 3.8.8. — Soit ça z F ——> G un morphisme générique entre fibrés vectoriels complexes F et G de rangs f et g, munis respectivement d ’un drapeau de sous-fibres F.=(OCF1C-'-CFh=F), de rangs f1, . . . , fh, et d ’un drapeau de fibrés quotients de rangs gk, . . . , gl,

G' = (G = Gk—>-> '--—»G1—>->0), Soit r : {1, . . . , h} >< {1, . . . , k} —) N une fonction admissible, associée à une permutation w—1 E 80°. Alors, le dual de Poincare’ de la classe fondamentale du lieu de dégénérescence correspondant est

[X.(F.,G°,d>)] = 610001, - - - ,Œgäyi, - - ' ,yf) = Pr,g.,f.(C(G'),c(Fo))’ polynôme de Schubert associé à la permutation w, en les racines de Chem 2191.4“, . . . ,œgJ.

desfibre’s noyaux ker(Gj—>-> Gj_1), et yft._1+1, . . . ,yfi. desfibrés quotients Fi/F'_1. Exemple 3.8.9. — Supposons que h = k, et que l’on considère des conditions de rang données par une permutation vexillaire w. Si l’on reprend les notations de la définition 2.2.9 et de l’exercice 2.2.11 pour 1a forme et le drapeau de w et de son inverse, ces conditions de rang se ramènent, d’après ce même exercice, aux suivantes :

rang(Fk+1—i —> Gi) S gi - lk+1—i

pour 1 _ G = Gk. En imposant des conditions de rang sur les morphismes induits 1‘.

rh_1

s

5j+1

E—1)'-'—>Fhî)Gk—k>n-—)Gj

on définit des lieux de dégénérescence qui, sous des conditions de transversalité convenables, sont représentés en homologie par certains polynômes en les classes caractéristiques des fibrés considérés. Ces polynômes, dont les polynômes de Schubert sont un cas particulier, ont été introduits par Fulton [23] et sont appelés polynômes de Schubert universels.

COURS SPÉCIALISÉS 3

APPENDICE

UNE BRÈVE INTRODUCTION À L’HOMOLOGIE SINGULIÈRE

On résume assez brièvement, dans cet appendice, les propriétés fondamentales de l’homologie singulière, et quelques particularités topologiques des variétés algébriques qui sont utilisées dans ce cours. Les références générales sur ce thème ne manquent pas, on pourra consulter par exemple [31, 42, 85] pour plus de détails.

A.l. Homologie singulière La théorie de l’homologie singulière permet d’associer à un espace topologique X une

famille de groupes commutatifs Hg (X, Z) = Hq (X), où q E N. Rappelons brièvement là démarche : notons eo l’origine de Rq, el, . . . , eq sa base canonique, et Aq = (eo, . . . , eq) l’enveloppe convexe de ces q + 1 points. Un q-simplexe singulier d’un espace topologique X est alors une application continue u : Aq —> X. On note Sq (X) le groupe de leurs combinaisons linéaires formelles, à coefficients entiers : c’est 1e groupe des q-chaînes.

On introduit alors un opérateur bord sur Sq (X), noté ôq, en étendant par linéarité la définition suivante : q

31104) = Z(-1)’u(’), i=Û

où la i-èmeface u“) de u est le (q —— 1)-simplexe singulier défini par la composition u“) :Aq_1 = (60,...,6q_1)aÈ1)e (60,...,ê},...,eq) C Aq l) X, la première de ces flèches étant la restriction de l’unique application affine de Rq'l dans

Rq qui envoie le q—uplet (eo, . . . , eq_1) sur (60, . . . , ê}, . . . ,eq). Un calcul facile permet de vérifier que ô o ô = O, ce qui justifie la définition suivante : Définition A.1.1. — Le q—ième groupe d’homologie singulière de X est le quotient du groupe des cycles par celui des bords :

Hq(X) = kerâq/imôq+1.

164

UNE BRÈVE INTRODUCTION À L’HOMOLOGIE SINGULIÈRE

Plus généralement, si A est une partie de X et Sq (A) le groupe des q-chaînes à valeurs dans A, l’opérateur bord envoie Sq(A) dans Sq_1(A), donc induit un opérateur que l’on notera de la même façon

ô‘q:A5‘«1(X)/Sq(x‘1)-> Sq—1(X)/S —1(A)Définition A.1.2. — Le q-ième groupe d’homologie relative de (X, A) est le quotient

Hq(X, A) = ker ôq/ im 544.1. Ces constructions sont fonctorielles : si f : X —) Y est une application continue, et si

f (A) C B, on obtient par composition des applications de Sq (X) dans Sq (Y) et de Sq (A) dans Sq (B). Ces applications commutent avec l’opérateur bord, d’où une application induite d’image directe en homologie

f, : Hq(X, A) —) Hq(Y,B).

En particulier, les inclusions i : (A, z) —) (X, a) et j : (X, z) —) (X, A) induisent des flèches

_

_

Hq(A) Es H, (X) 74 Hq(X,A). Les propriétés fondamentales de l’homologie sont les six énoncés suivants, appelés axiomes d ’Eilenberg-Steenrod. Ils caractérisent complètement l’homologie singulière des espaces topologiques dits triangulables :

1. si X est un point, alors H0(X) = Z et Hq(X) = 0 pour q > 0, 2. si f est l’application identité d’un espace topologique X, alors f* est également l’identité,

3. si f : X —> Y etg : Y —> Z sont continues, alors (g o f)* = 9* o f," 4. si f et g : X —) Y sont deux applications continues homotopes, alors f, = 9*,

5. pour toute paire (X, A), où A est une partie d’un espace X, on dispose d’une suite exacte longue

-.- —> Hq(A) î: H,(X) Ë) H,(X, A) Ë) Hq_1(A) —> m, 6. enfin, si U est une partie de A dont l’adhérence est incluse dans l’intérieur de A, alors

U peut être excise’, autrement dit l’application Hq(X — U,A — U) —> Hq(X,A) induite par l’inclusion est un isomorphisme. Ces énoncés appellent quelques remarques : — En degré zéro, l’axiome 1 se généralise de la façon suivante : pour tout espace topologique X, on a

H0 (X) = Z“, où C est l’ensemble des composantes connexes par arcs de X. En particulier, c’est un groupe de type fini dès que X est une variété compacte : on peut montrer que sous cette hypothèse, il en est de même des autres groupes d’homologie.

COURS SPÉCIALISÉS a

A.2. COHOMOLOGIE SINGULIÈRE

165

— Les axiomes 2 et 3 expriment le fait que pour chaque entier q E N, la correspondance X M Hq(X) définit un foncteur covariant de la catégorie des espaces topologiques dans celle des groupes commutatifs. — Une conséquence immédiate de l’axiome 4 est qu’un espace topologique X contractile (autrement dit, dont l’application identité est homotope à une application constante) a même homologie singulière qu’un point :

H0(X)=Z, Hq(X)=0 si q>0. — Dans 5, une suite exacte longue est une suite de morphismes

fi—l

' —)Ei_1 —> Ei À) Ei+1 —)

tels que ker f,- = im 12-1. L’opérateur ô : Hq(X, A) —> Hq_1(A) est défini de la façon suivante : si c e Hq (X, A), soit C un représentant de c dans .S'q (X); alors ôqC E S -1 (A) est un cycle, et sa classe dans Hq_1 (A) ne dépend que de c : c’est ôc. Exercice A.1.3. — Soit U un voisinage convexe de l’origine dans R", et soit q > 1. Montrer que

Hq(R",R" - {0}) = Hq(U,U - {0}) = Hq—1(U - {0}) = Hq—1(S —1), où Sn_1 est la sphère unité de R". Le premier de ces isomorphismes s’obtient en excisant

R" — Ü, le second en utilisant une suite exacte longue et le fait que U est contractile, le troisième par un argument d’homotopie. En décomposant Sn en deux hémisphères, qui sont contractiles et d’intersection Sn_1, montrer que H -1 (S -1) = Hq (Sn). En déduire que

Ho(.5'n) = Hn(Sn) = Z,

Hq(Sn) = O

si q 7è 0,n,

Hn(IR",R" — {0}) = z, Hq(lR",]R" — {0}) = o si q 72 n. A.2. Cohomologie singulière Le groupe des q-cochaînes singulières d’un espace X est défini comme le groupe dual

S‘I (X) = Homz (Sq(X), Z). On définit l’opérateur cobord ôq z Sq(X) —) Sq+1(X) comme le transposé de l’opérateur bord ôq+1. Définition A.2.1. — Le q—ième groupe de cohomologie singulière est le quotient des cocycles par les cobords :

H“(X) = kerâq/imôq_1. Plus généralement, si A est une partie de X, on note Sq (X, A) le groupe des éléments de Sq (X) qui s’annulent sur Sq (A), et l’on définit de même le groupe de cohomologie relative H‘1 (X, A).

socu’mâ MATHÉMATIQUE DE FRANCE 1993

UNE BRÈVE INTRODUCTION À L’HOMOLOGIE SINGULIÈRE

166

Si f : X —) Y est une application continue telle que f (A) C B, l’application induite en cohomologie est cette fois un morphisme d’image réciproque

f* :H‘1(Y, B) —> H"(X, A). Les axiomes d’Eilenberg-Steenrod pour la cohomologie singulière sont les énoncés suivants : l. si X estun point, alors H°(X) = Z et H9(X) = Opourq > 0; 2. si f est l’application identité d’un espace topologique X, alors f* est également l’iden-

tité; si f : X —) Yetg : Y —) Z sontcontinues, alors (go f)* = f* og*;

4. si f et g : X —> Y sont deux applications continues homotopes, alors f* = g* ; pour toute paire (X, A), où A est une partie d’un espace X, on dispose d’une suite exacte longue

—>H"(X,A) —>H‘1(X) —>H"(A) Ë» H°+1(X,A) —> . enfin, si U est une partie de A dont l’adhérence est incluse dans l’intérieur de A, alors

U peut être excisé, autrement dit l’application

Hq(X,A) —+ H"(X — U,A — U) induite par l’inclusion est un isomorphisme. Comme pour l’homologie, l’axiome 1 s’étend en degré zéro à un espace topologique quel-

conque de la façon suivante : H°(X) est le groupe des fonctions localement constantes sur X, à valeurs dans Z.

Les énoncés 2 et 3 expriment le fait que pour chaque entier q E N, la correspondance

X «a H4(X) définit un foncteur contravariant de la catégorie des espaces topologiques dans celle des groupes commutatifs.

Notons également que 1a dualité Sq (X) x Sq(X) —) Z passe au quotient pour donner un produit de Kronecker H‘1(X) >< Hq (X) —> Z. On peut montrer que ce produit est non dégénéré : en particulier, H9(X ) et Hq (X) ont même rang. L’avantage essentiel de la cohomologie sur l’homologie est qu’il est possible de définir sur la somme directe

mm=æmm 420

une structure d’anneau gradué : il existe une opération bilinéaire

U : H"(X) ® H"(X) —> HP+9(X), appelée cup-pmduit. Plus encore, la somme directe

mm=®mm> 1120

peut alors être munie d’une structure de H * (X )-module gradué : il existe une opération

fl 5 Hp(X) ® Hq(X) —) Hq—p(X)a appelée cap-produit et compatible avec le cup-produit.

COURS SPÉCIALISÉS 3

A.3. CLASSE FONDAMENTALE ET DUALITÉ DE POINCARÉ

167

A.3. Classe fondamentale et dualité de Poincaré Soit X une variété différentiable connexe, de dimension n. On peut alors montrer que

Hq(X) = 0 si q > n, tandis que Z

si X est compacte et orientable,

0

sinon.

De plus, lorsque X est orientable et compacte, choisir une orientation revient à choisir un

générateur de Hn (X). En conséquence, une variété différentiable de dimension n, compacte, connexe et orientée, est munie d’une classe fondamentale, notée [X], telle que

Hn(X) = Z[X] L’opération de cap-produit avec la classe fondamentale définit un morphisme

o n [X] : H"(X) —> Hn_q(X). Le théorème de dualité de Poincare’ affirme que ce morphisme est un isomorphisme. Donnons deux applications :

l. Morphismes de Gysin. Si f : Y —+ X est une application continue entre variétés différentiables compactes, connexes et orientées, Y étant de dimension m et X de dimen-

sion n, on définit un morphisme f* d’image directe en cohomologie par la composition

a z H400 z Hm-,(Y) A Hm_,(X) z Hq—(X). On dispose alors d’uneformule de projection

f*(f*a U fl) = a U Ml?)2. Classe fondamentale d’une sous-variété. Si Y est une sous-variété différentiable con-.

nexe fermée et orientée, de dimension m dans X, on note encore [Y] l’image de sa classe fondamentale par la composée Hm(Y) —> Hm(X) 2 H”'"‘(X); la différence n — m est la codimension de Y dans X. Ces classes fondamentales se comportent assez bien relativement à l’image directe et l’image réciproque : si l’ap— plication f : Z —) X est lisse (au sens où sa différentielle est de rang constant : c’est

donc une submersion sur son image), alors f*[Y] = [f “1 (Y)] ; si g : X —) Z envoie Y sur une sous-variété de Z de dimension strictement inférieure à m, alors g* [Y] = 0,

mais si g se restreint en un revêtement de degré d sur son image, alors 9* [Y] = d[g(Y)]. Il est possible d’étendre la notion de classe fondamentale à des parties fermées pas trop singulières d’une variété différentiable compacte. Une des méthodes possibles pour cela, consiste à utiliser l’homologie de Borel-Moore, définie pour les espaces localement com— pacts de la façon suivante : si X est homéomorphe à une partie fermée d’un espace affine R",

on pose

Ë,(X) = Hn-qmnnn — X). SOCIÉTÉ MATHÉMATIQUE DE FRANCE I998

168

UNE BRÈVE INTRODUCTION À L’HOMOLOGIE SINGULIÈRE

On peut montrer que ceci ne dépend pas du choix du plongement de X dans un espace affine, et que l’on peut remplacer l’espace affine par n’importe quelle variété différentiable orientée dans laquelle X peut se plonger. Si X est lui-même une variété différentiable orientée connexe, de dimension n, on a donc

ÿ, (X) = H"“1(X). En particulier, si X est également compact, son homologie de Borel-Moore est égale à son homologie singulière. Cependant, même si X n’est pas compacte, l’identité Ë" (X) = H0 (X)

implique qu’elle admet une classe fondamentale [X] e Ë" (X), correspondant à la fonction constante égale à un dans H0(X ) ([5], ou [22], Appendix B). Autre avantage de l’homologie de Borel-Moore : si X se plonge dans une variété orientée M de dimension m, et si U est un ouvert de X, il s’identifie à un fermé de N = M — (X —U), d’où des morphismes

FAX) = H’"“’(M,M — X) -> Hm‘q(N,N — U) = ËAU), dits morphismes de localisation. On dispose alors de suites exactes longues

—+Ëq(X — U) —> FAX) —> Ëq(U) —> Ëq_1(X — U)”Par contre, l’image directe pour l’homologie de Borel-Moore n’est définie que si l’on se

restreint aux applications propres (l’image réciproque d’un compact est compacte). Considérons maintenant une variété algébrique complexe compacte X, de dimension com-

plexe n. Sa structure complexe lui confère une orientation naturelle, et elle admet donc une

classe fondamentale [X] E H2n(X). Une sous-variété algébrique de X en est une partie fermée Y localement défine par des équations algébriques. Elle admet une structure de variété complexe en dehors de ses points singuliers, qui forment une sous-variété algébrique Sing(Y) C Y, de codimension complexe au moins un, donc de codimension réelle au moins deux. Supposons de plus Y irréductible, au

sens où Y—Sing(Y) est une variété lisse connexe, disons de dimension m. Une récurrence sur m et les suites exactes longues ci-dessus permettent de montrer que Ëq (Y) = 0 si q > 2m. En appliquant cela à Sing(Y), et grâce aux mêmes suites exactes longues, on en déduit que

Ë2m(Y) z Ë2m(Y — Sing(Y)) z Z, ce qui permet d’associer à Y une classe fondamentale [Y], image de celle de Y — Sing(Y) par l’isomorphisme ci-dessus. On note de la même façon son image dans H“—2” (X )(1). Sous certaines conditions, les classes fondamentales des sous-variétés algébriques d’une

variété complexe X engendrent son anneau de cohomologie. C’est par exemple le cas si X admet une décomposition cellulaire dont les adhérences des cellules sont des sous-variétés algébriques. On appelle décomposition cellulaire d’une variété complexe X une partition finie X = HieI Yi, où les cellules Y, sont isomorphes à des espaces affines Cm , et vérifient

(”On peut également invoquer des arguments plus classiques pour justifier l’existence d’une classe fondamentale d’une sous-variété algébrique irréductible. Par exemple, la possibilité de la trianguler de façon compatible avec ses singularités. Ou encore, le fait que l’ensemble singulier soit de codimension réelle au moins deux permet d’intégrer les formes différentielles comme sur une sous-variété lisse, et l’on invoque alors les théorèmes de De Rharn

COURS SPÉCIALISÉS 3

A.4. INTERSECTION DE SOUS-VARIÉTÉS ALGÉBRIQUES

169

les conditions de bord

î,- — Y,- = H Yj, jEJ.‘

avec nj < n,- si j e J5. Dans cette situation, les adhérences Ÿ, admettent des classes fonda-

mentales [Ÿi] e H2“ (X), où c,- = n — ni, et l’on a

H24(X)= æ Z[Ÿ,-],

H2