Fonctions symétriques, polynômes de Schubert et lieux de dégénérescence

328 90 15MB

French Pages 188 Year 1998

Report DMCA / Copyright

DOWNLOAD FILE

Polecaj historie

Fonctions symétriques, polynômes de Schubert et lieux de dégénérescence

  • Commentary
  • Duplicate pages removed
Citation preview

Cours Spéciah’sés COLLECTI

Fonctions symétriques, polynémes dc Schubert et lieux de dégénérescence

Numéro 3

Laurent Manivel

Comité de rédaction Michele AUDIN Daniel BARLET (Dir.) Jean—Benoit BOST

Francois LOESER Joseph OESTERLE

Diffusion Maison de la SMF B.P. 67 13274 Marseille Cedex 9 France

AMS PO. Box 6248 Providence RI 02940

smsmf . univ—mrs . fr

WWW . 81118 . org

USA

Tarifs 1998

Vente au numéro : 200 FF ($44) Des conditions spéciales sont accordées aux membres de la SM F.

Secretariat : Nathalie HermeIIin Cours Spécialisés Société Mathématique de France Institut Henri Poincare, 11, rue Pierre et Marie Curie 75231 Paris Cedex 05, France Tél : (33) 01 44 27 67 97 0 Fax : (33) 01 40 46 90 96 collect ioamf . ens . fr

© Société Mathématique de France 1998 Tous droits réservés (article L 122—4 du Code de la propriété intellectuelle). Toute representation ou reproduction intégrale ou partielle faite sans Ie consentement de I 'éditeur est illicite. Cette représentation on reproduction par quelque procédé que ce soit constituerait une contrefacon sanctionnée par les articles L 335—2 et suivants du CPI.

ISBN 2—85629—066—3

Directeur de la publication : J.—J. Risler

COURS SPECIALISES 3

FONCTIAONS SYMETRIQUES, POLYNOMES [DE’ SQHUBERT ET LIEUX DE DEGENERESCENCE

Laurent Manivel

Société Mathématique de France 1998

Laurent Manive] Institut Fourier, Université Grenoble I, BP 74, 38402 Saint Martin d’Héres Cedex, France.

E—mail : Laurent .ManivelQujf —grenob1e.fr Url : http: //www-fourier . uj f—grenoble . fr/"manivel

Classification mathématique par sujets (1991). — 05E05, 05E10, 14M15, 14N10, 20C30, 57T15. Mots clefs. —- Classe de Chern, grassmannienne, groupe symétrique, homologie singuliére, ordre de Bruhat, partition, permutation, polynéme de Schubert, polynéme de

Schur, representation, tableau, variété de drapeaux, variété de Schubert.

FONCTIONS SYMETRIQUES, POLYNOMES DE SCHUBERT ET LIEUX DE DEGENERESCENCE Laurent Manivel

Re’sume’. — Ce cours comprend deux chapitres de nature combinatoire. Le premier est consacré aux fonctions symétriques, et aux propriétés des polynomes de Schur. Nous les étu-

dions a l’aide, en particulier, de manipulations sur les tableaux, définies a l’aide du procédé d’insertion de Knuth. Nous montrons également que ces polynémes représentent les carac— téres des representations irréductibles des groupes symétriques. Le second chapitre est une étude des polynomes de Schubert, définis par A. Lascoux et M.-P. Schiitzenberger en termes de differences divisées. Ces polynomes sont associés aux permutations, et leur combinatoire est trés liée a l’ordre de Bruhat sur les groupes symétriques, ainsi qu’a certaines algébres de Hecke de ces groupes. Le troisieme et demier chapitre est au contraire d’essence géométrique, puisqu’il a pour theme l’étude des variétés de Schubert dans les grassmanniennes et les variétés de drapeaux. Le fait que les classes d’homologie de ces variétés soient représentées par des polynomes de Schur, ou de Schubert, permet de traduire géométriquement bon nombre des résultats

des deux premiers chapitres. Enfin, les variétés de Schubert étant des modeles universels de certains lieux de dégénérescence de morphismes entre fibres vectoriels, nous en déduisons des expressions des classes d’homologie de ces lieux en termes de classes caractéristiques des fibrés impliqués.

Abstract (Symmetric functions, Schubert polynomials and degeneracy loci) This course begins with two chapters of combinatorial nature. The first one is devoted to symmetric functions, and to the properties of Schur polynomials, which we study with the help of Young tableaux and the Knuth insertion algorithm. We show that these polynomials can be identified with the characters of the irreducible representations of symmetric groups.

The second chapter is a study of Schubert polynomials, which were defined by A. Lascoux and M.-P. Schiitzenberger in terms of divided differences. These polynomials are associated with permutations. Their combinatorics is related to the Bruhat order on symmetric groups, and to certain Hecke algebras of these groups.

The third and last chapter is, on the contrary, of geometrical nature, its main theme being the study of Schubert varieties inside grassmannians and flag manifolds. The fact that the

© Cours Spécialisés 3,

SMF 1998

iv

homology classes of these varieties can be represented by Schur or Schubert polynomials, allows one to translate in geometrical language most of the results of the first two chapters. And since these Schubert varieties are universal models for certain degeneracy loci of morphisms between vector bundles, we deduce expressions for the homology classes of these loci in terms of characteristic classes of the bundles involved.

COURS SPECIALISES 3

Table des matiéres

Introduction ................................................................

1

l. L’anneau des fonctions symétriques ........................................

7

1.1. Fonctions usuelles .................................................... 7 1.2. Fonctions de Schur .................................................... 10 1.3. La correspondance de Knuth ............................................ 16 1.4. Quelques applications aux fonctions symétriques .......................... 19

1.5. La regle de Littlewood et Richardson .................................... 25 1.6. Les caracteres du groupe symétrique .................................... 35

1.7. Les polynomes de Kostka-Foulkes ...................................... 47 1.8. Comment le groupe symétrique agit sur les tableaux ...................... 54

2. Les polynomes dc Schubert ................................................ 59 2.1. Permutations et ordre de Bruhat ........................................ 59 2.2. De quelques classes de permutations .................................... 66

2.3. Les polynomes de Schubert ............................................ 72 2.4. Quelques propriétés des polynomes de Schubert .......................... 79 2.5. Polynomes de Schubert simples ........................................ 82 2.6. Fonctions de Schur drapeaux ............................................ 89

2.7. Multiplication des polynomes de Schubert ................................ 97 2.8. L’énumération des mots réduits

.......................................... 103

3. Les variétés de Schubert .................................................. 107 3.1. Les grassmanniennes .................................................. 3.2. Les variétés de Schubert des grassmanniennes ............................ 3.3. Les monomes standard ................................................ 3.4. Singularités des variétés de Schubert .................................... 3.5. Classes caractéristiques et lieux de dégénérescence ........................ 3.6. Les variétés de drapeaux ................................................ 3.7. Singularités des variétés de Schubert, reprise .............................. 3.8. Lieux de dégénérescence et polynomes de Schubert ........................

107 111 118 123 128 141 151 156

vi

TABLE DES MATIERES

Une bréve introduction ‘21 l’homologie singuliére .............................. A. 1. Homologie singuliére .................................................. A2. Cohomologie singuliére ................................................ A3. Classe fondamentale et dualité de Poincaré .............................. AA. Intersection de sous-variétés algébriques ................................

163 163 165 167 169

Bibliographic .............................................................. 1 7 1 Index

...................................................................... 177

COURS smicmusés 3

INTRODUCTION

CE DONT IL SERA QUESTION DANS CE COURS. — Ce texte est issu d’un cours de troisiéme cycle donné a l’Institut Fourier (Université Joseph Fourier, Grenoble 1), durant l’année universitaire 1995-96. 11 se veut d’une part une introduction a la combinatoire des fonctions symétriques, plus précisément des polynémes de Schur, ainsi qu’a celle des polynémes de Schubert. Nous y étudierons d’autre part la géométrie des grassmanniennes, des variétés de drapeaux, et surtout de leurs variétés de Schubert. Les liens profonds qui unissent, par dela nos artificielles classifications, ces deux sujets de peu de rapport a priori, ont curieusement tardé a se laisser apercevoir. Les polynomes de Schur, d’un cété, furent explicités par Jacobi (12:3 1841 [43]. Mais leur importance provient avant tout du role que leur fait jouer la théorie des representations des groupes. C’est en effet a leur éponyme, Isaiah Schur, éleve de Frobenius, que l’on doit d’avoir reconnu dans ces fonctions, dans un mémoire célebre de 1901, les caractéres irréductibles des

groupes linéaires complexes GL(n, (C) [82]. Plus encore, les polynémes de Schur décrivent aussi les representations des groupes de permutations, étudiées par A. Young a l’aide des tableaux auxquels il a laissé son nom [98]. Les variétés de Schubert, d’un autre cote, sont des sous-variétés des grassmanniennes, ces

derniéres paramétrant les sous-espaces linéaires de dimension donnée d’un espace vectoriel, en l’occurence complexe. Elles furent introduites, au siecle demier, pour les besoins de la géo-

métrie énumérative [81]. Combien de droites de l’espace projectif coupent-elles une famille donnée de sous-espaces linéaires ? Combien de droites contient une hypersurface de degré

donné de ce meme espace projectif ? Combien de coniques du plan sont-elles tangentes a cinq droites données ? Les variétés de Schubert font partie des outils forges par les géométres

allemands et italiens pour répondre a de telles questions. On peut en effet les traduire en termes d’intersection de certaines variétés paramétrant les objets considérés. En particulier, i1 arrive que le probleme se ramene a celui de compter 1e nombre de points d’une intersection de van'étés de Schubert. Or, formellement, calculer des produits de polynémes de Schur, ou des intersections de variétés de Schubert (en homologie tout au moins, ou dans l’anneau de Chow), c’est la méme

chose! Mais si la réponse générale au premier de ces problemes fut donnée par Littlewood et Richardson (sans demonstration tout a fait rigoureuse, d’ailleurs) des 1934 [64], cc n’est

qu’en 1947 que Lesieur explicita l’analogie [62]. Le noeud, ainsi rendu visible, n’a cessé depuis de se resserrer, entre la combinatoire des partitions et des permutations d’une part, la géométrie des grassmanniennes et des variétés de drapeaux d’autre part. C’est tout le sujet de ce cours, dont voici plus précisément 1e contenu.

2

INTRODUCTION

CE QUE CONTIENT CE COURS... — Je l’ai divisé en trois chapitres. Le premier est consacré aux fonctions symétn’ques, plus particuliérement aux polynomes de Schur : ce sont des polynomes a coefficients entiers positifs, dont chacun des monomes est en correspondance avec un tableau de Young ayant la propriété d’étre « semistandard ». Les propriétés combinatoires de ces tableaux ont été explorées successivement par Robinson ([77], 1938), Schensted ([80], 1961), Knuth ([48], 1970), puis Schiitzenberger et son école [83, 84, 96]. Elles sont encore aujourd’hui, et plus que jamais, l’objet d’un grand in— térét. Via l’introduction du mono‘l‘de plaxique, ce sont elles qui nous permettront, apres bien d’autres propriétés des fonctions symétriques, de démontrer 1a regle célébre de Littlewood & Richardson, qui gouveme la multiplication des polynomes de Schur. J’ai adopté cette approche pour au moins deux raisons. D’abord, parce qu’elle offre un point de vue different (16 celui du traité, déja classique, de Macdonald [66]. Ensuite, parce qu’il me donnait l’occasion de rendre plus accessible une théorie trop peu connue, me semblet-il, et dont l’importance n’a pourtant cessé de croitre depuis quelques années. J ’expliquerai ensuite comment les polynomes de Schur permettent de décrire les caractéres irréductibles des groupes symétriques Sn. J ’établirai entre fonctions symétn'ques et represen— tations des groupes de permutations, 1e dictionnaire suivant : I

Représentations de 8,, Representations irréductibles (1.6.6) Degrés (1.6.8) Regle de Young (1.6.14)

Fonctions symétriques Partitions de poids n (1.1.1) Nombres de tableaux standard (1.4.12) Formule de Pieri (1.2.5)

Induction (1.6.2)

Régle de Littlewood & Richardson (1.5.23)

Produit tensoriel

??????????

Cette derniére ligne pour signaler que le probleme, pourtant fondamental, de la decomposition d’un produit tensoriel de representations irréductibles d’un groupe symétrique, decomposition dont on sait peu de choses, reste l’un des points obscurs de la théorie. Le dictionnaire précédent ayant été établi, nous nous intéresserons aux polynémes de Kostka-Foulkes. Ce sont des «q—généralisations» des classiques nombres de Kostka (1882), dont l’intérét provient du fait qu’ils apparaissent simultanément dans la théorie des caracteres des groupes linéaires sur les corps finis GL(n, 11%) (Green 1955), dans la description de

la cohomologie des orbites nilpotentes de GL(n, (C) (Kraft 1981, DeConcini & Procesi 1981, Garsia & Procesi 1992), comme polynomes de Kazhdan-Lusztig (Lusztig 1983), on comme décrivant la statistique de la charge sur les tableaux de Young (Lascoux & Schiitzenberger 1978 [56]). C’est sous ce demier aspect que nous les étudierons, pour en établir certaines des plus remarquables propriétés. Le second chapitre sera consacré aux polynomes de Schubert. Ces polynomes ont été découverts, ou inventés, en 1982 par A. Lascoux et M.-P. Schfitzenberger [58], qui en ont lar— gement exploré les propriétés combinatoires. Nous verrons par exemple qu’ils entretiennent des liens subtils avec les problemes d’énumération des decompositions réduites des permutations, ou bien avec la régle de Littlewood & Richardson, dont ils permettent d’obtenir une

version particuliérement efficace.

COURS spécrAusés 3

INTRODUCTION

3

On doit également a Macdonald un agréable compte—rendu d’une part non négligeable de cette théorie, d’ores et déja considéré comme référence [67]. J’ai cependant pris de maniere répétée le parti de m’en écarter. En particulier, j’ai préféré reprendre l’élégante approche des polynomes de Schubert qu’ont proposée Fomin et Kirillov, en rapport avec l’équation de Yang-Baxter et les algebres de Hecke des groupes symétriques [14]. J ’ai également choisi de tirer parti de la méthode des chemins de Gessel et Viennot, méthode combinatoire qui depuis son apparition vers 1986 [28, 29], n’a cessé de démontrer sa pertinence.

Signalons que les polynomes de Schubert sont loin d’avoir révélé tous leurs secrets. On ne sait a peu pres rien, par exemple, de leur multiplication, et de la régle de type Littlewood

& Richardson qui devrait la gouvemer. Si les deux premiers tiers de ce cours sont de nature essentiellement combinatoire, son

troisieme et demier chapitre est d’essence géométrique. Il sera en effet consacré aux variétés de Schubert, sous—variétés des grassmanniennes, ou des variétés de drapeaux, définies par

certaines conditions d’incidence avec des sous—espaces fixés. Ces variétés ont d’abord été introduites pour les besoins de la géométrie énumérative. Dés les premiers pas de la topologie algébrique, des efforts importants ont été accomplis pour rendre rigoureux les travaux de Schubert et des géométres énumératifs [94]. Il s’agissait en effet de résoudre le 153 probleme de Hilbert, qui s’énonce comme suit [38] 2

De’termination rigoureuse des nombres de la géome’trie énume’rative, et cela en fixant de maniére plus précise les limites de leur validité, et, en particulier, des nombres que Schubert a trouvés en s’appuyant sur le principe de son calcul énumératif, dit de la position spéciale ou de la conservation du nombre. Ce programme n’est encore qu’imparfaitement accompli [47]. L’ anneau de cohomologie des grassmanniennes fut cependant l’un des tous premiers a étre correctement compris [94], et manifeste une étonnante analogie formelle avec l’anneau des fonctions symétriques. Un de mes premiers objectifs a été de mettre en place 1e dictionnaire qui permet de transcrire les problemes d’intersection des variétés de Schubert, en termes de fonctions symétriques. Ce dictionnaire s’établit comme suit :

L

Grassmanniennes Variétés de Schubert (3.2.1) Incidence (3.2.3)

Classes fondamentales (3.2.9) Degrés (3.2.2) Formule de Pieri (3.2.8) Formule de Giambelli (3.2.10) Intersection (3.2.11) Postulation (3.3.5)

J

Fonctions symétriques Partitions (1 .1.1) Inclusion des partitions (1.1.1) Polynomes de Schur (1.2.1) Nombres de Kostka (1.2.3) Formule de Pieri (1.2.2) Formule de Jacobi-Trudi (1.2.4) Regle de Littlewood & Richardson (1.5.23) Partitions planes (1.4.4)

L’ anneau de cohomologie des variétés de drapeaux, par ailleurs, a donné lieu a nombre de travaux importants. Citons ceux d’Ehresmann ([13], 1934), de Borel ([4], 1953) 1e décrivant

comme un quotient d’un anneau de polynomes, de Chevalley ([9], circa 1958), plus tard ceux de Bernstein, Gelfand & Gelfand ([2], 1973) et Demazure ([10], 1974). Ces demiers

500111311: MA'méMATiQUE DE FRANCE I998

4

INTRODUCTION

auteurs utilisent de facon essentielle les differences divisées de Newton, sur lesquelles repose

la definition méme des polynomes de Schubert. Ces polynémes apparaissent ainsi comme des représentants, dans la presentation de Bore], des duaux de Poincaré des classes fondamentales des variétés de Schubert : représentants aux propriétés si remarquables, i1 faut le signaler, que la définition de leurs analogues pour des groupes de Lie complexes simples autres que SL(n, (C), continue de poser des problémes difficiles. Dans le cas des variétés de drapeaux complets, nous mettrons en place une partie du dictionnaire suivant : Varie’tés de drapeaux I Polynémes Variétés de Schubert (3.6.2) Incidence (3.6.5) Classes fondamentales (3.6.13) Formule de Monk (3.6.12)

Degrés

Permutations (2.1.1) Ordre de Bruhat (2.1.2) Polynomes de Schubert (2.3.4) Formule de Monk (2.7.1)

Nombres de chaines de permutations

Postulation

Monomes standard

Intersection

'7 ‘7 '7 7 '7 ‘7 '7 7 9 9 “I

Les grassmanniennes se réalisent comme variétés projectives grace aux plongements de Plucker. Apres avoir montré comment s’obtiennent les équations des variétés de Schubert, nous nous intéresserons a leurs lieux singuliers, que nous décrirons explicitement. Dans le cas des variétés de drapeaux, nous établirons un critére simple de lissité. Et nous construirons des désingularisations des variétés de Schubert. Nous expliciterons ensuite le lien qui existe entre les variétés de Schubert, et les classes caractéristiques qu’associe Chem a un fibré vectoriel complexe sur une variété differentiable. On peut interpreter ces classes comme représentant par exemple les sous-variétés définies par l’annulation d’une section convenable du fibré considéré. Plus généralement, les classes d’homologie des lieux de dégénérescence de morphismes entres fibrés vectoriels, c’est-a-dire de lieux définis par certaines conditions de rang, peuvent s’exprimer en termes de classes caractéristiques. L’exemple Ie plus célébre en est sans doute la formule de Thom & Porteous, qui date de 1971 [72]. En 1992, W. Fulton a obtenu une vaste generalisation de cette formule et des cousines

qu’ont lui connaissait jusqu’alors (Kempf & Laksov 1974, Pragacz 1988), en démontrant que les lieux de dégénérescence de morphismes entres fibrés vectoriels munis de drapeaux de sous-fibres, peuvent étre décrits au moyen de certains polynomes de Schubert [21] : les variétés de Schubert jouent en l’occurence 1e role de lieux de dégénérescence universels. En particulier, pour une classe tres particuliere de permutations, appelées vexillaires par Lascoux et Schiitzenberger, on obtient des formules déterminantales dont certains exemples remontent a Giambelli. Ce cours se conclut sur la demonstration de ce résultat, dont on appréciera, je I’espere, tant Ia remarquable généralité de son énoncé, que la simplicité de sa demonstration. On doit d’ailleurs a Fulton un ouvrage récent sur les tableaux de Young et leur utilisation en géométrie, ouvrage dont ce cours a tiré une partie de sa substance [22]. Le Iecteur intéressé y trouvera des détails sur la combinatoire des tableaux, sujet sur que] nous avons préféré

COURS SPECIAusEs 3

INTRODUCTION

5

ne pas nous attarder excessivement. La partie géométrique de ce livre est trés succincte au contraire. C’est en partie du désir de la prolonger qu’est né cet ouvrage.

ET CE QU’IL AURAIT PU CONTENIR. — Ce texte n’a, faut-il le dire, pas la moindre

prétention a l’exhaustivité. Sa seule ambition est de poser quelques pierres d’un edifice qui pourrait étre beaucoup plus vaste. J’aimerais donc signaler au passage quelques themes qui auraient pu, si le temps et les competences ne m’avaient manqués, le compléter. Je n’ai pas considéré 1a théorie des representations projectives des groupes symétriques (Schur 1911), et je me suis gardé d’évoquer les problemes poses par la caractéristique positive : aussi bien pour étendre la théorie des representations complexes des groupes symétriques, aux representations sur les corps finis, que pour comprendre — probléme en quelque sorte inverse du précédent — la théorie des representations complexes des groupes linéaires a

coefficients dans un corps fini GL(n, q) [30, 66]. J ’ai également fait l’impasse sur la description classique des foncteurs de Schur, qui définissent les representations du groupe linéaire complexe. J ’ai déja mentionné 1e fait que les polynémes de Schur décrivent leurs caractéres irréductibles : la encore, il est possible d’éta— blir un dictionnaire assez riche entre fonctions symétriques et representations de GL(n, (C)

[97, 66, 49]. On a d’ailleurs découvert des rapports aussi subtils que remarquables, entre certains aspects de la combinatoire des tableaux et des partitions planes, et les representations des autres

groupes et algebres de Lie classiques — en particulier, via la formule des caracteres de Weyl [97]. Du cote géométrique, les problemes que nous avons abordés ne sont que certains aspects de l’étude des variéte’s de Schubert dans les variétés de drapeaux généralisées. Celles-ci sont

définies comme des quotients X = G/P d’un groupe de Lie complexe semi-simple G, par certains types de sous-groupes algébriques P, qualifies de paraboliques. Ce sont des variéte’s projectives, dont les sous-variétés dites de Schubert sont indexées par un certain quotient WP du groupe de Weyl W de G : dans le cas des variétés de drapeaux usuelles, pour lesquelles

G = SL(n,(C), le groupe W = WP n’est autre qu’un groupe de permutations; dans le cas des grassmanniennes, WP est l’ensemble des permutations grassmanniennes dc descente donnée. Ici encore, on peut obtenir une decomposition cellulaire de X, différentes descriptions de son anneau de cohomologie entiere, des opérateurs de differences divisées, et des liens subtils avec la combinatoire de l’ordre de Bruhat sur le groupe de Weyl [4, 9, 2, 10]. De méme, la comprehension des idéaux des variétés de Schubert requiert la définition de monémes standard, théorie qui remonte a Hodge et dont nous avons esquissé la théorie

dans le cas des grassmanniennes. Ceci aurait pu nous entrainer assez loin dans l’étude des representations des groupes de Lie complexes [52]. Beaucoup d’attention a également été consacrée aux singularités des variétés de Schubert généralisées : elles demeurent cependant mal comprises. L’étude de ces singularités est d’ailleurs liée a celle des polynomes de Kazhdan-Lusztig (Kazhdan & Lusztig 1979, Lascoux & Schiitzenberger 1981, Lascoux 1995). Ces polynomes, sur lesquels nous aurions également pu nous arréter, nous auraient eux-mémes renvoyés a l’étude des algébres de Hecke, que nous n’avons fait qu’effleurer.

socnirn's MATHEMA'HQUE DE FRANCE I993

6

INTRODUCTION

Nous aurions pu, dans une direction voisine, nous permettre quelques incursions dans le monde « quantique ». D’abord, parce que certaines « q-déformations » des fonctions symé— ttiques classiques — a commencer par les polynémes de Kostka-Foulkes — sont liées aux représentations des groupes quantiques (Lascoux, Leclerc & Thibon 1995). Ensuite, parce qu’on a pu récemment définir des anneaux de « cohomologie quantique », qui sont des deformations des anneaux de cohomologie de certaines variétés. En particulier, pour les grassmanniennes ou les variétés de drapeaux, il est possible de développer un calcul de Schubert quantique, dont la combinatoire fait a l’heure actuelle l’objet d’une étude attentive (Bertram 1994, Gi-

vental & Kim 1995, Ciocan-Fontanine 1995, Fomin, Gelfand & Postnikov 1996, Bertram, Ciocan-Fontanine & Fulton 1997). Enfin, i1 aurait été intéressant d’étudier les lieux de dégénérescence de morphismes entre fibres vectoriels, lorsque des conditions de symétrie sont imposées. Cela nous aurait amené a introduire des outils combinatoires tout aussi remarquables que les fonctions de Schur, et d’ailleurs quasi homonymes : les Q-polynomes de Schur, qui sont directement liés aux representations modulaires des groupes symétriques. On trouvera un développement détaillé de ce theme dans la monographie [25]. QUELQUES REMARQUES EN GUISE DE CONCLUSION. -— Terminons cette introduction sur

quelques remarques de forme. J ’ai déja dit que ce cours n’avait pas d’ambition encyclopedique : tout au plus, pourra-t-il permettre de rendre plus accessibles un certain nombre de travaux, qui ne le sont pas autant qu’on pourrait 1e souhaiter. Peut-étre servira-t—il également de marchepied, a qui voudrait aborder des themes plus ambitieux. Il ne pretend pas non plus a l’originalité : i1 ne contient ni résultat nouveau, ni demonstration nouvelle. J’ai picoré, a gauche et a droite, un certain nombre de sources pour en extraire ce qui m’en semblait constituer la substantifique moelle. J’ai tenté d’en faire un ensemble 2?:

la fois coherent, et largement ouvert sur ses prolongements possibles. Par ailleurs, j’ai cherché, autant que possible, a rester élémentaire. Ce qui était facile pour les deux premiers chapitres, qui n’exigent aucune connaissance préalable, l’était un peu moins pour le troisieme, ou l’on utilise quelques notions rudimentaires de topologie et de géométrie algébrique. Pour venir en aide au lecteur auquel pourrait étre utile un bref « digest» de l’homologie singuliere, en tout cas des quelques notions que nous lui emprunterons, j’ai en partie repris, et adapté, 1e tres agréable appendice consacré dans [22] a la topologie des variétés algébriques. En contrepartie, si je puis dire, du caractere élémentaire de beaucoup d’énoncés de ce cours, je me suis permis d’en donner des demonstrations le plus souvent sans fioritures — mais je l’espere toujours completes, a quelques rares (et volontaires !) exceptions pres. Quelques efforts seront donc parfois nécessaires de la part du lecteur, efforts de toute facon indispen— sables ne serait-ce, par exemple, que pour saisir la combinatoire des tableaux : qui prétendra comprendre la correspondance de Knuth sans l’avoir suffisamment pratiquée ? Pour aider a l’acquisition de cette pratique, j’ai saupoudré ce texte d’un certain nombre d’exercices, rarement difficiles, souvent accompagnés d’indications succinctes.

Puissent—ils soutenir 1e lecteur de bonne volonté, dans la découverte d’une théorie qui s’enorgueillit de quelques joyaux !

COURS SPECIALIsEs 3

CHAPITRE 1

L’ANNEAU DES FONCTIONS SYMETRIQUES

L’objet d’étude fondamental de ce premier chapitre est l’anneau An des polynémes sy— métriques a coefficients entiers de n variables indépendantes. Nous nous intéresserons tout particuliérement a la famille des polynémes de Schur, dont nous montrerons que les monémes

sont en correspondance avec certains tableaux d’entiers, dits semistandard. Les différentes opérations combinatoires sur ces tableaux, qu’il est possible de définir a partir de l’algorithme d’insertion de Knuth, nous permettront d’établir certaines des proprietés les plus remarquables de cette famille de fonctions symétriques. C’est avec leur aide que nous établirons la célebre régle de Littlewood & Richardson, qui décrit la decomposition du produit de deux fonctions de Schur en termes de ces memes fonctions. Nous verrons ensuite de quelle fagon les polynomes de Schur permettent de décrire les caractéres des representations irréductibles des groupes de permutations, et nous nous attar-

derons assez longuement sur l’étude de ces representations, les modules de Specht. Enfin, nous concluerons ce chapitre par une étude des polynomes de Kostka—Foulkes, qui sont des «q—généralisations» des nombres de tableaux semistandard de forme et de poids donnés. Nous établirons en particulier une conjecture de Foulkes, démontrée par Lascoux et Schfitzenberger, selon laquelle ces polynomes sont décrits par une certaine statistique sur les tableaux, dite de la charge. Et nous en explorerons les rapports avec l’action du groupe symétrique qu’il est possible de définir sur les tableaux semistandard.

1.1. Fonctions usuelles

1.1.1. Fonctions symétriques élémentaires. -— Commencons par quelques notations relatives aux partitions, suites finies décroissantes /\ d’entiers naturels A1 2 - -- 2 A, 2 0. Les

entiers A1 , . . . , A; sont les parts. La longueur l()\) désigne le nombre de parts non nulles, et le poids [A], la somme des parts. On se soucie peu, d’ordinaire, des parts nulles : on se permet en particulier, le cas échéant, d’en ajouter ou d’en oter.

Le diagramme de Ferrers de A s’obtient en superposant, de haut en bas, des lignes dont l’extrémité gauche est sur une méme colonne, et de longueurs données par les parts de A. Par symétrie diagonale, on obtient le diagramme de Ferrets de la partition conjugue’e, que l’on notera /\*.

8

CHAPITRE l. L’ANNEAU DES FONCTIONS SYME'TRIQUES

1. Diagramme de Ferrers d’une partition et de sa conjuguée.

Exemple 1.1.1. — La figure ci-dessus est celle du diagramme de la partition /\ = (5, 3, 3, 2), de longueur 4 et de poids 13, et de sa partition conjuguée x\* = (4, 4, 3, 1, 1), de longueur 5 et de meme poids. On notera d’ailleurs plutot, sauf ambiguité, /\ = 5332 et /\* = 44311.

On peut munir l’ensemble des partitions de l’ordre partiel nature], défini par la relation d’inclusion pour les diagrammes de Ferrers. Plus utile, cependant, nous sera l’ordre partiel dit dominant, selon lequel /\ 2 p si ces deux partitions ont méme poids, et si l’inégalité

/\1+"'+)\iZM1+"'+Hi est vérifiée pour tout entier i. Exercice 1.1.2. —

Montrer que l’ensemble des partitions, muni de PM on l’autre de ces

ordres partiels, forme un treillis : étant données deux partitions, i1 existe un unique élément minimal parmi ceux qui dominent (ou sont dominés par) chacune d’elles. Verifier que pour l’ordre dominant, les partitions de poids donné forment un treillis symétrique, au sens ou /\ 2 y si et seulement si p“ 2 X". La fagon la plus naturelle qui soit de construire un polynéme symétrique de n variables

consiste sans doute a se donner un monome :L"\ = xi“ - - - mg", et le symétriser, On obtient ainsi les fonctions syme’triques monomiales mA =

Z

x“.

a ESn (A)

Dans cette expression n’apparaissent que des monémes distincts deux a deux : /\ est une partition ayant n parts /\1 , . . . , An ; de plus, 8,, désigne le groupe des permutations des entiers compris entre 1 et n, et l’on a noté 5,, (A) l’ensemble des n-uplets d’entiers a tels que l’on ait a, = Aw“) pour une permutation w 6 Sn, pas nécessairement unique. Les fonctions symétriques monomiales forment une base de l’anneau An des polynomes symétriques a coefficients entiers des n variables 11:1, . . . ,xn. Pour les partitions dont les parts

non nulles sont égales a un, ces fonctions monomiales donnent en particulier les fonctions symétriques éle’mentaires 6k:

2 Ilia-"Iii“ ISi1 O] = Z[hk, k > 0], ek et hk étant de degré k. Toutes les formules démontrées jusqu’ici sont valables dans A, sans les restrictions du genre de celle qui apparait dans l’énoncé du corollaire 1.2.10 : w s’étend en un automorphisme involutif de A, et pour toute partition A, on a w(sA) = 3”. En général, on travaille donc d’emblée dans A, et l’on spécialise quand c’est nécessaire a un nombre donné de variables, ce qui a simplement pour effet d’annuler les fonctions de Schur associées a des partitions de longueur supérieure a cet entier.

1.3. La correspondance de Knuth On a vu apparaitre tout naturellement, dans la section précédente, tableaux et matrices a coefficients entiers. Ces objets entretiennent des rapports combinatoires subtils, dont la correspondance de Knuth [48] est parmi les plus importants. Le probleme de départ est le suivant : comment ajouter, de maniere canonique, un entier donné a un tableau ? 1.3.1. Insertion. — Soient T un tableau semistandard, et 11 un entier. L’insertion de Knuth est un procédé permettant d’adjoindre a T une boite numérotée de l’entier n — cela d’une maniere qui fasse sens combinatoirement. Nous aurons dans les pages qui suivent maintes occasions d’apprécier les vertus de cet algorithme, que nous allons maintenant décrire sans plus de justification. Considérons tout d’abord la ligne supérieure de T. Si n’y figurent que des entiers inférieurs ou égaux a n, on place la nouvelle case a la droite de cette ligne et l’on s’en tient la. Sinon, on considere la case de cette premiere ligne de T, située le plus a gauche parmi celles qui sont numérotées d’entiers strictement supérieurs a n. On y fait alors figurer l’entier n a la place de l’entier p qui s’y trouve, puis on passe a la ligne suivante avec cet entier p. Et cela, jusqu’a ce que le procédé s’arréte. On obtient finalement ainsi un nouveau tableau semistandard S, numéroté des memes entiers que le tableau T, plus l’entier n qui a été inséré.

111|4| n’, 23 est strictement au-dessous de 33’ .

which-4

2|3|

—>CJ1H>H

must—-

E—v-I-POJI—I

On peut aussi définir, de maniére symétrique, une insertion par les colonnes. Etant donnés un entier n et un tableau T, on place n a l’extrémité de la premiere colonne de T s’il est plus grand que toutes les entrées de celle—ci. Sinon, on 1e place dans la case occupée par le plus petit entier de cette colonne qui lui est supérieur ou égal, et l’on passe a la colonne suivante, jusqu’a épuisement du procédé.

2|3|

23|

6bis. Insertion par les colonnes.

1.3.2. Correspondances. — Si l’on se donne une suite finie m d’entiers strictement posi-

tifs, ce que l’on appellera un mot sur l’alphabet N* , on peut mettre a profit le procédé d’inser— tion qui vient d’étre décrit pour déduire de m un tableau semistandard T. Tout simplement, on insere successivement ses lettres, de gauche a droite a partir du tableau vide. On dira que le tableau T ainsi obtenu est le redressement du mot m. D’apres la remarque précédente, il est possible de reconstituer le mot m a partir du tableau T si l’on connait l’ordre d’apparition de ses cases - ordre donné par un tableau standard S de

meme forme que T. Ce qui s’énonce de la fagon suivante : Correspondance de Schensted 1.3.2. — Il existe une correspondance biunivoque entre mots

m sur l’alphabet 1, . . . , n, et paires (T, S) de tableaux de mémeforme, numérotés d ’entiers compris entre 1 et n, le premier semistandard et le second standard.

On remarquera que T est standard si et seulement si le mot m qui lui est associé est de

la forme w(1)w(2) . . . w(n) pour une certaine permutation w 6 8... Hot: l’ancétre de la correspondance précédente : Correspondance de Robinson 1.3.3. — Il existe une correspondance biunivoque entre les permutations w 6 Sn, et les paires (T, S) de tableaux standard de taille n, de mémeforme.

socniz'ni: MATHEMATIQUE DE FRANCE 199x

4|6J

@0110

T=

H

—)

CO

w = 279385146

tcsiht—I

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMETRIQUES

[QOK'lml—I 0001:»

18

3|9|

7. Correspondance de Robinson.

La correspondance de Schensted peut s’étendre aux paires (T, S) de tableaux semistandard de méme forme, avec la convention suivante. Si ces tableaux sont de taille l, soit 31 la

plus grande entrée de S. On choisit, parmi les cases de 5' numérotées de cet entier, celle qui se trouve le plus a droite. On la supprime, et l’on chasse la case correspondante de T par le procédé inverse de l’insertion, ce qui prive ce tableau d’un entier t1.

En itérant ce procédé, on obtient deux suites d’entiers s = (31, . . . , 3;) at t = (t1, . . . , t1), avec .91 S

S 3;, et tk g tk+1 si sh = Sk+1~ En effet, si l’on chasse d’un tableau deux

cases situées sur des coins, en commencant par la plus a droite, celle-Ci chasse nécessairement un entier supérieur ou égal a celui que chasse la seconde. Notons que 3 et t sont les suites des entrees des tableaux S et T. La premiere est ordonnée de facon croissante, et l’on dira que la seconde est ordonnée de facon compatible avec le premiere. Réciproquement, étant donnée les suites s et t, vérifiant les conditions de monotonic précédentes, on reconstruit 1a paire de tableaux de départ en insérant successivement t1 , . . . ,t;

pour construire T, alors que S s’obtient en placant 3;. la on l’on a inséré tk en construisant T. Les propriétés de croissance de la suite double de départ assurent le caractere semistandard de S (voir l’exercice 1.3.1 ci-dessus).

Remarquons que la donnée de 3 et t est équivalente a celle des couples (31, t1), . . . , (s; , t1), dans un ordre quelconque. Elle équivaut donc aussi a la donnée de la matrice A = 2i Es; ,t. ,

on E“, est la matrice dont toutes les composantes sont nulles, exceptée celle de la ligne p et de la colonne q, qui vaut un. En conclusion :

hwy—I

lutD—I

II

1|4| to

HAMI—I

lrkoaNI—I

OHOM

O r—I O O

CHI—IO

to

O

|-‘

o

Correspondance de Knuth 1.3.4. — [l existe une correspondance biunivoque entre matrices A a coefficients entiers positifs, presque tous nuls, et paires de tableaux (T, S) semistandard et de méme forme. Dans cette correspondance, les sommes des composantes de A sur ses colonnes (respectivement ses lignes) sont données par le poids de T (respectivement de S).

2|3|

8. Correspondance de Knuth.

Si l’on part d’une permutation, si on lui applique la correspondance de Robinson, puis la correspondance de Knuth a la paire obtenue de tableaux standard, on obtient simplement la matrice de la permutation de depart.

COURS SPECIALISES 3

1.4. QUELQUES APPLICATIONS AUX FONCTIONS SYMETRIQUES

19

1.4. Quelques applications aux fonctions symétriques L’intérét des manipulations sur les tableaux dont nous venons de commencer l’étude, est

qu’il va nous permettre d’obtenir sans difficultés toute une série de propriétés non triviales des fonctions symétriques. 1.4.1. Le théoréme de Littlewood. — Le théoreme de Littlewood donne 1a fagon la plus commode d’expliciter une fonction de Schur : a chaque tableau semistandard de forme une

partition donnée, correspond un monome de la fonction de Schur associée. Théoréme 1.4.1 . — Pour toute partition x\, on a l ’identité

3A :

Z (EMT), A(T)=»\

cette somme portant sur 1 ’ensemble des tableaux semistandard de forme /\. Démonstration. — Notons tA 1e membre de droite de l’identité ci—dessus : i1 n’est a priori pas évident du tout que ce soit une fonction symétrique ! Développons cependant le produit n

h.=h..---h.-=:nmj:

«

a1'+m+an'

A j=1

Cette somme porte sur l’ensemble des matrices A = (aij) d’ordre n, a coefficients entiers, telles que 2k alk = m pour tout I. On obtient done via la correspondance de Knuth l’identité h” =

2

(EMS) = ZKMJ)‘.

A(T)=A(S), #(T)=lt

A

Autrement dit, les fonctions hp ont méme développement sur les fonctions de Schur s). que sur les fonctions t,\. Sachant ce développement inversible, puisqu’il correspond a un changement de base dans l’anneau des fonctions symétriques, on en déduit que 3; = t,\ pour toute

partition A.

El

Remarque 1.4.2. — Ce résultat laisse a penser qu’il existe une action, préservant le poids, du groupe symétrique sur les tableaux semistandard. Cette action existe en effet, mais est assez délicate a définir : nous la décrirons dans la section 1.8.

1.4.2. Les formules de Cauchy. — Nous allons également démontrer deux identités remarquables dues, sous une forme un peu différente, a Cauchy. Considérons deux ensembles de variables indépendantes 9:1, . . . , :17" et yl , . . . , y".

Premiéreformule de Cauchy 1.4.3

H(1 — saga-)4 = Z$A($)3A(Zl)M

A

Démonstration. — Développons brutalement

Ha — film—1 = Z H($iyj)“"', i,j

A m’

socnimé MATHEMATIQUE DE FRANCE 1993

20

CHAPITRE I. L'ANNEAU DES FONCTIONS SYMETRIQUES

cette somme formelle portant sur l’ensemble des matrices a coefficients entiers, presque tous nuls. La correspondance de Knuth donne donc

Ha — xiyj)—1 =

Z

$”(T)y”(s) = Z 8A($)SA(?J), A

A(T)=A(S)

iJ

ce qui est bien la formule annoncée.

El

Définissons sur l’anneau An un produit scalaire a valeurs entiéres en convenant que la famille des fonctions de Schur soit orthonormale. Ce produit s’étend a A et fait de l’involution w une isométrie. Exercice 1.4.4. — Déduire de la formule de Cauchy le résultat suivant : si a). ct b). sont des familles de fonctions symétriques, homogénes de degré A| indexées par les partitions, et telles que

[[0 — "mm—1 = ZaA($)b/\(y)» A

M

alors elles forment des bases de An, duales relativement au produit scalaire considéré. Proposition 1.4.5. — Les bases de An forme’es des produits defonctions syme’triques com— plétes h,\ d ’une part, et desfonctions syme’triques monomiales mfl d’autre part, sont duales. De’monstration. — Cela découle de l’identité

Ha — wiyj)'1= H Swim-(y) = Zmuxwy), m

i

et de l’exercice précédent.

j

A

III

Appliquons alors l’involution w, sur les variables yl, . . . ,yn, a l’identité

Z m,\(z)h,\ (y) = Z SA($)8A (3/) A

A

On obtient la variante suivante de la forrnule 1.4.3.

Secondeformule de Cauchy 1.4.6

H(1 + mm) = Z SA($)3A* (y)m Exercice 1.4.7. —

A

Soient 21, . . . , zm+n des variables auxiliaires. Si J est une partie de

cardinal n de {1, . . . , m + n}, on pose [8]

tJ(z,z) = H (2:,- — zk)/ H(Zj —— 2k). lgign my

jEJ my

Si I est aussi une telle partie, notons 2; le sous-ensemble correspondant de variables. En

remarquant que tJ (21, z) = 61,1, montrer que ces fonctions forment une base de l’espace des polynomes symétriques en :1: dont les degrés par rapport a chaque variable (1:,- n’excedent pas m. Verifier de plus qu’un tel polynome f se développe sous la forme

f0”) = Z f(ZJ)tJ($aZ)#J=n

COURS SPECIALISES 3

1.4. QUELQUES APPLICATIONS AUX FONCTIONS SYMETRIQUES

21

En appliquant cette formule d’interpolation a la fonction f = 1, apres avoir changé chaque

variable x,- en 95:1, établir l’identité

(z....z....>m11-I = 2 H (W) Harm-1i,j

#Jzn jeJ, ISiSn

kEJ, 1¢J

Grace a la premiere formule de Cauchy, en déduire que pour toute partition A de longueur au plus n + m,

5A1—m,...,Am+n—m(z)= Z 8A(ZJ) #J=n

H(Zj-zk)jeJ, k¢J

1.4.3. Le nombre de tableaux standard. — On peut également partir de la formule de Cauchy pour determiner 1e nombre KA de tableaux standard de forme A, de meme que le nombre KA (77.) de tableaux semistandard de forme A, numérotés d’entiers au plus égaux a n. D’apres le théoréme de Littlewood,

K),(n) = s,\(1, . . . , 1). W ’11.

Nous verrons au corollaire 1.4.11 que cet entier est fonction polynomiale de n. Pour 1e moment, posons dans la premiere formule de Cauchy y1 = - - - = yn = 1 /77,. On obtientl’identité xi —n __

n

K)‘ (n)

E“ _ E) _ 2,: nW 3m). Le terme de gauche converge, quand n tend vers l’infini, vers exp(e1). D’autre part, si la partition A est de taille l, le coefficient de 3;, dans e‘1 est égal, d’apres 1e corollaire 1.2.9, a K,\. II vient

—|A| K,\(n). KA/|A|.I: ”11310071 Cela ne signifie d’ailleurs jamais que la chose suivante : si n est grand, presque tous les

tableaux semistandard de forme A numérotés d’entiers au plus égaux a n, sont numérotés d’entiers distincts deux a deux.

Definition 1.4.8. — A chaque case 1:, de coordonnées (i, j), du diagramme de Ferrets de la partition A, on associe d’une part son contenu C(w) = j — i, d’autre part sa longueur d ’équerre h(m) = A.- + A; — i — j + 1 : c’est la longueur de l’équerre tracée sur A, d’angle supérieur

gauche la case 2:. On pose de plus n(A) = 21. (i — 1)A,~.

9. Equerres.

7 5 2|1|

0 1 2l3|

4 2 3 1

-1 0 -2 -1

L

i

10. Longueurs d’équerres.

11. Contenus.

SOCIETE MATHEMATIQUE DE FRANCE 1993

22

CHAPITRE 1. L'ANNEAU DES FONCTIONS SYMETRIQUES

Exercise 1.4.9. — Vérifier que les longueurs d’équeire de la i-éme ligne de A constituent la

suite des entiers compris entre 1 et M + n — 2', privée des entiers Ai —— Aj — i +j pour j > i. Déterminons maintenant ce que l’on appelle 1a specialisation principale des fonctions de Schur, qui s’obtient lorsque l’on évalue une telle fonction sur une série géométrique [65]. Proposition 1.4.10. — Soit q une inde’termine’e. Alors l”— 3A(1,q,"',q

qn 1):

1 _ qn+c(:c) (A)

H1 —hq(m)

Demonstration. — Partons de l’expression déterminantale des polynomes antisymétn'ques

(n+5. Si l’on fait wi = q"1, on obtient un determinant de Vandermonde qui mene aisément a l’expression

ai+a(1,q,. . .,q"-1> = q" A, de méme que 6, commute avec la transposition : en conséquence,

P(A‘) = Q(A) et Q(A‘) = P(A). L’ intérét de cette version de la correspondance de Knuth est qu’il rend donc évident le résultat suivant de M.-P. Schiitzenberger. Théoréme 1.5.2. — Si la correspondance de Knuth associe a la matrice A la paire (P, Q) de tableaux semistandard, alors elle associe par ailleurs a la matrice transpose’e A‘, la paire

de tableaux (Q, P). En particulier, a une matrice symétrique A est associée une paire (P, P) de tableaux identiques. D’ou, si l’on se souvient que la correspondance de Robinson pour les permutations est un cas particulier de la correspondance de Knuth, le double corollaire suivant :

Corollaire 1.5.3. —

La correspondance de Knuth se restreint en une correspondance bi-

univoque entre, d ’une part, matrices syme’triques et tableaux semistandard, et, d ’autre part,

permutations involutives et tableaux standard. Exercice 1.5.4. — En déduire, de la méme facon que l’on a déduit la formule de Cauchy de la correspondance de Knuth, l’identité

28), = HG. — (Ea—1 HO. — IL‘jEk)_1. A

COURS SPECIALISES 3

i

j et \11 de 8,. et 8m, leur produit est défini comme

1e caractere de la representation de Sm+n induite par la representation produit 11> X ‘11 du sous-groupe 8,, x 8m 8m

71.

¢ - ¢ = 111015,. ism X 1P)L’anneau R est également muni d’un produit scalaire induit par le produit hermitien sur les caracteres de chacun des groupes de permutation. Rappelons que la classe de conjugaison d’une permutation w E 8,, est déterminée par le type de sa decomposition en cycles, donc par une partition p('w) de taille n. On définit alors

l’application caractéristique ch : R ——> A 8) (C en posant, si ¢ 6 R”, — Z zp—1¢Ppp7 ¢(w)pp(w)_ TL! (311(45): ll: 1.0687.

|p|=n

oil (1),, désigne la valeur prise par (1) sur la classe de conjugaison de Sn définie par p. L’entier 2,, apparait ici en tant que cardinal du centralisateur d’un élément de la classe de conjugaison de 8,, associée a la partition p (cela, pour l’action de 8,. sur lui-mérne par conjugaison). Proposition 1.6.3. — L’application caracte’ristz'que définit un isomorphisme d ’anneaux gradués, ainsi qu’une isométrie, de l’anneau R des caractéres du groupe syme’trique, sur l’anneau A desfonctions symétriques. De’monstration. — La réciprocité de Frobenius implique que l’application caractéristique est un morphisme d’anneaux. La compatibilité avec les produits scalaires se déduit du fait que (pbpfl) = 2161,”. Enfin, si 1n est le caractere trivial de 8”, on a ch(1n) = hn consequent, l’image de l’application caractéristique contient A, et lui est donc égale puisque ch est une isométrie. El

socntré MATHEMATIQUE DE FRANCE 19911

38

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMETRIQUES

Exercice 1.6.4. — Soit ’Pk l’espace des polynomes de degré k dc n variables, a coefficients complexes. Le groupe symétrique 8,. agit naturellement sur cet espace, par permutation des variables : soit Trk 1e caractére correspondant. En remarquant que les monomes de degré k fixés par une permutation w, s’identifient aux n-uplets d’entiers de somme k, constants sur chaque cycle de w, établir l’identité formelle

Zq'“ ch(7rk) = Zzilfl - q‘“)_1 - - - (1 - 11“")‘1pu'6

M

Le membre de droite n’est autre que l’expression des fonctions symétriques completes en termes de fonctions de Newton, modulo la substitution a pm de (1 — qm)‘1pm. En déduire que

Zq" ch(7rk) = 110- (13100—1 = Z ”(1.91... -,q")si. k

i,j

A

Exercice 1.6.5. — Démontrerles identités 1 E

Z pp(w) = hn,

' wGSn

1

m

2 pp(w2) =

' 1065..

Z S)‘.

|A|=n

1.6.4. La formule des caractéres de Frobenius. — Les résultats qui précédent vont nous permettre de determiner les caracteres irréductibles de Sn. Rappelons en effet que ceux~ci forment une base orthonormale de R", et qu’une telle base d’un Z-module, quand elle existe, est unique 5 l’ordre et aux signes prés. Aux signes pres, les caracteres cherchés sont donc les

images réciproques des fonctions de Schur par l’application caractéristique, donc, d’apres la formule de Jacobi-Trudi, les

XA = dét(1A.—i+j)15i.13nFormule des caracteres de Frobenius 1.6.6. — Les caractéres irre’ductibles du groupe de permutations 8n sont les X)" ou A décrit l ’ensemble des partitions de taille n. De plus,

leurs valeurs sur les difie’rentes classes de conjugaison de Sn sont égales aux coefiicients des fonctions de Newton dans la base des fonctions de Schur : pour toute partition M de taille n,

pi = 2 x23» |M=n

Remarque 1.6.7. — Il est parfois plus commode d’exprimer ce résultat sous la forme suivante : l’entier Xi; est égal au coefficient du monome a:"+5 dans le polynome antisymétrique agpfi. Cette reformulation est une conséquence immediate du fait que le polynome a,\+,5 contient un unique monome cc“ avec oz strictement décroissant : a savoir :c"+6, avec le coef—

ficient un. Demonstration. — Pour démontrer la premiere assertion de l’énoncé ci—dessus, il suffit,

compte tenu des remarques précédentes, de vérifier que XA(1) > 0. Or l’image réciproque de pp, par l’application caractéristique, est égale a z” fois la fonction 6“, égale a un sur la classe de conjugaison associée a a, ct nulle ailleurs. Donc (sAilr) = (XAizflafl) = X27

COURS SPECIALISES 3

1.6. LES CARACTERES DU GROUPE SYME’I‘RIQUE

39

16 nombre d’éléments de cette classe de conjugaison étant précisément n! /z,‘. Cela démontre la formule des caractéres, puisqu’en particulier,

98(1) = (81,101) = K1 > 0, comme il fallait le vérifier.

D

Corollaire 1.6.8. — Le degré de la représentation irréductible de 8,; de caractére XA est égal au nombre K1 de tableaux standard de forme A, donne’ par la formule de FrameRobinson-Thrall. Exercice 1.6.9. — Etablirla table des caractéres xfi de 85 :

l /\\[1, |[1111112111l221|311|32|41| 5 J 11111 2111 221 311 32 41 5

1 4 5 6 5 4 l

-1 -2 -1 0 1 2 1

1 0 1 -2 1 0 1

1 1 -1 0 -1 1 l

-1 1 -1 0 1 -1 1

-1 0 1 0 -1 O 1

1 -1 O 1 0 -1 1

Exercice 1.6.10. — Montrer que la formule des caractéres de Frobenius s’inverse en

3A = Z Zil‘tPu|H|=n Exercice 1.6.11 . — Montrer que l’application caractéristique fait correspondre a la fonc— tion symétrique élémentaire en 1e caractere e de la representation signe de 8”, qui a chaque permutation associe sa signature. Vérifier que via l’application caractéristique, l’involution w sur les fonctions symétriques correspond a la multiplication par 5. Exercice 1.6.12. — Si d) est le caractere unité de 81, montrer que w(j), et a zéro sinon. Ces entiers déterminent la permutation w, puisque ’L)—’i=

E

mj—E

j>i

TLji.

j

S:

tr—l

T:

[hear—I

Exemple 1.8.6. — Partons du tableau T suivant, de poids 1221, charge 3 et cocharge 4. La permutation $132 1e transforrne en le tableau S, de méme cocharge.

12| 3

(14) Ce résultat est démontré dans une note de G.—N. Han, Croissance des polynémes de Kostka, C.R.A.S. 311, 269-272 (1990).

socréré MAmEMAnQUE DE FRANCE 1m

56

CHAPITRE l. L’ANNEAU DES FONCTIONS SYMETRIQUES

LAOJI—t

L’ ensemble des cyclages possibles a partir du tableau T, of] 1a cocharge diminue du haut vers le bas, est le suivant 2

2m

/

\ 2|2|3|

1 2 214]

IOOl—I

a;

00

122B

/ H

\

ZHWM

2|2|3|3l

IEEEEE 24. Cyclages.

Supposons alors que a1 > a2, et posons fl = a — 51 + 52. On obtient une injection de l’ensemble des tableaux de poids a dans celui des tableaux de poids [3 en changeant 1e 1 d’un tableau T situé le plus a droite, en un 2. Exercice 1.8.7. — Montrer que cette operation conserve la cocharge. Si M et 11 sont deux partitions telles que p. 2 u, elles sont liées par une chaine de partitions

11" telles que l’on passe de 11" a 11k“ en faisant glisser une case d’une ligne du diagramme sur 11", sur une ligne inférieure. A une permutation prés, on est donc ramené a la situation

précédente, ce qui permet d’obtenir une injection de l’ensemble des tableaux de poids 11’“ dans ceux de poids 11k“. D’ou au total, une injection de l’ensemble des tableaux de poids u dans ceux de poids V, compatible avec les structures ordonnées de ces ensembles, et qui respecte en particulier la cocharge. Exercice 1.8.8. — Montrer que cette injection ne dépend pas de la chaine de partitions choisie pour joindre p a u.

COURS snécmusés 3

1.8. COMMENT LE GROUPE SYMETRIQUE AGIT SUR LES TABLEAUX

57

L’ensemble des tableaux semistandard se decompose alors en réunion disjointe d’atomes, oil l’atome Am) associé a la partition 11 est l’ensemble des tableaux de poids 11 qui ne proviennent pas, via les injections précédentes, de tableaux de poids 1/ < p. Introduisons, pour plus de commodité les polynémes

K§,1(q)=q""‘)Kx,i(q‘1)= z 41””), A(T)=)\,

M(T)=u

qui décrivent la statistique de la cocharge plutot que de la charge. Ces polynomes se décomposent done sous la forme

K;p(¢1)=ZL,\./(q),

avec

113p.

qCO(T).

Z

LAV(q)=

TEAC’),

A(T)=/\

Exercice 1.8.9. — Etablir la table des polynomes LA” (q) en poids cinq :

| ,\\,1 M 11111

11111 q10

2111 0

2111

q7 + q8 + q9

q6

221 311

q6 + q7 + q8 q5 q5 + q6 + q7 q4 + q5

221 311 32 41 5 0 0 0 0 0 0

0

0

q4 0

0

0 q3

0 0

0 0

0 0

32

q5 + q6

q4

q3

0

q2

0

O

41

q4

q3

0

q2

0

q

0

5

0

0

0

0

0

0

1

De la decomposition en atomes, on déduit par exemple immédiatement la propriété suivante des polynomes de Kostka-Foulkes.

Proposition 1.8.10. — Si 11 Z V, alors K:#(q) 2 K;u(q) pour toute partition /\. Autrement dit,

q""’)KA# ((1—1) 2 q”(“’Kxu(q‘1)Il est possible d’obtenir des relations de comparaison plus générales de la facon suivante. A tout ensemble fini P muni d’un ordre partiel, on peut associer une fonction de Mobius up,

de fagon a ce que pour toute collection de nombres ae et ,39, e E E, les relations

ae=2m et fle=ZuP(f,e)ar 132

f36

soient équivalentes [90]. Soit par exemple l’ensemble des partitions de taille n, muni de l’ordre dominant : sa fonction de Mobius ne peut prendre pour valeurs que les entiers — 1 , 0, 1,

et l’on peut la déterminer explicitementus). (15)Voir Brylawski T. 2 The lattice of integer partitions, Discrete Math. 6, 201-219 (1973).

socrE'ré MAml‘aM/mQUE DE FRANCE I998

58

CHAPITRE 1. L’ANNEAU DES FONCTIONS SYMETRIQUES

Exercice 1.8.11. — Montrer quc si 0 S p sont deux partitions, et si [0, p] désigne l’intervalle qu’elles définissent, alors [55]

Z Mla,p1(v)K:y(q) 2 0.

USVSp

couns SPECIALISES 3

CHAPITRE 2

LES POLYNOMES DE SCHUBERT

Ce deuxiéme chapitre s’ouvre sur un apercu de l’ordre de Bruhat sur les groupes symétriques, dont nous donnerons différentes caractérisations. Nous enchainerons sur l’étude de quelques classes particulieres de permutations, dites grassmanniennes, vexillaires, ou presque

croissantes. Nous définirons ensuite les polynomes de Schubert, introduits par Lascoux ct Schiitzen— berger en termes de differences divisées. Nous ferons le lien avec l’équation de Yang-Baxter,

les algebres de Hecke des groupes symétriques et les configurations de Fomin et Kirillov. Ces demiéres fournissent en particulier un moyen agréable d’expliciter les polynomes de Schubert, et d’en obtenir simplement certaines propriétés parmi les plus intéressantes. La méthode des chemins de Gessel et Viennot nous permettra ensuite d’étudier les polynomes de Schubert associés aux différentes classses de permutations que nous aurons intro-

duites. Bien que n’étant plus des polynomes symétriques, certains se révéleront trés proches des fonctions de Schur, et admettront en particulier des descriptions en termes de tableaux. Enfin, nous nous arréterons sur les propriétés multiplicatives des polynomes de Schubert, qui sont encore mal comprises, mais sont liées de fagon subtile a la combinatoire de l’ordre de

Bruhat, et des decompositions réduites des permutations. La formule de Monk, qui explicite

le produit d’un polynome de Schubert par une indéterminée, nous permettra d’obtenir au passage une nouvelle formulation de la regle de Littlewood & Richardson, puis une méthode d’énumération des mots réduits d’une permutation.

2.1. Permutations et ordre de Bruhat Nous allons tout d’abord définir, et étudier brievement différents objets qu’il est possible d’associer a une permutation. Nous définirons ensuite l’ordre de Bruhat sur les groupes symétriques, et nous en donnerons plusieurs caractérisations.

2.1.1. Diagrammes. — La longueur d’une permutation w E 8,, est le cardinal de l’ensemble de ses inversions,

I = {1 s i mm}.

60

CHAPITRE 2. LES POLYNOMES DE SCHUBERT

C’est donc aussi 1e cardinal du diagramme, dit parfois diagramme de Rothe,

M1») = {(1.1), 1 £2315 11. w(i) >1, w‘lo’) >1}Ce diagramme s’obtient en permutant par 11)—1 les colonnes de [(112). Graphiquement, il se

contruit de la facon suivante : c’est le complémentaire des équerres de sommets (1', 112(1)), 1 5 1' g n. Ces sommets, situés aux coins NO (Nord—Ouest) des équerres correspondantes,

sont les points du graphe G (111). Notons au passage que d’apres cette description, D(w‘1) est simplement 1e transposé de D(w) par rapport a la diagonale. De plus, 1e diagramme « a la

propriété NO» : s’il contient les cases (i, j) et (k, l) avecz' < k et j > 1, il contient aussi la case (1,1). La suite des nombres de points du diagramme dans les lignes successives est le code C(11)), parfois dit code de Lehmer. La partition que 1’ on obtient en ordonnant les composantes du

code est laforme A(w) de 11;. Lafonctzon de rang rw associe a chaque point (i, j), 1e nombre

de points du graphe G(w) situés dans le rectangle {1,.. ,1'}> 0, et 21 la permutation de code (c1, . . . , ck_1, 0,. . . , 0) : il s’agit de verifier que w = w’, oil 212’ = vsck+k_1 - - - sk. Vue la faqon dont on reconstruit

une permutation a partir de son code, on doit avoir w(2’) = 22(2) = w’ (2') si 2’ < k. De plus, 211’ (k) = 22(c,c + k), et d’apres 1e code de 21, cette permutation est croissante a partir de l’indice k : donc 22(c;c +k) est 1e (0;. + 1)-iéme terme de la suite 1, . . . , n privée de 0(1), . . . , 22(k— 1), c’est-a-dire 222(1), . . . , w(k — 1). C’est donc bien w(k). Enfin, 212 et w’ sont croissantes au-dela de l’indice k; elles sont donc bien égales.

21-»— 6 5

|4|3J2|»-

43 a

:1

i f

6. Un mot réduit de m = 3741652 6 S7 : w = 32.5136358433323433363535.

On peut encore caractériser l’ordre de Bruhat en termes de clés.

Définition 2.1.10. —— Si 211 E .51. est une permutation, sa clé K (w) est le tableau semistandard de forme 6 = (n —— 1, . . . , 1,0), dont la i-eme colonne est formée des 21, — i + 1 entiers 212(1), . . . , w(n — 2' + 1), placés dans l’ordre croissant de haut en bas.

socrErE MATHEMATIQUE DE FRANCE I998

66

CHAPITRE 2. LBS POLYNOMES DE SCHUBERT

Proposition 2.1.11. —

On a t) s 11) Si et seulement si K (v) 3 K (w), an sens ou chaque

entre’e du premier de ces tableaux est majore’e par 1 ’entrée correspondante du second.

Demonstration. — Dans un sens, il suffit de vérifier que si w = 'Utij avec v(i) < v(j), alors K(v) s K(w), ce qui est élémentaire. Réciproquement, supposons v 76 w, et procédons par récurrence sur le plus petit entier k

tel que v(k) 96 111(k). Comme v(i) = w(i) pouri < k, on a 112(k) = v(j) pour un entier j > 16, et v(j) > v(l w(j),j > iet 100:) > w(l),l > k, et les deux suivantes a w(i) < w(l) et 111(k) < w(j).D’01‘1i(w‘1) = (gf1 - - . gi" ), montrer que l’ensemble essentiel

Ess(w) = {(fk,91), (fie—1,92): - . - a 01,910}Montrer de plus que les valeurs de la fonction de rang de 11) en ses points essentiels sont données par

rw(fk+1—iagi) = 91' - lk+1—i2.2.2. Permutations presque croissantes. — La classe des permutations que nous allons maintenant définir, et étudier, a été introduite dans [3].

Definition 2.2.12. —

Une permutation w sera dite presque croissante s’il n’existe pas de

triplet d’entiersi < j < k tels quew(i) > w(j) > w(k). En particulier, une permutation est presque croissante si et seulement si son inverse a la meme propriété. Proposition 2.2.13. —— Si w E 8", il y a équivalence entre :

1. w est presque croissante ;

2. son diagramme posséde la propriété SE .' s’il contient les points (i, k) et (j,l), avec

i < j et k > I, alors il contient le point (j, k) ;

socu'z‘ré MATHEMATIQUE DE FRANCE 199s

70

CHAPlTRE 2. LES POLYNOMES DE SCHUBERT

3. SiCi('LU),Cj('I.U) > Oavecz' < j, et ck(w) = Opour'i < k < j, alors

cam) — cJ-(w) < ,- — De’monstration. — Supposons que (Lie), (j, l) E D(w), avec i < j et k > I, mais que (1', k) ¢ D(w). Ceci implique quel < 100') g k oui < w‘1(k) g j, et quitte aremplacer 11) par son inverse, on peut supposer que l’on est dans le premier cas de figure. Mais alors

i < j < w_1(l) et w(i) > w(j) > I, done w n’est pas presque croissante, de sorte que la premiere assertion implique 1a seconde.

Si la seconde est vérifiée, soient i < j tels que c,(w), Cj (w) > 0, mais C], (211) = 0 pour i < k < j. Alors les lignes i et j de D(w) sont formées de cases dont les indices des colonnes forment respectivement des suites croissantes (A, B) et (B, C), avec, si (1 E A, i < ill—1(a) < 1'. Done c,('w) - c,~(w) S #A < j — 1', et la troisieme assertion est avérée. Enfin, si 11) n’est pas presque croissante, soienti < j < k tels que w(i) > w(j) > w(k), avec i maximal et j minimal pour ce choix de i. Alors, si i < l < j, w(l) < w(i) par maximalité de 1', puis w(l) < w(j) par minimalité de j. En tenant compte de celle d’indice w(j ), cela donne donc j — 2' colonnes contenant une case du diagramme en i-eme ligne et pas en j-ieme ligne. D’ou

(HUD) 2 02'0”) +j — iComme, pouri > I > m, on ne peut avoir w(i) > w(l) > w(m) par minimalité de 1', on a 01(10) = 0 pouri < l < j. On se trouve donc en contradiction avec la troisieme assertion. El

La seconde des propriétés précédentes peut s’interpréter de la fagon suivante : si l’on supprime les lignes et les colonnes du carré de coté n, qui ne rencontrent pas le diagramme de

w, et si l’on symétrise par rapport a une colonne, on obtient une partition gauche /\(w) /p(w). Plus précisément, il sera commode de plonger canoniquement cette partition gauche dans Z x Z de la facon suivante. Si 191 < - . - < k; est la suite des indices des composantes non nulles du code de 11), 1a partition gauche associée a w sera l’ensemble des cases (i, j), avec 1 g i S l, telles que i—ki—Cki v(j + 1), 1a permutation u = 'USi_13j est de longueur

l(u) =l('u) —3=l(w) — (k—i+1). Enfin, une decomposition réduite de ti donne une decomposition réduite de w, on apparait 1a tresse 8j3j_13j = 3j_13j3j_1. El

Si 11; 6 Sn est presque croissante, de longueur l, soit a = a1 - ‘ -al 6 R(w). Tous les mots réduits dc to s’obtiennent alors a partir de 0,, en faisant commuter uniquement des lettres non consécutives. On peut interpreter les commutations interdites au moyen d’un ordre total sur

un ensemble P = {p1, . . . , pl}, ordre défini par

pi 1,

hi($)hj($ + y)h,~(y) = hj(y)hi(y + 10711013) Si Ii — fl = 1. Cette demiére relation est appelée équation de Yang-Baxter. Appelons configuration une famille C' de n brins continus, coupant chaque droite verticale en un unique point, et astreints a se rencontrer deux a deux au plus une fois, toujours transversalement, en des points d’abscisses distinctes. On convient qu’une isotopic, c’est-a-dire une déformation continue, préservant ces propriétés et l’ordre des croisements des brins, ne modifie pas une configuration. Si 11) est la permutation correspondante des n brins, la configuration 0 code une decomposition réduite de 11), qui se lit de la fagon suivante. Si a1, . . . ,az sont les hauteurs des croisements successifs, lus de gauche a droite (la hauteur étant 1e nombre de brins situés au

dessous du croisement, plus un), alors 'w = st,1 - - - 3a.- C’est bien une decomposition réduite

puisque deux brins sont astreints a ne pas se croiser plus d’une fois.

11. Une configuration Associons maintenant a chaque brin une indéterminée, qu’on appellera son poids. Supposons que le i-eme croisement de 0' implique des brins de poids 56k,» et 2:,“ 1e second correspondant au brin de plus grande pente : autrement dit, le second brin passe au-dessus du premier quand on va de la gauche vers la droite. On pose alors ¢(C) = ha1($k1 _ xl1)' ' ' ham (k _ x1m)’

C’est un polynéme a coefficients dans l’algebre nilCoxeter ’H.

Lemme 2.3.6. — Les poids des brins étant fixe’s, le polynome 43(0) ne dépend que de la permutation w qui correspond a la configuration 0.

socnmé MATHEMATIQUE DE FRANCE I991;

76

CHAPITRE 2. LBS POLYNOMES DE SCHUBERT

De’monstration. —— Du fait de la connexité, attestée par la proposition 2.1.6, du graphe 9(a))

des mots réduits de 11), i1 suffit de verifier que ¢(C) est inchangé quand on fait subir a C des deformations qui correspondent aux operations élémentaires sur les decompositions réduites. Permuter deux transpositions simples d’indices non consécutifs revient a opérer la deformation suivante :

m >< I Z

t

>< y i

l

y

——>

I

I

:>< . I |

|

I

Si

a:

I

> 1. De méme, une relation de tresse entre indices consécutifs correspond a une deformation du type suivant : :1?

Z

y Z

. I I l I I

l l I I I

—->

y

I I I I I

I I I I

$8H1&

I I l I

l l I I

(I:

3H1$$H

Ici, c’est la relation de Yang-Baxter

hi(y — Z)hi+1(93 — Z)hi(m — I!) = hi+1($ - y)hi($ — Z)hi+1(y — Z) qui assure que le polynome associé n’est pas modifié.

El

0n peut étendre cette construction a des configurations dont les brins sont divisés en segments de poids distincts. Le polynome associé reste inchangé si l’on défonne une telle confi— guration comme ci—dessus, a condition de ne jamais traverser un point d’un brin qui sépare deux segments dc poids distincts.

2.3.3. Une configuration particuliére. — Fixons un entier n, et considérons la configuration CSch suivante, dont les brins, a l’exception des deux diagonales, sont formés de deux

segments de poids distincts :

COURS SPECIALISES 3

2.3. LES POLYNOMES DE SCHUBERT

yn—1

77

zn_1

'

312

$2

311

$1 12. La configuration C'sch-

Le polynome associé a cette configuration est, par definition, n—2

¢(CSch) = H

H hi+j—1($i - yj),

d=2-—n 1'.—j=d, 1+a

or) You prendra garde a l’ordre des facteurs, puisque ceux-ci ne commutent pas. Déformons CSch de la fagon suivante : on fait glisser la diagonale descendante trés loin a gauche du

diagramme, puis le brin suivant un peu moins loin, de fagon 21 ce que son premier croisement reste a droite du demier croisement du precedent : et l’on fait de meme successivement, pour tous les brins suivants. Cette deformation ne modifiant pas le polynome associé, il vient 11—1

1

¢(CSch)= H H hi+j—1(-’Di-yj)i=1 j=n—’i

The’oréme 2.3.7. — Si 1 ’on décompose dans ’H[:L', y], ¢(CSch) = Z ¢w(CSch)w: wESn

alors ¢w (CSch) n’est autre que le polynéme de Schubert double Gw(m, y). Démonstration. — C’est bien le cas si w = wo : en effet, wo est la permutation associée a la configuration Csch, donc ¢wo (C'a) =

H (B — 311') = 6we (53,?!)-

2+a

Reste a montrer que 65¢(CsCh) = ¢(CsCh)u1-, les differences divisées agissant sur la variable 9:. En effet, ceci équivaut a la relation

ai¢wsi(CSch) = ¢w(Csch)

si l(wsi) = [(10) + 1,

$0c MA'fl-lEMATlQUE DE FRANCE I998

78

CHAPITRE 2. LES POLYNOMES DE SCHUBERT

qui définit par recurrence les polynomes de Schubert. Cette relation sera consequence des lemmes suivants. Posons Hi0) = hn_1(.’L‘) - ' - hi+1($)h1(.’l§).

Alors Hi(a:) = Hi+1(:1:)h,-(x), et h- (x) commute avec HJ- (y) si j > 72+ 1. Notons également que hi(:1:) et hi(—:I:) sont inverses l’un de l’autre. Lemme 2.3.8. ~— Les identités suivantes sont vérifiées :

1~ Hi(z)H1-(y) = Hi(y)Hi(-'n), 2~ Hi($)Hi+1(Z/) - Hi(y)Hi+1($) = (w — y)Hi($)Hi+1(3/)UiDémonstration du lemme. — Le premier point se démontre par recurrence descendante sur 2'. On a successivement

Hi($)Hi(y) = Hi+1(w)hi($)Hz‘+2(y)hi+1(y)hi(y) = Hi+1($)Hi+2(1/)hi($)hi+1(y)hi(y - $)hi($) = Hi+1($)Hi+2(!/)hi+1(y - $)hi(y)hi+1(w)hi($) = Hi+1(y)Hi+2($)hi(3/)hi+1(@7143?)

= Hi(y)Hits), 01‘] Pm passe de la deuxiéme a la troisieme ligne via une equation de Yang-Baxter, puis a la ligne suivante grace in l’hypothése de recurrence. Le second point s’en déduit immédiatement. El

Lemme 2.3.9. — Som‘ vérifiées les identités suivantes :

1- hi($ — y) = H;11(93)Hi_1(y)Hi($)Hi+1($/)’

2- hn—1($ — yn—1)"'hi($ — 312') = H;_11(yn_1) ' ' ' Hf1(y,-)>< XHi(-T)Hi+1 (11¢) ' ' ‘ Hn—2(yn—1)~ De’monstration du lemme. — Le premier point est une consequence immediate du premier point du lemme précédent. Le second s’en déduit par recurrence descendante surz’ :

hn—1($ — yn—1)'”hi($ — yr) =

= H;—11(yn—1) ' ' ' Hill (yi+1)Hi+1($)Hi+2 (11:41) ' ' 'Hn—2(yn—1)hi($ — yi) = H;—11(yn—1)"'H;l—11(yi+1)Hi+1($)hi($ — yi)Hi+2(yi+1) ' "Hn—2(yn—1)

= H;_11(yn_1) "'H¢_1(yi)Hi($)Hi+1(yi) ' "Hn—2(yn—1)a 1e passage de l’avant-demiére a la derniere ligne se faisant grace in la premiere panic du lemme. El

COURS SPECIALISES 3

2.4. QUELQUES PROPRIETES DES POLYNOMES DE SCHUBERT

79

Conclusion. — En utilisant 1e second point du lemme precedent, on pent réécrire 1e polynome 11—1

1

¢(CSch) = H H hi+j—1($i — 311') i=1 jzn—i

sous la forme ¢(Csch) = 6(y)‘16(m), 011 Pm a posé

6(1‘) = H1(371)H2($2) - ' - Hn_1(a:n_1). On est donc ramené a verifier que 616(x) = G(:1:)ui. Mais c’est une consequence immediate du second point du lemme 2.3.8. CI

2.4. Quelques propriétés des polynomes de Schubert

Du formalisme que nous venons de développer, vont découler directement un certain nombre de propriétés remarquables des polynomes de Schubert. A commencer par une méthode diagrammatique commode pour les expliciter, ce que leur definition ne permet pas nécessairement.

2.4.1. Comment expliciter un polynfime de Schubert. — Considérons une nouvelle fois l’expression

¢(Csch) = fl H hi+j-1(mi -yj)i=1 j=n—i

Chacun des termes de ce produit correspond a un croisement de la configuration CSch : c’est

la somme de deux termes, dont le premier est égal a un. Si l’on développe, on peut donc coder Chacun des termes obtenu par I’ensemble des croisements pour lesquels on a retenu 1e

second facteur. Graphiquement, on peut transformer CSch en supprimant les autres croise— ments comme suit :

>
[(112), 1a difference divisée agissant sur 9:. Or ceci signifie que 6w est symétrique en .73,- et n+1. Si l’on tient compte du corollaire précédent, il vient :

Corollaire 2.4.3. — Le polynéme 610(5):, y) est symétrique en :3,- et $54.1 si et seulement si w(i) < w(i + 1), et symétrique en yj et 11,44 51' et seulement si w—1(j) < w_1(j + 1). Exercice 2.4.4. — Montrer que yiGin-(1,3,!) =$1+'~+$.i—y1 _"'_

Montrer que si 1' est la plus grande descente de 21), c’est-a-dire le plus grand entier tel que

w(r) > w(r + 1), et 3 la plus grande descente de 111*, alors 610(2), 3/) est un polynéme en $1,...,x, ety1,. . .,y_., seulement. Les polynomes de Schubert possédent par ailleurs des propriétés de stabilité remarquables.

Notons in le plongement de 8n dans 8,.“ défini par l’ajout du point fixe n + 1. Une configuration associée a la permutation in(w) s’obtient en ajoutant a une configuration associée a to un brin sur la plus haute ligne, ce brin n’en croisant aucun autre. Toutes les configurations as—

sociées a in(w) s’obtiennent par l’adjonction de ce brin, qui ne modifie pas les contributions aux polynomes associés. En consequence,

Corollaire 2.4.5. — Pour tome permutation w 6 8”, on a em = 61’1“”).

Définissons donc 80° comme l’ensemble des bijections de N* qui en fixent presque tous les points : c’est la réunion des groupes de permutation 8,, via les inclusions naturelles in : 8,. < H hj(q‘(1-qj))~ j=n—1

Le lemme s’en déduira en faisant tendre i vers l’infini. Observons tout d’abord que, les rela-

tions de Yang-Baxter étant homogenes, il suffit de démontrer 1’ identité précédente pouri = 0. On part du terme de droite l

6(q,---,q") X H hj(1 -qj) = j=n—1

= H1 («1) - --Hn—1(q"'1)hn—1(1 — q"'1)---h1(1 - q) = H2(t1)h1(q)---Hn—1(q"'2)hn_2(q“‘2) >< t—1(1)hn—2(1 — (In—2) ' ' ' h1(1 " C" est une involution de l’ensemble des familles de chemins non disjoints deux a deux, qui change le signe et conserve le poids. La proposition s’ensuit.

El

15. L’involution C —) 0*.

2.6.2. Premiere application. — On prend pour graphe un rectangle dans Z x N*, avec pour arétes les segments orientés horizontaux (i, j) —) (2' + 1, j), pondéré par 13, ou verticaux

(i, j) —) (i, j + l), pondérés par 1. Soient (ai, bi) les coordonnées de Mi, (0;, di) celles de N,- : les deux suites seront compatibles si l’on suppose que a > (n+1, b; g bi“, ci > c,-+1 et d1 5 di+1. De plus, G(C(Miw Ni» = t-ai (zbu - ~ - a$dj)-

On code alors un n-uplet C de chemins par un tableau gauche U de la facon suivante : si 0,-

contient le segment horizontal (l, h) —> (Z + 1, h), on pose UN.” = h. Ce tableau gauche est donc de forme A/p, oil A; = a,- +z' — 1 et pi = ci +z' — 1, et le fait que 0,- joigne des points

de hauteurs respectives bi et d; signifie que pour tout j, b1- 3 Uij 3 di. Enfin, le fait que les chemins de 0 soient deux a deux disjoints se traduit tres précisément par la propn'été pour U

d’étre semistandard. N3

N2

r“:'":"*"’.""'r“: I

I——

I

|

|

.

I

I l l i : Fu—"l" . I — +____'__ ___'__ mg. . I l l . I

+—

I2I

|

-—-r-—--——I-——I

I

I

l

IN1 T

4 2

4

__'

i

3

5

I

L__I___I___I__‘_.__L__I

M1 16. Chemins codés par un tableau gauche.

soCIErE MATHEMATIQUE DE FRANCE I998

92

CHAPITRE 2. LBS POLYNOMES DE SCHUBERT

Corollaire 2.6.3. — Soient A I) a des partitions, b et d deux suites faiblement croissantes de n entiers, avec n 2 l()\). Alors

dét(hA.-—pj—i+j($b,- , - - - ,xd.))1si,j5n = Z xmv), U

cette somme portant sur l’ensemble des tableaux gauches semistandard U, de forme A/p, numérotés sur la i-éme ligne d ’entiers compris entre b,- et di. En particulier; lesfonctions de Schur drapeaux se développent sous la forme , sA/fl(Xd1"--3a) = 21,447,) T

cette somme portant sur l’ensemble des tableaux gauches semistandard T, de forme A/u, dont les entrées de la i—éme ligne sont majore’es par di. Si les entiers dj sont supérieurs au nombre d’indéterminées, on retrouve les fonctions de Schur gauches ordinaires et le théoreme de Littlewood 1.4.1. 2.6.3. Deuxiéme application. — En plus des arétes de l’application précédente, on admet

des arétes diagonales (i, j) —> (i + 1, j + 1), pondérées par yj, ou les yk, k E N sont une autre famille d’indéterminées. Comme précédemment, on fait correspondre a une famille de chemins un tableau gauche de forme A/a, dont 1a i-eme ligne se déduit du chemin C,- de la fagon suivante : c’est la suite des ordonnées des origines des segments successifs horizontaux ou diagonaux du chemin, ces demiers étant repérés par un « prime ». On obtient ainsi une correspondance biunivoque entre familles de chemins disjoints deux

a deux, et tableaux gauches de forme A/a sur un alphabet 1 < 1’ < 2 < 2’ < - - - , admettant les propriétés suivantes : ils sont numérotés de faeon croissante sur les lignes et colonnes,

strictement croissante sur les lignes pour le sous-alphabet 1’ < 2’ < 3’ - - - , strictement croissante sur les colonnes pour le sous—alphabet 1 < 2 < 3- - . ; enfin, ils sont numérotés

sur la i—eme ligne par des entiers h tels que b,- S h 3 d5, ou h’ tels que b.- g h’ < di. On parlera de bitableaux gauches semistandard, et l’on notera 7'()\/,u, b., d.) l’ensemble de ces

bitableaux gauches U, auxquels sont naturellement associés deux poids ,u(U) et p’ (U).

3’ 4]

3’ 4 4’

M1 17. Chemins codés par un bitableau gauche.

COURS SPECIAusEs 3

2.6. FONCTIONS DE SCHUR DRAPEAUX

93

Definition 2.6.4. — Si X = (xi-fie; et Y = (yj)jej sont deux families finies d’indéterminées, définissons les polynomes ek(X — Y) et hk (X — Y) par les séries formelles

Ztkmx — Y): Z tkhk(Y — X) 2 Ha + my Ha — tyj). kEZ

[:62

2'61

jEJ

Les fonctions multiSchur sont alors les determinants

3A/u(X — Y) = dét(hA.-—u.-—i+j(X - Y))1$i.j$nSi l’on choisit b,- = 1, et si dj est strictement plus grand que le nombre d’indéterminées des familles X et Y, la proposition précédente se traduit par l’identité suivante : Corollaire 2.6.5. - Soient /\ D ,u des partitions, X et Y desfamilles de 77, et m variables

respectivement, avec n, m 2 l()\). Alors s,\/#(X—Y) =

Z

x#(U)yI‘I(U),

UeTm,n(z\/#)

oft Tm,“ (A/p) est 1 ’ensemble des bitableaux gauches semistandard deforme /\//J., numérotés sur1,...,net1’,...,m'. Exercise 2.6.6. —

On considére le graphe ci-dessous dans Z x N*. Les arétes verticales

sont montantes en abscisse positive ou nulle, descendantes en abscisse négative : elles sont pondérées par l’entier 1. Les arétes diagonales (-l, h + 1) —) (—l + 1, h) et horizontales (l, h) —) (l + 1, h) sont pondérés par wh.

I I H

I I

P'-

I I

l l

I I

|-——

I

I I

l l

H

IIk

__—I—__l——T——l——_i L..-

I

I I

i‘

No, .—-—.—--.——-r ————— n I I I I I I I I I I I I—-—I-— —-I I I 7 I I I I _I I I I v: —-'r--T--I I I I I I I I I I I

l l

n+1? I I. I I I. I I h I I

Pour a,fl Z 0, on considére les points N = (a, n) et Mg 2 (—,6 — 1,'n + 1). Montrer que la fonction génératrice de l’ensemble des chemins joignant ces points est G(C(M3,Na)) = 5(a|,8)(-771’ . . . ,zn). En déduire une nouvelle démonstration de la formule de Giambelli 1.2.16.

SOCIETE MA'I'I-IEMATIQUE DE FRANCE I998

94

CHAPITRE 2. LES POLYNOMES DE SCHUBERT

2.6.4. Permutations dominantes et grassmanniennes. — Apres cette longue digression, revenons aux polynomes de Schubert. Montrons tout d’abord que l’expression de Swo (x, y)

= Hi+jgn(1’i — yj) comme produit de differences de variables .1" et y, s’étend a l’ensemble des permutations dominantes. Proposition 2.6.7. — Pour toute permutation dominante w, deforme A(w), on a 6100:7111) =

H

(1131‘ _yj)'

(tale/Kw) Demonstration. — On precede par recurrence sur la taille de A(w) C 6. Soit j le plus grand entier tel que A(w)n_k = k pour 1 S k < j, et soiti = Mm); + 1. Alors 1125. est dominante, et /\(ws,-) s’obtient en ajoutant a /\(w) la case (i, j). Notons que A(w),- = /\(w)i+1. Graphiquement, le passage de w a wsi se fait de la facon suivante, ou les 0 désignent des points du graphe de w a gauche, et du graphe de 1123.» a droite :

J' 1 Z

O

l O

O

O

—>

n—l Par hypothese de recurrence, on peut alors écrire 610017)?!)

=

81161118; (11": y)

04% - w)

H

(mp - yq)]

(p,q)E/\(W) =

H

(mp _ ya),

(p1q)e/\(w) cette derniere égalité provenant du fait, puisque /\(w)i = A(w),-+1 , que le produit précédent est un scalaire pour 6i, puisque symétrique en 2:,- et 11:54.1. El Pour ce qui est des permutations grassmanniennes, on traitera d’abord 1e cas des polynémes de Schubert simples. Celui des polynomes de Schubert doubles sera un cas particulier du théoréme 2.6.9. Proposition 2.6.8. —

Si 11) est une permutation grassmannienne, et si 7' est son unique

descente, alors

610(11): s,\(w)(a:1,...,:z;,). Demonstration. — On a A(w) = (w(7') — 7', . . . ,w(1) - 1). Soit par ailleurs 1116 l’élement de 8,. de plus grande longueur. Alors, si l’on note 6' = (r — 1, . . . , 1,0), la permutation

COURS SPECIALISES 3

2.6. FONCTIONS DE SCHUR DRAPEAUX

95

mpg est dominante de forme /\(w) + 6", . De plus, l(w) = l(ww3) + l(w3), donc d’aprés la proposition précédente, 6w($) = 6111861111115 (1‘) = 6106 x)‘(w)+6r = 3A(w) (1'1, - - - 2171');

cette demiére égalité étant consequence de la proposition 2.3.2.

[I

2.6.5. Permutations vexillaires. — Nous allons montrer maintenant que les polynomes de Schubert associés aux permutations vexillaires, sont des fonctions de Schur drapeaux. Etant donnée une permutation vexillaire w, nous reprendrons les notations de la definition 2.2.9, et

de l’exercice 2.2.11, pour la forme et le drapeau de 111 et de son inverse. Notons par ailleurs X,- la famille d’indéterminées (11:1, . . . ,xi). Introduisons les polynomes sA/p(Xa1 _ Ybl , - - - aXam _ m) = dét(hAi—uj —i+j (X11; _ Yl7i»lsi,jsmi

qui généralisent les fonctions multiSchur de la section 2.6.3. Théoréme 2.6.9. — Si la permutation w est vexillaire, alors 6w(a:,y) = 3A(w)(Xf1 _ Yin-J ' ' ‘ ak _ Yyi)'

Corollaire 2.6.10. —

hp’

W

7"]

mic

Si 11) est une permutation vexillaire, de forme /\('w) et de drapeau

¢(w) = (¢1,...,¢m), ona 6.00:) = s,\(w)(X¢1,...,X¢m). Demonstration. — Reprenons les notations ci-dessus 2

/\(w)

=

(11'11 ...lk""°),

¢(w) = (1mm ,2“), ¢(w‘1) = (91“ mg?)On procédera par recurrence sur le plus grand entier j tel que le code de 11) commence par

la suite 11'” ”.121“ : on a j = k + 1 si et seulement si 11) est dominante. Notons que fi =m1 +-~+m.~pouri w(j1) >

> wjh, et i1 doit exister un indicei tel que

j,- = m. Mais alors, on peut écrire C = (thq ' ' ' tit—1q)(tji+1m ' ' ' tjhmfimqv et ceci montre que 1) = utmq, avec u e Sm_1,p_1(w). Ainsi, tous les m-soulévements

gauches de degré p de w apparaissent dans l’une (et une seule) des deux premieres sommes du membre de droite de l’identité précédente.

Réciproquement, soit v E Sm_1,p('w)\Sm,p (w). Cette fois, l’un des cycles du produit

10—11; doit s’écrire m, mais utmq ¢ Sm,p (w), considérons les cycles de w‘lv contenant m et q. Ecrivons—les respective-

ment C = tilm - - .tgrm etC’ =tj1q"'tjaq.A10rS CC, = (trim ' ' ' tir_1m)(tj1q ' ' 'tjaqtirq)tirm>

et comme l’inégalité l(utmq) = l(u) + 1 se traduit par w(js) > w(i,), ceci montre que l’on peut écrire utmq = u’tirm, avec u’ E Sm_1,p_1(w). De sorte que utmq disparait dans l’identité ci-dessus. Reste a s’assurer que ces deux types de compensations font disparaitre tous les termes de la demiére somme de cette identité : c’est bien le cas, les deux types précédents correspondant aux produits utqm pour lesquels q est un point fixe de u, on non. El Remarque 2.7.6. — Il n’est pas difficile d’établir une formule analogue pour les produits

de polynomes de Schubert par des fonctions symétriques completes hp (x1, . . . , mm), les sou16vements gauches étant remplacés par les m-soulévements droits : ceux-ci se définissent en faisant subir a la figure précédente une symétrie par rapport a la ligne horizontale d’indice m.

couns SPECIALISES 3

2.7. MULTIPLICATION DES POLYNOMES DE SCHUBERT

101

2.7.3. 'Ii‘ansitions. — Nous avons signalé dans la demonstration de la fonnule de Pieri pour les polynomes de Schubert, que la formule de Monk était équivalente a l’identité mm6u =

Z

Gutmk _

k>ma

Z

sutjnn'

j

136| 24

125| 36

i

i

23. Promotion, evacuation : T 1—-> p(T), e(T). On constate sur cet exemple que p(T) est simplement 1e tranposé du tableau T de départ : on peut démontrer que c’est un fait général. En particulier, l’opérateur de promotion est une involution, et il en est de méme de l’opérateur d’évacuation.

scum-é MATH'E'MA’I'IQUE DE FRANCE 1993

106

CHAPITRE 2. LBS POLYNOMES DE SCHUBERT

Ces operations foumissent le lien cherché entre tableaux standard et decompositions réduites de 100 de la fagon suivante : notons qk 1e numéro de la colonne de la plus grande entrée

du tableau 8k_1T. Théoréme 2.8.6. — L’application qui a T associe le mot ql ~ - - qN, est une bijection de l ’ensemble des tableaux standard deforme 6 sur 1 ’ensemble des mots réduits de we. 2.8.3. Correspondance d’Edelman & Greene. —— On a défini au paragraphe precedent une correspondance entre mots réduits de longueur maximale et tableaux, qui n’est pas sans rappeler la correspondance de Knuth. On peut en fait définir une correspondance entre mots réduits et certaines paires de tableaux, en remplagant l’anneau plaxique par un anneau dit nilplaxique et défini comme suit : c’est le Z—module des classes d’équivalence de mots sur l’alphabet des entiers naturels, modulo les relations de Knuth, a la difference prés que les relations zyz ~ yam: et yya: ~ yzy sont remplacées, pour y = .T + 1, par la relation de tresse yxy ~ myx. Le produit est défini comme dans l’anneau plaxique, par juxtaposition des mots. On peut encore de’finir un procédé d’insertion, dit de Coxeter—Knuth, correspondant a ces

relations modifiées. Ce procédé est identique a l’insertion de Knuth sinon que si l’on veut insérer a: dans une ligne oil figure déja la paire as, a: + 1, on laisse cette ligne inchangée et l’on passe a la ligne suivante avec a: + 1. Ce procédé est reversible si l’on connait la case d’arrivée. Comme pour la correspondance de Knuth, on en déduit la correspondance suivante : Correspondance d’Edelman & Greene 2.8. 7. — Le proce’de’ d’insertion de Coxeter—Knuth

induit une correspondance biunivoque m H (P* (m), (2* (m)) entre mots réduits etpaires de tableaux de méme forme, le second standard, le premier strictement croissant sur ses lignes et colonnes. Notons qu’il existe un seul tableau de forme 6, numéroté d’entiers plus petit que 11,, et qui soit strictement croissant sur ses lignes et colonnes. On obtient done a nouveau une correspondance entre decompositions réduites de we et tableaux standard de forme 6. Par ailleurs, comme dans le cas de l’équivalence plaxique, deux mots réduits m et m’ sont

equivalents au sens de Coxeter—Knuth si et seulement si P* (m) = P* (m’). Or deux mots réduits équivalents sont nécessairement des decompositions réduites d’une méme permutation : a chaque permutation w E 8,, correspond donc un certain nombre de classes d’équivalence

nilplaxique, définies par une famille 73(w) de tableaux P, et les mots de la classe de P sont en correspondance avec les tableaux standard de méme forme. On aboutit donc pour le nombre de mots réduits de w a l’expression

#R(w)= z KMP): PE'P(w)

ce qui permet de retrouver 1e corollaire 2.8.2 sous une forme un peu différente.

COURS spécmusfis 3

CHAPITRE 3

LES VARIETES DE SCHUBERT

Le chapitre géométrique de ce cours commence avec les grassmanniennes et leurs plonge— ments de Plijcker. On définit une famille de sous-variétés des grassmanniennes, indexées par des partitions : les variétés de Schubert, dont l’étude des propriétés d’intersection dévoilera une remarquable analogie formelle avec la multiplication des fonctions de Schur. Les mo-

nomes standard nous permettront ensuite de décrire l’idéal d’une variété de Schubert, et d’en étudier les singularités. Nous définirons alors les classes de Chem d’un fibré vectoriel complexe sur une varie’te’ differentiable, classes dont nous expliquerons le rapport avec les fonctions symétriques. En faisant le lien avec les classes fondamentales des variéte’s de Schubert des grassmanniennes, nous démontrerons la formule de Thom & Porteous pour les classes fondamentales des lieux de dégénérescence, ou le rang d’un morphisme entre fibrés vectoriels est majoré par un entier donné. Nous en donnerons quelques applications énumératives. Sur les variétés de drapeaux complets, il est possible de mener une étude similaire a celle que nous aurons consacrée aux grassmanniennes. Les variétés de Schubert seront cette fois indexées par des permutations, et leurs classes fondamentales représentées par des polynomes de Schubert. Nous caractériserons simplement les permutations qui définissent des variétés de Schubert non singuliéres. Le formalisme introduit sur les variéte’s de drapeaux complets nous permettra de conclure sur la demonstration d’un théoréme de Fulton, qui constitue une vaste generalisation de la formule de Thom & Porteous. Il s’agit cette fois de morphismes entre fibrés vectoriels munis respectivement de drapeaux de sous—fibres et de fibrés quotients, soumis a certaines conditions de rang. La classe fondamentale du lieu de dégénérescence correspondant est alors donnée par un polynome de Schubert en les classes de Chem des fibrés impliqués.

3.1. Les grassmanniennes 3.1.1. Les grassmanniennes comme variétés algébriques. — Notons Gm,” l’ensemble des sous-espaces linéaires de dimension m, donc de codimension n dans Cm+" : cet en—

semble est une grassmannienne complexe.

108

CHAPITRE 3. LBS VARIETE‘S DE SCHUBERT

Le groupe linéaire complexe GL(m + n, (C) agit transitivement sur Gmm, de méme que le groupe unitaire Um+n. D’ou des identifications Gmm '2 GL(m + n,C)/Pm,n 2

m+,./Um x U",

01‘: l’on a désigné par Pm," le sous-groupe de GL(m + n, (C) qui stabilise le sous-espace de Cm+" engendré par les m premiers vecteurs de sa base canoniquem. Pour m = 1, on obtient en particulier l’ensemble lP’((Cm+1) des droites de 0”“, qui est l’espace projectif complexe de dimension m, note 11”".

Si V e Gmm, donnons—nous une base 121,. . . ,1)", de cet espace. Complétons-la en une base de Cm+n par des vecteurs vm+1, . . . ,vm+n. On peut alors définir des coordonnées locales au voisinage de V comme suit. Notons VJ- l’espace engendré par vm+1, . . . , vm+m

et supposons que W E Gm," vérifie W H Vi = {0}. Alors cet espace W admet une unique base formée dc vecteurs wl , . . . ,wm de la forme 71

mi = 111' + Zxfivmfl',

1 S i S m.

i=1 Autrement dit, W est engendré par les lignes d’une unique matrice m x (m + n) de la forme 1

0

0

$11

$11:

0

1

0

$21

$212

0

0

1

xml

517nm,

Les wij forment alors un systéme de coordonnées locales dans un voisinage de V, voisinage isomorphe a 0"". De plus, pour tout point W de ce voisinage, si l’on se donne des coordonnées locales analogues au voisinage de W, les formules de changement de base sont affines, done a fortiori polynomiales. La grassmannienne Gm," est ainsi munie d’une structure de variété algébrique complexe [34]. 3.1.2. Le plongement de Pliicker. — Si W E Gmm, 1a puissance extérieure AmW est une

droite de AmCm+”, d’ou une application (p : Gm,” —) IP(/\mC"'+").

Supposons que W soit engendré par m vecteurs que l’on représente par les lignes d’une matrice m x (m + n) 2711

1‘12

$1,m+n

$21

$22

$2,m+n

:cml

{121,12

1'm,m+n

(”Les grassmanniennes, comme les variétés de drapeaux complets que l'on rencontrera un peu plus loin, sont des exemples de varie’te’s de drapeaux ge’ne’ralise’es, qui sont des variétés projectives obtenues comme quotients d’un groupe de Lie semi-simple complexe, par un sous-groupe dit parabolique [50].

couxs SPECIALIsEs 3

3.1. LES GRASSMANNXENNES

109

Alors les coordonnées homogénes de go(W) dans ]P’(/\"‘(C’"+") sont les mineurs d’ordre m de cette matrice, que l’on notera Pilu-im : dét($P)iq)]-Spuqsm’

i]- < . I D < im'

Ces mineurs sont les coordonnées de Pliicker de W. On utilisera d’ailleurs cette notation

méme si i1 , . . . , im n’est pas croissant. Proposition 3.1.1 . — L’application (p est un plongement, appelé plongement de Pllicker: Demonstration. — Il s’agit de montrer que (p est injective, ainsi que sa différentielle en chaque point. Soit donc V E Gmm. Comme nous l’avons déja fait, choisissons une base '01 , . . . , om de V, et complétons-la en une base de Cm+n par des vecteurs vm+1 , . . . , vm+m formant une base d’un espace VJ: Supposons que W e (Gm,n soit engendré par des vecteurs qui dans la base précédente ont pour coordonnées les lignes d’une matrice de la forme 1

0

0

$11

517111

0

1

0

$21

1721;

0

0

1

517ml

mmn

On obtient alors parmi ses coordonnées de Pliicker P1,...’i_1’m+j,i+1vu,m = 93,}. Ceci implique d’une part que la différentielle de (p est injective en V, d’autre part que (p elle-méme

est injective sur l’ouvert de Gm,” formé des sous-espaces dont Vl est un supplémentaire. Mais deux éléments de (Gm,n ont toujours un supplémentaire commun, donc (p est injective. El

Le plongement de Pliicker permet donc de réaliser 1a grassmannienne Gm," comme sousvariété d’un espace projectif. On va constater qu’elle en est une sous-variété algébrique, c’est— a-dire qu’elle est définie par 1’ annulation de certains polynomes, en l’occurence quadratiques, en les coordonnées de Pliicker.

Si Jmm est l’ensemble des m-uplets strictement croissants d’entiers compris entre 1 et m + n, notons C[PJ, J E Jmm] l’anneau des polynomes en les coordonnées de Pliicker.

Désignons par I(Gm,n) l'idéal formé des polynémes homogénes s’annulant identiquement sur Gmm. Exercice 3.1.2. — Montrer que I(Gmm) ne contient pas de polynome de degré un. Autre—

ment dit, la grassmannienne (Gmn n’est pas incluse dans un hyperplan de IP(/\"‘(C"‘+"). On dit qu’elle est non dégénérée. Par contre, nous allons expliciter toute une famille d’équations quadratiques, les relations de Pllicker. Relations de Pliicker 3.1.3. — Soient 2'1, . . . , im et jl, . . . , jm deux suites d ’entiers compris entre 1 et m + n, etl un entier compris entre 1 at m. Alors, identiquement sur Gmm, on a la relation

2

€(w)Pz’1...i,_1w(i.)...w(im)Pw(J-1)...w(j,)j,+1...j,,, = 0,

wES/S’XS”

socn'mi: MATHEMATIQUE DE FRANCE I998

110

CHAPITRE 3. LBS VARIETés DE SCHUBERT

011 S est le groupe des permutations des symboles it, . . . ,im, jl , . . . , j;, 8’ celui de 71,, . . . , im, et 5” celui de j1,. . . ,jl. Démonstration. — Etant donnés des vecteurs ai, bj, ck de 0", considérons la somme Z

6(w)dét(a1,...,al_1,bw(i1),...,bw(im))x

wES/S’ x8”

>< dét(bw(j1)a . . . , b100,), 614.1, . . . , cm).

C’est une forme multinéaire altemée en bi, , . - - ,bim,bj1, . . . , bj,, qui sont m + 1 vecteurs de (Cm. Elle est donc identiquement nulle, puisque Am+1Cm = 0. Les relations (16 Pliicker s’en déduisent en spécialisant sur les vecteurs colonnes de la matrice m X (m + n) dont les

mineurs d’ordre m sont les coordonnées de Plucker.

III

Exemple 3.1.4. —— En particulier, pourl = m, on obtient les relations 'rn

Pil...'ii1.ujm = Z(—]')

k—1 Bil-nim—ljk'Pimj1...j;...jm '

k=1

Exercice 3.1.5. — Sim = n = 2, on obtient une unique equation,

P121334 — P13P24 + P14P23 = 0. En déduire que le plongement de Pliicker réalise G23 comme une hypersurface quadratique

de 1P5. Théoréme 3.1.6. — Les relations de Plficker déterminent complétement la grassmannienne, et engendrent l ’idéal I(Gm,n). De’monstration. — Notons provisoirernent Jmm l’idéal engendré par les relations de Plucker. Montrons tout d’abord qu’il determine ensemblistement 1a grassmannienne, c’est-a-dire

que le lieu des zéros communs des éléments de Jmm est précisément Gmm. Considérons donc un point de ]P’(/\m 0“") dont les coordonnées homogenes vérifient les relations de Plucker, et montrons qu’il est dans l’image du plongement de Pliicker. Soit tout d’abord une coordonnée non nulle Pi, mi," — par homogénéité, on peut la supposer égale a un. Posons $pq

= Bl...ip_1qip+1...im

pour

1

S p S m)

1

S q S m +n‘

Les colonnes de cette matrice d’indices i1, . . . , im forment une matrice identité, et ses lignes engendrent donc un sous espace W de Cm+n de dimension m. Notons Qjlmjm les coordonnées de Pliicker de W. Alors

Qil...ip_1qip+1...im = Elmirlqifilnim quels que soient les indices p et q. Mais ces coordonnées, compte tenu des relations de Pliicker, déterminent toutes les autres. En effet, ceci se vérifie par recurrence décroissante sur le

nombre d’indices communs des m—uplets i1 . . .im et jl .. . jm, en utilisant les relations de l’exemple ci-dessus. Cela démontre 1a premiere partie du théoréme. De plus, dans ces conditions, Jmm ne peut étre tres différent de I(Gm,n). En effet, consi-

dérons un anneau de polynémes C[Z0, . . . , ZN], et J un idéal homogéne de cet anneau

counts SPECIALISES 3

3.2. LES VARIETES DE SCHUBERT DES GRASSMANNIENNES

lll

(homogene au sens oil i1 contient les composantes homogenes de chacun de ses éléments). Le lieu des zéros communs des polynémes éléments de J est une sous-variété algébrique X = X (J) de 11"”, ct l’on ale résultat fondamental suivant [37] : Théoréme des ze’ros de Hilbert 3.1.7. — Soit J un idéal homogéne d ’un anneau de poly-

némes C[Z0, . . . , ZN]. Soit X = X (J) C IPN l ’ensemble des ze’ms communs aux éle’ments de cet idéal, et I = I(X ) l ’ide’al des polynémes s ’armulant sur X. Alors, si X n ’est pas vide, I est l’idéal radical de J :

I=rad(J)={PEI, Elk>0, P" 6.7}. Reste donc, pour démontrer 1e théoréme, a verifier que Jmm est égal a son radical, ce qui

sera l’objet du théoréme 3.3.4. Définition 3.1.8. —

E!

Avec les notations du théoreme des zéros de Hilbert ci-dessus, on

appelle 1e quotient R[X] = C[Zo, . . . , ZN] /I l’anneau de coordonnées de la variété X.

3.2. Les variétés de Schubert des grassmanniennes Les espaces projectifs contiennent des sous-espaces linéaires, qui en sont les sous-variétés les plus simples, et sont définies par des relations d’incidence. De plus, ces sous-espaces

permettent d’en obtenir des decompositions cellulaires, et déterminent donc les groupes de cohomologie des espaces projectifs. Dans les grassmanniennes, un role similaire sera tenu par les variétés de Schubert : celles-ci sont également définies par des relations d’incidcnce, codées par certaines partitions. Mais leur géométrie, comme on 16 verra, est infiniment plus riche.

3.2.1. Cellules et variétés de Schubert. — Fixons un drapeau complet 0=V0 C"'CWC "'CVn+m=Cn+m,

qui sera notre drapeau de référence. C’est une suite strictement croissante de sous-espaces vectoriels de C"+m, on) V,- est de dimension 2'. Soit /\ est une partition incluse dans un rectangle m x n, autrement dit, une suite décroissante d’entiers n 2 /\1 2 - ~ - 2 Am 2 0. On lui associe 1a cellule de Schubert

Q; = {W E Gmm, dim(Wl’lV,-) =isin+i—)\i gj g n+i—Ai+1}, ainsi que la varie’té de Schubert X)‘ = {W E Gmm; dim(W fl Vn+i—A«;) Z ’i, 1 S i S m}. Par exemple, Xg = Gm," et Xa est le point Vm. Pour une partition dont une seule part est non nulle, on obtient une varie’té de Schubert spe’ciale Xk = {W E Gmm: W n Vn+1—k ¢ 0}.

Autre exemple : soit /\(p, q) 1a partition dont 1e diagramme est le complémentaire d’un rec— tangle p X q dans le rectangle m X n. Alors XA(p1q) = {W e Gm)”,

Vm—p C W C Vm+q} 2 GP”.

socnén‘z MATHEMATIQUE DE FRANCE I998

112

CHAPITRE 3. LES VARIETES DE SCHUBERT

Le théoréme 3.4.4 montrera que les XMM) sont les seules variétés de Schubert non singulieres. Remarque 3.2.1. —

Lorsqu’on a fixé une base v1, . . . , vm+n de 0“" adaptée au dra-

peau dc référence, c’est-a-dire telle que V.- = ('01, . . . ,vi) pour tout i, on dispose d’un point

privilégié de la cellule de Schubert Q; : a savoir l’espace WA = (”n+1—A12- - - ivn+m—Am)-

Si B est le sous—groupe de GL(m + n, (C) qui stabilise le drapeau de reference, la cellule de Schubert Q), est homogéne sous l’action‘de B, et coincide donc avec l’orbite de W" dans la

grassmannienne. Exercice 3.2.2. — On aurait pu décrire la variété de Schubert XA par les conditions d’in-

cidence dim(W fl Vn+,_j) 2 i, of: (i, j) décrit l’ensemble des cases du diagramme de A. Montrer qu’il suffit de considérer les conditions données par les coins de ce diagramme. Proposition 3.2.3. — Pour toute partition /\ C m X n, 1. la variété de Schubert XA est une sous-variéte’ algébrique de Gmm, dont Q), est un

ouvert dense inclus dans l ’ensemble des points non singuliers ;

2. 9A : Cmn-IAI; 3. X), =Q—,\= [LOX (2p; 4. XA D X,. si et seulement si A C u. Demonstration. — La dimension de W n V,- est minorée par j si et seulement si le rang

de l’application W C CW” —> Cm+"/V,- est majoré par m — j. En coordonnées locales, cela s’exprime en annulant les mineurs d’ordre m - j + 1 de la matrice représentant cette application, donc par des équations polynomiales. La variété de Schubert XA étant définie par de telles conditions d’incidence est donc bien une sous-variété algébrique de Gmm.

Si W e (Gm... la suite des dimensions des intersections W n V,- croit de 0 a m, en augmentant a chaque cran d’au plus une unite. Il existe donc exactement m sauts, que l’on peut noter sous la forme n + i - m, 011 ,u est une partition incluse dans le rectangle m x n. Ceci montre que

Gm," = H o... yEa

De plus, si la dimension de W n Vn+,-_,\_. est minorée par 12, c’est que les 1' premiers sauts en dimension ont eu lieu avant n + z‘ — At, qui est donc supérieur ou égal a n + i — pi. En consequence,

X, = H on. um Choisissons alors une base '01, . . . ,vm+n de (Cm‘H‘ telle que V,- = (111 , . . . ,vi) pour tout 2'. Si

W E (2),, cet espace admet une unique base formée de vecteurs de la forme

wi = Un+i—,\.- +

Z 15jgn+i—A,,

j¢n+k—)\k, kSi COURS SPECIALISES 3

xijvj,

3.2. LES VARIETES DE SCHUBERT DES GRASSMANNIENNES

113

pour 1 g i g m, et les paramétres xij déterminent alors un isomorphisme de 0). avec (Um—W. Plus précisément, d’ailleurs, dans le systéme dc coordonnées locales naturellement défini au voisinage de W", ceci réalise 9A comme un sous-espace de coordonnées.

Notons que les points de (A sont les espaces engendrés par les lignes d’une matrice de la forme *

*

0

0

*

a:

*

*

*

*

*

*

0

0

*

0

0

oil l’étoile la plus a droite de la i—éme ligne se trouve sur la colonne n + i — /\,-, et est non nulle — pas nécessairement égale a un. 11 est donc clair que Si is D A, alors Qll C 0—). On peut en effet faire varier continfiment les coefficients d’une matrice du type précédent pour obtenir a la limite n’importe quelle matrice du type correspondant a la partition it. Done 9; C XA C 9—)“ et comme X,\ est fermée, X,\ = fl: La proposition est démontrée. El D’aprés la proposition précédente, l’incidence des variétés de Schubert correspond simplement a l’inclusion des partitions correspondantes. De plus, les 9A ferment une decomposition cellulaire de la grassmannienne : les classes fondamentalesm de leurs adhérences X,\

forment donc une base de la cohomologie entiere de Gm,” Notons a; = [XA] la classe de Schubert associée a une partition /\ C m x n. Corollaire 3.2.4. — Pour toute partition A incluse dans le rectangle m x n, la classe de Schubert a). est e’le’ment de H2W (Gmm), et l’on a la de’composition

H*(Gm,n) = 69 Zak. ACa

Cela permet en particulier de determiner le rang des différents espaces de cohomologie de la grassmannienne. Introduisons 1e polyno‘me de Poincaré P9 (Gmm) = Z qk rang s (Gm,n)'

[:20

Corollaire 3.2.5. — suivante :

Le polynéme de Poincaré de la grassmanm'enne admet l’expression

Pq (Gmm) =

(1—q)(1-1:

1

O

0

0

*

*

0

*

*

1

O

*

*

0

*

*

0

*

0

0 *

1

0

0

(3)L’identité précédente est un cas trés particulier des fameuses conjectures d’André Weil, qui en donne d’ajlleurs l’exemple dans Numbers of soluu'ons of equations in finite fields, Bull. Amer. Math. Soc. 55, 497-508 (1949).

courts SPECIALIsés 3

3.2. LES VARIETES DE SCHUBERT DES GRASSMANNIENNES

115

le 1 de la i—ieme ligne figurant sur la colonne d’indice n + i — /\,-. De la méme facon, si

W E 9;, il admet une unique base formée des lignes d’une matrice m X (m + n) de la forme 0

0

1

0

*

*

0

*

>1:

0

>1:

*

0

1

=I
H*(Gmm), qui (‘1 la fonction de Schur 3A associe la classe de Schubert a; si A C m x 11., et ze’ro sinon,

est un morphisme d ’anneaux surjectif

COURS SPECIALISES 3

3.2. LES VARIETES DE SCHUBERT DES GRASSMANNIENNES

117

Corollaire 3.2.10. — Chaque classe de Schubert de la grassmannienne Gm," s’exprime en terme de classes de varie’tés de Schubert spe’ciales selon la formule de Giambelli, ou l’on

pose 0k = 0 lorsque k > 'n :

a; = dét(UAi—i+j)1gi,j5mCorollaire 3.2.11 . — Le produit des classes de Schubert est donne’ par 0AU0M=

E

chop,

qxn

011 les entiers CK” sont les coefi‘lcients de Littlewood & Richardson. Demonstration. —

Ces deux corollaires sont consequence du fait que les formules de

Pieri déterminent completement la structure d’anneau de Am, et de la meme fagon celle de

H*(Gm,,,)0 pM-ti, 012 pm- est le nombre de tableaux standard deforme A tels que pour exactement'i entiers j, l ’entier j + 1 se trouve dans une ligne d’indice strictemem‘ inférieur (i l ’indice de la ligne 0;? se trouve l’entier j.

Démonstration. — Considérons une partition plane P de forme A, interprétée comme une numérotation de A faiblement décroissante sur ses lignes et colonnes. On peut lui associer un tableau standard T de forrne A en numérotant les cases selon les valeurs décroissantes de leurs entrées et, pour une méme entrée, de haut en bas et de gauche a droite.

Cette correspondance n’est pas injective. Essayons donc de comprendre, étant donné un tel tableau standard T, de quelles partitions planes P de hauteur au plus k + 1 il est l’image.

Notons pour cela 01,. . . ,c1, 01‘] l : |A|, les cases de T numérotées selon les valeurs croissantes de leurs entrées. Si D(A) est le diagramme de Ferrers de A, une telle partition plane est donnée par une fonction décroissante

f:D(A) —>{1,...,k+1}, telle que si f (ci) = f (614.1), alors 0; se trouve dans une ligne d’indice plus petit que celle de cg“, ou bien a gauche dans la méme ligne : on pose alors e; = 0, et 6; = 1 dans

le cas contraire. La fonction f doit donc vérifier f (ci) 2 f (c141) + at. Autrement dit, si e,- =Ei+"'+€l—1,

1 Sf(ct) S f(Cz—1)—€z—1 S

Sf(c1) —€1 §k+1—e1.

On a done exactement (kHz—91) choix possibles pour f, on e1 = e(T) est le nombre d’entiers j dans T pour lesquels j + 1 se trouve dans un ligne d’indice strictement inférieur a celui de la ligne on se trouve j. 11 vient

k+l—e T nae) =2( l H), T cette somme portant sur les tableaux standard T de forme A. La proposition s’ensuit.

El

Exemple 3.3.7. — On a p32 (t) = 1 + 3t + t2, au vu des cinq tableaux standard suivants :

T

123]

124]

125]

134

1357

4 5

3 5

3 4

2 5

2 4

0

1

1

1

e(T)

Exercise 3.3.8. —

Montrer que dans l’énoncé de la proposition précédente, on aurait pu

remplacer ligne par colonne. En déduire que p,\ = p». Exercice 3.3.9. — Déterminer rm x" a l’aide des résultats du premier chapitre.

Exercice 3.3.10. — Montrer que pA est un polynome de degré |A| —— (1", oil (1; est le nombre de diagonales i + j = cte rencontrant 1e diagramme de A. Déterminer les coefficients des termes dc degré zéro et un. Vérifier que le polynéme p; est unimodulajre.

courts SPECIAusEs 3

3.4. SlNGULARITES DES VARIETES DE SCHUBERT

123

3.4. Singularités des variétés de Schubert Quelles variétés de Schubert sont—elles lisses, et lesquelles singulieres ? Que sont les lieux singuliers de ces dernieres ? Et comment comprendre ces singularités ? Ces questions, bien qu’ayant suscité de tres nombreux travaux, n’ont encore que des réponses tres partielles. Le cas des grassmanniennes, auquel cette section est consacrée, est certainement celui que l’on comprend 1e mieux. Nous examinerons plus loin celui des variétés de drapeaux complets, pour lequel nous n’obtiendrons d’ailleurs pas des résultats aussi précis que ceux que nous allons maintenant établir.

3.4.1. Les lieux singuliers des variétés de Schubert. — Pour determiner 1e lieu singulier d’une variété de Schubert, on dispose par exemple du critére suivant, dit « critere jacobien » [37] :

Proposition 3.4.1 . —

Soit X C (CN une variété algébrique affine d’idéal Ix. Soit a:

un point de X, et N3 l'espace de formes linéaires sur (CN engendre’ par les diflérentielles en a: des e’léments de IX. Alors la dimension de Na. est toujours inférieure ou égale a la codimension de X, et lui est égale si et seulement si :13 est un point non singulier de X. Avant d’appliquer ce critere aux variétés de Schubert, quelques remarques s’imposent. Tout d’abord, une telle variété X,\ étant stable sous l’action du groupe B qui fixe 1e drapeau de référence (remarque 3.2.1), i1 en est de méme de son lieu singulier. Celui-ci doit donc étre une réunion de variétés de Schubert :

Sing(XA) = U X,“ #650)

Ce lieu singulier étant fermé, l’ensemble S(/\) est un idéal pour l’inclusion : si une partition V lui appartient, toutes les partitions contenant 1/ lui appartiennent aussi. Bien entendu, S (A) est formé de partitions qui contiennent /\. Enfin, a nouveau parce qu’elle est homogene sous l’action de B, une cellule de Schubert Q”, avec p D A, sera comprise dans le lieu singulier de XA si et seulement si son point de référence W“ en est un point singulier. Au voisinage de W“, un sous-espace W de dimension m est engendré par les lignes d’une unique matrice (mij)19-Sm,15j5m+n telle que :ck,n+k_;\k = 1,

et

$1,n+k—z\k = 0 Si 1 75 [57.

Les 93,7 telles que 1 g i 5 m, et 1 g j S m+n distinct des n+k— A,“ 1 g k g m, forment

un systeme de coordonnées locales sur la grassmannienne, dans un voisinage U)‘ 2 C“ de W”. 0n notera eij la base canonique de ce demier espace. Rappelons que la variété de Schubert X,\ est définie par la famille de conditions d’inci—

deuce dim(W n Vn+i_;‘i) 2 i, soit encore dim(W + Vn+i_;\..) g m + n — /\,'

pour 1 S i g m.

SOCIETE MATHEMATIQUE DE FRANCE 1998

124

CHAPITRE 3. LES VARIETE‘S DE SCHUBERT

Dans l’ouvert affine U,\, une telle condition s’exprime par l’annulation des mineurs d’ordre m+n——)\,- + ldelamatrice 1

0

0

0

0

1

0

0

0

0

1

0

371,1

931,2

«731,n+i—A.-

$1,n+m

zmd

wm,2

$m,n+i—)\.~

$m,n+m

Ces conditions sont elle—mémes équivalentes a l’annulation des mineurs d’ordre m — i + 1 de la matrice formée des m demieres lignes et des m — i + Ai demieres colonnes de la précédente.

Lemme 3.4.2. — L’ensemble M (A) de ces mineurs, engendre l’idéal de la variété de Schubert XA dans l ’ouvert afine UA. De’monstration. — En effet, soit Q un polynome des variables $ij, s’annulant identique-

ment sur X,\. Les 93,-,- étant des coordonnées de Plficker particulieres, on peut considérer Q comme polynome en les coordonnées de Plficker. Comme il s’annule sur XA, 1e théoréme

3.3.4 implique que, modulo les relations de Plucker, il appartient a l’idéal engendré par les coordonnées de Pliicker PJ, telles qu’il existe un entier k pour lequel jk > n + k — M. Le mineur PJ peut alors se développer en somme de produits de mineurs pris sur les colonnes jl , . . . , jk_1 d’une part, sur les colonnes jk, . . . , jm d’autre part. Ces mineurs étant

éléments de M (A), le lemme est donc démontré.

El

Revenons done a la matrice précédente. Comme Mi 2 Ai, elle admet au plus m — i entrees égales a 1, celles-ci étant placées sur des lignes et colonnes deux a deux distinctes. Il existe donc des mineurs d’ordre m — i + 1 dont une dérivée a l’origine est non nulle, seulement si

”5+1 5 Ag. Et ces mineurs s’obtiennent en ajoutant au mineur d’ordre m - i of] sont placés ces 1, une colonne, disons d’indice 1', et une ligne, d’indice 3. La seule dérivée non nulle de

ce mineur s’obtient alors par rapport a la variable :13”. Le sous-espace du cotangent engendré par les dérivées premieres au point W" des éléments de l’idéal de XA, est donc 1e sous-espace engendré par les vecteurs en, pour lesquels il existe un entieri compris entre 1 et m, tel que Mi+1 gAz-Sui, 151—323

et

n+i—/\i 0(1) —-+ 0. Un fibré en droites L sur X admet toujours une famille finie so, . . . , sN de sections glo— bales de classe C°° qui ne s’annulent simultanément en aucun point. Ces sections permettent de définir une application

:X

—>

IPN,

:1:

I—-)

[30(x):---:sN(a:)],

ou l’on a noté entre crochets les coordonnées homogenes sur l’espace projectif.

Soit a une forme linéaire sur la droite (a:), qui soit 1a restriction de la forme linéaire (a0, . . . , (1N) sur CN+1. Alors l’élément aoso (x) +~ - ~ + aNsN (11;) de la fibre La, ne dépend que de a, ct ceci définit un isomorphisme canonique entre la fibre de (9(1) en Q(a:) et celle de L en 3:. D’ou une identification L = ¢I>*0(1). En particulier, par fonctorialité, la premiere classe de Chem de L est completement dé—

terminée par '1) : on a cl (L) = *(h). De plus, h s’identifie, via la dualité de Poincare, a la classe fondamentale de n’importe quel hyperplan. Si un tel hyperplan H est défini par la forme linéaire (a0, . . . ,aN), considérons la section globale s = aoso + ~ - - + aNsN de L. La préimage de H par s1> est le lieu des zéros Xs de la section 5. Au voisinage d’un point :1: de X3, voisinage dans lequel on suppose avoir trivialisé L, cette section 3 est définie par une simple fonction f a valeurs complexes. Et si df(:c) 75 0, l’application de X3 sur H obtenue

socttré MATHEM/mouu DE FRANCE I993

130

CHAPITRE 3. LES VARIETES DE SCHUBERT

par restriction de *[H] = [‘1’"1(H)] = [X3] dés que s(X) est transverse a la section nulle de L en tout point. Sous cette hypothese, Xs est une sous-variété lisse orientée de X, de codimension réelle e’gale a deux. Nous ne tarderons pas a revenir sur cette notion de transversalité. Plus généralement, il est possible d’associer a un fibré vectoriel complexe E de rang 6 sur

une variété differentiable compacte X, une classe de Chem totale c(E) E H* (X), de facon 51 ce que les propriétés suivantes soient vérifie’es 2

l. fonctorialite’ : si f : Y —+ X est continue, alors c(f*E) = f*c(E);

2. additivite’ : si E et F sont deux fibrés vectoriels complexes sur X, on a la formule d’addition de Whitney

c(E EB F) = c(E) U c(F); 3. normalisation : si L est un fibré en droites, alors c(L) = 1 + c1 (L). On peut décomposer la classe de Chem totale de E sous la forme

c(E) = c(E),

avec ck(E) e H2"(X).

k

La formule de Whitney s’écrit alors, puisque les classes de cohomologie de degré pair com-

mutent :

ck(E e F): 2 (2,-(E) u cj(F). i+j=k

Exemple 3.5.1 . — Supposons que le fibré E soit 1a somme directe C°° de 6 fibrés en droites L1, . . . ,Le (on dit alors qu’il est topologiquement scinde’), et notons xi = 01(Li). Alors d’apres 1a formule de Whitney, ck(E) = 616(31: - ' - axe)

est la k-ieme fonction symétrique élémentaire de ces premieres classes de Chem. L’ exemple ci-dessus implique que la théorie des classes de Chem est déterminée par le cas des fibrés en droites. En effet, en vertu du résultat suivant, que l’on établira un peu plus loin (voir la proposition 3.8.1 et la remarque qui la suit), on peut toujours «faire comme si» un fibré E vectoriel était somme directe de fibrés en droites. Autrement dit, on peut interpreter les classes de Chem ck (E) comme les fonctions symétriques élémentaires d’éléments « virtuels »

x1, . . . , are de H2 (X), ses racines de Chem. Un polynéme en :01, . . . , xe ne fait alors sens que s’il est symétrique, auquel cas on peut l’exprimer en termes de fonctions symétriques élémentaires, et l’interpréter comme une classe de cohomologie sur X associée a E et au

polynéme considéré. Principe de scindage 3.5.2. — Pour tout fibre’ vectoriel complexe E sur la variété X, il existe une application continue f : Y —) X telle que l’image re’ciproque f*E soit scindée, et

telle que l’application induite en cohomologie f* : H* (X) —) H* (Y) soit injective.

COURS SPFCIALISES 3

3.5. CLASSES CARACTERISTIQUES ET LIEUX DE DEGENERESCENCE

131

Une consequence immediate de ce principe est que ck (E) = 0 si k > 6. Plus généralement, on peut associer au fibré E et a une partition A une classe caracte’ristique s,\ (E), définie par exemple en termes de classes de Chem comme la formule de Jacobi-Trudi exprime les fonctions de Schur en termes de fonctions symétriques élémentaires :

SA(E) = dét(CA:—i+j(E))13i,jSA1Dans ce determinant, les produits sont bien évidemment donnés par le cup-produit, dont on ne fera pas toujours figurer le symbole. Si E est scindé, on obtient la fonction de Schur correspondante des premieres classes de Chem des fibrés en droites dont E est la somme —

ce qui implique que s; (E) = 0 des que l(/\) > e. 3.5.2. Morphismes de Gysin. — Il est également possible de définir directement les classes

de Chem de la faeon suivante. Considérons 1a variété Y = ]P‘(E*) des hyperplans de E, qui est un fibré sur X en espaces projectifs lP’e‘l. Cette variété est munie d’un fibre’ en droites

(93(1), dont la restriction a chaque fibre de la projection 7r : Y —> X est le fibré 0(1). Posons ( = c1(OE(1)), et notonsi : F 2 IE"“"1 L—> Y l’inclusion d’une fibre de 7r. Alors i*( = h, classe d’un hyperplan de IPe‘l. Notons que l’application induite en cohomologie 7r* : H* (X) —> H* (Y) fait de H* (Y) un H* (X )-module, et l’on peut définir un morphisme de Gysin, dc degré —-2e + 2 (appendice, A.3) :

m :H*(Y) —> H*(X). Proposition 3.5.3. — L’anneau H* (Y) est un H" (X)-m0dule libre de base 1, C, . . . , (6‘1. Autrement dit, toute classe de cohomologie 1; sur Y peut s’e’crire de maniére unique sous la forme e—l

y = 279‘!” U (i,

avec yz- E H*(X).

i=0

Le morphisme de Gysin est alors donné par m (y) = ye_1. Notons que le morphisme de Gysin 7r* vérifie m j = 0 si j < e — 1, pour de simples raisons de dimension. Par contre, 7n (“1 = 1. En effet, soient a ct fl des classes de coho-

mologie sur X, telles que a U [3 soit 1a classe d’un point. Alors 1r*(a U 5) = 7r*a U 7r*,8 est la classe d’une fibre de 7r, donc 7r*a U «*fl U (9‘1 est la classe d’un point de Y. La formule de projection implique alors que 7n (9‘1 = 1. Cette remarque entraine imme’diatement l’assertion d’unicité dans la proposition ci-dessus.

On dispose sur Y d’une application surjective 7r*E—» OE( 1), dont 1e noyau est le fibré en hyperplans tautologique H, de rang e — 1. La formule de Whitney implique l’égalité

c(7r*E) = c(H)(1 + C). L’annulation de ce (H) se traduit donc par l’identité (3 = 7r*c1(E) U (“I + - - - + (-1)e_17r*ce(E). D’ apres la proposition précédente, cette identité détermine completement les classes de Chem de E. On s’en sert parfois comme d’une definition. Remarque 3.5.4. — Donnons une interpretation légérement différente de l’énoncé qui précede. Notons pour ce faire —a:1, . . . , —$e_1 les racines de Chem du fibré H, et —a;e = C. Les racines de Chem de E sont alors —:1:1, . . . , —a:e, et tout polynéme symétrique en :51 , . . . ,xe

socnim's MATHEMATIQUE DE FRANCE 199x

132

CHAPITRE 3. LES VARIETES DE SCHUBERT

s’interprete donc comme une classe caractéristique de E, en particulier comme une classe de cohomologie sur X.

Soit maintenant P un polynome de 9:1, . . . ,xe, a coefficients dans H‘ (X), et qui soit symétrique seulement en m1, . . . ,me_1. Alors P(:z:1, . . . , x5) définit une classe de cohomologie sur Y, et l’on a l’identité 7r*(P(:1:1, . . . ,IL‘e» = (0162 ' - ’ae_1P)($1,. . .,$e).

Remarquons tout d’abord que le terme de droite est symétrique en $1, . . . ,xe, donc définit bien une classe de cohomologie sur X. De plus, les polynomes symétriques en :51, . . . , we sont des scalaires pour l’opérateur 5182 - - 66-1. D’apres la proposition précédente, i1 suffit donc de vérifier l’identité ci-dessus pour P = 1:5, avec k < 6, ce qui ne présente aucune difficulté.

3.5.3. La formule de Gauss-Bonnet. — Nous avons vu que la premiere classe de Chem d’un fibré en droites pouvait s’interpréter concretement, sous certaines conditions, comme 1a classe fondamentale du lieu des zéros d’une section globale. Nous allons obtenir maintenant des interpretations analogues pour les fibrés vectoriels de rang quelconque. Commencons par la grassmannienne (Gmm. On dispose sur cette variété d’un fibré tauto-

logique T de rang m, dont la fibre au-dessus d’un sous-espace W de Cm+n est W lui-méme. De fagon analogue, 1e fibre’ quotient Q, de rang n, a pour fibre au-dessus de W le quotient

(Cm‘l'n /W. Ce fibré quotient va jouer 1e role du fibré (9(1) pour les fibrés vectoriels de rang supérieur a un.

Proposition 3.5.5. —- La k-iéme classe de Chem ck (Q) dufibré quotient sur la grassmannienne, est égale a la classe 0k d ’une varie’te’ de Schubert spéciale de codimension k.

Demonstration. — D’apres le théoréme de dualité 3.2.7, il s’agit de vérifier que pour toute

partition /\ C m X n de taille |Al = mn - k, on a ck(Q) U 0')‘ ={

1

si).=).(1,k),

0

sinon,

oil l’on se souvient que A(1, )9) désigne le complémentaire d’un rectangle 1 x k dans le rectangle m x n.

Notons tout d’abord que si W = mn— k mais /\ 76 M1, k), on a nécessairement l’inégalité Am 2 n — k + 1. Par consequent, si W E X,\, alors dim(W fl Vm+k_1) 2 m, autrement dit W C Vm+k_1. La variété de Schubert X,\ est donc incluse dans la grassmannienne

G = Gm,k_1 des sous-espaces de dimension m de Vm+k_1. Sur G, on a une suite exacte de fibrés vectoriels

0 —) Vm+k_1/W —) C"+’”/W —> C"+m/Vm+k_1 —> 0. La restriction QG du fibré quotient a (G est donc extension d’un fibre trivial, par un fibré de

rang k — 1. Done ck (Q6) = O d’aprés 1a formule d’addition de Whitney. Si j est l’inclusion de G dans Gm)", la formule de projection (appendice, A.3) donne

ck(Q) U 0A = j*(j*(ck(Q) U [XA])) = 0, couns SPECIALIsEs 3

3.5. CLASSES CARACTERISTIQUES ET LIEUX DE DEGENERESCENCE

133

puisquej*(ck (Q)) = Ck ((23) = 0. Par contre, X)‘(1,k) = {W E Gmma

Vm—l C W C Vm+k}

s’identifie a l’espace projectif IP’ : 1P(Vm+k/Vm_1), de dimension k. Notons i leur isomorphisme nature]. Sur cet espace 11’ est défini le fibre en droites tautologique O(—1), et un fibré quotient Q11». De plus, on a une suite exacte

0 —) 0(—1) = W/Vm_1 —+ Vm+k/Vm_1 —> Q1» —> 0En consequence, 1a classe de Chem totale de Qp est C(l) = (1 — h)‘1. Et comme 1a restriction de Q a XA(1.k) n’est autre que i*Q]p, il vient

Ck(Q) U (mug) = i*(0k(Q1P)) = 1 La proposition est donc démontrée.

El

Avant de tirer les consequences de cet énoncé, nous aurons besoin d’introduire quelques definitions, relatives aux problemes de transversalité. Nous avons déja fait usage de la definition suivante : Définition 3.5.6. ——

Deux sous—espaces U et V d’un espace W sont dits transverses si

codim (U n V) = codim U + codim V. Définition 3.5.7. — On dit qu’une application f : X —) Y de classe C°° est transverse a une sous-variété lisse Z de Y, si pour tout w E f ‘1 (Z), les espaces df(T$X) et TfmZ sont transverses dans Tf($)Y.

Soit maintenant F un fibré vectoriel complexe de rang f sur X. On parlera dans la suite de sections 3 de F transverses a la section nulle au sens precedent. Pour une famille de sections 5 = (31, . . . , Sf) de sections globales de classe C°° de F, la notion de transversalité est un peu plus delicate. Considérons les lieux de de’ge’ne’reseence, pour 0 _ 0. Sous cette condition sur les degrés, les mineurs de la matrice P sont des polynémes homogénes. Four 'I' < min(e, f), la condition rangP g r définit donc

socnéré MATHEMATIQUE DE FRANCE 199s

138

CHAPITRE 3. LES VARIETES DE SCHUBERT

une sous—variété Dr(P) de l’espace projectif 1P”. Cette sous—variété s’interpréte comme le lieu de dégénérescence Dr (’P), 01‘: ’P est le morphisme induit de fibrés vectoriels sur 1P" :

’P:(’)(—a1)63---€B 0(—ae) —> (9(b1) 63 - - - 69 0(bf). Pour une matrice générique P de polynémes, le lieu de dégénérescence Dr(P) est donc de

codimension (e — 7') (f — r), d’ailleurs irréductible, et la formule de Thom & Porteous donne

deg D, (P) = dét 11W-1 x

x PNn-l-l.

Exercice 3.6.1. — Soient A et B deux espaces vectoriels complexes : montrer que l’application

lP’(A) x IP(B) —> IP(A 8) B), qui a des droites engendrées par des vecteurs a E A et b E B, associe la droite engendrée par (1 8) b E A (X) B, est un plongement— c’est le plongement de Segre.

L’exercice précédent montre que la variété 1F" peut étre plongée dans l’espace projectif

1P”1”’N"-1‘1, dont elle est une sous-variété algébrique. 3.6.2. Les variétés de Schubert d’une variété de drapeaux. — Fixons a nouveau un drapeau de référence V. de sous-espaces de C", et une base e1, . . . ,en dont les i premiers éléments engendrent Vi. On notera VJ 1e drapeau dual, tel que Vj’ soit engendré par les 3' demiers éléments de la base précédente. A une permutation w 6 Sn, nous avons associé au paragraphe 2.1.1 du chapitre deuxiéme, une fonction de rang rw, donnée par

rw(p,q) = #{i S p, 10(1) S «1}On définit alors 1a cellule de Schubert 9w = {W0 E 1F”: dim(WP 0 V9) = rw(piq)a 1 .< - - - x 100,11,” produit des permutations de longueur maximale des différents groupes symétriques 8m, . . . ,t. On peut ainsi déduire, par exemple, la cohomologie des grassmanniennes de celle des drapeaux complets : pour la projection correspondante, le morphisme de Gysin donne les variétés de Schubert de la grassmannienne comme image des variétés de Schubert de la variété de drapeaux associées aux permutations grassmanniennes — alors qu’il s’annule sur les variétés de Schubert des permutations non grassmanniennes. Le quotient ’Pn /IAn est isomorphe, d’aprés la proposition 2.5.3 du chapitre deuxieme, au sous—module ’Hn de 73n engendré par les polynomes de Schubert associés aux permutations de Sn, ou encore par les monomes z“ avec a C 6.

Corollaire 3.6.17. — Les monb‘mes x“, avec a C 6 c’est-a-dire aj g n —— j, en les classes de Chem xi = ~01 (Li), forment une base de H*(a). Ayant identifié l’anneau de cohomologie H * (IF‘n), a un anneau dans lequel « vivent » naturellement les polynomes de Schubert, on voudrait évidemment savoir comment ils se comparent aux classes fondamentales des variétés de Schubert. The’oréme 3.6.18. — Pour toute permutation 'w E S", l’image du polynéme de Schubert 6w dans H* (IFn) 2' ’Pn /IAn 2 H”, coincide avec la classe de Schubert aw.

COURS svécmusés 3

3.6. LES VARIETES DE DRAPEAUX

149

Demonstration. — Il suffit de démontrer que pour toute permutation 'w E 8,. et tout entier

i < n, on a 6-(0 )_ 1

w _

awsi

si 111(1) >w(i+1),

0

sinon.

Notons lFf1 la variété formée des paires de drapeaux (W., W1) pour lesquels Wj = W]! si j 76 1'. Les deux projections naturelles de. 1F; sur a sont des fibrations en droites projectives :

plus pre’cisément, on a l’identification 1F:1 = IP’(W1~+1 /W1-_1). Notons alors 6:- le morphisme composé

6,-2: warn) 31) H*(1F;) ‘2‘» H*(]Fn). Le théoréme annoncé sera consequence des deux lemmes qui suivent.

El

Lemme 3.6.19. —— Soitu E Sn. Si u('i) < u(i + 1), alors l’image de p;1(Xu) par p1 est incluse dans Xu. Par contre, si u(i) > u(i + 1), et si l’on note A la diagonale de F11, alors p1 re’alise un isomorphisme de p;1(Qu)\A sur Quin. En consequence,

si u(i) > u(’i + 1),

611(011) _ { (In,9i 0

sinon.

Demonstration du lemme. — Soit W.’ un drapeau, et w’l, . . . ,w; une base adaptée. Un element de p1 (p;1(W,')) est un drapeau W., dont tous les membres coincident avec ceux de W.’ , sauf éventuellement en dimension i. Un tel drapeau admet donc une base adaptée wl , . . . , wn,

avec wj = 10;. Si j yé i,z' + 1, et 10,-, tut-+1 combinaisons linéaires de w§,w§+1. Plus précisément, si W. 7E W1, on peut prendre wi = w;+1 + aiwg, et wi+1 = mg.

Supposons alors que W,’ E flu. Si u(i) < u(i + 1), une verification élémentaire montre qu’un drapeau de la forme précédente vérifie les conditions d’incidence qui définissent Xu.

Par contre, si u(i) < u(i + 1), choisissons des coordonnées locales en W.’ sur Fm qui permettent de représenter un drapeau par une matrice inversible d’ordre n, comme on l’a fait

dans la section précédente. On passe de W.’ a W. E p1(p2_1(W.’) — A) en modifiant les lignes z“ eti + 1 de la facon suivante :

i i+ 1

u(i) 1

0

0

*

0

u(z' + 1) 0

*

1

0

i u(z')

u(i + 1)

i

*

*

*

1

75+ 1

1

0

0

0

0

On obtient ainsi trés précisément 1a description des matrices qui représentent les drapeaux de la cellule ouverte on“. III Lemme 3.6.20. — Pour touti < n, on a 6,- : 61- comme ope’rateurs sur ’Hn.

SOCIETE MATHEMATIQUE DE FRANCE 199x

150

CHAPITRE 3. LES VARIETES DE SCHUBERT

De’monstration du lemme. — Rappelons que ses projections sur IF“ identifient IF;l a la variété des droites du fibré de rang deux Wi+1/W-_1. Si l’on introduit la variété (G; des drapeaux complets a l’exception du terme de dimension 2', on dispose d’un diagramme commutatif

11“; IF?!

V Y R ./ G2

G”

Comme la proposition 3.6.15 leur fait jouer un role symétrique, on peut permuter les variables dans l’énoncé du corollaire 3.6.17 : si l’on choisit pour les deux demieres 9:,- et $54.1, il

s’ensuit que tout élément de H* (a) peut s’écrire P +$iQ, on P et Q sont des polynémes oil n’apparaissent ni x,- ni 33,-4.1. Ceci implique que l’on peut écrire P = q*P’ et Q = q* Q’, 01‘1 P’ et Q’ sont des classes de cohomologie de (Gil, et la commutativité du diagramme ci-dessus assure que p§P = p’fP et 12362 = p. Considérons alors l’image réciproque p; (P + $10). Relativement a la projection p1, p39),-

est l’opposé de la premiere classe de Chem du fibré en droites tautologique. On connait donc l’action du morphisme de Gysin — que l’on a explicitée a la suite de la proposition 3.5.3. En l’occurence,

P1*P3(P + GHQ) = Q = (91(13 + 1&0)Le lemme, et le théoréme du méme coup, sont donc démontrés.

El

Remarque 3.6.21 . — Considérons les plongements naturels in : E, H*(Fn+1)

ml

ii;

’Hn ———> H*(Fn)

On peut alors montrer que pour une permutation w E 800 dont la plus grande descente est

égale a k, 16 polynome de Schubert 6w est l’unique polynéme P“, 6 7% dont l’image dans ’Hn coincide, pour tout entier n suffisamment grand, avec la classe de Schubert aw e H* (a)

— ou pour n assez grand, on considére w comme élément de 8”. Les polynomes de Schubert simples peuvent donc étre caractérisés comme les seuls polynomes qui, pour tout n assez

COURS SPECIALISES 3

3.7. SINGULARI’I‘ES DES VARIETES DE SCHUBERT, REPRISE

151

grand, donnent la classe de cohomologie des variétés de Schubert correspondantes dans les variétés de drapeaux ]Fn. Remarque 3.6.22. — L’ anneau de cohomologie H * OF") 2 ’Hn, est naturellement muni d’une action du groupe symétrique 8n, agissant dans ’H" par permutation des variables. Nous avons vu au corollaire 2.5.8 que cette representation est isomorphe a la representation régu— liere de 8”. En particulier, son caractére admet l’expression

X(H*(Fn)) = Z KAXA~ |A|=n

De plus, cette action respecte la graduation naturelle de H* (a) par le degré. On peut alors montrer que les caracteres de l’action de 5n sur chacune des composantes de cet anneau gradué sont donnés par l’identité

Z q(H2’°(Fn)) = Z Kx,1n(q)x*, k

|A|=n

on KA’ln (q) est un polynome de Kostka—Foulkes. Il est méme possible d’obtenir tous les polynomes de Kostka-Foulkes par une variante de cette construction : au lieu de considérer toute la variété de drapeaux, on considére seulement ceux qui sont fixés par un endomorphisme unipotent (c’est-a-dire dont toutes les valeurs propres sont égales a un) donné. La decomposition de Jordan montre que les classes de conjugaison de ces endomorphismes, sous l’action du groupe linéaire, sont en correspondance avec les partitions de taille n. Si l’on fixe une telle partition u, l’anneau de cohomologie de la variété de drapeaux correspondante 1F“ admet encore une action du groupe symétrique, et son caractere gradué est donné par les polynomes de Kostka-Foulkes [27] :

Z q(H2'°(1Fu)) = Z Km(q)x*k

|A|=n

3.7. Singularités des variétés de Schubert, reprise Nous allons maintenant, comme nous l’avons fait dans le cas des grassmanniennes, ca-

ractériser les permutations auxquelles correspondent des variétés de Schubert non singuliéres dans les variétés de drapeaux complets, et nous tenterons de décrire les lieux singuliers de celles qui ne 1e sont pas. Mais dans un premier temps, nous allons commencer par donner une construction simple de désingularisations des variétés de Schubert. 3.7.1. Désingularisations des variétés de Schubert. — Une construction simple de désingularisations des variétés de Schubert découle directement du lemme 3.6.19. Introduisons en effet la variété

rib-w"! = {W} 6 IF", Wj = M" si k #13, 1 g j g l}. Notons p0, . . . , p; les 1 + 1 projections de cette variété sur 1F“. On dispose de diagrammes commutatifs

SOCIETE MATHEMATIQUE DE FRANCE 199x

152

CHAPITRE 3. LBS VARIETES DE SCHUBERT

11,12 \ t‘

51—bit



,

,

I

\

~

,

1’

/

Proposition 3.7.1. — Soit u 6 Sn une permutation, et supposons que

l(us,-1-~-s,-,) =l(u)+l. Alors la projection p; définit un morphisme birationnel de la variété p31(Xu) sur la variété de Schubert XW‘.1 ”.351. De’monstration. — Pour l = 1, cc n’est rien d’autre que le lemme 3.6.19. La recurrence sur

1 est alors immediate, puisque chacun des carrés commutatifs du diagramme ci-dessus est un diagramme cartésien de fibrations en droites projectives. Pourl = 2 par exemple, sachant que l’image inverse de X“ dans Ff} s’envoie birationnellement sur X11,“1 , cela implique en effet

que l’image inverse de Xu sur Ff} "2 s’envoie aussi birationnellement sur l’image inverse de Xuail dans F23. Et cette demiére variété s’envoie eIle-méme birationnellement sur la variété de Schubert Xu sgl .952 - III Si la variété de Schubert Xu est lisse, alors p31(Xu) l’est aussi, étant obtenue a partir de Xu par une suite de fibrations en droites projectives. En particulier, si u est la permutation identité, alors Xu est réduite au drapeau de référence V., donc lisse. Posons maintenant

Zi1,...,i, = p31(V.), c’est—é—dire

Zi1,...,i, = {W} e Mir-w“, W3 = Vk, 1 g k g n}. Corollaire 3.7.2. — Si sil ~ - '81-, est une decomposition re’duite de la permutation w, alors la demiere projection pl : Zi1,...,‘il H Xw

de’finit urie de’singularisation de la varie’te’ de Schubert Xw. Cette construction est un cas particulier de celle des schémas de Bott—Samelson [36, 10, 25]. Signalons que contrairement au cas des grassmanniennes, on ne sait pas construire de petites resolutions des variétés de Schubert dans les variétés de drapeaux complets.

COURS sm‘acmusés 3

3.7. SINGULARITES DES VARIETES DE SCHUBERT, REPRISE

153

3.7.2. Lieux singuliers des variétés de Schubert. — Comme nous l’avons fait dans le cas des grassmanniennes, nous allons maintenant determiner les van'étés de Schubert singulieres dans les van'étés de drapeaux complets, et tenter de décrire leur lieu singulier. La démarche sera 1a méme : traduire en termes combinatoires le critére jacobien de lissité 3.4.1. Une variété de Schubert Xw étant stable sous l’action du groupe B qui fixe le drapeau de référence, il en est de méme de son lieu singulier, qui doit donc étre une réunion de van'étés de Schubert :

Sing(Xw) =

U

Xv.

1165(10)

Ce lieu singulier étant fermé, l’ensemble S(w) est un idéal pour l’ordre de Bruhat : si une permutation v lui appartient, toutes les permutations u telles que u s v lui appartiennent

aussi. Bien entendu, S'(w) est formé de permutations u telles que 1) s w. Enfin, étant homogene sous l’action de B, une cellule de Schubert 0v, avec v 5 w, sera comprise dans le lieu singulier de Xw si et seulement si son point de référence W.” en est un point singulier, Au voisinage de W”, pour chaque drapeau W., i1 existe une unique matrice ($ij)1£i,jsn

dont les h premieres lignes engendrent Wh pour tout h compris entre 1 et n, et telle que

95mm = 1,

et mm = 0 siz' > u-1(j).

Les indéterminées 11:13, pour 1 g i S n ,et j 5£ 11(1), . . . ,v(i), forment alors un systeme de coordonnées locales au voisinage de Wf’. Nous noterons eij la base correspondantc de l’espace cotangent de la variété de drapeaux au point considéré, et nous poserons fij = emu) pour'i < 3'.

La variété de Schubert Xu, est définie par la famille de conditions d’incidence dim(WP n W) Z T100], q),

soit encore

dim(Wp + Va) S p + q — mama), pour 1 S p,q S n. Une telle condition s’exprime par l’annulation des mineurs d’ordre

p+ q — rw(P,q) + I dela matn'ce 1

0

0

0

0

1

0

0

0

0

1

0

131,1

131,2

931,q

931,11

311,1 “’92 $1M: ‘ ' ' “inn Nous admettrons que, comme dans le cas des grassmanniennes, ces mineurs engendrent l’idéal dc X10“). Leur annulation équivaut a celle des mineurs d’ordre p — rm (p, q) + 1 de la matrice formée des p demiéres lignes et des n — q demiéres colonnes de la précédente. Or cette matrice admet exactement p — 7-,, (p, q) coordonnées égales a un, qui sont placées sur des lignes et colonnes deux a deux distinctes. (8) Volt par exemple Lakshmibai V., Seshadri C.S., Geometry of G/ P, V, J. of Algebra 100, 462-557 (1986).

SOCKETS MATHEMATIQUE DE FRANCE I998

154

CHAPITRE 3. LES VARIETES DE SCHUBERT

Mais v S w par hypothése, donc r1, 2 rw d’apres la proposition 2.1.12 du chapitre deux.

Il existe donc des mineurs d’ordre p — rw (p, q) + 1 dont une dérivée est non nulle a l’origine seulement si ru, (p, q) = n, (p, q). De plus, ces mineurs s’obtiennent en ajoutant au mineur d’ordre p— rw (p, q) or) sont placés ces 1, une colonne, disons d’indice 2', et une ligne, d’indice j. Et 1a seule dérivée non nulle de ce mineur s’obtiendra par rapport a la variable mij , qui doit vérifier les conditions suivantes :

1'31), j > q, 12(2) S q, 11—10) >19Le sous-espace du cotangent de la variété de drapeaux, engendré par les dérivées premiéres au point W.” des éléments de l’idéal de Xw, est donc engendré par les vecteurs fij, tels qu’il

existe des entiers p, q, aveci g p < j et 11(1) 5 q < 'u(j), pour lesquels r“, (p, q) = 13(1), q). Mais si 1e couple (p, q) vérifie ces inégalités, on a mi.j (p, q) = 1-,, (p, q) + 1, alors que rm,- (p, q) = rv (p, q) sinon. La condition précédente équivaut donc précisément a la relation rw 2 rut“. . Nous avons donc établi 1e résultat suivant(9) : Proposition 3.7.3. — La varie’té de Schubert Xw est singuliére sur sa sous-variété Xv, out I) S w, si et seulement si

l(w) < m(w,v) := #{i < j, Utij 5 w}. En particulier, découle de ce résultat un critere de lissité pour les variétés de Schubert. En effet, le lieu singulier de Xw étant fermé, il est vide si et seulement si i1 ne contient pas le drapeau de référence, qui correspond a v = id. Donc Xw est lisse si et seulement si

Kw) = m(w) == #{i w(l) pourl < 1'(j). Et ceci implique que la transposition tam est dominée par w, mais pas par 1;. En effet, le rectangle REM contient un unique point du graphe de 111, qui en sort lorsque l’on passe a 11. On dira qu’une telle transposition est de type R+ pour 11). En particulier, l’existence de ces transpositions implique

que

"100) - m(v) 2 f - 1 = l(w) - l(v), ce qui permet par recurrence de retrouver l’inégalité a priori m(w) 2 l(w). Bien entendu, on peut raisonner de méme avec 111—1 : si g = w(1), il est possible d’écrire w = 31 ---sg_1u, avec 11 de longueurl(u) = l(w) — g + 1, et 11(1) = 1. On constate encore que m(w) — m(u) 2 l (w) - l (11), en raisonnant comme ci-dessus, a symétrie diagonale pres. Démontrons maintenant 1e théoréme par recurrence. Supposons tout d’abord qu’il existe un quadruplet d’entiers 1' < j < k < l pour lequel w fasse apparaitre une configuration de type ((1) cu (b). Dans le premier cas, on a

mm) = m(wtjk) Z l(wtjk) > 1(w), puisque pwt,1: = pw. La variété de Schubert Xw est donc singuliere. Dans le second cas, quitte a effectuer un certain nombre de fois les réductions précédentes, on peut supposer que

1’ = w(k) = 1. De plus, supposons par exemple que 112(1) 2 w‘1(1) = k. Alors tn est dominée par w mais pas par 1) (sauf si w(k — 1) = 2 : auquel cas on peut remplacer k par 1:: — 1 et réitérer le raisonnement). Comme elle n’est pas de type R+, ceci implique que

m(w) — m(1)) > l(w) — l(1)), donc que m(w) > [(111) et X", est encore singuliére. Réciproquement, supposons Xm singuliere et effectuons les reductions précédentes : écri-

vons w = v31 . . . 3f_1 et 11) = .91 . . . sg_1u. Notre raisonnement par recurrence nous perrnet de supposer que Xv et X“ sont toutes les deux lisses, donc que m(1)) = l(12) et m(u) = [(11). Posons f = w‘1(1), g = w(1), et supposons par exemple que f S g. I] existe alors une transposition t],f qui n’est pas de type R+ pour w, ainsi qu’une transposition tlg qui n’est pas de type RJr pour w‘l. Graphiquement, cela correspond aux configurations suivantes dans le graphe de 11) :

scam MATHEMATIQUE DE FRANCE 19911

156

CHAPITRE 3. LES VARIE‘TES DE SCHUBERT

x

P

\

\

I

\

x

Q

\

\

\

q X

\

X x

P X

q \

x\

Z \ \

\

\x

x

\

\

\

\

\\

\ \

X

\

\

\

\

\

\

Supposons que les points du graphe qui apparaissent dans ces diagrammes, soient distincts deux a deux. En superposant les deux figures, on obtient alors une configuration de type (b). Dans le cas contraire, les deux points situés en haut a droite des deux diagrammes, sont

confondus, mais pas les deux autres. Examinons alors w(p— 1). Par hypothése, il est supérieur

a q’. S’il est supérieur a q, on obtient une configuration de type (b) : on peut donc supposer que q’ < w(p — 1) < q. Mais alors, comme nécessairement Ill—1(2) < p — 1, le point (10‘1 (2), 2) fait apparaitre une configuration de type (a). q \\

x

\

\

Z \

\

P X

x

x X \ \

z

\ x

\ \

Le théoréme est donc démontré.

D

3.8. Lieux de dégénérescence et polynomes de Schubert Nous allons a présent considérer les variétés de Schubert non plus d’un simple espace vectoriel complexe, mais d’un fibré. Plus généralement, nous allons étudier des lieux de dégénérescence de morphismes entre fibrés vectoriels munis de drapeaux. Et nous généraliserons la formule de Thom & Porteous en montrant que, sauf pathologie, la classe fondamentale d’un tel lieu est donnée par un certain polynéme de Schubert : ce sera le théoréme de Fulton. 3.8.1. Cohomologie des variétés de drapeaux relatives. —- Soit E un fibré vectoriel complexe de rang 6 sur une variété differentiable compacte X. On note ]F(E) 1a variéte’ de drapeaux relative de ce fibré, et 7r sa projection naturelle sur X : c’est une fibration en variétés de drapeaux ordinaires lFe, la fibre au-dessus d’un point a: e X étant la variété des drapeaux complets de la fibre correspondante de E,

O=W0CW1C---CW6=E¢.

counts SPECIALISFS 3

3.8. LIEUX DE DEGENERESCENCE ET POLYNOMES DE SCHUBERT

157

Comme dans le cas des variétés de drapeaux ordinaires — qui correspond au cas of) X est un point, on peut considérer chaque Wi comme définissant un fibré tautologique Wi sur IF(E).

Notons 1',- = c1(W,-/W-_1). La proposition 3.6.15 s’étend de la fagon suivante : Proposition 3.8.1 . — En tant que H* (X)-module, 1 ’anneau de cohomologie H* (]F(E)) est le quotient de H* (X) [2:1, . . . , we] par les relations €k($1,---,-’17e)=0k(-E),

131936

De plus, le morphisme de Gysin 7r* est alors identifie’ au symétriseur de Jacobi 3%, si l’on note we 2 we,e la permutation de longueur maximale de 8e : pour tout polynéme P de

11:1,.. .,:1:e, [1 coefiicients dans H* (X), on a 7r*(P(a:1,...,ze)) = (awoP)(a:1,...,xe). Demonstration. — La variété ]F(E) se construit par une suite de fibrations en droites projectives : on procédera done par recurrence a partir de la proposition 3.6.15. Plus précisément, notons également We_1 le fibré en hyperplans tautologique sur 1P(E*). Alors la variété

]F(We_1) des drapeaux complets de We_1 s’identifie naturellement $1 IF(E), et l’on a un diagramme commutatif

]F(E) —7’—> X

\ ti MWH) —°‘—+ P(E*) La description de la cohomologie de ]F(E) s’ensuit aussitot. De plus, par la proposition 3.6.15 et l’hypothese de recurrence, 7“ = [6141* = a1 ' ' 'ae—lawo.e_1 =

06 qu’il fallait démontrer.

we,“

El

Remarque 3.8.2. — L’ énoncé précédent implique immédiatement 1e principe de scindage

3.5.2. En effet, l’image réciproque en cohomologie 1r* :H*(X) ——) H*(1F(E)) est injective, et1r*E est muni d’un drapeau complet de sous-fibres 0=WoC---CW8=1T*E. En particulier, on a des suites exactes 0 —-> Wi_1 ——> W.- —-) 5,- —> 0. Or une telle suite est toujours scindée au sens differentiable (par exemple, on peut munir W,- d’une métrique her— mitienne, et considérer l’orthogonal M,- de W-_1 dans Wi : alors Wi = Wi_1 69 Mi, et le fibré en droites Mi est isomorphe £1 Li). Par recurrence, on en déduit que 7r*E est bien

scindé. Exercice 3.8.3. — Soit A une partition de longueur au plus 6. La proposition précédente implique la formule

”*(xH‘s) = SHE), socrtrE MATHEM/mQUE DE FRANCE I998

158

CHAPITRE 3. LES VARIETES DE SCHUBERT

on 6 = (e — 1,. . . , 1,0) est la suite strictement décroissante minimale de longueur e. Soit

alors Gm," (E) 1a variété des sous—espaces de dimension m, et codimension 77., de E. Soit p sa projection sur X, et T et Q ses fibres vectoriels tautologique et quotient. En remarquant

que

]F(E) = ]F(T) Xo,,.,,.(E) IF(Q), ensemble des paires de drapeaux de T at Q qui ont méme projection sur Gm," (E), vérifier que le morphisme de Gysin p... est donné par les formules p*(sa(Q)sfi(T)) = 57(E):

on 'y = (a1 — m, . . . ,an — m, ,81, . . . ,fim)[73] — si 7 n’est pas une partition, on utilise les regles habituelles de redressement des fonctions de Schur. Exercice 3.8.4. — Etendre 1a proposition précédente aux variétés de drapeaux partiels.

3.8.2. Lieux de dégénérescence relatifs. — Supposons E muni d’un drapeau complet E' de fibrés quotients

E = Ee—»Ee‘1—»m—»E0 = 0. A chaque permutation w 6 8.3, on peut alors associer 1e lieu de dégénérescence

Xw(E') = {W. E ]F(E), rang(Wp -> Eq) S mama). 1 S at; S 6}. Si l’on note Vn_p le noyau de la projection E—>-> EP, ces différentes conditions sont equivalentes aux inégalités

dim(aV.,) 2 p-rw(p,n-q) = #{iSp, w(i) Zn—q+1} = Twowmq). Ceci implique que Xw (E') est une sous-variété de codimension l (w) de ]F(E), dont l’intersection avec chaque fibre de la projection 7r : ]F(E) —> X est la variété de Schubert X{D définie par le drapeau V. dc E. Exemple 3.8.5. — Revenons a la variété de drapeaux complets 1F", dont on fixe un drapeau de référence V.. Cela revient a se donner un drapeau complet trivial de fibrés quotient

V = Vn—»Vn/V1—)-> - - -—»Vn/Vn_1—»0. De plus, on dispose sur 1Fn d’un drapeau de fibrés tautologique W., et Xw (W.) est la variété

de Schubert Xwow. Le théoréme qui va suivre est donc une generalisation du théoréme 3.6.18. Théoréme 3.8.6. ——

Le dual de Poincare’ de la classe fondamentale de Xw(E'), est le

polynb‘me de Schubert double [Xw(E.)]

=

6w(_-'l71a- - - 2 _me; “yla - ' ' 7 _y€))

=

6w—1(y1,...,ye;:1:1,...,xe)

en les classes de Chem 9:; = c1(W.-/W-_1) et 31,- = c1(ker(Ej—>-> Ej—l».

COURS SPECIALisEs 3

3.8. LIEUX DE DEGENERESCENCE ET POLYNOMES DE SCHUBERT

159

De’monstration. — Les lemmes 3.6.19 et 3.6.20 s’e’tendent sans changement au cas relatif et permettent de procéder par recurrence. 11 suffit donc de traiter 1e cas de la permutation de longueur maximale we. Le lieu de dégénérescence correspondant est défini par l’annulation simultanée des morphismes induits Wp —+ Ee‘P, 1 g p g e — 1. Cependant, ces morphismes ne sont pas indépendants : la composition de la fleche WI, —> E“? avec

jp : Ee_P—» Eli—1"1 peut aussi s’obtenir en composant l’inclusion ip : Wp —> Wp+1 avec

la flt‘ache Wp+1 —) Ee‘P—l. On est donc amené a introduire 1e fibré (2—1

2—2

IC = 1mg]; Hom(W,,, EH) —> 69 Hom(W,,,Ee""1)), p=1

p=1

noyau du morphisme défini comme suit : a une famille d’applications up : Wp —) Eefl’, oil 1 g p g e — 1, on associe les applications

vp=jpoup—up+1oip,

lspge—2.

Ce morphisme est surjectif, de sorte que 1C est de rang e(e — 1)/2, et X“,o (E') est le lieu des zéros de la section de IC induite par l’identité de E. La formule de Gauss-Bonnet 3.5.10 donne donc

[Xwo(E°)] = C(;) (K) = H (112‘ - 933‘), i+jSe

comme un petit calcul, a l’aide du principe de scindage, permet de le verifier. Le théoréme est donc établi pour wo, donc pour toute permutation. El

3.8.3. Un théoréme de Fulton. — Plus généralement, supposons que le fibre E soit seulement muni d’un drapeau partiel de fibrés quotients

E=Eh—»-~-—»E°=0, ou Ei est de rang e5. Considérons alors 1a variété lFm. (E) des drapeaux partiels de E de la forme 0=W0CW1 C"'CWk=f*E,

dont les dimensions des membres sont les éléments d’une suite strictement croissante d’en-

tiers m. = (0 = mo < X.

< mk = e). On a noté ici f la projection de Fm. (E) sur

On voudrait alors imposer des conditions de rang

rang(Wp -> PE") 5 r(p,q) pour 1 S p S k et 1 S q S h, pour une fonction r donnée, et étudier les lieux de dégénérescence correspondants. Cependant, il peut arriver, selon 1e choix de la fonction r, que de telles conditions soient insuffisam-

ment précises, ou bien redondantes, voire contradictoires. Supposons par exemple que l’on ait affaire a des drapeaux complets de méme longueur. On a vu que dans ce cas, seules les fonctions qui sont des fonctions de rang de permutations peuvent étre effectivement réalisées (exercice 3.6.2). Un lieu de dégénérescence défini par une fonction de rang r qui n’est pas de ce type, se décomposera donc, dans la situation générique, en composantes irréductibles définies par de «bonnes» conditions de rang. Plus précisément, on obtiendra une compo— sante irréductible pour chaque élément maximal de l’ensemble des permutations w telles que rm 3 r. Ces considerations motivent la definition suivante :

socué‘ni: MATHéMAnQUE DE FRANCE 1998

160

CHAPITRE 3. LES VARIETES DE SCHUBERT

De’finition 3.8.7. — On dira qu’une fonction 1' : {1, . . . , h} x {1, . . . , k} —) N est admissible s’il existe une permutation w E 800 dont tous les points essentiels sont de la forme (mp, eq), et telle que r(p, q) = rw(mp, eq) pour tout couple p, q. Notons que dans ces conditions, la permutation 11) est nécessairement croissante sur chaque intervalle ]mp_1 , mp], de méme que

w—1 est croissante sur les intervalles ]eq_1, 64]. On considére alors sur lFm. (E) 1e lieu de dégénérescence X,. (E'), constitué des drapeaux W. E lFm. (E) vérifiant les conditions de rang

rang(Wp -> FE”) S r(p,q) pour 1 5123 ket 1 S q S hSoit 1rm. : IF(E) —) lFm. (E) la projection naturelle. Sous les conditions précédentes, l’image réciproque de X,(E') par «m. coincide avec le lieu de dégénérescence Xw (E'),

et la projection de celle-ci sur celle-la est une fibration en produits de variétés de drapeaux complets. Il vient

7r1‘;1.[Xr(E')] = [Xw(E')] = 6w(w,y), polynome de Schubert double donné par la proposition précédente.

Comme w (resp. w‘l) est croissante sur chaque intervalle ]mp_1,mp] (resp. ]eq_1, eq]), 1e polynome 6w est, d’aprés le corollaire 2.4.3 du chapitre deux, symétrique sur ces intervalles pour la variable :1: (resp. 3;). Si l’on considere zmp_1+1, . . ”m comme les racines de Chem du quotient WP / W -1, et de meme yeq_1+1, . . . , yeq comme celles du noyau ker(Eq—)-> E9_1), il est donc possible d’exprimer 6w(a:, y) sous la forme d’un polynome Pine. ,q. (C(Wi‘n. W.), C(Wrn. E.» en les classes de Chem de ces fibrés. Et comme mm, qui est une fibration en variétés de drapeaux complets, induit d’apres la proposition 3.8.1 une injection en cohomologie, il vient

[Xr(E')] = Pr,e.,q.(C(W.),C(E')), polynome de Schubert associé a la permutation w, en les opposes des racines de Chem des

quotients Wp/Wp_1 et des noyaux ker(Eq—>-> Eq‘l). Considérons finalement la situation suivante. Soit 45 : F —) G un morphisme entre fibrés vectoriels de rangs f et 9 sur X. Supposons F muni d’un drapeau de sous-fibrés F., dont 1e i—eme membre B est de rang fi pour 1 S i S h. Supposons de méme G muni d’un drapeau de fibrés quotients G', dont le j -ieme membre Gj est de rang gj pour 1 g j S k. Soit par ailleurs

7' : {1,...,f} >< {1,...,g} -) N une fonction admissible, associée a une permutation 11), et X, (F., G", (fa) 1e lieu de dégéné—

rescence correspondant. Notons H = F EB G. Le drapeau quotient G' de G donne un drapeau quotient H’ de H grace a la projection [12 2 H—>-> G .De meme, 1e drapeau F. de F donne un drapeau H. de sous—fibres de H grace a l’injection id x ¢ : F —> H. Ce drapeau définit une application

U=X —>]Ff.,f+g(H) de X dans une variété de drapeaux partiels de H, et le lieu de dégénérescence Xr (F. , G' , (15) est l’image réciproque par u de X, (H '). Si l’on suppose le morphisme 43 générique, la restriction de u a X, (F., G‘, (,5) sera génériquement une submersion. La classe fondamentale

counts SPECIALIsEs 3

3.8. LIEUX DE DEGENERESCENCE ET POLYNOMES DE SCHUBERT

161

de X, (F., G', 45) sera donc l’image réciproque de celle de Xr (H'). On en déduit immediatement l’expression de cette classe fondamentale comme un polynome de Schubert en les racines de Chem des fibrés impliqués : c’est le théoréme de Fulton ci-dessous [21]. Dans cet énoncé, on s’est débarassé des signes apparaissant dans le théoréme 3.8.6, en

changeant to en w‘l, et en faisant appel au corollaire 2.4.2 du deuxiéme chapitre. The’oréme 3.8.8. — Soit ¢ : F —-> G un morphisme générique entre fibrés vectoriels complexes F et G de rangs f et 9, mum's respectivement d ’un drapeau de sous-fibres F.=(0cF1C---t=F), de rangs f1, . . . , fh, et d’un drapeau defibrés quotients de rangs gk, . . . , gl,

6" = (G = Gk—>-> ~~-—)-)Gl—>->0), Soit r : {1, . . . , h} x {1, . . . , k} —) N une fonction admissible, associée a une permutation w‘1 6 80°. Alors, le dual de Poincare’ de la classe fondamentale du lieu de dége’nérescence correspondant est

[Xr(F.,G°,¢)l = 5.0061, - - - ,xg;y1, - - - M) = Pr,g.,f.(C(G'),C(F.)), polynome de Schubert associé a la permutation 11), en les racines de Chem $91.4“, . . . ,xgj

desfibre’s noyaux ker(Gj—>-) Gj_1), et yfi_1+1, . . . ,yf‘. desfibrés quotients Fi/F-_1. Exemple 3.8.9. — Supposons que h = k, et que l’on considére des conditions de rang données par une permutation vexillaire 11). Si l’on reprend les notations de la definition 2.2.9 et de l’exercice 2.2.11 pour la forme et le drapeau dc 10 et de son inverse, ces conditions de rang se ramenent, d’apres ce méme exercice, aux suivantes :

rang(Fk+1—i —> Gt) S 91’ - lk+1—i

pour 1 _Fh£)Gk—k>H-—)Gj

on définit des lieux de dégénérescence qui, sous des conditions de transversalité convenables, sont représentés en homologie par certains polynémes en les classes caractéristiques des fibrés considérés. Ces polynémes, dont les polynémes de Schubert sont un cas particulier, ont été introduits par Fulton [23] et sont appelés polynémes de Schubert universels.

COURS SPECIALlsEs 3

APPENDICE

UNE BREVE INTRODUCTION A L’HOMOLOGIE SINGULIERE

On résume assez briévement, dans cet appendice, les propriétés fondamentales de l’homologie singuliere, et quelques particularités topologiques des variétés algébriques qui sont utilisées dans ce cours. Les références générales sur ce theme ne manquent pas, on pourra consulter par exemple [31, 42, 85] pour plus de details.

A.l. Homologie singuliére La théorie de l’homologie singuliere permet d’associer a un espace topologique X une

famille de groupes commutatifs Hg (X, Z) = H, (X), 01‘1 q E N. Rappelons brievement lb démarche : notons eo l’origine de R4, 61, . . . , eq sa base canonique, et A9 = (eo, . . . , eq) l’enveloppe convexe de ces q + 1 points. Un q-simplexe singulier d’un espace topologique X est alors une application continue u : Ag —) X. On note S, (X) le groupe de leurs combinaisons linéaires formelles, a coefficients entiers : c’est le groupe des q-chaines.

On introduit alors un opérateur bord sur S, (X), noté 89, en étendant par linéarité la définition suivante : 9

(MN) = Z(-1)‘u(‘), i=0

oil la i-emeface u“) de u est le (q —- 1)-simplexe singulier défini par la composition u“) :Aq_1 = (Co,...,6q_1) age (60,...,€i,...,6q) C Ag 1) X, la premiere de ces fleches étant la restriction de l’unique application affine dc Rq‘l dans

Rq qui envoie 1e q—uplet (eo, . . . , eq_1) sur (e0, . . . , é}, . . . ,eq). Un calcul facile permet de vérifier que 8 o 0 = 0, ce qui justifie la definition suivante : Definition A.1.1. — Le q—ieme groupe d’homologie singuliere de X est le quotient du groupe des cycles par celui des bards :

Hq(X) = keraq/im8q+1.

164

UNE BREVE INTRODUCTION A L’HOMOLOGIE SINGULIE‘RE

Plus généralement, si A est une partie de X et 5,, (A) le groupe des q-chaines a valeurs dans A, l’opérateur bord envoie Sq(A) dans Sq_1(A), donc induit un opérateur que l’on notera de la méme facon

8,, = Sq(X)/Sq(A) —> Sq—1(X)/S —1(A)Definition A.1.2. — Le q-iéme groupe d’homologie relative de (X, A) est le quotient

Hq(X, A) = ker aq/ im 5.14.1. Ces constructions sont fonctorielles : si f : X —) Y est une application continue, et si

f (A) C B, on obtient par composition des applications de 3,, (X) dans 3,, (Y) et de Sq (A) dans S, (B). Ces applications commutent avec l’opérateur bord, d’ou une application induite d’image directe en homologie

f* : Hq(X, A) —) Hq(Y,B).

En particulier, les inclusions i : (A, z) —) (X, E) et 1' : (X, E) —) (X, A) induisent des fleches

'

.

Hq(A) is H, (X) ’4 Hq(X,A). Les propriétés fondamentales de l’homologie sont les six énoncés suivants, appelés axiomes d ’Eilenberg-Steenrod. Ils caractérisent completement l’homologie singuliére des espaces topologiques dits triangulables :

I. si X est un point, alors H0(X) = Z et Hq(X) = 0 pour q > 0, 2. si f est l’application identité d’un espace topologique X, alors f* est également l’identité,

3. si f : X —> Y etg : Y —> Z sont continues, alors (g o f)* = 9* o f,“ 4. si f et 9 : X —) Y sont deux applications continues homotopes, alors f* = 9*,

5. pour toute paire (X, A), on A est une partie d’un espace X, on dispose d’une suite exacte longue

... —> Hq(A) is Hq(X) is Hq(X, A) 9) Hq_1(A) —» m, 6. enfin, si U est une panic de A dont l’adhérence est incluse dans l’intérieur de A, alors

U peut étre excise’, autrement dit l’application Hq(X — U,A — U) —> Hq(X,A) induite par l’inclusion est un isomorphisme. Ces énoncés appellent quelques remarques : — En degré zéro, l’axiome 1 se généralise de la facon suivante : pour tout espace topologique X, on a

H0 (X) = 20, on C est l’ensemble des composantes connexes par arcs de X. En particulier, c’est un groupe de type fini dés que X est une variété compacte : on peut montrer que sous cette hypothese, i1 en est de méme des autres groupes d’homologie.

couas svficmusés a

A.2. COHOMOLOGIE SINGULIERE

165

— Les axiomes 2 et 3 expriment le fait que pour chaque entier q E N, la correspondance X M Hq(X) définit un foncteur covariant de la catégorie des espaces topologiques dans celle des groupes commutatifs. — Une consequence immediate dc l’axiome 4 est qu’un espace topologique X contractile (autrement dit, dont l’application identité est homotope a une application constante) a méme homologie singuliere qu’un point :

H0(X)=Z, Hq(X)=O si q>0. — Dans 5, une suite exacte longue est une suite de morphismes

fi—l

' —)Ei_1 —> Ei fl) Ei+1 —)

tels que ker fi = im fi_1. L’opérateur 6 : Hq(X, A) —) Hq_1(A) est défini de la facon suivante : si 0 E H,, (X, A), soit 0 un représentant de 0 dans Sq (X); alors 690 E S _1 (A) est un cycle, et sa classe dans Hq_1 (A) ne dépend que de c : c’est ac. Exercice A.1.3. — Soit U un voisinage convexe de l’origine dans R", et soit q > 1. Montrer que

Hq(R",R" - {0}) = Hq(U,U - {0}) = Hq—1(U - {0}) = Hq—1(S —1), oil Sn_1 est la sphere unite de R". Le premier de ces isomorphismes s’obtient en excisant

1R” — 7, 1e second en utilisant une suite exacte longue et le fait que U est contractile, 1e troisieme par un argument d’homotopie. En décomposant S,| en deux hemispheres, qui sont contractiles et d’intersection Sn_1, montrer que H _1(S' -1) = H, (Sn). En déduire que

Ho(.5'n) = HAS") 2 Z,

Hq(S'n) = 0

si q 75 0,n,

Hn(IR",]R" — {0}) = Z, Hq(a,R" — {0}) = 0 si q 75 n. A.2. Cohomologie singuliére Le groupe des q-cochaines singuliéres d’un espace X est défini comme le groupe dual

5" (X) = Homz (SAX), Z). On définit l’opérateur cobord 6g : 59(X) —> Sq+1(X) comme le transposé de l’opérateur bord 6q+1. Definition A.2.1. — Le q—ieme groupe de cohomologie singuliére est le quotient des cocycles par les cobords :

H"(X) = ker6q/im6q_1. Plus généralement, si A est une partie de X, on note Sq (X, A) le groupe des éléments de 5" (X) qui s’annulent sur S, (A), et l’on définit de méme le groupe de cohomologie relative H‘1 (X, A).

socué‘né MATHEMATIQUE DE FRANCE 1993

UNE BREVE INTRODUCTION A L’HOMOLOGIE SINGULIERE

166

Si f : X —) Y est une application continue telle que f (A) C B, l’application induite en cohomologie est cette fois un morphisme d’image réciproque

f* :Hq(Y, B) —> Hq(X, A). Les axiomes d’Eilenberg-Steenrod pour la cohomologie singuliére sont les énoncés suivants : l. si X estun point, alors H°(X) = Z et H9(X) = Opourq > 0; 2. si f est l’application identité d’un espace topologique X, alors f* est également l’iden-

tité; si f : X —) Yetg : Y —) Z sontcontinues,alors (go f)* = f* 09*;

4. si f et 9 : X —> Y sont deux applications continues homotopes, alors f* = g* ; pour toute paire (X, A), 01) A est une partie d’un espace X, on dispose d’une suite exacte longue

—>H"(X,A) —> H"(X) —>H"(A) is» Hq+1(X,A) —> . enfin, si U est une partie de A dont l’adhérence est incluse dans l’intérieur de A, alors

U peut étre excisé, autrement dit l’application

Hq(X,A) —+ H"(X — U,A — U) induite par l’inclusion est un isomorphisme. Comme pour l’homologie, l’axiome 1 s’étend en degré zero a un espace topologique quel-

conque de la facon suivante : H0(X) est le groupe des fonctions localement constantes sur X, a valeurs dans Z.

Les énoncés 2 et 3 expriment 1e fait que pour chaque entier q E N, la correspondance

X «a H4(X) définit un foncteur contravariant de la catégorie des espaces topologiques dans celle des groupes commutatifs.

Notons également que la dualité 8" (X) x Sq(X) —) Z passe au quotient pour donner un produit de Kronecker Hq(X) x H,, (X) —> Z. On peut montrer que ce produit est non dégénéré : en particulier, H9(X ) et H, (X) ont méme rang. L’ avantage essentiel de la cohomologie sur l’homologie est qu’il est possible dc définir sur la somme directe

mm=®mm 420

une structure d’anneau gradué : i1 existe une operation bilinéaire

u : HP(X) ® H"(X) —> HP+9(X), appelée cup-produit. Plus encore, la somme directe

mm=®mm> 1120

peut alors étre munie d’une structure de H * (X )-modu1e gradué : i1 existe une opération

fl 5 Hp(X) ‘8 Hq(X) —) Hq—p(X)a appelée cap-produit et compatible avec le cup-produit.

COURS SPECIALIsEs 3

A.3. CLASSE FONDAMENTALE ET DUALITE DE POINCARE

167

A3. Classe fondamentale et dualité de Poincaré Soit X une variété differentiable connexe, de dimension n. On peut alors montrer que

Hq(X) = 0 si q > n, tandis que Z

si X est compacte et orientable,

0

sinon.

De plus, lorsque X est orientable et compacte, choisir une orientation revient a choisir un

générateur de Hn (X). En consequence, une variété differentiable de dimension n, compacte, connexe et orientée, est munie d’une classe fondamentale, notée [X], telle que

Hn(X) = Z[X] L’ operation de cap-produit avec la classe fondamentale définit un morphisme

o n [X] : H"(X) —> Hn_q(X). Le théoréme de dualité de Poincare’ affirme que ce morphisme est un isomorphisme. Donnons deux applications :

l. Morphismes de Gysin. Si f : Y —+ X est une application continue entre variétés différentiables compactes, connexes et orientées, Y étant de dimension m et X de dimen-

sion n, on définit un morphisme f* d’image directe en cohomologie par la composition

n : Him 2 Hm_q(Y) A Hm_,(X) 2 mam—um. On dispose alors d’uneformule de projection

f*(f*a U fl) = a U f*(fl)2. Classe fondamentale d ’une sous-variété. Si Y est une sous-variété differentiable con-.

nexe fermée et orientée, de dimension m dans X, on note encore [Y] l’image de sa classe fondamentale par la composée Hm(Y) —> Hm(X) 2 H”'"‘(X); la difference n — m est la codimension de Y dans X. Ces classes fondamentales se comportent assez bien relativement a l’image directe et l’image réciproque : si l’ap— plication f : Z —) X est lisse (au sens ou sa différentielle est de rang constant : c’est

donc une submersion sur son image), alors f*[Y] = [f '1 (Y)] ; si 9 : X —) Z envoie Y sur une sous-variété de Z de dimension strictement infe’rieure a m, alors g* [Y] = 0,

mais si 9 se restreint en un revétement de degré d sur son image, alors g* [Y] = d[g(Y)]. Il est possible d’étendre la notion de classe fondamentale it des parties fermées pas trop singulieres d’une variété differentiable compacte. Une des méthodes possibles pour cela, consiste a utiliser l’homologie de Borel-Moore, définie pour les espaces localement com— pacts de la fagon suivante : si X est homéomorphe a une partie fermée d’un espace affine R",

on pose

mm) = H"“1(R",R" — X). socxéré MATHEMAnQUE DE FRANCE I998

168

UNE BREVE INTRODUCTION A L’HOMOLOGIE SINGULIERE

On peut montrer que ceci ne dépend pas du choix du plongement de X dans un espace affine, et que l’on peut remplacer l’espace affine par n’importe quelle variéte’ differentiable orientée dans laquelle X peut se plonger. Si X est lui-méme une variété differentiable orientée connexe, de dimension n, on a done

F, (X) = H"“1(X). En particulier, si X est également compact, son homologie de Borel-Moore est égale a son homologie singuliére. Cependant, méme si X n’est pas compacte, l’identité in (X) = H0 (X)

implique qu’elle admet une classe fondamentale [X] e F" (X), correspondant a la fonction constante égale a un dans H0(X ) ([5], cu [22], Appendix B). Autre avantage de l’homologie de Borel-Moore : si X se plonge dans une variété orientée M de dimension m, et si U est un ouvert de X , i1 s’identifie a un fermé de N = M — (X —U), d’ou des morphismes

FAX) = Hm‘q(M,M - X) -> Hm‘q(N,N — U) = HAU), dits morphismes de localisation. On dispose alors de suites exactes longues

4H,,(X — U) -> FAX) —> FAU) —> Fq_1(X — U)~Par contre, l’image directe pour l’homologie de Borel-Moore n’est définie que si l’on se

restreint aux applications propres (l’image réciproque d’un compact est compacte). Considérons maintenant une variété algébrique complexe compacte X, de dimension com-

plexe n. Sa structure complexe lui confére une orientation naturelle, et elle admet donc une

classe fondamentale [X] E H2n(X). Une sous-variété algébrique de X en est une partie fermée Y localement défine par des equations algébriques. Elle admet une structure de variété complexe en dehors de ses points singuliers, qui forment une sous-variété algébrique Sing(Y) C Y, de codimension complexe au moins un, donc de codimension réelle au moins deux. Supposons de plus Y irréductible, au

sens oil Y—Sing(Y) est une variété lisse connexe, disons de dimension m. Une recurrence sur m et les suites exactes longues ci-dessus permettent de montrer que 3,, (Y) = 0 si q > 2m. En appliquant cela a Sing(Y), et grace aux memes suites exactes longues, on en déduit que

H2m(Y) 2 F2m(Y - Sing(Y)) : Z, ce qui permet d’associer a Y une classe fondamentale [Y], image de celle de Y — Sing(Y) par l’isomorphisme ci-dessus. On note de la méme fagon son image dans H“‘2'" (X )(1). Sous certaines conditions, les classes fondamentales des sous-variéte’s algébriques d’une

variété complexe X engendrent son anneau de cohomologie. C’est par exemple 1e cas si X admet une décomposition cellulaire dont les adhérences des cellules sont des sous—variétés algébriques. On appelle decomposition cellulaire d’une variété complexe X une partition finie X : Hie, Yi, 01‘1 les cellules Y,- sont isomorphes a des espaces affines (Cm , et vérifient

(”On peut également invoquer des arguments plus classiques pour justifier l'existence d’une classe fondamentale d’une sous-variété algébrique irréductible. Par exemple, 1a possibilité de la trianguler de facon compatible avec ses singularités. Ou encore, le fait que I’ensemble singulier soit de codimension réelle au moins deux permet d’inté— grer les formes différentielles comme sur une sous-variété lisse, et l’on invoque alors les theorémes de De Rham

COURS SPECIAusEs 3

A.4. INTERSECTION DE sous-VARIETEs ALGEBRIQUES

les conditions de bord

169

7,- — K- = fl Yj, jEJ.’

avec n,- < n,- si j E Ji. Dans cette situation, les adhérences 7,- admettent des classes fonda-

mentales [71-] E H2°i (X), of: c,- = n — m, et l’on a

H2q(X)= a 2m],

H2q+1(X)=0.

Ci:

Exemple A.3.1. —- Soit 1P" l’espace projectif complexe des droites de 0“” : c’est une variété algébrique complexe, compacte et de dimension n. Donnons-nous alors un drapeau complet

0=VoC---CV,-c---cVn+1 = 0 telles que

mwm=ZWML iEI

soctE‘rE MATHEMATIQUE DE FRANCE I998

170

UNE BREVE INTRODUCTION A L’HOMOLOGIE SINGULIERE

Les morphismes de localisation en homologie de Borel-Moore, par exemple, pennettcnt dc vérifier que ces multiplicités d’intersection ne dépendent que de l’intersection locale de Y et Y’ en Zi. Exemple A.4.1. — Reprenons l’exemple de l’espace projectif complexe P", et notons h 1e générateur de H201”) défini comme la classe fondamentale d’un hyperplan H : on appellera cette classe la classe hyperplane. Comme le groupe connexe PGL(n + 1, (C) agit transitivement sur les hyperplans, cette classe ne dépend pas de l’hyperplan choisi. En consequence, si

l’on considére q hyperplans H1, . . . , Hq transverses, c’est—a-dire en l’occurence dont l’intersection est un sous-espace linéaire L de codimension q, i1 vient

h‘1 = [H1]U---U[Hq] = [H1 n-na] = [L].

Comme [L] est un générateur de H2‘1(1P’“), on en déduit un isomorphisme d’anneaux gradués

map“) 2 Z[h]/h"+1. Autrement dit, l’anneau de cohomologie de l’espace projectif complexe s’identifie a l’anneau des polynémes d’une variable a coefficients entiers, tronqués a l’ordre n + 1.

Soit alors X une sous—variété algébrique de P", de codimension c. On définit son degré

par l’identité [X] = deg(X)h°. L’égalité

deg(X)h” = [X] u we s’interprete de la facon suivante : 1e degré de X est le nombre de ses points d’intersection avec un sous-espace linéaire de 1?" de dimension c qui 1e coupe transversalement. Plus géné~

ralement, deux sous-variétés X et Y de dimensions complémentaires, et qui se rencontrent transversalement, ont exactement deg(X) deg(Y) points d’intersection. En particulier, deux courbes C et D de 1P2, définies par des polynémes de degrés respectifs c et d, se rencontrent en exactement cd points lorsque leur intersection est transverse, et en au

plus cd points en general, du moins lorsque leur intersection est finie. Plus précisément, on peut associer a chacun de leur point d’intersection p une multiplicité, c’est-a-dire un entier mop (p) strictement positif, égal a un si et seulement si l’intersection de 0 et D est transverse en p, de telle facon que

2 mC.D(p) = 0dpECnD

C’est 1e the’oréme de Bezout.

COURS SPECIALIsEs 3

BIBLIOGRAPHIE

[l] BENDER E.A., KNUTH D.E. : Enumeration of plane partitions, J. of Comb. Theory,

Ser. A 13, 40-54 (1972). [2] BERNSTEIN I.N., GELFAND I.M., GELFAND S.I. : Schubert cells and cohomology of the spaces G/P, Russian math. surveys 28, 1-26 (1973). [3] BILLEY S., JOCKUSH W., STANLEY R. : Some combinatorial properties of Schubert polynomials, J. of Alg. Comb. 2, 345-374 (1993). [4] BOREL A. : Sur la cohomologie des espaces fibres principaux et des espaces homogénes des groupes de Lie compacts, Annals of Math. 57, 115-207 (1953). [5] BOREL A., HAEFLIGER A. : La classe d’homologie fondamentale d’un espace analy-

tique, Bull. Soc. Math. France 89, 461-513 (1961). [6] BOTT R., TU L. :Differential forms in algebraic topology, Graduate Texts in Mathematics 82, Springer-Verlag 1982. [7] CARTIER P. : La théon'e classique et modeme des fonctions symétriques, Séminaire Bourbaki, exposé 597, 1982. [8] CHEN W., LOUCK J. : Interpolation for symmetric functions, Advances in Math. 117,

147—156(1996). [9] CHEVALLEY C. : Sur les decompositions cellulaires des espaces G/B, circa 1958,

Proc. Symp. in Pure Math. 56, 1-23 (1994).

[10] DEMAZURE M. : Désingularisation des variétés de Schubert généralisées, Ann. scient.

Ec. Norm. Sup. 7, 53-88 (1974). [11] DIEUDONNE J. : Schur functions and group representations, in Tableaux de Young et foncteurs de Schur en algébre et géométrie, Astérisque 87-88, 7—19 (1981). [12] EDELMAN P., GREENE C. : Balanced tableaux, Advances in Math. 63, 42—99 (1987).

[13] EHRESMANN C. : Sur la topologie de certains espaces homogénes, Annals of Math.

35, 396-443 (1934). [14] FOMIN S., KIRILLOV A. : The Yang-Baxter equation, symmetric functions and Schubert polynomials, pp. 183-190 in Proceedings of the fifth international conference on formal power series and algebraic combinatorics, DIMACS 1994.

172

BIBLIOGRAPHIE

[15] FOMIN S., KIRILLOV A. : Universal exponential solution of the Yang-Baxter equation, Lett. Math. Phys. 37, 27 3-284 (1996).

[16] FOMIN S., KIRILLOV A. : Reduced words and plane partitions, J. of Alg. Comb. 6, 311-319 (1997). [17] FOMIN S., STANLEY R. : Schubert polynomials and the nilCoxeter algebra, Advances

in Math. 103, 196-207 (1994). [18] FRAME J. S., ROBINSON G. DE B., THRALL R. M. : The hook graphs of the symmetric groups, Canadian J. Math. 6, 316—325 (1954).

[19] FROBENIUS C. : Uber die Charaktere der symetrischen Gruppe, Sitz. Berlin Akad. Wiss. 1900, 516-534. [20] FULTON W. : Intersection theory, Springer-Verlag 1984.

[21] FULTON W. : Flags, Schubert polynomials, degeneracy loci, and detenninantal formulas, Duke Math. J. 65, 381-420 (1992).

[22] FULTON W. : Young tableaux, With applications to representation theory and geometry, Cambridge University Press 1997. [23] FULTON W. : Universal Schubert polynomials, prepublication 1997.

[24] FULTON W., LASCOUX A. : A Pieri formula in the Grothendieck ring ofa flag bundle, Duke Math. J. 76, 711-729 (1994). [25] FULTON W., PRAGACZ P. : Schubert varieties and degeneracy loci, in paraitre.

[26] GARNIR H. : Théorie de la representation linéaire des groupes symétriques, Mémoire de la Société royale des sciences de Liege, 1950.

[27] GARSIA A., PROCESI C. : On certain graded «Sin-modules and the q-Kostka polynomials, Advances in Math. 94, 82-138 (1992).

[28] GESSEL 1., VIENNOT G. : Binomial determinants, paths and hook length formulae, Advances in Math. 58, 300-321 (1985). [29] GESSEL I., VIENNOT G. : Determinants, paths and plane partitions, manuscrit non publié, 1986.

[30] GREEN J.A. : The characters of the finite general linear groups, Trans. Amer. Math. Soc. 80, 402—447 (1955). [31] GREENBERG M. : Lectures on Algebraic TopologY, W. A. Benjamin 1967. [32] GREENE C. : An extension of Schensted’s theorem, Advances in Math. 14, 254—265 (1974). [33] GREENE C., NIJENHUIS A., WILF H.S. : A probabilistic proof of a formula for the number of Young tableaux of a given shape, Advances in Math. 31, 104-109 (1979).

[34] GRIFFITHS P., HARRIS J. : Principles of Algebraic Geometry, Wiley Interscience, New York 1978. [35] HAMEL A., GOULDEN I. : Planar decompositions of tableaux and Schur function determinants, Europ. J. of Comb. 16, 461-477 (1995). [36] HANSEN H. : On cycles in flag manifolds, Math. Scand. 33, 269-274 (1973).

COURS svécmusés 3

BlBLlOGRAPHIE

173

[37] HARTSHORNE R. : Algebraic Geometry, Springer-Verlag 1977. [38] HILBERT D. : Sur les problemes futurs des mathématiques, traduction L. Laugel, Edi-

tions Jacques Gabay 1990. [39] HODGE W. : The intersection formula for a Grassmannian variety, J. London Math. Soc. 17, 48-64 (1942). [40] HODGE W. : Some enumerative results in the theory of forms, Proc. Camb. Phil. Soc. 38, 22-30 (1943). [41] HODGE W., PEDOE D. : Methods of Algebraic Geometry, Cambridge University Press, 1947. [42] HUSEMOLLER D. : Fibre bundles, Graduate Texts in Mathematics 20, Springer 1966.

[43] JACOBI C. : De functionibus altemantibus earumque divisione per productum e differentiis elementorum conflatum, Journal de Crelle 22, 360-371 (1841).

[44] JAMES G. : The representation theory of the symmetric groups, Lecture Notes in Math. 682, Springer-Verlag 1978. [45] JAMES G., KERBER A. : The representation theory of the symmetric group, Encyclopedia of Mathematics and its applications, vol. 16, Addison-Wesley, Reading MA, 1981. [46] KEMPF G., LAKSOV D. 2 The determinantal formula of Schubert calculus, Acta Math.

132, 153-162 (1974). [47] KLEIMAN S. : Problem 15 : Rigorous foundation of Schubert’s enumerative calculus, Proc. Symp. in Pure Math. 28, 445-482 (1976). [48] KNUTH D. : Permutations, matrices and generalized Young tableaux, Pacific J. Math.

34, 709-727 (1970). [49] KNUTSON D. : A-rings and the representation theory of the symmetric group, Lecture Notes in Math. 308, Springer—Verlag 1973. [50] KRAFT H. : Geometrische Methoden in der Invariantentheorie, Vieweg-Verlag 1984. [51] LAKSHMIBAI V., SANDHYA B. : Criterion for smoothness of Schubert varieties in

SL(n) /B, Proc. Indian Acad. Sci. 100, 45—52 (1990). [52] LAKSHMIBAI V., SESHADRI C.S. : Standard monomial theory, in Ramanan S. (ed.), Proceedings of the Hyderabad conference on Algebraic Groups, 279-322 (1991). [53] LASCOUX A. : Classes de Chem d’un produit tensoriel, CR. Acad. Sc. Paris 286, 385—387 (1978). [54] LASCOUX A. : Anneau de Grothendieck de la variété de drapeaux, in The Grothendieck Festschrift, volume 3, Birkhéiuser 1990.

[55] LASCOUX A. : Cyclic permutations on words, tableaux and harmonic polynomials, in Ramanan S. (ed.), Proceedings of the Hyderabad conference on Algebraic Groups, 323-347 (1991). [56] LASCOUX A., SCHUTZENBERGER M.P. : Sur une conjecture de Foulkes, C.R.A.S. 286, 323-326 (1978).

socué'né MATHEMimQUE DE FRANCE I998

174

BIBLIOGRAPHIE

[57] LASCOUX A., SCHUTZENBERGER M.P. : Le monoi’de plaxique, in Noncommutative structures in algebra and geometric combinatorics, Quademi de la ricerca scientifica 109,129-156(1981).

[58] LASCOUX A., SCHUTZENBERGER M.P. : Polynémes de Schubert, CR. Acad. Sc. Paris 294, 447—450 (1982).

[59] LASCOUX A., SCHUTZENBERGER M.P. : Structure de Hopf de l’anneau de cohomologie et de 1 ’anneau de Grothendieck d ’une variété de drapeaux, CR. Acad. Sc. Paris

295, 629-633 (1982). [60] LASCOUX A., SCHUTZENBERGER M.P. : Symmetry and flag manifolds, pp. 118 144 in Invariant theory, Lecture Notes in Math. 996, Springer-Verlag 1983. [61] LASCOUX A., SCHUTZENBERGER M.P. : Schubertpolynomials and the Littlewood— Richardson rule, Letters in Math. Physics 10, 111-124 (1985).

[62] LESIEUR L. : Les problémes d’intersection sur une variété de Grassmann, CR. Acad. Sc. Paris 225, 916-917 (1947). [63] LITTLEWOOD D.E. : The theory of group characters, Oxford University Press 1950. [64] LITTLEWOOD D.E., RICHARDSON A.R. : Group characters and algebra, Philos. Trans. Roy. Soc. London 233, 99-142 (1934). [65] LITTLEWOOD D.E., RICHARDSON A.R. : Some special S—sen'es and q-functions,

Quart. J. of Math. 6, 184-198 (1935). [66] MACDONALD I.G. : Symmetric functions and Hall polynomials, Clarendon Press, Oxford, 1979. [67] MACDONALD LG. : Notes on Schubert polynomials, Publications du centre de mathématiques et d’informatique, Université du Québec, Montreal, 1991. [68] MILNOR J., STASHEFF J. : Characteristic classes, Princeton University Press 1974.

[69] MONK D. : The geometry of flag manifolds, Proc. London Math. Soc. 9, 253-286

( 1959). [70] MURNAGHAN ED. : On the representations of the symmetric group, Amer. J. Math

59, 437-488 (1937). [71] PEEL M. : Specht modules and symmetric groups, J. of Algebra 36, 88-97 (1975). [72] PORTEOUS I. : Simple singularities ofmaps, in Proceedings of Liverpool Singularities Symposium, Lecture Notes in Math. 192, 286-307, Springer 1971.

[73] PRAGACZ P. : Enumerative geometry of degeneracy loci, Ann. scient. EC. Norm. Sup. 21, 413-454 (1988).

[74] PRAGACZ P. : Symmetric polynomials and divided differences in formulas ofintersection theory, in Parameter Spaces, Banach Center Publications 36, 1996.

[75] PROCTOR P. 2 New symmetric plane partition identities coming from invariant theory work of DeConcini and Procesi, European J. of Comb. 11, 289—300 (1990).

[76] REINER V., SHIMOZONO M. 2 Plactification, J. of Alg. Comb. 4, 331—351 (1995).

[77] ROBINSON G. DE B. : On the representations of the symmetric group, Amer. J. Math. 60, 745-760 (1938).

COURS SPECIALISES 3

BIBLIOGRAPHIE

175

[78] RYAN K.M. : On Schubert varieties in the flag manifold of SL(n, (C), Math. Annalen 276, 205-224 (1987). [79] SAGAN B. : The symmetric group, Wadsworth 1991. [80] SCHENSTED C. : Longest increasing and decreasing subscquences, Canadian J. Math.

13, 179-191 (1961). [81] SCHUBERT H. : Kalkfil der abzahlenden Geometric, Leipzig 1879, réimpression Springer 1979. [82] SCHUR I. : Uber cine Klasse von Matrizen, die sich ciner gegcbcnen Matrix zuordncn Iassen, 1901, in Gesammelte Abhandlungen I, 1-70, Springer 1973. [83] SCHUTZENBERGER M.P. : La correspondancc dc Robinson, in Combinatoirc et

representations du groupe symétrique, Lecture Notes in Mathematics 579, 59-135, Springer-Verlag 1977. [84] SCHUTZENBERGER M.P. : Proprie’tés nouvcllcs dcs tableaux de Young, in Séminaire Delange-Pisot-Poitou, 19c année 1977/7 8, exposé no. 26. [85] SPANIER E. : Algebraic topology, McGraw-Hill 1966. [86] Spccht W. : Die irreduziblcn Darstcllungcn dcr symmetrischcn Gruppc, Math. Zeitschrift 39, 696-711 (1935). [87] STANLEY R. : Theory and applications of plane partitions, Studies in applied Math.

50, 166-188 & 259-279 (1971). [88] STANLEY R. : Some combinatorial aspects of the Schubert calculus, in Combinatoire et

representations du groupe symétrique, Lecture Notes in Math. 579, 225-259, Springer— Verlag 1977. [89] STANLEY R. : On the number of reduced decompositions of elements of Coxetcr groups, J. of Comb. Theory A 40, 276-289 (1984). [90] STANLEY R. : Enumerativc Combinatorics, Volume 1, Wadsworth and Brooks/Cole,

1986. [91] SVANES T. : Coherent cohomology on Schubert subschemes of flag schemes and ap— plications, Advances in Math. 14, 369-453 (1974).

[92] STEMBRIDGE J. : Nonintersecting paths, pfaffians and plane partitions, Advances in

Math. 83, 96-131 (1990). [93] THOMAS G. P. : On Schensted ’s construction and the multiplication ofSchur functions,

Advances in Math. 30, 8-32 (1978). [94] VAN DER WAERDEN B.L. : Topologischc Bcgriindung den Kalkuls der abza'len den Geometric, Math. Annalen 102, 337-362 (1929). [95] VAN DER WAERDEN B.L. : Zur algebraischen Geometric 2. Die geraden Linien auf den Hyperflachcn dcs 1P”, Math. Annalen 108, 253-259 (1933).

[96] VIENNOT G. : Unc forme géométriquc dc la correspondancc dc Robinson-Schensted, in Combinatoire et Representations du groupe symétrique, Lecture Notes in Mathematics 579, 29-58, Springer-Verlag 1977.

socrE MATHEMAnQUE DE FRANCE 1993

176

BIBLIOGRAPHIE

[97] WEYL H. : The classical groups, their invariants and representations, Princeton University Press 1939. [98] YOUNG A. : 0n quantitative substitutional analysis III, Proc. London Math. Soc. 28, 255-292 (1928). [99] ZELEVINSKY A. : Representations of finite classical groups, a Hopf algebra approach, Lecture Notes in Mathematics 869, Springer-Verlag 1981.

[100] ZELEVINSKY A. : Small resolutions of singularities of Schubert varieties, Funct. Anal. Appl. 17, 142-144 (1983).

courts SPFcIAusEs 3

INDEX

algebre de Hecke, 74

de Hopf, 42 nilCoxeter, 74

anneau de coordonnées, 111

nilplaxique, 106 plaxique, 30 application caractén'stique, 37 atome, 57

bande, 40 hauteur d’une, 40 Bezout, théoréme de, 170 bitableau, 92 Bore], presentation de, 147 branchement, 39 caracteres, 36 anneau des, 37

des groupes symétriques, 38 cellule de Schubert, 111 charge, 50 chemin, 90 clé, 65 classe

de Chem, 129 caractén'stique, 129 fondamentale d’une sous-variété algébrique, 168 d’une variété différentiable, 167 hyperplane, 170 cocharge, 51 cohomologie singuliere, 165 configuration, 75 contenu, 21 correspondance

de Schensted, l7 d’Edelman & Greene, 106 de Knuth, 18, 25 de Robinson, 17, 27

cyclage, 50 decompositions cellulaires, 113, 144, 168 réduites, 61 nombre de, 104 désingularisation, 125 petite, 128 descente, 67

diagramme d’une permutation, 59 de Ferrets, 7 differences divisées, 72 isobares, 73 drapeau, 68

equation de Yang-Baxter, 75 équerre, 14 longueur d’une, 21 evacuation, 105 Ferrets, diagramme de, 7 filiere, 50 fonctions de Schur, 10 drapeaux, 92 gauches, 33 multiSchur, 93, 161 fonctions symétriques élémentaires, 8 completes, 9 de Newton, 35 monomiales, 8 forrnule de Cauchy pour les polynémes de Schubert, 82

178

pour les polynémes dc Schur, 19, 20 formule de Giambelli pour les classes de Schubert, 117 pour les fonctions symétriques, 14, 93 formule dc Pieri pour les fonctions symétriques, 11 pour les polynomes de Schubert, 99 pour les variétés de Schubert, 115 Frame-Robinson—Thrall, formule de, 22

Frobenius formule des caractéres de, 38 notation de, 14 réciprocité de, 37 Fulton, théoréme de, 161 Gamir, relations de, 46 Gauss-Bonnet, formule de, 134 Giambelli, formule de, 14, 117 graphe, 90 des mot réduits, 64 grassmannienne, 107 Hall-Littlewood, fonctions de, 49 homologie de Bord-Moore, 167 singuliere, 163 idéal radical, 111 insertion de Coxeter-Knuth, 106 de Knuth, 16

par les colonnes, 17 interpolation, 20, 87 Jacobi-Trudi, formule de, 13 jeu de taquin, 30 Knuth equivalence de, 28 insertion de, 16 relations de, 28 Kostant, formule de multiplicité de, 48 Kostka, nombres de, 13 Kostka-Foulkes, polynomes de, 49, 151 Littlewood & Richardson coefficients de, 32 régle de, 33, 103 Littlewood, théoréme de. 19, 92 Miibius, fonction de, 57, 66 méthode des chemins, 90 Mackey, théoréme de, 37 monomes standard, 118 Monk, formule de, 98 morphisme de Gysin, 131, 148, 157, 167 mot, l7 d’un tableau, 28 de Yamanouchi, 32 réduit, 63

COURS SPECIALIsEs 3

INDEX

redressement d’un, 17 Mumaghan—Nakayama, régle de, 41 Newton relations de, 35 sommes de, 35 ordre de Bruhat faible, 61 de Bruhat fort, 62 dominant, 8 partition, 7 conjuguée, 7 diagramme d’une, 7 fonction de, 48 gauche, 30 longueur d’une, 7 poids d’une, 7 partition plane stricte, 23

support d’une, 23 permutation arbre d’une, 102 clé d'une, 65 code d’une, 60 diagramme d’une, 59 dominante, 67, 94 drapeau d’une, 68 ensemble essentiel d’une, 60 fonction dc rang d’une, 60 forme d’une, 60

grassmannienne, 67, 94 longueur d‘une, 59 presque croissante, 69, 97 vexillaire. 67, 95 permutoédre, 61, 62 Plficker coordonnées de, 109

plongement de, 109 relations de, 109 Poincaré dualité de, 167 polynome de, 113, 144 polynémcs harmoniques, 86

principe de scindage, 130 promotion, 105 puissances, sommes de, 35 redressement, 17, 31 relations dc tresse, 61

representation

des groupes finis, 36 des groupes symétriques, 37 induite, 36 réguliére, 85, 151 reslIeinte, 36

INDEX

schéma de Fano, 139 Schubert polynéme de, 74

calcul de, 138 scrutin, probléme du, 23 soulevement, 99 specialisation principale

des polynémes de Schubert, 88 des polynfimes de Schur, 22 Specht, modules de, 44 tableau équilibré, 105

charge d’un, 50 forme d’un, 12 gauche, 30 mot d’un, 28 multibande, 41

poids d’un, 12 semistandard, 12 standard, 12 taquin, jeu de, 30 Thom & Porteous, formule de, 135

179

transition, 101 transversalité, 130, 133 variété de drapeaux, 141 anneau de cohomologie d’une, 144 relative, 156 variétés de Schubert désingularisations des, 125, 151

degré des, 117 des grassmanniennes, 111

des variétés de drapeaux, 142 intersection des, 114, 145 lieux singuliers des, 123, 154 lisses, 154 postulation des, 120 spéciales, 111 Yamanouchi, mot de, 32 Yang-Baxter, équation de, 75 Young régle de, 39 symétriseur de, 44 tableau de, 12

socréné MATHEMA’I‘IQUE DE FRANCE I998

Ce cours comprend deux chapitres de nature combinatoire. Le premier est consacré aux fonctions symetriques, et aux propriétés ole polynémes de Schur. Nous les étudions a l‘aide, en particulier. de manipulations sur les tableaux, définies a l’aide du procede d‘insertion de Knuth. Nous montrons également que ces

polynémes representent les caracteres de representations irreductibles des groupes symétriques.

Le second chapitre est une etude de polynémes de Schubert, definis par A. Lascoux et M.-P. SchUtzenberger en termes de

differences divisees. Ces polynémes sont associés aux permutations. et leur combinatoire est tres liee a l‘ordre de Bruhat sur les groupes symétriques. ainsi qu'a certaines algebres de Hecke de ces groupes. Le troisieme et dernier chapitre est au contraire d’essence

geometrique. puisqu‘il a pour theme l‘étude des varietés de Schubert dans les grassmanniennes et les varietés de drapeaux.

Le fait que les classes d’homologie de ces variétes soient représentées par des polynémes de Schur, ou de Schubert, permet de traduire geometriquement bon nombre des résultats des deux premiers chapitres. Enfin, les variétés de Schubert e’tant des modeles universels de certains lieux de dégénérescence de morphismes entre fibres vectoriels. nous en deduisons des expressions des classes d‘homologie de ces lieux en termes de classes caractéristiques des fibres impliqués.

see 3%.. $.43? Société Mathe’matique de France imprimerie Louis-Jean.

De’pét legal n° 529 juin 1998. lmprimé en France.

ISBN 2-85629-066