Le bon, la brute et le truand - Ou comment l'intelligence artificielle transforme nos vies 9782897114237, 9782897114244, 9782897114251

Table of contents :
Couverture
Titre
Crédits
Introduction
Chapitre 1 – Le bon
De l’électrification vers l’automatisation des transports
La santé
Chapitre 2 – La brute
Data is the new oil (Les données sont le nouveau pétrole)
« La fin de l’Histoire » ?
Les armes létales autonomes
Des balises à définir
Chapitre 3 – Le truand
Comment nous sommes devenus accros aux likes
Vers un chômage technologique ?
Le transhumanisme
La singularité technologique : et si la machine dépassait son créateur ?
Conclusion
Remerciements
Notes

Citation preview

OPTIQUES Collection dirigée par Anne-Marie Villeneuve

DU MÊME AUTEUR

Le prochain virage – Propulser le Québec vers un avenir équitable et durable, en collaboration avec François Tanguay, essai, Druide, 2014. Alerte ! Le Québec à l’heure des changements climatiques, essai, Boréal, 2009. « Changements climatiques, protocole de Kyoto et le rôle des organisations non gouvernementales dans le cadre de ces grandes questions internationales », en collaboration avec Jean-Guy Vaillancourt, dans Gendron, Corinne et Jean-Guy Vaillancourt, Développement durable et participation démocratique : De la contestation écologiste aux défis de la gouvernance, essai, Presses de l’Université de Montréal, 2003. « Protocole de Kyoto : économie, politique et efficacité environnementale », en collaboration avec Jean-Guy Vaillancourt, dans Actes de colloque Sociologie, économie et environnement, ACFAS, 2002. Regroupement montréalais pour la qualité de l’air, « Pollution atmosphérique et impacts sur la santé et l’environnement dans la grande région de Montréal », Chapitre 3 : « Les effets néfastes de la pollution atmosphérique d’origine anthropique sur l’environnement de la grande région de Montréal », Éditeur Direction régionale de la santé publique, 1998.

Steven Guilbeault

LE BON, LA BRUTE ET LE TRUAND Ou comment l’intelligence artificielle transforme nos vies

Catalogage avant publication de Bibliothèque et Archives nationales du Québec et Bibliothèque et Archives Canada Titre : Le bon, la brute et le truand ou Comment l’intelligence artificielle transforme nos vies / Steven Guilbeault. Autres titres : Comment l’intelligence artificielle transforme nos vies Noms : Guilbeault, Steven, 1970- auteur. Collections : Optiques (Éditions Druide) Description : Mention de collection : Optiques Identifiants : Canadiana 20190018984 | ISBN 9782897114237 Vedettes-matière : RVM : Intelligence artificielle— Aspect social. | RVM : Intelligence artificielle— Aspect moral. Classification : LCC Q335 G85 2019 | CDD 006.3— dc23 Direction littéraire : Anne-Marie Villeneuve Édition : Luc Roberge et Anne-Marie Villeneuve Assistance à l’édition : Elisanne Crevier Révision linguistique : Jocelyne Dorion et Isabelle Chartrand-Delorme Assistance à la révision linguistique : Antidote 10 Maquette intérieure : Anne Tremblay Mise en pages et versions numériques : Studio C1C4 Conception graphique de la couverture : Anne Tremblay Image en couverture : Peshkova (iStock) Photographie de l’auteur : Justine Latour Diffusion : Druide informatique Les Éditions Druide remercient le Conseil des arts du Canada et la SODEC de leur soutien. Gouvernement du Québec — Programme de crédit d’impôt pour l’édition de livres — Gestion SODEC. Ce projet a été rendu possible en partie grâce au gouvernement du Canada.

ISBN PAPIER : 978-2-89711-423-7 ISBN EPUB : 978-2-89711-424-4 ISBN PDF : 978-2-89711-425-1 Éditions Druide inc. 1435, rue Saint-Alexandre, bureau 1040 Montréal (Québec) H3A 2G4 Téléphone : 514-484-4998 Dépôt légal : 2e trimestre 2019 Bibliothèque et Archives nationales du Québec Bibliothèque et Archives Canada Il est interdit de reproduire une partie quelconque de ce livre sans l’autorisation écrite de l’éditeur. Tous droits de traduction, de reproduction et d’adaptation réservés. © 2019 Éditions Druide inc. www.editionsdruide.com

INTRODUCTION

Lorsque j’ai eu l’idée d’écrire ce livre, le titre du film culte de Sergio Leone de la fin des années 1960, Le bon, la brute et le truand, m’est venu en tête. Sans trop savoir pourquoi, j’ai pensé qu’il me serait intéressant pour illustrer ce que représentent, à mon avis, les promesses immenses de l’utilisation grandissante de l’intelligence artificielle ( ), ainsi que les défis que nos sociétés devront relever par rapport à cette technologie. J’ai donc décidé de m’inspirer de l’esprit du film et de diviser cet essai en trois chapitres qui, vous l’aurez compris, s’intitulent respectivement « Le bon », « La brute » et « Le truand ». Pour ceux et celles qui n’ont jamais vu le film de Leone, ou qui ne s’en souviennent que vaguement (je l’ai moi-même revu pour me rafraîchir la mémoire), en voici un résumé des plus brefs : pendant la guerre de Sécession, aux États-Unis, trois bandits décident de s’associer le temps de retrouver un trésor de guerre perdu par les Confédérés, histoire de devenir riches. Reconnaissons-le d’emblée, malgré l’emploi du terme « bon » dans le titre, il n’y a pas vraiment de héros dans le film et encore moins de bons gars. Il y a bien le personnage incarné par Clint Eastwood qui, au mieux, est le moins bandit de nos trois comparses… En vérité, il y a aussi peu de liens entre le premier chapitre du livre et le personnage du film, sinon l’emploi

du mot « bon »… Néanmoins, j’entends vous démontrer que le recours à l’ commence déjà à apporter des bienfaits majeurs à nos sociétés et qu’elle en apportera encore bien davantage. « La brute », quant à elle, porte très bien son nom : le personnage du film, interprété par l’acteur Lee Van Cleef, est un tueur sanguinaire sans foi ni loi. Dans ce cas, les parallèles avec le livre sont nombreux. Ce chapitre aborde les aspects les plus pernicieux et inquiétants du développement et de l’utilisation de l’ . À mon avis, le mot « truand » rend plutôt mal le terme du titre original cattivo, traduit par Ugly dans le titre anglais du film, mais permet malgré tout d’établir certains parallèles avec ce chapitre du livre qui porte sur des aspects de la technologie qui nous laissent indécis, ni tout à fait bons ni tout à fait mauvais, un peu à l’image du personnage du film qui est parfois bouffon, parfois fidèle acolyte et parfois un peu traître. Je dois maintenant vous faire une confession : plusieurs des hypothèses que j’envisageais en imaginant ce que serait ce livre, notamment en ce qui concerne certaines conséquences, positives ou négatives, de l’ ont beaucoup évolué au fils de mes recherches, de mes discussions, des conférences auxquelles j’ai assisté et de mes lectures. Ma réflexion s’est transformée à tel point que j’ai dû complètement réorganiser les chapitres « La brute » et « Le truand ». Je croyais, au départ, que les pires répercussions de cette technologie se feraient sentir dans le monde du travail et qu’elles allaient engendrer des tensions sociales importantes. Sans vouloir minimiser les enjeux de l’adaptation nécessaire du marché de l’emploi, et de la société en général, j’ai été amené à penser que ce n’est peut-être pas là que se manifestent les défis les plus préoccupants. J’ai donc

réorganisé le livre et ce qui devait être dans la section de la brute est passé dans celle du truand (et inversement). À cet égard, les travaux d’un groupe de travail français dirigé par l’éminent penseur et homme d’État français Jacques Attali sur les défis du monde du travail et des technologies sont très éclairants. J’en parlerai d’ailleurs dans le chapitre 3. Nous voici donc à l’aube de la quatrième révolution industrielle. Après les révolutions qu’ont entraînées les progrès de la machine à vapeur vers le e siècle, suivis de l’électricité au début du e siècle, puis de milieu du la naissance d’Internet voilà à peine quelques décennies, nous entrons dans une période de profonds changements technologiques et, comme les révolutions technologiques précédentes, celle-ci engendrera des transformations sociales et économiques majeures. Le développement rapide de l’ et des technologies qui y sont rattachées, tels l’apprentissage automatique et la robotisation, commence déjà à avoir d’importants effets sur nos vies, et pourtant nous n’en sommes qu’aux balbutiements de cette révolution qui apporte son lot de bénéfices et de bienfaits, mais également d’enjeux et de problèmes. Et comme ce fut le cas au moment des autres grandes périodes de transformation, notre compréhension de ces répercussions ainsi que des lois et règlements qui devraient encadrer ces progrès est à la remorque des avancées technologiques. Pensons-y. L’ensemble des pays de la planète peine à s’adapter à ce qui constitue de modestes changements technologiques, telles la possibilité de louer un appartement par le truchement d’un site Web ou encore celle de s’abonner à un service de films et de séries télévisées en ligne. Songeons également à certaines technologies émergentes dans le secteur des transports qui permettent de réduire l’utilisation de l’auto en solo et, donc,

le trafic urbain, le nombre d’accidents de la route, la pollution atmosphérique et la pollution climatique. Le problème ici n’est pas nécessairement lié aux technologies en tant que telles – quoique, nous le verrons, il y ait aussi des enjeux de ce côté –, mais plutôt au fait que ces dernières ont de la difficulté à s’intégrer à un cadre social, législatif et réglementaire existant. Je tiens à préciser que je suis à des années-lumière d’être un expert dans les aspects techniques de l’ . Ayant fait une partie de mes études en informatique, j’ai une compréhension de base de certains langages informatiques, mais ce que j’ai étudié est également à des années-lumière des algorithmes et de la programmation utilisés en . De plus, j’ai abandonné mes études dans ce domaine parce que je n’étais pas très doué et que j’y prenais très peu de plaisir ! Pourquoi alors un écologiste comme moi veut-il écrire sur l’ ? Plusieurs de mes proches m’ont posé cette excellente question lorsque je leur ai parlé de ce projet de livre. La réponse tient à plusieurs éléments.

L D’une part, comme je le soulignais, il ne fait aucun doute dans mon esprit que l’ aura des effets avantageux pour l’ensemble de nos sociétés, notamment dans les domaines de l’énergie, des transports et de la santé. C’est sur ces domaines que je me pencherai dans le premier chapitre du livre. Par ailleurs, les écologistes s’intéressent beaucoup aux technologies, soit pour les dénoncer lorsqu’elles ont des effets négatifs sur la santé et sur

l’environnement, soit pour en faire la promotion lorsqu’elles sont bénéfiques. Tous les écologistes que je connais, ici comme ailleurs, militent pour que les technologies fondées sur l’utilisation des combustibles fossiles (charbon, pétrole et gaz naturel) soient délaissées le plus rapidement possible. C’est le cas également de l’ensemble de la communauté scientifique et politique internationale, qui estime qu’à moins d’éliminer l’usage des combustibles fossiles au cours des prochaines décennies, et, par conséquent, les technologies qui y sont rattachées, nous n’arriverons tout simplement pas à limiter les hausses de température et, donc, les changements climatiques, qui sont de plus en plus importants. Tous conviennent que nous devons aussi modifier nos habitudes de vie de façon à réduire le plus possible notre consommation d’énergie (que ce soit dans les transports, dans les entreprises, à la maison ou encore par les biens d’utilité courante), mais même si nous changeons nos comportements, il nous faudra malgré tout adopter de nouvelles technologies pour répondre à nos besoins énergétiques existants. Ces mêmes personnes, qu’elles soient écologistes, scientifiques ou politiques, proposent ainsi de nouvelles technologies pour remplacer les anciennes. Faites l’expérience : allez sur les sites Web d’Équiterre, de Greenpeace, du Fonds mondial pour la nature ( ), du Réseau ActionClimat France ou encore de la Fondation David Suzuki. Vous y trouverez immanquablement des photos, des articles et des blogues portant sur l’importance des énergies éoliennes et solaires, ou sur les transports actifs et collectifs, de même que sur l’électrification des transports, un domaine où la révolution énergétique est bien en selle, un thème que j’aborderai dans le premier chapitre.

Comme plusieurs de mes collègues, je crois que c’est grâce à une évolution de nos comportements (entendre ici l’adoption de comportements plus écologiques et équitables), combinée à des progrès technologiques, notamment l’utilisation de l’ , que nous arriverons à relever le défi de la crise environnementale. Il me paraît illusoire d’espérer que la solution ne viendra que de l’un ou de l’autre. Électrification, automatisation et mobilité partagée L’un des dossiers sur lesquels j’ai beaucoup travaillé au cours des dernières années est celui de l’électrification des transports. Pourquoi ? Parce que le transport représente l’un des principaux émetteurs de gaz à effet de serre ( ), notamment dans les pays industrialisés comme le Canada, où ce secteur arrive au deuxième rang des émissions avec 24 %, la France, où il occupe la première place avec près de 28 %, alors qu’au Québec ce sont plus de 40 % des émissions de qui proviennent des transports ! Fait intéressant à relever, tant en France qu’au Canada ou au Québec, plusieurs domaines d’activité ont réduit leur pollution carbone, notamment le secteur industriel et celui de l’agriculture. Ce n’est, hélas, pas le cas du secteur des transports, qui est une source de plus en plus importante de pollution depuis le début des années 1990. Or les transports sont certainement le secteur qui va connaître les plus grandes transformations au cours des prochaines décennies, voire des prochaines années. J’étais au Japon en 1997, pour participer à la conférence de l’Organisation des Nations unies ( ) sur le climat qui se déroulait à Kyoto, quelques mois après que Toyota eut présenté son premier modèle de véhicule hybride, sa fameuse Prius, la première voiture hybride produite en série. Au départ, on ne donnait pas cher de cette aventure du géant japonais de l’automobile. Les commentaires négatifs affluaient de partout : « trop

lente », « drôle d’apparence », « trop chère », etc. La voiture fut introduite à l’échelle mondiale quelques années plus tard, mais peu d’exemplaires se rendirent aux États-Unis ! Aujourd’hui, la Prius est la voiture hybride la plus vendue dans le monde, y compris aux États-Unis, et l’engouement pour les voitures électriques ne cesse de grandir. L’enthousiasme pour l’électrification des transports se manifeste un peu partout sur la planète, et le Canada n’y fait pas exception. Le Québec, suivant l’exemple d’une dizaine d’États américains, a adopté, en octobre 2016, une nouvelle loi que l’on appelle communément « Loi zéro émission ». Celle-ci force les constructeurs automobiles faisant affaire sur le territoire québécois à vendre un certain pourcentage de véhicules électriques ou hybrides rechargeables. Ce pourcentage minimal augmentera avec le temps, permettant à la population québécoise d’avoir accès à plus de véhicules électriques. La gamme de modèles offerts s’étendra et les prix s’approcheront de plus en plus de ceux des voitures à essence. La Chine a également adopté une loi semblable, qui est d’ailleurs plus exigeante que celle du Québec. Il aura fallu deux décennies, depuis la vente de la première Prius, pour dépasser le cap d’un million de voitures électriques et hybrides vendues dans le monde, alors que seulement 18 mois ont été nécessaires pour atteindre le deuxième million de ventes. Et combien de temps aura-t-il fallu pour arriver au troisième million ? Neuf mois ! Selon la renommée firme de nouvelles financières, Bloomberg New Energy Finance, le prix des voitures électriques rejoindra celui des voitures à essences d’ici 20251. On peut se demander qui voudra ensuite acheter une voiture à essence dont les coûts d’utilisation et d’entretien dépasseront ceux de la voiture électrique de plusieurs milliers de dollars par année.

Bien sûr, les incitatifs à l’achat de véhicules électriques, comme ceux qu’offrent plusieurs pays et États, vont prendre fin dans un avenir prochain, mais cela sera largement compensé par la baisse des prix de ces véhicules. De plus, la puissance des batteries va continuer de s’accroître alors que le prix de ces dernières devrait diminuer de 50 % d’ici 20252, ce qui rendra la voiture électrique encore plus attrayante. La révolution dans les transports est assurément liée à leur électrification, qui entraînera, à terme, une baisse des coûts d’exploitation de nos moyens de transport (voiture, autobus, train), mais aussi une réduction marquée de la pollution carbone et de la pollution atmosphérique dans nos grandes villes. Mais ce n’est, à mon avis, que le début de la révolution des transports : les lectures et les rencontres que j’ai faites au cours des dernières années sur la question de l’électrification m’ont amené à constater que cette transition nous conduisait inéluctablement vers l’automatisation des transports, et qui dit automatisation, dit intelligence artificielle. La vraie révolution découlera de cette automatisation et de ce que l’on appelle la mobilité partagée, sujet que j’aborderai dans le premier chapitre. La santé L’un des nombreux avantages du fait d’être à Montréal pour écrire ce livre est que la métropole est l’un des grands pôles mondiaux de recherche sur l’ ; les géants tels Google, Microsoft, et Facebook y ont installé des centres de recherche axés sur le développement de différentes applications issues de cette technologie. À la tête du centre du Laboratoire d’apprentissage et de raisonnement de l’Université McGill et, depuis 2017, directrice du nouveau laboratoire en intelligence artificielle de Facebook à Montréal, on trouve Joëlle Pineau, l’une des sommités mondiales dans le

domaine3. Je connais Joëlle depuis plusieurs années, car elle a longtemps été ma voisine et nos enfants ont fréquenté la même école. J’ai discuté avec elle à quelques reprises de différents enjeux entourant cette technologie, je reviendrai en quelques occasions dans le livre sur les travaux de Joëlle ainsi que sur nos conversations. L’un des secteurs des recherches de Joëlle porte sur le développement d’applications dans le domaine de la santé, qui constitue d’ailleurs l’un des champs de recherche privilégiés de l’ . De la détection des irrégularités cardiaques, grâce au port d’une montre intelligente, à la prévention de la dépression par l’analyse de nos photos publiées sur Instagram, ou encore le dépistage de maladies diverses par l’étude approfondie de notre dossier médical, les applications potentielles de l’ sont nombreuses et, même s’il n’existe encore que peu d’applications pratiques, suscitent de grands espoirs. Ces percées seraient rendues possibles grâce au traitement de mégadonnées (communément appelées big data), c’est-à-dire l’analyse de quantités considérables de données pour arriver à mieux connaître à la fois l’état de santé d’une personne, ou d’un groupe de personnes, mais aussi les risques qu’elle développe telle ou telle maladie. Certains chercheurs estiment même qu’il sera possible, dans un avenir prochain, de détecter des tendances suicidaires chez une personne jusqu’à deux ans à l’avance. Apple a d’ailleurs lancé, en 2015, son Research Kit4, qui permet de recueillir des données telles que les cycles du sommeil, l’activité physique ou encore la dextérité. Ces données sont ensuite transmises à des chercheurs afin d’aider à concevoir des applications en santé. Comment peut-on amasser ces données ? Plusieurs modèles de téléphones intelligents, tout comme certaines montres, sont aujourd’hui équipés de systèmes permettant d’accumuler des données sur nos

déplacements et nos modes de déplacement (à pied, en vélo ou encore en voiture), sur notre rythme cardiaque, les mouvements que nous effectuons dans l’espace, etc. Or, en analysant des montagnes de données sur ces habitudes, les chercheurs peuvent arriver à mieux comprendre, et, à terme, traiter, des maladies comme le Parkinson, plusieurs formes de cancer, des maladies du cœur, etc. Depuis ce lancement, c’est toute une batterie d’applications que l’on peut télécharger gratuitement. On contribue ensuite, par le partage de données sur notre état de santé et nos habitudes de vies, au progrès de la médecine. Ne reculant devant rien pour la préparation de ce livre, j’ai décidé d’être un cobaye et de tester comment, à l’aide d’une montre intelligente, je pourrais produire et analyser des données sur moi-même – je vous ferai part, dans la conclusion, du résultat de ce « test » ! Forts de centaines de milliers, voire de millions de participants et participantes à leurs études, ces centres de recherche ont accès à une quantité phénoménale d’informations qui permettent de faire avancer les sciences de la santé à grands pas.

L Le « pétrole » du

e

siècle : nos données

Internet, téléphones intelligents et mégadonnées… Plus j’étudie ces sujets, plus il m’apparaît évident que nous nous dirigeons vers un monde de plus en plus connecté et même interconnecté. Je ne sais pas pour vous, mais il m’arrive d’avoir de la difficulté à penser le monde avant l’invention du premier iPhone, une invention qui ne date pourtant que d’à peine une décennie !

Aujourd’hui, on estime que près de 2,4 milliards de personnes dans le monde possèdent et utilisent un téléphone intelligent et 1,3 milliard, une tablette5 (sans parler des lunettes, montres et autres bidules connectés) et plus de 5 millions d’applications auraient été développées pour ces appareils. Mais qui dit humanité de plus en plus connectée, dit également enjeux quant à l’utilisation de toutes ces données que l’un et l’autre vont recueillir sur chacun de nous, à tout moment de la journée, et concernant pratiquement tous les aspects de notre vie : loisirs, travail, habitudes de consommation, relations, etc. Si le pétrole a été le sang de l’économie du e

e. siècle, les données seront celui du Dans un avenir pas si lointain, votre compagnie d’assurances pourrait

vouloir recueillir des données sur vos habitudes de vie – Que mangezvous ? Faites-vous assez d’exercice ? Dormez-vous suffisamment ? – et établir le prix de vos polices en fonction de ces informations. Vous pratiquez des sports extrêmes, vous passez trop de temps devant votre écran ou votre alimentation est trop riche en sucre, et hop, le coût de votre police d’assurance augmente pour la prochaine année ou jusqu’à ce que votre assureur soit satisfait des changements que vous aurez apportés à votre mode de vie. L’empire des données L’accès aux données personnelles peut ainsi conduire à des abus. À plus grande échelle, celles-ci peuvent en outre servir au contrôle des populations, au profilage, voire, à la répression. C’est là un aspect sombre de l’utilisation de l’ . L’exemple de la Chine est éloquent : l’Empire du Milieu jette présentement les bases d’un système de surveillance de sa

population comme nous n’en avons jamais vu auparavant, et cela est rendu possible grâce à l’ . Au moyen de ce système dit de « crédit social », le gouvernement chinois pourra vous suivre à la trace, savoir où vous avez mangé et avec qui, quelles sont vos habitudes alimentaires, connaître vos déplacements, etc. Il s’appliquera également aux entreprises, tant pour leur bilan financier que pour leurs performances environnementales et leur respect des normes du travail. Bien que le programme ne soit pas encore officiellement entré en vigueur, des millions de personnes ont déjà commencé à en subir les conséquences. Nous verrons plus précisément ce qu’il en est au chapitre 2. Vers la singularité technologique ? La création de machines capables de penser et d’apprendre, et qui pourraient, comme nous, vouloir créer des machines encore plus puissantes qu’elles ne le sont elles-mêmes, ne nous conduira-t-elle pas inévitablement vers la fin de l’humanité ? C’est cette hypothèse apocalyptique qu’on appelle, dans le domaine de l’ , la « singularité technologique », ou « singularité » tout court. En mathématique, le principe de singularité s’applique lorsqu’un point ou une valeur est mal défini ou en transition. Dans le cas de l’ , le mot clé de ce concept est « transition », en ce sens où une machine capable de penser par elle-même pourrait toujours être en quête de perfectionnement. Si ce concept n’était, au départ, qu’une invention de l’esprit popularisée par des œuvres de science-fiction, avec le développement de l’ , il existe maintenant un nombre croissant d’individus qui craignent que cela ne devienne un jour réalité. Dans le camp de ceux qui estiment que cette technologie pourrait mener à notre perte figure notamment Elon Musk, un des fondateurs de

Tesla, qui investit des millions de dollars pour tenter de freiner le développement de cette technologie6. À l’opposé, il y en a qui ne croient tout simplement pas aux risques qui sont évoqués. Parmi ces personnes se trouve le spécialiste de l’

et

président du comité d’éthique du Centre national de la recherche scientifique ( ) de France, Jean-Gabriel Ganascia, qui a justement publié un ouvrage sur la question de la singularité technologique en 20177. Sans balayer du revers de la main les risques liés à l’ , il réfute un à un les arguments de tenants de la singularité. Il y a aussi ceux et celles qui, à l’instar du physicien mondialement reconnu feu Stephen Hawking, se situent quelque part entre les deux positions. M. Hawking qualifiait ainsi le développement de l’ : « la meilleure ou la pire chose pour l’humanité8 ». Il y a toutefois un point sur lequel les uns et les autres s’entendent : l’ doit être au service de l’humanité. C’est à cette fin que plus de 8 000 personnes ont lancé un véritable cri du cœur, avec la publication d’une lettre qui a fait beaucoup de bruit. Mentionnons, parmi les signataires, des personnalités publiques et politiques, des chercheurs, des entrepreneurs comme Steve Wozniak, cofondateur d’Apple, et Elon Musk, mais également des experts du domaine comme Yoshua Bengio (l’une des sommités dans la discipline) et Joëlle Pineau (dont j’ai parlé plus haut) et le directeur de la recherche sur l’ chez Facebook, Yann LeCun. La lettre est publiée sur un site qui se nomme Future of Life Institute9 et dont la devise est : La technologie offre la possibilité à la vie de s’épanouir comme jamais auparavant… ou de s’autodétruire. Agissons concrètement10 ! Le message est clair. Il semble donc que même ceux et celles qui travaillent au développement de l’ éprouvent certaines inquiétudes, non pas vis-à-vis de

la technologie en tant que telle, mais plutôt en ce qui concerne certaines dérives possibles quant à ses applications. Dans le cadre d’une entrevue à l’émission La sphère de Radio-Canada, le professeur Bengio a expliqué : « En fait, je désire une réflexion à titre préventif et constructif. Il n’y a pas de mauvaises technologies, mais de mauvaises intentions et utilisations, en général11. »

L Les nouvelles dépendances Une autre raison qui m’a poussé à écrire ce livre est le fait que je suis le père de quatre merveilleux enfants (et deux de plus par alliance) et que je m’interroge sur les effets du développement de l’ sur leur vie. Cela étant, je connais beaucoup de parents qui, comme moi, peinent à trouver les bonnes façons d’encadrer l’utilisation que font leurs enfants des tablettes, téléphones intelligents et réseaux sociaux (toutes des technologies ayant de plus en plus recours à l’ ). Difficile de ne pas être préoccupé, sinon même un peu affolé, par ce que l’on peut lire sur cette question. Dans son édition de septembre 2017, le magazine américain The Atlantic publiait un article de Jean Marie Twenge, professeure de psychologie à l’Université d’État de San Diego et auteure des livres Generation Me et iGen12. La lecture de cet article a eu de quoi inquiéter le père que je suis… La professeure Twenge y décrit, de façon très convaincante, comment l’utilisation des téléphones intelligents et des tablettes est en train de détruire toute la jeune génération. S’appuyant sur des données remontant aux années 1930, Mme Twenge montre que l’utilisation de ces appareils et l’une des causes qui a fait exploser le taux de

suicide et de dépression chez les jeunes depuis 2011 (année où plus de la moitié des jeunes aux États-Unis possédait l’un de ces appareils). Nous verrons toutefois que les avis des chercheurs sur les effets des téléphones intelligents et des médias sociaux diffèrent beaucoup et qu’il peut être difficile, pour un parent, de s’y retrouver. Vers un chômage technologique ? « Les robots vont détruire nos emplois – et nous ne sommes pas prêts », titrait le très respecté journal britannique The Guardian en janvier 201713 à propos de l’arrivée massive des technologies de l’ et de la robotisation. Quelles seront les répercussions, sur nos sociétés ainsi que sur le monde du travail, du développement de l’ et de la robotisation généralisée ? D’après certains, les progrès rapides de ces technologies pourraient entraîner des millions de pertes d’emplois et provoquer des tensions sociales comme nous n’en avons pas vu depuis très longtemps. Depuis des centaines, voire des milliers d’années, l’humain se définit et s’accomplit en partie, parfois même en grande partie, par le travail. À quoi notre société ressemblera-t-elle dans 20 ans si 10, 20 ou même 30 % de nos emplois, qui sont actuellement occupés par des personnes en chair et en os, ont été remplacés par une combinaison de robots et d’ordinateurs utilisant l’ ? Pourtant, n’a-t-on pas connu de profondes transformations du marché de travail au cours des 150 dernières années ? À chacune de ces transformations, plus d’un prévoyait de grands bouleversements sociaux et économiques qui, avec le recul, ne se sont pas concrétisés ou, du moins, certainement pas comme on le laissait entendre. Dans tous ces cas, la société a su s’adapter et cela a mené à la création de nouveaux emplois et même, parfois, de nouveaux secteurs de l’économie.

Que nous réserve l’avenir ? Allons-nous évoluer vers la « Société des loisirs » imaginée dans les années 1960, quand les futurologues prédisaient une société où le travail occuperait une place de moins en moins importante ? Si, depuis cette époque, c’est plutôt l’inverse qui s’est produit, certains affirment que les progrès technologiques actuels et à venir pourraient bien concrétiser cette promesse… avec quelques décennies de retard sur les prédictions des années 1960 ! Le passé sera-t-il garant de l’avenir ? Nombre d’études démontrent que les avancées de la technologie n’ont pas provoqué l’hécatombe que plusieurs annonçaient pour le monde du travail. Cet essai présente un survol de multiples aspects et applications de l’ . Comme je le mentionnais au début de l’introduction, je suis tout sauf un expert de cette question. Cela étant, au cours des dernières années, j’y ai consacré une partie importante de mon temps et de mes énergies à tenter de saisir certains des enjeux sociaux et environnementaux de cette technologie. Je vous propose le regard critique d’une personne qui, sans être un disciple, accueille avec enthousiasme plusieurs des promesses de cette technologie, mais qui reste bien consciente des défis qui nous attendent. Il s’agit également du regard d’un père qui se pose beaucoup de questions quant à ce que l’avenir réserve à ses enfants et, je l’espère, à ses petitsenfants. Le regard d’un citoyen qui estime qu’il vaut mieux prévenir que guérir. Ce livre offre, hélas, bien peu de certitudes et pose beaucoup plus de questions qu’il ne fournit de réponses, cela peut-être parce que nous ne sommes encore qu’au début de cette aventure…

I Le bon

Comme je le mentionnais dans l’introduction, je suis de ceux et celles qui croient que nous retirerons plusieurs avantages de l’intelligence artificielle ( ). En fait, nous commençons déjà à en voir certains, notamment dans le secteur de l’énergie, ainsi qu’en santé, et ce, bien que nous n’en soyons qu’au début de l’application de cette technologie. De plus, les recherches que j’ai menées en prévision de ce livre au cours des dernières années indiquent très clairement de multiples avantages dans le domaine des transports, dont un parc de véhicules beaucoup moins polluants, mais également une réduction importante du nombre d’accidents sur nos routes. Voyons comment tout cela se matérialisera.

D

’

’

Imaginez un monde où la possession d’un véhicule serait chose du passé et où nos déplacements seraient le fruit d’un savant mélange de transports actifs, soit la marche ou le vélo pour les courtes distances, de transports en commun largement automatisés et de véhicules autonomes. Un monde où nous n’aurions plus besoin, pour nos déplacements en voiture, que d’un téléphone intelligent et d’un abonnement à un service d’autopartage automatisé. Il suffirait de faire la demande de service et, en quelques minutes, une voiture serait à notre porte et nous emmènerait à destination pour une fraction du coût d’un déplacement aujourd’hui. Chemin faisant, cette voiture ferait probablement quelques arrêts pour prendre d’autres passagers ou passagères et pour les laisser descendre. Il n’y a pas si longtemps encore, l’idée de la voiture autonome relevait de la science-fiction ; ce n’est plus le cas. Plusieurs constructeurs d’automobiles testent déjà des véhicules autonomes sur les routes un peu partout sur la planète. Avec l’électrification des transports, nous allons assister à la naissance d’un mode de transport dit « intelligent » ou « autonome », dans lequel le rôle de l’humain en matière de conduite ira en décroissant, jusqu’à même disparaître, pour être remplacé par celui d’utilisateur-passager. Quel lien doit-on établir entre « électrification » et « automatisation » ? En gros, la première est nécessaire à l’arrivée de la seconde : afin d’avoir un parc de véhicules autonomes qui pourront circuler dans nos rues et sur nos routes, nous avons besoin d’électrifier d’abord nos transports. Toutes les

entreprises travaillant à la conception de véhicules autonomes le font sur la base du véhicule électrique pour plusieurs raisons. D’abord, il faut noter que la technologie du véhicule électrique n’est pas aussi récente qu’on pourrait le penser. J’ai eu la chance de visiter le musée privé sur les transports de la famille Rockefeller, dans le nord de l’État de New York, voilà quelques années. Quelle ne fut pas ma surprise d’y découvrir que la femme d’Henry Ford (l’inventeur de la fameuse Ford T, première voiture produite en série), Mme Clara Ford, conduisait elle-même… une voiture électrique en 1914 ! Il semble que Mme Ford estimait que les voitures à essence étaient à la fois bruyantes et très polluantes. L’histoire ne dit pas ce que l’inventeur de la voiture de masse à essence pensait du fait que sa femme conduisait une voiture électrique.

Voiture de la Detroit Electric, modèle 47 Brougham, 1914. © Droits réservés

Comme la voiture à essence a régné sans partage sur nos routes pendant des décennies, l’idée de e siècle. C’est dans les années 1970, alors l’électrification a été négligée durant une bonne partie du qu’on commence à se préoccuper, d’une part, de la diminution éventuelle des réserves de pétrole et,

d’autre part, de la protection de l’environnement, que s’amorce un mouvement pour relancer la recherche et le développement du mode de propulsion électrique. Il faut par ailleurs comprendre que le moteur électrique est beaucoup plus efficace pour transformer l’énergie en mouvement que ne l’est le bon vieux moteur à combustion interne, ce dernier ayant un rendement d’à peine plus de 20 % contre environ 75 % pour le moteur électrique. Donc, à quantité d’énergie égale, le moteur électrique assure presque quatre fois plus de déplacements que son pendant à essence. Imaginez un peu : chaque fois que l’on met un dollar d’essence dans une voiture, seulement 20 cents de ce dollar iront au déplacement, ce qui est pourtant la fonction principale du véhicule, et 80 cents de notre même dollar se perdent en chaleur ! Un autre des avantages de la voiture électrique sur la voiture à essence est la possibilité pour la première de se recharger seule, sans aucune intervention humaine, alors qu’une voiture à essence a absolument besoin d’un humain pour être ravitaillée en carburant. Comme nous pouvons le voir sur la photo ci-dessous, la voiture autonome pourra très bien se recharger seule grâce à des stationnements prévus à cet effet et équipés de bornes de recharge par induction.

Une borne de recharge sans fil. © BMW

Ce type de borne, semblable à celle que l’on voit de plus en plus pour les téléphones intelligents, paraît être la solution technologique que privilégient plusieurs constructeurs automobiles, une telle borne ne nécessitant aucun câble pour la recharge ni quelque intervention humaine que ce soit : il suffit de stationner la voiture au-dessus et la recharge commence automatiquement. La borne est, bien sûr, branchée

au réseau électrique, mais la voiture, elle, n’a pas besoin d’être branchée à la borne pour pouvoir être rechargée (la recharge se fait par induction). Une fois refait le plein d’énergie, la voiture peut repartir. La combinaison électrification-automatisation des transports présente de grands avantages pour nos sociétés. Le premier est qu’elle entraînera une diminution considérable de la pollution atmosphérique, qui tue, chaque année, plus de 5 millions de personnes14, associé à une réduction des

, le secteur des

transports est responsable de 14 % des émissions globales annuelles. Un autre avantage concerne les accidents de la route. Chaque année, plus de 1,35 million de personnes perdent la vie dans un accident de la route et de 20 à 50 millions sont blessées15. La voiture autonome n’éliminera pas tous les accidents, mais on estime que leur nombre connaîtra une baisse marquée, de l’ordre de 90 % selon des experts. Ce pronostic semble se confirmer dans la réalité si l’on en croit les expériences qui ont été faites à ce jour. Ainsi, certaines fonctions de pilotage automatique ont permis aux voitures de la marque Telsa équipées de ce système de réduire de 40 % les accidents depuis 201516 ! Tout cela ne pourra évidemment pas se produire du jour au lendemain. Dans un premier temps, qui dit automatisation des transports, dit utilisation de l’ pour assister les humains dans la conduite des voitures, au moyen, par exemple, d’un système d’alerte de distance qui nous informe de la proximité d’autres voitures ou encore d’un avertisseur de sortie de voie. Nous verrons plus loin comment cela nous mènera graduellement vers un mode de transport de plus en plus autonome. Mais avant, attardons-nous à la transition énergétique qui arrive à grands pas… Pétrole et voiture : la fin d’une vieille histoire d’amour ? Dans son numéro du 12 août 2017, le célèbre journal britannique The Economist annonce la fin proche du e siècle. La voiture à essence sera moteur à combustion interne17, ce dernier ayant régné sur le remplacée, au cours des prochaines années, par la voiture électrique, et ce mode de propulsion sera de plus en plus utilisé pour l’ensemble des transports : autobus, camionnage, train, etc. L’aviation sera probablement le dernier bastion du moteur à essence. Il ne s’agit pas là d’une mince affaire. Ce progrès technique n’est pas sans analogie avec une autre innovation, ancienne celle-là. Bien que les experts ne s’entendent pas tous, la domestication du cheval remonterait à quelque 4 000 ans avant notre ère. Par conséquent, l’humanité a utilisé cet animal comme principal mode de transport, autant pour les promenades que pour le travail et l’agriculture, pendant près de 6 000 ans. Mais, comme les photos suivantes l’illustrent à merveille, il n’aura fallu qu’à peine 13 ans pour que soit délaissé de façon irréversible un mode de transport vieux de plusieurs millénaires ! Imaginez un peu la scène : vous êtes en 1900, vous venez d’inventer un modèle de voiture à essence et vous affirmez haut et fort que ces voitures vont remplacer le cheval pour les déplacements, et ce, dans un avenir prochain… Vous auriez certainement fait rire de vous ! Et pourtant…

New York en 1900. © US National Archives

New York en 1913. © George Grantham Bain Collection, Library of Congress

Comme l’affirmait The Economist, la transition de la voiture à essence à la voiture électrique est déjà bien amorcée. La Norvège a annoncé son intention d’interdire la vente de voitures à essence à partir de 2025. L’Allemagne envisage de le faire en 2030, la France et la Grande-Bretagne visent respectivement 2040 et 2050… et même la Chine a indiqué qu’elle prévoyait le faire d’ici 2040 ! Ces interdictions de vente ne signifient pas pour autant la fin de l’usage des voitures à essence, mais, une fois qu’on aura cessé d’en vendre dans l’ensemble des pays de la planète, il est plus que probable que leur utilisation ne se prolongera pas très longtemps. On ne peut parler de la percée récente des véhicules électriques sans parler de l’entreprise Tesla et d’Elon Musk, un de ses fondateurs. Le succès de Tesla relève du petit miracle dans la mesure où il s’agit du premier constructeur automobile qui réussit à percer depuis plus d’un siècle au-delà de la fabrication artisanale et qui, en outre, s’est entièrement consacré à la construction de voitures électriques. Tesla a réussi à s’imposer comme le standard en matière de voiture électrique, notamment par une clientèle composée de célébrités et personnalités qui sont en quelque sorte devenues des ambassadeurs et ambassadrices de la marque. Dans une entrevue, l’analyste financier Alexander Potter, de la société de courtage Piper Jaffray, décrit à merveille l’effet qu’a eu Tesla sur le secteur de l’automobile : « Tesla engendre l’optimisme, la liberté, la défiance et tout un paquet d’autres émotions que les autres entreprises, à notre avis, n’arrivent pas à reproduire18. » La Tesla arrive en tête de liste des voitures les plus appréciées année après année19, même si l’entreprise continue de connaître des difficultés au chapitre de la production et de la fiabilité. Le constructeur a même réussi l’exploit, en avril 2017, de dépasser la valeur boursière de , une entreprise pourtant centenaire qui produit près de 10 millions de voitures par année, alors que la production de Tesla atteint à peine 250 000 exemplaires par année ! Devant la popularité croissante des véhicules électriques, la grande majorité des constructeurs automobiles se tournent maintenant vers l’électricité. Volvo a annoncé qu’il ne produirait plus que des véhicules électriques ou hybrides rechargeables à partir de 201920. projette, quant à lui, de se lancer

dans la production de masse de véhicules électriques d’ici 2020 (secteur ne représentant que 3 % des ventes présentement) et a annoncé des investissements de plus d’un milliard de dollars dans les batteries. L’entreprise allemande entend également offrir 12 modèles électriques différents d’ici 2025. De son côté, le groupe (Opel, Citroën et Peugeot) prévoit électrifier tous ses modèles d’ici 2024. General Motors ( ) n’est pas en reste puisqu’elle vise, à terme, à ne produire que des véhicules électriques, sans toutefois fournir d’échéancier précis. Néanmoins, le géant américain prévoit offrir une vingtaine de modèles électriques d’ici 202321. La transformation du secteur sera donc historique. Le virage est pris. La Norvège offre un exemple intéressant d’une évolution rapide en matière d’électrification des véhicules. En effet, les ventes de dans ce pays, comparable à plusieurs égards au Québec (climat, économie, population), atteignent déjà 45 % des nouveaux véhicules vendus (cette proportion grimpe à 22). 60 % si l’on inclut les Bien sûr, les incitatifs pécuniaires à l’achat d’un , comme les subventions qu’offrent actuellement la Norvège, plusieurs pays européens, la Californie, le Québec et bien d’autres, contribuent certainement à l’engouement pour les . Cependant, ces avantages fiscaux vont à terme prendre fin au cours des prochaines années. Assistera-t-on alors à un ralentissement des ventes ? On peut penser que l’abandon de ces incitatifs sera largement compensé par la baisse anticipée des prix des . La puissance des batteries va également continuer d’augmenter, tandis que leur prix devrait diminuer de moitié d’ici à 202523. Par ailleurs, le faible coût d’utilisation du véhicule électrique constitue un avantage non négligeable par rapport aux véhicules à combustion interne. Le tableau comparatif établi par mes anciennes collègues du groupe écologiste Équiterre montre bien la différence importante entre les coûts d’utilisation d’une voiture à essence et ceux d’une voiture électrique (voir le tableau 1). À l’évidence, les progrès de la technologie et la baisse de son prix de vente rendront la voiture électrique encore plus attrayante qu’elle ne l’est déjà. Qui voudra alors acheter une voiture à essence dont les coûts d’achat, d’utilisation et d’entretien dépassent ceux de la voiture électrique de plusieurs milliers de dollars par année ? Des énergies de plus en plus vertes La liste d’experts, d’analystes et d’études qui, comme The Economist, annoncent la fin proche des combustibles fossiles s’allonge pratiquement de jour en jour. Déjà, en 2016, la firme Bloomberg New Energy Finance (qui, comme son nom l’indique, est la propriété de l’ancien maire de New York, le philanthrope et milliardaire Michael Bloomberg) faisait état du déclin rapide des combustibles fossiles. Cette fin sera le résultat, d’une part, de la baisse des coûts de production des énergies renouvelables, comme l’énergie solaire et l’énergie éolienne, et, d’autre part, de la progression de l’électrification des transports. L’effet combiné de ces facteurs entraînera un recul grandissant de la demande pour les combustibles fossiles, en particulier pour le pétrole24. La figure 1 montre, à gauche, la baisse des coûts de production de l’énergie solaire et, à droite, l’augmentation, exponentielle, de la production Notons qu’un mégawatt peut alimenter en électricité environ 1 000 habitations.

LES DIFFÉRENTS TYPES DE VÉHICULES ÉLECTRIQUES (VE) Hybride Le véhicule hybride ( ) de base fonctionne à l’essence, mais son moteur est assisté par un groupe propulseur électrique, qui permet de réduire la consommation de carburant. Il peut également être équipé de technologies permettant de récupérer l’énergie de freinage afin de faciliter le départ. Le VH de base ne peut fonctionner sans essence. Hybride rechargeable Le véhicule hybride rechargeable ( ) est à mi-chemin entre le véhicule hybride de base et le véhicule électrique à batterie, en ce sens qu’il est équipé d’un moteur fonctionnant à l’essence ou au diesel et d’une batterie qui peut être rechargée en étant branchée sur le réseau électrique. Selon la taille de la batterie, certains modèles de VHR peuvent avoir une autonomie de 40, voire de 50 kilomètres, en mode entièrement électrique. Une fois la charge de la batterie pratiquement épuisée, le moteur à combustion interne prend le relais. Entièrement électrique Comme son nom l’indique, le véhicule entièrement électrique ( ), aussi appelé véhicule électrique à batterie ( ), fonctionne exclusivement grâce à l’électricité contenue dans la batterie. L’autonomie de la voiture étant liée à la capacité de stockage de la batterie, certains modèles ne peuvent parcourir plus d’une centaine de kilomètres avant d’avoir besoin d’être rechargés, tandis que d’autres ont une autonomie qui dépasse les 500 kilomètres.

TABLEAU 1. COÛTS D’ACHAT ET D’UTILISATION D’UNE VOITURE ÉLECTRIQUE ET D’UNE VOITURE À ESSENCE

© Équiterre

FIGURE 1. ÉVOLUTION DES PRIX ET DE LA PRODUCTION DE L’ÉNERGIE SOLAIRE

© Bloomberg New Energy Finance

FIGURE 2. ÉVOLUTION DE LA PUISSANCE ÉOLIENNE RACCORDÉE CUMULÉE, DANS LE MONDE, 1996-2016

© Adaptée de Global Wind Energy Council (

), 2017.

La courbe de croissance de l’énergie éolienne (figure 2) est moins rapide que celle de l’énergie solaire, mais la production totale est très importante, puisque, dans le cas de l’éolien, la production

mondiale se calcule en milliers de mégawatts (soit des gigawatts). Selon les analystes de Bloomberg, le déclin de la consommation des combustibles fossiles et, conséquemment, de leur exploitation commencera entre 2027 et 2030. Et le charbon semble bien être… le canari dans la mine, c’est-à-dire le premier des combustibles fossiles qui disparaîtra de notre portefeuille énergétique, après y avoir été dominant pendant près de 200 ans. On note que la proportion d’électricité produite grâce au charbon diminue d’année en année chez nos voisins américains, où la consommation de charbon a chuté de 44 % entre 2007 et 201825. Cette situation n’est pas le propre des États-Unis ; en effet, une étude publiée en mars 2019 par l’ Global Energy Monitor souligne une diminution mondiale de 84 % des mises en chantier de nouvelles centrales au charbon depuis 201526. Donald Trump ayant été élu à la tête du gouvernement américain en 2016, vous vous demandez probablement ce qu’il advient du charbon depuis son élection. N’a-t-il pas promis, au cours de sa campagne électorale, de « ramener le charbon » (bring back coal) ? Eh bien, la part du charbon dans la production électrique a continué de diminuer, passant sous la barre des 30 %, et la descente se poursuit ! Le marché est plus fort que la démagogie du président. Et la situation est encore plus critique du côté de l’emploi dans cette industrie, qui comptait plus de 170 000 employés en 1985 alors qu’il n’en restait plus que quelque 50 000 en 201527. Les raisons du ralentissement de l’utilisation des combustibles fossiles sont nombreuses : baisse accélérée du coût des énergies renouvelables, électrification des transports, préoccupations environnementales, acceptabilité sociale des projets d’hydrocarbures (comme nous avons pu le voir avec le projet d’oléoduc Énergie Est au Québec, avec Keystone

aux États-Unis, ou encore en France avec la

question des gaz des schistes), etc. Ce secteur est également frappé par la robotisation et les progrès de l’ , deux facteurs qui agissent directement sur son efficacité, mais au détriment des emplois… Rien pour aider M. Trump à remplir sa promesse. Ainsi, non seulement la part du charbon dans le portefeuille énergétique mondial diminue, mais ce secteur fait appel à de moins en moins de personnes, alors que de plus en plus de travailleurs sont remplacés par des machines, et le phénomène ne date pas d’hier. Une étude28 de la réputée Brookings Institution publiée en 2017 montre bien que la tendance à l’automatisation et l’ secteurs).

ne feront qu’accélérer ce virage dans le secteur minier (comme dans tant d’autres

Voici d’ailleurs à quoi ressemblera le camion du futur, un futur très proche, pour le secteur des mines :

Camion électrique automatisé de la compagnie Komatsu © Wayne Grayson/Equipment World

Voyez-vous une cabine pour un conducteur ou une conductrice ? Ce camion de la compagnie japonaise Komatsu est entièrement automatisé et, qui plus est, il fonctionne à l’électricité ! La compagnie pétrolière canadienne Suncor, l’un des plus importants acteurs dans le secteur des sables bitumineux, a annoncé, au début de 2018, qu’elle fera l’acquisition de 150 de ces camions. Ils serviront à transporter les sables bitumineux vers les points de raffinage. Les camions utilisés actuellement exigent des coûts d’entretien très élevés, notamment en raison des habitudes de conduite variables des différentes personnes qui manœuvrent ces mastodontes. Remplacer la transmission de ce type de camion peut coûter plusieurs dizaines de milliers de dollars, sans compter que le véhicule est hors service pendant plusieurs semaines. En achetant des camions automatisés au mode de conduite optimal, Suncor prévoit réduire considérablement ses coûts d’exploitation et éliminer 400 emplois au passage29. Quand même les pétrolières se mettent aux véhicules électriques, il est peut-être temps que nous y songions sérieusement, nous aussi ! Voici un autre exemple. En 2016, le

d’une importante mine de charbon en Australie, Jeyakumar

Janakaraj, déclarait à propos du projet d’expansion de ladite mine : « Pour accroître la production de la mine, toutes les opérations seront autonomes, de la mine jusqu’au port. À notre avis, il s’agit de la mine du futur30. » Il faut savoir que l’Australie est le premier exportateur de charbon au monde et que ce que M. Janakaraj nous dit, sans vraiment le dire, c’est que, pour un projet d’expansion d’une mine de charbon de 16 milliards de dollars, il n’y aura pratiquement aucun emploi créé puisque, de la mine au port (d’exportation), l’ensemble des nouvelles opérations seront assurées par des systèmes automatisés. Outre

les camions automatisés, les technologies de plus en plus utilisées incluent des excavatrices, des trains et de l’équipement de forage qui sont totalement ou en partie automatisés. Donald Trump peut bien blâmer Barack Obama pour les pertes d’emplois dans l’industrie du charbon autant qu’il le veut. Il est pourtant facile de constater que celle-ci périclitait depuis bien avant l’arrivée du président Obama ; Trump aura beau promettre de la ressusciter, tout porte à croire que ce sera une autre promesse rompue. La réalité économique est en train d’avoir raison de ce secteur, et M. Trump n’y changera rien ! Signe du déclin de la pertinence et de l’état de cette industrie aux États-Unis, comme vous pouvez le voir sur la photo qui suit, même le Musée du charbon du comté de Harlan, au Kentucky, a maintenant sur son toit une série de… panneaux solaires31. Ça ne s’invente pas !

Panneaux solaires sur le toit du Kentucky Coal Mining Museum © Bluegrass Solar

Les gestionnaires du musée, devant l’ironie de la situation, ont expliqué que cette décision s’appuyait sur des raisons purement économiques : grâce à ce système d’énergie solaire, le musée économisera entre 8 000 $ et 10 000 $ par année, une somme non négligeable pour un établissement de ce genre. Vous pourriez rétorquer qu’il ne s’agit que d’une anecdote, aussi savoureuse soit-elle. Néanmoins, un virage symbolique se cache derrière cette histoire, car c’est dans ce comté que l’industrie du charbon a vu le jour aux États-Unis il y a plus de 200 ans. Certains experts sont encore plus audacieux que Bloomberg New Energy Finance dans leurs prédictions concernant le recul des combustibles fossiles. C’est notamment le cas de Tony Seba, professeur à l’Université Stanford, auteur et conférencier réputé. Il a publié, en 2017, une étude qui a eu l’effet d’une bombe32. Expert dans les questions de perturbations technologiques des marchés, M. Seba y conclut que :

La production de pétrole va plafonner, en 2020, à 100 millions de barils par jour (elle atteignait, à la fin de 2018, autour de 96 millions de barils par jour). Elle diminuera jusqu’à 70 millions de barils par jour en 2030, créant une crise majeure à la fois chez les pétrolières et dans les grands pays producteurs de pétrole, Canada compris ; D’ici 2030, 95 % de la population américaine ne possédera plus de voiture personnelle. Seba prévoit que le véhicule individuel aura largement été remplacé par une armée de voitures électriques et autonomes ; Argument massue, la diminution du coût des transports pour les ménages américains sera de plus de 5 000 $ par année, soit l’équivalent d’une augmentation de 10 % du salaire moyen ; Jusqu’à 70 % moins de véhicules seront fabriqués chaque année aux États-Unis. Toujours selon Tony Seba, la transformation du secteur de l’automobile pourrait entraîner une baisse de la demande de produits pétroliers dès 2021. C’est pratiquement demain matin ! Un rêve, vous dites ? Le 26 novembre 2018, General Motors (

) annonce, à la grande stupeur de son personnel, l’abolition de

plus de 14 000 emplois dans ses usines d’Amérique du Nord. Le géant de l’automobile affirme alors « réagir à un marché en évolution et souhaite se concentrer davantage sur des véhicules moins énergivores, ce qui inclut un portefeuille de voitures électriques et autonomes33 ». Le choc est particulièrement violent pour les travailleurs de l’usine de de 3 000 emplois.

d’Oshawa, en Ontario, dont la fermeture entraînera la perte de près

L’industrie de l’automobile l’avoue elle-même, les beaux jours sont derrière : les ventes commencent à diminuer et les progrès technologiques s’accélèrent. Mais quel lien y a-t-il entre l’abolition de milliers d’emplois et le virage vers des véhicules électriques et autonomes ? Le constructeur explique qu’il aura besoin de liquidités afin d’investir dans la conception et la production de véhicules électriques et autonomes et il semble que le meilleur moyen qu’il ait trouvé pour obtenir ces liquidités est de mettre à la porte des milliers d’employés… D’un point de vue purement capitaliste, cette logique est probablement implacable, mais j’aime penser que nous pourrions faire autrement et faire mieux ; je crois que la transition énergétique doit aussi être empreinte d’équité – j’y reviendrai. En février 2019, des voitures autonomes étaient à l’essai (ou sur le point de l’être) dans plus de 120 villes dans le monde34. Il est ici bien sûr question de projets pilotes et non pas de voitures offertes sur le marché. Plusieurs de ces villes sont en Chine ou aux États-Unis, mais des villes de France, de GrandeBretagne et du Canada (Ottawa, Montréal et Edmonton) prennent aussi part à de tels projets. Montréal est de ce nombre avec un projet pilote dans la municipalité de Candiac, en collaboration avec l’entreprise française Navya35. Le projet vise à déterminer les modifications à apporter au Code de la sécurité routière pour favoriser l’intégration de la voiture autonome. À cela s’ajoutent une trentaine de villes qui ont amorcé des démarches afin d’étudier les éléments nécessaires à l’arrivée des voitures autonomes (cadre réglementaire, aménagement urbain et gouvernance), mais sans prendre l’engagement de mettre ces

voitures sur leurs routes, du moins pas à court terme. Cette liste a des chances d’augmenter rapidement si l’on se fie à l’engouement pour la technologie. Sans vouloir faire un mauvais jeu de mots, nous assistons à une véritable course afin de déterminer quelles seront les premières entreprises à commercialiser ces voitures autonomes ? Sur la ligne de départ, on retrouve, bien sûr, des constructeurs « traditionnels », entre autres Ford, Toyota,

ou encore

,

mais également des entreprises technologiques tels Google, Uber, Apple et plusieurs autres. On dénombre un peu plus d’une quinzaine d’entreprises dans le peloton de tête.

AUTONOMIE EN BREF Mais de quoi parle-t-on exactement lorsqu’il est question de voitures autonomes ? En 2013, la National Highway Traffic Safety Administration ( ), une agence américaine chargée de la sécurité routière, a publié un guide où elle proposait une classification des différents niveaux d’autonomie, mais elle a récemment abandonné cette classification pour adopter celle de la Society of Automotive Engineers ( International) comportant six niveaux d’autonomie. En voici un résumé. Niveau 0 : Aucune autonomie Eh oui, le premier niveau est le 0, au sens où la voiture ne possède aucune fonction d’automatisation et elle est entièrement entre les mains de sa conductrice ou de son conducteur. Les voitures de niveau 0 peuvent posséder certaines fonctions aidant à la conduite, tel le système de surveillance des angles morts, mais elles n’ont pas la capacité d’intervenir dans la conduite. Niveau 1 : Conduite assistée L’humain contrôle toujours totalement la voiture, mais celle-ci est dotée de certaines fonctions pouvant aider à la conduite et contribuer à prévenir les accidents, comme l’assistance de freinage ou un régulateur de vitesse adaptatif. À ce niveau, il n’y a aucune interaction entre les différentes fonctions de la voiture. Permettez-moi ici une anecdote personnelle. J’ai loué récemment une voiture pour le travail, n’en possédant pas une moimême, car je devais donner une série de conférences dans différentes villes du Québec. Je roulais sur l’autoroute en mode régulateur de vitesse lorsque, tout à coup, la voiture s’est mise à ralentir sans raison apparente. Comme il s’agissait d’une voiture presque neuve, un bris était peu probable. Je ne m’en suis pas trop préoccupé et j’ai poursuivi ma route. Mais voilà que, le lendemain, le phénomène s’est reproduit quelques fois. Je constatais cependant que la voiture finissait toujours par reprendre sa vitesse de croisière initiale. J’ai fini par comprendre que le régulateur de vitesse était en fait un régulateur de vitesse adaptatif, c’est-à-dire qu’il va ralentir la vitesse de la voiture si je suis de trop près un autre véhicule et qu’il va reprendre sa vitesse une fois que le champ est libre (l’icône sur la photo qui suit est utilisée pour illustrer cette fonction – et non, je n’ai pas pris cette photo alors que je conduisais, ma conjointe s’en est chargée).

Système de régulateur de vitesse adaptatif © Claude Thomassin

Niveau 2 : Autonomie partielle Au niveau 2, on commence à voir apparaître une interaction entre les systèmes de la voiture. Par exemple, le régulateur de vitesse adaptatif pourra interagir avec le système de suivi de voie. L’humain est encore aux commandes de la voiture, mais cette dernière offre certaines possibilités d’assistance plus importantes. Niveau 3 : Autonomie conditionnelle Les différents systèmes d’aide à la conduite sont capables de commander la voiture de façon quasi autonome, mais le contrôle humain est toujours nécessaire. La personne au volant sera avertie par le système de conduite automatisé en cas de problème possible, comme l’approche d’une zone de construction. La différence importante entre les niveaux 2 et 3 est que le conducteur ou la conductrice peut maintenant céder l’ensemble des opérations de conduite et de sécurité au véhicule. Niveau 4 : Haut niveau d’autonomie En fonction de certaines conditions, le véhicule est capable de remplir toutes les fonctions de conduite de façon sécuritaire, l’humain peut avoir le choix de commander le véhicule. Niveau 5 : Autonomie complète À ce niveau, le véhicule peut fonctionner seul dans n’importe quelle condition. Et, première mondiale, la a statué, en 2016, que le système de conduite automatisé de Google pouvait être considéré comme un conducteur ou une conductrice36 au sens de la loi.

Source : National Highway Traffic Safety Administration, Automated Driving System 2.0 : A Vision for Safety, U.S. Department of Transportation, 2017, www.nhtsa.gov/sites/nhtsa.dot.gov/files/documents/13069aads2.0_090617_v9a_tag.pdf.

Voici à quoi ressemblent actuellement certains de ces modèles :

La Waymo, de l’entreprise Alphabet (une division de Google) Source : Waymo

Le modèle autonome de Ford © Ford

Le modèle autonome de Toyota © Toyota

L’illustration qui suit indique les différents composants des voitures autonomes.

Voiture autonome © Sciences en ligne

Les voitures autonomes sont-elles sécuritaires ? J’ai déjà mentionné le nombre de victimes d’accidents de la route ; en fait, c’est la première cause de mortalité chez les jeunes de 15 à 29 ans. À cela s’ajoutent des millions de blessés. Il est vrai, par ailleurs, que le nombre d’accidents est beaucoup plus élevé dans les pays en voie de développement qu’il ne l’est dans les pays industrialisés. La question de la sécurité routière devenant une préoccupation majeure, plusieurs pays ont lancé des campagnes et des programmes de sensibilisation, adopté des lois et des règlements de plus en plus sévères (notamment quant à la vitesse, le taux d’alcoolémie et plus récemment l’usage du téléphone au volant), afin de prévenir toutes ces « fatalités routières ». La plupart des experts s’entendent généralement sur le fait que les quatre principales causes d’accidents de la route sont : 1. la distraction ; 2. la fatigue ; 3. l’alcool et la drogue ; 4. la vitesse. Bien qu’ils existent, les accidents dus à des défaillances mécaniques sont plutôt rares. J’ai souligné précédemment que certaines technologies d’automatisation dont sont dotées les voitures Tesla avaient déjà permis de réduire de 40 % le nombre d’accidents impliquant ces véhicules, mais on ne

parle pas encore ici de voitures entièrement autonomes. Il y a bien eu, jusqu’à maintenant, quelques accidents, certains mortels, ayant mis en cause des voitures autonomes, dont le plus tristement célèbre est celui qui a touché une voiture d’essai automatisée Tesla, en Floride en 2016. La collision s’est produite alors qu’un camion effectuait un virage à gauche devant la voiture ; ni celle-ci ni le conducteur n’ont freiné. Le conducteur de la Tesla a, hélas, perdu la vie. L’homme en question était un entrepreneur en technologie, qui testait cette voiture et qui aurait même affirmé qu’elle lui avait sauvé la vie à au moins une occasion. À la suite de son enquête, la

a conclu que l’« erreur humaine37 » ainsi que le système de

pilotage automatique de la compagnie Tesla étaient en cause. Il faut souligner le fait que le manuel d’utilisation de cette voiture spécifiait que le mode de pilotage automatique ne devait être activé que sur les autoroutes, non pas en milieu urbain. Donc, le conducteur aurait dû être plus attentif et le système de pilotage automatique plus alerte pour détecter ce qui se passait sur la route et y réagir. Tesla a, par la suite, fait des ajustements à son système afin d’éviter que ce genre de problème ne se produise à nouveau. Cet événement soulève un enjeu important quant aux voitures autonomes de niveaux 3 et 4 dans la mesure où la personne derrière le volant doit demeurer vigilante, alors que la voiture accomplit presque tout le travail… Or, on sait combien il est facile, pour les humains, de relâcher leur attention, de se laisser distraire par une chose ou une autre ou encore d’avoir envie de regarder leur téléphone ! Plusieurs accidents moins graves sont survenus, dont un en Arizona impliquant une voiture autonome d’Uber38 en septembre 2017, ainsi qu’un autre à Los Angeles avec une navette de la compagnie française Navya en novembre 2017. Dans le cas d’Uber, la police locale a indiqué que la voiture automatisée n’était pas responsable de cet incident (facteur humain en cause). Dans le cas de Navya, un camion de livraison n’aurait pas remarqué la navette et l’a égratignée en reculant ; le système de navigation de la navette aurait été trop lent à réagir. Vous me voyez venir… Il semble que la technologie d’automatisation de la voiture soit de plus en plus au point, mais que, durant la transition entre un parc de voitures conduites par des humains et un parc de voitures commandées par ordinateur, la cohabitation risque de poser certains problèmes. Remarquez, si l’on devait se contenter d’une baisse de 40 % des accidents à court terme, ce serait déjà une excellente chose ; 40 % de 1,35 million de victimes de moins par année, soit 540 000 personnes, c’est quand même beaucoup de monde ! L’une des entreprises phares dans le domaine de l’automatisation des transports est sans aucun doute la société israélienne Mobileye, acquise en 2017 pour la modique somme de 15 milliards de dollars par le géant de l’électronique Intel. Comme son nom l’indique, Mobileye a développé des dispositifs de détection utilisés par les voitures autonomes, mais également par des voitures conventionnelles dotées de certains composants d’autonomie. À l’époque, plusieurs experts ont sourcillé devant ce prix jugé exagéré, mais ces mêmes experts se sont ravisés lorsqu’à la fin de 2018 une rumeur s’est mise à courir sur le fait que les systèmes de Mobileye seraient installés sur plus de huit millions de véhicules d’ici 2022… « Rien ne sert de klaxonner, la voiture ne peut pas vous entendre ! »

Je vais vous faire une confidence : je suis quasi religieusement le Code de la sécurité routière lorsque je me trouve derrière le volant (bon, à pied ou à vélo, j’ai parfois un comportement moins exemplaire…). Je roule en deçà de la vitesse permise, je garde mes distances, je ralentis au feu jaune… À tel point que j’en suis devenu la risée de ma famille. Mais comme dit si bien mon père : « Si on vaut pas une risée, on vaut pas grand-chose ! » Il m’est même arrivé de me faire menacer de « me ramasser dans le fossé » parce que je ne roulais pas à la vitesse souhaitée par un automobiliste, de toute évidence très pressé, qui ne pouvait attendre la prochaine zone de dépassement pour me doubler, alors que nous étions engagés sur une route secondaire. Les Canadiens ont pourtant une très bonne opinion de leurs habitudes de conduite : en effet, 95 % d’entre eux considèrent qu’ils sont de bons conducteurs. Ils sont toutefois nombreux (93 %) à avouer avoir eu au moins une mauvaise habitude de conduite dans un passé pas trop lointain. C’est ce qui ressort d’un sondage réalisé en juillet 2017 par la compagnie d’assurances Belairdirect, avec l’aide de la firme Léger39. Ce sondage nous apprend que : 59 % mangent en conduisant ; 19 % ont conduit avec les facultés affaiblies ; 9 % se coiffent ou se maquillent au volant ; 3 % se passent la soie dentaire tout en conduisant (faut le faire, quand même, j’ai de la misère à y arriver quand je suis devant le miroir !). La situation est semblable chez nos voisins du Sud, où 60 % des conducteurs et conductrices avouent lire au volant (généralement sur leur téléphone cellulaire), 52 % rapportent avoir mangé un repas complet et 20 % disent s’être maquillés40. On relève aussi ce genre de comportements de l’autre côté de l’Atlantique, où 46 % des Suédois affirment parler au téléphone en conduisant. 67 % des Français et des Allemands ont tendance à injurier les autres conducteurs et 25 % des Belges admettent conduire avec une alcoolémie supérieure à la limite41. Bref, j’imagine que je n’apprends rien à personne en soulignant que notre comportement collectif au volant est généralement loin d’être exemplaire. En conséquence, si vous envoyez sur la route un groupe d’automobilistes délinquants et un groupe de voitures autonomes qui suivent à la lettre le code la route, qu’est-ce que vous obtenez ? Des humains impatients qui causent des accidents impliquant des voitures autonomes ! Au-delà des erreurs humaines qui feront toujours partie de la réalité, notre attitude générale derrière le volant entraînera certainement des problèmes de « cohabitation ». Les voitures autonomes seront bien sûr idéales pour ceux et celles qui veulent se maquiller, se coiffer ou passer la soie dentaire en toute quiétude, mais peut-être un peu moins pour les automobilistes trop pressés au pied pesant. Pour ces derniers, les occupants de voitures autonomes représenteront une nuisance contre laquelle ils se feront un devoir de pester, comme j’étais une nuisance aux yeux de mon conducteur impatient. Ils devront pourtant s’y faire. Dans un article intitulé « It’s no use honking : The robot at the wheel can’t hear you » (Rien ne sert de klaxonner, la voiture ne peut pas vous entendre), le journaliste Ryan Beene, de la firme Bloomberg, examine les enjeux entourant la cohabitation entre les automobilistes et les voitures autonomes42. Entre autres choses, il explique que, comme ces dernières ont un comportement différent de celui des humains

au volant, la cohabitation risque d’être difficile, du moins pour un temps. Mais plus il y aura de voitures autonomes, plus les automobilistes s’y habitueront. Le cas du vélo offre probablement un parallèle intéressant. Alors que la pratique du vélo a augmenté de près de 20 % en 20 ans, le nombre de cyclistes victimes d’un accident est à son plus bas depuis que l’on tient ces statistiques. Je me souviens très bien de mes premières expériences cyclistes à Montréal, à la fin des années 1990, une époque où se déplacer en vélo relevait presque du parcours du combattant. Or les automobilistes se sont habitués à voir de plus en plus de cyclistes sur les routes, et je parierais qu’ils s’habitueront également aux voitures autonomes. Quoi, je suis d’accord avec Radio X ? ! En 2017, après qu’un projet de transport en commun a avorté dans la belle ville de Québec, le maire Régis Labeaume a lancé une consultation publique sur la question de la mobilité durable. Les radios-poubelles de la région de Québec s’étaient vivement opposées à tout nouvel investissement dans les transports collectifs, notamment au projet d’un Service rapide par bus (

), estimé à un peu plus d’un milliard de

dollars. Comme c’est souvent le cas pour ce genre d’exercice, des intervenants et intervenantes de tous les horizons ont participé à cette consultation, mais un mémoire en particulier avait retenu mon attention, celui de la station de radio de Québec

-

. Fait assez rare et inusité, je me suis surpris à être d’accord sur

la quasi-totalité des propos tenus par les rédacteurs de ce mémoire43. Si vous ne connaissez pas cette station, sachez qu’elle se distingue par les positions très tranchées et penchant généralement à droite, passablement anti-écolos, qu’on y défend. Je suis d’ailleurs souvent la cible de plusieurs de ses animateurs ! En gros, le mémoire en question livre un plaidoyer en règle pour l’implantation des véhicules autonomes en annonçant, comme je le fais dans cet essai, leur arrivée imminente. On y parle de la voiture de Google, la Waymo, et des stations de recharge électrique pour voitures autonomes. Finis les grands espaces de stationnement et la congestion, puisque de moins en moins de gens voudront posséder leur propre voiture… Bref, j’aurais pu écrire de grandes parties de ce mémoire, n’eût été la recommandation principale des auteurs : comme il y aura de plus en plus de voitures autonomes et électriques sur nos routes, rien ne sert d’investir encore dans le transport en commun. Certes, je suis convaincu que nous allons assister sous peu à la disparition du moteur à combustion interne et même de la place de l’humain derrière le volant de la voiture. Toutefois, nous devons faire beaucoup plus que simplement passer d’une technologie à une autre. J’y reviendrai. Le douloureux dilemme moral de la voiture autonome : qui sauver ? Vous avez déjà vu le film I, Robot (Moi, un robot) inspiré de l’œuvre du géant de la science-fiction Isaac Asimov ? On y suit les aventures du policier Del Spooner, interprété par Will Smith, à Chicago en 2035, alors que les robots sont pleinement intégrés dans la société. Outre l’intrigue principale, on y apprend que le policier souffre d’une forme de robophobie, une aversion pour les robots – eh oui, ça existe, un Institut pour l’étude des relations homme-robots a d’ailleurs déjà été créé44 –, séquelle d’un accident de voiture

dans lequel il a été impliqué. À la suite d’une violente collision, deux automobiles, dont celle, évidemment, de notre héros, ont plongé dans une rivière. Le robot venu alors à leur rescousse, n’ayant que le temps de sauver une personne, a estimé que l’officier Spooner avait de plus grandes chances de survie qu’une petite fille, également submergée à la suite de l’impact. Tiré de l’eau, Spooner en voudra éternellement aux robots pour ce calcul froid et « inhumain ». Cette histoire n’est pas sans lien avec l’un des enjeux majeurs de l’automatisation des transports, soit la programmation des algorithmes qui guideront ces voitures. Cette question est d’une importance capitale et d’une grande complexité, comme le chercheur Jean-François Bonnefon, de l’Université de Toulouse, nous l’a fait découvrir dans une étude publiée dans la revue Science en 201645. Il est déjà établi que, malgré une diminution non négligeable du nombre d’accidents de la route, il continuera d’y en avoir, et les systèmes d’

guidant ces voitures seront parfois aux prises avec des

dilemmes moraux difficiles à résoudre, comme dans le cas du policier Spooner. Par exemple, une voiture autonome pourrait se retrouver dans une situation où, pour sauver plusieurs vies, elle devrait sacrifier celle d’un passant. Et que dire d’un cas où, toujours pour sauver un nombre maximal de vies, la voiture devrait sacrifier son ou ses passagers ? Le professeur Bonnefon et ses collègues de l’Université de l’Oregon et du Massachusetts Institute of Technology ont étudié précisément ces questions dans le cadre de leurs travaux et les résultats ont de quoi laisser tout décideur politique perplexe. À l’aide de différents scénarios, le professeur Bonnefon et ses collègues ont tenté de mieux comprendre l’attitude de la population sur cette question et voici quelques données générales tirées des résultats de cette étude : 76 % des répondants estiment qu’il serait plus moral que meure le passager de l’auto plutôt que les 10 piétons qui circulent (le scénario c de la figure 3) ; Seulement 23 % des personnes interrogées estiment que la voiture devrait sacrifier le passager si seulement une personne devait avoir la vie sauve (le scénario b) ; Le taux d’appui dans le scénario « sacrifice » (scénario où la voiture doit sacrifier le passager de la voiture) diminue lorsqu’un autre membre de la famille se trouve également dans la voiture. FIGURE 3. LE DILEMME MORAL DE LA VOITURE AUTONOME

Source : Jean-François Bonnefon, Azim Shariff et Iyad Rahwan, « The social dilemma of autonomous vehicles », Science, vol. 352, no 6293, 2016, p. 1573-1576, pdfs.semanticscholar.org/8523/20e33132442e1c335b13b88be0f7afa3c080.pdf.

Jusque-là, les réponses données correspondent à ce que l’on peut s’attendre de ce type de questionnaire, c’est-à-dire que, placés devant un choix théorique qui ne leur coûte rien, la plupart des gens ont tendance à donner des réponses conformes aux normes socialement acceptées. Les choses se corsent un peu lorsqu’on demande aux répondants s’ils achèteraient une voiture autonome et, dans l’affirmative, s’ils choisiraient une voiture programmée pour protéger le ou les passagers du véhicule, mais tuant au passage de 10 à 20 personnes, ou plutôt le véhicule programmé pour épargner le nombre maximal de vies, peu importe lesquelles (passager ou passant). C’est là que le dilemme moral prend toute son importance : même s’ils admettent que les voitures autonomes sont plus sécuritaires et qu’elles peuvent contribuer à sauver des vies (et qu’elles devraient le faire), les répondants se disent peu enclins à acheter ce type de voiture. De plus, le désir d’acheter un véhicule programmé pour réduire au minimum les pertes de vies, peu importe lesquelles, diminue selon que l’on est seul à bord ou avec un collègue de travail, pour atteindre son plus bas si un membre de la famille prend aussi place dans la voiture. Cet appui augmente un peu si la voiture est programmée pour privilégier d’abord la vie des passagers, mais demeure malgré tout inférieur aux taux d’appui que ces mêmes personnes ont exprimé pour que ces voitures protègent le nombre maximal de vies. En résumé, les gens reconnaissent le bien-fondé de la programmation des voitures autonomes sauf s’ils doivent être sacrifiés au passage pour le bien d’un plus grand nombre… C’est typiquement humain, vous me direz. Quelles décisions doivent alors prendre les constructeurs de ce type de véhicule, les gouvernements qui auront à édicter les lois et les règlements, de même que les compagnies d’assurances qui devront assurer les voitures autonomes et les individus ?

À la lecture de l’étude du professeur Bonnefon, on découvre également un appui très faible à l’idée que les pouvoirs publics adoptent des lois et des règlements encadrant la programmation des véhicules par les fabricants. À partir de ces constats, plusieurs scénarios sont envisageables : Un acheteur de véhicule autonome pourrait décider lui-même du type d’algorithme dont sa voiture serait équipée, mais en agissant de la sorte, les avantages de l’automatisation des transports, comme la réduction du nombre d’accidents et la diminution de la mortalité, risquent de ne pas être au rendezvous ; Les gouvernements pourraient adopter des lois visant à sauver le maximum de vies, mais, ce faisant, ils freineraient l’essor de ce type de véhicules en effrayant les acheteurs potentiels, ce qui réduirait la possibilité de sauver des vies. On peut imaginer un autre scénario selon lequel la majorité des véhicules n’appartiendraient pas à des propriétaires individuels, mais bien à des entreprises ou encore à des sociétés de transport partagé. Il serait alors plus facile de faire valoir l’importance du bien commun. Comme l’aurait souhaité l’officier Spooner, un véhicule autonome devrait-il être programmé pour tenir compte de l’âge des personnes exposées à un incident ? Si l’on choisit un algorithme favorisant la protection des passagers plutôt que celle des personnes à l’extérieur du véhicule et qu’un accident survient tuant, par exemple, deux piétons, qui devra en assumer la responsabilité ? Le propriétaire de la voiture, le constructeur, la compagnie d’assurances ou encore le gouvernement ? Bien qu’on n’en soit encore qu’au début de la réflexion sur le sujet, les scénarios élaborés par M. Bonnefon et ses collègues ont le mérite de mettre en lumière ce qui devra être l’objet d’une large discussion sociale sur la morale dans les choix des algorithmes et, par conséquent, sur la programmation des véhicules autonomes. Nous disposons heureusement encore d’un peu de temps avant que cette question ne devienne pressante, mais pourquoi ne pas commencer à y réfléchir maintenant, plutôt que d’attendre que le problème frappe à notre porte ? Des voitures individuellement intelligentes, mais collectivement stupides Imaginez un soir où est disputée une partie du Canadien de Montréal, ou des Yankees de New York, ou encore du Paris Saint-Germain. Chacun des stades et des amphithéâtres où jouent ces équipes peut accueillir quelques dizaines de milliers de personnes. Imaginez maintenant que chaque spectateur se rende seul à l’un de ces rendez-vous sportifs, à bord d’un véhicule autonome… On constaterait, certes, plusieurs des avantages liés à l’utilisation de véhicules autonomes électriques (comme la réduction de la pollution et des accidents), mais on aurait aussi, et toujours, droit à des bouchons de circulation monstres malgré la nature « intelligente » de ces véhicules. Heureusement, nous assistons depuis quelques années à l’éclatement du modèle conventionnel de notre système de transport urbain qui, depuis plusieurs décennies, comprend essentiellement trois composantes : l’utilisation d’un véhicule automobile à essence, généralement en mode solo (voiture, moto,

scooter, rickshaw, pour ne nommer que ceux-là), les transports collectifs et le transport actif (marche, vélo, patins à roues alignées, etc.). Selon l’endroit où l’on se trouve dans le monde, l’un ou l’autre de ces modes de déplacement est favorisé au détriment des deux autres. La Chine a longtemps privilégié le transport collectif et le vélo, alors que la voiture jouait un rôle plutôt modeste dans les déplacements. Au cours des deux dernières décennies, cependant, la voiture a pris une place de plus en plus importante dans les moyens de transport chinois, alors que le réseau routier peine à suivre l’évolution de l’utilisation la voiture. En 2010, près de Beijing, un embouteillage a duré neuf jours… Oui, oui, pas neuf heures, neuf jours ! Sans doute le plus grand embouteillage de l’histoire de l’humanité ! À l’opposé, une capitale comme Copenhague, qui, il y a seulement quelques décennies, était une ville où la domination de la voiture était quasi complète, a été entièrement transformée du point de vue de la mobilité. Aujourd’hui, 40 % des déplacements s’y font en vélo et ce pourcentage ne cesse d’augmenter. On estime que plus de 55 % des gens circulent à un moment ou un autre à vélo chaque jour sur les quelque 1 000 kilomètres de pistes cyclables de la zone urbaine. Avec une population 5 fois supérieure à celle de Copenhague, Paris espère avoir 1 000 kilomètres de piste cyclable d’ici 2020 (et atteindre 15 % des déplacements à vélo), tandis que Montréal, qui compte 3 fois plus d’habitants que Copenhague, dispose d’environ 900 kilomètres de pistes et de voies cyclables. En Amérique du Nord, le tout-à-l’auto commence à perdre de son lustre ; ainsi, aux États-Unis, entre 2010 et 2016, le nombre d’utilisations de vélos en libre-service est passé de 320 000 à 28 millions46. Le nombre de déplacements en voiture plafonne et tend même à diminuer dans certaines grandes villes, tandis que le recours à des services d’autopartage a connu une augmentation de 25 % entre 2011 et 201647. De plus, avec l’évolution des technologies en transport, un nombre croissant d’options de déplacement est offert, et la frontière hermétique entre, par exemple, le transport collectif et le transport individuel deviendra de plus en plus mince. Qu’est-ce que la mobilité partagée ? Depuis quelques années, on parle beaucoup de mobilité partagée, une expression qui regroupe plusieurs types de transport. Grâce à l’efficacité de l’ , cette mosaïque de mise en commun de l’utilisation d’une voiture pourrait prendre de plus en plus d’ampleur. Dans un rapport publié en 2017 pour le compte d’Équiterre, la firme de consultants Dunsky Expertise en énergie se penche sur les formes que prennent les services de mobilité partagée ainsi que sur les obstacles qui freinent leur extension. Le tableau 2 présente les principales options de mobilité partagée ainsi que les autorités politiques dont elles relèvent, pour Montréal, Toronto et Vancouver. Il existe donc diverses offres de services de mobilité partagée, et, selon la forme que prennent ceux-ci, soit ils sont encadrés par différentes autorités politiques, soit ils évoluent dans un environnement réglementaire flou et parfois même inexistant.

Ce tableau révèle également que nous assistons à une augmentation importante de l’offre, certains parlent même d’explosion des différentes options de mobilité partagée. Au taxi et au covoiturage classique s’ajoutent maintenant les services commerciaux de covoiturage comme Lyft ou Netlift (au Canada). On note aussi des services d’autopartage déjà bien en place, comme Communauto et Car2Go. En compétition directe avec le taxi, à la limite de la légalité, se trouve Uber, une véritable multinationale qui s’est également immiscée dans ce marché. Certaines études estiment que ces services ont connu un taux de croissance de 272 % entre 2006 et 2012. En Chine, là où ce type de services était inexistant jusqu’en 2009, la croissance annuelle est de 80 %48, passant d’un parc de 39 véhicules en autopartage à 16 000 voitures à la fin de 2018. TABLEAU 2. OPTIONS DE MOBILITÉ PARTAGÉE ET ORDRES GOUVERNEMENTAUX CONCERNÉS Mobilité partagée

Description

Montréal Toronto Vancouver

Autopartage Les programmes de partage de voiture mettent un parc privé de véhicules de passagers à Local et Local et Local et usage personnel à la disposition d’abonnés qui y ont accès selon leurs besoins. Les abonnés municipal municipal municipal bénéficient ainsi d’un véhicule, mais sans les coûts et les responsabilités qu’ils devraient assumer s’ils en possédaient une. L’autopartage en trace directe permet aux utilisateurs de prendre possession d’un véhicule et de le laisser dans n’importe quelle aire de service désignée. L’autopartage en boucle nécessite de prendre possession du véhicule et de le retourner à un endroit désigné. Les fournisseurs canadiens de services d’autopartage incluent Car2Go, Car Share Atlantic, Communauto, Entreprise CarShare, , Modo et Zipcar. Service commercial de covoiturage

Le service commercial de covoiturage ou le prêt entre personnes s’applique lorsqu’un Provincial Municipal Non « intermédiaire en services de transport » met un passager en lien avec un chauffeur qui règlementé détient un véhicule personnel, habituellement à l’aide d’une application, afin qu’il effectue la course. Les fournisseurs de services commerciaux de covoiturage incluent Uber (ÉtatsUnis et Canada) et Lyft (État-Unis seulement).

Service de taxi

Un taxi est un type de véhicule que l’on peut louer pour amener un seul passager ou un petit Provincial Municipal Municipal, groupe de personnes d’un lieu de départ jusqu’à la destination de leur choix. Les taxis provincial et diffèrent des autres formes de transport en commun, qui transportent les passagers entre des le Conseil des lieux prédéterminés par le fournisseur du service, et non par le passager. transports de passagers (Passenger Transportation Board)

Covoiturage Le covoiturage « classique » s’effectue lorsque plus d’une personne utilise la même voiture Provincial Provincial Provincial classique pour effectuer un trajet. Les personnes qui ont la même destination et qui habitent près l’une de l’autre ont recours à la forme la plus courante de « covoiturage ». Les entreprises qui effectuent le jumelage de covoitureurs incluents CarpoolWorld, Kangaride, Netlift et Ride Share au Canada, et Uber Pool et Open Ride aux États-Unis. Source : Dunsky Energy Consulting, Mobilité partagée : éliminer les barrières règlementaires dans les villes canadiennes, Équiterre, mai 2017, p. 10, equiterre.org/sites/fichiers/mobilite_partagee.pdf.

Plusieurs facteurs interviennent en faveur de ce que l’on retrouve maintenant sous le parapluie de la mobilité partagée : Une prise de conscience planétaire de la question du réchauffement climatique ainsi que de la pollution atmosphérique (celle-ci touchant plus particulièrement les grandes villes des pays émergents) ; La lutte contre la congestion routière ; La croissance des villes et les enjeux d’espaces qui y sont rattachés ; Les progrès technologiques importants des dernières années, qui ont grandement facilité les différentes formes d’autopartage. Les trois premiers facteurs continueront de faire pression sur l’utilisation de l’auto en solo en milieu urbain, tandis que la technologie encouragera la multiplication d’initiatives de mobilité partagée. J’ai cité un peu plus haut une étude du chercheur américain Tony Seba, qui prévoit une énorme diminution du nombre de personnes qui posséderont une automobile dans un avenir très proche. L’un des facteurs qu’il évoque à l’appui de cette prédiction est le fait que la voiture ne sera plus perçue comme elle l’est aujourd’hui, c’est-à-dire un bien, mais plutôt comme un service. À cet égard, on utilise de plus en plus l’expression « mobilité urbaine intégrée » ou, dans le même sens, les acronymes anglais M (Mobility as a Service) ou T

S

S (Transportation as a Service). Selon Seba, à terme, les services TaaS

représenteront 95 % des distances parcourues aux États-Unis. Même si les véhicules à moteur à combustion interne composeront à ce moment toujours environ 40 % du parc automobile, ils ne compteront que pour 5 % des déplacements49. Seba estime également que l’utilisation de la voiture comme service coûtera de 4 à 10 fois moins cher que la possession privée d’une voiture. Et comment explique-t-on un coût d’utilisation des véhicules en mode TaaS si bas ? Plusieurs facteurs entrent ici en ligne de compte : L’électrification de ces véhicules, l’électricité coûtant moins cher que l’essence ; L’automatisation, car les véhicules automatisés, sans conducteur, auront une plus longue durée de vie grâce à une conduite plus fluide et les coûts d’entretien seront moindres (des facteurs généralement négligés dans la plupart des études sur le sujet) ; L’utilisation maximale, car alors qu’une voiture personnelle est utilisée entre 4 % et 10 % du temps d’utilisation potentiel, chaque véhicule de l’option TaaS sera utilisé 10 fois plus. Une nouvelle identité Depuis la fin de la Seconde Guerre mondiale, la voiture est devenue l’un des symboles, sinon le symbole, de la réussite, de la liberté et même de notre statut social. Pour l’adolescent que j’étais, à La Tuque, en 1986, l’obtention du permis conduire était un must, il s’agissait d’un véritable rite de passage. Aujourd’hui, avec les changements technologiques que nous venons de voir et les changements urbains et sociaux (que mon collègue et ami François Tanguay et moi avons abordés dans notre livre Le prochain virage50), les jeunes Canadiens et Américains non seulement délaissent l’achat d’une voiture – qu’ils considèrent beaucoup plus comme un objet d’asservissement que de liberté –, mais encore ils se donnent

de moins en moins la peine d’obtenir un permis de conduire ! En effet, en 2010, de 25 % à près de 50 % moins de jeunes de 16 et 17 ans étaient titulaires d’un permis comparativement aux années 198051 ! En somme, la technologie seule ne réglera pas tous nos problèmes et les décisions collectives que nous prendrons, ou que nous omettrons de prendre, auront des répercussions importantes sur notre capacité à faire face à des défis comme celui des changements climatiques, mais également ceux de l’aménagement de nos villes et de l’utilisation des ressources. Néanmoins, les avancées de l’

nous laissent entrevoir de

fort intéressantes initiatives en matière de mobilité, ainsi que pour notre qualité de vie et un environnement beaucoup plus sain.

L Outre les transports, le domaine de la santé est probablement celui qui profite et profitera le plus des percées de l’

et de certaines technologies connexes telles que la robotique. Que ce soit pour les

personnes à mobilité réduite, pour les malvoyants, pour les individus souffrant de dépression ou atteints d’un cancer, etc., de nombreux chercheurs partout dans le monde travaillent à mettre au point et à perfectionner des applications de l’

qui viendront améliorer de façon significative leurs conditions de

vie. Comment cette technologie pourra-t-elle contribuer à notre mieux-être ? À ce jour, l’une des applications les plus utilisées est celle de l’aide au diagnostic de différentes maladies. Prenons l’exemple des mélanomes (cancer de la peau). Des groupes de chercheurs collaborent depuis déjà plusieurs années afin de concevoir des algorithmes capables de détecter des mélanomes… Et les résultats sont très intéressants. Dans une étude dont ils publient les résultats en 2018, des chercheurs allemands, américains et français ont conçu un algorithme capable de détecter des mélanomes52. L’exercice consiste à apprendre à la machine à reconnaître les cellules cancéreuses en lui présentant des dizaines, voire des centaines de milliers de photos, jusqu’à ce qu’elle soit capable de les reconnaître d’elle-même. Toujours dans le cadre de cette étude, ces mêmes chercheurs ont ensuite demandé à près d’une soixantaine de dermatologues (de 17 pays différents) ainsi qu’à l’algorithme en question de poser des diagnostics sur la base de 100 photos représentant des cas de mélanomes complexes. Les médecins ont posé le bon diagnostic dans 87 % des cas, ce pourcentage montant à 89 % lorsqu’on leur donnait un peu d’informations comme l’âge, le sexe ou le siège de la lésion. La machine a réussi à poser le bon diagnostic dans 95 % des cas, et ce, sans qu’aucune information supplémentaire lui soit fournie. Vous comprendrez que l’avantage de la machine sur l’humain est qu’il lui est possible d’assimiler des dizaines de milliers d’images afin de se familiariser avec les caractéristiques des mélanomes et ainsi améliorer les probabilités d’un bon diagnostic, ce qu’aucune personne désirant garder un semblant d’équilibre mental ne pourrait faire. Le fauteuil roulant 3.0

Je vous ai parlé, dans l’introduction, de Joëlle Pineau, directrice du laboratoire de recherche en intelligence artificielle de Facebook (

) à Montréal. Elle a publié, en 2003, un chapitre de son mémoire de maîtrise,

qui est encore aujourd’hui l’un des articles scientifiques les plus cités dans le domaine53. Outre son travail sur des modèles mathématiques et sur des algorithmes de prise de décision, elle consacre une bonne partie de son temps au développement d’applications pratiques de l’

dans le domaine de la santé, notamment à

un fauteuil roulant intelligent qui, dit-elle, « ressemble aux modèles utilisés pour la voiture autonome, mais ça demande évidemment beaucoup moins de ressources. Nous avons quelques prototypes et effectué des tests avec des usagers54 ». Elle travaille également sur des applications qui permettraient de prévenir les crises d’épilepsie : l’appareil « fonctionne un peu comme un stimulateur cardiaque, mais [il] agit sur le cerveau pour arrêter les crises d’épilepsie55 ». Ses travaux se font en collaboration avec plusieurs hôpitaux montréalais, dont l’Hôpital neurologique de Montréal et l’Institut universitaire en santé mentale Douglas. Joëlle, avec ses collègues de l’Université McGill, travaille depuis quelque temps à mettre au point un fauteuil roulant automatisé, qu’elle compare à une voiture autonome. C’est un peu comme si l’on imaginait le fauteuil roulant 3.0 : 1.0 étant le modèle de base, 2.0 le modèle électrique que nous connaissons déjà, et maintenant le modèle 3.0, qui sera à la fois électrique et automatisé. Ce projet, appelé SmartWheeler, vise à tester les interactions entre l’humain et la robotique au bénéfice de personnes ayant des problèmes graves de mobilité, par exemple des gens atteints de sclérose en plaques, de malformations ou ayant subi des blessures à la colonne vertébrale. L’objectif ultime est de programmer des algorithmes, dont seraient équipés ces fauteuils, capables de faire face à toutes sortes de défis et de problèmes et de leur trouver les solutions, donnant ainsi une plus grande autonomie aux utilisateurs et utilisatrices. Présentement, le prototype (voir l’illustration qui suit) est essentiellement un modèle de fauteuil roulant électrique existant sur lequel Joëlle et son équipe, des programmeurs, ingénieurs et experts du monde de la santé, ont installé des lasers à l’avant et à l’arrière, un écran tactile et un ordinateur de bord. Parmi les défis de la réalisation de ce fauteuil, notons, entre autres, la création des outils pour assurer des déplacements en douceur, la programmation d’un ordinateur de bord capable de résoudre des problèmes en temps réel et l’établissement d’une communication rapide entre la chaise et son environnement.

Prototype du fauteuil roulant automatisé, le SmartWheeler, testé à l’Université McGill. Source : www.cs.mcgill.ca/~smartwheeler.

L’un des enjeux est de concevoir une interface qui pourra non seulement comprendre les commandes vocales de l’occupant ou l’occupante du fauteuil, mais qui aura également la capacité de transformer ces instructions vocales en commandes amenant le fauteuil à se déplacer dans la direction désirée. Il faut donc deux types différents d’algorithmes pour le SmartWheeler. Le premier doit être en mesure de reconnaître les commandes vocales émises par différentes personnes ayant chacune sa façon de s’exprimer, de prononcer, etc. Le second algorithme doit pouvoir se charger de la navigation en fonction de la commande exprimée, tout en tenant compte du lieu où le fauteuil et la personne qui l’occupe se déplacent. Un peu à l’image des voitures autonomes qui communiquent entre elles et leurs environnements, le fauteuil doit pouvoir interagir avec son environnement immédiat. Les résultats sont pour le moins surprenants : après seulement 30 minutes d’expérimentation, le fauteuil automatisé a réussi à accomplir 96 % des tâches demandées et a obtenu une note de 97 % en matière de sécurité (comparativement à un taux de 100 % dans le cas de l’utilisation d’une manette sur un fauteuil conventionnel56).

Prévoir les crises cardiaques Vous allez me dire que, pour prévenir les problèmes cardiaques, il suffit d’avoir un bon régime alimentaire, de faire de l’exercice et d’avoir un mode de vie équilibré, et vous avez certainement raison. Mais imaginons une seconde que l’on puisse voir venir une crise cardiaque bien avant qu’elle se produise, longtemps avant, des mois avant… Trop beau pour être vrai ? Plusieurs projets de recherche sont en cours, qui misent sur l’

à cette fin. Parmi ces projets, notons

ceux d’Alphabet et de sa filiale santé Verily, qui visent à évaluer chez une personne la présence de facteurs de risque d’une maladie cardiaque de façon aussi précise que les méthodes conventionnelles, à cette différence que l’algorithme de Verily ne nécessite pas d’analyses de sang, permettant, par le fait même, de réduire les délais de prise en charge préventive des patients ainsi que les coûts liés au dépistage des maladies cardiaques57. Pour la conception de cet outil, l’apprentissage automatique a été mis à contribution et les données de quelque 300 000 patients ont été fournies au logiciel. Après avoir compilé ces données, le logiciel est capable de déterminer, à l’aide d’une seule imagerie oculaire, l’âge et la pression artérielle d’un individu, et d’établir qu’une personne fume ou non. On dit parfois que les yeux sont le miroir de l’âme, eh bien, peut-être que, dans ce cas, ils vont révéler sinon notre âme, du moins notre état de santé ! Pour valider l’efficacité du logiciel, on lui a montré des photos des yeux de deux groupes de patients : ceux du premier groupe avaient été victimes d’un accident cardiovasculaire dans les cinq années suivant l’imagerie de l’œil, tandis que ceux de l’autre groupe n’avaient souffert d’aucune maladie cardiaque. Dans 70 % des cas, le logiciel a pu détecter les cas à risque, alors que les méthodes actuellement utilisées ont un taux d’efficacité de 72 %. C’est donc dire que la machine s’approche de plus en plus de ce que peut faire l’humain dans ce domaine. De plus, Verily est sûr de pouvoir grandement améliorer les performances de son système. Et si les aveugles pouvaient voir ? Dans la populaire série de science-fiction Star Trek : The Next Generation (Star Trek : la nouvelle génération), qui a permis de relancer l’engouement des trekkies presque 20 ans après la fin de la série originale, l’ingénieur en chef du vaisseau Enterprise, Geordi La Forge, aveugle de naissance, peut vaquer à ses occupations comme n’importe quel être humain, piloter une navette spatiale, marcher sur des planètes au terrain accidenté et participer à toutes sortes de missions, plus périlleuses les unes que les autres. Geordi peut faire tout cela grâce à un appareil nommé, dans l’émission, « Visor », un genre de lunettes futuristes qui lui permettent non seulement de voir, mais aussi d’analyser la composition moléculaire de ce qu’il regarde. Bien sûr, en 1987, un tel appareil relevait de la science-fiction, mais est-ce toujours le cas en 2019 ? Rien n’est moins sûr… Il existe actuellement plusieurs technologies permettant aux aveugles ou aux malvoyants d’améliorer grandement leur autonomie, de naviguer sur la Toile et de se déplacer. L’une des technologies les plus

remarquables est probablement les lunettes OrCam, équipées d’une caméra miniature capable de reconnaître des lettres, des billets de banque et des pièces de monnaie et même le visage d’une personne.

À gauche, le fameux visor de Geordi La Forge ; à droite, les lunettes OrCam MyEye 2 (il s’agit ici de la deuxième version du modèle) © OrCam

Comment fonctionnent les lunettes OrCam ? Elles sont dotées d’une caméra préprogrammée qui peut détecter un certain nombre de gestes de l’utilisateur. Par exemple, si la personne qui les porte pointe un article donné, comme un paragraphe dans un livre ou un billet de banque, la caméra décodera l’article, puis communiquera l’information à l’utilisateur. Une main ouverte paume vers le bas indique à la caméra de mettre fin à l’opération qu’elle exécutait et faire mine de regarder son poignet, comme pour y consulter sa montre, fera qu’OrCam vous donnera l’heure. Le système peut également apprendre à reconnaître le visage d’êtres chers par une procédure qui ne nécessite que quelques minutes ! Mentionnons au passage que les cofondateurs de l’entreprise OrCam sont ceux-là mêmes qui ont fondé la société Mobileye, l’un des leaders mondiaux dans la conception de dispositifs de détection pour les voitures autonomes, dont il a été question dans la section portant sur le transport. Bref, les aveugles et les malvoyants bénéficient maintenant d’appareils leur permettant de lire ou de reconnaître une personne, mais qu’en est-il de leurs déplacements ? Là aussi, des percées technologiques révolutionnent la vie de plusieurs personnes. Le système Aira (qu’on prononce « Eye », pour yeux, en anglais, et « ra », en l’honneur du dieu solaire égyptien) est également constitué de lunettes, mais, cette fois, les images qu’elles reçoivent sont transmises à un centre de contrôle. De ce centre, un technicien deviendra les « yeux » de la personne portant les lunettes et lui communiquera les informations nécessaires. Prenons l’exemple d’une personne se rendant à l’aéroport : une fois qu’elle y sera, elle peut mettre ses lunettes en place et contacter le centre de contrôle. Un technicien lui dictera alors comment se rendre au comptoir de sa ligne aérienne, pourra lui lire les informations sur son billet d’avion et la guider à travers l’aéroport. La compagnie

fait également partie des entreprises développant des technologies dans ce

domaine. La chercheuse d’

Chieko Asakawa est aveugle depuis l’âge de 14 ans à la suite d’un

accident. Malgré son handicap, elle a poursuivi ses études en programmation informatique pour les personnes aveugles et elle est l’une des chercheuses à l’origine du développement d’un logiciel de

traitement de texte pour les documents en braille et d’une application qui transforme le texte en parole, permettant une navigation plus fluide sur Internet pour les personnes aveugles58. Loin de s’arrêter à cette percée technologique, la Dre Asakawa a poursuivi ses travaux afin de développer une application pour téléphone mobile pour personnes non voyantes ou malvoyantes. Elle explique qu’il s’agit en quelque sorte d’une version « Google Map » pour les gens aveugles. Ainsi, grâce à l’installation de capteurs Bluetooth le long d’un parcours, une personne peut arriver à se déplacer en utilisant son téléphone intelligent. Cette application se nomme NavCog (pour Navigational Cognitive Assistant for the Blind) et peut déjà être téléchargée. L’utilisation de l’

permet ici de traiter de grandes

quantités de données au sujet de l’environnement où circule une personne et de transformer ces données en instruction pour un déplacement efficace et sécuritaire. Le Japon offre un autre exemple intéressant de l’évolution du monde médical et du rôle que la technologie pourra y jouer. Alors que 28 % de la population japonaise était âgée de 65 ans et plus en 2017 (ce groupe ne représente que 17 % de la population canadienne et 19 % en France59) et que cette proportion va continuer de croître pour atteindre un tiers de la population, la question des soins de santé, notamment pour les personnes âgées, est un enjeu de premier plan. Qui plus est, le pays du Soleil levant est déjà aux prises avec une pénurie criante de main-d’œuvre, particulièrement dans le secteur de la santé où le gouvernement japonais estime qu’il y aura un manque à combler de plus de 300 000 postes en 202560. En vue de réduire ce fossé, plusieurs solutions sont envisagées : hausser les seuils d’immigration, retarder l’âge de la retraite ou encore, vous l’aurez deviné, encourager le développement de la technologie. Il semble d’ailleurs que, de ces trois solutions, celle du recours accru à la technologie en santé soit la moins controversée, du moins selon un article publié dans la très sérieuse revue Foreign Policy de mars 201761. Ainsi est né Robear (contraction de « robot » et de « bear »), un robot créé par le centre de recherche nippon . Si vous avez des enfants, vous avez sûrement vu le film d’animation de Walt Disney, Les nouveaux héros, inspiré des superhéros de Marvel, qui met en scène un robot soignant semblable à Robear. L’objectif poursuivi avec le développement de ce type de robot est triple : Réduire le fardeau des travailleurs de la santé ; Augmenter l’autonomie des personnes âgées vivant encore à la maison ; Réduire les besoins en personnel nécessaire dans le secteur de la santé. Robear est capable, comme on le voit sur la photo, de déplacer une personne d’un lit vers un fauteuil roulant ou encore pour le bain, entre autres tâches. Il peut ainsi seconder une infirmière ou une préposée dans les tâches les plus difficiles physiquement. Il faut noter que ce robot en est à la phase de la recherche et du développement et n’est pas encore commercialisé.

Robear, le robot-ours issu de la collaboration entre le centre de recherche Riken et l’entreprise Sumitomo, au Japon. ©

Robear n’est pas le seul robot sur la planche à dessin. Plusieurs laboratoires et institutions européens travaillent depuis plusieurs années au « projet Romeo », un robot humanoïde de 140 centimètres de haut qui est appelé à devenir un véritable assistant pour les personnes âgées62. Le robot pourra monter ou descendre des escaliers, aider une personne à se lever et à s’asseoir et, bien sûr, communiquer et recevoir des instructions. Outre l’importance de la robotique pour ces androïdes, l’utilisation de l’ est un élément absolument névralgique de leur développement. Romeo est équipé d’une série de capteurs en rétroaction très rapide les uns avec les autres, de manière à s’assurer que ne soit pas blessée la personne qu’il tente de déplacer ou encore pour éviter toute perte d’équilibre. Romeo pourra non seulement vous aider dans certaines de vos tâches ménagères, mais il apprendra aussi à vous connaître (votre routine, l’heure de votre sieste, vos champs d’intérêt, etc.).

Romeo, le robot humanoïde créé par la firme Aldebaran Robotics. © SoftBank Robotics

Cela vous semble tenir de la science-fiction ? Dans une entrevue au journal britannique The Guardian, le Dr Hirohisa Hirukawa, directeur de la recherche à l’Institut national des sciences et technologies industrielles avancées du Japon, affirme pourtant que des assistants robotiques sont déjà à l’œuvre dans 8 % des centres pour personnes âgées au Japon63 ! Il admet cependant que les coûts élevés de la technologie et une certaine résistance à voir des robots accomplir le travail des humains ralentissent le déploiement de cette technologie. Des ambitions à cultiver Je me souviens d’une journée d’hiver enneigée, alors que j’étudiais au cégep de Trois-Rivières et pensais suivre une carrière en informatique. J’attendais l’autobus pour rentrer à la maison quand j’ai vu arriver une personne en fauteuil roulant. Parvenu à l’intersection où je me trouvais, l’individu n’avait pu continuer son chemin, car une déneigeuse avait laissé un petit monticule de neige qui l’en empêchait. Je lui avais alors donné un coup de main pour le franchir et il m’avait chaudement remercié… Il m’arrive souvent de penser à cette histoire, qui montre à quel point notre environnement bâti, encore aujourd’hui, est loin de répondre aux besoins des personnes aux prises avec différents types de handicaps. Les malvoyants ou encore les personnes en fauteuil roulant pourront-ils bientôt se déplacer avec la même facilité que tous, facilité que nous tenons pour acquise ? Probablement pas. Or, si on a réussi à installer plus de 1 700 bornes de recharge publiques pour les voitures électriques sur l’ensemble du territoire québécois en l’espace d’un peu plus de cinq ans, peut-être pourrons-nous faire

preuve d’autant d’empressement afin de mettre en place l’infrastructure nécessaire pour que les personnes ayant différents handicaps jouissent d’une plus grande autonomie. Je nous le souhaite ardemment. Le recours grandissant à la technologie en santé ne sera pas sans soulever certaines résistances. Que ce soit l’acceptabilité sociale des robots qui remplissent les tâches des infirmiers et des infirmières ou encore le coût de l’utilisation de certaines de ces technologies (à titre d’exemple, Robear coûte plus de 200 000 $ dans sa forme actuelle et Romeo plus de 350 000 $), les barrières sont encore nombreuses avant l’implantation massive de ces dernières. Je n’ai présenté ici qu’un échantillon des nombreuses applications qui sont actuellement développées pour le secteur de la santé, mais, à la suite des recherches que j’ai menées et des discussions que j’ai eues à ce sujet, deux constats s’imposent pour moi : d’une part, la technologie va de toute évidence occuper une place de plus en plus importante dans le secteur de la santé (malgré les obstacles signalés dans le paragraphe précédent), mais, d’autre part, ce n’est pas demain la veille que nous verrons la combinaison intelligence artificielle et robotique se substituer à nos médecins et autre personnel soignant. En effet, un large consensus semble se dégager quant au fait que les professionnels de la santé vont demeurer la pierre angulaire du système de santé pendant encore de nombreuses années et que la technologie sera utilisée pour appuyer le travail de ces derniers, et non pour les évincer. Si j’avais à désigner la découverte la plus importante que j’ai faite au cours de l’écriture de ce livre, je dirais que ce fut de constater que le nombre impressionnant de gens qui travaillent à développer l’

le

font dans un objectif de bien commun. Qu’ils soient chercheurs, ingénieurs ou encore entrepreneurs, leur motivation première ne semble être ni l’argent (même pour ceux et celles qui évoluent dans le secteur privé) ni la gloire, mais bien le désir de contribuer au bien-être de l’humanité et de notre petite planète. J’espère que vous partagez maintenant avec moi cette conviction que l’ a, et continuera d’avoir des effets favorables sur plusieurs aspects de notre vie. Bien sûr, nous devrons collectivement être vigilants quant à son déploiement, mais je demeure persuadé que nous pouvons y arriver.

II La brute

Après avoir vu certains des aspects les plus positifs de l’intelligence artificielle ( ), nous allons maintenant explorer les facettes les plus négatives, les plus sombres, et parfois même terrifiantes, de son application. Je l’ai souligné dans l’introduction : les recherches que j’ai faites pour la préparation de ce livre m’ont amené à conclure que ce n’est peut-être pas dans le monde du travail, comme je le croyais au départ, que les effets les plus pernicieux de cette technologie se manifesteront, mais bien dans les sphères de notre vie privée et de notre vie en collectivité. C’est que les informations que nous semons ici et là sur la Toile peuvent être utilisées, et le sont déjà, pour nous manipuler, nous contrôler, au point même de menacer les fondements de nos démocraties.

D

(L )

Le nouvel adage le dit bien : les données – comprendre ici les données e siècle ce que le pétrole a été à personnelles – seront à l’économie du celle du

e

siècle, soit la pierre angulaire de son développement.

À l’heure où la technologie s’impose dans nos vies et dans nos sociétés, alors que nous sommes de plus en plus connectés, au sens technologique du terme, nous laissons traîner derrière nous des quantités importantes de données. Il y a, bien sûr, les informations personnelles, tels nos nom, adresse, numéro de téléphone, que nous inscrivons sur la Toile chaque fois que nous remplissons un formulaire quelconque. Ensuite, bien évidemment, on pense aux données à caractère financier, comme notre numéro de carte de crédit ou de compte bancaire pour tous les achats en ligne que nous effectuons. Mais au-delà de ces données factuelles, nous livrons également énormément d’informations sur la Toile quant à nos goûts, nos préférences, nos activités et même nos désirs. Vous avez probablement entendu cette affirmation selon laquelle les algorithmes de Facebook vous connaissent mieux que vos amis, votre famille, voire mieux que l’être cher… Il ne s’agit pas d’une légende urbaine et encore moins d’une fake news ! Simplement sur la base de vos likes (ce que vous déclarez aimer dans les médias sociaux), les algorithmes arrivent à déchiffrer qui vous êtes. Avec 10 likes, l’algorithme en connaît plus sur vous qu’un collègue de travail. Avec 70, il dépasse votre colocataire. Il lui en faut 150 pour devancer un parent, un frère ou une sœur et, à 300, il vous connaît mieux que l’être cher64. L’histoire ne dit pas de combien de likes Facebook a besoin pour nous connaître mieux que nous ne nous connaissons nous-mêmes… Mais cette donnée existe quelque part, soyez-en certain ! Comment s’y prend-on pour traiter les quantités astronomiques de données laissées sur la Toile par quelques milliards d’humains et en faire des produits de marketing ou encore des outils d’analyse de nos goûts et préférences ? Vous l’aurez deviné, c’est aujourd’hui possible grâce à l’ et

à notre capacité de construire des machines et des algorithmes capables d’analyser cette masse de données. Les concepteurs de la Toile telle que nous la connaissons aujourd’hui, notamment le professeur britannique Tim Berners-Lee, ont imaginé ce vaste système où l’information pourrait circuler de façon libre et transparente, être échangée partout sur la planète, et ce fut effectivement le cas pendant un certain temps. Cela étant, évitons l’angélisme : une partie importante des fonds ayant servi à développer l’Internet venait de différentes agences du département américain de la Défense, dont la fameuse National Security Agency. C’est d’ailleurs tout aussi vrai pour l’industrie de l’énergie solaire ou encore celle de la miniaturisation nécessaire à l’exploration spatiale, deux domaines qui procurent d’importants avantages à un nombre grandissant d’humains sur la planète, mais qui ont, à la base, été financés par le complexe militaro-industriel. Nous pouvons reprocher beaucoup de choses au système capitaliste, mais certainement pas sa remarquable capacité d’adaptation. Ce qui a commencé comme une aventure motivée largement par l’altruisme des chercheurs ayant développé la Toile s’est transformé peu à peu en ce qui est en train de devenir la plus gigantesque entreprise mercantile de tous les temps. C’est ainsi que nous avons vu la publicité envahir la Toile, et qui dit publicité, dit également compétition pour attirer les dollars que cette manne apporte. Aujourd’hui, Google et Facebook accaparent plus de 50 % de tous les revenus publicitaires du Web et ça se chiffre en milliards ! Des 10 capitalisations boursières les plus importantes au monde, 7 sont des entreprises technologiques qui, outre Apple qui cherche à nous vendre des appareils et gadgets technos et Microsoft qui est dans la vente de logiciels, sont aussi très intéressées par nos données.

Ces entreprises s’intéressent tout autant à notre cercle d’amis et à nos connaissances qu’à nos habitudes d’achat. Ces géants peuvent nous géolocaliser, savoir avec qui nous sommes et ce que nous regardons à l’écran (peu importe de quel écran il s’agit). Pourtant, l’importance du rôle des données échappe à l’ensemble de la population. Tout d’abord parce qu’il s’agit d’une question très abstraite. Après tout, qui, à part les spécialistes de la programmation informatique, a déjà vraiment « vu » des données ? De nombreuses études ont montré que l’humain a de la difficulté à se préoccuper de ce qu’il ne voit pas, de ce qui n’est pas près de lui (la religion étant une exception notable à cette règle). De plus, la question de la sécurité en ligne est fort complexe, même pour les initiés. Il est illusoire d’espérer que les gens feront chaque fois des efforts concernant leur protection, alors que des États et des pays tout autour de nous, y compris le mien, sont plutôt permissifs avec les géants de la Toile. Hélas, la voie que les grandes compagnies ont tracée en fondant leur développement sur les données personnelles est maintenant suivie par l’ensemble de la planète, des entreprises dans le domaine de la mode qui s’en servent pour dessiner des vêtements plus attrayants jusqu’aux supermarchés qui cherchent à mieux connaître nos habitudes alimentaires… Et un nombre croissant de pays leur emboîtent le pas. Nous verrons d’ailleurs plus loin comment ces derniers utilisent l’ et les techniques développées par les grandes entreprises technologiques afin de cibler des minorités, surveiller la presse ou encore la dissidence. Parmi les pays qui font déjà un usage massif de l’ auprès de leur population, la Chine entre dans une catégorie à part. Fait peu connu ici : la population chinoise est beaucoup plus connectée que nous ne le sommes et utilise le téléphone intelligent de façon beaucoup plus importante. En

Chine, on se sert de son téléphone pour payer son épicerie, acheter ses billets de concert ou de cinéma, réserver des billets d’avion, etc. Des amis revenant d’un long voyage en Chine récemment me confiaient que les seules personnes qui utilisent encore de l’argent comptant ou des cartes de crédit en Chine sont les touristes ! L’usage du téléphone pour toutes sortes de transactions permet au gouvernement de recueillir une quantité d’informations impressionnante sur la population chinoise. Du coup, il lui devient possible d’établir le « crédit social » des citoyens et citoyennes, un programme que je décris plus loin.

Le logo de l’application WeChat

L’application WeChat, genre de Facebook chinois gonflé aux stéroïdes, compte plus de 1 milliard d’usagers – comparativement aux quelque 2,25 milliards de Facebook – et sa valeur boursière a maintenant dépassé celle du réseau américain. Le réseau chinois appartient à l’une des plus importantes entreprises de la planète, la chinoise Tencent. En plus de cette application, Tencent donne dans les services de fourniture d’accès Internet, les paiements en ligne, les jeux en ligne, les téléphones intelligents, la musique en ligne… Et, vous l’aurez compris, elle est aussi très engagée dans le développement de l’ .

L’autre géant chinois dans ce domaine est l’entreprise Alibaba, l’un des plus importants fournisseurs d’accès Internet et de vente en ligne au monde. L’entreprise est également active dans les investissements en capitaux de risque, dans la vente en gros, etc. Comme Tencent, elle s’est hissée parmi les 10 premières entreprises du monde pour ce qui est de la capitalisation, les deux entreprises dépassant chacune 500 milliards de dollars de valeur boursière. Les ventes et les profits d’Alibaba surpassent maintenant ceux de Walmart, Amazon et eBay combinés65. Ce service compte plus de 300 millions d’usagers et 37 millions d’entreprises utilisent ses services. Oui, oui, 37 millions ! Tout comme le font les Facebook et Google de ce monde, Tencent et Alibaba amassent des quantités massives de données sur leur clientèle, autant les individus que les entreprises. Les dirigeants de ces deux entreprises doivent redoubler d’efforts pour rassurer à la fois leurs investisseurs et leur clientèle, mais tous restent inquiets, et avec raison, car l’ensemble de ces données se retrouve entre les mains du gouvernement chinois. (Je traiterai du cas de Huawei un peu plus loin.) Ces géants tiennent d’ailleurs un discours pour le moins paradoxal sur la sécurité, affirmant, d’un côté, qu’aucune donnée recueillie ne peut être communiquée sans l’accord explicite d’un usager, tandis que, de l’autre, ils expriment leur soutien à l’utilisation, par l’État chinois, du big data à des fins de contrôle social. À preuve, cette déclaration de Jack Ma, le fondateur d’Alibaba, au cours d’un témoignage devant une commission du Parti communiste chinois : « Le système politique et légal du futur est inséparable de l’Internet, inséparable des données de masse […] Les mécréants ne pourront même pas se rendre jusqu’à la place publique66. » Démocratie menacée

L’ Freedom House s’est donné pour mission de dresser le bilan de l’état de la liberté sur le Net dans le monde67. Selon le rapport de 2018 de cette organisation basée aux États-Unis, globalement, la liberté sur la Toile a diminué, pour une huitième année consécutive, sur l’ensemble de la planète. Dans le classement que Freedom House établit des meilleurs et des pires pays en cette matière figurent, tout en haut, l’Islande, l’Estonie et le Canada, et, en queue de peloton, je vous le donne en mille, la Chine ! Année après année, le régime communiste obtient l’une des pires notes, en compagnie de pays comme l’Iran et la Syrie de Bachar al-Assad. Pour mesurer le degré de liberté sur le Net, Freedom House utilise une série de critères, allant du contrôle de l’information en ligne à la liberté de parole des individus et de la presse, en passant par la tenue, ou non, d’élections démocratiques dignes de ce nom. Le bilan repose sur les résultats obtenus par 65 pays (sur les 193 États membres que comptent les Nations unies) regroupant 87 % des personnes ayant accès à Internet, ce qui constitue, aux yeux de l’ , un échantillon représentatif de l’état de la liberté sur la Toile. Non seulement la Chine occupe une position peu enviable, mais elle s’est aussi lancée dans l’exportation de son modèle de contrôle de l’information en ligne vers plusieurs pays. Ainsi, en 2018, elle a tenu des séances d’information, et même de formation, dans 26 pays sur les 65 étudiés par Freedom House, qui parle même d’une exportation de l’« autoritarisme numérique » (digital authoritarianism). Voici quelques exemples de cette exportation : installation de dispositifs de vidéosurveillance par reconnaissance faciale à Singapour, installation d’un système semblable au Zimbabwe, formation sur le modèle chinois des médias auprès de représentants des Philippines, du Vietnam et de la Malaisie, etc.

Cette expansion de l’autoritarisme numérique hors des frontières de Chine ne se fait pas sans heurts : plusieurs pays ont décidé d’interdire le déploiement de certaines technologies chinoises sur leur territoire. Prenons l’exemple de Huawei Technologies Co. Ltd., qui s’est vu refuser l’implantation de son réseau d’Internet ultrarapide de cinquième génération (5G) en Allemagne, en Australie, en France, en Nouvelle-Zélande, au Japon, à Taïwan et aux États-Unis, ces derniers envisageant de bannir également la vente même des téléphones intelligents de l’entreprise sur leur territoire. Les tensions entourant les tentatives d’implantation de cette entreprise ne sont peut-être pas sans lien avec l’arrestation, par le Canada, à la suite d’une demande des États-Unis, de la fille du fondateur et directrice financière de Huawei, Meng Wanzhou, en décembre 2018. Pourquoi ces interdictions ? L’argument le plus souvent invoqué par ces pays est la crainte pour leur sécurité nationale et le fait que le réseau déployé par Huawei pourrait servir à la collecte de données sur la population en général, voire à des activités d’espionnage. Au-delà de ces considérations certes légitimes, ces géants chinois viennent bouleverser un certain ordre établi parmi les acteurs, majoritairement occidentaux, de cette industrie, alors que Huawei prend une place de plus en plus importante sur le marché mondial de la téléphonie mobile, ses parts du marché de l’infrastructure des téléphones mobiles dépassant celles des Nokia, Ericsson et Samsung.68 L’émergence des fake news devient un autre argument mis en avant par certains gouvernements pour légitimer la restriction des libertés individuelles et collectives. Ce fut le cas dans 17 pays au cours de la dernière année (notamment en Turquie et en Russie). Je ne sais pas pour vous, mais il me semble que, du point de vue d’un gouvernement autoritaire ou totalitaire, le concept de fake news est une invention merveilleuse : ces

pays peuvent fabriquer de toutes pièces des nouvelles, lesquelles leur serviront ensuite à justifier des restrictions aux libertés sur la Toile… Le beurre et l’argent du beurre ! Le rapport de Freedom House de 2018 souligne d’ailleurs que la liberté est en recul dans le pays de Monsieur Fake News lui-même, Donald Trump, qui, s’il n’a pas inventé le concept, l’a certainement perfectionné ! L’organisation note également que plusieurs des violations des libertés de parole et de presse ont lieu dans le cadre d’élections tenues dans les pays fautifs. Ce fut notamment le cas au moment de la « réélection » de Vladimir Poutine, en 2018. La situation n’est toutefois pas sans espoir puisque Freedom House souligne que les choses se sont améliorées dans 19 pays, notamment en Arménie, nommée pays de l’année 2018 par le magazine britannique The Economist, ainsi qu’en Gambie et en Jordanie. La Chine et le « système de crédit social », ou quand Big Brother rencontre Big Data Nous venons de voir que les géants chinois des technologies jouent un grand rôle dans l’économie chinoise et que le gouvernement peut amasser une masse d’informations critiques sur chaque personne et chaque entreprise. Accumuler des informations, c’est bien beau, mais encore faut-il savoir quoi en faire ! Or, la Chine procède actuellement à l’implantation du plus vaste système de surveillance et de contrôle de population jamais conçu, un système à faire pâlir d’envie certains pays de l’ex-Union soviétique, pourtant reconnus pour leurs organisations de surveillance. On dirait quelque chose tout droit sorti du roman 1984 de George Orwell. Dans ce roman d’anticipation, toute dissidence ou même indépendance d’esprit est fortement contrôlée, voire réprimée. La Chine d’aujourd’hui va bien plus loin.

En 2014, soit 30 ans après l’année où Orwell situe l’action de son roman, le gouvernement communiste de la Chine a annoncé qu’il allait mettre en place, pour 2020, un « système de crédit social ». À l’époque, peu d’informations existaient sur ce que serait exactement ce système, mais, au cours des dernières années, plusieurs éléments d’information sont venus préciser l’ampleur du monstre. Le « crédit social » consiste à attribuer à chaque personne une notation, un peu à l’exemple de notre système de cote de crédit, en fonction de ses antécédents financiers, de ses avoirs et de ses créances. Mais le système chinois ne s’arrête pas là, car cette note reposera également sur une évaluation qualitative de bonne conduite sociale tenant compte de cinq éléments : 1. l’historique de crédit ; 2. la capacité à remplir ses obligations contractuelles ; 3. les caractéristiques personnelles ; 4. le comportement et les préférences ; 5. les relations interpersonnelles69. Bien au-delà de sa situation financière, chaque citoyen ou citoyenne sera noté en fonction de ses habitudes d’achat, grâce aux données fournies par Alibaba, de ses habitudes de consommation en ligne, gracieuseté de Tencent, et des personnes qui composent son cercle social ainsi que de ce qu’il s’y dit, merci à WeChat. Le système s’intéresse donc aux sites Internet visités. Mais il y a plus. Avez-vous déjà eu maille à partir avec la justice ou, pire encore, avez-vous critiqué, sous une forme ou une autre, le Parti communiste chinois ? Vous passez 10 heures par jour devant votre écran ? Vous serez considéré comme sédentaire ou peu actif par le système. Votre alimentation est trop riche en sucre ou en matière grasse ? Ce n’est pas très bon pour votre note. Vous achetez des couches ou d’autres articles pour

bébé en ligne ? Vous êtes un parent et, donc, plus susceptible d’être une personne responsable (ce qui fait monter votre note). Le système s’appliquera également aux entreprises, tant pour leur bilan financier que pour leurs performances environnementales et les normes du travail. En 2015, afin de jeter les bases du système de collecte de données, le gouvernement de l’Empire du Milieu a signé des ententes avec huit entreprises chinoises, dont, vous l’aurez deviné, Alibaba et Tencent. L’année 2018 a marqué, sinon officiellement, du moins en pratique, l’entrée en vigueur du système. Demain est déjà hier ! La ville de Shanghai a lancé, en 2016, l’application Honest Shanghai, une version municipale du système de crédit social (le ministère de la Propagande, dans le roman d’Orwell, se nommait « ministère de la Vérité »…). Son fonctionnement me fascine, autant qu’il me donne froid dans le dos : les habitants de la ville sont invités, sur une base volontaire, à s’inscrire et à fournir leur numéro d’identification nationale (un peu l’équivalent du numéro d’assurance sociale au Canada ou encore le numéro de Sécurité sociale en France). Les autorités de la ville vont ensuite recourir à un système de reconnaissance faciale, que l’ permet d’exploiter, tracer une carte virtuelle des allées et venues de ces volontaires, en plus de recueillir plus de 3 000 types d’informations venant d’une centaine d’agences et ministères du gouvernement chinois. Au bout de 24 heures, chaque participant reçoit une note : très bonne, bonne ou mauvaise. Un haut dirigeant de la ville a eu ce commentaire au lancement de l’application : « Grâce à cette application, nous espérons que nos citoyens apprendront qu’ils seront récompensés s’ils sont honnêtes. Cela mènera à une énergie positive dans la société70. » On ne connaît pas encore les intentions des autorités de Shanghai avec la mise en œuvre de ce système, mais certains signes pointent dans une

direction peu rassurante. Vous pourriez toujours me dire qu’il n’y a rien de bien grave jusque-là et que nous-mêmes fournissons, de façon tout à fait volontaire, des quantités astronomiques de données personnelles sur les réseaux sociaux, comme des photos de notre famille et de nos amis, nos restaurants préférés, nos destinations de voyage… Vous auriez raison, mais là où ça se corse, c’est l’usage que fait l’État chinois de toutes ces données. Comme je l’ai mentionné, bien que le système ne soit pas encore officiellement entré en vigueur, certaines personnes ont déjà commencé à en subir les conséquences… L’an dernier, plusieurs millions de personnes se sont vu refuser l’accès au train ou à l’avion à cause de leur note de crédit social trop basse… Vous avez bien lu, plusieurs millions ! En fait, plus de 4 millions de voyages en train et 11 millions en avion n’ont pu être effectués en date du mois d’avril 2018, selon un article du Global Times, un organe de presse près du pouvoir chinois71 (il faut noter que l’évaluation du nombre de voyages annulés de la sorte varie d’une source à l’autre, mais, dans tous les cas, on parle de millions de voyages annulés). L’article ne précise toutefois pas pour quelles raisons toutes ces personnes ont été punies. Un membre du Conseil d’État chinois a cependant expliqué qu’il fallait mener les fautifs à la « faillite », ajoutant : « Si nous ne durcissons pas les sanctions contre les gens fautifs, nous les encourageons à continuer72. » Bref, si l’on en croit ce haut fonctionnaire chinois, nous n’en sommes qu’au début de l’application de ce système, rien de très rassurant. Le Xinjiang et le sort des Ouïghours À l’été 2018, une bonne partie de la population mondiale a été à la fois surprise et choquée d’apprendre que plus d’un million de personnes étaient

internées dans la province du Xinjiang. De quels crimes les accusait-on ? Difficile à dire, sinon que ces personnes appartiennent toutes à la minorité musulmane ouïghoure. Ce que le gouvernement chinois désigne, poétiquement ( !), comme un « camp de rééducation », plusieurs observateurs de la scène internationale n’hésitent pas à le qualifier de camp « secret », voire même de camp de concentration. L’auteur et traducteur d’origine musulmane Gene A. Bunin s’intéresse à la minorité musulmane chinoise et visite la Chine, particulièrement la région autonome ouïghoure du Xinjiang, depuis plus de 10 ans. Il a parcouru cette région à de nombreuses reprises, étudiant la gastronomie et la langue ouïghoures. Ce qu’il a découvert au cours des dernières années l’a beaucoup troublé. Dans le récit à la fois touchant et préoccupant qu’il a publié dans le journal britannique The Guardian à l’été 2018, il raconte comment la situation est passée d’une forme de discrimination qualifiée de « légère » à une offensive sans précédent de la part du gouvernement chinois73. En 2014, à la suite d’une série d’attentats terroristes perpétrés au cours des années précédentes par des extrémistes musulmans dans le Xinjiang et ailleurs en Chine, le gouvernement chinois a lancé la campagne « Frappons fort contre le terrorisme violent » (Strike Hard Campaign Against Violent Terrorism) et il semble que ce soit à partir de ce moment que les choses ont commencé à se détériorer sérieusement pour la minorité ouïghoure, le pire tournant étant en 2016, lorsque le Parti communiste chinois a nommé un nouveau secrétaire pour le Xinjiang en la personne de Chen Quanguo74. M. Chen est considéré comme l’un des hommes forts du Parti communiste chinois au Tibet, où il a mis en place des politiques semblables à celles qu’il allait instaurer au Xinjiang. Au Tibet, l’une des méthodes qu’il a employées pour mettre fin à toute contestation de l’autorité chinoise consiste au déploiement de plus de 100 000 « agents »

postés sur tout le territoire de la région autonome du Tibet, tant dans les grandes villes que dans les plus petits villages, et chargés de surveiller tout mouvement contestataire, mais également de travailler à l’endoctrinement des populations locales. Plus de 1 000 temples tibétains ont dû accueillir, sur une base permanente, ces agents de l’État. Fort de son expérience au Tibet, M. Chen a décidé non seulement d’importer ses méthodes dans le Xinjiang, mais de les pousser encore plus loin. C’est ainsi que le compte WeChat du gouvernement du Xinjiang regorge d’images de représentants du gouvernement chinois envoyés dans des familles musulmanes pour y devenir de « nouveaux membres de la famille ». Ces agents vont donc habiter, dormir, manger avec les familles soupçonnées d’activités subversives pour ainsi mieux les surveiller et travailler à leur endoctrinement. Les deux photos qui suivent montrent des officiels chinois bien installés, sur ordre du gouvernement, dans des familles musulmanes du Xinjiang. Allez, tout le monde, on fait un beau grand sourire !

Des officiels chinois parmi des familles ouïghoures, dans le cadre du programme « Devenir une famille ». Photos publiées par le gouvernement sur son compte WeChat. Source : Human Rights Watch, “Eradicating Ideological Viruses” : China’s Campaign of Repression Against Xinjiang’s Muslims, [Document PDF], New York, Human Rights Watch, septembre 2018, p. 79-80, www.hrw.org/sites/default/files/report_pdf/china0918_web.pdf.

Gene A. Bunin est récemment retourné dans le Xinjiang, dans des villes et villages où habitent différentes connaissances, des propriétaires de restaurants qu’il avait côtoyés. Il comptait rendre visite à des amis proches. Certains n’ont pas voulu lui adresser la parole ni même être vus en sa compagnie. Il apprendra alors que plusieurs personnes avaient dû regagner, à quelques jours d’avis, leurs villages natals du Xinjiang, où ils étaient placés en « détention municipale », c’est-à-dire qu’elles ne pouvaient plus quitter leurs villes ou villages de naissance sur ordre du gouvernement chinois. Il découvrira également que d’autres ont été envoyés dans des camps chinois pour y être rééduqués, alors que certains ont simplement disparu. M. Bunin n’est pas seul à s’inquiéter du sort des Ouïghours et plusieurs agences et organisations internationales tirent la sonnette d’alarme pour dénoncer le sort de cette minorité chinoise. Human Rights Watch, une des internationales les plus importantes du domaine de droits de la personne, a publié en septembre 2018 un rapport accablant sur la situation au Xinjiang intitulé “Eradicating Ideological Viruses” : China’s Campaign of Repression Against Xinjiang’s Muslims (« Éradiquer le virus idéologique » : la campagne de répression de la Chine contre les musulmans du Xinjiang). La lecture de ce rapport m’a grandement perturbé : absence de procédures légales, détentions arbitraires, lavage de cerveau, torture, et même décès de plusieurs détenus75. Les autorités de la région autonome du Xinjiang ont établi une liste de 26 pays, tous des pays à forte composante musulmane, considérés comme suspects, c’est-à-dire que toute personne ayant habité ou même visité l’un de ces pays devient automatiquement suspecte aux yeux du pouvoir, tout comme d’ailleurs le fait : d’avoir de grandes quantités de nourriture chez soi ;

d’arrêter subitement de fumer ou boire (ce qui serait interprété par les autorités comme le signe d’une conversion vers l’islam) ; d’avoir en sa possession des cartes routières ou topographiques, des télescopes ou des tentes de camping sans raison apparente76. Une liste impressionnante d’activités dites subversives… Malgré beaucoup d’embûches, Human Rights Watch a pu confirmer, grâce, notamment, aux témoignages de personnes ou de proches de personnes ayant été détenues, de nombreuses violations des droits de la personne. Ces témoignages ont également permis d’attester la construction de certains de ces centres de « rééducation ». Que se passe-t-il dans ces camps ? De nombreux récits d’ex-détenus dépeignent une véritable entreprise de lavage de cerveau et de rééducation. Les personnes internées sont forcées d’apprendre le mandarin (jusqu’à 1 000 caractères doivent être mémorisés) ou encore de chanter des chansons et de réciter des poèmes patriotiques. Attention ! votre performance à ces exercices déterminera si vous aurez ou non le droit de manger cette journéelà. De plus, on « enseigne » aux musulmans à ne plus utiliser les salutations islamiques, à ne pas parler ouïghour en public et à ne pas avoir de contacts avec les résidents des 26 pays suspects. Ci-dessous, une autre photo tirée du compte WeChat du gouvernement montrant les détenus dans l’un de ces camps.

Détenus dans un camp d’éducation politique, dans le comté de Lop, préfecture d’Hotan, dans le Xinjiang. Publication sur les médias sociaux du gouvernement, avril 2017. Compte WeChat du Bureau de la justice du Xinjiang. Source : Human Rights Watch, op. cit., p. 43. Traduction libre.

Au-delà des organisations telles que Human Rights Watch, on constate maintenant qu’une bonne partie de la communauté internationale s’inquiète du sort des Ouïghours. C’est ainsi que, le 15 novembre 2018, l’agence de nouvelles Reuters a publié, après l’avoir reçue d’un expéditeur anonyme, une lettre signée par 15 ambassadeurs, sur l’initiative du Canada, demandant une rencontre avec le Secrétaire du Parti communiste du Xinjiang, le fameux Chen Quanguo, afin que lui soient transmises leurs inquiétudes communes quant à la situation des Ouïghours77. Il est plutôt rare, de nos jours, de voir les pays occidentaux insister auprès des autorités chinoises sur des questions de droits de la personne, encore plus de façon

publique et aussi coordonnée. Le géant chinois étant devenu la deuxième puissance économique mondiale, peu nombreux sont les pays prêts à contrarier le dragon, au risque d’en payer le prix, généralement économique. Le Canada en a fait l’expérience fin 2018 et début 2019 avec l’affaire Huawei. Toujours selon Reuters, la lettre fait état de la « grande préoccupation » de ces 15 pays à l’endroit des traitements infligés à la minorité. Tout en refusant de commenter le contenu de la lettre publiquement, les diplomates ont néanmoins reconnu son existence. L’intelligence artificielle au service de la répression Vous vous dites peut-être : « Cette histoire est tragique, certes, mais quel est ici le lien avec l’ ? » C’est là que la situation prend une tournure tout à fait orwellienne, car cette répression est rendue possible en partie, sinon en totalité, grâce à l’ . Au moment même où le monde apprenait le sort réservé aux Ouïghours, les experts et les analystes s’intéressant de près au développement de cette technologie découvraient que son exploitation servait à un contrôle des masses sans précédent. Tout comme les grandes entreprises technologiques surveillent nos faits et gestes sur la Toile à des fins commerciales, les données biométriques (empreintes digitales, échantillons de voix, , etc.) de quelque 11 millions d’Ouïghours du Xinjiang, mais aussi celles d’autres minorités ethniques en Chine, sont utilisées par le gouvernement. De nombreux experts considèrent d’ailleurs cette opération comme la plus importante opération de surveillance d’une population par son gouvernement de l’histoire de l’humanité. La photo suivante montre un point de contrôle au Xinjiang. Ces points se retrouvent un peu partout : centres commerciaux, transports collectifs, limites d’une ville ou d’un village.

Les Ouïghours doivent régulièrement se soumettre à une vérification, qui passe, entre autres, par l’utilisation d’un dispositif de reconnaissance faciale. © Darren Byler

Dans son rapport, Human Rights Watch cite le témoignage d’Alim (nom fictif), qui a été détenu dans l’un des camps, puis finalement relâché, sans jamais connaître les accusations qui pesaient contre lui. Il raconte qu’un jour, alors qu’il entrait dans un centre commercial, une alarme a soudainement retenti. Inquiet, il a décidé de rebrousser chemin et s’est trouvé face à face avec des policiers qui l’attendaient et qui l’ont conduit au poste de police. Alim leur a dit qu’il avait effectivement été incarcéré par le passé, mais libéré par la suite, puisque reconnu innocent des « crimes » ayant mené à sa détention. Il a précisé que c’était la première fois depuis sa

libération qu’une alarme se déclenchait de la sorte à son passage. Les policiers lui ont alors expliqué que la liste des personnes mises à l’index changeait chaque semaine et qu’il vaudrait mieux pour lui de rester à la maison et d’éviter les lieux publics, tous les lieux publics78 ! La planète vient donc de découvrir que nos pires cauchemars et craintes quant à une utilisation abusive des possibilités de l’ sont bien réels. Il ne s’agit plus de situations hypothétiques ni d’exagérations. Comme nous l’avons vu plus haut, la Chine travaille activement à faire connaître, et même à diffuser, ses méthodes de contrôle des masses auprès de gouvernements peu fréquentables. Sommes-nous impuissants face à cette situation ? Je ne le pense pas, mais ceux et celles qui croient en l’importance de la liberté et de l’État de droit devront s’activer et se mobiliser plus que jamais. Nous y reviendrons.

«L

’H

»?

En 1992, alors que j’étais un jeune étudiant en science politique, un professeur et intellectuel américain jusque-là peu connu, Francis Fukuyama, a publié un essai politique qui a eu l’effet d’une bombe : La fin de l’histoire et le dernier homme. La thèse du professeur Fukuyama était la suivante : avec l’effondrement du bloc de l’Est (le livre ayant été écrit quelques années après la chute du mur de Berlin en 1989), plus aucun obstacle ne se dressait devant un avenir rayonnant pour la démocratie libérale, seul et unique système politique favorisant l’épanouissement de nos sociétés. Grâce à cette victoire de la démocratie sur le communisme, parce qu’on parlait bien de victoire, l’avenir politique de l’humanité était désormais connu et assuré.

Je me souviens qu’un de mes travaux pour le cours Théories politiques contemporaines portait précisément sur le livre de Fukuyama, ce qui m’avait valu une offre de faire une maîtrise sur ce sujet de la part de l’un de mes professeurs… Même si le sujet m’intéressait beaucoup, je n’étais pas certain de vouloir pousser mes études sur la question des théories politiques à l’époque, pas plus que je ne le serais aujourd’hui d’ailleurs ! La thèse de M. Fukuyama peut, de nos jours, paraître un brin triomphaliste, mais ce n’était pas le cas dans les années 1990 ; j’estime qu’elle se situait davantage du côté d’un profond optimisme par rapport à la démocratie libérale. Il faut se rappeler que la fin de la guerre froide représentait le terme de plus de cinq décennies d’hostilités, et même de la menace d’une guerre nucléaire à l’échelle planétaire. Il est donc compréhensible qu’un certain vent d’optimisme ait soufflé à ce moment précis sur une partie du monde. Le livre du professeur Fukuyama est d’ailleurs considéré comme l’un des plus importants de la fin du e siècle. Près de 30 ans plus tard, force est de constater que la thèse de la « fin de l’histoire » en a pris pour son rhume, alors que, comme nous le révèle l’enquête annuelle de Freedom House, la démocratie bat de l’aile dans plusieurs pays et déclinerait même dans certains bastions historiques (le rapport mentionne notamment le cas des États-Unis d’Amérique79). Cette crise que vit présentement la démocratie tient, selon moi, à plusieurs facteurs, dont le principal serait l’accroissement des écarts entre les riches et les pauvres. Alors que l’écart entre les riches et les pauvres a commencé à diminuer à partir de la décennie 1920, d’abord en Amérique du Nord et en Europe, ensuite dans plusieurs pays en voie de développement, il se creuse de nouveau à partir du début des années 1980. Les plus riches deviennent effectivement de plus en plus riches, tandis que le pouvoir d’achat de la classe moyenne s’effrite de plus en plus. Mais ne me prenez surtout pas au

mot ! Considérez plutôt le travail sérieux de l’Organisation de coopération et de développement économiques ( ), un club sélect réunissant les 36 pays dits industrialisés ainsi que certains pays émergents, qui publie régulièrement toutes sortes d’études sur un éventail de sujets impressionnant. La question des écarts entre les riches et les pauvres est l’un des thèmes sur lesquels elle se penche chaque année. Ainsi, il ressort de son rapport de 2018 sur le sujet que l’accroissement de la pauvreté de la classe moyenne dans plusieurs démocraties occidentales est bien réel et que les inégalités sont de plus en plus une source de tensions80. Mais quel lien y a-t-il donc entre cette question et l’ ? D’une part, différents acteurs cherchant à influencer, sinon à manipuler l’électorat, ou même à déstabiliser certains pays, ont maintenant à leur portée des outils très puissants reposant sur l’ , qui leur permettent de propager de fausses nouvelles ou encore d’en déformer d’autres. D’autre part, ces tractations sont rendues d’autant plus faciles que nous assistons probablement à l’une des pires crises de confiance envers la démocratie libérale depuis l’invention de cette dernière. L’élection de Donald Trump aux États-Unis, celle de Rob Ford en Ontario (que certains ont qualifié de « Trump light ») et celle de Rodrigo Duterte aux Philippines, le vote sur le retrait du Royaume-Uni de l’Union européenne (le Brexit) sont autant de signes que nous sommes entrés dans une période de grande perturbation et que, dans bien des cas, l’ est utilisée comme un outil contribuant à ces déstabilisations de la démocratie libérale. « La fin de l’histoire » ? Je peux concevoir que plusieurs d’entre nous y ont cru à une certaine époque, mais cette époque est révolue, l’histoire aura un futur et bien malin celui ou celle qui pourra prévoir à quoi ce futur ressemblera…

Le cas Cambridge Analytica Qui n’a pas entendu parler de la maintenant défunte entreprise Cambridge Analytica ? Cette entreprise britannique de consultation politique, très active dans le commerce des données – j’ai mentionné, au début de ce e siècle, vous chapitre, que ces dernières allaient devenir le pétrole du allez comprendre ici pourquoi –, offrait à sa clientèle différents services de consultation politique fondés sur l’utilisation de mégadonnées (que l’on appelle souvent le big data). L’un des actionnaires de l’entreprise était un

gestionnaire de portefeuille américain de la famille de Robert Mercer, très proche des mouvements conservateurs, particulièrement aux États-Unis et en Grande-Bretagne, ainsi que d’un certain Stephen Bannon, dit Steve Bannon, qui sera pendant moins de sept mois le conseiller du président Trump… Cambridge Analytica a notamment travaillé à la campagne présidentielle de Ted Cruz et à celle de Donald Trump, ainsi que pour l’une des organisations pro-Brexit au Royaume-Uni. Comment fonctionne ce type d’entreprises ? Essentiellement, elles aident leurs clients à mieux connaître leur public cible. Dans le cas d’une course à l’investiture d’un parti politique, par exemple, ces entreprises feront l’acquisition de vastes bases de données sur les membres et les sympathisants du parti en question. À l’aide de ces bases de données, elles pourront ensuite définir le profil type des personnes les plus susceptibles de voter pour le client concerné et fourniront également des propositions de messages les plus passibles de rejoindre les personnes visées. Jusque-là, pas trop de problèmes. Après tout, nombre de firmes de consultants offrent des services-conseils aux candidats et candidates de partis politiques ainsi qu’à ces derniers depuis déjà belle lurette. Les choses se corsent lorsqu’on découvre comment certaines firmes acquièrent aujourd’hui de vastes quantités d’informations sur un public

presque tout aussi vaste. Et c’est ce qui a mené à la perte de Cambridge Analytica. 1re prise : au printemps 2018, plusieurs grands quotidiens publient une série d’articles révélant que l’entreprise aurait acquis des données d’utilisateurs de Facebook par le biais d’un chercheur, extérieur à Facebook, qui affirme avoir obtenu ces données à des fins scientifiques. 2e prise : on apprend ensuite que les données de 270 000 utilisateurs de l’application This is Your Digital Life, application appartenant à Facebook, auraient été exploitées par Cambridge Analytica et qu’en plus, les données de ces 270 000 personnes auraient elles-mêmes permis de recueillir de l’information sur 87 millions de personnes. Oui ! 87 millions, soit les « amis » des 270 000 personnes de départ. 3e prise : une chaîne de télévision britannique révèle que le de la firme, Alexander Nix, a eu recours à plusieurs méthodes douteuses, telles que faire appel aux services de prostitués ou offrir des pots-de-vin, afin de discréditer les opposants politiques des clients de sa firme. On apprendra également que Cambridge Analytica était chargée de toutes les communications numériques de la campagne de Donald Trump. Trois prises, retiré ! Ces quelques semaines de nouvelles dévastatrices, en plus d’une enquête par le Commissaire à l’information britannique et un boycottage par Facebook, eurent raison de Cambridge Analytica81. Une brève autopsie de ce psychodrame nous permet de mieux comprendre le déroulement de cette affaire et, pour ce faire, nous devons revenir en arrière, quatre ans avant que ce scandale n’éclate, c’est-à-dire en 2014, alors que des chercheurs de l’Université de Cambridge demandent à des internautes, dans le cadre d’une recherche, de participer à une enquête portant sur leur personnalité. Sans en être conscientes, les personnes

participant à cette enquête mettent en suspens les fonctions liées à la vie privée de l’application qu’ils utilisent… Sans que personne le sache à ce moment, cette suspension affectera tous les membres de leurs réseaux sociaux. Cela peut vous surprendre, mais, à l’époque, Facebook autorisait ce genre de pratique, c’est-à-dire la suspension des fonctions liées à la vie privée, dans la mesure où cela était fait à des fins de recherche scientifique. Et ce que vous ne savez peut-être pas, c’est que nous, toutes et tous, en ayant un compte Facebook, acceptons que nos données privées soient utilisées à des fins de recherche. Toutefois, ce que Facebook n’autorisait pas, et n’autorise toujours pas, c’est que ces données soient utilisées à des fins commerciales. Or, dans le cadre du scandale qui nous occupe, c’est précisément ce que la firme Cambridge Analytica a tenté de faire auprès de l’Université de Cambridge. À son grand mérite, celle-ci a refusé, ce qui n’a pas été le cas de l’un de ses chercheurs, qui, lui, a pris la décision de vendre ces informations. Imaginez un peu la mine d’or pour Cambridge Analytica : à partir des réponses au questionnaire qu’avaient rempli 270 000 personnes, elle a eu accès aux données de 87 millions de personnes. Ces données incluaient, bien sûr, les likes, mais aussi tout ce que nous pouvons mettre sur notre page Facebook : les nouvelles qui nous intéressent et celles qui nous répugnent, nos sources d’information, ce que nous mangeons, notre opinion sur la nouvelle du jour, le dernier film ou la dernière série que nous avons regardés… Malheureusement, le scandale de Cambridge Analytica ne s’arrête pas là, car on a également découvert que Facebook avait permis la diffusion de publicités mensongères, qu’il avait failli à détecter, dans ses pages durant le référendum sur le retrait du Royaume-Uni de l’Union européenne, le fameux Brexit.

Vous avez peut-être vu des scènes télévisées où le de Facebook, Mark Zuckerberg, doit se plier à une éprouvante séance de questions devant le Congrès américain, allant même jusqu’à des excuses publiques. Pourquoi ces excuses ? Pour avoir manqué à son devoir de protection des informations personnelles des usagers de sa plateforme. On peut imaginer que M. Zuckerberg devra encore souvent se prêter à ce genre d’exercice de contrition. Maintenant que le scandale Cambridge Analytica a été exposé au grand jour, est-ce la fin pour autant de ce genre de pratique ? J’ai bien peur que non. Nous verrons toutefois, dans la conclusion, comment, individuellement, mais aussi collectivement, nous pouvons mieux encadrer l’utilisation de ces technologies.

L Le drone que vous voyez à la page suivante se nomme le Harop. Il est fabriqué par l’entreprise israélienne Israel Aerospace Indusries ( ) et, contrairement aux drones que vous avez peut-être déjà vus au téléjournal ou encore dans un film d’espionnage, ce modèle a la particularité d’être « autonome », c’est-à-dire qu’après avoir été lancé il ne requiert aucune intervention humaine. Il peut survoler une zone de guerre pendant des heures et attendre patiemment de trouver sa cible (ou encore d’être détecté par un radar ennemi) avant de foncer sur elle et de la faire exploser. S’il ne trouve rien à attaquer ou s’il n’est pas détecté, il retourne paisiblement à son point de départ, prêt pour une autre mission. Le Harop est ce que l’on appelle une « arme létale autonome » ( ) ou encore un « robot militaire ». S’il y a une chose qui fait monter en nous les pires craintes vis-à-vis de l’ , c’est bien cette idée que des « robots

tueurs » pourraient être librement relâchés dans la nature sans aucun contrôle. De là à imaginer que nous pourrions nous retrouver face à face avec Arnold Schwarzenegger en Terminator, il n’y a qu’un pas. De quoi parle-t-on exactement lorsqu’il est question des ? De façon générale, l’autonomie en cette matière fait référence à la capacité d’action d’une machine, que ce soit un logiciel ou un engin, qui, une fois mise en marche, peut mener à bien une tâche sans aucune intervention humaine et qui possède des capacités d’adaptation aux variations de son état ou de son environnement.

Le drone autonome Harop © Israel Aerospace Indusries

Certains affirment que les armes autonomes existent depuis longtemps. Nous connaissons, par exemple, depuis le début des années 1970, des systèmes automatisés capables de détecter l’arrivée de missiles ennemis et d’y réagir sans intervention humaine. De façon générale, cependant, les systèmes de détection existants ont des capacités perceptuelles et de prise de décision limitées. On peut aussi mentionner les mines antipersonnel, qui, une fois installées, explosent automatiquement lorsqu’on pose le pied dessus. Toutefois, cette réalité historique indéniable se situe bien en deçà de la situation actuelle. La nouvelle génération d’armes autonomes va plus loin, beaucoup plus loin. Ces armes ne sont pas que passives, elles possèdent la capacité d’initiative dont seul l’humain avait l’apanage jusqu’ici. Revenons à notre exemple de drone qui, dans sa forme classique, doit être commandé par des humains. Il présente certaines des caractéristiques de l’autonomie, en matière de détection, par exemple, sauf qu’il ne peut prendre l’initiative de faire feu sur une cible. Le Stockholm International Peace Research Institute ( ), un centre spécialisé dans la recherche sur les conflits, les armes et leur contrôle, et le désarmement, créé en 1966, a produit ce qui est fort probablement l’un des rapports les plus exhaustifs sur la question des . Selon le , une approche efficace pour l’évaluation du niveau d’autonomie d’une machine consiste en la détermination du niveau d’intervention humaine dans la prise de décision. À cet égard, on peut classer les machines en trois catégories : Les systèmes qui ont besoin d’une intervention humaine, parfois qualifiés de « semi-autonomes » ; Les systèmes qui peuvent accomplir leur tâche de façon indépendante de l’action humaine, mais qui requièrent une intervention en cas de bris

ou de dysfonctionnement, ce que le supervisés » ;

appelle « systèmes autonomes

Finalement, les systèmes capables de fonctionner seuls et où l’humain ne peut intervenir, systèmes qualifiés de « pleinement autonomes82 ». Nous pouvons penser aux niveaux d’autonomie de ces armes de la même façon que nous l’avons fait pour les voitures ; il existe plusieurs niveaux d’autonomie, allant des systèmes nécessitant une intervention ou une supervision humaine importante aux systèmes ayant une autonomie complète. Il faut toutefois préciser que, même pour les niveaux autonomie complète, l’humain doit encore intervenir pour activer l’arme en question. Par ailleurs, la notion d’« arme » ne donne qu’un portrait limité de l’éventail des machines conçues pour des usages militaires. Les chercheurs du relèvent cinq fonctions, ou applications, des systèmes d’armes autonomes : Mobilité : capacité de déplacement (air, terre ou mer) ; Ciblage : détection et acquisition des cibles ; Intelligence : capacité d’accumuler de l’information, que ce soit sur une cible précise ou, de façon plus large, sur un environnement donné. Cette fonction pourrait également inclure, par exemple, la reconnaissance d’un coup de feu ; Interopérabilité : capacité de différents éléments d’un système d’interagir les uns avec les autres. Cette capacité peut également s’exercer entre des machines et des troupes humaines, par exemple ; Gestion de la santé : bien que les experts emploient ici le terme « santé », cette fonction fait référence à la capacité des machines de procéder à leur propre entretien et de se réparer83.

En avril 2017, le avait recueilli des informations sur 381 , dont 175 étaient armés. Outre les drones comme le Harop, il existe présentement une pléthore d’ , soit pour des utilisations au sol, tel l’Armata russe, que ses concepteurs affirment être 20 ans en avance sur tous les autres chars d’assaut, tout en demeurant avares de détails quant aux capacités avancées de cet engin sauf pour préciser qu’il sera offert en mode autonome, c’est-à-dire pouvant être opéré sans humain. Les enjeux entourant les À la lecture de ces dernières pages, on comprend aisément que le développement de ces armes en inquiète plus d’un. Une campagne internationale a d’ailleurs déjà été lancée, intitulée Campagne pour mettre fin aux robots tueurs84 (un titre accrocheur, il faut l’admettre). Cette campagne est soutenue par plusieurs d’une grande crédibilité, dont Amnistie internationale, Human Rights Watch et Ingénieurs sans frontières. Ces organisations soulignent, avec raison, que ce type d’armement augmente de façon importante les risques de victimes civiles. Par exemple, une machine serait-elle capable de distinguer un char d’assaut d’un autobus rempli d’enfants, un avion de chasse d’un avion de ligne ? Et que dire du système Super aEgis II de l’entreprise sud-coréenne DoD Systems, qui combine dispositif de détection et mitraillette, tel qu’on peut le voir sur l’image qui suit ? Ce système peut, grâce à un radar et à un laser, détecter une cible, en faire l’acquisition et ensuite l’engager, tout ça de façon autonome. Un de ces systèmes est installé aux limites de la ville de Daejeon (Corée du Sud) et peut ainsi repérer une cible humaine jusqu’à quatre kilomètres. Comment une telle arme pourrait-elle distinguer un attaquant qui court vers elle d’un simple civil sorti faire son jogging ?

L’arme Super aEgis II de l’entreprise sud-coréenne DoDAAM © Simon Parkin (parue dans l’article « Killer robots : The soldiers that never sleep », BBC, 16 juillet 2015).

Il existe, en droit, plusieurs éléments encadrant ce que l’on appelle le « droit humanitaire international », ou « droit de la guerre », droit que l’on retrouve dans plusieurs conventions internationales, comme la Convention sur certaines armes classiques ( ) ou la convention de Genève relative à la protection des personnes civiles en temps de guerre. Ces conventions visent à baliser la pratique de la guerre, entre combattants opposés, mais également le traitement réservé aux civils en cas de conflit. C’est ainsi qu’en septembre 2018 plusieurs pays et ont tenté de faire adopter, au cours d’une rencontre des États signataires de la , une motion visant à 85. Hélas, les pays producteurs de ces armes se bannir l’utilisation des sont tous opposés à cette motion. Parmi ceux-ci, mentionnons les ÉtatsUnis, la Russie, Israël, la Corée du Sud et la Chine. Malgré ce revers, je

doute que ce soit la fin de ce mouvement et les opposants au développement de ces armes reviendront certainement à la charge. Sur une note peut-être un peu plus positive, il semble que, contrairement à la course à l’armement à laquelle nous avons assisté pendant de la guerre froide, il n’y ait pas, pour le moment, de course au développement des . En effet, malgré les exemples que j’ai donnés dans cette section, la plupart des experts s’entendent sur le fait que le développement de ces armes est circonscrit aux États-Unis et que les autres pays investissent, jusqu’à maintenant, peu d’efforts et de ressources dans ce secteur. Peut-être est-ce dû au fonctionnement de l’appareil militaire, dont la chaîne de commandement repose sur l’obéissance aux ordres et sur un contrôle total de l’ensemble des décisions. Il est difficile de voir comment cette même chaîne de commandement, dans l’état actuel des choses, pourrait tolérer une machine qui penserait par elle-même et déciderait qui elle attaque et quand elle doit le faire, pas plus que cela ne saurait être toléré pour un soldat humain. Comme l’expliquait dans une entrevue à la Jungsuk Park, un ingénieur de la firme DoD , fabriquant du Super aEgis II, bien que la version originale du système soit entièrement autonome et puisse faire feu sans intervention humaine, tous les clients de la firme ont exigé un système semi-autonome requérant spécifiquement une intervention humaine86… Ce n’est donc peut-être pas demain la veille que vous croiserez un Terminator au coin de la rue !

D Vous conviendrez avec moi que nous venons de découvrir ce qui constitue certainement les aspects les plus néfastes, je dirais même terrifiants dans

certains cas, de l’utilisation de l’ . Vous aurez également compris que je suis passablement moins inquiet en ce qui concerne les (même si je suis tout à fait d’accord avec ceux et celles qui militent pour un meilleur encadrement du développement de ces dernières) que je ne le suis devant les menaces que fait peser l’ à la fois sur nos vies privées et sur les fondements mêmes de nos démocraties. C’est bien ici que l’on reconnaît « la brute » dans toute son intransigeance et son insensibilité. Comme bien d’autres, je crois fondamentalement que notre système de gouvernance peut et doit s’améliorer, mais je crois également que la démocratie, comme le disait si bien Churchill, « est la pire forme de gouvernement, mis à part toutes les autres formes qui ont déjà été expérimentées87 ». Cette vision d’un monde tel que l’avait imaginé George Orwell n’est pas inévitable, nous avons même pu voir que la situation s’améliore dans plusieurs pays. Toutefois, l’ offre des outils pour le contrôle des populations, de la presse et de nos sociétés comme nous n’en avons jamais connu. Le temps du laisser-aller dont ont fait preuve certains gouvernements, notamment en Amérique du Nord, est terminé : s’imposent à présent une prise de conscience collective et la mise en place de balises afin de nous assurer que le développement de cette technologie contribuera au bien commun et non à l’asservissement de l’humanité.

III Le truand

Penchons-nous, dans ce dernier chapitre, sur différents aspects du développement de l’intelligence artificielle ( ), des aspects dont les conséquences sont encore mal comprises, en partie parce que notre capacité actuelle à bien les évaluer est limitée pour l’instant. Dans certains cas, il s’agira de questions qui relèvent presque de la science-fiction ou pour lesquelles nous avons de la difficulté à dresser un bilan clair quant aux avantages et aux inconvénients. Un peu à l’image du personnage du western de Leone, le fameux truand, ici, on ne sait pas très bien ce qui est bon, ce qui mauvais, ou tout juste passable.

C Le nom de Chamath Palihapitiya ne vous dit probablement rien. Par contre, vous avez peut-être déjà entendu parler de l’une de ses plus célèbres déclarations : « Nous avons créé des outils qui déchirent le tissu social88. » Qui est ce M. Palihapitiya ? Nul autre que l’ancien vice-président responsable de la croissance de l’audience… chez Facebook ! Son rôle au

sein du réseau social était donc de faire croître le nombre d’utilisateurs dans les premières années de vie de cette entreprise. Presque malicieusement, avec ses collègues, ils ont sciemment décidé d’exploiter nos faiblesses psychologiques pour y arriver. Comment s’y sont-ils pris ? En misant sur la production d’une molécule biochimique présente naturellement dans notre cerveau, soit la dopamine. Il importe de bien comprendre le rôle de ce neurotransmetteur. La dopamine est une sorte de messager chimique qui, bien que n’étant produit que par 0,3 % des cellules du cerveau89, joue un rôle critique dans le comportement humain. Elle intervient dans le contrôle des mouvements, l’humeur et la mémoire. Une quantité insuffisante de cette substance dans le cerveau peut entraîner des maladies comme la maladie de Parkinson ; à l’opposé, une trop grande quantité peut mener à la schizophrénie. De plus en plus d’études l’associent à la formation de certaines caractéristiques humaines, comme la curiosité et le désir. Plus précisément, elle nous pousserait à chercher et à rechercher. Elle aurait contribué à inciter nos ancêtres à explorer le monde, à le connaître. On comprend de mieux en mieux le rôle important que la dopamine joue sur le plan de nos désirs et même de nos dépendances. Si ce neurotransmetteur a longtemps été considéré comme la « molécule du plaisir », cette fonction est aujourd’hui remise en question, et la spécialiste Nora Volkow, directrice du National Institute on Drug Abuse ( ), aux États-Unis, souligne que : « La dopamine n’est pas la molécule du plaisir telle qu’on la présente généralement. Son rôle est beaucoup plus nuancé90. » Un chercheur en neurobiologie de l’Université Concordia, Roy Wise, a procédé, en 1978, à une expérience en laboratoire dans laquelle, à l’aide

d’antipsychotiques, il bloquait la production de dopamine chez des rats. Ces derniers ont par la suite cessé de se mettre en quête de friandises ou de drogues, même s’ils pouvaient encore se déplacer pour les atteindre91. On estime que le neurotransmetteur interviendrait dans ce que plusieurs qualifient de « circuit cérébral de la récompense » et permettrait même de les anticiper, de prévoir des récompenses. Et ça, les experts et les chercheurs de Facebook l’ont très bien compris dès les premières années du développement de la plateforme. Il ne leur restait ensuite qu’à exploiter la présence de la dopamine en créant un système de gratification instantanée, soit les fameux likes. Justin Rosenstein, autre ex-employé de Facebook et inventeur du bouton Like, condamne, lui aussi, l’effet de médias sociaux sur notre cerveau. Il va même jusqu’à comparer la fréquentation d’un réseau social comme Snapchat à une dépendance à l’héroïne92… Hyperbole, vous dites ? La science tend pourtant à lui donner raison. De plus en plus de recherches démontrent comment la production de dopamine, qui peut paraître tout à fait anodine, a des effets très importants sur notre cerveau et sur ses fonctions. Et cela, Facebook n’est plus le seul média social à l’avoir compris ; outre l’exemple de Snapchat donné par M. Rosenstein, il faut ajouter Instagram, Tumblr, Google, etc. Si vous possédez un téléphone intelligent, une tablette ou un ordinateur, vous savez probablement combien il peut être difficile de se concentrer sur une tâche donnée quand on est constamment sollicité par toutes sortes d’alertes : un nouveau courriel qui vient d’arriver, un message texte entrant, quelqu’un a « liké » votre dernière photo ou votre dernier tweet… Or ces signaux sont très efficaces pour stimuler la production de dopamine en alertant notre sens de l’anticipation. Notre seuil de résistance à tous ces stimuli ne peut que diminuer.

Cette dépendance de l’humain à la dopamine, il n’y a pas que les médias sociaux qui l’ont bien saisie. Pensons à tous les jeux vidéo à succès : Candy Crush, Angry Birds, Minecraft et tant d’autres. L’une des choses communes à tous ces jeux, c’est bien l’anticipation d’une récompense à venir ou encore d’un nouveau record personnel à atteindre. Tout pour stimuler en nous la libération de dopamine. Nous avons donc de plus en plus de difficulté à nous concentrer pour accomplir des tâches simples parce que nous sommes de plus en plus bombardés d’informations et soumis à une panoplie d’applications faisant de nous des accros à la dopamine. D’ailleurs, chaque fois que je m’assoyais pour écrire ce livre, je devais m’assurer de mettre mon téléphone en mode silence et mon ordinateur en mode « Ne pas déranger » si je voulais pouvoir écrire quelques lignes sans être déconcentré ! Mais ce n’est pas tout. Une socialisation en transformation Je soulignais, dans l’introduction, le travail de la professeure Twenge au sujet des conséquences chez les jeunes de l’utilisation des appareils dits intelligents. Dans le cadre de ses recherches, outre la question très préoccupante de la dépression chez les jeunes liée au temps passé devant l’écran, elle note qu’ils ont moins tendance à socialiser et même à se courtiser que par le passé. Ses études portent, bien sûr, sur les élèves américains, mais on peut supposer que cette réalité touche tous les jeunes qui passent du temps devant leurs écrans, qu’ils soient en France, en Grande-Bretagne ou au Canada. Voici quelques exemples frappants de ce changement que donne Jean M. Twenge :

Les jeunes d’aujourd’hui sont beaucoup moins nombreux à avoir des rendez-vous amoureux comparativement à ceux des générations précédentes, soit environ une personne sur deux aujourd’hui, alors que ce nombre était de trois personnes sur quatre pour ma génération et celle des baby-boomers93. Ils font beaucoup moins la fête que je ne le faisais à leur âge, soit environ 30 % moins, oui, un tiers de moins94 ! Il y a eu une diminution de 40 % des jeunes sexuellement actifs depuis 199195. Comment explique-t-on ces changements ? Essentiellement, de nos jours, les jeunes passent moins de temps ensemble, physiquement, que ne le faisaient les jeunes des générations précédentes. Est-ce dire qu’ils ne socialisent plus ? Bien sûr que non, mais ils le font de façon très différente, et tant les écrans que les médias sociaux ou même les jeux vidéo sont devenus des parties intégrantes de cette socialisation. Combien de fois ai-je vu mon fils de 15 ans passer des soirées complètes à jouer à des jeux en ligne tout en parlant à ses amis, eux-mêmes en train de jouer au même jeu au même moment… Ils bavardent, rient et discutent de mille et une choses. Si ce n’était que du volet jeux vidéo, nous pourrions toujours dire que ça ressemble un peu au comportement de ceux et celles parmi nous qui passaient des soirées à parler au téléphone, ou dans le sous-sol chez un ami, ou encore dans un parc pas très loin de la maison. À cette époque, nous n’avions pas d’autres choix que de nous parler de vive voix, en personne ou au téléphone. Par ailleurs, fait intéressant, toujours selon la professeure Twenge, les jeunes qui passent moins de temps que la moyenne devant leurs écrans ont tendance à être plus heureux. Et c’est peut-être ici que les déclarations de

M. Palihapitiya, l’ancien de Facebook, sur l’érosion du tissu social prennent tout leur sens. Nous passons, petits et grands, captivés par ce que nous offre la technologie, de plus en plus de temps devant des écrans et de moins en moins de temps les uns avec les autres. Et pour combattre cette tendance forte répandue à travers le monde, nous en sommes rendus à mettre en avant le concept des « journées débranchées » ! Entendez-moi bien, il ne s’agit pas pour moi de militer contre l’utilisation de ces technologies, mais bien, encore une fois, de déterminer comment nous pouvons, tant collectivement qu’individuellement, en maximiser les bénéfices et en réduire les effets pervers au minimum.

V

?

L’une des grandes craintes associées à l’arrivée de l’ concerne les répercussions qu’elle aura sur le monde du travail. Plusieurs prédisent des effets négatifs importants. Bien qu’il soit toujours difficile d’essayer de prévoir la forme que prendront ces changements, le passé nous offre peut-être un aperçu de ce à quoi l’avenir pourrait ressembler. Il faut d’abord réaliser que le monde de l’emploi a connu son lot de transformations, à la fois sociales et technologiques, au cours des siècles. Je pense, par exemple, à l’arrivée de la machine à vapeur, qui va donner le coup d’envoi à l’industrialisation. On assiste, pour un temps, à d’importantes pertes d’emplois, notamment en Grande-Bretagne, berceau de cette révolution. La force de la vapeur permettait soudain à une seule machine d’accomplir le travail naguère effectué par plusieurs ouvriers. Ces pertes d’emplois ont d’ailleurs mené à la révolte des luddites, genre de e siècle, mais beaucoup plus violents, qui « gilets jaunes » du début du

détruisaient, dans les cas extrêmes, certaines des premières machines industrielles. La situation s’est pourtant rétablie après un certain temps, les craintes relatives à l’industrialisation se sont peu à peu dissipées et la GrandeBretagne a été, pendant longtemps, à l’avant-scène du développement industriel. Que dire de la guerre de Sécession (1861-1865), qui a opposé le nord et le sud des États-Unis, alors que les États du Sud refusaient de mettre fin à l’esclavage, notamment pour des raisons économiques ? Les riches propriétaires terriens du Sud craignaient le contrecoup économique de l’arrivée de ces millions de nouveaux travailleurs sur le marché du travail. Or, plusieurs analyses ont démontré que l’esclavage, outre son caractère profondément inhumain, a beaucoup nui à l’économie du Sud96. En fondant leur économie sur une main-d’œuvre bon marché, les propriétaires terriens du Sud ont peu investi dans la mécanisation, contrairement à leurs compatriotes du Nord, ce qui a freiné leur productivité et, par conséquent, leur performance économique. Le phénomène est comparable à l’arrivée des femmes sur le marché du travail. Au Québec, de 1941 à 1971, le nombre de femmes sur le marché du travail est passé de 260 000 à 750 00097, au grand déplaisir de l’Église et des organisations comme la Confédération des travailleurs catholiques du Canada ( ), qui estimaient que la place de la femme était à la maison pour y accomplir la « volonté de Dieu ». Y a-t-il eu pour autant une hécatombe dans le marché de l’emploi pour les hommes ? Poser la question, c’est y répondre. Ce n’est pas non plus d’hier que les grandes usines d’assemblage ont pris le virage de la robotisation, que ce soit en Amérique du Nord, en Europe ou dans plusieurs pays asiatiques.

En vérité, la plupart des experts s’entendent sur le fait que la technologie a été, jusqu’ici, beaucoup plus avantageuse que néfaste dans le monde de l’emploi. Dans une étude parue en 2015 et portant, justement, sur le cas de la Grande-Bretagne, les experts ont conclu que le recours croissant à la technologie a effectivement mené à des pertes d’emplois dans certains secteurs, comme l’agriculture. Toutefois, ces pertes ont été plus que largement compensées par des gains dans le secteur des services98, comme celui des soins infirmiers, lequel a connu une hausse de près 900 % de 1992 à 2014 seulement99. J’ai mentionné, dans l’introduction, les travaux de Jacques Attali, qui a dirigé, au nom de l’Institut Manpower pour l’emploi, un groupe de travail français dont le rapport s’intitule L’avenir du travail100. Ce rapport est d’une grande lucidité quant au défi qui attend le marché de l’emploi, et, donc, les travailleurs et travailleuses, mais il brosse pourtant un portrait très positif de notre capacité collective à continuer de nous adapter à un monde en constante évolution. Évidemment, plus nous serons proactifs, plus ces changements se feront de façon ordonnée. Le corollaire est, bien sûr, que plus les pouvoirs publics se montreront inaptes face aux répercussions des changements technologiques sur l’emploi, plus ils refuseront d’apporter les modifications nécessaires (tant dans les secteurs soutenus par l’État que dans les programmes de formation), plus ces changements seront difficiles d’un point de vue social. Parmi les propositions formulées par le groupe de travail de Jacques Attali, notons les suivantes : améliorer le travail chez les jeunes (par de meilleures conditions de travail), prolonger le travail des aînés, admettre plus d’immigrants, repenser le contrat de travail, offrir plus de flexibilité dans les horaires de travail et repenser l’échelle des revenus.

Des attitudes face au travail qui changent Combien de personnes parmi nous aimeraient travailler 70 heures par semaine, être toujours sur la route (littéralement), travailler de jour comme de nuit ? Pourtant, vous trouverez sur n’importe quel site d’annonces d’emploi des offres pour ce genre de poste, tel le travail de camionneur. Si, comme nous l’avons vu dans le premier chapitre (« Le bon »), l’électrification et l’automatisation des transports avancent à vitesse grand V, nous n’en sommes pas encore à l’étape où tous les chauffeurs de camion sont menacés de chômage à court et même à moyen terme. Cependant, on peut entrevoir un avenir pas si lointain où ce type d’emploi exigeant sera effectivement appelé à disparaître ; d’ailleurs, des prototypes de camion autonomes roulent déjà sur nos routes. Devrait-on alors dénoncer un effet pervers de la progression de la technologie sur l’emploi ? Et si tel n’était pas le cas ? Joëlle Pineau, dont j’ai déjà parlé à quelques reprises, m’expliquait que ses collègues et elle ont rencontré des représentants de l’industrie du camionnage qui souhaitaient explorer les façons dont l’ pourrait aider leur industrie, au lieu de lui nuire. Pourquoi ? Parce que les représentants de l’industrie affirment ne plus être capables de trouver preneur pour les postes vacants. L’année 2017 a reçu le triste titre de « pire année » pour l’industrie du camionnage au Québec, alors que certains propriétaires de flottes de véhicules ont constaté que 20 %, voire 30 %, de leurs véhicules étaient immobilisés faute de conducteurs101. Aux États-Unis, on compterait présentement 51 000 postes à pourvoir, mais les candidats sont rares, malgré le fait que certaines entreprises offrent des salaires tournant autour de 80 000 $ par année et des augmentations annuelles de 15 % (soit plus de 5 fois la hausse du coût de la vie102). La raison le plus souvent invoquée pour expliquer le peu d’intérêt des travailleurs pour ce métier ? Le style de

vie trop exigeant. Comme je le soulignais plus haut, il s’agit d’un emploi qui implique des absences prolongées de la maison, généralement plusieurs jours, sinon des semaines, ce qui est très mauvais pour la vie de famille. À une certaine époque où bon nombre d’hommes étaient peu présents ou, du moins, peu engagés dans la vie familiale, ces absences prolongées pouvaient paraître acceptables. Aujourd’hui, les hommes s’investissent de plus en plus auprès de leur famille et cette idée d’être toujours partis a perdu beaucoup de son attrait initial. Lorsque je compare les hommes de ma e siècle génération à leurs pères, le contraste est frappant : les papas du participent plus aux tâches ménagères, à l’éducation et aux activités des enfants, sont de plus en plus nombreux à profiter des congés parentaux… Il est vrai que la gestion des tâches ménagères repose encore majoritairement sur les épaules des femmes, mais, même de ce côté, nous avons pu constater une évolution marquée. C’est peut-être ce qui a incité certaines entreprises, telles que Tesla et Cummins, grand constructeur de semi-remorques, à concevoir des prototypes de semi-remorques électriques (voir les photos suivantes).

Le prototype de tracteur semi-remorque électrique de Tesla © Tesla

Cummins Inc. a dévoilé le 29 août 2017 un groupe motopropulseur entièrement électrique révolutionnaire Aeos, un camion poids lourd de démonstration. © Cummins

Comme je l’ai expliqué dans le premier chapitre, l’électrification est un préalable à l’automatisation. Le camionnage offre un bel exemple de l’apport de la technologie, qui, loin de « voler des emplois aux humains », pourra aider à pérenniser certains secteurs d’activité qui seront frappés de plus en plus par une pénurie de main-d’œuvre. Personne n’est en mesure de préciser avec certitude le jour où les conducteurs de semi-remorque, de camion lourd ou encore de taxi seront remplacés par des véhicules autonomes, mais nous pouvons toutefois imaginer sans trop de difficulté un futur où cela va se produire. On relève d’autres applications de l’ dans le secteur du transport des marchandises. Dans le cadre de mes recherches pour ce livre, j’ai rencontré plusieurs chercheurs d’Element , entreprise montréalaise mondialement reconnue, dont l’un des cofondateurs est Yoshua Bengio auquel j’ai fait référence dans l’introduction. Ces scientifiques m’expliquaient que le domaine pour lequel ils conçoivent beaucoup d’applications est celui qu’il est convenu d’appeler la « chaîne d’approvisionnement », ou « chaîne logistique », des entreprises. En gros, le concept renvoie aux différentes étapes de la fabrication d’un produit, de l’extraction des matières premières au transport et à la livraison dudit produit, en passant par la production et le contrôle de la qualité. Pour un projet avec le Port de Montréal, Element

a

ainsi mis au point un algorithme qui optimise le moment où les camions doivent se rendre chercher une cargaison au port (il y circule chaque jour 2 500 camions). L’algorithme permet non seulement d’augmenter la marge de profit de l’industrie du camionnage et de réduire la congestion au port ainsi qu’aux alentours, mais aussi de diminuer la pollution locale, le bruit et 103 ! les On peut donc supposer que le monde de l’emploi continuera d’évoluer au cours des années à venir grâce à la technologie et que l’encadrement

réglementaire, la rémunération, les horaires et d’autres aspects de ce secteur finiront également par s’adapter. Permettez-moi un exemple personnel à propos de l’évolution du monde du travail. J’ai récemment quitté, après plus de 10 merveilleuses années, mon emploi comme directeur principal à Équiterre, l’une des organisations environnementales parmi les plus importantes et les plus efficaces au Canada. J’ai fait ce choix difficile afin de pouvoir explorer différentes façons de poursuivre mon combat pour une planète en santé (ainsi que pour avoir le temps de rédiger ce livre !). Équiterre a été nommée, en 2017, l’un des meilleurs employeurs du secteur associatif au Canada… et avec raison ! L’organisation offre aux employés qui le désirent la possibilité de travailler quatre jours par semaine (plutôt que cinq comme le veut la norme), des horaires flexibles, la possibilité de faire du télétravail, etc. Je suis de ceux qui pensent que les entreprises qui agissent de la sorte aujourd’hui, et que l’on considère comme des exceptions ou, du moins, comme peu représentatives de l’ensemble du marché, pavent la voie à ce que sera le monde du travail de demain. Il y a de cela quelques années, je prenais un café avec l’ancien

de

Rona, Robert Dutton, qui me confiait à quel point le monde du travail avait changé durant les trois décennies qu’il avait passées à l’emploi de Rona. Il me disait que si les jeunes devaient encore se soumettre à des entrevues pour décrocher un poste dans une entreprise, sous peu, ce serait les entreprises qui allaient devoir passer des entrevues pour avoir la chance d’attirer, et de garder, les jeunes chez elles ! De plus en plus, les jeunes veulent travailler pour des entreprises responsables qui offrent un environnement de travail stimulant et des conditions flexibles.

L

Illustration inspirée d’un Borg de la série télévisée Star Trek : la nouvelle génération. Source : Star Trek Timelines Wiki

Chez les amateurs de science-fiction, de Star Trek en particulier, qui ne se souvient pas des Borgs, créatures mi-humaines, mi-machines vouées à la conquête de la galaxie ? Ces vilains de l’univers de la série télévisée Star Trek : la nouvelle génération sont devenus, avec le temps, les vilains les plus connus du petit écran, du moins si l’on en croit un récent sondage réalisé par Netflix ! Sommes-nous destinés, en tant qu’espèce, à cet avenir où l’humain n’aura d’autres choix, pour évoluer, que de fusionner avec la machine ? Si l’on en croit les adeptes du transhumanisme, la réponse à cette question est « oui ».

Qu’est-ce que le transhumanisme ? Essentiellement, il s’agit d’un mouvement qui défend l’idée que le salut de notre espèce passe par l’intégration de la technologie à même l’être humain. Bien qu’il soit encore marginal, ce mouvement prend de plus en plus d’ampleur à l’échelle mondiale.

Le logo utilisé par bon nombre d’adeptes du transhumanisme.

On ne peut reprocher à ces disciples de la fusion du biologique avec la mécanique de manquer d’imagination. Ils supposent que, grâce à une puce implantée dans le cerveau, une personne malvoyante ou aveugle pourra voir aussi bien, sinon mieux, que les voyants, ou encore que cette puce conférera la capacité d’accéder directement à la Toile sans les interfaces externes que sont aujourd’hui nos ordinateurs, téléphones et montres intelligents. Cet intéressant mouvement social n’en est pas à un paradoxe près : alors que, d’un côté, il dénonce les dérives de la technologie, de l’autre, il souhaite lier à cette dernière le salut de l’humanité… C’est ainsi que les transhumanistes reprochent aux (Google, Amazon, Facebook et Apple) leur emprise sur nos vies. Ils postulent que nous vivons déjà dans un univers virtuel, à l’image de celui où se déroule l’action de la série de films La matrice, et que l’ va détruire le tissu social. Quel remède proposent-ils pour régler ce problème ? Fusionner la technologie avec l’humain de façon à permettre à notre espèce d’évoluer et

de ne pas simplement être avalée par les progrès technologiques ! En résumé, l’Homo sapiens tel qu’il existe depuis environ 300 000 ans ne serait pas le point culminant de l’évolution de l’espèce humaine, mais seulement une étape, et nous serions à la veille de passer de l’humain 1.0 à l’humain 2.0. Les plus âgés parmi nous se souviennent sûrement des séries très populaires du petit écran de la fin des années 1970 L’homme de six millions et son pendant féminin La femme bionique104. Dans les deux cas, à la suite d’accidents, les personnages principaux de ces séries avaient dû faire remplacer différentes parties de leur corps (les jambes, un bras, un œil ou encore une oreille) par des prothèses bioniques leur conférant des capacités physiques et sensorielles extraordinaires. Ce qui relevait de la sciencefiction à cette époque devient peut-être de plus en plus une réalité. Il existe déjà, en effet, des technologies, destinées à des personnes victimes d’un accident ou encore atteintes d’une maladie dégénérative, qui font appel à des microprocesseurs qui captent les ondes cérébrales et qui permettent, par exemple, à un individu de retrouver l’usage, du moins partiel, de certaines de ses fonctions motrices. Ces microprocesseurs sont implantés à même son cerveau et peuvent décoder les influx nerveux émis par ce dernier. Une équipe de chercheurs américains a d’ailleurs permis, en 2017, à personne paralysée de retrouver l’usage de l’un de ses bras grâce à l’un de ces microprocesseurs105. Dans le domaine des prothèses, il faut mentionner le Arm (nommé d’après le personnage de Star Wars Luke Skywalker), une prothèse de bras très perfectionnée dont la fabrication a été supervisée et financée par le Pentagone. Dès la fin de 2016, des militaires américains ayant été amputés d’un bras ou d’une partie de bras ont pu profiter de cette technologie de pointe dans le cadre d’un projet pilote. Cette prothèse, qui

est maintenant commercialisée – au prix de plus de 100 000 $ US, dit-on – permet de manipuler aussi bien de petits objets fragiles, comme un raisin, ainsi que le montre la photo de la page suivante, que des objets plus lourds.

Le

Arm, une prothèse révolutionnaire fabriquée sous la direction de la Defense Advanced Research Projects Agency ( ), aux États-Unis. Source : Courtoisie de /Johns Hopkins University Applied Physics Laboratory

Si les bras, les jambes ou encore les yeux bioniques utilisés aujourd’hui n’arrivent pas à reproduire les prouesses de nos héros des séries télévisées des années 1970, certains s’en approchent de plus en plus, telle la main myoélectrique Bebionic, de l’entreprise allemande Ottobock, une prothèse qui permet de tenir un œuf sans le briser et de lever une charge de 45 kg, ou encore la jambe prothétique X3, qui peut être commandée à partir d’une application sur un téléphone intelligent106 !

Ces innovations apportent certainement de l’eau au moulin des adeptes du transhumanisme, mais, à la lecture de certains textes publiés par les partisans de ce mouvement, on a l’impression que cette doctrine est érigée en culte, en une forme de vénération de la technologie. Ainsi, selon certains penseurs transhumanistes, il serait tout à fait légitime de remplacer un membre ou un organe parfaitement fonctionnel de notre corps, une jambe, un bras ou même un cœur, par son équivalent robotique, dans la mesure où cette technologie nous rendrait « meilleurs » ou augmenterait notre longévité. Après tout, font-ils valoir, on installe bien un stimulateur cardiaque à une personne dont le cœur est dysfonctionnel, en quoi est-ce si différent ? Si la technologie peut, comme nous l’avons vu, jouer un rôle bénéfique pour la santé ou le bien-être de nombreuses personnes, dans tous cas, elle est utilisée pour pallier des handicaps consécutifs à des problèmes de santé ou à des accidents. Ne devrait-on pas tracer une ligne au-delà de laquelle il devient dangereux de s’aventurer ? Et que dire des enjeux écologiques liés à une population humaine dont l’espérance de vie n’en finit plus d’augmenter sur une planète où les ressources naturelles et la qualité de l’environnement sont déjà sérieusement hypothéquées ? Heureusement, malgré les progrès techniques impressionnants des dernières années dont j’ai parlé, la plupart des experts s’entendent pour dire que le transhumanisme, au sens que lui donnent ses adeptes aujourd’hui, relève encore, et pour un bon bout de temps, du rêve plutôt que de la réalité.

L

: ?

Le monde de la science-fiction regorge d’exemples de machines créées par l’humain qui, pour une raison ou pour une autre, finissent par se retourner

contre leur créateur. Comment oublier le Terminator, incarné par Arnold Schwarzenegger, ce robot tueur du film éponyme, dans lequel Skynet, un système d’ , après avoir été déployé à travers les serveurs de la planète, prend conscience de l’étendue de ses capacités et de sa puissance ? Devant le péril, les humains essaieront de débrancher la machine et la réaction de cette dernière sera sans pitié : les humains représenteront toujours une menace pour sa survie, il faudra donc les éliminer jusqu’au dernier ! (Passons sous silence le fait que les auteurs de ce film prévoyaient l’avènement réel de Skynet pour la fin des années 1990 et qu’ils estimaient également qu’il serait possible de voyager dans le temps dès 2029…) Et que dire de 9000 dans le chef-d’œuvre cinématographique 2001, l’odyssée de l’espace de Stanley Kubrick ? Cet ordinateur était capable de commander à lui seul un vaisseau spatial tout en ayant des conversations sérieuses et intéressantes. Hélas, au cours du voyage vers Jupiter, perdra les pédales, tuant du coup quatre des cinq membres de l’équipage. Ces scénarios de science-fiction, et bien d’autres du même genre, ont beaucoup servi à nourrir les craintes de plusieurs quant à la possibilité que l’humanité construise un jour une machine qui finirait, à terme, par la détruire. Ce qui nous amène au concept de singularité technologique, ou singularité tout court, qui se définit comme : […] l’hypothèse selon laquelle l’invention de l’intelligence artificielle déclencherait un emballement de la croissance technologique qui induirait des changements imprévisibles sur la société humaine. Au-delà de ce point, le progrès ne serait plus l’œuvre que d’intelligences artificielles, ou « supraintelligence » qui s’auto-amélioreraient, de nouvelles générations de plus en plus intelligentes apparaissant de plus en plus rapidement, créant une « explosion d’intelligence » créant finalement une puissante superintelligence qui dépasserait qualitativement de loin l’intelligence humaine107.

Afin de mieux évaluer les risques de nous retrouver un jour aux prises avec des machines qui échapperont à notre contrôle, il importe de comprendre les bases de la programmation dans ce domaine aujourd’hui. À ce jour, il existe différentes formes d’apprentissage machine, ou apprentissage automatique. En voici quelques-unes : L’apprentissage supervisé : « un chercheur est là pour “guider” l’algorithme sur la voie de l’apprentissage en lui fournissant des exemples qu’il estime probants après les avoir préalablement étiquetés des résultats attendus. L’intelligence artificielle apprend alors de chaque exemple, avec pour but, d’être capable de généraliser son apprentissage à de nouveaux cas108 » ; L’apprentissage non supervisé : « l’apprentissage par la machine se fait de façon totalement autonome. Des données sont alors communiquées à la machine sans lui fournir les exemples de résultats attendus en sortie109 » ; L’apprentissage par renforcement : dans ce cas-ci, l’algorithme apprend, « à partir d’expériences, ce qu’il convient de faire en différentes situations, de façon à optimiser une récompense numérique au cours du temps110 ». Ces divers modes de programmation seront utilisés en fonction des problèmes que les chercheurs tentent de résoudre ou encore de la nature des données disponibles. Par exemple, l’apprentissage supervisé est plus approprié lorsque les données utilisées sont hétérogènes, alors que l’apprentissage non supervisé est généralement utilisé pour des données plus homogènes. Dans le cas de l’apprentissage supervisé ou encore de l’apprentissage par renforcement, les algorithmes nécessitent une assistance humaine pour

apprendre et se perfectionner. Bien sûr, comme nous l’avons vu pour les voitures autonomes ou les applications en santé, les résultats de ces apprentissages peuvent être impressionnants, mais sans l’intervention humaine, ces machines ne pourraient réaliser de tels exploits. J’ai donné l’exemple, dans le premier chapitre, de certains algorithmes conçus pour la détection du cancer de la peau. Or, un programme informatique développé pour reconnaître un cancer ne peut faire que ça, reconnaître ce cancer. Cet algorithme ne pourrait pas, du jour au lendemain, commander une voiture autonome, pas plus qu’un logiciel gouvernant une voiture autonome ne pourrait détecter un cancer. Il semble que le jour où un équivalent de Skynet prendra le contrôle de la planète est encore bien lointain. La concrétisation de la singularité en laisse plusieurs sceptiques, notamment des experts comme le professeur Bengio ou Joëlle Pineau, mais également le spécialiste de l’ et président du comité d’éthique du Centre national de la recherche scientifique ( ) de France, Jean-Gabriel Ganascia. Ce dernier a d’ailleurs fait paraître, en 2017, un ouvrage portant spécifiquement sur la question de la singularité technologique, où il réfute un à un les arguments des tenants de cette thèse. Sur la question de l’autonomie des algorithmes, il conclut d’ailleurs que « […] rien dans l’état actuel des techniques d’intelligence artificielle n’autorise à affirmer que les ordinateurs seront bientôt en mesure de se perfectionner indéfiniment sans le concours des hommes, jusqu’à s’emballer, nous dépasser et acquérir leur autonomie111 ». Il faut comprendre que malgré une capacité de plus en plus grande, et même impressionnante, à apprendre d’eux-mêmes, les algorithmes développés aujourd’hui doivent toujours apprendre à apprendre.

Revenons au superordinateur 9000 d’Odyssée de l’espace. Dans un article publié en 2018 pour marquer le 50e anniversaire de la sortie du film de Kubrik, l’expert en Ben Tang pose la question suivante : « Un ordinateur de la trempe de pourrait-il exister aujourd’hui ? » Et la réponse est non112. Il précise que si des progrès importants ont été accomplis au cours des dernières décennies – par exemple, dans les domaines de la reconnaissance vocale et de la compréhension du discours, nous n’avons qu’à penser à Siri d’Apple ou à Alexa de Google –, nous en sommes encore au développement d’applications très ciblées en fonction de besoins qui le sont tout autant. Le mot de la fin du professeur Ganascia va d’ailleurs dans le même sens : « Répétons-le, rien ne permet d’affirmer que s’ouvre, devant nous, l’abîme qu’annoncent les zélateurs de la singularité113. » Le rédacteur en chef du réputé magazine Wired, Kevin Kelly, est du même avis. Dans un article paru en 2017, il explique très clairement notre tendance à imaginer l’intelligence comme quelque chose de linéaire. En conséquence, et par extension, nous pensons que si la machine devient de plus en plus puissante dans sa capacité à faire des calculs et à traiter de l’information, elle finira inévitablement par nous dépasser. Or l’intelligence humaine est tout sauf linéaire114. Entre la fiction et une réalité à encadrer Cela étant, et peu importe ce qu’en disent les experts, je suis prêt à parier que la question de la singularité va faire couler de plus en plus d’encre, ou de pixels sur nos écrans, c’est selon. Notre inconscient collectif est nourri depuis des décennies d’une imagerie populaire de robots et de machines prenant le dessus sur la race humaine pour la mener à sa perte. Quoi qu’en

disent les experts et les scientifiques, ce n’est pas demain la veille que nous arriverons à changer d’idée sur cette question. Il en va de même pour la question du transhumanisme, alors que l’enthousiasme et l’imagination de ses adeptes dépassent, et continueront de le faire, la réalité technologique dans laquelle nous nous trouvons. Tel n’est, hélas, pas le cas en ce qui concerne notre dépendance, bien réelle, grandissante vis-à-vis des médias sociaux, des jeux en ligne et de nos écrans, petits et grands. Ici, la menace est bien réelle et a des conséquences mesurables sur nos sociétés. Comme dans le cas de « la brute », les aspects les plus inquiétants de l’utilisation de l’ ne concernent pas un hypothétique avenir où l’humanité serait progressivement dominée ou même remplacée par la machine ; ils se trouvent beaucoup plus dans l’absence de balises, de lois et de règlements pour encadrer l’utilisation que font un nombre croissant d’entreprises, ainsi que certains gouvernements, de cette technologie. Est-il possible que les experts travaillant dans ce domaine se trompent et qu’un jour la machine dépasse les capacités de son concepteur et le domine ? Peut-être, mais tout porte à croire que, si cela devait arriver, ce jour est fort lointain.

CONCLUSION

Pour conclure cet essai, j’ai cherché à vérifier certaines des hypothèses que j’ai émises tout au long de l’ouvrage en interrogeant quelques personnes très engagées dans le domaine, sur différents plans, soit Éric Brunelle, cofondateur et président de Druide informatique (domaine des affaires), Joëlle Pineau, chercheuse et professeure agrégée à l’École d’informatique de l’Université McGill (domaine de la recherche), ainsi que la députée française du parti La République en marche Paula Forteza (volet réglementaire et législatif). Je les ferai intervenir à différents moments au fil de ces pages. Je suis bien conscient de n’avoir fait qu’effleurer la surface de cette vaste question qu’est celle de l’intelligence artificielle ( ). Les applications qui sont présentement utilisées dépassent largement ce que je vous ai montré. Vous me permettrez d’ailleurs d’ajouter, pour démarrer cette conclusion, un autre exemple de l’application de cette technologie qui est celle du logiciel Antidote de l’entreprise Druide informatique (la société mère de la maison d’édition qui a bien voulu m’appuyer dans ce projet de livre) et l’utilisation de l’ faite par cette dernière. En effet, c’est grâce à cette technologie que le logiciel d’aide à la rédaction française, qui dépasse maintenant le million d’utilisateurs, dont moi-même, arrive à détecter nos erreurs et à proposer les corrections à y apporter115. Pour Éric, il est clair

que nous n’en sommes qu’au début. Lorsque la première version d’Antidote a vu le jour, en 1996, les réseaux neuronaux existaient bien, mais leur puissance de calcul n’était que l’ombre de ce qu’elle est aujourd’hui, de sorte que l’ utilisée par le logiciel à ses commencements en était une de base. Selon Éric, Antidote version « 20 » (nous en sommes à la version 10 après 25 ans d’existence du logiciel) pourra perfectionner un document, allant jusqu’à en revoir des idées ou à en reformuler des phrases. Voilà maintenant près de trois ans que je travaille sur ce livre et j’en suis venu à la conclusion que la question fondamentale n’est pas de savoir si nous devons, ou non, permettre l’utilisation de l’ . J’espère vous avoir convaincu que son application peut apporter de nombreux bénéfices. Non, la question est plutôt de savoir comment nous allons en encadrer l’évolution, ce qui suppose un développement éthique de cette technologie. La bonne nouvelle est qu’un nombre croissant d’experts, de chercheurs et même certains gouvernements travaillent à définir des pratiques à respecter en matière d’ . C’est d’ailleurs ce qui a mené plusieurs de ces experts à élaborer et à adopter, en 2018, la Déclaration de Montréal pour le développement responsable de l’intelligence artificielle116, qui énumère une série de 10 principes visant un développement harmonieux de l’ , entre autres : le principe de bien-être ; le principe de la protection de l’intimité et de la vie privée ; le principe de la solidarité ; le principe de la participation démocratique. Vous reconnaisez là peut-être plusieurs éléments dont j’ai traité abondamment dans ce livre.

L Vous aurez compris, à la lecture du premier chapitre, que je suis dans le camp de ceux et celles qui croient que l’ procure, et procurera, de grands avantages à nos sociétés. Que ce soit sur le plan du transport, de l’énergie ou de la santé, l’enjeu demeure toujours pour moi de maximiser ces bénéfices et de réduire au minimum les effets pervers. J’ai beaucoup parlé des transports et d’électrification de ces derniers ainsi que de l’automatisation qui frappe à nos portes. On me reprochera peut-être de ne pas avoir encore abordé la question de l’impact environnemental de cette électrification qui, aux dires de certains, serait tout aussi dommageable pour l’environnement que la voiture à essence. Qu’en est-il vraiment ? Après avoir consulté plus d’une dizaine d’études, qu’elles soient de l’Union européenne, de l’Université de la Colombie-Britannique ou de l’ américaine Union of Concerned Scientists, je constate que la très grande majorité des experts s’entendent pour dire que, en tenant compte de l’ensemble des impacts environnementaux d’une voiture, c’est-à-dire de sa fabrication jusqu’à la fin de sa vie, non seulement la voiture électrique ( ) est plus efficace que la voiture à essence, mais elle émet moins de . Elle a aussi moins d’impacts environnementaux (autres que les ). Une étude réalisée par l’International Council on Clean Transportation, une américaine indépendante, conclut ainsi qu’une voiture électrique moyenne en Europe produit 50 % moins de (en se fondant sur une analyse du cycle de vie) sur 150 000 km qu’une voiture à essence117. Le bilan est encore plus intéressant si, comme c’est le cas au Québec, l’électricité produite est de source largement renouvelable et à faible émission de , ce que démontre de façon convaincante une étude réalisée en 2016 pour le compte d’Hydro-Québec par le Centre international de référence sur le

cycle de vie des produits, procédés et services (

), dont les résultats

sont résumés dans le tableau 3. TABLEAU 3. ÉMISSIONS DE GES D’UN VÉHICULE ÉLECTRIQUE (VE) ET D’UN VÉHICULE À ESSENCE

Selon une analyse comparative du cycle de vie des et des véhicules à essence en contexte québécois publiée par le en 2016. Source : Hydro-Québec

Voilà donc une chose de réglée : le moteur électrique est incontestablement plus efficace pour transformer l’énergie en mouvement et son impact écologique est bien moindre que celui du moteur à combustion

interne. De plus, comme nous l’avons vu, nous nous dirigeons vers un monde où les énergies renouvelables occuperont une place croissante dans le bilan énergétique mondial, ce qui, à son tour, contribuera à rendre l’usage de la voiture électrique encore plus intéressant. Loin de moi l’idée de passer sous silence certains éléments plus controversés de la voiture électrique, comme l’utilisation de composants parfois produits dans des pays aux dossiers très douteux en matière de droits de la personne. C’est le cas du cobalt, qui est utilisé dans la plupart des batteries de véhicules électriques. Or près de la moitié du cobalt mondial est produit en République démocratique du Congo et 20 % de cette production proviendrait de mines souvent improvisées où travaillent des milliers d’enfants dans des conditions inhumaines. Cette situation a mené à la publication de plusieurs rapports, dont celui d’Amnistie internationale s’intitulant La face cachée des voitures électriques : l’exploitation par le travail. Loin de proposer que l’on tourne le dos à la voiture électrique, voici ce qu’en dit l’ : Cette mutation vers une technologie verte est plus que bienvenue. Le changement climatique est l’un des défis majeurs de notre époque en termes de droits humains et les villes de Londres à Delhi sont asphyxiées par les gaz d’échappement. La transition vers la voiture électrique va améliorer la qualité de l’air et réduire les émissions de carbone qui amènent notre planète au point de rupture118.

Amnistie internationale, comme plusieurs autres organisations, tout en appuyant le virage vers l’électrification, demande toutefois que l’extraction du cobalt soit mieux encadrée et que les pays producteurs s’engagent à bannir le travail des enfants. Pour conclure sur cette question, j’insiste sur l’idée que certains aspects plus négatifs liés au développement de la voiture électrique ne devraient pas nous faire perdre de vue les conséquences négatives majeures,

tant en ce qui touche l’environnement qu’en ce qui concerne les droits de la personne, de l’exploitation du pétrole. Le domaine de la santé comporte également son lot d’enjeux éthiques. Il y a d’abord la question de l’accessibilité de certaines applications issues de l’ . Comme nous l’avons vu, le prix de certaines technologies est exorbitant et la dernière chose que nous voulons, en tant que société, est de voir apparaître un système de santé non pas à deux vitesses, mais à trois ou peut-être même à quatre vitesses, où seulement les plus riches pourraient profiter de l’ . Cela étant, nous sommes déjà capables de trouver des solutions collectives pour permettre à des personnes malades moins nanties l’accès à des médicaments dont le coût peut atteindre des centaines de milliers de dollars par année. Nous devrions donc être en mesure de faire de même quant à l’accessibilité des technologies de l’ dans le domaine de la santé. À mon avis, beaucoup plus de problèmes surviendront lorsque comme je le mentionnais dans le chapitre 3 (« Le truand »), des fanatiques du transhumanisme demanderont que l’on remplace un, voire plusieurs membres ou organes de leur corps par des équivalents cybernétiques ou électroniques. Je me souviens d’avoir lu, alors que j’étais adolescent, une bande dessinée où le personnage principal, nommé Deathlok, s’était vu greffer des membres artificiels cybernétiques, ainsi que différents organes comme un œil et une oreille bioniques. On y présentait un monde où les clivages n’étaient plus entre personnes de couleurs ou de religions différentes, mais entre les low-tech et les high-tech119. Imaginez un peu le dilemme dans la classe lorsque la question ne sera plus de savoir qui possède ou non un téléphone intelligent, pour ne prendre que cet exemple, mais bien qui possède une puce électronique au cerveau !

Laissera-t-on à chaque personne le soin de choisir quel type d’être humain elle veut être ? Assisterons-nous à la naissance de nouvelles catégories de personnes comme dans la bande dessinée de Deathlok ? Aurons-nous la sagesse de baliser l’application de ces technologies sur les humains et de mettre en place un encadrement qui favorisera une utilisation harmonieuse et qui bénéficiera au plus grand nombre plutôt qu’à une minorité ? Ce qui est vrai pour la santé l’est tout autant pour les transports. Nous avons pu explorer la complexité éthique de la programmation des algorithmes des voitures autonomes. Malgré les nombreux avantages de l’automatisation que j’ai décrits, pour favoriser l’émergence et le déploiement de ces voitures, l’ensemble de la population devra comprendre comment ces véhicules sont programmés et quelles sont les implications de leur utilisation pour l’ensemble des usagers. Une technologie peut être, de prime abord, bénéfique, mais, mal comprise ou mal utilisée, elle peut susciter une vive opposition. C’est ainsi qu’il existe aujourd’hui, dans certaines parties du monde, des mouvements contre l’énergie éolienne, une forme d’énergie qui offre pourtant de nombreux avantages. Cette opposition est généralement le résultat de mauvais projets ayant été mis de l’avant par des promoteurs plus intéressés par le gain que par le développement harmonieux ou encore de campagnes de désinformation. Lorsqu’une entreprise comme Nvidia, un fabricant de puces électroniques qui s’est aventuré également dans le domaine de l’ , lance sur nos routes une voiture autonome sans divulguer les balises éthiques de la programmation du véhicule, cette entreprise ne rend service à personne ! La transparence sera un élément clé de l’acceptabilité sociale d’une utilisation de plus en plus importante de l’ . Peut-être devrons-nous, comme l’ont fait les Français avec le Grand Débat national sur les

inégalités, prendre le temps d’aller à la rencontre des citoyens, dans leurs communautés ou leurs milieux de travail, pour discuter avec eux de cette quatrième révolution industrielle qui frappe à nos portes, de manière à trouver comment cette dernière pourra se faire avec eux, et non pas en leur donnant l’impression qu’elle se fait en dépit d’eux. Parlant de transparence, j’ai mentionné, dans l’introduction, que j’allais servir de cobaye pour ce livre en me procurant une montre intelligente en vue de générer et, autant que possible, analyser des données de santé sur moi-même… Je dois avouer que ç’a été un échec retentissant ! Avant d’acheter cette perle, j’ai fait des recherches afin de savoir laquelle offrait le plus de possibilités pour des applications en santé. Je me suis donc procuré ce qui semblait être la meilleure montre et je me suis ensuite inscrit à plusieurs sites de recherches médicales en acceptant d’y transmettre les données recueillies par la montre. Hélas, après plusieurs tentatives et des semaines d’essais, j’ai constaté que, mis à part mon rythme cardiaque, je n’avais accès à aucune donnée sur mon état de santé à moins de débourser un 100 $ ici et là pour acheter différents bidules qui, eux, me permettraient de voir ce qui se passe avec moi… Pour la transparence, il faudra repasser ! Je me réconforte cependant en me disant que quelqu’un, quelque part, utilise ces données, que j’ai communiquées en toute connaissance de cause pour faire avancer la science, mais il me semble qu’un peu de rétroaction auprès des utilisateurs s’impose.

L Pour une démocratie numérique À mon avis, le plus grand risque que nous courons collectivement quant à l’utilisation de l’

est celui d’une invasion de plus en plus importante, par

des géants de la technologie, voire par certains pays, d’un nombre croissant de sphères de notre vie privée. Nous ne pouvons plus faire l’autruche : nous connaissons maintenant les agissements de plusieurs entreprises et pays, nous savons de quoi ils sont capables et, surtout, nous savons qu’à moins d’une réponse collective claire, ils continueront à envahir notre monde jusque dans les moindres recoins. Sommes-nous impuissants devant cette situation ? Je clame haut et fort que non. Il n’y a, à mon avis, rien d’inévitable dans l’avenir que cette technologie nous réserve et nous pouvons, nous devons prendre les moyens pour en encadrer le développement. Comment ? Déjà, des modèles visant à assurer un meilleur encadrement de l’utilisation de l’ ont été mis en avant. Je pense notamment au Règlement 2016/679, dit Règlement général sur la protection des données ( ), adopté en 2016 par le Parlement européen et entré en vigueur en mai 2018. Il établit les règles en matière de protection des données personnelles et en régit le traitement par différentes organisations (systèmes de santé et financier, géants de la technologie, etc.). En quoi consiste cette nouvelle réglementation ? Essentiellement, elle entend renforcer les droits des personnes sur le territoire de l’Union européenne et responsabiliser les acteurs traitant les données à caractère personnel. Parmi les innovations du , on note120 : la notion de « consentement explicite et positif » ; les entreprises et organisations doivent fournir plus de contrôle aux usagers quant au traitement de leurs données personnelles ; le « droit de rectification » (article 16), en cas de données à caractère personnel inexactes ; le « droit à l’oubli » (article 17) ; une personne a le droit d’obtenir l’effacement de données la concernant. Une personne pourrait ainsi

retirer son consentement ou encore s’opposer à la façon dont ses données sont utilisées ; le « droit à la portabilité » (article 20) ; une personne a le droit de recevoir les données qu’elle a fournies à une entreprise ou à un organisme dans un « format structuré » ou encore de les transmettre à une autre entité. Vous quittez votre fournisseur de téléphonie cellulaire ou d’accès Internet ? Cette entreprise a le devoir de vous remettre vos données ou de les transmettre, sans y faire obstacle, à une nouvelle entreprise de votre choix. Le

marque ainsi une petite révolution dans le monde de la

réglementation relative aux données personnelles et à la vie privée. Combien d’histoires d’horreur ai-je entendues de personnes qui tentaient de faire rectifier de fausses informations à leur sujet sur, par exemple, un site exploité par Google et qui ne réussissaient presque jamais, sinon après des années d’acharnement, à obtenir gain de cause ? Fini le temps où les institutions émettrices de cartes de crédit pouvaient attendre des semaines, voire des mois, avant de signaler une brèche de sécurité… Les entreprises et organismes européens ont maintenant 72 heures pour le faire ! J’ai eu le plaisir de m’entretenir avec la députée Paula Forteza, du parti La République en marche, au sujet du . Mme Forteza a été nommée, par le président de l’Assemblée nationale française François de Rugy, rapporteure d’un groupe de travail sur « la démocratie numérique et les nouvelles formes de participation citoyenne » ainsi que sur le . Je l’avais entendue une première fois dans le cadre du Monde Festival, une collaboration entre les journaux Le Monde et Le Devoir, à l’occasion d’une conférence en octobre 2018 à Montréal.

Voici un résumé de notre entretien téléphonique du 17 avril 2019. Pour Mme Forteza, le est une très bonne base de loi à l’ère des nouvelles technologies. Le texte ne règle pas tous les enjeux que soulèvent ces technologies, mais il permet à tout le moins de commencer à définir des balises qui font cruellement défaut présentement. De plus, le texte est écrit de façon à être compris par un large public et permet plus facilement au monde associatif de défendre les droits de la population. Si certains ont craint que le ralentisse la recherche et le développement dans ce secteur, Mme Forteza soutient que c’est tout le contraire. Il y avait, en Europe, un effet d’entonnoir bureaucratique, alors que les entreprises voulant développer de nouvelles applications fondées sur l’ devaient d’abord obtenir la permission d’organisations comme la Commission nationale de l’informatique et des libertés ( ). Aujourd’hui, grâce aux balises mises en place, les entreprises peuvent mieux savoir à quoi s’en tenir et l’on voit naître un nouveau secteur d’activité surnommé le « Regtech », pour indiquer que ce dernier se trouve au croisement de la technologie et de la réglementation. Quand j’ai demandé à Mme Forteza quels conseils elle donnerait à un pays comme le Canada qui voudrait se doter d’un tel règlement, elle a souligné qu’il y avait encore quelques défis dans la mise en œuvre. Les questions liées au consentement n’ont pas encore permis d’observer les modifications de comportements espérées de la population. Le changement de standard sur la portabilité des données n’est pas encore aussi important qu’on aurait souhaité qu’il soit. Elle me donnait l’exemple de la certification biologique où il y a aujourd’hui des standards nationaux et internationaux reconnus ; ce n’est, hélas, pas encore le cas avec les données. Elle estime de plus que certains changements sociétaux seront nécessaires : au début de l’étude du texte du

, il était difficile

d’obtenir l’attention des journalistes, alors qu’après le scandale Cambridge Analytica les choses ont beaucoup changé. Faudra-t-il une multiplication des scandales avant que nous prenions conscience de l’importance des enjeux liés à la protection des données ? Au cours de l’une de mes discussions avec Joëlle Pineau, il a été question du , notamment de la clause du « droit à l’oubli » et, tout en étant d’accord sur ce concept, elle a, elle aussi, souligné les difficultés de sa mise en œuvre. Elle me donnait l’exemple du citoyen Steven Guilbeault qui voudrait se faire oublier de toutes ces technologies. Dans certains cas, ce n’est pas si difficile, comme pour les mentions sur la Toile et sur différents sites. Les choses se compliquent lorsque l’on s’attaque à des applications qui utilisent les données de millions d’utilisateurs, comme c’est le cas pour les assistants vocaux tels que Siri, Google Assistant et Alexa. Il est théoriquement possible de retirer chaque petite parcelle d’échantillon de ma voix qui est utilisée pour perfectionner ces applications, mais il faudrait les reprogrammer chaque fois qu’une personne voudrait que soit retirée « sa » voix. À l’échelle de la planète, cela veut dire que nous serions constamment à reprogrammer lesdites applications, à un coût énergétique énorme, et qu’il deviendrait quasiment impossible de les utiliser. Lorsque j’expose ce dilemme à Mme Forteza, elle me répond que c’est la jurisprudence qui va définir ce que voudrait dire ce « droit à l’oubli ». Une gouvernance et des équilibres institutionnels ont été mis en place, le temps nous indiquera jusqu’où la loi pourra aller. Sans doute faudra-t-il attendre encore quelques années avant de le savoir. Il est peu probable qu’un scandale comme celui de Cambridge Analytica aurait pu se produire si le avait été en vigueur au moment des événements décrits au chapitre 2 (« La brute »). Par ailleurs, six mois après son entrée en vigueur, le nombre de plaintes relatives à la protection

des données personnelles a augmenté de façon notable, soit de 60 % en France121 et de plus de 50 % pour l’ensemble de l’Europe122. De toute évidence, le règlement démontre qu’il y a un intérêt de la population quant à la protection des données. Mais l’application du règlement ne s’arrête pas là. Ainsi, en janvier 2019, en France, la a condamné l’entreprise Google à une amende de 50 millions d’euros (soit environ 75 millions de dollars canadiens) pour violation du , alors qu’il est reproché au géant américain « de forcer la main des utilisateurs, en proposant par défaut d’accepter le partage de leurs données123 ». Freedom House considère d’ailleurs la protection des données comme l’un des éléments clés de la démocratie numérique, tout comme le respect des droits de la personne dans l’élaboration des stratégies nationales de développement de l’ . L’organisation demande également l’adoption du Global Online Freedom Act, un projet de loi débattu devant le Congrès américain de 2006 à 2014, mais qui n’a jamais été adopté124. Ce projet de loi aurait notamment empêché les entreprises technologiques américaines telles Google et Facebook de collaborer avec des pays ne respectant pas les droits de la personne. J’ai abordé la question de la protection des données avec Éric Brunelle, de Druide informatique, et il avait trois observations très pertinentes sur cette question : 1. Il n’en revient pas de ce que les gens dévoilent sur les réseaux sociaux (un constat partagé par plusieurs personnes avec qui j’ai pu discuter dans le cadre de la recherche pour ce livre) ! 2. La société Druide est très stricte quant à l’utilisation des données. Il est vrai que, pour perfectionner le logiciel Anditode, les textes des utilisateurs sont collectés, mais ils le sont de façon anonyme et ne seraient ni vendus ni diffusés, cette récolte ayant pour seul objet de

mettre l’algorithme en présence de cas réels pour ainsi améliorer ses performances. 3. Il me donnait l’exemple d’un concurrent américain d’Antidote qui n’a pas du tout ce respect pour les données privées et qui, si j’avais utilisé ce logiciel de correction, aurait très bien pu s’approprier des éléments de mon texte pour les vendre par la suite… Nous avons parfois tendance à penser que les

sont des

entreprises tellement immenses qu’elles sont intouchables… Et si ce n’était pas le cas ? À la fin du 19e siècle, il existait aux États-Unis quelques très grands monopoles qui contrôlaient à peu près tout ce qui se faisait dans leurs secteurs. Le cas du pétrole est probablement le plus célèbre, avec la fameuse Standard Oil fondée en 1870 par John D. Rockefeller, qui décida d’acheter toutes les autres sociétés pétrolières américaines pour former la plus importante société au monde dans ce domaine. À la suite de l’adoption, en 1890, de la première loi antitrust, la loi Sherman, la Standard Oil dut être divisée en sept sociétés distinctes, que l’on surnomma les « sept sœurs ». Or plusieurs experts et même certains magazines influents, comme le réputé magazine britannique The Economist, ou encore des journaux de renom, tels The New York Times ou The Guardian, estiment que nous assisterons probablement, au cours des prochaines années, à l’adoption de lois visant à mieux encadrer les de ce monde, comme le fait le , ou simplement de lois telle la loi Sherman pour faire de ces géants de plus petites entreprises. Pour Mme Forteza, nous sommes en droit de conclure que le est un succès, d’une part parce qu’il s’applique à différents pays, dont certains avaient peu d’historiques en matière de protection des données et qui, aujourd’hui, commencent à relever ce défi. D’autre part, on voit naître une

collaboration européenne et même internationale sur le plan de la protection des données et de la vie privée. Pas juste la Chine ! On a vu, dans le chapitre 2 (« La brute »), les faces les plus sombres de l’utilisation de l’ et la place particulière qu’occupe la Chine relativement au traitement des données personnelles. Les gouvernements nord-américains n’implantent peut-être pas des systèmes de surveillance de leurs populations faisant appel à l’ , mais, par leur inaction, ils ont laissé le champ libre aux , qui peuvent ainsi décider des règles du jeu de l’utilisation des données. Vous vous êtes sûrement déjà demandé pourquoi, après avoir visité le site d’un cybercommerçant, vous avez vu apparaître de la publicité de ce même commerçant sur le mur de votre page Facebook ou encore sur LinkedIn, et ce, même si vous n’avez fait aucun achat, mais seulement du lèche-vitrine virtuel sur le site en question. La réponse est simple. Enfin, presque simple : une entreprise, quelque part, a vendu vos données personnelles à une autre entreprise, et cette dernière s’en est servi pour vous envoyer de la publicité selon vos goûts ou vos habitudes en ligne. Avez-vous reçu une part de la commission versée en contrepartie de l’utilisation de vos données ou même seulement été consulté pour cette transaction ? Poser la question, c’est y répondre. Vous avez peut-être entendu parler de Sidewalk Labs ? Il s’agit d’une entreprise, une filiale d’Alphabet (la société mère de Google), dont le mandat est de concevoir des solutions technologiques pour certains problèmes urbains, comme le transport et l’utilisation d’énergie ou encore le coût de la vie, mandat très noble s’il en est ! L’enjeu ne réside pas tant

dans les objectifs que l’entreprise poursuit que dans les moyens qu’elle prend pour arriver à ses fins. Le cas du projet de Sidewalk Labs, à Toronto, est très révélateur, alors que l’entreprise veut construire, sur les bords du lac Ontario, un nouveau quartier intelligent, en partenariat avec une société de développement locale nommée Waterfront Toronto (une entité créée par les gouvernements fédéral et provincial ainsi que par la Ville de Toronto). Ce quartier serait hyperconnecté grâce à une flotte de véhicules autonomes sur demande, à des bâtiments intelligents, à des systèmes de gestion de l’eau, de l’énergie et des déchets utilisant l’ , etc. Ce nouveau quartier, baptisé Quayside, serait de la taille du centre-ville actuel de Toronto. D’abord enchantés par la participation du géant des technologies à ce projet de la Ville reine, de nombreux adeptes ainsi que certains politiciens et analystes ont commencé à déchanter devant le manque de transparence de l’entreprise, alors qu’il devenait évident que cette dernière voulait s’approprier toutes les données qui seraient générées sur le territoire (imaginez la quantité de données créées sur un territoire équivalent à un centre-ville de la taille de celui de Toronto et qui serait en plus hyperconnecté !). Selon l’ancien de la société BlackBerry, Jim Balsillie125, les grandes villes deviennent, avec l’urbanisation qui s’accélère et grâce à l’utilisation de capteurs installés un peu partout et à la puissance d’analyse de l’ , le prochain champ de bataille des grandes firmes technologiques de ce monde. J’ai eu le plaisir d’entendre M. Balsillie à l’occasion d’un colloque tenu à Montréal en février 2019 (j’y avais notamment animé un panel composé d’élus des trois ordres de gouvernement pour discuter du rôle des gouvernements dans le développement de ces villes dites intelligentes). Pour comparer les approches de Toronto et de Montréal quant

à ce type de développement, M. Balsillie a évoqué le « scandale » de Sidewalk Labs, à Toronto, saluant au passage la méthode de Montréal. Il a alors déclaré : « Par-dessus tout, Montréal démontre qu’une ville intelligente peut être construite de concert avec le gouvernement, la population et l’industrie, de façon responsable, plutôt qu’en regard des objectifs d’une seule entité cherchant à devenir le gouvernement comme c’est le cas présentement à Toronto126. » Au même colloque, le maire de l’arrondissement Rosemont–La PetitePatrie et responsable du dossier de la ville intelligente au comité exécutif de la Ville de Montréal, François Croteau, expliquait que Montréal a adopté un programme de données ouvertes, c’est-à-dire qu’elles peuvent être utilisées par l’entreprise privée, mais demeurent publiques et ne peuvent devenir la propriété du plus offrant. Pour son approche innovante, Montréal a reçu, en 2016, le prix de la Communauté intelligente de l’année décerné par l’Intelligent Community Forum127. Comme quoi on peut mettre en place des modèles inclusifs, transparents, et avec le bien public au centre des préoccupations. La Finlande a aussi pris le taureau par les cornes et a décidé que cette quatrième révolution qu’est celle de l’ ne se ferait pas au détriment de sa population, mais bien main dans la main avec cette dernière. C’est dans cette optique que des dizaines de milliers de personnes sont invitées à retourner sur les bancs d’école afin d’apprendre les rudiments de la programmation informatique. L’objectif n’est pas de faire de ces milliers de personnes de futurs Joëlle Pineau ou Yoshua Bengio, mais plutôt, par cette formation de base, de les aider à comprendre le rôle que cette technologie peut jouer dans leurs secteurs d’emploi respectifs. Dans un article fascinant paru dans la revue Politico de janvier 2019, on cite l’exemple de Jaana Partanen, une dentiste de 59 ans, qui travaille maintenant, après avoir suivi

une telle formation, au développement d’applications utilisant l’ dans le domaine dentaire128. À la fin de 2018, on comptait plus de 250 entreprises finlandaises qui s’étaient engagées à donner une formation à une partie de leur personnel, ou, dans certains cas, comme celui de l’entreprise Nokia, à la totalité de leurs employés. L’objectif du gouvernement finlandais est, à terme, de former un million de personnes aux rudiments de l’ . Pour un pays comme le Canada, un tel projet permettrait d’initier près de 400 000 personnes à ce qui est, et sera de plus en plus, un élément central de nos vies ! Voilà un bel exemple à imiter pour les pays un peu partout sur la planète.

L Le Forum économique de Davos a présenté une série d’éléments qui doivent être pris en compte afin de préparer une évolution harmonieuse de l’utilisation de l’ au cours des années à venir129, et j’en ai abordé certains, comme la question des répercussions sur le monde du travail ou encore la sécurité liée au développement des armes létales autonomes. Il est vrai que j’affiche un optimisme certain quant à notre grande capacité d’adaptation dans le monde de l’emploi, ce qui ne veut pas dire que je croie qu’il ne faut pas se préparer à certains changements importants. Par exemple, comment pouvons-nous passer d’un système énergétique qui repose sur le pétrole et les autres combustibles fossiles à un système énergétique fondé sur les énergies renouvelables ? Au cœur de cette question de transition énergétique et économique, il y a, bien sûr, de l’argent, beaucoup d’argent, alors que l’ensemble du système financier mondial prend un virage de plus en plus important vers une économie sobre en carbone. Mais l’autre enjeu de taille qui se dessine dans cette transition

concerne les emplois et, dans bien des cas, les communautés dont la survie même repose sur l’économie du pétrole et des autres combustibles fossiles. Pensons notamment au charbon, que plusieurs pays se sont engagés à éliminer progressivement de leur production d’énergie. Le Canada offre un exemple intéressant dans la mesure où plusieurs provinces utilisent cette ressource pour la production d’électricité. Or, en vertu du plan canadien de lutte contre les changements climatiques, la production d’électricité au charbon devra être éliminée d’ici 2030. Tout en approuvant totalement cet engagement, je reconnais que cela peut être très insécurisant pour les personnes travaillant dans ce secteur ou encore pour les communautés qui en dépendent. Par exemple, le charbon utilisé par la centrale de production d’électricité de Belledune, au Nouveau-Brunswick, représente une partie importante du chiffre d’affaires du port de ce village, en plus d’employer plus d’une centaine de personnes ; pour une population totale de quelque 1500 habitants, c’est énorme. C’est dans ce contexte que la ministre de l’Environnement Catherine McKenna a créé, en 2018, le Groupe de travail sur la transition équitable pour les collectivités et les travailleurs des centrales au charbon canadiennes, qui a remis son rapport en décembre 2018130. J’ai pu discuter avec son coprésident, Hassan Yussuf, président du Congrès du travail du Canada. M. Yussuf me disait que nous avons déjà réussi ce genre de transition. On n’a qu’à penser à celles qu’ont connues l’industrie de la pêche à la morue dans les Maritimes, où, à la suite de la diminution des stocks de poissons, d’importantes modifications ont dû être apportées à l’activité économique, et l’industrie forestière, qui a été durement touchée par l’arrivée d’Internet (lecture de magazines et de journaux en ligne, utilisation du téléphone intelligent, tablette et réseaux sociaux, etc.). La clé semble être de bien prévoir les choses, ce qui n’a, hélas, pas toujours été le cas. Le Groupe de travail recommande d’ailleurs

des mesures facilitant la transition tant pour les travailleurs, avec des programmes de soutien financier aux employés en recherche d’un nouvel emploi, que pour les communautés, grâce à l’élaboration de projets d’infrastructures. Éric Brunelle est d’ailleurs du même avis : il n’y a pas de différence fondamentale avec les autres transformations technologiques que nous avons connues. Certains vont perdre leurs emplois (il soulignait notamment les difficultés que rencontre présentement l’industrie du taxi), mais d’autres emplois seront créés grâce à l’ . Nous devons être proactifs et accompagner les personnes, les entreprises et les communautés qui seront touchées. Après un groupe de travail sur la transition écologique au moment de délaisser le charbon, pourquoi pas un groupe de travail sur la transition vers l’ ? Que dire des prophètes de malheur qui annoncent que c’est le début de la fin de l’humanité et que la machine s’apprête à prendre le contrôle de nos vies ? Je crois avoir réussi à démontrer que nous sommes loin, très loin, d’un monde où cela deviendrait possible. Mais permettez-moi d’ajouter un dernier élément à ce propos. À plusieurs reprises au cours de mes recherches, j’ai rencontré le concept de « boîte noire » : les chercheurs programment des algorithmes qui accomplissent les opérations souhaitées, mais entre l’étape de la programmation et celle du résultat, ils ne savent pas trop ce qui se passe, d’où l’utilisation de l’expression « boîte noire »… Lorsque j’aborde cette question avec Joëlle Pineau, devant un café, elle lève les yeux vers le ciel, dans un geste qui dénote à la fois le désespoir et l’exaspération, et dit : « Je peux très bien retracer toutes les équations mathématiques ayant mené un algorithme à prendre telle ou telle décision, il n’y a pas de mystère là ! » Qu’on se le tienne pour dit. Il est vrai que les entreprises n’ont pas, essentiellement pour des raisons de secret

professionnel, intérêt à révéler le fonctionnement de certains systèmes dans leurs moindres détails. Pourtant, ce qui est vrai pour les procédés industriels devrait l’être aussi pour l’ dans la mesure où nous avons, par exemple, trouvé des façons de réglementer ces procédés, pour des raisons de sécurité et de protection de l’environnement, sans que les entreprises aient à divulguer leurs secrets. Quant aux questions de transhumanisme ou de singularité, elles relèvent, pour Joëlle, ni plus ni moins de la science-fiction. Robear contre Terminator Est-ce que l’avenir de l’ nous conduit vers le modèle du robot japonais bienveillant et aidant qu’est Robear ou bien vers celui de la machine se rendant maître de la planète incarné par le Terminator ? J’aimerais d’abord souligner que l’on voit naître aujourd’hui un mouvement de résistance au sein même de certaines entreprises qui voudraient utiliser l’ à des fins potentiellement dommageables. En avril 2018, nous apprenions que des milliers d’employés de Google avaient signé une lettre où ils signifiaient leur opposition à l’implication du géant de l’électronique auprès du Pentagone dans le développement d’applications de reconnaissance faciale pour des drones militaires131. Quelques mois plus tard, l’entreprise annonçait qu’elle ne renouvellerait pas ce contrat avec le Pentagone. J’ai souvent entendu, au cours des dernières années, des personnes affirmer que « le génie était sorti de sa bouteille » et qu’il était maintenant trop tard, que nous finirons par perdre la maîtrise de la machine. Si cela est certes possible, ce n’est pourtant pas la première fois que l’on tient ce genre de discours à propos d’une nouvelle percée technologique… Je pense plus particulièrement à l’invention de la bombe atomique et à la guerre froide. Je

me souviens d’un passé pas si lointain où de nombreux jeunes dans plusieurs pays avaient simplement décroché de la vie, mouvement que l’on appelait No Future. À l’époque, bon nombre de personnes étaient effectivement convaincues que l’humanité allait être décimée par la guerre nucléaire qui nous pendait au bout du nez. C’est pour cette raison que fut créée, au tout début de la guerre froide, la Doomsday Clock132 (L’horloge de la fin du monde) par le Bulletin of Atomic Scientists. Cette horloge, chaque année depuis 1947, nous indique notre proximité collective du gouffre planétaire : plus nous sommes près de minuit, plus nous sommes proches de la catastrophe (d’où l’expression « il est minuit moins une »). Au départ, la catastrophe qui nous guettait était, bien sûr, la bombe nucléaire, mais, avec les décennies, l’horloge a évolué pour inclure les questions environnementales, particulièrement celle des changements climatiques, et plus récemment les enjeux technologiques. Depuis 1947, nous nous sommes rendus à deux minutes de minuit à seulement deux reprises : en 1953, alors que les États-Unis et l’ . . . . se lançaient dans la course à l’armement atomique, et en… 2018, sous la menace des changements climatiques combinée à une recrudescence des tensions entre la Russie et les États-Unis. Or, malgré une certaine escalade verbale entre les présidents Poutine et Trump en 2018, l’horloge nous indique que nous avons su jusqu’à maintenant éviter la catastrophe nucléaire. Il est vrai que d’autres menaces pèsent sur nous, comme celle des changements climatiques, mais j’espère avoir su vous prouver que nous avons de plus en plus d’outils pour y faire face. Pour une éthique de l’intelligence artificielle Je le mentionnais plus haut dans le livre, à peine une décennie s’est écoulée entre l’invention de l’iPhone d’Apple et la révolution technologique

probablement la plus importante que nous ayons connue depuis l’invention de la voiture. Imaginez un peu : musique, télévision et achats en ligne, lecture de journaux, bulletins de nouvelles et vidéoconférence sur nos écrans étaient des concepts quasi inconnus il y a à peine 10 ans… Il est pourtant difficile d’imaginer nos vies sans ces éléments aujourd’hui. Dans bien des cas, l’évolution de la technologie a dépassé l’évolution de nos lois et règlements, tout autant que nos habitudes sociales face à l’utilisation de ces outils technologiques. Dans un passé pas si lointain, il aurait été très mal vu de parler au téléphone alors que nous sommes en compagnie d’une autre personne. Aujourd’hui, la pratique est courante. Or, je crois fondamentalement que ce n’est pas parce que la technologie le permet que nos codes sociaux et culturels devraient nous autoriser à agir de la sorte. Loin de moi l’idée de plaider pour que les choses reviennent à ce qu’elles étaient « dans le bon vieux temps », mais je ne peux qu’aspirer à une éthique et à une hygiène de vie pour l’utilisation de ces technologies. Le père que je suis se voit mal interdire à ses enfants l’usage de ces outils. Par contre, je plaide auprès d’eux, avec plus ou moins de succès, pour un usage raisonnable et sain. Ceux et celles qui ont des enfants parmi vous savent que cela est plus facile à dire qu’à faire. Au fond, peut-être que ce n’est pas si différent des questions environnementales où il faut souvent répéter plusieurs fois la même chose avant d’être entendu et compris. Le citoyen que je suis se réjouit des bénéfices que cette technologie apportera à nos sociétés autant qu’il s’inquiète de voir l’utilisation abusive que font certains groupes, voire même certains gouvernements, de l’ . Pour moi, l’urgence d’agir vient non seulement de l’éventuelle omniprésence de cette technologie dans nos vies, mais aussi du fait que nous ne pouvons, du point de vue du bien public, laisser les grandes entreprises technologiques de ce monde dicter les règles de son utilisation.

Mythe pour les uns, condition essentielle pour les autres, nous assistons à un débat important sur l’idée même d’un développement éthique de l’ . Peut-on programmer une machine à avoir des comportements, ou plus précisément à prendre des décisions éthiques ? Cela constitue un élément central du développement de cette technologie et, au-delà du scepticisme de certains, je fais partie des enthousiastes qui espèrent voir ce mouvement prendre de l’ampleur. Dans son célèbre Cycle des robots, l’écrivain américain Isaac Asimov proposait l’établissement de trois lois de la robotique devant régir la programmation de tout robot133 : 1. Un robot ne peut porter atteinte à un être humain ni, en restant passif, permettre qu’un être humain soit en danger ; 2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi. Qui sait, peut-être qu’un jour pas si lointain nous aurons des lois semblables pour le développement, l’utilisation et le déploiement des technologies de l’ . Je le souhaite ardemment.

REMERCIEMENTS

Vous me pardonnerez ces longs remerciements, mais, comme j’ai écrit sur un sujet dont je connaissais peu de choses au début de cette aventure, j’ai eu besoin de beaucoup d’aide pour m’y retrouver. J’aimerais d’abord remercier ma douce moitié, Claude, qui m’a encouragé, soutenu et épaulé tout au long de ce projet, dont la réalisation s’est échelonnée sur quelques années. Merci à nos enfants Morgane, Édouard, Madeleine, Vivianne, Eliott et Édouard pour leur patience avec un papa, ou beau-papa, qui n’était pas toujours aussi disponible qu’à l’habitude, pris à « travailler sur son livre ». Vous ne voyez pas son nom à côté du mien, comme pour notre livre précédent, Le prochain virage, mais mon bon ami et compagnon d’armes François Tanguay m’a été, encore une fois, d’un grand secours pour la rédaction de cet essai. Un immense merci à Joëlle Pineau, pour sa générosité et sa bienveillance à répondre à mes questions sur l’intelligence artificielle, tant dans la cour d’école de nos enfants que devant un café ou une tisane. La députée française du parti La République en marche Paula Forteza a généreusement accepté de répondre à mes nombreuses questions sur le Règlement général sur la protection des données, et je lui en suis très reconnaissant.

Je tiens également à remercier l’équipe de Cycle Capital Management, qui m’a ouvert les yeux sur la complexité du marché de l’investissement dans les technologies propres et qui m’a aidé à mieux le comprendre. Un merci particulier à Pascal pour l’aide avec les graphiques. Un grand merci également à Leïla Copti et à l’équipe de Copticom pour les conseils et l’écoute. Peu après avoir annoncé mon départ d’Équiterre, j’ai reçu une demande de rencontre avec des membres de l’équipe d’Element , soit Valérie Bécaert, Nicolas Chapados, Sebastien Provencher et Mathieu Marcotte, qui ont généreusement pris de leur précieux temps pour discuter avec moi de sujets que je voulais aborder, et je les en remercie. Merci également à toute l’équipe d’Équiterre, qui m’a beaucoup aidé et soutenu, et particulièrement à Camille Gagné-Raynauld et Ryan Worms pour toutes les idées, les informations et les nombreux suivis. Je souscris pleinement, et ce, depuis longtemps, au vieil adage « un esprit sain dans un corps sain » (à quoi on pourrait maintenant ajouter « sur une planète saine ») et je reçois beaucoup d’aide pour trouver un certain équilibre quant au volet « corps sain ». Je profite donc de l’occasion pour remercier toute l’équipe de Munéris Performance, et particulièrement JeanPhilippe Tessier. Un grand merci à Alexandra Stréliski pour la musique inspirée et envoûtante que j’ai écoutée en boucle pendant la rédaction de ce livre. J’aimerais exprimer aussi ma gratitude à toute l’équipe de Druide ayant collaboré de près ou de loin à ce livre, soit Jocelyne Dorion et Isabelle Chartrand-Delorme à la révision, Anne Tremblay au design graphique, l’adjointe à l’édition Elisanne Crevier ainsi que Luc Roberge et André d’Orsonnens à la direction.

Finalement, ce livre ne serait que l’ombre de lui-même, n’eût été la bienveillante assistance d’Anne-Marie Villeneuve, éditrice et directrice littéraire. Dès le départ, elle a été enchantée de ce projet de livre et m’a été d’un grand secours à toutes les étapes de sa réalisation.

NOTES

1. Bloomberg New Energy Finance, « Electric cars to reach price parity by 2025 », about.bnef.com/blog/electric-cars-reach-price-parity-2025. 2. Rob Stumpf, « Electric car battery prices could be cut in half by 2025 », The Drive, 11 décembre 2017, www.thedrive.com/sheetmetal/16853/electric-car-battery-prices-could-be-cut-in-half-by2025. 3. Alec Castonguay, « Le CV : Joëlle Pineau », L’actualité, 13 octobre 2017, lactualite.com/techno/2017/10/13/le-cv-joelle-pineau. 4. www.apple.com/ca/fr/researchkit. 5. Statista, « Number of smartphone users worldwide from 2014 to 2020 (in billions) », www.statista.com/statistics/330695/number-of-smartphone-users-worldwide, et « Number of tablet users worldwide from 2013 to 2021 (in billions) », www.statista.com/statistics/377977/tablet-users-worldwide-forecast. 6. Maureen Dowd, « Elon Musk’s billion-dollar crusade to stop the A.I. apocalypse », Vanity Fair, 26 mars 2017, www.vanityfair.com/news/2017/03/elon-musk-billion-dollar-crusade-to-stop-aispace-x. 7. Jean-Gabriel Ganascia, Le mythe de la Singularité : faut-il craindre l’intelligence artificielle ?, Paris, Seuil, 2017. 8. Alex Hern, « Stephen Hawking : AI will be “either best or worst thing” for humanity », The Guardian, 19 octobre 2016, www.theguardian.com/science/2016/oct/19/stephen-hawking-ai-bestor-worst-thing-for-humanity-cambridge. 9. An Open Letter : Research Priorities for Robust and Beneficial Artificial Intelligence, futureoflife.org/ai-open-letter. 10. Traduction libre. 11. ici.radio-canada.ca/emissions/la_sphere/2014-2015/chronique.asp ?idChronique=382382. 12. Jean M. Twenge, « Have smartphones destroyed a generation ? », The Atlantic, septembre 2017, www.theatlantic.com/magazine/archive/2017/09/has-the-smartphone-destroyed-ageneration/534198.

13. Dan Shewan, « Robots will destroy our jobs – and we’re not ready for it », The Guardian, 11 janvier 2017, www.theguardian.com/technology/2017/jan/11/robots-jobs-employees-artificialintelligence. Traduction libre. 14. Jonathan Amos, « Polluted air causes 5.5 million deaths a year new research says », BBC News, 13, février 2016, www.bbc.com/news/science-environment-35568249. 15. World Health Organization, Global Status Report on Road Safety 2018, www.who.int/violence_injury_prevention/road_safety_status/2018/en ; Association for Safe International Road Travel, « Annual Global Road Crash Statistics », www.asirt.org/safetravel/road-safety-facts. 16. Danielle Muoio, « RANKED : The 18 companies most likely to get self-driving cars on the road first », Business Insider, 27 septembre 2017, www.businessinsider.com/the-companies-mostlikely-to-get-driverless-cars-on-the-road-first-2017-4/ #12-tesla-7. 17. « The death of the internal combustion engine », The Economist, 12 août 2017, www.economist.com/leaders/2017/08/12/the-death-of-the-internal-combustion-engine. 18. David Welch, « Tesla just passed GM to become America’s most valuable carmaker », Bloomberg,10 avril 2017, www.bloomberg.com/news/articles/2017-04-10/tesla-passes-gm-asmusk-s-carmaker-becomes-america-s-top-valued. Traduction libre. 19. Mark Kaufman, « Tesla had a rocky year, but owners are still extremely satisfied with their cars », Mashable, 21 décembre 2017, mashable.com/2017/12/21/tesla-owners-are-extremelysatisfied-with-their-vehicles/. 20. Gaël Branchereau,« Volvo passe à l’électrique », Le Devoir, 5 juillet 2017, www.ledevoir.com/non-classe/502740/automobile-volvo-passe-a-l-electrique. 21. Alex Davies, « General Motors is going all electric », Wired, 2 octobre 2017, www.wired.com/story/general-motors-electric-cars-plan-gm. 22. Fred Lambert, « Electric vehicle sales achieve new record in Norway with 45 % of new cars being all-electric and 60 % plug-in », Electrek, 1er octobre 2018, electrek.co/2018/10/01/electricvehicle-sales-new-record-norway-tesla. 23. Rob Stumpf, op. cit. 24. Bec Crew, « This is the end of the fossil fuel age as we know it, says report », Science Alert, 16 juin 2016, www.sciencealert.com/this-is-the-end-of-the-fossil-fuel-age-as-we-know-it-saysreport. 25. U.S. Energy Information Administration, « U.S. coal consumption in 2018 expected to be the lowest in 39 years », 4 décembre 2018, www.eia.gov/todayinenergy/detail.php ?id=37692. 26. Christine Shearer et coll., Boom and Bust 2019, Tracking the Global Coal Plant Pipeline, Global Energy Monitor, mars 2019, endcoal.org/wpcontent/uploads/2019/03/BoomAndBust_2019_r6.pdf. 27. Gregor Macdonald, « Coal jobs and the power of a false premise », Gregor.us, 21 février 2017, gregor.us/policy/coal-jobs-and-the-power-of-a-false-premise.

28. Devashree Saha et Sifan Liu, « Increased automation guarantees a bleak outlook for Trump’s promises to coal miners », The Avenue, 25 janvier 2017, www.brookings.edu/blog/theavenue/2017/01/25/automation-guarantees-a-bleak-outlook-for-trumps-promises-to-coal-miners. 29. Dan Healing, « Suncor is building a fleet of 150 driverless trucks that will cut 400 jobs over the next six years », The Financial Post, 30 janvier 2018, business.financialpost.com/commodities/energy/suncor-phasing-in-150-autonomous-haul-trucksjob-cuts-expected-by-2019 30. « Carmichael Coal : Autonomous from mine to port », Postscapes, 14 décembre 2016, www.postscapes.com/pulse/carmichael-coal-autonomous-from-mine-to-port. Traduction libre. 31. Travis M. Andrews, « Kentucky Coal Mining Museum in Harlan County switches to solar power », The Washington Post, 6 avril 2017, www.washingtonpost.com/news/morningmix/wp/2017/04/06/the-coal-mining-museum-in-harlan-county-ky-switches-to-solar-power/ ? noredirect=on&utm_term=.3ee81981243c. 32. James Arbib et Tony Seba, Rethinking Transportation 2020-2030, mai 2017, static1.squarespace.com/static/585c3439be65942f022bbf9b/t/59f279b3652deaab9520fba6/15090 63126843/RethinkX+Report_102517.pdf. 33. François Desjardins, « General Motors ferme plusieurs usines, dont celle d’Oshawa », Le Devoir, 27 novembre 2018, www.ledevoir.com/economie/542266/general-motors-abolit-14-700-emploisen-amerique-du-nord. 34. Is your city getting ready for AVs ? This is a guide to who’s doing what, where, and how, avsincities.bloomberg.org. 35. Karl Rettino-Parazelli, « Navettes autonomes : le projet-pilote de Candiac devrait en inspirer d’autres », Le Devoir, 11 août 2018, www.ledevoir.com/societe/transportsurbanisme/534299/des-navettes-autonomes-sur-la-voie-publique-des-la-fin-aout-a-candiac. 36. Sebastian Anthony, « NHTSA rules that AI can be sole driver of Google’s self-driving cars », Ars Technica, 2 octobre 2016, arstechnica.com/cars/2016/02/googles-self-driving-car-ai-can-be-thevehicles-legal-driver-us-government-says. 37. Aarian Marshall, « Tesla bears some blame for self-driving crash death, Feds say », Wired, 13 septembre 2017, www.wired.com/story/tesla-ntsb-autopilot-crash-death. 38. Ryan Randazzo, « Self-driving Uber involved in Tempe crash », AZCentral, 8 septembre 2017, www.azcentral.com/story/money/business/tech/2017/09/08/self-driving-uber-involved-tempecrash/647843001. 39. Sondage : les Canadiens sont-ils de bons conducteurs ?, blog.belairdirect.com/fr/sondageconduire-des-canadiens. 40. Sam Blum, « Americans are terrible drivers, according to American Drivers », Thrillist, 28 octobre 2016, www.thrillist.com/news/nation/americans-terrible-driving-habits. 41. HuffPost/AFP, « Klaxon, téléphone, ceinture…� Les mauvaises habitudes de conduite selon les pays », HuffPost, 27 février 2014, www.huffingtonpost.fr/2014/02/27/mauvaises-habitudes-deconduite_n_4863835.html.

42. Ryan Beene, « It’s no use honking : The robot at the wheel can’t hear you », Automotive News, 10 octobre 2017, www.autonews.com/article/20171010/MOBILITY/171019877/its-no-usehonking-the-robot-at-the-wheel-cant-hear-you. 43. Radio X – 98,1, Mémoire sur le transport à Québec : l’opportunité d’être un leader de la mobilité intelligente, juin 2017, www.s3choi.rncm.ca/Fichiers-de-promos/memoire-sur-letranport-22-juin.pdf 44. Institut pour l’étude des relations homme-robots, La robophobie, www.ierhr.org/frederic-tordo-larobophobie. 45. Jean-François Bonnefon, Azim Shariff et Iyad Rahwan, « The social dilemma of autonomous vehicles », Science, vol. 352, no 6293, 2016, p. 1573-1576, pdfs.semanticscholar.org/8523/20e33132442e1c335b13b88be0f7afa3c080.pdf. 46. National Association of City Transportation Officials, Bike Share in the US : 2010-2016, nacto.org/bike-share-statistics-2016. 47. IbisWorld, Car sharing providers industry in the US, www.ibisworld.com/industrytrends/specialized-market-research-reports/consumer-goods-services/travel/car-sharingproviders.html. 48. Urban Gateway, The Rise of Car-Sharing in China, www.urbangateway.org/news/rise-carsharing-china. 49. James Arbib et Tony Seba, op. cit. 50. Druide, 2014, p. 275-276. 51. Fabien Deglise, « La liberté du Web avant celle du bitume ? », Le Devoir, 16 septembre 2013, www.ledevoir.com/societe/387540/la-liberte-du-web-avant-celle-du-bitume ; Eric Reguly, « Is the car dead ? », The Globe and Mail, 30 août 2012, www.theglobeandmail.com/report-onbusiness/rob-magazine/is-the-car-dead/article4510125/. 52. Sciences et Avenir avec , « Une intelligence artificielle capable de reconnaître le mélanome avec 95 % d’efficacité », Sciences et Avenir, 29 mai 2018, www.sciencesetavenir.fr/sante/dermato/cancer-de-la-peau-une-intelligence-artificielle-meilleuredans-le-depistage-que-les-dermatologues_124423. 53. Joëlle Pineau, Geoff Gordon et Sebastian Thrun, « Point-based value iteration : An anytime algorithm for POMDPs », dans Proceedings of the 18th International Joint Conference on Artificial Intelligence, San Francisco, Morgan Kaufmann Publishers, 2003, p. 1025-1030, www.fore.robot.cc/papers/Pineau03a.pdf. 54. Denis Lalonde, « Intelligence artificielle : la tête pensante de Facebook à Montréal », Les Affaires, 14 septembre 2017, www.lesaffaires.com/techno/technologie-de-linformation/intelligence-artificielle-celle-par-qui-la-recherche-de-facebook-passera/597196. 55. Ibid. 56. Joëlle Pineau, Designing Intelligent Wheelchairs : Reintegrating AI, présentation au 2013 Spring Symposium Series de l’Association for the Advancement of Artificial Intelligence tenu à l’

Université Stanford, mars 2013, p. 50, www.aaai.org/ocs/index.php/SSS/SSS13/paper/viewFile/5783/5946. 57. Nelly Lesage, « Prédire les maladies du cœur en regardant vos yeux, le défi de cet algorithme de Google », Numerama, 20 février 2018, www.numerama.com/sciences/330602-predire-lesmaladies-du-coeur-en-regardant-vos-yeux-le-defi-de-cet-algorithme-de-google.html. 58. Virginia Harrison, « The blind woman developing tech for the good of others », BBC News, 7 décembre 2018, www.bbc.com/news/business-46258339. 59. Statistique Canada, Analyse : population selon l’âge et le sexe, www150.statcan.gc.ca/n1/pub/91215-x/2017000/sec2-fra.htm. 60. Éditorial, « Fill the gap in nursing care workers », The Japan Times, 26 juin 2018, www.japantimes.co.jp/opinion/2018/06/26/editorials/fill-gap-nursing-careworkers/ #.XMiCRy97Tow. 61. Jon Emont, « Japan prefers robot bears to foreign nurses », Foreign Policy, 1er mars 2017, foreignpolicy.com/2017/03/01/japan-prefers-robot-bears-to-foreign-nurses. 62. projetromeo.com. 63. Daniel Hurst, « Japan lays groundwork for boom in robot carers », The Guardian, 6 février 2018, www.theguardian.com/world/2018/feb/06/japan-robots-will-care-for-80-of-elderly-by-2020. 64. Douglas Quenqua, « Facebook knows you better than anyone else », The New York Times, 19 janvier 2015, www.nytimes.com/2015/01/20/science/facebook-knows-you-better-thananyone-else.html. 65. Allen T. Cheng, « Alibaba vs. the world », Institutional Investor, 25 juillet 2017, www.institutionalinvestor.com/article/b1505pjf8xsy75/alibaba-vs-the-world. 66. Liza Lin et Josh Chin, « China’s tech giants have a second job : Helping Beijing spy on its people », The Wall Street Journal, 30 novembre 2017, www.wsj.com/articles/chinas-tech-giantshave-a-second-job-helping-the-government-see-everything-1512056284. Traduction libre 67. Freedom House, Freedom on the Net 2018 : The Rise of Digital Authoritarism, octobre 2018, freedomhouse.org/report/freedom-net/freedom-net-2018. 68. « Can Huawei survive an onslaught of bans and restrictions abroad ? », The Economist, 13 décembre 2018, www.economist.com/business/2018/12/15/can-huawei-survive-an-onslaughtof-bans-and-restrictions-abroad. 69. Rachel Botsman, « Big data meets Big Brother as China moves to rate its citizens », Wired, 21 octobre 2017, www.wired.co.uk/article/chinese-government-social-credit-score-privacyinvasion. 70. Rob Schmitz, « What’s your “public credit score” ? The Shanghai government can tell you », NPR, 3 janvier 2017, www.npr.org/sections/parallels/2017/01/03/507983933/whats-your-publiccredit-score-the-shanghai-government-can-tell-you. 71. Liu Xuanzun, « Social credit system must bankrupt discredited people : former official », Global Times, 20 mai 2018, www.globaltimes.cn/content/1103262.shtml. 72. Ibid. Traduction libre.

73. Gene A. Bunin, « “We’re a people destroyed” : Why Uighur Muslims across China are living in fear », The Guardian, 7 août 2018, www.theguardian.com/news/2018/aug/07/why-uighurmuslims-across-china-are-living-in-fear. 74. Bloomberg News avec Peter Martin, « The architect of China’s Muslim camps is a rising star under Xi », Bloomberg, 27 septembre 2018, www.bloomberg.com/news/articles/2018-09-27/thearchitect-of-china-s-muslim-camps-is-a-rising-star-under-xi. 75. Human Rights Watch, “Eradicating Ideological Viruses” : China’s Campaign of Repression Against Xinjiang’s Muslims, [Document PDF], New York, Human Rights Watch, septembre 2018, www.hrw.org/sites/default/files/report_pdf/china0918_web.pdf. 76. Ibid., p. 23. 77. Philip Wen, Michael Martina et Ben Blanchard. « Exclusive : In rare coordinated move, Western envoys seek meeting on Xinjiang concerns », Reuters, 15 novembre 2018, www.reuters.com/article/us-china-xinjiang-exclusive/exclusive-in-rare-coordinated-movewestern-envoys-seek-meeting-on-xinjiang-concerns-idUSKCN1NK0H 0. 78. Human Rights Watch, op. cit., p. 59-60. 79. Freedom House, Freedom in the World 2019 : Democracy in Retreat, n. d., freedomhouse.org/report/freedom-world/freedom-world-2019. 80. Brian Keeley, Inégalités de revenu : l’écart entre les riches et les pauvres, Éditions , Paris, mai 2018, www.oecd.org/fr/publications/inegalites-de-revenu-l-ecart-entre-les-riches-et-lespauvres-9789264300408-fr.htm. 81. Pour en savoir plus sur cette histoire, je vous recommande fortement l’excellent dossier « The Cambridge Analatyca files » du quotidien britannique The Guardian : www.theguardian.com/news/series/cambridge-analytica-files. 82. Vincent Boulanin et Maaike Verbruggen, Mapping the Development of Autonomy in Weapon Systems, Solna (Suède), Stockholm International Peace Research Institute (SIPRI), novembre 2017, p. 19-20, www.sipri.org/publications/2017/other-publications/mapping-developmentautonomy-weapon-systems. 83. Ibid., p. 21-35. 84. Campaign to Stop Killer Robots, www.stopkillerrobots.org. 85. Mattha Busby et Anthony Cuthbertson, « “Killer robots” ban blocked by US and Russia at UN meeting », Independent, 3 septembre 2018, www.independent.co.uk/life-style/gadgets-andtech/news/killer-robots-un-meeting-autonomous-weapons-systems-campaigners-dismayeda8519511.html. 86. Simon Parkin, « Killer robots : The soldiers that never sleep », , 16 juillet 2015, www.bbc.com/future/story/20150715-killer-robots-the-soldiers-that-never-sleep. 87. winstonchurchill.org/resources/quotes/the-worst-form-of-government. Traduction libre. 88. Elsa Trujillo, « Un ancien cadre de Facebook : “Nous avons créé des outils qui déchirent le tissu social” », Le Figaro, 12 décembre 2017, www.lefigaro.fr/secteur/high-tech/2017/12/12/32001-

20171212ARTFIG00144-un-ancien-cadre-de-facebook-nous-avons-cree-des-outils-qui-dechirentle-tissu-social.php. 89. Le rôle de la dopamine, lecerveau.mcgill.ca/flash/d/d_03/d_03_m/d_03_m_que/d_03_m_que.html. 90. Maia Szalavitz, « La dopamine, messagère du désir », Cerveau & Psycho, 21 avril 2017, www.cerveauetpsycho.fr/sd/neurosciences/la-dopamine-messagere-du-desir-9627.php. 91. Ibid. 92. Paul Lewis, « “Our minds can be hijacked” : The tech insiders who fear a smartphone dystopia », The Guardian, 6 octobre 2017, www.theguardian.com/technology/2017/oct/05/smartphoneaddiction-silicon-valley-dystopia. 93. Jean M. Twenge, op. cit. 94. Jean M. Twenge, « Why teens aren’t partying anymore », Wired, 27 décembre 2017, www.wired.com/story/why-teens-arent-partying-anymore. 95. Jean M. Twenge, « Have smartphones destroyed a generation ? », op. cit. 96. C. W. et A. J. K. D, « Did slavery make economic sense ? », The Economist, 27 septembre 2013, www.economist.com/blogs/freeexchange/2013/09/economic-history-2. 97. Musée québécois de culture populaire, Les femmes à l’assaut du monde du travail, larevolutiontranquille.ca/fr/les-femmes-a-lassaut-du-monde-du-travail.php. 98. Katie Allen, « Technology has created more jobs than it has destroyed, says 140 years of data », The Guardian, 18 août 2015, www.theguardian.com/business/2015/aug/17/technology-createdmore-jobs-than-destroyed-140-years-data-census. 99. Ibid. 100. Jacques Attali (dir.), L’avenir du travail, Paris, Fayard et Institut Manpower, 2007. 101. Marie-Pier Bouchard, « “La pire année” dans l’industrie du camionnage au Québec », RadioCanada, 16 novembre 2017, ici.radio-canada.ca/nouvelle/1067666/penurie-camionneurs-quebecmain-doeuvre-crise. 102. Heather Long, « America has a massive truck driver shortage. Here’s why few want an $80,000 job », The Washington Post, 28 mai 2018, www.washingtonpost.com/news/wonk/wp/2018/05/28/america-has-a-massive-truck-drivershortage-heres-why-few-want-an-80000-job/ ?utm_term=.69b6a84a4b62. 103. Max Greenwood, « Plan for friction : Element AI and the pursuit of ethics », Techvibes, 22 août 2018, techvibes.com/2018/08/22/plan-for-friction-element-ai-and-the-pursuit-of-ethics. 104. Téléséries américaines très populaire des années 1970 mettant en vedette Lee Majors et Lindsay Wagner. 105. « ARM to provide chips for brain injury implants », News, 16 mai 2017, www.bbc.com/news/technology-39934506. 106. www.ottobock.ca. 107. « Singularité technologique », Wikipédia, 5 mars 2019, fr.wikipedia.org/wiki/Singularité_technologique.

108. Actu , « Différence entre apprentissage supervisé et apprentissage non supervisé », 24 janvier 2018, www.actuia.com/vulgarisation/difference-entre-apprentissage-supervise-apprentissage-nonsupervise. 109. Ibid. 110. « Apprentissage par renforcement », Wikipédia, 20 juillet 2018, fr.wikipedia.org/wiki/Apprentissage_par_renforcement. 111. Jean-Gabriel Ganascia, op. cit., p. 54. 112. Ben Tang, « 50 years after 2001 : A Space Odyssey, can we build a HAL 9000 ? », 25 avril 2018, Stradigi AI, medium.com/stradigiai/50-years-after-2001-a-space-odyssey-can-we-build-ahal-9000-64ed1b 2e65d1. 113. Jean-Gabriel Ganascia, op. cit., p.125. 114. Kevin Kelly, « The myth of a superhuman AI », Wired, 25 avril 2017, www.wired.com/2017/04/the-myth-of-a-superhuman-ai. 115. Druide informatique a d’ailleurs fait un don d’un million de dollars pour la recherche fondamentale sur l’ à l’Université de Montréal en 2017. Ce don vise à faire avancer la recherche en général et non pas simplement les intérêts corporatifs de l’entreprise. Voir : nouvelles.umontreal.ca/article/2017/04/06/l-universite-de-montreal-souligne-le-don-de-druideinformatique. 116. Déclaration de Montréal pour le développement responsable de l’intelligence artificielle, 2018, docs.wixstatic.com/ugd/ebc3a3_9e3fe48cc1ac49968557a82295a3088a.pdf. 117. International Council on Clean Transportation, Effects of battery manufacturing on electric vehicle life-cycle greenhouse gas emissions, ICCT, février 2018, www.theicct.org/sites/default/files/publications/EV-life-cycle-GHG_ICCTBriefing_09022018_vF.pdf. 118. Mark Dummett, La face cachée des voitures électriques : l’exploitation par le travail, Amnesty International, 29 septembre 2017, www.amnesty.org/fr/latest/news/2017/09/the-dark-side-ofelectric-cars-exploitative-labor-practices. 119. Il s’agit du personnage Deathlok : en.wikipedia.org/wiki/Deathlok. 120. Règlement (UE) 2016/679 du Parlement européen et du Conseil : eur-lex.europa.eu/legalcontent/FR/TXT/PDF/ ?uri=CELEX :32016R0679. 121. Commission nationale de l’informatique et des libertés, « RGPD : quel bilan 6 mois après son entrée en application ? », 23 novembre 2018, www.cnil.fr/fr/rgpd-quel-bilan-6-mois-apres-sonentree-en-application. 122. Natasha Lomas, « Privacy complaints received by tech giants’ favorite EU watchdog up more than 2x since GDPR », TechCrunch, mars 2019, techcrunch.com/2019/02/28/privacy-complaintsreceived-by-tech-giants-favorite-eu-watchdog-up-more-than-2x-since-gdpr. 123. Le Monde avec AFP, « Données personnelles : la CNIL condamne Google à une amende record de 50 millions d’euros », Le Monde, 21 janvier 2019,

www.lemonde.fr/pixels/article/2019/01/21/donnees-personnelles-la-cnil-condamne-google-a-uneamende-record-de-50-millions-d-euros_5412337_4408996.html. 124. Freedom House, Freedom on the Net 2018 : The Rise of Digital Authoritarianism, [Document PDF], octobre 2018, p. 20, freedomhouse.org/report/freedom-net/freedom-net-2018/rise-digitalauthoritarianism. 125. M. Balsillie est l’un des grands influenceurs de la planète en matière de développement des technologies. Il a, entre autres, été membre du Groupe de haut niveau sur la viabilité mondiale du Secrétaire général des Nations unies. 126. Extrait du discours de M. Balsillie à la conférence Smart Montreal organisée conjointement par Cycle Capital Management, Le Fonds Ecofuels et Technologie du développement durable du Canada, le 4 février 2019. Extrait reproduit avec la permission de M. Balsillie, document inédit. Traduction libre. 127. www.intelligentcommunity.org/montreal_quebec. 128. Janosch Delcker, « Finland’s grand AI experiment », Politico, 2 janvier 2019, www.politico.eu/article/finland-one-percent-ai-artificial-intelligence-courses-learning-training. 129. Julia Bossmann, « Top 9 ethical issues in artificial intelligence », World Economic Forum, 21 octobre 2016, www.weforum.org/agenda/2016/10/top-10-ethical-issues-in-artificialintelligence. 130. Groupe de travail sur la transition équitable pour les collectivités et les travailleurs des centrales au charbon canadiennes, Une transition juste et équitable pour les collectivités et les travailleurs des centrales au charbon canadiennes, Gouvernement du Canada, décembre 2018, publications.gc.ca/collections/collection_2019/eccc/En4-361-2019-fra.pdf. 131. Scott Shane et Daisuke Wakabayashi, « “The business of war” : Google employees protest work for the Pentagon », The New York Times, 4 avril 2018, www.nytimes.com/2018/04/04/technology/google-letter-ceo-pentagon-project.html. 132. thebulletin.org/doomsday-clock. 133. On trouve ces lois dans plusieurs des livres du Cycle des robots. Je me suis référé à Un défilé de robots, Éditions J’ai Lu, 1967, p. 12.