Les robots au pouvoir

Elon Musk, ce milliardaire qui rêve d’envoyer des hommes sur Mars, fondateur de Tesla (voiture électrique semi-autonome) et de SpaceX (projets spatiaux), deux activités qui intègrent l’intelligence artificielle, s’interroge sur les conséquences de cette avancée technologique majeure, et s’inquiète des limites de son pouvoir. A l’en croire, ce défi n’est pas encore suffisamment pris au sérieux. « Tant que personne ne verra des robots en train de marcher dans la rue et se mettre soudainement à tuer des passants, personne ne réagira et ne saura quoi penser », a-t-il souligné récemment devant l’Association des gouverneurs des Etats-Unis. Musk, qui n’hésite pas à parler de « menace existentielle », fait notamment partie des 116 chefs d’entreprise qui ont signé une lettre ouverte prévenant l’ONU des dangers des robots tueurs. Pour éviter les dérives, le milliardaire plaide pour que l’utilisation de l’IA soit régulée de manière stricte par les pouvoirs publics.

Même constatation pour l’astrophysicien britannique, Stephen Hawking. « Je pense que le développement d’une intelligence artificielle complète pourrait mettre fin à l’humanité. Une fois que les hommes auront développé cette technologie, elle s’améliorera de plus en plus vite. Les humains, limités par une lente évolution biologique, ne pourront pas rivaliser et seront dépassés », avait-il affirmé lors d’un entretien accordé à la BBC en 2014. De son côté, Mark Zuckerberg, fondateur de Facebook, affiche plus de sérénité et réfute les craintes d’Elon Musk, le qualifiant de « négatif et de ringard ». Selon lui, « dans les 5 à 10 prochaines années, l’IA va contribuer de manière extraordinaire à l’amélioration de la qualité de nos vies ».

L’interrogation sur l’usage de l’IA et de ses limites est un débat de société qui agite depuis de longues années les scientifiques et les intellectuels. Le célèbre journaliste et écrivain américain Thomas Friedman, a récemment expliqué : « Nous nous dirigeons vers un monde où les ordinateurs et les programmes informatiques peuvent analyser (utiliser des données qui étaient autrefois cachées), optimiser (rendre les actions plus performantes, par exemple en décidant de l’altitude de vol d’un avion pour qu’il économise le maximum d’énergie), prévoir (prévenir de la prochaine panne de votre ascenseur avant qu’elle ne se produise, vous permettant ainsi de le réparer avant) mais aussi numériser et automatiser toutes les tâches. »

L’intelligence artificielle a le potentiel de tout transformer. C’est une évidence, que l’on soit pour ou contre son maniement, inquiet ou serein. Qui a donc raison ? Musk et Hawking, qui craignent que l’IA ne supplante l’être humain, ou Zuckerberg et Friedman, qui voient avant tout les bienfaits dans son utilisation ? Impossible de trancher véritablement. Force est toutefois de constater que les récents exemples d’utilisation de l’IA se sont révélés bénéfiques pour l’homme.

Des assistants de vie

Prenez le cas d’Alexa, cet assistant personnel intelligent développé par le groupe Amazon, et celui de Watson, un ordinateur superpuissant mis au point par IBM, disposant d’un logiciel qui lui permet de répondre à des questions médicales ardues dans un langage compréhensible par tous.

Alexa a été créée en 2014. Disponible pour le moment en anglais et en allemand, elle est capable d’interaction vocale, de lire de la musique, faire des listes de tâches, régler des alarmes, lire des podcasts et des livres audio, informer sur la météo, le trafic routier et autres données en temps réel. Elle peut également contrôler plusieurs appareils intelligents à distance en faisant office de centre domotique. Tout cela grâce à des mots-clés.

Que penser de ce robot domestique ? Pour la journaliste Penelope Green, c’est une réussite. « Depuis sa mise en service en novembre 2014, Alexa ne s’est jamais orientée vers des actes malveillants, en utilisant son intelligence de manière perverse, comme l’ont prédit nombre d’auteurs de livres et films de science-fiction. Pour résumer, Alexa est une sorte de colocataire idéale, dévouée à son utilisateur et sans arrière-pensée. Programmée pour aider et soutenir l’homme, elle est également dénuée de tous les ego et intérêts contradictoires de la nature humaine. » La meilleure preuve est la confiance des utilisateurs : en 2017, 25 millions d’Américains ont eu recours à cet assistant personnel au moins une fois par mois.

Alexa est donc bienveillante, mais est-elle vraiment intelligente ? Difficile également de répondre. Quoi qu’il en soit, elle possède un répondant qui s’assimile à celui d’un humain. Elle a d’ailleurs passé « le test de Turing », qui signifie qu’un être humain peut engager une conversation avec elle sans savoir qu’il s’agit d’une machine, tant ses réponses sont sensées. Alors qu’Alexa nous permet d’organiser nos tâches quotidiennes le plus efficacement possible, Watson, lui, aide les gens à se soigner.

Un grand pas dans l’histoire de l’informatique a été franchi le 11 mai 1997. Ce jour-là, Deep Blue, le super-ordinateur sachant jouer aux échecs développé par IBM a battu Gary Kasparov, alors champion du monde en titre. Deep Blue était-il intelligent ? Oui et non. Non, parce qu’il était uniquement capable de calculer un nombre infini de combinaisons de déplacements de pions en une fraction de seconde, et qu’être rapide ne suffit pas pour être intelligent. Et oui, parce qu’il pouvait aussi analyser les mouvements des pions de son adversaire, et trouver la meilleure solution possible pour le battre.

Cet ordinateur avait été considéré à son époque comme un caprice, conçu par des informaticiens qui s’étaient lancé un défi, dont l’intérêt était somme toute futile. Mais Deep Blue et sa puissance ont impressionné, générant un immense intérêt et suscitant de nombreuses recherches. En 2010, IBM a continué à développer la technologie utilisée pour Deep Blue dans d’autres domaines.

L’entreprise américaine a notamment développé son super-ordinateur Watson, qui répond aux questions médicales et puise dans des milliers de données pour proposer la solution la plus adéquate. Watson n’a pas pour but de remplacer l’humain, mais de le rendre plus performant en lui apportant des réponses adaptées à ses requêtes. Il a aussi l’immense avantage d’apprendre de ses erreurs.

Watson a été programmé pour être particulièrement efficace dans l’étude du cancer. Il lit des milliers de documents publiés mensuellement, apprend leur contenu, tient compte des expériences… Il répond dans un langage naturel aux questions posées par les chercheurs, et propose des traitements que des oncologues parmi les plus réputés et expérimentés au monde n’avaient pas trouvés. L’ordinateur a déjà permis de prolonger la vie de nombreux malades et en a peut-être même sauvé certains.

Le terme d’intelligence artificielle prête à confusion. L’intelligence se définit par la capacité à résoudre des problèmes et à apprendre. Apprendre et résoudre sont deux fonctions qui sont liées. Plus vous résolvez des problèmes, plus vous apprenez, et plus vous apprenez, plus vous êtes efficace pour trouver des solutions adaptées. Les êtres humains sont dotés d’intelligence. Les animaux également, et aussi certaines machines. Si un humain, un chimpanzé et un ordinateur peuvent apprendre et résoudre des problèmes, cela veut dire qu’ils sont tous dotés d’intelligence. Certes, l’intelligence de la machine ne provient pas d’un cerveau, mais d’une technologie ; pour autant, le résultat qu’elle produit est le même.

Quand l’Internet des objets (une nouvelle évolution de l’Internet vers les objets connectés) se répandra, des milliards d’appareils seront connectés entre eux. Les scientifiques prédisent ainsi que la connaissance développée par l’IA doublera toutes les 12 heures. Le cerveau de l’homme ne pourra dès lors plus suivre le rythme. Il lui est déjà impossible d’intégrer toutes les données produites dans la recherche sur le cancer et aucun médecin, aussi assidu soit-il, ne peut lire plus qu’une toute petite fraction des études publiées. Il est donc évident que pour être encore plus performants, nous aurons besoin de l’aide d’ordinateurs intelligents comme Watson.

Des outils révolutionnaires

A l’intérieur du concept général d’intelligence artificielle, on trouve plusieurs outils dérivés qui ont chacun leur propre fonction. L’apprentissage machine ou apprentissage automatique (machine learning) permet ainsi de développer des méthodes pour résoudre des tâches difficiles ou des problèmes par des moyens algorithmiques. Ces programmes ont la capacité de s’adapter, de modifier leurs analyses en apprenant de leurs erreurs, et de faire ainsi des prévisions de plus en plus précises. Selon leur degré de perfectionnement, ces programmes intègrent des capacités de traitement de données issues, par exemple, d’un système de reconnaissance vocale ou de capteurs.

L’apprentissage non supervisé est un autre concept de l’IA. Il permet à l’ordinateur de rassembler des données, de les sélectionner en fonction de leurs similarités, de les organiser en groupe, pour permettre de définir des probabilités conditionnelles. La jeune start-up israélienne Waycare utilise ce concept pour développer une technologie permettant de prévoir les accidents de la circulation environ deux heures avant qu’ils ne risquent de se produire, et transmettre ces données aux responsables de la régulation du trafic. Le programme prend en compte un ensemble de données dont les accidents routiers qui ont déjà eu lieu dans le passé dans une zone déterminée, les prévisions météo, l’horaire du coucher du soleil… et mouline ces informations afin de les transformer en algorithmes. Le système peut également prévoir à quels endroits il y aura une congestion de trafic ou des accidents. En fonction de ces données, la municipalité peut adapter ses moyens, envoyer plus de policiers à tels endroits, modifier les limites de vitesse, disposer de services de secours prêts à intervenir à un endroit donné… L’idée étant de gérer le trafic en amont de manière proactive.

Dans le futur ne circuleront sur les routes que des voitures autonomes connectées les unes aux autres et chacune devra intégrer plus de quatre téraoctets de données toutes les huit heures. Seules les différentes technologies d’IA seront capables de gérer un tel flux d’information pour faciliter la circulation et améliorer la sécurité.

L’exploration de données (data mining) est un autre élément fondamental dans la technologie de l’IA, différent de l’apprentissage automatique qui se concentre sur les prévisions en fonction de l’analyse des données et des expériences. L’exploration de données a pour objectif d’analyser le passé, d’extraire des connaissances à partir des grandes quantités d’informations fournies. En analysant les informations sur l’évolution des cours boursiers et celles du cycle solaire, cette technologie peut construire de nouveaux modèles plus pertinents. Elle a, par exemple, été utilisée par la start-up Zebra Medical Vision, fondée en 2014. Cette entreprise est à l’origine d’un programme qui permet aux ordinateurs de lire des images médicales en utilisant une immense base de données, et de faire automatiquement un diagnostic.

Autres concepts utilisés dans le monde de l’IA, l’apprentissage profond (deep learning) et le réseau de neurones artificiels (neural networks), tous deux intimement liés car ils s’inspirent du fonctionnement du cerveau humain. Le cerveau est un organe extraordinaire avec quelque 86 milliards de neurones ou cellules nerveuses liées entre elles par des synapses, des sortes de câbles microscopiques qui permettent à celles-ci de communiquer entre elles en transmettant un petit signal électrique. Ce réseau de communication est appelé réseau neuronal, à l’intérieur duquel existent des sous-ensembles de réseaux. Plus il y a de connexions entre les neurones, plus notre cerveau est capable d’apprendre, de créer, de penser. Les réseaux de neurones artificiels conçus pour les machines sont beaucoup plus simples que ceux du cerveau humain, mais ce faible nombre de connexions ne les empêche pas de réaliser des choses extraordinaires.

La start-up Voyager Labs, fondée en 2012, a utilisé la méthode de l’apprentissage profond pour modéliser à un haut niveau d’abstraction des données et ainsi analyser et comprendre le comportement des individus, connaître leurs intérêts, leurs intentions, prévoir leurs envies… Voyager Labs peut, par exemple, mieux définir les capacités d’un individu à contracter un crédit en analysant, grâce à l’outil de l’apprentissage profond, toutes les données disponibles qui jusqu’à présent n’étaient pas toutes compréhensibles, et proposer la meilleure solution possible.

Rester vigilants

Déjà en 1968, l’intelligence artificielle faisait fantasmer. L’écrivain de science-fiction britannique Arthur C. Clarke auteur du célèbre 2001, l’odyssée de l’espace fait intervenir dans son roman HAL 9000 un personnage de fiction, un supercalculateur doté d’intelligence artificielle pour gérer le vaisseau spatial Discovery One. Hal évolue mal et devient malveillant. Il tue tout l’équipage à l’exception de Dave Bowman, qui réussit finalement à désactiver son centre mémoire et à l’empêcher de fonctionner.

Il y a plus de 70 ans, Isaac Asimov, le plus célèbre des auteurs de science-fiction, avait également mis en garde contre les dangers de l’évolution des robots. Il avait alors écrit une nouvelle Runaround (Cercle vicieux) dans laquelle sont exposées ses trois lois de la robotique : 1/ un robot ne peut pas porter atteinte à un être humain, ni permettre qu’un être humain soit exposé au danger, 2/ un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi, 3/ un robot doit protéger son existence, tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.

L’évolution de l’IA, dont les entrepreneurs israéliens sont si friands, va-t-elle enrichir et prolonger nos vies ? Changera-t-elle le monde ? Les objets qui seront équipés de cette technologie toujours plus performante obéiront-ils aux lois définies par Asimov ? Ou useront-ils un jour de leur pouvoir pour nous tyranniser et réduire l’humanité en esclavage ?

Quelles que soient les réponses, il faut nous rendre à l’évidence : l’évolution de l’IA fait partie de celle de l’humanité, comme l’ont été en leur temps la révolution industrielle, celle des transports, l’arrivée de l’énergie nucléaire ou de la science génétique. Toutes ces technologies sont capables du meilleur comme du pire. A nous de rester vigilants.