La technologie est un serviteur exceptionnel mais un piètre maître, affirme le futuriste Gerd Leonhard pour qui l’accompagnement de son déploiement passe nécessairement par des choix éthiques.
Capteurs, algorithmes, cobots, cloud, automatisation, IA… La technologie prend chaque jour plus de place et accélère spectaculairement la transformation de nos façons de vivre, de produire, de consommer. Et ce n’est qu’un début : « L’humanité va davantage changer dans les vingt ans à venir qu’au cours des trois cents ans passés », avance Gerd Leonhard.
Dans ses livres comme dans ses conférences, le futuriste allemand martèle l’idée que la technologie constitue autant une menace qu’une opportunité pour l’humain qu’elle peut aussi bien servir qu’asservir. Nous devons faire des choix, et les faire vite, affirme-t-il en substance dans son ouvrage L’humanité face à la technologie. Sans craindre de dramatiser, il avertit : « La période présente incarne notre dernière chance de nous interroger sur la nature de ces défis à venir. »
Pour lui, il ne s’agit pas tant de l’usage de la technologie elle-même, mais de son intégration toujours plus profonde dans la vie humaine. De l’intelligence artificielle au séquençage du génome humain, nous devons « trouver le bon équilibre », affirme Gerd Leonhard. Le futuriste expose à cette fin « une palette d’idées d’inspiration humaniste », et l’enjeu est bien là : profiter des formidables apports de la technologie sans rien perdre de ce qui fonde l’humanité, et en premier lieu, le libre arbitre.
« Androrithmes » contre algorithmes
Dans son ouvrage, Gerd Leonhard liste les transformations en cours. Des « méga-changements » qui sont autant de facettes de la transformation à l’œuvre : la numérisation de tout ce qui peut l’être, la mobilité, la désintermédiation, l’automatisation, la virtualisation, la robotisation… Chaque aspect est éclairé de manière contradictoire, c’est-à-dire sous le double angle des risques et des bénéfices à attendre.
« Ce qui ne pourra pas être confié aux ordinateurs pourra devenir extrêmement précieux. »
Pour lui, la contrepartie d’une numérisation généralisée est que « ce qui ne pourra pas être confié aux ordinateurs pourra devenir extrêmement précieux ». A savoir les spécificités humaines essentielles telles que les émotions, la compassion, l’éthique, le bonheur et la créativité, « choses impalpables qui, de manière unique, fondent notre humanité », écrit-il en opposant ces « androrithmes » aux algorithmes.
Si la connectivité, cette faculté d’échanger des données à tout moment et en tout lieu, est « notre nouvel oxygène », elle se double d’un autre phénomène, la médiatisation et la désintermédiation qui nous amènent à passer par des plateformes pour accéder à des services jusqu’alors assurés par des intermédiaires humains comme le médecin, le professeur ou le banquier.
Virtualisation et anticipation
Autres mouvements de fond riches de promesses comme de menaces, ce qu’il appelle « l’intelligisation » – connectés, les objets deviennent « intelligents » – et la virtualisation, qui permet de remplacer des objets physiques comme le livre ou même le réseau de communication par leur double électronique.
Une virtualisation, affirme Gerd Leonhard, qui sera « l’une des principales forces motrices du conflit entre la technologie et l’humanité », en provoquant des pertes d’emplois et en accroissant la probabilité d’une emprise prochaine des logiciels sur la biologie, ainsi que la tentation croissante de virtualiser les humains par le téléchargement de leur cerveau ou leur « cyborgisation ».
L’anticipation constitue un autre aspect de la transformation numérique. Peut-être l’un des plus parlants pour illustrer l’opposition entre l’homme et la machine. Nourri des données de son « maître », l’assistant personnel va pouvoir réagir à un événement à sa place en reprogrammant un rendez-vous ou en commandant un taxi, ce qui constitue une aide incontestable. Mais la « prédiction » par un algorithme des crimes à venir dans la ville évoque immédiatement le film de science-fiction Minority Report avec ses « précogs », des individus ciblés qui reçoivent la visite d’un travailleur social ou de la police, avant d’avoir fait quoi que ce soit.
L’éthique à la rescousse
S’interroger sur la nature des défis à venir, pour Gerd Leonhard, c’est examiner la technologie sous l’angle de l’éthique. C’est précisément parce que « la technologie n’a aucune éthique » qu’il est nécessaire, au moment où elle s’apprête à entrer dans nos processus les plus intimes, de la soumettre à un examen collectif et citoyen.
Les questions à traiter et à trancher sur le plan éthique sont la dépendance, la confusion, la perte de contrôle et l’abdication, estime le futuriste. La dépendance guette quand on est tenté d’abandonner notre pensée aux logiciels. La confusion est là quand on ne sait plus qui, de l’assistant numérique ou de soi-même, a pris une décision, tandis que l’incapacité de juger de la pertinence de l’anticipation de mon IA signe ma perte de contrôle.
Quant à l’abdication, elle se manifeste par la tentation de déléguer au système davantage de tâches que nécessaire, qu’il s’agisse d’organisation d’agenda ou de réponses à des e-mails.
La société doit s’emparer de cette boussole éthique, juge Gerd Leonhard, et les orientations qui seront prises doivent se traduire par des réglementations qui viseront notamment les nouveaux « rois du pétrole », les « data oil companies ».
12/12/2019
