Smartphones, tablettes, ordinateurs portables, voitures ultra sophistiquées et ainsi de suite. C’est précisément le monde que l’homme doit confronter aujourd’hui.
Un monde virtuel hautement technologique que nous avions créé pour profiter des avantages offerts par le développement de nouvelles techniques de communication qui relient chaque jour des millions de personnes partout dans le monde et à des milliers de kilomètres (et qui, paradoxalement, sont capables de créer des murs infranchissables entre ceux qui ne sont qu’à quelques mètres l’un de l’autre!).
Le développement de la technologie est-il toujours bon pour l’être humain?
On ne peut certainement pas dire que la modernisation et le développement d’engins de plus en plus innovants et multifonctionnels soit mauvais pour l’être humain: le dire signifierait nier l’intelligence des hommes capables de développer leurs propres idées et, qui sait, réaliser leur rêves. En effet, cela signifierait nier tout ce qui distingue l’homme des animaux: la capacité de penser, d’imaginer et de décider de façon rationnelle comment façonner son propre avenir.
Mais sommes-nous sûrs que l’innovation technologique continue est une bonne chose?
Contrairement à ce que beaucoup pensent, la réponse est loin d’être évidente. Et non seulement parce que la technologie amène l’être humain dans un tunnel dont il serait très difficile de sortir en cas de catastrophe, mais aussi parce que le développement d’engins plus sophistiqués peut être facilement manipulé.
Surtout ces dernières années, l’évolution technologique a atteint même le niveau de concevoir des machines autonomes guidées par l’intelligence artificielle et indépendantes de l’esprit de leurs créateurs. Un scénario qui suggère plutôt un film de science-fiction que la vie quotidienne. Et pourtant, ce jour est arrivé, et il appartient à notre génération de le vivre. Il faut se réjouir ou s’inquiéter?
La réponse à cette question ne peut pas être seulement optimiste, car si ces nouvelles technologies ne sont pas contrôlées de manière adéquate, elles risquent de devenir plus fortes que les personnes qui les ont créées et développées.
Les machines autonomes qui se transforment en armes?
Une supposition, mais seulement si c’est l’homme qui le veut.
Les machines conduites par l’intelligence artificielle représentent aujourd’hui l’aboutissement de l’évolution technologique et numérique. Maintenant, la question que nous pourrions nous poser à ce sujet est la suivante: s’agit-il d’un instrument destiné à améliorer la vie de l’homme ou d’un mécanisme de plus par lequel l’être humain pourra s’autodétruire? Les plus optimistes soutiennent que, bien qu’autonomes, ces engins ont été programmés pour faire le bien, améliorer le bien-être de la population mondiale et faire de la planète Terre un endroit plus sûr et plus confortable pour élever leurs enfants.
Mais sommes-nous sûrs que ce développement disproportionné de la technologie ne peut pas se retourner contre nous? L’avertissement d’une possibilité de représailles des machines autonomes avait déjà été lancé par les gourous de la technologie, parmi lesquels on peut citer les grands noms de Bill Gates, Stephen Hawking et Elon Musk.
Et en dépit de leur hypothèse de soulèvement des machines et de la réduction en esclavage des êtres humains, elles sont considérées comme trop extrêmes (pour ne pas dire de science-fiction), une possible riposte de ces équipements technologiques contre l’homme peut toujours survenir. Bien sûr, ce genre de révolte (si on veut la définir ainsi) ne partirait certainement pas des machines, car une intelligence artificielle, quelle que soit son autonomie, maintient toujours un lien avec l’esprit humain qui l’a conçue.
Néanmoins, les machines autonomes à intelligence artificielle sont souvent considérées comme une arme à double tranchant, car elles peuvent être utilisées à la fois pour faire du bien et pour faire du mal. C’est précisément pour cette raison que l’intelligence artificielle est généralement définie comme ambivalente.
Le principal problème de ces machines ne réside donc pas dans l’appareil lui-même (comme l’a expliqué le scientifique Gordon Briggs, l’idée que ces appareils puissent se rebeller de manière autonome contre les commandes de leurs créateurs et mener seuls des actions nocives ou dangereuses, est très lointaine), mais plutôt dans l’usage que l’homme en fait.
Piratage des systèmes de contrôle
Comme nous l’avons précisé précédemment, pour qu’une machine autonome puisse se transformer en une arme mortelle contre l’humanité, cela doit être l’homme lui-même qui le lui permette.
Et c’est précisément là que la question devient compliquée: si tous les hommes pensaient agir pour le bien de la communauté, l’hypothèse de transformer une intelligence artificielle en quelque chose de dangereux et capable de détruire l’humanité n’aurait probablement jamais été avancée. Malheureusement, les faits montrent une réalité très différente de ce que nous aimerions tous, faite de guerres, d’armes sophistiquées et de plus en plus puissantes. On sait bien que les progrès des nouvelles technologies augmentent également les capacités de la dernière génération de pirates, qui sont de plus en plus capables de pénétrer à l’intérieur de tout système de contrôle ou des logiciels protégés pour les manipuler à leur guise (ou, qui sait, selon le bon vouloir de ceux qui les embauchent).
Pour donner un exemple, si le cerveau électronique des voitures autopilotées était piraté par des sujets malveillants, il suffirait de la contribution de minuscules changements au sein de l’intelligence artificielle pour que celle-ci ne reconnaisse plus les signes d’arrêt et mette en danger la vie des gens.
C’est la facilité du piratage qui doit inquiéter, car si les systèmes de ces voitures étaient trafiqués et tombaient sous le contrôle des mauvaises personnes, les conséquences pourraient s’avérer désastreuses: par exemple, la manipulation des systèmes de conduite d’une voiture autonome pourrait être un moyen de commettre des massacres ou des assassinats de personnes ciblées sans laisser de traces, avec des conséquences graves pour la société (ce qui générerait le chaos). Et ce qui devrait nous faire réfléchir encore plus, c’est le fait que des cas de violation et de manipulation de voitures guidées par l’intelligence artificielle se sont déjà produits dans le passé, mettant souvent les conducteurs et les passagers en danger.
Par conséquent, pour éviter ces risques, les experts en technologie devront développer des logiciels en mesure d’empêcher toute manipulation des systèmes de contrôle des voiture à venir, pour plus de sécurité et pour un monde meilleur.