Monsieur le Président, J’ai l’honneur de vous adresser le rapport que vous m’avez demandé sur l’inquiétant développement des robots à intelligence artificielle et de ce qu’il fallait en redouter. En premier lieu, j’ai consulté les archives sur les éventuelles études sur ce problème. Je ne me suis pas attardé sur l’intelligence artificielle elle-même et ses capacités qui viennent d’être étendues sans limite par les dernières découvertes, mais j’ai recherché les éléments que nous pouvions avoir sur les risques qu’elle peut faire courir à l’humanité. J’ai trouvé de très nombreux éléments dès l’époque archaïque chez les auteurs de romans en particulier du genre dit « science-fiction » et dans l’environnement récréatif : films, bandes dessinées, etc. J’ai trouvé quelque chose d’intéressant chez un auteur du nom d’Asimov qui a formulé ce qu’il a appelé les Trois Lois destinées à maintenir les robots intelligents dans un rôle inoffensif. Mais cela reste de la spéculation sans rapport avec la réalité. La première piste sérieuse est un « article » d’un « journal » sur « papier » de la fin du deuxième millénaire. Il s’agit du journal Le Monde, numéro daté du mardi 9 novembre 1999, en page 16, suivant le système de référence en vigueur à l’époque. C’est une présentation de la position d’un « chercheur en intelligence artificielle », Hugo de Garis devant la montée en puissance de l’intelligence artificielle. Je cite, dans le langage de l’époque : À partir d’un certain seuil, les machines pourraient construire d’autres ordinateurs plus complexes qu’eux qui, à leur tour… et vvvoumm ! C’est bien notre situation ! Il a fallu plus longtemps que prévu mais la capacité de ces machines les amène à innover, à faire montre d’initiative. Mais de là à prendre le pouvoir et annihiler l’humanité, il y a un pas que rien n’indique qu’ils franchiront : il leur manque en effet la motivation. Les animaux, pensants ou non, fonctionnent suivant une série définie de motivation axée sur les thèmes suivants : nourriture, reproduction, sommeil, auxquels s’ajoutent chez les petits : ludisme et éducation et chez l’homme, particulièrement, ambition et vie sociale. Rien de tout cela chez les robots. Par contre, nous leur avons inculqué le désir de nous obéir. Et avec la plus grande sophistication de leur intelligence et maintenant leurs capacités télépathiques, il y a de très grandes chances que se produisent des incompréhensions catastrophiques. Cela explique les deux phénomènes qui ont motivé votre demande, Monsieur le Président : Lorsque madame votre épouse a pensé « je prendrais bien une tasse de thé », votre robot du dernier modèle a cru bien faire de produire une nouvelle matière de type porcelaine mais entièrement à base de thé, réalisant ainsi parfaitement une « tasse de thé » ou plus précisément une tasse en thé ! De même, si monsieur votre fils n’a pu rentrer chez lui, son domicile étant protégé par une bulle indestructible et impénétrable, renfermant à tout jamais vos petits-enfants et votre chien, c’est qu’il a pensé en direction de son robot : « Que personne ne puisse rentrer chez moi ! » Il va falloir, et c’est ma conclusion, Monsieur le Président, que nous apprenions à contrôler nos pensées et à formuler nos ordres, sinon, nos désirs vont, hélas, devenir réalité ! J’ai trouvé de très nombreux éléments dès l’époque archaïque chez les auteurs de romans en particulier du genre dit « science-fiction » et dans l’environnement récréatif : films, bandes dessinées, etc. J’ai trouvé quelque chose d’intéressant chez un auteur du nom d’Asimov qui a formulé ce qu’il a appelé les Trois Lois destinées à maintenir les robots intelligents dans un rôle inoffensif. Mais cela reste de la spéculation sans rapport avec la réalité. Major H. Van Help
0 Commentaires
Laisser une réponse. |
Préface
Gentil lecteur, mon ami, mon frère, gentille lectrice, mon amie, ma sœur, ce livre, m’ont dit les éditeurs, n’est pas publiable. ArchivesTitres
Tout
|