Comment l’histoire fictive du Frankenstein, écrite par Mary Shelley il y a 200 ans peut-elle nous aider à mieux comprendre l’avenir de notre société en pleine de révolution numérique ?
Transhumanisme : un sujet controversé
Nous vivons dans une ère de révolution où de nouvelles inventions ou découvertes scientifiques naissent chaque jour, chaque heure, voire chaque minute dans le monde. Parmi les technologies les plus modernes, l’intelligence artificielle (IA) est considérée comme la technologie la plus controversée. Inspirés par les idées d’Alan Turing dès les années 1950, ceux qui prônent cette technologie croient que les machines ont, grâce à des algorithmes définis, une capacité d’apprentissage puissante.
(Source : Ted-ED)
Pour certains, les machines, à l’instar des superordinateurs, ont leur propre moteur et vont, au fur et à mesure, apporter des changements profonds à notre société humaine, la transformer vers une nouvelle forme post-humaine. Dans cette nouvelle société, les êtres humains vivront ensemble avec des robots très intelligents et les maladies et souffrances, qu’elles soient physiques ou mentales, seront guéries grâce à de nouvelles technologies. Cette pensée, malgré son but positif, est beaucoup contestée pour des raisons éthiques. Pour les socio-déterministes, la théorie transhumaniste n’est qu’un nouveau néodarwinisme dangereux. D’après eux, la société humaine est le facteur décisif du développement des technologies. Ainsi, un scénario de cohabitation des êtres humains et des machines est effrayant et inacceptable. Les machines intelligentes et capables d’apprendre sont trop dangereuses et elles menaceraient tôt ou tard l’existence de notre espèce.
Vers l’être-humain augmenté ?
Naissance des « Frankensteins » dans notre société
Qui a raison ? Les transhumanistes ou les socio-déterministes ? Peut-être l’un des deux ou tous les deux. Néanmoins, si l’on fait référence à l’histoire du docteur Victor Frankenstein, on verra que non seulement tous les deux ont tort mais il y a également un ressemblance remarquable entre notre société et la société fictive de Mary Shelley.
Victor Frankenstein, un scientifique très talentueux, issu d’une famille de haute classe, a toujours rêvé de créer de nouvelles formes de vie supérieures à l’être humain. Travaillant jour et nuit, le jeune savant réussit à réaliser sa passion. Un homme-cadavre, surnommé le Monstre, fut créé avec une grande intelligence : capable d’apprendre à parler, lire et exprimer ses sentiments : la joie, la tristesse, la soif de l’amour et aussi la haine. Malgré tout, il est abandonné dès sa naissance par son père Frankenstein, car il est monstrueusement laid.
Image de Frankenstein
Et notre société ? La science nous permet aujourd’hui de créer des choses auparavant considérées comme utopiques. Un écran transparent d’Iron Man dans les films de Marvel ? Il est réalisé et exposé par Panasonic lors de Customer Eletronic Show 2016 à Las Vegas. Des robots plus intelligents que l’humain ? En quelque sorte, nous avons déjà la réponse avec la victoire des AI contre les champions du monde d’échecs, jeu de go et de poker.
Humain versus Robot : qui est plus intelligent ?
L’intelligence artificielle, avec la technologie deep learning, autorise de futurs robots à être plus intelligents et capables de faire presque tout avec une productivité remarquable et sans jamais être fatigués. Même en ce qui concerne le côté émotionnel, en réalité, certains supers robots actuels sont déjà capables d’exprimer leurs émotions comme un être humain. La preuve ? En avril dernier, un individu en Chine s’est marié avec son robot humanoïde. Plus récemment, le robot humanoïde Sophia est officiellement devenu un citoyen de l’Arabe Saoudite. Sachant que c’était elle qui a répondu « Ok, je vais le faire ! » lorsque le présentateur américain Jimmy Fallon l’a taquiné en lui demandant si elle envisageait de détruire l’espèce humaine.
Sophia, le robot humanoïde ultra réaliste
Tragédie de Frankenstein et les messages de Mary Shelley
Tout cela démontre que nous ne sommes pas loin de la société de Frankenstein. Dans une telle société, le message de Mary Shelley pour nous est bien clair : être pour ou contre le transhumanisme, c’est le choix de chacun d’entre nous. Mais si notre opinion est poussée à l’extrême comme le cas des personnages dans Frankenstein, elle engendre des actions extrémistes qui provoqueraient finalement une tragédie pour tous.
Doux de nature à sa création, le Monstre, dans Frankenstein, a été malheureusement abandonné par tout le monde. Il est victime de la discrimination à cause de son apparence différente. Partout où il va, il se fait harceler et battre par les autres humains. Et les conséquences d’être exclu, stigmatisé ? Avec une créature doté d’une intelligence et force supérieure, ce serait catastrophique. Le Monstre se venge en tuant des proches du docteur Frankenstein car il veut que son père connaisse aussi la solitude qu’il doit subir. De toute évidence, le scepticisme, voire la peur des nouvelles technologies jusqu’au point de les boycotter n’est pas la bonne attitude.
Cependant, c’est dans l’histoire de Frankenstein que nous voyons le portrait des scientifiques prônant aveuglément la puissance des machines. Après tout, qui a créé le Monstre ? C’est le personnage principal Victor Frankenstein. Son désir ardent d’inventer une nouvelle forme de vie à tout prix est la cause profonde de la tragédie qui s’en suit. De plus, c’est Victor qui abandonne le Monstre après l’avoir créé à cause de sa laideur. Cette histoire rappelle le manque de responsabilité et de mesures de contrôle dans la fabrication des produits high-tech aujourd’hui. La fabrication de nouvelles choses à tout prix sans mesure des risques, c’est la création de nouveaux monstres qui menaceraient notre espèce humaine.
Un futur imprévu…
De toute évidence, à ce stade, il est impossible de dire si un jour les machines arriveraient à créer une société post-humaine. Mais il est certain que si la confrontation des deux pensées pour et contre le transhumanisme devient trop tendue, ce que nous recevrons finalement, c’est la tristesse et l’obsession de la tragédie comme tel est le cas à la fin du roman Frankenstein. L’histoire de Mary Shelley nous indique qu’il faudrait se tenir au milieu, c’est-à-dire à la fois promouvoir le développement des hautes technologies visant à améliorer la qualité de vie des humains et être conscient et préparé pour les risques potentiels de ces technologies en amont. Pour cela, nous devrons compter sur la bonne volonté des acteurs impliqués : les scientifiques, les entreprises de technologies, les institutions publiques, les gouvernements et les organisations internationales ou chacun d’entre nous en tant qu’utilisateurs.
Source : The Conversation, Le Monde
Ceci est un article très intéressant traitant d’un sujet qui touche de plein fouet notre société actuelle: l’intelligence artificielle. L’article est également illustré avec de nombreux exemples concrets avec notamment la référence astucieuse du mythe de Frankenstein qui reflète parfaitement le thème abordé.
L’intelligence artificielle en effet suscite beaucoup de débats qu’elles soient positives ou négatives et cela dépend des pensées de chacun. Pour ma part j’ai un point de vue sceptique par rapport à ce sujet. Malgré une révolution technologique qui permet d’aider les personnes souffrant d’une maladie mentale ou physique, le fait que ces machines soient dotées d’une intelligence exceptionnelle qui dépasse celles des capacités humaines tant sur le niveau des compétences techniques et mentales que sur le niveau émotionnel, est quand même effrayant. J’ai été particulièrement choqué par le mariage entre un homme et son robot en Chine mais aussi le robot Sophia devenu citoyen en Arabie Saoudite. Cette omniprésence des machines n’influe-elle pas sur nos rapports sociales? L’acceptation de ces faits est -il normale? Sommes -nous devenus “robotisés”? ou au contraire le robot est il devenu trop humain jusqu’au point où il puisse cohabiter à nos cotés?
C’est un article qui a été très plaisant à lire et qui suscite énormément de questionnements auprès de ces lecteurs .
L’histoire de Frankestein présente en effet des similarités avec ce qui se passe dans notre société. Aujourd’hui, les technologies en lien avec le corps humain sont déjà avancées, et se développent. Il est déjà possible de contrôler une prothèse robotique par la pensée en modulant l’activité électrique de notre cerveau, et une société qui se donne pour mission d’augmenter nos capacités cérébrales grâce à des composants électroniques (Neuralink par Elon Musk). A l’université de Californie du Sud, une équipe de chercheurs est parvenue à augmenter de 30 % la mémoire de leurs patients, grâce aux implants électroniques. Les neurotechnologies font donc d’énormes progrès, et la frontière est fine entre ce que l’on peut appeler « l’homme réparé » et « l’homme augmenté ». Ce qui implique inévitablement des questions éthiques.
L’intelligence artificielle aussi fait des progrès. De mon point de vue, il ne s’agit pas de savoir si les transhumanistes et les socio-déterministes ont raison, car la société humaine est en effet le facteur déterminant du développement des nouvelles technologies, mais les nouvelles technologies prennent déjà le pas sur nos capacités. L’article de Nicholas Carr, « Is Google making us stupid », montre que notre utilisation quotidienne d’internet réduit notre capacité de concentration, en prenant l’exemple de la lecture. Cependant l’auteur relativise, car Socrate blâmait l’invention de l’écriture pour les mêmes raisons. Nous faisons des progrès dans le domaine des nouvelles technologies, et le développement de l’intelligence artificielle est quelque chose d’inévitable. L’encadrement d’un point de vue éthique et juridique et la régulation des pratiques formeront un enjeu qui prendra une place de plus en plus importante. Mais avant que les machines signent la fin de l’humanité, d’autres facteurs ont plus de chances de le faire : le réchauffement climatique entraîne des catastrophes naturelles plus fréquentes et de manière plus intense, et l’arme nucléaire représente également une menace à ne pas oublier. Il s’agit donc de savoir si l’humanité ne signera pas sa fin avant que la machine ne le fasse…
Le transhumanisme pensé par la fiction
En quoi est-ce que la fiction peut-elle représenter un réservoir d’idées pour penser le temps présent ? http://master-multimedia.com/societe-post-humaniste-perspectives-vues-du-frankenstein/
Nous aimons célébrer les anniversaires d’oeuvres littéraires mémorables ayant marqué les civilisations. Il me semble passionnant d’analyser l’évolution en cours au regard d’une fiction ayant posé son empreinte dans le monde littéraire. En pleine période gothique, Mary Shelley reprend le mythe
de l’hybris à partir de la frontière humide récupérée dans la littérature médiévale de Bretagne et la mythologie antique. L’actualité du mythe
prométhéen renouvelle la réflexion scientifique, éthique, philosophique et morale selon la maxime rabelaisienne : « Science sans conscience n’est que
ruine de l’âme ».
Que ce soit l’aube ou l’aurore du transhumanisme, nous n’avons plus que le choix de l’accepter, il nous reste à composer avec, et c’est là que la fiction
intervient pour favoriser la discussion selon le willing suspension of disbielief de Coleridge. Étant donné que ce qui continue de nous rendre
humains réside dans la sensation de sentiments et le discernement moral des actions, nous pouvons en faire usage pour maîtriser la nouvelle révolution
technique. Le monde réel a déjà reconditionné le mythe de Pygmalion avec « Zheng Jiajia, un Chinois de 31 ans, [qui] s’est uni pour la vie avec son
robot, après des années de vaines recherches pour se trouver le véritable amour. C’est une étrange nouvelle que rapporte le quotidien «South China
Morning Post». » annonce Paris Match , au même moment, Scarlett Johansson est copiée en robot pour 50.000 dollars.
De même, l’Arabie Saoudite interroge sur les dérives du transhumanisme en attribuant la citoyenneté au robot Sophia, sans améliorer par la même
occasion le sort des femmes. Lars Lundström met en scène tous ces noeuds gordiens soulevés par la robotique dans la série télévisée Real Humans
diffusée par Arte en 2012. Nous avons donné tant de compétences et de capacités à nos ordinateurs qu’il nous reste désormais à nous protéger et
conserver un rôle dans l’avenir. La lecture de Homo Deus écrit par Yuval Noah Harari illumine les enjeux du débat entre les socio-déterministes et les
post-humanistes. Viet Ahn Nguyen indique ceci : « si notre opinion est poussée à l’extrême comme le cas des personnages dans Frankenstein, elle
engendre des actions extrémistes qui provoqueraient finalement une tragédie pour tous. » A l’heure du nouveau bouleversement mondial, préférons alors
la comédie à la tragédie.