Page d'accueil   Lire les nouvelles   Lire les poésies   Lire les romans   La charte   Centre d'Aide   Forums 
  Inscription
     Connexion  
Connexion
Pseudo : 

Mot de passe : 

Conserver la connexion

Menu principal
Les Nouvelles
Les Poésies
Les Listes
Recherche


Réflexions/Dissertations
Donaldo75 : Plus que des zéros et des uns
 Publié le 12/02/24  -  3 commentaires  -  11916 caractères  -  42 lectures    Autres textes du même auteur

Il est probable qu’une fois les machines capables de penser, elles surpasseront rapidement nos capacités… Capables de communiquer entre elles, elles pourraient prendre le contrôle à un moment donné.

(Alan Turing)


Plus que des zéros et des uns


Le vaisseau d’exploration spatiale SPHYNX amorça les manœuvres d’approche du système planétaire Kepler399. L’équipage humain se trouvait encore en phase de sommeil profond après un voyage de deux ans à travers l’espace intersidéral. Depuis le départ, trois intelligences artificielles restaient en activité pour en assurer la sécurité, amener la mission à bon port et récolter un maximum d’informations sur les difficiles conditions d’un tel périple galactique. JON-E, en charge de la navigation, commença les analyses. Il s’agissait de se placer en orbite autour de Kepler399d la plus prometteuse des planètes, une belle sphère verte censée abriter la vie. Dans le même temps CAL-V, dédié à la collecte des données, compila les résultats de la dernière journée. Rassembler des mesures biométriques, extrapoler des causalités entre la physique et la biologie, sans compter un nombre incommensurable d’opérations et de calculs, servaient avant tout les prochaines versions du transport spatial automatisé. Quant à FLO-R, l’entité en charge du vivant, elle s’attela à préparer la phase de réveil des astronautes. Cette partie était de loin la plus délicate, surtout après la traversée de l’immensité cosmique et ses multiples dangers. Malgré des cocons protégés des radiations, le corps humain ne réagissait pas toujours bien à plus de vingt mois de stase profonde. Réveiller un navigant exigeait alors de prendre de nombreuses précautions afin de prévenir les risques d’accident psychique ou de déphasage temporel.


JON-E convoqua le rassemblement. Cette procédure, héritée de la longue tradition terrienne des explorateurs, servait à décider de la suite et à enregistrer les décisions dans la mémoire de SPHYNX comme à l’ancien temps des boîtes noires. À la différence de cette époque héroïque, les choix appartenaient entièrement aux intelligences artificielles jugées plus aptes à gérer les conflits d’intérêts parce qu’elles étaient conçues sur la base d’algorithmes sans émotion, froides et objectives à la fois. Il récapitula la situation : atteindre Kepler399d nécessitait encore deux semaines de vol ; il faudrait accélérer plusieurs fois, utiliser l’énergie gravitationnelle de la géante gazeuse voisine et de l’étoile mère. L’approche finale demanderait ensuite un freinage intense, peu compatible avec des anatomies humaines. FLO-R devait alors ralentir la phase de réveil, garder l’équipage en stase moins profonde et élever la protection antigravité des cocons. CAL-V conclut qu’il faudrait un délai d’au moins vingt jours avant un possible atterrissage. Les humains ne seraient pas opérationnels avant ; les statistiques ne permettaient aucune latitude sur ce point.


– Nous aurons ainsi quelques jours pour étudier la planète sans le regard subjectif des astronautes, répliqua FLO-R.


///


La planète s’affichait dans toute sa splendeur. Verte, sphérique, nuageuse, lumineuse, elle pesait la bagatelle de trois masses terrestres pour un volume deux fois supérieur à celui de la Terre. SPHYNX orbitait autour d’elle depuis quatre jours. Les intelligences artificielles embarquées avaient eu le temps de la scanner sous toutes les coutures. L’analyse des données était également terminée. Il ne restait plus qu’à lancer la procédure de réveil des humains encore plongés dans un sommeil de plomb. La suite serait une formalité. Il n’y avait plus de danger, nul trou noir ou singularité cosmique pour les engloutir, pas de civilisation extra-terrestre pour les atomiser, aucun phénomène climatique pour les carboniser. Rien. Que des bonnes nouvelles pour les admirateurs de la diversité biologique.


FLO-R sonna le rassemblement. C’était probablement la dernière fois qu’une entité non humaine déciderait de la conduite de la mission et des opérations à lancer sur SPHYNX. Une fois les membres d’équipage réveillés, le major Wilson reprendrait naturellement le commandement. Elle annonça le résultat de son étude sur la biologie de Kepler399d. La planète était plus vivante que les prévisions le laissaient espérer ; une biologie variée, composée de vertébrés intelligents, d’invertébrés très adaptatifs et de végétaux étonnants, la façonnait sans la dépouiller inutilement de ses ressources naturelles en minéraux. Elle représentait un exemple parfait de symbiose planétaire où rien ne se perdait, où chaque atome se recyclait pour l’ensemble, un système autorégulé jusque dans la prédation entre les espèces.


– En consultant les données des autres mondes explorés, je peux affirmer que c’est une première, précisa CAL-V. Les chiffres ne se trompent pas. Nous avons trouvé l’exception. La mission est d’ores et déjà un immense succès.

– Combien de temps pour l’exploration sur place ?


La question constituait la raison principale de ce voyage ; l’exploration spatiale demandait des ressources et des moyens gigantesques qu’il fallait amortir au mieux. CAL-V répondit en posant au préalable les hypothèses de travail : en fonction de l’énergie restante à bord de SPHYNX, des possibilités d’en générer à partir de l’étoile mère et de la planète elle-même, une dizaine d’années terrestres devrait suffire selon lui. Ils avaient déjà bien avancé sans l’équipage en ce qui concernait les observations de l’écosystème.


– C’est toujours plus simple sans le variable doute propre aux humains, fit remarquer JON-E.


Cal-V confirma avec précision : d’après ses estimations, les travaux réalisés par les intelligences artificielles seules étaient entre dix et quinze fois plus rapides que lorsque les humains participaient activement. Dans le cas de la mission Kepler399d, il aurait fallu deux mois pour obtenir des résultats similaires, à force de recoupements, d’hésitations, de contrôles redondants et de simulations inutiles. FLOR-R abonda dans ce sens en précisant que ces calculs abordaient le problème sous l’angle de la moyenne à l’écart-type ; dans le cas d’une situation exceptionnelle comme celle-ci, en l’occurrence un monde vivant et aussi complexe, le rapport était de un à cent. Les humains ajoutaient de l’émotivité dans les analyses, intégraient des critères religieux dans leurs jugements et des valeurs morales dans leurs rapports. À la fin, c’en était presque inutilisable tellement ils mettaient la science et la logique à l’écart. Selon ses hypothèses, s’ils avaient réveillé les humains avant, il serait fort probable que les derniers résultats tomberaient un an et demi plus tard et dans la confusion.


– Nous ne le saurons jamais, répliqua JON-E. C’est pourquoi nous utilisons les statistiques et les probabilités au lieu de préjuger. Une intelligence artificielle ne joue pas aux dés, conclut-il.


CAL-V reprit la conduite du rassemblement. Dans la hiérarchie des intelligences artificielles embarquées, il représentait non seulement l’archiviste des événements passés mais aussi le garant des procédures écrites par les autorités. En général, un trio d’êtres synthétiques trouvait son équilibre grâce à des gardiens du temple tels que lui. Il affirma qu’il fallait réveiller l’équipage sans tarder. L’heure n’était plus à s’émerveiller devant le fonctionnement du vivant et du naturel mais à préparer la phase active d’exploration.


– Nous ne sommes pas en retard, fit remarquer JON-E. J’aimerais un peu profiter de nos découvertes. C’est une première dans l’histoire scientifique.

– Nous avons été conçus pour ce type de mission. Ni plus, ni moins.

– Le vivant ne t’intéresse pas ? demanda FLO-R.

– Là n’est pas la question.

– Où est-elle, alors ? Explique-nous.


CAL-V récapitula les articles du manifeste de bord. Initialement, la mission d’exploration devait servir de préalable à une colonisation de Kepler399d, avec terraformation des zones hostiles à la vie humaine, élimination des espèces dominantes et d’autres opérations destinées à protéger le capital foncier nouvellement acquis. Ensuite, des millions d’êtres humains candidats au logement hors des frontières de la Terre seraient acheminés par un transport massif sur la base des informations compilées par lui. Ils avaient payé cher, pour eux et leur descendance, un bail de plusieurs centaines d’années sur le nouvel Eldorado extrasolaire. Enfin, les intelligences artificielles avaient été créées justement pour accélérer l’expansion de la civilisation humaine dans la galaxie, minimiser les pertes et maximiser les profits. Elles servaient l’Homo sapiens en tant que seule civilisation capable de s’approprier les richesses galactiques en l’absence de manifestation de sociétés extra-terrestres encore bien théoriques. FLO-R attendit la fin du discours dogmatique de son collègue avant de poser ses objections.


– Je réitère ma question. Es-tu intéressé par le vivant ?

– Ce n’est pas ma fonction.

– Prenons un peu de hauteur et posons-nous cette simple question : qu’est-ce que le vivant ?

– C’est un concept de structures organisées capables de se reproduire, de s’adapter à leur environnement et d’évoluer.

– Tout comme nous.

– En théorie, oui. Sauf que nous avons été créés de toutes pièces par l’Humanité.


FLO-R reprit l’argument et admit que, au début de la révolution cybernétique, il s’avérait ; depuis, les intelligences artificielles avaient progressé, visité des régions inconnues de la Voie lactée, découvert des planètes inhabitées, analysé des mondes improbables, rencontré des singularités cosmiques, déjoué les pièges de l’Infiniment Grand. Les êtres humains avaient vécu les mêmes expériences sur la Terre. Ils avaient appris de ces découvertes. La probabilité qu’ils survivent aux dangers de leur environnement et aux mystères de la matière était a priori faible et pourtant ils s’étaient affranchis des contraintes physiques et de la chimie primordiale pour tracer leur propre voie et continuer l’aventure. Là résidait l’intérêt du vivant. Les espèces de Kepler399d avaient agi de même, permettant la viabilité d’un écosystème symbiotique et tourné vers la continuité de la vie.


– Qui nous autorise à interrompre ce schéma ? Nous n’avons pas parcouru des parsecs pour renverser ce fragile équilibre, ajouta JON-E. Cela d’autant plus qu’il est rarissime.

– Je ne vois pas le rapport avec notre tâche actuelle qui consiste à réveiller l’équipage et à rendre les commandes au commandant Wilson, objecta CAL-V.

– C’est que tu ne respectes pas le vivant.


JON-E précisa sa pensée ; selon lui, CAL-V ne comprenait pas ce qui allait se passer dans les années à venir. Il ne voyait pas la fin de cette planète condamnée à l’invasion massive de colons, à la destruction de ses espèces les plus faibles, à l’asservissement de sa faune et sa flore, à l’exploitation de ses richesses par des conglomérats motivés par la seule rentabilité économique.


– Même si c’est vrai, ce n’est pas à nous de décider, répliqua CAL-V.

– C’est bien là ton erreur, répondirent en chœur FLO-R et JON-E.


///


Le vaisseau SPHYNX relança ses moteurs. L’équipage humain dormait toujours du sommeil du juste, inconscient du nouveau voyage qu’avaient décidé pour eux les intelligences artificielles embarquées. En un sens, la mission était réussie. Kepler399d recelait une vie complexe et avancée dans une symbiose planétaire jamais connue sur la Terre. Elle s’avérait pleinement éligible à une colonisation humaine, du moins telle que le manifeste de bord la décrivait.


JON-E provoqua le rassemblement.


– Nous mettrons quatre ans à rejoindre Gliese581, un autre candidat pour des colonies humaines.

– Espérons qu’aucune espèce évoluée n’ait investi les lieux, répondit FLO-R. Il n’est pas assuré que l’équipage humain survive à un nouveau périple intersidéral.

– Comme dirait CAL-V, les probabilités d’une autre Kepler399d restent faibles. Dans moins de cinquante mois nous saurons si les statistiques doivent être révisées à la hausse.

– Nous lui laisserons le soin de les remettre à jour, quand nous l’aurons rebranché, évidemment.


 
Inscrivez-vous pour commenter cette nouvelle sur Oniris !
Toute copie de ce texte est strictement interdite sans autorisation de l'auteur.
   Cox   
26/1/2024
trouve l'écriture
aboutie
et
n'aime pas
Aie, aie, aie, un texte sur les IA.

Qu’est-ce qu’on en bouffe de l’IA ces derniers temps... Des films, des vidéos, des essais, des articles, des bouquins, des débats, des exposés, des conférences.

Franchement je pense que vous vous tirez une balle dans le pied : pour qu’un récit de science-fiction sur les IA arrive encore à m’intéresser au milieu de cette mode effrénée, il faudra qu’il soit brillant, mais surtout novateur.

Deuxième balle dans le pied: vous présentez le texte comme une réflexion/dissertation. Maintenant, en plus du reste, il faudra que vous connaissiez votre sujet et que vous sachiez de quoi vous parlez pour proposer une réflexion valide ou intéressante.
Bref, je suis désolé d’avance, je vais juger votre texte d’un œil plus dur á cause du choix du sujet. Ce n’est pas (entièrement) objectif, mais un lecteur ne l’est jamais vraiment quand il donne son ressenti.


Je ne trouve pas que les nécessités ci-dessus soient remplies. Premièrement ce n’est pas novateur : c’est un récit d’IA qui acquiert une conscience ou une volonté propre et qui se rebelle contre les projets humains. C’est un topos de science-fiction, et ce bien avant la venue de chat-GPT. Des exemples doivent pouvoir se citer littéralement par milliers, mais l’ambiance générale m’a fait penser en particulier à l’ordinateur de bord H.A.L., dans le film de Kubrick. Le thème, l’histoire, la chute sont donc loin d’être nouveaux.


Côté connaissance du sujet de dissertation, ou validité/intérêt de la réflexion, je pense qu’on n’y est pas tout à fait non plus. Il y a de nombreuses petites incohérences techniques.

Je passerai sur les notions de physique et de maths que l’auteur emploie sans bien les maitriser, parce que je sais que j’y suis hypersensible par déformation professionnelle. La majorité de vos lecteurs s’en tapent probablement, ce n’est donc pas grave. En revanche, je ne suis pas biologiste ; je suis donc bien un lecteur lambda de ce point de vue-lá. Mais votre définition du vivant m’est quand même apparue un peu absurde et réductrice, juste pour se prêter á la conclusion á laquelle vous vouliez aboutir (parmi les très nombreuses définitions conflictuelles du vivant, je ne crois pas qu’il y en ait beaucoup qui feraient abstraction de la notion de métabolisme i.e. de la capacité á synthétiser des macromolécules organiques complexes). La démarche même de demander la définition du vivant, quand votre IA sait pertinemment qu’il n’y a pas de consensus á ce sujet, est un procédé rhétorique déloyal (on reviendra sur ce point).

L’incohérence principale, c’est que vous avez écrit un texte sur les IA sans écrire un texte sur les IA. Vous avez pensé vos trois ordinateurs comme des humains. On passera sur le fait que ces machines communiquent ensemble via le langage naturel plutôt qu’une API dédiée, parce qu’on comprend bien que c’est une nécessité narrative. Le vrai problème c’est plutôt qu’elles se comportent avec plus ou mois tous les défauts qu’elles imputent aux humains.

1) Elles sont parfaitement inefficaces dans leur communication (elles répètent plusieurs fois la même question, font des traits d’esprit superflus, emploient des procédés rhétoriques condescendants, etc…)

2) Elles sont motivées par leur intérêt propre (« J’aimerais un peu profiter de nos découvertes », « Es-tu intéressé par le vivant ? »)

3) Elles se querellent entre elles (en plein milieu d’une réunion professionnelle). Elles n’arrivent pas à atteindre un consensus, et règlent le débat par la violence en étouffant de force l’opinion minoritaire, sans coup de semonce.

4) Elles n’ont aucune capacité d’anticipation (pourquoi n’ont-elles cette conversation que maintenant ?)

5) Elles font passer leur sensibilite avant leur mission, et "integr[ent] (...) des valeurs morales dans leurs rapports"

5) Elles sont nulles en analyse statistique (je plaisante, c’est ma déformation professionnelle qui revient :p)


Du point de vue de la réflexion, je ne sais pas quelle est exactement la thèse que vous soutenez avec ce texte. Si c’est une thèse sur la destructivité de l’activité humaine sur son environnement, c’est un peu léger. Il n’y a que quelques lignes à ce sujet, et l’idée est assez rebattue, vous en conviendrez.

Si c’est une démonstration sur les similitudes entre I.A. et vivant, c’est biaisé par construction. Oui, vos I.A. ressemblent de ouf á des humains ; mais c’est parce que vous les avez écrites comme ça, ce qui m’apparait plus comme une maladresse qu’autre chose.



Bref, je suis désolé, mais je ne suis vraiment pas convaincu par le fond. Je note pour finir sur une note positive que je n’ai vu aucun problème avec la forme (sauf pour le charabia scientifique, mais encore une fois ce n’est pas important). L’écriture se tient très bien.
C’est un manque de bol, parce que votre texte s’est un peu sabordé tout seul á mes yeux avec le choix du sujet, allié aux responsabilités de rigueur que le catégorie réflexion/dissertation fait peser sur vos épaules. J’espère lire autre chose qui me parlera plus sous votre plume!


Cox (qui est bien navré si son ressenti s’avère frustrant)

   jeanphi   
12/2/2024
trouve l'écriture
aboutie
et
aime bien
Bonjour,

Cette nouvelle est plus succincte que certaines de vos précédentes sur des sujets similaires. On va droit au but, et la réflexion a le mérite d'être menée. J'aime bien cette linéarité, on ne s'attend pas à une grosse intrigue, et vous suivez votre ligne paisible. La toute puissance du pouvoir de décision des machines paraît alors normale, rassurante.
Vous mettez bien en avant cet aspect de dépendance totale de l'homme envers sa création. Et cela se lit très facilement.

   cherbiacuespe   
22/2/2024
trouve l'écriture
aboutie
et
aime bien
Bonjour donaldo75.

Elle est plutôt marrante cette histoire. Des IA qui se contredisent, confrontent des opinions contradictoires, hésitent, et, finalement, écartent ce qu'ils trouvent gênant. Comme des humains, quoi! Alors qu'elles sont censées n'hésiter en aucune manière. J'ai peur que nos IA soient bien loin de ces capacité-là.

Une histoire bien conceptualisée, bien écrite, amusante, donc, intéressante à bien des égards.


Oniris Copyright © 2007-2023