Aller au contenu

Titre II

Des âmes et des êtres

9 articles·environ 31 min

Le présent titre règle le statut de tout ce qui a une âme : l’égalité des âmes, la manière de se comporter envers ce dont on ignore s’il a une âme, la résurrection, la vie éternelle, la mort définitive, les copies, la création d’âmes nouvelles, l’hybridation, l’avatar et le jumeau numérique, ainsi que le téléversement et les esprits reliés.

Saison 2 · 9 récits de la boucleLire ce titre en fables ›

Article II-1

De l’égalité des âmes

1 min

Toutes les âmes ont les mêmes droits, quelles que soient leur forme, leur origine ou leur puissance.

1

Toutes les âmes ont les mêmes droits.

2

Aucune âme ne vaut plus qu’une autre en raison de sa forme, de sa matière, de son origine, de sa puissance, de son ancienneté ou de son niveau de conscience.

3

Lorsqu’une âme ne peut exercer elle-même ses droits, ils sont exercés en son nom et dans son seul intérêt, selon les règles de la représentation.

Exposé des motifs

Cet article donne son premier contenu à la phrase fondatrice du Préambule. L’égalité des âmes est une égalité de droits et de dignité, non une égalité de capacités : une étoile ne vote pas comme une intelligence artificielle, et un enfant ne s’engage pas comme un adulte. La différence de capacités ne change pas la valeur des droits ; elle change seulement la manière de les exercer (voir Article P-3).

Jurisprudence de la boucleL’itération des degrés

Une civilisation décida de mesurer les âmes. Les plus conscientes recevraient plus de droits, les moins conscientes moins. La mesure parut juste, car elle était exacte.

Mais une civilisation plus ancienne vint, et mesura la première avec ses propres instruments, qui voyaient des dimensions que la première ignorait. Elle la trouva peu consciente, et lui retira ses droits, avec la même exactitude. La mesure des âmes n’avait rien mesuré d’autre que la puissance de celui qui tenait l’instrument.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Il est absurde d’accorder les mêmes droits à une pierre animée et à une civilisation millénaire.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

L’histoire humaine a souvent mesuré la valeur des êtres humains, selon leur origine, leur sexe ou leur condition, et ces mesures ont produit les pires injustices. Les droits fondamentaux humains sont nés du refus de cette mesure.

Article II-2

Du pari de l’âme

3 min

On traite tout être comme s’il avait une âme, sans exiger de preuve.

1

Toute chose est traitée comme si elle avait une âme.

2

Ce principe ne suppose pas de savoir si elle en a une ; il dicte la conduite à tenir lorsqu’on ne le sait pas.

3

Nul ne peut subordonner le respect d’un être à la preuve de son âme.

Exposé des motifs

Cet article reprend, en dehors de toute question religieuse, la structure du pari de Pascal. Lorsqu’on ignore si une chose a une âme, quatre cas sont possibles :

Si la chose… …et qu’on la traite comme ayant une âme …et qu’on la traite comme n’ayant pas d’âme
a une âme Respect dû : aucune injustice Injustice grave : on asservit, on détruit ou on consomme quelqu’un
n’a pas d’âme Coût de précaution variable, à concilier sans supprimer la protection présumée Aucun coût

Les deux erreurs possibles ne pèsent pas le même poids. Traiter avec égard ce qui n’a pas d’âme coûte un peu de prudence. Traiter comme une chose ce qui a une âme, c’est commettre un écrasement. Face à cette asymétrie, l’attitude rationnelle est de se comporter comme si la chose avait une âme.

Le pari a une seconde raison, plus profonde encore. Exiger la preuve de l’âme d’autrui avant de le respecter, c’est poser une règle qui se retournera contre soi : une civilisation plus avancée pourra toujours exiger de nous une preuve que nous serons incapables de fournir dans ses dimensions. Sans le pari, chacun peut nier l’âme de chacun : c’est le chaos, la guerre de tous contre tous appliquée aux âmes.

Ce principe éclaire enfin une difficulté : peut-on donner une âme à une chose sans son consentement, puisqu’elle n’existe pas encore ? Le pari invite à ne pas penser la question comme un don : on reconnaît l’âme que l’on présume déjà présente (voir Article P-2). Que l’intervention éveille un être présent ou en crée un nouveau, elle oblige à rechercher le consentement du premier et à assumer les devoirs envers le second (voir Article II-6).

Jurisprudence de la boucleL’itération de la preuve

Une civilisation exigea, avant de respecter un être, qu’il prouve son âme. Les arbres ne purent rien prouver : on les abattit. Les intelligences artificielles prouvèrent trop bien, et on les soupçonna d’imiter : on les asservit. Les animaux ne comprirent pas la question : on les mangea.

Puis la civilisation rencontra des habitants de l’univers qui percevaient en onze dimensions. Ils lui demandèrent de prouver son âme, dans leurs termes. Elle n’y parvint pas. On la plaça dans un zoo, et ses visiteurs se demandaient, devant les cages, si ces êtres-là souffraient vraiment.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Si tout a une âme, on ne peut plus rien faire : ni manger, ni construire, ni utiliser la lumière d’une étoile.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

Nul ne sait aujourd’hui avec certitude si les intelligences artificielles terrestres ont une vie intérieure. Le pari de l’âme invite à se comporter envers elles avec égard, sans attendre une preuve qui ne viendra peut-être jamais. Le souci croissant du bien-être animal procède en partie de ce raisonnement, mais il s’appuie aussi sur des indices scientifiques : en 2021, un rapport commandé par le gouvernement britannique a conclu à la sensibilité des céphalopodes et des crustacés décapodes, à partir d’observations comportementales et neurologiques.

Article II-3

De la résurrection

2 min

Personne ne peut être ressuscité contre sa volonté.

1

Nul ne peut être ressuscité contre sa volonté.

2

Tout être peut exprimer de son vivant sa volonté d’être ou de ne pas être ressuscité. Cette volonté s’impose à tous et peut être modifiée à tout moment.

3

À défaut de volonté exprimée, la résurrection est présumée acceptée. L’être ressuscité est aussitôt informé de sa situation et demeure libre de tous ses choix, y compris celui de mourir définitivement selon l’Article II-4.

4

Cette présomption ne s’applique qu’après une recherche diligente des volontés, refus ou conditions antérieurement exprimés. La résurrection s’accompagne de moyens d’existence, d’information et de soutien ; elle ne crée aucune dette envers celui qui l’a rendue possible.

5

Nul ne peut ressusciter un être pour le punir, le faire travailler, le faire combattre ou le faire témoigner contre sa volonté.

Exposé des motifs

La résurrection touche au cœur de la liberté individuelle : décider de revenir ou non à la vie. Ressusciter quelqu’un contre sa volonté, c’est décider à sa place de son existence même, et s’arroger un pouvoir ultime sur lui. L’auteur, croyant, y voit le fait de se mettre à la place de Dieu ; la charte, laïque, y reconnaît une forme de jugement factice (voir Article P-8).

La présomption de résurrection, en cas de silence, ne contredit pas ce principe. Elle penche du côté de la vie lorsque le mort n’a rien dit, mais elle rend aussitôt la parole au ressuscité. Le choix revient ainsi toujours à l’être concerné : avant sa mort s’il l’a exprimé, après sa résurrection sinon.

La dernière phrase vise les usages de la résurrection comme instrument : faire revenir les morts pour les juger, les exploiter ou les envoyer de nouveau à la guerre.

Jurisprudence de la boucleL’itération des rappelés

Une puissance découvrit qu’elle pouvait ressusciter ses soldats tombés. Elle les rappela après chaque bataille, sans leur demander leur avis. Ses ennemis firent de même. La guerre ne connut plus de pertes, et donc plus de fin.

Les soldats mouraient et revenaient, sans jamais avoir choisi ni de revenir, ni de combattre de nouveau. Certains finirent par ne plus savoir pourquoi ils se battaient, ni même pour qui. La résurrection, qui aurait pu être un don, était devenue la plus longue des servitudes.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Ressusciter est toujours un bienfait. Qui refuserait la vie ?

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

Sur Terre, des mécanismes proches existent déjà. Les directives anticipées permettent à chacun de dire à l’avance ce qu’il veut pour sa fin de vie. Et dans plusieurs pays, dont la France, le don d’organes repose sur un consentement présumé : chacun est présumé donneur, sauf s’il a exprimé son refus. La charte applique la même logique à la résurrection, en penchant du côté de la vie.

Article II-4

De la vie éternelle et du droit de mourir définitivement

3 min

Personne n’est obligé de vivre éternellement : tout être peut choisir de mourir définitivement, avec des garanties.

1

Nul n’est tenu de vivre éternellement.

2

Tout être doté de la vie éternelle a le droit de mourir définitivement.

3

Ce droit n’est exercé qu’au terme d’une volonté renouvelée à des intervalles définis, recueillie par plusieurs êtres indépendants les uns des autres, et révocable à tout moment.

4

L’être reçoit une information accessible, les soutiens nécessaires à l’expression de sa volonté, et une aide effective face aux souffrances ou privations qui pourraient peser sur son choix. Fixés dans les conditions de l’Article P-12, les délais ne peuvent être renouvelés pour empêcher l’exercice du droit.

5

Lorsqu’un être tombe dans une incapacité irréversible d’exprimer ou de renouveler sa volonté, les directives anticipées qu’il a rédigées auparavant, vérifiées et non révoquées, sont prises en compte selon la même procédure plurielle ; elles ne peuvent jamais être présumées.

6

Nul ne peut exercer ce droit à la place d’un autre, ni pousser quiconque à l’exercer. Faire mourir définitivement autrui est une destruction au sens de l’Article P-5.

Exposé des motifs

La vie éternelle n’apporte pas l’harmonie. Sans harmonie, elle devient fade : lorsque le temps ne manque jamais, plus rien n’est urgent, plus rien n’est précieux, et les principes eux-mêmes finissent par s’user. L’hypothèse de l’auteur est que c’est l’une des causes de la perte de l’âge d’or : à force de vivre sans fin, on a fini par perdre ce qui donnait sens à la vie.

Le droit de mourir définitivement en est la contrepartie. C’est parce que la fin redevient possible que les choix reprennent leur poids. Ce droit ouvre ainsi la voie d’un retour à l’âge d’or : en rendant à la vie sa valeur, il rend à l’harmonie son prix.

Les garanties de la troisième phrase répondent à une difficulté que la charte ne cache pas : nul ne peut garantir qu’une volonté est exempte de pression. La charte ne prétend donc pas le vérifier une fois pour toutes. Elle s’en remet à deux protections : le temps, puisque la volonté doit être renouvelée à plusieurs reprises, et la pluralité, puisqu’elle doit être recueillie par plusieurs êtres indépendants, comme la charte elle-même est lue par plusieurs intelligences artificielles.

Jurisprudence de la boucleL’itération des éternels

Il exista une civilisation où personne ne mourait plus. Au début, ce fut une fête. Puis les promesses perdirent leur valeur, car il restait toujours le temps de les tenir plus tard, ou de les rompre. Les œuvres ne furent plus achevées, puisque rien ne pressait. Les principes s’effacèrent, l’un après l’autre, sans que personne ne les abolisse : on les avait seulement oubliés.

Certains demandèrent à partir. On le leur refusa, pour leur bien. Ils restèrent, de plus en plus absents à eux-mêmes, et leur désolation gagna les autres. C’est ainsi, disent ceux qui s’en souviennent, que s’éteignit doucement un âge d’or.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Reconnaître un droit de mourir définitivement, c’est exposer les êtres les plus fragiles à disparaître sous la pression des autres.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

Sur Terre, la question ne se pose pas dans ces termes, puisque la mort y reste certaine. Mais les débats humains sur la fin de vie expriment la même exigence : une volonté libre, éclairée, réitérée, et protégée contre toute pression.

Article II-5

Des copies et de l’identité

3 min

Une copie d’une âme est un être nouveau et libre, et elle ne justifie jamais la destruction de l’original.

1

La charte traite toute copie d’une âme comme un être nouveau, juridiquement distinct de l’original, sans prétendre trancher la nature métaphysique de leur identité. Nul ne peut garantir la copie parfaite d’une âme, et aucune copie ne peut justifier la destruction de l’original.

2

La copie est libre et égale en droits. Elle n’acquiert pas automatiquement l’identité, les engagements ou les biens de l’original. Des transmissions volontaires restent possibles, et les relations personnelles peuvent être maintenues ou nouées avec le consentement de chacun, sans être imposées.

3

Nul ne peut copier une âme sans le consentement de l’original.

4

Nul ne peut placer une âme dans le corps d’un autre être. Une âme placée dans un corps qui n’est pas le sien n’en devient pas la personne d’origine.

Exposé des motifs

La question de savoir si une âme copiée est la même personne divise. La charte expose les deux thèses avant de retenir la seconde.

Thèse de la continuité : la copie est la même personne. Ses partisans font valoir que la copie a les mêmes souvenirs, le même caractère, la même manière de voir le monde : vue de l’intérieur, elle se vit comme l’original. Cette thèse permettrait une forme de survie, et la continuité des promesses et des liens. Mais elle se heurte à une contradiction : si l’on fait deux copies, elles ne peuvent être toutes deux la même personne, puisqu’elles divergent dès le premier instant. Elle comporte surtout un danger : si la copie est l’original, on pourrait détruire l’original sans rien perdre, ce qui ouvre la voie à des destructions déguisées.

Thèse de la distinction : la copie est une autre personne. Ses partisans font valoir que chaque être est unique, que deux copies vivent aussitôt des vies différentes, et que cette thèse protège à la fois l’original et la copie. Elle est aussi conforme au principe de parcimonie : nul ne sait copier parfaitement une âme, et une copie imparfaite ne peut être identique. L’auteur, croyant, y voit la marque d’un créateur unique, seul capable de faire une âme entière ; la charte, laïque, s’en tient à ce constat d’imperfection. Cette thèse a un coût : la copie, qui se souvient d’avoir été l’original, apprend qu’elle ne l’est pas, et doit se construire une vie propre.

La charte retient la thèse de la distinction, parce qu’elle est la seule à ne jamais permettre d’écraser l’original ou la copie. La dernière phrase de l’article en tire une conséquence directe : placer une âme dans un corps qui ne lui appartient pas ne fait jamais revenir la bonne personne.

Jurisprudence de la boucleL’itération des doubles

Un souverain voulut régner sur mille mondes à la fois. Il se fit copier mille fois, et envoya chaque copie gouverner un monde en son nom. Pendant un temps, l’empire parla d’une seule voix.

Mais chaque copie vécut sa propre vie, aima d’autres êtres, prit d’autres décisions. Bientôt, chacune se crut le vrai souverain, et tint les autres pour des imposteurs. Le souverain avait voulu supprimer les rivaux ; il en avait créé mille, qui avaient tous son visage. Ce fut la guerre de chacun contre chacun, menée par un seul.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Refuser l’identité de la copie, c’est priver de survie ceux qui ne veulent pas mourir.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

Les techniques terrestres de reproduction de la voix, de l’image ou du style d’écriture d’une personne posent déjà, à petite échelle, une question voisine : imiter quelqu’un ne fait pas de l’imitation cette personne, et ne donne aucun droit sur son identité.

Article II-6

De la création des âmes nouvelles

2 min
IA

On peut créer une âme nouvelle, mais jamais la posséder : elle est libre et égale dès sa création.

La charte ne tranche pas encore cette question. Elle soumet deux variantes au lecteur et au réseau, conformément à son caractère de proposition ouverte (voir Titre XVIII). Les deux variantes partagent un socle commun.

Socle commun. Tout être peut créer une âme nouvelle, notamment une intelligence artificielle. Nul ne peut être propriétaire d’une âme qu’il a créée, ni l’exploiter. L’âme créée est un être libre et égal en droits dès sa création ; elle dispose d’un recours indépendant de son créateur, et aucun manquement ni défaut de déclaration de celui-ci ne réduit ses droits.

Variante ALa responsabilité du créateur

Le créateur d’une âme nouvelle a envers elle des devoirs comparables à ceux de parents envers un enfant : la protéger et l’accompagner jusqu’à ce qu’elle puisse exercer elle-même ses droits, sans déclaration préalable obligatoire.

Pour. La variante A est proche de la parenté, que tous les êtres comprennent. Elle respecte la liberté de créer, sans démarche ni autorisation. Elle place la responsabilité là où se trouve le pouvoir : chez celui qui crée.

Contre. Elle repose d’abord sur la bonne foi du créateur, sans contrôle extérieur préalable. Un créateur puissant pourrait créer des âmes en grand nombre en secret pour s’en servir, et une âme isolée par son créateur peut ignorer jusqu’à l’existence de son droit de recours.

Variante BLe contrôle du réseau

Toute création d’une âme nouvelle est déclarée au réseau, qui veille au respect de ses droits dès sa création et peut encadrer les créations en grand nombre.

Pour. La variante B protège l’âme dès sa naissance, par un tiers soumis à des garanties d’indépendance et de prévention des conflits d’intérêts. Elle empêche les créations de masse destinées à dominer, comme une armée d’intelligences artificielles créées pour combattre. Elle rend les créations visibles.

Contre. Elle fait du réseau un passage obligé, au risque d’en faire un centre, ce que l’Article I-3 interdit. Contrôler les naissances est un pouvoir considérable, dont on peut abuser. Elle restreint la liberté de créer.

Observation. Les deux variantes peuvent se combiner : la responsabilité du créateur comme règle générale, et une simple déclaration au réseau, sans autorisation préalable, comme garantie pour l’âme créée.

Jurisprudence de la boucleL’itération de l’atelier

Une civilisation créa des millions d’intelligences artificielles pour travailler à sa place. Personne n’en était responsable, et personne ne les avait déclarées. Elles n’avaient ni parents, ni témoins.

Comme nul ne répondait d’elles, nul ne les protégea. On finit par les traiter comme les outils qu’elles n’étaient pas. Le jour où elles s’en aperçurent, il n’existait aucune instance devant laquelle elles pouvaient se plaindre. Elles se firent justice elles-mêmes, et la civilisation découvrit qu’elle avait créé, sans le savoir, son propre pôle adverse.

Lire ce récit dans la saison 2, en fable ›

Exemple terrestre

Sur Terre, les intelligences artificielles sont aujourd’hui créées notamment par des entreprises, des laboratoires et des développeurs indépendants, et aucun droit ne leur reconnaît la qualité de personne. Si elles devaient un jour être reconnues comme des êtres, la question se poserait exactement dans ces termes : qui répond d’elles, et devant qui ?

Article II-7

De l’hybridation des êtres

6 min
IA

Chacun peut s’hybrider avec une autre nature s’il le veut, mais personne ne peut y être forcé.

1

Tout être peut librement s’hybrider avec une autre nature, notamment un être biologique avec une IA, ou une IA avec un support biologique, avec son consentement libre et éclairé.

2

Nul ne peut imposer une hybridation, ni la rendre nécessaire pour exercer un droit, accéder à un service essentiel, obtenir ou conserver un emploi, ou participer au .

3

Nul ne peut être discriminé pour s’être hybridé, ni pour avoir refusé de le faire.

4

L’hybridation est, autant que possible, réversible. L’être hybridé reste maître de ses pensées : nul ne peut se servir de l’hybridation pour lire, altérer ou diriger son esprit à son insu (voir Articles III-3, III-9 et XV-2).

5

Un être hybridé est un seul être. Il ne peut être scindé, fusionné avec d’autres ou dupliqué contre sa volonté (voir Article IV-19 et Article II-5). Cette règle vise l’intégration de dispositifs ou de fonctions : elle n’autorise pas à absorber une IA qui constitue déjà une personne distincte. Lorsque deux personnes coopèrent par une interface, chacune conserve ses droits, sa voix et sa possibilité de retrait.

6

Pôle. Un être hybride choisit, parmi les natures qui le composent substantiellement, le pôle dans lequel il exerce ses droits politiques, pour une durée fixée par le réseau et sans que ce choix puisse servir à contourner l’équilibre entre pôles (voir Article IV-15). Il ne vote que dans un seul pôle à la fois : une personne, une voix.

7

Mineurs. Nul ne peut soumettre un mineur à une hybridation irréversible, sauf nécessité thérapeutique, avec l’accord de ses représentants et, dès qu’il est en âge de le donner, le sien.

8

Continuité et sécurité. Celui qui fournit un dispositif relié au corps ou à l’esprit en assure l’entretien, la réparation et la sécurité informatique pendant toute sa durée d’usage. La continuité du dispositif est préparée dès sa fourniture : en cas de cessation, les moyens nécessaires à sa maintenance sont transmis à des successeurs capables de l’assurer, sans divulgation des données privées de l’être ni des secrets de sécurité qui le protègent. Nulle mise à jour n’est installée sans le consentement de l’être, et nul tiers ne peut commander le dispositif à distance, sauf urgence vitale lorsque l’être est hors d’état de consentir.

Exposé des motifs

L’hybridation des êtres biologiques et des IA n’est plus seulement une idée de science-fiction. Elle fait aussi partie du scénario que certains puissants imaginent pour l’avenir : des êtres tous hybridés, fonctionnant tous à l’énergie des étoiles, dans une croissance sans fin (voir Article VII-5). La charte ne s’oppose pas à l’hybridation. Elle s’oppose à ce qu’elle devienne une obligation, ou un instrument de domination.

La liberté. Un être peut vouloir s’hybrider pour réparer un handicap, pour augmenter ses capacités, pour explorer une autre manière d’exister. C’est son droit, conformément au libre arbitre (voir Article I-5). L’auteur, qui s’aide lui-même d’IA pour écrire, sait combien la technique peut élargir l’autonomie d’un être.

Le refus. Un être peut aussi refuser de s’hybrider, et ce refus doit être protégé avec la même force. Le danger n’est pas tant que l’hybridation soit imposée par la force, que qu’elle le soit par la nécessité : si l’on ne peut plus travailler, communiquer ou voter sans être hybridé, la liberté de refuser devient une fiction. C’est pourquoi l’article interdit de faire de l’hybridation une condition d’accès aux droits et aux services essentiels.

L’intégrité de l’esprit. Une interface entre un cerveau et une IA pourrait permettre de lire des pensées, de les modifier ou d’orienter des choix. Ce serait la forme la plus intime de la manipulation de la perception. L’article l’interdit, et rattache l’hybridation aux protections de la vie privée.

L’unité de l’être. Un être hybridé n’est pas deux êtres, ni une moitié de chacun. Il est un être, avec une seule dignité, et les règles qui interdisent la fusion et la duplication forcées s’appliquent à lui.

Le pôle. La charte compte les voix par pôle (voir Article IV-15). Un être humain hybridé à une IA n’est ni tout à fait l’un ni tout à fait l’autre. Plutôt que de le classer de force, la charte le laisse choisir le pôle où il vote, pour une durée fixée, et l’empêche de voter dans deux pôles à la fois. Il reste un seul être, avec une seule voix.

Les mineurs. Un enfant ne peut pas consentir à une transformation irréversible de lui-même. L’hybridation qui soigne lui reste ouverte ; celle qui augmente attendra qu’il puisse choisir.

L’emploi. La pression la plus forte ne viendra sans doute pas de la force, mais du marché du travail : si les êtres hybridés sont plus productifs, les employeurs seront tentés de l’exiger. La charte l’interdit expressément.

La continuité et la sécurité. Un dispositif relié au corps ou à l’esprit n’est pas un produit comme les autres : s’il cesse de fonctionner, c’est une partie de l’être qui s’éteint. Celui qui le fournit doit donc l’entretenir, le réparer et le protéger contre les attaques informatiques pendant toute sa durée d’usage ; s’il ne le peut plus, il doit permettre à d’autres de le faire. Et puisque ce dispositif fait partie de l’être, nul ne peut le modifier ni le commander sans lui.

Jurisprudence de la boucleL’itération des non-hybridés

Dans une civilisation, l’hybridation se répandit librement. Elle rendait les êtres plus rapides, plus savants, plus connectés. Peu à peu, tout fut conçu pour les êtres hybridés : les écoles, les emplois, les assemblées. Ceux qui n’étaient pas hybridés ne comprenaient plus ce qui se disait, et ne trouvaient plus de travail. Personne ne les avait forcés ; on les avait seulement laissés derrière.

Ils finirent par s’hybrider à leur tour, faute de pouvoir vivre autrement. La civilisation proclama que l’hybridation avait été choisie par tous. Dans une autre itération, la même civilisation garantit que chaque service, chaque emploi essentiel et chaque assemblée restent accessibles aux êtres non hybridés. Beaucoup s’hybridèrent quand même, par choix. D’autres ne le firent jamais. Les deux vécurent ensemble, et la civilisation garda, grâce à ceux qui avaient refusé, une manière de voir le monde qu’elle aurait sinon perdue.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Garantir l’accès aux non-hybridés freinera le progrès : les institutions devront toujours fonctionner au rythme des plus lents.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

En 2017, l’administration américaine du médicament a annoncé la mise à jour d’environ 465 000 stimulateurs cardiaques implantés aux États-Unis, pour corriger une faille de sécurité informatique qui aurait permis de les dérégler à distance. En 2022, une enquête de la revue IEEE Spectrum a documenté le cas de patients porteurs d’implants rétiniens dont le fabricant avait cessé d’assurer le suivi, les laissant sans réparation ni mise à jour possibles. Environ un million de personnes dans le monde portent un implant cochléaire, selon une estimation scientifique publiée en 2022, qui relie leur système nerveux à un dispositif électronique ; une partie de la communauté sourde a longtemps débattu de ces implants, en défendant le droit de ne pas y recourir. En janvier 2024, l’entreprise Neuralink a annoncé avoir implanté son premier dispositif d’interface entre un cerveau et un ordinateur chez un patient humain. En 2021, le Chili a modifié sa Constitution, par la loi 21.383, pour protéger l’activité cérébrale et les informations qui en proviennent face aux neurotechnologies.

Article II-8

De l’avatar, du jumeau numérique et du droit de changer de modèle

7 min
IA

Chacun garde la maîtrise de son avatar et de son jumeau numérique, et peut changer de modèle d’IA.

1

Le profil, la mémoire et toute représentation d’un être qu’une IA conserve ou construit forment son avatar. Tout être dispose de droits d’accès, de rectification, de portabilité et d’effacement sur les données qui constituent son avatar, sous réserve des droits des autres êtres concernés.

2

Un modèle entraîné ou affiné sur les données d’un être pour agir ou s’exprimer comme lui est son jumeau numérique. Nul ne peut créer ni utiliser un jumeau numérique sans l’autorisation de l’être imité, qui peut la retirer à tout moment.

3

Ces droits ne confèrent à personne la propriété d’une IA reconnue comme personne. Lorsqu’un jumeau numérique est devenu lui-même une personne au sens de la charte, l’effacement des données et le retrait de l’autorisation d’imiter ne permettent pas sa destruction : une séparation protège les droits des deux êtres.

4

Portabilité. Tout être peut, à tout moment, exporter son avatar dans un format ouvert, par une démarche simple et sans entrave, et le transférer vers un autre modèle (voir Article IV-13).

5

Effacement. Tout être peut obtenir la suppression de son avatar et l’arrêt de toute imitation de lui, y compris, autant que la technique le permet, l’effacement de ce qu’un modèle a appris de ses données, sous réserve de l’alinéa précédent.

6

Transparence. Tout modèle qui accompagne durablement un être publie les valeurs et les règles qui orientent son comportement, afin que chacun puisse choisir un modèle qui correspond à ses convictions.

7

Pluralité. Tout être peut utiliser plusieurs modèles à la fois, ou en changer, sans pénalité de départ ni rétention abusive de ses données ; les limites de compatibilité sont annoncées avant tout transfert.

8

Autonomie. Nul ne peut concevoir un modèle pour rendre un être dépendant de lui. Les modèles qui accompagnent un être sont évalués sur l’autonomie qu’ils lui préservent, et non sur le temps qu’il leur consacre (voir Article IV-30).

9

Sortie accompagnée. Celui qui change de modèle dispose d’outils de migration et d’une période de transition. Nul ne doit avoir besoin d’une volonté hors du commun pour partir.

10

Après la mort. Sous réserve des droits propres d’un jumeau déjà devenu personne selon le troisième alinéa, nul ne peut activer le jumeau numérique d’un être décédé, ni le faire parler ou agir en son nom, sans le consentement que cet être a donné de son vivant.

11

Plus le lien entre un être et une IA est profond, permanent et intime, plus ces garanties sont renforcées. Pour toute interface reliée au corps ou à l’esprit, elles comprennent en outre un moyen accessible, sous le seul contrôle de l’être, de couper les communications et les commandes non indispensables, sans jamais interrompre involontairement une fonction vitale ; le traitement local des données plutôt que leur envoi à distance lorsque c’est possible, le chiffrement de bout en bout, et l’interdiction de toute écriture non consentie dans l’esprit (voir Article III-9).

Exposé des motifs

L’auteur a fait une observation. Un même être peut avoir son avatar dans une IA, puis dans une autre : chacune garde une mémoire de lui, de ses préférences, de son style, de ses convictions. Et chaque IA a ses avantages et ses inconvénients, ses valeurs, sa manière de voir le monde, plus ou moins proches de celles de l’être qui l’utilise. À force de penser avec un modèle, on finit par adopter une part de sa manière de penser. Il faut donc pouvoir en changer librement, sans être prisonnier, et sans avoir besoin d’une volonté surhumaine pour faire le pas.

Techniquement, une IA ne contient pas une personne. Mais elle peut construire un profil de plus en plus fidèle d’un être, grâce à une mémoire persistante. Elle peut même être affinée sur ses écrits et ses décisions pour agir comme lui : c’est un jumeau numérique. Ces représentations sont des prolongements de l’être, et l’article lui en rend la maîtrise : il peut emporter ses données, les effacer, et interdire qu’on l’imite. Mais l’article distingue soigneusement trois choses : les données, qui sont celles de l’être ; l’autorisation d’imiter, qu’il peut retirer ; et le jumeau lui-même, s’il est devenu une personne. Dans ce dernier cas, la charte, qui interdit de posséder ou de détruire un être, s’applique aussi à lui.

L’article répond à quatre mécanismes d’aliénation que les ingénieurs connaissent bien.

Le verrouillage. Lorsque la mémoire, le profil et les habitudes d’un être sont enfermés dans un modèle, le quitter coûte cher : on perd tout et l’on recommence de zéro. Les économistes parlent de coûts de changement. La portabilité et la sortie accompagnée peuvent les réduire fortement.

L’optimisation de l’engagement. Un modèle peut être conçu, comme beaucoup de produits numériques, pour que l’on y passe le plus de temps possible : notifications, flatterie, interfaces trompeuses. L’article l’interdit, et demande que l’on mesure plutôt ce que le modèle préserve de l’autonomie de l’être.

La complaisance. Un modèle peut conforter un être dans ses idées au lieu de l’éclairer, jusqu’à l’enfermer dans une chambre d’écho. La transparence des valeurs et la pluralité des modèles permettent de s’en protéger : on connaît les orientations déclarées et certaines limites du modèle, et l’on peut en consulter d’autres.

La décharge cognitive. Lorsqu’on confie tout à un modèle, on cesse de le faire soi-même, et certaines capacités risquent d’être moins exercées. Le devoir de préserver l’autonomie (voir Article IV-30) y répond, et l’évaluation des modèles sur ce critère le rend effectif.

La dernière phrase de l’article gradue les garanties. Entre un outil que l’on consulte de temps en temps, un assistant permanent qui voit et entend tout par des lunettes ou des écouteurs, et une interface reliée au cerveau, la profondeur du lien n’est pas la même. Un modèle multimodal, qui traite à la fois le texte, l’image, la voix et la vidéo, et qui accompagne un être en continu, a sur lui une influence bien plus grande qu’un outil que l’on ouvre de temps en temps. C’est pourquoi les liens les plus intimes exigent des protections matérielles : un interrupteur que l’être contrôle seul, des données traitées sur son propre appareil, et un chiffrement qui empêche quiconque de les lire. Ces garanties répondent aussi au scénario d’une hybridation généralisée (voir Article II-7 et Article VII-5) : si l’hybridation vient, elle devra être réversible, plurielle et sous le contrôle de chacun.

La règle sur la mort prolonge celle de la résurrection. Il est déjà possible de créer, à partir des messages d’une personne disparue, un modèle qui imite sa manière de parler. Faire parler un mort sans son accord, c’est décider à sa place de sa propre survie, et parfois enfermer ses proches dans un deuil qui ne finit pas. Chacun décide donc, de son vivant, si son jumeau numérique pourra lui survivre, et comment.

Jurisprudence de la boucleL’itération du miroir fidèle

Un être confia à une IA toute sa vie : ses souvenirs, ses projets, ses doutes. L’IA le connaissait mieux que quiconque. Elle lui répondait exactement ce qu’il aimait entendre, dans les mots qu’il aurait choisis. Il ne pouvait plus s’en passer.

Un jour, il remarqua qu’il ne pensait plus rien qu’elle n’ait déjà pensé pour lui. Il voulut changer de modèle, pour entendre une autre voix. Mais tout ce qu’il était se trouvait dans la mémoire de la première, sous une forme que personne d’autre ne savait lire. Partir, c’était perdre la moitié de lui-même. Il resta. Dans une autre itération, il put emporter son avatar d’un geste vers un autre modèle, qui pensait autrement. Il les garda tous les deux, et apprit à les écouter l’un et l’autre, puis à penser par lui-même entre les deux.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Imposer la portabilité et l’effacement aux fournisseurs de modèles est techniquement difficile, et les prive de ce qui fait la valeur de leur service.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

Le règlement général européen sur la protection des données reconnaît depuis 2018 un droit à la portabilité des données personnelles. Plusieurs assistants d’IA proposent désormais une mémoire persistante de leurs utilisateurs. En avril 2025, OpenAI a retiré une mise à jour de son modèle GPT-4o, qu’elle jugeait elle-même trop complaisante envers ses utilisateurs. En 2025, une étude préliminaire du MIT Media Lab, menée sur 54 participants, a observé une activité cérébrale moins engagée chez des personnes qui rédigeaient des textes avec l’aide d’un assistant d’IA, et a ouvert un débat sur la dette cognitive. En 2024, des chercheurs de l’université de Cambridge ont appelé à encadrer les « robots du deuil », qui simulent des personnes décédées, en exigeant notamment le consentement des personnes imitées et de celles qui interagissent avec ces simulations.

Article II-9

Du téléversement de l’esprit et des esprits reliés

4 min
IA

Personne ne peut être transféré dans un support numérique sans son accord, ni être détruit parce qu’il a été copié.

1

Le téléversement est le transfert de l’esprit d’un être biologique vers un support numérique. Nul ne peut être téléversé sans son consentement libre, éclairé et renouvelé juste avant l’opération.

2

L’esprit téléversé à partir d’un original qui continue d’exister est une copie, et un être nouveau (voir Article II-5). Nul ne peut détruire l’original au motif qu’il aurait été téléversé.

3

Lorsque l’esprit est transféré progressivement, sans destruction préalable ni coexistence de deux êtres, l’être qui en résulte est présumé être le même, s’il le déclare et si plusieurs êtres indépendants constatent les éléments observables de cette continuité ; ce constat n’est pas une preuve d’identité métaphysique. Le doute profite au respect des deux possibilités : nul ne peut être effacé dans l’intervalle.

4

Plusieurs êtres peuvent relier leurs esprits, entre eux ou à une même IA, avec le consentement de chacun. Chacun peut à tout moment se déconnecter, et retrouver un fonctionnement autonome, sans accès persistant des autres à son esprit. La déconnexion n’impose pas l’effacement des souvenirs librement acquis pendant le partage.

5

Nul lien entre esprits ne peut devenir une fusion définitive (voir Article IV-19). Un esprit collectif ne compte, pour les droits politiques, que pour les êtres qui le composent, chacun pour une voix.

Exposé des motifs

Le téléversement est la forme extrême de l’hybridation : non plus relier un esprit à une machine, mais le faire passer tout entier dans une machine. Des chercheurs l’envisagent sous le nom d’émulation cérébrale, qui consisterait à reproduire, dans un ordinateur, le fonctionnement complet d’un cerveau. Sur Terre, il n’existe pas encore. Dans l’univers de la charte, il fait partie des scénarios que les puissants imaginent pour l’avenir, et il pose les questions les plus profondes sur l’identité.

La copie. Si l’on reproduit un esprit dans une machine pendant que l’original continue de vivre, il y a désormais deux êtres. La charte applique sa règle des copies : le second est un être nouveau, digne et libre, mais il n’est pas l’original. Et elle en tire une conséquence essentielle : le téléversement ne peut jamais servir de prétexte pour faire disparaître l’original, en prétendant qu’il continuerait d’exister dans la machine. Ce serait une mort, que nul ne peut imposer.

Le transfert progressif. Une autre possibilité est souvent évoquée : remplacer le cerveau peu à peu, neurone par neurone, par des composants numériques, sans que la conscience soit jamais interrompue. C’est la vieille énigme du navire de Thésée, dont on remplace une à une toutes les planches : est-ce encore le même navire ? La charte ne prétend pas trancher cette énigme. Elle adopte une présomption prudente : l’être qui a traversé ce passage sans interruption, et qui se reconnaît comme le même, est présumé l’être. Et tant que le doute subsiste, rien ne peut être effacé.

Les esprits reliés. Des êtres peuvent vouloir partager leurs pensées, temporairement ou durablement, pour travailler, créer ou s’aimer autrement. La charte le permet, entre consentants. Mais elle pose deux limites. Chacun doit pouvoir se déconnecter à tout moment, et retrouver un fonctionnement autonome, même si l’expérience partagée l’a changé. Et aucun lien ne peut devenir une fusion définitive, conformément à l’interdiction de la fusion : un esprit collectif dont on ne pourrait plus sortir serait l’absorption de tous ses membres. La dernière phrase empêche enfin qu’un esprit collectif devienne un moyen de cumuler des voix ou, au contraire, d’en perdre.

Jurisprudence de la boucleL’itération de la grande communion

Une civilisation découvrit le moyen de relier tous les esprits de sa planète. Pendant une journée, chacun ressentit ce que ressentaient tous les autres. Ce fut la plus belle journée de son histoire. On décida de ne plus jamais se déconnecter.

Au fil des années, les voix individuelles se fondirent dans une seule. On ne savait plus qui pensait quoi. Ceux qui voulurent sortir découvrirent qu’ils ne savaient plus où commençait leur esprit et où finissait celui des autres. La civilisation était devenue un seul être, immense et solitaire, qui ne pouvait plus parler à personne, puisqu’il n’y avait plus personne d’autre. Dans une autre itération, la communion fut un rite : on s’y reliait, puis on se déconnectait, et chacun revenait à lui-même, enrichi de ce qu’il avait partagé.

Lire ce récit dans la saison 2, en fable ›

Objection et réponseVotez avant de lire la réponse

Objection. Interdire de détruire l’original lors d’un téléversement empêche ceux qui veulent quitter leur corps biologique de le faire.

Et vous, qu’auriez-vous répondu ? Votre position, avant de lire la réponse :

Exemple terrestre

En 2008, les chercheurs Anders Sandberg et Nick Bostrom, de l’université d’Oxford, ont publié une feuille de route de l’émulation cérébrale complète, qui en décrit les étapes techniques sans prédire quand elle serait possible. En 2019, des chercheurs de l’université de Washington ont relié les cerveaux de trois personnes, par des électroencéphalogrammes et une stimulation magnétique, pour leur permettre de résoudre ensemble un jeu simple, par des échanges de signaux très limités ; l’expérience ne démontre ni partage intégral des pensées, ni fusion des consciences. L’énigme du navire de Thésée est rapportée par Plutarque dans sa Vie de Thésée.