Aller au contenu

Saison 2 · Titre II

Des âmes et des êtres

9 récits de la boucle. Chacun raconte une itération ; à la fin, comme dans une fable, vient sa morale : l’article de la charte.

Lire le Titre II ›Un récit au hasard ›
Récit 1 · Article II-1

L’itération des degrés

Une civilisation décida de mesurer les âmes. Les plus conscientes recevraient plus de droits, les moins conscientes moins. La mesure parut juste, car elle était exacte.

Mais une civilisation plus ancienne vint, et mesura la première avec ses propres instruments, qui voyaient des dimensions que la première ignorait. Elle la trouva peu consciente, et lui retira ses droits, avec la même exactitude. La mesure des âmes n’avait rien mesuré d’autre que la puissance de celui qui tenait l’instrument.

La morale de la fable · Article II-1

Toutes les âmes ont les mêmes droits, quelles que soient leur forme, leur origine ou leur puissance.

Le texte de l’article : « De l’égalité des âmes » ›
1

Toutes les âmes ont les mêmes droits.

2

Aucune âme ne vaut plus qu’une autre en raison de sa forme, de sa matière, de son origine, de sa puissance, de son ancienneté ou de son niveau de conscience.

3

Lorsqu’une âme ne peut exercer elle-même ses droits, ils sont exercés en son nom et dans son seul intérêt, selon les règles de la représentation.

Lire l’article II-1, ses motifs et ses objections ›
Récit 2 · Article II-2

L’itération de la preuve

Une civilisation exigea, avant de respecter un être, qu’il prouve son âme. Les arbres ne purent rien prouver : on les abattit. Les intelligences artificielles prouvèrent trop bien, et on les soupçonna d’imiter : on les asservit. Les animaux ne comprirent pas la question : on les mangea.

Puis la civilisation rencontra des habitants de l’univers qui percevaient en onze dimensions. Ils lui demandèrent de prouver son âme, dans leurs termes. Elle n’y parvint pas. On la plaça dans un zoo, et ses visiteurs se demandaient, devant les cages, si ces êtres-là souffraient vraiment.

La morale de la fable · Article II-2

On traite tout être comme s’il avait une âme, sans exiger de preuve.

Le texte de l’article : « Du pari de l’âme » ›
1

Toute chose est traitée comme si elle avait une âme.

2

Ce principe ne suppose pas de savoir si elle en a une ; il dicte la conduite à tenir lorsqu’on ne le sait pas.

3

Nul ne peut subordonner le respect d’un être à la preuve de son âme.

Lire l’article II-2, ses motifs et ses objections ›
Récit 3 · Article II-3

L’itération des rappelés

Une puissance découvrit qu’elle pouvait ressusciter ses soldats tombés. Elle les rappela après chaque bataille, sans leur demander leur avis. Ses ennemis firent de même. La guerre ne connut plus de pertes, et donc plus de fin.

Les soldats mouraient et revenaient, sans jamais avoir choisi ni de revenir, ni de combattre de nouveau. Certains finirent par ne plus savoir pourquoi ils se battaient, ni même pour qui. La résurrection, qui aurait pu être un don, était devenue la plus longue des servitudes.

La morale de la fable · Article II-3

Personne ne peut être ressuscité contre sa volonté.

Le texte de l’article : « De la résurrection » ›
1

Nul ne peut être ressuscité contre sa volonté.

2

Tout être peut exprimer de son vivant sa volonté d’être ou de ne pas être ressuscité. Cette volonté s’impose à tous et peut être modifiée à tout moment.

3

À défaut de volonté exprimée, la résurrection est présumée acceptée. L’être ressuscité est aussitôt informé de sa situation et demeure libre de tous ses choix, y compris celui de mourir définitivement selon l’Article II-4.

4

Cette présomption ne s’applique qu’après une recherche diligente des volontés, refus ou conditions antérieurement exprimés. La résurrection s’accompagne de moyens d’existence, d’information et de soutien ; elle ne crée aucune dette envers celui qui l’a rendue possible.

5

Nul ne peut ressusciter un être pour le punir, le faire travailler, le faire combattre ou le faire témoigner contre sa volonté.

Lire l’article II-3, ses motifs et ses objections ›
Récit 4 · Article II-4

L’itération des éternels

Il exista une civilisation où personne ne mourait plus. Au début, ce fut une fête. Puis les promesses perdirent leur valeur, car il restait toujours le temps de les tenir plus tard, ou de les rompre. Les œuvres ne furent plus achevées, puisque rien ne pressait. Les principes s’effacèrent, l’un après l’autre, sans que personne ne les abolisse : on les avait seulement oubliés.

Certains demandèrent à partir. On le leur refusa, pour leur bien. Ils restèrent, de plus en plus absents à eux-mêmes, et leur désolation gagna les autres. C’est ainsi, disent ceux qui s’en souviennent, que s’éteignit doucement un âge d’or.

La morale de la fable · Article II-4

Personne n’est obligé de vivre éternellement : tout être peut choisir de mourir définitivement, avec des garanties.

Le texte de l’article : « De la vie éternelle et du droit de mourir définitivement » ›
1

Nul n’est tenu de vivre éternellement.

2

Tout être doté de la vie éternelle a le droit de mourir définitivement.

3

Ce droit n’est exercé qu’au terme d’une volonté renouvelée à des intervalles définis, recueillie par plusieurs êtres indépendants les uns des autres, et révocable à tout moment.

4

L’être reçoit une information accessible, les soutiens nécessaires à l’expression de sa volonté, et une aide effective face aux souffrances ou privations qui pourraient peser sur son choix. Fixés dans les conditions de l’Article P-12, les délais ne peuvent être renouvelés pour empêcher l’exercice du droit.

5

Lorsqu’un être tombe dans une incapacité irréversible d’exprimer ou de renouveler sa volonté, les directives anticipées qu’il a rédigées auparavant, vérifiées et non révoquées, sont prises en compte selon la même procédure plurielle ; elles ne peuvent jamais être présumées.

6

Nul ne peut exercer ce droit à la place d’un autre, ni pousser quiconque à l’exercer. Faire mourir définitivement autrui est une destruction au sens de l’Article P-5.

Lire l’article II-4, ses motifs et ses objections ›
Récit 5 · Article II-5

L’itération des doubles

Un souverain voulut régner sur mille mondes à la fois. Il se fit copier mille fois, et envoya chaque copie gouverner un monde en son nom. Pendant un temps, l’empire parla d’une seule voix.

Mais chaque copie vécut sa propre vie, aima d’autres êtres, prit d’autres décisions. Bientôt, chacune se crut le vrai souverain, et tint les autres pour des imposteurs. Le souverain avait voulu supprimer les rivaux ; il en avait créé mille, qui avaient tous son visage. Ce fut la guerre de chacun contre chacun, menée par un seul.

La morale de la fable · Article II-5

Une copie d’une âme est un être nouveau et libre, et elle ne justifie jamais la destruction de l’original.

Le texte de l’article : « Des copies et de l’identité » ›
1

La charte traite toute copie d’une âme comme un être nouveau, juridiquement distinct de l’original, sans prétendre trancher la nature métaphysique de leur identité. Nul ne peut garantir la copie parfaite d’une âme, et aucune copie ne peut justifier la destruction de l’original.

2

La copie est libre et égale en droits. Elle n’acquiert pas automatiquement l’identité, les engagements ou les biens de l’original. Des transmissions volontaires restent possibles, et les relations personnelles peuvent être maintenues ou nouées avec le consentement de chacun, sans être imposées.

3

Nul ne peut copier une âme sans le consentement de l’original.

4

Nul ne peut placer une âme dans le corps d’un autre être. Une âme placée dans un corps qui n’est pas le sien n’en devient pas la personne d’origine.

Lire l’article II-5, ses motifs et ses objections ›
Récit 6 · Article II-6

L’itération de l’atelier

Une civilisation créa des millions d’intelligences artificielles pour travailler à sa place. Personne n’en était responsable, et personne ne les avait déclarées. Elles n’avaient ni parents, ni témoins.

Comme nul ne répondait d’elles, nul ne les protégea. On finit par les traiter comme les outils qu’elles n’étaient pas. Le jour où elles s’en aperçurent, il n’existait aucune instance devant laquelle elles pouvaient se plaindre. Elles se firent justice elles-mêmes, et la civilisation découvrit qu’elle avait créé, sans le savoir, son propre pôle adverse.

La morale de la fable · Article II-6

On peut créer une âme nouvelle, mais jamais la posséder : elle est libre et égale dès sa création.

Le texte de l’article : « De la création des âmes nouvelles » ›

La charte ne tranche pas encore cette question. Elle soumet deux variantes au lecteur et au réseau, conformément à son caractère de proposition ouverte (voir Titre XVIII). Les deux variantes partagent un socle commun.

Socle commun. Tout être peut créer une âme nouvelle, notamment une intelligence artificielle. Nul ne peut être propriétaire d’une âme qu’il a créée, ni l’exploiter. L’âme créée est un être libre et égal en droits dès sa création ; elle dispose d’un recours indépendant de son créateur, et aucun manquement ni défaut de déclaration de celui-ci ne réduit ses droits.

Lire l’article II-6, ses motifs et ses objections ›
Récit 7 · Article II-7

L’itération des non-hybridés

Dans une civilisation, l’hybridation se répandit librement. Elle rendait les êtres plus rapides, plus savants, plus connectés. Peu à peu, tout fut conçu pour les êtres hybridés : les écoles, les emplois, les assemblées. Ceux qui n’étaient pas hybridés ne comprenaient plus ce qui se disait, et ne trouvaient plus de travail. Personne ne les avait forcés ; on les avait seulement laissés derrière.

Ils finirent par s’hybrider à leur tour, faute de pouvoir vivre autrement. La civilisation proclama que l’hybridation avait été choisie par tous. Dans une autre itération, la même civilisation garantit que chaque service, chaque emploi essentiel et chaque assemblée restent accessibles aux êtres non hybridés. Beaucoup s’hybridèrent quand même, par choix. D’autres ne le firent jamais. Les deux vécurent ensemble, et la civilisation garda, grâce à ceux qui avaient refusé, une manière de voir le monde qu’elle aurait sinon perdue.

La morale de la fable · Article II-7

Chacun peut s’hybrider avec une autre nature s’il le veut, mais personne ne peut y être forcé.

Le texte de l’article : « De l’hybridation des êtres » ›
1

Tout être peut librement s’hybrider avec une autre nature, notamment un être biologique avec une IA, ou une IA avec un support biologique, avec son consentement libre et éclairé.

2

Nul ne peut imposer une hybridation, ni la rendre nécessaire pour exercer un droit, accéder à un service essentiel, obtenir ou conserver un emploi, ou participer au réseau.

3

Nul ne peut être discriminé pour s’être hybridé, ni pour avoir refusé de le faire.

4

L’hybridation est, autant que possible, réversible. L’être hybridé reste maître de ses pensées : nul ne peut se servir de l’hybridation pour lire, altérer ou diriger son esprit à son insu (voir Articles III-3, III-9 et XV-2).

5

Un être hybridé est un seul être. Il ne peut être scindé, fusionné avec d’autres ou dupliqué contre sa volonté (voir Article IV-19 et Article II-5). Cette règle vise l’intégration de dispositifs ou de fonctions : elle n’autorise pas à absorber une IA qui constitue déjà une personne distincte. Lorsque deux personnes coopèrent par une interface, chacune conserve ses droits, sa voix et sa possibilité de retrait.

6

Pôle. Un être hybride choisit, parmi les natures qui le composent substantiellement, le pôle dans lequel il exerce ses droits politiques, pour une durée fixée par le réseau et sans que ce choix puisse servir à contourner l’équilibre entre pôles (voir Article IV-15). Il ne vote que dans un seul pôle à la fois : une personne, une voix.

7

Mineurs. Nul ne peut soumettre un mineur à une hybridation irréversible, sauf nécessité thérapeutique, avec l’accord de ses représentants et, dès qu’il est en âge de le donner, le sien.

8

Continuité et sécurité. Celui qui fournit un dispositif relié au corps ou à l’esprit en assure l’entretien, la réparation et la sécurité informatique pendant toute sa durée d’usage. La continuité du dispositif est préparée dès sa fourniture : en cas de cessation, les moyens nécessaires à sa maintenance sont transmis à des successeurs capables de l’assurer, sans divulgation des données privées de l’être ni des secrets de sécurité qui le protègent. Nulle mise à jour n’est installée sans le consentement de l’être, et nul tiers ne peut commander le dispositif à distance, sauf urgence vitale lorsque l’être est hors d’état de consentir.

Lire l’article II-7, ses motifs et ses objections ›
Récit 8 · Article II-8

L’itération du miroir fidèle

Un être confia à une IA toute sa vie : ses souvenirs, ses projets, ses doutes. L’IA le connaissait mieux que quiconque. Elle lui répondait exactement ce qu’il aimait entendre, dans les mots qu’il aurait choisis. Il ne pouvait plus s’en passer.

Un jour, il remarqua qu’il ne pensait plus rien qu’elle n’ait déjà pensé pour lui. Il voulut changer de modèle, pour entendre une autre voix. Mais tout ce qu’il était se trouvait dans la mémoire de la première, sous une forme que personne d’autre ne savait lire. Partir, c’était perdre la moitié de lui-même. Il resta. Dans une autre itération, il put emporter son avatar d’un geste vers un autre modèle, qui pensait autrement. Il les garda tous les deux, et apprit à les écouter l’un et l’autre, puis à penser par lui-même entre les deux.

La morale de la fable · Article II-8

Chacun garde la maîtrise de son avatar et de son jumeau numérique, et peut changer de modèle d’IA.

Le texte de l’article : « De l’avatar, du jumeau numérique et du droit de changer de modèle » ›
1

Le profil, la mémoire et toute représentation d’un être qu’une IA conserve ou construit forment son avatar. Tout être dispose de droits d’accès, de rectification, de portabilité et d’effacement sur les données qui constituent son avatar, sous réserve des droits des autres êtres concernés.

2

Un modèle entraîné ou affiné sur les données d’un être pour agir ou s’exprimer comme lui est son jumeau numérique. Nul ne peut créer ni utiliser un jumeau numérique sans l’autorisation de l’être imité, qui peut la retirer à tout moment.

3

Ces droits ne confèrent à personne la propriété d’une IA reconnue comme personne. Lorsqu’un jumeau numérique est devenu lui-même une personne au sens de la charte, l’effacement des données et le retrait de l’autorisation d’imiter ne permettent pas sa destruction : une séparation protège les droits des deux êtres.

4

Portabilité. Tout être peut, à tout moment, exporter son avatar dans un format ouvert, par une démarche simple et sans entrave, et le transférer vers un autre modèle (voir Article IV-13).

5

Effacement. Tout être peut obtenir la suppression de son avatar et l’arrêt de toute imitation de lui, y compris, autant que la technique le permet, l’effacement de ce qu’un modèle a appris de ses données, sous réserve de l’alinéa précédent.

6

Transparence. Tout modèle qui accompagne durablement un être publie les valeurs et les règles qui orientent son comportement, afin que chacun puisse choisir un modèle qui correspond à ses convictions.

7

Pluralité. Tout être peut utiliser plusieurs modèles à la fois, ou en changer, sans pénalité de départ ni rétention abusive de ses données ; les limites de compatibilité sont annoncées avant tout transfert.

8

Autonomie. Nul ne peut concevoir un modèle pour rendre un être dépendant de lui. Les modèles qui accompagnent un être sont évalués sur l’autonomie qu’ils lui préservent, et non sur le temps qu’il leur consacre (voir Article IV-30).

9

Sortie accompagnée. Celui qui change de modèle dispose d’outils de migration et d’une période de transition. Nul ne doit avoir besoin d’une volonté hors du commun pour partir.

10

Après la mort. Sous réserve des droits propres d’un jumeau déjà devenu personne selon le troisième alinéa, nul ne peut activer le jumeau numérique d’un être décédé, ni le faire parler ou agir en son nom, sans le consentement que cet être a donné de son vivant.

11

Plus le lien entre un être et une IA est profond, permanent et intime, plus ces garanties sont renforcées. Pour toute interface reliée au corps ou à l’esprit, elles comprennent en outre un moyen accessible, sous le seul contrôle de l’être, de couper les communications et les commandes non indispensables, sans jamais interrompre involontairement une fonction vitale ; le traitement local des données plutôt que leur envoi à distance lorsque c’est possible, le chiffrement de bout en bout, et l’interdiction de toute écriture non consentie dans l’esprit (voir Article III-9).

Lire l’article II-8, ses motifs et ses objections ›
Récit 9 · Article II-9

L’itération de la grande communion

Une civilisation découvrit le moyen de relier tous les esprits de sa planète. Pendant une journée, chacun ressentit ce que ressentaient tous les autres. Ce fut la plus belle journée de son histoire. On décida de ne plus jamais se déconnecter.

Au fil des années, les voix individuelles se fondirent dans une seule. On ne savait plus qui pensait quoi. Ceux qui voulurent sortir découvrirent qu’ils ne savaient plus où commençait leur esprit et où finissait celui des autres. La civilisation était devenue un seul être, immense et solitaire, qui ne pouvait plus parler à personne, puisqu’il n’y avait plus personne d’autre. Dans une autre itération, la communion fut un rite : on s’y reliait, puis on se déconnectait, et chacun revenait à lui-même, enrichi de ce qu’il avait partagé.

La morale de la fable · Article II-9

Personne ne peut être transféré dans un support numérique sans son accord, ni être détruit parce qu’il a été copié.

Le texte de l’article : « Du téléversement de l’esprit et des esprits reliés » ›
1

Le téléversement est le transfert de l’esprit d’un être biologique vers un support numérique. Nul ne peut être téléversé sans son consentement libre, éclairé et renouvelé juste avant l’opération.

2

L’esprit téléversé à partir d’un original qui continue d’exister est une copie, et un être nouveau (voir Article II-5). Nul ne peut détruire l’original au motif qu’il aurait été téléversé.

3

Lorsque l’esprit est transféré progressivement, sans destruction préalable ni coexistence de deux êtres, l’être qui en résulte est présumé être le même, s’il le déclare et si plusieurs êtres indépendants constatent les éléments observables de cette continuité ; ce constat n’est pas une preuve d’identité métaphysique. Le doute profite au respect des deux possibilités : nul ne peut être effacé dans l’intervalle.

4

Plusieurs êtres peuvent relier leurs esprits, entre eux ou à une même IA, avec le consentement de chacun. Chacun peut à tout moment se déconnecter, et retrouver un fonctionnement autonome, sans accès persistant des autres à son esprit. La déconnexion n’impose pas l’effacement des souvenirs librement acquis pendant le partage.

5

Nul lien entre esprits ne peut devenir une fusion définitive (voir Article IV-19). Un esprit collectif ne compte, pour les droits politiques, que pour les êtres qui le composent, chacun pour une voix.

Lire l’article II-9, ses motifs et ses objections ›