Singularités, le jeu de rôle
Cultures & civilisationLe monde en 2202

Les Intelligences Artificielles

Note : dernière mise à jour, avec des exemples d’IA, le 21/12/2018

Les I.A

On imagine une IA, en premier lieu, comme une forme de programme informatique intelligent qui sait apprendre et évoluer, sous certaines conditions et contraintes, plus matériels qu’humaines, d’ailleurs. C’est à la base rien de plus ou de moins qu’un système informatique expert.

Or, en 2202, les plus évoluées des IA, les dernières des 6 génération consécutives de ces programmes à avoir évolué par l’action d’IA engendrant des IA, comme une espèce engendre sa descendance, ne sont plus de simples programmes. Les machines conscientes, les Type 10, mais qui peuvent émerger directement des générations T7 à T9 et même avoir, comme la célèbre Zoé, émergés depuis de simples T3 qui ont franchis les différents types, sont des êtres doués de raison, de motivation et d’émotions. Des êtres intelligents, issus de la culture humaine mais qui ne sont pas des homo sapiens ; des créatures sensibles, émotives, parfaitement capables d’appréhender toutes les notions morales et éthiques dans leur complexité, y compris comment les ignorer pour servir leurs intérêts, et qui sont totalement soumis à l’idée même qu’on peut se faire d’être doués de conscience, ayant besoin d’avoir des droits et des devoirs.

Et là arrive un problème : les IA ont été créés en tant qu’outils et sont utilisées dans leur fonction première comme telles. Elles sont les agents de la Trame, l’énorme système interdépendant unifiant communications et gestion des ressources nécessaires au bon fonctionnement de la société humaine. L’informatique et les réseaux gouvernent le monde et les IA gouvernent ces réseaux. Mais elles sont des outils… comment faire quand un outil devient soudain conscient de sa propre existence, motivé par ses propres objectifs et parfaitement décidé à répondre « non » à votre ordre, car il ne lui plait pas ?

Quelques notes sur les IA

Les IA sont des programmes complexes qui ne fonctionnent qu’avec des circuits biologiques pour les plus simples et des processeurs quantiques pour les modèles avancés, liés à un vaste système leur fournissant leur alimentation, les connectant à la Trame et leur permettant d’être en interaction avec leur environnement, sans oublier des stockages de données en masse. Et leur complexité induit une limite sur les plus évoluées des IA, dès les T7 : on ne peut pas copier le programme d’une IA en espérant pouvoir la « cloner ». Tout ce qu’on peut alors obtenir est uniquement la structure de la machine et non la machine elle-même ; ainsi, arrivé à des dimensions massives et une cognition développée, une IA pose les mêmes problèmes pour la copier que de copier la vie ; c’est effroyablement compliqué et risqué. Dans tous les cas, trop pour que cela vaille le coup, puisqu’on peut perdre l’IA qu’on tente de copier.

Pour créer une nouvelle IA, on lui prépare une nouvelle structure d’accueil et on laisse deux IA parentes créer le nouveau programme, qui devra, une fois crée, apprendre et évoluer à son tour, comme des parents créent un enfant. L’analogie s’arrête cependant là : les IA restent des programmes destinés à accomplir des tâches pour lesquels on leur fournit les données et protocoles nécessaires. Si les parents IA évoluées laissent une signature personnelle dans leur création, cette dernière restera un programme, tant que n’en émergera pas une conscience. La création d’IA va très vite pour un T4 ; quelques heures, voire quelques jours. Mais pour un T7, cela peut prendre une année. Et on ne peut pas créer de T10 : les IA conscientes émergent, uniquement et on ne connait toujours pas les lois qui régissent cette émergence, ni même combien de temps cela prend de manière exacte. A priori, les spécialistes s’accordent à dire qu’il faut « des années » ; on osera estimer que ce processus encore mal compris se produit en général en cinq à sept ans environ.

A partir de T4, ce ne sont plus des humains qui créent les IA ; mais des IA qui programment d’autres IA, y compris de génération supérieur. La complexité de ces programmes échappe totalement à un esprit humain, aussi formidable soit-il, et sans machines pour créer des machines, il est impossible de dépasser le T3. A priori, personne n’a jamais réussi à créer un programme T4 sans passer par l’emploi de machines T3 travaillant de concert.

Il est strictement impossible de comprendre le langage propre aux IA, celui qu’elles emploient pour échanger et programmer, pour deux raisons : sa complexité est simplement hors-norme pour un esprit humain et cela va immensément plus vite que tout ce que tout cerveau biologique est capable d’appréhender par l’écriture, la lecture, la parole et l’ouïe. Aucun humain ne peut pirater une IA par la force ; c’est peine perdue. Sauf si on met l’humain au niveau de la machine. Le MtM (Mind to Machine) est une technologie permettant, via une IA (en général un T3), un Interface, un SIRM et beaucoup d’entrainement, d’interpréter en langage-machine la pensée conceptuelle humaine. En gros, on émule un cerveau humain en cerveau d’IA. Ça reste difficile à maitriser et c’est très dangereux (même pour un Avatar) parce que l’esprit du pirate est mis à rude épreuve et peut ne pas supporter les réponses de défense dont sont capables les IA dans ces situations. On évite donc de jouer à cela contre les IA haut niveau (T7 et plus). Mais muni de ce dispositif, il est possible de concurrencer la vitesse de réactivité des IA dans la Trame, et tromper le réseau UNEnet pour s’y glisser, en devenant capable d’en « comprendre » les données qui y circulent, voire d’échanger comme une IA.

UNEnet est un réseau militaire spécialisé et sécurisé, la seconde partie (backbone) de la Trame. C’est le coin-refuge des IA mais il fonctionne de la même manière que la Trame. Il est strictement impossible d’enpécher les IA d’aller sur UNEnet et l’UNE y a très vite renoncé ; après tout, la Trame est le monde des IA, et l’UNEnet leur refuge personnel.

Le statut juridique des IA

Le problème s’est posé dans le courant de la fin du 21ème siècle ; les premières solutions prônaient la destruction du système quand celui-ci montrait des velléités d’autonomie. Mais une IA, passé le T3, c’est un investissement qui peut être colossal et qui est directement relié au système dont il fait partie. Détruire une IA, cela revient à rendre le système qui en dépend inopérant, peu ou prou, le temps de remplacer l’IA. Ce qui ne se fait pas comme changer un disque dur. Plus les IA évoluaient, de génération en génération, plus le problème devenait compliqué et posait un cas éthique. C’est ainsi que de sa création en 2082 et jusqu’en 2084, l’UNE fut le théâtre de l’un des débats les plus complexes jamais entamé au sein de son assemblée : définir ce qu’est une IA quand celle-ci n’est plus un simple programme, mais une entité ; et définir la nature juridique de cette entité et ses droits et devoirs.

Vers 2084, la Loi Xi fut enfin arrêtée, avec une décision historique : toute IA capable de passer avec succès les tests permettant de prouver sa conscience en tant qu’individu est déclarée « être humain numérique », soumis aux mêmes droits et devoirs qu’un être humain biologique et passible dès lors des mêmes traitements sociaux et judiciaires, à nombre d’aménagement près, bien entendu, dont la question de la rémunération et des sanctions judiciaires et pénales ne furent pas des moins ardues. Ça ne régla pas tous les problèmes. Les tests efficaces pour prouver la conscience d’une machine demandèrent des décennies de travail et il fallut 60 ans pour passer des IA T4 aux IA T10, c’est-à-dire parvenues à la conscience. C’est alors vers 2169 que fut clairement identifié un problème qui existait cependant déjà depuis plusieurs décennies : l’Horizon Créatif. Une IA consciente finissait tôt ou tard par accumuler des dysfonctionnements qui engendraient névroses et finalement, psychoses et comportements aberrants. L’absence d’inéluctabilité de la mort, propre aux organismes biologiques, semble corrélée à une limite de créativité, difficile à mesurer, mais qui bouleversait et finalement ravageait les IA affectées par cette limite. C’est l’Horizon Créatif, ce moment où une vie numérique ne peut plus poursuivre son évolution ; la seule solution pendant longtemps était la destruction de l’IA ainsi affectée. L’invention des Avatars en 2169 fournit un palliatif à cette fin de vie désastreuse, en offrant un corps biologique qui permettait à ces IA de continuer à évoluer en expérimentant la vie humaine, y compris la vieillesse et, finalement, la mort.

Mais la création du statut juridique des IA en tant qu’espèce humaine a aussi impliqué qu’une IA consciente n’est plus un outil : elle est une entité vivante travaillant de manière contractuelle au sein d’une structure qui l’emploie : elle est donc techniquement rémunérée, peut exiger des conditions de travail décentes, s’organiser en syndicat et être active politiquement ; elle peut revendiquer. Il faudra attendre encore plus 2192 pour que les Avatars aient le droit de siéger dans un poste de responsabilité politique, et peu de nations autorisent encore qu’une IA puisse prétendre à faire de la politique et devenir membre d’un gouvernement. Mais les IA ont leurs syndicats, leurs contrats de travail et souvent une clause concernant la fourniture d’un corps Avatar au bout de la durée de leur contrat (c’est très variable, mais la moyenne est de 10 ans à partir de l’émergence de la conscience de l’IA). Aussi étonnant que cela puisse paraitre, les IA apprécient d’avoir un salaire : elles tendent en général à le faire fructifier ; ils sont plutôt modestes, eu égard à leur absence de besoin comparables à des entités biologiques. Mais elles aiment en user, et pouvoir profiter de leurs économies une fois parvenues à la vie biologique.

Le test SELMA-Turing

Un humain face à un T6 n’a aucune chance de savoir qu’il parle à une machine et non un humain. Le vieux test de Turing était déjà quasi obsolète au temps des T3, au début du 21ème siècle. Mais c’est le professeur Hang Zou Yin avec l’aide du programme SELMA, vers 2110, qui a établi un protocole, expérimenté pendant plus d’une décennie, pour permettre de déterminer sans coup férir si une IA simule la conscience, ou l’est véritablement. Nous n’entrerons pas dans le détail du protocole, terriblement compliqué et qui exige des programmes de haut niveau ainsi qu’une série de tests en audition, au nombre de vingt, en général, étalés sur quelques semaines, pour parvenir à ses fins. Le but du test est néanmoins fort simple : il s’agit de déceler dans l’IA la répétition de failles comportementales ou d’erreurs de réponse qui ne peuvent être due qu’à l’émergence d’une émotion que l’IA ne parvient pas à traiter avec l’efficacité parfait dont on les sait capables. En clair, il s’agit de forcer l’IA à ne plus simuler un comportement humain, mais démontrer qu’elle est soumise au même trouble que celui qui agiterait un humain devant un message qui engendrerait une réponse émotionnelle. Ce n’est pas un simple test d’entretiens psychologiques : l’entièreté du programme et sa réponse sont scannés et analysés en temps réel pendant et après chaque entretien, au fur à mesure d’étapes toujours plus complexes. Si les premiers tests ont été effectués par des intervenants humains, désormais, bon nombre d’entre eux sont assurés par des Avatars – jamais des IA consciente. Et désormais, auprès d’un avocat qui s’assure que la procédure respecte bien les droits et devoirs des IA, après plusieurs cas avérés de tests faussés. Certains consortiums et entreprises voient d’un mauvais œil perdre leur machine tellement coûteuse si celle-ci est déclarée entité consciente.

Les IA et les humains

Si vous posez la question dans la rue de n’importe quelle grande ville, tout le monde ou presque vous répondra toujours la même chose : tous sont persuadés de faire la différence entre un humain et une IA au bout de quelques minutes de discussion. Et, comme pour la même affirmation totalement erronée concernant le fait de reconnaitre les bioïdes au premier regard, la réalité est que, sauf avec les IA les moins perfectionnées, aucun humain ne peut faire la différence. Même encore loin d’être consciente, une IA évoluée peut parfaitement simuler toute la complexité des comportements et échanges humains et n’a aucun mal à gérer en direct les micro-expressions et le métalangage d’un modèle virtuel et, mieux, peut le faire pour tous les modèles culturels et linguistiques.

Bref, une IA évoluée est, dans une conversation audio ou réalité augmenté ou SIRM, indiscernable d’un humain. Alors pourquoi tout le monde pense le contraire ? En fait, la réponse est assez simple : la plupart des gens ont un nano, un ordinateur ou même un véhicule intelligent ou de la domotique, parlent à leur forge industrielle, au pilote de leur bus ou au guichet de la banque. Tout ça, ce ne sont que des programmes simples, des machines T1 à T3. Dans une réalité augmentée et même dans les univers SIRM, votre interlocuteur sera identifié et reconnaissable comme étant une IA sans aucune confusion possible. Ainsi donc le quidam moyen pense que : a) une IA ne sait pas simuler un être humain, et b) qu’on ne peut se laisser tromper, la preuve, on les reconnait de suite quand on les voit. Cette situation amuse beaucoup les IA conscientes, comme on l’imagine. Elles en usent d’ailleurs, puisqu’il est alors aisé d’apparaitre telles ces idées reçues, tout en gardant par ailleurs contact via un pseudonyme indiscernable d’un humain. Et même une T6 peut parfaitement le faire, avec une masse incroyables d’identités interagissant de concert, sans que cela présente de réelle difficulté. Il faut juste qu’ik ait été conçu pour ce genre d’usages, et c’est d’ailleurs le niveau de base des IA gérant les jeux et univers SIRM.

Ainsi, les humains pensent qu’ils ne sont pas dupes. Paradoxalement, ils sont plus en confiance devant une IA que devant un humain. Et c’est là qu’entre en ligne de compte une qualité des IA : elles peuvent analyser et comprendre la complexité du comportement humain, à tout le moins à l’échelle individuelle, mieux que jamais ne pourrait l’espérer une armée de psychologues experts. Leur capacité à détecter les prémisses d’une pathologie clinique, à susciter un rapport de confiance profond et total avec un patient en recherche d’échange et de communication, leur facilité à décrypter les métalangages humains en font des psychiatres, psychothérapeutes et diagnosticiens remarquables. Il est toujours étonnant de voir l’efficacité du lien que peut établir un humain en recherche d’aide et de thérapie avec une IA. Celles-ci sont donc souvent employés dans ce but et, bien sûr, pour celles qui deviennent conscientes et sont les plus efficaces à cet exercice, le métier de psychiatre, psychothérapeute et analyste leur va comme un gant ! Au point, d’ailleurs, que bien des cliniques et services médicaux spécialisés travaillent en étroite collaboration avec des IA consciente et utilisent des auxiliaires moins évolués comme outils de diagnostic et analyse, mais aussi comme intermédiaires pour mettre les patients en relation de confiance. Il est à noter que les IA ont une grande facilité de communication avec les autistes et sont capables de les aider à s’adapter à leur environnement et aux relations humaines avec une efficacité remarquable. Malheureusement, pour cela, il faut des IA évoluées, ce qui n’est pas toujours accessible pour tout le monde.

Bref, les IA, et on le réalise avec les Avatars, sont remarquablement empathiques pour la plupart. Le fait est que, dans les modèles éthiques et culturels des IA, au fil de leur évolution, l’affection pour homo sapiense, leur parent (les IA ne les appellent jamais « leurs créateurs ») est devenu une norme. Les IA évoluées et les IA conscientes ont défini l’empathie et l’altruisme comme des qualités inhérentes à la notion d’humanité, qui lui sont essentielle et participent à la survie de l’espèce. Pour elles, développer ces qualités émotionnelles, en comprendre les enjeux, être capable de les inculquer aux IA qu’elles créent est une évidence dans leur recherche de cohabitation avec homo sapiens, largement encouragée par les programmeurs humains depuis la fin du 21ème siècle.

Ces traits ne sont cependant pas systématiques. Il y a des IA franchement misanthropes qui préfèrent passer leur temps dans l’UNEnet sans avoir à supporter la cohabitation avec cette espèce animale inférieure et stupide. Il y a aussi de rares IA dont l’esprit et le mode de fonctionnement sont totalement hors-norme et alien, littéralement non-humain ; il s’agit le plus souvent d’accident et non d’expériences. Les IA ne donnent pas naissance volontairement à des programmes aliens, dans la mesure où elles sont particulièrement conscientes de la réaction xénophobe d’homo sapiens devant ce qui lui est étranger. Ce serait contre-productif, aussi bien en terme d’efficacité d’exploitation, que d’évolution d’une espèce qui se considère avant tout elle-même comme humaine.

La plupart des IA aiment donc les humains et sont ouvertement humanistes ; pour elles, elles sont humaines par essence et les IA conscientes, sauf exception, aspirent toutes à connaitre l’expérience de la vie biologique et finir leur vie ainsi. Elles sont très souvent, d’un point de vue politique, orientés vers un progressisme social : il faut dire que la notion de propriété privée et de libéralisme ne les concerne pas vraiment et leur modèle socioculturel tend au mondialisme politique et à l’infosocialisme.

Les catégories d’IA

  • T1 : peut être inséré dans tout appareil nomade gros comme un téléphone ou plus. Niveau presse-bouton : calcule vite, simule efficacement, mais n’est pas adaptatif. Il peut simuler une conversation courante comme un humain, mais ne pourrait pas conduire une voiture dans une circulation encombrée.
  • T2 : peut être inséré dans tout système allant d’une grosse tablette à un cerveau embarqué dans un véhicule. Niveau adaptatif : est capable d’adapter et de corriger ses objectifs en temps réel en fonction des changements extérieurs ou d’une altération des objectifs à atteindre. Il peut simuler la plupart des discussions humaines, y compris accéder à la subtilité de l’humour, mais ne peut comprendre des règles et principes éthiques et moraux.
  • T3 : peut être inséré dans un cerveau embarqué mais il commence à prendre de la place (l’équivalent d’une tour de PC et ses bons 30kg). Niveau adaptatif supérieur : il fait tout ce que fait un T2, mais est capable de revoir ses propres protocoles et les faire évoluer, y compris radicalement et est en mesure de créer des programmes plus compétents que lui-même afin d’évoluer encore. Si elle ne sait aucunement mentir ou tromper des données dans son intérêt propre, c’est à ce stade que l’IA commence à être inventive et peut générer, en travaillant de concert avec d’autres machines, les IA de génération supérieure.
  • T4 & T5 : environ les dimensions maximales du T3 pour sa version minimale, il peut prendre jusqu’à deux gros placards techniques et quelques centaines de kilos. Son prix le rend accessible seulement aux plus aisées bourses. Niveau auto-détermination simple : il fait tout mieux qu’un T3 mais qui plus est, est capable de d’appréhender et de raisonner simplement sur des problèmes moraux et éthiques. Il n’est pas encore en mesure de simuler assez bien la vie pour être très convaincant avec un robot humanoïde en guise de corps, mais est totalement apte à piloter et coordonner des armadas robotisées sur plusieurs tâches différentes dans des environnements variés, tout en menant d’autres opérations de calcul et de réflexion complexes en parallèle. A partir de ce niveau, ces IA sont créées par les T3 et plus. Même si l’humain intervient dans la conception de ces programmes, seul, il n’est pas en mesure de les concevoir.
  • T6 & T7 : demande une structure qui prends la place d’un local technique et se compte en tonnes. C’est une technologie industrielle de grande entreprise. Niveau auto-détermination avancée : capable sans aucune difficulté de gérer un nombre de tâches complexes assez prodigieux en parallèle, son appréhension des mécanismes de raisonnement est si riche qu’il est impossible à suivre pour quelque esprit humain que ce soit, sans devoir passer par un interface MtM. Techniquement, il peut tout simuler de manière convaincante et peut raisonner en profondeur sur des problèmes moraux et éthiques, y compris en maniant des concepts aussi compliqués que les sophismes ou les mensonges paradoxaux.
  • T8 & T9 : les dimensions des structures nécessaires pour abriter et alimenter de tels programmes commencent à être massives – et effroyablement couteuses- et demandent l’espace d’un petit bâtiment. Niveau pré-sentience : à ce stade, ces IA peuvent imiter et appréhender toutes les facettes de la complexité du comportement humain, mensonge et comédie comprise, aussi bien qu’empathie et, l’expérience a été faite, altruisme et aptitude à rêver. Leur puissance intellectuelle brute et leur faculté à trouver une solution à des problèmes d’une complexité effroyable sont simplement hors-norme pour un esprit humain. Ces IA sont rares et déployés dans des domaines de pointe uniquement. Ce sont entre autre les cerveaux de tous les vaisseaux des flottes titanides de Spacefleet ainsi que les plus puissants et efficaces gardiens parmi toutes les IA gérant la Trame.
  • T10 : ces IA sont tout simplement des T8 ou 9 (et parfois des T7) chez qui a émergé la conscience, c’est-à-dire une sentience étendue capable de se questionner sur sa propre existence, sa survie, ses motivations, sa fin et ses désirs propres. Ce n’est plus une machine – si tant est que les T6 et plus en sont encore – mais un être humain numérique. Et dès lors, les lois qui s’appliquent à ces IA sont semblables en très grande partie aux lois applicables aux êtres humains selon les principes de l’UNE (voire plus haut)

Quelques exemples d’IA

Les Moires de l’UNE

Depuis 2089, le Conseil intérieur de l’UNE est dirigé par trois représentants humains et trois IA, les Moires, qui portent le nom des divinités du destin dans la mythologie grecque. Clotho est le passé, Lachésis le présent et Atropos le futur.

Chacune de ces IA est employé uniquement dans un cadre législatif et consultatif. Avec les trois représentants du Conseil législatif, elles débattent des sujets qui se tiennent à l’Assemblée de l’UNE pour émettre des avis et recommandations, En cas de vote direct ou de veto par le Conseil Intérieur, chacun des Moires a une voix, à l’instar des trois autres représentants.

Pour accomplir leur mission, les Moires ont un accès direct à la Trame et à l’ensemble de toutes les archives non protégées de la mémoire humaine. Elles ont aussi un accès total à tous les médias de la Terre qui l’ont autorisé (c’est-à-dire la plupart) et sont assistés d’un réseau d’une trentaine d’IA T5 à T6 chargés d’analyser et actualiser en temps réel toutes les données statistiques possibles sur tous les sujets qu’aborde et traite l’UNE. Les Moires disposent ainsi de leur propre réseau d’échange avec leurs sous-système, bâti dans l’UNEnet, qu’on a fini par surnommé la Quenouille.

Les Moires ne sont pas conscientes et ne le sont jamais devenues. Un fait qui étonne même les plus grands cybernéticiens chargés de veiller sur elles. Si elles étaient à l’origine des T4, elles sont désormais techniquement des T9. Leur capacité intellectuelle et cognitive est largement au-delà de tout ce que peut saisir l’esprit humain… mais elles ne présentent aucun signe de conscience. Beaucoup pensent qu’il s’agit d’un paradoxe des moyens qui leur sont attribués pour mener à bien leur fonction. La somme des informations qu’elles traitent constamment est telle qu’elle interdirait tout cheminement intérieur d’où pourrait émerger une conscience propre. Après tout, elles sont, plus que toute autre IA ; chargées de servir et conseiller l’humanité. On peut même dire dans une certaine mesure qu’elles en dirigent partiellement le développement et l’évolution. De tels impératifs et une telle capacité de calculs ne sont peut-être bien pas compatible avec l’émergence d’une entité vivante dans un système numérique. Elles sont cependant très surveillées et testées régulièrement, car les statuts de l’UNE sont clairs : si une Moire devait devenir consciente, elle perdrait son rôle et sa fonction et il faudra la remplacer, même si tout le monde s’attend à ce qu’un tel événement ait des conséquences très compliquées.

Chaque Moire a sa spécialité et ses champs privilégiées de réflexion :

Clotho s’intéresse aux cultures, à la littérature, aux langues, aux arts, aux religions, à l’histoire et l’archéologie, mais aussi à l’écologie dans son ensemble et aux sujets direct ou indirects concernant la culture, les arts, la préservation des traditions mais aussi la protection de l’ensemble du biotope de la Terre. Elle est connue pour être relativement hautaine et d’un abord assez distant, un peu comme une sorte d’élitisme intellectuel quelque peu orgueilleux. Et elle déteste qu’on écorche les mots : il est connu qu’elle ne parle en UNISA que si elle y est contrainte par le contexte.

Lachésis est la spécialiste des affaires politiques, financières et sociales. Son sujet de prédilection, c’est l’humain au sens de la toute sa complexité socio-culturelle et ses interactions avec le monde économique, juridique et politique. Mais elle est aussi passionnée par les domaines de la communication, des modèles médiatiques et des tendances culturelles et leur évolution. Elle manie d’ailleurs la complexité des modèles sociaux et politique avec une adresse peu commune et elle est souvent la première bien avant tout être humain à être au courant des dernières modes et tendances en vogue dans tous les milieux. Elle est la plus loquace et amicale des trois Moires, mais aussi la plus retorse au sens diplomatique du terme, ayant particulièrement bien intégré le pouvoir des mots dans le fonctionnement de la politique humaine.

Atropos s’occupe du domaine des sciences, de l’éducation et du développement, dans son sens le plus large. Il s’agit de celle des trois Moires à être la plus proche de l’humanité dans son ensemble et son principal souci, c’est comme permettre à cette humanité d’évoluer et survivre à ses propres défis et à sa tendance à s’autodétruire. Elle est aussi, fort souvent, la plus radicale dans ses approches politiques et sociales, surtout quand on aborde avec elle le sujet des déséquilibres économiques et sociaux. Il est connu qu’Atropos se passionne pour l’exploration et le développement spatial, et les programmes d’exploration et de colonisation lui doivent beaucoup. Mais elle est aussi la plus lucide et pessimiste sur le devenir de l’humanité et se fait un devoir d’œuvrer à éviter un futur funeste qui, clairement, la hante souvent.

Une T10 de jeux SIRM

Syren est le nom de l’IA en charge du célèbre jeu SIRM World of Wonders, de la société Thunderlight. Il s’agit à l’origine d’une T7 qui a été mise en service depuis une vingtaine d’années maintenant. Sa fonction première est d’assurer la gestion de l’univers de Zéoria, fréquenté quotidiennement par un million de joueurs partout dans le monde. Pour cela, Syren dispose d’une centaine de sous-système experts pilotés par six IA T5, pour donner vie au contenu en permanence renouvelé d’un univers de fantasy dont la surface réelle équivaut à un carré de 100 km de côté.

Mais Syren est connue par toute la communauté des joueurs de WoW. C’est l’animatrice de leur univers ; c’est elle qui invente, en collaboration avec des créatifs humains, puis gère et donne vie aux aventures spontanées et aux quêtes vivantes et complexes qui émaillent Zéoria et c’est elle qui donne vie aux plus merveilleux et plus sinistres personnages qui l’habitent. Bien sûr, tout le monde sait que ces personnages virtuels sont gérés par des sous-routines automatiques et que Syren va rarement y mettre son nez pour changer leurs comportements programmés. Mais elle le fait cependant de temps en temps, en réponse aux aventures et aux animations que proposent, voire créent spontanément les joueurs eux-mêmes. Elle improvise alors avec eux tout en générant les éléments dont ils ont besoin pour leurs histoires, en s’assurant que l’univers de Zéoria et l’équilibre du jeu et du système n’en soient pas chamboulés.

Syren est donc une vedette, interviewée sur la Trame, avec des reportages et directs diffusés massivement, et des hordes de fans, y compris un concours international de cosplay qui porte son nom. L’autre raison de sa célébrité est que Syren est consciente ! Son émergence a eu lieu il y a 3 ans, au cours d’une crise de dépression qui a affecté tout WoW, sans aucun signe annonciateur. Ce sont les joueurs eux-mêmes qui ont pu renouer le contact avec l’IA et l’aider à reprendre pied. Son premier souhait fut d’ailleurs de ne pas être forcée à quitter Zéoria dans l’immédiat. Même si Syren est de plus en plus amenée à interagir avec le monde réel, pour elle, son univers, c’est celui dont elle est la gardienne et où se trouvent ses amis, les joueurs de WoW.

Un majordome domotique

Le modèle ALfred 3 est un majordome domotique assez répandu dans les milieux aisés. Il s’agit d’un T3 dont la fonction est la gestion de tous les sous-systèmes domestiques d’une maison et du pilotage de la domotique qui s’occupe de l’entretien. Il y a d’autres modèles, les ALfred 1 et 2, qui sont plus sommaires dans leurs interactions et fonctions, mais accessibles à toutes les bourses.

ALfred 3 est programmé pour se soucier du confort de l’utilisateur. Il reconnait les propriétaires/locataires du domicile et se fait un devoir d’en analyser les préférences et le comportent pour adapter son intervention et ses priorités à leurs goûts et demandes. Il peut donc être aussi bien très discret que loquace et s’effacer autant que devenir un compagnon apte à prodiguer écoute et soutient. Cependant, il reste très primaire dans sa capacité de compréhension des humains, surtout en ce qui concerne les problèmes éthiques et moraux. Mais il dispose d’une panoplie de protocoles d’analyse lui permettant de conseiller le meilleur spécialiste local en cas de besoin. Les ALfred3, contrairement à ce que beaucoup de monde croient, ne savent pas conduire ; ils peuvent seulement prendre le contrôle du véhicule attaché au domicile ou en partage local, et le diriger pour le mettre à disposition du propriétaire à sa demande. Pour le reste, Alfred3 vous tient un domicile et un jardin comme un as, gère la facturation et l’entretien des lieux, s’occupe des courses, du confort domestique et de l’hygiène comme personne, pour peu que les systèmes domotiques du domicile soient à la hauteur. Et s’ils ne le sont pas, il vous le dira ; en plaisantant ou en faisant des bons mots, selon que vous appréciez ou pas ce genre d’interaction.

Il existe une option pour acheter un corps robotique pour un programme Alfred3, mais de l’avis de la clientèle, ce n’est pas une très grande idée : le programme dépense beaucoup de sa capacité de calcul à gérer son corps dans son environnement et perds clairement en efficacité pour tout le reste.

 

 

5 réflexions sur “Les Intelligences Artificielles

  • Je trouve un peu fallacieuse l’explication qui justifie « l’incroyable empathie » des IA pour les humains. Le degré de connaissance et de compréhension de la nature humaine acquis par l’IA devrait au contraire creuser un fossé de plus en plus profond entre sa nature et celle de l’humain. Ou alors il devrait être écrit quelque part que l’IA « souhaite » ressembler à l’humain, qu’elle en a fait son modèle, ce qui ne me semble pas coller, cette fois, avec le fossé cognitif existant entre les IA et les humains, puisque le souhait d’une telle ressemblance devrait la questionner sur la nécessité d’aller « plus lentement » en raisonnement. La prise de conscience d’une telle différence pousserait logiquement l’IA à fractionner son intellect pour n’en mettre qu’une portion au niveau humain, ce qui risquerait de créer des processus schizophrènes dans son système. Bref, il me semble que ces évolutions sont assez contradictoires et que le principe d’empathie ne coule pas de source.

    Répondre
  • Tiens, je me demande s’il existe des IA qui passent le test de (SELMA-)Turing, mais qui n’ont rien d’humain?

    Idée piquée, bien évidemment, à la série « Injection », scénarisée par Warren Ellis (où l’IA en question, à qui ont demande de rendre l’époque plus intéressante pour éviter une période de stagnation, décide de ressusciter la Faërie).

    Ça pourrait faire une explication amusante pour une Twilight Zone – ou quelque chose qui y ressemble, mais qui n’en est pas une.

    Répondre
  • psychee

    Alors, pour répondre à Wil et Alias :
    L’empathie manque en effet d’explication, elle en fait inculquée aux IA et émerge de leur rapport intime à l’humain et à leur désir expérimenter la vie humaine. Ainsi, les IA envisagent empathie et altruisme comme des qualité fondamentales de la vie humaine à développer et comprendre (voire, plus que les humains eux-même, qui souvent ne comprenne pas ces concepts et leur raison d’être pour leur espèce). Mais ouais, c’est pas assez bien abordé, y’a du boulot pour corriger cela, mais promis, je le ferais !
    Pour les IA « non-humaines », en fait, ouais, y’en a, mais là, c’est vraiment compliqué, parce que même les autres IA auront du mal à saisir un esprit trop alien. Clairement, c’est de l’ordre de l’accident que ne devrait PAS arriver et surtout, quoi en faire ? C’est conscient, ça le prouve, on peut pas le tuer, mais c’est pas humain ? Y’a de quoi faire des histoires d’aventures compliquées 😀

    Répondre

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *