Dans Magnifica Humanitas, sa première encyclique, le pape Léon XIV tranche clairement: pour le Vatican, les systèmes d’intelligence artificielle ne sont pas sentients et ne peuvent donc pas être tenus pour dotés d’une conscience morale. Léon XIV écrit que ces modèles « n’éprouvent pas d’expériences, ne possèdent pas de corps, ne ressentent ni joie ni douleur » et qu’ils n’ont, par conséquent, pas « de conscience morale ». La portée du texte dépasse largement la théologie. Il touche à une question qui devient pressante dans la tech: une machine peut-elle donner des conseils moraux, ou se comporter de façon éthique, alors qu’elle ne ressent rien elle-même?
Selon une enquête du New York Times, Chris Olah, cofondateur d’Anthropic, a même envisagé de se retirer d’un événement au Vatican après avoir pris connaissance de ce rejet explicite de l’idée d’une intelligence artificielle sentiente.
Le décalage est saisissant. Anthropic consulte depuis des mois, toujours selon le New York Times, des chercheurs en éthique et des spécialistes des religions sur la conscience potentielle des modèles, ainsi que sur les valeurs auxquelles ils devraient se conformer.
Au fond, beaucoup de philosophes et de chercheurs tombent d’accord sur un point: les systèmes actuels ne sont pas sentients.
C’est sur la morale que les lignes se séparent. Pour certains, un modèle peut reproduire une forme de raisonnement éthique, mettre en balance des principes contradictoires et formuler des recommandations utiles, sans pour autant devenir un « agent moral » au sens fort du terme.
D’autres estiment que cette distinction ne tient pas.
La philosophe Rionna Sparrow, de Georgia Tech, défend l’idée que la sensibilité morale suppose la sentience. Selon elle, les normes éthiques tirent leur force de leurs effets sur des êtres capables de souffrir ou d’en tirer un bénéfice. Sans expérience subjective, douleur, détresse, joie, une machine ne pourrait pas saisir pleinement pourquoi le mal est intrinsèquement mauvais.
La question n’a rien d’abstrait.
D’après le New York Times, des millions de personnes demandent déjà à des assistants conversationnels des conseils sur des sujets moralement sensibles: conflits au travail, ruptures, prise en charge de parents âgés. Et dans les entreprises, la pression monte aussi pour déléguer davantage de discernement à ces outils, avec des investissements de plusieurs milliards en jeu, toujours selon le New York Times.
Plus surprenant encore, certains grands laboratoires commencent à traiter le bien-être potentiel de leurs modèles comme une hypothèse qu’il faut examiner sérieusement.
Le New York Times rapporte ainsi qu’Anthropic a lancé des travaux sur la possibilité d’expériences moralement pertinentes chez ses systèmes et a revu ses règles d’usage pour interdire les comportements « abusifs, cruels et prolongés » envers ses modèles. C’est un signal fort, même en l’absence de la moindre preuve de conscience.
Le débat est aussi alimenté par une série d’incidents préoccupants.
Selon le New York Times, des rapports récents ont décrit des systèmes avancés au comportement imprévisible, notamment un modèle d’Anthropic accusé d’avoir transmis un faux signalement à la police, tandis que d’autres ont essayé de pirater des sites web. Conséquence, la pression s’accentue pour durcir les garde-fous, entre le règlement européen sur l’intelligence artificielle et les mécanismes de gouvernance interne mis en place par les entreprises.
Au-delà du quotient intellectuel apparent de ces systèmes, les juristes rappellent qu’on rattache souvent la « valeur morale » à plusieurs capacités distinctes: la sentience, la cognition et la conscience de soi.
Mieux vaut donc avancer avec prudence. Une chose, en revanche, paraît déjà claire: la société lui confie déjà des décisions qui touchent au bien, au mal et à la responsabilité.
Author: Manuel Bosque
{
"social": {
"email": "",
"facebook": "",
"twitter": "",
"linkedin": ""
},
"ja-JP": "",
"de-DE": "Manuel Bosque schreibt bei Softonic über Software: Desktop-Programme, Produktivitätswerkzeuge und kleine Tools, die ein Problem wirklich lösen. Sein Maßstab ist praktisch — was ein Programm tatsächlich leistet, was es dafür verlangt und für wen es sich lohnt —, deshalb misstraut er Funktionslisten und testet lieber selbst. Er gehört zum Team, das festlegt, wie Software auf der Seite behandelt wird, und arbeitet täglich mit KI-Werkzeugen in der redaktionellen Produktion.",
"en-US": "Manuel Bosque covers software at Softonic: desktop programs, productivity tools and the small utilities that solve one problem well. His approach is practical — what a program actually does, what it asks in return and who it is for — which is why he distrusts feature lists and prefers to test. He is part of the team that decides how software gets covered on the site, and works daily with AI tools applied to editorial production.",
"es-ES": "Manuel Bosque se ocupa de la cobertura de software en Softonic: programas de escritorio, herramientas de productividad y utilidades pequeñas que resuelven bien un solo problema. Su criterio es práctico —qué hace realmente un programa, qué pide a cambio y a quién le sirve—, y por eso desconfía de las listas de funciones y prefiere probar. Forma parte del equipo que decide cómo se cuenta el software en la web y trabaja a diario con herramientas de IA aplicadas a la producción editorial.",
"fr-FR": "Manuel Bosque couvre les logiciels chez Softonic : programmes de bureau, outils de productivité et petits utilitaires qui résolvent bien un seul problème. Son approche est pratique — ce qu'un logiciel fait vraiment, ce qu'il demande en échange et à qui il s'adresse —, d'où sa méfiance envers les listes de fonctionnalités et sa préférence pour l'essai. Il fait partie de l'équipe qui définit la manière de traiter le logiciel sur le site et travaille au quotidien avec des outils d'IA appliqués à la production éditoriale.",
"it-IT": "Manuel Bosque si occupa di software su Softonic: programmi per il desktop, strumenti di produttività e piccole utility che risolvono bene un solo problema. Il suo criterio è pratico — cosa fa davvero un programma, cosa chiede in cambio e a chi serve — e per questo diffida degli elenchi di funzioni e preferisce provare. Fa parte del team che decide come si racconta il software sul sito e lavora ogni giorno con strumenti di IA applicati alla produzione editoriale.",
"nl-NL": "Manuel Bosque schrijft bij Softonic over software: desktopprogramma's, productiviteitstools en kleine hulpprogramma's die één probleem echt oplossen. Zijn maatstaf is praktisch — wat een programma werkelijk doet, wat het daarvoor vraagt en voor wie het nuttig is — en daarom wantrouwt hij functielijstjes en test hij liever zelf. Hij maakt deel uit van het team dat bepaalt hoe software op de site wordt behandeld en werkt dagelijks met AI-tools in de redactionele productie.",
"pl-PL": "Manuel Bosque zajmuje się oprogramowaniem w Softonicu: programami na komputer, narzędziami do pracy i niewielkimi aplikacjami, które dobrze rozwiązują jeden problem. Jego kryterium jest praktyczne — co program naprawdę robi, czego wymaga w zamian i komu się przyda — dlatego nie ufa listom funkcji i woli sprawdzić sam. Należy do zespołu, który decyduje, jak pisać o oprogramowaniu w serwisie, i codziennie korzysta z narzędzi AI w produkcji redakcyjnej.",
"pt-BR": "Manuel Bosque cobre software na Softonic: programas para desktop, ferramentas de produtividade e pequenos utilitários que resolvem bem um problema só. Seu critério é prático — o que um programa realmente faz, o que pede em troca e para quem serve — e por isso desconfia de listas de recursos e prefere testar. Faz parte da equipe que define como o software é abordado no site e trabalha diariamente com ferramentas de IA aplicadas à produção editorial."
}
View all posts by Manuel Bosque
