in

Il existe des puces informatiques alimentées par des cellules cérébrales humaines, mais est-ce éthique ?


Nous sommes en 2030 et nous sommes à la plus grande conférence technologique au monde, CES à Las Vegas. Une foule est rassemblée pour regarder une grande entreprise de technologie dévoiler son nouveau smartphone. Le PDG arrive sur scène et annonce le Nyooro, contenant le processeur le plus puissant jamais vu dans un téléphone. Le Nyooro peut effectuer un étonnant quintillion d’opérations par seconde, ce qui est mille fois plus rapide que les modèles de smartphones en 2020. Il est également dix fois plus économe en énergie avec une batterie qui dure dix jours.

Un journaliste s’interroge : « Quelle avancée technologique a permis des gains de performances aussi énormes ? » Le directeur général répond : « Nous avons créé une nouvelle puce biologique en utilisant des neurones humains cultivés en laboratoire. Ces puces biologiques sont meilleures que les puces en silicium car elles peuvent modifier leur structure interne, s’adapter au modèle d’utilisation de l’utilisateur et entraîner d’énormes gains d’efficacité.

Un autre journaliste demande : « N’y a-t-il pas des préoccupations éthiques concernant les ordinateurs qui utilisent la matière cérébrale humaine ?

Salutations, humanoïdes

Abonnez-vous à notre newsletter maintenant pour un récapitulatif hebdomadaire de nos histoires préférées sur l’IA dans votre boîte de réception.

Bien que le nom et le scénario soient fictifs, c’est une question à laquelle nous devons faire face maintenant. En décembre 2021, Cortical Labs, basé à Melbourne, a développé des groupes de neurones (cellules cérébrales) qui ont été incorporés dans une puce informatique. La puce hybride qui en résulte fonctionne parce que les cerveaux et les neurones partagent un langage commun : l’électricité.

Dans les ordinateurs en silicium, les signaux électriques voyagent le long de fils métalliques qui relient différents composants entre eux. Dans le cerveau, les neurones communiquent entre eux en utilisant des signaux électriques à travers les synapses (jonctions entre les cellules nerveuses). Dans le système Dishbrain de Cortical Labs, les neurones sont cultivés sur des puces de silicium. Ces neurones agissent comme les fils du système, connectant différents composants. Le principal avantage de cette approche est que les neurones peuvent changer de forme, croître, se répliquer ou mourir en réponse aux demandes du système.

Dishbrain pourrait apprendre à jouer au jeu d’arcade Pong plus rapidement que les systèmes d’IA conventionnels. Les développeurs de Dishbrain ont déclaré : « Rien de tel n’a jamais existé auparavant… C’est un tout nouveau mode d’être. Une fusion de silicium et de neurone.

Cortical Labs pense que ses puces hybrides pourraient être la clé des types de raisonnements complexes que les ordinateurs et l’IA d’aujourd’hui ne peuvent pas produire. Une autre start-up fabriquant des ordinateurs à partir de neurones développés en laboratoire, Koniku, pense que sa technologie révolutionnera plusieurs secteurs, notamment l’agriculture, la santé, la technologie militaire et la sécurité des aéroports. D’autres types d’ordinateurs organiques en sont également aux premiers stades de développement.

Alors que les ordinateurs au silicium ont transformé la société, ils sont toujours surpassés par le cerveau de la plupart des animaux. Par exemple, le cerveau d’un chat contient 1 000 fois plus de stockage de données qu’un iPad moyen et peut utiliser ces informations un million de fois plus rapidement. Le cerveau humain, avec ses billions de connexions neuronales, est capable d’effectuer 15 quintillions d’opérations par seconde.

Cela ne peut être égalé aujourd’hui que par des supercalculateurs massifs utilisant de grandes quantités d’énergie. Le cerveau humain n’utilise qu’environ 20 watts d’énergie, soit à peu près la même quantité d’énergie qu’il en faut pour alimenter une ampoule. Il faudrait 34 centrales au charbon générant 500 mégawatts par heure pour stocker la même quantité de données contenues dans un cerveau humain dans des centres de stockage de données modernes.

Les entreprises n’ont pas besoin d’échantillons de tissus cérébraux provenant de donneurs, mais peuvent simplement développer les neurones dont elles ont besoin en laboratoire à partir de cellules cutanées ordinaires en utilisant des technologies de cellules souches. Les scientifiques peuvent concevoir des cellules à partir d’échantillons de sang ou de biopsies cutanées dans un type de cellule souche qui peut ensuite devenir n’importe quel type de cellule dans le corps humain.

Cependant, cela soulève des questions sur le consentement du donneur. Les personnes qui fournissent des échantillons de tissus pour la recherche et le développement technologiques savent-elles qu’ils pourraient être utilisés pour fabriquer des ordinateurs neuronaux ? Doit-il le savoir pour que son consentement soit valide ?

Les gens seront sans aucun doute beaucoup plus disposés à donner des cellules cutanées pour la recherche que leurs tissus cérébraux. L’un des obstacles au don de cerveau est que le cerveau est considéré comme lié à votre identité. Mais dans un monde où nous pouvons cultiver des mini-cerveaux à partir de pratiquement n’importe quel type de cellule, est-il logique d’établir ce type de distinction ?

Si les ordinateurs neuronaux deviennent courants, nous serons aux prises avec d’autres problèmes de don de tissus. Dans les recherches de Cortical Lab avec Dishbrain, ils ont découvert que les neurones humains apprenaient plus rapidement que les neurones de souris. Pourrait-il également y avoir des différences de performances selon les neurones utilisés ? Apple et Google pourraient-ils être capables de fabriquer des ordinateurs ultra-rapides en utilisant les neurones de nos meilleurs et plus brillants aujourd’hui ? Quelqu’un pourrait-il obtenir des tissus de génies décédés comme Albert Einstein pour fabriquer des ordinateurs neuronaux spécialisés en édition limitée ?

De telles questions sont hautement spéculatives mais touchent à des thèmes plus larges d’exploitation et de compensation. Considérez le scandale concernant Henrietta Lacks, une femme afro-américaine dont les cellules ont été largement utilisées dans la recherche médicale et commerciale à son insu et sans son consentement.

Les cellules d’Henrietta sont toujours utilisées dans des applications qui génèrent d’énormes revenus pour les sociétés pharmaceutiques (y compris récemment pour développer des vaccins COVID. La famille Lacks n’a toujours pas reçu de compensation. Si les neurones d’un donneur finissent par être utilisés dans des produits comme le Nyooro imaginaire, devrait-il ont-ils droit à une partie des bénéfices tirés de ces produits ?

Une autre considération éthique clé pour les ordinateurs neuronaux est de savoir s’ils pourraient développer une certaine forme de conscience et ressentir de la douleur. Les ordinateurs neuronaux seraient-ils plus susceptibles d’avoir des expériences que ceux basés sur le silicium ? Dans l’expérience Pong, Dishbrain est exposé à des stimuli bruyants et imprévisibles lorsqu’il obtient une mauvaise réponse (la raquette rate la balle) et à des stimuli prévisibles lorsqu’il réussit. Il est au moins possible qu’un système comme celui-ci puisse commencer à ressentir les stimuli imprévisibles comme de la douleur et les stimuli prévisibles comme du plaisir.

Le directeur scientifique Brett Kagan de Cortical Labs a déclaré :

Le consentement pleinement informé du donneur est d’une importance primordiale. Tout donneur doit avoir la possibilité de parvenir à un accord d’indemnisation dans le cadre de ce processus et son autonomie corporelle doit être respectée sans contrainte.“

Comme discuté récemment dans une étude, il n’y a aucune preuve que les neurones d’un plat aient une expérience qualitative ou consciente, ils ne peuvent donc pas être affligés et sans récepteurs de la douleur, ils ne peuvent pas ressentir la douleur. Les neurones ont évolué pour traiter des informations de toutes sortes – être laissé complètement non stimulé, comme cela se fait actuellement partout dans le monde dans les laboratoires, n’est pas un état naturel pour un neurone. Tout ce travail ne fait que permettre aux neurones de se comporter comme la nature l’a prévu à leur niveau le plus élémentaire.

Les humains ont utilisé des animaux pour effectuer un travail physique pendant des milliers d’années, bien qu’ils aient souvent conduit à des expériences négatives pour les animaux. L’utilisation d’ordinateurs organiques pour le travail cognitif serait-elle plus problématique sur le plan éthique que l’utilisation d’un bœuf pour tirer une charrette ?

Nous en sommes aux premiers stades de l’informatique neuronale et avons le temps de réfléchir à ces questions. Nous devons le faire avant que des produits comme le « Nyooro » ne passent de la science-fiction aux magasins.La conversation

Cet article de Julian Savulescu, professeur invité en éthique biomédicale, Murdoch Children’s Research Institute ; professeur émérite invité en droit, Université de Melbourne; Chaire Uehiro en éthique pratique, Université d’Oxford; Christopher Gyngell, chercheur en éthique biomédicale, Université de Melbourne, et Tsutomu Sawai, professeur associé, Sciences humaines et sociales, Université d’Hiroshima est republié de The Conversation sous une licence Creative Commons. Lire l’article d’origine.

What do you think?

8.8k Points
Upvote Downvote

Twitter introduit un contenu plus long avec une nouvelle fonctionnalité appelée Notes

Parachutages non fongibles : NFA pourrait-il devenir le prochain grand acronyme dans l’espace crypto ?