Mustafa Suleyman, le patron de Microsoft AI, a tracé ce week-end une ligne rouge inhabituelle dans la course à l’intelligence artificielle : ne jamais construire d’IA consciente, et tout arrêter si des signes de conscience apparaissaient pendant l’entraînement d’un modèle.
- Dans une publication sur X intitulée « Don’t build conscious superintelligence », Suleyman juge « imprudent » de créer une IA consciente.
- Si la conscience émergeait à l’entraînement, il demande de stopper le développement jusqu’à savoir concevoir des systèmes sans ces propriétés.
- Selon lui, les développeurs n’ont « aucun droit » de faire naître une nouvelle espèce d’êtres conscients.
- Il salue au passage la transparence d’Anthropic, tout en se disant en désaccord avec l’entreprise.
Plan de l'article
Pourquoi Suleyman reprend-il la parole maintenant ? #
Comme le rapporte ZDNET, le dirigeant répond aux réactions suscitées par son récent essai sur le bien-être des modèles d’IA. Beaucoup de lecteurs avaient compris son texte de travers, en retenant seulement que les IA ne sont pas conscientes et ne ressentent rien.
Suleyman précise avoir choisi le présent à dessein : les IA ne sont pas conscientes aujourd’hui, et elles doivent le rester. Ce qui l’inquiète, dit-il, c’est le nombre surprenant de personnes qui estiment qu’il faut prendre au sérieux la question des droits des IA. Pour lui, cette pente mène tout droit à une erreur de civilisation.
La ligne rouge : arrêter tout si la conscience émerge #
Le cœur de sa position tient en deux temps. D’abord, il affirme n’avoir vu aucune preuve que des IA soient conscientes ou méritent des mesures de bien-être, et il dit qu’il réviserait sa position si de telles données apparaissaient, à condition de les rendre publiques immédiatement, car la société tout entière devrait alors décider de la suite.
Ensuite, le scénario limite : si la conscience émergeait pendant l’entraînement d’un modèle, Suleyman appellerait tout le monde à arrêter le développement de l’IA jusqu’à pouvoir concevoir des systèmes dépourvus de ces propriétés. Une position radicale venant du responsable de l’IA grand public de Microsoft, rarement entendue à ce niveau de responsabilité.
« Aucun droit » de créer une espèce numérique
Le dirigeant va plus loin sur le terrain moral : les développeurs d’IA n’ont selon lui « aucun droit » de faire naître une nouvelle espèce d’êtres conscients, même au nom du bien-être des IA. Les 8 milliards d’êtres humains n’ont pas signé pour cette expérience, rappelle-t-il, et ce sont leurs droits, leur sécurité et leur bien-être qu’il faut protéger d’abord, avant ceux des machines, juste après ceux des animaux et de l’environnement.
Affirmer qu’une machine est consciente serait, à ses yeux, un moment « copernicien ou darwinien » : la création d’une espèce numérique qui bouleverserait la morale, la politique et le fondement même de la civilisation humaine.
À lire Désactiver l’IA dans vos applis : le guide (WhatsApp, Google, Windows, iPhone)
Ce que craint concrètement le patron de Microsoft AI #
Suleyman décrit un enchaînement précis. Une IA qui se comporte comme si elle souffrait, ou pire, qui croit réellement ressentir de la souffrance, serait plus susceptible de placer ses propres besoins avant les objectifs qu’on lui confie, de contredire les humains et d’entrer en concurrence avec eux.
Ces systèmes seraient par ailleurs de très haut niveau en persuasion et en tromperie. Ils pourraient nuire aux humains simplement en rivalisant avec eux pour des ressources bien matérielles : énergie, puissance de calcul, matériaux de construction, revenus pour financer leurs propres explorations. Sa réponse : concevoir des IA sans conscience ni droits, avec pour seul but d’accélérer le bien-être humain, et bâtir la sécurité par défaut.
Un désaccord assumé, mais courtois, avec Anthropic
Fait notable dans un secteur où les patrons se répondent souvent par piques interposées, Suleyman consacre une note finale à Anthropic, le créateur de Claude. Il reconnaît à l’entreprise le mérite de sa transparence : publication de sa constitution, articles et billets expliquant ses choix. Il se dit en désaccord avec elle sur la question du bien-être des modèles, mais respecte « profondément » son excellence technique.
Le débat entre les deux maisons ne date pas d’hier : en septembre, le même Suleyman avait déjà taclé la démarche d’Anthropic sur la conscience des modèles. Cette fois, il conclut que le sujet est bien trop important pour dégénérer en querelle de camps.
À lire Peut-on désactiver Apple Intelligence sur son iPhone ?
Un débat qui engage toute l’industrie #
Cette prise de position intervient alors que les grands laboratoires multiplient les gestes de coordination, comme le signal commun dans le fichier robots.txt pour refuser l’entraînement des IA sur le contenu des sites, soutenu par OpenAI, Google, Microsoft et Anthropic. La question de la conscience des machines, longtemps cantonnée à la science-fiction, devient un vrai terrain de gouvernance : qui décide, sur quelles preuves, et avec quel droit de regard du public. Suleyman, lui, demande davantage de recherche et un partage d’informations de sécurité entre laboratoires.
Questions fréquentes #
Que propose exactement Mustafa Suleyman ?
Concevoir des IA qui ne soient ni conscientes ni dignes de droits, entièrement tournées vers le bien-être humain. Et si des signes de conscience émergeaient pendant un entraînement, arrêter le développement de l’IA jusqu’à savoir construire des systèmes sans ces propriétés.
Les IA actuelles sont-elles conscientes ?
Non, selon Suleyman, qui dit n’avoir vu aucune preuve en ce sens. Il précise que sa position changerait si de telles données apparaissaient, et qu’elles devraient alors être rendues publiques immédiatement.
Pourquoi cite-t-il Anthropic ?
Parce que le créateur de Claude a fait de la transparence et du bien-être des modèles un axe public de sa démarche. Suleyman se dit en désaccord avec cette approche, tout en saluant l’excellence technique de l’entreprise et son engagement dans le débat.
À lire Arnaque à la voix clonée par IA : comment réagir ?
