les plus incontrôlables ne sont pas les machines

Ces déclarations surviennent après la démission de Jacob Coxon, un jeune chercheur passé par OpenAI puis Anthropic. Il accuse les deux entreprises de « jouer avec nos vies » en développant des IA toujours plus autonomes. Certains spécialistes du secteur ont même été jusqu’à évoquer un risque de destruction de l’humanité par l’IA.

Ces craintes alimentent des scénarios apocalyptiques. Ainsi, en juillet, des programmes testés par l’Institut britannique de sécurité de l’IA ont tenté de pirater des systèmes et de tromper des humains, ce qui a été présenté comme le signe qu’ils commençaient à échapper à leurs créateurs. Mais les chercheurs leur avaient précisément demandé de mener des cyberattaques, ce qui ne prouve pas que les machines prennent le pouvoir, mais plutôt qu’elles font ce qu’on leur demande !

Les capitalistes de l’IA ont en fait des raisons plus terre à terre de s’inquiéter. D’abord, la mise en place de contrôles coûteux peut favoriser les géants déjà installés au détriment de nouveaux concurrents. Ensuite, même s’ils jugent la course trop rapide, aucun ne veut ralentir seul et laisser ses rivaux prendre de l’avance. Enfin, il y a la concurrence entre États. Trump a ainsi rejeté toute pause en invoquant la course avec la Chine.

En fait, la véritable perte de contrôle de l’humanité sur l’IA n’est pas là où la situent ces dirigeants qui en organisent eux-mêmes le développement. Il est vrai que personne ne contrôle la course entre les entreprises, ni les choix qu’elle impose à toute la société, mais c’est le fonctionnement même du capitalisme : le choix de ce qui est développé ne dépend pas des besoins de l’humanité, mais des profits espérés.

Des centaines de milliards sont ainsi engloutis dans l’IA au risque d’alimenter une gigantesque bulle spéculative. Les centres de données nécessaires à son fonctionnement consomment énormément d’électricité et d’eau, suscitant à juste titre des mobilisations contre leur implantation. Les outils les plus perfectionnés visent les marchés les plus lucratifs, dont celui des armées. Quant à savoir s’il est plus urgent de résoudre les grands problèmes de l’humanité ou de créer par IA des influenceurs virtuels, le marché risque fort de choisir ce qui se vend le mieux.

Dans le Manifeste du Parti communiste, Marx et Engels comparaient déjà la société bourgeoise à un « sorcier qui ne sait plus dominer les puissances infernales qu’il a évoquées ». L’IA en fournit une énième illustration. Le danger ne vient pas d’abord de machines qui échapperaient aux hommes, mais du fait que la collectivité n’a aucun contrôle sur ceux qui décident de leur développement et de leur usage.