L'IA pourrait provoquer l'extinction humaine, déclarent sans ambages des experts

Au cours des derniers mois, de nombreux experts et dirigeants de l’IA ont tiré la sonnette d’alarme sur les dangers du développement avancé de l’IA.

La dernière salve est une nouvelle déclaration de 22 mots assimilant le risque mondial de l’IA à celui des pandémies et de la guerre nucléaire.

Tous les experts ne sont pas inquiets, certains affirmant que l’IA est loin d’être assez avancée pour étouffer l’existence humaine.

Beaucoup de gens s’inquiètent de l’avenir de l’IA, y compris des esprits impliqués dans la création de cet avenir. Les dirigeants technologiques et les PDG de sociétés d’IA, y compris des sociétés telles qu’OpenAI et Deepmind, ont signé une déclaration simple mais obsédante de 22 mots sur les dangers potentiels de l’IA : « L’atténuation du risque d’extinction de l’IA devrait être une priorité mondiale aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire. »

La déclaration est délibérément vague et évite les détails sur la façon dont l’atténuation de ce risque croissant devrait être une priorité, mais la déclaration montre un niveau élevé de préoccupation au sujet de l’IA parmi les personnes mêmes derrière la technologie en plein essor. La déclaration, publiée au Center for AI Safety, est un « coming out » pour les experts en IA inquiets de l’avenir de la technologie, selon le directeur exécutif du centre, Dan Hendrycks.

« Il y a une idée fausse très répandue, même dans la communauté de l’IA, selon laquelle il n’y a qu’une poignée de malheurs [sic] », a déclaré Hendrycks au New York Times. « Mais, en fait, beaucoup de gens exprimeraient en privé des préoccupations à propos de ces choses. »

Les menaces de l’IA ne sont pas nécessairement qu’une forme de vie artificielle super-avancée asservit et exterminera l’humanité comme dans Terminator. Le site Web du Center for AI Safety détaille une vision plus subtile de notre destin, y compris le rôle potentiel de l’IA dans la conception d’armes chimiques plus efficaces, la suralimentation des campagnes de désinformation et l’exacerbation des inégalités sociétales.

Ces inquiétudes ne sont pas nouvelles. Les craintes concernant l’IA sont presque aussi anciennes que les débuts de la technologie et jouent un rôle important dans la science-fiction depuis près d’un siècle. Isaac Asimov a créé les Trois Lois de la Robotique en 1942, et dans le roman de science-fiction Dune de 1965, l’IA est complètement interdite dans toute la galaxie connue dans le but de sauver l’humanité.

En mars, des leaders de la technologie, dont Elon Musk (un porte-parole de longue date des dangers de l’IA) et d’autres chercheurs de premier plan en IA, ont appelé à un moratoire de six mois sur la recherche en IA « plus puissant que GPT-4 », la dernière version du grand modèle multimodal d’OpenAI. En avril, l’Association pour l’avancement de l’intelligence artificielle a publié sa propre lettre exhortant au développement de moyens de « s’assurer que la société est en mesure de récolter la grande promesse de l’IA tout en gérant ses risques ». Et plus tôt ce mois-ci, l’expert en IA Geoffrey Hinton, connu comme le « père de l’IA », a également exprimé ses craintes au sujet de la technologie croissante, allant jusqu’à dire qu’il regrettait le travail de sa vie.

Tous les experts en IA ne se joignent pas à l’agitation. Un informaticien de l’Université de Princeton a déclaré à la BBC que « l’IA actuelle est loin d’être suffisamment capable pour que ces risques se matérialisent. En conséquence, cela détourne l’attention des méfaits à court terme de l’IA », tels que son comportement biaisé et exclusif. Quoi qu’il en soit, Microsoft et OpenAI ont appelé le gouvernement américain à réglementer le développement de l’IA, et le sous-comité judiciaire du Sénat a tenu un panel sur la surveillance de l’IA à la mi-mai.

L’avenir pessimiste de l’IA n’est toujours pas écrit, et certains cadres et experts en technologie tentent de le garder ainsi.

Vous aimerez peut-être aussi

Les choses à faire et à ne pas faire pour utiliser le ruban adhésif de peintre

Les meilleurs barbecues portables pour cuisiner n’importe où

Une montre intelligente peut-elle prolonger votre vie?