Le sort de l'humanité ne peut être laissé aux algorithmes, a déclaré António Guterres, président du Conseil de sécurité des Nations unies.

Nations Unies - António Guterres, dans un discours prononcé devant des ministres et des ambassadeurs, a averti que le développement rapide de l'intelligence artificielle dépasse la capacité de l'humanité à la gérer, ce qui soulève d'importantes questions sur la responsabilité, l'équité, la sécurité et la surveillance humaine de la prise de décision.

"Chaque moment de retard dans la création de backstops internationaux augmente le risque pour nous tous". M. Guterres a déclaré.

"Aucun pays ne devrait concevoir, développer, déployer ou utiliser des applications militaires de l'intelligence artificielle dans des conflits armés qui violent le droit international humanitaire et les droits de l'homme. Cela inclut le fait de s'appuyer sur l'IA pour sélectionner ou engager des cibles de manière autonome."

Il a également souligné que la concurrence géopolitique pour les nouvelles technologies ne doit pas déstabiliser la paix et la sécurité internationales.

Une arme à double tranchant
Dans son discours, M. Guterres a souligné l'ambiguïté de l'intelligence artificielle et a mis en avant son potentiel pour prédire les déplacements causés par le changement climatique ou détecter les mines terrestres. Cependant, son intégration dans les systèmes militaires et son utilisation abusive dans le domaine de la sécurité numérique constituent un risque majeur.

"Les conflits récents sont devenus un terrain d'essai pour les applications militaires de l'intelligence artificielle", a-t-il déclaré, faisant référence à l'utilisation de l'IA dans la surveillance autonome, la police prédictive et même les décisions de vie ou de mort.

Il a souligné que l'intégration potentielle de l'IA dans les armes nucléaires et l'émergence de systèmes d'IA quantique susceptibles de déstabiliser la sécurité mondiale sont particulièrement préoccupantes.

Le sort de l'humanité ne doit jamais être laissé à la "boîte noire" d'un algorithme", a-t-il déclaré, soulignant l'importance du contrôle humain sur les décisions impliquant le recours à la force.

Abus de confiance
Un autre sujet de préoccupation est le rôle de l'IA dans le secteur de l'information, a déclaré M. Guterres, soulignant que les "deepfakes" et la désinformation générés par l'IA peuvent manipuler l'opinion publique, déclencher des crises et saper la confiance dans la société.

Il a également souligné les risques environnementaux de l'IA et a insisté sur l'intensité des ressources des centres de données et la concurrence géopolitique pour les minéraux critiques nécessaires aux technologies de l'IA.

"Des défis mondiaux sans précédent nécessitent une coopération mondiale sans précédent", a-t-il déclaré, appelant à un effort concerté pour s'assurer que l'IA profite à tous et n'exacerbe pas les inégalités.

Appel à un cadre mondial
M. Guterres a présenté les mesures prises récemment pour créer une gouvernance mondiale de l'IA, notamment l'adoption du Pacte mondial des Nations unies pour le numérique lors du sommet du futur et deux résolutions clés de l'Assemblée générale sur le renforcement de la coopération mondiale et le développement des capacités.

Une troisième résolution, portant sur l'IA dans le domaine militaire, devrait être examinée par l'Assemblée générale dans les prochains jours.

À la fin de son discours, M. Guterres a réitéré son appel à l'interdiction des armes autonomes létales et a demandé au Conseil de sécurité de montrer l'exemple et d'empêcher la militarisation de l'IA d'une manière qui déstabilise la paix et la sécurité internationales.

"Je vous invite tous à unir vos forces et à construire un avenir sûr et inclusif pour l'IA".

news.un.org / gnews.cz-jav