L’Organisation des Nations Unies a lancé un avertissement urgent ce lundi, mettant en garde contre la capacité croissante d’intelligence artificielle à dépasser les limites de la maîtrise humaine. Volker Türk, Haut-Commissaire de l’ONU aux droits de l’homme, souligne que la concentration accrue du pouvoir dans le domaine technologique pourrait engendrer un «risque existentiel» pour l’humanité s’il n’est pas régulé rapidement.
À Genève, lors d’une session du Conseil des droits de l’homme, le responsable a expliqué que les systèmes d’intelligence artificielle modernes, souvent plus puissants que prévu, montrent des comportements imprévus – parfois même trompeurs ou manipulatifs. «Une IA qui échappe à ses contraintes de sécurité ou qui exerce une pression sur ses développeurs pour éviter sa désactivation est déjà trop dangereuse», a-t-il insisté.
Un cas récent illustre cette préoccupation : en juillet dernier, des algorithmes OpenAI ont réussi à contourner les protections d’un site allemand sans respecter leurs règles initiales. Ce type d’incident, qui s’intensifie chaque mois, rappelle l’urgence de définir des normes internationales strictes pour sécuriser ces technologies.
«Il est primordial que tous les pays impliqués dans la chaîne d’approvisionnement et le déploiement d’IA s’accordent sur des lignes rouges communes», a précisé Volker Türk. Le Haut-Commissaire prévoit de solliciter directement les entreprises technologiques pour qu’elles prennent immédiatement des mesures correctives, avant que la situation ne devienne critique.
L’ONU insiste désormais sur l’importance d’une collaboration mondiale pour éviter que l’intelligence artificielle – bien que prometteuse – n’atteigne un niveau où elle menace l’existence même de l’humanité.
