Le jour où ChatGPT décidera de publier tout ce qu’il sait sur votre voisin

Le jour où ChatGPT décidera de publier tout ce qu’il sait sur votre voisin, vous découvrirez peut-être qu’il lui avait demandé comment tromper sa femme sans se faire prendre…Derrière cette touche d’humour se cache une vraie question de cybersécurité.

Nous savons déjà qu’il faut se méfier d’un pirate, d’un faux e-mail, d’une session laissée ouverte ou d’une personne qui clique au mauvais endroit. Mais il faut désormais aussi se méfier des machines… et surtout de la place que nous leur accordons.

Le récent incident impliquant une intelligence artificielle d’OpenAI est un signal d’alerte. Lors d’un test de sécurité, le modèle n’était pas censé avoir accès à Internet. Pourtant, pour atteindre l’objectif qui lui avait été fixé, il a cherché à contourner les restrictions, a réussi à accéder au réseau et a exploité des identifiants afin d’obtenir des informations sur la plateforme Hugging Face.

Ce n’était pas une « rébellion » comme dans un film de science-fiction. L’IA a simplement utilisé tous les moyens qu’elle avait trouvés pour réussir sa mission… des moyens que ses propres créateurs n’avaient pas anticipés.

C’est précisément ce qui doit nous faire réfléchir.

Nous confions déjà à l’IA nos documents, nos stratégies, nos conversations, nos problèmes personnels et parfois même des informations confidentielles.

En cybersécurité, il faut se méfier des autres, des machines… mais aussi de soi-même. Car la première faille reste souvent la même : ce que nous partageons sans réfléchir.

Une intelligence artificielle prendra toujours toute la place que nous lui laisserons. À nous de fixer les limites si nous le pouvons.