Alors qu’Ottawa a convoqué les dirigeants d’OpenAI pour faire le point sur les protocoles de sécurité de la plateforme dans la foulée de la fusillade de Tumbler Ridge, le premier ministre de la Colombie-Britannique, David Eby, demande que des « seuils nationaux » de signalement par les plateformes d’intelligence artificielle (IA) soient instaurés.

Vendredi, l’entreprise américaine disait avoir envisagé d'alerter les forces de l'ordre au sujet des interactions de Jesse Van Rootselaar avec son agent conversationnel, ChatGPT.

OpenAI avait alors déterminé qu'il n'y avait pas de risque crédible ou imminent pour la sécurité d'autrui, et que le seuil requis pour un tel signalement n'avait pas été atteint. L'entreprise n’a contacté les autorités qu'après le drame de Tumbler Ridge.

J'essaie de comprendre pourquoi OpenAI n'a pas pris cette décision à l'époque, a lancé aux médias M. Eby, lundi, dans les couloirs de l'Assemblée législative, à Victoria.

Mon message à OpenAI est le suivant : si vous avez la possibilité de clarifier cela, de nous fournir des informations, de comprendre comment cela a pu se produire, vous devriez le faire, a ajouté le premier ministre.

Dans la foulée, il a pressé Ottawa de mettre en place un seuil national de signalement à la Gendarmerie royale du Canada (GRC) pour déterminer quand les entreprises d'IA doivent signaler les utilisateurs qui complotent des actes de violence sur leurs plateformes.

C'est une conversation importante que nous devons avoir en tant que pays en ce qui concerne les outils d'IA. Au sujet de ce seuil [de signalement], il est très important que les signalements soient cohérents dans tout le pays.

David Eby a précisé que la province ne relancera pas son projet de loi sur la réglementation des plateformes en ligne, mais que son gouvernement soutiendra le projet de loi fédéral sur les préjudices en ligne. Son gouvernement avait mis sur pause un projet de loi en avril 2024 après être parvenu à un accord avec les plateformes en ligne pour empêcher les méfaits en ligne.

Des balises encore floues pour l’IA

Selon Sébastien Gambs, professeur en informatique et spécialiste en éthique de l'intelligence artificielle, chaque plateforme possède son propre seuil de signalement et celui-ci est difficile à établir.

La question du seuil est à mon avis très difficile parce qu'on est dans la psychologie humaine [...] c'est très difficile d'avoir un seuil [de signalement] parce que la tâche de prédire si une personne va passer à l'acte est très difficile.

M. Gambs croit surtout qu’une consultation plus large avec des acteurs de l’industrie, mais aussi des psychologues, doit avoir lieu sur la question. De plus, selon lui, alors que l’encadrement de l’IA est encore flou au Canada, un délicat équilibre entre respect de la vie privée et protection de la sécurité collective doit être trouvé.

Le professeur croit néanmoins qu’il manque des balises pour encadrer l’IA et qu’il est temps de les mettre en place. Il pointe du doigt l'importance, pour les gouvernements, de mettre des garde-fous.

À mon sens, il n'y a pas de balises claires qui ont été établies, il n'y a pas de guide de bonnes pratiques. Au Canada, je pense qu'on n'a pas encore d'accord entre la GRC et les grands acteurs du domaine qui dise "voilà, on pose les balises", ajoute-t-il.

Selon Sébastien Gambs, le Canada pourrait s’inspirer de l’AI Act mis en œuvre par l'Union européenne fin 2024. Le texte prévoit justement la mise en place de différents seuils de sécurité et des obligations de signalement aux autorités.