OpenAI doit fournir plus de précisions sur ses protocoles de sécurité, affirme le ministre canadien de l’Intelligence artificielle et de l’Innovation numérique, Evan Solomon.

Bien que nous constations sa volonté de renforcer ses protocoles de signalement aux forces de l'ordre, d'établir des points de contact directs avec les autorités canadiennes et d'améliorer les mesures de sécurité, nous n'avons pas encore vu de plan détaillé sur la manière dont ces engagements seront mis en œuvre, note Evan Solomon, qui souligne également le manque de transparence de l’entreprise.

Les Canadiens méritent davantage de clarté quant à la manière dont les décisions sont prises lors des révisions humaines, à la façon dont les seuils d’escalade sont appliqués, et à l’équilibre entre les considérations relatives à la vie privée et la sécurité publique.

Le ministre dit vouloir explorer avec collègues les options à leur disposition pour que les décisions qui touchent les Canadiens [reflètent] les lois, les standards et l’expertise canadiennes.

Le ministre doit rencontrer le président-directeur général d’OpenAI, Sam Altman, la semaine prochaine, afin d'obtenir davantage de précisions et de s'assurer que les engagements pris par l'entreprise se traduisent en actions concrètes.

Il compte également rencontrer les représentants d’autres grandes plateformes en service au Canada afin, dit-il, de s'assurer que notre pays a une approche claire et cohérente en matière d'escalade, de coordination locale et de protection des jeunes.

Sam Altman est le cofondateur et président-directeur général d'OpenAI.

Photo : Reuters / Shelby Tauber

Des vides légaux importants

Les récents aveux d’OpenAI sur l’existence d’un deuxième compte ChatGPT de la tireuse de Tumbler Ridge exposent les difficultés d’adopter de nouvelles lois au même rythme que les développements de l’intelligence artificielle pour éviter les vides juridiques dangereux pour l’humanité.

Dans la foulée de la fusillade survenue à Tumbler Ridge, l’entreprise OpenAI a dévoilé qu’un premier compte de son outil ChatGPT appartenant à la tireuse avait été suspendu parce qu'il avait enfreint les politiques de l’entreprise sur la violence. OpenAI a également dévoilé que la publication du nom de la tireuse lui a permis de découvrir qu’elle avait un second compte.

Le dirigeant d’OpenAI a été sommé de se présenter à Ottawa pour expliquer ses pratiques, et il a ensuite envoyé une lettre à divers politiciens canadiens expliquant les démarches qui ont été entreprises pour améliorer ses pratiques.

Jean-Christohe Bélisle-Pipon, qui est professeur adjoint en éthique de la santé à l’Université Simon Fraser, affirme qu’OpenAI n’a pas enfreint à la loi, car il n’y a pas de loi.

Je ne pense pas que ça pallie le vide juridique, dans le sens que le vide juridique fait en sorte qu'on n'a pas d'attente légale réglementaire envers l'intelligence artificielle, envers ce type de compagnie là, explique-t-il.

Un point de contact, c’est bien, mais il faut savoir exactement quand l'utiliser, puis sur la base de quelles informations, et quelles informations peuvent être divulguées.

Jean-Christophe Bélisle-Pipon reste toutefois optimiste : On a la capacité [...] de mettre en place des lois très rapidement, puis même des mesures expéditives qui vont être mises en place pour créer ces ces seuils-là.