Après la tuerie de Tumbler Ridge, OpenAI promet de revoir sa sécurité

Face à la tragédie, une promesse de changement

Au cœur d’une affaire qui secoue le Canada, le géant de l’intelligence artificielle OpenAI s’est engagé à renforcer ses protocoles de sécurité. Cette décision fait suite à une rencontre cruciale, mercredi, entre son PDG, Sam Altman, et le ministre fédéral de l’Intelligence artificielle, Evan Solomon. L’enjeu : tirer les leçons d’un drame qui aurait peut-être pu être évité.

Dans une déclaration officielle, le ministre Solomon a annoncé plusieurs mesures concrètes promises par l’entreprise. OpenAI devra notamment fournir un rapport détaillant les nouveaux systèmes qu’elle développe pour repérer les utilisateurs à haut risque et ceux qui enfreignent ses politiques. En parallèle, le ministre a chargé l’Institut canadien de la sécurité de l’IA d’examiner en profondeur le modèle technologique de l’entreprise et de conseiller son cabinet sur les aspects techniques.

Le drame de Tumbler Ridge : une alerte manquée

Cette rencontre au sommet trouve son origine dans la fusillade qui a endeuillé la communauté de Tumbler Ridge, en Colombie-Britannique. Le 10 février dernier, Jesse Van Rootselaar a abattu huit personnes, dont six enfants, avant de se donner la mort. L’enquête a révélé un lien troublant avec la technologie : des mois avant le passage à l’acte, OpenAI avait banni le tireur de son service ChatGPT en raison d’interactions jugées inquiétantes.

Le point de rupture se situe là : malgré cette détection, l’entreprise n’a jamais alerté les forces de l’ordre. Si OpenAI a depuis affirmé que de nouveaux protocoles auraient désormais déclenché un signalement à la police, le ministre Solomon a martelé que cette tragédie « exige des réponses et des mesures de protection plus strictes lorsque des technologies d’IA puissantes sont en jeu ». La question demeure : un signalement aurait-il pu changer le cours des événements ?

Une série d’engagements pour regagner la confiance

Pour répondre à la pression, Sam Altman a accepté une série de mesures précises. La plus immédiate est la mise en place d’un point de contact direct avec la Gendarmerie royale du Canada (GRC), afin de fluidifier la communication dans les cas critiques. OpenAI s’est également engagé à implémenter des protocoles de sécurité visant à orienter les utilisateurs identifiés comme étant « en détresse » vers les services d’aide locaux appropriés.

Plus significatif encore, M. Altman a confirmé que l’entreprise appliquerait ses nouvelles normes de sécurité de manière rétroactive. Les cas précédemment signalés en interne seront donc réexaminés. « Cela permettra de déterminer si d’autres incidents qui auraient dû être signalés aux forces de l’ordre en vertu des nouvelles normes de sécurité d’OpenAI ont été omis, et de s’assurer qu’ils soient rapidement signalés à la GRC », a précisé le ministre Solomon dans sa déclaration.

Enfin, OpenAI évaluera comment intégrer des experts canadiens spécialisés en protection de la vie privée, en santé mentale et en application de la loi. L’objectif est de les associer au processus d’identification et d’examen des cas à haut risque impliquant des utilisateurs canadiens de sa technologie, afin de mieux adapter ses réponses au contexte local.

La pression politique s’accentue sur OpenAI

Avant même sa rencontre avec le PDG d’OpenAI, le ministre Solomon avait publiquement haussé le ton. Invité à l’émission Power and Politics de CBC, il a révélé avoir dit à Sam Altman que les habitants de Tumbler Ridge méritaient des excuses pour le rôle joué par l’entreprise dans les événements qui ont mené à la tuerie. Une demande d’excuses initiée par le premier ministre de la Colombie-Britannique, David Eby.

Le ministre a affirmé qu’il appuyait « absolument » cette démarche. La pression ne s’arrête pas là : David Eby doit lui-même rencontrer Sam Altman ce jeudi. Selon la procureure générale de la Colombie-Britannique, Niki Sharma, l’objectif de cette rencontre est clair : déterminer si l’entreprise aurait pu, d’une manière ou d’une autre, empêcher la fusillade. Pour Mme Sharma, cet épisode soulève une question plus large qui incombe au gouvernement fédéral : celle de la réglementation et de la supervision des plateformes comme OpenAI.

Une enquête du coroner pour faire la lumière

Les discussions politiques ne sont pas les seules suites de cette affaire. Mardi, le coroner en chef de la Colombie-Britannique, le Dr Jatinder Baidwan, a officiellement annoncé l’ouverture d’une enquête sur la fusillade de Tumbler Ridge. Fait notable, l’un des axes de cette investigation sera d’examiner spécifiquement le rôle joué par l’intelligence artificielle.

Cette enquête officielle représente une nouvelle étape dans la recherche de réponses. La procureure générale Niki Sharma a exprimé publiquement son espoir de voir OpenAI participer activement à l’enquête du coroner et partager toutes les informations pertinentes dont elle dispose. La collaboration de l’entreprise sera scrutée de près, alors que le Canada tente de définir les responsabilités des nouvelles technologies face à la sécurité publique.

Selon la source : lapresse.ca