Lorsque l’on parle de la sécurité sur le cloud, le risque de perte de confidentialité est habituellement le premier exprimé. Pourtant, le récent bug de Google doit aussi nous rappeler que la disponibilité reste aussi un aspect primordial de la sécurité de nos informations dans le cloud.
Entre intelligence artificielle et erreurs
Dans le but de bloquer des contenus inappropriés, l’intelligence artificielle de Google s’est emballée. En effet, des utilisateurs collaborant sur des documents partagés via les services cloud de Google se sont retrouvés temporairement exclus de leurs fichiers cette semaine. La raison du blocage indiquait que leur contenu enfreignait les règles d’utilisation de Google.
Le problème, résolu depuis, a été imputé à une mise à jour du code AI qui a «incorrectement signalé un faible pourcentage de Google Docs comme abusif», selon un communiqué de Google.
Quid de la souveraineté de nos données?
Même si Google indique qu’il mettra en place des processus pour empêcher que cela ne se reproduise à nouveau, l’incident lève de nombreuses questions et craintes. Elles sont à généraliser et elles concernent bien sûr tous les fournisseurs de services en ligne.
Ce cas rappelle que l’analyse automatisée soulève des problèmes de sécurité, de confidentialité bien sûr mais également de disponibilité.
En mettant ses données sur le cloud, il est nécessaire de se rappeler qu’il y a de nombreux intermédiaires et fournisseurs qui peuvent en bloquer leur accès, volontairement ou non. Les risques opérationnels doivent bien entendu considérer de tels scénarios.
Voici une série d’article sur cette erreur qui (re)pose des questions fondamentales sur la souveraineté de nos données. Est-ce que Google et d’autres pourront ainsi bientôt décider et détruire nos informations qu’ils jugeront inadéquates. Toutes les bases d’une censure automatique sont déjà techniquement en place.
Google Docs lockout: It’s fixed, Google says, but users fret over ‘creepy monitoring’
A Google Docs glitch reminds users that the cloud’s convenience can come at the expense of privacy and control.
Google admitted its AI is making errors when deleting terrorist content off YouTube
Journalists and researchers have complained about the deletion of legitimate videos.
https://www.extremetech.com/internet/258210-google-docs-lockout-resolved-users-unhappy-vague-explanation
https://www.fastcompany.com/40489458/google-docs-are-inexplicably-locking-people-out-for-tos-violations
Des contenus Google Docs supprimés par erreur de filtrage | Silicon
L’algorithme d’analyse des contenus de Google Docs a considéré comme abusifs un certain nombre de documents. Par erreur.
