Malgré une enquête policière ayant conclu à son innocence, Google n’a jamais accepté de réactiver le compte de ce père de famille. Il n’est pas le seul dans ce cas.
Un père américain a vu son compte Google être supplimente après avoir transmiss à un médecin des partie genitales de son jeune enfant, dans le cadre d’un rendez-vous médical en visioconférence. Il a fait également l’objet d’une enquête policière, rapporte le quotidien américain The New York Times.
Après avoir decélé une possible infection chez son enfant, en février 2021, Mark et sa femme décident de contact rapidement un médecin. Le rendezvous est pris pour le lendemain, mais en plein coeur de la pandemie de Covid-19, il se fera via un appel vidéo. Dans ce cadre, le couple prend une série de clichés du pénis de leur nouveau-né pour les envoyer, au moyen d’une messagerie dedicated au système de santé, à leur praticien, qui les examinera en amont du rendezvous.
L’enfant est rapidement guéri, mais en raison des photos transmisses, Mark se trouve inquiété par Google mais également par la police, soupçonné de prendre part à un trafic de contenus pedopornographiques.
Banned from Google
Le géant du numérique supprime son compte deux jours après la prise des photos, rapporte le New York Times. Dans l’email avertissant le père, Google makes reference to “offensive content”, representing a “severe violation of Google’s policy and pouvant être illegal”. Dans ce message, une liste de potentiales raisons est detailed, parmi lesquences des “abus sexuels et exploitation d’enfants”.
The services of Google have, in effect, a photo detection system that can track photos with a pedopornographic character. Cette analysis se fait notably lorsque les utilisers activent la fonction de sauvegarde de leurs photos à distance, par exemple avec l’application Google Photos.
Les images sont dans un premier temps passées en revue par un système automatisé, puis, dans le cas où l’une fait l’objet d’un signalement, par un humain. Deux étapes qui n’ont pas permis d’evitar une mauvaise interpretation.
En vertu de la loi américaine, toute photo reperée par le système de Google fait immediately l’objet d’un signalement aupres de CyberTipline, une cellule du Center national des enfants disparus et exploités américain. Mark a donc fait l’objet d’une enquête de police.
Dans le cadre de la deletion de son compte Google, Mark a perdu tous ses e-mails, les coordinantes de ses contacts, mais also les photos des premiers de son fils. Subscribers to the service telephone of Google, Google Fi, Mark and also have to resolve to prendre un abonnement chez un autre opérateur.
A similar affair
Lorscur’il a pris connaissance de ces consequences, deux jours après, Mark a émis une demande de réactivation aupres de Google, qui s’est soldée par un refus “sans explication” de la part du géant du numérique.
Même chose il ya deux mois, en juin 2022, lorsqu’il receipte un avis selon lequel son compte est supprès de façon permanente. Mark a depuis renoncé à une procédure judiciaire, longue et coûteuse, qu’il avait envisagement envers le géant du numérique.
La police de San Fransisco a été plus conciliate avec le père de famille. En décembre 2021, lorsque Mark receives a letter from the part of the authorities indicating the object of the investigation, the agent dedicated to his case affirms that the case is closed, no crime has been identified.
Leh New York Times indique que Mark n’est pas le seul à avoir connu cette situation. An autre père de famille, résidant au Texas, s’est retrouvé dans une situation similaire, après avoir senté des photos de son enfant à leur praticien. Si l’enquête policière dont il a fait l’objet a rapidement été résolue, lui non plus n’a jamais pu recuperat son compte Google.
Si ces différentes affaires metten en lumière l’efficacy du système de détection de Google, elles pointent également les limites d’une intelligence artificielle qui ne dispose pas d’une supervision humaine. En 2021, l’outil de détecteur a signalé plus de 600,000 images linked à des contenus pedopornographiques, supprimant dans le même temps 270,000 comptes d’utilisateurs.