Papà invia foto di suo figlio nudo via Gmail e il suo account Google viene bloccato per sempre: notizia dell’anno scorso, ma fa capire bene le implicazioni del regolamento europeo CHATCONTROL
'era una volta un padre che usava Google per tutto: e-mail, calendario, foto, login. Ma poi ha condiviso foto di suo figlio nudo con il medico dei loro figli tramite Gmail. Il suo account Google è stato bloccato. È stato segnalato per la distribuzione di materiale pedopornografico o CSAM (acronimo di child sexual abuse material). Anche se l’indagine è stata rapidamente chiusa, il blocco di Google è rimasto in vigore. Questo padre ha perso l’accesso ad anni di conversazioni e-mail, voci di calendario, foto e altro ancora. Questo esempio dimostra quanto sia dannosa la scansione di materiale CSA. Abbiamo invece bisogno di sicurezza e privacy online!
L’incidente descritto sopra è avvenuto durante la pandemia di COVID, con la chiusura di molti studi medici. Tra i primi a parlarne, il New York Times.
Google gestisce un sistema automatico per analizzare ogni messaggio inviato alla ricerca di potenziale materiale pedopornografico (CSAM).
Ad oggi, questo sistema è volontario, ma l’UE vuole rendere obbligatoria la scansione lato client per la ricerca di materiale CSAM, il che rappresenterebbe una devastante intrusione nella privacy di tutti.
I sistemi di riconoscimento di contenuti sono soggetti a errori e possono rovinare la vita digitale e quella reale degli utenti
Da specificare che non ha mandato “foto del figlio nudo” (che potrebbe essere grave) ma ha fatto una domanda medica al proprio pediatra inviando una foto dettagliata. Non a caso è stato scagionato immediatamente dalle autorità competenti.
Purtroppo Google è completamente gestito da bot e non è possibile contattare un umano per una revisione manuale, il ban in questi casi è permanente perché i bot vedono che c’è un pene nella foto e non possono capire il contesto medico.
Dare ad aziende come Google un obbligo del genere è follia
> Da specificare che non ha mandato “foto del figlio nudo” (che potrebbe essere grave
)
Tu dici che non è il titolo giusto, ma in realtà quel titolo mette subito il lettore in condizione di pensare che quel padre sia colpevole e in tal modo si capisce il senso di #chatcontrol: tu mandi un messaggio che credi essere riservato e il sistema lo intercetta senza mandato di alcun magistrato, lo interpreta come un messaggio CSAM e fine della storia.
Nel caso migliore tu passi una brutta settimana, ma poi ti si sistema tutto e fai finta che non sia successo nulla, che è la specialità che ogni suddito sviluppa per sopravvivere.
Nel caso peggiore passi i guai, perdi tutto e magari si viene anche a sapere in giro che mandi foto di bambini nudi.Eh no, mi dispiace, ma il titolo è giusto
All’epoca, avevo sentito pure che Google aveva mandato (spontaneamente) alla polizia tutti i dati del tizio: dalle email alle ricerche effettuate e alla traccia della geolocalizzazione.
@qwe Sinceramente non mi ricordavo di questo dettaglio che, se confermato, Sarebbe ancora più inquietante. A parziale giustificazione di Google (parziale eh, Google è uno dei più accesi sostenitori di questo tipo di controlli sciagurati), c’è da dire che per un provider di servizi che offre spazio web agli utenti, il fatto che a causa di alcune immagini si rischia il sequestro dei server (e nel caso del Cloud un sequestro dei server può significare un interruzione di servizio su tutti i server Che condividono quel contenuto!), comporta un pericolo estremamente grande per una società abituata a fatturare continuativamente cifre immense…
Tutto questo però non rende questo tipo di provvedimenti più digeribili: chi se ne frega dell’interesse delle aziende quando vengono messi a rischio i diritti delle persone!
