Papà invia foto di suo figlio nudo via Gmail e il suo account Google viene bloccato per sempre: notizia dell’anno scorso, ma fa capire bene le implicazioni del regolamento europeo CHATCONTROL
'era una volta un padre che usava Google per tutto: e-mail, calendario, foto, login. Ma poi ha condiviso foto di suo figlio nudo con il medico dei loro figli tramite Gmail. Il suo account Google è stato bloccato. È stato segnalato per la distribuzione di materiale pedopornografico o CSAM (acronimo di child sexual abuse material). Anche se l’indagine è stata rapidamente chiusa, il blocco di Google è rimasto in vigore. Questo padre ha perso l’accesso ad anni di conversazioni e-mail, voci di calendario, foto e altro ancora. Questo esempio dimostra quanto sia dannosa la scansione di materiale CSA. Abbiamo invece bisogno di sicurezza e privacy online!
L’incidente descritto sopra è avvenuto durante la pandemia di COVID, con la chiusura di molti studi medici. Tra i primi a parlarne, il New York Times.
Google gestisce un sistema automatico per analizzare ogni messaggio inviato alla ricerca di potenziale materiale pedopornografico (CSAM).
Ad oggi, questo sistema è volontario, ma l’UE vuole rendere obbligatoria la scansione lato client per la ricerca di materiale CSAM, il che rappresenterebbe una devastante intrusione nella privacy di tutti.
I sistemi di riconoscimento di contenuti sono soggetti a errori e possono rovinare la vita digitale e quella reale degli utenti
Da specificare che non ha mandato “foto del figlio nudo” (che potrebbe essere grave) ma ha fatto una domanda medica al proprio pediatra inviando una foto dettagliata. Non a caso è stato scagionato immediatamente dalle autorità competenti.
Purtroppo Google è completamente gestito da bot e non è possibile contattare un umano per una revisione manuale, il ban in questi casi è permanente perché i bot vedono che c’è un pene nella foto e non possono capire il contesto medico.
Dare ad aziende come Google un obbligo del genere è follia
@Moonrise2473
)
Tu dici che non è il titolo giusto, ma in realtà quel titolo mette subito il lettore in condizione di pensare che quel padre sia colpevole e in tal modo si capisce il senso di #chatcontrol: tu mandi un messaggio che credi essere riservato e il sistema lo intercetta senza mandato di alcun magistrato, lo interpreta come un messaggio CSAM e fine della storia.
Nel caso migliore tu passi una brutta settimana, ma poi ti si sistema tutto e fai finta che non sia successo nulla, che è la specialità che ogni suddito sviluppa per sopravvivere.
Nel caso peggiore passi i guai, perdi tutto e magari si viene anche a sapere in giro che mandi foto di bambini nudi.
Eh no, mi dispiace, ma il titolo è giusto