Papà invia foto di suo figlio nudo via Gmail e il suo account Google viene bloccato per sempre: notizia dell’anno scorso, ma fa capire bene le implicazioni del regolamento europeo CHATCONTROL

@privacypride

La scansione automatica di Gmail ha segnalato un account dopo l’invio di foto di un bambino nudo al medico. Ora l’account è bloccato per sempre.

'era una volta un padre che usava Google per tutto: e-mail, calendario, foto, login. Ma poi ha condiviso foto di suo figlio nudo con il medico dei loro figli tramite Gmail. Il suo account Google è stato bloccato. È stato segnalato per la distribuzione di materiale pedopornografico o CSAM (acronimo di child sexual abuse material). Anche se l’indagine è stata rapidamente chiusa, il blocco di Google è rimasto in vigore. Questo padre ha perso l’accesso ad anni di conversazioni e-mail, voci di calendario, foto e altro ancora. Questo esempio dimostra quanto sia dannosa la scansione di materiale CSA. Abbiamo invece bisogno di sicurezza e privacy online!

L’incidente descritto sopra è avvenuto durante la pandemia di COVID, con la chiusura di molti studi medici. Tra i primi a parlarne, il New York Times.

Google gestisce un sistema automatico per analizzare ogni messaggio inviato alla ricerca di potenziale materiale pedopornografico (CSAM).

Ad oggi, questo sistema è volontario, ma l’UE vuole rendere obbligatoria la scansione lato client per la ricerca di materiale CSAM, il che rappresenterebbe una devastante intrusione nella privacy di tutti.

I sistemi di riconoscimento di contenuti sono soggetti a errori e possono rovinare la vita digitale e quella reale degli utenti

  • Moonrise2473
    link
    fedilink
    arrow-up
    4
    ·
    1 year ago

    Da specificare che non ha mandato “foto del figlio nudo” (che potrebbe essere grave) ma ha fatto una domanda medica al proprio pediatra inviando una foto dettagliata. Non a caso è stato scagionato immediatamente dalle autorità competenti.

    Purtroppo Google è completamente gestito da bot e non è possibile contattare un umano per una revisione manuale, il ban in questi casi è permanente perché i bot vedono che c’è un pene nella foto e non possono capire il contesto medico.

    Dare ad aziende come Google un obbligo del genere è follia

    • privacypride@poliverso.orgOPM
      link
      fedilink
      arrow-up
      3
      arrow-down
      1
      ·
      1 year ago

      @Moonrise2473

      > Da specificare che non ha mandato “foto del figlio nudo” (che potrebbe essere grave

      )

      Tu dici che non è il titolo giusto, ma in realtà quel titolo mette subito il lettore in condizione di pensare che quel padre sia colpevole e in tal modo si capisce il senso di #chatcontrol: tu mandi un messaggio che credi essere riservato e il sistema lo intercetta senza mandato di alcun magistrato, lo interpreta come un messaggio CSAM e fine della storia.
      Nel caso migliore tu passi una brutta settimana, ma poi ti si sistema tutto e fai finta che non sia successo nulla, che è la specialità che ogni suddito sviluppa per sopravvivere.
      Nel caso peggiore passi i guai, perdi tutto e magari si viene anche a sapere in giro che mandi foto di bambini nudi.

      Eh no, mi dispiace, ma il titolo è giusto

  • qwe
    link
    fedilink
    arrow-up
    4
    ·
    1 year ago

    All’epoca, avevo sentito pure che Google aveva mandato (spontaneamente) alla polizia tutti i dati del tizio: dalle email alle ricerche effettuate e alla traccia della geolocalizzazione.

    • privacypride@poliverso.orgOPM
      link
      fedilink
      arrow-up
      2
      ·
      1 year ago

      @qwe Sinceramente non mi ricordavo di questo dettaglio che, se confermato, Sarebbe ancora più inquietante. A parziale giustificazione di Google (parziale eh, Google è uno dei più accesi sostenitori di questo tipo di controlli sciagurati), c’è da dire che per un provider di servizi che offre spazio web agli utenti, il fatto che a causa di alcune immagini si rischia il sequestro dei server (e nel caso del Cloud un sequestro dei server può significare un interruzione di servizio su tutti i server Che condividono quel contenuto!), comporta un pericolo estremamente grande per una società abituata a fatturare continuativamente cifre immense…
      Tutto questo però non rende questo tipo di provvedimenti più digeribili: chi se ne frega dell’interesse delle aziende quando vengono messi a rischio i diritti delle persone!