crosspostato da: https://poliversity.it/users/macfranc/statuses/114239323847154041
Le reti russe inondano Internet di propaganda, con l’obiettivo di corrompere i chatbot AI
La natura auto-iterativa e diffusa dell’intelligenza artificiale è un mezzo perfetto per un nuovo abuso della tecnologia vis a vis disinformazione
La natura auto-iterativa e diffusa dell’intelligenza artificiale è un mezzo perfetto per un nuovo abuso della tecnologia vis a vis di disinformazione. Ciò può essere fatto in due modi: gli usi dannosi più familiari dell’IA sono esterni alla tecnologia. Diffondono falsità istruendo i modelli di IA a produrre in massa false narrazioni, ad esempio utilizzando l’IA per creare rapidamente migliaia di articoli contenenti disinformazione selezionata, quindi pubblicando quegli articoli online. Ma la disinformazione può anche essere dispersa tramite la corruzione interna degli stessi modelli di linguaggio ampio. Questo fenomeno, che abbiamo soprannominato “LLM grooming” in un nuovo rapporto, è pronto a portare Internet e la disinformazione digitale in una nuova era pericolosa.
Il rapporto riporta prove dettagliate del fatto che la cosiddetta “rete Pravda” (nessuna relazione con l’outlet di propaganda Pravda ), una raccolta di siti Web e account di social media che aggregano propaganda pro-Russia, è impegnata in un’attività di LLM grooming con il potenziale intento di indurre i chatbot AI a riprodurre disinformazione e propaganda russe. Da quando abbiamo pubblicato il nostro rapporto, NewsGuard e il Digital Forensic Research Lab ( DFRLab ) dell’Atlantic Council, organizzazioni che studiano le operazioni di informazione maligna, hanno confermato che il contenuto della rete Pravda veniva citato da alcuni importanti chatbot AI a sostegno di narrazioni pro-Russia che sono dimostrabilmente false. Se non affrontate, queste false narrazioni potrebbero affliggere quasi ogni informazione online, minando la democrazia in tutto il mondo.