Come MISURATE il rischio che una AI stermini il genere umano, di preciso?
Perché nel momento in cui create un’autorità incaricata di giudicare questo rischio, prima o poi qualcuno dovrà dire che la AI A presenta un rischio maggiore della AI B. E allora bisognerà capire perché una presenta, diciamo, un rischio del 12% e l’altra del 14%.
Come lo avete calcolato?
Ma poi facciamo finta di avere risorse infinite da dedicare a questa tecnologia e di poterne dunque garantire il massimo sviluppo teoricamente plausibile, mi potete spiegare che mezzi ha un software per rappresentare una minaccia per la civiltà umana? A meno che non abbiano agganciato roba come centrali nucleari e basi missilistiche alle API di Claude o ChatGPT ma allora in tal caso meritiamo l’estinzione
deleted by creator
@pierobosio @informapirata @aitech @uriel
Lo prometti?
Dimme che è una promessa, ti prego@pierobosio @aitech @informapirata
Io invece penso che siamo così assuefatti al cinismo del capitalismo che siamo totalmente disabituati a qualunque presa di coscienza da parte di una azienda.
Finché ci sono investitori che infondono soldi questi non si possono fermare, è nel DNA del turbocapitalismo, si possono solo fermare interviene un organo politico predisposto. Il che è totalmente contro natura, in quanto i gli iperliberisti vogliono, cercano e ottengono l’annulamento di qualunque organo di controllo.
L’idea del rallentamento per mitigare la bolla mi sembra debole, non è mai accaduto e non vedo perché debba accadere ora. Generalmente il turbocapitalismo ipercinico tenta di estrarre il profitto fino alla fine, anche l’ultimo istante.
In fondo, ogni crisi ha il suo rovescio di medaglia, e i più scaltri (o cinici) riescono comunque ad accumulare potere e ricchezza.
Io credo che si dovrebbe invece prendere l’occasione al volo e iniziare a regolamentare, il fatto che i training è estremamente costoso è solo il risultato dell’assenza di pianificazione scientifica a favore di una corsa all’oro dove il primo che arriva arruffa tutto.
Vale per l’AI come per il software attuale, serve fare CPU potenti per far girare software poco ottimizzato e non si ottimizza niente perché tanto si fanno CPU più potenti, ed oggi per girare una qualsiasi pagina web ti serve una CPU da 4GHz 8core 16 Threads, 16GB di RAM, e una GPU da altri 16GB.
Si regoliamo e rifacciamo tutto da capo e meglio… 🙏
@freezr
Sì, di solito un industriale promuove ed elogia il suo prodotto per vendere e fare profitti. Qui invece ci troviamo di fronte a investitori che si sentono dire che hanno investito in una tecnologia pericolosa per la propria esistenza e quindi potenzialmente poco remunerativa facendoti sentire un fesso se non un coglione. È un comportamento quantomeno curioso e poco razionale.@freezr @informapirata @pierobosio @aitech (un altra lettura, anche se io pure credo nella bolla) se una tecnologia X è pericolosa, io governo Y farò in modo che solo le aziende che già la producano oggi possano usarla, impedendo che altre aziende possano maneggiare qualcosa di insicuro. O comunque metterò talmente tante regole e burocrazia che solo chi già lo faceva prima può permettersi di adeguarsi, tagliando fuori tutti gli altri.
@costafrancesco94 si vede lontano un miglio che questo terrore da fine del mondo è una cazzata.
Pensiamo per un momento che la IA potrebbe ucciderci tutti e, per superare l’obiezione di @uriel aggiungiamo che, per ragioni di sicurezza, non possono spiegarci come farà né come è stato misurato il rischio.
Cosa farebbe uno stato che immagino sarà stato opportunamente informato dai propri servizi segreti?
- spegne immediatamente la connessione di tutti i sistemi di sorveglianza
- implementa investimenti monstre per la messa in sicurezza delle centrali elettriche, delle infrastrutture di depurazione e degli acquedotti, dei sistemi ferroviari e degli ospedali
- commissaria tutti gli attori di IA o, se non ne ha sul proprio teritorio nazionale, mette sotto controllo diretto tutta la catena di fornitura che preveda contratti con questi player
- elabora un piano di emergenza per la popolazione
Non dico che voglio vedere tutti questi quattro sigilli dell’apocalisse, ma finché non vedo almeno uno di questi segni tutta questa polemica mi sembrerà una cazzata, una strategia di marketing tirata su da quello che @informapirata@mastodon.uno chiama l’apocalyps team (che nella mia immaginazione è simile più al gruppo dei tre sceneggiatori di Boris, che non a un gruppo di improbabili superanalisti nerd con i bicipiti scolpiti e la tartaruga come Giècràian)
