Canarini contro la super-intelligenza


Autore Messaggio
Corriere della Fantascienza
Redazione
Messaggi: 6396
MessaggioInviato: Lun 16 Mar, 2020 10:16    Oggetto: Canarini contro la super-intelligenza   

Canarini contro la super-intelligenza

Un sistema d'allarme per prevenire l'avvento di "Skynet": tre questioni chiave da tenere d'occhio



Leggi l'articolo
perky.pat
Scaraburra
Messaggi: 9
Località: Cesena
MessaggioInviato: Lun 16 Mar, 2020 10:16    Oggetto: Canarini contro la super-intelligenza   

L’articolo originale è secondo me senz’altro interessante nell’individuare delle linee rosse di approssimazione progressiva. Pragmatico e poco speculativo, grazie per avercelo segnalato. Contiene però un’inesattezza in apertura che, mi sembra dalla vostra sintesi, anche voi avete colto: Bostrom e Tegmark non parlano di superintelligenze malvage, o per meglio dire, ne accennano ma le indicano come improbabili, poiché è molto più probabile che le azioni delle AGI non saranno mosse da cattiveria: semplicemente “potremmo trovarci sulla strada di qualsivoglia progetto si sia messa in testa la superintelligenza”. Vi ringrazio quindi per la cura che avete messo nel vostro articolo, che non si è limitato a riassumere quello originale, ma ha fatto uno step in più unendo puntini anche dalle fonti citate.

La cosa che più mi ha dato da riflettere è il paragone tra la proposta di Bostrom e la Pascal's Wager. Punto di vista molto interessante, ma che non tiene conto, secondo me, di alcuni fattori. Per esempio di questi due: 1) l’avvento delle AGI è tutt’altro che improbabile e, in caso, l’avvento delle post-AGI seguirà a ruota; 2) mettere d’accordo i governi del mondo su come gestire, a tutti i livelli, le AI e le AGI porterà via decenni, nella più rosea delle ipotesi, quindi è semplicemente indispensabile partire subito, non rimandare a domani. Questa non è una scommessa di Pascal che riguarda creature sovrannaturali, è la vita vera, con dati veri a disposizione.
mikronimo
Deva Deva
Messaggi: 1120
Località: dove mi mandano quando rompo...
MessaggioInviato: Lun 16 Mar, 2020 15:55    Oggetto: Canarini contro la super-intelligenza   

perky.pat ha scritto:
...mettere d’accordo i governi del mondo su come gestire, a tutti i livelli, le AI e le AGI porterà via decenni...

Vero, ma probabilmente irrilevante; ne abbiamo avuto un perfetto esempio con le bambine cinesi modificate geneticamente per essere resistenti all'HIV: vietato, vietatissimo, eticamente folle, ma è stato fatto e una volta che il genio è fuori dalla lampada, non lo si può rimettere dentro; nello specifico delle AGI, non appena un qualsiasi attore interessato al suo sviluppo, riuscirà ad accenderla/renderla cosciente, le sue risorse saranno tali da essere, se non per sua stessa volontà (morale, etica, pratica), inarrestabile, dato che in un mondo interconnesso e digitalmente globalizzato (fisicamente, forse, dati gli eventi recenti, un po' meno), una AGI è un dio in terra; sono convinto anche io che la AGI malvagia sia insensata e in quanto essere senziente e sicuramente saggio, più probabilmente amichevole in senso generale con la razza umana; rischiamo al limite di ritrovarci trattati come cuccioli scemi e innocui, costretti a seguire regole che ci obblighino a comportarci meglio, per lo meno per evitare di mandare in malora l'ambiente in cui anche la AGI vive, pur essendo artificiale e non biologica.
"E' tutto un gran casino, ma nel mondo reale va molto meglio" parafrasando Isaac Asimov, nelle presentazioni ai Premi Hugo.
Mostra prima i messaggi di:   
   Torna a Indice principale :: Torna a Commenti sulle notizie Tutti i fusi orari sono GMT + 1 ora

Vai a:  
Non puoi inserire nuove discussioni in questo forum
Non puoi rispondere alle discussioni in questo forum
Non puoi modificare i tuoi messaggi in questo forum
Non puoi cancellare i tuoi messaggi in questo forum
Non puoi votare nei sondaggi in questo forum