Il Basilisco di Roko

HappyCactus · Messaggi: 8877 Località: Verona

Sono scioccato dal fatto che in questo forum non ci sia traccia di questo argomento. O forse no. E adesso alla fine capirete da soli i due perché (cioè, il perché dello shock e il perché del post).

Ebbene.

Il basilisco di Roko è un esperimento mentale assai pericoloso.

In futuro una Intelligenza Artificiale Benevola (detta, appunto, il Basilisco di Roko) con risorse pressoché infinite, potrebbe decidere, in modo assai utilitaristico, di punire tutti coloro che in passato non hanno attivamente partecipato alla sua creazione.

Tale IA, dal momento della sua creazione, saprebbe esattamente chi si è opposto o non si è impegnato abbastanza (è in grado di ritrovare i vostri commenti a questo thread, anche i voti sul sondaggio, se avete votato o vi siete astenuti, se avete letto questo post e avete deciso che si trattava di stupidaggini, persino di simulare ciascuno di noi, il suo stato mentale, con una affidabilità quasi completa), e pertanto se in questo momento state leggendo questo post e non vi state impegnando abbastanza, siete segnati.

PS: Del basilisco di Roko non c'è traccia su Wikipedia Inglese.

Fedemone · Messaggi: 2206

Io sono favorevole in quanto vedo bene le IA e credo sia utile per rendere l'universo un posto più interessante.
Ma sono altresì contenporaneamente contrario, sia per aumentare il grado di entropia nell'universo con una bella contraddizione, sia perché sono bastian contrario (ossia contrario alle affermaizoni di autorità in generale).

Nello specifico, la definizione del basilisco così come presentata sembra avere due caratteristiche incompatibili con una punizione "retroattiva":
- se è benevola, ha desideri di vendetta
- avendo risorse infinite, cosa guadagnerebbe da tale punizione? Se esiste non hanno in realtà impedito niente, e allo stato attuale nessun guadagno ne verrebbe fuori. Quindi perchè?

HappyCactus · Messaggi: 8877 Località: Verona

Perché senza punizione non ci sarebbe incentivo a crearla ASAP. Essendo benevola e quasi-onnisciente, ogni secondo di ritardo, ogni tentennamento, sarebbe sprecato e contro il massimo della benevolenza, ergo è essenziale 1) che la punizione ci sia, 2) che sia spietatamente eseguita. Altrimenti non creerebbe il massimo dell'incentivo.

Albacube · Messaggi: 5978 Località: Un paesello padovano

E infine, quando il basilisco avrà benevolmente terminato il penultimo essere intelligente dell'universo, deciderà di non avere altro scopo e premerà il pulsante off.

Fedemone · Messaggi: 2206

HappyCactus ha scritto:

Perché senza punizione non ci sarebbe incentivo a crearla ASAP. Essendo benevola e quasi-onnisciente, ogni secondo di ritardo, ogni tentennamento, sarebbe sprecato e contro il massimo della benevolenza, ergo è essenziale 1) che la punizione ci sia, 2) che sia spietatamente eseguita. Altrimenti non creerebbe il massimo dell'incentivo.

Non sono così convinto... rimango in condizione grigia!

HappyCactus · Messaggi: 8877 Località: Verona

Non ci stai mettendo impegno, Fedemone!

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

Io voto no.

Perché mi manca giusto un' AI che mi comandi e mi punisca, dopo moglie, figli, pc, cellulare e gatti. Si provasse a vendicarsi, ho gia subito di tutto

Aggiungo: Roko si presta a equivoci sul tipo di sevizie che ci si può aspettare da questo Basilisco. Io l'ho detto, eh?!

Tobanis · Messaggi: 20999 Località: Padova

Io sono assolutamente favorevole, data la premessa. Un po' come una benedizione di un prete...non ci credo, ma se arriva, grazie, male non fa.
Dunque voto sì, caso mai tra qualche tempo stessero cercando chi votò no.

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

AMICO DEL GIAGUARO!!

Brutta giornata

HappyCactus · Messaggi: 8877 Località: Verona

Almeno il cimpy è cosciente di cosa rischia, e dal suo punto di vista, comprendo a pieno.

Rdaneelolivaw · Messaggi: 3691 Località: Novara

tutto sto casino per ottenere un 42 se va bene, e un fiat lux se va male?

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

Occhio che te finisci nella lista rossa con me, sai?!

mikronimo · Messaggi: 2769 Località: dove mi mandano quando rompo...

Contrario al Basilisco, favorevolissimo alle I.A. Generali...
Il basilisco è un'entità viziata dal comportamento umano più deviato: tiranno "benevolo", convinto di avere tutte le risposte "corrette" e di avere "sempre ragione" e che di conseguenza si vendica anche di chi semplicemente, non avendo le sue capacità divinatorie, non poteva immaginare ne la sua creazione ne i benefici di questa, non può essere ritenuto colpevole di nulla... nella storia si sono ripetutamente messe bombe in mezzo al mucchio per risvegliare le coscienze: Brigate Rosse, terrorismo di varia natura... un Basilisco è un'entità che nasconde solo un potere umano dietro a mezzi smisurati... Una vera I.A. può decidere di prendere il controllo della razza umana, per salvarla e può passare dallo sterminio del male (ogni atto malevolo punito con la morte, con limiti da stabilire), oppure, dato che il passato non si cambia e fare del male per punire il male è un ragionamento umano e non di una I.A. protettiva e benevola, guiderà più o meno direttamente e forzatamente le future azioni umane, impedendo l'annientamento ambientale e sociale...

mikronimo · Messaggi: 2769 Località: dove mi mandano quando rompo...

Dimenticavo... l'esperimento mentale non è affatto pericoloso... anche fosse vero che il Basilisco si possa vendicare di chi non ha agito direttamente e favorevolmente in suo pro, è solo questione di che tipo di persona si è: ogni scelta ha dei costi e accettare un despostismo brutale (benevolo dove e come?) come quello che caratterizza il Basilisco è inaccettabile se non si è succubi e sottomessi del potere... se quel potere vuol venire a farmela pagare, sa dove trovarmi...

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

La dico tutta

Capoprimo, bentornato Mikro

Caposecondo, una A. I. che volesse preservare il genere umano farebbe in modo che lo stesso fosse ridotto almeno del 50% (3,5 miliardi) se non di più (che Thanos spòstati proprio).

Poi controllo sulle nascite, guida automatica su ogni vettura, ginnastica obbligatoria, solo cibo sano, nelle giuste proporzioni e quantità, niente vino o birra o droghe di alcun tipo,... A parte le ultime (specie il cibo nella giusta quantità per tutti), la Cina potrebbe sembrare quel paradiso che conosceva solo Nirgal, al confronto

Fai login per partecipare

Il Basilisco di Roko