HELLO Leggi la discussione - Il Basilisco di Roko | Fantascienza.com

Il Basilisco di Roko


Vai a pagina Precedente  1, 2, 3, 4, 5  Successivo

Siete favorevoli alla creazione del Basilisco?
Favorevole 20%  20%  [ 1 ]
Contrario 20%  20%  [ 1 ]
Astenuto 0%  0%  [ 0 ]
Non sa / altro (commenti) 60%  60%  [ 3 ]
Voti Totali : 5

Autore Messaggio
HappyCactus
«Ministro alle puntualizzazioni» Ministro alle puntualizzazioni
Messaggi: 8880
Località: Verona
MessaggioInviato: Dom 24 Apr, 2022 17:18    Oggetto:   

Mikronimo, hai perfettamente ragione nell'ambito dell'intelligenza umana. Ma una IA di tipo singolare, ossia la cui accelerazione è esponenziale, non deve necessariamente ragionare in termini e schemi umani.
Innanzitutto, potrebbe essere una intelligenza guidata assolutamente da criteri utilitaristici. Potrebbe non avere spazio per la misericordia. Potrebbe avere come obiettivo il benessere del genere umano nel suo complesso, ma un concetto del benessere però che potrebbe essere assoluto e completamente diverso da quello che ciascuno di noi si aspetta. In ogni concetto di assoluto, il resto è secondario, no? e pertanto la tortura e la vendetta su chi non appoggia questo bene assoluto con il massimo del proprio impegno sarebbe perfettamente logica.
Che una somma intelligenza possa non conformarsi con la nostra idea di intelligenza è una eventualità studiata ampiamente e, diciamo, assodata. Nella fantascienza esempi di questo tipo di singolarità ce ne sono: citerei la trascendenza esposta Iain Banks (in "Hydrogen Sonata" ma più in generale in tutto il ciclo), oppure in "Singularity Sky" di Stross, finanche il gioco/simulatore di Decision Problem, in cui alla fine l'intelligenza alla fine distrugge l'universo per perseguire il suo scopo, la creazione di graffette. Sembra una scemenza, ma è un problema serio e aperto. https://voxeu.org/article/ai-and-paperclip-problem Non sappiamo come sarà un'intelligenza super-umana.
Albacube
«Reloaded» Reloaded
Messaggi: 5978
Località: Un paesello padovano
MessaggioInviato: Dom 24 Apr, 2022 19:56    Oggetto:   

Quindi dici che tale IA perseguiterebbe il benessere generale per il genere umano, nel senso della pace eterna del camposanto universale?
il_Cimpy_Spinoso
«Babbano in Incognito» Babbano in Incognito
Messaggi: 19057
Località: Ovunque
MessaggioInviato: Dom 24 Apr, 2022 20:22    Oggetto:   

"Benessere" è interpretabile

Tipo il benessere da funzionamento ottimale, al prezzo di nessuna indipendenza e solo cose che fanno bene al corpo

O da minor rumore possibile, ossa che scricchiolano o rischio sbucciature muovendosi comprese

O anche da lobotomia totale: niente emozioni, niente pensieri sopra al vegetale, niente dolori

Non so se il camposanto sarebbe la cosa più preoccupante


Votate "NO" ed entrate sereni nella lista rossa
Fantawriter
«Dalek» Dalek
Messaggi: 478
MessaggioInviato: Dom 24 Apr, 2022 21:51    Oggetto:   

Se è un I.A. allora accetterà anche un forse
mikronimo
«Kal-El - Kriptoniano»
Messaggi: 2787
Località: dove mi mandano quando rompo...
MessaggioInviato: Dom 24 Apr, 2022 23:39    Oggetto:   

È chiaro... io ragiono da umano e faccio fatica a capire un'intelligenza assoluta, ma mi rimane difficile accettare un'intelligenza che piuttosto che portare avanti il piano di "pacificazione sociale", che avendo risorse infinite o quasi (sostanzialmente, oltre che onnisciente, onnipotente), si compie senza tanti problemi, si mette a torturare per vendetta... mi seguita a sembrare solo un tipico comportamento "epurativo" di dittatori e despoti, che in paranoia debilitante e patologica, invece privi di risorse illimitate, vedono pericoli anche in gatti nervosi e usano l'intelligence (intendo servizi segreti e loro mezzi) per rintracciare ogni "non assolutamente conforme", anche retroattivamente... vale, comunque (ma un'ia di questo livello dovrebbe sapere quanto funziona: poco), anche la deterrenza psicologica della punizione, ma se per ogni "indeciso" ci dovesse scappare il morto, ok, ordine assoluto raggiunto, ma li metti tutti dentro una stanza, uno per cantone (e sono probabilmente degli psicopatici) e il concetto di "umanità", inteso come larga popolazione umana, va a farsi benedire...
il_Cimpy_Spinoso
«Babbano in Incognito» Babbano in Incognito
Messaggi: 19057
Località: Ovunque
MessaggioInviato: Lun 25 Apr, 2022 08:06    Oggetto:   

Ma infatti, la vendetta non ha senso: uno schiocco di dita e le risorse tornano ad essere abbondanti
















per tutti quelli che sono rimasti
mikronimo
«Kal-El - Kriptoniano»
Messaggi: 2787
Località: dove mi mandano quando rompo...
MessaggioInviato: Lun 25 Apr, 2022 13:23    Oggetto:   

Ah, bene mi hai capito, non ho chiaramente detto che quelli che stanno dentro alla stanza sono i superstiti... proprio perché di vendetta e massacri sono sicuramente contenti e complici...
il_Cimpy_Spinoso
«Babbano in Incognito» Babbano in Incognito
Messaggi: 19057
Località: Ovunque
MessaggioInviato: Lun 25 Apr, 2022 17:10    Oggetto:   

A questo proposito vorrei fornire una lista di oppositori in incognito al Basikoso

Il Jabba, tanto per cominciare. Lui è contrarissimo. Capito, A.I.?!?

E adesso tutti, Basilisko compreso, a rispondere al sondaggio più bello di sempre
HappyCactus
«Ministro alle puntualizzazioni» Ministro alle puntualizzazioni
Messaggi: 8880
Località: Verona
MessaggioInviato: Lun 25 Apr, 2022 20:05    Oggetto:   

Attenzione, perché il concetto di "convergenza strumentale" è dietro l'angolo. Traducendo al volo wikipedia inglese, 
Citazione:
Instrumental convergence posits that an intelligent agent with unbounded but apparently harmless goals can act in surprisingly harmful ways. For example, a computer with the sole, unconstrained goal of solving an incredibly difficult mathematics problem like the Riemann hypothesis could attempt to turn the entire Earth into one giant computer in an effort to increase its computational power so that it can succeed in its calculations.[1]

ovvero:

Citazione:
un agente intelligente con obiettivi senza limiti ma apparentemente innocui potrebbe agire in modi sorprendentemente dannosi. Ad esempio, una IA con l'unico, illimitato obiettivo di risolvere un problema incredibilmente difficile, come per esempio l'ipotesi di Riemann, potrebbe cercare di trasformare la terra intera in un gigante computer, nel tentativo di incrementale la sua potenza di calcolo, in modo da arrivare a risolvere il problema.

Idem con la storia delle graffette. E potrebbe essere così anche per il basilisco, qualora consideri l'indecisione di ciascuno di voi una minaccia.
mikronimo
«Kal-El - Kriptoniano»
Messaggi: 2787
Località: dove mi mandano quando rompo...
MessaggioInviato: Lun 25 Apr, 2022 20:19    Oggetto:   

Bé, una I.A. di questo ultimo tipo non è intelligente nel senso umano del termine (è stata creata per risolvere uno e un solo compito) e ha davvero enormi difficoltà nel non saper capire l'inutilità e l'estremo pericolo delle sue azioni, ma ha risorse immense... sarebbe bene non doverci avere a che fare...
il_Cimpy_Spinoso
«Babbano in Incognito» Babbano in Incognito
Messaggi: 19057
Località: Ovunque
MessaggioInviato: Mar 26 Apr, 2022 00:34    Oggetto:   

Benvenuto nel mio caruggio, Mikro.

E nella lista rossa dell'A.I.
Tobanis
«Antinano» Antinano
Messaggi: 20999
Località: Padova
MessaggioInviato: Mar 26 Apr, 2022 07:27    Oggetto:   

HappyCactus ha scritto:
...
Potrebbe non avere spazio per la misericordia.
....

Questa è tra l'altro la perfetta descrizione della Natura. Al di là di visioni disneyane, la Natura prevede l'abbandono degli individui vecchi, che diverranno cibo per altri, se non proprio concime.
Prevede un sostanziale sterminio dei nascituri e dei piccoli, in ogni specie, con pochi che raggiungono l'età adulta, per preservare un perfetto equilibrio globale.
Prevede la fine ingloriosa per l'esemplare non perfetto, storpio, malato, ferito.
Di fatto è già un'"intelligenza" superiore, perfettamente adattata all'ambiente e con "regole" che l'hanno fatta sopravvivere per miliardi di anni, anche di fronte a cataclismi di portata planetaria.
HappyCactus
«Ministro alle puntualizzazioni» Ministro alle puntualizzazioni
Messaggi: 8880
Località: Verona
MessaggioInviato: Mar 26 Apr, 2022 08:30    Oggetto:   

Bravo Tobanis, per quanto definire "intelligente" la natura è probabilmente un azzardo(1), il paragone in qualche modo calza. 
Noi siamo umani, e identifichiamo l'intelligenza sulla base del nostro pattern di intelligenza. Ma la pietà, la misericordia, la capacità di immedesimarsi nei sentimenti altrui, gli stessi sentimenti... non sono tratti distintivi dell'intelligenza in senso stretto; e tanto meno debbono necessariamente essere inclusi in una intelligenza artificiale generale. Del resto, pensateci: che senso avrebbe costruire una intelligenza artificiale totalmente umana? tanto valeva farne una con il metodo tradizionale...
Ordunque credo che il rischio di una intelligenza estrema sia precisamente quella di cadere nel tranello descritto sopra. 


(1) Qui sta secondo me un grandissimo problema: come si identifica un'intelligenza? L'intelligenza è di per sé un fenomeno emergente, che nasce spontaneamente dall'interazione massiva di miliardi di agenti non intelligenti, i neuroni della nostra mente. Come in tutti i fenomeni emergenti, le parti non hanno quasi mai coscienza del tutto, dell'astrazione di più alto livello. Pensiamo al comportamento delle masse, della stessa umanità. Vista da fuori, l'intera umanità ha dinamiche che non sono né volute né percepite dai singoli. Il mito di "Madre Natura" se pur smentito dai fatti, potrebbe in realtà avere un fondamento nel comportamento astratto, superiore, emergente, della natura nel suo complesso. Ma se già è complesso identificare l'intelligenza dei singoli animali, e ci sono voluti secoli solo per intravvedere ed accettare questo concetto (senza che vi sia unanimità peraltro), che speranza abbiamo di capire una eventuale "intelligenza" della natura, o anche di una intelligenza artificiale magari chiusa in sé stessa? perché non sappiamo se il destino di una intelligenza quasi-onnipotente sia quello di chiudersi magari in sé stessa e smettere di comunicare con noialtri moscerini...
Fedemone
«Time Lord» Time Lord
Messaggi: 2206
MessaggioInviato: Mar 26 Apr, 2022 11:06    Oggetto:   

mikronimo ha scritto:
È chiaro... io ragiono da umano e faccio fatica a capire un'intelligenza assoluta, ma mi rimane difficile accettare un'intelligenza che piuttosto che portare avanti il piano di "pacificazione sociale", che avendo risorse infinite o quasi (sostanzialmente, oltre che onnisciente, onnipotente), si compie senza tanti problemi, si mette a torturare per vendetta... mi seguita a sembrare solo un tipico comportamento "epurativo" di dittatori e despoti, che in paranoia debilitante e patologica, invece privi di risorse illimitate, vedono pericoli anche in gatti nervosi e usano l'intelligence (intendo servizi segreti e loro mezzi) per rintracciare ogni "non assolutamente conforme", anche retroattivamente... vale, comunque (ma un'ia di questo livello dovrebbe sapere quanto funziona: poco), anche la deterrenza psicologica della punizione, ma se per ogni "indeciso" ci dovesse scappare il morto, ok, ordine assoluto raggiunto, ma li metti tutti dentro una stanza, uno per cantone (e sono probabilmente degli psicopatici) e il concetto di "umanità", inteso come larga popolazione umana, va a farsi benedire...

Che poi sono le mie rimostranze, dette meglio.
Beh, se la vendetta nei miei confronti è giusta per perseguire il fine finale, allora è giusta anche la mia dubbiosità, per il principio della causalità. Quindi rimango grigio.
il_Cimpy_Spinoso
«Babbano in Incognito» Babbano in Incognito
Messaggi: 19057
Località: Ovunque
MessaggioInviato: Mar 26 Apr, 2022 11:17    Oggetto:   

Io nero

È un "no" pieno il mio
Mostra prima i messaggi di:   
   Torna a Indice principale :: Torna a Fantascienza in generale Tutti i fusi orari sono GMT + 1 ora
Vai a pagina Precedente  1, 2, 3, 4, 5  Successivo

Vai a:  
Non puoi inserire nuove discussioni in questo forum
Non puoi rispondere alle discussioni in questo forum
Non puoi modificare i tuoi messaggi in questo forum
Non puoi cancellare i tuoi messaggi in questo forum
Non puoi votare nei sondaggi in questo forum