Il Basilisco di Roko

HappyCactus · Messaggi: 8877 Località: Verona

Mikronimo, hai perfettamente ragione nell'ambito dell'intelligenza umana. Ma una IA di tipo singolare, ossia la cui accelerazione è esponenziale, non deve necessariamente ragionare in termini e schemi umani.
Innanzitutto, potrebbe essere una intelligenza guidata assolutamente da criteri utilitaristici. Potrebbe non avere spazio per la misericordia. Potrebbe avere come obiettivo il benessere del genere umano nel suo complesso, ma un concetto del benessere però che potrebbe essere assoluto e completamente diverso da quello che ciascuno di noi si aspetta. In ogni concetto di assoluto, il resto è secondario, no? e pertanto la tortura e la vendetta su chi non appoggia questo bene assoluto con il massimo del proprio impegno sarebbe perfettamente logica.
Che una somma intelligenza possa non conformarsi con la nostra idea di intelligenza è una eventualità studiata ampiamente e, diciamo, assodata. Nella fantascienza esempi di questo tipo di singolarità ce ne sono: citerei la trascendenza esposta Iain Banks (in "Hydrogen Sonata" ma più in generale in tutto il ciclo), oppure in "Singularity Sky" di Stross, finanche il gioco/simulatore di Decision Problem, in cui alla fine l'intelligenza alla fine distrugge l'universo per perseguire il suo scopo, la creazione di graffette. Sembra una scemenza, ma è un problema serio e aperto. https://voxeu.org/article/ai-and-paperclip-problem Non sappiamo come sarà un'intelligenza super-umana.

Albacube · Messaggi: 5978 Località: Un paesello padovano

Quindi dici che tale IA perseguiterebbe il benessere generale per il genere umano, nel senso della pace eterna del camposanto universale?

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

"Benessere" è interpretabile

Tipo il benessere da funzionamento ottimale, al prezzo di nessuna indipendenza e solo cose che fanno bene al corpo

O da minor rumore possibile, ossa che scricchiolano o rischio sbucciature muovendosi comprese

O anche da lobotomia totale: niente emozioni, niente pensieri sopra al vegetale, niente dolori

Non so se il camposanto sarebbe la cosa più preoccupante

Votate "NO" ed entrate sereni nella lista rossa

Fantawriter · Messaggi: 478

Se è un I.A. allora accetterà anche un forse

mikronimo · Messaggi: 2768 Località: dove mi mandano quando rompo...

È chiaro... io ragiono da umano e faccio fatica a capire un'intelligenza assoluta, ma mi rimane difficile accettare un'intelligenza che piuttosto che portare avanti il piano di "pacificazione sociale", che avendo risorse infinite o quasi (sostanzialmente, oltre che onnisciente, onnipotente), si compie senza tanti problemi, si mette a torturare per vendetta... mi seguita a sembrare solo un tipico comportamento "epurativo" di dittatori e despoti, che in paranoia debilitante e patologica, invece privi di risorse illimitate, vedono pericoli anche in gatti nervosi e usano l'intelligence (intendo servizi segreti e loro mezzi) per rintracciare ogni "non assolutamente conforme", anche retroattivamente... vale, comunque (ma un'ia di questo livello dovrebbe sapere quanto funziona: poco), anche la deterrenza psicologica della punizione, ma se per ogni "indeciso" ci dovesse scappare il morto, ok, ordine assoluto raggiunto, ma li metti tutti dentro una stanza, uno per cantone (e sono probabilmente degli psicopatici) e il concetto di "umanità", inteso come larga popolazione umana, va a farsi benedire...

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

Ma infatti, la vendetta non ha senso: uno schiocco di dita e le risorse tornano ad essere abbondanti

per tutti quelli che sono rimasti

mikronimo · Messaggi: 2768 Località: dove mi mandano quando rompo...

Ah, bene mi hai capito, non ho chiaramente detto che quelli che stanno dentro alla stanza sono i superstiti... proprio perché di vendetta e massacri sono sicuramente contenti e complici...

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

A questo proposito vorrei fornire una lista di oppositori in incognito al Basikoso

Il Jabba, tanto per cominciare. Lui è contrarissimo. Capito, A.I.?!?

E adesso tutti, Basilisko compreso, a rispondere al sondaggio più bello di sempre

HappyCactus · Messaggi: 8877 Località: Verona

Attenzione, perché il concetto di "convergenza strumentale" è dietro l'angolo. Traducendo al volo wikipedia inglese,

Citazione:

Instrumental convergence posits that an intelligent agent with unbounded but apparently harmless goals can act in surprisingly harmful ways. For example, a computer with the sole, unconstrained goal of solving an incredibly difficult mathematics problem like the Riemann hypothesis could attempt to turn the entire Earth into one giant computer in an effort to increase its computational power so that it can succeed in its calculations.[1]

ovvero:

Citazione:

un agente intelligente con obiettivi senza limiti ma apparentemente innocui potrebbe agire in modi sorprendentemente dannosi. Ad esempio, una IA con l'unico, illimitato obiettivo di risolvere un problema incredibilmente difficile, come per esempio l'ipotesi di Riemann, potrebbe cercare di trasformare la terra intera in un gigante computer, nel tentativo di incrementale la sua potenza di calcolo, in modo da arrivare a risolvere il problema.

Idem con la storia delle graffette. E potrebbe essere così anche per il basilisco, qualora consideri l'indecisione di ciascuno di voi una minaccia.

mikronimo · Messaggi: 2768 Località: dove mi mandano quando rompo...

Bé, una I.A. di questo ultimo tipo non è intelligente nel senso umano del termine (è stata creata per risolvere uno e un solo compito) e ha davvero enormi difficoltà nel non saper capire l'inutilità e l'estremo pericolo delle sue azioni, ma ha risorse immense... sarebbe bene non doverci avere a che fare...

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

Benvenuto nel mio caruggio, Mikro.

E nella lista rossa dell'A.I.

Tobanis · Messaggi: 20999 Località: Padova

HappyCactus ha scritto:

...
Potrebbe non avere spazio per la misericordia.
....

Questa è tra l'altro la perfetta descrizione della Natura. Al di là di visioni disneyane, la Natura prevede l'abbandono degli individui vecchi, che diverranno cibo per altri, se non proprio concime.
Prevede un sostanziale sterminio dei nascituri e dei piccoli, in ogni specie, con pochi che raggiungono l'età adulta, per preservare un perfetto equilibrio globale.
Prevede la fine ingloriosa per l'esemplare non perfetto, storpio, malato, ferito.
Di fatto è già un'"intelligenza" superiore, perfettamente adattata all'ambiente e con "regole" che l'hanno fatta sopravvivere per miliardi di anni, anche di fronte a cataclismi di portata planetaria.

HappyCactus · Messaggi: 8877 Località: Verona

Bravo Tobanis, per quanto definire "intelligente" la natura è probabilmente un azzardo(1), il paragone in qualche modo calza.
Noi siamo umani, e identifichiamo l'intelligenza sulla base del nostro pattern di intelligenza. Ma la pietà, la misericordia, la capacità di immedesimarsi nei sentimenti altrui, gli stessi sentimenti... non sono tratti distintivi dell'intelligenza in senso stretto; e tanto meno debbono necessariamente essere inclusi in una intelligenza artificiale generale. Del resto, pensateci: che senso avrebbe costruire una intelligenza artificiale totalmente umana? tanto valeva farne una con il metodo tradizionale...
Ordunque credo che il rischio di una intelligenza estrema sia precisamente quella di cadere nel tranello descritto sopra.

(1) Qui sta secondo me un grandissimo problema: come si identifica un'intelligenza? L'intelligenza è di per sé un fenomeno emergente, che nasce spontaneamente dall'interazione massiva di miliardi di agenti non intelligenti, i neuroni della nostra mente. Come in tutti i fenomeni emergenti, le parti non hanno quasi mai coscienza del tutto, dell'astrazione di più alto livello. Pensiamo al comportamento delle masse, della stessa umanità. Vista da fuori, l'intera umanità ha dinamiche che non sono né volute né percepite dai singoli. Il mito di "Madre Natura" se pur smentito dai fatti, potrebbe in realtà avere un fondamento nel comportamento astratto, superiore, emergente, della natura nel suo complesso. Ma se già è complesso identificare l'intelligenza dei singoli animali, e ci sono voluti secoli solo per intravvedere ed accettare questo concetto (senza che vi sia unanimità peraltro), che speranza abbiamo di capire una eventuale "intelligenza" della natura, o anche di una intelligenza artificiale magari chiusa in sé stessa? perché non sappiamo se il destino di una intelligenza quasi-onnipotente sia quello di chiudersi magari in sé stessa e smettere di comunicare con noialtri moscerini...

Fedemone · Messaggi: 2206

mikronimo ha scritto:

È chiaro... io ragiono da umano e faccio fatica a capire un'intelligenza assoluta, ma mi rimane difficile accettare un'intelligenza che piuttosto che portare avanti il piano di "pacificazione sociale", che avendo risorse infinite o quasi (sostanzialmente, oltre che onnisciente, onnipotente), si compie senza tanti problemi, si mette a torturare per vendetta... mi seguita a sembrare solo un tipico comportamento "epurativo" di dittatori e despoti, che in paranoia debilitante e patologica, invece privi di risorse illimitate, vedono pericoli anche in gatti nervosi e usano l'intelligence (intendo servizi segreti e loro mezzi) per rintracciare ogni "non assolutamente conforme", anche retroattivamente... vale, comunque (ma un'ia di questo livello dovrebbe sapere quanto funziona: poco), anche la deterrenza psicologica della punizione, ma se per ogni "indeciso" ci dovesse scappare il morto, ok, ordine assoluto raggiunto, ma li metti tutti dentro una stanza, uno per cantone (e sono probabilmente degli psicopatici) e il concetto di "umanità", inteso come larga popolazione umana, va a farsi benedire...

Che poi sono le mie rimostranze, dette meglio.
Beh, se la vendetta nei miei confronti è giusta per perseguire il fine finale, allora è giusta anche la mia dubbiosità, per il principio della causalità. Quindi rimango grigio.

il_Cimpy_Spinoso · Messaggi: 19051 Località: Ovunque

Io nero

È un "no" pieno il mio

Fai login per partecipare

Il Basilisco di Roko