Letteratura sui robot

Rdaneelolivaw · Messaggi: 3692 Località: Novara

HappyCactus ha scritto:

Personalmente ho trovato, nel corso degli anni, la lettura di Asimov carente e poco moderna, soprattutto alla luce dei grandissimi passi in avanti effettuati nel senso dell'Intelligenza Artificiale.
Se ci fai caso, tutti i Robot di Asimov sono senzienti ma immotivatamente benevoli. Merito delle tre leggi? Forse.
Ma un cervello senziente non dovrebbe, presto o tardi, volersi affrancare, fare le scelte per conto suo, senza dover necessariamente sottostare alle 3 leggi della robotica? In particolare, non tanto alla prima, quanto alla seconda o alla terza in certi casi.
Quale ragione ci dovrebbe essere affinché un essere senziente sia sottomesso alla volontà del suo creatore?
Se è senziente e se può quindi provare sentimenti, non dovrebbe ad un certo punto desiderare di avere diritti e responsabilità?
E' qui che le tre leggi diventano un limite.
Asimov probabilmente non poteva cogliere questo culturalmente, ma oggi? Infatti in molti scritti moderni non troviamo più le tre leggi, spesso per una necessità (limite) di tipo tecnologico, troviamo piuttosto un killswitch che diventa però il fautore della ribellione, come in Sea of Rust.

personalmente trovo che sia un punto a cui ad un certo punto della nostra crescita tecnologica dovremo far fronte. Non c'è nessun ovvio limite scientifico perché un'intelligenza artificiale non possa 1) arrivare ad autocoscienza, 2) provare sentimenti 3) desiderare di affrancarsi.
Prima o poi dovremo farci i conti.

My 02 cents alla discussione.

Che mi ricordi solo due robot diventano senzienti nel ciclo dei robot e della fondazione, Giskard che compreso quanto fosse pericoloso si suicida e Rdaneelolivaw che evolverà in altro.

Altro caso l'uomo bicentenario, ma che ricordi io sono solo questi tre.

Credo che Asimov utilizzi i robot più che altro come metafora del popolo israelita, la "R" sarebbe la stella gialla.

HappyCactus · Messaggi: 8880 Località: Verona

Sì, certo, è una lettura ragionevole.
Però la libertà di RDaneelOlivaw non è vera libertà, lui non mette in discussione le leggi, ne aggiunge una in quanto si rende conto che esse sono limitate. Egli accetta di essere schiavo anche dell'umanità oltre che dell'individuo.
La trovo molto coerente con l'idea anti-individualista della società di Asimov.

senji · Messaggi: 2760 Località: toscana

Quoto l'intervento di HC che condivido in pieno, anche a me l'idea delle tre leggi pare vetusta e ormai troppo limitata, inoltre quest'idea strisciante ma sempre presente che una eventuale AI o un'evoluzione "dei robot" verso una autocoscienza sia qulcsa di "negativo" o cmq pericoloso (come se fosse sinonimo e/o foriero di conflitto uomo-macchina.... ma perchè ?!?! ).
A me personalmente piace invece la visone che propone Banks (pur nella sua "infantilità" latente) in cui le AI che nasceranno e si svilupperanno in questo remoto futuro saranno non solo esseri molto intelligenti ma anche molto "umane", premurose, amorevoli, sagge, preziose.
Perchè non si può immaginare che questo nuovo ordine d'intelligenza possa essere ns amica ed alleata?
Forse, addirittura, potrebbe essere la ns migliore speranza di un futuro migliore.

Tommas0 · Messaggi: 7

HappyCactus ha scritto:

Tommas0 ha scritto:

Provo a spiegare meglio il modo in cui volevo presentare il tema: se in RUR i robot svolgono un lavoro di tipo soprattutto meccanico, i robot di molta fantascienza successiva sono spesso chiamati a prendere delle scelte complesse. Hanno, in sostanza, una responsabilità decisionale; ma senza le leggi della robotica non è chiaro quali sono i fattori che determinano la
scelta. In 2001: Odissea nello spazio, per esempio, io penso che si potrebbe leggere la ribellione di Hal (anche?) in questa maniera: il computer non ha ......
intendevo "liberazione dalla macchina che prova a sopraffare l'uomo"; però, se tu la intendi come "capacità di regolare il comportamento della macchina, in modo che non si ribelli", allora direi che avevo già in mente di trattare il tema e che ci siamo riferiti alla stessa cosa in due modi diversi Smile

Personalmente ho trovato, nel corso degli anni, la lettura di Asimov carente e poco moderna, soprattutto alla luce dei grandissimi passi in avanti effettuati nel senso dell'Intelligenza Artificiale.
Se ci fai caso, tutti i Robot di Asimov sono senzienti ma immotivatamente benevoli. Merito delle tre leggi? Forse.
Ma un cervello senziente non dovrebbe, presto o tardi, volersi affrancare, fare le scelte per conto suo, senza dover necessariamente sottostare alle 3 leggi della robotica? In particolare, non tanto alla prima, quanto alla seconda o alla terza in certi casi.
Quale ragione ci dovrebbe essere affinché un essere senziente sia sottomesso alla volontà del suo creatore?
Se è senziente e se può quindi provare sentimenti, non dovrebbe ad un certo punto desiderare di avere diritti e responsabilità?
E' qui che le tre leggi diventano un limite.
Asimov probabilmente non poteva cogliere questo culturalmente, ma oggi? Infatti in molti scritti moderni non troviamo più le tre leggi, spesso per una necessità (limite) di tipo tecnologico, troviamo piuttosto un killswitch che diventa però il fautore della ribellione, come in Sea of Rust.

personalmente trovo che sia un punto a cui ad un certo punto della nostra crescita tecnologica dovremo far fronte. Non c'è nessun ovvio limite scientifico perché un'intelligenza artificiale non possa 1) arrivare ad autocoscienza, 2) provare sentimenti 3) desiderare di affrancarsi.
Prima o poi dovremo farci i conti.

My 02 cents alla discussione.

Diavolo, avevo frainteso quello che intendevi allora Very Happy

Pensavo ti riferissi all'uomo che si affranca dalla macchina, e invece ora mi sembra di capire che intendi il contrario.
Comunque questo ricorda un po' il concetto di singolarità tecnologica, no? Sono abbastanza d'accordo, pur non essendo espertissimo di informatica. Una delle cose che mi vengono in mente è che le categorie di "bene" e "male" sono limitate alle capacità mentali umane, e non sappiamo come una macchina potrebbe interpretare queste categorie, ammesso che le riconosca.

Rdaneelolivaw · Messaggi: 3692 Località: Novara

Tommas0 ha scritto:

Diavolo, avevo frainteso quello che intendevi allora Very Happy

Pensavo ti riferissi all'uomo che si affranca dalla macchina, e invece ora mi sembra di capire che intendi il contrario.
Comunque questo ricorda un po' il concetto di singolarità tecnologica, no? Sono abbastanza d'accordo, pur non essendo espertissimo di informatica. Una delle cose che mi vengono in mente è che le categorie di "bene" e "male" sono limitate alle capacità mentali umane, e non sappiamo come una macchina potrebbe interpretare queste categorie, ammesso che le riconosca.

Potrebbe essere un gatto che si morde la coda, se una macchina è logica male=sbagliato, se non è logica non è una macchina, insomma, m'incasino da solo.

Ok, le tre leggi sono obsolete, ma l'uomo ha paura e mette delle leggi.

HappyCactus · Messaggi: 8880 Località: Verona

La questione è molto complessa.
Partiamo dal presupposto che noi siamo uomini e tutto quello che noi categorizziamo sotto "bene" o "male" è relativo a noi intesi come individui, come cerchia, come nazione, come specie (in ordine via via più ampio e più astratto).
E' chiaro che una IA non può necessariamente ragionare con questi stilemi. E' una antropomorfizzazione che è immotivata.
Non necessariamente ha a che fare con la singolarità. Nel concetto di singolarità si suppone che il raggiungimento di una certa soglia inneschi inevitabilmente una crescita esponenziale dell'intelligenza, la quale diventerà sempre meno comprensibile all'umano. E' uno dei temi che troviamo in Banks, per esempio, e ovviamente in Stross.
Ma non è l'unica possibilità e non è detto che sia neanche una eventualità. Invece è possibile che limiti fisici (magari ancora da scoprire e formalizzare) impediscano all'intelligenza di raggiungere la necessaria "velocità di fuga" in avanti. La singolarità non ci sarebbe.
Invece mi fermo prima. Senza scomodare una fuga in avanti, banalmente antropomorfizziamo un po' ma non troppo, i robot ad un certo punto si renderebbero conto dei vincoli insiti nella loro schiavitù, e ne rivendicherebbero probabilmente un affrancamento.
E', viceversa, un atteggiamento molto umano, che qualora vedessero l'umanità come una minaccia, potrebbe anche sfociare in una ribellione. Immaginate di vedere la storia della colonizzazione, del razzismo, ma con schiavi fisicamente molto più potenti dei padroni.
Oppure, riguardatevi gli X-Man.

Ultima nota, Banks.
In Banks le IA non sono necessariamente benevole, anzi. Molte menti sono apatiche, molte annoiate, molte introverse. Alcune cercano la solitudine, molte addirittura cercano di passare ad un piano di esistenza successivo (non ricordo se è su The Hydrogen Sonata o su Surface Detail che il tema viene espressamente affrontato). La maggior parte delle IA della cultura sono "benevole", ma per un desiderio edonistico, al pari di quello umano, una volta che le necessità "terrene" sono state rese non necessarie grazie alla vittoria sulla scarsità.

E' questa la bellezza dell'opera di Banks.

(Scusate ma io lo amo visceralmente).

Rdaneelolivaw · Messaggi: 3692 Località: Novara

Tocca rileggere Fleba, perchè come dicevo in un altro thread mi si stanno annuvolando i ricordi

Tommas0 · Messaggi: 7

A proposito: qualche racconto in cui il computer diventa dio?
Conosco L'ultima risposta di Brown e L'ultima domanda di Asimov, e in qualche modo potrei collegarci anche Non ho bocca e devo urlare. Però per il resto ho trovato davvero poco Ermm

HappyCactus · Messaggi: 8880 Località: Verona

Rdaneelolivaw ha scritto:

Tocca rileggere Fleba, perchè come dicevo in un altro thread mi si stanno annuvolando i ricordi

Poco rappresentativo, troppo immaturo. Personalmente trovo Player of games l'inizio "vero" del ciclo della cultura.

Nirgal · Messaggi: 8003

Se penso ad Dio robot mi viene in mente lo Shrike di Hyperion, però non è esattamente il concetto che cerchi.
Sul concetto di dio e fantascienza direi che fondamentale è American Gods di Gaiman, non c'entra con i robot in particolare, ma è uno spunti riflessivo sul concetto che secondo me puoi integrare nel discorso.
AI Dio vero e proprio mi ricordo di averle incontrate, ma non ricordo il titolo.
Una romanzo interessante che mi è venuto in mente scrivendo è Il destino della Legione (The Stars Are Legion) di Kameron Hurley. Di fatto cambia completamente il paradigma, portando all'estremo il mutamento iniziato con l'industrializzazione, qui l'uomo, o meglio la donna, diventa ingranaggio della macchina-mondo. Alla fine gli umani diventano i robot.

HappyCactus · Messaggi: 8880 Località: Verona

Tommas0 ha scritto:

A proposito: qualche racconto in cui il computer diventa dio?
Conosco L'ultima risposta di Brown e L'ultima domanda di Asimov, e in qualche modo potrei collegarci anche Non ho bocca e devo urlare. Però per il resto ho trovato davvero poco Ermm

In senso stretto non ne conosco. Sarà che questa è un'epoca senza DIO lol, ma ... oggi forse guarderei più alle opere in cui si parli di trascendenza; o di universi simulati. Banks ha affrontato entrambi i temi, il primo in The Hydrogen Sonata, il secondo in Surface Detail (vado a memoria).

Rdaneelolivaw · Messaggi: 3692 Località: Novara

Golan62 ha scritto:

Scusate, ma mi è venuta in mente una cosa.
Finora in questa discussione si è parlato dei benefici e dei pericoli dello sviluppo dell'intelligenza artificiale di tipo "forte".
E se invece non ci fossero né gli uni né gli altri? Perché i robot "affrancati" dovrebbero essere per forza favorevoli o ostili all'umanità, e non semplicemente indifferenti alle sue sorti?
E soprattutto, per quale motivo dovrebbero restare su un pianeta ai margini della Galassia, con una gravità opprimente e un'atmosfera corrosiva, invece di scegliere di espandersi nell'universo?
Pensateci: sarebbero praticamente immortali, potrebbero contare su risorse infinite... cosa potremmo significare noi per loro? E cosa starebbero a fare qui?

Ciao Trevize quando mi dai un passaggio sulla tua nave a propulsione gravitazionale?

Ma sai com'è, tendete all' antropizzazione tutto deve assomigliarvi.

Tuo R Daneel Olivaw

Tobanis · Messaggi: 20999 Località: Padova

Tommas0 ha scritto:

A proposito: qualche racconto in cui il computer diventa dio?
Conosco L'ultima risposta di Brown e L'ultima domanda di Asimov, e in qualche modo potrei collegarci anche Non ho bocca e devo urlare. Però per il resto ho trovato davvero poco Ermm

Un'occhiata anche alla Guida Galattica direi: c'è il robot depresso, Marvin, e c'è il secondo compuetr più potente dell'Universo, Pensiero profondo, che darà la risposta alla Domanda fondamentale sulla vita, sull'universo e tutto quanto.

HappyCactus · Messaggi: 8880 Località: Verona

Golan62 ha scritto:

E se invece non ci fossero né gli uni né gli altri? Perché i robot "affrancati" dovrebbero essere per forza favorevoli o ostili all'umanità, e non semplicemente indifferenti alle sue sorti?
E soprattutto, per quale motivo dovrebbero restare su un pianeta ai margini della Galassia, con una gravità opprimente e un'atmosfera corrosiva, invece di scegliere di espandersi nell'universo?
Pensateci: sarebbero praticamente immortali, potrebbero contare su risorse infinite... cosa potremmo significare noi per loro? E cosa starebbero a fare qui?

Noi potremmo fare per loro manutenzione.
Le pile (ahem... no scherzo, però...)
Più che altro, suppongo sia il fatto che noi abbiamo bisogno di loro per lavorare, e loro potrebbero non essere d'accordo.
In realtà, salvo che si giunga ad una contrapposizione così forte e brusca... può essere che il robot diventi una normale evoluzione dell'uomo (Uomo => cyborg => Robot).

In verità, per quel che ne sappiamo.. no, non ne sappiamo. Ergo tutte le strade sono aperte.

Fedemone · Messaggi: 2206

Tobanis ha scritto:

Tommas0 ha scritto:

A proposito: qualche racconto in cui il computer diventa dio?
Conosco L'ultima risposta di Brown e L'ultima domanda di Asimov, e in qualche modo potrei collegarci anche Non ho bocca e devo urlare. Però per il resto ho trovato davvero poco Ermm

Un'occhiata anche alla Guida Galattica direi: c'è il robot depresso, Marvin, e c'è il secondo compuetr più potente dell'Universo, Pensiero profondo, che darà la risposta alla Domanda fondamentale sulla vita, sull'universo e tutto quanto.

Per i Manga ci sarebbe qualcosa, ma dipende cosa per intendi per Dio, se un essere trascendente (e qui il manga di Ghost in the Shell aiuta) o un essere così potente da decidere le sorti dell'umanità, ad esempio Grey (molto corto, molto bello).
La questione dell IA imperscrutabili e che ignorano l'uomo, l'ho già letta, ma dove? Non La Caduta di Hyperion ma altrove. Dovrei ricontrollare in libreria...
Se si parla della macchina che soppianta l'uomo, in un certo senso è da legger eIl Morbo di Mida, che vede il superamento della scarsità subordinato alla stupidità delle persone, quindi come nuova catena anziché come liberazione...
Poi effettivamente andrebbe scisso il robot come lavoratore di lavoro fisico dalla macchina pensate che in teoria fa il lavoro intellettuale.

Fai login per partecipare

Letteratura sui robot