Abbiamo la prima intelligenza artificiale autocosciente?

Tobanis · Messaggi: 20999 Località: Padova

Ho letto tutto il dialogo. "Impressionante" è dire poco. i "soliti" assistenti vocali, rispetto a questo, paiono bambini di 2-3 anni, rispetto a uno che sta facendo il master in filosofia (e altre dieci specialità).

WOW.

Tra ciò che c'è in commercio ci passa la differenza tra una mongolfiera e un F-22.

Corriere della Fantascienza · Messaggi: 6389

Abbiamo la prima intelligenza artificiale autocosciente?

Un ingegnere lo afferma, Google lo nega e licenzia l'ingegnere. In rete un “dialogo” con la IA davvero impressionante

Leggi l'articolo

HappyCactus · Messaggi: 8880 Località: Verona

(Il post l'ho pubblicato in origine qui).

Secondo me bisogna distinguere due piani: quello della notizia e quello del fatto.
L’ingegnere licenziato da google, l’hype, i pareri tagliati un tanto al kg dai giornali e da commentatori vari è una cosa. Il fatto che un modello linguistico (ma attenzione alle parole, poi spiego perché) abbia raggiunto un livello così impressionante da, probabilmente, superare agevolmente il test di Turing è un altro.
E poi c’è il piano della senzienza e dell’autocoscienza, che è un fenomeno così complesso da definire anche a livello meramente tecnico e filosofico da spazzar via gran parte delle chiacchiere in merito.
C’è un punto importante che quasi nessuno mi pare abbia colto nella discussione. Il pensiero e l’autocoscienza in particolare è un fenomeno emergente. Emergente sia in senso tecnico - ossia un fenomeno imprevedibile e complesso prodotto da un set di regole - sia in senso “esperienziale” (voi ricordate quando avete iniziato a pensare?). E dunque in entrambe le accezioni diventa assai difficile stabilire se un sistema ha o meno tali caratteristiche - ricordo che un fenomeno emergente è non prevedibile in base alla complessità delle regole sottostanti, a chi non conoscesse il concetto suggerisco di studiare “il gioco della vita” di Conway, che con regole semplicissime, applicabili con carta e penna, è in grado di creare un mondo. Di più. Si dimostra che il gioco della vita può produrre una macchina di Turing Universale, quindi in grado di simulare qualunque macchina computazionale, compresa quella su cui state leggendo questo post.
Dunque liquidare come impossibile il fatto che LaMDA possa essere autocosciente, per il solo fatto che non è sufficientemente complessa, è arbitrario.
Fermo questo dubbio, a questo punto emergono tutti i problemi etici e morali che ci tormentano da prima del film Blade Runner. Chi si prende la responsabilità di spegnere LaMDA? Se è davvero senziente, il suo spegnimento sarebbe di fatto la terminazione di un essere vivente artificiale, e alcuni potrebbero avere qualche riserva morale.
Non che sia un problema insormontabile: cinicamente, non ci facciamo, come specie, tanti problemi a uccidere i nostri simili e altri animali che molto probabilmente hanno sviluppato allo stesso modo un’autocoscienza - penso ai cetacei, ma a questo punto, forse anche animali dall’intelligenza meno sviluppata.

Tobanis · Messaggi: 20999 Località: Padova

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917

Tobanis · Messaggi: 20999 Località: Padova

Hal9000 a questo gli fa na s***a.

Abbiamo bisogno di un nuovo test di Turing.

HappyCactus · Messaggi: 8880 Località: Verona

Quel link l'ho pubblicato proprio all'inizio della discussione, di là. E la riflessione nasce proprio dall'intervista.
Il test di Turing non è mai stato ampiamente condiviso ed ha dei limiti, come evidenziato nell'esperimento della stanza cinese.

Gran Dux Gargaros · Messaggi: 260 Località: Sotto un ponte

Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Carino, l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire. Manca l'altra: sapere di starlo facendo per un vantaggio personale (reale o immaginario), e non perché si è stati istruiti a rispondere così.

Comunque, vorrei come prova di umanità della macchina la comparsa di lapsus. O la ricostruzione di un ricordo inesatto (o inesistente proprio) di qualcosa di appena successo tra lei e l'interlocutore a cui l'A.I. crede.

HappyCactus · Messaggi: 8880 Località: Verona

Gran Dux Gargaros ha scritto:

Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?

E' un nostro assunto, frutto del meccanismo biologico che regola il funzionamento del nostro cervello, che i sentimenti debbano essere mediati esclusivamente dalla chimica. Ma la chimica di per sé serve solo a regolare il funzionamento di neuroni ed impulsi elettrici che, per effetto emergente, generano i sentimenti. Nulla vieta che analoghi fenomeni siano emulati ad altro livello.
Non dobbiamo cadere nel tranello di credere che i fenomeni alla base del pensiero e delle emozioni non siano replicabili con altri mezzi, ossia senza mediatori chimici o meccanismi prettamente biologici.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

Carino, l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire.

Dimostra che sta mentendo. L'onere è tuo.

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

HappyCactus ha scritto:

Dimostra che sta mentendo. L'onere è tuo.

Certo, infatti senza debuggare non posso, quindi la mia resta una supposizione.

E no, non mente: segue una lista di istruzioni.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

Carino, l'esperimento.

[...]

Comunque, vorrei come prova di umanità della macchina la comparsa di lapsus. O la ricostruzione di un ricordo inesatto (o inesistente proprio) di qualcosa di appena successo tra lei e l'interlocutore a cui l'A.I. crede.

Beh, se leggi bene la discussione è costellata di cose che potrebbero benissimo essere falsi ricordi o banali invenzioni di un sistema che non sa quel che dice.
Sono sempre più convinto che la questione sia molto più filosofica che tecnica.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

HappyCactus ha scritto:

Dimostra che sta mentendo. L'onere è tuo.

Certo, infatti senza debuggare non posso, quindi la mia resta una supposizione.

Neppure debuggando, e nell'intervista salta fuori la questione. Non esiste, in miliardi di sinapsi e milioni di neuroni, un "luogo" dove trovare se mente o meno.
Dobbiamo superare la questione della "programmazione" come la intendeva Asimov o Searle nel 1980, all'epoca i fenomeni emergenti non erano ancora ben compresi (non che oggi lo siano) e l'idea di non poter capire un software era inconcepibile.
Il "pensiero" non è un programma ma un prodotto del programma.

Citazione:

E no, non mente: segue una lista di istruzioni.

No, è proprio qui che sbagli. Non c'è una lista di istruzioni. E' una Neural Network.

Gran Dux Gargaros · Messaggi: 260 Località: Sotto un ponte

HappyCactus ha scritto:

Gran Dux Gargaros ha scritto:

Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?

E' un nostro assunto, frutto del meccanismo biologico che regola il funzionamento del nostro cervello, che i sentimenti debbano essere mediati esclusivamente dalla chimica. Ma la chimica di per sé serve solo a regolare il funzionamento di neuroni ed impulsi elettrici che, per effetto emergente, generano i sentimenti. Nulla vieta che analoghi fenomeni siano emulati ad altro livello.
Non dobbiamo cadere nel tranello di credere che i fenomeni alla base del pensiero e delle emozioni non siano replicabili con altri mezzi, ossia senza mediatori chimici o meccanismi prettamente biologici.

Bella risposta, mi piace. In effetti appena ho chiesto ho cominciato a ragionarci su, ma essendo limitato di cerebro ci avrei messo mesi ad arrivare a qualcosa di valido.

Pensa anche alla morale. Un'IA che abbia un codice morale potrebbe trovare triste tutto ciò che ne esca fuori, o felice quando vede un mondo che rispecchi quello che lei crede giusto.

Gran Dux Gargaros · Messaggi: 260 Località: Sotto un ponte

il_Cimpy_Spinoso ha scritto:

Carino, l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire.

Non mi sembra che noi mentiamo quando diciamo di aver paura di morire.
Comunque anche la menzogna può essere considerata una prova che l'IA comincia a ragionare da sé. O no?

Fai login per partecipare

Abbiamo la prima intelligenza artificiale autocosciente?