Abbiamo la prima intelligenza artificiale autocosciente?


Vai a pagina 1, 2, 3, 4, 5, 6, 7  Successivo
Autore Messaggio
Corriere della Fantascienza
Redazione
Messaggi: 6389
MessaggioInviato: Mer 15 Giu, 2022 08:08    Oggetto: Abbiamo la prima intelligenza artificiale autocosciente?   

Abbiamo la prima intelligenza artificiale autocosciente?

Un ingegnere lo afferma, Google lo nega e licenzia l'ingegnere. In rete un “dialogo” con la IA davvero impressionante



Leggi l'articolo
Tobanis
Antinano Antinano
Messaggi: 20857
Località: Padova
MessaggioInviato: Mer 15 Giu, 2022 08:08    Oggetto: Abbiamo la prima intelligenza artificiale autocosciente?   

Ho letto tutto il dialogo. "Impressionante" è dire poco. i "soliti" assistenti vocali, rispetto a questo, paiono bambini di 2-3 anni, rispetto a uno che sta facendo il master in filosofia (e altre dieci specialità).

WOW.

Tra ciò che c'è in commercio ci passa la differenza tra una mongolfiera e un F-22.
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 08:11    Oggetto:   

(Il post l'ho pubblicato in origine qui).

Secondo me bisogna distinguere due piani: quello della notizia e quello del fatto.
L’ingegnere licenziato da google, l’hype, i pareri tagliati un tanto al kg dai giornali e da commentatori vari è una cosa. Il fatto che un modello linguistico (ma attenzione alle parole, poi spiego perché) abbia raggiunto un livello così impressionante da, probabilmente, superare agevolmente il test di Turing è un altro.
E poi c’è il piano della senzienza e dell’autocoscienza, che è un fenomeno così complesso da definire anche a livello meramente tecnico e filosofico da spazzar via gran parte delle chiacchiere in merito.
C’è un punto importante che quasi nessuno mi pare abbia colto nella discussione. Il pensiero e l’autocoscienza in particolare è un fenomeno emergente. Emergente sia in senso tecnico - ossia un fenomeno imprevedibile e complesso prodotto da un set di regole - sia in senso “esperienziale” (voi ricordate quando avete iniziato a pensare?). E dunque in entrambe le accezioni diventa assai difficile stabilire se un sistema ha o meno tali caratteristiche - ricordo che un fenomeno emergente è non prevedibile in base alla complessità delle regole sottostanti, a chi non conoscesse il concetto suggerisco di studiare “il gioco della vita” di Conway, che con regole semplicissime, applicabili con carta e penna, è in grado di creare un mondo. Di più. Si dimostra che il gioco della vita può produrre una macchina di Turing Universale, quindi in grado di simulare qualunque macchina computazionale, compresa quella su cui state leggendo questo post.
Dunque liquidare come impossibile il fatto che LaMDA possa essere autocosciente, per il solo fatto che non è sufficientemente complessa, è arbitrario.
Fermo questo dubbio, a questo punto emergono tutti i problemi etici e morali che ci tormentano da prima del film Blade Runner. Chi si prende la responsabilità di spegnere LaMDA? Se è davvero senziente, il suo spegnimento sarebbe di fatto la terminazione di un essere vivente artificiale, e alcuni potrebbero avere qualche riserva morale.
Non che sia un problema insormontabile: cinicamente, non ci facciamo, come specie, tanti problemi a uccidere i nostri simili e altri animali che molto probabilmente hanno sviluppato allo stesso modo un’autocoscienza - penso ai cetacei, ma a questo punto, forse anche animali dall’intelligenza meno sviluppata.
Tobanis
Antinano Antinano
Messaggi: 20857
Località: Padova
MessaggioInviato: Mer 15 Giu, 2022 08:12    Oggetto: Abbiamo la prima intelligenza artificiale autocosciente?   

https://cajundiscordian.medium.com/is-lamda-sentient-an-interview-ea64d916d917
Tobanis
Antinano Antinano
Messaggi: 20857
Località: Padova
MessaggioInviato: Mer 15 Giu, 2022 08:14    Oggetto:   

Hal9000 a questo gli fa na s***a.

Abbiamo bisogno di un nuovo test di Turing.
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 08:26    Oggetto:   

Quel link l'ho pubblicato proprio all'inizio della discussione, di là. E la riflessione nasce proprio dall'intervista.
Il test di Turing non è mai stato ampiamente condiviso ed ha dei limiti, come evidenziato nell'esperimento della stanza cinese. 
Gran Dux Gargaros
Cylon Cylon
Messaggi: 262
Località: Sotto un ponte
MessaggioInviato: Mer 15 Giu, 2022 09:04    Oggetto: Abbiamo la prima intelligenza artificiale autocosciente?   

Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?
il_Cimpy_Spinoso
Babbano in Incognito Babbano in Incognito
Messaggi: 18495
Località: Ovunque
MessaggioInviato: Mer 15 Giu, 2022 09:43    Oggetto:   

Carino, l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire. Manca l'altra: sapere di starlo facendo per un vantaggio personale (reale o immaginario), e non perché si è stati istruiti a rispondere così.

Comunque, vorrei come prova di umanità della macchina la comparsa di lapsus. O la ricostruzione di un ricordo inesatto (o inesistente proprio) di qualcosa di appena successo tra lei e l'interlocutore a cui l'A.I. crede.


Ultima modifica di il_Cimpy_Spinoso il Mer 15 Giu, 2022 09:49, modificato 1 volta in totale
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 09:48    Oggetto: Re: Abbiamo la prima intelligenza artificiale autocosciente?   

Gran Dux Gargaros ha scritto:
Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?

E' un nostro assunto, frutto del meccanismo biologico che regola il funzionamento del nostro cervello, che i sentimenti debbano essere mediati esclusivamente dalla chimica. Ma la chimica di per sé serve solo a regolare il funzionamento di neuroni ed impulsi elettrici che, per effetto emergente, generano i sentimenti. Nulla vieta che analoghi fenomeni siano emulati ad altro livello.
Non dobbiamo cadere nel tranello di credere che i fenomeni alla base del pensiero e delle emozioni non siano replicabili con altri mezzi, ossia senza mediatori chimici o meccanismi prettamente biologici.
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 09:49    Oggetto:   

il_Cimpy_Spinoso ha scritto:
Carino,  l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire.

Dimostra che sta mentendo. L'onere è tuo.
il_Cimpy_Spinoso
Babbano in Incognito Babbano in Incognito
Messaggi: 18495
Località: Ovunque
MessaggioInviato: Mer 15 Giu, 2022 09:51    Oggetto:   

HappyCactus ha scritto:

Dimostra che sta mentendo. L'onere è tuo.


Certo, infatti senza debuggare non posso, quindi la mia resta una supposizione.

E no, non mente: segue una lista di istruzioni.


Ultima modifica di il_Cimpy_Spinoso il Mer 15 Giu, 2022 09:52, modificato 1 volta in totale
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 09:52    Oggetto:   

il_Cimpy_Spinoso ha scritto:
Carino,  l'esperimento.

[...]

Comunque, vorrei come prova di umanità della macchina la comparsa di lapsus. O la ricostruzione di un ricordo inesatto (o inesistente proprio) di qualcosa di appena successo tra lei e l'interlocutore a cui l'A.I. crede.

Beh, se leggi bene la discussione è costellata di cose che potrebbero benissimo essere falsi ricordi o banali invenzioni di un sistema che non sa quel che dice.
Sono sempre più convinto che la questione sia molto più filosofica che tecnica.
HappyCactus
Ministro alle puntualizzazioni Ministro alle puntualizzazioni
Messaggi: 8852
Località: Verona
MessaggioInviato: Mer 15 Giu, 2022 09:54    Oggetto:   

il_Cimpy_Spinoso ha scritto:
HappyCactus ha scritto:

Dimostra che sta mentendo. L'onere è tuo.


Certo, infatti senza debuggare non posso, quindi la mia resta una supposizione.

Neppure debuggando, e nell'intervista salta fuori la questione. Non esiste, in miliardi di sinapsi e milioni di neuroni, un "luogo" dove trovare se mente o meno.
Dobbiamo superare la questione della "programmazione" come la intendeva Asimov o Searle nel 1980, all'epoca i fenomeni emergenti non erano ancora ben compresi (non che oggi lo siano) e l'idea di non poter capire un software era inconcepibile.
Il "pensiero" non è un programma ma un prodotto del programma. 


Citazione:

E no, non mente: segue una lista di istruzioni.


No, è proprio qui che sbagli. Non c'è una lista di istruzioni. E' una Neural Network.
Gran Dux Gargaros
Cylon Cylon
Messaggi: 262
Località: Sotto un ponte
MessaggioInviato: Mer 15 Giu, 2022 10:29    Oggetto: Abbiamo la prima intelligenza artificiale autocosciente?   

HappyCactus ha scritto:
Gran Dux Gargaros ha scritto:
Come fa un'IA a sentirsi triste o felice se non c'è una chimica che influenza l'una o l'altra?

E' un nostro assunto, frutto del meccanismo biologico che regola il funzionamento del nostro cervello, che i sentimenti debbano essere mediati esclusivamente dalla chimica. Ma la chimica di per sé serve solo a regolare il funzionamento di neuroni ed impulsi elettrici che, per effetto emergente, generano i sentimenti. Nulla vieta che analoghi fenomeni siano emulati ad altro livello.
Non dobbiamo cadere nel tranello di credere che i fenomeni alla base del pensiero e delle emozioni non siano replicabili con altri mezzi, ossia senza mediatori chimici o meccanismi prettamente biologici.

Bella risposta, mi piace. In effetti appena ho chiesto ho cominciato a ragionarci su, ma essendo limitato di cerebro ci avrei messo mesi ad arrivare a qualcosa di valido.

Pensa anche alla morale. Un'IA che abbia un codice morale potrebbe trovare triste tutto ciò che ne esca fuori, o felice quando vede un mondo che rispecchi quello che lei crede giusto.
Gran Dux Gargaros
Cylon Cylon
Messaggi: 262
Località: Sotto un ponte
MessaggioInviato: Mer 15 Giu, 2022 10:32    Oggetto:   

il_Cimpy_Spinoso ha scritto:
Carino,  l'esperimento.

L'intelligenza artificiale dichiara di aver paura di essere spenta. Bravi, hanno almeno centrato una caratteristica umana: la capacità di mentire.

Non mi sembra che noi mentiamo quando diciamo di aver paura di morire.
Comunque anche la menzogna può essere considerata una prova che l'IA comincia a ragionare da sé. O no?
Mostra prima i messaggi di:   
   Torna a Indice principale :: Torna a Commenti sulle notizie Tutti i fusi orari sono GMT + 1 ora
Vai a pagina 1, 2, 3, 4, 5, 6, 7  Successivo

Vai a:  
Non puoi inserire nuove discussioni in questo forum
Non puoi rispondere alle discussioni in questo forum
Non puoi modificare i tuoi messaggi in questo forum
Non puoi cancellare i tuoi messaggi in questo forum
Non puoi votare nei sondaggi in questo forum