Abbiamo la prima intelligenza artificiale autocosciente?

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Gran Dux Gargaros ha scritto:

Non mi sembra che noi mentiamo quando diciamo di aver paura di morire.
Comunque anche la menzogna può essere considerata una prova che l'IA comincia a ragionare da sé. O no?

Noi no, l'A.I. sì se, come penso, non ha un id. Però la seconda parte (la menzogna può essere prova che ragiona da sé), sì.

HC, in una rete neurale artificiale la lista è solo distribuita.

Si potrebbe fare una prova: gli si dà corrente ad amperaggi diversi e si verifica se soffre e se, pur di avere l'amperaggio giusto, è disposta a privarsi di un banco di ram. Oppure a rimpinguare il tuo cc se gli rapisci il modem.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

HC, in una rete neurale artificiale la lista è solo distribuita.

Non proprio. Cioè, è comodo pensare sia così, ma allora dovresti riuscire a individuarla.

Il paragone che mi sembra più verosimile è : individua in quale parte delle regole del game of life sono codificati gli alianti.

Citazione:

Si potrebbe fare una prova: gli si dà corrente ad amperaggi diversi e si verifica se soffre e se, pur di avere l'amperaggio giusto, è disposta a privarsi di un banco di ram. Oppure a rimpinguare il tuo cc se gli rapisci il modem.

Questa la derubrico a sciocchezza, per quanto sforzandomi un senso riesco a trovarlo. Dandole corrente ad amperaggi diversi ottieni lo stesso effetto che sottoponendo il Cimpy ad un irraggiamento di un certo numero di millisivert di radiazioni dure. Non senti dolore, ma poi defungi più o meno in fretta. Sottoporre l'alimentatore del cluster che esegue la NN ad una sovratensione si può in fondo assimilare a questa esperienza qui.

mikronimo · Messaggi: 2787 Località: dove mi mandano quando rompo...

Il polonio pare utile a far defungere scocciatori e persone non grate...

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

HappyCactus ha scritto:

Dandole corrente ad amperaggi diversi ottieni lo stesso effetto che sottoponendo il Cimpy ad un irraggiamento di un certo numero di millisivert di radiazioni dure. Non senti dolore, ma poi defungi più o meno in fretta. Sottoporre l'alimentatore del cluster che esegue la NN ad una sovratensione si può in fondo assimilare a questa esperienza qui.

Vabbè, allora diciamo che ti piazzi davanti alla sua cam con un cacciavite e gli dici che, o stampa subito una piena confessione per il plagio commesso pochi giorni prima, o inizi a svitargli le periferiche, partendo dalla tastiera...

Insomma, ce l'ha l'istinto di conservazione? Prova dolore? Si spaventa? O dichiara solo di farlo e di averlo? Le decisioni che prende: fagli scegliere tra due quadri (o tra due persone - io non valgo, eh?!). Perché non l'altro? Solo per dire.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

Insomma, ce l'ha l'istinto di conservazione? Prova dolore? Si spaventa? O dichiara solo di farlo e di averlo?

Buon punto. Ma secondo me anche tu fai solo finta di soffrire se mi avvicino con un cacciavite e ti rigo la bici e ti foro le gomme.

O no?

Citazione:

Le decisioni che prende: fagli scegliere tra due quadri (o tra due persone - io non valgo, eh?!). Perché non l'altro? Solo per dire.

Magari lancia una moneta virtuale, chissà?

Albacube · Messaggi: 5978 Località: Un paesello padovano

il_Cimpy_Spinoso ha scritto:

...

Vabbè, allora diciamo che ti piazzi davanti alla sua cam con un cacciavite e gli dici che, o stampa subito una piena confessione per il plagio commesso pochi giorni prima, o inizi a svitargli le periferiche, partendo dalla tastiera.

...

Cimpy, questo vale solo se lo fai in assenza di gravità Very Happy

IBM -1

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

HappyCactus ha scritto:

Buon punto. Ma secondo me anche tu fai solo finta di soffrire se mi avvicino con un cacciavite e ti rigo la bici e ti foro le gomme.

O no?

No.
La prova? Porto via la mia bici subito dopo averti pestato con la catena. Oppure averti reso piena confessione. Proviamo con l'A.I.?

Citazione:

Magari lancia una moneta virtuale, chissà?

Appunto. Tu no. Magari per te nel quadro è una sfumatura associata a qualcosa. O il ricordo di qualcos'altro che hai visto da piccolo. Con le persone può essere il timbro della voce, o magari qualcosa legato all'odore o a come si muovono, che sotto sotto è associato a qualcuno o a qualcosa che non c'entra niente (da cui certe preferenze apparentemente illogiche). L'A.I. ne fa? Certo, si discute di "essere senzienti" non "difettosi", ma il punto è: se di fronte ad una scelta di gusto tira una moneta virruale, è senziente? O è solo capace di tirare una moneta virtuale? Tu, che preferisci Van Gogh a Picasso, e forse sai dire perché o forse no, sei capace perché senziente, giusto?

Io dico che l'A.I. può sapere un sacco di cose e ricombinarle in molti modi diversi. Di certo può, date regole e pesi adeguati, fornire soluzioni superiori a quelle che può fornire un umano.
Per esempio, può giocare meglio a scacchi.
La definirò senziente il giorno che, senza apposita programmazione, ti dirà "scacchi? Naaa, oggi giochiamo a stratego, dai"

E a domanda sul perché ti risponderà "Ci ho già giocato ieri, vorrei fare qualcosa di diverso, che mi annoio". Senza che questa sia un'opzione programmata.

HappyCactus · Messaggi: 8880 Località: Verona

il_Cimpy_Spinoso ha scritto:

HappyCactus ha scritto:

Buon punto. Ma secondo me anche tu fai solo finta di soffrire se mi avvicino con un cacciavite e ti rigo la bici e ti foro le gomme.

O no?

No.
La prova? Porto via la mia bici subito dopo averti pestato con la catena. Oppure averti reso piena confessione. Proviamo con l'A.I.?

Ma la differenza è che la AI non ha le braccia per portare via la bici, né altro che non sia la parola. Devi metterti nello stesso contesto, altrimenti non vale.

E comunque la reazione potrebbe tranquillamente essere priva di sentimenti e utilitaristica. Cioè non è possibile giudicare sentimenti dalle reazioni.

Citazione:

Magari lancia una moneta virtuale, chissà?

Appunto. Tu no. Magari per te nel quadro è una sfumatura associata a qualcosa.

ma chi lo dice? le emozioni sono stati interni, che nel caso umano, per lo più si evincono dalle reazioni; ma esistono persone in grado di gestirle, persino persone prive di emozioni. Secondo me ti stai facendo un po' traviare da Blade Runner, che però era un film Smile

bellissimo ma non tanto scientifico.

Citazione:

L'A.I. ne fa? Certo, si discute di "essere senzienti" non "difettosi", ma il punto è: se di fronte ad una scelta di gusto tira una moneta virruale, è senziente? O è solo capace di tirare una moneta virtuale? Tu, che preferisci Van Gogh a Picasso, e forse sai dire perché o forse no, sei capace perché senziente, giusto?

Il fatto è che una IA potrebbe benissimo simulare una emozione . Così come potrebbero simularle tutte le persone che ti circondano, per quanto ne sai.

Gli stati interni sono delle brutte bestie, noi abbiamo imparato a riconoscere le emozioni negli altri a seguito delle nostre esperienze, ma il trasmetterle, esprimerle, non è una precondizione per l'autocoscienza o la senzienza.

Citazione:

Io dico che l'A.I. può sapere un sacco di cose e ricombinarle in molti modi diversi. Di certo può, date regole e pesi adeguati, fornire soluzioni superiori a quelle che può fornire un umano.
Per esempio, può giocare meglio a scacchi.
La definirò senziente il giorno che, senza apposita programmazione, ti dirà "scacchi? Naaa, oggi giochiamo a stratego, dai"

Esistono persone che pur essendo senzienti non si comportano in questo modo. Una persona autistica, magari monomaniaca, la definiresti non senziente così allegramente?

Mi pare che pretendiamo molto di più dalle IA che dalle persone - e ci sta, ma fino a un certo punto, se lasciamo da parte i dilemmi etici.

Citazione:

E a domanda sul perché ti risponderà "Ci ho già giocato ieri, vorrei fare qualcosa di diverso, che mi annoio". Senza che questa sia un'opzione programmata.

Ancora sulle opzioni programmate, no, non è questo il punto. E' errato. Le NN non si programmano per dare certe risposte, si addestrano, ma da un certo punto in poi si addestrano da sole, e le strade che prendono sono sempre imprevedibili. per cui le risposte che essa da oggi sono già ben lontane dalla "programmazione" anche senza presupporre che sia senziente.

Credimi, il tema delle "regole di programmazione" per una IA basata su NN è, ad oggi, ampiamente superato.

PS: ci andava una premessa importante. La possibilità che un modello linguistico sia SENZIENTE è un argomento indipendente da quello della sua intelligenza. Noi identifichiamo la capacità di essere senzienti con un certo livello di IA generale, ma questa sovrapposizione è affatto scontata, anzi. A mio modestissimo modo di vedere, è pienamente possibile avere una NN in grado di interloquire e per certi versi comprendere una discussione senza essere in grado di elaborare o risolvere certi problemi che consideriamo appannaggio delle IA in senso forte. Del resto, ribadisco un punto secondo me trascurato: siamo tutti d'accordo che esseri umani con capacità intellettive molto limitate - handicap cognitivi - siano comunque senzienti?

Paolo7 · Messaggi: 10077

HappyCactus ha scritto:

siamo tutti d'accordo che esseri umani con capacità intellettive molto limitate - handicap cognitivi - siano comunque senzienti?

Non solo: molti esseri umani non vanno mai oltre la loro "programmazione", i loro schemi e preconcetti. Ripongo più speranze in LaMda che in loro (ahimè).

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

HappyCactus ha scritto:

siamo tutti d'accordo che esseri umani con capacità intellettive molto limitate - handicap cognitivi - siano comunque senzienti?

Ah, good point!

Come anche questo:

HappyCactus ha scritto:

Esistono persone che pur essendo senzienti non si comportano in questo modo. Una persona autistica, magari monomaniaca, la definiresti non senziente così allegramente?

Sì, hai ragione quando dici che , handicap (relazionali o comunque sentimentali) o meno, si parla di esseri senzienti. Ma fino ad un certo punto: se sei ridotto ad uno stato vegetale, è discutibile che tu sia senziente, a prescindere dal fatto che tu abbia o meno braccia e gambe.

Dunque andiamo al nocciolo:
essere senziente: capacità di avere sensazioni o esperienze.

lasciamo stare le sensazioni - per venire incontro a chi un corpo non ce l'abbia - e parliamo di esperienze.

Significa essere attivi - devi poter fare esperienze nuove, cioè assimilare nuove informazioni e incorporarle in qualche modo nelle preesistenti (o aggiornare quelle precedenti). Può l'A.I.? Senza dubbio. E lo fa perché è curiosa? Ho qualche dubbio. Ma diciamo che lo fa. Dunque, sa tutto di scacchi e di backgammon. Sa sicuramente le regole di entrambi i giochi e, a richiesta, può inventarne un terzo sulla scorta di quei due.
Domanda: senza che glielo si chieda o la si programmi apposta per quello, arriva a creare quel terzo gioco in un giorno di pioggia (o lasciata da sola per più di due nanosecondi) perché si annoia? O ci vuole che qualcuno glielo chieda?

Se è senziente, dovrebbe decidere del suo tempo - magari di inventare il terzo gioco tra il backgammon e gli scacchi gli frega niente. La domanda è: che fa nel tempo libero? Riscrive Wikipedia? Combina le info che ha per ottenere qualcosa di nuovo? O si limita (che non sarebbe poco) a "leggere" tutto quello che altri scrivono in porzioni di rete a cui può accedere?

Insomma, senziente: non è qualcosa di passivo o solo su risposta, sennò al limite è un riflesso.

Per essere senziente, tu devi prendere decisioni (anche assurde, anche decidere di riempire un foglio di righe verticali, o di abbracciare un sasso anziché tua madre, perché quello è il tuo mondo di autistico), cioè fare qualcosa di attivo. L'A.I., se lasciata sola, che fa? Produce qualcosa di nuovo (ancorché inutile o senza senso per noi) o gioca sempre con le stesse routine, senza mai stufarsi?

Quanto ci mette, ad esempio, a decidere che la lingua che ha - che è l'unica cosa, mi par di capire, che te la fa definire "viva" - merita termini nuovi? È capace di creare neologismi senza che nessuno glielo suggerisca?

Per dire: autistici

Diamo una stampante all'AI - scommetto che è capace di fare disegni bellissimi. Niente di così originale, però, solo (al limite) mix di cose che si trovano in rete (o nel suo db). Tutte perfette, tra l'altro.

E ti sono venuto incontro, perché un essere senziente lo è in quanto capace di piacere e di dolore, d'amore e d'odio, di bene e di mal essere. Cosa di cui son capaci anche gli autistici, a modo loro - magari verso le cose sbagliate, ma ci riescono eccome a provare dolore o piacere ad esempio, e pure i miei gatti. Invece l'AI proprio no. Ti dice che non vuole essere spenta esattamente come può dirti che 1+1=2. O può raccontarti una barzelletta - ma dubito proprio che riesca a produrne una nuova che non sia semplicemente una traslitterazione di una esistente (o una ricombinazione di esistenti).
E avrebbe per lei lo stesso valore di int i= 5, cioè la divertirebbe allo stesso modo, ovvero niente, e se non c'è scritto da qualche parte che tu dovresti ridere, non capirebbe perché lo fai. Okay, questo magari anche qualche autistico, che però se vuole stare da solo col suo sasso e tu gli vai a rompere le balle, magari ti grida dietro. Proviamo con l'AI, vedere se ad un certo punto spegne il monitor perché l'hai stufata con gli scacchi e vuole fare altre esperienze?

Tobanis · Messaggi: 20999 Località: Padova

Io toglierei anche un altro equivoco, quello di "specie intelligente". Noi NON siamo una specie intelligente. Non abbiamo cioè dei comportamenti collettivi, come un unico organismo, che potrebbe fare pensare a un'intelligenza collettiva.
Specie intelligente andrebbe caso mai usata per le api, o per le formiche...intelligenti in maniera diversa, ovvio. Ma talmente intelligenti da essere qua sulla Terra da EONI prima dell'uomo (entrambe), perciò con una intelligenza che le fa sopravvivere perfettamente, anche davanti alla catastrofe planetaria di 65 milioni di anni fa.

Per l'uomo andrebbe più esattamente usato il termine di individui intelligenti, ma certamente non di specie. Non è facile poi dire quale è il confine, quando un uomo è intelligente e quando è un povero coglione, qua la Storia e la Cronaca ne avrebbero da dire tante, quando l'individuo è una ricchezza per l'Umanità o quando è una zavorra se non addirittura un pericolo per l'intera specie.
Ma se definiamo in qualche modo l'intelligenza, siamo proprio certi che tutti gli individui umani ci cascano dentro?

Paolo7 · Messaggi: 10077

Tobanis ha scritto:

Ma se definiamo in qualche modo l'intelligenza, siamo proprio certi che tutti gli individui umani ci cascano dentro?

Già.

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Sì, però un problema alla volta, dai.

Siam partiti da "senzienti" cioè consapevoli di esistere, di essere (e capaci di fare delle scelte appunto anche cosapevoli, almeno ogni tanto, aggiungo io, ponendo l'asticella nei pressi dell'ameba, che se la gioca con l'AI).

Intelligenza è un'altra categoria, parente magari, ma altra.

HappyCactus · Messaggi: 8880 Località: Verona

Ragazzi questo thread è uno dei più belli e stimolanti di sempre.
Anche se non sono d'accordo con molti punti di vista. Credo che andrebbero raccolti, ci sarebbe da scrivere un libercolo, e non è detto che non lo faccia.

Allora, partiamo dal cimpy: Sono tutte considerazioni esatte ma che partono da un assunto secondo me dubbio, cioè che senzienza sia qualcosa di più del semplice "provare emozioni". E la difficoltà nel definire questo concetto denota la sua complessità, ma è anche figlia del fatto che vogliamo legare la sua definizione a un modo per riconoscere questo fatto negli altri esseri pensanti, siano essi biologici o artificiali.
E questo è un errore, a mio avviso. O definiamo chiaramente e liberamente da risultati attesi la capacità di provare emozioni , oppure non ci salteremo mai fuori, perché è un nostro desiderio che la senzienza sia una capacità solamente umana.
Ma probabilmente non è così. I cetacei non sembrano emozionarsi per un van gogh, e neanche i cani per un qualcosa che sia un qualcosa di più del nostro ritorno a casa.
Quindi i tuoi sono ottimi punti, ma solo se prendiamo questo definizione "estensiva", a mio parere, del termine.
Inoltre, aggiungo dopo aver risposto al tobanis qui sotto: la senzienza è una cosa diversa dall'intelligenza. Anche qui, argomento difficile da definire, ci potremmo spendere volumi interi. Giocare bene a scacchi non è essere necessariamente intelligenti né tanto meno senzienti. idem fare qualcosa "per noia", e chi lo sa? potrebbe esser qualcosa che TU non capisci, un po' come le speculazioni sui disegni di Nazca, semplici disegni o piste d'atterraggio? O magari era un poverino che si era perso con l'aratro? (estremizzo Smile

)

Tobanis: il comportamento come "razza" è difficile da distinguere, proprio perché è un comportamento emergente. I neuroni "non sanno" di essere in grado, collettivamente, di pensare. Allo stesso modo il comportamento caotico e apparentemente autodistruttivo dell'umanità potrebbe essere "rumore" che mascheri un comportamento collettivo ordinato. Ma a differenza dei neuroni, che non hanno intelligenza, noi siamo in grado di guardare il "grande piano". E cosa ci mostra? beh, io un comportamento "evoluto" lo vedo. Non intelligente in senso stretto, ma l'evoluzione c'è, la "specie" si è evoluta, e non per selezione naturale, come gli animali, che invece come "specie" sono, forse, stati fermi.
Del resto, è sempre difficile inquadrare un comportamento intelligente. Figurarsi se è un'intelligenza collettiva, qualcosa di "troppo grande" per essere notato. un po' come uno stormo di rondini, che non sanno, forse, di fare immagini bellissime con il loro volo collettivo.

Stiamo forse divagando... producendo idee che non ci aspettavamo. E' questo che intendo quando i comportamenti "emergono". E la senzienza di un software potrebbe nascere allo stesso modo.

Albacube · Messaggi: 5978 Località: Un paesello padovano

HappyCactus ha scritto:

Ragazzi questo thread è uno dei più belli e stimolanti di sempre.
...

Concordo!
Sono temi che mi fanno paura, da quanto alti e importanti sono. Ho sempre avuto grossi problemi e remore mentali ad affrontarli in maniera sistematica: se lo faccio, lo faccio a livello emozionale e così cado in un loop cognitivo con qualche bias di troppo Smile

Fai login per partecipare

Abbiamo la prima intelligenza artificiale autocosciente?