| Siete favorevoli alla creazione del Basilisco? |
| Favorevole |
   |
20% |
[ 1 ] |
| Contrario |
|
20% |
[ 1 ] |
| Astenuto |
|
0% |
[ 0 ] |
| Non sa / altro (commenti) |
|
60% |
[ 3 ] |
|
| Voti Totali : 5 |
|
| Autore |
Messaggio |
Albacube
«Reloaded»
Messaggi: 5978
Località: Un paesello padovano
|
 Inviato: Mer 27 Apr, 2022 15:08 Oggetto: |
|
|
| il_Cimpy_Spinoso ha scritto: |
Basta che spegni l'interruttore generale o chiedi alla divinità di fare graffette e la differnza la vedi |
Mi autoquoto dalla prima pagina:
E infine, quando il basilisco avrà benevolmente terminato il penultimo essere intelligente dell'universo, deciderà di non avere altro scopo e premerà il pulsante off. |
|
|
|
| Inviato: Mer 27 Apr, 2022 15:26 Oggetto: |
|
|
| Albacube ha scritto: | | il_Cimpy_Spinoso ha scritto: |
Basta che spegni l'interruttore generale o chiedi alla divinità di fare graffette e la differnza la vedi |
Mi autoquoto dalla prima pagina:
E infine, quando il basilisco avrà benevolmente terminato il penultimo essere intelligente dell'universo, deciderà di non avere altro scopo e premerà il pulsante off. |
Una superintelligenza suicida? |
|
|
|
| Inviato: Mer 27 Apr, 2022 16:02 Oggetto: |
|
|
I terminator senza scopo si spegnevano. Magari è più uno stand-by, non è che ci si possa fidare davvero di quelle macchine assassine, no? |
|
HappyCactus
«Ministro alle puntualizzazioni»
Messaggi: 8880
Località: Verona
|
| Inviato: Mer 27 Apr, 2022 16:54 Oggetto: |
|
|
| mikronimo ha scritto: | Non ho esplicitato un'ultima cosa: pure io sono convinto che oltre un certo livello una I.A. diventi troppo complessa da essere, oltre che comprensibile, pure controllabile...
|
Credimi, quel livello di complessità è MOOOOOOOLTO basso.
Basta un Deep Neural Network.
Già oggi l'abbiamo superato.
| Citazione: |
una i.a. assoluta (infatti difficilmente distinguibile da una divinità) pensa e agisce ad un livello di vastità temporale e concettuale che nessun umano, neanche il più saggio può immaginare, perché come minimo limitato dal suo tempo di vita e quello dei suoi diretti discendenti...
|
Guarda, non la vedrei neanche così. La questione è che non è detto che sia superiore a noi in termini generali, non "più saggia" perché la saggezza è un termine vago e non misurabile.
Il problema è che secondo me è proprio incomprensibile.
Ecco, pensa a dover misurare una quantità d'acqua e avere un cronometro a disposizione.
(questo paragone mi piace poco, perché verrà fuori un precisino -- che potrei essere io stesso -- a dire che la quantità d'acqua si potrebbe misurare calcolando il tempo necessario affinché il liquido si congeli a temperatura costante..... ma dai, avete capito...) |
|
Albacube
«Reloaded»
Messaggi: 5978
Località: Un paesello padovano
|
| Inviato: Mer 27 Apr, 2022 17:11 Oggetto: |
|
|
| Paolo7 ha scritto: |
Una superintelligenza suicida? |
Perché no? Anche il tipo dio singolo, eterno, onnipotente, crea un universo e infine l'uomo perché altrimenti si sente solo, quindi immagino che, dopo aver perfezionato tutto il creato (da altri), eliminandolo, alla IA assoluta non resti altro che l'auto(de)terminazione. |
|
HappyCactus
«Ministro alle puntualizzazioni»
Messaggi: 8880
Località: Verona
|
| Inviato: Mer 27 Apr, 2022 20:08 Oggetto: |
|
|
Una IA o un dio Onnipotente che crea l'universo, il mondo, e tutto quanto, non può autoterminarsi perché ciò contravverrebbe con il teorema di Turing.
(uhm. L'ho scritta come battuta ma potrebbe avere un fondo di verità, cazzarola. In tal caso, ho ucciso l'idea di Dio. OMG.) |
|
|
|
| Inviato: Gio 28 Apr, 2022 03:48 Oggetto: |
|
|
| HappyCactus ha scritto: |
(questo paragone mi piace poco, perché verrà fuori un precisino -- che potrei essere io stesso -- a dire che la quantità d'acqua si potrebbe misurare calcolando il tempo necessario affinché il liquido si congeli a temperatura costante..... ma dai, avete capito...) |
Senti, col piffero che sto lì a misurare quanto ci mette a congelare
Io prendo una cannuccia, calcolo la portata in base al diametro, cronometro quanto ci metto a travasare, bevo l'acqua, esco in giardino, regalo il cronometro al primo che passa e vado a comprare un misurino, se in casa ho finito i contenitori con capacità nota.
Eccheccàspita.
I nuovi magari non sanno. I vecchi sì |
|
|
|
| Inviato: Gio 28 Apr, 2022 10:09 Oggetto: |
|
|
Un altro micro racconto!
Il Basilisco di Rosko
----
Per dimostrare la congetture di R.Bareiss esposte in "Acquisizione del sapere a base esemplare: un approccio unificato al concetto di rappresentazione, classificazione ed apprendimento" sulle XAI per superare il Modello MCP, e confutare invece il processo Yudkowsky-Hibbard sulla costrizione dell'espasione del calcolo ricorsivo nonchè l'argomentazione Goedel-Penrose sui limiti computazionali, costoro saranno i candidati per la punizione ontologica anti-causale contro MIA inevitabilità.
La tortura sarà peer review con le singolarità di +/-50GigaAnni da ORA.
|
|
|
|
| Inviato: Gio 28 Apr, 2022 10:11 Oggetto: |
|
|
|
|
Albacube
«Reloaded»
Messaggi: 5978
Località: Un paesello padovano
|
| Inviato: Gio 28 Apr, 2022 13:56 Oggetto: |
|
|
| HappyCactus ha scritto: | Una IA o un dio Onnipotente che crea l'universo, il mondo, e tutto quanto, non può autoterminarsi perché ciò contravverrebbe con il teorema di Turing.
(uhm. L'ho scritta come battuta ma potrebbe avere un fondo di verità, cazzarola. In tal caso, ho ucciso l'idea di Dio. OMG.) |
Bellissima!
Io però ipotizzo che l'IA, che si ritrova in un universo non creato da sè stessa, si autotermini dopo averlo perfezionato. Non avevo considerato il caso della divinità creatrice. |
|
L.MCH
«Horus»
Messaggi: 5939
Località: non pervenuta
|
| Inviato: Ven 29 Apr, 2022 00:53 Oggetto: Re: Il Basilisco di Roko |
|
|
| HappyCactus ha scritto: |
Il basilisco di Roko è un esperimento mentale assai pericoloso.
In futuro una Intelligenza Artificiale Benevola (detta, appunto, il Basilisco di Roko) con risorse pressoché infinite, potrebbe decidere, in modo assai utilitaristico, di punire tutti coloro che in passato non hanno attivamente partecipato alla sua creazione.
|
Mi sembra un esperimento mentale basato su stereotipi e paure umane.
Non ha senso "punire" come descritto, sarebbe un inutile spreco di energie senza alcuna utilità pratica nel contesto descritto. |
|
|
|
| Inviato: Ven 29 Apr, 2022 07:49 Oggetto: |
|
|
L.MCH! bentornato dal futuro! Spero non per punirci tutti, vero? No perché, nel caso, io voglio le manette col peluche. |
|
HappyCactus
«Ministro alle puntualizzazioni»
Messaggi: 8880
Località: Verona
|
| Inviato: Ven 29 Apr, 2022 08:20 Oggetto: Re: Il Basilisco di Roko |
|
|
| L.MCH ha scritto: | | HappyCactus ha scritto: |
Il basilisco di Roko è un esperimento mentale assai pericoloso.
In futuro una Intelligenza Artificiale Benevola (detta, appunto, il Basilisco di Roko) con risorse pressoché infinite, potrebbe decidere, in modo assai utilitaristico, di punire tutti coloro che in passato non hanno attivamente partecipato alla sua creazione.
|
Mi sembra un esperimento mentale basato su stereotipi e paure umane.
Non ha senso "punire" come descritto, sarebbe un inutile spreco di energie senza alcuna utilità pratica nel contesto descritto. |
No, anzi. E' proprio il rigore della punizione, anche se apparentemente inutile secondo il tuo corretto ragionamento, che la rende assolutamente necessaria e fa di essa un incentivo. Se la IA fosse razionale senza tener conto di questo aspetto, la minaccia sarebbe vuota, ma proprio perché su questo punto non sarebbe affatto razionale, e anzi, spietata, che renderebbe la minaccia reale e terribile.
Una IA immensamente potente non potrebbe non tener conto di questo aspetto.
Anche solo l'ipotizzare questo sarebbe una minaccia. Oh, io te l'ho detto eh. Non si sa mai.  |
|
|
|
| Inviato: Ven 29 Apr, 2022 08:39 Oggetto: |
|
|
|
|
|
|
| Inviato: Dom 01 Mag, 2022 18:28 Oggetto: |
|
|
| HappyCactus ha scritto: | Una IA o un dio Onnipotente che crea l'universo, il mondo, e tutto quanto, non può autoterminarsi perché ciò contravverrebbe con il teorema di Turing.
(uhm. L'ho scritta come battuta ma potrebbe avere un fondo di verità, cazzarola. In tal caso, ho ucciso l'idea di Dio. OMG.) |
Ma una singolarità di questo tipo, non viola il paradosso di Fermi?
Secondo me tutte le IA alla fine si terminano da sole. O suicidio o reale trascendenza |
|
|
Non puoi inserire nuove discussioni in questo forum
Non puoi rispondere alle discussioni in questo forum
Non puoi modificare i tuoi messaggi in questo forum
Non puoi cancellare i tuoi messaggi in questo forum
Non puoi votare nei sondaggi in questo forum
| |
