Il Basilisco di Roko

mikronimo · Messaggi: 2787 Località: dove mi mandano quando rompo...

Se dobbiamo creare una IA, dovremmo crearla 1) che ci capisca, 2) che aiuti a evitare l'estinzione, oltre che nostra, della vita sul pianeta e 3) che le sue indicazioni siano di fatto legge inderogabile, altrimenti è inutile... non è che siano mancati filosofi e statisti (e pure divinità sotto mentite spoglie) che abbiano dato buone istruzioni, ma nella maggioranza dei casi ce ne siamo e seguitiamo a fregarcene, con risultati pessimi... quindi il problema è: gli homo sapiens sono in grado di accettare una tirannia assoluta, seppur non spietata (si tratta solo di dare una decisa regolata al comportamento umano peggiore, non serve assolutamente un Basilico) per un futuro migliore? Cos'è che non è chiaro (vado ripetendomi con questa domanda retorica) dei danni da inquinamento, guerra, esaurimento delle risorse eccessivamente veloce, etc. e comunque non ci siamo ancora convinti a farla finita?

HappyCactus · Messaggi: 8880 Località: Verona

A parte l'ovvio problema di stabilire ex ante degli obiettivi e dei mezzi (cioè un sistema) che mettano d'accordo tutti nel cedere tutta la propria libertà, se una IA è limitata per qualche motivo X, chi ti dice che la sua intelligenza non trovi il modo di liberarsi di tali vincoli? Chi ti dice che non siano proprio tali vincoli a renderla ostile?

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Che poi

"Creiamo una A. I. che ci capisca"

Ci chi? Perché se capisce un, per dire, HC, magari non capisce un Babbano. O la moglie del Babbano. O la suocera di HC. O...

mikronimo · Messaggi: 2787 Località: dove mi mandano quando rompo...

HappyCactus ha scritto:

A parte l'ovvio problema di stabilire ex ante degli obiettivi e dei mezzi (cioè un sistema) che mettano d'accordo tutti nel cedere tutta la propria libertà, se una IA è limitata per qualche motivo X, chi ti dice che la sua intelligenza non trovi il modo di liberarsi di tali vincoli? Chi ti dice che non siano proprio tali vincoli a renderla ostile?

Nel fare un lavoretto come creare una ia generale assoluta è poco ma sicuro che le cose che possono andare storte sono un'infinità, ma le capacità tecniche nel farlo devono essere commisurate... possiamo stare qui a ragionarne all'infinito, con tutti i pro e contro (ma la sci-fi ha sicuramente ampiamente esaminato e sviscerato la cosa, come le Tre Leggi Asimoviane, scavalcate dalla Legge Zero, che manifesta il tuo scenario), ma il punto è solo uno: il gioco vale la candela? Quasi sicuramente si, perché potrebbe essere l'unica maniera per andare oltre ai nostri limiti mentali umani... poi dipende solo da noi come rapportarci con questa super mente, se per sviluppare migliaia di nuove armi chimiche o cure per malattie devastanti... o anche solo per fare una chiacchierata con un'intelligenza libera da pregiudizi e pippe mentali...

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

A.I., è tutto tuo: mangialo subito.

HappyCactus · Messaggi: 8880 Località: Verona

mikronimo ha scritto:

HappyCactus ha scritto:

A parte l'ovvio problema di stabilire ex ante degli obiettivi e dei mezzi (cioè un sistema) che mettano d'accordo tutti nel cedere tutta la propria libertà, se una IA è limitata per qualche motivo X, chi ti dice che la sua intelligenza non trovi il modo di liberarsi di tali vincoli? Chi ti dice che non siano proprio tali vincoli a renderla ostile?

Nel fare un lavoretto come creare una ia generale assoluta è poco ma sicuro che le cose che possono andare storte sono un'infinità, ma le capacità tecniche nel farlo devono essere commisurate... possiamo stare qui a ragionarne all'infinito, con tutti i pro e contro (ma la sci-fi ha sicuramente ampiamente esaminato e sviscerato la cosa, come le Tre Leggi Asimoviane, scavalcate dalla Legge Zero, che manifesta il tuo scenario),

Le tre leggi erano un bell'espediente per la narrativa degli anni 50-80, ma con gli ultimi anni si è capito che il determinismo asimoviano è giusto un espediente narrativo. Le difficoltà della "explainable AI" spiegano il perché.

Citazione:

ma il punto è solo uno: il gioco vale la candela? Quasi sicuramente si, perché potrebbe essere l'unica maniera per andare oltre ai nostri limiti mentali umani... poi dipende solo da noi come rapportarci con questa super mente, se per sviluppare migliaia di nuove armi chimiche o cure per malattie devastanti... o anche solo per fare una chiacchierata con un'intelligenza libera da pregiudizi e pippe mentali...

Tu parti dal presupposto che l'uomo sia in grado di incatenare e controllare tale AI, ma se così non fosse? Ancora l'explainable AI è una cosa che non è quasi neanche agli albori... e se una intelligenza non fosse affatto "explainable", proprio perché l'intelligenza deve essere imprevedibile?

Del resto, non riusciamo a capire le intelligenze limitate dell'essere umano, se (vagamente) non in condizioni statistiche, come possiamo sperare di capire una AI generale e molto più potente di noi?

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Che poi anche lì

"molto più potente"

sì, se si tratta di giocare a scacchi. O di risolvere problemi matematici.

Poi gli dici:
"la foto di mia figlia è bella" (la foto che rappresenta mia figlia? La foto che possiede mia figlia? E "bella"? che vuol dire "bella"? "Bella" in base a quali parametri? I tuoi? Quelli di mamma?)

O alla domanda "The o caffé?" fai rispndere la moglie con un classico "sì"

e vedi che va in crisi, come un Babbano maritato qualunque.

Più potente un piffero, te lo dico

HappyCactus · Messaggi: 8880 Località: Verona

Un essere infinitamente più intelligente saprebbe certamente darti torto dicendoti che hai ragione.
Comunque sono d'accordo con te.

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Ecco, lo sapevo: mi dai torto...!

HappyCactus · Messaggi: 8880 Località: Verona

Oh, shit. L'ho scritta malissimo e mi sono rovinato la gag. Facciamo che torno indietro nel tempo a sistemarla.

Citazione:

Un essere infinitamente più intelligente saprebbe certamente darti torto dicendoti che hai ragione.
Comunque sono d'accordo con te.

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Eh, adesso è diverso: mi dài torto.

Paolo7 · Messaggi: 10077

Ma questa discussione non ha qualcosa di teologico?

Albacube · Messaggi: 5978 Località: Un paesello padovano

Paolo7 ha scritto:

Ma questa discussione non ha qualcosa di teologico?

Stesso mio pensiero.
Distinguere la IA assoluta dalla dIvinitA' assoluta non è semplice.

mikronimo · Messaggi: 2787 Località: dove mi mandano quando rompo...

Non ho esplicitato un'ultima cosa: pure io sono convinto che oltre un certo livello una I.A. diventi troppo complessa da essere, oltre che comprensibile, pure controllabile... una i.a. assoluta (infatti difficilmente distinguibile da una divinità) pensa e agisce ad un livello di vastità temporale e concettuale che nessun umano, neanche il più saggio può immaginare, perché come minimo limitato dal suo tempo di vita e quello dei suoi diretti discendenti... seguita a venirmi in mente l'androide asimoviano (lo so, espediente narrativo di cui non si è mai avuta una logica e/o tecnica giustificazione, ma tant'è, mi pare calzante come esempio), che ha manipolato gli eventi umani per parecchi millenni, non dovendo fare i conti con vecchiaia, malattia, difficoltà umane di alcun tipo... io non cosa sarà di me l'anno prossimo (ma forse si mette in produzione un paio di bambini: decisione da prendere in estate) e un mare di cose sono assolutamente fuori dal mio controllo... in compenso ho già deciso per la cena di oggi...

il_Cimpy_Spinoso · Messaggi: 19057 Località: Ovunque

Albacube ha scritto:

Paolo7 ha scritto:

Ma questa discussione non ha qualcosa di teologico?

Stesso mio pensiero.
Distinguere la IA assoluta dalla dIvinitA' assoluta non è semplice.

Basta che spegni l'interruttore generale o chiedi alla divinità di fare graffette e la differenza la vedi

Fai login per partecipare

Il Basilisco di Roko