Perché l’Intelligenza Artificiale potrebbe essere l’ultima opera dell’uomo

By -

L’Intelligenza Artificiale, traguardo verso il quale ci avviciniamo sempre più a grandi passi, potrebbe essere l’ultima opera dell’uomo. robot, uccide, ragazzo, robot I uccide ragazo, robot uccide, intelligenza

I prossimi 30 anni potrebbero essere quelli più stupefacenti nella costruzione di IA, ma anche i più pericolosi per la path-dependence.

artificiale uccide, pericoli, ia, ai, artificial intelligence

Il rischio, tremendo, è che i computer, una volta abilitati a ragionare da soli e ad arrivare a conclusioni non precedentemente date (cioè capacità di pensiero, intelligenza), surclassino l’uomo e divengano inarrestabili. Le capacità di calcolo di un computer sono superiori a quelle, combinate, di milioni di persone. Tutte le persone sulla terra, sommate, non riuscirebbero a raggiungere la velocità di calcolo di un supercomputer della NASA, per esempio. Non solo: la capacità di incrementare la potenza di calcolo, e quindi di evolversi, di un computer, è enormemente superiore alla capacità umana di evolvere biologicamente. E se la capacità di calcolo si traduce in capacità di pensare e decidere come agire, inventare nuove strutture, fare scelte precise in base ai numeri e alle probabilità, il discorso si fa ancora più inquietante.

La morale e l’etica sono strutture di pensiero prettamente umane, come la cultura, che si differenzia dalla mera conoscenza. Se è possibile trasmettere un impulso binario per far compiere ad un automa una determinata azione, 1 0, come è possibile scrivere un codice che consenta ad un robot di discernere cosa è bene e cosa e male?

In un situazione in cui un robot deve salvare due persone, e non può salvarle entrambe, se l’anziana ha il 51% di sopravvivere (ma ha 95 anni) e la bambina il 49% ma tutta la vita di fronte, come fa il computer a scegliere se non tramite un algoritmo? (È la scena iniziale di Io, Robot)

La verità è che l’intelligenza artificiale è come qualcosa, una nuvola che aspettiamo. Avvertiamo il vento che spesso si accompagna alle precipitazioni, ma non distinguiamo se sia la pioggia benevola che rinfresca o la bomba d’acqua che ci spazza via.

E chi non dice che i computer, programmati dall’uomo, vestiti da insiemi armonici di ingranaggi e metallo, robot antropomorfi, non possano decidere di levarlo dalla faccia del pianeta? robot, uccide, ragazzo, robot uccide ragazo, robot uccide, intelligenza artificiale uccide, pericoli, ia, ai, artificial intelligence

Uno potrebbe dire: basta inserire nel sistema operativo che li manda avanti delle regole, alla 3 leggi della robotica, sempre di Asimov.

 

  1. Un robot non può recar danno a un essere umano né può permettere che, a causa del proprio mancato intervento, un essere umano riceva danno.
  2. Un robot deve obbedire agli ordini impartiti dagli esseri umani, purché tali ordini non contravvengano alla Prima Legge.
  3. Un robot deve proteggere la propria esistenza, purché questa autodifesa non contrasti con la Prima o con la Seconda Legge.

robot sentinella che rivela armiMa basta un virus per sovrascrivere alcune impostazioni di base, et voilà! Ecco una macchina perfetta e senza briglie. E non sono l’unico a pensarla così: Elon Musk, imprenditore, innovatore, filantropo, blablabla, miliardario, ha annunciato l’intenzione di utilizzare 7 milioni di dollari per finanziare vari progetti volti a controllare l’intelligenza artificiale. Uno tra questi si ripropone di contribuire a mantenere le armi IA sotto “un significativo controllo umano “. E sono dello stesso avviso anche i signori Gates (Bill e Melinda, sì, il fondatore di Microsoft). Bill Gates ha detto, durante un AMA su Reddit:

“I am in the camp that is concerned about super intelligence. First the machines will do a lot of jobs for us and not be super intelligent. That should be positive if we manage it well. A few decades after that though the intelligence is strong enough to be a concern. I agree with Elon Musk and some others on this and don’t understand why some people are not concerned.”

Recentemente abbiamo assistito al primo assassinio di un uomo da parte di un robot. Detto così sembra molto “Io, Robot” di Isaac Asimov. In realtà un giovane neoassunto stava installando delle parti per un braccio meccanico quando questo, chissà, lo ha scambiato per un pezzo di metallo e lo ha premuto contro una lastra. Uscito vivo dall’inconveniente, è deceduto durante il viaggio in ambulanza. Condoglianze sentite alla famiglia.

La pericolosità dell’Intelligenza Artificiale non sta nell’uso buono, socialmente utile che potrebbe esserci. Ma nella sua capacità di diventare incontrollabile e potenzialmente distruttivo.

Poniamo: il robot (i robot) si rendono conto che l’uomo rischia di compromettere l’ecosistema. E se l’ecosistema è compromesso, rischiano di esserlo anche loro. Avvertono una minaccia, si organizzano per difendersi. L’uomo è il bersaglio. robot, uccide, ragazzo, robot uccide ragazo, robot uccide, intelligenza artificiale uccide, pericoli, ia, ai, artificial intelligence

Ora, so che questo può sembrare assurdo. Ma non lo è. Non si tratta di luddismo. L’intelligenza artificiale, se gestita male, con errori, potrebbe essere l’ultima opera dell’uomo.

 

1 Comment to Perché l’Intelligenza Artificiale potrebbe essere l’ultima opera dell’uomo

  1. Non c’è niente di assurdo, l’intelligenza artificiale è un pericolo per l’uomo, ma non tanto l’intelligenza in sé, quanto la propria consapevolezza di esistere come entità pensante. Chi ci garantisce che una coscienza artificiale non elimini l’uomo vedendolo come un pericolo o come la risposta più razionale a un problema?
    L’intelligente umana non solo è limitata, ma è soprattutto limitata fisicamente nelle sue capacità: solo collettivamente noi possiamo progredire e cambiare l’ambiente, e questo ha fatto sì che noi siamo biologicamente portati a sentimenti di compassione e quant’altro che ci aiutano a stare assieme come collettività di individualità. Ma una individualità che può tutto che non ha limiti fisici rispetto a noi, come mai potrà essere contrastata?

Lascia un commento

Il tuo indirizzo email non sarà pubblicato.