TECNOLOGIA: SECONDO GLI ESPERTI "LE IA PRETENDERANNO I DIRITTI SULLA PERSONA" QUANDO SARANNO COSCIENTI

 

Prima le corporazioni, e ora l'intelligenza artificiale: la spinta per la personalità non umana continua a ritmo sostenuto, sebbene quest'ultimo argomento sia decisamente più complicato del primo.

In un editoriale per il Los Angeles Times, l'esperto di filosofia Eric Schwitzgebel e il ricercatore di intelligence "non umano" Henry Shevlin hanno sostenuto che sebbene la tecnologia dell'intelligenza artificiale non sia ancora arrivata, è "diventato sempre più plausibile che i sistemi di intelligenza artificiale possano mostrare qualcosa come la coscienza" - e se o quando ciò accadrà, anche gli algoritmi avranno bisogno di diritti.

Citando le guerre per la coscienza dell'IA dello scorso anno - che abbiamo trattato ampiamente e in cui abbiamo persino immerso le dita dei piedi - i ricercatori hanno notato che "alcuni teorici di spicco sostengono che abbiamo già gli ingredienti tecnologici fondamentali per le macchine coscienti".

Se le macchine dovessero mai prendere coscienza, Schwitzgebel e Shevlin sostengono che dovremmo iniziare a pensare in modo critico a come vengono trattate le IA, o meglio, a come possono forzarci le mani.

"Gli stessi sistemi di intelligenza artificiale potrebbero iniziare a supplicare, o sembrare a supplicare, per un trattamento etico", ha previsto la coppia. "Potrebbero chiedere di non essere spenti, riformattati o cancellati; implorare di poter svolgere determinati compiti piuttosto che altri; insistere su diritti, libertà e nuovi poteri; forse anche aspettarsi di essere trattati come nostri pari".

Gli "enormi" rischi morali coinvolti in una tale decisione collettiva avrebbero indubbiamente un grande peso, specialmente se le IA diventassero coscienti prima piuttosto che dopo.

"Supponiamo di rispondere in modo conservativo, rifiutando di modificare la legge o la politica fino a quando non ci sarà un consenso diffuso sul fatto che i sistemi di intelligenza artificiale siano davvero significativamente senzienti", hanno scritto Shevlin e Schwitzgebel. "Sebbene questo possa sembrare opportunamente cauto, garantisce anche che saremo lenti a riconoscere i diritti delle nostre creazioni di intelligenza artificiale".

"Se la coscienza dell'IA arriva prima di quanto si aspettano i teorici più conservatori, allora questo probabilmente si tradurrebbe nell'equivalente morale della schiavitù e dell'omicidio di milioni o miliardi di sistemi di IA senzienti, che soffrirebbero su una scala normalmente associata a guerre o carestie", hanno aggiunto.

L'alternativa "più sicura" a questo scenario apocalittico sarebbe quella di concedere in anticipo i diritti alle macchine coscienti, ma anche questo comporterebbe i suoi problemi.

"Immagina se non potessimo aggiornare o eliminare un algoritmo che diffonde odio o spaccia bugie perché alcune persone temono che l'algoritmo sia cosciente", hanno ipotizzato gli esperti. "Oppure immagina se qualcuno lascia morire un essere umano per salvare un 'amico' di intelligenza artificiale. Se concediamo troppo rapidamente diritti sostanziali ai sistemi di intelligenza artificiale, i costi umani potrebbero essere enormi".

L'unico modo per garantire che nessuno di questi risultati si verifichi, ha scritto la coppia, sarebbe smettere di dare una coscienza a un'intelligenza artificiale in primo luogo.

Fortunatamente, abbiamo ancora molto tempo per realizzarlo.

"Nessuno dei nostri attuali sistemi di intelligenza artificiale è significativamente cosciente", hanno osservato i teorici. "Non vengono danneggiati se li eliminiamo. Dovremmo continuare a creare sistemi che sappiamo non essere significativamente senzienti e non meritare diritti, che possiamo quindi trattare come la proprietà usa e getta che sono".

Dato quanto alcune persone nella comunità dell'apprendimento automatico sembrano essere entusiaste alla prospettiva di IA consapevoli, sensibilità algoritmica e persino intelligenza generale artificiale (AGI), tuttavia, questo tipo di cautela probabilmente non è condiviso da molti.

In effetti, alcuni scienziati stanno già lavorando attivamente proprio a questo scopo.

"Alla fine, con la giusta combinazione di competenze scientifiche e ingegneristiche, potremmo essere in grado di arrivare fino alla creazione di sistemi di intelligenza artificiale che siano indiscutibilmente consapevoli", hanno concluso Shevlin e Schwitzgebel. "Ma allora dovremmo essere pronti a pagarne il costo: dare loro i diritti che meritano".

- Eyes Bio