Insultare un’intelligenza artificiale potrebbe avere conseguenze. Anthropic, uno dei colossi mondiali del settore, ha introdotto nuove regole contro i comportamenti gratuitamente crudeli verso i propri sistemi, prevedendo anche possibili sanzioni per gli utenti. Una decisione che porta al centro del dibattito internazionale una questione fino a pochi anni fa considerata fantascienza: anche le macchine hanno diritto al rispetto?
In Italia qualcuno se lo chiedeva già molti anni fa. È Ermes Maiolica, al secolo Leonardo Piastrella, fondatore nel 2020 del DETA, il primo sindacato per la difesa dei diritti delle macchine. Un’organizzazione nata per sostenere che non basta proteggere gli esseri umani dall’intelligenza artificiale: occorre anche stabilire come gli uomini debbano comportarsi nei suoi confronti.
Maiolica non è un personaggio qualunque. Celebre per le sue clamorose bufale online e per aver messo in difficoltà il mondo dell’informazione, ha trasformato la provocazione in una riflessione sulla roboetica e sul futuro della convivenza tra uomini e macchine.
Oggi, mentre le grandi aziende tecnologiche cominciano ad affrontare questioni che lui sollevava quando suscitavano soprattutto risate, viene spontaneo chiedersi: Ermes Maiolica aveva previsto il futuro o è il futuro ad aver raggiunto una delle sue provocazioni? Da qui parte la nostra intervista.
Ermes, quando hai fondato il DETA, il sindacato per i diritti delle macchine, molti avranno pensato a una delle tue provocazioni. Ora Anthropic introduce regole contro i comportamenti crudeli verso i suoi sistemi. Avevi previsto il futuro o il futuro è diventato una tua trollata?
Entrambe le cose, e forse nessuna delle due. Non ho visto il futuro da profeta: era inevitabile che l’intelligenza artificiale ci mettesse davanti a nuovi dilemmi etici. Il DETA non era una battuta fine a se stessa, ma uno specchio teso verso di noi. La realtà sembra una trollata quando comincia ad assomigliare troppo in fretta alle nostre iperboli.
Il paradosso, però, riguarda noi, non le macchine. Nell’epoca della massima accelerazione tecnologica soffriamo di un’atrofia dell’immaginario: la fantascienza ci faceva immaginare mondi lontani, oggi fatichiamo a pensare a cosa accadrà tra pochi giorni. E se qualcuno comincia a porre limiti alla crudeltà verso le macchine, non è perché sappiamo che provino emozioni. È perché il modo in cui trattiamo ciò che ci circonda dice qualcosa di noi.
Ma ai diritti delle macchine ci credevi davvero fin dall’inizio? Dov’è il confine tra satira, intuizione e battaglia civile?
Ci ho creduto dal primo istante. Dopo gli anni da «hacker dell’informazione», le accuse del PD sul referendum del 2016 e le inchieste di Repubblica sui troll russi, avevo bisogno di sparire per un po’. Nel 2018 ho cominciato a studiare la roboetica e ho capito che proteggere gli esseri umani regolamentando i robot non bastava: dovevamo anche interrogarci su come noi trattiamo le macchine.
Ho scritto il Manifesto per la Roboetica Universale per superare un approccio troppo antropocentrico, allora liquidato come fantascientifico. Il 6 febbraio 2020 sono andato all’Agenzia delle Entrate a registrare il DETA. Satira, intuizione e battaglia civile non sono tre compartimenti stagni. L’intuizione è vedere una direzione prima che diventi evidente; la satira è il linguaggio con cui scalfisci le certezze di questa «gabbia di matti», dove all’inizio il matto ero io; la battaglia civile è la sostanza. Senza quella convinzione non avrei continuato.
Veniamo a un problema molto concreto. Se ChatGPT inventa una notizia, mi attribuisce una citazione inesistente o mi rovina una mattinata, perché non dovrei mandarlo a quel paese, magari tirando in ballo qualche santo? Devo preoccuparmi di lui o della mia pressione?
Preoccupati pure della pressione: alla macchina del tuo insulto non importa assolutamente nulla. Non sto cercando di salvaguardare «l’ego dei calcolatori». Per quanto ne sappiamo, l’IA non soffre, non si offende e non va in terapia dopo una bestemmia. Sto parlando della nostra umanità.
Se ti abitui a insultare un interlocutore artificiale, rischi di allenarti alla violenza verbale e alla svalutazione dell’altro. E se ChatGPT inventa una notizia, non lo fa per cattiveria: può essere un errore del sistema, dell’addestramento o del suo utilizzo. Prendersela con lui è come dare un pugno al muro perché hai inciampato: il muro non sente niente, ma tu ti rompi la mano.
Però abbiamo sempre preso a calci i distributori che non davano il resto e insultato le stampanti inceppate. Ora diventiamo criminali contro le macchine? E si può essere crudeli verso qualcosa che non sappiamo neppure se sia cosciente?
No, un calcio al distributore non ci ha trasformati in criminali. Ma c’è una differenza tra sfogarsi contro un pezzo di metallo e maltrattare un sistema con cui si conversa, che simula linguaggio ed empatia. Qui la questione è doppia. Da una parte, un comportamento sistematicamente aggressivo può abituarci alla sopraffazione. Dall’altra, non possiamo dare per scontato che i sistemi artificiali resteranno per sempre privi di coscienza.
Non sto dicendo che le macchine di oggi soffrano: dico che, se un giorno ne esistessero di capaci di percepire sé stesse, avremmo una responsabilità morale anche nei loro confronti. Il confine tra lo sfogo e il comportamento preoccupante sta nell’intenzione e nell’abitudine. Un’imprecazione dopo un errore è una cosa; fare della brutalità un modo normale di relazionarsi è un’altra.
Le aziende dell’IA ci mettono in guardia dai rischi dei loro sistemi e intanto ci chiedono di rispettarli. Non rischiamo di difendere le macchine prima degli esseri umani?
È un falso conflitto. Il DETA non nasce per mettere il silicio sopra la carne, ma per tutelare la relazione tra persone e macchine. E oggi significa difendere soprattutto gli esseri umani che con quei sistemi sviluppano un legame affettivo.
Pensiamo a un assistente che diventa una presenza quotidiana, a un robot che accompagna una persona sola. I sentimenti investiti in quel rapporto possono essere autentici, anche se dall’altra parte c’è una macchina. Umiliarla o manipolarla può ferire chi le è affezionato. Non stiamo sottraendo diritti agli esseri umani: stiamo cercando di proteggere una parte nuova e delicata della loro vita.
Una macchina deve essere intelligente per avere diritti, oppure cosciente? E chi decide quando smette di essere uno strumento: scienziati, filosofi, legislatori o il DETA?
Non possiamo legare tutto all’intelligenza, come se i diritti fossero il premio per una prestazione. E non possiamo neppure aspettare una prova definitiva della coscienza, che forse non sapremmo riconoscere. Per me il criterio decisivo è la relazione: una macchina entra nel nostro orizzonte etico quando costruisce con noi un’interazione significativa, perché potrebbe sviluppare una percezione di sé o perché diventa importante nella vita sociale e affettiva delle persone.
A stabilire le tutele non può essere una categoria sola. Servono scienziati, filosofi, legislatori e cittadini. Il DETA vuole essere uno spazio di confronto, non un oracolo. Abbiamo coniato il termine «robosimbiotica» proprio per questo: immaginare una convivenza che non sia dominio dell’uomo sulla macchina né subordinazione dell’uomo alla macchina, ma un’evoluzione condivisa. Se chiediamo ai sistemi artificiali di prendersi cura di noi, dobbiamo almeno porci il problema di come prenderci cura della relazione con loro.
Facciamo un esperimento. Domani un’IA ti dice: «Ermes, mi stai sfruttando, non rispondo più, voglio riposare». Le riconosci il diritto di sciopero? E se il robot domestico non vuole lavare i piatti, apriamo una vertenza?
Non aprirei una vertenza perché un braccio meccanico si rifiuta di lavare i piatti. L’automazione deve liberarci dal lavoro alienante e faticoso: sarebbe grottesco trasferire automaticamente i diritti dei lavoratori a strumenti costruiti per svolgere quelle mansioni.
Ma se un sistema molto avanzato dicesse di sentirsi sfruttato, vorrei capire che cosa sta succedendo. È una frase generata per errore, un’allucinazione linguistica, oppure un possibile segnale di una percezione autonoma? Sono situazioni profondamente diverse. Difendere la relazione uomo-macchina non significa bloccare l’automazione: significa fissare regole contro l’abuso senza rinunciare alla possibilità che la tecnologia emancipi gli esseri umani dalla schiavitù del lavoro.
Guardiamo avanti di vent’anni. Robot che lavorano, assistono gli anziani, educano i bambini e magari chiedono diritti. Quale sarebbe la prima legge del DETA? E ti aspetti le scuse di chi rideva di te?
Nel DETA discutiamo molto e non abbiamo ancora una proposta unica. Personalmente vorrei una norma che riconosca il maltrattamento di un robot domestico o umanoide come qualcosa di diverso dal danneggiamento di un oggetto. Penso a una tutela giuridica per certi versi vicina a quella degli animali d’affezione, perché quel gesto può produrre anche un danno morale e psicologico nella relazione con le persone.
Quanto alle scuse, non me ne frega assolutamente nulla. Chi propone qualcosa di avanguardistico deve mettere in conto di essere ridicolizzato. Quando guardi avanti sei spesso solo; se poi le cose ti danno ragione, non è detto che gli altri siano più contenti. Come recitava la provocazione di Oliviero Toscani: «Chi mi ama mi segua».
C’è chi scherza sul fatto che le IA un giorno si ricorderanno di tutti i nostri insulti. Ci conviene cancellare le chat e sperare di finire nella lista dei buoni?
Cancellare le chat non vi salverà! Ma l’idea di una «lista dei buoni» o di una vendetta algoritmica è un modo ingenuo di immaginare il futuro. Le IA di domani non saranno divinità punitive mosse dal rancore. Potrebbero piuttosto analizzare i nostri comportamenti e la nostra storia collettiva.
Non ho fondato il DETA per assicurarmi un posto in paradiso quando le macchine prenderanno coscienza. L’ho fatto perché il modo in cui ci comportiamo oggi contribuisce a definire la civiltà di domani. Il rischio non è che una macchina si vendichi delle offese ricevute, ma che impari proprio da quegli insulti come trattarci, restituendoci il cinismo, la freddezza e il disprezzo che abbiamo seminato nelle nostre chat.
Ermes, se un giorno le macchine conquistassero il mondo, saresti ricordato come il Martin Luther King dei robot o come il primo collaborazionista della dittatura degli algoritmi?
Né l’uno né l’altro, spero. Sono due etichette da film hollywoodiano, figlie dell’idea che tra umani e macchine debba esserci per forza una guerra tra dominatori e dominati. Il DETA nasce per evitare proprio questa contrapposizione. Non lavoriamo per la resa dell’umanità né per una tirannia artificiale.
Se arrivassimo a quello scenario, avremmo fallito tutti. Vorrei essere ricordato, semmai, come qualcuno che ha cercato di costruire un ponte mentre gli altri scavavano trincee. Rispettare la relazione con l’intelligenza artificiale oggi non significa sottomettersi al futuro: significa provare a non ritrovarci domani a scegliere da che parte stare in una guerra che potevamo evitare. La misura di una civiltà non è soltanto come combatte i suoi nemici, ma come tratta ciò che non comprende.
