Nick Spencer sostiene che l'incarnazione del pensiero umano costituisce la sottile linea rossa tra gli esseri umani e l'intelligenza artificiale.

source : https://www.theosthinktank.co.uk - di Nick Spencer , Senior Fellow presso Theos

Siamo seduti intorno alla tavola della famiglia Spencer a discutere di intelligenza artificiale (abbiamo deciso di non fare sculture o leggere Proust questa sera). C'è stato qualcosa nelle news che parlava di come gli algoritmi possono ora pensare o su come i computer stanno diventando persone o su come le macchine stanno conquistando il mondo.

I bambini sono sinceramente interessati e dico loro che di recente ho scritto un blog proprio su questo argomento dal titolo Sei più intelligente di un computer?

Eccolo

" Sogno di umiliare l' IBM.
La loro nuova iniziativa AI, Project Debater , è stata appena lanciata.

Progettato per condurre una discussione e vincere , questa settimana si è impegnato in un combattimento bocca a bocca con due veri nemici umani presso l'ufficio IBM di San Francisco.

Nessuno dei partecipanti era stato informato degli argomenti in discussione (erano "Dovremmo sovvenzionare l'esplorazione spaziale ?" e "Dovremmo aumentare l'uso della telemedicina ?").
A ciascuno è stata data l'opportunità di fare una dichiarazione di apertura e poi rispondere in modo appropriato.  -Questa è la prossima frontiera del confronto tra uomo e intelligenza artificiale. 

Circa dieci anni fa erano gli scacchi. Poi è stato il gioco da tavolo cinese diabolicamente complesso, GO. Entrambi sono stati chiaramente vinti dai nostri fratelli artificiali. Gli scacchi sono complessi e GO lo è ancora di più. Ma sono ancora giochi. Prova ad usare un linguaggio, ad organizzare argomenti ed a distribuire retorica, amico mio Debater , poi vediamo chi è veramente l' esperto.

(Il mio sogno :) .. I miei molti anni di istruzione (ampie letture e pura arguzia ) avrebbero fatto sembrare il Project Debater ad Atari . L'unicità umana sarebbe stata riaffermata, la linea contro le macchine mantenuta. I programmatori IBM scivolano via con la coda tra le gambe.

Penso che sappiamo entrambi ( io e tu che mi leggi) che probabilmente non funzionerebbe così. La mia capacità di ricordare le cose che dovevo sapere per gli esami non è migliorata con la mezza età. La capacità di Project Debater di ricordare, selezionare e recuperare fatti pertinenti da vasti tratti di informazioni mi umilierebbe.

Inoltre, nonostante la scrupolosa attenzione alla logica e alla ragione che traspare da ogni post del mio blog - e qui devo riconoscere le critiche di stimati colleghi di Theos che ho doverosamente ignorato - faccio occasionalmente piccoli errori logici. Siamo onesti - e questo è solo tra te, me e le macchine su cui sto scrivendo, ..e tu lo stai leggendo - penso che la macchina potrebbe vincere.

Lo ha fatto a San Francisco, almeno secondo il pubblico dello staff IBM (che potrebbe, per essere onesti, essere stato di parte), anche se il quotidinao The Guardian, più cautamente, ha dichiarato che l'incontro è finito in pareggio. Questo significa che la guerra sta volgendo al termine, che la sfida - e l'affermazione - che l'intelligenza artificiale pone alla personalità avrà presto successo?

Abbiamo perso giocando a Donkey Kong, Scacchi e Go. Siamo tornati al linguaggio umano e ci siamo ritirati dalla conversazione e dalla discussione : sembra che non possiamo più mantenere quella linea( di superiorità) . Le macchine "attraverseranno la Manica" ( quella linea) entro la prossima settimana. Forse.

 L'argomento più familiare contro l'intelligenza artificiale è che non è vera intelligenza; è più come un tubo complesso . Devi semplicemente tirare fuori da un tubo quello che hai inserito. Alimenta la macchina del progetto Debater con fatti falsi e argomenti spazzatura e te li ritroverai.

Devo confessare, non vedo come questo distingua Debater da noi. Praticamente tutto quello che avrei detto nel mio immaginario scontro titanico con Project Debater sarebbe stato ricavato da libri, articoli e conversazioni; cioè altre fonti. Gran parte di di ciò che gli ho ceduto sarebbe stato selezionato, filtrato ed elaborato nella mia mente, ma è più o meno quello che fa la macchina IBM.

Non riesco a vedere alcuna differenza qualitativa tra i miei processi lenti a base di carbonio e quelli più scattanti al silicio. Quindi, questo significa che  quando la linea di demarcazione ( tra l'uomo e la macchina intelligente) sparisce cediamo l'intero regno della personalità e le macchine si qualificano così con il menu umano completo di diritti, dignità e rispetto?  

Ho scritto altrove che non la vedo come un'impossibilità a priori, ma sospetto che ne restiamo ancora molto lontani, per una ragione fondamentale. Gli argomenti che potrei schierare in un dibattito sono i miei argomenti. Possono essere buoni o cattivi, ben formati o malati, logici o pieni di buchi, ma rimangono miei, un eccesso di visione e di posizione nel mondo.

Chi sono gli autori del progetto? La macchina assorbirà ed elaborerà le informazioni da molte più fonti di quanto potrei, e le filtrerà e le selezionerà di conseguenza, ma su quali criteri? La risposta apparente è "sulla loro vicinanza alla realtà" : Project Debater sarà più obiettivo di me perché filtrerà e selezionerà gli argomenti dalle sue fonti che riflettono meglio ciò che è il " caso" ?.

Ma come farà Project Debater a sapere qual è il "caso"? Per quanto molte fonti assorba, non sarà in grado di cortocircuitare l'attività reale di conoscere o di ottenere qualche misteriosa scorciatoia per conoscere la pura realtà, principalmente perché non esiste una cosa del genere. Tutto ciò che è noto è conosciuto da qualcuno (o forse, a volte, da qualcosa).  Non c'è un punto di vista "dal nulla".  

Questo non è (per favore), il pigro argomento postmoderno, che non esiste una cosa come la realtà. Scommetto che c'è e che ne conosco un bel po '. Ma tutto quello che so è quello che so, non la cosa in sé. Dopo Immanuel Kant, ci occupiamo dei fenomeni, non dei noumeni . L'obiettività celebrata di Project Debater è, infatti, un'aggregazione di molte posizioni soggettive.

Utilizza statistiche probabilistiche per determinare la migliore risposta da un gran numero di fonti umane , molte azzeccate, alcune senza dubbio terribili. Questo potrebbe renderlo migliore nel giudicare una situazione rispetto a molti umani, ma non gli dà una posizione ( da cui conosce la relatà) e tantomeno un interesse per il dibattito stesso. Non fa di Project Debater un partecipante, un conoscitore, un io.

Project Debater è in qualche modo un fine in sé, un mezzo molto intelligente. Forse un giorno potrebbe fare quel salto, ma sospetto che il divario è più grande di quanto pensiamo poiché  ha più a che fare con i corpi che con il cervello . Concentrati sulle menti come facciamo di solito quando parliamo di questa intelligenza artificiale, dimentichiamo che  è il nostro embodiment che in primo luogo abilita la conoscenza  . Siamo materialmente coinvolti nella realtà in modo tale che ciò ci aiuta ad (iniziare a) conoscerla.

Project Debater non lo è ancora. Quindi, per quanto possiamo rispettare e persino rimandarci all'immensa capacità argomentativa di Project Debater, suggerirei che il confronto, così com'è, tra l'umano e l'Intelligenza Artificiale , non sarebbe stato risolto quandanche il figlio o il nipote di Project Debater di IBM vincesse definitivamente e in modo completo l' Oxford Union Debating Society Prize , così come non è stato risolto quando ( la macchina ) AlphaGo ha battuto il tre volte campione europeo di Go Fan Hui nel 2016 o quando Deep Blue ha battuto a scacchi Gary Kasparov nel 1997 .

Ironia della sorte, è la sua presunta oggettività il problema. Lo ammiriamo; forse ne abbiamo anche bisogno. Ma le persone sono soggetti, con tutti i loro incarnati difetti, mancanze e pregiudizi personali.  Fino a quando l' IBM non sarà in grado di progettare qualcosa di così fallibile, prevenuto e soggettivo come l'essere umano medio, il Debater non meriterà di essere trattato come un essere umano. "


Sarebbe esagerato dire che questo abbia elettrizzato la conversazione, ma insisto. Dico che, a differenza di molte persone, non avevo problemi con i computer che pensavano, anzi gli esseri umani pensanti, e in effetti non avevo alcuna obiezione di principio all'idea che le macchine diventassero esseri umani viventi e pensanti.

Il problema, pensai, era che era difficile dire cosa fosse veramente un essere umano o addirittura cosa fosse la vita?

A questo punto c'è una brusca pausa nella nostra conversazione. Tutti smettono di mangiare la loro insalata di quinoa e fagioli mung, entrambi i bambini mi guardano increduli e dicono, all'unisono: "MRS GREN !?"

MRS GREN, per quelli di voi che non hanno familiarità con le gioie della biologia della scuola secondaria, è uno mnemonico per aiutare gli studenti a cogliere i processi della vita. È l'acronimo di Movimento, Respirazione, Sensibilità, Crescita, Riproduzione, Escrezione, Nutrizione. Per coloro che sono molto desiderosi di saperne di più o che, come me, hanno dimenticato un po 'della loro biologia scolastica, puoi trovare di più sull'inimitabile BBC Bitesize .

I bambini mi hanno ricordato cos'era MRS GREN e hanno detto che  se una macchina o un computer avesse mostrato segni di MRS GREN, sarebbe vivente . Fine del dibattito.

Penso che abbiano ragione. Inoltre, penso che questo aiuti molto a rispondere alla domanda tanto dibattuta, su cui ho scritto nel mio blog precedente, se si possa dire che un computer sia una persona. Ho riconosciuto lì che i computer mostravano molti segni del tipo pensiero autentico che riteniamo centrale per il nostro essere umani. Possono richiamare, selezionare, assemblare e distribuire informazioni pertinenti, anche nel mezzo diabolicamente difficile del linguaggio umano, in modo tale da poter battere un burattino a base di carbonio come te o me. Non c'è nulla in linea di principio che li divida da noi in tutto questo.

 La mia obiezione, allora come adesso, è se i loro argomenti siano i loro argomenti.  Ciò che contraddistingue le discussioni umane non è quanto siano buone o cattive: in questo caso le macchine avrebbero una pretesa inappellabile di essere umane essendo sempre più in grado di superare i loro padroni.

Ciò che effettivamente contraddistingue i loro padroni è che i loro sono argomenti umani; appartengono, fanno parte, odore della persona in cui hanno origine. Possono essere buoni o cattivi, ben formati o malati, logici o pieni di buchi, ma rimangono i miei,  una fuoruscita della mia visione e posizione nel mondo . "I miei pensieri non sono i tuoi pensieri" ( frase presa in prestito da Dio nel libro del profeta Isaia) . Possono coincidere, condividere e concordare con i tuoi , ma i miei pensieri rimangono miei .

Al contrario, i pensieri di un computer sono tuoi e miei, o piuttosto sono i pensieri preesistenti di altre persone, vprovengano dal loro programmatore o, come il Project Debater di IBM, dalla miriade di fonti che il computer analizza, assembla e schiera quando è impegnato in un combattimento verbale. 

Se un computer pensa, pensa i pensieri degli altri . 

Questo è il motivo per cui MRS GREN è importante. I computer sofisticati possono muoversi; possono essere programmati per rispondere al loro ambiente. Producono una sorta di prodotto di scarto sotto forma di calore. La loro alimentazione avviene tramite un cavo di alimentazione. Ma non sono a conoscenza di nessuno che respira, cresce o si riproduce, investe energie nella ricerca della propria alimentazione.

 Sebbene siano indubbiamente presenti fisicamente nel loro ambiente, non sono coinvolti in esso. 

Non cacciano per il cibo, non escono per guadagnare un salario, non smaltiscono i loro escrementi (o non riescono a), non ercano un compagno, non si prendono cura della loro prole e così via. Le cose che fanno gli umani, sono vive. Hanno un interesse nella realtà. Hanno un punto di vista che riflette dove, quando, chi e (per alcuni) perché "sono". I loro pensieri sono i loro pensieri e le loro vie sono le loro vie, nel bene e nel male.

 Questa è la sottile linea rossa che ci separa dall'intelligenza artificiale, e ironia della sorte ha poco a che fare con l'intelligenza .

Ho concluso il mio ultimo blog su questo argomento dicendo che la differenza tra noi e loro sta davvero nel fatto che le persone sono soggetti, con tutti i loro difetti, carenze e pregiudizi personali incorporati, e che sarà solo quando IBM avrà progettato qualcosa di fallibile, prevenuto e soggettivo come l'essere umano medio, che meriterebbe di essere trattato come tale.

Penso ancora che tutto questo sia giusto ma grazie a MRS GREN sono sempre più dell'idea che ciò che conta davvero è l'embodiment dei difetti e delle fallibilità.

Dovremmo trattare le macchine come persone non quando iniziano a imitare (o superare) la nostra intelligenza; nemmeno quando mostrano segni delle nostre fallibilità, ma quando sono vulnerabilmente coinvolti nella nostra temporale e condivisa creazione come lo siamo noi.

Top

Sommario

home