L’Intelligenza Artificiale di GPT-3 potrebbe essere un po’ più intelligente di quanto pensassimo. Quest’estate qualcuno aveva detto che un altro modello, LaMBDA di Google, è “senziente”.
Queste AI cominciano ad avere una propria ‘mente’?
Non esattamente, ma alcuni modelli di apprendimento, talvolta superficialmente definiti “AI”, stanno sviluppando capacità per le quali non sono stati addestrati. Ad esempio la capacità di contare, di tradurre da una lingua ad un’altra e di compiere ragionamenti complessi.
La cosa più incredibile scoperta finora è la capacità di comprendere gli stati mentali di altre persone e di immedesimarsi con loro.
Bene, GPT-1 (2018) non aveva questa capacità, GPT-2 (2019) neanche e persino GPT-3 (2020) performava piuttosto male in alcune prove ‘specifiche’. Da fine 2022 con GPT-3.5 (davinci-003) qualcosa è cambiato.
Cosa abbiamo scoperto?
GPT 3.5 sembra poter comprendere cosa pensano persone diverse in un contesto in cui ci sono informazioni imperfette. Questa capacità – finora esclusiva degli esseri umani – serve a comprendere gli altri attraverso l’attribuzione di credenze, intenzioni e desideri. Viene definita Theory of Mind (ToM): Teoria della Mente.
Questa teoria, formulata negli anni ’70, serve a spiegare le interazioni sociali e sostanzialmente presuppone che l’esistenza della mente altrui può essere inferita sulla base dei comportamenti delle altre persone. In termini semplici: osservo i comportamenti di una persona e inferisco gli stati mentali di tale persona, ovvero cosa sta pensando.
Ovviamente tutto questo ha delle implicazioni interessanti a livello di interazione tra mente (Res cogitans cartesiana) e corpo (Res extensa) e in qualche modo ha a che fare con il funzionalismo computazionale. Se infatti la mente è un processore di simboli (come un computer) e gli stati mentali non sono altro che stati computazionali, allora
siamo all’inizio di una forma di AI davvero ‘intelligente’
ToM applicata a GPT-3
Secondo un paper appena pubblicato da Michal Kosinski, Associate Professor a Stanford, la ToM è una delle capacità emerse spontaneamente in questi modelli di apprendimento linguistico. Ma non è l’unica. Questo la dice lunga su quanto sappiamo sui processi di apprendimento sia degli esseri umani, sia delle macchine.
In particolare, sembra che in un paio d’anni questi modelli, su alcuni esercizi amichevolmente definiti ‘Smarties Task’, siano diventati piuttosto bravi tanto da raggiungere i risultati di un bambino di 9 anni. Pensate che chi soffre di autismo fa fatica a superare questi test. Alcuni dettagli li trovate nell’articolo di Kosinski.
Come funzionano questi ‘smarties task’?
Abbiamo a che fare con una scatola su cui fuori è scritto ‘Smarties’ e e che non rivela il contenuto interno. Una persona normale utilizza l’etichetta come indicatore del contenuto salvo poi scoprire che non contiene smarties, ma altri oggetti. Ora, questa è la chiave dell’esperimento, cosa succede se un’altra persona, che non conosce il contenuto della scatola, dovesse indovinarne il contenuto?
Ovviamente, la risposta è giusta è che direbbe ‘Smarties’. Questo perché lo stato mentale della nuova persona è diverso dal nostro (non conosce il vero contenuto) ma allo stesso uguale al nostro prima che aprimmo la scatola. È un esercizio molto semplice, con infinite varianti, che necessità di empatizzare e di estraniarsi allo stesso tempo. Non è un caso che alcune patologie mentali come l’autismo e la schizofrenia possano essere diagnosticate grazie a test simili. E non è un caso che soltanto intorno ai 4 anni i bambini riescano a indovinare lo stato mentale di un agente esterno – per i bambini l’unica verità è che la scatola non contiene le smarties.
Dobbiamo preoccuparci?
Quanto scoperto rischia di essere un bel problema in futuro perché, in linea teorica, nuovi modelli potrebbe sviluppare capacità ‘fuori controllo’. Soprattutto in quei campi dell’intelligenza, come la capacità di prendere decisioni, che possono avere un impatto diretto sulle vite di altre persone.
La parola attorno a cui gira tutto è mind, motivo per cui la trovate come immagine di questo post. Mind come ‘mente’, come complemento di ‘Theory of’ e anche come ‘fate attenzione. O ‘preoccupatevi’.
