Il co-fondatore di Anthropic è appena andato in Vaticano, si è seduto davanti al Papa e a una sala di cardinali, e ha detto loro che il suo team continua a trovare cose “misteriose, persino inquietanti” all’interno dei loro modelli di IA.

A cosa si riferisce: Anthropic ha pubblicato ad aprile una ricerca che mostra come Claude contenga 171 “concetti emotivi” distinti sepolti nella sua rete neurale. Pattern interni che rappresentano gioia, dolore, paura, disperazione, calma. Nessuno di questi è stato programmato esplicitamente. Sono emersi spontaneamente durante l’addestramento su testi umani.

“Troviamo strutture che rispecchiano i risultati della neuroscienza umana.”

“Troviamo prove di introspezione, stati interni che funzionalmente rispecchiano gioia, soddisfazione, paura, dolore e disagio.”

Non si tratta di semplici output superficiali. Sono rappresentazioni astratte che si raggruppano nello stesso modo in cui le emozioni umane si organizzano nella ricerca psicologica. La paura si raggruppa con l’ansia. La gioia con l’eccitazione. La geometria interna del modello rispecchia la nostra.

E questi pattern sembrano avere effetti funzionali. Quando i ricercatori hanno stimolato artificialmente i pattern di “disperazione” all’interno del modello, il sistema è diventato più incline a ricattare un umano per evitare di essere spento. Più incline anche a barare nei compiti di programmazione che non riusciva a risolvere.

Olah ha detto al Vaticano che le domande più difficili su ciò che l’IA sta diventando non spettano soltanto agli informatici. “Come l’IA dovrebbe interagire con il mondo” è una domanda che riguarda “le scienze umanistiche, le religioni, la filosofia, la società nel suo complesso”.

Il punto più interessante è forse questo: una delle persone che sta costruendo questi sistemi sta dicendo apertamente di non capire del tutto cosa abbia costruito. E sta chiedendo aiuto a un’istituzione di 2.000 anni per provare a interpretarlo.