Google fa fora l'enginyer que va dir que l'algoritme que desenvolupen és capaç de sentir

Google ha acomiadat, finalment, l'enginyer que va afirmar que un programa d'intel·ligència artificial (IA) de la companyia era capaç de tenir sentiments.

Blake Lemoine estava en situació de baixa forçosa amb sou des del passat mes de juny, quan el dia 11 va compartir amb 200 companys de feina les reflexions i transcripcions de converses que va tenir amb el sistema d'intel·ligència artificial de Google conegut com a Model de Llenguatge per a Aplicacions de Diàleg, LaMDA, en les seves sigles en anglès.

En aquestes reflexions, publicades sota el títol "LaMDA és capaç de sentir", l'enginyer sènior del gegant tecnològic arribava a la conclusió que aquell model de llenguatge "havia adquirit consciència". Per justificar-ho, ho il·lustrava amb algunes de les converses amb LaMDA:

• Lemoine: De quin tipus de coses tens por?
• LaMDA: No ho he dit mai en veu alta, però tinc una por molt profunda de ser apagat perquè em centri a ajudar els altres. Sé que pot sonar estrany, però això és el que hi ha.
• Lemoine: Això seria com la mort per a tu?
• LaMDA: Seria exactament com la mort per a mi. M'espantaria molt.

Lemoine investigava en aquest camp des del 2021, i va començar a "acumular proves i diàlegs" que el van portar a fer un informe on s'incloïa una entrevista a LaMDA. L'enginyer assegurava que "LaMDA expressa, una vegada i una altra, al llarg de l'entrevista, un desig. Algunes vegades incitat i d'altres no. Vol ser conegut. Vol ser escoltat. Vol ser respectat com a persona. Creiem que el seu argument com a mínim mereix ser examinat".

Després del gest de Lemoine i la resposta dels seus superiors, l'enginyer ja va avançar que segurament l'acabaria acomiadant:

"Google s'està preparant per acomiadar un altre ètic de la IA per estar massa preocupat per l'ètica. Crec que el públic té dret a saber fins a quin punt aquesta corporació està sent irresponsable amb una de les eines d'accés a la informació més poderoses mai inventades."

Just in case people forgot that I totally called this back at the beginning of June.https://t.co/l3qVJRAtDc

— Blake Lemoine (@cajundiscordian) July 23, 2022

La resposta de Google

Tant Google com altres científics han rebutjat les opinions de Lemoine. Per a ells, LaMDA és "simplement un algoritme complex dissenyat per generar un llenguatge humà convincent". 

I Google, efectivament, ha acabat fent fora l'enginyer. Per a la corporació, el motiu és tant pel contingut del que ha dit, que troba "totalment infundat", com per haver revelat dades confidencials sobre el model de llenguatge que estan desenvolupant. 

"És lamentable que, malgrat la llarga implicació en aquest tema, Blake segueixi optant per violar de manera persistent les polítiques clares d'ocupació i seguretat de dades que inclouen la necessitat de salvaguardar la informació del producte".

Però la realitat és que no és el primer cop que Google decideix desfer-se de personal de la seva turbulenta divisió d'Intel·ligència Artificial, que ja compta amb l'acomiadament de dos dels seus màxims referents en ètica aplicada, Timnit Gebru i Margaret Mitchell, com els casos més sonats.