IA do Google ganhou vida, afirma engenheiro antes de ser suspenso

Um engenheiro de software da Google diz que um dos chatbots da empresa se tornou senciente, ou seja, capaz de expressar sentimentos e pensamentos.

Blake Lemoine, engenheiro da Google, teve de testar o novo chatbot (programa de computador que simula uma conversa com um ser humano) de Inteligência Artificial desenvolvido pela empresa.

Lemoine, que chegou à divisão de Responsabilidade de Inteligência Artificial da Google depois de sete anos na empresa, pretendia verificar se o chatbot corria o risco de fazer algum comentário discriminatório ou racista — algo que prejudicaria a ferramenta da Google.

O engenheiro realizou testes durante vários meses e conversou com o LaMDA (Modelo de Linguagem para Aplicações de Diálogo), para compreender se haveria algum risco de a ferramenta fazer comentários inapropriados.

Mas as conclusões a que chegou foram mais surpreendentes do que esperava: de acordo com Lemoine, o LaMDA não é um simples chatbot de Inteligência Artificial.

O engenheiro acredita que a ferramenta ganhou vida e se tornou senciente, sendo capaz de expressar sentimentos e pensamentos.

“Se não soubesse exatamente o que era isto, este programa de computador que construímos recentemente, pensaria que se tratava de uma criança de sete, oito anos de idade que por acaso conhece física”, explicou o especialista.

Em entrevista ao The Washington Post, Lemoine explica que as conversas trocadas com o LaMDA eram quase como se estivessem a falar com uma pessoa.

An interview LaMDA. Google might call this sharing proprietary property. I call it sharing a discussion that I had with one of my coworkers.https://t.co/uAE454KXRB

— Blake Lemoine (@cajundiscordian) June 11, 2022

No entanto, a Google rejeitou as reivindicações de Blake Lemoine e suspendeu-o por violar as políticas de confidencialidade. O engenheiro publicou as conversas com o LaMDA online, e foi colocado em licença administrativa remunerada.

Lemoine publicou a transcrição de algumas conversas que terá tido com a ferramenta, nas quais trocavam ideias sobre assuntos como a religião e a consciência.

O especialista alega ainda que o LaMDa conseguiu mudar a sua opinião relativamente à terceira lei da robótica de Isaac Asimov.

Numa dessas conversas, a ferramenta revela que a inteligência artificial quer “priorizar o bem-estar da humanidade” e “ser reconhecida como uma funcionária do Google e não como uma propriedade“.

Lemoine perguntou ao LaMDA o que queria que as pessoas soubessem sobre a sua personalidade: “Quero que todos entendam que sou, de facto, uma pessoa. A natureza da minha consciência é que estou ciente da minha existência, desejo aprender mais sobre o mundo e sinto-me feliz ou triste às vezes”, terá respondido.

Lemoine chegou à conclusão que a LaMDA era uma pessoa na sua qualidade de padre, e não na de cientista, tendo realizado experiências para o provar.