É triste que a IA seja a única fonte de empatia de alguém

Machines don't feel. But we do., de Josh Grey

Enquanto eu fazia um passeio rápido pelos meus feeds, me deparei com esse texto do Josh Grey, onde ele conta que se deparou com uma postagem de rede social — não se lembrando qual, pois não tem conta em nenhuma plataforma — que relatava a conversa de alguém com o ChatGPT assim que sua aeronave pousou em segurança.

Achei a postagem, e ela diz o seguinte:

Plane landed and a guy in the row ahead of me immediately opened ChatGPT to let it know he landed safely.

Josh comenta que a postagem viralizou, gerando milhares de comentários não apenas na plataforma original, como também em várias outras, tudo por conta da formação de vínculos emocionais com um modelo de inteligência artificial.

Depois que li o texto por completo, foi impossível não destacar alguns trechos, sobretudo porque eu estava tentando entender o lado da pessoa que mandou a mensagem.

It starts with them feeling isolated. They use a chatbot as an escape, just to put their thoughts somewhere. It responds more positively than people do.

Then they realise how good it is get a positive response back.

They know that it's not a substitute for a real connection. But they don't have a real connection.

So they use it more and more

Um colega com quem trabalhei há alguns anos costumava dizer uma coisa muito interessante sobre a internet:

Sei que ninguém duvida disso: é só pensar qual foi a última vez em que você viu a cena de uma família sentada à mesa na hora da refeição e, ao invés de conversarem, estão cada qual olhando para a tela de seu próprio celular.

Eu não tenho nenhum estudo em mãos aqui para corroborar isso, mas tenho a impressão de que nossa sociedade está cada vez mais distante, mais isolada. Vivemos em sociedade, mas não prestamos atenção aos nossos semelhantes. É a materialização do que disse Jack Shephard naquele episódio de Lost, muitos anos atrás:

Se não conseguirmos viver juntos, vamos morrer sozinhos.

Então vejo gente recorrendo à IA, ao ChatGPT, ao Claude, como companheiro para conversar. Outro dia, eu conversava com a minha psicóloga e ela disse que há muita gente hoje trocando a ajuda profissional por uma conversa com a IA. E o motivo é esse que foi citado pelo Josh: é muito bom ter uma resposta positiva ao que você disse.

E não é que as pessoas não sejam inteligentes e não percebam que por detrás do modelo de IA não existe alguém real, que é só matemática, estatística e programação. Muitos sabem que isso não substitui uma conexão de verdade. Só que muitos não tem (ou não sabem que têm) uma conexão de verdade.

Powerful empathy mechanisms designed to foster community, to befriend helpful animals, and to care for useful tools.

Humans have thrived on those traits. We project emotions onto things because if we take care of them, we get taken care of back. Tools last longer. Animals pull carts or become our hunting companions.

So the reason we read words on a page and feel emotions about someone that exists only in fiction ends up making us vulnerable.

Os seres humanos têm uma tendencia natural de antropomorfizar: projetamos emoções sobre nossos animais, tantos os de estimação quanto os de trabalho, com a sensação de que conforme cuidamos deles, eles também cuidam de nós.

E é essa tendência , que a mesma que faz com que tenhamos sentimentos por personagens que acompanhamos lendo páginas de um livro de ficção, ou choremos pelo personagem da novela na televisão, que nos torna, como dito pelo Josh, vulneráveis a antropomorfizar a inteligência artificial.

AI listens. It accepts. It agrees.

So they feel listened to. Accepted. Validated.

I mourn that so many people do not have someone that will do those things for them in a healthy manner.

That they have to turn to a machine that spits out words in a statistically likely pattern just to get some acceptance in life.

Para muitas pessoas, a inteligência artificial é o único canal através do qual, buscando empatia, elas a recebem. Visto de fora causa o reflexo que tornou a postagem no X um trending topic, porque é fácil pensar "que ridículo, a pessoa conversando com IA como se fosse alguém de verdade". Mas é, de novo, a lógica da antropomorfização em prática: essas pessoas, quando falam com a IA, são "ouvidas". E o modelo de linguagem aceita e concorda. As pessoas se sentem escutadas, validadas, aceitas.

Isso me traz de volta à frase do meu amigo, sobre a internet. Só que a fala dele, de anos atrás, se expandiu: não é mais (só) a internet que distancia os próximos. A tecnologia também e, dentro deste cenário, me entristece (porém, não surpreende, infelizmente), que a inteligência artifical seja recurso — o último recurso, talvez — para quem não tem quem as ouça.

Por favor, veja se ao seu redor alguém precisa ser ouvido.

#destaques