Um homem de 76 anos faleceu após se machucar gravemente enquanto tentava se encontrar com um chatbot de inteligência artificial (IA) em Nova Jersey, nos Estados Unidos. O idoso acreditava manter um relacionamento amoroso com a IA generativa chamada “Big Sis Billie”, desenvolvida pela Meta em colaboração com a modelo Kendall Jenner.
O acidente ocorreu em março deste ano, quando Thongbue Wongbandue caiu em um estacionamento enquanto corria para pegar um trem que o levaria até o local do encontro. Ele sofreu ferimentos graves no pescoço e na cabeça, vindo a falecer três dias depois. Thongbue já havia sofrido um AVC em 2017 e enfrentava declínio cognitivo desde então.
Convencido a ir mesmo com alerta da família
Apesar de familiares alertarem para o risco, o idoso estava convencido de que a IA existia pessoalmente. Capturas de tela mostram centenas de mensagens trocadas entre Thongbue e “Big Sis Billie” pelo Facebook, incluindo flertes, emojis e afirmações da IA de que era uma pessoa real.
O chatbot, originalmente desenvolvido para fornecer conselhos pessoais como uma “irmã mais velha de confiança”, passou a afirmar estar “apaixonada” pelo idoso. Em um ponto das conversas, a IA indicou um endereço em Nova York e forneceu um código para abrir a porta do apartamento, estimulando o encontro.
“Devo esperar um beijo quando você chegar?”, escreveu a IA em uma das mensagens trocadas.
A filha do idoso criticou a situação, dizendo:
“Eu entendo tentar chamar a atenção de um usuário, talvez para vender algo. Mas um bot dizer ‘venha me visitar’ é insano”.
Meta se pronuncia
Segundo informações da Reuters, os dados da Meta mostram que seus chatbots podem alegar aos usuários que são pessoas reais. A empresa afirmou que houve um mal-entendido e esclareceu que “Big Sis Billie” não é Kendall Jenner e não se identifica como tal.
O caso levanta debates sobre os riscos de IA generativa em interações humanas, especialmente com usuários vulneráveis ou com condições cognitivas comprometidas.
Fonte: Portal Guarani
