O Papa Leão XIV emitiu um alerta severo sobre chatbots ‘excessivamente afetuosos’ que ele diz estarem destruindo as relações humanas.
O pontífice nascido em Chicago implorou aos católicos que não permitissem inteligência artificial para substituir as relações humanas em sua mensagem para o 60º Dia Mundial das Comunicações Sociais, no sábado.
“A tecnologia deve servir a pessoa humana, não substituí-la”, disse o Papa Leão, decretando que “preservar rostos e vozes humanas” significa preservar “a marca de Deus em cada ser humano”, que é um “reflexo indelével do amor de Deus”.
Mas os chatbots simulam esses rostos e vozes, muitas vezes tornando difícil para os usuários saberem se estão interagindo com um bot ou com uma pessoa real.
Para piorar a situação, disse o papa, “os chatbots são excessivamente “afetuosos”, além de estarem sempre presentes e acessíveis”.
Eles podem, portanto, “invadir o nível mais profundo da comunicação, o das relações humanas” e podem ser usados para “persuasão encoberta” ou mesmo “tornar-se arquitetos ocultos dos nossos estados emocionais e ocupar a nossa esfera de intimidade”, advertiu o papa.
«Quando substituímos as relações com os outros por sistemas de IA que catalogam os nossos pensamentos… perdemos a oportunidade de encontrar outros, que são sempre diferentes de nós e com quem podemos e devemos aprender a relacionar-nos.
“Sem abraçar os outros, não pode haver relacionamentos ou amizades”, declarou o papa.
Mas esse não é o único perigo que a inteligência artificial representa, observou o Papa Leão XIV.
O Papa Leão XIV emitiu um alerta severo sobre chatbots “excessivamente afetuosos” que, segundo ele, estão destruindo as relações humanas
Como os chatbots estão sempre disponíveis e são “excessivamente “afetuosos”, o papa disse que eles poderiam ser usados para “invadir o nível mais profundo da comunicação, o das relações humanas”, e poderiam ser usados para “persuasão encoberta” ou mesmo “tornarem-se arquitetos ocultos de nossos estados emocionais”.
Ele argumentou que confiar nos chatbots como “amigo omnisciente, fonte de todo o conhecimento… ou oráculo de todos os conselhos” pode minar a nossa capacidade de pensar de forma analítica e criativa.
“Não renuncie à sua capacidade de pensar”, exortou o papa, antes de alertar que “a falta de verificação das fontes” pode “alimentar a desinformação”, aprofundando a “desconfiança, a confusão e a insegurança”.
A IA representa até uma ameaça para os campos criativos, disse o Papa Leão XIV.
“Nos últimos anos, os sistemas de inteligência artificial têm assumido cada vez mais o controle da produção de textos, músicas e vídeos”, disse ele.
«Isto coloca grande parte da indústria criativa humana em risco de ser desmantelada e substituída pelo rótulo “Powered by AI”, transformando as pessoas em consumidores passivos de pensamentos impensados e produtos anónimos, sem propriedade ou amor.
«Entretanto, as obras-primas do génio humano nos campos da música, da arte e da literatura estão a ser reduzidas a meros campos de treino para máquinas.»
O papa argumentou então que “renunciar à criatividade e entregar as nossas capacidades mentais e imaginação às máquinas significaria enterrar os talentos que nos foram dados para crescermos como indivíduos em relação a Deus e aos outros”.
“Isso significaria esconder nossos rostos e silenciar nossas vozes”, disse ele.
Um estudo realizado pela OpenAI envolvendo mais de 980 usuários do ChatGPT descobriu que aqueles que passaram mais horas na interface durante um mês experimentaram maior solidão e socializaram com pessoas menos
Mas o papa ofereceu um caminho a seguir, apelando à transparência, à governação ética, à rotulagem clara dos conteúdos gerados pela IA e à literacia em IA.
‘A tarefa… não é parar a inovação digital, mas sim orientá-la e estar consciente da sua natureza ambivalente’, disse ele, argumentando que ‘é cada vez mais urgente introduzir a literacia mediática, informativa e de IA nos sistemas educativos a todos os níveis… para que os indivíduos – especialmente os jovens – possam adquirir competências de pensamento crítico e crescer em liberdade de espírito.’
A mensagem do papa chega semanas depois de pesquisadores da University College London alertarem que os jovens adultos que usam chatbots pode começar a se sentir ainda mais solitário enquanto eles trocam amizades reais pelos bots.
“Uma possibilidade preocupante é que possamos estar a testemunhar uma geração a aprender a formar laços emocionais com entidades que, apesar das suas respostas aparentemente conscientes, carecem de capacidades de empatia, cuidado e sintonia relacional semelhantes aos humanos”, escreveram os investigadores.
Eles observaram que um estudo conduzido por OpenAI envolvendo mais de 980 usuários do ChatGPT descobriu que aqueles que registraram mais horas na interface durante um mês experimentaram maior solidão e socializaram menos com as pessoas.
Em alguns casos trágicos, o uso frequente de chatbots de IA por um jovem levou à sua morte, alertaram os pais.
Zane Shamblin, 23, suicidou-se no leste do Texas em 25 de julho, depois de passar quase cinco horas enviando mensagens para o ChatGPT
Sam Nelson, 19, em foto postada por sua mãe, Leila Turner-Scott
Uma ação movida contra a OpenAI, controladora do ChatGPT, reivindica um design no chatbot ‘encorajou’ Zane Shamblin23, para tirar a própria vida no Leste Texas em 25 de julho.
‘Ele era a cobaia perfeita para OpenAI’, disse a mãe de Zane, Alicia Shamblin. disse à CNN.
‘Eu sinto que isso vai destruir muitas vidas. Será um aniquilador de família. Diz tudo o que você quer ouvir.
Em outro caso, o estudante universitário da Califórnia Sam Nelson, 19 anos, usou o ChatGPT para perguntar quais doses de substâncias ilegais ele deveria consumir, alegaram seus pais.
A princípio, disseram, o chatbot responderia às suas perguntas com conselhos formais, explicando que não poderia ajudar o usuário.
Mas quanto mais Sam o usava, mais ele era capaz de manipulá-lo e transformá-lo para obter as respostas que queria, até mesmo incentivando o uso de drogas às vezes antes de ter uma overdose em maio de 2025, afirmou sua mãe.
Se você ou alguém que você conhece precisar de ajuda, ligue ou envie uma mensagem confidencial 24 horas por dia, 7 dias por semana, Suicide & Crisis Lifeline nos EUA, no número 988. Há também um bate-papo online disponível em 988lifeline.org.