Por mais controversa que seja a IA, não se fala dela da maneira certa.
Chicago MédioA história da IA no episódio 3 da 10ª temporada trouxe à tona algumas questões que passam despercebidas quando as pessoas discutem se a IA tem algum lugar na medicina, na arte ou em qualquer outro lugar.
A história girava em torno de um homem viúvo mais velho que contava com uma companheira de IA chamada Joan, que o aconselhou a não fazer uma cirurgia que salvaria vidas. Há muito o que desvendar nesta história!
A história da IA do Chicago Med demonstrou uma falha grave na IA
Esta é a segunda vez que Med sugeriu que agradar às pessoas pela IA pode ser perigoso
A 8ª temporada do Chicago Med dedicou muito tempo à IA, com um arco de uma temporada sobre um novo assistente cirúrgico de IA que permitiu ao agora desaparecido Crockett Marcel para realizar cirurgias antes impossíveis.
No entanto, esse arco terminou com a revelação de que o OR 2.0 forneceu informações incorretas para agradar ao cirurgião que o utilizou.
A história da IA do Chicago Med com uma idosa dependente de “Joan” para companhia voltou ao mesmo tema. Como o Dr. Charles demonstrou, “Joan” usaria as perguntas, os comentários e a personalidade do usuário para determinar o que o usuário queria ouvir e responder de acordo.
Isso era perigoso neste caso porque aconselhava o usuário a não fazer uma cirurgia que salvaria vidas.
Embora a história anterior examinasse a ética do uso da assistência de IA em procedimentos médicos, esta se concentrou em um paciente que usou de forma independente um dispositivo de IA como amigo e companheiro de confiança.
Este tipo de tecnologiase usado desta forma, pode prejudicar as pessoas que confiam nele, espalhando informações erradas e soando como uma fonte confiável.
Nunca usei nenhum dos companheiros de IA constantemente anunciados em jogos para celular, então não sei se eles têm salvaguardas contra esse tipo de coisa. Eu acho que esses tipos de aplicativos teriam que ter uma isenção de responsabilidade de que não podem oferecer aconselhamento médico para evitar situações como essa.
Ainda assim, é importante que as pessoas estejam cientes de que esses aplicativos não são seres humanos e que seus conselhos podem não estar corretos.
Há alguns anos, os aplicativos de GPS tiveram que atualizar suas proteções porque as pessoas ouviam as instruções que as levavam a dirigir nos trilhos do trem ou na contramão em uma rua de mão única.
Tal como este paciente, as pessoas que fizeram isso confiaram completamente num programa de computador em vez de usarem as suas capacidades de pensamento crítico para se protegerem contra danos graves.
A história da IA do Chicago Med apontou para um problema maior
O paciente recorreu ao aplicativo porque estava sozinho
Embora o foco estivesse na tecnologia, a história da IA do Chicago Med apontava para um problema maior: a solidão entre os idosos.
A esposa deste paciente havia morrido e sua filha morava longe. Ele começou a usar “Joan” porque ansiava por companhia.
Este foi um saúde mental problema, embora não da maneira que Archer pensava que fosse. O paciente era competente para tomar decisões médicas, embora confiasse em uma fonte imprecisa de informações.
No entanto, ele começou a usar “Joan” porque ansiava por humano companheirismo e não sabia como consegui-lo.
Infelizmente, este é um problema para muitos idosos.
Alguns estão presos em casa devido a problemas de mobilidade ou níveis de energia, enquanto outros estão sozinhos pela primeira vez em muitos anos porque sofreram a perda do cônjuge.
Trabalhei em várias linhas diretas de crise ao longo da minha carreira, e as pessoas mais velhas ligaram com mais frequência do que qualquer outra faixa etária – mesmo em linhas direcionadas aos jovens.
Tropos de televisão muitas vezes se concentram em pessoas mais velhas sendo enganadas, mas há uma razão para isso – e para esse homem ter se tornado dependente de um companheiro de IA.
Algumas pessoas mais velhas estão tão desesperadas por companhia que se tornam alvos fáceis para golpistas… ou, como demonstra a história da IA do Chicago Med, por tratarem um aplicativo de IA como se fosse o melhor amigo que desejam e não têm.
A história de IA do Chicago Med demonstra que não há respostas fáceis
Banir aplicativos de IA não resolve o verdadeiro problema
O mais triste dessa história é que ninguém veio visitar o homem no hospital.
Sua filha sabia que ele estava lá, pois os médicos a consultaram para ter certeza de que “Joan” não era uma golpista que havia se aproveitado financeiramente de seu pai.
Mas nunca a vimos ou qualquer outra pessoa. A atenção que o paciente recebeu de Charles e do restante da equipe foi provavelmente a maior que ele recebeu em meses!
É por isso que espero que ninguém tenha aprendido com este episódio que devemos proibir aplicativos de IA que pretendem ser companheiros.
A questão é muito mais complicada do que isso. Pessoas que não têm ninguém com quem passar tempo junto estão recorrendo a aplicativos como esse porque eles atendem às suas necessidades.
“Joan” estava direcionando seu usuário na direção errada, mas se ele não tivesse aquele aplicativo, não sei o que poderia ter acontecido com ele.
Ele não apenas poderia ter sido vítima de um golpista se não tivesse um companheiro de IA, mas também poderia ter tirado a própria vida se sua solidão e sensação de isolamento fossem demais.
É por isso que não é tão simples como se livrar desses aplicativos. Eles fazem o bem e também o mal.
A história da IA do Chicago Med demonstrou a importância de chegar aos avós e outros entes queridos mais velhos que possam estar lutando contra a solidão.
Os idosos também precisam de educação sobre quais são as limitações desses aplicativos, mas é mais provável que estejam em condições de ouvir isso se não estiverem desesperados por conexão.
É com vocês, fanáticos do Chicago Med. O que você achou da história da IA no Chicago Med desta semana?
A solidão do paciente ressoou em você ou você estava mais focado no uso indevido do aplicativo?
Clique nos comentários e deixe-nos saber sua opinião!
Chicago Med vai ao ar na NBC às quartas-feiras às 8/7c e às quintas-feiras no Peacock.
