O Bumble está pedindo que seus usuários ajudem a manter o aplicativo de namoro livre de perfis gerados por IA. Na terça-feira, a empresa introduziu uma nova opção de denúncia que permite que os membros denunciem perfis se suspeitarem que alguém pode estar usando fotos e vídeos gerados por IA.
Agora, quando um usuário deseja denunciar um perfil, ele pode escolher “Perfil falso” e então selecionar a opção “Usando fotos ou vídeos gerados por IA”. Outras opções de denúncia incluem conteúdo inapropriado, usuários menores de idade, golpes e uso de fotos de outra pessoa, entre outros.
A nova opção de denúncia do Bumble chega em um momento em que, infelizmente, Fotos geradas por IA em aplicativos de namoro são comuns e são frequentemente usados para enganar ou enganar outras pessoas. Com o clique de um botão, você pode enganar as correspondências e fazê-las pensar que você tem um iate e um abdômen definido. O Bumble espera que a nova opção de denúncia ajude a impedir que as pessoas sejam dissimuladas usando IA.
“Uma parte essencial da criação de um espaço para construir conexões significativas é remover qualquer elemento enganoso ou perigoso”, disse a vice-presidente de produtos do Bumble, Risa Stein, em uma declaração ao TechCrunch. “Estamos comprometidos em melhorar continuamente nossa tecnologia para garantir que o Bumble seja um ambiente de namoro seguro e confiável. Ao introduzir esta nova opção de denúncia, podemos entender melhor como atores ruins e perfis falsos estão usando a IA de forma desonesta para que nossa comunidade se sinta confiante em fazer conexões.”
A nova opção de relatórios segue o lançamento da ferramenta de IA do Bumble chamada “Detector de Engano,” que usa IA e moderação humana para detectar e remover perfis falsos, spammers e golpistas. Desde o lançamento do recurso em fevereiro, o Bumble alega que os relatos de membros sobre spam, golpes e perfis falsos diminuíram em 45%. O Bumble também tem um “Detector Privado” ferramenta que desfoca automaticamente fotos nuas.
Enquanto o Bumble luta contra os perfis gerados por IA, a fundadora da empresa, Whitney Wolfe Herd, tem algumas ideias interessantes para a tecnologia. Durante uma entrevista, Herd disse que o futuro do namoro online pode ser onde os “concierges de namoro” ou assistentes de IA vão a centenas de encontros em seu nome para encontrar o par perfeito. Não temos certeza de quantas pessoas vão embarcar nessa ideia, mas cada um com o seu.