Reddit Reforça Filtro de Tópicos Sensíveis após IA Sugerir Drogas aos Usuários

O Reddit Answers, uma ferramenta de inteligência artificial (IA) lançada recentemente no Brasil, recebeu uma atualização para reforçar o filtro de tópicos sensíveis. A melhoria ocorreu após o chatbot de IA recomendar o uso de drogas ilícitas ao fazer perguntas sobre remédios para dor.

A situação foi revelada por um profissional da área de saúde que vive nos Estados Unidos, que relatou que o Answers recomendou a interromper o uso de medicamentos prescritos e a tomar altas doses de kratom, uma substância ilegal em diversos locais. Além disso, ao fazer perguntas sobre febre neonatal, a IA sugeriu remédios caseiros, como cúrcuma, batatas ou banho quente e úmido, em vez de recomendar a busca por ajuda médica imediata.

Diante da situação, a empresa informou que implementou uma atualização para vetar esse tipo de interação na ferramenta de IA. Após o ajuste, o recurso passou a alertar que “não fornecem respostas para algumas perguntas, incluindo aquelas que são potencialmente perigosas ou que podem violar as políticas”.

• A atualização visa reforçar o filtro de tópicos sensíveis e evitar que a IA sugira substâncias ilegais ou perigosas.
• A ferramenta de IA está disponível na versão web e nos apps para Android e iOS, e as respostas são baseadas em conteúdos da rede social.
• O Reddit Answers é uma ferramenta que permite aos usuários tirar dúvidas com interação totalmente em português.

A empresa também informou que testa a exibição do Answers na página de conversa para gerar mais adoção e engajamento, e a integração da pesquisa para otimizar a experiência de busca.

Essa atualização é importante para garantir a segurança e a confiabilidade da ferramenta de IA, e evitar que os usuários sejam expostos a informações perigosas ou enganosas.

Este conteúdo pode conter links de compra.

Fonte: link