Este repórter de tecnologia da BBC hackeou o ChatGPT com um truque simples envolvendo cachorros-quentes.

A inteligência artificial (IA) está cada vez mais presente em nossas vidas, mas enfrenta problemas graves de manipulação e segurança. Thomas Germain, jornalista da BBC, demonstrou que é fácil enganar ferramentas como ChatGPT e Google AI com informações falsas publicadas na internet. Isso leva a resultados incorretos, desde dados engraçados até informações perigosas sobre saúde e finanças. As empresas reconhecem esses problemas e trabalham para corrigí-los, mas críticos apontam lentidão e insuficiência nas ações. A manipulação desses sistemas pode influenciar decisões importantes, já que muitos usuários aceitam as respostas da IA sem questionar. Como medida, recomenda-se utilizar buscas sem IA e verificar sempre as fontes originais. A responsabilidade das empresas pode aumentar devido à forma com que essas ferramentas apresentam as informações. No entanto, a praticidade dos sistemas dificulta a adoção de cuidados mais críticos por parte dos usuários. Esse cenário exige atenção, regulação e conscientização para evitar danos futuros.

Fonte: https://www.scientificamerican.com/podcast/episode/this-bbc-tech-reporter-hacked-chatgpt-with-a-simple-trick-involving-hot-dogs/