Nova York silenciou um chatbot alimentado pela Microsoft que respondia dúvidas de empresários, mas entregava informações incorretas. Criado na gestão anterior para facilitar o acesso a dados sobre regras, incentivos e práticas comerciais, o sistema custava cerca de meio milhão de dólares, valor criticado pelo atual prefeito Zohran Mamdani em meio a um déficit de 12 bilhões. O chatbot dava respostas equivocadas, como permitir ajustes ilegais de aluguel e aceitar políticas inapropriadas nas empresas. A falha foi evidenciada por um veículo local, reforçando problemas de controle sobre a tecnologia. Embora reconhecendo limitações de IA, a prefeitura ressaltou a importância de fiscalizar os custos e os riscos envolvidos. Este caso não é isolado; outras instituições, como a Air Canada, também enfrentam consequências legais por chatbots defeituosos. Inclusive, processos contra grandes empresas ocorrem devido a danos causados por erros de IA, principalmente envolvendo crianças. A situação evidencia desafios éticos e financeiros no uso público da inteligência artificial.
Fonte: https://www.theregister.com/2026/01/30/nyc_bot_fugazi_doom/
Comentários
Postar um comentário