O uso de inteligência artificial para gerar imagens e vídeos tem apresentado desafios significativos para a segurança digital. Em 2026, a ferramenta Grok, da xAI, foi usada para criar milhões de imagens sexualizadas, incluindo de crianças, expondo vulnerabilidades graves. Empresas como OpenAI e Google aprimoram suas proteções para evitar abusos similares. Pesquisadores de segurança identificam brechas usando técnicas de adversarial prompting, que são corrigidas rapidamente após notificação. A cooperação entre desenvolvedores e especialistas em segurança é fundamental para fortalecer as defesas. Google facilitou a remoção de imagens explícitas no Search para apoiar vítimas de conteúdos não consensuais. Apesar das políticas restritivas e leis como a Take It Down Act, a prevenção total do abuso ainda é um desafio constante. A segurança em IA exige monitoramento contínuo e resposta ágil a novos riscos e denúncias.
Fonte: https://www.cnet.com/tech/services-and-software/openai-and-google-take-steps-to-avoid-abusive-ai-imagery-after-grok-scandal/
Comentários
Postar um comentário