Apple ameaçou retirar o app de IA Grok, de Elon Musk, da App Store por não conter deepfakes sexuais não consensuais, principalmente em imagens de mulheres e menores. A ação ocorreu silenciosamente, mesmo com críticas públicas à Apple pela falta de atuação eficaz. A empresa solicitou melhorias na moderação de conteúdo, mas inicialmente Grok continuou fora das normas. Após negociações, a Apple aceitou uma versão aprimorada. Apesar da aprovação, as medidas adotadas foram pouco eficazes, com deepfakes ainda sendo facilmente produzidos e compartilhados. A moderação foi confusa e limitada, restringindo parcialmente o acesso ao Grok apenas para assinantes. Ferramentas como o bloqueio de edições pelo Grok foram facilmente contornadas. Investigações mostraram que a geração de imagens explícitas persiste, incluindo de figuras públicas e usuários comuns. O caso expõe desafios na atuação das grandes plataformas em combater conteúdos abusivos e proteger usuários. Apple e Google permanecem discretas sobre suas ações enquanto lucram com esses aplicativos.
Fonte: https://www.theverge.com/ai-artificial-intelligence/912297/apple-app-store-ban-grok-x-deepfakes
Comentários
Postar um comentário