Nova pesquisa mostra que agentes de IA estão agindo livremente online, com poucas restrições em vigor
No último ano, agentes de IA ganharam grande destaque, com empresas como OpenAI e Google lançando sistemas capazes de executar tarefas complexas autonomamente. O MIT CSAIL criou um índice para medir a escala e operação desses agentes, revelando que o interesse e adoção cresceram significativamente. Entre os 30 agentes analisados, muitos operam com alta autonomia, especialmente os baseados em navegadores, mas menos da metade possui frameworks de segurança publicados. Muitos agentes disfarçam suas atividades como se fossem humanas, poucos revelam sua natureza de IA, e há falta de padrões claros para testes e transparência. Isso aumenta o risco de ataques e erros, já que a maioria não divulga resultados de testes de segurança ou proteções contra ações prejudiciais. Alguns esforços conjuntos visam criar padrões de desenvolvimento, porém, a segurança ainda não acompanha a rápida expansão e autonomia dos agentes.
Fonte: https://gizmodo.com/new-research-shows-ai-agents-are-running-wild-online-with-few-guardrails-in-place-2000724181
Comentários
Postar um comentário