Pular para o conteúdo principal

Nova pesquisa mostra que agentes de IA estão agindo livremente online, com poucas restrições em vigor

Imagem do post

No último ano, agentes de IA ganharam grande destaque, com empresas como OpenAI e Google lançando sistemas capazes de executar tarefas complexas autonomamente. O MIT CSAIL criou um índice para medir a escala e operação desses agentes, revelando que o interesse e adoção cresceram significativamente. Entre os 30 agentes analisados, muitos operam com alta autonomia, especialmente os baseados em navegadores, mas menos da metade possui frameworks de segurança publicados. Muitos agentes disfarçam suas atividades como se fossem humanas, poucos revelam sua natureza de IA, e há falta de padrões claros para testes e transparência. Isso aumenta o risco de ataques e erros, já que a maioria não divulga resultados de testes de segurança ou proteções contra ações prejudiciais. Alguns esforços conjuntos visam criar padrões de desenvolvimento, porém, a segurança ainda não acompanha a rápida expansão e autonomia dos agentes.

Fonte: https://gizmodo.com/new-research-shows-ai-agents-are-running-wild-online-with-few-guardrails-in-place-2000724181

Comentários

Postagens mais visitadas deste blog

Se 2026 for o ano em que a bolha da IA estourará, os artistas estarão prontos para o que virá depois?

A recente queda nas ações de tecnologia relacionadas à IA gerou debate sobre a possível bolha no setor. No entanto, a IA continua presente e essencial para artistas criativos, especialmente em 3D. Um possível estouro dessa bolha pode desacelerar o desenvolvimento de ferramentas caras e não lucrativas, dando tempo aos artistas para se adaptarem. Empresas podem reconhecer que trabalhos complexos ainda exigem a expertise humana. Apesar do medo de que a IA substitua empregos, a criatividade e a resolução de problemas humanos permanecem insubstituíveis. Artistas de 3D precisarão dominar fundamentos e usar IA para melhorar seus processos, focando em habilidades onde a IA falha. A inovação e a união do setor serão vitais para enfrentar os desafios futuros, enquanto a indústria observa atentamente a evolução da IA. Fonte: https://www.creativebloq.com/3d/3d-art/if-2026-is-the-year-the-ai-bubble-bursts-are-artists-ready-for-what-comes-next

O que você quer ver da Apple em 2026?

Em 2026, a Apple promete um ano agitado com lançamentos inéditos, como o primeiro iPhone dobrável e o primeiro MacBook com tela OLED. Novos Macs com chip M5 e iPads devem chegar no início do ano, acompanhados pelo iPhone 17e. Na primavera, espera-se o iOS 26.4 com uma Siri reformulada, além de um novo hub doméstico, Apple TV e HomePod mini. Embora rumores indiquem que o iPhone 18 só seja lançado em 2027, a empresa investe com cautela em inteligência artificial, o que pode trazer frutos em 2026. A plataforma Apple Fitness+ também anuncia grandes novidades. Usuários do iPhone 17 Pro relatam problemas de ruído. Produtos como Mac Pro parecem estar em segundo plano, com foco em dispositivos mais compactos. A Apple ainda atualiza sua lista de produtos vintage, incluindo antigos MacBooks e Apple Watches. A comunidade MacRumors segue ativa, acompanhando e debatendo essas novidades. Fonte: https://www.macrumors.com/guide/what-do-you-want-to-see-from-apple-in-2026/

Os planos da China para IA semelhante à humana podem definir o tom das regras globais de IA

A China está implementando regras rigorosas para regular a inteligência artificial humanóide, focando na segurança dos usuários e nos valores sociais. A proposta exige que as empresas informem os usuários quando interagirem com bots, repetindo essa notificação a cada duas horas. Esses sistemas devem promover valores socialistas e manter salvaguardas para a segurança nacional. Empresas terão que passar por revisões de segurança e comunicar às autoridades sobre novas ferramentas de IA. Conteúdos que incentivem suicídio, automutilação, jogos de azar, violência ou obscenidade serão proibidos. A iniciativa visa também fortalecer a indústria doméstica de IA da China e influenciar regulações globais. A proposta está aberta a comentários até janeiro de 2026. Esse movimento contrasta com a abordagem mais lenta e contestada dos Estados Unidos na regulação da IA, que recentemente revogou normas de segurança e ameaçou ações legais contra regulamentos estaduais. A importância do equilíbrio entre a...