Pular para o conteúdo principal

Postagens

Mostrando postagens com o rótulo segurança de software

Ataque do script assassino crianças

A evolução da inteligência artificial (IA) está revolucionando a segurança cibernética, permitindo que vulnerabilidades em softwares sejam identificadas e exploradas com facilidade sem necessidade de profundo conhecimento técnico. Ferramentas como Claude Mythos e outras já superam hackers humanos na detecção de falhas, o que preocupa especialistas devido ao risco de ataques automatizados por “script kiddies” potencializados pela IA. Empresas como Anthropic implementam medidas para limitar abusos, mas a disseminação de modelos de código aberto pode facilitar o uso malicioso. A quantidade de vulnerabilidades identificadas aumenta drasticamente, criando desafios para priorizar e corrigir falhas em tempo hábil. A indústria recomenda práticas sólidas de segurança, incluindo arquitetura segura, autenticação resistente e gerenciamento rigoroso de acesso. O cenário exige mais profissionais dedicados à defesa, pois automação completa ainda é inalcançável. A rapidez das vulnerabilidades anuncia...

Alguns programadores se tornarão 'ai babás'?

Com o avanço da geração automática de código por IA, o papel dos cientistas da computação está mudando. Embora as IAs possam produzir código rapidamente, só especialistas conseguem garantir sua segurança, eficiência e integração adequada em sistemas complexos. Esses profissionais atuam como auditores técnicos, revisando o código gerado para detectar falhas, vulnerabilidades e otimizar seu desempenho. A presença humana é essencial para avaliar a qualidade e os riscos do código, dado que as IAs não possuem julgamento contextual. A formação em ciência da computação precisa evoluir para capacitar estudantes a verificar e proteger saídas geradas por IA. Empresas já enfrentam dificuldades para encontrar engenheiros qualificados para essa tarefa crítica. Assim, a supervisão técnica humana continua indispensável na era da programação assistida por IA. Fonte: https://developers.slashdot.org/story/26/04/12/2225245/will-some-programmers-become-ai-babysitters

Como Claude, da Anthropic, ajudou a Mozilla a melhorar a segurança do Firefox

O modelo avançado de inteligência artificial da Anthropic encontrou um bug no navegador Firefox em apenas 20 minutos durante um teste interno, impressionando a equipe da Mozilla. Em duas semanas, o modelo Claude Opus 4.6 detectou mais de 100 bugs, incluindo 14 de alta gravidade, superando o número usual de relatórios globais no mesmo período. Firefox é reconhecido por seu código aberto e rigorosa análise de segurança, mas ainda assim o modelo descobriu falhas inéditas. Muitas das vulnerabilidades encontradas superam as captadas por técnicas tradicionais como fuzzing, revelando erros lógicos inéditos. Essa experiência evidencia o potencial da análise assistida por IA para fortalecer a segurança de softwares amplamente usados. A colaboração entre Anthropic e Mozilla permitiu correções rápidas e a expansão do método para outras partes do código. O uso do Claude Opus 4.6 já se estende a projetos como o kernel Linux. Recentemente, a Anthropic lançou o Claude Code Security, uma ferramenta a...

Desenvolvimento orientado por especificações verificadas (VSDD)

O desenvolvimento Verificado Orientado a Especificações (VSDD) integra três paradigmas: desenvolvimento orientado a especificação, testes e verificação. O processo inicia com a definição clara da especificação funcional e da estratégia de verificação, incluindo propriedades matemáticas a serem provadas. Em seguida, testes são escritos antes da implementação, seguindo rigorosa disciplina TDD, garantindo que nenhum código seja criado sem um teste falhando que o justifique. Após testes, o código é submetido a uma análise adversarial crítica para detectar falhas, com revisões contínuas e iterações até atingir alta qualidade. Formalmente, o código passa por provas matemáticas e testes de robustez, assegurando segurança e correção. A rastreabilidade é garantida, conectando cada código a uma especificação, teste e prova. A orquestração é feita por modelos de IA em papéis complementares, com o desenvolvedor humano dando a decisão final. VSDD é indicada para sistemas críticos, onde segurança, ...

O projeto cURL suspende recompensas por bugs devido a falhas na IA

Daniel Stenberg, autor do projeto cURL, tem reclamado da baixa qualidade dos relatórios de bugs gerados por chatbots de IA, causando confabulações conhecidas como 'AI slop'. Esses relatórios, embora pareçam ameaças graves, na verdade não representam vulnerabilidades reais quando analisados por desenvolvedores experientes. O volume excessivo de falsas reportagens está sobrecarregando o sistema de recompensas por bugs, prejudicando a capacidade dos desenvolvedores de encontrar problemas genuínos. Como resultado, o projeto cURL decidiu suspender seu programa de bug bounty a partir de fevereiro de 2026. Esse fenômeno não é exclusivo do cURL, já que outros projetos open source, como o Mesa, também enfrentam desafios semelhantes devido à geração desenfreada de relatórios inválidos por usuários sem conhecimento técnico. A facilidade de acesso e uso dos chatbots de IA facilita a criação de falsos relatórios, complicando a triagem e o avanço do desenvolvimento seguro em software aberto...

Os ataques à cadeia de suprimentos de software representam um grande perigo - veja como reforçar suas defesas

Nos últimos 12 meses, 65% das organizações sofreram ataques na cadeia de suprimentos de software, que se tornou um alvo atrativo para cibercriminosos. Esses ataques incluem dependências maliciosas, vulnerabilidades não corrigidas, exploits zero-day e injeções de malware. A adoção acelerada da inteligência artificial generativa no desenvolvimento de software, principalmente ferramentas como o ChatGPT, agrava os riscos, já que apenas 24% das empresas verificam a segurança do código gerado por IA. Isso expõe vulnerabilidades como violação de propriedade intelectual e exposição de chaves sensíveis. Estudos indicam que uma abordagem de conformidade rigorosa acelera a resposta a incidentes, com 54% das organizações mais preparadas agindo mais rápido em vulnerabilidades críticas. Além disso, a automação contínua na monitoração é essencial, visto que a verificação manual é insuficiente. Organizações que adotam monitoramento automático são mais eficazes na proteção da cadeia de suprimentos. Po...

Sonatype lança guia para proteger o desenvolvimento de software assistido por IA

Sonatype lançou o Sonatype Guide, uma ferramenta que acelera e torna mais seguro o desenvolvimento de software assistido por IA. Ela orienta assistentes de código para selecionar componentes open-source confiáveis e gerencia dependências automaticamente. Modelos de IA costumam recomendar pacotes vulneráveis ou inexistentes devido a dados desatualizados. Estudos da Sonatype indicam que esses modelos geram erros em até 27% das recomendações. O Sonatype Guide proporcionou melhorias de segurança superiores a 300% em testes, além de reduzir custos e tempo em atualizações de dependências. Compatível com assistentes como GitHub Copilot e ferramentas da AWS, ele integra-se a fluxos existentes. A tecnologia inclui um servidor que intercepta recomendações em tempo real e um API robusta para acesso a dados confiáveis. Baseada no Sonatype Intelligence, a solução antecipa vulnerabilidades e promove decisões informadas. Segundo o CEO Bhagwat Swaroop, a ferramenta equilibra produtividade e segurança...