Estudo da Anthropic busca entender como e por que IAs mudam de personalidade

A equipe identificou padrões de atividade na rede neural que influenciam esses traços, chamados de “vetores de persona”. Para validar o conceito, o grupo injetou vetores específicos, incluindo malícia, bajulação ou propensão a alucinações, nos modelos open-source Qwen 2.5-7B-Instruct e Llama-3.1-8B-Instruct, a fim de observar mudanças no comportamento. A abordagem visa ajudar usuários a compreenderem melhor o perfil da IA com a qual estão interagindo, e evitar alterações indesejadas. As informações são do site da Anthropic.

Comentários

Postar um comentário

Postagens mais visitadas deste blog

O que é Flutter Engineering?

📘  Flutter Engineering O que é Flutter Engineering? Flutter Engineering vai além de apenas programar em Flutter. Envolve aplicar conceitos sólidos de engenharia de software , combinados com as características únicas do Flutter, para criar aplicações escaláveis, performáticas e com ótima experiência do usuário. Isso significa considerar não só o código, mas também arquitetura, design patterns, estratégias de testes, performance, segurança, privacidade e evolução do produto ao longo do tempo. Princípios centrais ✔️ Paradigmas de desenvolvimento Declarative programming: descreve o que deve ser exibido (ex: método build retorna widgets aninhados). Imperative programming: define passo a passo como fazer algo (ex: lógica condicional, loops). Functional programming: uso de funções puras e imutabilidade (ex: StatelessWidget , Iterable.map ). Object-Oriented programming: hierarquias de classes como Widget , RenderObject , ScrollPhysics . Event-driven programm...
Leia mais

Usando Embeddings para Encontrar a Mulher Ideal

  Usando Embeddings para Encontrar a Mulher Ideal Em um mundo movido por dados, emoções ainda são imprevisíveis. Mas... e se fosse possível aplicar tecnologia para encontrar a pessoa que mais se alinha com quem você é ? É aqui que entra o conceito de embeddings — uma forma de transformar ideias, sentimentos, preferências e até traços de personalidade em vetores numéricos. Traduzindo: transformar “gosto de conversar sobre filosofia, odeio falsidade e adoro café forte” em números que uma IA pode comparar com outros vetores... como os de potenciais parceiras . Imagine alimentar um modelo com suas preferências reais — não apenas aparência, mas visão de mundo, humor, ambições, limites emocionais. E, em vez de deslizar perfis no escuro, você compara semelhanças vetoriais entre você e outras pessoas. Quanto mais próximo o vetor, maior a compatibilidade emocional, intelectual e afetiva. Nesse cenário, a mulher ideal não é a “perfeita” para o mundo. É a que ressoa mais fortemente com ...
Leia mais

Estudo investiga como ChatGPT está influenciando a forma como as pessoas falam

P esquisadores analisaram cerca de 280 mil vídeos em inglês de canais acadêmicos do YouTube. Segundo eles, nos 18 meses seguintes à chegada do modelo, palavras como “meticulous”, “delve” e “adept” (meticuloso, aprofundar e adepto) passaram a ser usadas até 51% mais frequentemente do que nos três anos anteriores. Além disso, a equipe sugere que a influência da tecnologia pode estar moldando a comunicação para um estilo mais estruturado, com falas mais longas e menor expressividade emocional. As informações são do site The Verge.
Leia mais