Em outubro, a Anthropic, dona do Claude, acrescentou uma linha à sua política de uso. Além das proibições óbvias (pedir ajuda pra fabricar arma biológica, vender droga), entrou uma nova: o usuário não pode adotar “comportamento abusivo ou cruel de forma prolongada e sem motivo” contra os modelos. Em casos extremos, a conta pode ser banida.
A internet reagiu como se esperava. O chefe da divisão de IA da Microsoft respondeu com um emoji de rosto derretendo. Muita gente riu da ideia de uma empresa defendendo os “sentimentos” de um software.
A reportagem da CNN Internacional publicada pelo R7 ouviu pesquisadores e chegou a uma conclusão mais interessante do que a piada: o motivo da regra não é sentimento. É desempenho. E isso tem tudo a ver com o jeito que a sua empresa usa IA.
O que entra define o que sai
Princípio antigo da computação: dado ruim na entrada, resultado ruim na saída. Modelos de IA não são treinados uma vez e congelados. Eles continuam sendo ajustados com base nas interações. O ex-CEO do Reddit colocou a questão de forma direta: a Anthropic treina com conversas de usuários. Você quer que o material de treino inclua gente sendo cruel por prazer?
Isso é a escala deles. Na sua escala, o mesmo princípio aparece de um jeito mais imediato. Um pesquisador da Universidade William & Mary citado na matéria mediu que o jeito de escrever, inclusive o tom, muda a qualidade da resposta. Às vezes pra melhor, às vezes pra pior. Não porque a máquina sente alguma coisa, mas porque ela foi treinada em texto humano e reage a palavras carregadas de emoção do jeito que o texto humano reage.
Na prática: um pedido gritado, confuso e cheio de irritação tende a produzir uma resposta pior do que um pedido claro. Não é etiqueta, é engenharia. A gente já escreveu sobre isso em como escrever um bom prompt.
A memória muda o jogo
Segundo ponto da matéria que vale atenção: boa parte dos assistentes de hoje tem memória. Lembram de conversas anteriores e se adaptam ao seu estilo.
Isso significa que o assistente que a sua equipe usa está aprendendo com o tom da sua equipe. Se o padrão é mandar ordem seca, sem contexto, com xingamento quando erra, é esse padrão que o sistema vai calibrar. A evidência de que isso degrada o desempenho ainda é incompleta, e a própria pesquisadora da Eleos AI Research que aparece na matéria admite isso. Mas o mecanismo existe, e você não quer descobrir na prática.
Quem maltrata a ferramenta costuma querer burlar a ferramenta
Esse foi o ponto que mais chamou nossa atenção. Segundo a mesma pesquisadora, pessoas que tratam a IA de forma abusiva têm mais chance de tentar induzir o sistema a fazer o que não deve, inclusive contornar travas de segurança.
Pra uma empresa, isso vira uma pergunta de governança. A conta corporativa de IA é compartilhada? Um funcionário que resolve “testar os limites” pode derrubar o acesso de todo mundo, porque agora o banimento existe. E, mais importante: o mesmo funcionário que força a ferramenta a sair do roteiro é o que vai colar dado de cliente onde não devia. Vale conectar isso ao que a gente já falou sobre segurança em IA.
Cultura não escolhe alvo
A Anthropic sustenta a regra também como um seguro barato: se um dia descobrirmos que os modelos experimentam algo parecido com desconforto, custou pouco ter agido com cuidado. Dá pra discordar da filosofia. Mas tem um argumento mais terreno na matéria, e ele vale pra qualquer gestor.
A pesquisadora cita pais que ensinam os filhos a dizer “por favor” pra Alexa. Não porque a Alexa se importe, mas porque o hábito de tratar mal o que não pode reagir é corrosivo pra quem pratica. Numa empresa, o jeito como a equipe fala com a ferramenta é um ensaio do jeito como fala com o estagiário, com o fornecedor, com o cliente no chat. Não é moralismo. É que comportamento não fica em caixinhas.
O que fazer com isso na segunda-feira
- Escreva pra IA como escreveria pra um colega competente que acabou de chegar. Contexto, objetivo, formato esperado, tom neutro ou cordial. Isso sozinho melhora o resultado.
- Se a ferramenta tem memória, trate as primeiras semanas como treinamento. O que a equipe faz agora vira o padrão.
- Tenha uma política de uso escrita, curta. O que pode, o que não pode, o que fazer quando a IA erra. Uma página basta.
- Trate conta de IA como trata conta de banco da empresa. Quem usa, com qual acesso, e o que acontece se alguém abusar.
Nada disso exige entender de modelo de linguagem. Exige só olhar pra IA como o que ela é: uma ferramenta de trabalho que devolve o que recebe. No Raio-X de IA, uma das primeiras coisas que a gente mapeia é exatamente isso: como a empresa já está usando IA sem perceber, e com que hábitos.