O antrópico deu passos para proteger os sentimentos do Claude. Eis o que isso significa.
Na última quinta-feira, a Anthropic atualizou sua política de uso, que vem evoluindo quase tão rapidamente quanto a inteligência artificial, mas o que se destacou nesta revisão mais recente foi uma ênfase na proteção do agente de IA dos seres humanos.
Em uma subseção intitulada “Abordar comportamento abusivo para nossos modelos”, Anthropic anunciou que proibiria “comportamento abusivo e cruel para nossos modelos”. Isso será principalmente forçado por Claude preemptively terminar a conversa.
O Anthropic foi rápido de apontar que essas medidas não serão desencadeadas por “versões comuns de frustração do usuário, pushback, temas criativos escuros, ou testes e pesquisa de modelos”. No entanto, parece bastante claro que um novo status quo agora existe, e se os agentes de AI ou não têm sentimentos que podem ser feridos, seus criadores querem que nós os tratemos como se eles o fizessem.
Até agora, restrições ao uso de Claude giraram em torno de proteger o usuário ou servir alguma versão do bem comum. A antrópica rapidamente impôs limites rigorosos sobre o tipo de fantasias sexuais que seus agentes poderiam se envolver, por exemplo, ou tentativas de reunir informações sobre cometer atos de violência, impedindo assim sua cumplicidade em um futuro ataque terrorista ou evento de casualidade em massa. Mas esta revisão recente marca uma mudança na ênfase protetora, dos usuários e uma comunidade tangível do mundo real para os próprios agentes da AI.
Tudo isso, é claro, só adicionou combustível ao debate sobre se AI está ou não consciente, o que é muito mais comum do que você pode perceber. Per the New York Times, o cofundador antrópico e o narrador da consciência de AI, Chris Olah, recentemente, fizeram seu caso perante o Vaticano e um pequeno exército de estudiosos religiosos, que finalmente rejeitaram suas reivindicações e recusaram-se a tomar seu lado.
- Claude enviou uma dica falsa sobre um assassinato não resolvido para a polícia de Filadélfia
- Trump remarca AI como ‘super inteligência’ como os gigantes da tecnologia assinam o acordo da Casa Branca
- ‘Saturday Night Live’ spoofs Dario Amodei’s AI advertências na atualização de fim de semana
- O CEO da Anthropic insta a indústria a abrandar, e Sam Altman concorda
Não espere que o seu desacordo acabe com o debate. A nova política de uso entra em vigor no dia 12 de novembro de 2026, em que ponto todos nós estaremos tratando a IA como se tivesse a capacidade de sentir ou ter ofensa, independentemente.
Tópicos
Inteligência Artificial
Antropo
