Claude Code tem função para identificar palavrões no chat, revela código vazado

O Claude Code conta com mecanismos próprios para identificar o uso de palavrões, segundo informações encontradas em código vazado do chatbot. A ferramenta pode ajudar a Anthropic a detectar sinais de frustração dos usuários, funcionando como uma forma indireta de feedback.

A função está presente no arquivo “userPromptKeywords.ts”, que reúne um sistema simples de reconhecimento de palavras. Nesse caso, o código busca identificar termos ofensivos e expressões de raiva em inglês , como “wtf”, “wth”, “omfg”, “dumbass”, “awful” e “horrible”.

• Leia mais: Após vazamento, Claude Code pode ser usado de graça

Não está claro qual é a finalidade exata da detecção , mas uma das hipóteses é que o recurso sirva para captar feedbacks negativos. Em vez de depender apenas de denúncias formais, a empresa poderia usar esses sinais linguísticos para identificar insatisfação e ajustar o comportamento da IA.

O código do Claude Code vazado contém mecanismos para detecção de palavrões. (Fonte: AntonioGuillem/Getty Images)

Os parâmetros do Regex são:

/\b(wtf|wth|ffs|omfg|shit(ty|tiest)?|dumbass|horrible|awful| piss(ed|ing)? off|piece of (shit|crap|junk)|what the (fuck|hell)| fucking? (broken|useless|terrible|awful|horrible)|fuck you| screw (this|you)|so frustrating|this sucks|damn it)\b/

Outra possível aplicação seria adaptar as respostas do próprio Claude. Ao perceber que o usuário está frustrado, o chatbot poderia adotar um tom mais cauteloso ou conciliador nas interações seguintes.

Uso do Regex é curioso

Um dos pontos que chama atenção é o uso de Regex (abreviação de Regular Expression). Trata-se de um método simples para identificar padrões de texto, mais leve em termos computacionais do que depender exclusivamente de modelos de linguagem para esse tipo de análise.

A descoberta levanta questionamentos sobre quais outros mecanismos semelhantes podem existir nos produtos da Anthropic, além de reforçar o papel de pequenos indicadores linguísticos na forma como chatbots ajustam suas respostas aos usuários.

Fique ligado no TecMundo para acompanhar novidades sobre inteligência artificial e outras atualizações do mundo da tecnologia. Siga o TecMundo nas redes sociais para não perder nenhuma notícia.