Chatbot Grok, de Elon Musk, hospeda deepfakes sexualizados de mulheres famosas, diz revista

O chatbot Grok, de Elon Musk, aparentemente ainda está sendo usado para produzir e hospedar imagens e vídeos explícitos não consensuais de mulheres, meses depois de a empresa de inteligência artificial de Musk, a xAI, ter anunciado que introduziria restrições para impedir a criação de deepfakes sexualizados potencialmente prejudiciais. As informações são da revista Wired. O sistema de IA generativa Grok Imagine foi usado para criar e hospedar imagens e vídeos que retratam celebridades e pelo menos uma política sendo mantidas contra a sua vontade por um homem gigante, mulheres praticando atos sexuais e permitindo nudez total, segundo uma análise da Wired sobre criações públicas. Embora algumas das imagens e vídeos sejam totalmente gerados por IA ou em estilos animados, outros são fotorrealistas e mostram cenários plausíveis do mundo real. A Wired analisou centenas de links públicos do Grok Imagine hospedados no Grok.com e descobriu que dezenas deles levavam a imagens e vídeos sexualizados gerados por IA, incluindo aqueles criados sem o consentimento do sujeito. Alguns links criados no Grok.com foram posteriormente compartilhados no X, inclusive nos últimos dias. As postagens, que não mostram registros de data e hora de sua criação, provavelmente são apenas um instantâneo do que está sendo criado por pessoas que usam o sistema Grok Imagine, já que as gerações não parecem ser tornadas públicas por padrão. Entre as publicações hospedadas no Grok.com, a WIRED identificou imagens e vídeos retratando diversas celebridades, bem como a política americana Alexandria Ocasio-Cortez. Outros sistemas de IA generativa implementam mais mecanismos de segurança do que o Grok, que está disponível em seu próprio site e no X. "Embora o Grok e o X possam ter feito algumas alterações em seu modelo, principalmente após a reação negativa em torno da nudificação no início do ano, eles ainda não fizeram um trabalho suficiente para elevá-lo ao padrão das outras ferramentas convencionais disponíveis", diz Henry Ajder, especialista em deepfakes que rastreia conteúdo explícito de IA online há quase uma década. O xAI de Musk enfrentou uma onda de processos judiciais e escrutínio de reguladores em todo o mundo desde janeiro, quando a implementação do Grok no X foi usada para criar uma enxurrada de imagens de "nudificação". Usuários do X — principalmente homens — pediram ao chatbot para editar imagens para mostrar mulheres de "biquíni" ou "biquínis fio dental". Em alguns casos, imagens de menores de idade também foram supostamente sexualizadas, de acordo com uma ação coletiva movida em um tribunal federal da Califórnia em março. Desde então, a xAI afirmou ter implementado medidas de segurança para limitar e prevenir a criação de deepfakes não consensuais e sexualizados. A empresa tem reiteradamente afirmado que material de abuso sexual infantil (CSAM) é proibido em sua plataforma. Nem a xAI nem a X responderam imediatamente ao pedido de comentário da Wired sobre a grande quantidade de imagens sexualizadas hospedadas no Grok.com. Após a Wired entrar em contato com as empresas, as imagens e vídeos explícitos encontrados no Grok.com não estavam mais disponíveis, e os links do Grok Imagine compartilhados na X foram removidos por violação das políticas. Mais Lidas