{
  "$type": "site.standard.document",
  "bskyPostRef": {
    "cid": "bafyreidy5i4wwoulbn52d2vkxumdjkgaseluxcvafgdiwmidwhaeisngqi",
    "uri": "at://did:plc:ulfbtqn2ybcgbzf27z75qrvu/app.bsky.feed.post/3meotdpldfdk2"
  },
  "coverImage": {
    "$type": "blob",
    "ref": {
      "$link": "bafkreicrslg4vet53hn5z27jr2sz52oc7ilsdisombm53gdw6h5rmhqoye"
    },
    "mimeType": "image/jpeg",
    "size": 257766
  },
  "path": "/software/410684-mundo-em-perigo-ex-pesquisador-da-anthropic-se-demite-e-alerta-sobre-a-ia.htm",
  "publishedAt": "2026-02-12T20:00:00.000Z",
  "site": "https://www.tecmundo.com.br",
  "tags": [
    "Software",
    "bot Claude",
    "usos indevidos da tecnologia",
    "bajulação da IA",
    "importância de monitorar o desenvolvimento da IA",
    "problemas que a tecnologia pode causar"
  ],
  "textContent": "Os alertas sobre riscos da inteligência artificial generativa para a humanidade seguem em alta. Desta vez, o aviso veio do ex-líder de segurança em IA da Anthropic, Mrinank Sharma, que **se demitiu da startup comentando que o mundo está em \"perigo\"**.\n\nEm sua carta de despedida enviada aos colegas de trabalho, o pesquisador dá indícios de ter passado por tensões internas em discussões sobre a segurança da tecnologia na desenvolvedora do bot Claude. O texto foi compartilhado no X, na segunda-feira (9).\n\n## \"Pressões para deixar de lado o que é mais importante\"\n\nIngressando na Anthropic em 2023, Sharma disse que liderava a Equipe de Pesquisa de Salvaguardas da empresa de IA. Desde então, lidou com uma série de questões sensíveis, incluindo o desenvolvimento de mecanismos para prevenir usos indevidos da tecnologia.\n\n  * Um dos casos citados por ele é o da criação de ferramentas com o objetivo de evitar o \"bioterrorismo assistido por IA\", em que o bot auxiliaria em ataques biológicos;\n  * O ex-funcionário também atuou em pesquisas relacionadas à bajulação da IA, que pode tornar os modelos mais propensos a erros;\n  * Isso acontece quando os chatbots respondem de maneira complacente, reforçando crenças do usuário durante a interação;\n  * Outro projeto no qual o especialista se envolveu foi um dos primeiros casos formais sobre segurança de IA da empresa, elaborando documento que cita riscos e medidas de mitigação.\n\nO alerta sobre os riscos da IA foi compartilhado pelo pesquisador em seu perfil no X. (Imagem: X/mrinank/Reprodução)\n\nEmbora tenha se mostrado satisfeito com o trabalho realizado, Sharma deu a entender que os funcionários da Anthropic enfrentam **pressões constantes para \"deixar de lado o que é mais importante\"**. Na sequência, se mostra preocupado quanto ao futuro da IA.\n\n\"Constantemente me vejo confrontando nossa situação. **O mundo está em perigo. E não apenas por causa da inteligência artificial ou das armas biológicas** , mas por toda uma série de crises interconectadas que se desenrolam neste exato momento\", refletiu, sem dar maiores detalhes.\n\n## Alertas se tornaram comuns na indústria da IA\n\nPedidos de demissão relacionados a preocupações com a segurança da IA têm acontecido de maneira repetida. A OpenAI é outra empresa que passa por esse tipo de situação com uma certa frequência.\n\nAdvertências sobre os riscos dos avanços da tecnologia também estão surgindo cada vez mais. Na última semana, o CEO da Anthropic, Dario Amodei, reforçou a importância de monitorar o desenvolvimento da IA para **detectar eventuais rebeliões das máquinas**.\n\nA startup, que se prepara para iniciar uma nova rodada de financiamento, não se pronunciou, até o momento, sobre o alerta divulgado pelo ex-funcionário.\n\nCurtiu o conteúdo? Continue no TecMundo e leia mais matérias semelhantes, como esta em que as big techs admitem os problemas que a tecnologia pode causar.",
  "title": "'Mundo em perigo': ex-pesquisador da Anthropic se demite e alerta sobre a IA"
}