REPORTAGEM DESCREVE ALERTAS SOBRE USO INDEVIDO DE INTELIGÊNCIA ARTIFICIAL, CONTROLE DE AGENTES AUTÔNOMOS E CUSTOS DA EXPANSÃO DA FABRICANTE DO CLAUDE.
A Anthropic apresentou uma extensa relação de riscos associados à inteligência artificial e à expansão de seus negócios em um documento para abertura de capital, segundo reportagem publicada pelo Policial Web, com informações do Portal R7, nesta quarta-feira (28).
Entre os pontos descritos estão o uso mal-intencionado da tecnologia e a possibilidade de agentes autônomos executarem ações sem a intervenção humana a tempo. A publicação menciona preocupações com acesso indevido a sistemas, alterações em dados e transações não autorizadas. Também relata dificuldades para explicar integralmente o comportamento dos modelos e acompanhar sua atuação.
Os fatores de risco abrangem ainda processos judiciais, mudanças regulatórias e tensões geopolíticas. A reportagem apresenta esses itens como alertas sobre possíveis impactos para a empresa e seus produtos.
Na infraestrutura, a fabricante do Claude enfrenta competição por capacidade computacional e incerteza sobre os recursos necessários para acompanhar a demanda. A resistência à construção de data centers também aparece entre os obstáculos citados.
Outro desafio é a concentração de receitas em poucos produtos e clientes. Segundo a publicação, a companhia também reconhece que um afastamento de seus compromissos declarados de segurança pode prejudicar a confiança e a produtividade dos funcionários.
