Luciana Paciência 
O CEO da Anthropic, Dario Amodei, pediu às empresas de inteligência artificial que reduzam o ritmo de desenvolvimento dos seus modelos devido aos riscos de uso indevido e à dificuldade de controlar sistemas com capacidades cada vez maiores.
Segundo a Reuters, Amodei apresentou uma proposta de três etapas para acompanhar o avanço da IA, onde prevê avaliadores independentes dentro das empresas, coordenação entre os principais laboratórios para definir padrões de segurança e cooperação internacional para gerir os riscos da tecnologia.
Os avaliadores teriam acesso semelhante ao de funcionários das empresas, incluindo ferramentas e processos internos de avaliação de riscos. A Anthropic pretende adoptar este modelo de forma permanente e defende que outros laboratórios de ponta façam o mesmo.
Amodei afirmou ainda que a proposta não pretende interromper o treino dos modelos nem o progresso técnico. O objectivo, segundo o CEO, é criar mais tempo para que as empresas reforcem as medidas de segurança e avaliem os riscos antes de avançarem para novas capacidades.
O apelo ocorre após a Anthropic divulgar um relatório de inteligência sobre ameaças relacionadas com os seus modelos Claude. O documento identificou casos de uso da IA em actividades como desenvolvimento de armas, operações cibernéticas, vigilância e fraude.
O pedido recebeu apoio de Sam Altman, CEO da OpenAI, e Elon Musk, responsável pela xAI. Altman afirmou que a OpenAI também pretende adoptar avaliadores independentes com acesso semelhante ao de funcionários e prometeu divulgar mais informações sobre a medida.
Para Amodei, as principais empresas de IA devem trabalhar em conjunto para estabelecer padrões de segurança. O responsável considera que esta cooperação pode permitir que os laboratórios realizem pesquisas de segurança sem perder vantagem na corrida pelo desenvolvimento da tecnologia.
