CEO da Anthropic promete desacelerar lançamentos de IA se segurança exigir

O CEO da Anthropic, Dario Amodei, afirmou nesta quarta-feira (23) que a empresa está disposta a desacelerar o desenvolvimento e o lançamento de novas tecnologias de inteligência artificial (IA) caso considere a medida necessária para garantir a segurança dos sistemas.

Ao participar por videoconferência de uma sessão do Conselho de Segurança das Nações Unidas, Amodei afirmou: “Vamos desacelerar o quanto for necessário para garantir que cada nova tecnologia de IA que lançarmos seja realmente segura”.

A declaração reforça uma posição que Amodei vinha defendendo publicamente sobre o ritmo de avanço da inteligência artificial. Em 12 de setembro, o executivo propôs que empresas do setor diminuíssem o ritmo de desenvolvimento dos modelos e defendeu medidas como acesso permanente de avaliadores externos aos sistemas para verificar práticas de segurança e acompanhar possíveis incidentes.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Leia também: OpenAI e Anthropic lançam modelos de IA mais baratos em meio à pressão de rivais

A Anthropic também mantém um plano específico para segurança dos modelos de fronteira, concentrado em proteção contra roubo e manipulação dos sistemas, prevenção de usos perigosos, alinhamento dos modelos e políticas públicas para enfrentar riscos em escala global. A companhia afirma que o avanço rápido das capacidades de IA exigirá uma elevação igualmente acelerada dos mecanismos de proteção.

O debate chegou ao Conselho de Segurança em um momento de divergências sobre como lidar com os riscos da tecnologia. A sessão desta quarta-feira reuniu executivos e especialistas para discutir inteligência artificial e segurança internacional, enquanto diferentes atores do setor divergem sobre a necessidade de uma desaceleração coordenada no desenvolvimento dos modelos.

Siga o Times Brasil - Licenciado Exclusivo CNBC no