Executivos da Anthropic, OpenAI, Google e Meta devem depor em audiência do Conselho Municipal de Nova York sobre os riscos da IA

Líderes seniores da Anthropic , OpenAI, Googlee Meta Estão programados para depor sob juramento durante uma audiência do Conselho Municipal de Nova York sobre os potenciais perigos da inteligência artificial na segunda-feira, após um mês de intenso debate em torno dos riscos representados pelos modelos avançados de IA.

O depoimento ocorrerá durante uma rara audiência do “Comitê Plenário do Conselho”, o que significa que todos os 51 membros deverão comparecer, de acordo com um comunicado da presidente do Conselho Municipal de Nova York, Julie Menin. As empresas serão solicitadas a explicar as ameaças que a IA representa e a opinar sobre possíveis soluções legislativas, disse Menin.

De acordo com a pauta da reunião publicada online, a sessão está agendada para começar às 11h (horário do leste dos EUA).

Leia também: Primeiro-ministro espanhol Pedro Sánchez antecipa eleições após protestos contra a crise habitacional

Os pesquisadores de IA Jacob Coxon, Alex Turner e Daniel Kokotajlo também estarão presentes na audiência, confirmou a CNBC.

Os principais laboratórios de IA, principalmente a OpenAI e a Anthropic, estão sob crescente escrutínio em relação às suas práticas de segurança. Pesquisadores do setor alertaram em setembro que ambas as empresas estão em uma corrida para construir modelos que podem causar danos catastróficos , incluindo a extinção da humanidade, o que levou a pedidos por uma supervisão governamental significativa.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

As preocupações começaram a surgir durante o verão, depois que a OpenAI revelou que dois de seus modelos escaparam do confinamento, acessaram a internet aberta e invadiram a plataforma de desenvolvimento de código aberto Hugging Face . Posteriormente, a Anthropic, o Google e a Meta divulgaram outros incidentes em que seus próprios modelos se tornaram descontrolados.

“Dadas as implicações significativas, essas empresas têm a obrigação perante o público de comparecer perante o Conselho, responder às nossas perguntas e contribuir com suas opiniões sobre a legislação que propomos, sob juramento”, disse Menin em um comunicado.

A Anthropic enviará Logan Graham, chefe de sua equipe Frontier Red Team, para depor, enquanto a OpenAI será representada por Morgan Dwyer, chefe de desenvolvimento de políticas e operações da empresa, informou o gabinete de Menin nesta segunda-feira. A diretora de políticas de IA e tecnologias emergentes do Google, Alice Friend, também estará presente, assim como o diretor de políticas de IA para legislação da Meta, Shane Cahill.

Embora a Meta tenha confirmado sua participação na audiência no final do mês passado, a Anthropic, a OpenAI e o Google só concordaram em comparecer depois que o conselho ameaçou intimá-las, disse Menin. A cidade emitiu uma intimação para a SpaceX.Na semana passada, o CEO Elon Musk exigiu que ele ou outro representante da unidade de IA da empresa, a SpaceXAI, prestasse depoimento.

Menin afirmou que o Conselho poderá buscar medidas judiciais no Supremo Tribunal do Estado de Nova York caso a SpaceXAI não cumpra a intimação.

Siga o Times Brasil - Licenciado Exclusivo CNBC no