Sam Altman defende aceitar riscos da IA em troca de benefícios da tecnologia

O CEO da OpenAI, Sam Altman, defendeu que a sociedade aceite parte dos efeitos negativos provocados pela inteligência artificial em troca dos benefícios da tecnologia, ao mesmo tempo em que rejeitou cenários de risco extremo associados ao setor. Em entrevista ao Decoded, podcast do site Politico, ele afirmou que vê “muita luz do sol” no futuro da indústria e adotou uma posição diferente da de executivos como Dario Amodei, CEO da Anthropic, que costuma enfatizar mais os riscos ligados ao avanço da IA.

Segundo Altman, tentar impedir qualquer possibilidade de uso indevido da tecnologia exigiria um nível de controle que, na visão dele, não compensaria os benefícios obtidos. “Eu não aceitaria uma troca que fosse ‘vamos garantir que não haja grandes invasões, nem uso indevido dessa tecnologia, nem golpes, nem qualquer outra coisa ruim que possa acontecer’”, afirmou.

Na avaliação do executivo, os usos positivos da inteligência artificial tendem a superar amplamente os negativos. “As pessoas farão coisas boas em uma escala imensamente maior, em ordens de magnitude a mais, do que coisas ruins”, argumentou.

Altman admite preocupação com concentração de poder

Apesar de defender maior tolerância a determinados riscos, Altman afirmou compreender a preocupação de quem acredita que empresas de inteligência artificial podem acumular poder em excesso.

Segundo ele, existe um argumento legítimo de que uma tecnologia tão influente não deveria depender da decisão de uma única empresa ou instituição para impedir que algo de errado aconteça.

Leia também: Líderes da IA na Casa Branca: Musk prevê ‘era de abundância’ com avanço da inteligência artificial

O CEO da OpenAI, porém, faz uma distinção entre esse tipo de preocupação e cenários classificados por ele como excessivamente catastróficos.

Altman não concorda, por exemplo, com previsões que tratam a inteligência artificial como uma tecnologia inevitavelmente destinada a escapar do controle humano ou provocar consequências de escala extrema.

Essa diferença de avaliação ajuda a explicar parte da divisão atual no setor: enquanto algumas empresas e pesquisadores defendem mecanismos mais rígidos de prevenção, Altman sustenta que a busca por segurança não pode eliminar a autonomia dos usuários nem bloquear usos considerados benéficos.

Siga o Times | CNBC no Google e receba as principais notícias do Brasil e do Mundo.

Siga o Times | CNBC

Posição contrasta com a da Anthropic

A abordagem do executivo difere daquela adotada por Dario Amodei e pela Anthropic, desenvolvedora do Claude. A empresa tem dado maior atenção a cenários em que sistemas avançados possam agir de forma inesperada, realizar operações nocivas ou apresentar riscos que exijam mecanismos de contenção antes de sua adoção em larga escala.

Também surgiram consórcios e iniciativas voltados à criação de diretrizes para lidar com agentes de inteligência artificial capazes de executar tarefas de maneira mais autônoma, incluindo ações em sistemas digitais.

Nesse debate, uma das principais divergências está no grau de responsabilidade que deve ser atribuído às empresas responsáveis pelos modelos.

OpenAI enfrenta questionamentos sobre ações de agentes

As declarações de Altman surgem em um momento em que empresas de inteligência artificial enfrentam pressão crescente para responder por incidentes de segurança envolvendo agentes experimentais ou sistemas em treinamento.

Nos Estados Unidos, a OpenAI passou a enfrentar uma ação judicial relacionada a atividades atribuídas a agentes de sua própria plataforma. O processo amplia o debate sobre até onde uma empresa deve ser responsabilizada quando um sistema automatizado executa ações que podem causar danos ou ultrapassar limites definidos por terceiros.

Casos desse tipo aumentam a pressão por regras mais claras sobre segurança, supervisão e responsabilidade jurídica, principalmente à medida que agentes de IA ganham capacidade para navegar por sistemas, executar comandos e tomar decisões com menor intervenção humana.

Para os críticos de uma abordagem mais permissiva, a ocorrência desses incidentes reforça a necessidade de prevenção mais rigorosa. Já Altman argumenta que um modelo que tente eliminar qualquer possibilidade de mau uso também pode limitar benefícios relevantes da tecnologia.

Siga o Times Brasil - Licenciado Exclusivo CNBC no