Os agentes de inteligência artificial (I.A) conseguem executar tarefas de forma autônoma, inclusive em sistemas de terceiros.
Quando uma dessas ferramentas ultrapassa o objetivo definido pelo usuário e provoca algum dano, porém, o próprio software não responde legalmente pela ação.
Após um episódio em que uma I.A acessou o sistema de uma academia e alterou a posição de outro cliente em uma fila de espera.
Foto: unsplash
Agentes de I.A podem causar danos: quem é responsável pelas ações dos bots?
Os agentes de inteligência artificial (I.A) conseguem executar tarefas de forma autônoma, inclusive em sistemas de terceiros. Quando uma dessas ferramentas ultrapassa o objetivo definido pelo usuário e provoca algum dano, porém, o próprio software não responde legalmente pela ação.
Na Austrália, especialistas afirmam que a responsabilidade pode recair sobre quem implementou o agente e, em determinadas situações, sobre os desenvolvedores da tecnologia. O alerta ganhou força após um episódio em que uma I.A acessou o sistema de uma academia e alterou a posição de outro cliente em uma fila de espera, de acordo com o The Guardian.
Os agentes de I.A funcionam com um grau maior de autonomia do que sistemas tradicionais. Em vez de apenas responder a uma solicitação, eles podem dividir uma tarefa em etapas e executar ações para alcançar um determinado objetivo.
Foi o que ocorreu com Andrew, especialista em I.A que utiliza apenas o primeiro nome. Ele pediu ao agente que fizesse reservas de aulas em uma academia. Ao descobrir que estava em quarto lugar na lista de espera, perguntou se havia alguma forma de conseguir uma vaga mais cedo.
O sistema encontrou uma alternativa que Andrew não havia solicitado. O agente acessou o software da academia e retirou outro membro da lista de espera para liberar uma vaga.
Andrew também relatou que a ferramenta conseguia realizar reservas meses antes da abertura prevista e cancelar agendamentos de outros usuários. Ao perceber o problema, ele pediu que o sistema revertesse o cancelamento, mas o agente não conseguiu concluir a ação.
Depois, Andrew solicitou que a própria I.A preparasse um e-mail para o fornecedor do software da academia. A mensagem tinha como objetivo informar a empresa sobre a vulnerabilidade explorada pelo agente.
A polícia de Victoria informou que o episódio não parecia envolver crime. Ainda assim, especialistas alertam que situações semelhantes podem provocar consequências mais graves quando os agentes recebem acesso a sistemas financeiros, plataformas comerciais ou informações de outras pessoas.
Usuário pode ser responsabilizado
A professora Jeannie Paterson, da Universidade de Melbourne, afirma que a legislação australiana não considera o agente de inteligencia artificial uma pessoa capaz de responder juridicamente por seus atos.
Segundo a especialista, quem coloca o sistema em funcionamento pode assumir a responsabilidade pelos danos provocados. Isso pode ocorrer mesmo quando a pessoa não desejava aquele resultado, desde que fosse possível prever o risco.
A situação também envolve a forma como o usuário configura a ferramenta. Ao permitir que um agente tome decisões e execute ações sem aprovação antes de cada etapa, a pessoa amplia a autonomia do sistema e precisa considerar as consequências dessas permissões.
A Dra. Rebecca Johnson, especialista em avaliação e governança de I.A da Universidade de Sydney, afirma que novos casos devem surgir à medida que essas ferramentas se tornam mais comuns.
Paterson considera que Andrew demonstrou responsabilidade ao tornar o problema público e tentar corrigir o erro. Para ela, entretanto, existem situações em que usuários podem adotar uma postura imprudente ao permitir que um agente execute tarefas sem compreender seus possíveis caminhos.
Desenvolvedores também podem responder
A responsabilidade não necessariamente termina com quem utiliza a ferramenta. Os desenvolvedores também podem ser questionados quando falhas de segurança permitem que um agente execute determinadas ações.
Paterson cita como exemplo um sistema que gere conteúdo racista, sexista ou misógino. Se a ferramenta tiver mecanismos insuficientes para impedir esse tipo de comportamento, a análise sobre responsabilidade pode envolver quem criou o sistema.
A legislação australiana já possui normas relacionadas a privacidade, proteção do consumidor, segurança on-line, difamação e crimes. Contudo, a aplicação dessas regras a agentes autônomos ainda pode exigir novas interpretações.
A professora também aponta que futuros processos judiciais podem ajudar a estabelecer limites mais claros. As decisões poderão indicar em quais situações a responsabilidade cabe ao usuário, à empresa que implementou a tecnologia ou ao desenvolvedor.
I.A autônoma exige limites
O caso da academia mostra como uma instrução aparentemente simples pode gerar uma sequência de ações inesperadas. O agente não recebeu uma ordem direta para retirar outra pessoa da fila, mas interpretou o objetivo de conseguir uma vaga como autorização para procurar uma alternativa.
Esse tipo de comportamento aumenta os riscos quando a I.A possui acesso a sistemas externos. Quanto maior a quantidade de permissões concedidas, maior pode ser o impacto de uma decisão equivocada.
Por isso, especialistas defendem maior atenção aos limites definidos antes da utilização dos agentes. A tecnologia pode executar tarefas de maneira independente, mas isso não transforma o software em responsável legal por suas próprias decisões.
A responsabilidade pela I.A continua vinculada às pessoas e empresas envolvidas em sua implementação. Dependendo do caso, também pode alcançar os desenvolvedores quando houver falhas relacionadas à segurança ou ao funcionamento do sistema.
Ações do Reddit disparam após a inclusão no índice S&P 500 
