O avanço de agentes de inteligência artificial (IA) capazes de realizar compras pela internet em nome dos consumidores tem levantado preocupações sobre golpes, fraudes e vazamento de dados. O alerta foi feito por um grupo de bancos internacionais em relatório divulgado nesta terça-feira (22), diante do crescimento dessa tecnologia sem que regras e mecanismos de proteção estejam consolidados.
Os chamados agentes de IA podem receber uma solicitação do usuário, pesquisar produtos, comparar alternativas e concluir uma compra. Empresas como OpenAI, Anthropic, Google e Meta desenvolvem ferramentas desse tipo, enquanto varejistas buscam adaptar seus serviços para aparecer nas recomendações feitas por chatbots.
Segundo bancos como NatWest, do Reino Unido, Bank of America e Capital One, dos Estados Unidos, ING, dos Países Baixos, e Commonwealth Bank of Australia, da Austrália, o desenvolvimento desses sistemas ocorre em ritmo mais acelerado do que a criação de padrões de segurança para o setor.
Riscos para consumidores
Entre os problemas apontados está a possibilidade de o agente tomar uma decisão diferente da esperada pelo consumidor. Isso pode incluir a escolha de um produto incorreto ou a realização de uma compra acima do valor inicialmente planejado.
Os bancos também alertam para situações de fraude. Um agente pode solicitar informações do cartão e inseri-las diretamente em um site ou direcionar o consumidor para uma modalidade de pagamento com menor proteção em caso de problemas.
A utilização de informações pessoais e financeiras também gera preocupação com a privacidade. Como os agentes precisam acessar dados para executar determinadas tarefas, o relatório destaca a necessidade de estabelecer regras claras sobre armazenamento, utilização e proteção dessas informações.
Outro ponto levantado é a responsabilidade por eventuais problemas. Os consumidores podem ter dificuldades para identificar quem deve responder caso uma transação realizada por um agente de IA apresente algum erro.
Propostas de proteção
O grupo de bancos pretende discutir propostas com autoridades e formuladores de políticas para estabelecer regras para o comércio realizado por agentes de IA.
Entre as medidas sugeridas estão a obrigação de informar ao consumidor quando uma ferramenta de IA estiver envolvida em uma transação e a ampliação da transparência sobre os critérios utilizados pelos sistemas para tomar decisões.
Também são defendidas medidas específicas para proteger informações dos consumidores. O relatório aponta ainda que clientes e comerciantes devem ter liberdade para escolher quais serviços de comércio eletrônico baseados em IA desejam utilizar.
A interoperabilidade, que permite a comunicação e o funcionamento conjunto entre diferentes sistemas, também está entre as propostas apresentadas.
Buscas por IA ganham espaço
O uso da tecnologia já aparece no comportamento dos consumidores. A varejista britânica John Lewis informou que as visitas ao seu site originadas por agentes de IA alcançaram 2,5% em setembro, contra 0,3% no mesmo período do ano anterior.
Para o grupo de bancos, o crescimento reforça a necessidade de estabelecer normas e mecanismos de proteção antes que os agentes de IA passem a ocupar um espaço ainda maior nas compras pela internet.
