Para que um agente de IA (inteligência artificial que realiza tarefas on-line em nome do usuário) pesquise e reserve voos, faça reservas em restaurantes ou peça mantimentos, o site em questão precisa permitir o acesso do agente. Segundo a reportagem, a Amazon começou recentemente a impedir que o Muse, da Meta, pesquise ou compre produtos em seu site de varejo. No entanto, não se pode concluir que todas as falhas de compra em outros sites sejam resultado de um bloqueio intencional.

Contexto e antecedentes

Agentes de IA pessoais podem fazer mais do que responder a perguntas: também podem realizar transações ou reservas em nome dos usuários. Mas, se um site não permitir o acesso do agente ou se ele não passar por uma verificação de segurança, a tarefa solicitada não será concluída. Para o usuário, pode ser difícil distinguir entre um erro do agente e um bloqueio do site.

O caso do Walmart mostra essa diferença. Nas redes sociais, usuários reclamaram que o Muse não conseguiu concluir uma compra no Walmart, e a NBC também noticiou um problema semelhante durante um teste de agentes feito pela empresa. Um porta-voz do Walmart afirmou que a falha na compra não foi causada por um bloqueio intencional. A empresa também disse que é parceira do Muse, anunciado no evento para desenvolvedores Connect da Meta, em setembro.

Segundo a reportagem, o site do Walmart pede que os visitantes cliquem em um botão para confirmar que são pessoas. Se esse processo de verificação for interrompido, a validação pode falhar e o agente pode ser retirado do site. Portanto, o simples fato de o acesso ou a compra ter sido impedido não basta para concluir que a empresa bloqueou o agente. No caso da Amazon, por outro lado, foi noticiado que a empresa começou a impedir que o Muse pesquise e compre produtos.

O que essa notícia significa

O uso prático de agentes não depende apenas dos recursos da inteligência artificial. Os procedimentos de segurança dos sites, as políticas para lidar com acessos automatizados e a existência de integração entre empresas e agentes podem influenciar o sucesso de uma transação. Isso significa que, mesmo quando um agente consegue agir em nome do usuário, ele não pode ultrapassar as condições de acesso definidas pelas empresas que operam os serviços on-line.

Essa questão pode afetar tanto os usuários quanto as empresas. Se um site não permitir o acesso de agentes ou se a verificação de segurança não funcionar, o usuário pode não conseguir concluir a compra ou reserva desejada. As empresas, por sua vez, precisam decidir se aceitam usuários que chegam por meio de agentes e como vão proteger seus serviços. A Meta declarou, em linhas gerais, que impedir um agente significa impedir os clientes que estão por trás dele, e que pretende resolver as preocupações das empresas e estabelecer critérios claros. Isso chama a atenção para o fato de que a questão envolve tanto a conquista de clientes quanto a gestão da segurança pelas empresas.

Por exemplo, mesmo que um usuário peça a um agente para encontrar e reservar um voo, a reserva pode não ser concluída se a companhia aérea não tiver integração com agentes de terceiros ou se os procedimentos de segurança do site interromperem a operação. Nesse caso, a falha pode decorrer de um problema nas capacidades do agente ou das políticas de acesso e dos procedimentos de verificação do site. Com base apenas nas notícias disponíveis, não é possível saber como os usuários podem determinar a causa de cada falha.

Políticas de acesso e condições relacionadas

As empresas não adotam a mesma abordagem para o acesso de agentes. A Delta afirmou que atualmente não tem parcerias ou integrações que permitam a agentes de IA de terceiros pesquisar ou reservar voos em suas plataformas digitais em nome dos clientes. Ao mesmo tempo, disse que está avaliando se novas tecnologias, como agentes externos, podem melhorar a experiência dos clientes e que, caso as adote, será preciso considerar a segurança e a experiência do cliente.

Nos termos de uso, a United informa que proíbe monitorar ou copiar seu site com robôs ou outros dispositivos automatizados, ou por meio de procedimentos manuais, sem autorização prévia por escrito, bem como utilizar o site para outros fins não autorizados. A Yelp afirmou que não permite tráfego não humano em sua plataforma, a menos que o conteúdo e os dados sejam usados mediante pagamento pelo programa de licenciamento de dados. Assim, agentes sem autorização formal ou parceria podem não conseguir obter informações da Yelp nem realizar tarefas como reservas.

A eBay afirmou que não proíbe todas as compras feitas por agentes de compras de terceiros. No entanto, disse que restringe práticas como a coleta automatizada não autorizada de dados (scraping) e o treinamento de modelos. Portanto, é importante distinguir entre “permitir compras feitas por agentes” e “as formas como os agentes usam o site”.

Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE e Decagon começaram a estabelecer um padrão aberto para diferenciar agentes que atuam em nome dos usuários de bots maliciosos e definir como empresas e agentes devem se comunicar. A reportagem, porém, não esclarece como esse padrão funcionará nem quando será adotado. Em 15 de setembro, a Cloudflare alterou as configurações padrão para rastreadores, permitindo que os operadores de sites impeçam o treinamento de IA e, ao mesmo tempo, autorizem outros tipos de bots. A empresa não compartilhou dados específicos sobre o bloqueio de agentes pessoais, como o Muse, e indicou o Cloudflare Radar, seu hub público de dados.

Fatos confirmados e o que ainda não se sabe

Fatos confirmados

  • A Amazon começou a impedir que o Muse pesquise ou compre produtos em seu site de varejo.
  • O Walmart afirmou que a falha do Muse ao tentar comprar não foi causada por um bloqueio intencional e disse que é parceira do Muse.
  • Se o procedimento do site do Walmart para confirmar que o visitante é uma pessoa for interrompido, a verificação pode falhar e o agente pode ser retirado do site.
  • Delta, United, Yelp e eBay têm políticas e condições diferentes para agentes de terceiros ou para o uso automatizado de seus sites.
  • Várias empresas começaram a estabelecer um padrão aberto para definir como agentes e empresas devem se comunicar.

O que ainda não se sabe

  • Como o padrão aberto funcionará na prática e quando será adotado.
  • Quais são as causas específicas para o Muse ou outros agentes serem bloqueados em cada site.
  • Como os usuários podem verificar se uma falha de acesso decorre de um bloqueio intencional ou de um erro técnico.

O que os leitores devem verificar

  • Se um agente não conseguir concluir uma tarefa em determinado site, vale verificar primeiro se a empresa tem parceria ou integração com agentes de terceiros. Mesmo no caso de uma empresa parceira, como o Walmart, uma verificação de segurança pode impedir a conclusão da tarefa.
  • Antes de confiar a um agente uma reserva de voo ou uma compra em uma plataforma, é mais seguro consultar os termos de uso do site e as condições para o uso de sistemas automatizados. A United especifica em seus termos que certos usos automatizados exigem autorização prévia por escrito.
  • Não se deve concluir, apenas com base em uma falha de acesso, que houve um bloqueio intencional. É preciso verificar se o procedimento do site para confirmar que o usuário é uma pessoa foi interrompido ou se o agente oferece integração oficial com o serviço. A reportagem disponível não explica como os usuários podem distinguir de forma conclusiva um bloqueio de um erro técnico.