Achats et réservations par des agents IA : les règles des sites web en jeu

Pour qu’un agent IA (une intelligence artificielle qui effectue des tâches en ligne pour le compte d’un utilisateur) puisse rechercher et réserver un vol, réserver un restaurant ou commander des produits alimentaires, le site concerné doit autoriser son accès. Selon l’article, Amazon a récemment commencé à empêcher Muse, de Meta, de rechercher des produits ou d’effectuer des achats sur son site marchand. Mais on ne peut pas conclure que tous les échecs d’achat observés sur d’autres sites résultent d’un blocage intentionnel.

Contexte

Les agents IA personnels peuvent aller au-delà des réponses aux questions : ils sont capables d’effectuer des transactions ou des réservations au nom des utilisateurs. Mais si un site leur refuse l’accès ou s’ils ne passent pas un contrôle de sécurité, la tâche demandée ne sera pas accomplie. Pour l’utilisateur, il peut être difficile de savoir si l’échec est dû à l’agent ou au blocage du site.

Le cas de Walmart illustre cette différence. Sur les réseaux sociaux, des utilisateurs se sont plaints que Muse n’avait pas réussi à finaliser un achat chez Walmart, et NBC a rapporté qu’un essai d’agent mené par Walmart avait rencontré un problème similaire. Un porte-parole de Walmart a déclaré que ces échecs d’achat ne résultaient pas d’un blocage intentionnel. Il a également précisé que Walmart était partenaire de Muse, présenté lors de l’événement développeurs Connect de Meta en septembre.

Selon l’article, le site de Walmart demande aux visiteurs de cliquer sur un bouton afin de vérifier qu’ils sont humains. Si ce contrôle est interrompu, la vérification peut échouer et l’agent peut être renvoyé du site. Le simple fait qu’un accès ou un achat ait été empêché ne suffit donc pas à conclure que l’entreprise a bloqué l’agent en question. En revanche, il a été rapporté qu’Amazon avait commencé à empêcher Muse de rechercher des produits et d’effectuer des achats.

Ce que cela signifie

L’utilisation concrète des agents ne dépend pas uniquement des capacités de l’intelligence artificielle. Les contrôles de sécurité des sites web, les politiques relatives aux accès automatisés et l’existence d’une intégration entre l’entreprise et l’agent peuvent tous influer sur la réussite d’une transaction. Autrement dit, même si un agent peut agir pour le compte d’un utilisateur, il ne peut pas passer outre les conditions d’accès fixées par une entreprise en ligne.

Cette question concerne aussi bien les utilisateurs que les entreprises. Si un site n’autorise pas l’accès des agents ou si son contrôle de sécurité ne fonctionne pas, l’utilisateur risque de ne pas pouvoir finaliser l’achat ou la réservation souhaités. Les entreprises, de leur côté, doivent décider si elles acceptent les utilisateurs qui passent par des agents et comment elles assureront leur sécurité. Meta a déclaré, en substance, que bloquer les agents revenait à bloquer les clients qui les utilisent, et qu’elle souhaitait répondre aux préoccupations des entreprises et établir des règles claires. Cette question est importante, car elle engage à la fois l’acquisition de clients et la gestion de la sécurité des entreprises.

Par exemple, même si un utilisateur demande à un agent de trouver et de réserver un vol, la réservation peut échouer si la compagnie aérienne n’est pas intégrée à l’agent tiers ou si le contrôle de sécurité du site interrompt la procédure. L’échec peut alors être dû aux capacités de l’agent, à la politique d’accès du site ou à ses procédures de vérification. Les informations publiées à ce jour ne permettent pas de savoir comment un utilisateur peut déterminer avec certitude la cause d’un échec particulier.

Politiques et conditions d’accès

Les entreprises n’adoptent pas toutes la même approche à l’égard des agents. Delta a déclaré qu’elle n’avait actuellement aucun partenariat ni aucune intégration permettant à des agents IA tiers de rechercher des vols ou de réserver pour le compte de ses clients sur ses plateformes numériques. Elle a ajouté qu’elle évaluait si de nouvelles technologies, notamment les agents externes, pouvaient améliorer l’expérience de ses clients et que leur éventuelle adoption devrait tenir compte de la sécurité et de l’expérience client.

Dans ses conditions d’utilisation, United indique qu’il est interdit, sans autorisation écrite préalable, de surveiller ou de copier son site web au moyen de robots ou d’autres dispositifs automatisés, ou de procédures manuelles, ainsi que de l’utiliser à d’autres fins non autorisées. Yelp a déclaré ne pas autoriser le trafic non humain sur sa plateforme, sauf si l’accès au contenu et aux données est couvert par son programme de licence de données et que les frais correspondants ont été payés. Par conséquent, les agents dépourvus d’autorisation officielle ou de partenariat peuvent ne pas être en mesure d’obtenir des informations sur Yelp ou d’y effectuer des tâches telles que des réservations.

eBay a déclaré ne pas interdire les achats effectués par tous les agents d’achat tiers. L’entreprise a toutefois précisé qu’elle restreignait les pratiques telles que le scraping non autorisé (la collecte automatisée d’informations sur un site web) et l’entraînement de modèles. Il faut donc distinguer la question de savoir si les achats par des agents sont autorisés de celle de savoir comment ces agents utilisent le site.

Meta, Walmart, Stripe, Sierra, Genesys, Rocket, NiCE et Decagon ont commencé à élaborer une norme ouverte visant à distinguer les agents agissant pour le compte d’utilisateurs des robots malveillants, et à définir les modalités de communication entre les entreprises et les agents. L’article ne précise toutefois pas comment cette norme fonctionnera ni quand elle sera adoptée. Le 15 septembre, Cloudflare a modifié les paramètres par défaut de ses robots d’exploration afin que les exploitants de sites puissent bloquer l’entraînement de modèles d’IA tout en autorisant d’autres types de robots. L’entreprise n’a pas communiqué de données précises sur le blocage d’agents personnels comme Muse et a renvoyé vers Cloudflare Radar, son portail de données publiques.

Ce qui est établi et ce qui reste à savoir

Faits établis

• Amazon a commencé à empêcher Muse de rechercher des produits ou d’effectuer des achats sur son site marchand.
• Walmart a déclaré que les échecs d’achat de Muse ne résultaient pas d’un blocage intentionnel et a précisé être partenaire de Muse.
• Si le contrôle visant à vérifier qu’un visiteur du site de Walmart est humain est interrompu, la vérification peut échouer et l’agent peut être renvoyé du site.
• Delta, United, Yelp et eBay appliquent des politiques et des conditions différentes aux agents tiers ou à l’utilisation automatisée de leurs sites.
• Plusieurs entreprises ont commencé à élaborer une norme ouverte définissant les modalités de communication entre les agents et les entreprises.

Ce qui reste à savoir

• Comment la norme ouverte fonctionnera concrètement et quand elle sera adoptée.
• Quelles sont les causes précises du blocage de Muse ou d’autres agents sur chaque site web.
• Comment les utilisateurs peuvent vérifier si un échec d’accès résulte d’un blocage intentionnel ou d’un problème technique.

Ce que les lecteurs doivent vérifier

• Si un agent ne parvient pas à accomplir une tâche sur un site donné, il faut d’abord vérifier si l’entreprise a conclu un partenariat ou mis en place une intégration avec des agents tiers. Même chez un partenaire comme Walmart, une tâche peut échouer à cause d’un contrôle de sécurité.
• Avant de confier à un agent la réservation d’un vol ou un achat sur une plateforme, il est plus prudent de consulter les conditions d’utilisation du site et ses règles concernant l’automatisation. United précise dans ses conditions que certaines utilisations automatisées nécessitent une autorisation écrite préalable.
• Il ne faut pas déduire d’un simple échec d’accès que le blocage était intentionnel. Il convient de vérifier si le contrôle destiné à confirmer que l’utilisateur est humain a été interrompu ou si l’agent prend en charge l’intégration officielle du service concerné. Les informations publiées à ce jour ne précisent pas comment les utilisateurs peuvent distinguer avec certitude un blocage d’un problème technique.