Les travailleurs de première ligne face aux tensions causées par les hallucinations de l’IA

Dans plusieurs secteurs de services, les employés de première ligne rencontrent des frictions croissantes avec des clients qui privilégient les modèles d'intelligence artificielle par rapport à l'expertise humaine. Les travailleurs rapportent que les usagers contestent fréquemment leurs conseils professionnels, s'appuyant sur des recommandations erronées, des produits fictifs ou des instructions invalides générées par des outils comme ChatGPT ou Claude.

Remise en cause des conseils professionnels dans la restauration

Dans le secteur de la restauration, serveurs et responsables constatent que les clients utilisent de plus en plus d'IA conversationnelles pour parcourir les menus et choisir leur vin. Dans plusieurs situations, des clients ont décliné les recommandations des sommeliers ou insisté pour commander des bouteilles inexistantes sur la foi des réponses de l'IA. Plus grave encore, des personnes ayant des restrictions alimentaires ont contesté les avertissements des serveurs concernant des risques d'allergie — comme la présence de fruits de mer dans des bouillons — parce qu'un agent conversationnel affirmait que le plat était sans danger.

Les établissements de restauration font également face à une augmentation des interactions avec des agents IA autonomes effectuant des démarches administratives. Les équipes de gestion signalent recevoir des appels et des courriels de réservation automatisés, ainsi que des demandes d'organisation d'événements non coordonnées générées par des assistants numériques externes.

Impacts sur les services publics et la petite enfance

Le phénomène s'étend au-delà de la restauration, touchant la gestion des espaces naturels et l'éducation. Dans l'Ouest américain, des gardes-rivières fédéraux rapportent l'arrivée de visiteurs équipés d'itinéraires générés par IA comportant des parcours géographiquement impossibles ou des zones de campement fictives. Bien que les gardes expliquent la réalité du terrain cartes officielles à l'appui, certains visiteurs demeurent sceptiques face au personnel humain, préférant se fier aux prédictions du chatbot.

De même, des éducateurs et professionnels de la petite enfance remarquent que des parents consultent des modèles linguistiques pour régler le sommeil et le développement de leur enfant. Dans certains cas, des responsables légaux ont rejeté les évaluations des professionnels concernant la santé et la routine de l'enfant, soutenant que le planning configuré par leur IA était exact.

Défis opérationnels pour le personnel de service

Ces situations génèrent des complications opérationnelles pour le personnel, qui doit gérer une exigence client renforcée par des logiciels imprécis. Plutôt que de confronter directement les clients aux erreurs commises par les modèles d'IA, les employés doivent redoubler d'efforts pour reformuler leurs explications avec diplomatie, face à une préférence croissante des utilisateurs pour les plateformes automatisées au détriment du personnel en direct.

Illustration éditoriale générée par IA ; ce n’est pas une photographie documentaire.

Source: AI hallucinations are making entitled customers even worse