12 décembre 2023

Amazon : des guides de voyage écrits par l’intelligence artificielle

L’écriture de guides de voyage par l’IA (intelligence artificielle) est-elle en train de se démocratiser ? Des dizaines d’ouvrages touristiques vendus sur le site d’Amazon auraient été composés à partir d’outils d’intelligence artificielle comme ChatGPT. En août 2023, le New York Times a révélé l’arnaque. La multinationale américaine commercialiserait des guides de voyage générés à 100 % par l’IA. Ces livres auraient été « rédigés » par des auteurs créés de toutes pièces et seraient mis en avant sur la plateforme grâce à de faux avis positifs.

L’arnaque des faux guides de voyage vendus sur Amazon

Le 5 août 2023, le New York Times publie un article détonant signalant une escroquerie de taille. Amazon vendrait des guides de voyage écrits par l’IA. Avec leurs avis positifs et leurs prix défiant toute concurrence, ces faux livres ont fait de nombreuses victimes.

Des ouvrages touristiques peu chers et auréolés d’avis positifs sur Amazon

Dans une interview donnée au média américain, Amy Kolsky raconte comment elle s’est fait piéger en achetant un faux guide de voyage en ligne. Pour préparer sa visite de la France, cette Américaine de 53 ans décide de se procurer un ouvrage sur cette destination.

En mars 2023, Amy fait une recherche sur le site d’Amazon. Elle tombe rapidement sur le Paris Travel Guide 2023 de Mike Steves, auréolé de plus d’une centaine de notes positives. Elle se laisse donc tenter d’autant que le prix est aussi très intéressant : 16,99 dollars (15,50 euros) seulement !

Une fois de livre reçu, cette voyageuse découvre des textes répétitifs contenant des informations très vagues. « C’est comme si l’auteur était allé sur Internet et s’était contenté de faire un copié-collé de Wikipédia », explique-t-elle. Déçue, Amy renvoie le guide. Elle en profite pour laisser un avis négatif décrivant cette mauvaise expérience.

Mike Steves : écrivain de voyage renommé ou faux auteur ?

Le New York Times a donc décidé de mener l’enquête pour en savoir plus. Ce guide sur la France aurait-il été généré par une intelligence artificielle ? Pour le prouver, le journal américain passe 35 paragraphes dans un outil détecteur d’IA. Le résultat est sans appel. Ces textes sont à 100 % issus d’une intelligence artificielle.

Leur auteur présumé, Mike Steves, semble aussi tout à fait artificiel. Sur Amazon, il est présenté comme un écrivain de voyage renommé. Il détiendrait même un doctorat en gestion du tourisme et des voyages de l’université du Nevada, aux États-Unis.

Cette biographie est de toute évidence fictive. Le nom même de cet « écrivain » renvoie à Rick Steves, un célèbre auteur américain de guides touristiques. La photographie de notre faux auteur contient en outre des anomalies caractéristiques des images générées par IA.

Des guides de voyage 100 % IA truffés d’informations erronées

Ces guides de voyage 100 % IA sont une compilation d’informations circulant sur Internet. L’ouvrage produit contient un texte relativement pauvre. Les itinéraires à suivre bénéficient d’une présentation sommaire. Les descriptions des lieux à visiter restent peu précises. Les photos ne sont pas authentiques puisque générées par l’intelligence artificielle.

Le voyageur victime de cette arnaque perd donc de l’argent et du temps. Ces faux guides de voyage peuvent également se révéler dangereux. Le New York Times a découvert l’existence d’ouvrages touristiques sur l’Ukraine et la Russie dépourvus de références à l’actuelle guerre. Un guide généré par l’IA incite le voyageur à « se préparer pour une aventure inoubliable » dans la ville de Lviv en Ukraine. Il s’agirait d' »une des destinations les plus captivantes d’Europe de l’Est ».

Une utilisation abusive de l’intelligence artificielle pour écrire du contenu touristique

Cette histoire illustre le phénomène d’intrusion de l’intelligence artificielle dans le monde du tourisme. Les faux livres de voyage rédigés par Mike Steves ne constituent pas un cas isolé. Des dizaines d’ouvrages touristiques très bien notés sur Amazon ont été composés par une IA.

La création de ces livres résulte d’une utilisation abusive de l’intelligence artificielle. Les individus à l’origine de ces escroqueries recourent à un savant mélange d’outils modernes. Ils se servent de l’IA pour l’écriture du texte et la génération de photos. Ils profitent également des plateformes d’autoédition comme Kindle Direct Publishing d’Amazon. Enfin, ils achètent et publient de faux avis en ligne.

Amazon assure que les guides de voyage incriminés ont été retirés de la vente

Contactée par Le Monde, Amazon affirme que les guides de voyages incriminés par la presse ont été retirés de la vente. La multinationale ne souhaite toutefois pas divulguer le nombre d’ouvrages concernés. Elle n’a pas non plus voulu communiquer sur les réclamations faites par sa clientèle.

Amazon reconnaît qu’elle n’interdit pas la diffusion de ce type d’ouvrage. L’entreprise redoublerait toutefois de vigilance concernant les auteurs auto-publiés depuis le 7 septembre 2023. Ils seraient dans l’obligation d’indiquer si leur contenu a été généré par une IA. En novembre 2023, plusieurs guides de voyages de Mike Steves sont encore disponibles à la vente…

Un phénomène qui ne se limite pas aux livres de voyage et de tourisme

L’escroquerie révélée par le New York Times ne touche pas uniquement les guides de voyage. De nombreux autres livres seraient concernés (cuisine, jardinage, mathématiques, médecine, etc.). Notés cinq étoiles, ces ouvrages s’afficheraient en haut des propositions sur Amazon.

En août 2023, l’écrivaine américaine Jane Friedman a fait les frais des dérives de l’intelligence artificielle. Elle a découvert que des livres signés de son nom étaient vendus sur Amazon. Selon elle, ces ouvrages auraient été rédigés grâce à une IA.

Comment repérer les faux guides de voyage générés par une intelligence artificielle ?

Vous souhaitez savoir comment reconnaître un faux guide de voyage en ligne ? Vérifiez tout d’abord le profil de l’auteur du livre. La présentation des auteurs fantômes est souvent vague. Leurs photos sont peu naturelles et possèdent des déformations dues à l’utilisation de l’IA.

Si vous pouvez consulter l’ouvrage en ligne, lisez ensuite une page au hasard. Le style se montre parfois lourd et répétitif. Le contenu demeure très sommaire. Regardez enfin les notes et méfiez-vous des livres ayant reçu un grand nombre d’avis positifs en peu de temps. Pour ne pas vous tromper, choisissez plutôt un guide de voyage de référence édité par Le Routard, Le Petit Futé ou Lonely Planet.

L’intelligence artificielle est une technologie puissante qui peut être détournée à des fins malveillantes. L’affaire des faux guides de voyages sur Amazon n’est pas un cas isolé. Il convient donc d’être vigilant et de l’utiliser à bon escient.