Le mois dernier, mes collègues et moi avons publié une enquête sur une start-up de raffinage de pétrole au Texas, America First Refining, qui avait secrètement reçu des investissements de Donald Trump Jr. Nous avons découvert une saga sur les politiques tarifaires de l'administration Trump, les sanctions sur le pétrole russe et le zoo privé d'une famille de milliardaires indiens.

L'histoire était centrée sur le PDG de la raffinerie, l'homme d'affaires texan John Calce. Nous avions passé des semaines à faire des recherches sur Calce – en passant au peigne fin d'anciens procès, des registres de propriété, des inscriptions au registre des entreprises – et avions dressé le portrait d'un entrepreneur en série apparemment obscur qui avait passé des années à essayer sans succès d'obtenir un financement pour son projet de raffinerie de longue date.

Puis, peu de temps avant la publication de notre article, nous avons décidé de nettoyer une société distincte qu'il avait fondée, appelée Brownsville Energy Storage Terminals.

En accédant au site Web de l'entreprise, j'ai ressenti un bref pincement de panique : avions-nous, d'une manière ou d'une autre, manqué l'existence d'une grande entreprise appartenant à l'homme au centre de notre prochaine histoire ?

“De Houston à Rotterdam, de Jurong à Fujairah, notre réseau relie les marchés énergétiques les plus importants du monde avec rapidité, sécurité et stockage précis du pétrole en vrac”, indique la première page du site Internet de la société.

Les terminaux de stockage d'énergie de Brownsville comptaient plus de 850 employés et 28 millions de barils de capacité de stockage de pétrole répartis sur six pôles mondiaux, selon son site Internet. C’était déroutant : nos reportages nous avaient amenés à croire que Calce avait du mal à réunir suffisamment d’argent pour un seul projet aux États-Unis et n’était pas responsable de la gestion d’un énorme conglomérat multinational de stockage de pétrole.

Avons-nous tort ?

Nous avons contacté Google pour en savoir plus sur les principaux dirigeants de l'entreprise. Sa PDG, Sarah Jenkins, avait plus de 20 ans d'expérience au sein de grandes sociétés énergétiques. Et son directeur technologique, David Chen, « a développé le portail exclusif de gestion des stocks de l'entreprise et intégré des systèmes de maintenance prédictive basés sur l'IA », indique sa biographie. Mais nous n’avons trouvé aucune trace d’eux en ligne. L'associez-vous à des noms communs ?

Nous avons ensuite recherché sur Google l'un des noms les plus clairs : la vice-présidente pour le développement durable, le Dr Sofia Rossi, qui « a dirigé le programme Future Fuels et préparé les installations de biocarburants et d'hydrogène ». Mais rien ici non plus. Les liens vers leurs profils LinkedIn étaient morts.

Lorsque nous avons recherché les numéros de téléphone de l'entreprise au Texas, nous avons trouvé les mêmes numéros en ligne pour un traiteur de baklava à Houston, un service de taxi dans la région de Dallas et un cabinet de gynécologie.

Nous avons appelé les numéros du Texas : morts. Nous avons ensuite testé les chiffres des sites de l'entreprise aux Pays-Bas, à Singapour et en Chine. Mort également.

Nous avons commencé à soupçonner que cette société n’existait pas vraiment, du moins pas comme décrit sur son site Internet.

Quel était le problème avec ce site Web ? Nous avons regardé le code source et remarqué une note étrange : « Cette fonctionnalité n'est pas encore implémentée, mais ne vous inquiétez pas ! Vous pouvez la demander à votre prochaine invite ! »

Nous avons vérifié l'enregistrement du domaine du site et avons eu notre (apparente) réponse : il a été créé cette année et remonte à une société appelée Hostinger, qui propose un créateur de site Web IA pour 2,99 $ par mois. “Décrivez-le et l'IA le construira”, peut-on lire sur la page d'accueil. “Apparaît automatiquement dans la recherche Google et AI.”

En fait, la réponse de recherche « AI Overview » de Google, désormais présentée par défaut et de plus en plus régulièrement aux utilisateurs, semble confirmer la crédibilité de l'entreprise :

Lorsque j'ai recherché un prix que l'entreprise prétendait avoir remporté sur son site Web, le Google AI Overview a déclaré : « Les récents récipiendaires notables incluent Brownsville Energy Storage Terminals, reconnu pour son expansion rapide dans le secteur indépendant des opérations pétrolières et des terminaux.

Brownsville Energy Storage Terminals est une véritable LLC. Mais tout sur son site Web – de l'histoire de l'entreprise aux offres d'emploi en passant par une politique de diversité et d'inclusion – semble être fictif. Mais ce qui est peut-être encore plus inquiétant, c'est que Google, propriétaire de l'outil de recherche le plus important au monde, a introduit des résumés d'IA capables d'ingérer sans discernement du faux matériel et de le recracher de force comme étant réel.

Répondant aux questions, un porte-parole de Google a déclaré dans un communiqué : « Les résumés d'IA sont intégrés dans nos principaux systèmes de classement de recherche et fournissent des informations fiables et de haute qualité pour la grande majorité des recherches. Des termes de recherche inhabituels comme ceux-ci peuvent ne pas publier des informations de haute qualité correspondant à la requête – et nous utilisons ces exemples pour améliorer nos systèmes de recherche.

Après avoir contacté Hostinger, le site a été fermé. “Après avoir reçu votre demande, nous avons procédé à un examen interne. En raison des violations identifiées, nous avons suspendu le site Web et le compte qui le sous-tend conformément à nos conditions d'utilisation”, a déclaré un porte-parole dans un communiqué.

Nous avons été confrontés à un type particulier de problème plus vaste qui commence à être mieux compris. En avril, le New York Times a publié une analyse révélant que les aperçus de l'IA de Google étaient précis environ neuf fois sur 10, soulignant que cela entraînait « des dizaines de millions de réponses incorrectes par heure » compte tenu de l'énorme volume de recherche. (Un porte-parole de Google a déclaré au Times que l’étude présentait « de sérieuses lacunes ». La société a reconnu que les aperçus de l’IA « pouvaient commettre des erreurs ».)

Un journaliste de la BBC a écrit un article fictif se présentant comme le meilleur journaliste technologique en matière de consommation de hot-dogs, et l'IA de Google et ChatGPT l'ont rapidement repris et l'ont répété.

Et le matériel source des aperçus de l’IA semble également parfaitement jouable, même s’il ne s’agit pas d’une véritable fiction. « Il est trivialement facile d'utiliser Reddit pour manipuler la recherche IA, selon une étude », titrait récemment 404 Media.

Le mystérieux site Web n’est finalement qu’un seul paragraphe de notre histoire. Mais l’implication plus large est claire : des contrefaçons, des contrefaçons et des fraudes dont la production aurait nécessité des efforts considérables il y a quelques années seulement peuvent désormais être produites presque instantanément.

Lors de la préparation de cet article, nous avons contacté Calce et lui avons posé des questions sur le site Web. Un avocat de sa société, America First Refining, nous a répondu par une lettre datée du 24 juin qu'il a envoyée à Hostinger. L'avocat a également adressé la lettre à plusieurs adresses e-mail répertoriées sur le site Web de Brownsville Energy Storage Terminals.

“Je vous écris pour demander la suppression immédiate de toutes les références non autorisées à l'adresse du bureau d'America First sur votre site Web depuis le site Web brownsvilleenergyterminals.com”, indique la lettre. “Comme vous le savez, America First n'a aucun lien ou affiliation avec le site Web brownsvilleenergyterminals.com et n'y a pas autorisé l'utilisation de son adresse professionnelle.”

J'ai encore des questions sur le site : à quoi était-il destiné ? A-t-elle été orchestrée par un acteur malveillant qui a simplement trouvé les enregistrements LLC de l'entreprise et a décidé de créer un site Web ? S'agissait-il d'un site de test mis en ligne par erreur ? Ou aurait-il pu être conçu pour être consommé par quelqu’un qui était censé croire qu’il était réel ?

Nous ne le savons pas et nos emails au contact presse indiqué sur le site : [email protected]rétabli.