Pannes graves dans les réponses de Google AI Overview

Google a récemment lancé sa nouvelle fonction AI Overviews aux États-Unis, et la mise en œuvre a été tout sauf fluide. Cet outil vise à compléter certaines recherches sur Google avec une réponse générée par l’intelligence artificielle, épargnant aux utilisateurs le besoin de cliquer sur plus de liens. Cependant, de nombreux résultats produits vont du bizarre et amusant à l’inexact et dangereusement erroné. À tel point que Google devrait sérieusement envisager de désactiver cette fonction. Des milliers d’utilisateurs cherchent déjà comment désactiver ces aperçus de SGE de Google dans les résultats de recherche.

Le modèle de Google résume le contenu des principaux résultats générés par la recherche, mais nous savons que les résultats ne sont pas toujours classés par précision. Les sites les plus populaires et ceux ayant une meilleure optimisation pour les moteurs de recherche (SEO) apparaissent généralement en premier, indépendamment de la qualité des informations qu’ils fournissent. Bien qu’il incombe à chaque site de fournir des informations précises à ses lecteurs, lorsque l’AI Overview répète un contenu susceptible de mettre en danger la santé ou le bien-être de quelqu’un, la responsabilité incombe à Google.

Que se passe-t-il si je vous dis que Google AI Overview a recommandé de manger des pierres? Oui, selon un exemple partagé sur X, l’outil a suggéré que « selon les géologues de UC Berkeley, les gens devraient manger au moins une petite pierre par jour ». Le problème est que cette recommandation provient d’un article satirique de The Onion, connu pour publier du contenu fictif pour faire rire. Mais Google n’a pas fait cette distinction, ce qui pourrait entraîner des conséquences dangereuses si quelqu’un prenait cette recommandation au sérieux.

Exemples alarmants de pannes dans Google AI Overview

Les erreurs de Google AI Overview ne se limitent pas à de simples erreurs. Plusieurs cas ont émergé où l’outil a fourni des conseils dangereux. Un exemple viral sur X montrait une réponse à la question « Pourquoi le fromage ne colle-t-il pas à la pizza? » dans laquelle il était recommandé d’ajouter « 1/8 de tasse de colle non toxique à la sauce ». Cette recommandation absurde semble provenir d’un commentaire sur Reddit datant de 11 ans, fait par un utilisateur quelconque.

Un autre exemple préoccupant est une capture d’écran partagée sur X, où AI Overview suggérait que les gens « devraient boire au moins 2 litres d’urine toutes les 24 heures ». Bien qu’il puisse sembler évident pour beaucoup que cette information est erronée, tout le monde n’a pas le même niveau de discernement, ce qui pourrait entraîner des pratiques dangereuses.

Les conseils médicaux ne sont pas les seuls problèmes. Dans un cas particulièrement dangereux, AI Overview a répondu à la recherche « Je me sens déprimé » avec une recommandation incluant le suicide, bien qu’il ait mentionné que c’était une suggestion d’un utilisateur de Reddit. Ce type de réponse est inacceptable et démontre le manque de filtrage et d’analyse critique de la part de l’outil.

La fonction a également échoué sur des sujets liés aux animaux de compagnie. Dans un cas, AI Overview a proposé de laisser un chien dans une voiture chaude était sans danger, en se basant sur les informations d’une chanson des Beatles. Ce conseil est extrêmement dangereux et démontre une compréhension inadéquate des sources et de leur contexte.

Quelles mesures Google devrait-il prendre?

Compte tenu de l’ampleur de ces pannes, il est crucial que Google prenne des mesures immédiates. Une option serait de désactiver temporairement la fonction AI Overview jusqu’à ce qu’il soit possible de garantir que les résultats sont précis et sûrs. Google devrait envisager de ne pas afficher de réponses AI Overview pour des requêtes liées à des sujets médicaux ou financiers, où une erreur pourrait avoir des conséquences graves.

Il est essentiel que Google mette en œuvre un système plus rigoureux pour vérifier la précision des réponses générées par son intelligence artificielle. Cela pourrait inclure l’intégration d’experts humains dans le processus de révision du contenu, en particulier pour les sujets sensibles.

De plus, Google doit améliorer son algorithme afin qu’il puisse discerner entre les sources fiables et le contenu satirique ou incorrect. Cela pourrait impliquer le développement d’une meilleure compréhension du contexte et une capacité d’analyse plus approfondie pour filtrer les informations dangereuses ou incorrectes.

En outre, Google devrait être plus transparent sur les limites et les capacités de son AI Overview. Informer les utilisateurs sur le but et les limitations de cet outil peut aider à atténuer le risque que les gens prennent des décisions basées sur des informations incorrectes.