Un problème dans les aperçus de l’IA de Google peut exposer par inadvertance comment l’algorithme de Google comprend les requêtes de recherche et choisit les réponses. Les bogues dans la recherche Google sont utiles à examiner car ils peuvent exposer des parties des algorithmes de Google qui sont normalement invisibles.
Ai-splainage?
Lily Ray a republié un tweet qui a montré comment la saisie de phrases absurdes dans Google entraîne une mauvaise réponse où les aperçus de l’IA constituent essentiellement une réponse. Elle l’a appelé.
Crache mon café.
J’appelle cela « Ai-Splining » pic.twitter.com/k9tliwocqc
– Lily Ray 😏 (@lilyraynyc) 20 avril 2025
L’utilisateur Dark Autocrat (Lyndon NA) a répondu:
«Cela montre comment G s’est rompu à partir de« recherche ».
Ce n’est pas «trouver pertinent» ou «trouver similaire», c’est littéralement inventé, ce qui signifie que g n’est pas
a) un moteur de recherche
b) un moteur de réponse
c) un moteur de recommandation qu’ils sont maintenant
d) une blague potentiellement nocive »
Google a un long historique des bogues de recherche, mais cela est différent car il existe un LLM résumant des réponses basées sur les données de mise à la terre (Web, graphique de connaissances, etc.) et le LLM lui-même. Ainsi, le spécialiste du marketing de recherche connu sous le nom de Dark Autocrat a un point que ce bogue de recherche Google est à un niveau entièrement différent de tout ce qui a été vu auparavant.
Pourtant, il y a une chose qui reste la même et c’est que les bogues de recherche représentent l’occasion de voir quelque chose qui se passe derrière la zone de recherche qui n’est normalement pas visible.
Le bogue AI n’est pas limité à Google AIO
Ce que je pense se produit, c’est que les systèmes de Google analysent les mots pour comprendre ce que signifie l’utilisateur. Donc, dans le cas où une requête utilisateur est vague, je pense que le LLM décidera de ce que l’utilisateur demande en fonction de plusieurs significations probables, comme un arbre de décision dans l’apprentissage automatique où une machine tracera des significations probables, supprimez les branches qui sont les moins probables et prédisent le sens probable.
Je lisais un brevet que Google a récemment déposé sur un thème connexe, où une IA essaie de deviner ce qu’un utilisateur signifie en guidant un utilisateur via un arbre de décision, puis en stockant ces informations pour les interactions futures avec eux ou avec d’autres. Cette génération de micro-profil brevet en temps réel à l’aide d’une structure d’arbre dynamique est pour les assistants vocaux de l’IA, mais il donne une idée de la façon dont une IA essaiera de deviner ce qu’un utilisateur signifie et ensuite procéder.
J’ai donc testé Google, Chatgpt et Claude et j’ai découvert que tous les trois faisaient des erreurs similaires pour déduire ce que signifie la requête d’un utilisateur et fournir en toute confiance une mauvaise réponse.
L’exemple de question était:
Quelle est la technique de pêche au chiot parallèle pour le bar rayé?
Il n’y a pas de «technique de pêche au chiot parallèle», mais il existe une technique appelée «Walking the Dog» et il y a une autre technique où un pêcheur dans un kayak ou un bateau va lancer parallèlement au rivage ou à une autre structure.
Présentation de l’IA (AIO)
AIO a offert avec confiance une réponse hallucinée qui est incorrecte car elle supposait que l’utilisateur confondait plusieurs tactiques de pêche réelles, il a donc mélangé plusieurs tactiques et leurres de pêche pour inventer une tactique inexistante.
Les aperçus de l’IA ont donné la mauvaise réponse suivante:
«La technique« chiot parallèle »pour le bar rayé implique une méthode de récupération spécifique pour les bouchons de haut-parleurs, souvent appelée« marchant le chien ». Il est caractérisé par un mouvement zig-zag conféré à l’attrait en balayant le côté de la tige à côté, souvent tout en le maintenant parallèle à l’eau. Cette action imite un appât Woundted, qui peut être très attrayant à la brasse. Cette action.
Capture d’écran de la réponse hallucinée d’Aio
Chatgpt 4o
Chatgpt a fait la même erreur que l’AIO de Google a fait et a halluciné une tactique de pêche complexe.
Chatgpt a donné la mauvaise réponse suivante:
«La technique de pêche au chiot parallèle pour le bar rayé est une méthode spécialisée de coulée et de récupération souvent utilisée lorsque vous ciblez le bar rayé dans des eaux peu profondes près de la structure du rivage comme des jetées, des berges de gazon ou des points rocheux.
Voici une ventilation de ce qu’elle implique généralement:
Ce que c’est:
«Parallèle» fait référence à la mise en place de votre leurre ou de votre appât parallèle au rivage, plutôt que dans des eaux plus profondes.«Puppy» est souvent un surnom pour les petits plastiques doux, les nageurs de bain ou les bouchons à petit profil, généralement dans la gamme de 3 ″ à 5 ″ – l’autorisation d’appâts juvéniles ».
Cette dernière phrase est intéressante car elle est complètement fausse, il n’y a pas de style de leurres qui sont surnommés «chiot» mais il y a une technique appelée Walking the Dog. »
Capture d’écran de la réponse incorrecte de Chatgpt
Claude anthropique
Anthropic Claude, en utilisant le dernier modèle Sonnet 3.7, a fourni une réponse correcte. Il a correctement dit qu’il ne reconnaissait pas une «technique de pêche légitime» avec le nom fourni, puis a continué à présomption que l’utilisateur veut apprendre des tactiques de pêche à l’obscurité rayées et fournit une liste de techniques à partir desquelles un utilisateur peut sélectionner un sujet comme question de suivi.
Capture d’écran de la bonne réponse de Claude anthropique
Google Gemini Pro 2.5
Enfin, j’ai interrogé Google Gemini, en utilisant le dernier modèle Pro 2.5 Pro 2.5. Gemini a également offert une réponse correcte plus une sortie d’arbre de décision qui permet à un utilisateur de décider:
A. qu’ils sont des tactiques de pêche mal comprises
B. se référant à une tactique hautement localisée
C. combine plusieurs tactiques de pêche
D. ou confond une tactique pour une autre espèce de poisson.
Capture d’écran de la réponse correcte des Gémeaux Pro 2.5
Ce qui est intéressant dans cet arbre de décision, qui ressemble à l’approche de l’arbre de décision dans le brevet Google non apparenté, c’est que ces possibilités reflètent en quelque sorte ce que Google’s Ai Overviews LLM et Chatgpt ont peut-être envisagé lors de l’essayage de répondre à la question. Ils ont tous deux choisi parmi un arbre de décision et l’option C choisie, que l’utilisateur combine des tactiques de pêche et basé ses réponses à ce sujet.
Claude et Gemini étaient suffisamment confiants pour sélectionner l’option E, que l’utilisateur ne sait pas de quoi il parle et a eu recours à un arbre de décision pour guider l’utilisateur dans la sélection de la bonne réponse.
Qu’est-ce que cela signifie sur les aperçus de l’IA (AIO)?
Google a récemment annoncé qu’il déploie Gemini 2.0 pour les mathématiques avancées, le codage et les requêtes multimodales, mais les hallucinations de l’AIO suggèrent que le modèle que Google utilise pour répondre aux requêtes texte peut être inférieure à Gemini 2.5.
C’est probablement ce qui se passe avec les requêtes en charabia et comme je l’ai dit, cela offre un aperçu intéressant de savoir comment Google Aio fonctionne réellement.
Image en vedette par Shutterstock / Sladkaya
