La recherche basée sur l'IA de Google est sous le feu des critiques alors que les résultats indiquent aux utilisateurs des logiciels malveillants et des escroqueries
L'intelligence artificielle n'est pas parfaite. Il diffuse parfois des informations erronées, comme la fois où un chatbot Chevrolet AI a été amené à « vendre » un Tahoe pour 1 $, et des hallucinations ou des erreurs dans les données d’entraînement peuvent entraîner des résultats incohérents. Cependant, la progression de l’intégration de l’IA se poursuit, entraînant ce genre de problèmes auxquels Google est désormais confronté. Après avoir intégré l'IA à la recherche Google dans une fonctionnalité en cours de déploiement, les utilisateurs découvrent que les sites malveillants susceptibles de conduire à des extensions de navigateur, des pop-ups et des escroqueries indésirables sont recommandés.
Depuis le milieu de l’année dernière, Google travaille sur une fonctionnalité appelée Search Generative Experience (SGE), qui utilise l’IA pour donner aux utilisateurs un aperçu de leurs résultats de recherche. Cela inclut de donner une explication du contenu, d'associer des vidéos et des images et de pousser des liens qui pourraient être pertinents pour la requête. Cependant, si un acteur malveillant manipulait le système, il pourrait être en mesure d'obtenir son lien malveillant dans les résultats simplement en intégrant quelques mots-clés et en effectuant une optimisation pour les moteurs de recherche (SEO). C'est exactement ce que Lily Ray, experte en référencement, a découvert en bricolant la fonctionnalité SGE.
Sur X, Ray a publié une photo d'une recherche qu'il a effectuée à la recherche de chiots pitbull, qui a abouti à la détection de plusieurs sites de spam par l'IA SGE. D'autres utilisateurs ayant effectué des recherches similaires ont trouvé des résultats étonnamment similaires avec quelques résultats différents. BleepingComputer a effectué quelques tests et a découvert que de nombreux sites de spam tentent d'inciter les utilisateurs à activer les notifications qui les spamment, mais dans d'autres cas, il peut y avoir des sites de phishing, des extensions de navigateur indésirables, etc. C’est assez préoccupant, car le profane pourrait supposer que les liens saisis par l’IA sont sûrs, mais cela ne pourrait pas être plus éloigné de la vérité.
Bien sûr, si vous êtes victime de l'arnaque, vous pouvez accéder aux paramètres de Chrome et, sous Notifications, désactiver l'autorisation pour des sites spécifiques d'envoyer des notifications. Cependant, Google doit intensifier globalement son jeu de spam et éliminer ce genre de problèmes, car cela ne fera qu'engendrer davantage de maux de tête et de problèmes à long terme.
HOTHARDWARE
