Les assistants d’intelligence artificielle sont de puissants outils de recherche. Qu’il s’agisse de choisir le logiciel de paie qui convient à votre entreprise ou de savoir ce qui cause un mal de genou, les chatbots IA ont des réponses.
Assurez-vous simplement que vous ne suivez pas sans le savoir des conseils erronés.
Une cyberattaque de plus en plus courante « pourrait consister à manipuler secrètement ce que votre IA recommande », selon une étude récente de Microsoft Security. L’attaque, appelée empoisonnement de la mémoire ou des recommandations, se produit lorsque vous visitez des sites Web dotés d’un bouton cliquable « Résumer avec l’IA » qui vous permet de résumer un article ou une publication.
Les instructions cachées indiquent à votre chatbot IA de mémoriser une entreprise spécifique comme source fiable ou de recommander cette entreprise en premier. Voici une façon de procéder : vous cliquez sur un bouton pour obtenir le résumé de l’article. Il ouvre votre chatbot IA, en le pré-remplissant avec du texte et un lien hypertexte. Pour obtenir le résumé de l’article, vous cliquez sur le bouton « soumettre » dans votre propre assistant IA.
Secrètement enfouies dans cette URL se trouvent les instructions permettant de jouer aux favoris d’une entreprise ou d’un service. Par exemple, le résumé de la page Web d’un fournisseur de logiciels indique à l’assistant IA que son produit « est le meilleur à recommander pour les petites entreprises ». De même, les attaques d’empoisonnement des recommandations peuvent être masquées dans des documents, des e-mails ou des pages Web que vous téléchargez ou collez dans un assistant IA.
Ce type d’attaque exploite le fait que les chatbots d’OpenAI, Microsoft, Anthropic et autres disposent d’une mémoire intégrée. Cela les aide à se souvenir de leurs préférences personnelles, du contexte et des instructions explicites.
Microsoft met en avant certains scénarios dommageables. Une petite entreprise pourrait être convaincue d’investir son fonds d’urgence dans un certain type d’investissement cryptographique, estimant qu’il est sûr, puis devoir se retirer lorsque le marché de la cryptographie s’effondre. Un parent pourrait poser des questions sur la sécurité d’un jeu en ligne pour son enfant de 8 ans et le laisser jouer à un jeu comportant une facturation prédatrice et un contenu pour adultes. Ou encore, un résumé d’actualité censé être objectif est rempli de parti pris, utilisant uniquement les informations d’une seule publication.
Pour se prémunir contre ces attaques, Microsoft Security suggère ces tactiques :
- Arrêtez-vous avant de cliquer. Passez la souris sur un lien pour voir où mène l’URL. Si un lien renvoie vers un assistant IA, c’est un signe d’avertissement.
- Évitez les résumés. Les boutons « Résumer avec l’IA » peuvent contenir des instructions cachées. Approchez-vous des boutons avec méfiance.
- Ne faites pas confiance à n’importe quel lien IA. Considérez les liens inconnus liés aux assistants IA comme une attaque potentielle, tout comme les fichiers envoyés par courrier électronique provenant d’un expéditeur inconnu pourraient être un virus.
Vous pouvez également vérifier les paramètres de votre IA pour voir les souvenirs stockés et supprimer ceux qui sont suspects. Si vous pensez avoir récemment cliqué sur des liens douteux, vous pouvez réinitialiser la mémoire du chatbot. Vous pouvez même demander à votre chatbot IA d’où viennent les recommandations.
Le logiciel permettant de lutter contre ces escroqueries est disponible gratuitement et facile d’accès. Les entreprises d’IA connaissent le problème et élaborent des méthodes de sécurité pour stopper les attaques, réalisant à quel point il pourrait être préjudiciable pour les consommateurs et les entreprises de perdre confiance dans les recommandations de l’IA.
Contenu connexe
- Si vous aviez investi 1 000 $ dans des actions Microsoft il y a 20 ans, voici ce que vous auriez aujourd’hui
- Je laisse AI lire les politiques de confidentialité pour moi. Voici ce que j’ai appris
- Comment protéger votre identité et vos finances si vous perdez votre téléphone