Les escroqueries liées à l’IA sont répandues. Voici comment vous pouvez vous protéger

Si l’IA a remodelé notre façon de vivre, de travailler et de nous connecter, elle a également donné aux fraudeurs de puissants outils pour nous tromper. Des fausses voix aux chatbots convaincants, les escroqueries sont désormais d’une réalité alarmante. Ce guide vous dira tout ce que vous devez savoir pour identifier et vous défendre contre les escroqueries IA les plus courantes sur Internet.

Escroqueries vocales et vidéo Deepfake

À l'aide de réseaux contradictoires génératifs (GAN) et d'encodeurs automatiques, les modèles d'IA peuvent apprendre les modèles de voix, les mouvements du visage et les manières d'une personne pour créer de fausses vidéos de personnes. Bien que cela soit utile dans les médias et le divertissement, les escrocs l’utilisent pour usurper l’identité de personnalités connues.

Les escrocs peuvent utiliser de fausses vidéos d’une personne populaire pour approuver des produits/services, diffamer la personne ou demander quelque chose d’urgent. Comme la célèbre arnaque Quantum AI, où des gens ont utilisé les deepfakes d'Elon Musk pour promouvoir la crypto-monnaie et d'autres plateformes d'investissement.

Ces escroqueries ne se limitent pas aux célébrités populaires, elles peuvent même être personnalisées pour vous. Par exemple, que se passe-t-il si un escroc utilise la voix du directeur financier de votre entreprise et ordonne un transfert d'argent vers un compte de garde ? Il serait difficile de refuser la commande si la voix et le style de conversation correspondent étroitement à ceux de votre directeur financier.

Détecter les escroqueries vocales et vidéo deepfake

Identifier les deepfakes est votre meilleur moyen de vous en protéger. Heureusement, les deepfakes ne sont pas parfaits (du moins pour le moment), vous pouvez donc toujours les détecter si vous recherchez des indices. Vous trouverez ci-dessous quelques moyens fiables :

• Analyser la vidéo/audio : les deepfakes ont généralement des mouvements faciaux non naturels, comme des expressions raides avec des mouvements concentrés uniquement sur les yeux et la bouche. Une synchronisation labiale incompatible avec l’audio est un autre signe évident.
• Utiliser le scanner Deepware : vous pouvez également utiliser Deepware Scanner, qui peut éventuellement détecter de fausses vidéos en analysant chaque image avec plusieurs modèles de détection. Il vous suffit de télécharger la vidéo ou de coller son URL pour obtenir des résultats. Il analysera et vous indiquera la probabilité qu'il soit faux ou réel. Ce n'est pas parfait, mais il peut détecter la plupart des vidéos IA.

• Écoutez votre instinct : dans la plupart des cas, une tentative de deepfake proviendra d’une source inattendue. Même si cela semble vrai, cela devrait vous donner le sentiment que quelque chose ne va pas. Par exemple, pourquoi votre directeur financier appellerait-il soudainement d'un numéro inconnu pour demander un transfert d'argent important vers un compte inconnu, ou pourquoi une célébrité vous encouragerait-elle soudainement à investir dans quelque chose sans rapport ? Écoutez le sentiment et vérifiez-le en ligne ou enquêtez directement sur la source.

Attaques de phishing basées sur l'IA

L’IA améliore considérablement les tactiques d’ingénierie sociale, ce qui renforce par conséquent les attaques de phishing. Grâce à l’IA, les attaques de phishing comme le spear phishing peuvent être automatisées à grande échelle. L'IA peut analyser les profils de réseaux sociaux, les styles d'écriture et d'autres données publiques pour lancer des attaques sophistiquées contre des cibles.

L'IA peut envoyer un e-mail à la cible en se faisant passer pour quelqu'un qui compte pour elle. Ils sont également doués pour tenir une conversation contextuelle, ce qui leur permet de convaincre de nombreuses personnes de cliquer sur un lien de phishing pour télécharger des logiciels malveillants ou voler des informations d'identification.

Protégez-vous contre les attaques de phishing par l'IA

Bien que de nombreuses tactiques permettant de détecter les attaques de phishing s’appliquent également aux attaques d’IA, vous devez être un peu plus critique à l’égard des attaques d’IA. Vous trouverez ci-dessous quelques moyens d’éviter les attaques de phishing par l’IA :

• N'acceptez pas les demandes inhabituelles, surtout lorsqu'il s'agit de donner des informations ou de cliquer sur des liens. Essayez de vérifier auprès de l'expéditeur en utilisant une méthode de communication différente, car son compte pourrait être piraté.
• Activez l'authentification à deux facteurs sur vos comptes pour assurer la sécurité de votre compte même si le mot de passe est volé.
• Passez la souris sur le lien suspect pour prévisualiser l'adresse du lien. Assurez-vous que le nom de domaine correspond exactement au nom du site Web attendu.
• Limitez les informations personnelles que vous partagez en ligne. Les attaques d’IA dépendent fortement des informations accessibles au public pour personnaliser l’attaque.
• Ne partagez jamais d’informations sensibles avec qui que ce soit, même si les responsables du service le demandent. Les informations telles que les mots de passe, les numéros de sécurité et les numéros d'authentification sont destinées à être connues uniquement par le propriétaire du compte.

Fausses critiques et évaluations de masse basées sur l'IA

Les fausses critiques de produits ont toujours été un problème, mais l’IA a considérablement aggravé la situation. Auparavant, vous pouviez au moins faire la différence entre les faux avis et les vrais, mais les avis de type humain sont difficiles à distinguer. La situation est si grave que la Federal Trade Commission a interdit les faux avis et que des sanctions civiles peuvent être demandées contre les contrevenants.

L’IA peut générer en masse des avis humains très convaincants qui peuvent facilement donner à un produit le meilleur de sa catégorie. De nombreux sites Web proposent ouvertement de faux services d’évaluation de masse aux entreprises de haut rang ou à leurs concurrents de rang inférieur. Ces avis peuvent facilement donner une belle apparence à un mauvais produit et convaincre les consommateurs de procéder à l’achat.

Évitez les faux avis et notes

Bien qu'il soit difficile de détecter une fausse évaluation de l'IA simplement en la regardant, il existe néanmoins quelques signaux d'alarme que vous pouvez rechercher. Les méthodes de détection suivantes peuvent ne pas fonctionner sur toutes les plateformes, mais elles devraient permettre d'éviter les mauvais produits lorsqu'elles sont combinées :

• Recherchez une augmentation des avis à un moment donné, en particulier lorsque le produit a été répertorié pour la première fois. Les faux avis sont généralement achetés en masse et peuvent être facilement identifiés.
• Si de nombreuses critiques génériques ne font que faire l’éloge du produit sans parler de leur expérience personnelle, elles pourraient être fausses.
• Si possible, consultez les profils des évaluateurs et voyez s’ils n’évaluent que 1 ou 5 étoiles et utilisent des tons génériques.
• Regarder Acheté ou Vérifié balises si elles sont prises en charge par la plateforme. Il est difficile d'ajouter des critiques massives sur l'IA lors de l'achat du produit.
• Des outils comme Fakespot peuvent aider à détecter les faux avis sur l'IA sur de nombreux sites Web populaires comme Amazon, eBay, Best Buy, etc. Ils ne sont pas parfaits, mais ils peuvent confirmer davantage vos soupçons.

Fausses nouvelles et propagande générées par l’IA

Semblable aux fausses critiques de type humain, l’IA peut également générer en masse de faux messages, commentaires et nouvelles pour manipuler l’opinion publique. D’énormes réseaux de comptes de robots sur les réseaux sociaux peuvent créer des publications ou des commentaires pour favoriser des produits/services spécifiques, des opinions politiques ou des opportunités financières. Cela peut amener les gens à croire que l’opinion est vraie, en supposant que toutes les sources ne soient pas biaisées.

Il est courant de voir des commentaires de robots sur Reddit, YouTube ou Facebook parler en détail d'un service ou d'un produit en utilisant 4 à 5 comptes différents. Ils ont la même conversation sur les articles/threads associés pour faire croire aux gens que le produit/service est bon.

Habituellement, la crypto-monnaie est manipulée à l’aide de robots IA. Les robots commencent à parler positivement d'une devise spécifique dans les publications sur les réseaux sociaux, les commentaires, les articles d'actualité ou même les deepfakes pour augmenter la demande de la devise.

Détecter les fausses nouvelles et la propagande

Vous devrez faire quelques recherches par vous-même pour vous assurer que l'opinion est correcte. Cela signifie que vous ne devez pas prendre les informations au pied de la lettre et chercher des indices. Voici ce que vous pouvez faire :

• Identifiez les fausses nouvelles : pour repérer les fausses nouvelles, consulter l'historique du site d'information et garantir sa crédibilité avec un contenu fiable. Vous pouvez effectuer une recherche sur le sujet pour voir si un autre site d’information réputé le couvre ou non. Vous pouvez également obtenir NewsGuard qui vous dira si votre source est digne de confiance.
• Identifiez les faux commentaires : les faux commentaires sont fortement d’accord/pas d’accord avec le sujet et répètent des déclarations spécifiques. Comme répéter le nom complet du produit/service au lieu d’utiliser des pronoms.
• Identifiez les faux messages : les publications avec un engagement (j'aime ou partages) disproportionné par rapport aux commentaires peuvent impliquer des robots amplifiant le contenu. Vous pouvez également vérifier le profil utilisateur pour voir s'il s'agit d'un compte légitime avec un historique fiable.

Escroqueries massives liées à la « boucherie de porcs » alimentées par l’IA

L'arnaque à la boucherie porcine consiste à gagner la confiance de quelqu'un par le biais d'une amitié ou de relations amoureuses, puis à lui demander d'investir dans de faux stratagèmes financiers. Intégrez maintenant l’IA qui peut tenir de longues conversations avec presque tous les objectifs, et vous obtenez une campagne de boucherie massive de porcs.

Ceci est courant sur les applications de rencontres et les réseaux sociaux où les comptes de robots utilisent de faux profils convaincants pour parler à des cibles potentielles. Ils tiendront des conversations pour gagner la confiance totale de la cible, puis parleront de projets financiers lucratifs, comme les plateformes de crypto-monnaie ou de forex.

Détecter les arnaques à la boucherie porcine

Savoir avec qui vous investissez et dans quoi vous investissez devrait être un contrôle de base pour tout investissement, et cela sera également utile ici en cas d'escroqueries liées à la boucherie de porcs par l'IA :

• Si quelqu’un d’inconnu parle d’opportunités de financement qui semblent trop belles pour être vraies, cela devrait faire sourciller.
• Essayez de rencontrer l'utilisateur en personne ou d'avoir un chat vidéo en direct pour vous assurer qu'il est réel. Vous pouvez également essayer d'inverser la recherche d'images en utilisant leur photo de profil pour vous assurer qu'elle n'est pas volée.
• Vérifiez vous-même la plateforme d'investissement. Recherchez les avis, les certificats et s'il est enregistré ou non auprès d'une autorité financière.

Rester vigilant et informé est votre meilleure défense contre l’évolution des escroqueries basées sur l’IA. Beaucoup de ces escroqueries peuvent être évitées en remettant en question ce qui semble trop beau pour être vrai. Cependant, si vous en êtes tombé amoureux, voici ce qu'il faut faire si vous avez été victime d'une arnaque.