Un sujet brûlant dans le domaine des TI ces derniers mois a sans aucun doute été la montée de l’IA générative et des outils d’IA accessibles au public comme ChatGPT. Les avantages de l’IA se font sentir dans l’ensemble des secteurs, auprès de toutes sortes d’entreprises et de clients, mais toutes les I.A. ne sont pas utilisées de façon responsable.

Lorsqu'une nouvelle technologie fait son apparition, il est toujours nécessaire de considérer l'autre côté de la médaille, car les aspects positifs ne sont pas toujours exempts de aspects négatifs.

Récemment, les cybercriminels ont utilisé l’IA comme outil pour rendre les arnaques plus crédibles. L’utilisation non éthique d’outils comme ChatGPT amène les professionnels de la cybersécurité à redoubler de vigilance.

Jusqu’à présent, les arnaques vocales à l’IA s’inspirent de stratagèmes classiques comme l’hameçonnage, grâce à leur facilité d’utilisation et au peu de connaissances en IA nécessaires pour les utiliser. Au-delà de cela, les cybercriminels peuvent utiliser l’IA pour écrire des maliciels sans expérience en programmation, craquer des mots de passe, analyser des données volées et trouver des vulnérabilités logicielles.

IA et ingénierie sociale

Les arnaques par appels automatisés et les courriels d’hameçonnage ne sont rien de nouveau pour les cybercriminels. Mais selon des chercheurs de McAfee, grâce aux outils d’IA générative, les cybercriminels n’ont besoin que de trois secondes de la voix de quelqu’un pour arriver à la cloner et l'utiliser dans un appel frauduleux.

Ces appels automatisés imitaient auparavant des fournisseurs de soins de santé, l’IRS ou quelqu’un prétendant prolonger votre garantie automobile. Mais maintenant, les services de clonage vocal alimentés par l’IA donnent l’impression que ces appels proviennent d’un proche. De plus, ces outils permettent aux acteurs malveillants de répondre en temps réel en tapant des réponses dans leurs applications de clonage vocal.

L'étude de McAfee a également révélé que 77 % des victimes d'appels frauduleux utilisant l'IA ont perdu de l'argent et que plus du tiers de ces victimes ont perdu plus de 1 000 $.

Se protéger contre la cybercriminalité alimentée par l’IA

Dans une tribune du New York Times, la présidente de la Federal Trade Commission (FTC) des États-Unis, Lina Khan, a déclaré que bien que tout le potentiel de l’IA générative fasse encore débat, il ne fait guère de doute qu’elle sera hautement perturbatrice.

Elle ajoute que pour que les États-Unis puissent suivre le rythme de ces technologies, il faut faire les bons choix en matière de politiques publiques.

« Lors de l’application de la loi interdisant les pratiques trompeuses, nous examinerons non seulement les escrocs opportunistes qui utilisent ces outils, mais aussi les entreprises en amont qui les rendent possibles », a écrit Khan dans la tribune.

Parallèlement à ses recherches, McAfee a également proposé des mesures pour se protéger contre les attaques de clonage vocal par IA que vous pouvez commencer à utiliser dès aujourd’hui, notamment :

1. Établir un mot de passe verbal avec les enfants, les membres de la famille ou des amis proches de confiance, comme le ferait une institution financière ou une entreprise d’alarme, et l’utiliser dans les messages lorsque vous demandez de l’aide.
2. Toujours remettre en question la source et déterminer si l'appelant est réellement celui auquel vous pensez. Raccrochez et appelez la personne directement si vous avez des doutes.
3. Réfléchissez avant de partager sur les réseaux sociaux. Plus votre cercle de contacts est élargi, plus les risques auxquels vous pouvez être exposé augmentent. Assurez-vous que votre contenu sur les réseaux sociaux n’est pas accessible au grand public et qu’il n’est visible que par vos amis et votre famille.
4. Protégez votre identité avec des services de surveillance d’identité.
5. Effacez votre nom des sites de courtiers en données qui achètent, collectent et vendent des informations personnelles détaillées provenant de diverses sources publiques et privées.

Comprendre l’IA en tant qu’organisation

Nous générons chaque jour une quantité incroyable de données, et les organisations qui disposent de stratégies bien élaborées pour capter, traiter et monétiser ces données sont destinées à être les chefs de file dans la satisfaction client et l’amélioration de l’efficacité.

NEXT.ai de HCLTech est un service qui propose des solutions de pointe pour l’industrie de l’ingénierie et de la R-D. Bien qu’il soit difficile de surveiller et de se protéger contre la cybercriminalité alimentée par l’IA, NEXT.ai est un service qui aide les organisations à comprendre la puissance de l’IA et la façon dont leurs clients pourraient être touchés.

On s’attend à ce que les organisations qui adoptent l’IA à toutes les étapes de leur parcours atteignent la position de leader sur le marché par rapport à celles qui ne le font pas. HCLTech est un partenaire qui aide à atteindre, planifier et mettre en œuvre des solutions d’IA parmi les meilleures de l’industrie.

De plus, HCLTech offre la sécurité pour l’IdO afin d’aider à contrer les attaques de rançongiciels et à maintenir une cybersécurité dynamique. L’augmentation des appareils interconnectés et de l’adoption du numérique s’est aussi traduite par une augmentation des risques et des défis de sécurité. Par ailleurs, le cadre SecureOT 360° de HCLTech permet aux organisations d’évaluer, de planifier, de définir, de concevoir et de gérer leur environnement OT selon diverses lignes directrices et normes de cybersécurité reconnues par l’industrie.