Utiliser l'IA en sécurité au quotidien

À moins de vivre reclus de la société en haut d'une montagne, et encore, je pense que cela ne t'a pas échappé : le concept à la mode dans la tech en ce moment, c'est l'IA.

Aujourd'hui, toutes les entreprises essayent d'intégrer l'IA dans leurs solutions ou dans leurs produits, mais qui dit nouveauté dit opportunité pour les attaquants.

J'ai donc décidé de vous partager quelques conseils pour utiliser l'IA en toute sécurité et éviter de se retrouver dans mon prochain récap de l'actu cyber parce que toutes vos données, ou celles de votre entreprise, auront fuité.

Limiter l'usage

Mon premier conseil, c'est de limiter l'usage de l'IA aux tâches basiques et/ou répétitives, qui n'ont que très peu de valeur.

Pourquoi cela ? Je constate de plus en plus de personnes incorporant l'IA dans leurs outils, processus, voire dans le code de certains projets, sans se poser la question de l'impact de cet ajout.

Il faut savoir que l'IA, notamment les modèles d'analyse de langage, n'est pas une source constante et fiable sur laquelle on peut se reposer.

Si tous les articles de recherche parlent des résultats de ces IA comme de prédictions, ce n'est pas pour rien.

Si vous ne me croyez pas, posez la même question à une IA à quelques minutes d'intervalle, et vous observerez des réponses différentes et imprévisibles.

Anonymiser vos données

Mon second conseil est d'anonymiser vos données.

Beaucoup ne le savent pas, mais les outils d'IA utilisent vos discussions, vos questions et donc vos données pour faire progresser leurs modèles.

Le problème, c'est que les éditeurs de ces solutions n'anonymisent pas souvent ces éléments avant de les introduire dans leur modèle.

Du coup, si vous incluez des données sensibles dans une IA, par exemple vos informations personnelles ou du code de projet de votre entreprise, il y a de grandes chances que l'IA inclue maintenant ces données dans ses réponses pour d'autres utilisateurs de la plateforme.

Alors, pour éviter cela, anonymisez vos données et limitez au maximum le partage d'informations sensibles via ces solutions.

Vérifier l'outil / l'éditeur

Mon troisième conseil est de toujours vérifier l'outil, son usage, son objectif et l'éditeur de cette solution.

En clair, demandez-vous toujours ce que ces personnes ont à gagner en vous offrant un outil comme celui-ci, surtout s'il est gratuit.

Lorsque vous ne payez pas, il y a de grandes chances que cet accès gratuit se fasse en échange d'un accès total et illimité aux données que vous partagez.

Méfiez-vous également de la plupart des IA ou des tendances sur les réseaux sociaux visant à vous faire vieillir à partir d'une image ou à vous transformer en personnage de dessin animé, par exemple.

Ces outils ont souvent pour objectif de récolter un maximum de données et d'images pour entraîner des modèles à destination d'autres organisations, comme pour la détection de visage ou la création de deepfakes.

Alors, avant d'utiliser n'importe quel outil, prenez le temps de vous renseigner, d'étudier l'éditeur et de réfléchir aux conséquences pour vos informations si vous accordiez une confiance aveugle à cette plateforme.

Vérifier la fiabilité

Enfin, mon dernier conseil est de toujours vérifier la véracité des données et la fiabilité/l'intégrité des réponses fournies par une IA.

Si parfois, c'est assez évident de détecter une erreur quand un personnage généré par IA a six doigts au lieu de cinq, quand il s'agit de génération de texte ou de code, cela peut vite être plus compliqué.

Prenez donc toujours le temps de vérifier les prédictions de ces IA.

Si vous générez du code, prenez aussi le temps de vérifier les potentielles failles de sécurité. Et si vous intégrez de l'IA dans votre code ou dans vos processus, contrôlez bien les données générées et méfiez-vous des hallucinations de l'IA.

En fin de compte, n'oubliez pas que tout ce que vous pouvez faire avec l'IA, les attaquants peuvent le faire aussi, mais avec un but différent. Ne leur facilitez pas trop la tâche, et appliquez ces quelques conseils pour rester en sécurité avec ces outils.