Les dangers de l’intelligence artificielle : Ce qu’il faut savoir

Qu’est-ce que le intelligence artificielle ?

En termes simples, l’intelligence artificielle est un type de programme informatique. Elle ne peut ni penser, ni raisonner, ni ressentir, mais elle est conçue pour donner l’impression que c’est le cas. L’IA est « formée » à repérer des modèles grâce à un processus complexe impliquant de vastes ensembles de données et des cycles de rétroaction, ce qui lui permet de créer des sorties textuelles, d’accomplir des tâches complexes et même d’améliorer ses propres performances.

On appelle cette capacité Machine Learning, mais les programmes d’IA n’apprennent pas exactement de la même manière que les humains. Ils s’appuient uniquement sur la reconnaissance des formes pour répondre aux questions ou aux commandes, en prédisant essentiellement ce qui constitue un résultat jugé « bon » en se référant aux données sur lesquelles ils ont été formés.

L’IA est conçue pour effectuer des tâches semblables à celles des humains.

Pourquoi l’IA est-elle si dangereuse ?

L’IA est devenue de plus en plus puissante et omniprésente ces dernières années, utilisée dans tous les domaines, des algorithmes des médias sociaux déterminant les publicités et les messages que vous voyez, aux systèmes aidant les médecins à repérer les maladies. Toutefois, placée entre de mauvaises mains, l’IA peut avoir des effets néfastes. Elle pourrait amplifier les menaces en ligne existantes telles que le phishing en permettant aux arnaqueurs de lancer des attaques d’ingénierie sociale plus efficacement, entre autres dangers.

Les réponses textuelles de l’IA peuvent également être peu fiables, même les modèles d’IA les plus puissants étant susceptibles de générer des erreurs connues sous le nom d’« hallucinations ». Ces erreurs peuvent être anodines, comme l’erreur d’orthographe du mot nénuphar, mais elles peuvent aussi être graves, les outils pouvant générer des affirmations complètement fausses et les présenter comme des faits. Sans prendre les précautions nécessaires, les utilisateurs peuvent soumettre des textes générés par l’IA contenant des erreurs dans des devoirs ou les publier dans des articles de journaux, ce qui participe à accroître la diffusion de la désinformation.

En outre, l’utilisation de l’IA a été liée à des conséquences neuronales et comportementales, selon une étude récente du MIT, et la technologie pose d’innombrables questions sur la vie privée et l’éthique.

Quels sont les risques liés à l’intelligence artificielle ?

L’IA a introduit des risques entièrement nouveaux, tandis qu’elle en a exacerbé d’autres. L’accessibilité de la technologie IA a entraîné une hausse des activités criminelles, comme la génération de deepfakes utilisée pour les arnaques à l’usurpation d’identité. Mais, compte tenu du rythme effréné du développement de l’IA, il est difficile pour les individus soucieux de leur sécurité, les forces de l’ordre et les entreprises privées de suivre le rythme.

Risques pour la confidentialité

Les préoccupations en matière de confidentialité sont l’une des questions les plus fréquemment soulevées par les experts lorsqu’ils évoquent l’IA. Ces systèmes ne sont solides qu’à la condition que les données utilisées pour les former le soient aussi. Et bien souvent, ces données peuvent être les vôtres, qu’il s’agisse de vos informations personnelles ou des enregistrements des conversations que vous entretenez avec les outils d’IA.

ChatGPT d’OpenAI, par exemple, conserve vos données ainsi que l’historique de vos conversations dans un fichier pendant au moins 30 jours. En outre, il existe actuellement très peu de réglementations sur l’IA, que ce soit en général ou concernant la confidentialité des données. Ainsi, des notions dystopiques telles que les algorithmes de police prédictive, une méthode de surveillance sociale, ne sont que trop réelles aux États-Unis.

Deepfakes et désinformation

Les deepfakes sont des vidéos ou des clips vocaux générés par l’IA qui imitent la ressemblance d’une personne, donnant l’impression qu’elle a dit ou fait quelque chose qui ne s’est jamais réellement produit. Cette technologie peut être exploitée à des fins préjudiciables, qu’il s’agisse de diffuser des campagnes de désinformation politique ou des infox ou de créer des clones vocaux qui sont ensuite utilisés dans des attaques de phishing vocal. Consultez ce projet du MIT sur les deepfakes pour en savoir plus sur la manière de les repérer.

Arnaques assistées par l’IA

La technologie de l’IA a ouvert la voie à une dynamique de cyberattaques plus efficaces et plus efficientes : en donnant aux arnaqueurs de meilleurs outils pour collecter et vendre vos données, par exemple, ou en permettant aux fraudeurs amateurs du monde entier de rédiger des messages d’arnaque convaincants et dépourvus d’erreurs. La Commission fédérale des communications des États-Unis (FCC) suggère de ne pas répondre à des numéros inconnus. Le simple fait de dire « oui » à un arnaqueur qui enregistre votre voix peut lui permettre d’autoriser le paiement de dépenses frauduleuses en votre nom.

L’IA peut donc aider les arnaqueurs à travailler plus intelligemment. Cela étant dit, cette technologie peut aussi travailler pour vous. Découvrez notre outil détecteur d’arnaque basé sur l’IA, qui permet de bloquer les arnaques et de préserver vos appareils des malwares.

Attaques de malwares générées par l’IA

Les programmes d’IA comme ChatGPT peuvent être utilisés pour générer plus que du texte et des images. Ils sont également capables d’écrire des programmes de malwares, qui peuvent être utilisés dans des cyberattaques sophistiquées. Les mauvais acteurs peuvent abuser de n’importe quelle technologie, mais l’IA a rendu encore plus facile l’accomplissement de résultats mal intentionnés. OpenAI a même admis qu’ils savent que cela se produit, en publiant de nouveaux rapports détaillant comment ils atténuent les menaces de l’IA.

Lutter contre les préjugés de l’IA

Puisque l’IA s’appuie sur des données pour fonctionner, si ces données sont biaisées, les résultats de l’IA seront également biaisés. Les préjugés peuvent prendre de nombreuses formes, qu’ils soient dus à des données incomplètes ou erronées ou à des biais humains déterminant quelles données sont ou ne sont pas suffisamment importantes pour être incluses. Ces types de préjugés peuvent s’alimenter les uns les autres, exacerbant ainsi le problème.

En outre, l’UNESCO indique que seules 100 des 7 000 langues naturelles du monde ont été utilisées pour former les meilleurs chatbots. Cet état de fait pourrait conduire à des problèmes de société nouveaux ou exacerbés et à une plus grande inégalité, comme la sélection des candidats à l’emploi de manière inéquitable.

Interactivité humaine

La communication et les interactions pilotées par l’IA sont devenues de plus en plus omniprésentes, les utilisateurs se tournant vers l’IA plutôt que vers une recherche sur le web ou même vers la thérapie. Cette dépendance croissante pourrait entraîner une diminution de l’empathie et des compétences sociales, ainsi qu’une augmentation de la solitude et de la perte de liens humains.

Il existe également des problèmes de sécurité physique à prendre en compte avec certaines applications ou certains types de l’IA. La technologie pourrait contribuer à des erreurs de diagnostic médical, à des dysfonctionnements de machines, voire à des dommages directs, comme lorsque un robot d’échecs a cassé le doigt d’un garçon lors d’un tournoi.

Responsabilité juridique

Lorsque ce type d’accident se produit, il n’existe à ce jour que peu de précédents en termes d’attribution de la responsabilité juridique : l’IA est-elle responsable ? Ou bien est-ce la faute de son programmeur, de la société qui l’a mis en œuvre ou de l’opérateur humain ? Dans un cas particulier où une voiture autopilotée d’Uber a tué un piéton, le conducteur d’essai a été jugé responsable.

Les dangers potentiels de l’IA pour l’Humanité

À plus grande échelle, les systèmes d’IA peuvent représenter des menaces directes ou indirectes pour l’Humanité et la planète. Des armes autonomes à la destruction de l’environnement, en passant par l’affaiblissement de l’éthique et des conséquences futures potentiellement imprévisibles, voici ce qui est en jeu.

Dilemmes éthiques dans l’IA

En matière d’éthique, l’IA ne présente pas des antécédents très reluisants. Les enseignants se sont heurtés à des élèves de tous âges qui utilisent l’IA pour rédiger des articles ou tricher sur leurs devoirs, et ils continueront sans doute à le faire. Une étude montre que même les étudiants en médecine utilisent de plus en plus l’IA dans le cadre de leurs cours, préférant se tourner vers elle plutôt que vers « d’autres ressources traditionnelles telles que les professeurs, les manuels et les cours magistraux. »

Une autre question éthique est soulevée par l’utilisation de l’IA générative dans la création artistique et l’écriture créative. Alors que de nombreuses personnes font l’éloge de l’IA pour avoir donné à n’importe qui le pouvoir de créer de l’art, les modèles d’IA sont formés sur des images, de la musique et des écrits réalisés par des personnes réelles, souvent sans compensation, ni même le consentement du créateur.

Exemple de ce que le générateur d’images d’IA Leonardo peut créer.

Le New York Times a intenté un procès à OpenAI et à Microsoft IT en 2023 (l’affaire est en cours) à la suite d’allégations selon lesquelles il aurait utilisé des millions d’articles sans autorisation pour entraîner ChatGPT. Les créateurs artistiques ont également riposté en modifiant leurs œuvres d’art à l’aide de programmes conçus pour induire en erreur ou « empoisonner » l’IA qui tente de les exploiter.

Impact environnemental de l’IA

Nous avons jusqu’ici vu différentes façons dont les gens ont pu utiliser ou mal utiliser l’IA. Cependant, aucune de ces utilisations n’est intrinsèque à l’IA elle-même. Toute technologie possède une empreinte environnementale, et si l’impact total de l’IA est encore en cours d’évaluation, les premières conclusions ne sont pas réjouissantes.

L’IA nécessite des puces informatiques puissantes, dont la fabrication fait appel à des ressources essentiellement non renouvelables. Et comme la demande d’IA a augmenté, de plus en plus de centres de données ont vu le jour.

Le refroidissement de ces énormes centres de données nécessite beaucoup d’eau. À l’échelle mondiale, on estime que les infrastructures liées à l’IA consommeront bientôt six fois plus d’eau que le Danemark, ce qui peut tirer la sonnette d’alarme sur le plan environnemental, alors qu’un quart de l’humanité n’a déjà pas accès à l’eau potable.

Tout espoir n’est pas perdu cependant. Même le programme des Nations unies pour l’environnement utilise l’IA, afin de détecter les fuites de méthane dans les installations pétrolières et gazières. Ces avancées dans la technologie de l’IA entretiennent l’espoir qu’elle pourrait nous aider à résoudre de grands problèmes, tels que le changement climatique.

Comment les risques liés à l’IA sont atténués

Cela fait beaucoup d’informations d’un coup. Reprenons notre souffle. Il n’y a pas que des risques à lister : l’IA a aussi de nombreux avantages à offrir, comme l’automatisation des tâches répétitives, la minimisation des erreurs humaines et l’identification des cellules cancéreuses.

Vous n’avez pas à naviguer seul(e) dans ce nouveau monde étrange. Voici un aperçu de la façon dont les risques liés à l’IA sont atténués à différents niveaux de la société.

• Ce que font les gouvernements : La loi sur l’intelligence artificielle de l’UE est entrée en vigueur en août 2024 et impose des contrôles sur les systèmes à haut risque utilisés dans des domaines tels que les soins de santé, l’application de la loi, l’éducation ou les élections. En outre, plus de 190 pays ont adopté les recommandations non contraignantes de l’UNESCO sur l’utilisation éthique de l’IA.

• Ce que font les entreprises : 78 % des entreprises ont recours à l’IA. Elles sont déjà en train de repenser les flux de travail afin de mettre en œuvre l’IA et de nommer des hauts responsables dans des rôles de gouvernance essentiels. Pour atténuer efficacement les menaces et suivre les performances de l’IA, les entreprises doivent effectuer des tests et des contrôles réguliers, établir des cadres de gouvernance solides et prioriser la confidentialité, la sécurité, la responsabilité et la transparence.

• Ce que vous pouvez faire : Décidez par vous-même si vous souhaitez utiliser l’IA et apprendre à l’utiliser de manière responsable. Tenez-vous au courant des derniers développements non seulement de la technologie elle-même, mais aussi des façons dont elle peut vous nuire : notamment les arnaques, les atteintes à la vie privée, et d’autres questions de cybersécurité.

Sécurisez votre vie numérique grâce à Avast

Alors que l’IA continue de transformer nos quotidiens, il est normal d’être nerveux face à cette situation. Toutefois, quoi que vous fassiez, gardez le contrôle de votre confidentialité numérique et de votre sécurité en ligne avec Avast Antivirus Gratuit. Avec la détection des menaces en temps réel, qui inclut une défense contre les arnaques basée sur l’IA qui fait travailler l’IA pour vous plutôt que contre vous, Avast Antivirus Gratuit assure vos arrières. Aidez à protéger votre appareil et protégez-vous gratuitement contre les pirates informatiques, les arnaques et les malwares.