Par Ribes Evenn et Bardelang Gurvan
Auteur: Andrew AURAND
Date de publication: août 2023
Titre: Generative Artificial Intelligence and Its Relationship with Disinformation
URL: https://salt-sys.com/wp-content/uploads/2023/11/Thesis_final-1.pdf
Contexte éditorial : Thèse nécessaire à l'obtention du diplôme au Master de Cybersécurité de l'université de Wilmington (Etats-Unis).
Contexte auctorial: Andrew AURAND, Adjunct Instructor at Wilmington University
Mots-clés: cybersécurité, intelligence artificielle générative, désinformation, social engineering (ingénierie sociale)
Le contexte éditorial de cet article est celui d’une véritable ébullition autour des sujets de l’intelligence artificielle, notamment avec la sortie de la première version grand-public de ChatGPT, en novembre 2022, mais également autour de sujets liés à la désinformation, avec notamment le conflit Russo-Ukrainien, les deux pays se livrant à une véritable « guerre informationnelle mais aussi le fait que le site NewsGuard combattant la désinformation, ait relevé rien que sur l’année 2023, la création de 600 sites internet uniquement destinés à la publication d’articles entièrement faux, basés sur de l’IA. Mais également des faits tout aussi graves bien qu’un peu plus anciens, tels que la campagne de désinformation menée par la Russie ayant influencé l’élection américaine de 2016.
En premier lieu, l'auteur montre le danger causé par l'utilisation de l'IA dans le « social engineering », permettant des arnaques ou des fraudes à grande échelle. L'association de la psychologie et de l'informatique rend complexe l'étude de ces attaques. Ainsi, l’auteur souligne le nécessaire travail de métissage des enseignements universitaires, notamment entre les sciences sociales et les sciences informatiques, pour mieux comprendre les conséquences sociales de la désinformation (diffusion volontaire d’informations en sachant que celles-ci sont fausses) qui est à différencier de la mésinformation (diffusion volontaire ou involontaire d’informations en les pensant vraies). « Called Cognition Security (CogSec), this newly developed field examines the ways fake news and disinformation impact human cognition » (p 11-12) [B. Guo et al., 2020].
Ensuite, un autre problème abordé dans cet article est le danger des réseaux sociaux, permettant aux « fake news » de se répandre facilement, phénomène fréquent lors d'événements tels que la guerre russo-ukrainienne. Afin de limiter ce fléau, l'auteur propose de séparer réseaux sociaux et médias pour éviter que les « fake news » ne puissent tirer profit de la capacité de diffusion et de visibilité des réseaux sociaux : « With social media growing as a center for the spread of disinformation, studies regarding its spread through particular networks have risen »(p.14) [B. Guo et al, 2020; Shu et al, 2020; Z. Guo et al, 2022].
Finalement, l’IA étant de plus en plus utilisé à des fins artistiques, s’inspirant des œuvres ayant servi à l’entraîner, plagierait un grand nombre d’artistes. De plus, les IA sont souvent crues par les Hommes de par leur caractère de machine. Afin de limiter ces problèmes, l’auteur dénonce l’impérieuse nécessité de mise en place d’un encadrement des usages de l’IA et de protection des personnes négativement touchées par celles-ci. Cette idée se décline en 3 volets :
Un volet éducatif, impliquant tous les lieux de diffusion du savoir, qui pourraient proposer des ateliers évoquant les dérives de l’IA : « Local universities, community colleges, community centers, and libraries can play a part in educating on generative AI. Numerous studies have shown that a well-educated populace is more resistant to disinformation, misinformation, and social engineering attacks » [Hwang et al, 2021] [Adjin-Tettey, 2021].
Un volet législatif visant à réguler l'utilisation de l'IA et des données associées, celles-ci menant souvent à une forme de plagiat subtile. Ainsi, chaque État (notamment les États-Unis) devrait encadrer et limiter les données utilisées pour entraîner les IA : « Dans sa forme actuelle, les grandes corporations et les utilisateurs individuels peuvent l'utiliser pour aspirer de vastes quantités d'œuvres protégées par le droit d'auteur, les remixer ou les utiliser pour entraîner des ensembles de données. » (p. 37). De plus, il est suggéré que les organisations professionnelles, les groupes commerciaux, les syndicats et les unités de négociation collective fassent évoluer les contrats des artistes, des développeurs et d'autres travailleurs ciblés par l'IA afin d'indiquer quels travaux peuvent être considérés pour entraîner une IA, protégeant ainsi les artistes du plagiat ou de leur offrir une compensation en cas d’utilisation de leurs œuvres par les IA.
Un volet éthique, ayant pour objectif de montrer l'importance des considérations morales et éthiques lors du développement des IA : « Pour les aspirants informaticiens, les universités doivent intensifier leurs efforts pour intégrer des cours d'éthique et d'humanités dans leur programme. » (p. 38). Ceci permettrait ainsi de mieux prévenir la mauvaise utilisation de l'IA dans le « social engineering » ou la désinformation.
Les idées précédentes, bien que très judicieuses, se doivent d’être remise en contexte par rapport à l’ampleur du phénomène de désinformation. En effet, la population est-elle réellement prête à l’effort intellectuel que suppose de vérifier constamment les sources que l’on consulte lorsque l’on cherche à s’informer à propos de l’actualité ? Sont-elles prêtes à abandonner ce qu’elles tiennent pour vrai dans le but d’accepter une vérité moins enviable mais plus factuelle ? Il semblerait que la réponse à cela soit de nature légale comme le suggère l’auteur page 38 : « Additionally, state legislation could promote education in the area, allowing for greater multidisciplinary research to be conducted on the development of AI ».
Cependant, il semble envisageable de réunir des experts en sociologie et en sécurité informatique afin d'étudier et de limiter le phénomène de désinformation ou de « social engineering ». De plus, bien qu'il semble en principe aisé de renforcer le cadre législatif de l'utilisation des IA, cela reste un processus long et spécifique à chaque pays, pouvant ainsi engendrer des divergences et des critiques entre les États. De plus, même si chaque entreprise met en place des contrats renforcés afin d'éviter le plagiat, normaliser et appliquer ces contrats risque également d'être chronophage.
« Little academic research has been done on the perception of the Internet and its impact on the “real world,” particularly among adults in their 40s and 50s (CNNs primary demographic). » (p.32). Cette citation permet de rendre compte du chaos potentiel qui peut être engendré par les réseaux sociaux . Ces derniers favorisants la propagation de fausses informations, des actionnaires ou entreprises pourraient prendre ces dernières pour vrai et agir en conséquence dans le monde réel, donnant à la désinformation un potentiel impact sur le réel.
« Trust in AI and its abilities has surpassed that of individual trust in human-led organizations » [Choung et al, 2022] (p.34). Cette citation dénonce l’aveugle confiance que les Hommes, généralement, peut renseigner sur les IA, ont envers ces dernières. En effet, étant qualifié de machine, aux yeux du public général, ces dernières ne peuvent se tromper. Ainsi, cela mène à de la désinformation ou, dans des cas plus graves, à la mise en danger d’autrui comme lors de l’utilisation du chatbot Tessa par la National Eating Disorders Association, mettant en danger les personnes conseillées par ce chatbot.
En parlant des acteurs malintentionnés, « Having generative AI in their toolbox allows them to quickly and acutely spread disinformation and attempt social engineering attacks on a scale the security industry has not seen previously. » (p.5). Cette citation illustre le réel danger de l'accessibilité des IA, permettant aux personnes malintentionnées de propager des fraudes à l'échelle mondiale, une tâche précédemment impossible. Alors qu'auparavant chaque fraude devait être personnalisée, l'IA peut par exemple fournir des précisions et rassurer les victimes, facilitant ainsi la propagation de ces fraudes à grande échelle.
Social engineering: « Social engineering is the act of using manipulation to make users act a certain way or obtain certain goals. » (p.4)
Désinformation: « Mass disinformation is a form of social engineering. Mass disinformation could be malicious actors spreading a fake video, doctored photo, or wrong information while using an algorithm to get as many eyes in front of the media as possible » (p.5)
Fake news: « Fake news is defined as a deliberate attempt to mislead readers by making up facts. » (p.16)
chatbot: Robot utilisant l’intelligence artificielle pour dialoguer avec un utilisateur humain, le conseiller, l’informer…
BONTCHEVA, Kalina, 2024. Generative AI and Disinformation: Recent Advances, Challenges, and Opportunities [en ligne]. Disponible à l’adresse : https://edmo.eu/wp-content/uploads/2023/12/Generative-AI-and-Disinformation_-White-Paper-v8.pdf [Consulté le 20 mars 2023].
HELMUS, Todd C., 2022. Artificial Intelligence, Deepfakes, and Disinformation [en ligne]. Disponible à l’adresse : https://www.rand.org/pubs/perspectives/PEA1043-1.html [Consulté le 20 février 2024].
What Is Social Engineering—The Human Element in the Technology Scam| Cybersecurity |, 2023. [en ligne]. CompTIA. Disponible à l’adresse : https://www.comptia.org/content/articles/what-is-social-engineering [Consulté le 20 février 2023].