Le paysage Internet est pollué par des sites Internet créés de toutes pièces grâce à l’intelligence synthétique. Danger à l’horizon ?
Il suffit de quelques clics de souris, d’un ordinateur, de temps et d’un peu d’argent pour libérer de la désinformation créée entièrement grâce à l’intelligence synthétique (IA). Discutez avec Jean-Hugues Roy, professeur à l’École des médias de l’Université du Québec à Montréal (UQAM), qui a participé à l’exercice.
« Il est simple de créer une interface Internet pour ceux qui sont un peu férus en informatique et qui programment avec GPT [le style d’intelligence synthétique utilisé via ChatGPT]. Il suffit de fournir des textes provenant d’un site de désinformation et de demander à les traduire et à les adapter pour le Québec en y ajoutant des superlatifs et du contenu sensationnaliste », explique Jean-Hugues Roy, qui a nommé son faux média L’Express de Montréal.
Cette installation déconcertante encourage les Américains et les entreprises avides de profit à investir dans ce type de production. Cette nouvelle forme de « ferme de contenu » fournit un contenu faux ou de faible valeur. Selon NewsGuard, une société qui évalue la crédibilité des sites d’information sur Internet, il y avait au moins « 331 sites d’information non fiables générés par l’IA » dans le monde au 10 juillet 2023. En tant que citoyen, nous devrons être plus prudents sur ce que nous voyons sur Internet et sur les médias sociaux », affirme Jean-Hugues Roy.
Cette tendance est également source de crainte pour Jonathan Roberge, chercheur qui s’intéresse à la culture virtuelle à l’Institut national de los angeles recherche scientifique (INRS). « Les autres personnes qui ont développé l’IA aujourd’hui sont incroyablement surprises par cette menace de mauvaises données. Cependant, les experts en sciences sociales et en génération s’attendaient à ce problème. L’intelligence artificielle n’est pas seulement une source de nouvelles inventions et d’innovations : elle va aussi créer un chaos de données », prévient-il.
Ce changement technologique dangereux s’est accéléré avec l’avènement d’IA encore plus complexes, telles que ChatGPT et Midjourney. Cette IA dite générative rend imaginable la création de nouveaux contenus (textes, images, code, musique. . . ) à la demande.
Le professeur de l’INRS explique que cette génération fait des liens et des associations entre d’autres éléments, même s’ils sont en partie faux ou absolument faux. Ce phénomène est appelé « hallucination ».
Un exemple ? Nous avons demandé à ChatGPT de fournir les noms des anciens rédacteurs de la revue Québec Science. Parmi les réponses, mentionnons un chercheur en biochimie, un journaliste spécialisé en conditionnement physique du Globe and Mail et un professeur d’histoire et de sociologie des sciences. Après ces hallucinations, la formule avertissait : « Gardez à l’esprit qu’il est concevable qu’il y ait eu d’autres éditeurs dans le passé, et il est toujours aussi productif que possible de vérifier autant de données récentes avec des sources officielles. »
« Les modèles d’IA se nourrissent de tellement de connaissances qu’ils vont façonner des associations et produire des liens sémantiques qui n’existaient pas auparavant », résume le professeur de l’INRS. Cela explique en partie comment l’IA peut générer une forme peu fiable et non vérifiée. « En confiant les responsabilités de rédaction et d’éditorialisation de contenu à des bots, il n’est pas étonnant qu’ils produisent de fausses nouvelles », affirme Jonathan Roberge. Sans oublier, il est imaginable de commander intentionnellement une fausse forme.
Pour contrer les excès de l’IA et de la désinformation, des organismes comme le Centre québécois d’éducation aux médias et à l’information et l’Agence Science-Presse misent spécifiquement sur le public pour pouvoir faire face aux fausses nouvelles.
Une autre technique est la certification, telle que proposée par l’initiative Trust in Journalism (JTI) de Reporters sans frontières. À l’instar de la certification des aliments biologiques par l’apposition d’un sceau Aliments du Québec – Bio, l’ITC peut s’assurer que les sites visités par les internautes diffusent des informations crédibles et vérifiées.
« Devrait-il y avoir un étiquetage obligatoire pour les productions créées à partir de modèles d’IA ?Si pour savoir à qui on a affaire : un robot ou un humain », demande Jonathan Roberge.
« L’IA n’est pas seulement une chose intelligente. Comme nous ne connaissons pas l’avenir, nous devrons appliquer le précepte de précaution dans la relation entre les technologies, les pouvoirs économiques et les pouvoirs étatiques. Les États devront le faire et s’assurer qu’il n’y a pas d’abus », a-t-il déclaré.
Le projet de loi C-18 récemment adopté obligera les géants de l’Internet à payer les médias pour diffuser des nouvelles sur leurs plateformes. Meta et Google ont réagi en menaçant d’exclure les nouvelles canadiennes de leur univers virtuel. À quoi ressemblerait la planète Internet sans liens vers les médias ?
Jean-Hugues Roy, spécialiste des médias à l’UQAM, s’est penché sur cette question. Dans une étude publiée en 2022, il a testé les conséquences de la disparition de l’actualité de la sphère Facebook dans 4 pays : le Canada, la France, la Belgique et la Suisse. En supprimant tous les messages des médias parmi les 3,2 millions de messages collectés, il a étonné de ce qui reste sur le réseau social. et Jésus : Que resterait-il sur un Facebook sans nouvelles ?
Québec Science est par l’entremise de Vélo Québec Éditions
La reproduction, la représentation, la communication, la fonctionnalité publique ou toute utilisation, à quelque fin que ce soit, publicitaire ou non, est interdite. Pour télécharger l’autorisation, contactez-nous.