stratégie de communication
IA et communication responsable : défis et enjeux
L’IA générative est une nouvelle technologie qui révolutionne la communication, mais elle soulève également des enjeux éthiques importants. Dans cet article, Rosalie Bruley, directrice de l’agence de communication SAMBA, nous propose une réflexion sur la façon de garantir une communication responsable dans un monde où l’IA est omniprésente.
Depuis début 2023 et la soudaine notoriété des IA génératives, le secteur de la communication est en effervescence. Comme pour toute innovation, se sont succedées les périodes d’incrédulité, d’émerveillement, de test, de frayeur (à mettre dans l’ordre que l’on souhaite). Et désormais, en attendant sans doute que les grands pontes ne posent des cadres, jugent et tranchent, les communicants expérimentent ces outils révolutionnaires pour nos métiers, sans cadre éthique ou légal.
Les questions foisonnent et m’ont donné envie de faire un état des lieux des potentiels positifs et/ou négatifs des IAg pour les métiers de la communication.
Mais tout d’abord, un petit rappel des caractéristiques des IAg.
Qu’est-ce que l’IA générative ?
L’IA générative est une branche de l’intelligence artificielle axée sur la création de contenus. Qu’il s’agisse de textes, d’images, de musiques ou d’autres formes de médias, ces IAg sont formées pour générer des informations en imitant des modèles humains. ChatGPT-4, par exemple, est capable de rédiger des articles ou d’interagir en langage naturel, tandis que Midjourney peut créer des images à partir d’un brief écrit.
Une période inédite
Je n’ai pas connaissance d’une période à laquelle plusieurs métiers vraiment différents de la communication ont été susceptibles d’être remplacés par des machines.
Aujourd’hui, plusieurs métiers clés sont challengés par ces innovations :
- les rédacteurs.trices par ChatGPT et Bard
- les photographes par Midjourney et Dall-E
- les illustrateurs par Midjourney et Dall-E
- les graphistes par Midjourney et Dall-E
- les experts stratégiques par ChatGPT et Bard
Dans la communication, plus d’un métier sur deux va devoir s’adapter à des changements majeurs, mais il serait naïf de considérer que ce sont les seuls enjeux provoqués par ces nouveaux outils.
A suivre, un état des lieux en 2 volets :
- le premier avec un regard sur les questions éthiques soulevées (et elles sont bien plus larges que ce que l’on peut penser)
- le second avec un zoom sur l’avenir de la communication et surtout de la communication responsable
Des questions éthiques qui ne peuvent pas être ignorées
Des contenus naturellement sexistes et racistes
Comme les IAg se basent sur l’ensemble des données glanées sur le web, naturellement elles offrent une continuité à tous les biais sexistes et racistes que l’on trouve dans tant de contenus, que ce soit en texte ou en image.
Je ne suis pas spécialiste de la question et ne saurais m’avancer pour les IA génératives de texte comme ChatGPT ou Bard.
En revanche, j’ai pu constater le sexisme et les stéréotypes nuisibles de Midjourney.
Pour un projet de client, nous avions besoin de portraits de médecins.
Voici les demandes effectuées :
Photo d’une femme médecin souriante. Face caméra, les bras croisés. Fond beige clair uni hyperréaliste.
Photo d’un médecin souriant. Face caméra, les bras croisés. Fond beige clair uni hyperréaliste
Voici les résultats créés :
Ils sont tous tellement blancs !
Crispée par ces résultats, j’ai tenté de préciser ma demande pour obtenir des physiques non caucasiens, j’ai précisé que la femme médecin devait être marocaine.
Voici les résultats créés :
Pourquoi toutes les femmes des 4 propositions sont-elles voilées ? Pourquoi ce lien systématique entre nationalité marocaine et port du voile ?
Le lourd tribut payé par des travailleurs africains pour avoir des IAg saines
Pour répondre à toutes nos questions et créer le contenu le plus pertinent possible, ChatGPT a scanné une immense partie des données du web. Mais dans le web, il y a le dark web, où l’on trouve toutes les horreurs dont le genre humain est capable. Comme une IAg n’a aucune capacité à différencier le bien du mal, il fallait impérativement trier le contenu sur lequel chatGPT allait reposer ses productions.
C’est le rôle qu’on eu des milliers de travailleurs du Kenya et d’autres pays d’Afrique pour un salaire équivalent à 2€/heure. Interrogés par Time en janvier 2023, les travailleurs témoignent de la maltraitance dont ils ont été victimes : c’est moins le bas salaire que le traumatisme provoqué par les contenus terribles auxquels ils ont été confrontés qui est relayés.
Aujourd’hui, Courrier international relaie que les petites mains de la modération (car ils effectuent les mêmes tâches pour Facebook, TikTok et autres) ont voté pour la création d’un syndicat qui pourrait leur apporter plus de protection, exiger des accompagnements psychologiques et ainsi changer la donne pour les géants du numérique.
Quid des droits d’auteur ?
L’une des façons d’obtenir un résultat précis et de qualité sur Midjourney est d’indiquer le style d’un artiste dans son « prompt » (son brief, sa demande).
Les résultats sont bluffants et tellement efficaces qu’il est quasiment impossible de résister à cette astuce pour créer des visuels incroyables.
Sebastiao Salgado est à mes yeux l’un des immenses photographes de notre époque, et quasiment le seul dont je peux reconnaître les photos d’un coup d’œil. Elles me coupent le souffle.
Voici quelques unes des ses œuvres :
Sebastiao Salgado est un maître de la photographie : en plus d’avoir pris des risques considérables pour documenter les situations les plus dramatiques de son époque, il a un style photographique unique.
Construire un style tel que le sien a dû lui demander des milliers d’heures, des dizaines d’années de pratique. J’ai énormément de respect pour lui.
Sur Midjourney, voici le résultat pour le prompt « photo d’un jeune garçon » :
Voici le résultat pour le prompt « photo d’un jeune garçon, dans le style de Sebastiao Salgado » :
Même si ces images sont moins uniques que les œuvres de l’artiste, la proximité avec son travail est si forte, si choquante !
Cette manipulation simplissime est en réalité une usurpation, une forme nouvelle d’atteinte aux droits d’auteur…
Dès janvier 2023, trois artistes se sont associés pour attaquer les services de génération d’images Midjourney, DreamUp (DeviantArt) et Stability AI. Ils reprochent à ces entreprises d’avoir utilisé, sans autorisation, des milliards d’images protégées par le droit d’auteur pour entraîner leurs algorithmes, et d’en avoir « bénéficié commercialement ». Le trio d’artistes cherche surtout « à mettre fin à cette violation flagrante et énorme des droits [des artistes], et ce avant que la profession dans son ensemble ne soit éliminée par un programme informatique entièrement alimenté par leur travail acharné », selon le texte officiel issu de la plainte déposée au tribunal.
Source : Usbek & Rica
Tant que la justice n’aura pas tranché et que les cadres légaux ne seront pas posés, chacun.e est libre de choisir son positionnement personnel.
Les points développés ci-dessus sont loin d’être les seules questions éthiques liées aux IA : deepfakes et désinformation, surveillance, données personnelles, les IA soulèvent de nombreuses questions. Néanmoins il me semble que les questions les plus brûlantes pour les communicants responsables sont celles de la maltraitance et des discriminations provoquées liées à notre utilisation d’un outil, ainsi que la violation des droits d’auteurs.
Dans le second volet, j’aborderai un angle plus opérationnel de l’impact des IAg sur les métiers de la communication.
