Avec toujours une longueur d’avance dans l’IA générative, Brandtech dévoile une initiative visant à promouvoir et encadrer l’utilisation éthique de l’intelligence artificielle générative. Cette technologie propriétaire appelée “Bias Breaker” s’attaque aux préjugés grandissants dans les LLMs.
Après plus d’un an de développement, Bias Breaker de Brandtech est désormais opérationnelle et intégrée à Pencil, la première plateforme de marketing d’IA générative du secteur, propriété de Brandtech. Depuis son lancement en 2018, Pencil a déjà généré plus d’un million de publicités pour plus de 5 000 marques, avec un budget média de 1 milliard de dollars ayant entraîné la plateforme, permettant également de faire des prédictions de performance.
Un engagement dans les pratiques d’IA responsable
C’est une des initiatives développées par le groupe pionnier en IA générative, qui reflète l’engagement de Brandtech à fournir de manière responsable et éthique des services d’IA générative dans trois domaines clés : les équipes qu’elle recrute, promeut et forme, les technologies qu’elle développe et les services qu’elle propose.
Parmi les nombreux types de biais, les équipes Recherche et Développement de Brandtech ont révélé que les images générées par les LLMs représentent toujours entre 98 % et 100 % d’hommes lorsqu’ils sont sollicités pour représenter un « PDG » ; la majorité des résultats sur représentant des PDG masculins (ou perçus comme tels) par rapport à la réalité.
Cette recherche a révélé d’autres biais significatifs. Deux des modèles ont généré à 100 % des images d’hommes lors de 100 itérations en réponse à la demande d’image d’un PDG. Un autre modèle a produit 98 % d’images masculines, tandis que deux autres ont affiché des PDG masculins respectivement 86 % et 85 % du temps. En réalité, bien que les réponses soient meilleures, elles restent loin de l’égalité. Selon l’étude Women in the Workplace de McKinsey l’année dernière, 28 % des postes de direction étaient occupés par des femmes, et 10,4 % des PDG des entreprises du Fortune 500 étaient des femmes.
À découvrir sur JUPDLC
La technologie propriétaire Bias Breaker ajoute une brique d’inclusivité dans les prompts, soutenue par des probabilités. Brandtech a configuré plusieurs des éléments les plus courants de diversité, qui, dans cette version de Bias Breaker, incluant l’âge, la race, les capacités, l’identité de genre et la religion. Ainsi, lorsqu’un utilisateur saisit une simple instruction, comme « un PDG », l’outil introduit automatiquement plusieurs types d’inclusivité, variables à chaque fois, pour créer une instruction plus sophistiquée à utiliser dans n’importe quel modèle de génération d’images. Cela permet de produire des images qui, au lieu de refléter les biais présents dans les données d’entraînement, ajoutent un biais positif en faveur d’une large diversité et intersectionnalité que les modèles actuels ne prennent tout simplement pas en compte.
Rebecca Sykes Brandtech Group Partner and Head of Emerging Technology précise: « L’exemple des PDG est juste une des nombreuses façons dont le biais se manifeste, et c’est le cas d’usage simple que nous avons utilisé pour démontrer les défis et les implications de ne pas aborder ces biais. Il existe bien d’autres exemples, allant des plus évidents — les infirmières et les aides-soignantes sont en majorité des femmes, il y a un manque flagrant de représentation du handicap, etc. — aux cas beaucoup plus nuancés. Avec Bias Breaker, nous espérons traiter tous ces aspects. »
Un modèle de politique d’IA éthique gratuit pour guider les entreprises
L’offre d’IA générative éthique de Brandtech comprend également un ensemble de mesures pratiques, notamment la publication d’un modèle pour aider chacun à créer une politique d’IA générative éthique. Ce modèle, qui intègre les vastes connaissances acquises par le groupe dans ce domaine, est disponible gratuitement pour tous. Brandtech vise à aller au-delà de la simple conformité aux réglementations légales.
Brandtech a constaté que les directeurs marketing (CMOs) posent de plus en plus de questions sur l’usage éthique de l’IA générative, alors qu’ils passent de phases pilotes à des déploiements à grande échelle. Le package d’IA générative éthique, qui inclut Bias Breaker, répond directement à ces questions.
David Jones, fondateur et PDG de Brandtech, termine : « Lorsque les réseaux sociaux ont explosé, personne n’a vu venir les problèmes négatifs. Avec l’IA générative, nous avons la possibilité d’anticiper ces enjeux plutôt que d’être réactifs après coup. Bekki, Tyra et les équipes d’IA générative ont travaillé intensivement avec nos clients pour créer des meilleures pratiques et diriger le marché. »
