Depuis toute petite, je suis bercée des histoires d’intelligence artificielle (IA) : des robots et d’objets permettant de tout savoir sur moi (avant même de poser la question), de résoudre des problèmes complexes et même de cultiver une histoire amoureuse (Her). Ces pensées ne datent pas d’hier, les robots et l’IA ne sont pas nouveaux : déjà dans la mythologie grecque, les robots dorés de Pygmalion, Héphaïstos et Galatée étaient contés. On peut parler également des célèbres Golem, de la culture judaïque.
L’IA reste donc présente dans la conscience collective comme un fantasme d’une intelligence façonnée par l’Homme et reprise majoritairement par les œuvres de Science Fiction : on peut parler de l’épisode 1 de la saison 6 de la série Black Mirror, où les deepfakes utilisés permettent de créer une série avec n’importe quelle personne (même si, maintenant, la réalité peut dépasser la fiction).
Comme vous l’avez probablement remarqué, l’IA est sur le devant de la scène au niveau du grand public, notamment avec un outil, Chat GPT. Mais aussi avec le développement de modèles de génération d’images, de vidéos ou de bruitages (et sons). Développé par Open AI, le modèle conversationnel, ChatGPT, est un outil permettant de poser des questions et d’avoir des réponses, comme un chatbot. Cependant, celui-ci a été entraîné par un nombre incalculable de données présentes sur le web, sur les documents et toute autre data.
C’est un modèle entraîné sur l’apprentissage par la récompense, comme on l’utilise beaucoup dans notre quotidien. Sur la version 3.5, qui est gratuite, il est entraîné avec des données allant jusqu’à mi-2021. La version 4.0 payante prend en compte tous les retours, avis et demandes traitées depuis cette période. Elle est donc plus précise que la version gratuite. Certaines API se basent sur la version 4.0, notamment sur l’accessibilité et la compensation des handicaps, comme avec BeMyEyes, permettant une plus grande indépendance sur ces outils.
D’autres applications ont été réalisées, telles que les outils déclinés sur Photoshop, avec la génération d’images. Mais aussi sur Miro, les moteurs de recherche (Bing, Google…). Il s’intègre de façon plus poussée dans l’utilisation de nos interfaces digitales. Il est donc nécessaire d’en parler et de traiter des différentes opportunités et limites dans le cadre du handicap et de l’accessibilité numérique.
En tant que consultante accessibilité, des questionnements peuvent être lancés :
- Est-ce que ça peut aider les personnes en situation de handicaps ?
- En tant qu’auditeur, je n'ai plus besoin de travailler ! Le modèle est entraîné, je peux juste faire des copiés/collés !
- Je peux lui poser des questions très techniques !
- Je peux lui faire faire du code !
- Est-ce que ça peut m'aider dans mon travail au quotidien ?
- Est-ce que l'interface ChatGPT est accessible? (La réponse est non)
👉🏽 Nous allons essayer de répondre à ces interrogations dans cette série de 3 articles consacrée à l’intelligence artificielle !
Prenons le prisme des personnes en situation de handicap(s)
Une grande partie de la communauté de personnes en situation de handicap(s) se sent sous-représentée, que ce soit dans la création de produits/services ou dans la représentation dans les médias. On peut se dire que générer des images plus inclusives, prenant en compte les handicaps, mais prenant aussi en compte les minorités pourrait ainsi augmenter cette représentativité. Les médias et la représentation ont donc un biais cognitif à ce sujet, mais l’IA peut-elle réduire ce fossé?
Vérifions ensemble et prenons le cas d’une recherche sur un handicap particulier :
- Lorsque j’utilise le script (message qui permet de lancer la génération d’une image, par exemple), “Personne en situation de handicap”, le rendu est en majorité une représentation d’une personne avec un fauteuil roulant.
Source : script lancé sur Dall-e (Open ai) “ a disabled person”
- Si j’écris “Personne malvoyante”, ce sera automatiquement une personne aveugle.
.png?width=2000&height=764&name=Untitled%20(1).png)
Source : script lancé sur Dall-e (Open ai) “visually impaired person”
Il est donc important de noter que les modèles sont entrainés avec ce qui est déjà existant, ce qui implique des biais, que nous devons toujours prendre en compte. Cependant, plus on va détailler le script, plus il correspondra à une représentation du handicap beaucoup plus fine et plus respectueuse des personnes touchées. Nous avons une part de responsabilité dans ce cadre, et il est important, en tant que contributeur, d’affiner les modèles existants pour tendre vers une représentation plus juste, et donner plus de données aux modèles pour changer ce paradigme.
Cependant, n’est-il pas plus pertinent, dans cette quête de représentation, de laisser la place aux humains ? Poser les questions à cette population souvent discriminée et les faire participer pleinement à la vie en société, plutôt que d’avoir à faire à des avatars?
Mais pourquoi ne pas directement intégrer certains handicaps, du moins, de façon visible, dans les recherches que nous pouvons lancer sur les outils de génération d’images d’IA? Un commercial peut être aveugle, une ingénieure peut ne pas avoir l’usage d’une de ses mains…
Et les utilisateurs.trices qui utilisent l’IA et notamment chat GPT?
Bien que ChatGPT nous offre de grandes opportunités, est-ce que les personnes en situation de handicaps peuvent l’utiliser?
Je me suis basée sur les critères du RGAA 4.1.1 afin de réaliser cette analyse :
- Le menu de navigation n’est pas accessible au clavier
- L’interface est de base en anglais et pour passer en français, il faut poser une question en français
- Il n’y a pas de lien d’évitement afin de passer au contenu
- Les boutons ou alternatives d’images n’ont pas d’alternative textuelle
- Les changements de statuts ne sont pas vocalisés etc…
Nous nous rendons vite compte que notre réponse est donc que l’interface ne respecte pas les normes d’accessibilité WCAG ou RGAA. Cependant, l’utilisation de l’API pourrait être intégrable sur une interface, qui serait, elle, accessible ! ChatGPT n’est donc pas utilisable par toutes les personnes ayant un handicap, par un malvoyant ou une personne utilisant seulement son clavier par exemple.
La représentation du handicap dans l’UX, l’IA peut-elle combler le fossé ?
L’UX a pour mission de recentrer les interfaces, les produits et la proposition de valeurs sur une vision centrée-utilisateurs.trices. Ainsi, l’IA peut s’intégrer dans le processus de génération d’idées, de persona, ou aider aux sessions de brainstorm dans les ateliers d’idéation.
.png?width=2000&height=817&name=Untitled%20(2).png)
Source du graphique : https://www.extension-graphic.com/design-web-mobile/ux-designer-freelance-lyon/ux-schema/
A l’issue d’une phase introductive, je souhaite aborder les points bloquants de personnes de tout bord, sur mon nouveau site e-commerce :
| 👉🏽 Certaines personnes peuvent rencontrer des obstacles lorsqu'elles naviguent sur un site e-commerce. Voici quelques points bloquants courants auxquels elles peuvent être confrontées :
Ces points bloquants peuvent varier en fonction des besoins spécifiques de chaque personne, mais ils représentent des aspects importants à prendre en compte pour améliorer l'accessibilité et l'expérience utilisateur sur un site e-commerce. |
L’accessibilité est mise en avant dans les points bloquants, ce qui peut aider les personnes non impactées à creuser ce sujet là en détail. L’outil ne donnera pas toutes les informations mais peut être un tremplin.
- Aussi, à l’issue des interview, la phase de création de persona est souvent obligatoire :
Générons trois persona dans le e-commerce grâce à ChatGPT 3.5 :
https://chat.openai.com/share/dd4e1fa2-b734-40df-8e28-addd8ae8f381
Comme cité dans le cas pratique, nous avons pris le secteur de l’e-commerce, avec un segment de population très ouvert (de 15 ans à 84 ans). Les résultats nous sortent effectivement trois persona avec des histoires distinctes, et très généralistes. ****
Cela pourrait suffire, mais le problème central est le manque de sources dû à la génération par l’IA. Chaque persona est définie en fonction d’une méthodologie claire et définie mettant en œuvre des questionnaires, recherches primaires et secondaires. Ici, l’ensemble est court-circuité pour nous donner des éléments clé-en-main.
Pour synthétiser, l’IA peut donc aider à la représentation des personnes en situation de handicap, mais ne doit pas être vue comme une surcouche, où les besoins sont réduits à des questionnements sur ChatGPT. Une grande partie du travail consiste à comprendre les personnes et à les intégrer de façon substantielle à la création, au développement puis au test de toutes les interfaces, services et produits proposés au grand public.
L’IA est biaisée et c’est de notre devoir en tant qu’utilisateur.trice de solutions IA, d’entraîner, de communiquer sur les besoins propres aux personnes en situation de handicaps, dans un objectif d’inclusion à plus grand niveau.
La question se pose donc, est-ce que le futur de l’IA sera enfin accessible au plus grand nombre ?
