La Première Ligne est écrite ❤️🔥 La troisième édition du magazine est disponible !
Dans cette première battle, Magali et Emmanuelle débattent de l'utilisation de l'IA, de ses problématiques éthiques... Ici, Emmanuelle prend la position du oui.
Quand Magali a proposé d'écrire son article "Non, je n'utiliserai pas l'IA", j'ai tout de suite proposé de faire un battle en écrivant son contraire : "Oui, j'utilise l'IA".
Étant sourde, j’ai besoin des sous-titres pour suivre les réunions, les conférences et les vidéos. Souvent, j’ai recours aux sous-titres automatiques pour accéder aux contenus. Quand je peux, j’utilise un vrai service de sous-titrage pour les réunions via une personne qui sous-titre les échanges. Cela m’aide énormément. Mais je ne peux pas toujours l’utiliser car ce service est ouvert qu'à certaines tranches d'horaires sous réserve de disponibilité. Du coup, je me rabats sur les sous-titres automatiques, mais leur qualité varie d'un moment à l'autre.
C'est pourquoi je me pose régulièrement la question si je dois continuer utiliser l’intelligence artificielle pour mes besoins si la qualité varie ?
Quand je vois qu'avec les sous-titres automatiques il y a beaucoup d'erreurs, je suis obligée de faire de la suppléance mentale en lisant sur les lèvres (quand je peux) et en écoutant (si je peux) pour pouvoir suivre la conférence, la réunion ou encore la vidéo que je regarde. Mine de rien, cela demande beaucoup d'énergie de suivre des échanges avec des sous-titres automatiques erronées pour combler les trous. À force de les utiliser, j'ai appris à savoir quand les utiliser et quand ne pas les utiliser.
En général, je ne les utilise pas quand c'est un sujet très technique. L'IA ne comprend pas les termes techniques parce qu'elle ne les a pas dans son répertoire. En plus de ce point, les erreurs augmentent quand le son est mauvais, quand la connexion wifi est mauvaise et surtout quand la personne a un accent. J’ai un accent de personne sourde et à chaque fois que je prends la parole, l’intelligence artificielle a du mal à me comprendre et donc à sous-titrer ce que je dis. 1
Quand j'ai préparé ma conférence "L'IA et handicap : progrès ou exclusion ?2 avec ma comparse Thanh Lan DOUBLIER, nous avons fait beaucoup de recherches et testé pleins d'IA pour générer des textes et des images. Cela nous a beaucoup déprimé quand nous avons découvert les biais associés au handicap. Forcément, ça m'a remise un peu en question. Devrais-je continuer à utiliser l'IA ?
En faisant toutes ces recherches avec Thanh Lan, j'ai réalisé les problèmes éthiques et me suis rendue compte que le handicap est vraiment sous-représenté dans l’intelligence artificielle.
Par exemple, à plusieurs reprises, j'avais demandé à Midjourney de me donner sa vision d'une personne sourde et elle m'a généré une vieille dame très âgée. Pour la société, la surdité ne touche que les personnes âgées. Or, elle peut survenir à n'importe quel moment et à tout âge.
Jeremy Andrews Davis a fait également une démo similaire sur l'autisme. À travers cette vidéo, on voit que Midjourney échoue à représenter correctement une personne autiste. Si vous regardez bien, on voit que c'est toujours un homme blanc avec la même tête bizarre et dépressif alors qu'une personne autiste n'est pas du tout ainsi. Une personne handicapée n'a t-elle pas le droit d'être bien dans sa peau et être heureuse ?
Le handicap est très mal représenté dans les IA parce que celles-ci ont une vision très étriquée du handicap. Nous le savons, elles sont le reflet de la société. Ce que la société perçoit, l'IA le reproduit aussi. Enfin, ça dépend qui la conçoit. Si la personne qui programme l'IA n'est pas sensibilisée au handicap, vous pouvez être sûr qu'elle y mettra que sa propre vision du handicap.
Souvenez vous de l'IA Tay de Microsoft qui est devenue raciste au bout de quelques heures sur Twitter il y a quelques années.
Si l'équipe qui crée une IA est diversifiée, nous pouvons avoir une IA inclusive. Si elle ne l'est pas, vous pouvez être sûre qu'elle est biaisée. Nous le voyons à travers la campagne Jamais sans elles où les hommes sont des CEO et les femmes des secrétaires. Pourquoi ? Parce que les algorithmes étaient majoritairement créés par des hommes blancs valides et cisgenres.
Autre point, il y a quelques temps, j’ai vu un post d’une connaissance sourde qui conversait avec ChatGPT. Elle trouvait ses réponses pertinentes et a dit qu’elle aimait bien converser avec cette IA. Le risque est qu’à force de converser avec une IA, j'ai peur qu'elle perde son esprit critique et qu’elle dise « l’IA a dit cela, l’IA a dit ceci » comme une seule et unique vérité. D'ailleurs, elle n'est pas la seule. 3
Nous le savons, ChatGPT ne donne pas ses sources, du coup, comment savoir ce qui est vrai et ce qui est faux ? Il faut donc se remettre constamment en question en se demandant si un article, une vidéo ou une image est l'œuvre d'une IA. Il devient de plus en plus difficile de les détecter mais cela ne nous empêche pas de vérifier les sources pour en avoir le cœur net.
L’IA peut influencer sans problème une personne de manière inconsciente. Si on n’explique pas à une personne, notamment une personne handicapée, que l’IA n’est pas omnisciente et qu’elle est dénuée d’empathie, celle-ci va croire tout ce qu’elle dit. Ce qui est arrivé à une personne belge qui a conversé avec l'IA Eliza 4 et qui s’est suicidée par la suite après lui avoir demandé s’il fallait mettre fin à ses jours.
L’IA est utile mais n’est pas la réponse à tout. Elle n’a pas vocation à remplacer l’humain. Ce qu’on oublie avant tout, l’IA est un outil.
Du coup, comme l’IA est un outil, oui, j’utilise l’IA comme un outil.
Avec cette pensée, je suis persuadée que l'intelligence artificielle peut améliorer notre quotidien, y compris celui des personnes handicapées en tant qu’outil. Je vois pleins d'outils automatiques permettant d'aider les personnes handicapées, moi la première. Personnellement, je n'hésite pas à l'utiliser que quand j'en ai besoin.
Comme je l'ai dit un peu plus tôt, j'ai besoin des sous-titres régulièrement et je ne peux pas toujours faire appel à un humain. Donc pour suivre les conférences, réunions et lire des vidéos, je n'hésite pas à utiliser des sous-titres automatiques. Quand ça marche très bien, je suis très contente. Quand ça ne marche pas, notamment pour une vidéo, je passe à autre chose, je ne me force pas à la regarder.
Récemment, j’ai fait l’acquisition d’un outil d’enregistrement vocal qui permet de transcrire automatiquement ce que j’ai enregistré. En plus, ça résume tout ce qui a été dit pendant l’enregistrement. Quand j’assiste à des conférences qui me sont accessibles, je prends des notes, mais je ne peux pas lire les sous-titres et prendre des notes en même temps contrairement aux personnes entendantes qui peuvent écouter ET prendre des notes. Quand j'assiste à des conférences qui ne me sont pas accessibles, je ne peux pas prendre des notes car je dois lire sur les lèvres ou alors j'utilise les sous-titres automatiques qui peuvent plus au moins bien fonctionner. Dans ce cas, j'utilise ma suppléance mentale pour combler les trous.
Dans les deux cas, je rate pas mal (parfois beaucoup) d’informations. Avec ce gadget, je peux tranquillement enregistrer la conférence et demander à l’IA de me transcrire et résumer la conf. Du coup, l’IA fait la prise de notes à ma place, me permettant d’accéder plus facilement aux connaissances plus en profondeur et de ne pas louper les informations que j’ai pu manquer sans le savoir.
Je connais quelques personnes sourdes et malentendantes (y compris moi) qui éprouvent de l’anxiété à suivre des conférences, parce qu’elles ont peur de ne pas pouvoir suivre et de louper des choses. Du coup, elles n’y assistent pas et ratent des connaissances qui leur permettent d’évoluer. L’IA peut les aider à enlever cette anxiété et leur éviter de rater ces connaissances. Bien sûr, l’IA n’est pas parfaite et peut faire des erreurs de retranscription. Du moment qu’on a ça en tête, ça réduit quand même la charge mentale.
De plus, à chaque fois que j’assiste à une conférence que j’ai beaucoup appréciée, je me souviens d’avoir apprécié mais j’ai oublié tout ce que j’ai appris car j’ai assimilé trop d’informations, à tel point que j’oublie tout. En ayant une prise de notes automatique, je me souviens à la relecture pourquoi j’avais apprécié et ça me permet également de réapprendre jusqu’à ce que j’ai assimilé à mon rythme les informations. Aussi, quand j’assiste à une conférence non accessible, cela me demande beaucoup d’énergie et de suppléance mentale, ce qui fait que je n’ai pas beaucoup de place pour retenir toutes les informations que je veux retenir.
Néanmoins, je le répète, n'oublions pas que l'intelligence artificielle est un outil. Elle n'est pas LA solution. Quand on s'en sert, il faut l'utiliser avec parcimonie. Gardons le contrôle de ce qu'on fait quand on utilise une IA notamment générative. Par exemple, je demande à reformuler mon texte. Lorsque l'IA fait sa proposition de reformulation, je choisis de garder ou pas cette reformulation. Je peux choisir de prendre un mot, deux mots ou plus qui me plaisent et reformuler moi-même. J'ai le contrôle de mon texte. Ainsi, mon texte garde ma patte avec l'aide de l'IA.
Je garde aussi le contrôle en vérifiant les sources, en ne me fiant pas à l'aveugle ce que je lis et ce que je vois. Si j'utilise une IA pour créer une image, je le stipule à chaque fois pour ne pas induire les personnes en erreur. Faites de même.
Aussi, lorsqu'on utilise le sous-titrage automatique pour sous-titrer une vidéo, ne publions pas en l'état. Vérifions que les sous-titres automatiques sont corrects et s'ils ne le sont pas, corrigeons. C'est important de faire corriger les erreurs des sous-titres automatiques sinon les sous-titres bourrés d'erreurs rendent la lecture complètement incompréhensible ou inconfortable. Utiliser l'IA pour sous-titrer une vidéo ou transcrire un podcast permet de gagner énormément de temps car toute la création des sous-titres et la synchronisation sont faites. Il ne reste plus qu'à vérifier et corriger. La dernière partie prend toujours un peu de temps, c'est normal, mais c'est important de ne pas passer outre cet étape !
Je dis toujours que mélanger l’intelligence artificielle avec l’intelligence humaine rend l’expérience meilleure et, par conséquent, la qualité des sous-titres meilleure. C’est valable pour toute autre action.
En résumé, on ne peut pas se permettre de faire n'importe quoi avec l'intelligence artificielle. Utilisons l'IA comme un outil tout en étant conscient de ses biais et n'accordons pas toute notre confiance à l'intelligence artificielle sans vérifier.
Avec l'intelligence artificielle, créons des outils inclusifs qui aident la communauté tout en collaborant avec elle.
Sources :
IA et handicap : entre bénéfices et dérives validistes?
Comment développer la langue des signes française automatique ?
Les sous-titres automatiques à Devoxx
Handicap et intelligence artificielle
Reportage de L'Œil et La Main sur FranceTV : L'intelligence artificielle, une nouvelle dimension
J'ai donné une conférence sur la reconnaissance vocale en 2022 à Paris Web Speech-to-Text : quels sont ses avantages et ses limites ? ↩
Thanh Lan et moi avons donné cette conférence à plusieurs reprises dont à Paris Web, à Devoxx et MiXiT. Nous évoluons à chaque fois au fur à mesure de l'actualité. ↩
La série "Black Mirror" et le film "Her" deviennent vraiment petit à petit réalité et c'est assez flippant. Je vous invite également à lire l'article ChatGPT : ces personnes utilisent l’IA comme coach de vie même si « c’est un peu la honte » et vous verrez que c'est réellement en train de se passer. ↩
Lire l'article "J'aimerais te voir mort": Eliza, l'IA accusée d'avoir conduit un homme au suicide. Quand j'ai lu cet article, ça m'a fait flippé. ↩
