La confiance de l’utilisateur, un enjeu pour déployer l’IA

La confiance de l’utilisateur, un enjeu pour déployer l’IA
Seriez-vous prêt à monter dans une voiture sans conducteur ? D’après des sondages récents, la réponse varie drastiquement d’un pays à l’autre et le marché potentiel du véhicule autonome tout autant. Cet exemple de l’IA appliquée aux véhicules illustre combien la confiance de l’utilisateur réside au cœur de l’adoption de l’intelligence artificielle. À quoi peut tenir cette confiance ?

 

L’IA actuellement entre confiance et défiance

Parfois estimée infaillible, rassurante, d’autres fois suspecte et inquiétante, l’intelligence artificielle se retrouve à la croisée de ressentis très divers. Selon le domaine d’application de l’IA, mais aussi de la culture des personnes, elle oscille entre confiance et défiance.

Ainsi, concernant le véhicule autonome, une enquête de l’American Association Automobile menée cette année révèle que 71 % des Américains ne sont pas à l’aise à l’idée d’utiliser un véhicule autonome et même, le craignent – une proportion à la hausse puisqu’elle n’était que de 63 % en 2018. Par contre, selon une autre enquête mondiale du cabinet OC&C Strategy Consultants, la Chine et l’Europe de l’Ouest voient d’un bon œil le véhicule autonome : à peine 4 % de répondants chinois et 33 % de répondants européens font part d’une méfiance envers l’IA au volant.

Dans la vie professionnelle, là encore, les avis varient selon le sujet et la place donnée à l’IA. Oracle et Future Workplace ont récemment mené l’enquête et concluent que 50 % des professionnels utilisent déjà une forme d’IA dans leur travail — preuve que les usages évoluent puisque la proportion n’était que de 32 % l’année dernière. Autre signe en faveur de l’IA : 64 % des répondants font davantage confiance à l’IA qu’à leur patron.

Ce qui n’empêche pas, en parallèle, certaines réserves : 71 % des professionnels s’inquiètent des potentielles fuites de données liées à l’utilisation de la technologie et 30% doutent du respect de la vie privée quand l’IA est intégrée dans le travail.

 

Comment l’IA peut-elle instaurer la confiance ?

La question est vaste et encore largement débattue. Dans les domaines à forts enjeux notamment, tels que la sécurité, la santé, la liberté des personnes, l’IA a le plus à faire pour rassurer et devenir digne de la confiance de l’utilisateur. Les entreprises qui développent des applications d’IA y réfléchissent, conscientes que sans confiance, leurs innovations ne trouveront pas leur marché, ou perdront vite du terrain en cas d’incident. Le véhicule autonome l’illustre bien : si personne n’est prêt à monter à bord, il ne se vendra pas, peu importe que 9 accidents sur 10 soient dus à l’erreur humaine.

Une IA de confiance serait-elle une IA que l’utilisateur comprend ? Sans doute dans l’absolu, sauf que les résultats fournis par la machine sont difficiles à expliquer. Il s’agit là du phénomène de la boîte noire de l’IA : les règles mathématiques qui la font tourner sont connues, mais il reste ardu (y compris pour les développeurs) de savoir pourquoi parmi d’innombrables paramètres analysés par les algorithmes, certains prennent le dessus dans les résultats. Il est donc peu réaliste d’attendre que l’utilisateur comprenne tous les rouages de l’IA pour l’estampiller du sceau de la confiance.

 

L’humain, ultime critère d’une IA de confiance ?

La question de la confiance dans l’IA ne peut pas passer à côté de l’humain. L’humain au cœur de l’IA, l’humain qui développe l’intelligence artificielle et l’humain qui reste à un poste de contrôle de l’IA en action. Ce critère humain émerge notamment parmi les règles éthiques d’une IA de confiance selon le rapport rédigé cette année par 52 experts réunis par la Commission européenne. Ce rapport souligne l’importance de la supervision humaine, de la transparence, de la robustesse et de la non-discrimination, entre autres, pour que l’IA soit estimée digne de confiance.

Ainsi, il est attendu que ceux qui font l’IA prennent les enjeux éthiques à bras le corps. Leur collaboration est aussi essentielle, notamment dans le partage des données qui entraînent la machine pour éviter les biais.

Enfin, selon Luc Julia, l’une des grandes figures mondiales de l’IA, la machine ne crée pas, ne réfléchit pas, et les humains conservent pleinement la main sur ces techniques. Ainsi, l’IA de confiance doit bel et bien conserver son côté humain.

A propos de l'auteur

Frederi Mandin

Directeur Technique IA

Recevez par mail les articles et actualités de Au coeur des InfrasJe m'inscris à la Newsletter