Intelligence artificielle

Duplex, un logiciel vocal à la fois fascinant et inquiétant

Les développeurs et la communauté high-tech se sont enthousiasmés des capacités du nouveau logiciel vocal de Google. Mais certains critiquent ces avancées technologiques dénuées de sens éthique

La relation de l’homme à la machine se pose avec une acuité inédite en ces années 2010. L’avènement des assistants vocaux, du corps augmenté ou de l’intelligence artificielle suscite d’innombrables questions. A l’occasion d’un colloque à l’EPFL, nous consacrons une série d’articles à ces enjeux.

Dans la même série:

La démonstration avait fait sensation. Mais aussi suscité la polémique. Début mai, lors de sa grande conférence annuelle I/O, Google avait dévoilé Duplex, un logiciel vocal dopé à l’intelligence artificielle et capable de passer des coups de téléphone sans que son interlocuteur s’aperçoive qu’il ne parle pas à un être humain. «Il est difficile de croire qu’une intelligence artificielle peut interagir aussi naturellement avec des gens», s’enthousiasmait alors le site spécialisé The Verge.

Lire aussi: Et si l’intelligence artificielle était déjà hors de contrôle?

Si Duplex reste encore une démo technologique – Google n’a fourni aucune indication sur son lancement –, il représente un gigantesque bond en avant par rapport aux solutions actuelles. Que ce soient les systèmes vocaux utilisés par les centres d’appel, qui demeurent très sommaires, les chatbots, ces petits programmes informatiques capables de chatter, ou encore les logiciels d’assistants vocaux (Assistant de Google, Siri d’Apple, Alexa d’Amazon, Cortana de Microsoft), qui ont pourtant connu d’importants progrès ces dernières années.

Une conversation plus humaine

Duplex s’illustre notamment par ses capacités d’analyse de la conversation. Dans un exemple publié par Google, son interlocutrice commet une erreur de compréhension, confondant la date avec le nombre de couverts pour une réservation. Mais le logiciel a pu détecter le problème et corriger immédiatement le malentendu. Duplex se distingue aussi par l’utilisation d’un langage naturel, ponctuant les conversations de «hum», «euh» ou encore «compris». Un moyen de rendre la conversation plus «humaine», selon Google.

Duplex s’inscrit dans l’une des missions que s’est fixées Larry Page, le cofondateur de la société de Mountain View: «S’occuper des travaux difficiles pour permettre aux gens de faire les choses qui les rendent véritablement heureux». Intégré au Google Assistant, le logiciel permettra de réserver un restaurant ou de prendre un rendez-vous sans effort, en demandant simplement à son smartphone ou à son enceinte connectée de le faire. Le système rendra par ailleurs ces tâches accessibles aux sourds et aux muets, ainsi qu’aux personnes angoissées par les appels téléphoniques.

Un logiciel menteur?

Google met également en avant de potentielles applications pour les entreprises. Duplex pourrait devenir un service vocal leur permettant de fixer des rendez-vous, de prendre des réservations et de répondre à des questions simples (horaires d’ouverture, dernières promotions…). Le logiciel pourrait aussi appeler des clients, par exemple pour leur rappeler un rendez-vous ou une réservation. Et il pourrait être utilisé pour de l’assistance ou du démarchage par téléphone.

Il pourrait bientôt être difficile de distinguer un logiciel d’un humain. Ce qui pose des questions éthiques, auxquelles la Silicon Valley devra faire face

Acclamée par les développeurs et globalement saluée par la communauté high-tech, la démonstration de Google a cependant engendré de nombreuses critiques. «La Silicon Valley a perdu son éthique et n’a pas appris de ses erreurs», s’emporte ainsi Zeynep Tufekci, sociologue au sein de l’Université de Caroline du Nord. Elle dénonce un logiciel qui cherche «délibérément à tromper» la personne au bout du fil. Face aux critiques, Google a expliqué que son système pourrait indiquer au début de la conversation qu’il n’est pas humain.

Lire aussi: En Suisse, l'intelligence artificielle est devenue omniprésente

Des utilisations malveillantes sont à craindre

Au-delà, Duplex pose la question de la volonté de concevoir une intelligence artificielle capable d’agir ou de parler comme une personne. «Le développement d’une intelligence artificielle dotée d’émotions va ouvrir la voie à des interactions encore plus naturelles et fluides», promet Greg Corrado, chercheur chez Google. Autrement dit, il pourrait bientôt être difficile de distinguer un logiciel d’un humain. Ce qui pose des questions éthiques, auxquelles la Silicon Valley devra faire face. Car cela pourrait entraîner des utilisations malveillantes.

«Alors que les technologies deviennent meilleures pour remplir des tâches humaines, les efforts devraient être concentrés sur la protection des personnes», regrette Zeynep Tufekci. Enfin, Duplex ouvre un autre débat: l’impact de ces technologies sur le marché du travail. Car plusieurs métiers pourraient être voués à la disparition.

Lire: Pour contrer Apple, Google invente le téléphone qui prend des rendez-vous

Publicité