{"id":1266,"date":"2018-03-14T23:19:20","date_gmt":"2018-03-15T04:19:20","guid":{"rendered":"http:\/\/www.jeanmarcpelletier.net\/blog\/?p=1266"},"modified":"2018-03-15T14:16:43","modified_gmt":"2018-03-15T19:16:43","slug":"les-automobiles-conduites-par-lintelligence-artificielle-attention-aux-hallucinations","status":"publish","type":"post","link":"http:\/\/www.jeanmarcpelletier.net\/blog\/2018\/03\/14\/les-automobiles-conduites-par-lintelligence-artificielle-attention-aux-hallucinations\/","title":{"rendered":"Les automobiles contr\u00f4l\u00e9es par l’intelligence artificielle : attention aux \u00ab\u00a0hallucinations\u00a0\u00bb"},"content":{"rendered":"

Depuis l’av\u00e8nement des voitures \u00e9lectriques, le secteur du transport routier – camionnage, v\u00e9hicules passagers,… – conna\u00eet une effervescence qui ne cesse de surprendre. A ce moment-ci, l’emphase est mise sur la conduite automatis\u00e9e des camions et des automobiles alors que des syst\u00e8mes \u00e9lectroniques et informatiques sophistiqu\u00e9s prennent le relais sur la conduite humaine. Les essais se multiplient et, d\u00e9j\u00e0 dans certains \u00e9tats am\u00e9ricains, les autorit\u00e9s autorisent la conduite automobile automatis\u00e9e sans intervention humaine.<\/p>\n

Il importe de souligner le fait que, dans de tels v\u00e9hicules, plusieurs syst\u00e8mes \u00e9lectroniques et informatiques analysent constamment les conditions environnantes afin d’adopter une conduite efficace et s\u00e9curitaire. C’est ainsi que des logiciels de g\u00e9olocalisation, assist\u00e9s de cartes routi\u00e8res stock\u00e9es \u00e0 bord des v\u00e9hicules, sont en mesure de localiser le v\u00e9hicule \u00e0 tout moment de fa\u00e7on tr\u00e8s pr\u00e9cise. Et ces syst\u00e8mes, coupl\u00e9s avec des radars et autres dispositifs de d\u00e9tection, sont en mesure de faire face aux impr\u00e9vus routiers – arr\u00eat brusque du v\u00e9hicule situ\u00e9 \u00e0 l’avant, changement de voie d’un autre v\u00e9hicule, passage d’un pi\u00e9ton,… – et d’adopter les actions n\u00e9cessaires en vue d’assurer la s\u00e9curit\u00e9 de tous.<\/p>\n

\"\"<\/p>\n

Ainsi, \u00e0 ce jour, les r\u00e9sultats sont probants malgr\u00e9 des \u00ab\u00a0erreurs de jugement\u00a0\u00bb de certains prototypes ayant, par exemple, fait le choix de changer de voie de circulation… tout en omettant de d\u00e9tecter un autobus qui circulait d\u00e9j\u00e0 dans cette voie, tel que nous le rapporte le magazine Wired:<\/p>\n

Google’s Self-Driving Car Caused Its First Crash – Wired – 2016-02-29<\/a><\/p>\n

Cela \u00e9tant, malgr\u00e9 la sophistication des logiciels et syst\u00e8mes \u00e9lectroniques, la conduite automatis\u00e9e n’est vraiment s\u00e9curitaire que si on y introduit des \u00ab\u00a0logiciels intelligents\u00a0\u00bb en mesure de dupliquer les capacit\u00e9s d’analyse et d’interpr\u00e9tation de l’humain. A cet \u00e9gard, le domaine de l’intelligence artificielle, que l’on d\u00e9nomme \u00ab\u00a0apprentissage profond\u00a0\u00bb (\u00ab\u00a0deep learning\u00a0\u00bb), est un domaine en plein d\u00e9veloppement et qui s’av\u00e9rera incontournable pour assurer une conduite automatis\u00e9e s\u00e9curitaire.<\/p>\n

\"\"\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0\u00a0 \"\"<\/p>\n

Mais, tel que l’ont d\u00e9montr\u00e9 plusieurs sp\u00e9cialistes dans le secteur du transport routier, les syst\u00e8mes \u00ab\u00a0intelligents\u00a0\u00bb d\u00e9velopp\u00e9s \u00e0 ce jour, bas\u00e9s sur l’intelligence artificielle, ne sont pas infaillibles…<\/p>\n

Les \u00ab\u00a0hallucinations\u00a0\u00bb des syst\u00e8mes bas\u00e9s sur l’intelligence artificielle<\/h4>\n

C’est ainis qu’un logiciel d\u00e9velopp\u00e9 par Google a interpr\u00e9t\u00e9 l’image suivante comme \u00e9tant celle d’un h\u00e9licopt\u00e8re – ou m\u00eame un v\u00e9hicule – et non pas comme \u00e9tant des fusils d’assaut:<\/p>\n

\"\"<\/p>\n

Alors, comment un syst\u00e8me sophistiqu\u00e9 bas\u00e9 sur l’intelligence artificielle a-t-il pu errer de la sorte?<\/p>\n

Simplement parce que des chercheurs du Massachusetts Institute of Technologie (MIT) ont juxtapos\u00e9 une autre image – imperceptible \u00e0 l’oeil – dans l’image d’origine avant de la soumettre \u00e0 l’analyse du logiciel de Google:<\/p>\n

\"\"<\/p>\n

 <\/p>\n

A l’\u00e9vidence, le syst\u00e8me d\u00e9velopp\u00e9 par les chercheurs de Google, quoique tr\u00e8s sophistiqu\u00e9 et tr\u00e8s \u00ab\u00a0instruit\u00a0\u00bb, a \u00e9t\u00e9 leurr\u00e9 par la juxtaposition d’une autre image qui en a fauss\u00e9 l’interpr\u00e9tation, ce qu’un humain aurait su d\u00e9tecter. C’est ce dont nous relate le magazine Wired dans une publication r\u00e9cente:<\/p>\n

Researchers Fooled a Google AI into Thinking a Rifle was an Helicopter – Wired – 2017-12-20<\/a><\/p>\n

Un panneau de signalisation \u00ab\u00a0Arr\u00eat\u00a0\u00bb interpr\u00e9t\u00e9 comme… une limite de vitesse!<\/h4>\n

Dans un autre essai men\u00e9 par le professeur Siddharth Garg de l’Universit\u00e9 de New-York, les membres de son \u00e9quipe ont appos\u00e9 un \u00ab\u00a0post-it\u00a0\u00bb sur un panneau d’arr\u00eat:<\/p>\n

\"\"<\/p>\n

et leur logiciel d’interpr\u00e9tation des panneaux de circulation routi\u00e8re \u00e0 reconnu le tout comme \u00e9tant un panneau de limitation de vitesse:<\/p>\n

\"\"<\/p>\n

ce qui aurait pu avoir des cons\u00e9quences graves pour le pi\u00e9ton en train de franchir la voie de circulation.<\/p>\n

Even Artificial Neural Networks Can Have Exploitable ‘Backdoors – Wired – 2017-08-25<\/a><\/p>\n

De simples probl\u00e8mes mineurs qu’il sera ais\u00e9 de r\u00e9soudre?<\/h4>\n

De l’avis des sp\u00e9cialistes en la mati\u00e8re, m\u00eame si ces essais avaient \u00e9t\u00e9 \u00ab\u00a0calibr\u00e9s\u00a0\u00bb pour tenir compte de d\u00e9faillances counues – ou appr\u00e9hend\u00e9es – dans les logiciels mis \u00e0 l’essai, de telles situations ne seront pas r\u00e9solues par de simples \u00ab\u00a0ajustements\u00a0\u00bb aux logiciels existants, mlagr\u00e9 toute \u00ab\u00a0l’instruction\u00a0\u00bb et la sophistication dont ils pourraient faire l’objet durant leur d\u00e9veloppement.<\/p>\n

Ainsi, il appert qu’il sera difficile de mettre au point des syst\u00e8mes de d\u00e9tection \u00ab\u00a0intelligents\u00a0\u00bb en mesure de reproduire les processus de raisonnement et d’analyse que l’on retrouve chez l’humain. Et d’amener, \u00e0 terme, une s\u00e9curit\u00e9 in\u00e9gal\u00e9e dans la conduite des v\u00e9hicules routiers.<\/p>\n

AI Has a Hallucination Problem That’s Proving Tough to Fix – WIRED – 2018-03-09<\/a><\/p>\n

Cela \u00e9tant, la mise au point de \u00ab\u00a0logiciels intelligents\u00a0\u00bb est un imp\u00e9ratif incontournable afin d’augmenter le niveau de s\u00e9curit\u00e9 dans la conduite automatis\u00e9e \u00e0 un niveau tel que, malgr\u00e9 les al\u00e9as de la circulation, les bonnes d\u00e9cisions soient mises en application pour garantir la s\u00e9curit\u00e9 de tous.<\/p>\n

Et que, dans le domaine du diagnostic m\u00e9dical, des erreurs d’interpr\u00e9tation ne laissent pas un cancer non d\u00e9tect\u00e9…<\/p>\n","protected":false},"excerpt":{"rendered":"

Depuis l’av\u00e8nement des voitures \u00e9lectriques, le secteur du transport routier – camionnage, v\u00e9hicules passagers,… – conna\u00eet une effervescence qui ne cesse de surprendre. A ce moment-ci, l’emphase est mise sur la conduite automatis\u00e9e des camions et des automobiles alors que des syst\u00e8mes \u00e9lectroniques et informatiques sophistiqu\u00e9s prennent le relais sur la conduite humaine. Les essais…<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[10],"tags":[],"class_list":["post-1266","post","type-post","status-publish","format-standard","hentry","category-technologie"],"_links":{"self":[{"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/posts\/1266","targetHints":{"allow":["GET"]}}],"collection":[{"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/comments?post=1266"}],"version-history":[{"count":11,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/posts\/1266\/revisions"}],"predecessor-version":[{"id":1280,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/posts\/1266\/revisions\/1280"}],"wp:attachment":[{"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/media?parent=1266"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/categories?post=1266"},{"taxonomy":"post_tag","embeddable":true,"href":"http:\/\/www.jeanmarcpelletier.net\/blog\/wp-json\/wp\/v2\/tags?post=1266"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}