MENU
THEMES

PARTAGER CETTE PAGE SUR LES réseaux sociaux:

Des chercheurs démontrent les effets indésirables des images inversées sur l'IA

Publié le: 21/07/2020  |  Par: Guide Informatique  
Des chercheurs démontrent les effets indésirables des images inversées sur l'IA

Les modèles de machine learning nécessitent une grande quantité d’images pour être entrainés. C’est pourquoi, il est fréquent que les ingénieurs en informatique retournent une image horizontalement afin de la donner deux fois au modèle. Or, il est possible que cette technique provoque des biais dans l’intelligence artificielle. C’est pourquoi une équipe de chercheurs de l’Université de Cornell se sont penchés sur la question. 


Lorsqu’une image est inversée, les voitures roulent sur le mauvais côté de la route, la montre change de poignet, les horloges tournent dans le mauvais sens et le texte se lit à l’envers. Mais il y a également des changements plus subtiles. Noah Snavely, professeur associé de sciences informatiques à l’Université de Cornell explique que l’univers n’est pas symétrique, lorsque l’on retourne une image, il y a toujours des différences. Aux côtés d’autres chercheurs de Cornell, ce dernier a conçu une intelligence artificielle pour détecter ses différences. Elle est capable de dire si une image a été retournée avec une précision allant de 60% à 90% en fonction du type d’image. La plupart des indices qu’elle trouve sont très difficiles à identifier pour l’être humain.


Afin de mieux comprendre les décisions de l’IA, les chercheurs ont conçu une heat map indiquant les zones révélatrices. Évidemment, le premier indice est le texte. Une fois ce dernier supprimé, les indices principaux sont les montres et les cols de chemises, en effet, les boutons sont habituellement sur le côté gauche. Viennent ensuite les téléphones, que les individus tiennent habituellement dans leur main droite, ainsi que tous les autres objets habituellement tenus dans la main droite. 


Après ces éléments, la principale source d’information est, à la surprise des chercheurs, le visage. En effet, sur un portrait, les individus ont tendance à regarder à gauche. De plus, la barbe et les cheveux trahissent également les photos retournés, les chercheurs pensent que cela peut être dû à la façon de se coiffer ou de se raser des individus.


La plupart de ses indices ne signifient rien lorsqu’ils sont isolés. En effet, il est fréquent de voir des personnes porter leur montre au poignet droit contrairement à la tradition. Toutefois, si sur un portrait, un individu porte sa montre au poignet droit et qu’il regarde vers la droite, il y a fort à parier que la photo a été inversée.


Les chercheurs s’accordent sur le fait que des recherches supplémentaires sont nécessaires. Toutefois, leurs trouvailles suffisent à ouvrir le débat de l’utilisation des images inversées pour entrainer une intelligence artificielle de type machine learning. Les chercheurs espèrent que leurs confrères vont s’intéresser à la question et développer des outils afin de mieux comprendre dans quelle mesure ces images retournées peuvent biaiser les intelligences artificielles.


Au-delà de l’intelligence artificielle, ces technologies pourraient être utilisées afin de détecter les copies illégales de photos ou vidéos sur le web. En effet, il est de plus en plus fréquent de retrouver des extraits vidéos protégés sur des plateformes

Actualités dans la même thématique ...

Réagir à cet article