Des objets réfléchissants transformés en caméras virtuelles

Un projet de vision par ordinateur exploite les reflets sur des objets brillants pour reconstituer les scènes qu’ils représentent. Le procédé permet ainsi de littéralement voir ce qui se passe dans les zones les moins visibles de l’image, voir hors cadre.

Dans une petite salle de billard de Harlem, à New York, Carlito Brigante prépare la démonstration d’un coup à une table quand il repère, sur les verres de lunettes de l'homme qui lui fait face, le reflet d’un individu armé d’un couteau sortant des toilettes situées derrière lui.

La scène est tirée du film L’impasse de Brian De Palma (voir à 3 min 50 sur cet extrait). Certes, c’est du cinéma. C’est pourtant à ce genre de performance, à savoir voir dans les angles morts, qu’a abouti un projet de vision par ordinateur de chercheurs du Massachusetts Institute of Technology et de l’université Rice, aux Etats-Unis.

Un projet appelé ORCa

Le principe consiste à exploiter, sur des images, les reflets émis par les surfaces luisantes d’objets du quotidien, qu’il soit verni, métallique, en porcelaine, en verre, et à reconstituer la scène ainsi reflétée depuis la perspective de l’objet réfléchissant. Comme si ce dernier était lui-même une caméra ou un appareil photo, avec la zone où se reflète l’image considérée comme un ensemble de pixels virtuels. C’est ni plus ni moins un moyen de voir ce que normalement la vraie caméra n’aurait jamais pu capter, ou alors très mal étant donné l’angle de vue.

Le projet, appelé ORCa, sera présenté à la prochaine Conférence sur la vision par ordinateur et la reconnaissance de formes (CVPR) en juillet 2023 à Vancouver, au Canada.

Si les verres de lunettes dans le film de De Palma avaient l’avantage d’être plats et de fournir un reflet lisible, le cas est loin d’être général. "Les reflets représentent un vieux problème en vision par ordinateur dans la mesure où il s’agit de projections en 2D sur un environnement 3D inconnu, distordues par la forme de l’objet réfléchissant", expliquent les auteurs dans leur article de recherche. S’y ajoute le fait que la couleur et la texture (pas toujours lisse) de la surface de l’objet lui-même perturbent l'interprétation du reflet.

Lire aussi“Avec les caméras, on ne sait jamais si on nous regarde”

Un algorithme [...]

Lire la suite sur sciencesetavenir.fr

A lire aussi