La machine à bienveillance

10 questions sur La machine à bienveillance

Interactif

Plantée depuis la fin août sur le terrain bétonné qui borde le métro Saint-Laurent à Montréal, La machine à bienveillance fait tourner les têtes des passants intrigués. Cette grande pyramide a de quoi surprendre avec ses écrans lumineux et son immense caméra de surveillance rose.

C’est que l’œuvre du collectif montréalais Ensemble Ensemble s’intéresse à la vidéosurveillance sous un angle inédit, celui de la détection de l’empathie et de la prévision d’actes bienveillants.

Comment fonctionne-t-elle? Pourquoi est-elle là? Comment fait-elle pour mesurer la bienveillance? Marianne Prairie et Jonathan Bélisle d’Ensemble Ensemble répondent aux questions les plus fréquentes entendues autour de La machine à bienveillance, une coproduction entre l’ONF et le Partenariat du Quartier des spectacles.


Q : Pourquoi La machine à bienveillance est-elle là?

R : Pour vous faire jaser ! Oui, oui ! L’intention de départ du projet était de provoquer des rencontres inopinées et positives dans un lieu public. Elle est installée au métro Saint-Laurent, car elle fait partie du parcours d’art public KM3, déployé dans le Quartier des spectacles jusqu’au 15 octobre 2017.

Q : Comment fonctionne-t-elle?

R : Comme n’importe quel système de surveillance numérique : avec des caméras et un programme informatique. Toutefois, les algorithmes de reconnaissance faciale (votre visage) et d’analyse spatiale (vos déplacements) qu’elle utilise ont été détournés de leurs fonctions premières. La machine à bienveillance ne cherche pas à identifier les terroristes ou le meilleur endroit où installer de l’affichage publicitaire. Elle calcule le potentiel de bienveillance.

Q : Qu’est-ce qu’un algorithme?

R : Un algorithme est une suite d’opérations simples pour arriver à un résultat. Par exemple, une recette est un algorithme pour obtenir un plat. En général, les algorithmes des systèmes de surveillance cherchent à prédire le comportement des gens pour sécuriser ou optimiser les espaces publics.

La machine à bienveillance vous surveille au @quartierdesspectacles_mtl… #compassionmachine

Une publication partagée par ONF_NFB (@onf_nfb) le

Q : Que font les algorithmes de La machine à bienveillance?

R : Dans l’immense caméra surdimensionnée, ils analysent les traits et les mouvements du visage des visiteurs afin d’extraire leur âge, leur sexe, leur attitude et leur niveau d’empathie. Du côté du panneau de contrôle, les algorithmes interprètent la proximité entre les gens, leur direction et leur nombre. Dans les deux cas, on cherche à mesurer le niveau de bienveillance, soit de l’individu, soit de l’espace public, pour formuler des prédictions et des probabilités. Quel sera le prochain geste bienveillant que vous accomplirez ?

Q : Quelles sont les caméras utilisées par la machine?

R : La machine compte deux caméras. D’abord, la Zed, une caméra stéréoscopique, c’est-à-dire qu’elle possède deux lentilles qui permettent de visualiser l’espace public en trois dimensions. Elle est posée tout en haut de la pyramide, du côté du panneau de contrôle. La deuxième est une Kinect, une caméra infrarouge qui permet aussi de voir en 3D, mais avec des lasers. Elle est située juste au-dessus de l’écran de la caméra de surveillance rose.

Q : Est-ce que la machine utilise l’intelligence artificielle?

R : Plus maintenant. Au début du projet, dans le cadre de son apprentissage (machine learning), la machine a eu recours à certaines méthodes voisines de l’intelligence artificielle. Pour des raisons de sécurité publique et d’éthique, cette fonction a été désactivée lorsqu’elle a su livrer des prédictions suffisamment justes. La machine est désormais un système autonome qui n’apprend plus en temps réel. Si autonome qu’elle fonctionne même sans Internet !

10 questions sur La machine à bienveillance

La machine à bienveillance, installée au métro Saint-Laurent (Photo : Sylvain Dumais)

Q : Est-ce que la machine se trompe parfois?

R : Oui, c’est possible ! L’apprentissage de la machine ayant été stoppé, on pourrait dire que la précision avec laquelle elle interprète les images est semblable à celle d’un enfant de deux ans. Et rappelons-nous qu’il s’agit d’une œuvre voulant créer une réflexion et un impact social à travers une expérience interactive ; pas d’un dispositif de collecte de données pour analyse scientifique.

Q : Justement, que fait la machine avec les données qu’elle accumule?

R : Pour le moment, rien du tout, à part compter le nombre de personnes qui passent chaque jour auprès d’elle. Si, à l’avenir, la machine était installée dans un autre lieu, nous pourrions comparer ces données « anonymes » pour évaluer quelles sont les meilleures conditions pour créer de la bienveillance dans l’espace public.

Q : Est-ce que les vidéos sont enregistrées?

R : Non. La mission de la machine est de créer des rencontres humaines, de faire sourire et d’éveiller les consciences. Elle n’est pas équipée de la technologie qui pourrait associer un visage à un individu, comme dans les aéroports ou les douanes.

Q : Et pourquoi une pyramide? C’est de la propagande Illuminati?

R : Pas du tout. C’est surtout très élégant et pratique à installer n’importe où ! Ensemble Ensemble a été inspiré par quelques symboles forts de la surveillance (pyramide, œil omniscient, caméra de sécurité) et a décidé de les réinterpréter à sa façon, avec une touche d’humour et de peinture rose fluo.