Abonnez-vous

Dérives et sécurité


Hervé Lehning et Benoît Rittaud

Si l'IA rend plus simple la collecte et l'analyse de données à grange échelle, elle permet également une surveillance accrue de la population. À chaque médaille son revers...


Le « grand frère » chinois

Les contrôles d’identité peuvent maintenant se faire automatiquement à l’aéroport en matière de reconnaissance faciale. Vous posez votre passeport et une caméra vérifie que c’est bien le vôtre.

 De façon plus intrusive, en Chine, certains policiers sont équipés de lunettes pourvues de caméras, qui permettent d’arrêter les personnes recherchées. De même, des caméras de surveillance contrôlent l’attention des élèves dans certaines écoles ou rabrouent en direct les piétons traversant au feu rouge. La reconnaissance faciale est même utilisée pour lutter contre l’utilisation abusive de papier-toilette dans les lieux touristiques : vous avez droit à 60 cm toutes les neuf minutes, pas un millimètre de plus. Tous ces progrès, nous font nous demander si la Chine ne serait pas en train d’inventer un « meilleur des mondes » dépassant les imaginations réunies d’Aldous Huxley et de George Orwell…

Contrôle d’identité en Chine.

 

Le contrôle sur les robots armés

Certains robots, que ce soient des engins volants ou des engins terrestres, sont déjà armés, mais un humain garde le contrôle de l’utilisation de leurs armes à distance. Ces robots permettent des opérations militaires ciblées en limitant les risques humains, du moins du côté de l’État ou de l’organisation utilisatrice.

 

Si l’intelligence artificielle embarquée dans le robot peut servir pour choisir une cible, par reconnaissance faciale ou analyse de son comportement, le robot ne peut décider de celle-ci. L’arme reste sous contrôle humain. Cependant, il est facile de faire passer ces robots, déjà développés dans plusieurs pays comme la Russie, les États-Unis ou la France, en mode autonome. C’est pourquoi l’Organisation des Nations unies travaille sur une interdiction sur ce qu’elle nomme les SALA (pour système d’armes létales autonomes). D’ici à ce qu’un accord soit trouvé sur ce point…

 

La Russie travaille activement à rendre son tank T-14 Armata autonome.

 

La main invisible de l’IA

C’est la start-up Geophy qui a inspiré à Guillaume Erner sa chronique du 26 septembre 2018 sur France Culture. Geophy est spécialisée dans la collecte des prix de l’immobilier : elle dispose d’une banque de données de plus de deux cent millions de biens. À terme, on peut aujourd’hui facilement imaginer qu’un data center, tenu par Geophy ou quelqu’un d’autre, finisse donc par disposer en temps réel de la valeur de chaque logement partout dans le monde. Une intelligence artificielle pourrait alors en étudier l’évolution et les mécanismes, de sorte à définir les prix. Cela se ferait de manière plus performante que la « main invisible du marché », car l’IA disposerait d’une information plus complète et d’une faculté d’analyse supérieure à celle de la simple agrégation des préférences individuelles. Une « planification » potentielle d’un nouveau genre, qui fait conclure Guillaume Erner, dans un sourire amusé : « Et si l’Union soviétique était le stade ultime de l’informatique ? »