BIG DATA : risque ou opportunité

En mars, nous levions un bout du voile qui entoure encore le projet orwellien de la « Smart City:tm: » marseillaise. Mais force est de constater que le cas de Marseille n’est que l’arbre qui cache la forêt. Car la police prédictive et les centres de surveillance policière dopés aux Big Data pullulent désormais sur le territoire français. Une dérive qu’illustre très bien le cas de Nice : la ville de Christian Estrosi, grand obsédé sécuritaire, a fait appel à Engie Inéo et Thalès, par ailleurs concurrents sur ce marché en plein essor, pour deux projets censés faire advenir la « Safe City:tm: » niçoise. Or, face à cette fuite en avant dans les technologies de contrôle social que nos élus assument sans rougir, la présidente de la CNIL semble trouver qu’il urgent de… suivre la situation. Ce qui revient à laisser faire.

Dans l’article 9 du projet de loi de finances 2020, on découvre que les services de Bercy vont  » collecter et exploiter les données rendues publiques sur les sites Internet des réseaux sociaux et les opérateurs de plateformes « . Sont concernés les réseaux sociaux type Facebook et Instagram, mais aussi les plateformes telles que Le Bon Coin et Airbnb.

Le fisc utilisera un outil développé en 2013 dénommé « ciblage de la fraude et valorisation des requêtes », reposant sur « des méthodes statistiques innovantes, sur des provenances de l’administration fiscale et d’autres administrations, de bases de données économiques payantes et de données en libre accès ». De leur côté, les douanes effectueront le forage de données à l’aide du service d’analyse de risque et de ciblage (SARC).

Autant de promesses d'efficience qui ne doivent pas masquer les potentielles dérives totalitaires au sein d'un État qui voudrait l'exploiter pour assurer un contrôle social permanent sur sa population et une répression à l'encontre des individus ou groupes de population qu'il jugerait dissidents. L’histoire nous a montré qu’aucun pays n’est à l’abri d’une dérive autoritaire. Quand bien même la France le serait-elle, un autre danger pourrait venir de l’espionnage constant exercé par une puissance étrangère si la technologie n’était pas maîtrisée dans tous ses composants . Ce potentiel néfaste, renforcé par la convergence des technologies et la multiplication des objets connectés dans notre environnement comme autant de sources de nouveaux flux vidéos pouvant alimenter les systèmes de reconnaissance faciale, va rendre caduque la notion d’anonymat dans l’espace public. 

Bien que rares, ces sondages convergent sur trois points. Les jeunes et les minorités se sentent intuitivement plus menacés par les déviances de la reconnaissance faciale. Celle-ci ne reçoit un soutien massif que lorsqu’elle vise à réduire un risque grave et bien défini dans le temps et l’espace. Le consentement préalable du citoyen, et pas seulement son information, apparaît comme une condition à son usage légitime et légal10 sur la voie publique. Au-delà de ces constats statistiques, quels seraient les facteurs de nature à entraîner l’adhésion de la population française et à la convaincre de l’innocuité d'un tel outil dans les mains de l’État ?

Pour conclure, on ne peut que constater que les systèmes politiques, juridiques et sociaux ne sont pas prêts pour gérer cette technologie comme toutes celles résultant des NBIC25. La reconnaissance faciale en tant qu’outil d’administration des populations s’inscrit nécessairement dans un projet politique. Au sein d’une démocratie, il est impératif que le débat public en fixe les limites fonctionnelles, les cas d’usage acceptables, au regard des dérives possibles et pas seulement des bénéfices attendus. La recherche ne doit donc pas se limiter à l'aspect technique mais se densifier dans les domaines de la sociologie et de l'éthique dans le but d’en fixer les limites d'usage et d’en faciliter l'acceptation. « Il faut remettre la science au cœur de la décision publique » 

Sidentifier sur un service en ligne officiel avec une application biométrique. Voilà l’ambition d’un décret publié ce matin au Journal officiel. Le texte a toutefois suscité des critiques de la CNIL, fondées sur le règlement général sur la protection des données personnelles, pointilleux sur la question de la reconnaissance faciale.
Ce décret au J.O. paru ce jour crée un nouveau moyen d'identification électronique, l’ « Authentification en ligne certifiée sur mobile » ou ALICEM. Derrière ce bel acronyme, les titulaires d’un passeport biométrique ou d’un titre de séjour étranger électronique vont bientôt pouvoir se créer « une identité numérique » à partir de leur titre.

La procédure se fera sur smartphone, via une application mobile, avec pour finalité l’identification et l’authentification auprès des fournisseurs de services en ligne publics ou privés et avant tout, FranceConnect (notre actualité).

Ce système de reconnaissance se fera « au moyen d'un équipement terminal de communications électroniques doté d'un dispositif permettant la lecture sans contact », explique le décret. Le texte évoque aussi un système de reconnaissance faciale, au besoin « dynamique ». Pour permettre la délivrance de cette clef d'identification électronique, à chaque utilisation de l'application, le traitement se mettra jonction avec le fichier national de contrôle de la validité des titres.

Par le biais d’un arrêté publié samedi au Journal officiel, le gouvernement a ainsi instauré un nouveau service à compétence nationale : le « Service national des données de voyage ».
Le SNDV est formellement chargé d’étudier les « conditions techniques, juridiques, économiques et financières dans lesquelles la collecte et l'exploitation des données de voyage peuvent être organisées », notamment « en consultant les transporteurs ».

« En cas de résultat concluant de ces études de faisabilité », le service devra proposer d’éventuelles « mesures législatives et réglementaires nécessaires à l'exploitation des données de voyage ».
« L'idée, c'est de tracer les trajets des passagers », nous explique la Direction générale de la police nationale (DGPN). « Au départ, avec le PNR, ce n'était que l'avion. Désormais, on l’étend au maritime et au ferroviaire. »

On retiendra surtout que les pouvoirs publics envisagent d’exploiter les données de voyage pour des finalités aussi nombreuses que vastes... S’il est sans surprise question « de la prévention et de la répression du terrorisme », ou même du « contrôle des frontières », le texte prévoit aussi une ouverture des vannes « pour les besoins de la prévention, de la recherche, de la constatation ou de la poursuite des infractions pénales ou de l'exécution des condamnations pénales ou des mesures de sûreté ».

Contrairement à ce que certains pourraient imaginer, le SNDV a été instauré sans que la CNIL ait été consultée. « L’arrêté porte création d’un service et non d’un traitement de données à caractère personnel, ce qui explique sans doute l’absence de saisine de la CNIL au regard des dispositions applicables de la loi Informatique et Libertés », réagit l’institution, sollicitée par nos soins.

Ce modèle d'intelligence artificielle se fie aux "rumeurs" disponibles sur les forums et sur les bulletins d'information sanitaires.

9 janvier 2020 : date à laquelle l’Organisation mondiale de la santé a officiellement informé le grand public qu’une épidémie de type grippal sévissait depuis Wuhan en Chine.
Pourtant, quelques jours avant avant ces informations officielles, une intelligence artificielle canadienne développée par BlueDot avait déjà repéré l’épidémie.

L’IA développée par les chercheurs canadiens de BlueDot est composée d’un algorithme capable de parcourir des bulletins d’information dans 65 langues, les informations sur la détection de nouvelles maladies animales ou végétales, afin d’éviter à ses clients de se rendre dans des zones dangereuses.

Khan a travaillé comme spécialiste des maladies infectieuses en milieu hospitalier à Toronto pendant l’épidémie de SRAS de 2003.
Suite à cette épidémie, il a cherché à créer une méthode pour endiguer la propagation de tels phénomènes

L’entreprise compte aujourd’hui 40 employés, dont une grande partie sont des médecins ou des développeurs. La méthode de travail de BlueDot est assez simple : un programme analytique de surveillance des maladies qui utilise des techniques de traitement du langage naturel passe au crible toutes les informations sanitaires disponibles sur Internet

La Chine, souvent critiquée pour son système de surveillance des citoyens, utilise ses bases de données dans la lutte contre le coronavirus. Des données qui intéressent aussi les autres pays.

Wu Zunyou, expert en épidémiologie du centre national de la prévention et du contrôle d’épidémie, utilise ces données en ce moment pour rechercher les personnes susceptibles d'être atteintes par le coronavirus 2019-nCoV.   
"Avec le big data, on sait où les cinq millions de personnes qui sont parties de Wuhan et de la province Hubei sont allées. On peut capturer les données de localisation précises et tracer les personnes."

Les données proviennent en partie de la compagnie de transport ferroviaire chinoise, la China Railway, l’équivalent de la SNCF. "Nous avons fait des statistiques des données personnelles des passagers qui ont pris le train depuis décembre et avant le Nouvel an lunaire", précise Huang Xin, chargé du transport des voyageurs.

"Nous envoyons ces statistiques aux bureaux chargés de la prévention et du contrôle de l’épidémie de toutes les provinces, poursuit le responsable. Ils veulent trouver les passagers qui ont eu des contacts corporels étroits avec les malades confirmés et les malades suspects récemment."

Décret n° 2020-151 du 20 février 2020 portant autorisation d'un traitement automatisé de données à caractère personnel dénommé « application mobile de prise de notes » (GendNotes)

Le ministre de l'intérieur (direction générale de la gendarmerie nationale) est autorisé à mettre en œuvre un traitement automatisé de données à caractère personnel dénommé « application mobile de prise de notes » (GendNotes), ayant pour finalités de :
1° Faciliter le recueil et la conservation, en vue de leur exploitation dans d'autres traitements de données, notamment par le biais d'un système de pré-renseignement, des informations collectées par les militaires de la gendarmerie nationale à l'occasion d'actions de prévention, d'investigations ou d'interventions nécessaires à l'exercice des missions de polices judiciaire et administrative ;
2° Faciliter la transmission de comptes rendus aux autorités judiciaires.

La collecte et le traitement des données à caractère personnel de la nature de celles mentionnées au I de l'article 6 de la loi du 6 janvier 1978 susvisée relatives à la prétendue origine raciale ou ethnique, aux opinions politiques, philosophiques ou religieuses, à l'appartenance syndicale, à la santé ou à la vie sexuelle ou l'orientation sexuelle ne sont possibles qu'en cas de nécessité absolue pour les seules fins et dans le strict respect des conditions définies au présent décret, dans les limites des nécessités de la mission au titre de laquelle elles sont collectées. Elles ne peuvent être saisies que dans la zone mentionnée au V de l'annexe au présent décret. Il est interdit de sélectionner une catégorie particulière de personnes à partir de ces seules informations.

« – Les Russes ont érigé un monument à Georges Orwell.
– Où ça ?
– Partout. »
C’est le dernier « anekdot » (blague politique) né en Russie ces derniers jours

Comme l’indique The Next Web, qui relaye le Moscow Times, le dispositif vient d’être installé dans plus de 1600 écoles du pays afin de surveiller et assurer la sécurité des élèves, mais aussi de leurs professeurs, et de vérifier qu’aucun intrus ne s’est introduit dans l’établissement.
Le système a été développé par l’entreprise Rusnano, avec le soutien de l’État russe, qui assure que les données collectées par ce système de reconnaissance faciale seront conservées sur des serveurs locaux, uniquement si les parents d’élèves donnent leur consentement.
Tout comme son nom le laisse supposer, ce système de reconnaissance faciale devrait par la suite s’étendre en Russie. « Orwell » devrait ainsi être installé dans près de 43 000 établissements scolaires russes, avec un budget estimé de 25,4 millions de dollars.
L’initiative s’inscrit dans le projet de numérisation de la Russie réclamé par Vladimir Poutine, avec un budget total de 25 milliards de dollars.

Catharing a écrit:Salut,

Données de santé des Français : le choix contesté de Microsoft
-[connexe]]https://www.francetvinfo.fr/internet/securite-sur-internet/donnees-de-sante-des-francais-le-choix-conteste-de-microsoft_4126165.html#xtor=AL-79-[article]-[connexe]

Une grande plateforme regroupant l’ensemble des données de santé des Français a confié au géant américain Microsoft le soin de les héberger. Un choix qui fait débat à l’heure où le gouvernement plaide pour le retour d’une souveraineté en matière de santé.

C’est la première fois qu’une plateforme d’une telle envergure est envisagée. L’idée d’une base nationale des données de santé – baptisée Health Data Hub (HDH) – est née dans la foulée du rapport du député Cédric Villani sur l’intelligence artificielle au profit de la recherche médicale. Le projet, porté ensuite par Emmanuel Macron, consiste à regrouper dans un même endroit l’ensemble des données de santé des Français, jusqu’ici éparpillées.

New Delhi a mis en place la plus grande base de données biométriques au monde. Présentée comme une réponse technologique à la lutte contre la pauvreté, elle n’en finit pas d’alimenter les controverses.

Le système, baptisé Aadhaar (« fondation », en hindi), a été lancé en 2009. Il vise à attribuer à chaque habitant un numéro d’identification à 12 chiffres, associé aux empreintes de ses doigts et de ses iris. Objectif affiché : optimiser les programmes sociaux entravés par l’invisibilité des plus démunis et gangrénés par la corruption. Entre 30 et 40 % des 45 milliards de dollars d’aide publique annuelle, destinée aux 400 millions de gens vivant sous le seuil de pauvreté, disparaissent ainsi, souvent détournés par des intermédiaires. À ce jour, 92 % des Indiens, soit 1,2 milliards de personnes, ont été intégrés dans la base Aadhaar. Autrement dit 17 % de la population mondiale.

La possession d’un numéro Aadhaar est désormais un impératif pour bénéficier de près d’une centaine de programmes publics, tels les cantines scolaires, les bourses universitaires, les pensions de retraite, les soins des hôpitaux publics, le NREGA (National Rural Employment Guarantee Act) - un programme phare de lutte contre le chômage dans les campagnes, qui assure à tous les foyers ruraux un travail rémunéré de 100 jours par an - et le PDS (Public Distribution System), qui fournit des produits alimentaires et non-alimentaires de première nécessité à prix subventionné (riz, sucre, blé...) dans des magasins d’État. « Aadhaar est aussi devenu obligatoire pour payer son impôt sur les revenus. Ses promoteurs ont une logique de ciblage, via les programmes sociaux pour les pauvres, et les impôts pour la classe moyenne. La quasi-totalité de la population est ainsi obligée d’avoir un numéro d’identification », souligne Nicolas Belorgey. Le secteur privé n’est pas en reste, qui en a fait un prérequis pour ouvrir une ligne téléphonique, un compte en banque, réserver un billet d'avion ou de train...

La question la plus préoccupante demeure celle de l’instrumentalisation politique du programme. Pour de nombreux observateurs, celui-ci a connu une inflexion majeure entre son lancement par le parti du Congrès, de centre gauche, en 2009, et son usage sous la houlette du BJP, le parti nationaliste hindou, et du premier ministre Narendra Modi depuis 2014. « Au départ, Modi a beaucoup critiqué Aadhaar. Puis il l’a brusquement adopté car il a très bien compris le potentiel de surveillance de la population qu’il pouvait représenter, explique le spécialiste indien. Son gouvernement est en train de modifier le code de la nationalité pour exclure les musulmans de la citoyenneté. Or, avec toute sa puissance, Aadhaar est un outil de choix qui peut potentiellement les cibler, alors que beaucoup d’entre eux s’en étaient saisis au départ comme un moyen de se faire reconnaître. C’est un instrument de pouvoir très fort qui est mis entre de mauvaises mains. »

Nice, Metz, Marseille... Toutes ces villes tentent d’expérimenter des dispositifs qui s’apparentent à de la reconnaissance faciale, toujours interdite en France. La Cnil veille au grain, mais n’exclut pas de rendre un avis favorable pour les Jeux olympiques de Paris en 2024.


Mais plusieurs exercices qui se rapprochent de la reconnaissance faciale ont déjà été effectués. 


À Nice (Alpes-Maritimes), en février 2019, lors du carnaval, un logiciel israélien a permis d’identifier de supposés fichés S. Il s’agissait en réalité de volontaires figurants parmi des centaines de personnes consentantes, qui ont fourni leur photo, qui se savaient filmés et reconnus facialement. 


Une autre tentative dans la même ville a fait polémique. Il s’agissait cette fois-ci d’analyser les émotions des passagers d’un tramway, sans les identifier, afin d'anticiper les problèmes potentiels. L’essai n’a finalement pas fonctionné à cause d’un problème technique de transmission d'images. 


À Cannes (Alpes-Maritimes), pendant le confinement, la mairie a voulu vérifier si la population portait bien un masque en allant au marché. Pour cela, elle a fait appel à un prestataire, la start-up Datakalab. Un dispositif également installé dans la station de RER Châtelet-Les Halles à Paris. 


Pour le directeur de Datakalab, Xavier Fischer, il ne s’agissait pas d’identifier les gens, mais seulement de compter les personnes portant un masque. Mais la Cnil n’a pas vu les choses ainsi. Elle a estimé que les personnes ne pouvaient exercer leur droit d’opposition puisqu’elles ne savaient pas qu’on analysait leur visage. Résultat, à Cannes l’opération s’est arrêtée naturellement avec le déconfinement, et à Châtelet, la Cnil a mis un terme à l’essai. 


Un système prêt à être utilisé à Metz 
À Metz (Moselle), l’avancée en la matière semble plus concrète. Après des débordements lors d’un match de Ligue 1 de football en 2016 contre Lyon, des supporters ont été interdits de stade. Comme l’autorise la loi Larrivé relative à la lutte contre le hooliganisme, le FC Metz a mis en place un fichier de ces supporters ultras avec leurs photos, et a investi dans un logiciel de reconnaissance faciale, prêt à être utilisé le cas échéant. 



Des supporters se sont d’ailleurs demandé si ce logiciel n’a pas déjà été testé sur eux. Cette hypothèse a d’abord été émise par le journaliste Olivier Tesquet, dans son livre À la trace (Premier Parallèle, 2020). Ces supporters ont ensuite fait le rapprochement avec d’étranges consignes données un soir de match. 


Pour le journaliste Olivier Tesquet, c’est par ces différentes expérimentations dans les communes que le terrain se prépare : "Ces municipalités se sont transformées en showrooms sécuritaires, analyse-t-il. À Valenciennes, Huawei offre des caméras de vidéosurveillance à la commune. À Nice et à Marseille, c’est l’américain Cisco qui a approché la région Paca pour l'installation de portiques de reconnaissance faciale à l'entrée des lycées. Le problème, c’est qu’il n’y'a pas d'appel d'offres, et les habitants sont assez cruellement sous-informés sur ces questions-là." 


Le consentement : une question centrale 
Au-delà de ces expérimentations temporaires, limitées ou retoquées, la loi autorise tout de même de faire de la reconnaissance faciale dans certains cas. 


Le ministère de l’Intérieur développe actuellement une application d’identité numérique pour smartphones, Alicem. Reliée à FranceConnect, elle doit permettre, par comparaison faciale, d’ouvrir un compte pour renouveler ses papiers à distance (carte grise, permis de conduire, carte d’identité numérique, etc.). Cette technologie est déjà présente sur de nombreux appareils pour les déverrouiller. 



Mais est-elle vraiment sûre ? "Pour lutter contre l'usurpation d'identité, on a de la reconnaissance faciale, mais également ce qu'on appelle de la reconnaissance du vivant, rassure Jérôme Letier, directeur de l’Agence nationale des titres sécurisés. On demande aux gens de bouger, pour être capable de distinguer une simple photographie ou un montage grossier du véritable visage de la personne." 

[size=36]Refuser de fournir un code de déverrouillage de son téléphone peut être une infraction[/size]

Alors que les événements en France ont de nouveau soulevé l'épineux débat sur la liberté d'expression, le pays serait en bonne voie de convaincre les membres de l'Union européenne de mettre en place des dispositifs de contrôle pour surveiller les communication chiffrées.

Un texte pour une proposition de loi vise à obliger les opérateurs de messageries sécurisées à mettre en place des backdoors. Ces portes dérobées permettraient aux services de renseignement d'accéder au contenu des conversations sécurisées.

La France serait particulièrement impliquée dans ce projet initié par la Grande-Bretagne. Le secrétaire d'État français à l'Europe, Clément Beaune, s'est entretenu avec la ministre européenne Karoline Edtstadler, membre du parti populiste en Autriche.

nooneelse a écrit:Il va bientôt falloir à songer à une nouvelle section sur le forum: la protection et la résistance numérique...

Le gouvernement de Singapour a annoncé ce lundi 4 janvier que les données de l'application TraceTogether seraient exploitables par la police dans les affaires criminelles ou lorsque la "sécurité des citoyens" est menacée.

Comme le rapporte le média local Channel News Asia, l’exploitation des données personnelles par la "Singapour Police Force" était déjà autorisée par le code pénal : le ministre Desmond Tan a annoncé que les données de TraceTogether, application de traçage vantée pour son efficacité - et devenue source d’inspiration de StopCovid - jusqu’à ce qu’une deuxième vague de Covid-19 n’impose à l’Etat de décider un confinement généralisé, ne feraient pas exception. TraceTogether a été téléchargée par 4,2 millions de personnes, soit environ 78 % des citoyens de Singapour.

"Nous n’empêcherons pas l'utilisation des données de TraceTogether dans des circonstances où la sécurité des citoyens est ou a été affectée, et cela s’applique à toutes les données", a indiqué Desmond Tan.

Reste à savoir ce que le gouvernement, qui détourne de son usage l’application sanitaire pour en faire un outil de surveillance de masse, perçoit comme une menace envers la "sécurité des citoyens". Pas de quoi s’inquiéter, à entendre le ministre de l’Intérieur : "Le gouvernement est le gardien des données personnelles transmises par les citoyens et des mesures strictes sont ainsi mises en place pour les protéger", assure-t-il. Selon lui, seuls certains officiers autorisés pourront accéder aux données dans des buts spécifiques, et ces dernières seront stockées sur une plateforme sécurisée.

"En dehors des enquêtes criminelles, ou des besoins de la sûreté et de la sécurité de nos citoyens, les données de TraceTogether ne seront en effet utilisées que pour le dépistage des cas contacts et le combat contre le Covid-19", insiste Desmond Tan.

Vaccins contre données ? Israël a obtenu un stock de vaccins anti-coronavirus du géant pharmaceutique Pfizer en échange notamment du partage rapide de données sur les effets de cette immunisation sur sa population, selon un accord consulté lundi par l’AFP.
....
la « startup nation » a fait miroiter à Pfizer l’accès à des données rapides et à grande échelle sur les effets de son vaccin afin de sécuriser l’accès à un stock important de doses, selon l’accord rendu public par le ministère de la Santé
....
Cette « collaboration » entre Israël et Pfizer se présente comme un effort visant « à mesurer et à analyser les données épidémiologiques liées au déploiement du produit », c’est-à-dire à l’injection du vaccin au sein de la population israélienne.
Le document stipule que le ministère israélien de la Santé dépend d’un certain rythme de « livraison » des doses par Pfizer « afin d’atteindre une immunité collective et d’obtenir suffisamment de données le plus tôt possible ».
...
« En un mois ou six semaines, Israël peut offrir à Pfizer des données sur des millions de personnes », dit-elle à l’AFP, soulignant que ce partage de données aurait dû faire l’objet d’un débat public, d’autant que certains craignent que leurs données ne soient pas anonymisées.

Catharing a écrit:Sur ce, la plaisanterie a assez duré, non ?

Un fichier comportant des données médicales sensibles de près de 500 000 personnes en France circule sur internet, comme a pu le constater franceinfo, mardi 23 février, à la suite d'informations de Libération et du blog spécialisé en cybersécurité Zataz.

Le fichier comporte 491 840 noms associés à des coordonnées (adresse postale, téléphone, e-mail) et un numéro de sécurité sociale. Ils sont parfois accompagnés d'indications sur le groupe sanguin, le médecin traitant ou la mutuelle, ou encore de commentaires sur l'état de santé (dont une éventuelle grossesse), des traitements médicamenteux ou des pathologies (notamment la séropositivité au VIH).

Selon la rubrique de vérification Checknews du quotidien Libération, qui a enquêté sur le sujet, les données proviennent d'une trentaine de laboratoires de biologie médicale, situés pour l'essentiel dans le quart nord-ouest de la France et utilisant un même logiciel de saisie de renseignements médico-administratifs.