Synthèse et replay du webinaire « Surveillance et numérique »

Replay de la rencontre avec Christophe Masutti : « Surveillance et numérique : quelles implications pour et par la recherche ? »

Présentation du webinaire

Christophe Masutti est docteur en histoire et philosophie des sciences et des techniques, hacktiviste, membre administrateur de l’association Framasoft et traducteur de la biographie autorisée de Richard Stallman, publiée aux éditions Eyrolles en partenariat avec Framasoft. Il travaille au CHU de Strasbourg à la Direction de la Coopération Internationale et il est chercheur associé au laboratoire SAGE (Sociétés, Acteurs et Gouvernements en Europe) de l’Université de Strasbourg. Avec Camille Paloques-Berges, il a coordonné l’ouvrage Histoires et cultures du Libre aux éditions Framabook et il a écrit plus récemment l’ouvrage Affaires privées : aux sources du capitalisme de surveillance qu’il est venu présenter dans le cadre des rencontres OpenESR. Il est ainsi revenu sur la place prise par l’informatique et les données dans nos sociétés actuelles en tant que leviers d’une surveillance intimement reliée aux mécanismes capitalistiques. À partir de ces constats, plusieurs pistes ont été émises pour le développement d’une économie numérique respectueuse de la vie privée de chacun.

Suite à cette présentation, un temps de discussion a été engagé afin de comprendre comment il serait possible de résister aujourd’hui et les modèles associés (modèle alternatif ou nouvelles hégémonie). La place de la recherche par rapport à ces engagements de terrain a été aussi questionnée et approfondie dans un entretien audio réalisé à la suite du webinaire.

Le webinaire dans son ensemble est disponible sur l’instance Libre Video

C. Masutti propose de commencer par une contextualisation historique de la vie privée et de la surveillance, afin de prendre du recul sur ce que nous vivons et de retracer la longue histoire de la vie privée, de la privacy et des différents acteurs qui ont participé à leurs conceptualisations.

Retour historique sur des notions intriquées : vie privée, privacy, surveillance

À l’origine du travail de C. Masutti sur la vie privée et la surveillance, il y a la lecture de nombreuses réflexions qui, dès la fin des années 1960, font surgir une crainte de la société Orwellienne face aux grandes banques de données. Il procède à trois citations remarquables :

La première citation (en 1965) du chercheur-ingénieur Paul Baran (1926-2011) concerne l’avènement des nouvelles technologies de l’information aux connotations orweliennes :

Il n’est pas nécessaire de craindre l’avènement des nouvelles technologies informatiques et des comunications à l’approche de 1984. Au contraire, nous avons en notre pouvoir une force qui, si elle est bien maîtrisée, peut aider et non pas entraver, l’aspiration à l’exercice de notre droit personnel à la vie privée. Si nous ne parvenons pas à exercer ce pouvoir méconnu que seuls nous, ingénieurs informaticiens, détenons, le mot « personne » sera réduit à n’être plus qu’un simple nom collectif et non une description d’êtres humains individuels vivant dans une société ouverte. Cela peut sembler paradoxal, mais une société ouverte impose à ses membres un droit de vie privée, et nous aurons assumé en grande parie la responsabilité de préserver ce droit »

Paul Baran, « Communications, Computers and People », AFIPS Fall Joint Computer Conference vol. 27, Washington D. C., Thompson Book Co., 1965.

La deuxième citation (en 1969) de Lance Hoffman concerne les banques de données :

Ces grandes banques de données permettront au citoyen, lorsqu’il est confronté à un nouvel environnement, d’établir « qui il est » et d’acquérir rapidement les avantages qui découlent d’une évaluation de solvabilité (bancaire) fiable et d’un caractère social acceptable aux yeux de sa nouvelle communauté. En même temps, les établissements commerciaux ou gouvernementaux en sauront beaucoup plus sur la personne avec laquelle ils traitent. Nous pouvons nous attendre à ce qu’un grand nombre de renseignements sur les caractéristiques sociales, personnelles et économiques soient fournis volontairement – souvent avec empressement – afin de profiter des bienfaits de l’économie et du gouvernement.

Lance J. Hoffman, « Computer and Privacy: a Survey », Computing Surveys, 1969, vol. 1, nº 2, p. 85-103.

Enfin, la citation d’Arthur R. Miller (1971) dans son livre The Assault on Privacy :

Il y a à peine dix ans, on aurait pu considérer avec suffisance Le meilleur des mondes de Huxley ou 1984 de Orwell comme des ouvrages de science-fiction excessifs qui ne nous concerneraient pas et encore moins ce pays. Mais les révélations publiques répandues au cours des dernières années au sujet des nouvelles formes de pratiques d’information ont fait s’envoler ce manteau réconfortant mais illusoire.

Arthur R. Miller, The Assault on Privacy. Computers, Data Banks and Dossier, Ann Arbor, The Univ. Michigan Press, 1971, p. 39.

À ces trois citations, on peut rajouter un extrait du rapport de l’Institute for the Future (affilié à la RAND corp.) (1982) :

(…) en même temps que ces systèmes apporteront un flux d’informations et de services considérablement accru dans le foyer, ils transporteront également un flux d’informations hors du foyer sur les préférences et le comportement de ses occupants.

Tydeman, John, and Institute for the Future, Teletext And Videotex In the United States: Market Potential, Technology, Public Policy Issues, New York, Data Communications, McGraw-Hill, 1982.

Cette littérature grise (rapport, discours, etc.) est essentielle pour se saisir des enjeux inhérents à la vie privée et la surveillance, ainsi C. Masutti a noté un écart important entre les grands discours des livres et publications scientifiques et la « science en acte », la manière dont elle se confronte au réel et aux puissances décisionnaires.

À partir de cette littérature, qui cite fréquemment et amplement Orwell (auteur du roman dystopique 1984), la question a été de savoir ce qui avait changé depuis la fin des années 1960 jusqu’à aujourd’hui. La réponse, qui constitue l’objet de l’ouvrage de C. Masutti, est l’émergence d’un capitalisme de surveillance.

Pour comprendre comment s’est opérée la mutation vers un capitalisme de surveillance, une voie possible consiste à revenir sur la façon dont le concept de vie privée, et celui plus large de privacy se sont structurés au cours du temps, en commençant par leur théorisation dans les travaux d’Alan Westin.

Vie privée : une intensité médiatique récente à replacer dans l’histoire de l’informatisation de nos sociétés

Professeur de droit à l’université de Columbia, Alan Westin travaille sur la vie privée et la confidentialité dans les pratiques de consommation. Il définit la vie privée comme une exigence à décider soi même quand et comment les informations qui nous concernent peuvent être communiquées à d’autres. Et ces considérations ne concernent pas seulement les individus, mais aussi aussi les groupes, les organisations, entreprises ou institutions. La période se prêtait largement à ce type de réflexion. Des débats publics eurent lieu à l’occasion du grand projet de création d’une grande banque de données fédérale dès 1968 puis des débats au Congrès pour le Fair Credit Reporting Act, et enfin ceux préparatoires au Privacy Act (1974). Alan Westin intervient auprès des institutions, il est l’auteur principal du rapport Civil liberties and Computerized Data Systems (1971) et écrit Databanks in a free society (1972). Pour lui, la vie privée ne peut se définir que d’après plusieurs droits : le droit à la solitude, le droit à l’intimité, le droit à l’anonymat, le droit à la réserve.

Avec d’autres juristes, A. Westin a initié aux États-Unis (et très vite de manière internationale) un mouvement de pensées sur la vie privée. Si la vie privée est un concept défini à la fin du XIXe siècle (par S. Warren et L . Brandeis) avec l’expression célèbre The right to be let alone, il faut comprendre qu’avec l’arrivée du substrat technologique des ordinateurs, des bases de données et des pratiques de communication, cette définition ne pouvait plus suffire. Et tout le champ de recherche à ce sujet est encore loin d’être épuisé : la vie privée est un concept mouvant, éternellement en adaptation aux contextes sociaux et technologiques.

Un ami d’A. Westin, Daniel J. Solove, publiera en 2002 une tentative de généralisation de la Privacy qu’il définit en 6 points : 1) The right to be let alone, 2) l’accès limité à sa personne, 3) le secret, 4) le contrôle des renseignements personnels et 5) la vie privée.

Un ordinateur central (mainframe computer) est un ordinateur de grande puissance de traitement et qui sert d’unité centrale à un réseau de terminaux. L’ordinateur central peut être représenté comme une bibliothèque de données consultable en continu par un très grand nombre d’utilisateurs.

À la fin des années 1970, on arrive ainsi à une définition plus précise de la vie privée mais le concept ne date pas des travaux de Westin. En effet, cette notion a une longue histoire qu’il s’agit de retracer au regard de l’informatisation de la société. De la même manière, si on se concentre sur l’histoire du concept de vie privée à travers les cultures, de grandes différences apparaissent selon que la vie privée est d’abord définie comme un aspect des libertés individuelles ou selon que l’on considère que les institutions publiques doivent en être les garantes. La vie privée n’a jamais de définition unique même si aujourd’hui la notion de privacy tend à acquérir une dimension universelle au moins dans le vocabulaire.

Dans les années 2000, privacy comme vie privée vont devenir des sujets phares du monde universitaire en questionnant leur évolution avec le développement de l’informatique. Ainsi deux lois clefs, datant des années 1970 sont particulièrement importantes à rappeler. Il s’agit du Fair Credit Reporting Act de 1970, qui réglemente la collecte, l’utilisation et la redistribution des données des consommateurs; ainsi que du Privacy Act de 1974, qui donne un cadre à la collecte, la conservation, et l’utilisation d’informations personnelles identifiables par le gouvernement fédéral.

Ces lois, qui entrent en vigueur aux États-Unis, sont une réponse aux pratiques de fichage informatisé mises en place par des banques pour en produire des listes secrètes et des analyses illicites qu’elles revendaient par la suite, sur un modèle d’affaire particulièrement lucratif. Aussi, grâce à ce cadre juridique, les institutions publiques ont dû obéir à un code de conduite ficelé.

1974 est également une année charnière en France avec l’affaire du Système Automatisé pour les Fichiers Administratifs et le Répertoire des Individus (SAFARI). Ce projet d’interconnexion des fichiers nominatifs de l’administration française géré par le Ministère de l’intérieur rassemblait toutes les informations issues d’autres bases de données nationales pour pouvoir établir un grand fichage informatisé de tous les Français. Cette affaire a permis en France la création de la CNIL (Commission Nationale Informatique & Libertés) en 1978 bien que la question du consentement ait fait l’objet de quelques études depuis le début des années 1970 (en parallèle des recherches à l’œuvre aux États-Unis et au Royaume-Uni).

Ce mouvement de réponse législative aux violations de la vie privée par les entreprises se développera également au Royaume-Uni, avec d’une part le rapport Younger sur le Right of Privacy Bill, et d’autre part les dispositions liées au scandale des procédures de recensement dont les questions invasives étaient posées afin que l’administration publique puisse créer des banques de données destinées à la revente.

En tout état de cause, ce mouvement législatif de défense de la vie privée débouche sur deux voies :

• L’une de défense de la vie privée contre la mise en place de grandes bases de données afin de lutter contre le business de la vie privée ;
• l’autre d’une montée en puissance des revendications sociales contre les institutions publiques (suite aux nombreux scandales).

Malgré les scandales qui émaillèrent les 40 années précédentes, 2014 marque un nouveau tournant dans la prise de conscience du grand public avec les révélations d’Edward Snowden. Que nous apprennent les révélations de Snowden par rapport aux faits déjà connus ? Que s’est-il passé avant ? Pourquoi a-t-il fallu attendre 2014 pour un tel impact ?

Il s’agit peut-être là d’une question d’échelle plutôt que de niveau de conscience. L’affaire Snowden montre qu’après des années de défense de la vie privée, les États et les entreprises continuaient main dans la main à ne pas respecter la protection de la vie privée. Est-ce que ces abus sont passés sous les radars de l’opinion publique ou bien est-ce dû à un désintérêt sur la question jusqu’alors ?

Capitalisme de surveillance, société de consommation informatisée et solutionnisme technologique

En tout état de cause, l’affaire Snowden révèle une collusion de grande ampleur entre les GAFAM, l’État américain et le complexe militaro-industriel. Pourtant, certains auteurs analysent le capitalisme de surveillance en excluant la question de la politique économique américaine, à tort pour Christophe Masutti qui considère la question comme un aspect majeur à étudier.

En ce sens, la notion de capitalisme de surveillance est employée par John Bellamy Foster et Robert W. McChesney dans l’article « Surveillance Capitalism » (2014) sorti dans Monthly Review. Ils utilisent le concept de capitalisme de surveillance sans que celui-ci ne rejoigne la définition de Shoshana Zuboff (qui ne cite même pas ses prédécesseurs), pour qui le capitalisme de surveillance ne serait qu’un capitalisme malade qu’il faudrait soigner. Au contraire, Foster et McChesney sont plus critiques du système capitaliste en soi, qui contiendrait en lui les germes de la dérive vers le capitalisme de surveillance.

Le rôle de l’information dans nos sociétés

Cette approche critique du capitalisme passe notamment par une critique de l’information comme valeur capitalistique et du développement en conséquence des technologies de l’information. C’est ainsi le rapport entre information et société qui est en jeu et qui n’a cessé d’être questionné depuis les années 1960 dès le début de l’informatisation.

Cette vision, corroborée par les révélations de Snowden, pousse à envisager la question de la vie privée au regard du niveau technique et technologique d’une société. On ne peut pas faire l’histoire de la surveillance en faisant l’impasse sur les conditions technologiques dans lesquelles elle se développe.

En effet, l’émergence d’une économie de la surveillance n’est pas seulement due à une mutation de l’économie (dans laquelle l’information devient un capital), mais est aussi fonction des évolutions technologiques qui l’ont rendue possible. Une société de l’information constitue en cela un terrain fertile pour le développement de la surveillance avec notamment le rôle majeur de l’information pour orienter les comportements de consommation.

La surveillance et la consommation : deux éléments imbriqués

On tend souvent à penser la surveillance en terme de pouvoir et de contrôle et d’une critique des institutions. Paradoxalement, la surveillance devient de l’ordre de l’inquestionnable dans le cadre d’une société de consommation informatisée : la modélisation du comportement du consommateur est devenue essentielle pour les entreprises, et passe par un monitoring constant qui implique de puiser des informations personnelles.

Ainsi, on a assisté avec l’informatique au développement de logiciels dédiés à l’aide à la prise de décision, qui à partir d’un profil clientèle permettent de modéliser le scénario idéal de mise d’un produit sur le marché. C’était l’objet du modèle DEMON (Decision Mapping via Optimum Go-No Networks) conceptualisé dès 1968. En France, Cetelem est devenue en 1961 la première entreprise équipée d’un IBM pour analyser les taux de recouvrement et modéliser le marché du prêt à la consommation, notamment dans un contexte de concurrence. L’entreprise a ainsi pu monter son propre service d’études de marché auquel faisaient même appel les institutions publiques.

Le courtage de données est également très ancien. La grande société actuelle Axiom a été fondée en 1968 sous le nom de Demographic Inc. dans le but de louer de gros ordinateurs au parti démocrate dans un contexte de course à l’informatisation du démarchage électoral. Dans les années 1980, les grands systèmes de gestion de bases de données se développent. Les institutions publiques étaient demandeuses de grands fichiers de données, mais c’est la grande distribution qui en a fait le plus usage. Par exemple, le grand magasin Sears aux États-Unis fonde un service de transmission d’informations (Prodigy), soit un service de catalogue chez l’habitant avec des services annexes (météo, messagerie). Cette offre était couplée avec IBM qui fournissait les ordinateurs pour se connecter à Prodigy. Leur modèle économique prévoyait la vente des données récoltées.

Désormais, les entreprises n’ont même plus besoin d’offrir du matériel ou du service en contrepartie des données, la data est donnée par les consommateurs via les programmes de fidélité ou les jeux, ou simplement leurs habitudes de consultation comme l’a montré le scandale de Cambridge Analytica. Il n’y a plus à aller chercher les informations puisque toute l’infrastructure est dédiée à l’économie de la donnée.

En résumé, on se confronte aujourd’hui à différentes facettes du capitalisme de surveillance :

• Une recherche d’automatisation de la décision (entreprises et administrations).
• Un monitoring social à des fins de surveillance sans pour autant qu’il y ait de velléité sur le mode de contrôle.
• Une perception du capitalisme de surveillance comme valeur ajoutée aux structures existantes.

Entretien (min. 00:57 – 4:50) : Écouter les réflexion de C. Masutti sur notre responsabilité collective face à la mise en œuvre des dispositifs technologiques du capitalisme de surveillance.

Le solutionnisme technologique

Aujourd’hui, en plus des trois éléments précités, le capitalisme de surveillance trouve un nouveau levier dans le solutionnisme technologique.

Dans son ouvrage Pour tout résoudre cliquez ici : L’aberration du solutionnisme technologique (2014), Evgeny Morozov aborde la question des biais technologiques, que le solutionnisme crée autant qu’il en procède.

Issues des mouvements des années 1970 et représentées par les travaux de David Lyon, les surveillance studies constituent un champ dédié à l’étude du développement du phénomène de la surveillance massive, et tendent actuellement à montrer que le solutionnisme technologique s’est élevé au rang d’idéologie (Silicon Valley, startup nation), depuis notamment CyberSyn au Chili, entraînant avec lui de nouveaux moyens de surveillance auxquels consentent plus ou moins facilement les citoyens.

L’exemple récent des débats autour de l’application StopCovid, et de l’utilisation des données captées par une application similaire aux USA aux fins de savoir qui participe à des manifestations, en sont des illustrations particulièrement frappantes.

Conclusion : résistance et archipels

La question qui demeure est celle de savoir si nous nous trouvons dans une société de contrôle ou de surveillance ? Il faut se poser la question car surveillance et contrôle sont deux concepts différents.

Pour C. Masutti, nous sommes dans une société de la surveillance, la question étant de savoir où est concentré le pouvoir, alors que celui-ci semble s’être déplacé des puissances étatiques aux entreprises privées. Ce déplacement du pouvoir pourrait amorcer une transition vers une société de contrôle, au sens de Foucault, soit le passage d’un système de souveraineté à une société de l’enfermement qui se définit par les lieux où s’exercent tous les modes de contrôle (la prison, mais aussi l’école, l’hôpital, etc.). Le passage vers une société de contrôle s’effectue lorsque les lieux d’enfermement ne sont plus les lieux de contrôle exclusif : le bracelet électronique remplace les murs de la prison, l’école par visioconférence remplace la salle de classe, la télémédecine remplace la chambre d’hôpital. Ce sont des innovations, elles apportent plus de confort, elles ont une utilité sociale. Mais ce passage à la société de contrôle dépend fondamentalement des infrastructures technologiques et donc les lieux de pouvoir en dépendent eux aussi. Penser la société de contrôle en ces termes universalistes sous-entend néanmoins que le sujet social est toujours considéré comme étant soumis (au pouvoir et donc aux technologies). Or ce n’est pas le cas, il y a toujours des lieux de savoir-être et de savoir-faire où les personnes échappent à cette soumission (ZAD, Occupy Mouvement, etc.) en créant des espaces de résistance. Dans ces mouvements on y voit des moments de préfiguration (ainsi que l’a montré Mariane Maeckelberg) et ces espaces de résistance se situent dans une forme d’archipélisation sans mode unique mais tout en formant un ensemble cohérent (voir sur ce point la philosophie d’Edouard Glissant).

Questions – Réponses

Comment faire pour que les personnes puissent s’affranchir de la société de contrôle (ex: rôle du consentement dans le cadre du RGPD) ?

Le Règlement Général sur la Protection des Données (RGPD) est la formulation du don du consentement. Il ne vise pas à nous protéger individuellement, le droit ne cherche pas à s’appliquer dans la défense technique de la vie privée comme pouvait le faire le Privacy Act, et c’est une erreur de penser que c’est le cas. Le RGPD donne un cadre dans lequel tout effort d’accaparement des données doit se faire, mais ne remet pas en cause le modèle économique, devenu nécessaire au capitalisme de surveillance.

Ex: Le système expert Aladdin (Blackrock) conseille les états et les multinationales et uniformise les stratégies de prise de décision et d’investissement mondiales. Notre économie repose sur la surveillance et la sur-financiarisation de l’économie en est un avatar.

Si on cherche aujourd’hui à défendre nos libertés individuelles, elles n’ont de sens que lorsqu’elles sont pratiquées collectivement. Ex: données personnelles ou données génétiques.

En donnant la responsabilité aux institutions publiques, auparavant endossée par les ingénieurs, le RGPD retire une épine du pied des entreprises spécialisées dans le business des données personnelles.

Qu’est-ce qui fait psychologiquement qu’on est presque content d’être surveillé en tant qu’individu ? Est-ce que ce n’est pas le sentiment simple qu’on aime qu’on s’intéresse à nous ?

Il y a des réflexions psychologiques sur la question du plaisir, de la valorisation. C’est ce que l’on retrouve derrière le concept d’économie de l’attention. À travers le don de l’attention auquel nous consentons, nous tirons du plaisir.

Exemple d’Equifax (USA, 1989) : société de crédit qui montait des grandes bases de données sur sa clientèle qu’elle revendait. Cette pratique a fait l’objet d’une class actions contre elle, Equifax a eu droit à une injonction du gouvernement fédéral de mettre fin à ces pratiques. Dès le lendemain, Equifax met sur le marché Buyer’s Market, qui vendait des coupons de réduction contre des informations privées. 6 mois après l’injonction, Buyer’s Market avait plus d’un millions de clients, et un niveau de granularité d’analyse des profils beaucoup plus fin que celui obtenu auparavant. Tout cela grâce au consentement.

Pouvez-vous développer la notion d’économie de l’attention ?

L’économie de l’attention regroupe toutes les pratiques déployées pour captiver notre attention (algo Youtube, etc. ). Les scandales comme celui de Cambridge Analytica montrent qu’il est possible de diriger l’attention des groupes en la mobilisant dans une direction ou une autre, grâce au profilage et l’analyse de données.

Comment agir en tant que chercheur pour aider à une prise de recul sur ces questions ?

Pour C. Masutti, l’association Framasoft y a répondu. Son livre vient de son implication de sur ces sujets au sein de Framasoft avec la proposition de se diriger vers une société de la contribution (on peut faire référence aux travaux de B. Stiegler).

Il est nécessaire d’avoir une forme d’éducation populaire au numérique. Dans les infrastructures, il est important de favoriser l’émergence de groupes au sein de l’ESS (Économie Sociale et Solidaire), qui peuvent mettre en place des services en adéquation avec leurs valeurs et qui obéissent à une certaine éthique par rapport aux données des utilisateurs. EX: collectif des CHATONS.

Entretien (min. 5:36 – 12:25): C. Masutti défend la place du libre accès et de la libre distribution dans le système de recherche publique actuel au sein du capitalisme de surveillance.

Solutions face au capitalisme de surveillance

1. Privilégier le collectif et le local.
2. Ne pas faire de concessions par rapport au chiffrement des données.
3. L’utilisation des logiciels libres.
4. Dispatcher les lieux de pouvoirs en autant d’instances locales que possible (instances en pair-à pair).

Le modèle chinois de surveillance peut-il s’étendre à l’occident ?

Contrairement au capitalisme occidental de surveillance, le modèle est au capitalisme d’État en Chine et en Russie, ce qui rend impossible de prédire l’évolution à venir. Toutefois, C. Masutti ne pense pas que le modèle chinois puisse s’étendre, en se basant sur ses précédents travaux sur les infrastructures et les réseaux. Il dresse ainsi une comparaison avec le réseau du télégraphe fin XIXe et l’hégémonie de certains pays sur d’autres, ce qui est le cas aussi avec le pétrole actuellement. La situation serait différente ici car les réseaux ont tendance à la multi-polarisation, alors qu’auparavant les USA donnaient le ton de la gouvernance d’Internet. On assiste ainsi à la fin des modèles de pays hégémoniques, dont la Chine ne bénéficiera donc pas.

Toutefois, C. Masutti craint plus une coupe hégémonique des USA en Europe que l’influence de la Chine qui, elle, sera plus influente dans les pays du Sud et notamment sur le continent africain.