Dernièrement, alors que les technologies numériques pénètrent de plus en plus les sphères de nos vies et de nos sociétés, une préoccupation croissante émerge, concernant le côté le plus sombre d’Internet. Elle est apparue lorsque Edward Snowden a lancé ses mises en garde concernant la surveillance illimitée des communications Internet par les agences de sécurité du groupe des Cinq (Australie, Canada, Nouvelle-Zélande, Royaume-Uni, États-Unis) et la nécessité de protéger nos données privées. D’autres sujets d’inquiétude proviennent des « fausses nouvelles », de la diffusion des messages de haine et des arnaques massives en ligne. Mais ces phénomènes, aussi inquiétants qu’ils soient, s’inscrivent en grande partie dans un cadre plus large, qui est le modèle de développement dominant d’Internet, avec une tendance à la centralisation, conduisant à de nouvelles configurations du pouvoir.
Le fait est qu’Internet est aujourd’hui bien plus qu’un outil de communication et un espace de recherche d’informations. Un nombre croissant d’objets et de systèmes y sont connectés, générant d’énormes quantités de données, qui sont collectées et stockées à travers les plateformes fournies par les grandes entreprises numériques privées, et deviennent le principal apport de la nouvelle économie numérique.
Cela signifie qu’Internet s’est transformé en une sorte de système nerveux central de l’économie, mais aussi des systèmes de connaissances, de l’information, de la politique, et de la vie sociale et culturelle. Par conséquent, ceux et celles qui contrôlent ce système, son infrastructure, ses plates-formes et les données qui y circulent, accumuleront de plus en plus de pouvoir sur divers aspects de l’économie et même sur la vie sociopolitique de nos sociétés.
Visions conflictuelles
À ses débuts, Internet était perçu comme le côté positif de la mondialisation, de par son grand attrait et son utilité, et des possibilités infinies qu’il offre pour démocratiser l’information, la communication et la technologie, et pour relier les personnes et les entités dans un espace géographique sans frontières. Ces caractéristiques d’Internet et de sa technologie, que n’importe qui ayant les connaissances adéquates pouvait programmer, a donné lieu à une multitude d’initiatives citoyennes et de créations d’entreprises. L’Internet populaire a commencé à prospérer, avec un modèle principalement décentralisé, pour partager les connaissances et le contenu et promouvoir les communs.
Cependant, à mesure que l’accès à Internet se généralisait et que les investissements privés se multipliaient, quelques grandes entreprises ont commencé à dominer et à contrôler le développement du réseau, capitalisant l’accumulation des grands progrès que le réseau et ses utilisateurs avaient déjà réalisés, en quête d’un modèle de profit. Cela leur a permis d’absorber ou d’éliminer la concurrence, au point qu’ils figurent désormais parmi les principaux monopoles transnationaux de notre époque.
En contrôlant les plateformes qui relient les différents acteurs, ces entreprises ont acquis une position stratégique consolidée grâce à « l’effet réseau » : les utilisateurs ont tendance à se rendre sur les plateformes où se trouvent leurs amis, clients ou homologues (Facebook), ou à utiliser celles qui offrent une plus large gamme de services (Google, Amazon).
Ainsi, une contradiction clé a émergé entre ces deux visions d’Internet : d’une part, celle des plateformes monopolistiques privées, où les citoyen.ne.s sont relégué.e.s à un rôle de consommateurs.trices et de générateurs.trices de données, et d’autre part, la vision largement décentralisée de l’Internet au service des personnes, avec une forte présence d’initiatives citoyennes. Cette dernière est toutefois confrontée à une marginalisation croissante.
L’époque de l’intelligence artificielle
Pourtant, ce que nous avons vu jusqu’ici n’est que le début. Nous entrons à présent dans une nouvelle phase : celle du développement de l’intelligence artificielle (IA).
L’intelligence artificielle, c’est la capacité des systèmes informatiques à traiter et à analyser d’importants volumes de données - à travers des algorithmes et des programmes complexes - afin de prendre des décisions ou de mettre en œuvre des actions automatisées, selon des objectifs spécifiques. Et cela, à une vitesse et à une échelle qui dépassent largement la capacité humaine. Avec l’IA, les machines intègrent la capacité à apprendre et, par conséquent, à prendre certaines décisions de façon autonome.
L’IA est utilisée, par exemple, pour la conduite de véhicules autonomes, pour diagnostiquer des maladies (avec des résultats parfois plus précis que ceux des médecins) ou pour offrir aux internautes le contenu le plus susceptible de les intéresser.
Comme toute technologie, la manière dont l’IA est développée et utilisée répond à des intérêts spécifiques dans des systèmes sociaux déterminés. En d’autres termes, c’est un problème fondamentalement politique. Cela peut être extrêmement bénéfique, tout comme cela peut servir des intérêts qui vont à l’encontre de l’intérêt public, en fonction de qui le développe et le gère, et dans quel(s) buts.
Par exemple, les capteurs sur les fermes qui recueillent des données sur la météo, sur le développement des cultures ou sur les parasites, qui peuvent ensuite être traitées et transmises aux agriculteurs, pourraient fournir un service utile et aider les agriculteurs à améliorer leurs méthodes et à prévenir certains problèmes. Mais si ces données sont contrôlées par une grande entreprise comme Monsanto, cela peut conduire à confisquer les connaissances et le contrôle de la communauté locale, afin de ne transmettre que l’information qui contribue principalement à augmenter les ventes des produits de l’entreprise.
Pour le moment, les investissements dans le développement de l’IA passent principalement par de grandes sociétés transnationales – principalement américaines, mais aussi chinoises et, dans une bien moindre mesure, originaires de quelques autres pays.
Des études récentes [1] indiquent qu’avec de plus grandes quantités de données, l’IA produit un meilleur apprentissage automatique et des résultats plus efficaces. Cela signifierait que les entreprises ayant un plus grand nombre d’utilisateurs et donc plus de données, auraient un avantage sur les petites entreprises leur permettant de générer des profits plus importants, ce qui intensifierait encore le phénomène de concentration.
Alors que la science-fiction explore depuis longtemps cette question, ce n’est que récemment que les dimensions pratiques, éthiques et juridiques de l’intelligence artificielle entrent dans le débat public, en particulier en Europe et aux États-Unis. Des questions telles que l’impact de la robotisation et la prétendue « économie collaborative » sur l’emploi et le droit du travail font l’objet d’intenses discussions. Parmi les autres sujets de préoccupation, citons la transparence des décisions basées sur des algorithmes, la responsabilité légale des erreurs commises par un programme ou une machine, et les questions de vulnérabilité et de sécurité.
Dans une analyse publiée l’année dernière [2], Prabir Purkayastha, qui travaille depuis longtemps sur la question de l’IA en Inde, affirme que le principal problème est que nous permettons à des algorithmes de supplanter des décisions auparavant humaines (de gouvernements, d’entreprises, d’individus), qui peuvent avoir un impact critique sur des aspects clés de la vie de la société. Les préjugés et la subjectivité d’une société donnée ont tendance à être codifiés par des algorithmes qui prennent ces décisions sans transparence et souvent sans possibilité de recours (que ce soit pour un crédit, un travail, voire une condamnation légale).
Cependant, le problème sous-jacent, selon cet analyste, dépasse cette subjectivité, puisqu’il réside dans les données elles-mêmes et dans les modèles « prédictifs » qui sont construits à partir de celles-ci, modèles qui analysent le passé pour prédire l’avenir. « Ces données et ces modèles reflètent simplement la réalité objective du haut niveau d’inégalité qui existe dans la société et reproduisent cela en direction de l’avenir à travers leurs prédictions », prévient-il. Le danger, donc, est que même si la race, la caste ou la croyance ne sont pas explicitement enregistrées dans les données, « il existe une foule d’autres données qui agissent comme mandataires de ces ‘variables’. » Par conséquent, dit-il, il est essentiel de créer des règles et des organes de contrôle pour réglementer l’utilisation de l’IA.
Domination mondiale
Les géants de l’Internet, qui dominent déjà la sphère de la gouvernance d’Internet, cherchent désormais à influencer les accords commerciaux (ALE, Organisation mondiale du commerce), afin d’imposer des règles visant à éliminer tout obstacle à leur contrôle global de l’univers numérique et à leur capacité à extraire toutes les données présentes sur Internet. C’est le cas des négociations sur le commerce électronique qu’ils essaient d’imposer à l’Organisation mondiale du commerce [3].
Pour les pays en développement, cela implique de sérieux risques. Alors que nombre de ces pays n’ont toujours pas accès aux services de base d’Internet, ils subissent des pressions pour accepter des règles qui consisteraient à sacrifier de façon irréversible leur capacité à protéger leur souveraineté technologique ou à exploiter les données nationales pour leur propre développement grâce à une application appropriée de l’IA. Cela conduira à de nouvelles formes de dépendance. Les systèmes d’IA qu’ils acquièrent déjà auprès de sociétés étrangères sont très rapidement en train d’assumer les fonctions publiques et privées, et cela pratiquement sans faire l’objet d’aucun contrôle public. Il est urgent d’ouvrir un débat public sur ces questions dans ces pays.
Pendant ce temps, des entreprises comme Facebook et Google développent des programmes et des innovations technologiques pour connecter l’autre moitié de la population mondiale, afin d’absorber leurs données dans leurs systèmes d’IA. Mais ces programmes, tels que l’initiative « internet.org » de Facebook (rebaptisée Free Basics), ne permettent qu’une connectivité limitée et signifient que ces secteurs de la population nouvellement connectés seront confinés presque exclusivement au domaine Facebook. Est-ce là une réelle solution à l’exclusion causée par la fracture numérique ?
Nous ne pouvons plus nous permettre d’envisager le futur des technologies numériques comme un sujet réservé aux spécialistes, aux ingénieurs et aux entreprises numériques. C’est un problème que toute la société doit assumer globalement et qui sera sans aucun doute une des questions déterminantes de ce siècle.
L’Internet populaire et les politiques publiques
Malgré des conditions défavorables, l’Internet populaire est toujours très actif, comme en témoignent les milliers d’initiatives de connaissance ouverte, de culture libre, de travail collaboratif, de technologies non propriétaires, de médias alternatifs et communautaires, d’initiatives de développement communautaire, de petites entreprises et de réseaux de solidarité. Les acteurs sociaux qui prônent la démocratisation des connaissances et de la technologie, tels que les logiciels libres et les mouvements de connaissance ouverte, continuent de jouer un rôle crucial dans le développement du réseau et des technologies connexes. La connectivité, par exemple, n’a pas besoin de dépendre des grandes entreprises. Il existe des exemples de réseaux communautaires très réussis (comme au Mexique) contrôlés par la population locale. Cela signifie qu’ils sont beaucoup plus susceptibles d’avoir une vision critique de l’utilisation et du potentiel de la technologie.
Pourtant, de telles initiatives ont tendance à être dispersées et sous-financées, ce qui entrave leur capacité à remettre en question la forme actuelle du cyberespace dominé par les grandes entreprises. Si les utilisateurs d’Internet, le contenu qu’ils fournissent et leurs interactions sont créateurs de valeur dans une économie numérique, il n’est pas logique que tout cela soit fourni en échange d’un accès « gratuit » à des services et des bénéfices d’une valeur beaucoup plus faible. Trouver des solutions réelles et durables exigera sans aucun doute une articulation d‘initiatives citoyennes et de politiques publiques.
En Inde et en Europe, par exemple, on débat sur le concept de « données communautaires » (à distinguer de celui de « données personnelles » et de la protection qu’elles requièrent), ce qui nécessiterait la construction d’infrastructures numériques et de données publiques. Comme le signale Parminder Jeet Singh, « la nature de la propriété de telles données numériques et les droits personnels et collectifs sur celles-ci, doivent d’abord être discutés et clarifiés, avant que le cadre de la ‘libre circulation des données’ puisse être négocié. La ‘propriété des données’ et les ‘flux de données’ sont des sujets étroitement liés et doivent être discutés ensemble ».
Un des espaces de discussion et d’examen de ces questions pourrait être le forum social de l’Internet [4]. Lancé il y a trois ans, ce projet est en cours de développement dans l’espace virtuel et l’Amérique latine a organisé une première réunion en septembre dernier [5]. Parmi les conclusions [6], il faut mentionner « la nécessité de considérer Internet comme un bien commun ou comme un service essentiel, avec un accès universel - plutôt qu’un service marchand - et la fourniture de services Internet comme un service public ».