Les cadres de l'entreprise ont volontairement mis fin à un programme montrant comment la plateforme enferme ses utilisateurs dans une chambre d’écho.

Au début, le rôle des plates-formes numériques était de publier les contenus transmis par les utilisateurs. Cette neutralité devenue inacceptable aux yeux du public, un filtrage systématique s’est progressivement imposé, raconte l’avocat Benoît Huet.

Attention, c’est du brutal. Algorithmes, la bombe à retardement (Novembre 2018, Les Arènes) nous plonge dans les cuisines peu ragoûtantes des fabricants d’algorithmes. L’auteure, Cathy O’Neil, est une mathématicienne américaine de haut vol passée de l’université aux banques puis aux analyses en big data avant de se reconvertir en lanceuse d’alerte. Elle pousse ici un cri d’alarme citoyen : nous ne pouvons pas rester spectateurs d’un monde où nous sommes de plus en plus tributaires d’outils conçus de façon opaque, utilisés à des fins commerciales ou sécuritaires et ayant pour conséquence d’exacerber les inégalités.

Sale temps pour les réseaux sociaux. Fuite de données, problèmes de financement, obligation de rendre des comptes devant les instances publiques, la période est difficile pour les géants du web. Elle l’est pour nous aussi en tant qu’utilisateurs, pour une autre raison.

Le poids pris par Facebook, Twitter et les algorithmes de personnalisation renforcent des tendances déjà identifiées par la psychologie sociale, observent des chercheurs.

En janvier, Facebook a annoncé un changement de son algorithme. Ce dernier donnera désormais la priorité aux publications de nos amis et de notre famille. Mais comment l'algorithme du réseau social fait-il pour décider de ce que nous voyons sur notre fil d'actualité ? Et peut-on reprendre la main dessus ?

"On a tout dit depuis hier de la détestation des journalistes et de la défaite des médias dans leur couverture de la campagne américaine. Et si le problème était déjà bien ailleurs ? Et si un nombre colossal de citoyens n’avait déjà plus accès aux textes, photos et vidéos publiés par les médias traditionnels ? Pourquoi ? Parce qu’en s’informant sur Facebook, ce ne sont pas les travaux du New York Times ou de CNN qui vous parviennent. Mais ceux que l’algorithme vous fait remonter, en fonction de vos amis et de vos centres d’intérêt. Ils peuvent toujours s’époumoner en vérification des faits les journalistes. Si vous aimez le complot, vous n’aurez plus rien d’autre comme info."

"Google a-t-il une opinion politique ? Sans aller jusque là, Google tend à faire davantage confiance que ses concurrents aux résultats provenant de sites officiels de l'Etat. Ce qui pourrait ne pas être neutre dans la prise d'informations des citoyens."

"La masse formidable des données désormais collectées ne concerna plus seulement les comportements de l'internaute sur Internet, mais bien les comportements réels dans le monde physique. A terme, rien ne sera plus inconnaissable : votre utilisation du réfrigérateur, les lumières que vous allumez, la musique que vous écoutez dans votre salon, vos moindres déplacements (à pied ou en voiture), etc. L'interconnexion entre les mondes numérique et physique qui est la phase à laquelle nous assistons désormais est évidemment riche de promesses pour notre confort.

[...]

Alors que la firme a fait en janvier 2014 l'acquisition de Deep Mind, une société dont le but est de créer une intelligence artificielle supérieure à l'homme, il est devient réellement urgent d'engager une réflexion collective sur les conditions de défense de notre liberté contre cette tyrannie qui vient."

"Avant, les choses étaient simples. Il y avait d’un côté les amoureux d’Internet qui refusaient qu’on touche à cet espace de liberté et de l’autre ceux qui considéraient que c’était la pire invention de l’histoire de l’humanité. Mais désormais, ceux-là même qui défendaient le Net emploient des mots comme «danger» ou «dérive».

Ainsi de Lawrence Lessig, co-fondateur de Creative Commons, qui a déclaré le week-end dernier: «Je suis pas sûr qu’Internet soit bon à moyen terme». Ces anciens partisans seraient-ils devenus de gros méchants réactionnaires qui veulent brûler ce qu’ils avaient adoré?

En réalité, ce ne sont pas les défenseurs du Net qui ont changé de camp, mais Internet lui-même. En quelques années, il a connu une métamorphose qui, à titre personnel, me laisse encore ébahie. Internet est devenu exactement l’inverse de ce qu’il était. D’un réseau ouvert, il est devenu un réseau fermé. D’un espace de liberté, il est devenu un espace de surveillance."

"Utiliser des «portraits de données» pour éclater la «bulle de filtres»: c’est la méthode que préconise une étude du 19 novembre 2013, réalisée en collaboration par l’université Pompeu Fabra de Barcelone et Yahoo Labs, et résumée dans un article du MIT Technology Review paru le 29 novembre. Concrètement, il s’agit de faire entrer en contact des personnes ayant de fortes divergences de point de vue, à l’heure où Internet tendrait à les éloigner de plus en plus."