Dans un livre qui a fait événement aux Etats-Unis, la mathématicienne Cathy O'Neil nous alerte sur les méfaits des classements automatisés et le pouvoir démesuré pris par les géants du Net.

Attention, c’est du brutal. Algorithmes, la bombe à retardement (Novembre 2018, Les Arènes) nous plonge dans les cuisines peu ragoûtantes des fabricants d’algorithmes. L’auteure, Cathy O’Neil, est une mathématicienne américaine de haut vol passée de l’université aux banques puis aux analyses en big data avant de se reconvertir en lanceuse d’alerte. Elle pousse ici un cri d’alarme citoyen : nous ne pouvons pas rester spectateurs d’un monde où nous sommes de plus en plus tributaires d’outils conçus de façon opaque, utilisés à des fins commerciales ou sécuritaires et ayant pour conséquence d’exacerber les inégalités.

Ce qui frappe dans ce mouvement, c’est l’absence de chef, l’absence de structure formelle qui chapeaute la lutte, très loin de cette certitude bien ancrée qu'un mouvement de citoyens ne peut être que manipulé par des gens plus aguerris.
[...]
Bien davantage que la «fachosphère», le carburant de cette mobilisation aura été le nouvel algorithme Facebook. Depuis un changement majeur effectué au début de l’année, le news feed survalorise les contenus issus des groupes au détriment des contenus des médias.

​Afin de mieux cerner les décisions que devraient prendre les futures voitures autonomes (sans chauffeur, donc), une étude dévoile les préférences de 2,5 millions de personnes à travers le monde. Qui sauver en cas d'accident ? Les réponses sont éclairantes, parfois effrayantes, et diffèrent selon les pays.

Nous avons perdu la bataille contre les algorithmes en ce qui concerne la vie privée. Il faut aujourd'hui se battre pour limiter leur impact sur nos vies publiques et notre destin collectif.

Un journal texan a publié plusieurs extraits de la Déclaration d'indépendance des États-Unis sur Facebook. Le réseau social a identifié l'un de ses posts comme contraire à ses règles de fonctionnement, avant de s'en excuser.

À la veille d'une réunion du Conseil de l'Union européenne, plus de 145 organisations appellent les ambassadeurs des États membres de l'Union européenne à ne pas précipiter le débat sur la réforme du droit d'auteur et de ne pas donner à la présidence bulgare un mandat pour négocier avec le Parlement européen sur la base d'un texte contenant de graves reculs pour les libertés. L'April fait partie des organisations françaises signataires de cette lettre ouverte.

« L’une des principales conséquences de la directive sur les droits d’auteur et de la manière dont elle est rédigée à l’heure actuelle, pourrait être le report massif des utilisateurs vers d’autres plateformes d’hébergement dont les serveurs seraient domiciliés hors du territoire européen »

Alors que les administrations peinent encore à appliquer la loi Numérique, une sénatrice propose de rendre nulles toutes les décisions individuelles ne comportant pas de « mention explicite » relative à la transparence des algorithmes publics. Sophie Joissains souhaite également revenir sur la récente brèche concernant Parcoursup.

En janvier, Facebook a annoncé un changement de son algorithme. Ce dernier donnera désormais la priorité aux publications de nos amis et de notre famille. Mais comment l'algorithme du réseau social fait-il pour décider de ce que nous voyons sur notre fil d'actualité ? Et peut-on reprendre la main dessus ?

La récolte de données par Facebook - qui a toujours existé - se fait avec des procédés toujours plus sophistiqués. Et incroyablement intrusifs.

Hier soir, Emmanuel Macron a annoncé une future loi contre la propagation de « fausses informations ». Derrière un effet d'annonce assez cynique, il révèle son désintérêt pour un sujet qui mérite pourtant un traitement sérieux. La propagation de « fausses informations » est le symptôme d'une distorsion du débat public provoquée par la surveillance économique des grandes plateformes - dont les partis politiques traditionnels s’accommodent très bien, quand ils n'y ont pas recours.

Une utilisatrice s'interroge sur les sources de l'algorithme de Facebook

"On a tout dit depuis hier de la détestation des journalistes et de la défaite des médias dans leur couverture de la campagne américaine. Et si le problème était déjà bien ailleurs ? Et si un nombre colossal de citoyens n’avait déjà plus accès aux textes, photos et vidéos publiés par les médias traditionnels ? Pourquoi ? Parce qu’en s’informant sur Facebook, ce ne sont pas les travaux du New York Times ou de CNN qui vous parviennent. Mais ceux que l’algorithme vous fait remonter, en fonction de vos amis et de vos centres d’intérêt. Ils peuvent toujours s’époumoner en vérification des faits les journalistes. Si vous aimez le complot, vous n’aurez plus rien d’autre comme info."

"Selon le cabinet de conseil Deloitte, les investissements du futur seront automatisés ou ne seront pas. Explications avec Quartz."

"Dans la quête vers des voitures autonomes, nous évoquions en juillet dernier le recrutement de plus en plus fréquent de philosophes par les constructeurs automobiles. La MIT Technology Review présente les résultats des premières recherches destinées à éclairer les dilemmes moraux et éthiques posés par ces véhicules."

"Il ne se passe plus une journée sans que nous n'entrions en interaction avec un algorithme, bien souvent sans même nous en rendre compte. Méconnus, ces rouages façonnent pourtant le Web d'aujourd'hui. Entre code informatique et mathématiques, les algorithmes sont l'objet de nombreux fantasmes, du fait notamment du secret qui entoure leur conception."

"Un développeur a créé un site internet « de presse » entièrement réalisé par une intelligence artificielle. Les titres sont spécialement optimisés pour multiplier leurs chances d'attirer des clics."

"Alors que la loi Renseignement qui entrera bientôt en vigueur donne la possibilité au gouvernement d'imposer l'installation de boîtes noires chez les FAI et les hébergeurs pour y détecter de potentiels terroristes, le futur patron de la Commission de contrôle des techniques de renseignement reconnaît que le contrôle des algorithmes sera très difficile à réaliser."

"Des algorithmes qui mesurent votre capacité d’emprunt selon votre mode de vie ? Pour les startupers rencontrés par le New York Times, ces formules mathématiques seraient souvent plus fiables qu’un humain pour prédire les comportements humains."