« Nous n’avons pas à rougir ou à nous excuser ». Voilà comment le directeur de la CAF — dans un « Message au sujet des algorithmes » à destination des 30 000 agent·es de la CAF1 — a réagi à notre publication du code source de l’algorithme de notation des allocataires.
Nous ne sommes que le 3 janvier, l’année vient juste de commencer, les remugles d’alcool du réveillon ne se sont pas encore dissipés, remettons donc à plus tard le commentaire désabusé de l’apocalypse qui fait le charme de cette missive hebdomadaire et intéressons-nous plutôt à un sujet léger. J’ai nommé Threads, le clone de Twitter développé par Meta, accessible aux utilisateurs européens depuis le 14 décembre dernier.
Confrontées à l’opacité des critères de sélection des formations, certains parents plongent dans les données de Parcoursup. Des sites d’open data fleurissent aussi grâce à l’analyse fine des profils des admis des années précédentes, pour permettre aux lycéens de faire les choix les plus cohérents.
Une nouvelle étude scientifique conclut à un relatif biais à droite de l'algorithme de YouTube. En revanche, elle ne démontre pas d'exposition marquée aux contenus extrémistes, sauf chez les profils d'utilisateurs déjà les plus marqués à l'extrême, en particulier à l'extrême-droite.
« Le Monde » raconte comment une bénéficiaire du RSA est devenue un dossier « à risque » pour l’organisme, et les conséquences de ce ciblage sur sa vie.
Après des mois de lutte, l’association La Quadrature du Net a réussi à obtenir le code source de l’algorithme utilisé par la Cnaf pour le contrôle des allocataires. Elle révèle que sont ciblés les plus fragiles. Pour le sociologue Vincent Dubois, ces révélations viennent confirmer le surcontrôle des populations précaires.
Après des mois de lutte, l’association la Quadrature du Net a réussi à obtenir le code source de l’algorithme utilisé par la CAF pour lutter contre la fraude aux allocations. Elle dévoile une « une surveillance prédictive aux accents dystopiques », qui « cible délibérément les personnes les plus précaires ».
Après plus d’un an de mobilisation contre les pratiques de notation des allocataires de la CAF au côté des collectifs Stop Contrôles et Changer de Cap1, et après avoir détaillé le fonctionnement de l’algorithme de la CAF et son cadre politique, nous publions aujourd’hui le code source de cet algorithme de notation. Nous vous invitons aussi à consulter ici notre page de présentation sur l’utilisation d’algorithmes similaires au sein d’autres administrations.
Une trentaine de personnes ont reçu des amendes et des courriers suite à des casserolades à Dijon, sans que quiconque n’ait été verbalisé ou contrôlé sur place. Comment ces personnes ont-elles pu être identifiées ? Interrogé par Politis, le procureur de Dijon botte en touche.
Internal documents suggest Facebook has long known its algorithms and recommendation systems push some users to extremes.
Nouveau coup dur pour Facebook . Alors que l’entreprise peine à s’extirper des récents scandales, de nouvelles révélations viennent accabler le réseau social. Selon plusieurs médias américains, l’entreprise de Mark Zuckerberg avait conscience de la radicalisation de nombreux utilisateurs et utilisatrices et de leur mise en avant, mais n’a pas réagi.
Dans des documents internes de l’entreprise, ses ingénieurs avouent leur incompréhension face à un code informatique aux effets imprévus, qui fait du réseau social une machine complexe, difficile à maîtriser.
Selon un ancien employé du réseau social, qui a fait une déposition devant l’autorité de régulation des marchés financiers américaine, le groupe n’a pas réellement cherché à lutter contre la désinformation sur sa plate-forme.
Twitter a publié une très longue étude, rare, sur la portée des messages publiés par des personnalités politiques, en fonction de leur parti, dans toute l'Europe. Le constat est édifiant dans quasiment tous les pays étudiés : la droite est bien plus amplifiée que la gauche. Et le réseau social ne sait pas pourquoi.
Nous republions sur notre site la tribune d’Arthur Messaud et de Martin Drago, juristes à La Quadrature du Net, sur la loi Renseignement, publiée à l’origine par Le Monde le 29 juin – le texte a finalement été adopté dans la nuit du 29 au 30 juin
Boaz Ganor, expert en contre-terrorisme israélien, estime, dans un entretien au « Monde », que l’Intelligence artificielle peut aider à détecter les « loups solitaires » et « terroristes spontanés ». A condition d’en faire un usage encadré et raisonné.
Avec un ton acerbe contre les géants du numérique, Aral Balkan nourrit depuis plusieurs années une analyse lucide et sans concession du capitalisme de surveillance. Nous avons maintes fois publié des traductions de ses diatribes.
Ce qui fait la particularité de ce nouvel article, c’est qu’au-delà de l’adieu à Twitter, il retrace les étapes de son cheminement.
Les outils policiers fondés sur le big data et l’intelligence artificielle se déploient dans de nombreuses villes françaises. À travers des expérimentations pilotées par des groupes privés qui cherchent à se hisser au niveau de la concurrence américaine ou chinoise, la « ville intelligente » révèle son vrai visage : celui d’une cité sous surveillance.
Nous révélons l’avant-projet de lettre rectificative du gouvernement. Cette mise à jour vient compléter le tout récent projet de loi « relatif à la prévention d’actes de terrorisme et au renseignement », présenté le 28 avril dernier en Conseil des ministres.
Le gouvernement dépose ce mercredi un projet de loi antiterroriste, qui concerne notamment la surveillance en ligne et qui devrait prendre la forme d’une mise à jour de la loi renseignement de 2015.
Le texte, qui sera déposé cinq jours après l’attaque mortelle au commissariat de Rambouillet, est en préparation depuis plusieurs semaines.
Le réseau social déploie une nouvelle option dédiée au fil d’actualité, qui consiste à remplacer la sélection de Facebook par un affichage chronologique bien plus basique.
"En finir avec l'anonymat sur internet", "Rendre les réseaux sociaux responsables de ce qui y est publié"... depuis l'assassinat de Samuel Paty, nombreux sont ceux qui pointent la responsabilité des grandes plateformes. Mais à écouter les professionnels du droit et des réseaux, la réalité est plus contrastée... et moins brillante pour les décideurs publics.
C'est fait ! Aujourd'hui j'ai supprimé définitivement mon compte Facebook. Pourquoi ?
Pas parce qu'il collecte trop de données personnelles. Mais parce que l'usage qu'il fait de vos données et des miennes est terriblement néfaste pour nous tous.
Fini le non-interventionnisme de 2016: Mark Zuckerberg est devenu « un acteur politique », affirme le « Wall Street Journal ». Au détriment de la gauche, selon plusieurs médias, et en restant critiqué de part et d’autre.
Une étude menée dans plusieurs pays européens montre comment l'algorithme de Facebook choisit de diffuser des offres d'emplois à ses utilisateurs. Un ciblage qui repose sur des stéréotypes sexistes.
Facebook a transformé l’ère du réseautage social en s’imposant sur Internet comme étant un moyen incontournable de relier des personnes physiques ou personnes morales entre elles. La plateforme a été incroyablement lucrative pour son PDG et fondateur, Mark Zuckerberg, qui compte parmi les hommes les plus riches du monde. Mais le réseau social « a été un désastre pour le monde lui-même, un puissant vecteur de paranoïa, de propagande et de conspiration, ainsi que de répression autoritaire et d'attaques vicieuses contre la presse libre », a écrit un chroniqueur dans un article d’opinion publié vendredi dans le New York Times.
Guardian investigation finds more than 3m aggregate followers and members support QAnon on Facebook, and their numbers are growing
[...]
Facebook’s own internal research in 2016 found that “64% of all extremist group joins are due to our recommendation tools”, primarily through the same “Groups you should join” and “Discover” algorithms
Similar content is also readily accessible across Twitter, YouTube and Reddit, says UK-based counter-extremist group
Les algorithmes du service auraient un impact sur la présidentielle américaine révèle The Markup, le nouveau média lancé la semaine passée par des anciens journalistes de données de ProPublica, dont les enquêtes entendent interroger les pouvoirs des « Big Tech ».
Face au « champ de mine mélodique » où chaque artiste risque une poursuite pour plagiat, deux musiciens développeurs ont généré toutes les mélodies possibles dans la musique pop.
Un rapport de l’ONG Avaaz souligne l’ampleur de la diffusion de vidéos climatosceptiques, et l’impuissance, voire la complaisance de Google.
Le Conseil d’État a transmis au Conseil constitutionnel une question prioritaire de constitutionnalité concernant les algorithmes locaux employés par les universités dans le cadre de Parcoursup. Une réponse est attendue d'ici trois mois.
Earlier this week, YouTube finally acknowledged their recommendation engine suggests harmful content. It’s a small step in the right direction, but YouTube still has a long history of dismissing independent researchers. We created a timeline to prove it.
D'après une lettre officielle, Amazon surveille ses employés avec des robots pour déterminer leur efficacité au travail. Si leur taux de productivité n'est pas satisfaisant, ces systèmes automatisés les licencient sans passer par la case RH.
L'ouvrage de l'analyste et mathématicienne Cathy O'Neil, publié en 2016 en langue anglaise, vient d'être traduit en français. "Algorithmes, la bombe à retardement" explique en détail l'application concrète des algorithmes d'apprentissage automatique (logiciels "d'intelligence artificielle") dans la société américaine, avec toutes les conséquences qu'ils engendrent. Bienvenue dans l'enfer des machines évaluant les êtres humains.
Des algorithmes remplaçant les juges pour trancher des litiges mineurs ; des procès à distance, et déshumanisés, via la visioconférence ; des gardes à vue décidées par des policiers sans accord écrit d’un juge ; des plateformes numériques privées pour régler à l’amiable des litiges ; un accès à la justice trop onéreux pour les classes populaires… Science-fiction ? Aucunement : il s’agit de la réforme de la justice portée par la Garde des Sceaux Nicole Belloubet et discutée à l’Assemblée nationale. Sa « justice du 21ème siècle » commence à ressembler à un cauchemar pour l’égalité des droits et la démocratie. Le Syndicat des avocats de France, comme de nombreux acteurs du monde judiciaire, est vent debout contre ce projet. Basta ! s’est entretenu avec sa présidente, Laurence Roques.
La combinaison de capteurs IoT et de lacs de données devient un outil puissant pour l'analyse de modèles, mais elle a de sérieuses répercussions sur la vie privée du consommateur et du salarié sur le lieu de travail.
L'histoire est de celles qui font monter les larmes. En tout cas moi j'ai eu les yeux qui piquent en la lisant. C'est celle d'une femme qui à perdu son enfant à la naissance. Un enfant mort-né. Une femme qui écrit aux patrons des GAFA, aux patrons des "Tech Companies", pour leur demander d'arrêter de lui proposer des liens publicitaires sur une maternité dont elle doit faire le deuil.
Dans un livre qui a fait événement aux Etats-Unis, la mathématicienne Cathy O'Neil nous alerte sur les méfaits des classements automatisés et le pouvoir démesuré pris par les géants du Net.
Attention, c’est du brutal. Algorithmes, la bombe à retardement (Novembre 2018, Les Arènes) nous plonge dans les cuisines peu ragoûtantes des fabricants d’algorithmes. L’auteure, Cathy O’Neil, est une mathématicienne américaine de haut vol passée de l’université aux banques puis aux analyses en big data avant de se reconvertir en lanceuse d’alerte. Elle pousse ici un cri d’alarme citoyen : nous ne pouvons pas rester spectateurs d’un monde où nous sommes de plus en plus tributaires d’outils conçus de façon opaque, utilisés à des fins commerciales ou sécuritaires et ayant pour conséquence d’exacerber les inégalités.
Ce qui frappe dans ce mouvement, c’est l’absence de chef, l’absence de structure formelle qui chapeaute la lutte, très loin de cette certitude bien ancrée qu'un mouvement de citoyens ne peut être que manipulé par des gens plus aguerris.
[...]
Bien davantage que la «fachosphère», le carburant de cette mobilisation aura été le nouvel algorithme Facebook. Depuis un changement majeur effectué au début de l’année, le news feed survalorise les contenus issus des groupes au détriment des contenus des médias.
Afin de mieux cerner les décisions que devraient prendre les futures voitures autonomes (sans chauffeur, donc), une étude dévoile les préférences de 2,5 millions de personnes à travers le monde. Qui sauver en cas d'accident ? Les réponses sont éclairantes, parfois effrayantes, et diffèrent selon les pays.
Nous avons perdu la bataille contre les algorithmes en ce qui concerne la vie privée. Il faut aujourd'hui se battre pour limiter leur impact sur nos vies publiques et notre destin collectif.
Un journal texan a publié plusieurs extraits de la Déclaration d'indépendance des États-Unis sur Facebook. Le réseau social a identifié l'un de ses posts comme contraire à ses règles de fonctionnement, avant de s'en excuser.
À la veille d'une réunion du Conseil de l'Union européenne, plus de 145 organisations appellent les ambassadeurs des États membres de l'Union européenne à ne pas précipiter le débat sur la réforme du droit d'auteur et de ne pas donner à la présidence bulgare un mandat pour négocier avec le Parlement européen sur la base d'un texte contenant de graves reculs pour les libertés. L'April fait partie des organisations françaises signataires de cette lettre ouverte.
« L’une des principales conséquences de la directive sur les droits d’auteur et de la manière dont elle est rédigée à l’heure actuelle, pourrait être le report massif des utilisateurs vers d’autres plateformes d’hébergement dont les serveurs seraient domiciliés hors du territoire européen »
Alors que les administrations peinent encore à appliquer la loi Numérique, une sénatrice propose de rendre nulles toutes les décisions individuelles ne comportant pas de « mention explicite » relative à la transparence des algorithmes publics. Sophie Joissains souhaite également revenir sur la récente brèche concernant Parcoursup.
En janvier, Facebook a annoncé un changement de son algorithme. Ce dernier donnera désormais la priorité aux publications de nos amis et de notre famille. Mais comment l'algorithme du réseau social fait-il pour décider de ce que nous voyons sur notre fil d'actualité ? Et peut-on reprendre la main dessus ?
La récolte de données par Facebook - qui a toujours existé - se fait avec des procédés toujours plus sophistiqués. Et incroyablement intrusifs.