Site original : Framablog
Comme chaque lundi, un coup d’œil dans le rétroviseur pour découvrir les informations que vous avez peut-être ratées la semaine dernière.
Le crédit social est comme un tableau de bord personnel pour chacun des 1,4 milliard de citoyens chinois.
Ceux qui sont au bas de l’échelle peuvent être exclus de la société et interdits de voyage, ou se voir interdire l’accès au crédit ou à des emplois gouvernementaux.
Le système sera renforcé par les systèmes de surveillance de haute technologie les plus récents au moment où la Chine s’efforce de devenir le leader mondial de l’intelligence artificielle.
Les caméras de surveillance seront équipées d’un système de reconnaissance faciale, de scan corporel et de géolocalisation afin d’avoir à l’œil chaque citoyen constamment.
Des applications pour smartphones seront également utilisées pour recueillir des données et surveiller le comportement en ligne au jour le jour.
Ensuite, des mégadonnées provenant de sources plus traditionnelles comme les dossiers gouvernementaux, y compris les dossiers scolaires et médicaux, les évaluations de sécurité de l’État et les dossiers financiers, seront introduites dans les scores individuels.Les systèmes de crédit social à l’essai en sont maintenant à divers stades de développement dans au moins une douzaine de villes à travers la Chine.
Plusieurs entreprises collaborent avec l’État pour nationaliser le système, coordonner et configurer la technologie et finaliser les algorithmes qui détermineront le score national des citoyens.C’est probablement le plus grand projet d’ingénierie sociale jamais tenté, un moyen de contrôler et de contraindre plus d’un milliard de personnes.
Si elle réussit, ce sera la première dictature numérique du monde.
Si un appareil nécessite que vous vous connectiez, les fabricants devront utiliser des mots de passe préprogrammés uniques – donc plus jamais le username : admin/password : admin – ou bien vous faire changer le mot de passe à la première connection. Les entreprises devront également « équiper l’appareil d’un dispositif de sécurité raisonnable ou de dispositifs adaptés à la nature et à la fonction de l’appareil ».
La réparation est un gros business. Et les monopoles en ce domaine sont profitables. Demandez par exemple à Apple, qui a fait pression à maintes et maintes reprises contre la mise à disposition, dans des ateliers de réparation tiers, de pièces de rechange ou d’informations. C’est la raison pour laquelle Big Ag a été si réticent à faire la moindre concession au mouvement grandissant en faveur du droit à la réparation.
À partir du moment où Palantir ne donne pas le code source de son logiciel, qui est son secret de fabrication, il y a toujours le risque qu’une porte dérobée soit mise en œuvre et qu’elle recrache des données essentielles, sans contrôle, estime le représentant français des questions numériques auprès de la Commission européenne, Gilles Babinet. C’est un risque majeur pour le renseignement.
À écouter sur le même sujet, un podcast de 36 minutes de France Inter : Palantir, l’œil américain du renseignement français.
Le sentiment de surveillance renforcée, l’exploitation accrue et potentiellement à grande échelle de données personnelles, pour certaines sensibles (données biométriques), la restriction de la liberté d’aller et de venir anonymement, sont autant de problématiques essentielles pour le bon fonctionnement de notre société démocratique », met en garde l’instance administrative.
En soi, l’activation non-sollicitée de la fonction Battery Saver de Google n’est pas un problème majeur. Apple a récemment été surpris à dégrader les performances d’anciens iPhone pour compenser le vieillissement de leurs batteries. À titre de comparaison, Google s’est cantonné à modifier un paramètre gênant pour quoi, une journée ? […]
Pour la première fois depuis des années, les erreurs de ces sociétés nous rappellent qu’un tel abus de confiance est potentiellement à portée de clic et vous vous demandez quelles autres sortes de changements ils peuvent piloter à distance et quels garde-fous sont en place pour empêcher les employés d’abuser de ce pouvoir.
Apple évalue ses utilisateurs en leur attribuant un « score de confiance » secret basé sur la façon dont ils passent des appels ou envoient des courriels. Pour nous aider à nous rapprocher d’une société dystopique sous l’apparence d’un design immaculé, Apple a discrètement décrit cette activité d’évaluation dans sa politique de confidentialité pour iTunes, récemment mise à jour. Cela s’est produit en même temps que le déploiement de l’iOS 12, ce qui nous fait nous demander avec inquiétude si Apple voulait faire passer cette pratique discutable et controversée auprès de ses fans inconditionnels.
Sur un tel lancement, il aurait peut-être mieux valu retrouver la confiance des utilisateurs ou une dynamique de communication positive avant de tenter cela.
Dans l’état, il est difficile de croire à la bonne volonté du public face à un tel produit. Malgré tout, Facebook a peut-être réussi à lui attribuer une fonctionnalité unique qui redorerait immédiatement son blason. Pour l’heure, il semble compliqué pour l’entreprise de vendre l’idée qu’elle placera une caméra à reconnaissance faciale dans nos foyers.
Nous allons offrir aux générations futures un monde dans lequel le principal problème ne sera pas que Mark Zuckerberg et quelques autres patrons d’industrie se piquent d’être les gardiens protecteurs de nos démocraties mais qu’ils soient effectivement les seuls encore en position de l’être, tout en n’ayant eux-mêmes qu’une idée très vague et très approximative de la manière de s’y prendre et des chances d’y parvenir.
Il ne s’agit pas simplement de fake news et de libre arbitre. Il ne s’agit pas simplement de la liberté de l’information ou de la liberté de la presse. Il ne s’agit pas simplement d’algorithmes, de plateformes, d’Etats et de nations. Il ne s’agit pas simplement d’intelligences humaines et d’autres « artificielles ». Il s’agit de la liberté des peuples. Il s’agit de la liberté tout court.
Merci à Goofy pour le coup de patte :-)
Retrouvez les revues de web précédentes dans la catégorie Libre Veille du Framablog.
Les articles, commentaires et autres images qui composent ces « Khrys’presso » n’engagent que moi (Khrys).