Cette alerte, c’est celle que lance The Filter Bubble un livre d’Eli Pariser, paru chez Penguin Press. Eli Pariser, un activiste américain (également fondateur du site Avaaz qui organise des pétitions mondiales sur internet) y dénonce l’ère de l’internet personnalisé.

Tout a commencé le 4 décembre 2009, quand Google a commencé à personnaliser ses recherches. Un algorithme filtre parmi les millions de réponses possibles celles qui devraient a priori vous intéresser : par exemple sur Égypte, des réponses touristiques ou politiques selon ce que l’algorithme de Google pressent de vos centres d’intérêt à partir de vos recherches précédentes.

Cette tendance domine désormais internet : les réponses sont personnalisées, les sites sont personnalisés, les journaux en ligne sont personnalisés et bien sûr les publicités sont personnalisées, y compris les publicités politiques. Nous pensions être le client, mais la logique de gratuité d’internet fait que nous sommes devenus le produit, et à travers nous, toutes les informations sur nous que révèlent ce que nous cherchons (Google) ou ce que nous partageons (Facebook).

Cette première étape (nous connaître par nos choix) est déjà redoutablement efficace. En regardant les films que vous avez choisis et en les comparant aux choix d’autres clients, le site Netflix est capable de définir vos goûts cinématographiques sur ses 140.000 titres à une demie « étoile » près. Mais l’étape suivante est en préparation : déduire de chacun de nos choix les arguments qui nous convainquent et les moments où nous sommes les plus malléables. La manipulation individuelle devient industrielle et économique.

C’est l’exact opposé des valeurs de l’internet historique : il jouait sur la découverte, l’adoption de nouvelles idées et l’anonymat, quand on est maintenant dans la recherche, la récupération d’information et la transparence absolue. Il prétendait décentraliser les pouvoirs : le web d’aujourd’hui le concentre dans quelques sociétés hyperpuissantes lancées dans une course effrénée à la taille.

Est-ce gênant ? Oui, car ce que nous verrons demain sera filtré par nos amis et par des algorithmes. Cette bulle personnalisée va réduire notre curiosité, notre créativité, freiner  les découvertes à l’aveugle, par sérendipité : ce sont les idées étrangères qui aident à éclater nos catégories mentales. La personnalisation devient aussi facilement discrimination : nous pouvons demain  nous voir imposer un taux de crédit plus élevé, simplement parce que nos amis remboursent mal leurs emprunts. Il nous faudra de plus en plus espérer que les grandes entreprises du net auront bien compris qui nous sommes. Et sinon nous risquons de devenir ce qu’elles croient que nous sommes !

La démocratie ne pourra que souffrir d’opinions plus partisanes (on ne lira que ce avec quoi on est déjà d’accord), d’une difficulté plus grande à voir les choses du point de vue des autres, d’un recul du lien social, d’une plus grande difficulté à traiter de sujets importants mais compliqués, qu’il est difficile « d’aimer » d’un clic.

L’alerte est stimulante, même si la démonstration n’est qu’en partie convaincante. Le risque existe, mais nombre d’outils internet continuent à nous mettre en contact avec des gens très différents de ceux qu’on aurait fréquenté « naturellement ». Il me semble qu’entre le « trop peu » et le « trop plein » d’informations, les dés continuent de rouler. Il appelle à la morale des géants d’internet, mais ne dit pas que le premier problème est peut-être tout bonnement leur taille et leur absence de vraie concurrence : les deux secteurs les plus puissants de l’économie moderne, internet et la finance, ont réussi à nous convaincre que les règles anti-trust ne les concernent pas…

Regrettons aussi la place modeste de la Chine dans le livre. Pariser donne une bonne explication de pourquoi le gouvernement chinois n’a pas besoin d’interdire internet pour contrôler internet (grâce à un accès plus difficile qui rend l’internaute conscient de sa déviance, et à des sanctions aléatoires). Il montre aussi comment de très grandes organisations facilitent le contrôle de masse, même aux États-Unis : il n’y a plus besoin d’obtenir d’un juge le droit de fouiller chaque PC, il suffit à la police d’arriver chez l’un des fournisseurs géant du « Cloud » qui abrite à distance toutes nos données personnelles. Mais il ne croise pas les deux idées : en quoi cette personnalisation d’internet pourrait demain faciliter extraordinairement la vie d’une dictature douce, enfermant chaque citoyen dans une bulle confortable ?

Sur le site Ted.com : visionnez la conférence que donne Eli Pariser sur The Filter Bubble. Elle dure 9 minutes seulement et est absolument remarquable.