Kids United (for Facebook) : le web des enfants n’est pas une île.

<Mise à jour du 14 février 2018> On apprend que les experts scientifiques indépendants qui ont évalué Messenger Kids étaient … payés par Facebook. </Mise à jour>

Un internaute sur 3 dans le monde est … un enfant (ou un adolescent de moins de 18 ans). 

Voilà. Le 4 décembre 2017, Facebook lance officiellement "Messenger Kids". Mais le 6 décembre, comme Johnny Halliday vient d'enclencher le processus qui mènera inexorablement à la troisième guerre mondiale en indiquant que Jérusalem était la capitale d'Israël, et comme ce même 6 décembre Donald Trump est mort en laissant ses fans désemparés (ou l'inverse), du coup l'info est presque passée inaperçue. Et c'est dommage. 

1ère mauvaise nouvelle, ils ont aussi embauché le graphiste qui a conçu "Paint".  

 

I'm the passenger Messenger.

Les parents possédant un compte Facebook (et eux uniquement) pourront donc créer pour leurs enfants un compte "Messenger Kids" et leur rendre accessible une version de l'application Messenger, qui sera donc disponible pour les Kids sur leur tablette / ordinateur / smartphone, et qui sera : 

• gratuite
• sans avoir besoin d'un numéro de téléphone (pour l'enfant)
• sans publicité ni achats liés ("in-app puchases")
• ET LÀ J'AI SURTOUT ENVIE DE DIRE "POUR L'INSTANT"
• sans créer automatiquement un compte Facebook associé
• ET LÀ J'AI SURTOUT TOUJOURS AUTANT ENVIE DE DIRE "POUR L'INSTANT"
• où les enfants pourront faire tout ce qu'on peut déjà faire avec Messenger, appels vidéos, échange de photos rigolotes avec filtres et gifs spécialement choisis pour un public jeune et pour éviter que ledit public jeune ne soit tenté d'aller faire ses premiers pas sur Snapchat tellement lesdits filtres sont autant de Snapchats-Like.  
• dans laquelle ce seront les parents qui ajouteront les contacts autorisés (que l'enfant pourra quand même bloquer s'il le souhaite)
• où les enfants ne pourront donc pas ajouter des contacts ni accepter des demandes extérieures (oui je sais je l'ai déjà dit au-dessus mais c'est important)
• où les parents ne pourront pas lire les discussions de leurs enfants
• qui sera "COPPA compliant", c'est à dire respectueuse de la loi américaine sur le "Children's Online Privacy Protection Act" (qui ne comporte rien de très contraignant mais bon c'est déjà ça)
• où les enfants pourront signaler ("reporting") des contenus choquants (contenus qui seront donc transmis par des contacts autorisés par leurs parents …) 
• où les enfants pourront aussi signaler s'ils sont harcelés, auquel cas le ou les parents recevront alors une notification Messenger
• et où les enfants pourront aussi se faire virer comme tout le monde s'ils postent des photos de l'origine du monde de Courbet, ou des photos d'allaitement avec un téton visible, ou la photo de la petite Kim fuyant les bombardements au napalm, bref s'ils ne respectent pas les sacro-saints "community standards" ("We will remove kids from the app who repeatedly violate our Community Standards")

Tout cela est (très bien) expliqué sur la page dédiée de MessengerKids. 

Mais puisqu'on vous dit que ça ne ressemble pas du tout à Snapchat …

Et donc comme l'âge officiel d'inscription sur Facebook est de 13 ans (même si l'âge réel tourne plutôt autour de 10-11 ans) l'application Messenger Kids s'adresse officiellement aux enfants avant 13 ans, à partir de … de … de l'âge où leurs parents auront décidé de leur installer ladite application. On va donc immanquablement voir des loulous de 2, 3, 4 ou 5 ans débarquer sur Messenger (for Kids) pour tout un tas de supposées bonnes raisons pratiques et tout et tout. Parce que oui, c'est en effet "pratique et tout et tout" et l'on considère hélas souvent que cette "praticité" est une raison suffisante là où elle est surtout un alibi commode. 

Alors bien sûr personne n'est vraiment dupe.

Ben non. Personne n'est dupe de la stratégie de Facebook. La stratégie de Facebook c'est clairement de descendre l'âge de la fabrique du consentement d'un public captif. Parce que bien sûr quand tu auras été biberonné depuis des 5 ans à Messenger for Kids et que viendra l'âge de ton premier téléphone rien qu'à toi et / ou l'âge d'avoir cette fois pour de bon un compte Facebook / Instagram, tu basculeras "naturellement" sur le Messenger normal, avec de la pub, des achats in-app et tout le toutim. Donc Messenger Kids est uniquement pensé comme un cheval de Troie de la guerre de l'attention (qui aura bien lieu). 

On sait aussi (en tout cas moi j'en suis convaincu) que l'une des grandes questions de l'apprentissage du numérique, de l'alphabétisation au numérique, est celle de la "publication". Il faut enseigner la publication si l'on ne veut pas se retrouver avec une nouvelle forme d'analphabétisme tout autant problématique que la précédente. Il faut apprendre, le plus tôt possible, la différence fondamentale qu'il existe entre le fait d'écrire pour soi et le fait de publier devant les autres, de rendre public, d'inscrire et d'afficher ses photos ses pensées et ses actes dans un espace social public (celui du web) ou dans l'espace semi-public de ces foutues plateformes. 

Souvenez vous de ce que je vous racontais (le 3 Avril 2012 quand même) : 

"Enseigner l'activité de publication et en faire le pivot de l'apprentissage de l'ensemble des savoirs et des connaissances. Avec la même importance et le même soin que l'on prend, dès le cours préparatoire, à enseigner la lecture et l'écriture. Apprendre à renseigner et à documenter l'activité de publication dans son contexte, dans différents environnements. Comprendre enfin que l'impossibilité de maîtriser un "savoir publier", sera demain un obstacle et une inégalité aussi clivante que l'est aujourd'hui celle de la non-maîtrise de la lecture et de l'écriture, un nouvel analphabétisme numérique hélas déjà observable. Cet enjeu est essentiel pour que chaque individu puisse trouver sa place dans le monde mouvant du numérique, mais il concerne également notre devenir collectif, car comme le rappelait Bernard Stiegler : "la démocratie est toujours liée à un processus de publication – c'est à dire de rendu public – qui rend possible un espace public : alphabet, imprimerie, audiovisuel, numérique."

Enseigner la publication donc. Et à ce titre, je rejoins assez le commentaire que faisait le camarade Yann Leroux sur Facebook, à savoir que cet outil, Messenger For Kids, est en effet une occasion de mettre en place cet apprentissage dans un environnement – relativement – préservé et contrôlé, fut-il celui de Facebook (je dis bien "relativement" préservé parce qu'il est hélas documenté que nombre de faits de harcèlement et de viol sont souvent commis par des membres de la famille et/ou des proches).

Mais donc globalement je partage, disais-je, l'idée de Yann Leroux selon qui : 

L'idéal serait bien sûr que cet apprentissage puisse se faire sur une plateforme ou une application plus indépendante ou dont nous serions en tout cas moins directement déjà dépendants mais …

<Parenthèse énervée> Mais … mais bon la start-up nation n'ayant visiblement pas pour objectif de développer des apps éducatives (il en existe heureusement quelques-unes – et de très grande qualité – mais bizarrement elles ont davantage de mal à trouver des Business-Angels que les apps des sex-toys connectés ou d'esclavage moderne de service à la personne), et l'état-plateforme semblant considérer qu'après tout on peut bien sabrer dans les postes offerts aux concours d'enseignement (au pire on collera les CP dédoublés devant des Moocs qui valideront par l'entremise d'un bandeau frontal connecté une approche par compétence issue des derniers travaux des neurosciences), mais bon, disais-je, il faudra bien se satisfaire une nouvelle fois de la solution présentée par la grande plateforme bleue puisque l'indigence des pouvois publics et le saccage en règle de l'éducation et de l'instruction publique ne permettent pas d'envisager un plan B à court ou moyen terme. </Fin de la parenthèse mais pas de l'énervement.>

Apprentissage périphérique et situé pour public captif et ciblé.

Plus que d'autres peut-être, notre apprentissage des technologies relève d'un apprentissage "situé". Un apprentissage dans lequel la notion de "légitimation de la participation périphérique" issue des travaux de Lave et Wenger prend tout son sens : 

"les nouveaux-venus deviennent d'abord membres d'une communauté en participant à des tâches simples et sans risques, qui sont cependant productives et nécessaires, et concourent à l'accomplissement des objectifs de la communauté. Au travers de ces activités périphériques, les novices acquièrent une familiarité avec les tâches courantes, mais aussi avec le vocabulaire et avec les règles qui permettent à la communauté de s'organiser." 

Messenger Kids participe bien sûr à installer cette "participation périphérique". 

Donc Messenger Kids c'est une bonne chose ? Ben heu … non.

Ou disons que se demander si c'est une "bonne" ou une "mauvaise" chose n'est pas la bonne manière de poser la question. A vrai dire il est assez troublant, voire préoccupant d'acter ce lancement à une période où Facebook défraie quasi quotidiennement la chronique par les questions de société qu'il soulève et sur des sujets qui sont tout sauf anodins et légers et parmi lesquels on pourra notamment citer : son rôle dans les élections US mais aussi dans le cadre des élections aux Philippines, ses problématiques politiques de modération, ses stratégies de ciblage publicitaire, son rapport aux médias, sa capacité à pousser toujours plus loin les limites de la reconnaissance faciale au regard des questions de vie privée, et plus globalement la forme de déterminisme social, culturel et informationnel produite et entretenue par ses algorithmes. 

Pour ce type de public (les enfants), je reste convaincu que la question de la mise en place et du financement de politiques publiques d'éducation et de prévention reste fondamentale dans une société se voulant "moderne". Or il se trouve que l'existence de solutions techniques – pour ne pas dire d'un solutionnisme technologique – médiées par de grandes plateformes a tendance à faire percevoir comme inessentielles ces politiques publiques (et servent aux états plateformes de nos start-up nations à s'en désengager toujours davantage) alors même qu'elles n'ont jamais été aussi littéralement vitales pour permettre à chacun de s'émanciper et de pouvoir bénéficier de recours collectifs stables, cohérents, et démocratiquement construits (ce qu'on appelle aussi la loi, certes parfois imparfaite, mais quand même la même pour tous …). Il n'est qu'à voir le pataquès que cela donne lorsque Facebook se préoccupe de lutter contre le suicide pour s'en convaincre. En tout cas cela devrait nous en convaincre. 

Tour de contrôle parental ou tour d'ivoire ?

Facebook n'est pas le premier à s'attaquer ainsi au marché du temps d'attention des enfants au travers d'offres dédiées et supposément à l'abri des pédo-nazis et de la pornographie.    

En février 2015 c'est Google qui lançait son YouTube for Kids, application disponible en France depuis Novembre 2016. Et en Mars 2017 le même Google lançait l'application "Family Link" qui permet, sous couvert d'un contrôle parental, de faire sauter le verrou qui empêchait jusqu'ici les enfants de moins de 13 ans de disposer d'un compte Google et/ou d'un compte Androïd. 

La stratégie de Google pour les enfants de moins de 13 ans peut donc être ainsi résumée : "d'abord une application, puis un compte". Et il serait assez étonnant que Facebook n'emprunte pas le même chemin … Je prends officiellement le pari et vous donne rendez-vous dans un an ou deux pour voir quel sera le "Family Link" de Facebook qui lui permettra d'autoriser n'importe quel enfant de n'importe quel âge à disposer d'un compte sur la grande plateforme bleue pour atteindre ainsi le prochain milliard d'utilisateurs captifs. 

En tout état de cause, la question d'un contrôle parental programmable ou programmé est un leurre total. Le seul contrôle parental valable et efficace est celui du co-visionnage consistant, lorsqu'un enfant dispose d'une tablette ou de l'accès à un ordinateur ou à un téléphone portable, à visionner avec lui ce qu'il regarde ou à se trouver suffisamment près et dans la même pièce pour pouvoir y jeter un oeil ou entendre du coin de l'oreille ce qui se dit. Et tout le reste c'est du pur #bullshit. Un enfant de moins de 12 ans seul dans une pièce avec un téléphone ou une tablette ou un ordinateur sera fatalement exposé à des contenus inappropriés, même si vous avez installé tous les dispositifs de contrôle parental possibles et imaginables. 

Les solutions proposées par Facebook (Messenger for Kids) ou par Google (Family Link et YouTube Kids) sont à l'image de leur Credo philosophique : elles s'inscrivent dans le fantasme solutionniste du contrôle à distance. Or, jusqu'à un certain âge en tout cas, l'éducation en général et l'éducation aux écrans en particulier ne peut en aucun cas être faite à distance. Et si les chaînes télé ou les déjà cacochymes lecteurs de DVD pouvaient, il y a quelques années encore, jouer temporairement le rôle de nounous cathodiques sans nécessiter la présence d'un adulte dans la pièce, c'est parce le contrôle de l'émission (diffusée) obéissait aux règles d'une grille des programmes pré-établie et parfaitement lisible et prévisible. Or il ne peut à l'évidence en être de même pour les écrans connectés : leur nature, y compris dans les environnements supposément dédiés aux enfants, est de permettre l'accès à des programmes (des contenus) aussi imprévisibles qu'illisibles, choisis et parfois même fabriqués à la demande et à la volée par des algorithmes davantage opportunistes qu'opportuns et qui fabriqueront donc toujours mécaniquement de l'importun. 

"la production de contenus pour enfant est désormais automatisée en fonction des tendances et des mots-clés les plus en vogue. Et à cause de ça, des enfants se retrouvent tous les jours exposés à des contenus incohérents, violents et potentiellement traumatisants. (…) Prenons l'exemple de la chaîne Bounce Patrol Kids, qui a deux millions d'abonnés. Elle propose des vidéos de qualité professionnelle, jouées par des acteurs, environ une fois par semaine. Je ne dis pas que ce qu'ils font est illégal, en revanche, il y a quelque chose de bizarre à voir des gens jouer dans une vidéo spécifiquement créée en fonction d'une combinaison de mots-clés générée par un algorithme."

(Extrait de l'article de James Bridle repris et chroniqué dans l'Obs)

En conséquence de quoi les polémiques sur les contenus inappropriés y compris sur les versions "enfants" des plateformes ne cesseront jamais, en tout cas pas tant que ce modèle publicitaire et attentionnel sera le moteur premier de l'algorithmie supposée faire office de tri et d'organisation. Pas davantage que ne cesseront les polémiques sur les commentaires pédophiles à l'origine d'un exode massif des annonceurs, lequel exode s'il se maintient et s'étend demeure la seule chance pour que ces plateformes revoient entièrement la logique de leurs politiques de modération (et l'investissement qu'elles sont prêtes à y consacrer). 

Et nous sommes bien d'accord que cela n'est pas "la faute des algorithmes" pour la simple et bonne raison que les algorithmes sont incapables de "fauter" c'est à dire d'être délibérément à l'origine de quelque chose de condamnable moralement, mais que la "faute" incombe aux responsables de l'écosystème au sein duquel on assigne aux algorithmes la tâche de produire à la volée des contenus répondant à la seule règle d'une optimisation attentionnelle corrélée à son potentiel de monétisation publicitaire.

Si nous avions eu cela à l'époque du club Dorothée, Goldorak serait allé faire plein de saloperies derrière la lune noire et Casimir aurait réalisé le fantasme de la brouette japonaise avec son cousin Hyppolite. 

"Entre cousins, tout est possible". Bisous Christine Boutin. 

Le web des enfants n'est pas une île (aux enfants).

"Voici venu le temps des rires et des chants, sur l'île aux enfants c'est tous les jours le printemps" disait le générique de l'émission où Casimir et sa bande officiaient comme autant de "monstres gentils". Et nous étions alors loin d'imaginer que la promesse d'un web des enfants s'incarnerait dans la décapitation d'Aladdin ou la torture de Peppa Pig chez le dentiste. Et oui. Voici venu le temps de l'algorithmie, le web des enfants c'est pas toujours reluisant.

Car au-delà de tout cela, ce n'est même pas le contenu des vidéos du web des enfants qui suffit à constituer ou à épuiser l'essentiel du problème, sauf à vouloir rejouer (ce n'est pas mon intention) le débat de 1989 (bah oui) où Ségolène Royal partait en guerre contre Goldorak et Ken le Survivant en particulier et contre les mangas en général. Non.

Le problème vient d'abord de ce fantasme toxique d'un contrôle parental possible "in absentia" ; un contrôle parental autorisant et légitimant l'absence des parents par l'excuse de la médiation technique. Ça je vous en ai déjà parlé plus haut. 

Le problème vient ensuite du modèle publicitaire attentionnel également toxique, qui s'applique même lorsque l'on envisage des services supposés être exempts de publicité mais qui s'inscrivent dans le giron de firmes et de plateformes dont le modèle publicitaire est l'alpha et l'oméga et génère mécaniquement des formes de spéculations discursives à l'abri de toute rationalité. 

Le problème vient enfin de l'itération algorithmique et du déterminisme qui l'accompagne, en ce qu'il produit une forme réductionniste de répétition. Car les enfants adorent la répétition. Et la répétition est l'alliée objective de tous les apprentissages. Pour autant que cette répétition ne soit pas l'incarnation d'un réductionnisme cognitif qui évacue les effets d'entraînement au seul bénéfice d'une logique de lectures et d'écritures industrielles** de l'entertainment.  

** sur la question des lectures industrielles voir Alain Giffard et sur la question des écritures industrielles me consulter directement (ici ou là) 😉

Des vidéos qu'on redemande aux vidéos à la demande.

Le problème n'est pas que les enfants en (très) bas-âge aient besoin et soient accrocs aux logiques de répétition, ils l'ont toujours été et cela fait partie intégrante de leur apprentissage. Le problème c'est que nous sommes passés d'une logique de vidéo qu'on redemande à une logique de vidéo à la demande. Et si la nuance peut paraître subtile elle n'en est pas pour autant triviale. Le principe de similarité que déploient les algorithmes de recommandation a pour effet de prétendre nous amener vers du dissemblable en ne nous proposant que de l'identique et en exacerbant et en polarisant les intérêts initiaux de l'enfant, intérêts qui peuvent eux-mêmes n'avoir été guidés par aucune autre finalité que celle d'un simple "visionnage pour le visionnage". 

L'algorithme comme répétiteur.

Youtube for Kids instrumentalise donc tout particulièrement cette attirance naturelle des très jeunes enfants pour la répétition jusqu'à en faire, si elle n'est pas encadrée, une véritable source d'addiction. Et cela pose quelques problèmes également non-triviaux, bien mis en lumière par cet article de The Atlantic : "The Algorithm That Makes Preschoolers Obsessed With YouTube." 

"Young kids are also just predisposed to becoming obsessive about relatively narrow interests. (Elephants! Trains! The moon! Ice cream!) Around the 18-month mark, many toddlers develop “extremely intense interests,” says Georgene Troseth, an associate professor of psychology at Vanderbilt University."

"Prédisposition à des comportements obessionnels" chez les très jeunes enfants. Du coup les laisser seuls avec un algorithme comme répétiteur, c'est un peu comme confier leur éducation à Alain Finkielkraut et Nadine Morano en espérant développer leur sens de la tolérance et de la nuance : il est à peu près certain que l'on aboutira à l'effet inverse. 

Pour autant et comme je l'ai déjà dit plus haut, ce n'est pas parce que ce n'est pas uniquement "la faute aux algorithmes" que cela doit nous empêcher de nous interroger sur les formes de déterminisme algorithmique et les effets de polarisation qu'ils produisent.  

"It’s not clear, for instance, how heavily YouTube weighs previous watching behaviors in its recommendation engine. If a kid binge-watches a bunch of videos that are lower quality in terms of learning potential, are they then stuck in a filter bubble where they’ll only see similarly low-quality programming ?"

La réponse consistant, pour les plateformes, à indiquer que la responsabilité de la qualité des vidéos ne leur incombe pas mais revient aux concepteurs de programmes "éducatifs" là où l'algorithme de la plateforme ne fait qu'incrémenter des éléments de contenus "objectivement" semblables, cette réponse n'a aucun sens. Sauf à considérer que l'algorithme qui produit des recommandations et donc des parcours de lecture / visionnage ne participe d'aucune manière à la co-construction du sens produit par ces visionnages et ces parcours. Ce qui – me – semble totalement stupide comme idée (tout comme l'idée de faire porter à l'algorithme la totalité de la responsabilité me semble également stupide).  

Et puis il y a la pulsion de l'interaction.

La répétition obsessionnelle que favorise et produit l'algorithme répétiteur, risque, à l'échelle de Facebook, de se trouver mêlée à une autre forme obsessionnelle de l'expression de nos affects. En 2012 on pensait que Facebook ajouterait à son Like les boutons "je veux" et "je possède". Et finalement nous aurons ceci : 

Messenger for Kids aujourd'hui et probablement Facebook for Kids demain, c'est avant tout une manière d'imposer ce réductionnisme du désir à la somme des pulsions rassemblées derrière l'expression de 6 "émotions" fondamentales. Et comme je l'écrivais déjà en 2012 : 

"Le vrai problème ce sont les grammaires de Facebook. Même en admettant - ce ne sera jamais le cas mais admettons pour l'exemple - même en admettant que Facebook arrête de jouer avec les paramètres de confidentialité (…), même en admettant que Facebook place l'intérêt des enfants avant celui de ses actionnaires, même en admettant que Facebook mette en place des dispositifs de filtrage leur évitant toute surexposition aux évangiles du lol et à la bible des "jeunes femmes russes qui attendent l'amour" et "recherchent des célibataires exigeants", même en admettant qu'il soit sain que les premiers pas de la socialisation numérique se fassent dans une mégalopole d'un milliard d'individus, même en admettant que l'essentiel des utilisateurs adultes du site en aient une pratique suffisamment éclairée pour ne pas exposer les enfants primo-arrivants à des tombereaux de mauvaises pratiques, même en admettant que la page Facebook de Nadine Morano soit interdite aux mineurs et aux personnes sensibles, même en admettant que cette ouverture aux enfants soit une idée de Steve Jobs, le vrai problème …

Le vrai problème c'est que soient mises à disposition d'enfants ces grammaires obsessionnelles du désir, du pulsionnel et de la transaction magique : je veux, j'aime, je possède. Et qu'elles le soient comme l'alpha et m'oméga circonscrivant l'ensemble des activités de publication.

C'est qu'elles deviennent leur cadre expressif de base. Le substrat de l'ensemble de leurs interactions sociales. Je veux. J'aime. Je possède. Alors même qu'ils sont à un âge où ils sont censés apprendre à maîtriser leurs pulsions, à sublimer leurs désirs, et à appliquer une échelle de valeur aux transactions morales, affectives mais également marchandes qui sous-tendent les codes de la société qui les verra grandir. Je veux. J'aime. Je possède."

Moralité.

J'ai toujours dit, écrit et répété que les technologies en elles-mêmes n'étaient ni bonnes ni mauvaises et je ne vais donc pas me dédire en indiquant que l'application Messenger Kids serait mauvaise ou dangereuse au seul motif qu'elle se tiendrait dans le giron d'une firme qui par bien des aspects interroge notre manière de faire société. Mais comme l'écrit Jean-Marc Mandosio en conclusion de ce formidable article sur "la technique, la technologie et la machine" : 

"en matière de technologie, tout ce qui est programmé n’aboutit pas, mais tout ce qui aboutit a été programmé."

Ce que programme Facebook, c'est d'abaisser au maximum l'âge de la fabrique du consentement. C'est ce projet, d'abord, que servent ses programmes. C'est ce projet qui paie les ingénieurs qui fabriquent lesdits programmes. C'est à cette forme d'aboutissement que collaborent l'ensemble des programmes, des applications et des algorithmes de la firme.

Nous verrons bien à quoi aboutira ce Messenger for Kids. Mais nous savons déjà pour quel aboutissement il a été programmé.