Catégorie : Opinion

  • Nébuleuse sera un réseau social avec entrée par cooptation.

    Nébuleuse sera un réseau social avec entrée par cooptation.

    Dans un précédent article concernant UpScrolled et son lancement catastrophique, j’avais posé trois questions, l’une étant « est-ce que l’accès libre sans filtre préalable est une norme à dépasser ? » Je vais donc brièvement parler de ça aujourd’hui.

    L’individualisation de la responsabilité en problème de fond

    Je pense qu’il y a un véritable problème d’atomisation de la responsabilité. Si un acte ou un propos commis par une personne lui est propre, le cheminement menant à cet fin n’est pas individuel. Il résulte, toujours, à un moment donné, d’une influence collective*. Dans le cheminement qui a mené une personne à être ce qu’elle est au moment de l’impair, il ne faut pas négliger l’impact qu’a son entourage. Même si ladite personne jure avec son environnement, ce n’est pas un aspect à occulter.

    Je trouve ça très paradoxal dans notre monde, d’ailleurs, cette capacité que l’on a à poser la responsabilité totale des actes sur un individu. Cela nous amène à atomiser les choses, à ne plus prendre en compte le contexte dans lequel les choses arrivent. La construction d’une œuvre en fer de plus de 300 mètres à Paris est-elle due à l’unique talent de son architecte et ingénieur, Gustave Eiffel ? Les meurtres d’extrême-droite sont-ils l’œuvre de leurs seuls assassins ou aussi celle de la diffusion d’une idéologie nauséabonde par des centaines d’autres personnes ?

    J’ai pris des exemples extrêmes, mais vous saisissez l’idée. Si la finalité, positive ou négative, incombe à l’individu ou si l’Histoire retient un seul individu, le contexte menant à cette fin n’est jamais entièrement dû uniquement au dit individu. Ainsi, je pense que la responsabilité individuelle totale n’est pas un système viable, quel que soit le degré d’acte ou de propos, quel que soit la conséquence de l’acte ou du propos. On peut constater que les décisions sont la conséquence d’une vie en groupe, par exemple quand une personne commettant un acte ou un propos se retrouve isolée d’un ou plusieurs groupe·s social·aux car non-compatible avec le ou les dit·s groupe·s, ou à l’inverse invitée par ce·s groupe·s car adhérant à sa/leur dynamique.

    * ce que je dis est valable dans une société. S’il s’agit d’une personne qui n’a jamais consciemment fait société un jour de sa vie, on pourrait reconsidérer la responsabilité à titre individuel, mais ceci est très, très improbable.

    Revenons-en aux réseaux sociaux. Si la responsabilité individuelle existe, elle est aujourd’hui totale sur l’immense majorité des réseaux sociaux, sinon tous. Jamais, en aucun cas, les utilisateur·ices ne sont responsabilisés collectivement. Chaque personne est tenue responsable de ses actes ou propos, mais jamais de ceux des autres. Or, il me semble que tout fait partie d’une dynamique de groupe, et de ce point de vue, placer l’individu dans un cadre fermé est à moins paradoxal, au plus totalement erroné.

    Nous ne comptons plus le nombre de cas de gens qui se retrouvent influencés, radicalisés, excités par des contenus produits par des personnes qui, en plus de ne pas être inquiété·es par leur propos, ne portent souvent pas la responsabilité de l’influence qu’elles ont sur les autres.

    Aujourd’hui, l’entrée dans un réseau social est uniquement conditionnée à la confiance totale par défaut donnée à l’individu pour respecter les CGU. Principe honorable sur le papier : tant que tu n’enfreins pas les règles, tu restes, et si tu fautes, tu fais partie d’une liste d’exclusion. Ce système pour moi possède un défaut majeur : le contrat social n’est pas obligatoire. Autrement dit, il est possible pour n’importe qui de pénétrer dans une enceinte et de faire n’importe quoi, sans limites matérielles.

    Par exemple, si je voulais mettre le boxon dans un réseau social, il serait possible pour moi d’aller sur n’importe quel réseau, valider les CGU, accéder au lieu d’échange, et de complètement piétiner les principes en balançant des centaines d’insanités à tout va, sans être inquiétée de prime abord. Le temps d’être évacuée hors de la plateforme, j’aurai déjà tout sali, même si j’ai été prise par la patrouille. Puisque mon comportement n’aura pas fait l’objet d’un contrôle préalable ou d’une invitation explicite d’un·e autre individu·e, rien ne m’empêchera de recommencer la stricte même chose, au même endroit, à répétition, tant que je peux créer des adresses mails gratuitement et être couverte par l’anonymat.

    Je souhaite donc voir émerger l’inverse, à savoir un système de liste d’inclusion, où les nouvelleaux arrivant·es sont coopté·es.

    L’entrée par cooptation

    Le mécanisme est le suivant. Une personne souhaitant entrer dans le réseau social devra posséder un token de cooptation donné par avance par un·e utilisateur·ice déjà présent·e sur le réseau. Lae nouvelleau entrant·e obtiendra par la suite un token de cooptation tous les 24 heures, après 24 heures d’inscription, dans la limite de 5 tokens maximum. Chaque token utilisé par une personne cooptée libère une place pour un nouveau token. Cela aura pour effet premier de limiter les afflux massifs soudains. Cet effet n’est pas totalement efficace, nous y reviendrons plus loin, mais ça permet potentiellement l’ajout supplémentaire de la terre entière en l’espace de 50 jours à l’origine d’un·e seul utilisateur·ice.

    Chaque personne entrante sera donc liée à la personne cooptante. Un peu comme une chaîne, ou un arbre. Cela renforce la responsabilité de la personne cooptante, car le réseau social saura toujours déterminer par quel moyen une personne cooptée est entrée dans le réseau, et il sera facile de reconstituer la chaîne d’entrée.

    Pour renforcer encore plus cette responsabilité, la personne cooptante perdra son privilège de cooptation de manière temporaire s’il s’avère qu’un·e individu a été exclue du réseau social après un acte de modération. Cela permettra de dire à celleux qui s’inscrivent qu’iels doivent faire attention, car un réseau social est de fait un endroit privé, avec des règles et de la modération, et la confiance que l’on a en elleux pour inviter des personnes peut être rompue.

    Ce système souffrira du défaut inverse, à savoir que n’importe qui ne pourra pas rentrer dans le réseau social sans connaître une personne au préalable qui n’y soit déjà, à moins de proposer une validation par pair pour un individu inconnu qui entre dans le réseau et d’incomber la responsabilité de cooptation par la personne validante (et qui pourra refuser soit de coopter un individu en particulier, ou de refuser de coopter des inconnu·es).

    Il faudra aussi être très clair dès le début, dès l’inscription, que la cooptation est un privilège révocable, y compris définitivement, mais que la révocation de ce privilège ne constitue pas un blâme d’un point de vue modération. Reste à trouver un équilibre dans la limitation du privilège, mais je pense qu’en cas d’écart, baisser la limite de possession des tokens d’invitation de manière définitive en accompagnement d’une réinitialisation des tokens et d’un délai de 7 jours avant rajout progressif des tokens d’invitation après coup est un bon compromis limitant la propagation des profils maléfiques.

    L’efficacité est grande mais bien sûr imparfaite. On peut tout à fait imaginer qu’un profil cooptant fasse entrer un compte, qui lui-même fera entrer un autre compte, qui lui-même fera rentrer un autre compte etc. puis déclenche une « bombe ». Mais cela prendrait un temps non-nul, étalé sur des dizaines de jours, et à cause du lien d’origine, il sera possible de remonter la chaîne de cooptation jusqu’au·x profil·s d’origine, et soit déminer en prévention, soit nettoyer en correction.

    Cela ne résout pas tout…

    Nébuleuse, donc, futur réseau social que je souhaite établir par mes soins, basera son système d’entrée sur la cooptation. À mon avis, ce mode de fonctionnement accroît la responsabilité collective. Mais ce n’est pas une solution miracle qui fera disparaître tous les problèmes.

    Pour continuer de responsabiliser collectivement, il ne faut pas seulement restreindre l’entrée. Il faut pouvoir faire confiance à la communauté cooptée. Plutôt que de donner le privilège de modération à une équipe fermé avec des outils inaccessibles, je souhaite étendre ce privilège à des utilisateur·ices volontaires en proposant un outil de modération intuitif, accessible, qui permettra aux personnes le souhaitant d’effectuer une modération par pairs.

    Mais ça, ça sera pour plus tard.

  • OpenAI est une société défaillante et ChatGPT va disparaître.

    OpenAI est une société défaillante et ChatGPT va disparaître.

    (J’ai pas besoin d’IA pour faire des montages moches).

    Quand on me demande quel est mon sentiment sur l’IA, je réponds que je suis optimiste, parce que l’IA va mourir bientôt.

    Biais (parce que je ne pars pas neutre)

    Je suis ouvertement et violemment hostile à l’IA générative. Je considère que ce modèle d’intelligence artificielle est largement incapable de remplir son rôle d’améliorateur de société. Je considère également que l’impact écologique, éthique et moral de l’IA générative dépasse toute considération technologique et financier et qu’il n’y a pas besoin du reste pour arrêter de l’utiliser. Mais faut pas se leurrer, l’IA ne disparaîtra pas pour ces raisons, et je n’aborde pas ce sujet ici.

    Je considère que cela tue la créativité. Chaque fois que quelqu’un utilise une IA générative, quel que soit ce qui est généré, que ça soit du texte (pas merci pour les auteur·ices, les artistes du 5ème art), de l’image (pas merci pour les artistes du 3ème art), ou de la musique (pas merci pour les artistes du 4ème art), Dieu tue un chaton. Voilà, comme ça, vous avez le décor qui est planté et si vous voulez renier le reste de l’article, déroulez, ça me va de toute façon d’être qualifiée de paria.

    Bien que vous auriez tort ! Parce qu’aujourd’hui, on ne va pas parler morale, éthique, écologie, autant de sujets qui pourtant mériteraient à eux seuls d’interdire l’IA générative telle qu’elle. Là, on va parler de choses plus palpables.

    OpenAI fait face à un problème qui mène à sa perte et que les pragmatiques ont vu venir : la déroute à la fois technologique et financière. Car le pronostic vital d’OpenAI est engagé, et la question n’est pas de savoir si OpenAI tombera, mais quand.

    La déroute technologique

    La faim en données et l’autophagie

    Les IA génératives nécessitent de travailler avec des données compilées déjà existantes, et triées. Si le pool est massif, il n’est ni illimité, ni indépendant de la création humaine. Cela vaut, bien sûr, pour les textes. Cela vaut d’autant plus pour les photos. Cela vaut aussi pour les musiques. En réalité, absolument tout ce qui est généré par IA a besoin d’une source qui soit à la fois épurée, triée, et massive. Or, cette ressource n’est pas illimitée, au contraire.

    Je vais prendre pour exemple les LLM (Large Language Model, grand modèle de langue) pour illustrer mais considérez que le problème est en train de se produire sur les IA génératives, quelles qu’en soient leur nature, donc aussi sur la génération d’images.

    L’Université de Cornell, en 2019 (ça date un peu, prenez des pincettes) avertissait que les LLM atteindraient potentiellement la limite des données fraîches exploitables entre 2026 et 2032. On est plus proche de 2026 que de 2032. Maintenant, pour être totalement honnête, il faudrait plutôt voir les données exploitées comme une asymptote des données exploitables, mais la croissance des IA ne peut plus être exponentielle, si tant est qu’elles peuvent croître encore.

    Pourquoi pas les générer soi-même alors, ou attendre que les utilisateur·ices utilisent l’IA pour créer des monceaux de texte ? Terrible idée. Les IA exploitant les données générées sont vouées à être atteint d’une « maladie » nommée Désordre de Modèle Autophage. TL;DR : plus vous nourrissez l’IA avec ses propres données, moins elle est efficace. C’est pas comme si le système était hermétique : l’IA s’empoisonne, elle-même, sans même que ça soit une entreprise malicieuse, et ça devient un gros problème.

    Je passe volontairement sur le fait que les IA génératives ont tellement besoin de nouvelles données que leurs possesseurs ne s’embêtent même plus avec le consentement des auteur·ices de ces données, ce qui risque de les mener au tribunal bientôt – mais ça, ça sera pour quand on mangera sur le cadavre encore chaud d’OpenAI.

    Seule solution : gonfler les muscles.

    Sans rentrer dans le détail : les IA génératives fonctionnent entre autres, dans leur apprentissage, avec un réseau de neurones artificiels massif. Tellement massif qu’on parle désormais de tellement de paramètres qu’il faut construire des immenses centres pour exploiter ces neurones artificiels.

    Parce que les données d’entrée, déjà empoisonnées, ne sont pas illimitées, il faut pouvoir réfléchir plus dessus. Mais plus vite ! Sans quoi, les utilisateur·ices déserteront. Vous croyez qu’iels ont le temps d’attendre plutôt que de faire une requête sur un moteur de recherche ? Bah non, vous leur avez donné la rapidité, la presque immédiateté des réponses, maintenant il faut persister ! Vous justifierez comment de donner une réponse avec une chance non-négligeable d’erreur au bout de 10 minutes ?

    (Oui, parce que l’IA ment, ou pour être plus exact, n’a pas la notion de vérité. Elle veut simplement vous plaire. Mais c’est un problème pour un autre temps.)

    Donc, il faut augmenter la mémoire disponible, avec l’espoir que ça sort un meilleur résultat et qu’on pourra justifier ça auprès des créanciers. Je sais pas si vous réalisez : la stabilité d’OpenAI repose sur de l’espoir. Pas sur du palpable.

    Dans ce contexte de dépense sans compter, pour un gain très, très faible, je me demande comment une telle entreprise peut aboutir. Heureusement je ne suis pas la seule à m’être posée la question et après avoir entendu sonner le tocsin, c’est la marche funèbre qu’on entend désormais résonner à l’horizon à propos d’OpenAI.

    La déroute financière

    On vous a peut-être déjà bassiné avec la bulle de l’IA. Même si tous les signaux d’une économie circulaire à plusieurs milliers de milliards de dollars montrent qu’on est dans une bulle et que les rares personnes à nous rassurer sur la bulle sont ceux qui sont payés à la faire gonfler, même si ça a l’apparence d’une bulle, la forme d’une bulle, la consistance d’une bulle, les économistes ont du mal à se mouiller pour dire que c’est une bulle et qu’elle va éclater. Parce qu’il peut toujours y avoir un miracle technologique.

    Pour le moment, ça n’en prend pas le chemin, et à part rêver, rien ne nous dit que ça arrivera. Les entreprises restent frileuses, dubitatives et/ou incultes face à cette technologie, ne savent pas vraiment comment l’exploiter, et leurs données ne sont pas prêtes pour être utilisées par une IA mais pour générer des rapports. Donc qui achète ? En tout cas, pas assez de monde pour rentabiliser l’initiative, puisque les compagnies d’IA ont déjà commencé à contracter des prêts auprès des banques, et ce sans aucune garantie de remboursement. Et pour cause, ça ne sera jamais remboursé.

    Parce qu’il faudrait que tout le monde achète de l’IA. Sauf que l’IA, pour le grand public, c’est un gadget gratuit. Et un gadget même pas utile en plus – en même temps l’IA s’est vendue pour son côté divertissant avant de se vendre pour son côté pratique et productif, et ses applications commencent à peine à être observables et ce sont des applications non-rentables.

    Ah, si, pardon. OpenAI va ajouter de la pub dans son application maintenant. Pour essayer de rentabiliser les plans gratuits. Parce que trop peu de monde prend les plans payants. Je commence déjà à entendre des collègues qui ont profité du partage de compte (ça aussi, on pourrait en parler), qui n’ont pas vu d’améliorations significatives entre le plan gratuit, bientôt publicitaire, et payant, qui serait donc sans pubs. Sans avantage significatif, il sera difficile d’assurer les plans financiers.

    Une entreprise saine qui perd de l’argent a plusieurs options combinables:

    • Réduire la voilure, donc ralentir sur les innovations. Dans le cas d’OpenAI ça signifie avoir une IA stagnante technologiquement. On pourrait s’en satisfaire et se dire qu’on a atteint le plafond, et que ça ne sert pas à grand chose d’augmenter les capacités. Comment alors dire aux banques que leur investissement dans l’IA ne sert plus à l’innovation ?
    • Vendre ses solutions plus chères. Cela peut fonctionner si les compagnies vendeuses croulent sous la demande ou si l’offre est monopolistique, moins si les entreprises ne se poussent pas au portillon avec plusieurs concurrents sur le marché;
    • Revendre ses parts. Cela risque de faire baisser la valeur de l’entreprise en bourse, mais ça peut rapporter de l’argent à court terme.

    Sauf que ! rappelez-vous, on ne parle pas d’une entreprise saine financièrement. On parle d’une entreprise qui contracte des crédits astronomiques à des taux pharaoniques, et qui ne sera pas capable de les rembourser. C’est presque déjà acté. Maintenant, la question n’est pas de savoir si ça tombera, mais quand ça tombera. A en croire des sources concordantes, la chute financière est déjà actée.

    (Et quelle ne fut pas ma non-surprise de découvrir ce matin que la banqueroute est prévue pour 2027. Je pensais avoir du flair en disant deux ans d’instinct, je ne pensais pas avoir raison à ce point.)

    Et si ce n’était pas les seuls ?

    La vitesse à laquelle les fonds sont donnés pour cette technologie rappelle avec force et fracas deux précédentes crises financières qui ont démarré par les mêmes bulles qu’aujour’dhui : la crise du .com, et la crise des subprimes.

    Avec pourtant beaucoup moins de liquidités en jeu, la crise des subprimes a mené à la perte d’une banque qui était trop grosse pour couler (« too big to fail »), et à une crise financière majeure. Or, nous sommes déjà dans cette situation pour OpenAI, qui a engagé mille milliards d’euros et qui, comme je l’ai expliqué, est déjà en train de tomber.

    Sans OpenAI, des autres acteur·ices pourraient soit profiter du creux pour combler la demande qui existait avec OpenAI, soit tomber à leur tour. Et vu la circularité de l’économie de l’IA, tout porte à croire qu’OpenAI n’est pas tant l’immeuble qui s’effondre sur lui-même que le premier domino d’une chute inévitable des compagnies d’IA.

    Grok ? À moins que Musk ne mette le double de sa fortune dedans, j’y crois pas une seconde, sachant que visiblement sa priorité serait plutôt une nouvelle solution de colonisation spatiale. Les concurrents ? Pas plus. Une fois qu’OpenAI tombera, il sera difficile aux entreprises exclusivement basées sur cette technologie de subsister.

    Le dernier acteur debout pourrait être Google et Gemini, car ce sont les seuls qui ont la capacité de se nourrir de données de manière continue étant donné que la plupart de leurs services sont utilisés au quotidien par des centaines de millions de gens à travers le monde, n’ont pas que l’IA à vendre et ont les capacités financières de tenir. Même Meta me semble être perdu dans cette cavalcade, mais tout ça dépendra des réglementations sur les données personnelles.

    J’ai même un peu de mal à croire que la Chine avec ses solutions maison s’en sortira avec des dégâts mineurs, même si dans leur cas la question de la gestion du coût des infrastructures matérielles n’est pas à l’ordre du jour.

    Et l’impact pour nous ?

    Nous savons déjà que les entreprises d’IA sont tellement gourmandes en mémoire RAM que celle-ci est en train d’augmenter en prix à une vitesse exponentielle et qu’on n’a pas encore vu la fin de l’augmentation. Le plafond sera bientôt atteint, mais les prix n’auront pas de raisons de baisser. L’électronique grand public va donc connaître aussi une augmentation, et rien ne dit que celle-ci va baisser de sitôt : même avec une faillite des compagnies d’IA génératives, maintenir une tension sur la mémoire pour garder une demande supérieure à l’offre peut s’avérer rentable pour les producteurs de puces.

    L’effondrement de ces entreprises et des banques qui leur ont prêté va lourdement impacter la finance en règle générale et la crise financière qui s’annonce, entre l’éclatement de la bulle IA qui fait de plus en plus mal à mesure qu’elle gonfle, corrélée à la situation financière au Japon qui risque de mettre un coup de massue supplémentaire annonce encore une nouvelle phase de crise financière qui verra, sauf miracle anticapitaliste, une nouvelle augmentation globale des prix et nous ne saurons pas encore comment nous nous en remettrons (j’ai un optimisme béat à propos de la capacité d’adaptation de l’humanité).

    Par ailleurs, même si je m’exprime avec assurance, je me méfie de ma propre prédiction et mes biais jouent dans la balance. Mais si j’étais la seule à la formuler, je ne serais pas en train d’écrire un article. Je n’en ferais qu’un vœu pieux en brûlant des cierges et en marmonnant un pater et deux ave puis prierais n’importe quel saint de bien vouloir réaliser mon souhait. Non, là, je pense que le nombre de signaux au rouge concernant OpenAI sont tels qu’il faudrait des œillères pour ne pas les voir, et même par enthousiasme technologique, je ne vois aucun miracle se profiler à l’horizon.

    OpenAI est une société défaillante et ChatGPT va disparaître.

    Notice de l’autrice : l’ensemble des propos tenus ici font partie d’une analyse qui ne reflète en rien une expertise et ne traduit que l’opinion de son autrice. L’ensemble des sources utilisées pour appuyer celle-ci est disponible en cliquant sur les textes soulignés.

    Cet article ne doit pas être utilisé comme avis d’autorité sur le sujet abordé. N’en recommandez la lecture qu’après être conscient·e de son contenu.

  • La culture de la perfection, ça me gave !

    La culture de la perfection, ça me gave !

    (L’article contient des insultes et comportements utilisé·es uniquement comme illustration. J’insiste sur le fait que je ne les utilise pas au quotidien, ni que j’approuve ces comportements personnellement. Si toutefois ça m’arrive de glisser sans m’en apercevoir, notifiez-moi. Progressons, avançons, pardonnons.)

    Ces derniers temps, cette tendance à laquelle je n’ai pas envie d’adhérer est de plus en plus perçue et de plus en plus dénoncée. Je vais donc m’atteler ici à poser les termes, et vous expliquer pourquoi j’en ai plein les fesses.

    Mais c’est quoi la culture de la perfection ?

    Elle s’articule autour de trois choses :

    • L’irréprochabilité

    Comme son nom l’indique, c’est le fait d’être irréprochable, c’est-à-dire de ne jamais, au grand jamais, n’avoir fait, faire, ou prévoir de faire des choses qui sont répréhensibles, principalement moralement. Et c’est déjà un problème.

    Nous apprenons au fur et à mesure du temps les choses qu’on a faites, qu’on aurait du faire ou ne pas faire à la place, et de manière personnelle, quand je jette un œil sur les choses que j’ai faites, je sais que j’ai fait des choses qu’avec les connaissances d’aujourd’hui, je n’aurais pas faites et notamment, envers la gente féminine.

    Qu’on soit clairs : je ne parle pas de choses qui sont de fait des choses irréparables. Je ne parle pas de crimes, de racisme, d’antisémitisme, ou d’adhésion consentie et éclairée à des courants fascistes, liste non-exhaustive. Écarter de sa vie les gens qui font du mal ou qui montrent de la mauvaise volonté blatante dans leur reprise, c’est un réflexe de survie sain. Et prendre le temps d’observer comment ces gens ont changé pour se dire qu’iels ont compris leurs agissements est sain aussi.

    Non, je parle de toutes ces petites choses qu’on a faites sans en étudier l’impact, comme du sexisme ordinaire, ou qu’on ingère malgré nous comme avoir traité les personnes perçues comme femmes comme inférieures par nature (et dieu sait que j’ai eu à en revenir, de ça…) ou avoir cru un jour bien faire parce qu’on n’a pas su voir le mal, comme lire et aimer Harry Potter sans s’être renseigné·e sur l’autrice en première instance. Comme si nous étions né·es parfait·es et qu’on ne faisait jamais de choses regrettables dans sa vie.

    Je constate surtout que ce sont des postures. Personne ne s’annoncera comme irréprochable. Tout le monde cachera le fait qu’iels ont fait de la merde à un moment donné parce qu’il ne faut surtout pas mettre en lumière qu’on a été imparfait. Et on mettra tout sous le tapis, parce que vous comprenez, admettre ses erreurs, c’est perdre de l’influence et de l’argent (on y revient, promis).

    Et quand on apprend, ô diable, que vous n’étiez pas parfait·e avant, gare à la guerre. « Encore une idole qui tombe ! » « Je n’aurais jamais cru que [insérer personne avec un discours progressiste ici] aurait ne serait-ce pu penser à faire [insérer acte ou parole dégueulasse de son passé là]. » Et ce jusqu’à quelquefois isoler les personnes qui ont fait, un jour, l’erreur fatale de commettre un impair qui aurait pourtant été pardonné à n’importe quel autre quidam d’internet qu’on continue de suivre malgré tout. On parlera d’effet d’aura une autre fois.

    (J’en ai été victime aussi, un jour où j’ai streamé pendant un jour de grève… j’avoue que celle-là, je l’ai longtemps digérée de travers car je l’ai prise pour moi-même, pensant que ça n’était qu’une excuse bien pratique pour me jeter sous le bus pour des raisons interpersonnelles. D’ailleurs, je participais à une récolte de fonds pour un enfant atteint de WOREE ce même jour, et à contrario, d’autres étaient ravis de voir que je streamais.)

    Vous n’avez aucun droit à l’écart. Vous n’aurez aucun droit au pardon. Ça vous collera à la peau, même si vous en revenez, même si vous avez déjà payé le tribut de vos paroles et actes, même si vous avez formulé les excuses nécessaires, même si le pardon a été accordé par les victimes quand il se devait.

    • L’exemplarité

    Il y a le fait d’être propre sur soi, mais aussi le fait de montrer aux autres la voie à suivre.

    Chacun·e d’entre nous a, un jour, été la lumière pour d’autres, et cela nous place comme phares dans l’obscurité. Et là, c’est la foire aux choses à repérer pour un potentiel lâcher de pigeons chieurs quand viendra le moment de vous isoler.

    Vous n’avez pas le droit d’utiliser des propos qui peuvent blesser, même si votre intention n’était pas de le faire. Par exemple vous ne pouvez plus dire que quelqu’un (ou quelque chose) est fou, ou dingue, parce que dans le langage commun ces termes servant à désigner des choses déraisonnables et extravagantes ont servi pendant longtemps à psychiatriser des personnes avec des troubles mentaux. Vous ne pouvez plus utiliser « putain », ou « salope » comme interjection ou comme insulte même envers des personnages fictifs, parce que vous devez respecter les travailleur·euses du sexe (c’est une bonne chose de les respecter, ne me faites pas dire ce que je n’ai pas dit).

    Vous n’avez pas le droit de parler de sujets qui fâchent, sauf à prendre des précautions extrêmes, ou à poser d’avance des alertes de déclencheur ou de contenu (a.k.a. Trigger Warning (TW), Content Warning (CW)). Tout oubli vous sera frontalement reproché.

    Et alors si vous avez fait l’erreur de ne pas être inclusif·ve dans votre manière d’être et de parler, parce qu’en fait, il faut absolument que vous sachiez que tout le monde vous regarde et que n’importe qui peut être votre auditeur·ice, même si vous êtes compris·e, là aussi vous allez être pointé·e du doigt. [sarcasme] Parce que le monde dans lequel on vit n’est absolument pas propice à isoler les gens par la parole ou le comportement, c’est bien connu ! [/sarcasme]

    Et peu importe que dans votre vie quotidienne, vous soyez l’un·e des militant·es les plus impliqué·es des luttes sociales, ou que vous donniez la moitié de votre salaire pour des associations qui luttent de manière ouverte pour que des gens défavorisés profitent de votre surplus d’argent. Vous ne serez jamais parfait·e. Donc vous serez une cible, et ce, dès le premier pouillème d’exposition.

    On vous le fera remarquer, si possible vous vous corrigerez – trop tard ! Vous avez été déjà lâché dès que le son a été capturé dans le micro et émis sur des enceintes qui n’étaient pas les vôtres avant que ça ne remonte à votre cerveau. Vous n’aurez pas eu le temps de vous en apercevoir que vous serez déjà rejeté·e.

    Parce que si encore, vous aviez le temps de vous corriger, vous pourriez le remarquer, faire amende honorable, vous excuser, dire que vous ferez un effort, et que de l’autre côté vous vous attendez à avoir une certaine amplitude de temps et d’espace pour rectifier la donne… vous ne l’aurez pas. C’est fini jour un, et profitez de votre isolement.

    • L’impardonnabilité

    Ça y est, vous êtes irréprochables ? (non lol, vous avez juste planqué votre passif sous le tapis en espérant que le futur ne vous trahisse pas.)
    Ça y est, vous êtes exemplaire ? (non plus, faites juste genre, vous savez que ça vous coûtera cher si vous avouez que vous faites le contraire.)
    C’est toujours pas fini.

    Pourquoi s’arrêter en si bon chemin ? Pour être parfait, pas pour vous-même, mais pour les autres, on vous a montré ce qu’il ne faut pas laisser passer. Donc, il ne faut rien laisser passer à son tour. Vous l’aviez pas compris avant ? Rien ne se pardonne. Rien ! Fin.

    Un propos douteux il y a quelques années qu’une personne n’assume plus au regard de sa compréhension actuelle de la société ? Une capture d’écran pour lui mettre le nez dedans. Et comment læ croire aujourd’hui ? Iel était comme ça hier !

    Une photo avec une personne prise avant qu’elle n’apprenne qu’iel était infréquentable ? Iel était persuadée de l’avoir supprimée ? Certainement pas ! Elle sera déterrée et iel sera dans la sauce avant même d’avoir eu le temps de s’expliquer ou de demander pardon.

    Iel a acheté une fois des vêtements sur Shein parce qu’iel voulait bien paraître pour ne pas subir la pression sociale ? Quelle horreur ! Comment fait-elle pour dormir le soir en possédant des vêtements fabriqués au Bangladesh dans des conditions horribles avec des colorants toxiques?

    Iel a collaboré une fois avec une plateforme de contenu à une époque où elle n’avait pas encore viré complotiste ? Bouh, læ vilain·e, c’est quoi cette apparition suspecte ? C’est pas son travail de journaliste d’épier tous les gestes de son employeur·euse ?

    Iel a accepté de faire une vidéo sur un film d’action avec une cascadeuse qui était transphobe ? Iel n’aura pas le temps de revenir sur son erreur. Peu importe qu’iel ait appris de son erreur, qu’iel ait rendu le chèque, et donné l’argent qu’iel a gagné de sa vidéo désormais hors-ligne aux associations luttant pour les droits des personnes transgenres. Iel aura déjà été rejeté·e. Trop tard, fallait être parfait. Ses excuses ne seront pas entendues.

    Et pourquoi faire, d’ailleurs, ces excuses, ces explications ? Les devoir à qui ? Pas à celleux qui devraient les recevoir, si tant est que ça doit être quelque chose dont il faut absolument s’excuser. Mais iel doit les faire, même si ça ne servira à rien, parce qu’iel aura déjà terni son image, vous savez, celle qui est irréprochable, et exemplaire, comme la vôtre que vous avez mis des années à construire !

    Et admettons qu’iel soit pardonné·e dans vos cercles : trop tard ! La pression populaire fera qu’on læ mettra de côté quand même, pour l’image.

    Vous avez saisi ? Dans ce monde, vous devez être irréprochable, exemplaire, et pointer celleux qui dévient. Ça y est, vous êtes officiellement parfait·e, et honte à celleux qui ne le sont pas immédiatement. Parce que désormais, la perfection, c’est vous.

    Parfait(ement toxique)

    Cette perfection pousse à l’épuisement mental. D’où, comme je pense l’avoir compris de la part des gens qui sont militant·es dans ces milieux, un ras-le-bol de cette chasse aux sorcières interne.

    Il faut évidemment pouvoir être tenu coupable des choses graves faites. On ne pardonnerait pas la présence dans ses cercles d’un·e harceleur·euse, un·e agresseur·euse, un·e violeur·euse, même présumé·e, tout comme on ne pardonne pas à celleux qui, par leurs actions, nous font sciemment du mal et luttent activement contre nos droits. Sauf qu’on ne s’arrête pas à ça. On pousse plus loin. On fait de l’irréprochable et de l’exemplaire une règle, et les écarts ne seront pas pardonnés, les excuses seront lettres mortes.

    Outre cet aspect chasse aux sorcières, je vois aussi un double standard se dessiner. Nos cercles à nous doivent être exemplaires, irréprochables et s’exclure avant la moindre explication. Pourtant, combien de créateur·ices, d’acteur·ices, de musicien·nes suit-on qui ne sont pas des irréprochables, des exemplaires ? Combien de gens, même, continue-t-on d’écouter et qui pourtant ont mal agi, peut-être même sur des choses qu’on n’accepte pas dans nos cercles, voire sur des choses graves ?

    Et si mon ton caustique ne trahissait pas déjà cet aspect, cette culture de la perfection est hypocrite. Tous les jours, nous sommes loin d’être irréprochables (même en parfaite conscience de ce que ça implique, même en ayant les capacités physiques, morales ou financières de faire mieux). Nous sommes loin d’être exemplaires. Et pour une raison simple : nous ne sommes pas parfaits. Personne aujourd’hui ne peut se regarder dans le miroir et se dire avec entière sincérité que jamais iel n’a été exempt de reproches.

    Mais cela n’arrête pas. Toute personne ayant au moins un minimum de reconnaissance est écartée au moindre faux pas alors que ça peut être par ailleurs une personnes tout à fait respectable, ou tout du moins plus respectable que celles dont il faut dénoncer les agissements. Peut-être que moi aussi, dans le passé, j’ai agi de la sorte en groupe (dans le sens où j’ai exclu de mes cercles sans attendre les excuses sincères d’individu·es qui n’ont pas été uniquement dans le contrôle des dégâts), et dans ce cas, si nécessaire, ça sera à moi d’adresser des excuses.

    Que je clarifie un point avant de conclure. Tout ce qui est décrit ici fait partie d’une dynamique de groupe. Il n’est pas question ici de questionner les choix d’individus. Chacun se regarde dans le miroir, prend les décisions qu’iel veut en fonction de son appréciation de la situation. Du moment que cette décision est prise seul·e et n’entre pas dans une dynamique, tant que les choses questionnables restent exposables, chacun peut à son niveau prendre la décision de ne plus adhérer à un contenu ou à sa·on créateur·ice. Cependant, je rappelle qu’autant cette décision est personnelle, autant quand vous l’exposez à un public, elle entre dans un cadre de groupe. Vous ne savez jamais qui ni combien de gens vous suivront dans vos décisions. Avant de partager vos décisions au public, gardez en tête que vous n’êtes pas seul·es à décider et que vous influencez la dynamique par ces partages. De la même manière, cet article va participer à sa manière à une dynamique de groupe. Je ne dis pas ça pour m’en dédouaner, au contraire, j’ai conscience que ce que je dis ici n’est pas neutre, et que je peux être tenue pour responsable des conséquences de l’exposition de mes propos.

    Pour conclure (punaise, c’était long.)

    La culture de la perfection est un concentré de devoirs d’irréprochabilité, d’exemplarité et de ne-pas-laisser-passer. Elle pousse à une prise de décisions qui isolent des individus qui, par ailleurs, n’ont rien à se reprocher, ou n’ont pas eu le temps d’apprendre de leurs erreurs.

    Je n’ai jamais adhéré à cette culture de la perfection. Je sais que je ne pourrai pas me regarder dans le miroir demain et me dire « j’ai été irréprochable. J’ai été exemplaire ». Je chercherai toujours à progresser, mais je ne suis pas à l’abri que demain, quelque chose que j’aime ne soit pas parasité par des décisions ou des prises de position qui sont reprochables (à tous les titres, justifiés ou non) et pour autant continuer à l’apprécier, ou avoir un comportement ou un propos inadéquat pour lequel il faudra que je m’excuse. Aurai-je seulement le temps de le faire, si ça arrive, avant d’être écartée par la plupart de ces milieux… je pense sincèrement que non.

    Peut-être voudrez-vous discuter entre vous de ces dynamiques. Je reste ouverte à la critique, aux remarques, et j’ai hâte d’apprendre de vous. N’hésitez pas à me partager ce que vous en pensez.

    Cependant vous comprendrez que je me tienne en retrait des débats sur le sort à réserver à tel ou telle individu·e. Je suis personne, j’ai pas le droit de dire qui vous devez aimer et comment vous devez vous comporter. Mon espoir est qu’après la lecture de cet article décidément très long, vous pourrez en tirer quelque chose d’utile.

    Notice de l’autrice : l’ensemble des propos tenus ici font partie d’une analyse personnelle qui ne reflète en rien une expertise et ne traduit que l’opinion de son autrice. Cet article ne doit pas être utilisé comme avis d’autorité sur le sujet abordé. N’en recommandez la lecture qu’après être conscient·e de son contenu.

  • Comment Upscrolled s’est tiré une balle dans le pied ?

    Comment Upscrolled s’est tiré une balle dans le pied ?

    (En faisant exactement comme il ne faut pas faire.)

    D’aucuns pourraient se dire qu’après 24 ans de Skyblog, 22 ans de Facebook, 20 ans de Twitter et de Youtube, etc… on aurait suffisamment de recul sur la modération des réseaux sociaux pour ne pas faire les mêmes erreurs. Sauf qu’un réseau social décida de tout ignorer, ne mettre en place aucun garde-fou, et laisser pulluler absolument du contenu néfaste par négligence des leçons du passé.

    Alors, que s’est-il passé, justement ?

    Quand Upscrolled est débordé, déborde puis se saborde.

    Une vague massive d’utilisateur·ices est arrivée sur la plateforme. De 400 000, elle dépasse le million, et se retrouve donc prise d’assaut. Cette arrivée massive corrélée à un exode d’autres plateformes a été une énième réaction au fait que, notamment, des décisions de modérations de plateformes massives cassent toute possibilité d’une communication ouverte à propos de sujets sensibles comme les génocides, les guerres, les révoltes civiles, les droits des minorités, etc… et que la plateforme est tenue par une personne non-milliardaire pro-palestine, ce qui a suscité engouement et espoir.

    Avec cette vague est aussi très vite arrivé un problème : les « bad actors » étaient en embuscade. Les comptes nazis et antisémites ont pullulé, et rien que leur présence posait problème. De tels contenus peuvent aujourd’hui être rapportés automatiquements par, entre autres, un algorithme de veille qui peut être facilement intégré. Il n’y avait aucun filtre sur la création de pseudonymes offensants et la veille était trop faible pour le voir.

    Débordée, la modération a été alors renforcée. Pour faire face aux contenus qui ne sont pas conformes à la plateforme, ce qui a eu pour effet de… ne pas toucher aux contenus offensants et d’exclure moults comptes de personnes transgenres.

    Aïe.

    Que s’est-il passé pour que des comptes hitleriens restent et que des adelphes soient exclu·es ? Nous n’aurons pas de réponse d’Upscrolled. Nous aurons une réponse qui sonne comme un aveu de la part d’un financeur de la plateforme qui expliquera que les nouvelleaux modérateur·ices recrutés n’étaient pas suffisamment formés. On pourrait comprendre que ces personnes trans aient été ejectées à dessein.

    Re-Aïe.

    Puis c’est au tour de la plateforme, qui pourtant dans son postulat de base, déclare entre autres « défendre toujours ce qui est juste et veiller à la responsabilité sociale », de communiquer sur les « bad actors » qui viennent noyer la plateforme sous du contenu illégal et méchant. J’admets qu’effectivement, les gens à leur tête n’ont pas l’air d’être spécialistes de la communication, car à les entendre je croierais que les gérants ne sont que victime d’un sabotage quand ils se sont rendus coupables par maladresse (au mieux!) de plusieurs méfaits dont au moins un, l’exclusion des adelphes trans, leur est directement imputable.

    Comment aurait-on pu éviter la catastrophe ?

    La vague d’utilisateur·ices massive qui est arrivée n’était pas gérable. On ne sait jamais quand le succès nous atteint, quand il nous tombe dessus soudainement, et je ne reprocherai jamais à une plateforme de ne pas avoir géré l’afflux massif d’utilisateurs – et ce à plus d’un titre, car plus d’utilisateurs nécessite également plus de ressources matérielles et logicielles et tant qu’on ne sait pas à quel point ça augmentera, difficile de le prévoir.

    Par contre, je reprocherai toujours volontiers à une plateforme de réseau social de ne pas avoir appris de ce que désormais des décennies d’Internet nous ont inculqué sur la modération.

    Il aurait été très facile de mettre des filtres sur les noms d’utilisateur·ices, par exemple, ça nous aurait évité des Adolf Hitler. Il aurait aussi été très facile de voir qu’il n’y a pas tout à jeter dans les algorithmes de modération et qu’il peut être utile de s’inspirer des algorithmes d’analyse des contenus. Il aurait aussi été très facile de former les modérateur·ices d’une plateforme pour leur dire que les personnes transgenres ne sont pas des gens à bannir de manière sélective pour ce qu’iels sont.

    Peut-être un problème structurel ?

    « Unfiltered by design« . C’est peut-être là où il faut regarder.

    Car derrière les promesses louables d’une plateforme qui veut permettre la libre parole pour toustes, il y a une question de quelle liberté il faut donner à trancher, et le site semblait avoir fait le choix d’une liberté d’expression (c’est-à-dire d’exprimer des opinions tant que celles-ci ne portent pas d’intérêt grave à l’intégrité d’autrui) plutôt qu’une liberté de discours (c’est-à-dire une expression totalement libre où la parole n’a aucune conséquence).

    Upscrolled revendique le fait de ne pas censurer ni d’ombrager (« shadowban ») de contenu, avec un réseau qui appartient à ses utilisateur·ices, et non des algorithmes cachés ou agendas extérieurs. C’est louable, sauf quand ça signifie ignorer que les agendas extérieurs peuvent entrer à l’intérieur de la plateforme sans en être les pilotes, et influencer les résultats par le nombre pur de contenus.

    Cependant, puisque l’entrée à la plateforme (comme toutes les entrées de toutes les plateformes de RS à inscription automatique) est libre et que la limitation de publication quotidienne est absente, le risque d’infection et de propagation de contenu néfaste est majeur, surtout sans algorithme de tri empêchant cette dispersion. Et bien que les effets peuvent être limités, nous sommes malheureusement face à quelque chose sur lequel rien ne peut être fait, à moins d’un changement de paradigme.

    Bluesky avait fait le choix à ses débuts d’ouvrir au bêta-test de sa plateforme par distribution de clefs. Cela a pu consolider son fonctionnement avant que les utilisateur·ices arrivent par volumes massifs en vagues successives, mais avec une maîtrise des algorithmes, permettant entre autres de mieux consolider sa modération. Peut-être une piste à creuser, mais peut-être aussi une piste à ne pas abandonner pour la suite : en finir avec l’inscription libre, et promouvoir un système d’invitation/cooptation.

    Pour conclure

    Des problèmes auraient pu trouver une solution simple si les choses n’avaient pas été négligées et qu’Upscrolled avait compris que ce n’est pas parce que l’eau du bain est sale qu’il faut jeter le bébé avec.

    Il faut souligner que je n’ai pas titré l’article avec « pourquoi fuir Upscrolled à tout prix ? » car mon intention est de relever ce qui n’a pas été pour que les choses s’améliorent. Upscrolled l’a bien compris, des leçons ont été apprises et des solutions sont en cours d’application chez eux. Dommage qu’il ait fallu attendre que le feu soit sur leurs bras pour constater que le feu brûle plutôt que d’avoir prévu le pare-feu avant.

    Aussi, une chose qui pourrait être faite, au-delà de la modération, est de faire un effort sur la communication. Tout remettre sur les causes externes (les « bad actors », les modérateur·ices) ne doit pas cacher les causes internes (le manque de préparation, le manque de filtrage et de formation). On vous voit, en fait.

    Mais peut-être aussi que le problème vient de comment les réseaux sont faits. Est-ce que l’accès libre sans filtre préalable est une norme à dépasser ? Est-ce que le futur des réseaux sociaux ne passe pas par une maîtrise plus complète de sa base d’utilisateur·ices ? Est-ce que la modération ne pourrait pas être assurée par les pairs ?

    Notice de l’autrice : l’ensemble des propos tenus ici font partie d’une analyse personnelle qui ne reflète en rien une expertise et ne traduit que l’opinion de son autrice. Cet article ne doit pas être utilisé comme avis d’autorité sur le sujet abordé. N’en recommandez la lecture qu’après être conscient·e de son contenu.