Petter Törnberg - Towards a Post-Social Media Era Tournesol

Replay et sources :
🎙️ Talk complet : tournesol.app/entities/yt:...
📄 Törnberg (preprint) : osf.io/preprints/so...

Ces questions sont au cœur de la mission de Tournesol : proposer une infrastructure de recommandation collaborative, démocratique et open source ; pour que la décision de ce qui est recommandé à grande échelle ne reste pas entre les mains de quelques acteurs privés.

- Si cette extinction des réseaux sociaux a lieu, à quel point les IA génératives (contrôlé aussi par les Big Tech) leur permettront-elle d’accroître ou de conserver leur influence ?

• L’effet de réseau (minimum d’utilisateur nécessaire) est de moins en moins d’actualité avec l’arrivée des contenus générés par IA

💬 Questions ouvertes de notre discussion :
- Comment se mettre d’accord et faire émerger des contenus fédérateurs nécessaires à nos démocraties ?

• Sur Facebook, les utilisateurs publient de moins en moins mais conservent une forte polarisation (voir graphe)
• Les LLMs comme ChatGPT deviennent un nouveau vecteur d'information — potentiellement moins polarisant selon certaines études, mais opaque sur ses propres biais

📉 Quelques signaux forts discutés :
• L'engagement et le nombre d'utilisateurs actifs des réseaux sociaux historiques (Facebook, Snapchat, X/Twitter) s'érodent structurellement
• Le contenu généré par les utilisateurs est supplanté par du contenu algorithmique ultra-compétitif ("slop")

🌻Les réseaux sociaux sont-ils en voie d’extinction ?

Nous avons reçu Petter Törnberg pour un Tournesol Talk autour de ses recherches sur les conséquences sociétales des IA (de recommandation et génératives) !

🚨 New Report alert🚨

Our new report on Assam Assembly Elections documents what we believe to be the first recorded instance of AI-driven disinformation in an Indian state election.

Read the full report 👉 dahrd.org/report/assam... !

Un chercheur qui vient de sortir de chez google et qui espere etre recruté chez X prochainement aura du mal à etre impartial malgré toute sa bonne foi. Mais s’il rédige d’autres articles avec des chercheur·ses de l’industrie, le biais est-il encore significatif ?

Si une étude financée à 100% par l'industrie est probablement biaisée, qu'en est-il d'une étude financée à hauteur de seulement 5 ou 10 % ? Le biais est-il significatif ?

--> Meta a modifié 63 fois son algorithme secrètement lors de l’audit pour limiter des contenus jugés non fiables

*Les financements par l'industrie sont fréquents, et dans tous les domaines.

The Risks of Industry Influence in Tech Research Emerging information technologies like social media, search engines, and AI can have a broad impact on public health, political institutions, social dynamics, and the natural world. It is critical to ...

How do social media feed algorithms affect attitudes and behavior in an election campaign? Science 381, 398–404 (2023), 10.1126/science.abp9364].
J. Bak-­Coleman, C. O’Connor, C. Bergstrom, J. West, The risks of industry influence in tech research. arXiv [Preprint] (2025). arxiv.org/abs/2510.19894.

The Risks of Industry Influence in Tech Research Emerging information technologies like social media, search engines, and AI can have a broad impact on public health, political institutions, social dynamics, and the natural world. It is critical to ...

[4] C. Bagchi et al., Response to “Social media algorithms can curb misinformation, but do they?” Science eLetter (26 September 2024). Social media algorithms can curb misinformation, but do they? [eLetter published in Science in response to A. M. Guess et al.,

Nearly one-third of social media research has undisclosed ties to industry, preprint claims Industry-linked studies were also more likely to focus on particular topics, suggesting these ties may be skewing the field

[2] Nearly one-third of social media research has undisclosed ties to industry, preprint claims* - www.science.org/content/arti...
[3] Is Facebook election project a model for research on big tech? - www.timeshighereducation.com/news/faceboo...

Industry Influence in High-Profile Social Media Research To what extent is social media research independent from industry influence? Leveraging openly available data, we show that half of the research published in top journals has disclosable ties to indus...

Qu'en pensez-vous ? Ces enjeux vous semblent-ils suffisamment discutés dans le débat public sur la régulation des réseaux sociaux ?

Sources ⬇️

[1] Industry Influence in High-Profile Social Media Research - arxiv.org/abs/2601.11507

Au sein de l’asociation Tournesol, nous pensons que les débats sur les réseaux sociaux ne peuvent reposer uniquement sur ce que les plateformes choisissent de rendre visible ; ni sur une recherche dont l'indépendance n'est pas garantie.

...la frontière entre la recherche indépendante et les "collaborations sous conditions" devient floue. Que penser par exemple, des audits “indépendants” de Méta, alors que les données partagées sont choisies et même modifiées secrètement par... Meta. [4].

Quoiqu’il en soit le problème de fond, documenté aussi dans d'autres travaux ("2020 Election Project" de Meta [3]), est réel : quand les entreprises contrôlent à la fois :
- les données,
- le financement,
- l'accès aux plateformes,

2. La définition des "liens avec l'industrie" est large et certains chercheurs interrogés en questionnent la pertinence. C’est pour cela que nous avons pris un chiffre prudent de “la moitié” quand les chercheur·ses montent à 80% [2]

Deux nuances importantes :
1. Cette étude n'est pour l'instant qu'un "préprint". Il n'a pas encore suivi les processus de revue par les pairs. Il n'a donc pas encore toute la légitimité que l'on peut attendre d'une publication scientifique officielle

On peut voir là une ligne éditoriale digne de celles de l'industrie du tabac dans ses grandes heures : finançons la recherche sur les causes environnementales du cancer, mais par contre la composition des cigarettes, ce n'est pas la peine.

• Sur les 57 articles portant sur le partage de mésinformation, au moins la moitié ont des liens avec l'industrie. Alors que les articles traitant du fonctionnement des algorithmes eux-mêmes, présentaient certes bien moins de conflits d'interets (1/4)... mais étaient minoritaires (33 articles).

• La moitié des articles ont des liens avec l’industrie : Meta, Google, Microsoft ou X (sous forme de financements, collaborations ou emplois passés) mais seulement 20% les déclare. 😶‍🌫️
• Les éditeurs et reviewers de ces revues seraient également concernés dans au moins 30% des cas.

Des chercheur·ses de l'Université de Washington ont passé au crible 295 publications portant sur les effets des réseaux sociaux et issues de revues prestigieuses (Science, Nature, PNAS).

Leurs constats :

Les études scientifiques traitant des réseaux sociaux sont elles... fiables ? 🚬

La question mérite sérieusement d'être posée. Une récente étude de janvier 2026 apporte des éléments troublants [1]

J'ai l'immense plaisir de vous annoncer que je deviens aujourd'hui directeur exécutif de @tournesol.app.

Grâce au financement de la Fondation de France dans le cadre de l'appel à projets « Liberté et démocratie numérique », je vais travailler au service de la vision de Tournesol, sur Paris.

Wow !! Une proposition de loi transpartisane a été déposée pour une présomption de non-conformité des solutions d'IA vis-à-vis des droits d'auteur.

Ayant défendu cette présomption de manière répétée depuis 3 ans, je ne peux qu'être très agréablement surpris !
www.senat.fr/leg/ppl25-22...

THREAD – Comment les réseaux de désinformation se sont recyclés du Covid vers le climat 🌍💉 Notre dernière publication vient de sortir aux Comptes Rendus Géoscience de l'Académie des Sciences
comptes-rendus.acade...
➡️🔥

1/10

Tournesol Live S3E8 - @scilabus YouTube video by Tournesol

dans 1h, je serai là : www.youtube.com/live/rhGfWFF...

@scilabus.bsky.social, PhD, nous fera l'honneur d'échanger avec nous lundi 7 avril à 20h30. Vulgarisatrice scientifique nous aurons l'honneur de décrypter sa chaîne, l'actualité et d'autres sujets passionnants. Lien en com ⬇️