How close are we to automating fact-checking with #AI?
🎤🖥️ On August 27, I’ll give an online talk at the AI Academy of @hessianai.bsky.social, covering modern forms of fake news, state-of-the-art systems, and the biggest open challenges.
www.linkedin.com/posts/hessia...
Very happy to announce that DEFAME, our state-of-the-art fact-checking system, got accepted to #ICML! 🎉😀
We published the revision on Arxiv, featuring a *new multimodal fact-checking benchmark*, an extensive table showing previous methods, polished figures, and much more:
arxiv.org/abs/2412.10510
Über 100 "News"-Seiten verbreiten gezielt Falschinformationen, um die #Bundestagswahl zu manipulieren.
Dahinter steckt "Storm-1516", nach #Doppelgänger die nächste #Desinformationskampagne der 🇷🇺 Russen.
"Einer der nun Tatverdächtigen sagte [...], sie seien von einem Russen zu den Attacken angestiftet worden. Über einen Messengerdienst habe dieser ihnen detaillierte Anweisungen für die Sabotageaktionen gegeben. Für jedes beschädigte Fahrzeug sei ihnen ein Honorar von 100 Euro versprochen worden."
🚗 270+ Autos mit Bauschaum im Auspuff - im kompletten Bundesgebiet! Häufig ein Aufkleber der Grünen daneben.
Vieles deutet auf eine neue 🇷🇺 russische #Sabotageaktion hin.
www.swr.de/swraktuell/b...
Wer die Mehrheit (von der "Community") beherrscht, der erlangt die volle Deutungshoheit über die Realität.
Community Notes (die heiße Alternative zu Fact-Checkern) seien "demokratischer" 🤨
www.welt.de/kultur/medie...
Willkommen in einer Realität, in der Fakten nicht von Tatsachen, sondern Mehrheiten bestimmt werden.
Besten Dank für die Durchführung der Studie!
Ich beschäftige mich ja beruflich mit der Automatisierung von Fact-Checking. Dass die Desinformationskampagnen doch so fortgeschritten sind, beunruhigt mich sehr und zeigt, wie dramatisch wichtig ein neuer Umgang mit dem Informationsraum ist.
Die Zahlen sind deutlich schlimmer als ich sie erwartet hätte! 😨
50% der TikTok-User glauben nicht, dass Russland Desinformation streue? Heißt, bei denen hat die Desinformation nicht nur gewirkt, sondern diese Gruppe ist auch noch empfänglich für neue!
Eine aktuelle Umfrage des Instituts Allensbach in unserem Auftrag zeigt: #Desinformation und Verschwörungsmythen sind in der deutschen Bevölkerung weit verbreitet – insbesondere bei jungen Menschen und Nutzerinnen und Nutzern von TikTok. Was denkt ihr?
www.freiheit.org/de/deutschla...
Ganz ehrlich, das macht mich sprachlos. Das bedeutet nicht nur, dass bei der Hälfte der TikTok-User die Desinfo bereits gewirkt hat, sondern diese Masse auch noch empfänglich für neue ist.
Die fehlende Resilienz ist ein Einfallstor für fremde Propaganda - großer Risikofaktor für unsere Demokratie!
Oh je, #Desinformation ist unter jungen Menschen deutlich manifestierter als ich bisher angenommen habe 😥
Die erschreckendste neue Zahl: 50% der TikTok-User bezweifeln, dass #Russland gezielt Falschinformationen streue!
www.freiheit.org/de/deutschla...
Foto des App-Widgets von Bluesky auf einem Smartphone.
🔎 Prorussische Desinformation nun auch hier auf Bluesky.
faktencheck.afp.com/doc.afp.com....
✉ Noch mehr Falschinfos im Netz gesehen? Hinweise an u.afp.com/whatsapphinweise.
Did you observe this for every post with 15+ engagements?
Here's one interaction :)
Makes sense if #Doppelganger accounts focus on more engaged posts: If they were to spam below each post, they'd be to detect more easily due to the flood of spam.
Very unsettling: Over half of young adults view #disinformation as acceptable 🥴
fortune.com/2025/01/19/e...
What happens when a world is built on lies? There's no truth, trust, or stability. Then, power simply belongs to the loudest.
The above numbers are from end of 2023. Although there was no clear trend for any of cheap- or deepfakes, the increasing availability and quality of deepfake generation tools make it likely that deepfakes will become more prominent.
📄 arxiv.org/abs/2405.11697
Not too surprising because cheapfakes are easy to create (still much easier than authentic deepfakes).
But, people are widely unaware of cheapfakes. That's what makes them dangerous.
You think #deepfakes are the most common type of visual misinformation?
Nope, it's using pristine media *out of context*. That is, take a real image/video and caption it with a different story.
That kind of #cheapfake makes >40% of visual misinfo, deepfakes only <20%
Thanks a lot for your work, Saman! 👏🏻
I'm wondering how Bluesky is mitigating that flood of disinfo. And what they plan to scalably prevent such automated mass propaganda in the future 🤔
Doppelgänger has started operating on Bluesky!
We're working on mapping out their tactics and techniques to be able to track the operation.
FYI: "AVeriTeC" is the current (and perhaps most popular) go-to benchmark for evaluating automated fact-checking software on text only.
Even almost half a year later, our #fact-checking system "InFact" remains the best text-only fact-checker according to the AVeriTeC leaderboard 💪🏻
Yes, #AI will and already *is* influencing elections. We see #disinformation campaigns (like "Doppelganger") that aim to deform even entire political landscapes 😓
I couldn't agree more with Christian Reuter from @peasec.de. Great article! 👏🏻
www.linkedin.com/posts/activi...
Es geht - bei den -6 Grad hier nicht ohne Thermo-Unterwäsche, Skihandschuhen und Schal im Gesicht :D
Aber maximal 15 min Radfahren, sonst fängt man unter der dicken Stoffschicht an zu schwitzen 😂
Somewhat expectable: The more true facts the LLM has generated, the fewer remain to be mentioned. Thus, the higher the chances of hallucinating a wrong fact. 🤔
Turns out, #LLMs tend to generate more false or unsupported claims in later sentences of long outputs.
So, better double-check when you ask #ChatGPT to write your next essay. 😉
arxiv.org/abs/2411.15993
Darmstadt zählt laut Start-up Monitor 2024 zu den Top 5 Gründungsstandorten in 🇩🇪 und führt Hessen klar an. Mit einer beeindruckenden Dichte von 9,1 Start-ups pro 100.000 Einwohner:innen ist die Stadt ein Zentrum für Innovationen – eingebettet in das dynamische Rhein-Main-Ökosystem.
