Lightnews — Scholar-powered news

Mark Rothermel @mrothermel.bsky.social · Aug 5

How close are we to automating fact-checking with #AI?

🎤🖥️ On August 27, I’ll give an online talk at the AI Academy of @hessianai.bsky.social, covering modern forms of fake news, state-of-the-art systems, and the biggest open challenges.

www.linkedin.com/posts/hessia...

📯𝗚𝗼𝗼𝗱 𝗻𝗲𝘄𝘀, 𝗲𝘃𝗲𝗿𝘆𝗼𝗻𝗲! | hessian.AI

📯𝗚𝗼𝗼𝗱 𝗻𝗲𝘄𝘀, 𝗲𝘃𝗲𝗿𝘆𝗼𝗻𝗲! 𝗧𝗵𝗲 𝗔𝗜 𝗔𝗰𝗮𝗱𝗲𝗺𝘆 𝗶𝘀 𝗯𝗮𝗰𝗸! The💡AI Academy is a series on current AI topics at the intersection of cutting-edge research and practical application designed for 🎯AI experts, learners...

www.linkedin.com

2 3

Mark Rothermel @mrothermel.bsky.social · Jun 13

Very happy to announce that DEFAME, our state-of-the-art fact-checking system, got accepted to #ICML! 🎉😀

We published the revision on Arxiv, featuring a *new multimodal fact-checking benchmark*, an extensive table showing previous methods, polished figures, and much more:
arxiv.org/abs/2412.10510

3

Mark Rothermel @mrothermel.bsky.social · Feb 10

Danke an @correctiv.org für diese wichtige Aufdeckung! 💪🏻

correctiv.org/faktencheck/...

Einflussoperation enttarnt: Russland greift in deutschen Wahlkampf ein

CORRECTIV hat rund 100 Fake-Nachrichtenseiten enttarnt. Ihr Zweck: die Bundestagswahl mit Desinformation beeinflussen.

correctiv.org

Mark Rothermel @mrothermel.bsky.social · Feb 10

Über 100 "News"-Seiten verbreiten gezielt Falschinformationen, um die #Bundestagswahl zu manipulieren.

Dahinter steckt "Storm-1516", nach #Doppelgänger die nächste #Desinformationskampagne der 🇷🇺 Russen.

1 2

Mark Rothermel @mrothermel.bsky.social · Feb 10

"Einer der nun Tatverdächtigen sagte [...], sie seien von einem Russen zu den Attacken angestiftet worden. Über einen Messengerdienst habe dieser ihnen detaillierte Anweisungen für die Sabotageaktionen gegeben. Für jedes beschädigte Fahrzeug sei ihnen ein Honorar von 100 Euro versprochen worden."

Mark Rothermel @mrothermel.bsky.social · Feb 10

🚗 270+ Autos mit Bauschaum im Auspuff - im kompletten Bundesgebiet! Häufig ein Aufkleber der Grünen daneben.

Vieles deutet auf eine neue 🇷🇺 russische #Sabotageaktion hin.

www.swr.de/swraktuell/b...

1 1

Mark Rothermel @mrothermel.bsky.social · Jan 25

Wer die Mehrheit (von der "Community") beherrscht, der erlangt die volle Deutungshoheit über die Realität.

2

Mark Rothermel @mrothermel.bsky.social · Jan 25

Community Notes (die heiße Alternative zu Fact-Checkern) seien "demokratischer" 🤨

www.welt.de/kultur/medie...

Willkommen in einer Realität, in der Fakten nicht von Tatsachen, sondern Mehrheiten bestimmt werden.

Zuckerberg: Darum sind Community Notes professionellen Faktenprüfern klar überlegen - WELT

Droht nach der Abschaffung der „Faktenchecker“ eine „Welt ohne Fakten“? Das behaupten Kritiker der Entscheidung von Mark Zuckerberg. Sie irren: Das System der Community Notes ist transparenter und dem...

www.welt.de

1 1

Mark Rothermel @mrothermel.bsky.social · Jan 22

Besten Dank für die Durchführung der Studie!

Mark Rothermel @mrothermel.bsky.social · Jan 22

Ich beschäftige mich ja beruflich mit der Automatisierung von Fact-Checking. Dass die Desinformationskampagnen doch so fortgeschritten sind, beunruhigt mich sehr und zeigt, wie dramatisch wichtig ein neuer Umgang mit dem Informationsraum ist.

1

Mark Rothermel @mrothermel.bsky.social · Jan 22

Die Zahlen sind deutlich schlimmer als ich sie erwartet hätte! 😨

50% der TikTok-User glauben nicht, dass Russland Desinformation streue? Heißt, bei denen hat die Desinformation nicht nur gewirkt, sondern diese Gruppe ist auch noch empfänglich für neue!

1 1

Reposted by Mark Rothermel

Friedrich-Naumann-Stiftung für die Freiheit @fnfreiheit.bsky.social · Jan 22

Eine aktuelle Umfrage des Instituts Allensbach in unserem Auftrag zeigt: #Desinformation und Verschwörungsmythen sind in der deutschen Bevölkerung weit verbreitet – insbesondere bei jungen Menschen und Nutzerinnen und Nutzern von TikTok. Was denkt ihr?

www.freiheit.org/de/deutschla...

1 3 3

Mark Rothermel @mrothermel.bsky.social · Jan 22

Ganz ehrlich, das macht mich sprachlos. Das bedeutet nicht nur, dass bei der Hälfte der TikTok-User die Desinfo bereits gewirkt hat, sondern diese Masse auch noch empfänglich für neue ist.

Die fehlende Resilienz ist ein Einfallstor für fremde Propaganda - großer Risikofaktor für unsere Demokratie!

Mark Rothermel @mrothermel.bsky.social · Jan 22

Oh je, #Desinformation ist unter jungen Menschen deutlich manifestierter als ich bisher angenommen habe 😥

Die erschreckendste neue Zahl: 50% der TikTok-User bezweifeln, dass #Russland gezielt Falschinformationen streue!

www.freiheit.org/de/deutschla...

1

Reposted by Mark Rothermel

AFP Faktencheck @faktencheck.afp.com · Jan 20

🔎 Prorussische Desinformation nun auch hier auf Bluesky.

faktencheck.afp.com/doc.afp.com....

✉ Noch mehr Falschinfos im Netz gesehen? Hinweise an u.afp.com/whatsapphinweise.

Foto des App-Widgets von Bluesky auf einem Smartphone.

17 36

Mark Rothermel @mrothermel.bsky.social · Jan 21

Did you observe this for every post with 15+ engagements?

1 1

Mark Rothermel @mrothermel.bsky.social · Jan 21

Here's one interaction :)

Makes sense if #Doppelganger accounts focus on more engaged posts: If they were to spam below each post, they'd be to detect more easily due to the flood of spam.

2

Mark Rothermel @mrothermel.bsky.social · Jan 21

Very unsettling: Over half of young adults view #disinformation as acceptable 🥴

fortune.com/2025/01/19/e...

What happens when a world is built on lies? There's no truth, trust, or stability. Then, power simply belongs to the loudest.

Mark Rothermel @mrothermel.bsky.social · Jan 20

The above numbers are from end of 2023. Although there was no clear trend for any of cheap- or deepfakes, the increasing availability and quality of deepfake generation tools make it likely that deepfakes will become more prominent.

📄 arxiv.org/abs/2405.11697

AMMeBa: A Large-Scale Survey and Dataset of Media-Based Misinformation In-The-Wild

The prevalence and harms of online misinformation is a perennial concern for internet platforms, institutions and society at large. Over time, information shared online has become more media-heavy and...

arxiv.org

Mark Rothermel @mrothermel.bsky.social · Jan 20

Not too surprising because cheapfakes are easy to create (still much easier than authentic deepfakes).

But, people are widely unaware of cheapfakes. That's what makes them dangerous.

1

Mark Rothermel @mrothermel.bsky.social · Jan 20

You think #deepfakes are the most common type of visual misinformation?

Nope, it's using pristine media *out of context*. That is, take a real image/video and caption it with a different story.

That kind of #cheapfake makes >40% of visual misinfo, deepfakes only <20%

1 1

Mark Rothermel @mrothermel.bsky.social · Jan 18

Thanks a lot for your work, Saman! 👏🏻

I'm wondering how Bluesky is mitigating that flood of disinfo. And what they plan to scalably prevent such automated mass propaganda in the future 🤔

1

Reposted by Mark Rothermel

Saman Nazari @saman-nazari.bsky.social · Jan 18

Doppelgänger has started operating on Bluesky!

We're working on mapping out their tactics and techniques to be able to track the operation.

Felix Huesmann @felixhuesmann.de · Jan 17

Hier auf Bluesky läuft seit heute Nachmittag eine mutmaßlich russische Einflussoperation: Accounts posten auf mehreren Sprachen u.a. anti-ukrainische Propaganda scheinbar wahllos in die Replies von Usern. Sieht nach "Doppelgänger" aus, sagt @saman-nazari.bsky.social.
www.rnd.de/politik/desi...

Russische Einflusskampagne auf Social-Media-Plattform Bluesky

Hunderte Accounts posten über mehrere Stunden Propaganda im Dauerfeuer: Am Freitagnachmittag hat eine mutmaßlich russische Einflusskampagne auf der Social-Media-Plattform Bluesky gewütet. Ein Desinfor...

www.rnd.de

1 2 6

Mark Rothermel @mrothermel.bsky.social · Jan 17

FYI: "AVeriTeC" is the current (and perhaps most popular) go-to benchmark for evaluating automated fact-checking software on text only.

Mark Rothermel @mrothermel.bsky.social · Jan 17

Even almost half a year later, our #fact-checking system "InFact" remains the best text-only fact-checker according to the AVeriTeC leaderboard 💪🏻

1