Zur Hauptnavigation wechseln Zur Suche wechseln Zum Hauptinhalt wechseln

Keep talking and nobody decides How can AI augment users' ability to detect misinformation while balancing engagement and workload?

Maged Mortaga*, Marvin Sieger, Lilian Kojan, Hendrik Nunner, Leonard Stellbrink, André Calero Valdez, Tim Schrills

*Korrespondierende/r Autor/-in für diese Arbeit

Abstract

To detect misinformation, users of social networks potentially utilize AI-based decision support systems (DSS). However, a DSS's ability to augment user behavior depends on how a DSS modifies users' decision-making and interaction experience. We examined how users' performance and experience are affected by the level of automation of a DSS in misinformation detection. In a preregistered within-subjects-experiment with an AI, N=99 participants interacted with two DSS in a simulated environment. The first provided distinct recommendations (higher level of automation), while the second provided solely evaluative support (lower level of automation). We compared their effect on user behavior (here: accuracy, interaction frequency) and experience (here: trust, traceability). Participants showed higher accuracy when receiving recommendations but also interacted less frequently. Trust and perceived traceability did not differ between systems. We discuss whether more intensive processing of the evaluated information could be responsible for the higher number of errors in the evaluative system.

OriginalspracheEnglisch
ZeitschriftCEUR Workshop Proceedings
ISSN1613-0073
PublikationsstatusVeröffentlicht - 2025

UN SDGs

Dieser Output leistet einen Beitrag zu folgendem(n) Ziel(en) für nachhaltige Entwicklung

  1. SDG 3 – Gesundheit und Wohlergehen
    SDG 3 – Gesundheit und Wohlergehen
  2. SDG 4 – Qualitativ hochwertige Bildung
    SDG 4 – Qualitativ hochwertige Bildung
  3. SDG 8 – Angemessene Arbeitsbedingungen und wirtschaftliches Wachstum
    SDG 8 – Angemessene Arbeitsbedingungen und wirtschaftliches Wachstum
  4. SDG 9 – Industrie, Innovation und Infrastruktur
    SDG 9 – Industrie, Innovation und Infrastruktur
  5. SDG 11 – Nachhaltige Städte und Gemeinschaften
    SDG 11 – Nachhaltige Städte und Gemeinschaften
  6. SDG 13 – Klimaschutz
    SDG 13 – Klimaschutz
  7. SDG 16 – Frieden, Gerechtigkeit und verlässliche Institutionen
    SDG 16 – Frieden, Gerechtigkeit und verlässliche Institutionen

Fingerprint

Untersuchen Sie die Forschungsthemen von „Keep talking and nobody decides How can AI augment users' ability to detect misinformation while balancing engagement and workload?“. Zusammen bilden sie einen einzigartigen Fingerprint.

Zitieren