IDOS erörterte die Themen KI, Wahlintegrität und Entpolarisierung und stellte dabei seine Arbeit und seine Trainingsprogramme vor.
Am 23. Juni veranstaltete IDOS im World Conference Center Bonn ein Panel beim Global Media Forum der Deutschen Welle mit dem Titel „Wie bedrohen bösartige KI-Schwärme demokratische Wahlen?“ Das seit 2008 von der Deutschen Welle in Bonn ausgerichtete DW Global Media Forum bietet eine interdisziplinäre Plattform, die Akteur*innen aus mehr als 100 Ländern zusammenbringt; das diesjährige Motto lautete „Journalism out loud“. Auf dem Panel kamen Expert*innen sowie Praktiker*innen aus unterschiedlichen Sektoren zusammen: Wafa Ben-Hassine (Amt des Hohen Kommissars der Vereinten Nationen für Menschenrechte), Julia Brothers (National Democratic Institute), Dr. Ika Idris (Monash University, Indonesien) und Dr. Daniel Thilo Schroeder (SINTEF Digital); die Moderation übernahm Shristi Mangal Pal (Deutsche Welle).
Das Panel begann mit einer Keynote von Dr. Semuhi Sinanoğlu (IDOS), der zunächst das wachsende KI-Portfolio von IDOS vorstellte und ein kürzlich gestartetes Projekt mit der DW Akademie und dem UNDP präsentierte, das auf einer multiagentischen KI-Struktur beruht. Anschließend betonte er, dass KI zwar zum Guten eingesetzt werden kann, das von bösartigen KI-Schwärmen ausgehende Risiko jedoch real und unmittelbar ist. Wie wirksam Operationen der ausländischen Informationsmanipulation und Einflussnahme (FIMI) tatsächlich sind, war bislang eine offene empirische Frage; die vorliegenden Belege deuten darauf hin, dass ihre Wirkung möglicherweise begrenzter ist als ursprünglich angenommen. Er hob hervor, dass sich dies durch bösartige KI-Schwärme ändern droht. Dabei handelt es sich um KI-Agenten mit dauerhaften Identitäten und einem Gedächtnis, die sich als eine reale, vielfältige Menschenmenge darstellen und sich selbst koordinieren sowie in Online-Communities eindringen könnten.
Im Anschluss an die Keynote folgten eine moderierte Diskussion zwischen den Panelteilnehmenden sowie eine Fragerunde mit dem Publikum. Die zentrale Erkenntnis dieser Gespräche ist, dass die beteiligten Akteur*innen dieses Thema ernster nehmen sollten. Es geht nicht mehr um die Frage, ob Inhalte wahr oder falsch sind, sondern darum, ob Menschen noch in der Lage sind, sich eigenständig eine politische Meinung zu bilden. Frühere FIMI-Operationen zielten darauf ab, zu verwirren und zu polarisieren. Die heutige KI ist jedoch äußerst überzeugend, kann Überzeugungen verschieben und ist sehr gut darin, sich auf die psychologischen Merkmale von Menschen zu stützen. Offen ist nun, wie weit sich diese Schwärme koordinieren und sogar selbst verbessern können. Als zentrales Problem wurde hervorgehoben, dass Regierungen dies nach wie vor nicht als Problem erkennen; zugleich ist fraglich, inwieweit Regulierungsbehörden vertraut werden kann, wenn dieselben Rahmenwerke zur Unterdrückung abweichender Meinungen genutzt werden. Abschließend erörterten die Panelteilnehmenden, wie es weitergehen kann und wie die beteiligten Akteur*innen eine Zusammenarbeit sicherstellen können, um dieser wachsenden Herausforderung zu begegnen. Am darauffolgenden Tag trafen die Panelteilnehmenden zudem mit PD Dr. Julia Leininger bei IDOS zusammen und erörterten Strategien für eine weitere Zusammenarbeit.
Während des gesamten Forums begrüßte IDOS die Besucher*innen auch an seinem Informationsstand. Die Mitarbeiter*innen stellten die Forschungs- und Beratungsarbeit sowie die Weiterbildungsangebote des Instituts vor, darunter das Postgraduate Programme for Sustainablity Cooperation, die Managing Global Governance Academy und die Shaping Futures Academy. Die Gespräche führten zu wertvollen neuen Kontakten mit Medienvertreter*innen, die an Expert*innenmeinungen zu internationaler Zusammenarbeit und globalen Angelegenheiten interessiert waren.
Schreibe einen Kommentar