52024XC03014

Language
- My EUR-Lex
- Sign in
- Register
- My recent searches (0)

This document is an excerpt from the EUR-Lex website

Search tips

Need more search options? Use the Advanced search

EUROPA
EUR-Lex home
EUR-Lex - 52024XC03014 - EN

Document 52024XC03014

Help

Mitteilung der Kommission — Leitlinien der Kommission für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen zur Minderung systemischer Risiken in Wahlprozessen gemäß Artikel 35 Absatz 3 der Verordnung (EU) 2022/2065

C/2024/2537

ABl. C, C/2024/3014, 26.4.2024, ELI: http://data.europa.eu/eli/C/2024/3014/oj (BG, ES, CS, DA, DE, ET, EL, EN, FR, GA, HR, IT, LV, LT, HU, MT, NL, PL, PT, RO, SK, SL, FI, SV)

ELI: http://data.europa.eu/eli/C/2024/3014/oj

HTML

PDF - authentic OJ

e-signature

How to verify the authenticity of the Official Journal

Amtsblatt
der Europäischen Union

Reihe C

C/2024/3014

26.4.2024

MITTEILUNG DER KOMMISSION

Leitlinien der Kommission für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen zur Minderung systemischer Risiken in Wahlprozessen gemäß Artikel 35 Absatz 3 der Verordnung (EU) 2022/2065

(Text von Bedeutung für den EWR)

(C/2024/3014)

1. EINLEITUNG

1.1. Zweck und Rechtsgrundlage

Online-Plattformen und -Suchmaschinen sind zu wichtigen Anlaufstellen für die öffentliche Debatte, die öffentliche Meinungsbildung und die Herausbildung des Wählerverhaltens geworden. Mit der Verordnung (EU) 2022/2065 (im Folgenden „Gesetz über digitale Dienste“ oder „DSA“) werden Anbieter sehr großer Online-Plattformen (VLOPs) und sehr großer Online-Suchmaschinen (VLOSEs) (1) dazu verpflichtet, besondere Risikobewertungen durchzuführen und angemessene, verhältnismäßige und wirksame Risikominderungsmaßnahmen zu ergreifen, auch in Bezug auf „alle tatsächlichen oder absehbaren nachteiligen Auswirkungen auf die gesellschaftliche Debatte und auf Wahlprozesse“ (2).

Nach Artikel 35 Absatz 3 der Verordnung (EU) 2022/2065 kann die Kommission Leitlinien zu den Risikominderungsmaßnahmen herausgeben, die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in Bezug auf spezifische Risiken ergreifen sollen. In solchen Leitlinien können insbesondere bewährte Verfahren vorgestellt und mögliche Maßnahmen empfohlen werden, wobei die möglichen Auswirkungen der Maßnahmen auf die in der Charta der Grundrechte der Europäischen Union (im Folgenden „Charta“) verankerten Grundrechte aller Beteiligten gebührend zu berücksichtigen sind.

Es gibt ein breites Spektrum von Erscheinungen im Zusammenhang mit Online-Plattformen und -Suchmaschinen, die ein erhöhtes Risiko für die Integrität von Wahlen bergen. Dazu gehören unter anderem die massenhafte Verbreitung illegaler Hetze im Internet, Bedrohungen im Zusammenhang mit der Manipulation von Informationen und der Einmischung aus dem Ausland (Foreign Information Manipulation and Interference, „FIMI“) sowie das umfassendere Phänomen der Desinformation, die Verbreitung (gewalt)extremistischer und ähnlicher Inhalte mit der Absicht, Menschen zu radikalisieren, sowie die Verbreitung von Inhalten, die mithilfe neuer Technologien wie generativer künstlicher Intelligenz (KI) (3) erzeugt werden. Angesichts mehrerer Wahlen, die in der EU in den kommenden Monaten anstehen, einschließlich der bevorstehenden Wahlen zum Europäischen Parlament 2024, enthält das vorliegende Dokument Leitlinien, mit denen Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dabei unterstützt werden sollen, ihrer etwaigen Verpflichtung zur Minderung besonderer Risiken im Zusammenhang mit Wahlprozessen nachzukommen. Diese Leitlinien werden im Allgemeinen auch nach diesen Wahlen weiterhin gültig bleiben.

Maßnahmen, die sehr große Online-Plattformen und sehr große Online-Suchmaschinen im Einklang mit der Verordnung (EU) 2022/2065 ergreifen, einschließlich aller in diesen Leitlinien genannten Maßnahmen zur Minderung negativer Auswirkungen auf Wahlprozesse, sollten stets unter besonderer Berücksichtigung des Schutzes der in der Charta verankerten Grundrechte, darunter des Rechts auf Menschenwürde und auf Achtung des Privat- und Familienlebens, des Schutzes personenbezogener Daten, der Meinungs- und Informationsfreiheit, einschließlich der Freiheit und des Pluralismus der Medien, der Vereinigungsfreiheit und der unternehmerischen Freiheit, getroffen werden. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten den möglichen Auswirkungen der Maßnahmen auf die Grundrechte aller Beteiligten, einschließlich schutzbedürftiger Gruppen, im Hinblick auf die Barrierefreiheit und Inklusivität der Maßnahmen gebührend Rechnung tragen.

Die künftigen Verpflichtungen, die Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen durch die Verordnung (EU) 2024/900 über die Transparenz und das Targeting politischer Werbung (im Folgenden „Verordnung über politische Werbung“) (4) und die künftige Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (im Folgenden „KI-Gesetz“) (5), die derzeit von den EU-Gesetzgebern verabschiedet wird, auferlegt werden, sowie die freiwilligen Verpflichtungen, die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen im Rahmen des KI-Pakts (6) eingegangen sind, wonach die im KI-Gesetz festgelegten Verpflichtungen schon vor dessen Anwendungsbeginn eingehalten werden sollen, sind in diesen Leitlinien bereits berücksichtigt worden. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen müssen diese verbindlichen Vorschriften einhalten, sobald sie anwendbar werden und soweit sie für sie gelten.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen müssen ihren Verpflichtungen aus der Verordnung (EU) 2022/2065 nachkommen. Diese Leitlinien sollen Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dabei helfen, ihre Verpflichtung gemäß Artikel 35 der genannten Verordnung in Bezug auf Risiken für Wahlprozesse einzuhalten. Zusätzlich zur Erfüllung der Verpflichtung, angemessene, verhältnismäßige und wirksame Risikominderungsmaßnahmen in Bezug auf Wahlprozesse zu ergreifen (Artikel 35 der Verordnung (EU) 2022/2065), müssen Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen auch allen anderen rechtlichen Verpflichtungen aus der Verordnung (EU) 2022/2065, die für Wahlen relevant sein können, nachkommen. Dies betrifft unter anderem Artikel 14 und 17 über allgemeine Geschäftsbedingungen und Begründungen, Artikel 27 und 38 über Empfehlungssysteme, Artikel 36 und 48 über Krisenreaktionsmechanismen und -protokolle, Artikel 15, 24, 37 und 42 über Transparenz und unabhängige Prüfungen, Artikel 26 und 39 über die Transparenz von Online-Werbung und Artikel 40 über Datenzugang und Kontrolle.

Systemische Risiken für Wahlprozesse können sich auch in der Verstärkung und potenziell raschen und weiten Verbreitung von Inhalten offenbaren, die nach europäischem Recht oder dem nationalen Recht der Mitgliedstaaten illegal sind, z. B. von Drohungen, gewaltextremistischen und terroristischen Inhalten, illegaler Hetze oder Cybermobbing gegen politische Kandidaten oder Amtsträger, Journalisten, Wahlhelfer oder andere am Wahlprozess beteiligte Personen. In dieser Hinsicht sind die Artikel 9, 10, 16 und 22 der Verordnung (EU) 2022/2065 über illegale Inhalte, die das Vorgehen gegen rechtswidrige Inhalte und die Bereitstellung von Informationen sowie Melde- und Abhilfeverfahren und die Bestimmung über vertrauenswürdige Hinweisgeber betreffen, von besonderer Bedeutung.

1.2. Beiträge zu diesen Leitlinien und damit verbundene politische Initiativen

Diese Leitlinien bauen auf einer Reihe von Dialogen über den Schutz der Integrität von Wahlen auf, die die Kommission mit mehreren Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in Zusammenarbeit mit den zuständigen nationalen Behörden geführt hat, nachdem die Verordnung (EU) 2022/2065 Ende August 2023 für die ersten 19 benannten Dienste anwendbar wurde (7). Zur Ausarbeitung der endgültigen Fassung dieser Leitlinien organisierte die Kommission eine Sondierungskonsultation (8), die vom 8. Februar 2024 bis zum 7. März 2024 lief, sowie gezielte Konsultationen in Form von Rundtischgesprächen zu einem Entwurf der Leitlinien, an denen unter anderem Organisationen der Zivilgesellschaft und Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen teilnahmen. Außerdem arbeitete die Kommission bei der Fertigstellung der Leitlinien mit den Koordinatoren für digitale Dienste zusammen, und zwar im Rahmen von Sitzungen des Europäischen Gremiums für digitale Dienste.

Soweit dies für die Einhaltung der Verordnung (EU) 2022/2065 durch sehr große Online-Plattformen und sehr große Online-Suchmaschinen von Bedeutung ist, schlagen sich in den Leitlinien auch mehrere Verpflichtungen und Maßnahmen zur Eindämmung der Verbreitung von Desinformation im Internet nieder, die im Verhaltenskodex zur Bekämpfung von Desinformation (9) enthalten sind, dem weltweit ersten unter Federführung der Branche aufgestellten Rahmen im digitalen Bereich, der auch als Quelle für bewährte Verfahren der Branche beim Umgang mit Desinformation gilt. In die Leitlinien ist auch die Arbeit der EU-Organe und der Mitgliedstaaten in Bezug auf die Manipulation von Informationen und Einmischung aus dem Ausland („FIMI“) eingeflossen, insbesondere der umfassende Rahmen des EU-FIMI-Instrumentariums und der jüngste Bericht des Europäischen Auswärtigen Dienstes (EAD) über FIMI-Bedrohungen (10), in denen es vor allem um Reaktionen auf Informationsmanipulation und Einflussnahme aus dem Ausland im Zusammenhang mit Wahlen geht.

10.

Diese Leitlinien ergänzen die Politik der Kommission zugunsten der Demokratie und freier, fairer und stabiler Wahlen, die unter anderem auch den Europäischen Aktionsplan für Demokratie (11) von 2020, das von der Kommission 2021 vorgelegte Paket zum Schutz der Integrität von Wahlen (12) und das kürzlich vorgestellte Paket zur Verteidigung der Demokratie (13) von 2023 sowie die Arbeit des Europäischen Kooperationsnetzes für Wahlen (14) zur Förderung der Zusammenarbeit zwischen den nationalen Wahlkooperationsnetzen der zuständigen Behörden umfasst. Das Paket zur Verteidigung der Demokratie enthält unter anderem umfangreiche Empfehlungen an die Mitgliedstaaten sowie an nationale und europäische politische Parteien, politische Stiftungen und Wahlkampforganisationen in Bezug auf inklusive und widerstandsfähige Wahlprozesse in der EU und die Verbesserung des europäischen Charakters und der effizienten Durchführung der Wahlen zum Europäischen Parlament (15). Wie in diesen Empfehlungen dargelegt, wird die Kommission über den Ablauf der Wahlen zum Europäischen Parlament Bericht erstatten. Die Mitteilung der Kommission über die Verteidigung der Demokratie enthält auch eine Bewertung der Risiken für Wahlprozesse und den gesellschaftlichen Diskurs im Hinblick auf die Umsetzung des Europäischen Aktionsplans für Demokratie und sollte daher ebenfalls berücksichtigt werden (16).

1.3. Überblick

11.

Diese Leitlinien sind wie folgt gegliedert:

a)	Abschnitt 1 gibt Aufschluss über den Zweck und die Rechtsgrundlage, über Zuarbeiten und andere einschlägige politische Initiativen sowie die Struktur dieser Leitlinien.

b)	In Abschnitt 2 wird der Anwendungsbereich dieser Leitlinien dargelegt.

Abschnitt 3 enthält die wichtigsten inhaltlichen Leitlinien für Risikominderungsmaßnahmen zur Bewältigung systemischer Risiken im Zusammenhang mit Wahlprozessen. In besonderen Unterabschnitten wird eingegangen auf die Stärkung interner Prozesse, Risikominderungsmaßnahmen für Wahlprozesse, Risikominderungsmaßnahmen im Zusammenhang mit generativer KI, die Zusammenarbeit mit EU-Einrichtungen und nationalen Behörden, unabhängigen Sachverständigen und Organisationen der Zivilgesellschaft, den Prozess der Einführung von Risikominderungsmaßnahmen während und nach einer Wahl, besondere Leitlinien für die Wahlen zum Europäischen Parlament.

d)	Abschnitt 4 enthält das weitere Vorgehen und das Fazit.

2. ANWENDUNGSBEREICH DIESER LEITLINIEN

12.

Die Leitlinien richten sich an Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, deren Dienste aufgrund ihrer Gestaltung, Funktionsweise und Nutzung im Sinne des Artikels 34 der Verordnung (EU) 2022/2065 das Risiko tatsächlicher oder absehbarer negativer Auswirkungen auf Wahlprozesse bergen. Laut Artikel 35 Absatz 1 der Verordnung müssen Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen angemessene, verhältnismäßige und wirksame Risikominderungsmaßnahmen, die auf die ermittelten besonderen systemischen Risiken zugeschnitten sind, ergreifen.

13.

Artikel 35 Absatz 1 der Verordnung (EU) 2022/2065 enthält eine nicht erschöpfende Liste von Risikominderungsmaßnahmen, die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ergreifen können, um den bei ihrer Risikobewertung ermittelten systemischen Risiken zu begegnen, die von ihren Diensten und den damit verbundenen Systemen, einschließlich algorithmischer Systeme, ausgehen oder die sich aus der Nutzung ihrer Dienste ergeben. In diesen Leitlinien wird diese Liste weiter präzisiert, es werden bewährte Verfahren dargelegt und Risikominderungsmaßnahmen speziell für Risiken im Zusammenhang mit Wahlprozessen empfohlen.

14.

Die in diesen Leitlinien vorgestellten Maßnahmen stellen keine erschöpfende Liste aller Empfehlungen an Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen für alle möglichen Fälle dar. Welche Risikominderungsmaßnahmen sich am besten eignen, hängt von dem konkreten Dienst und den spezifischen systemischen Risiken ab, die gemäß Artikel 34 der Verordnung (EU) 2022/2065 ermittelt wurden.

15.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten diese Leitlinien auf Wahlprozesse in den Mitgliedstaaten anwenden, was sowohl nationale Wahlen als auch Wahlen zum Europäischen Parlament einschließt. Dazu gehören Maßnahmen vor, während und nach der Wahl (17). Risikominderungsmaßnahmen sollten auch bei Regional- und Kommunalwahlen oder Volksabstimmungen angewandt werden, falls Risikobewertungen ergeben haben, dass es tatsächliche oder absehbare negative Auswirkungen auf diese Wahlprozesse gibt.

16.

Diese Leitlinien betreffen die Anwendung von Artikel 35 Absatz 1 der Verordnung (EU) 2022/2065. Nach Artikel 35 Absatz 2 muss das Gremium in Zusammenarbeit mit der Kommission einmal jährlich ausführliche Berichte über die Ermittlung und Bewertung der auffälligsten wiederkehrenden systemischen Risiken, die von Anbietern sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen gemeldet werden oder aus anderen Informationsquellen ermittelt wurden, veröffentlichen.

17.

Nach Erwägungsgrund 103 der Verordnung (EU) 2022/2065 können diese Leitlinien auch anderen Anbietern von Online-Plattformen oder -Suchmaschinen als Anregung dienen, die nicht als sehr große Online-Plattformen oder sehr große Online-Suchmaschinen benannt wurden, deren Dienste aber ähnliche Risiken bergen. Ebenso können sie als Grundlage für die fortlaufende Erforschung und Analyse der Wirksamkeit von Risikominderungsmaßnahmen gegenüber den Risiken im Zusammenhang mit Wahlprozessen dienen. Wenn die in diesen Leitlinien empfohlenen Risikominderungsmaßnahmen und bewährten Verfahren auf Wahlprozesse im Allgemeinen Anwendung finden, können Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen auch in Erwägung ziehen, diese Maßnahmen und Verfahren gegebenenfalls beizubehalten, um die öffentliche Debatte auch außerhalb von Wahlprozessen zu schützen, wobei aber zu berücksichtigen ist, wie sich dies auf die Grundrechte auswirken kann.

3. SPEZIELLE RISIKOMINDERUNGSMAẞNAHMEN FÜR WAHLEN

3.1. Stärkung interner Prozesse

18.

Bei der Anpassung ihrer Risikominderungsmaßnahmen an die ermittelten Risiken in Bezug auf Wahlprozesse sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eine Stärkung der internen Prozesse im Einklang mit Artikel 35 Absatz 1 Buchstabe f der Verordnung (EU) 2022/2065 prüfen. Die Risikominderungsmaßnahmen sollten sich unter anderem an Informationen über bestimmte Elemente orientieren wie z. B. Präsenz und Tätigkeit politischer Akteure in dem Dienst, einschlägige Diskussionen auf der Plattform und Nutzung der Plattform im Zusammenhang mit Wahlen, Zahl der Nutzer in einem Mitgliedstaat, wenn eine bestimmte Wahl in diesem Mitgliedstaat stattfindet, und Hinweise auf frühere Fälle der Anwendung von Taktiken, Techniken und Verfahren der Manipulation von Informationen.

19.

Durch die internen Prozesse sollten relevante Informationen, Analysen und Daten ermittelt und zur Verfügung gestellt werden, damit Maßnahmen zur Minderung tatsächlicher oder absehbarer Risiken konzipiert und kalibriert werden können, die sich daraus ergeben, dass Informationen über Wahlen mithilfe der von sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen bereitgestellten Dienste gesucht, geteilt oder abgerufen werden. Dies beträfe beispielsweise Informationen über politische Parteien oder Kandidaten, Parteiprogramme, Manifeste oder sonstiges politisches Material oder damit zusammenhängende Informationen sowie die Organisation von Veranstaltungen wie Demonstrationen oder Kundgebungen, Wahlkampf, Mittelbeschaffung oder andere damit zusammenhängende politische Aktivitäten. In den internen Prozessen für die Ermittlung und Weitergabe von Analysen und Daten zur Konzeption und Kalibrierung von Risikominderungsmaßnahmen, die von Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ergriffen werden, müssen die einschlägigen Datenschutzvorschriften (18) eingehalten werden.

20.

Die internen Prozesse sollten gestärkt werden, um sicherzustellen, dass die Konzeption und Kalibrierung von Minderungsmaßnahmen für den besonderen regionalen, lokalen und sprachlichen Kontext, in dem sie eingesetzt werden, angemessen sind. Deshalb sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen unter anderem dafür zu sorgen, dass Informationen und Analysen in Bezug auf besondere lokale Risiken und besondere Informationen über den Mitgliedstaat, die auf nationaler, regionaler und/oder lokaler Ebene erfasst werden, den für die Konzeption und Kalibrierung von Risikominderungsmaßnahmen zuständigen Stellen nahtlos zur Verfügung stehen.

21.

Ferner wird empfohlen, dass die Anbieter über angemessene Ressourcen für die Moderation von Inhalten mit lokalen sprachlichen Kapazitäten und Kenntnissen des nationalen und/oder regionalen Kontexts und der Besonderheiten verfügen. Darüber hinaus empfiehlt die Kommission den Anbietern, dafür Sorge zu tragen, dass sie über angemessene interne Prozesse verfügen, um unabhängige Analysen des Stands der Medienfreiheit und des Medienpluralismus zu berücksichtigen, wie sie z. B. vom Überwachungsmechanismus für Medienpluralismus (19) erstellt werden, sie aber auch auf Sachkenntnis von Initiativen und Indikatoren für Medienkompetenz und auf Informationen darüber zurückgreifen können, ob es einen geeigneten Raum für die Beteiligung zivilgesellschaftlicher Organisationen an der Politikgestaltung und dem gesellschaftlichen Diskurs gibt. Dabei ist zu berücksichtigen, ob alle einschlägigen Risikominderungsmaßnahmen geeignet sind, im lokalen Sprach- und Wahlkontext wirksam zu funktionieren.

22.

Um die internen Prozesse und Ressourcen im Zusammenhang mit bestimmten Wahlen zu stärken, sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in Erwägung ziehen, vor jedem Wahlzeitraum ein eigenes, klar erkennbares internes Team einzurichten (siehe auch Abschnitt 3.5 „Während einer Wahl“). Die Mittelzuweisung für dieses Team sollte in einem angemessenen Verhältnis zu den für die betreffende Wahl ermittelten Risiken stehen, und das eingesetzte Personal sollte besondere Sachkenntnis in Bezug auf den betreffenden Mitgliedstaat (örtliche Verhältnisse, Umfeld und Sprachen) haben. Das Team sollte das gesamte Spektrum einschlägigen Fachwissens abdecken, auch Bereiche wie Moderation von Inhalten, Faktenprüfung, Bedrohungsabwehr, hybride Bedrohungen, Cybersicherheit, Desinformation und FIMI, Grundrechte und Öffentlichkeitsbeteiligung. Außerdem sollte es mit wichtigen externen Sachverständigen, z. B. mit den Zentren der Europäischen Beobachtungsstelle für digitale Medien (EDMO) und mit unabhängigen Faktenprüforganisationen, zusammenarbeiten (20).

23.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in ihren allgemeinen Geschäftsbedingungen den Zeitraum festlegen, in dem Vorkehrungen und Ressourcen zur Verfügung gestellt werden, die speziell auf die Minderung von Risiken für den Wahlprozess ausgerichtet sind. Je nach dem Risiko, das von einem bestimmten Anbieter ausgeht, und den Besonderheiten der betreffenden Wahl dürften bestimmte Risikominderungsmaßnahmen wie etwa zusätzliche interne Prozesse oder besondere Teams nur während eines bestimmten Wahlzeitraums erforderlich sein.

24.

Darüber hinaus sehen einige Mitgliedstaaten in ihrem nationalen Recht einen bestimmten Zeitraum für den Wahlkampf vor, andere dagegen nicht. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten dies berücksichtigen. Im Einklang mit den im 2. Bericht des EAD über Informationsmanipulation und Einflussnahme aus dem Ausland (FIMI) (21) dargelegten Erkenntnissen bezüglich der während der Wahlen zu erwartenden Zunahme der Bedrohungen empfiehlt die Kommission, dass – in Abhängigkeit von der Risikobewertung für die jeweilige Wahl und unter Berücksichtigung der geltenden Wahlverfahren – mindestens einen bis sechs Monate vor der Wahl Risikominderungsmaßnahmen getroffen werden und wirksam funktionieren sollten und dass diese Maßnahmen noch mindestens einen Monat nach den Wahlen andauern sollten.

25.

In Abhängigkeit von den konkreten Gegebenheiten sollten die Risikominderungsmaßnahmen normalerweise in der Zeit vor den Wahlen intensiviert werden, wobei die nationalen Wahlvorschriften, ein erhöhtes Bedrohungsrisiko und die Notwendigkeit der Bereitstellung richtiger Informationen über die Wahlverfahren zu berücksichtigen sind.

3.2. Risikominderungsmaßnahmen für Wahlprozesse

26.

Maßnahmen zur Minderung systemischer Risiken in Wahlprozessen sollten sich insbesondere auf Branchenstandards stützen, wie sie durch den Verhaltenskodex zur Bekämpfung von Desinformation und andere einschlägige Verhaltensregeln der EU-Branche wie den Verhaltenskodex zur Bekämpfung von Hassreden im Internet festgelegt wurden. Überdies sollen sie auf bestehenden bewährten Verfahren aufbauen, beispielsweise denen des EU-Internetforums, den bewährten Verfahren, wie sie im inhaltsneutralen Wahlintegritätsrahmen für Online-Plattformen (Content-Agnostic Election Integrity Framework for Online Platforms) (22) und dem vom Integrity Institute aufgestellten Programm für die Integrität der Wahlen (Election Integrity Programme) (23) dokumentiert sind, sowie auf Empfehlungen aus der Zivilgesellschaft, wie denen der Union für bürgerliche Freiheiten für Europa (Civil Liberties Union for Europe) und der Europäischen Partnerschaft für Demokratie (European Partnership for Democracy) (24).

3.2.1. Konkrete Risikominderungsmaßnahmen

27.

Konkrete Risikominderungsmaßnahmen, die auf die Bewältigung systemischer Risiken in Wahlprozessen abzielen, könnten Maßnahmen in folgenden Bereichen umfassen:

Zugang zu amtlichen Informationen über den Wahlprozess. Um die Wahlbeteiligung zu steigern und die Verbreitung von Falschangaben, Desinformation und FIMI in Bezug auf den Wahlprozess selbst zu verhindern, besteht das bewährte Verfahren für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen darin, den Zugang zu amtlichen Informationen über den Wahlprozess zu erleichtern. Dazu gehören auch offizielle Bekanntmachungen der Wahlbehörden der betreffenden Mitgliedstaaten darüber, wie und wo die Stimmabgabe erfolgen kann. Dies könnte beispielsweise mithilfe von Informationstafeln, Bannern, Pop-ups, Eingriffen in Suchergebnisse, Links zu Websites der Wahlbehörden, speziellen Wahlinformationsabschnitten oder einem besonderen Teil der Plattform geschehen. Im Hinblick auf die Konzeption und Umsetzung solcher Risikominderungsmaßnahmen empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen bestimmte Grundsätze wie die der Inklusivität und der barrierefreien Zugänglichkeit berücksichtigen.

Initiativen zur Förderung der Medienkompetenz. Ein bewährtes Verfahren für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen besteht darin, sich an der Gestaltung, Finanzierung und Durchführung von Initiativen und Kampagnen zur Förderung der Medienkompetenz zu beteiligen, deren Schwerpunkt auf Wahlen liegt, um kritisches Denken zu fördern und die Fähigkeiten der Nutzer zur Erkennung von Desinformations- und Manipulationstechniken zu verbessern – auch im Zusammenhang mit generativer KI. Dies könnte durch Folgendes erreicht werden:

Zusammenarbeit mit lokalen Medienkompetenzorganisationen sowie einschlägigen Verbänden, Gruppen und Netzwerken, Finanzierung, Verbreitung und Integration wahlbezogener Initiativen und Kampagnen auf der Plattform, auch durch Entwicklung gemeinsamer Initiativen. Lokale Medienkompetenzorganisationen sind eine wertvolle Ressource wegen ihres Wissens über örtliche Gegebenheiten und Zielgruppen. Die Kommission empfiehlt den Rückgriff auf das EDMO-Netz und die EDMO-Zentren sowie die Expertengruppe der Kommission für Medienkompetenz, um einschlägige Organisationen in den Mitgliedstaaten ausfindig zu machen;

ii)

Entwicklung und Anwendung von Inokulationsmaßnahmen, mit denen durch Information und Vorbereitung der Nutzer vorbeugend Widerstandsfähigkeit gegen mögliche und erwartete Desinformationsnarrative und Manipulationstechniken aufgebaut wird. Solche Maßnahmen sollten dem spezifischen lokalen Kontext, in dem sie durchgeführt werden, Rechnung tragen und durch andere Maßnahmen ergänzt werden, die den Nutzern verlässliche Informationen liefern. Inokulationsmaßnahmen können verschiedene Formen annehmen, z. B. spielerische Interventionen wie die Teilnahme an Online-Spielen zur Generierung von Desinformation, um zu einer kritischen Reflexion über die Taktiken zur Beeinflussung anzuregen (25), aber auch Videos oder andere Arten von Inhalten (26). Sie sollten, soweit möglich, innerhalb von Apps umgesetzt werden, um den Zugang zu erleichtern;

iii)

Es wird empfohlen, dass Anbieter sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen bei der Gestaltung von Kampagnen zur Förderung der Medienkompetenz konkrete Narrative sowie Taktiken, Techniken und Verfahren berücksichtigen, die wahrscheinlich zu den vor, während und nach einer Wahl auftretenden systemischen Risiken beitragen werden, und zwar im Einklang mit dem Ansatz, Risikominderungsmaßnahmen an die jeweiligen nationalen Gegebenheiten und Zielgruppen anzupassen.

Maßnahmen zur Bereitstellung von mehr Hintergrundinformationen über die Inhalte und Nutzerkonten, mit denen die Nutzer interagieren. Beispiele sind unter anderem:

Faktenprüfzeichen auf erkannten Desinformations- und FIMI-Inhalten, die von unabhängigen Faktenprüfern und Faktenprüfteams unabhängiger Medienorganisationen angebracht werden. Die Faktenprüfung sollte sich auf die gesamte EU und mit allen ihren Sprachen erstrecken, was unter anderem durch eine verstärkte Zusammenarbeit mit lokalen Faktenprüfern in Wahlzeiträumen, die Einbeziehung und Präsentation wahlbezogener Faktenprüfinhalte sowie den Einsatz von Mechanismen zur Steigerung der Publikumswirksamkeit erreicht werden kann. Faktenprüfzeichen sollten barrierefrei sein und in leicht verständlicher Sprache abgefasst werden;

ii)	Aufforderungen und Anstöße an die Nutzer, Inhalte zuerst selbst zu lesen und zu beurteilen, bevor sie diese an andere weitergeben;

iii)

eindeutige, gut sichtbare und nicht täuschende Kennzeichnung von offiziellen Konten und von Konten, die verlässliche Informationen über den Wahlprozess bereitstellen, wie z. B. Konten der Wahlbehörden, mit Angabe der Grundlage, auf der solche Überprüfungen vorgenommen werden. Die Kriterien für die Kennzeichnung eines Kontos als „offiziell“ sollten leicht zugänglich sein und in leicht verständlicher Sprache erläutert werden, um zu verhindern, dass derartige Angaben anderen Konten Glaubwürdigkeit verleihen, die sich als amtliche Konten, wie z. B. die von Wahlbehörden, ausgeben;

iv)	eindeutige, gut sichtbare und nicht täuschende Kennzeichnung von Konten, die der Kontrolle von Mitgliedstaaten, Drittländern oder Einrichtungen unterliegen, die ihrerseits von aus Drittländern finanzierten oder gesteuerten Einrichtungen kontrolliert werden;

v)	Werkzeuge und Informationen, die Nutzern helfen, die Vertrauenswürdigkeit von Informationsquellen zu beurteilen, wie z. B. Vertrauenssiegel, die sich vor allem auf die Integrität der Informationsquelle beziehen, auf transparenten Methoden beruhen und von unabhängigen Dritten entwickelt werden;

vi)	andere Werkzeuge zur Beurteilung der Herkunft, der Bearbeitungsvorgänge, der Echtheit oder der Richtigkeit digitaler Inhalte. Sie helfen den Nutzern, die Echtheit zu überprüfen oder die Herkunft oder Quelle von Inhalten im Zusammenhang mit Wahlen herauszufinden;

vii)	Einführung wirksamer interner Maßnahmen zur Bekämpfung des Missbrauchs der oben genannten Verfahren und Werkzeuge, insbesondere des Missbrauchs des Überprüfungsverfahrens für geprüfte Konten und Inhalte.

Empfehlungssysteme können eine wichtige Rolle bei der Gestaltung der Informationslandschaft und der Bildung der öffentlichen Meinung spielen, wie es in den Erwägungsgründen 70, 84, 88 und 94 sowie in Artikel 34 Absatz 2 der Verordnung (EU) 2022/2065 anerkannt wird. Um die Risiken zu mindern, die von solchen Systemen in Bezug auf Wahlprozesse ausgehen können, sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen Folgendes in Erwägung ziehen:

i)	Gewährleistung, dass Empfehlungssysteme so konzipiert und angepasst werden, dass die Nutzer eine sinnvolle Auswahl und Kontrolle in Bezug auf ihre Nachrichten- und Meinungsquellen unter gebührender Berücksichtigung der Vielfalt und des Pluralismus der Medien haben;

ii)

Maßnahmen zur Verringerung der Herausstellung von Desinformation im Zusammenhang mit Wahlen auf der Grundlage klarer und transparenter Verfahren, z. B. in Bezug auf täuschende Inhalte, die von Faktenprüfern als falsch eingestuft wurden oder die von Konten stammen, von denen nachweislich und wiederholt Desinformation verbreitet wurde;

iii)	Maßnahmen zur Begrenzung der Verstärkung täuschender, falscher oder irreführender KI-generierter Inhalte über ihre Empfehlungssysteme im Zusammenhang mit Wahlen;

iv)	regelmäßige Bewertung der Leistung und der Auswirkungen von Empfehlungssystemen und Behandlung neu auftretender Risiken oder Probleme im Zusammenhang mit Wahlprozessen, unter anderem durch Aktualisierung und Verfeinerung der verwendeten Strategien, Verfahren und Algorithmen;

Maßnahmen zur Gewährleistung der Transparenz hinsichtlich der Gestaltung und Funktionsweise von Empfehlungssystemen, insbesondere in Bezug auf die Daten und Informationen, die bei der Gestaltung von Systemen, die Medienpluralismus und inhaltliche Vielfalt fördern sollen, verwendet werden, um eine Kontrolle und Untersuchung durch Dritte zu erleichtern;

vi)

Einbeziehung externer Parteien in kontradiktorische Tests und Angriffssimulationen (Red Teaming) bei solchen Systemen, um potenzielle Risiken zu ermitteln, wie sie sich z. B. aus Verzerrungen, Manipulationsanfälligkeit oder aus der Verstärkung von Fehlinformationen, Desinformation, FIMI oder anderen schädlichen Inhalten ergeben können.

Politische Werbung. Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen wird empfohlen, sich auf das Inkrafttreten der Verordnung (EU) 2024/900 über die Transparenz und das Targeting politischer Werbung („Verordnung über politische Werbung“) vorzubereiten und dabei insbesondere darauf zu achten, dass die Bestimmung über Nichtdiskriminierung (Artikel 5 Absatz 1) umgesetzt wird, die 20 Tage nach der Veröffentlichung der Verordnung am 20. März 2024 anwendbar wird (27). Alle Anbieter von Online-Plattformen sind dafür verantwortlich, dass diese Bestimmung eingehalten wird. In dieser Verordnung wird politische Werbung definiert als die Ausarbeitung, Platzierung, Förderung, Veröffentlichung, Zustellung oder Verbreitung von Botschaften durch oder für einen politischen Akteur oder in seinem Namen, es sei denn, sie sind rein privater oder rein kommerzieller Natur, oder die geeignet und darauf ausgerichtet sind, ein Abstimmungsverhalten oder das Ergebnis einer Wahl oder eines Referendums, oder einen Rechtsetzungs- oder Regulierungsprozess auf EU-Ebene, auf nationaler, regionaler oder lokaler Ebene zu beeinflussen. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen werden dazu angehalten, die in der Verordnung enthaltenen Begriffsbestimmungen bei der Anwendung dieser Leitlinien zu berücksichtigen. Wenn ein Anbieter einer sehr großen Online-Plattform oder einer sehr großen Online-Suchmaschine die Möglichkeit bietet, in seinem Dienst politische Anzeigen zu platzieren, empfiehlt die Kommission, dass solche politische Werbung in Erfüllung der in Artikel 26 der Verordnung (EU) 2022/2065 festgelegten Verpflichtungen und im Einklang mit der künftigen Verordnung über die Transparenz und das Targeting politischer Werbung in klarer, hervorgehobener und eindeutiger Weise und in Echtzeit gekennzeichnet wird, damit die Nutzer verstehen können, dass die angezeigten Inhalte politische Werbung enthalten. Außerdem sollten die angebrachten Label beibehalten werden, wenn die Inhalte von Nutzern auf derselben Plattform geteilt werden. Darüber hinaus empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Regeln an die Verordnung über politische Werbung noch vor deren Inkrafttreten anpassen, denn diese ergänzt die rechtlichen Verpflichtungen aus den Artikeln 26 und 39 der Verordnung (EU) 2022/2065 insbesondere in folgender Hinsicht:

Information der Nutzer über die politische Anzeige, die sie sehen, z. B. Identität des Sponsors und gegebenenfalls der Stelle, die den Sponsor letztlich kontrolliert, Zeitraum, in dem die politische Anzeige veröffentlicht, zugestellt oder verbreitet werden soll, aggregierte Beträge bzw. aggregierter Wert anderer Vorteile, die die Anbieter politischer Werbedienstleistungen erhalten haben, aussagekräftige Informationen über die wichtigsten Parameter zur Bestimmung der Nutzer, denen die Werbung angezeigt wird;

ii)

Führung eines öffentlich zugänglichen, durchsuchbaren Archivs politischer Anzeigen, das möglichst in Echtzeit aktualisiert wird. Darin sind zumindest die Gesamtzahl der erreichten Nutzer und gegebenenfalls aggregierte, nach Mitgliedstaaten aufgeschlüsselte Zahlen für die Nutzergruppe(n), auf die die Werbung ausgerichtet ist, gemäß Artikel 39 der Verordnung (EU) 2022/2065 zu erfassen. Zudem könnten auch z. B. die aggregierten Beträge bzw. der aggregierte Wert anderer von den Anbietern erhaltener Vorteile, die Anzahl der Seitenaufrufe und die geografischen Gebiete, in denen die Werbung angezeigt wurde, erfasst werden;

iii)	wenn sie keine politische Werbung in ihren Diensten zulassen, müssen sie über wirksame Überprüfungssysteme verfügen und die erforderlichen Maßnahmen treffen, damit dies angemessen durchgesetzt wird;

iv)	Gewährleistung geeigneter Strategien und Systeme zur Verhinderung des Missbrauchs von Werbesystemen für die Verbreitung irreführender Informationen, Desinformation und FIMI in Bezug auf Wahlprozesse sowie täuschender KI-generierter Inhalte.

Influencer können eine erhebliche Wirkung auf die Wahlentscheidungen der Nutzer erzielen, da sie zunehmend an der Förderung der politischen Debatte im Internet beteiligt sind. In dieser Hinsicht und zur Erhöhung der Transparenz sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen

Funktionen bereitstellen, damit Influencer erklären können, ob die von ihnen bereitgestellten Inhalte politische Werbung sind oder enthalten, und die Möglichkeit haben, den Sponsor und gegebenenfalls die Stelle, die den Sponsor letztlich kontrolliert, zu nennen, den Zeitraum anzugeben, in dem die politische Werbung veröffentlicht, zugestellt oder verbreitet werden soll, die aggregierten Beträge bzw. den aggregierten Wert anderer Vorteile anzugeben, die die Anbieter politischer Werbedienstleistungen erhalten haben, den Anzeigezeitraum zu nennen und aussagekräftige Informationen über die wichtigsten Parameter zur Bestimmung der Nutzer, denen die Werbung angezeigt wird, zu geben;

ii)	sicherstellen, dass andere Nutzer in klarer, hervorgehobener und eindeutiger Weise und in Echtzeit, auch durch eine deutlich herausgestellte Kennzeichnung, erkennen können, dass die bereitgestellten Inhalte politische Werbung sind oder enthalten, wie in der Erklärung des Influencers dargelegt.

Demonetisierung von Desinformationsinhalten. Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen gezielte Strategien und Systeme haben sollten, damit die Platzierung von Werbung keine finanziellen Anreize für die Verbreitung von Desinformation und FIMI in Bezug auf Wahlprozesse sowie von hasserfüllten, (gewalt)extremistischen oder radikalisierenden Inhalten bietet, mit denen Einzelpersonen bei ihren Wahlentscheidungen beeinflusst werden könnten.

Integrität der Dienste. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten geeignete Verfahren für die rechtzeitige und wirksame Aufdeckung und Unterbindung von Manipulationen in ihren Diensten einrichten, wenn diese Gefahr von ihnen unter Beachtung der besten verfügbaren Erkenntnisse als relevantes systemisches Risiko ermittelt wurde. So können sie beispielsweise in ihren allgemeinen Geschäftsbedingungen besondere Regeln gegen das Einrichten von unechten Konten oder von Botnets (die automatisierte, teilautomatisierte oder nicht automatisierte Konten umfassen können) oder gegen die täuschende Nutzung eines Dienstes festlegen.

Die Kommission empfiehlt Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, ihre Regeln so aufzustellen und durchzusetzen, dass eine Täuschung durch Nachahmung von Kandidaten, den Einsatz täuschender manipulierter Medien, gefälschte Interaktionen, intransparente bezahlte Botschaften oder intransparente Werbung durch Influencer wie auch durch eine Koordinierung der Erstellung unauthentischer Inhalte oder Verhaltensweisen verhindert wird.

ii)

Die Kommission empfiehlt eine Zusammenarbeit zwischen den betreffenden Teams verschiedener Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, um gemeinsame Bedrohungen zu erkennen und plattformübergreifenden Desinformationskampagnen, FIMI-Aktivitäten oder hasserfüllten, (gewalt)extremistischen oder radikalisierenden Aktivitäten, mit denen Einzelpersonen bei ihren Wahlentscheidungen beeinflusst werden können, sowie einer Abwanderung böswilliger Akteure auf andere Plattformen entgegenzuwirken (siehe Abschnitt 3.4 „Zusammenarbeit mit nationalen Behörden, unabhängigen Sachverständigen und Organisationen der Zivilgesellschaft“).

28.

Angesichts der Weiterentwicklung des Verständnisses systemischer Risiken in Wahlprozessen sollten Risikominderungsmaßnahmen mit einer strengen und kritischen Analyse, Erprobung und Überprüfung ihrer beabsichtigten und potenziell unbeabsichtigten Auswirkungen verknüpft werden. Deshalb sollten wirksame Risikominderungsmaßnahmen stets auf den besten verfügbaren Informationen und wissenschaftlichen Erkenntnissen beruhen. Die Kommission empfiehlt Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, konzeptionell gültige Leistungsparameter für die Wirksamkeit von Risikominderungsmaßnahmen proaktiv zu konzipieren, zu bewerten und zu optimieren, z. B. durch A/B-Tests von Funktionen und Entwurfsentscheidungen. Diese Leistungsparameter sollten als Teil des Risikomanagementrahmens der Anbieter analysiert werden und dazu dienen, bei einer bestimmten Wahl den Erfolg der betreffenden Risikominderungsmaßnahmen zu messen. Diese Parameter sollten SMART (spezifisch, messbar, erreichbar, relevant und terminiert) und sowohl qualitativ als auch quantitativ sein.

3.2.2. Kontrolle, Untersuchung und Datenzugang durch Dritte

29.

Die Kontrolle und Untersuchung von Risikominderungsmaßnahmen durch Dritte ist wichtig, denn sie hilft Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, sicherzustellen, dass die von ihnen ergriffenen Maßnahmen wirksam sind und dass die Grundrechte sowie die demokratischen Grundsätze geachtet werden. Ein stabiler und zuverlässiger Datenzugang für die Kontrolle durch Dritte ist gerade in Wahlzeiträumen von größter Bedeutung, um Transparenz zu gewährleisten, Einblicke zu vermitteln und zur Weiterentwicklung der Risikominderungsmaßnahmen im Zusammenhang mit Wahlen beizutragen. Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen – zusätzlich zur Erfüllung ihrer rechtlichen Verpflichtungen nach Artikel 40 der Verordnung (EU) 2022/2065 – einschlägigen Dritten freien Zugang zu Daten gewähren, damit diese die Risiken im Zusammenhang mit Wahlprozessen untersuchen können, nötigenfalls auch zu solchen Daten, die nicht über die Schnittstelle der sehr großen Online-Plattform oder sehr großen Online-Suchmaschine abrufbar sind. Generell wird eine Ad-hoc-Zusammenarbeit empfohlen, wenn es darum geht, Risikominderungsmaßnahmen in Bezug auf Wahlprozesse zu konzipieren und erforderlichenfalls rasch anzupassen. Entsprechend den dokumentierten bewährten Verfahren könnten verschiedene Maßnahmen in Betracht gezogen werden, um solche Tätigkeiten mit Dritten aufzunehmen.

30.

Zusätzlich zu den Instrumenten und anderen Zugangsregeln, die zur Einhaltung von Artikel 40 Absatz 12 der Verordnung (EU) 2022/2065 eingerichtet wurden, können diese Maßnahmen auch zusätzliche und maßgeschneiderte Instrumente oder Merkmale umfassen, einschließlich solcher, die erforderlich sind, um KI-Modelle zu untersuchen und zu prüfen, sowie visuelle Dashboards, zusätzliche Datenpunkte, die zu bestehenden Instrumenten hinzugefügt werden, oder die Bereitstellung spezifischer Datensätze. Der Zugang zu solchen Instrumenten oder Merkmalen könnte über die nach Artikel 40 der Verordnung (EU) 2022/2065 in Betracht kommenden Forschenden hinaus auf ein breiteres Spektrum Dritter ausgeweitet werden.

31.

Im Bereich der politischen Werbung empfiehlt die Kommission, dass die betreffenden Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dafür sorgen, dass die Instrumente und Anwendungsprogrammierschnittstellen (APIs), die eine Forschung in ihren Archiven für politische Anzeigen (28) ermöglichen, zweckmäßig sind und eine sinnvolle Erforschung von Desinformation, FIMI-Kampagnen und hasserfüllten, (gewalt)extremistischen oder radikalisierenden Inhalten ermöglichen, die verbreitet werden, um Einzelpersonen während der Wahlen – einschließlich der Wahlen zum Europäischen Parlament – bei ihren Wahlentscheidungen zu beeinflussen, wobei die Anforderungen des Unionsrechts, einschließlich des Schutzes personenbezogener Daten, zu beachten sind. Dies sollte eine Reihe von Mindestfunktionen und Suchkriterien umfassen, die es Nutzern und Forschenden ermöglichen, während des Wahlzeitraums Daten möglichst in Echtzeit abzufragen (z. B. Suche nach Werbetreibenden oder Kandidaten, Wahl, geografischen Gebiet oder Land, Sprache).

32.

Zusätzlich zu den in Artikel 42 Absatz 4 der Verordnung (EU) 2022/2065 genannten Berichten empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in Bezug auf die Gestaltung, Funktionsweise und Durchführung von Risikominderungsmaßnahmen im Zusammenhang mit Wahlprozessen gegenüber der Öffentlichkeit so transparent wie möglich sein sollten, um eine öffentliche Kontrolle zu ermöglichen, die sich wiederum auf die Gestaltung wirksamer Risikominderungsmaßnahmen auswirken kann. Während der Wahlzeiträume ist es besonders wichtig, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen nachweisen, dass durch ihre Entscheidungen über die Moderation von Inhalten die Gleichheit der Kandidaten nicht beeinträchtigt wird und dass Stimmen, die bestimmte (polarisierte) Ansichten vertreten, nicht in unverhältnismäßiger Weise bevorzugt oder gefördert werden.

3.2.3. Grundrechte

33.

Risikominderungsmaßnahmen gemäß Artikel 35 der Verordnung (EU) 2022/2065 sollten unter gebührender Berücksichtigung des Schutzes der in der Charta der Grundrechte der Europäischen Union verankerten Grundrechte, insbesondere der Meinungs- und Informationsfreiheit, einschließlich der Freiheit und des Pluralismus der Medien, ergriffen werden. Im Einklang mit Erwägungsgrund 47 der genannten Verordnung sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen die einschlägigen internationalen Menschenrechtsnormen wie die Leitprinzipien der Vereinten Nationen für Wirtschaft und Menschenrechte gebührend beachten. Bei der Gestaltung und Durchsetzung von Risikominderungsmaßnahmen können auch einschlägige unabhängige Berichte (29) berücksichtigt werden.

34.

Bei der Minderung systemischer Risiken für die Integrität von Wahlen empfiehlt die Kommission, auch den Auswirkungen von Maßnahmen zur Bekämpfung illegaler Inhalte wie der öffentlichen Aufstachelung zu Gewalt und Hass gebührend Rechnung zu tragen, soweit solche illegalen Inhalte in der demokratischen Debatte andere Stimmen hemmen oder zum Schweigen bringen können, insbesondere Stimmen, die schutzbedürftige Gruppen oder Minderheiten vertreten. So können beispielsweise gewisse Formen von Rassismus, geschlechtsspezifischer Desinformation und geschlechtsspezifischer Gewalt im Internet, auch im Zusammenhang mit gewaltextremistischen oder terroristischen Ideologien, oder aber gegen die LGBTIQ+-Gemeinschaft (30) gerichtete FIMI einen offenen und demokratischen Dialog und eine offene Debatte untergraben und die soziale Spaltung und Polarisierung weiter verstärken. In diesem Zusammenhang kann der Verhaltenskodex für die Bekämpfung illegaler Hassreden im Internet als Anregung dienen, wenn geeignete Maßnahmen erwogen werden.

35.

Zusätzlich zur Einbeziehung einschlägiger Akteure in die Risikobewertung nach Erwägungsgrund 90 der Verordnung (EU) 2022/2065 empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen die im Zuge ihrer Risikobewertungen durchgeführten Folgenabschätzungen zu den Grundrechten, sobald sie abgeschlossen sind, d. h. möglicherweise früher als nach Artikel 42 Absatz 4 der genannten Verordnung vorgeschrieben, den Organisationen der Zivilgesellschaft, insbesondere jenen, die in diesem Prozess konsultiert wurden, zur Verfügung stellen. Dadurch könnte Raum für einen konstruktiven offenen Dialog über mögliche bewährte Verfahren und mögliche Verbesserungen geschaffen werden.

3.3. Risikominderungsmaßnahmen im Zusammenhang mit generativer KI

36.

Die jüngsten technischen Entwicklungen im Bereich der generativen KI haben die Schaffung und weitverbreitete Nutzung von Systemen der künstlichen Intelligenz ermöglicht, die Texte, Bilder, Videos oder andere synthetische Inhalte erzeugen können. Solche Entwicklungen bringen zwar möglicherweise viele neue Chancen mit sich, sie können jedoch im Zusammenhang mit Wahlen zu spezifischen systemischen Risiken führen. Insbesondere kann generative KI missbraucht werden, um Wähler in die Irre zu führen oder Wahlprozesse zu manipulieren, indem unauthentische, verzerrte und irreführende synthetische Inhalte (einschließlich Text, Audioaufnahmen, Bildern und Videos) in Bezug auf politische Akteure, falsche Darstellungen von Ereignissen, Wahlbefragungen, Zusammenhängen oder Narrativen erstellt und verbreitet werden. Generative KI-Systeme können auch falsche, inkohärente oder erfundene Informationen (sogenannte „Halluzinationen“) ausgeben, die die Realität falsch darstellen und die Wähler in die Irre führen können.

37.

Gemäß Artikel 35 Absatz 1 der Verordnung (EU) 2022/2065 sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen systemische Risiken wie die oben genannten im Zusammenhang mit Wahlen bewerten und – je nach Art ihres Dienstes – angemessene, verhältnismäßige und wirksame Risikominderungsmaßnahmen ergreifen, die auf die Risiken im Zusammenhang mit der Erstellung und Verbreitung KI-generierter Inhalte zugeschnitten sind. Bewährte Verfahren, die in die einschlägigen Risikominderungsmaßnahmen einfließen können, können bereits jetzt aus dem KI-Gesetz und dem KI-Pakt abgeleitet werden. Besonders relevant sind in diesem Zusammenhang die im KI-Gesetz vorgesehenen Verpflichtungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck, einschließlich generativer KI, sowie Anforderungen im Hinblick auf die Kennzeichnung von „Deepfakes“ und die Verpflichtung der Anbieter generativer KI-Systeme zur Verwendung modernster technischer Lösungen, um sicherzustellen, dass durch generative KI geschaffene Inhalte in einem maschinenlesbaren Format gekennzeichnet werden und als solche erkennbar sind, sodass sie durch Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen erkannt werden können. Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Regeln im Einklang mit dem KI-Pakt schon vor dem Inkrafttreten des KI-Gesetz an dessen Bestimmungen anpassen.

38.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten Risikominderungsmaßnahmen im Zusammenhang mit generativer KI anwenden, soweit dies technisch machbar ist, wobei den Auswirkungen solcher Maßnahmen auf die durch die Charta geschützten Grundrechte besondere Aufmerksamkeit zu widmen ist. Die Kommission empfiehlt ferner eine branchenübergreifende Zusammenarbeit, um wirksame Risikominderungsmaßnahmen für generative KI im Zusammenhang mit den Verhaltenskodizes für KI-Modelle mit allgemeinem Verwendungszweck weiterzuentwickeln, und die Verbesserung der Transparenz KI-generierter Inhalte im Rahmen des KI-Gesetzes.

39.

Ausgehend von den ermittelten spezifischen tatsächlichen oder absehbaren Risiken für Wahlprozesse empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, deren Dienste für die Erstellung täuschender, verzerrter, falscher oder irreführender KI-generierter Inhalte genutzt werden können, folgende Risikominderungsmaßnahmen ergreifen, soweit dies technisch machbar ist und dem aktuellen Stand der Technik entspricht:

Sicherstellung, dass mithilfe generativer KI erzeugte Inhalte und andere Arten synthetischer und manipulierter Medien nachweisbar sind, insbesondere durch die Verwendung hinreichend zuverlässiger, interoperabler, wirksamer und belastbarer Techniken und Methoden, wie Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken je nach Sachlage, wobei bestehende Normen zu berücksichtigen sind. Dies ist besonders wichtig für mithilfe generativer KI erzeugte Inhalte, die Kandidaten, Politiker oder politische Parteien betreffen. Wasserzeichen und Metadaten können auch für Inhalte verwendet werden, die auf ursprünglich authentischen Aufnahmen (z. B. Videos, Bildern oder Audioaufnahmen) beruhen, die dann anschließend mithilfe generativer KI verändert wurden;

Anstrengungen, um sicherzustellen, dass die von KI-Systemen generierten Informationen im Zusammenhang mit Wahlen so weit wie möglich auf zuverlässigen Quellen wie offiziellen Informationen der zuständigen Wahlbehörden beruhen und dass Zitate oder Verweise der Systeme auf externe Quellen korrekt sind und den zitierten Inhalt nicht falsch darstellen, wodurch die Auswirkungen von „Halluzinationen“ begrenzt werden;

Warnung der Nutzer vor potenziellen Fehlern in Inhalten, die von generativen KI-Systemen verursacht werden, und Empfehlung, dass sie maßgebliche Quellen konsultieren sollten, um die Richtigkeit solcher Informationen zu überprüfen, sowie Vorkehrungen, um die Erstellung falscher Inhalte zu verhindern, die ein großes Potenzial zur Beeinflussung des Nutzerverhaltens haben könnten;

Durchführung und Dokumentation von Angriffssimulationen und Tests mit besonderem Schwerpunkt auf Wahlprozessen, sowohl mit internen Teams als auch mit externen Sachverständigen, bevor generative KI-Systeme öffentlich freigegeben werden, und gestaffelte Freigabe, um unbeabsichtigte Folgen besser zu beherrschen;

e)	Festlegung geeigneter Leistungsparameter, auch für die Sicherheit und sachliche Richtigkeit der Antworten auf Fragen zu Wahlinhalten, und fortlaufende Überwachung der Leistung generativer KI-Systeme sowie erforderlichenfalls Ergreifen geeigneter Maßnahmen;

Integration von Vorkehrungen für generative KI-Systeme, die ihre Sicherheit erhöhen, wie z. B. Prompt-Klassifikatoren, Moderation von Inhalten und andere Filter, um Prompts (Anfragen) zu erkennen und zu unterbinden, die gegen die Nutzungsbedingungen des Anbieters einer sehr großen Online-Plattform oder sehr großen Online-Suchmaschine in Bezug auf Wahlprozesse verstoßen; Ergreifen anderer geeigneter Maßnahmen, um den Missbrauch des generativen KI-Systems für illegale, manipulative und Desinformationszwecke im Zusammenhang mit Wahlprozessen zu verhindern;

g)	insbesondere bei Textinhalten nach Möglichkeit Angabe der konkreten Quellen der als Eingabedaten verwendeten Informationen in den erzeugten Ergebnissen oder Bereitstellung anderer Mittel, die es den Nutzern ermöglichen, die Zuverlässigkeit zu überprüfen und die Informationen weiter einzuordnen.

40.

Ausgehend von den ermittelten spezifischen tatsächlichen oder absehbaren Risiken für Wahlprozesse empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, deren Dienste für die Verbreitung täuschender, falscher oder irreführender KI-generierter Inhalte genutzt werden können, folgende Risikominderungsmaßnahmen erwägen, soweit dies technisch machbar ist und dem aktuellen Stand der Technik entspricht:

Anpassung ihrer allgemeinen Geschäftsbedingungen und Sicherstellung ihrer Durchsetzung, um die Reichweite und Wirkung der mithilfe generativer KI erzeugten Inhalte, die Desinformation oder Fehlinformationen über den Wahlprozess (wie etwa Unregelmäßigkeiten bei den Wahlen) enthalten, erheblich zu verringern.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen der Öffentlichkeit klare Informationen darüber bereitstellen, welche internen Verfahren und Risikominderungsmaßnahmen – wie Kennzeichnung, Markierung, Herabstufung oder Entfernung – zur Durchsetzung dieser Strategien bestehen.

ii)	Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen zusammenarbeiten und mit Faktenprüfern Informationen über solche täuschenden Inhalte austauschen, um das Risiko einer Verstärkung auf anderen Plattformen so gering wie möglich zu halten;

klare Kennzeichnung oder anderweitige Kenntlichmachung (mithilfe hervorgehobener Markierungen) synthetischer oder manipulierter Bilder, Audioaufnahmen oder Videos, die wirklichen Personen, Gegenständen, Orten, Einrichtungen oder Ereignissen merklich ähneln oder Ereignisse als real darstellen, die nicht stattgefunden haben, oder diese falsch darstellen und die einer Person fälschlicherweise als echt oder wahrhaftig erscheinen würden (d. h. Deepfakes).

i)	Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihren Nutzern leicht zu benutzende Standard-Schnittstellen und -Instrumente bereitstellen, um KI-generierte Inhalte zu kennzeichnen.

ii)

Bei der Kennzeichnung KI-generierter Inhalten empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen wirksame Kennzeichnungen anbringen, die von den Nutzern leicht erkannt werden können, wobei Aspekte wie Grafik, Position und zeitliche Vorgaben zu berücksichtigen sind, und sich dabei auf wissenschaftliche Forschungsarbeiten zur Wirksamkeit der Kennzeichnungen (31) stützen. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten zudem die Wirksamkeit solcher Kennzeichnungen schon vor der Veröffentlichung testen und sie auf der Grundlage von Rückmeldungen und Erfahrungen anpassen und verbessern.

iii)	Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dafür sorgen, dass die markierten KI-generierten Inhalte ihre Kennzeichnung auch dann behalten, wenn sie von anderen Nutzern auf der Plattform geteilt werden.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Werbesysteme anpassen, indem sie Werbetreibenden beispielsweise Möglichkeiten bieten, Inhalte, die mithilfe generativer KI erstellt wurden, in Werbeanzeigen oder beworbenen Posts eindeutig zu kennzeichnen, und in ihrer Werbepolitik verlangen, dass diese Kennzeichnung verwendet wird, wenn die Werbung KI-generierte Inhalte enthält.

Um diese Vorgaben durchzusetzen, sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Prozesse und algorithmischen Systeme zur Moderation von Inhalten so anpassen, dass KI-generierte oder manipulierte Inhalte mithilfe von Wasserzeichen, Metadatenidentifizierungen, kryptografischen Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücken oder anderen Techniken erkannt werden können.

In diesem Zusammenhang sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen mit Anbietern generativer KI-Systeme zusammenarbeiten und Maßnahmen nach dem neuesten Stand der Technik befolgen, damit solche Wasserzeichen, Metadatenidentifizierungen, kryptografische Methoden zum Nachweis der Herkunft und Authentizität des Inhalts, Protokollierungsmethoden, Fingerabdrücke oder andere Techniken auch zuverlässig und wirksam erkannt werden; ferner wird ihnen empfohlen, neue technische Innovationen zu unterstützen, um die Wirksamkeit und Interoperabilität solcher Instrumente zu verbessern.

e)	Die in Abschnitt 2 genannten Maßnahmen zur Medienkompetenz sollten sich auch auf generative KI-Systeme erstrecken, um beispielsweise zu erklären, wie die Technik funktioniert und wie sie missbraucht werden kann.

41.

Gemäß Artikel 35 Absatz 1 der Verordnung (EU) 2022/2065 sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, wenn sie sich mit legalen, aber schädlichen Formen KI-generierter Inhalte befassen, die das Verhalten der Wähler beeinflussen können, besonders berücksichtigen, welche Auswirkungen ihre Strategien und Maßnahmen auf die Grundrechte haben können, insbesondere auf das Recht auf freie Meinungsäußerung, einschließlich der politischen Meinungsäußerung, Parodie und Satire. Eine solche Folgenabschätzung in Bezug auf die Grundrechte ist insbesondere erforderlich, wenn Strategien dazu entwickelt werden, welche Art täuschender KI-generierter Inhalte ein Anbieter einer sehr großen Online-Plattform oder einer sehr großen Online-Suchmaschine in seinem Dienst nicht zulässt und aus diesem entfernen wird.

42.

Da KI-generierte Inhalte besondere Risiken bergen, sollten sie einer verstärkten Kontrolle unterliegen, auch durch die Entwicklung von Ad-hoc-Instrumenten und Technologien, z. B. zur Durchführung von Forschungsarbeiten zur Ermittlung und zum besseren Verständnis spezifischer Risiken im Zusammenhang mit Wahlprozessen. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen werden ermutigt, die Einrichtung spezieller Instrumente für den Zugang zu KI-generierten Inhalten, deren konkrete Identifizierung und Analyse für Forschende in Erwägung zu ziehen.

3.4. Zusammenarbeit mit nationalen Behörden, unabhängigen Sachverständigen und Organisationen der Zivilgesellschaft

43.

Ein Beitrag zum Schutz der Integrität einer bestimmten Wahl kann nicht ohne Kenntnis des spezifischen nationalen, rechtlichen, gesellschaftlichen und politischen Kontexts und nicht ohne sofortiges Eingreifen in laufende Entwicklungen, die sich auf die von sehr großen Online-Plattformen oder sehr großen Online-Suchmaschinen ausgehenden Risiken auswirken, geleistet werden. Die Verfahren und Organisationsstrukturen von Wahlen unterscheiden sich von Mitgliedstaat zu Mitgliedstaat und sogar von Wahl zu Wahl. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten sich der Struktur der geltenden nationalen Wahlordnung für die betreffenden Wahlen und der Rolle der verschiedenen Behörden bewusst sein. Durch ein gutes Verständnis spezifischer nationaler Verfahren wie der Wahlkampfbeschränkungen, des Zeitpunkts der offiziellen Benennung der Wahlkandidaten und der Ruhephase vor den Wahlen können Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen Risikominderungsmaßnahmen unter Berücksichtigung der spezifischen Aspekte des betreffenden Mitgliedstaats konzipieren.

44.

Zu diesem Zweck empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen regelmäßig und erforderlichenfalls im Eilverfahren Informationen mit den zuständigen nationalen und europäischen Behörden sowie gegebenenfalls der Kommission austauschen und Kontaktstellen für diese einrichten, wobei der Koordinator für digitale Dienste ihres Mitgliedstaats und gegebenenfalls die zuständigen regionalen und lokalen Behörden einzubeziehen sind, um den Informationsaustausch zu erleichtern.

45.

Solche Interaktionen zwischen Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen und den zuständigen nationalen Behörden sollten auf den Austausch von Informationen beschränkt werden, die als Grundlage für Risikobewertungen und Risikominderungsmaßnahmen in Bezug auf Wahlprozesse oder als Grundlage für Maßnahmen der nationalen Behörden zum Schutz der Integrität von Wahlprozessen dienen können, die in ihre Zuständigkeit fallen. Beispielsweise können die zuständigen nationalen Behörden Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen amtliche Informationen über das Abstimmungsverfahren, die in ihre Dienste integriert werden können, und, soweit möglich und angemessen, Informationen über mögliche Risiken für den Wahlprozess zur Verfügung stellen, die in die Risikominderungsmaßnahmen der Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen einfließen können. Im Gegenzug können Informationen über die Risiken, zu deren Minderung Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen in ihren Diensten Maßnahmen ergreifen, für die Arbeit der zuständigen nationalen Behörden zum Schutz der Integrität von Wahlprozessen relevant sein. Soweit ein solches Zusammenwirken nicht in den Anwendungsbereich der Transparenzberichtspflichten gemäß der Verordnung (EU) 2022/2065 fallen, empfiehlt die Kommission, dass die nationalen Behörden und die Anbieter großer Online-Plattformen und sehr großer Online-Suchmaschinen transparent darüber Bericht erstatten, beispielsweise in öffentlichen Dokumenten, in denen die nationalen Behörden den Wahlprozess bewerten, oder in der Transparenzberichterstattung, die sich aus der Verordnung (EU) 2022/2065 ergibt.

46.

Die gemäß der Verordnung (EU) 2022/2065 benannten Koordinatoren für digitale Dienste in jedem Mitgliedstaat können als Kontaktstellen für Anbieter sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen fungieren, wenn nicht klar ist, welche nationale Behörde für Fragen im Zusammenhang mit der Risikominderung bei Wahlprozessen zuständig ist. Da die Koordinatoren für digitale Dienste in Bezug auf alle Fragen im Zusammenhang mit der Anwendung der Verordnung (EU) 2022/2065 in einem Mitgliedstaat als zentrale Kontaktstelle fungieren, empfiehlt die Kommission, dass die Koordinatoren für digitale Dienste in den Austausch zwischen den Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen und den zuständigen nationalen Behörden über den Wahlprozess einbezogen werden. Darüber hinaus hat die Kommission den Mitgliedstaaten empfohlen, ihre nationalen Wahlkooperationsnetze zu stärken (32) und ihre Zusammenarbeit mit den einschlägigen Interessenträgern zu erleichtern (33). Diese nationalen Wahlkooperationsnetze können ebenfalls eine wichtige Kontaktstelle für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sein.

47.

Neben der Zusammenarbeit mit den nationalen Behörden wird den Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ferner empfohlen, eine enge Zusammenarbeit mit einschlägigen nichtstaatlichen Akteuren aufzubauen, da auch diese Akteure eine wichtige Rolle beim Schutz von Wahlprozessen spielen. Vor den Wahlen können Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen Treffen organisieren und Kanäle für eine regelmäßige Kommunikation mit nichtstaatlichen Akteuren einrichten, die an Wahlprozessen beteiligt sind, wie Wissenschaftlern, unabhängigen Sachverständigen, Organisationen der Zivilgesellschaft und Vertretern verschiedener Gemeinschaften. Sie können diese Akteure auffordern, ihr unabhängiges Fachwissen sowie ihre Erkenntnisse und Beobachtungen zu teilen, die dazu beitragen können, Risiken zu ermitteln, die möglicherweise Risikominderungsmaßnahmen erfordern, und solche Risikominderungsmaßnahmen zu entwickeln.

48.

Die Einrichtung von Kommunikationskanälen mit nichtstaatlichen Akteuren, einschließlich Wahlkampforganisationen und Wahlbeobachtern, während des Wahlkampfs wird den Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dabei helfen, den Kontext der Wahlen besser zu verstehen, um im Notfall rasch reagieren zu können, Maßnahmen zur Risikominderung zu konzipieren und zu kalibrieren und besser nachzuvollziehen, wie ihre Risikominderungsmaßnahmen im lokalen Kontext funktionieren. Die Arbeitsgruppe für Wahlen im Rahmen des Verhaltenskodex – und ihr Krisenreaktionssystem – ist ein gutes Beispiel für ein solches bestehendes aktives Multi-Stakeholder-Forum, an dem sich NRO und Faktenprüfer mit ihren wichtigen wahlspezifischen Erfahrungen beteiligen. Die EDMO-Taskforce für Wahlen, die sich aus unabhängigen Faktenprüfern, Wissenschaftlern und Spezialisten für Medienkompetenz zusammensetzt, sowie die EDMO-Zentren in der gesamten EU können in dieser Hinsicht ebenfalls einen wichtigen Beitrag leisten.

49.

Die Verfügbarkeit vertrauenswürdiger Informationen aus pluralistischen Quellen ist für gut funktionierende demokratische Wahlprozesse von entscheidender Bedeutung. Dies erfordert nicht nur einen Schutz vor äußerer Einflussnahme durch Politik und Geschäftswelt, sondern auch vor einer möglichen falschen Anwendung der internen Prozesse sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, wie in Artikel 17 des vorgeschlagenen Europäischen Medienfreiheitsgesetzes (34) anerkannt. Journalisten und Mediendiensteanbieter spielen eine wesentliche Rolle bei der Sammlung, Verarbeitung und Weitergabe von Informationen an die Öffentlichkeit und eine noch wichtigere Rolle zu Zeiten von Wahlen. Unabhängige Nachrichtenmedienanbieter und Organisationen mit bewährten internen redaktionellen Standards und Verfahren gelten weithin als vertrauenswürdige Informationsquellen. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten daher mit unabhängigen Medienorganisationen, Regulierungsbehörden, Organisationen der Zivilgesellschaft und Basisorganisationen, Faktenprüfern, Hochschulen und anderen einschlägigen Interessenträgern zusammenarbeiten, um die Ermittlung vertrauenswürdiger Informationen und den Zugang der Nutzer zu pluralistischen Nachrichtenmedieninhalten im Zusammenhang mit Wahlen aus vertrauenswürdigen Quellen zu verbessern.

50.

Angesichts der wichtigen Rolle solcher Organisationen bei der Beurteilung der Richtigkeit der Informationen empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen mit unabhängigen Faktenprüforganisationen zusammenarbeiten, die hohe Standards in Bezug auf Methodik, Ethik und Transparenz einhalten, da sie beispielsweise Mitglied des Europäischen Netzes für Faktenprüfstandards (EFCSN) (35) sind und dessen Normenkodex einhalten. Die Kommission empfiehlt, diese Zusammenarbeit transparent zu gestalten. So geben beispielsweise einige Unterzeichner des Verhaltenskodex zur Bekämpfung von Desinformation die Faktenprüforganisationen an, mit denen sie Vereinbarungen geschlossen haben.

3.5. Während einer Wahl

51.

Während des Wahlzeitraums, in dem Maßnahmen und Ressourcen eingerichtet sein werden, die speziell auf die Minderung von Risiken für den Wahlprozess ausgerichtet sind, empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihr besonderes Augenmerk auf Risikominderungsmaßnahmen richten, die die Auswirkungen von Vorfällen verringern, die einen erheblichen Einfluss auf das Wahlergebnis oder die Wahlbeteiligung haben können.

52.

Dazu gehört es auch, den Nutzern zeitnah Zugang zu zuverlässigen und verständlichen Informationen aus offiziellen Quellen darüber zu geben, wie die Wahl und das Abstimmungsverfahren ablaufen, oder über Maßnahmen gemäß Abschnitt 3.3, um den potenziellen Schaden durch hochwirksame Techniken wie manipulierte Bilder, Sprachaufzeichnungen oder Deepfakes, z. B. in Bezug auf politische Akteure, die zur Wahl stehen, zu verringern. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten auch dafür sorgen, dass sie in der Lage sind, rasch auf Manipulationen ihrer Dienste zu reagieren, mit denen der Wahlprozess untergraben und versucht werden soll, Wählerinnen und Wähler durch Desinformation und manipulierte Informationen von der Ausübung ihres Stimmrechts abzuhalten.

53.

Vorfälle, die während der Wahl auf oder außerhalb der Plattform auftreten, können sich rasch und stark auf die Integrität der Wahlen oder die öffentliche Sicherheit auswirken. Die Kommission empfiehlt daher, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen einen internen Reaktionsmechanismus für Vorfälle einrichten, an dem auch die leitende Führungsebene beteiligt ist, sowie eine Bestandsaufnahme der Interessenträger, die innerhalb der Organisation an der Reaktion auf den Vorfall beteiligt sind, durchführen. Dieses Verfahren sollte im Vorfeld eingerichtet, vereinbart und getestet werden, auch durch Angriffssimulationen, damit es rasch aktiviert werden kann. Darüber hinaus muss dieses Verfahren kohärent, wiederholbar und überprüfbar sein und gut dokumentierte Entscheidungen und Ergebnisse hervorbringen, damit Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Reaktionen nach hochwirksamen Ereignissen überprüfen können.

54.

In Anbetracht der Notwendigkeit einer raschen Anwendung von Risikominderungsmaßnahmen empfiehlt die Kommission auch, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eine Zusammenarbeit und einen raschen und effizienten Informationsaustausch mit einschlägigen nichtstaatlichen Akteuren, die über Kenntnisse und Fachwissen verfügen, die für Wahlen relevant sind, aufbauen; zu diesen Akteuren könnten Interessenträger aus Organisationen der Zivilgesellschaft, aus Hochschulen und Forschung, unabhängigen Medien und anderen Bereichen gehören. Angesichts des plattformübergreifenden Charakters illegaler und/oder schädlicher Inhalte sowie von Desinformation und FIMI-Aktivitäten ist die Zusammenarbeit zwischen sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen untereinander zum Austausch einschlägiger Informationen sowie mit kleineren Plattformen und Diensten von wesentlicher Bedeutung, um diese Risiken wirksam zu mindern. Dies wird Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen helfen, schneller auf neu auftretende Probleme und Vorfälle zu reagieren, den Kontext besser zu verstehen, ihre Risikominderungsmaßnahmen anzupassen und die Wirksamkeit ihrer Maßnahmen zu bewerten. Es ist besonders wichtig, dass diese Zusammenarbeit und dieser Informationsaustausch effizient erfolgen, da auf solche Ereignisse zeitnah reagiert werden muss. Sie sollten daher Reaktionen von Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sowie aussagekräftige Rückmeldungen an einschlägige nichtstaatliche Akteure innerhalb eines angemessenen Zeitrahmens umfassen, die eine Bewertung der Effizienz und der Auswirkungen dieser Zusammenarbeit und dieses Austauschs ermöglichen.

55.

Das von den Unterzeichnern des Verhaltenskodex zur Bekämpfung von Desinformation einzurichtende Krisenreaktionssystem ist ein gutes Beispiel für ein solches Forum für die Zusammenarbeit bei Wahlen, das in die Mechanismen der Plattformen für die Reaktion auf Vorfälle einfließt. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten gemeinsam mit den anderen Unterzeichnern den Verfahrensrahmen für die Zusammenarbeit und Koordinierung zwischen ihnen während der Wahlen festlegen, einschließlich eines Mechanismus für schnelle Rückmeldungen, um eine rasche, effiziente und angemessene Weiterverfolgung durch die Plattformen zu ermöglichen.

56.

Ein weiteres Beispiel für die Organisation der Arbeit im Zusammenhang mit Reaktionen auf FIMI und Desinformation findet sich im zweiten EAD-Bericht über Bedrohungen durch Informationsmanipulation und Einflussnahme aus dem Ausland (36), in dem ein „Reaktionsrahmen“ vorgeschlagen wird, der Analysen wirksam mit faktengestützten Reaktionen verknüpft und gleichzeitig die Bedeutung der Zusammenarbeit zwischen verschiedenen Interessenträgern hervorhebt. Als Anregung könnten auch Initiativen wie das Zentrum für die Informationsweitergabe und -analyse im Hinblick auf Informationsmanipulation und Einflussnahme aus dem Ausland (FIMI-ISAC) (37) dienen. Ein solches FIMI-ISAC soll den Informationsaustausch zwischen allen Interessenträgern über Ursachen, Vorfälle und Bedrohungen sowie den Austausch von Erfahrungen, Wissen und Analysen fördern.

57.

Eine rechtzeitige Reaktion auf Vorfälle ist oft entscheidend. Die Kommission empfiehlt daher, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ein Rund-um-die-Uhr-Betriebsmodell in Betracht ziehen, bei dem Büros auf der ganzen Welt alle Zeitzonen abdecken können.

58.

Um rechtzeitig reagieren zu können, sollten Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre mögliche Zusammenarbeit mit den Wahlbehörden und einschlägigen nichtstaatlichen Akteuren in ihre Reaktionsmechanismen für Vorfälle integrieren.

3.6. Nach einer Wahl

59.

Nach einer Wahl empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eine Überprüfung nach der Wahl durchführen, einschließlich einer Bewertung der Wirksamkeit der in diesem Zusammenhang ergriffenen Risikominderungsmaßnahmen, um die Maßnahmen erforderlichenfalls anzupassen. In diesem internen Bericht sollte bewertet werden, ob die internen Leistungsparameter und andere Bewertungskriterien vor, während und nach den Wahlen eingehalten wurden, welche Erkenntnisse gewonnen wurden und in welchen Bereichen Verbesserungsbedarf besteht.

60.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen bei der Wahlüberprüfung spezifische Beiträge von unabhängigen Forschenden, Organisationen der Zivilgesellschaft und unabhängigen Faktenprüfern zu den Auswirkungen der Risikominderungsmaßnahmen sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen berücksichtigen. Darüber hinaus können Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen mit etablierten unabhängigen Wahlbeobachtergruppen zusammenarbeiten, die möglicherweise Informationen über die Nutzung und die Auswirkungen ihrer Dienste in diesem Zusammenhang bereitstellen können.

61.

Der Bericht nach der Wahl sollte insbesondere Informationen über die durchschnittliche Reaktionszeit auf Verstöße gegen die allgemeinen Geschäftsbedingungen und deren Verteilung, über die durchschnittliche Reaktionszeit auf von Nutzern und nichtstaatlichen Akteuren gemeldete Inhalte und deren Verteilung, über die durchschnittliche Reichweite von und Interaktion mit Inhalten, auf die reagiert wurde, und deren Verteilung, über die Anzahl der Verstöße gegen bestimmte Regeln im Zusammenhang mit Wahlen, über Fälle von Informationsmanipulation und die Reichweite bestimmter Maßnahmen wie Initiativen zur Medienkompetenz und autoritative Initiativen enthalten. Die Kommission kann verlangen, dass solche Berichte vertraulich behandelt werden (38).

62.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen eine öffentliche Fassung solcher Unterlagen zur Überprüfung nach der Wahl veröffentlichen. Diese Fassung sollte Informationen über die vom Anbieter sehr großer Online-Plattformen oder sehr großer Online-Suchmaschinen ergriffenen Maßnahmen und über etwaige Vorfälle sowie Angaben zur Zusammenarbeit und zum Informationsaustausch mit einschlägigen nichtstaatlichen Akteuren während der Wahl enthalten. Sie sollte ferner Einzelheiten über die ergriffenen Maßnahmen, die Effizienz und die Aktualität dieser Zusammenarbeit beinhalten. Ziel ist es auch, Rückmeldungen der Öffentlichkeit darüber einzuholen, wie die bestehenden Risikominderungsmaßnahmen verbessert oder erfolgreiche Maßnahmen an andere Anbieter weitergegeben werden können. Als weiteres Beispiel für die Berichterstattung im Zusammenhang mit Wahlen haben die Unterzeichner des Verhaltenskodex zur Bekämpfung von Desinformation eine Vorlage für die Berichterstattung entwickelt, mit der sie vor und nach den Wahlen über die von ihnen ergriffenen Maßnahmen und die einschlägigen Parameter in Bezug auf ihre Wirkung berichten.

3.7. Besondere Leitlinien für die Wahlen zum Europäischen Parlament

63.

Wie in der Mitteilung im Rahmen des Pakets zur Verteidigung der Demokratie (39) dargelegt, wird die anstehende Wahl zum Europäischen Parlament ein entscheidender Testfall für die Stabilität unserer demokratischen Prozesse sein, auch angesichts hybrider Bedrohungen, die nicht nur Desinformation und FIMI, sondern auch Cyberangriffe umfassen. In diesem Zusammenhang und aufgrund ihres einzigartigen grenzüberschreitenden Charakters wird Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen empfohlen, für die Wahlen zum Europäischen Parlament, die vom 6. bis 9. Juni 2024 stattfinden, robuste Risikominderungsmaßnahmen zu ergreifen.

64.

Dies bedeutet, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen dafür sorgen sollten, dass ausreichende Ressourcen und Risikominderungsmaßnahmen zur Verfügung stehen und in einer Weise verteilt werden, die in einem angemessenen Verhältnis zu den Risikobewertungen steht; dies umfasst auch den Zugang zu einschlägigem nationalem Fachwissen in der gesamten EU – sowohl auf EU-Ebene als auch auf Ebene der Mitgliedstaaten.

65.

Für die Wahlen zum Europäischen Parlament ist kein Wahlkampfzeitraum im Voraus festgelegt worden. Das bedeutet, dass der entsprechende Wahlkampf in den Mitgliedstaaten zu unterschiedlichen Zeitpunkten beginnen und enden kann. Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen werden dazu angehalten, dies bei der Planung ihrer Risikominderungsmaßnahmen für die Wahlen zum Europäischen Parlament zu berücksichtigen und bei ihrer Vorbereitung auf diese Wahlen mit den Mitgliedstaaten zusammenzuarbeiten.

66.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen sollten bei der Zuweisung angemessener Mittel zur Risikominderung auch die einzigartige grenzüberschreitende und europäische Dimension dieser Wahlen berücksichtigen. Die Wahlkampagnen werden nicht nur auf nationaler Ebene stattfinden, und die Debatte wird über Grenzen hinweg geführt. Neben der Kontaktaufnahme mit den zuständigen nationalen Behörden empfiehlt die Kommission, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen vor den Wahlen auch den Kontakt mit den EU-Behörden suchen. Das Europäische Parlament spielt eine Schlüsselrolle bei der Europawahl und sollte im Vorfeld dieser Wahlen ein wichtiger Ansprechpartner für sehr große Online-Plattformen und sehr große Online-Suchmaschinen sein. EU-weite Netze nationaler Sachverständiger für Desinformation, FIMI, Wahlen und Cybersicherheit wie das EU-Schnellwarnsystem, das Europäische Kooperationsnetz für Wahlen und die NIS-Kooperationsgruppe könnten im Falle grenzüberschreitender Vorfälle, einschließlich hybrider Vorfälle, die eine rasche Reaktion und den Einsatz von Risikominderungsmaßnahmen erfordern, während der Wahlen für Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen relevant sein.

67.

Gerade bei Risikominderungsmaßnahmen, die möglicherweise auch damit verbundenen Bedrohungen unterschiedlicher Art Rechnung tragen müssen, die darauf abzielen, die demokratischen Prozesse zu destabilisieren oder zu diskreditieren, einschließlich Cyberangriffen, sollte eine angemessene Zusammenarbeit in diesen Bereichen sichergestellt werden. Im Hinblick auf cybergestützte Desinformations- oder FIMI-Aktivitäten werden Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen angehalten, angemessene Kontakte zu den nationalen Cybersicherheitsbehörden herzustellen; wenn solche Aktivitäten die EU als Ganzes oder die Organe, Einrichtungen und sonstigen Stellen der EU betreffen, sollten Kontakte zur Agentur der Europäischen Union für Cybersicherheit (ENISA) und zum IT-Notfallteam für die Organe, Einrichtungen und sonstigen Stellen der EU (CERT-EU) (40) in Betracht gezogen werden. Darüber hinaus empfiehlt die Kommission im Einklang mit den Vorschlägen für nationale Wahlen, im Vorfeld der Wahlen zum Europäischen Parlament gleichberechtigte Kontakte zur Verwaltung des Europäischen Parlaments und den europäischen politischen Parteien herzustellen und entsprechende Kommunikationskanäle zu öffnen.

68.

Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, die den Verhaltenskodex zur Bekämpfung von Desinformation unterzeichnet haben, sollten sich uneingeschränkt an der Arbeit im Zusammenhang mit den Wahlen zum Europäischen Parlament beteiligen, unter anderem durch eine wirksame Teilnahme am Krisenreaktionssystem und am Rückmeldungsmechanismus mit geeigneten und zeitnahen Folgemaßnahmen. Darüber hinaus sollten sie – vor und nach den Wahlen – gezielte Berichte über die Maßnahmen vorlegen, die ergriffen wurden, um die Verbreitung von Desinformation sowie Informationsmanipulation und Einflussnahme aus dem Ausland im Zusammenhang mit den Wahlen zum Europäischen Parlament zu verringern, einschließlich einschlägiger Parameter in Bezug auf deren Wirkung (auf der Grundlage der Verpflichtungen 37.2 und 42). Sie sollten – auf der Grundlage der Beiträge von Faktenprüfern und Unterzeichnern aus der Zivilgesellschaft – nach den Wahlen eine Bestandsaufnahme der gewonnenen Erkenntnisse vornehmen und dabei auch die Effizienz und Aktualität der Zusammenarbeit bewerten, um die Effizienz des Systems für künftige Wahlen zu verbessern.

69.

Abschnitt 3.6 über die Überprüfung nach der Wahl gilt auch für die Wahlen zum Europäischen Parlament und sollte dem besonderen Charakter dieser Wahlen Rechnung tragen.

70.

Die Kommission empfiehlt, dass Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen insbesondere mit der EDMO-Taskforce für die Europawahlen Kontakt aufnehmen und zusammenarbeiten, um ihre Risikominderungsmaßnahmen für die Wahlen zum Europäischen Parlament anzupassen. Für die Wahlen zum Europäischen Parlament 2024 wird diese Taskforce Berichte erstellen und regelmäßig über die wichtigsten Desinformationstrends, Herausforderungen und Entwicklungen informieren. Dies sollte in die Risikominderungsmaßnahmen der Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen einfließen.

4. WEITERES VORGEHEN UND FAZIT

71.

Die Kommission ist entschlossen, die Verordnung (EU) 2022/2065, auch im Bereich der Wahlen, strikt durchzusetzen. Diese Leitlinien helfen Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen bei der Anwendung des Artikels 35 der genannten Verordnung, insbesondere in Bezug auf die Bewertung und Minderung systemischer Risiken für Wahlprozesse, die sich aus ihrem Dienst oder dessen Nutzung ergeben. Angesichts der zahlreichen bevorstehenden Wahlen – und nicht zuletzt der Wahlen zum Europäischen Parlament – fordert die Kommission die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen nachdrücklich auf, diese Leitlinien rasch und umfassend umzusetzen, und begrüßt, dass die Wirksamkeit der von den Anbietern dieser sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen in der EU ergriffenen Risikominderungsmaßnahmen durch Forschende und Organisationen der Zivilgesellschaft bewertet wird.

72.

Gleichzeitig ist die Kommission insbesondere angesichts des frühen Stadiums der Durchführung der Verordnung (EU) 2022/2065 und der besonderen Art der systemischen Risiken für Wahlprozesse bereit, mit Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen hinsichtlich der Gestaltung und Funktionsweise ihrer Dienste und der damit verbundenen Systeme zusammenzuarbeiten, um sicherzustellen, dass die Wahlprozesse in der EU nicht beeinträchtigt werden.

73.

In diesem Zusammenhang ist die Kommission bereit, eine regelmäßige Überprüfung der von Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ergriffenen Risikominderungsmaßnahmen auf freiwilliger Basis zu erleichtern. Dies könnte in Form einer Ex-ante- und Ex-post-Überprüfung nach bestimmten Wahlen erfolgen. Die Rückmeldungen der Kommission in diesem Zusammenhang würden sich auf die von den Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen bereitgestellten Informationen stützen und keine umfassende Bewertung der von ihnen ergriffenen Befolgungsmaßnahmen darstellen. Sie würden daher die Untersuchungs- und Durchsetzungsbefugnisse der Kommission gemäß der Verordnung (EU) 2022/2065 unberührt lassen.

74.

Gemäß Artikel 64 der Verordnung (EU) 2022/2065 wird die Kommission weiterhin Sachkenntnis und Kapazitäten zu systemischen und neu aufkommenden Problemen in der gesamten EU entwickeln. Informationen von sehr großen Online-Plattformen und sehr großen Online-Suchmaschinen sind in dieser Hinsicht unverzichtbar. Die Kommission erwartet, dass die Anbieter solcher Dienste im Rahmen der Durchsetzung der Verordnung (EU) 2022/2065 im Zuge von Dialogen über den Schutz der Integrität von Wahlen und in anderen Kooperationsstrukturen, die von den für die Durchsetzung der Verordnung (EU) 2022/2065 zuständigen Kommissionsdienststellen zu diesen Zwecken eingerichtet wurden, mit der Kommission zusammenarbeiten, damit sie rasch auf dringende Auskunftsverlangen, insbesondere zu neu aufkommenden Problemen und Vorfällen, die sich erheblich auf das Wahlergebnis oder die Wahlbeteiligung auswirken können, reagieren können. Dies schließt die Beteiligung an anderen möglicherweise bestehenden Kooperationsmechanismen oder -protokollen nicht aus.

75.

Wie in Abschnitt 1.1 ausführlicher dargelegt, stützen sich die in diesen Leitlinien genannten Risikominderungsmaßnahmen auf frühere Dialoge über den Schutz der Integrität von Wahlen, die mit Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen geführt wurden, auf die Erfahrungen mit dem Verhaltenskodex zur Bekämpfung von Desinformation und dem EU-FIMI-Instrumentarium, auf die Sondierungskonsultation, verschiedene Rundtischgespräche und Beiträge der Koordinatoren für digitale Dienste. Daher können die hierin dargelegten Maßnahmen zum gegenwärtigen Zeitpunkt als bewährte Verfahren betrachtet werden.

76.

Das Ziel dieser Leitlinien besteht darin, Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen bei der Einhaltung ihrer Verpflichtungen gemäß Artikel 35 der Verordnung (EU) 2022/2065 zu unterstützen. Das Verständnis der Kommission in Bezug auf die Fragen, um die es bei der Auslegung und Anwendung des Artikels 35 der genannten Verordnung geht, kann sich jedoch mit weiteren Erfahrungen möglicherweise weiterentwickeln.

77.

Darüber hinaus sind die sich rasch entwickelnde Landschaft, in der Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen tätig sind, und die Taktiken böswilliger Akteure von ständigen Änderungen geprägt und erfordern kontinuierliche Aktualisierungen und Anpassungen, um auf die sich ständig wandelnden und neu aufkommenden Herausforderungen zu reagieren. Außerdem dürfte der Verhaltenskodex zur Bekämpfung von Desinformation nach seiner Bewertung durch die Kommission und das Europäische Gremium für digitale Dienste als Verhaltenskodex in den Rechtsrahmen der Verordnung (EU) 2022/2065 eingebunden werden. Vor diesem Hintergrund erwartet die Kommission, dass die Unterzeichner ihre im Rahmen des Verhaltenskodex zur Bekämpfung von Desinformation diesbezüglich eingegangenen Verpflichtungen weiterhin einhalten. Gleichzeitig sollen in den kommenden Monaten weitere EU-Rechtsvorschriften in Kraft treten, die diese Verordnung durch spezifische für den Gegenstand dieser Leitlinien relevante Vorschriften ergänzen, insbesondere die Verordnung über politische Werbung und das KI-Gesetz (deren Inhalte in diesen Leitlinien berücksichtigt wurden, vor allem wenn sie bereits jetzt bewährte Verfahren in einem bestimmten Bereich darstellen).

78.

Die Kommission wird diese Leitlinien möglicherweise im Hinblick auf die gewonnenen praktischen Erfahrungen und die Geschwindigkeit der technologischen, gesellschaftlichen und rechtlichen Entwicklungen in diesem Bereich überprüfen. Bei einer solchen Überprüfung kann die Kommission auch beschließen, diese Mitteilung zurückzuziehen oder zu ändern. Die Kommission ruft die Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, die Koordinatoren für digitale Dienste, die Forschungsgemeinschaft und Organisationen der Zivilgesellschaft auf, zu diesem Prozess beizutragen.

(1) Nach Artikel 33 DSA handelt es sich dabei um Unternehmen, die von der Kommission als Anbieter mit einer durchschnittlichen monatlichen Zahl aktiver Nutzer in der Europäischen Union (EU) von mindestens 45 Millionen benannt worden sind.

(2) Artikel 34 Absatz 1 Buchstabe c DSA.

(3) Künstliche Intelligenz, die mithilfe generativer Modelle Texte, Bilder oder andere Medien erzeugen kann.

(4) EU führt neue Vorschriften über Transparenz und Targeting politischer Werbung ein – Consilium (europa.eu).

(5) https://digital-strategy.ec.europa.eu/en/news/commission-welcomes-political-agreement-artificial-intelligence-act

(6) https://digital-strategy.ec.europa.eu/en/policies/ai-pact

(7) Um Informationen über bestehende Verfahren und Ad-hoc-Maßnahmen zur Bewältigung wahlbedingter Risiken zu sammeln, organisierte die Kommission Ad-hoc-Sitzungen mit Anbietern sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen, die sowohl bilateral stattfanden als auch in Anwesenheit nationaler Behörden aus Mitgliedstaaten, in denen gerade Wahlen abgehalten wurden.

(8) Zu der Konsultation gingen 77 Beiträge ein. Eine Zusammenfassung findet sich in: Öffentliche Konsultation zum Entwurf von Leitlinien für Anbieter sehr großer Online-Plattformen (VLOPs) und sehr großer Online-Suchmaschinen (VLOSEs) zur Minderung systemischer Risiken in Wahlprozessen: Zusammenfassung und Analyse der Beiträge.

(9) https://disinfocode.eu/introduction-to-the-code/

(10) https://www.eeas.europa.eu/eeas/2nd-eeas-report-foreign-information-manipulation-and-interference-threats_en

(11) https://commission.europa.eu/strategy-and-policy/priorities-2019-2024/new-push-european-democracy/protecting-democracy_de

(12) https://commission.europa.eu/publications/reinforcing-democracy-and-integrity-elections-all-documents_en

(13) https://commission.europa.eu/publications/defence-democracy_en

(14) https://commission.europa.eu/strategy-and-policy/policies/justice-and-fundamental-rights/eu-citizenship-and-democracy/democracy-and-electoral-rights/european-cooperation-network-elections_en

(15) https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32023H2829

(16) https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:52023DC0630

(17) Wahlzyklus des Europarats – Wahlen (coe.int).

(18) Dazu gehört auch die Verordnung (EU) 2016/679 des Europäischen Parlaments und des Rates vom 27. April 2016 zum Schutz natürlicher Personen bei der Verarbeitung personenbezogener Daten, zum freien Datenverkehr und zur Aufhebung der Richtlinie 95/46/EG (Datenschutz-Grundverordnung).

(19) https://cmpf.eui.eu/media-pluralism-monitor/

(20) Siehe Abschnitt 3.4 „Zusammenarbeit mit nationalen Behörden, unabhängigen Sachverständigen und Organisationen der Zivilgesellschaft“.

(21) 2nd EEAS Report on Foreign Information Manipulation and Interference Threats, Januar 2024 (europa.eu).

(22) Democracy By Design – Accountable Tech.

(23) Elections Integrity Program – Integrity Institute.

(24) DSA: New Risk Assessments to Protect Civic Discourse and Electoral Processes (liberties.eu).

(25) Traberg, C. S., Roozenbeek, J., van der Linden, S. (2022), Psychological Inoculation against Misinformation: Current Evidence and Future Directions. The Annals of the American Academy of Political and Social Science, 700(1), 136-151, https://doi.org/10.1177/00027162221087936.

(26) Jon Roozenbeek u. a., Psychological inoculation improves resilience against misinformation on social media. Science Advances 8.34 (2022), DOI:10.1126/sciadv.abo6254.

(27) https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=OJ:L_202400900. Artikel 3 und Artikel 5 Absatz 1 sind ab dem 9. April 2024 anwendbar. Die übrigen Bestimmungen der Verordnung gelten ab dem 9. Oktober 2025.

(28) Siehe die Empfehlung in Abschnitt 3.2.1 Buchstabe e, wonach Anbieter sehr großer Online-Plattformen und sehr großer Online-Suchmaschinen ihre Regeln an die Verordnung über politische Werbung noch vor deren Inkrafttreten anpassen sollten.

(29) Beispielsweise das Strategiepapier von Access Now und European Center for Not-for-Profit Law, Towards meaningful fundamental rights impact assessments under the DSA, Dänisches Institut für Menschenrechte, Guidance on Human Rights Impact Assessment of Digital Activities, Julian Jaursch, Josefine Bahro, Asha Allen, Claire Pershan und Katarzyna Szymielewicz, DSA risk mitigation: Current Practices, ideas and open questions.

(30) FIMI targeting LGBTIQ+ people: Well-informed analysis to protect human rights and diversity | EEAS (europa.eu).

(31) Siehe z. B. Tom Dobber, Sanne Kruikemeier, Fabio Votta, Natali Helberger, Ellen P. Goodman (2023), The effect of traffic light veracity labels on perceptions of political advertising source and message credibility on social media, Journal of Information Technology & Politics.

(32) https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32018H0234

(33) Empfehlung (EU) 2023/2829 der Kommission vom 12. Dezember 2023 für inklusive und stabile Wahlverfahren in der Union und für die Stärkung des europäischen Charakters und eine effiziente Durchführung der Wahlen zum Europäischen Parlament.

(34) Angenommene Texte – Europäisches Medienfreiheitsgesetz – Mittwoch, 13. März 2024 (europa.eu).

(35) Projekt Europäisches Netz für Faktenprüfstandards – European Fact-Checking Standards Network Project.

(36) 2nd EEAS Report on Foreign Information Manipulation and Interference Threats, Januar 2024 (europa.eu).

(37) https://fimi-isac.org/

(38) Artikel 84 DSA.

(39) Mitteilung der Kommission an das Europäische Parlament, den Rat, den Europäischen Wirtschafts- und Sozialausschuss und den Ausschuss der Regionen über die Verteidigung der Demokratie, COM(2023) 630 final.

(40) https://cert.europa.eu/

ELI: http://data.europa.eu/eli/C/2024/3014/oj

ISSN 1977-088X (electronic edition)

Top