(00:00)
Die Akte Tulpenfeld. Ein Podcast der Bundesnetzagentur. Mit Anna Papathanasiou
und Matthias Podolski. Und mit einem Thema, das uns vermutlich alle mehr oder
weniger direkt betrifft. Wir sprechen über digitale Dienste im Internet,
genauer über deren dunkle Seiten. Denn dass es dort Hass und Hetze gibt, Fake
News, kindergefährdende Inhalte, das dürfte inzwischen jeder Internet-User
mitbekommen haben.
(00:37)
Aber der Kampf dagegen hat eben auch begonnen. Und da spielt auch die
Bundesnetzagentur eine wichtige Rolle. Genau, die Bundesnetzagentur ist nämlich
seit einigen Monaten der Digital Services Coordinator, zu Deutsch der
Koordinator für digitale Dienste. Was das genau heißt und wie die
Bundesnetzagentur gegen Vergehen im Internet vorgeht, darüber sprechen wir
heute mit unserem Gast Dr. Julia Marquier.
(01:01)
Herzlich willkommen, Julia. Ja, hallo und vielen Dank für die Einladung. Und
auch herzlich willkommen an alle, die zuhören. Julia, vorab, was ist deine
Aufgabe hier in der Bundesnetzagentur? Ich leite ein Referat in der
Unterabteilung Digitalisierung und mein Referat beschäftigt sich mit den Themen
Netzneutralität, Plattform-Monitoring und künstliche Intelligenz.
(01:24)
Und in der Funktion unterstütze ich auch den Aufbaustab DSC. Also DSC steht für
Digital Services Coordinator und bin auch zu dem Team abgeordnet. Dann kommen wir
mal zum Thema. Der Digital Services Coordinator, der jetzt schon mehrfach
erwähnt wurde, ist bei der Bundesnetzagentur angesiedelt und seit dem 14. Mai
(01:46)
dieses Jahres für die Durchsetzung des Digital Services Act zuständig. So,
jetzt müssen wir vielleicht als erstes Mal ein paar Begriffe entwirren. Der
Digital Services Act, zu Deutsch das Gesetz über digitale Dienste, ist eine
EU-Verordnung. Korrigiere mich, wenn ich etwas Falsches sage. Genau, das ist
vollkommen richtig. Und er zielt darauf ab, einen sicheren digitalen Raum zu
schaffen und die Grundrechte der User, also der Internetnutzenden, zu schützen.
(02:14)
Und weil es eine EU-Verordnung ist, muss jeder Mitgliedstaat dieses Gesetz auf
nationaler Ebene umsetzen. Also die Verordnung, die gilt unmittelbar in jedem
Mitgliedstaat, aber ist vollkommen richtig. Also jeder Mitgliedstaat muss
Behörden bestimmen, die für die Umsetzung zuständig sind und die Regeln dann
auch national verfolgen.
(02:32)
Und das ist in Deutschland der Digital Services Coordinator, der ist bei der
Bundesnetzagentur angesiedelt. Und außerdem gibt es noch für die Bereiche
Datenschutz und Jugendschutz spezielle Behörden. Das sind die
Landesmedienanstalten, die Bundeszentrale für Kinder- und Jugendmedienschutz
und die Bundesbeauftragte für den Datenschutz in der Informationstechnik.
(02:51)
Okay, aber wir konzentrieren uns heute auf den DSC. Das ist der neue Job der
Bundesnetzagentur. Ein weiterer Begriff sind jetzt also die Digital Services,
die digitalen Dienste. Da müssen wir nochmal erklären, was das eigentlich genau
ist und was es da zu koordinieren gibt. Ja gerne, also digitale Dienste, im
Sinne des Digital Services Act sind ganz viele Dienste, die ihr auch kennt.
(03:18)
Also der Hauptfokus des Digital Services Act liegt auf Online-Plattformen. Das
können sowohl Social Media Dienste sein, als auch Online-Marktplätze, aber auch
Gaming-Plattformen und so weiter. Also überall da, wo Dritte oder User oder
Händler ihre Inhalte hochladen auf der Plattform eines Anbieters. Also
Beispiele etwa Amazon Marketplace, Temu, die Meta-Dienste, Facebook, Instagram,
genau.
(03:42)
Also das ist ein Großteil dessen, was wir im Internet alle nutzen. Genau,
genau. Also berührt uns täglich. Also ich würde mal sagen, wir nutzen
wahrscheinlich mehrmals am Tag verschiedene Apps, die jetzt durch den Digital
Services Act kontrolliert sind. allen relevanten Behörden und Stakeholdern
koordinieren, zum Beispiel mit der Kommission, ausländischen DSCs oder national
mit den relevanten Behörden und das Ziel ist, dass also das Recht online
genauso wie offline durchgesetzt wird.
(04:13)
Ja, Rechtsdurchsetzen ist jetzt ein sehr weit gefasster Begriff. Wir haben uns
jetzt mal drei konkrete Beispiele überlegt und wir bitten dich, einfach zu
sagen, ob das ein Fall für den DSC ist. Also das erste wäre, jemand verbreitet
Hass und Hetz gegen Minderheiten, zum Beispiel bei Facebook. Also die
Bekämpfung von Hass und Hetze im Internet ist ein wichtiges Anliegen des
Digital Services Act. Nutzende können sich bei uns beschweren.
(04:39)
Wir schauen, ob Plattformen, die Meldewege eingerichtet haben, auch Hass und
Hetze vom Netz nehmen und da die Meldungen behandeln. Wenn wir auf einer sehr
großen Online-Plattform sehen, dass Hass und Hetze ein großes Thema sind, dann
informieren wir die EU-Kommission oder auch in laufenden Verfahren tritt die
EU-Kommission an die nationalen Digital Services Coordinator heran und wir
liefern in diesen Verfahren zu.
(05:05)
Services Coordinator heran und wir liefern in diesem Verfahren zu. Was der
Digital Services Coordinator nicht macht, ist, dass er selbst illegale Inhalte
wie Hate Speech löscht. Dafür sind andere Behörden in der Pflicht. Zweites
Beispiel. Ich entdecke gefälschte Markensneaker auf einem Online-Marktplatz wie
eBay oder Amazon und kann das dort nicht melden.
(05:24)
Also das ist ein Fall für den Digital Services Coordinator. Wir achten darauf,
dass die Plattformen Meldewege haben, die auch benutzerfreundlich sind und wo
man schnell illegale Inhalte melden kann. Und das dritte, gefühlt ein immer
größeres Thema, es stehen Wahlen an und in einem sozialen Netzwerk werden jetzt
gezielt Desinformationen verbreitet, um diese Wahl zu manipulieren in die eine
oder andere Richtung? Also da ist es ähnlich wie bei Hate Speech. Also
Desinformationen können wir auch nicht löschen oder die Löschung anordnen.
(05:53)
Aber wenn wir sehen, dass auf einer Plattform gezielt Desinformationskampagnen
verbreitet werden, dann würden wir die Kommission informieren oder auch in
laufenden Verfahren der EU-Kommission zuarbeiten. Also zusammengefasst kann man
sagen, für die ganz großen Plattformen ist nicht die Bundesnetzagentur, nicht
der DSC zuständig, sondern die Europäische Kommission.
(06:14)
Aber in bestimmten Fällen arbeitet ihr den Kolleginnen und Kollegen in Brüssel
zu. Wie kommt es denn zu dieser Aufteilung? Also die Kommission ist zuständig
für sehr große Online-Plattformen. Das sind Plattformen mit mehr als 45
Millionen Nutzern. Welche wären das dann zum Beispiel? Das ist zum Beispiel
Facebook, Instagram, also Meta, TikTok, Amazon, seit Neuem auch Temu und Shein.
(06:36)
Also all das, was wir auch täglich nutzen. Und der Grund dafür ist, dass die
Kommission einfach eine größere Schlagkraft gegenüber sehr großen
Online-Plattformen hat. ist, dass die Kommission einfach eine größere
Schlagkraft gegenüber sehr großen Online-Plattformen hat. Das ist also
effektiver, als wenn jetzt jeder einzelne Mitgliedsstaat losläuft.
(06:50)
Wenn zum Beispiel Malta sich an Amazon wendet, dann hat das wahrscheinlich
weniger Schlagkraft, als wenn die Kommission das tut. Und die Kommission hat
auch schon gute Erfahrungen aus dem Kartellrechtsbereich. Da habt ihr
vielleicht auch schon mal von gelesen, dass die Kommission da sehr hohe
Bußgelder verhängt und verhängen kann.
(07:16)
Du hattest gerade schon Temu erwähnt. Da kann man ja quasi alles bekommen.
Bekleidung, Geräte, Staubsauger. Das ist alles sehr günstig, erstaunlich
günstig. Und auch der Einzelhandel ist schon gegen Temu vorgegangen. Die haben
eine Petition gestartet. Klar, das ist auch eine Konkurrenz für die. Die
Verbraucherzentrale hat aber auch schon gewarnt vor Temu.
(07:36)
Warum ist das so? Warum gab es da diese Aufregung? Ja, also man sieht halt,
oder was an uns herangetragen wurde und was man ja auch im Fernsehen oder in
den Medien liest, es gibt ja auch Marktchecks dazu, dass also sehr viele unsichere
Produkte über Temu und Schienen vertrieben werden oder auch Produktfälschungen.
(07:46)
Und da gibt es, also da kann man sich alles Mögliche vorstellen, zum Beispiel
unsichere Elektrogeräte oder Karabinerhaken, die nicht funktionieren, was dann
auch wirklich gefährlich werden kann für Menschen. Was machen unsichere
Elektrogeräte? Ja, die können ja bis zu einem Wohnungsbrand führen oder ja,
also kann man sich alles Mögliche vorstellen. Da ist dann die Kommission
untersucht, ein systemisches Risiko auf der Plattform.
(08:07)
Also sehr große Online-Plattformen haben weitere Verpflichtungen. Wir müssen
auch dafür sorgen, dass illegaler Inhalt von der Plattform genommen wird. Also
sie müssen die Risiken analysieren und das dann auch angehen. Und bei Temu scheint
so ein Fall zu sein. Jetzt ist Temu erst mal als sehr große Online-Plattform
benannt worden und die Regeln treten dann Ende September in Kraft.
(08:28)
Und wir sammeln jetzt schon Informationen national und können die der
Kommission dann zuspielen, damit sie das Verfahren weiter prüft. Also ihr tragt
dazu bei, dass die EU-Kommission am Ende dafür sorgt oder das Recht durchsetzt,
dass Temu diese Produkte entfernen muss. Genau. Okay.
(08:52)
Und jetzt von Online-Marktplätzen mal abgesehen, von welchen illegalen
Handlungen sprechen wir denn noch? Was sind typische Probleme bei anderen
Plattformen? Also ganz generell, es gibt verschiedenste Probleme. Also ein
Problem ist sicherlich, dass die Plattformen ihre eigenen Community-Guidelines
nicht durchsetzen. Also Community-Guidelines sind wie so Art Hausregeln, die
man sich, wenn man sich das in der analogen Welt vorstellt, jeder kann, man
kann sich ja Hausregeln geben, wenn man einen Saal vermietet oder einen
Restaurantbesitzer. Da muss man ja auch dafür sorgen, dass die Regeln
eingehalten werden,
(09:16)
also dass die Gäste sich nicht streiten oder prügeln oder sonst was und oder
beleidigen. Und genau das Gleiche gilt auch auf einer Plattform. Und die
meisten Plattformen haben auch diese Regeln, setzen sie aber noch nicht richtig
durch. Und das ist ein Punkt. Man sieht auch sehr viel,000 Fake-Accounts
gelöscht, also entdeckt und gelöscht.
(09:49)
Aus eigenem Antrieb oder mussten die darauf hingewiesen werden? Naja, es läuft
ein Verfahren gegen diese Plattformen und wir sehen schon, dass der Digital
Services Act jetzt auch Anreize bietet mit den entsprechenden
Bußgeldandrohungen, dass jetzt auch die Plattformen verstärkt aktiv werden und
gucken, dass ihre Plattformen sauberer sind.
(10:05)
Es ist natürlich noch sehr, sehr viel zu tun, es ist ein weiter Weg, aber so
die ersten Anhaltspunkte sieht man schon. Dann ein weiterer typischer Fall ist,
dass das Meldeverfahren nicht richtig ausgestaltet sind. Also die meisten
Plattformen haben mittlerweile Meldeverfahren, aber nicht in allen Fällen sind
die besonders benutzerfreundlich.
(10:20)
Man muss manchmal etwas suchen, wo ist der Meldebutton oder in einer bestimmten
App-Version von iOS ist es nicht besonders benutzerfreundlich ausgestaltet. Das
sind ganz typische Fälle. Und dann auch ein ganz großes und wichtiges Thema ist
der Jugendschutz. Hier enthält der Digital Services Act auch spezielle
Regelungen.
(10:52)
Die Medienanstalten zuständig und die Bundeszentrale für Kinder- und
Jugendmedienschutz. Und das ist also ein breites Potpourri von Themen. Also ob
es Altersverifikation eingeführt werden muss, dann die ganzen Challenges auf
TikTok. Die Hot-Chip-Challenge oder die Würge-Challenge. Was ist das? dass
Jugendliche an Challenges auf TikTok mitmachen, die zum Teil ganz harmlos sind,
also irgendwelche Tanz-Challenges.
(11:07)
Aber in bestimmten Fällen auch gesundheitsgefährlich bis hin zu, es ist auch
schon zu Todesfällen gekommen, wenn sich Kinder zum Beispiel so lange gewürgt
haben vor laufender Kamera. Und vor kurzem gab es auch den National Rape Day.
Vielleicht habt ihr davon auch in der Presse gelesen. Also da gab es Videos auf
TikTok, auf denen im Wesentlichen gesagt wurde, an dem und dem Tag ist eine
Vergewaltigung zulässig.
(11:33)
Da muss ich jetzt nochmal eben einhaken, also bei so schweren Straftaten muss
doch die Plattform von sich aus reagieren und nicht erst nachdem sie dazu
aufgefordert wurde, oder? Ja, genau. Also das hat sie in dem Fall auch gemacht.
(11:49)
Also sie hatte, wenn man den Begriff eingegeben, wurde man auf eine Seite
weitergeleitet, also der Inhalt war geblockt und es gab einen Warnhinweis. Aber
man konnte, wenn man den Suchbegriff „National Rape Day“ ein bisschen variiert
hat, hat man dann wieder Inhalte gefunden. Aber auch das wurde sehr schnell
nachgebessert. Also da sehen wir auch schon erste Erfolge, also dass da mehr
drauf geachtet wird.
(12:09)
Wir kommen nochmal eben auf das Thema Meinungsfreiheit, weil das vielleicht am
meisten diskutiert wird auch. Was passiert denn, wenn ihr als DSC feststellt,
die Meinungsfreiheit ist an einer Stelle gefährdet? Also erstmal, wir gucken
uns selber jetzt Posts oder Accounts nicht an mit dem Blickwinkel
Meinungsfreiheit.
(12:30)
Das ist nicht unsere Aufgabe. Nur wenn wir halt Hinweise auf Plattformen sehen,
dass verstärkt Meinungsfreiheit eingeschränkt wird. Also zum Beispiel, wenn die
EU-Kommission bereits ein Verfahren führt oder, wenn wir darauf hingewiesen
würden durch eine NGO, dann kann die Kommission die Verfahren führen.
(12:44)
durch eine NGO, dann kann die Kommission die Verfahren führen. Aber es gibt
auch in Deutschland Behörden, die Inhalte sperren können. Zum Beispiel die
Landesmedienanstalten mit Blick auf jugendgefährdende Inhalte. Die haben die
Medienaufsicht? Genau, die haben die Medienaufsicht. Oder zum Beispiel die
Marktüberwachungsbehörden im Bereich Marktplätze, die können unsichere Produkte
entfernen lassen.
(13:06)
Das macht aber auch die Bundesnetzagentur. Genau, da gibt es zuständige
Fachreferate, die sind im Bereich Marktüberwachung tätig, speziell für
Funkanlagen und elektromagnetische Verträglichkeit. Und es gibt daneben auch
noch eine breite Palette von Marktüberwachungsbehörden auf Bundes- und
Landesebene.
(13:22)
Okay, dann würde ich ganz gerne noch wissen, was die Bürgerinnen und Bürger
jetzt konkret vom DSC haben, wie der eigentlich arbeitet. Aber vorher wollen
wir dir gerne noch ein paar Fragen zu deiner Person stellen. Der Steckbrief.
Raus aus bin ich Juristin. Und ich habe, bevor ich 2013 zur BNSA gekommen bin,
habe ich als Anwältin im Kartellrecht gearbeitet.
(13:52)
Meine Lieblingsbehördenabkürzung ist? ANDI. Da steht für Anfragebearbeitung
Digitale Dienste. Und das ist unser internes IT-System für die
Beschwerdebearbeitung. Und passt ja auch sehr schön. Zuletzt hatten wir ja
Gabi, da gesellt sich jetzt Andi dazu. Der schönste Fachausdruck in meiner
Arbeit ist? Also der Fachausdruck, den ich am liebsten mag, ist, und der passt
vielleicht auch ganz gut zu eurem Titel, weil er etwas mysteriös ist, das ist
Dark Patterns.
(14:19)
Ich wohne in? Königswinter. Und im Ruhestand möchte ich? Ah, da habe ich ganz
viele Pläne. All das, wozu ich jetzt keine Zeit habe. Also angefangen von
Reisen, Wandern, Kochen, Lesen, in unserem schönen Garten sitzen und vielleicht
auch meinem Mann mal bei der Gartenarbeit helfen. Da war jetzt gar nichts
Digitales dabei. Das stimmt. Ich hänge gerade gedanklich noch bei den Dark Patterns.
Kannst du da noch mal ein Beispiel nennen, was da so gemacht wird im Internet
und wie das vielleicht auch mit eurem Aufgabenfeld zusammenhängt?
(15:05)
findet man ganz oft ja solche Hinweise, die einen dazu bringen sollen, dass man
schnell was kauft. Zum Beispiel bereits 126 Personen haben diesen Artikel in
ihrem Warenkorb, kauf jetzt schnell. Das ist ein echtes Beispiel, das hatte
Temu auf der Webseite und das hat der Verbraucherschutzverband VZBV abgemahnt.
(15:20)
Temu hat das daraufhin unterlassen. Oder auch zum Beispiel, wenn man irgendwo
seine Zustimmung geben soll, dann ist der Zustimmungsbutton ganz deutlich
hervorgehoben und das Ablehnen ist irgendwo ganz klein und ausgegraut und das
findet man nicht. Das wären so zwei typische Beispiele. Also Verschleierung.
(15:33)
Genau. Irreführung. Irreführung, Manipulation, ja. Wenn ich jetzt als
Internetnutzer plötzlich merke, da werden Dark Patterns eingesetzt, was kann
ich dann ganz konkret machen und was macht ihr dann? was kann ich dann ganz konkret
machen und was macht ihr dann? Also ihr könnt euch über das Beschwerdeformular
des DSC an uns wenden und wir würden dann prüfen, ob ein Verstoß vorliegt und
dann müssen wir auch noch schauen, ist das ein Anbieter mit Sitz in
Deutschland, dann würden wir zuständig. Wenn es ein Anbieter mit Sitz in einem
anderen EU-Staat ist, dann geben wir das an
(16:01)
den anderen Digital Services Coordinator weiter. Ich hätte jetzt noch ein
anderes Beispiel. Also nehmen wir an, ich sehe tatsächlich etwas Illegales, zum
Beispiel jemand leugnet den Holocaust, was in Deutschland strafbar ist. Wie
würde ich dann vorgehen? Auch wieder über das Meldesystem erstmal? Also wenn du
selber illegale Inhalte im Internet siehst, dann kannst du das Meldesystem der
Plattform nutzen und das sollte benutzerfreundlich ausgestaltet sein und es
sollte auch schnell eine Antwort geben. Und dann gibt es noch eine zweite
Stufe, also wenn die Antwort für dich nicht
(16:37)
zufriedenstellend ist, also der Inhalt nicht gelöscht wird, dann kannst du
nochmal Beschwerde bei der Plattform einlegen oder dann im Anschluss auch eine
außergerichtliche Streitbeilegung nutzen. Da stärkt der Digital Services Act
also die Rechte von Nutzern. Also da ist erstmal Eigeninitiative gefragt. Aber
wenn es Probleme mit dem Meldesystem gibt, also das gar nicht vorhanden ist
oder man findet den Button schlecht oder du kriegst keine Antwort oder die
Antwort kommt zu spät, dann kann man sich beim Digital Services Coordinator
beschweren.
(17:07)
Dann liegt der Fall also beim DSC, bei der Bundesnetzagentur. Und was macht ihr
dann? Also wenn wir im Verfahren, also wir prüfen wie gesagt, wenn sich ein
Verstoß erhärten würde, dann könnten wir, um das durchzusetzen, zum Beispiel
ein Verwaltungsverfahren einleiten und dann in der Anordnung treffen, dass das
Meldesystem besser ausgestaltet wird.
(17:29)
Wenn das Unternehmen dem nicht nachkommt, könnten wir auch Zwangsgelder
verhängen. Oder wir können, wenn wirklich ganz widerborstiges Unternehmen ist,
dann auch ein Bußgeldverfahren einleiten. Ihr prüft aber nicht, ob etwas legal
ist oder verfassungsfeindlich oder ob eine Äußerung von der Meinungsfreiheit
gedeckt ist, das ist nicht eure Aufgabe.
(17:47)
Nein, das ist nicht unsere Aufgabe. Okay, das bedeutet also, der Vorwurf, den
man immer mal wieder hört, die Bundesnetzagentur würde zu einer Zensurbehörde,
trifft nicht zu. Nein, absolut nicht. Gut, haben wir das geklärt. Die
Beispiele, die wir jetzt hatten, also vor allen Dingen das Beispiel
Holocaust-Leugnung, das ist sehr eindeutig.
(18:42)
Gibt es auch andere Sachen, die da ein bisschen schwieriger sind? Oder was sind
so die Fälle, die euch in den ersten Monaten so gemeldet wurden? Beispiele zu
nennen. Wir hatten eine Nutzerin, die hat auf einer Second-Hand-Plattform
Kleidung verkauft und dann wurden ihre Artikel aber gelöscht. Und sie konnte
sich, hat sich bei der Plattform beschwert, aber hat nie Antwort bekommen. Und
das wäre also ein Beispiel, wo das Meldesystem nicht funktioniert.
(18:46)
Hier hatte der Anbieter seinen Sitz in Litauen und da haben wir den litauischen
Digital Services Coordinator eingeschaltet und ein anderes Beispiel wäre da mit
einer Video-Streaming-Plattform gab es anscheinend auch Probleme mit dem
Meldesystem und mit der Sperrung von Inhalten da haben sich sehr viele Content
Creator bei uns beschwert so dass wir da dem fall auch nachgehen konnten was
sind Content Creator also Content Creator sind Nutzer im Internet die oft auch
professionell damit arbeiten und zum Beispiel Videos im Internet bereitstellen.
(19:08)
Auch YouTuber oder so? YouTuber zum Beispiel oder Influencer auf Instagram,
also das sind Content Creator, die also wirklich professionell ihr Account
betreiben und nicht wie du und ich einfach mal so ein privates Foto posten. Ich
nehme an, dass es dann auch eine schöne Sache ist, wenn man den Usern helfen
kann, so wie in dem beschriebenen Fall.
(20:00)
Gibt es denn auch so typische Fälle, die bei euch landen, wo ihr sagen müsst,
leider nicht unser Bereich, können wir nichts machen? Also die absolute Nummer
eins unter den Beschwerden, für die wir nicht zuständig sind, ist, dass ein
Verstoß gegen die Impressumspflicht gemeldet wird, also dass kein Impressum auf
der Webseite angegeben wird. Dann gibt es auch sehr viele Beschwerden zu Dark
Patterns auf Webseiten, aber für reine Webseiten sind wir nicht zuständig,
sondern halt nur für Online-Plattformen. Vielleicht, wenn du da nochmal den Unterschied
eben erklären könntest zwischen einzelnen Websites und Plattformen, weil das
jetzt öfters gefallen ist.
(20:06)
Ja, also Webseiten sind Einzelwebseiten, wo jemand seinen eigenen Inhalt, also
zum Beispiel eine Boutique, die ihre Kleidung verkauft oder ein Blogger und ein
Online-Marktplatz ist, wo auch Produkte oder Inhalte von anderen drüber
gepostet werden. Also zum Beispiel Amazon Marketplace oder YouTube, Facebook.
(20:27)
Und weitere Beispiele wären zum Beispiel Phishing-Webseiten oder Fake-Webseiten.
Da handelt es sich auch um Einzelwebseiten und keine Online-Plattformen, wo
Inhalte dritter bereitgestellt werden. Da können wir leider auch nicht tätig
werden. Dann gehen wir jetzt mal davon aus, ihr seid zuständig, ihr seid auch
tätig geworden und der Anbieter kooperiert aber nicht.
(20:51)
Welche Maßnahmen kann denn die Bundesnetzagentur jetzt einleiten? Welche
Drohmittel habt ihr in der Hand? Wenn ein Anbieter nicht kooperiert, dann
können wir bei einer Anordnung ein Zwangsgeld verhängen, damit die Anordnung
durchgesetzt wird. Das sind bis zu fünf Prozent des durchschnittlichen
weltweiten Tagesumsatzes oder der durchschnittlichen weltweiten Tageseinnahmen.
Oder wir können auch ein Bußgeld verhängen.
(21:11)
Das sind bis zu sechs Prozent des weltweiten Jahresumsatzes. Und wenn wir da
mal ein Beispiel nehmen, das Online-Angebot, was in Deutschland am
reichweitenstärksten ist, das hat einen Umsatz von 233 Millionen Euro im Jahr
2022. Und das wäre dann umgerechnet auf ein Bußgeld maximal 14 Millionen Euro.
Also das ist schon recht empfindlich.
(21:32)
Wenn wir jetzt auf die EU-Ebene gucken, hat das noch eine ganz andere
Dimension. X hat einen Umsatz von 3,4 Milliarden US-Dollar in 2023 und Meta
circa 134 Milliarden US-Dollar. Da sind also die möglichen Bußgelder nochmal
sehr viel höher, also im dreistelligen Millionenbereich oder sogar im
Milliardenbereich.
(21:54)
Das tut weh. Das tut weh, ja. Ja, wir sprechen heute über den DSC, den Digital
Services Coordinator. Wer ist das denn eigentlich ganz konkret? Also wie groß
ist das Team? Also wir sind aktuell knapp unter 20 Personen und aus
verschiedensten Fachrichtungen, also Jura, Ökonomen, Informatiker. Wir sind
aber noch auf der Suche nach Verstärkung.
(22:24)
Ach, man kann sich also bewerben. Wen sucht ihr denn noch? Genau, also aktuell
laufen interne und externe Ausschreibungen und wir suchen verschiedenste
Fachrichtungen. Politikwissenschaftler, Soziologen,
Kommunikationswissenschaftler, weitere Informatiker und Juristen. Und im Herbst
wird es auch noch eine weitere Ausschreibungsrunde geben und dann werden wir
auch Data Scientists, Psychologen und alles Mögliche, Weitere suchen. Also
wirklich ein breites Portfolio, um die verschiedensten Aspekte des Digital
Services abzudecken.
(22:50)
Das finde ich jetzt spannend. Also die Juristen und Juristinnen, das leuchtet
jetzt sofort ein. Das geht hier um Bußgeldverfahren und so weiter. Du hattest
noch erwähnt, Soziologen, glaube ich? Genau. Psychologinnen? Genau. Also fangen
wir vielleicht mal mit dem Psychologen an. Also viele Apps funktionieren ja
auch über Empfehlungssysteme, also dir werden Inhalte angezeigt.
(23:12)
Und das führt ja oft dazu, dass man sehr lange auf der Plattform bleibt. Also
bis hin zu diesem Doom-Scrolling, also immer weiter scrollen. Und um diesen
ganzen Mechanismus zu verstehen, braucht man natürlich auch Psychologen. Und um
diesen ganzen Mechanismus zu verstehen, braucht man natürlich auch Psychologen.
(23:31)
Und was da ganz interessant in dem Zusammenhang ist, dass man auch das
Geschäftskonzept der Plattform verstehen muss. Also viele Apps sind ja umsonst
oder vorgeblich vermeintlich umsonst für den Nutzer, aber sie finanzieren sich
über Werbung. Deshalb ist es Ziel der Plattform, dass die Nutzer möglichst
lange auf der Plattform bleiben. Und das geschieht halt dadurch, dass sie dir
möglichst ganz spezielle Inhalte anzeigen. Und um das alles besser zu
analysieren, benötigen wir Psychologen und Psychologinnen.
(23:59)
Interessant. Okay, was war noch dabei? Politikwissenschaftlerinnen? Genau,
Politikwissenschaftler und Soziologen. Das ist vor allem wichtig, um ein
besseres Verständnis von systemischen Risiken auf Plattformen zu bekommen. Zum
Beispiel ein systemisches Risiko sind die Auswirkungen auf Wahlen und die
gesellschaftliche Debatte. Und da sind diese Fachrichtungen vonnöten.
(24:20)
Und wie viele Leute sollen am Ende insgesamt zum Team gehören? Und wie viele
Leute sollen am Ende insgesamt zum Team gehören? Also im Gesetz stand 99
Stellen. Das ist aber noch ein weiter Weg. Also wir hoffen, dass peu à peu
immer mehr Kollegen und Kolleginnen dazukommen. Das ist ja auch eine sehr
langfristige Aufgabe.
(24:37)
Genau. Ja, bevor wir zum Ende kommen, habe ich noch eine Frage, die ein
bisschen über eure konkrete Arbeit hier in Deutschland hinausgeht. Wie wird das
denn in anderen Ländern umgesetzt, anders als in Deutschland? Also in Ländern
außerhalb der EU läuft es ganz unterschiedlich. Teilweise gibt es gar keine
Regulierung.
(24:55)
Mittlerweile sehen wir aber auch einige Bestrebungen außerhalb der EU. Zum
Beispiel in den USA führen jetzt einige Bundesstaaten Regelungen zu Social
Media oder zu Plattformen ein oder haben auch schon was eingeführt und das ist
ganz unterschiedlich. Teilweise werden da Altersverifikationssysteme angefordert
oder das... Entschuldigung, Altersverifikation bedeutet, das Alter wird
überprüft.
(25:18)
Genau, das Alter wird überprüft, damit auch sichergestellt ist, dass dann
Kinder und Jugendliche bestimmte Apps nicht nutzen dürfen oder die Eltern
müssen ihre Zustimmung geben. Dann gibt es aber auch Bundesstaaten, die
schauen, dass die Angebote von Plattformen alters- und entwicklungsgerechte
Inhalte enthalten oder schutzvorschädigenden Inhalten.
(25:37)
Klingt erst mal gut. Man kann sich aber vorstellen, dass je nach Bundesstaat
und politischer Ausrichtung des Bundesstaates da auch durchaus mal was anderes
gemeint ist, als wir das hier in Europa verstehen. Zum Beispiel? Zum Beispiel
ist Nacktheit natürlich viel strenger reguliert als in Europa. Also zum Beispiel
Facebook, da darf man keine Nacktbilder drauf zeigen.
(25:59)
Das führt dann zu so kuriosen Umständen, dass auch Kunstwerke mit nackten
Frauen entfernt werden. Oder natürlich auch, dass man auch LGBTQ-Inhalte, sehen
wir das Risiko, dass es da gesperrt werden könnte. Aber das muss man mal
weitersehen. Wo auch das Internet sehr stark reguliert wird, sind natürlich
Staaten wie China, Russland oder Iran.
(26:20)
China hat Entwickler, Gerätehersteller und App-Stores verpflichtet, einen
Jugendschutzmodus einzubauen, dass nach einer bestimmten Zeit dazu führt, dass
die Geräte sich abschalten oder die App-Stores nicht mehr erreichbar sind. Also
das ist eine sehr weitgehende Regulierung. Was denkst du denn als Expertin, was
sich im Bereich digitale Dienste oder auch soziale Plattformen in den kommenden
Jahren verändern wird? Was müssen wir erwarten? Und welchen Einfluss kann der
DSC bzw. die Bundesnetzagentur darauf nehmen?
(27:01)
Also meine Hoffnung ist, dass die Anbieter, insbesondere die Anbieter von sehr
großen Plattformen, also angesichts der Bußgelddrohungen, sich auch mehr dazu
bewegen, eigeninitiativ auch ihre Plattformen sauberer zu halten. Also auch
nicht nur auf Meldungen zu warten, sondern auch proaktiv illegale Inhalte vom
Netz zu nehmen, sodass man peu à peu zu einem sicheren, vertrauenswürdigeren
Online-Umfeld kommt.
(27:19)
Das ist meine Hoffnung. Es ist natürlich noch ein weiter Weg, aber wir sehen
auch schon erste Anhaltspunkte, dass auch Anbieter, die vorher nicht auf
Behörden reagiert haben, jetzt auch gewisse Verpflichtungen des DSA einhalten.
Was unsere Arbeitsprioritäten angeht, wo wir denken, wo wir gut unterstützen
können, ist vor allem zum einen der Schutz der Verbraucherinnen und
Verbraucher, insbesondere auf vielgenutzten Plattformen, auf Marktplätzen, wie
zum Beispiel Temu, aber auch auf Social Media.
(27:47)
Und ein zweiter sehr wichtiger Punkt ist der Schutz von Wahlen. Wir haben jetzt
Landtagswahlen im nächsten Jahr, Bundestagswahl, dass man da auch insbesondere
auf sehr großen Plattformen darauf achtet, dass die gesellschaftliche Debatte
und Wahlen geschützt werden und sich Desinformationskampagnen nicht zu sehr
verbreiten.
(28:04)
werden und sich Desinformationskampagnen nicht so sehr verbreiten. Ja spannend,
vielen Dank Julia, dass du uns einen Einblick gegeben hast zum Thema digitale
Dienste, eine ganz neue Aufgabe, die die Bundesnetzagentur hat. In der
kommenden Folge vom Podcast sprechen wir übrigens über ein ganz klassisches
Thema, Universaldienste, das ist ein Thema aus dem Postsektor.
(28:24)
Hast du eine Frage an unseren Gast, den wir dann weiterreichen können? Ja, da
hätte ich in der Tat eine Frage. Also ich habe so vom neuen Postgesetz
mitgenommen, dass sich die Laufzeiten ändern und da würde mich interessieren,
wenn ich jetzt eine Postkarte aus dem Urlaub verschicke, zum Beispiel sagen wir
mal bei Bayern oder Ostsee und die an meine Eltern in NRW verschicke, wie lange
das zukünftig dauert. Das werden wir klären, versprochen. Das interessiert
mich.
(28:43)
Danke euch. Vielen Dank. Ja, euch vielen Dank. Und vielen Dank auch Ihnen fürs
Zuhören. Ja, wir verabschieden uns für heute. Wenn Sie noch mehr wissen möchten
in den Shownotes, finden Sie weiterführende Links zum Thema DSC. Wenn Ihnen die
Folge gefallen hat, abonnieren Sie gern unseren Podcast.
(29:06)
Sie finden die Akte Tulpenfeld auf allen üblichen Plattformen oder einfach auf
der Website der Bundesnetzagentur. Empfehlen Sie uns gern weiter. Wenn Sie
Fragen an uns oder Themenwünsche für die kommenden Folgen haben, schreiben Sie
uns gerne eine E-Mail an podcast.bnetsa.de. Zum Schluss bedanken wir uns bei
unserer Sprecherin Regine Lange, bei unserem Grafiker Stefan Weiden und bei
Colvin Crowley-Nicol für alle Sound-Elemente.
(29:32)
Die Akte Tulpenfeld ist ein Podcast der Bundesnetzagentur. Die
Bundesnetzagentur ist die oberste deutsche Regulierungsbehörde. Ihre Aufgabe
ist es, den Wettbewerb in den sogenannten Netzmärkten zu fördern. Ihre Aufgabe
ist es, den Wettbewerb in den sogenannten Netzmärkten zu fördern. Das sind die
Märkte für Strom und Gas, Telekommunikation, Post und Eisenbahn.
(29:56)
Weitere Aufgaben der Bundesnetzagentur sind der Verbraucherschutz und die
Marktüberwachung. Sitz der Behörde ist in Bonn. Darüber hinaus ist sie
deutschlandweit an fast 50 weiteren Standorten vertreten. Präsident der
Bundesnetzagentur ist Klaus Müller.