#31 Künstliche Intelligenz: Unterliegen KI-generierte Werke dem Urheberrecht?
Shownotes
Der Podcast rund um das Thema Datenschutz und IT. Mit Dr. Klaus Meffert und Stephan Plesnik.
31 Künstliche Intelligenz: Unterliegen KI-generierte Werke dem Urheberrecht?
Jedes Werk, das ein Mensch schafft, genießt automatisch den Schutz des Urhebergesetzes. Dies gilt immer dann, wenn eine Mindestschöpfungshöhe erreicht ist, was oft der Fall ist. Doch wie sieht es aus, wenn Werke wie Bilder, Texter oder Musik, von einer generativen KI erzeugt wurden?
Dies und einiges mehr in der aktuellen Episode von Datenschutz Deluxe sowie im Beitrag zum Podcast (und zur kommenden Folge): https://dr-dsgvo.de/kuenstliche-intelligenz-werke-von-urhebern-und-deren-schutz/
Feedback geben? Fragen stellen? Gerne hier:
https://dr-dsgvo.de
Videokanal von Stephan: https://www.youtube.com/datenschutzistpflicht
Impressum:
https://dr-dsgvo.de/impressum
Transkript anzeigen
00:00:00: Datenschutz Deluxe, der Podcast rund um das Thema Datenschutz und IT mit Dr. Klaus Meffert und Stephan Plesnik.
00:00:13: Hallo und herzlich willkommen, liebe Zuhörer beim Datenschutz Deluxe Podcast.
00:00:17: Ich bin Stephan Plesnik und bei mir ist wie immer Dr. Klaus Meffert. Klaus, wie geht es dir?
00:00:22: Stephan, freut mich, dass wir wieder sprechen und ich bin gespannt, was es zu besprechen gibt.
00:00:28: Ja wunderbar, das freut mich doch zu hören. Also was es zu besprechen gibt, hatten wir ja in der letzten Folge schon mal angeteasert,
00:00:34: weil wir irgendwie bei der Thematik KI, Datensammeln und Datenschutz irgendwie so auch an dieses Thema gestoßen sind.
00:00:40: Ja und was machen wir jetzt denn eigentlich mit dem Urheberrecht, wenn KI da so irgendwelche Sachen dabei ist zu entwickeln oder umzusetzen,
00:00:50: besser gesagt zu generieren, weil wir sprechen ja immer über Generative AI.
00:00:56: Und ja, deswegen habe ich mir gedacht, wäre es doch ganz schön, wenn wir mal über den Part Urheberrecht und KI sprechen,
00:01:04: weil da hast du ja auch schon viele Erfahrungen mit. Sag doch mal, was so deine ersten Berührungspunkte mit diesem Thema überhaupt waren.
00:01:11: Gute Frage. Ja gut, also im Prinzip fängt es ja eigentlich schon beim Fotografen an,
00:01:17: wenn man Passbilder machen lässt für sich, beziehungsweise Passbilder, die man dann auch werblich nutzen möchte, im Internet zum Beispiel.
00:01:24: Der Fotograf ist ja Urheber des Bildes, das er von mir anfertigt. Insofern muss ich seine Urheberrechte berücksichtigen, respektieren
00:01:35: und die sind ihm auch von Gott gegeben, hätte ich fast gesagt, also von Gesetz wegen schon eingeräumt,
00:01:40: ohne dass er es will und ohne dass er irgendwas dafür machen muss. Meistens will er es wahrscheinlich,
00:01:44: aber sie entstehen automatisch dadurch, dass jemand eine Schöpfung begeht, erstellt, die eine gewisse Schöpfungshöhe hat.
00:01:54: Also lapidare Dinge wie ein Viereck malen oder sowas zählt da nicht darunter.
00:01:58: Aber ein Bild erstellen oder eine Fotografie eben von mir zum Beispiel oder von dir, von wem auch immer, fällt unter das Urheberrecht.
00:02:05: Natürlich unter der Annahme, dass der Fotograf dieses Bild auf deinen Wunsch hin anfertigt und nicht einfach heimlich oder sowas.
00:02:12: Aber in meinem Fall war es ja der Wunsch. Ich habe ihm sogar Geld gegeben dafür und ich musste ihm mehr Geld geben,
00:02:18: damit er mir erlaubt, dieses Bild auch auf der Webseite zum Beispiel zu nutzen.
00:02:24: Das ist bei Fotografen ja so üblich. Da kostet das Passbild beispielsweise, ich sage jetzt mal einen Betrag 30 Euro oder 40,
00:02:30: keine Ahnung was es kostet, wenn man die in ausgedruckter Form bekommt.
00:02:33: Wenn man sie in digitaler Form haben will, kostet es vielleicht nochmal ein paar Euro mehr.
00:02:36: Und wenn ich sie dann auch noch im Internet für gewerbliche Zwecke nutzen will, dann muss ich noch mehr bezahlen.
00:02:42: Und zwar wegen dem Urheberrecht. Es steht dem Fotografen frei, darüber zu entscheiden, was er mir erlaubt, was ich mit dem Bild machen darf.
00:02:49: Und natürlich einigt man sich da vorher, weil wenn ich jetzt ein Bild vom Fotografen brauche für meine Webseite und er würde es mir aber nicht erlauben,
00:02:55: dann wäre das blöd. Dann haben wir beide nichts davon.
00:02:57: Deswegen wird das vereinbart bzw. bietet der Fotograf das natürlich vorher an.
00:03:01: Sonst würde ich ja nicht zu ihm gehen und damit ist die Sache erledigt.
00:03:04: Also das war, glaube ich, meine erste Berührung mit dem Urheberrecht.
00:03:08: Ja, super. Um das mal kurz zu klarifizieren für die Zuhörer da draußen, die so wie ich gerne auch mal ins Gesetz gucken und gucken, was steht denn da wirklich drin?
00:03:17: Die beiden Punkte, die du angesprochen hast, ist einmal Paragraf 7 des Urheberrechtsgesetzes.
00:03:21: Und zwar steht da, der Urheber ist der Schöpfer des Werkes.
00:03:26: Also nicht der Inhalte im Werk, sondern des Werkes an sich, was am Ende als fertiges Werk beschrieben wird.
00:03:35: Und dann die Veröffentlichungsgeschichte steht in Paragraf 12.
00:03:39: Da steht drin, der Urheber hat das Recht zu bestimmen, ob und wie sein Werk zu veröffentlichen ist.
00:03:44: Und dem Urheber ist es vorbehalten, den Inhalt seines Werkes öffentlich mitzuteilen oder zu beschreiben.
00:03:51: Ich bin auf ganz anderen Wegen mit dem Urheberrecht das erste Mal in Berührung gekommen.
00:03:55: Und zwar zwecks Musikveröffentlichung, weil das ja auch so der Part ist, aus dem ich studiumstechnisch herkomme.
00:04:02: Und da war es eigentlich immer relativ klar geregelt.
00:04:07: Wobei es eben auch da immer wieder sehr viele Fragen gibt bezüglich Samplings.
00:04:12: Also das Verwenden einzelner Teile oder Stücke anderer künstlerischer Werke im eigenen Werk.
00:04:18: Heutzutage bei den DJ-Veröffentlichungen erleben wir das sehr häufig, dass alte Lieder neu aufgelegt werden.
00:04:25: Teilweise werden sie einfach nur wiederverwendet.
00:04:28: Und an der Stelle stellt sich dann immer die Frage des Urheberrechts und des Werkes und wer wie entlohnt werden muss.
00:04:35: Und diese Entlohnung nennt man dann Tantiemen.
00:04:38: Das waren meine ersten Berührungspunkte, weswegen ich mich dann mit GEMA und so weiter, solchen Verwertergesellschaften auseinandersetzen musste.
00:04:46: Und auch die Diskussion, die YouTube in Bezug auf die GEMA geführt hat, immer unglaublich spannend fand.
00:04:52: Weil ich bis heute nicht verstanden habe, warum die sich da auf diesen Moogs geeinigt haben.
00:04:56: Aber das ist ein anderes Thema.
00:04:59: Kommen wir mal auf die KI zurück.
00:05:01: Und zwar, wir haben ja gerade gesagt, der Urheber ist der Schöpfer des Werkes.
00:05:05: Und hier wird es jetzt spannend.
00:05:06: KI.
00:05:07: Wer ist denn der Schöpfer des Werkes, wenn eine KI ein Werk generiert?
00:05:15: Gut, also da kann ich jetzt zwei Anmerkungen zu machen.
00:05:17: Ich bin kein Jurist, aber ein bisschen kenne ich das Thema.
00:05:19: Und fangen wir mit dem ersten an.
00:05:21: In den USA gab es ja ein Gerichtsverfahren und das Gericht hat festgestellt, wie gesagt, Recht nach USA.
00:05:28: Recht, dass eben eine Künstliche Intelligenz kein Urheber sein kann.
00:05:33: Also nur Menschen können Urheber sein, hat das amerikanische Gericht festgestellt.
00:05:37: Das gilt natürlich nur für Amerika erstmal, nicht für Deutschland.
00:05:40: In Deutschland ist es aber so, ich habe jetzt gerade nachgeguckt, Paragraf 2 Urheberrechtsgesetz, da steht im Absatz 2 drin.
00:05:47: Werke im Sinne dieses Gesetzes sind nur persönliche geistige Schöpfung.
00:05:52: Also persönlich, glaube ich, könnte man somit übersetzen, dass eine Person, daher kommt ja persönlich, dieses Werk geschöpft hat, geschaffen hat, geschaffen hat, so ist das Wort.
00:06:03: Und natürlich gibt es da auch Zwischenfälle.
00:06:06: Wann ist eine Person involviert?
00:06:09: Darüber könnte man jetzt trefflich streiten.
00:06:11: Zum Beispiel, ich muss ja auch die KI erstmal anfüttern, da bin ich doch auch schon beteiligt an dem Schöpfungsprozess.
00:06:17: Oder ich nehme ein KI-Bild und verändere es danach, dann habe ich doch persönlich auch daran mitgewirkt.
00:06:22: Also das würde ich schon sagen, da kann man jetzt nicht einfach sagen, das hat eine KI erstellt.
00:06:27: Wenn ich nachträglich was verändere, dann bin ich doch offensichtlich auch mit als Person beteiligt gewesen.
00:06:31: Die Frage ist, wann ist eine KI eigentlich alleine nur beteiligt und kann sie überhaupt nur alleine beteiligt sein?
00:06:38: Also ich behaupte mal, wenn man es ganz genau nimmt, dass eine KI überhaupt nie alleine irgendwas macht,
00:06:42: sondern man sagt ihr ja vorher, ganz grob zumindest, was sie machen soll, speist ihr Daten ein, könnte man wieder darüber streiten,
00:06:49: ist das jetzt schon eine Beteiligung des Menschen im Sinne des Urgesetzes oder nicht?
00:06:54: Wahrscheinlich eher nicht, aber neben dieser Frage stellt sich ja auch noch die Frage,
00:06:59: was mit den Werken ist, die ein Mensch nimmt und dann weiterverteilt, von anderen zumindest.
00:07:05: Aber diese Frage, ob eine KI ein Schöpfer sein kann, wenn sie alleine beteiligt ist, würde ich jetzt verneinen nach der Gesetzeslage in Deutschland,
00:07:13: aber sehr oft wird es so sein, dass eben ein Bild verändert worden ist und beispielsweise durch Upscaling,
00:07:20: dann nimmt man ja wieder eine KI, dann wird es ja kompliziert oder man schneidet Teile raus aus dem Bild,
00:07:25: ist das dann auch schon eine menschliche Beteiligung oder nicht?
00:07:28: Oder was bei Stable Diffusion geht, man nimmt einzelne Bildausschnitte und maskiert die,
00:07:33: also legt eine Maske drum und sagt dann eben, der KI male hier mal was anderes hin.
00:07:41: Ich meine, es ist die menschliche Entscheidung, einen bestimmten Bildausschnitt auszuwählen und so weiter und so weiter.
00:07:46: Da kann man wirklich drüber streiten und vor allem ist es ja auch so,
00:07:49: niemand außer dem, der das Bild von der KI generieren lässt und weitergibt,
00:07:53: wenn wir beim Bild mal bleiben oder bei der Musik, wie du eben gesagt hast,
00:07:56: weiß ja, ob er was daran verändert hat oder nicht.
00:08:00: Also insofern ist die Diskussion ein bisschen virtuell, außer es ist ein KI-System,
00:08:05: was öffentlich benutzbar ist, beispielsweise durch Kunden oder ähnliches oder ganz kostenfrei
00:08:11: und dann weiß man natürlich, hat diese KI das Bild einfach so ausgespuckt oder nicht.
00:08:17: Aber oft ist es halt so, dass man den Menschen fragen müsste,
00:08:20: hat die KI an dem Bild was verändert oder an dem Musikstück oder nicht?
00:08:22: Oder hat es die KI alleine generiert?
00:08:24: Da würde der Mensch sagen, ja, ich habe da auch was dran verändert, das kann ja keiner nachprüfen.
00:08:28: Das ist sehr richtig.
00:08:32: Also eigentlich ist der Ausgangspunkt der Argumentation auch für mich an der Stelle, genau wie bei dir,
00:08:37: die KI handelt nicht aus eigenem Willen,
00:08:41: sondern sie wird durch irgendwelche Informationen gespeist und dann entsteht etwas daraus.
00:08:46: Das heißt, so gesehen kann man das eigentlich so ein bisschen vergleichen mit einem Hammer, der irgendwo rumliegt.
00:08:52: Der Hammer hat auch eine Funktionalität, die erweitert meine Fähigkeiten als Mensch.
00:08:56: Aber solange ich als Mensch den Hammer nicht anfange zu bedienen und damit einen Befehl eingebe,
00:09:01: was mit dem Hammer geschehen soll, produziert der Hammer nicht selbstständig denkend ein Ergebnis.
00:09:08: Und auch aller Anstrengungen, dass KI sowas können kann oder können wird,
00:09:13: aktuell ist es ja nun mal so, es herrscht noch eine Eingabepflicht.
00:09:17: Am Anfang muss etwas reingegeben werden und das ist eben von einer Person,
00:09:22: in dem Falle meistens eines Menschen, eingegeben worden.
00:09:26: Erst wenn die KI eine eigene Persönlichkeit entwickelt und selbstständig die Entscheidung trifft, Dinge zu erzeugen,
00:09:32: könnte man sie als Urheber eines Werkes, als Schöpfer eines Werkes bezeichnen.
00:09:38: Man kann es allerdings beliebig weit zurückrücken, also die Beteiligung des Menschen.
00:09:43: Zum Beispiel habe ich ein KI-System bei mir lokal laufen, was Bilder erzeugt
00:09:47: und da generiere ich auch noch mit einem Programm automatisiert Prompts.
00:09:51: Ich gebe da Schlüsselworte ein, beispielsweise Adjektive oder sonst irgendwas
00:09:55: und daraus werden dann zufällig Prompts entwickelt.
00:09:57: Und die werden von der KI dann genutzt, um Bilder zu erzeugen.
00:10:00: Da werden tausende Bilder generiert und dann suche ich mir die schönsten aus.
00:10:04: Bin ich jetzt beteiligt an der Bildgenerierung?
00:10:07: Ja, irgendwie natürlich schon.
00:10:09: Ich glaube, da gab es auch mal ein Urteil zu, wenn ich einen Angestellten habe
00:10:13: und sage dem, der soll mir irgendwas malen.
00:10:15: Das ist ein Grafiker, der soll mir eine Grafik malen.
00:10:18: Dann habe ich ihn ja beauftragt, genau wie ich eine KI beauftrage im Prinzip.
00:10:22: Und die KI kriegt ja kein Geld von mir, aber der Angestellte kriegt Geld von mir.
00:10:25: Ich meine, da gab es mal ein Gerichtsurteil, wenn ich einen Angestellten bezahle,
00:10:28: dann ist er zwar Urheber, aber es kann davon ausgegangen werden,
00:10:31: dass durch den Arbeitslohn dieses Werk sozusagen rechtmäßig auf mich übergegangen ist.
00:10:37: Ich meine, da war mal sowas, weil es ist ein bisschen abstrus irgendwie.
00:10:41: Ich bezahle einen Angestellten, dass er mir was malt.
00:10:44: Und dann soll er auch noch die alleinigen Rechte an diesem Werk haben.
00:10:48: Das wäre ein bisschen komisch irgendwie.
00:10:50: Also da würde ich mich sträuben, das zu akzeptieren.
00:10:52: Es gibt auch Zwischenlösungen, da ist man dann als Arbeitgeber vorsichtiger
00:10:55: und schreibt gleich einen Arbeitsvertrag rein.
00:10:57: Aber das halte ich ehrlich gesagt für pervers,
00:10:59: weil man vereinbaren muss, dass der, der Geld dafür kriegt als Angestellter,
00:11:04: der soll ja auf Weisungen handeln, das ist ja das Wesen eines Angestellten,
00:11:08: dann auch noch Inhaber von Rechten sein soll für Werke,
00:11:12: die er bezahlt bekommen hat als Angestellter.
00:11:14: Also da mag die Juristerei ein bisschen anderer Meinung manchmal sein,
00:11:18: aber ich sehe es jedenfalls so.
00:11:19: Und bei der KI kann man es eigentlich auch so sehen.
00:11:21: Ich beauftrage die KI was zu tun und insofern bin ich beteiligt.
00:11:26: Also so würde ich sehen.
00:11:27: Nichts anderes ist es meiner Meinung nach beim Angestellten.
00:11:31: Also ich sehe hier gerade auf Wikipedia zu dem Thema Person.
00:11:35: Also was ist denn im Recht eigentlich als Person definiert?
00:11:37: Und da steht es halt, dass der BGB als Oberbegriff
00:11:40: natürliche Personen und juristische Personen kennt.
00:11:43: Das wissen wir auch.
00:11:44: Und hier steht neben dem Menschen als natürliche Personen.
00:11:49: Also die natürlichen Personen sind ganz klar Menschen.
00:11:53: Und gibt es dann noch die juristischen Personen,
00:11:56: die Rechtssubjekte sind.
00:11:58: Und die unterscheiden sich halt dadurch,
00:12:00: der eine ist ab der Geburt eine Person
00:12:02: und der andere ab der Eintragung bei einem Amtsgericht,
00:12:05: also unsere Gesellschaften.
00:12:07: Und dementsprechend ist das, was du sagst,
00:12:09: ja eigentlich hier schon festgelegt.
00:12:11: Also sowohl die juristische Person als auch die natürliche Person
00:12:14: können ein Urheberrecht haben.
00:12:16: Und dementsprechend stimmt eigentlich
00:12:18: so vom ersten Tenor und Grundgefühl her das, was du sagst.
00:12:21: Der Auftraggeber, das Unternehmen in dem Falle,
00:12:24: beauftragt den Mitarbeiter, der angestellt ist,
00:12:27: damit etwas zu erstellen.
00:12:29: Und da das Unternehmen eine juristische Person darstellt,
00:12:32: kann sie auch das Urheberrecht dieses Werkes tragen,
00:12:35: weil der Mitarbeiter ja nur auf Weisung gehandelt hat.
00:12:39: Das heißt, dass er dabei kreativ geworden ist.
00:12:42: Ja, ich hoffe doch, er wird kreativ.
00:12:44: Sonst bräuchte er kein Design als Angestellter.
00:12:46: Aber ich meine, hier steht immerhin noch drin im Urhebergesetz,
00:12:49: dass es eine persönliche geistige Schöpfung sein soll.
00:12:51: Ob jetzt eine GmbH als juristische Person
00:12:53: eine geistige Schöpfung betreiben kann, kann sein, würde ich sagen.
00:12:56: Weil nämlich die natürliche Person,
00:12:58: die Teil der juristischen Person ja in dem Fall ist,
00:13:00: bei einer GmbH ist ja immer eine natürliche Person beteiligt.
00:13:03: Außer bei einer GmbH und Coca-G oder sowas
00:13:05: können es auch nur juristische Personen teilweise sein.
00:13:07: Aber GmbH ist auch eine natürliche Person beteiligt.
00:13:10: Die hat ja wohl eine geistige Schöpfungsmöglichkeit.
00:13:12: Und wenn sie Teil einer übergeordneten Einheit ist,
00:13:15: geht diese geistige Schöpfungsmöglichkeit
00:13:17: durch diese übergeordnete Einheit über.
00:13:19: Aber ich glaube, das wird jetzt sehr juristisch.
00:13:21: Und zumindest ist es ja auch so, wie eben gesagt,
00:13:24: niemand weiß ja, ob ein Mensch irgendwas nachbearbeitet hat.
00:13:27: Da gibt es zwar Verfahren mit Wasserzeichen,
00:13:29: die automatisch eingefügt werden.
00:13:31: Die sind aber teilweise nicht invariant gegen Upscaling.
00:13:35: Also ich vergrößere ein Bild um den Faktor 4,
00:13:37: dann ist das Wasserzeichen nicht mehr da.
00:13:39: Dann gibt es aber neue Verfahren,
00:13:41: die das angeblich doch noch überstehen sozusagen.
00:13:45: Also das Wasserzeichen macht dann erkennbar,
00:13:48: dass es ein KI-generiertes Bild ist.
00:13:49: Wobei ich natürlich sage,
00:13:50: wenn ich an dem KI-generierten Bild erheblich was verändere
00:13:53: und das Wasserzeichen ist immer noch da,
00:13:54: dann habe ich es trotzdem erheblich verändert.
00:13:56: Auch wenn es ursprünglich durch eine KI...
00:13:57: Also das führt alles ins Nichts.
00:13:59: Und letztendlich muss man sagen,
00:14:01: jedes Werk, was eine gewisse Schöpfungshöhe hat,
00:14:03: so sage ich es, genießt irgendwie auch einen Urheberschutz.
00:14:07: Also das muss so sein.
00:14:09: Das wird sich bestimmt auch in zehn Jahren,
00:14:11: wenn die Gesetzgebung dann soweit ist, auch klären.
00:14:14: Technik ist immer schneller als Recht,
00:14:16: aber alles andere macht im Endeffekt gar keinen Sinn
00:14:19: in der Lebenswirklichkeit.
00:14:20: Es mag juristisch anders sein momentan vielleicht,
00:14:22: aber es macht einfach keinen Sinn.
00:14:24: Dann frage ich dich,
00:14:25: Stephan, hast du das Bild jetzt alleine mit der KI erzeugt,
00:14:28: ganz ohne KI erzeugt oder mit einer KI und mit Nachbearbeitung?
00:14:32: Und wenn du jetzt möchtest, dass du Urheber bist,
00:14:33: sagst du einfach, ja, ich habe es nachbearbeitet
00:14:35: oder ich habe es selbst erzeugt.
00:14:36: Ich meine, wie kann ich dir das denn beweisen,
00:14:38: dass es anders ist?
00:14:39: Also das ist einfach Unsinn anzunehmen,
00:14:42: dass es einen Unterschied macht.
00:14:44: Also Unsinn meine ich jetzt in der Lebenswirklichkeit betrachtet.
00:14:46: Juristisch mag es vielleicht keinen Unsinn machen,
00:14:48: aber irgendwie führt es dann zu nichts.
00:14:50: Ja, das stimmt. Das sehe ich genauso.
00:14:52: Also man diskutiert dann im Endeffekt über Strohhelme
00:14:55: und vergisst, dass man eigentlich aus dem Glas
00:14:57: auch das Wasser direkt trinken kann.
00:14:59: Der Punkt ist der mit der geistigen Schöpfung.
00:15:02: Das finde ich nämlich sehr spannend,
00:15:03: weil wir haben ja darüber gesprochen,
00:15:04: dass es ganz klar ist, dem Urheber gehört das Werk.
00:15:07: Gehen wir jetzt mal davon aus, wie du das beschrieben hast.
00:15:10: Du lässt Fotos von dir machen
00:15:11: und dann ist der Urheber des Werkes
00:15:15: ist tendenziell der Fotograf.
00:15:18: Aber auch hier finde ich das jetzt sehr spannend,
00:15:20: weil wir waren ja gerade bei der Frage
00:15:22: mit dem Unternehmen und dem Mitarbeiter.
00:15:24: Wenn du zum Fotografen gehst, beauftragst du ihn,
00:15:28: sonst macht er keine Fotos von dir.
00:15:30: Und dementsprechend handelt er auch in dem Auftrag
00:15:34: auf deine Weisung.
00:15:35: Also hier müsste eigentlich
00:15:37: dann dieselbe Betrachtungsweise vorliegen,
00:15:39: dass man sagt, dann muss der Mitarbeiter
00:15:42: aber auch das Recht haben,
00:15:43: der Urheber des Werkes zu sein,
00:15:45: weil er das Werk erschaffen hat,
00:15:47: obwohl er auf Weisung gehandelt hat.
00:15:49: Eine Weisung ist nicht eine Beauftragung.
00:15:51: Also ich gebe dir mal ein Beispiel.
00:15:53: Bei der Freiberuflichkeit
00:15:54: ist es eben das Problem der Scheinselbstständigkeit.
00:15:57: Wenn man nur einen Auftraggeber hat
00:15:59: und den zu lange hat,
00:16:00: von dem wirtschaftlich abhängig und so weiter,
00:16:01: gibt es mehrere Kriterien.
00:16:03: Dann ist man scheinselbstständig
00:16:04: und in Wirklichkeit nicht selbstständig,
00:16:05: sondern angestellt.
00:16:06: Muss man nachträglich sowohl der Auftraggeber
00:16:09: als auch der Auftragnehmer
00:16:10: müssen dann Sozialabgaben nachzahlen.
00:16:12: Jetzt ist es so,
00:16:13: ein Kriterium dafür ist,
00:16:15: ob der Freiberufler zum Beispiel
00:16:17: Weisungen empfängt oder nicht.
00:16:20: Das heißt, er kann auch ohne Weisungen,
00:16:22: natürlich ist,
00:16:23: also wenn man es ganz strikt nimmt,
00:16:24: ist alles irgendwie eine Weisung,
00:16:25: weil mit Weisung ist gemeint,
00:16:27: ich erwarte jetzt,
00:16:28: dass du von 9 bis 17 Uhr hier arbeitest
00:16:31: und nicht, wann du Lust hast
00:16:32: und auch nicht, wo du willst,
00:16:34: sondern du sitzt jetzt hier am Arbeitsplatz
00:16:36: und hältst dich jetzt hier an diese Richtlinie
00:16:39: und dies und das
00:16:40: und man macht da relativ konkrete Vorgaben,
00:16:42: strenge Vorgaben.
00:16:43: Es kann auch eine kreative Arbeit sein,
00:16:44: die dann daraufhin entsteht,
00:16:46: aber der Freiberufler
00:16:47: ist eben nicht weisungsgebunden.
00:16:49: Das ist ein typisches Kriterium
00:16:50: eines Freiberuflers,
00:16:51: eines externen Mitarbeiters,
00:16:53: der nicht sozialversicherungspflichtig ist,
00:16:55: dass er eben nicht weisungsgebunden ist.
00:16:57: Das weiß ich aus eigener Erfahrung.
00:16:58: Ich hatte da auch nie Probleme mit,
00:17:00: habe natürlich Anweisungen,
00:17:02: wenn man es mal so will,
00:17:03: oder Aufträge entgegengenommen.
00:17:07: Bitte programmieren wir mal dies und das
00:17:09: oder teste mal dies und das
00:17:10: oder mach mir mal ein Konzept hierfür oder dafür.
00:17:12: Das ist natürlich in dem Sinne jetzt keine Weisung,
00:17:14: das ist ein Auftrag.
00:17:16: Das heißt, du unterscheidest an der Stelle
00:17:18: die Weisung vom Auftrag,
00:17:20: weil der Auftrag,
00:17:22: den du auch dem Fotografen gibst,
00:17:24: im Beispiel,
00:17:25: ist im Endeffekt gebunden daran,
00:17:27: dass du ihm sozusagen die Entscheidung übergibst,
00:17:32: diese Leistung durchzuführen,
00:17:34: weil es ein Auftrag ist.
00:17:36: Er kann frei entscheiden,
00:17:37: ob er ihn annimmt oder nicht.
00:17:38: Und deswegen ist es keine Weisung.
00:17:40: Er ist nicht daran gebunden,
00:17:41: das durchzuführen,
00:17:42: weil es ein irgendwie geartetes Vertragskonstrukt gibt,
00:17:45: das ihn dazu zwingt
00:17:47: oder das dich davor schützt,
00:17:48: dass er es ablehnen kann.
00:17:50: Ja, also in der Art vielleicht.
00:17:52: Wobei, das ist ein juristisch sehr schwieriges Feld,
00:17:55: wo wir uns bewegen.
00:17:56: Und ich glaube, für unseren Fall zwar auch relevant,
00:17:58: aber da möchte ich mich jetzt gar nicht so tief vorwagen,
00:18:01: weil das sehr schwierige juristische Fragen sind
00:18:04: und die teilweise auch geklärt sind,
00:18:06: teilweise noch offen.
00:18:07: Da wissen auch manche Juristen wahrscheinlich gar nicht,
00:18:10: was am Ende bei rauskommt.
00:18:11: Und selbst wenn es geklärt ist,
00:18:12: wie gesagt,
00:18:13: ich halte es einfach so beim Angestellten,
00:18:15: rein logisch,
00:18:16: denklogisch,
00:18:17: beziehungsweise Praxis,
00:18:18: Realitätslebenserfahrung.
00:18:20: Da macht es für mich keinen Sinn,
00:18:22: wenn der Angestellte auf meine Weisung hin was macht
00:18:25: und er dann die Rechte daran hat,
00:18:27: zu entscheiden,
00:18:28: was damit passiert.
00:18:29: Das macht für mich keinen Sinn.
00:18:30: Das macht für mich keinen Sinn als Arbeitgeber.
00:18:32: Dann brauche ich keine Angestellten.
00:18:35: Ja, definitiv.
00:18:36: Das erstreckt sich dann ja auch noch auf andere Bereiche,
00:18:39: wo man dann irgendwie so ein bisschen das Gefühl bekommt,
00:18:42: dass das ein bisschen weird ist.
00:18:44: Ich finde das sehr spannend in Bezug darauf,
00:18:46: wenn wir bei deinem Fotobeispiel bleiben,
00:18:48: weil das ist ja auch etwas,
00:18:49: womit sich wahrscheinlich jeder der Zuhörer identifizieren kann.
00:18:53: Und zwar nehmen wir an,
00:18:55: man geht zu einem Fotografen,
00:18:57: man lässt Fotos von sich machen.
00:18:59: Jetzt haben wir ja gerade gesagt,
00:19:01: okay, der Fotograf ist dann der Urheber des Werkes,
00:19:04: weil er das Werk erschaffen hat.
00:19:06: Und er ist als Urheber auch derjenige,
00:19:08: der frei verfügen kann,
00:19:10: wie dieses Werk verwendet wird.
00:19:12: Jetzt ist aber auf dem Werk
00:19:14: eine Abbildung einer natürlichen Person.
00:19:17: Und diese Abbildung ist ja
00:19:19: mit unseren Persönlichkeitsrechten,
00:19:21: Datenschutzgrundverordnung geschützt.
00:19:23: Das heißt, wir haben ein Entscheidungsrecht,
00:19:26: das irgendwie damit reinwirkt.
00:19:29: Und da ist jetzt die Frage,
00:19:31: wie genau wirkt das denn damit rein,
00:19:33: wenn ich jetzt dieses Foto habe?
00:19:36: Genau, also natürlich ist damit nicht gemeint,
00:19:38: dass der Fotograf mit dem Bild,
00:19:40: was er von dir macht, machen kann, was er will.
00:19:42: Er kann nur dir sagen,
00:19:44: was du damit machen darfst und was nicht.
00:19:46: Du, ist das eher gemeint,
00:19:48: weil natürlich darf er dein Bild nicht veröffentlichen.
00:19:50: Er hat dein Bild vielleicht im Archiv,
00:19:52: falls du mal Bilder nachbestellen möchtest oder so.
00:19:55: Das ist eine legitime Datenverarbeitung,
00:19:58: wobei die DSGVO ja nur für die
00:20:00: mindestens teilautomatisierte Verarbeitung von Daten gilt,
00:20:04: personenbezogenen Daten gilt.
00:20:06: Das heißt also, wenn er das Bild,
00:20:08: so wie es ganz früher war,
00:20:10: als Ausdruck nur ablegt
00:20:12: und keine Dateien davon hat,
00:20:14: dann gilt die DSGVO dafür gar nicht.
00:20:16: Meistens ist es ja so heutzutage,
00:20:18: dass da Dateien gespeichert werden
00:20:20: und gar keine physischen Bilder
00:20:22: mehr abgelegt werden beim Fotografen.
00:20:24: Da ist es dann schon was anderes.
00:20:26: Da greift die DSGVO.
00:20:28: Der hebt aber das Bild nur auf,
00:20:30: macht damit nichts,
00:20:32: außer du kommst mal wieder und sagst,
00:20:34: ich hätte gerne noch mal drei Abzüge davon
00:20:36: oder einen Großdruck davon oder was auch immer.
00:20:38: Aber er kann natürlich mit dem Bild
00:20:40: nicht machen, was er will,
00:20:42: sondern er kann nur entscheiden,
00:20:44: was du damit machen darfst.
00:20:46: Und solange du das Bild natürlich nicht veröffentlichst,
00:20:48: kannst du damit dein Bild,
00:20:50: was er von dir gemacht hat,
00:20:52: zugänglich machen,
00:20:54: kann man juristisch auch drüber streiten,
00:20:56: aber sobald ich den Personalausweis
00:20:58: bei der Polizeikontrolle zeigen muss,
00:21:00: sieht es ja jemand, aber das ist jetzt glaube ich
00:21:02: nicht mit Öffentlichkeit gemeint.
00:21:04: Also insofern kannst du das Bild für dich verwenden,
00:21:06: wie du willst. Sobald es in die Öffentlichkeit
00:21:08: durch dich gelangen soll, brauchst du die Einwilligung
00:21:10: des Fotografen.
00:21:12: Nicht Einwilligung,
00:21:14: sondern die Erlaubnis, möchte ich lieber sagen,
00:21:16: weil bei einer Einwilligung, die könnte man ja auch wieder rufen.
00:21:18: Ja genau,
00:21:20: das ist ja ein gutes Stichwort.
00:21:22: Wir haben da ja
00:21:24: den Punkt der Einwilligungspflicht
00:21:26: zur Veröffentlichung, weil eben
00:21:28: die Person, die abgebildet ist,
00:21:30: mitentscheiden darf, wie das
00:21:32: Werk zu veröffentlichen ist.
00:21:34: Der Urheber darf quasi
00:21:36: entscheiden, was mit dem Werk
00:21:38: gemacht wird, also in welchem Rahmen
00:21:40: es veröffentlicht werden darf,
00:21:42: aber die abgebildeten Personen,
00:21:44: die Persönlichkeitsrechte haben,
00:21:46: dürfen entscheiden, ob innerhalb
00:21:48: dieses Rahmens die Veröffentlichung
00:21:50: für sie überhaupt genehm ist.
00:21:52: Und das muss eben auch, wenn man so möchte,
00:21:54: schriftlich geklärt sein,
00:21:56: wenn der Fotograf vorhat,
00:21:58: zum Beispiel damit zu werben,
00:22:00: mit diesen Fotos, für
00:22:02: seine Tätigkeit als Fotograf.
00:22:04: Und das ist
00:22:06: halt eine Sache, die ganz wichtig ist,
00:22:08: weil eigentlich hat die DSGVO so gesehen
00:22:10: an der öffentlichen Fotografie
00:22:12: nur an der Stelle wirklich was verändert,
00:22:14: dass die Leute das Recht haben,
00:22:16: zu sagen, Leute,
00:22:18: ich möchte aber, dass mein Werk
00:22:20: nur da und dafür veröffentlicht wird,
00:22:22: und ich möchte zum Beispiel nicht, dass ihr damit
00:22:24: werbt, schon gar nicht in öffentlichen Medien.
00:22:26: Da muss man dazu sagen,
00:22:28: das BDSG hatte das immer schon drin,
00:22:30: und das ganze Gerede
00:22:32: damals aus der Fotografen-Szene,
00:22:34: sag ich mal, als die DSGVO kam,
00:22:36: hab ich persönlich
00:22:38: gar nicht wirklich verstanden, weil
00:22:40: für die hat sich nicht wirklich was verändert,
00:22:42: die mussten halt nur darüber informieren, dass sie das tun,
00:22:44: was sie tun, und das ist ja
00:22:46: nichts weiter Schlimmes eigentlich, wenn man so möchte.
00:22:48: Ist ja nicht gut, ist ja mehr Transparenz.
00:22:50: Also das ist ein gutes Beispiel mit dieser Werbung, die du
00:22:52: ansprichst von Fotografen. Also ich kenne
00:22:54: jetzt die klassische Fotografen-Werbung,
00:22:56: da gibt es bestimmt mehrere, aber eine Art
00:22:58: der Werbung ist, man nimmt ein Bild
00:23:00: einer fotografierten Person
00:23:02: und stellt es ins Schaufenster, weil
00:23:04: das ist ja repräsentativ, da kann der Fotograf
00:23:06: zeigen, was er kann. Wenn ich
00:23:08: jetzt ein gemaltes Bild reinstelle, ist ja Quatsch, der Fotograf
00:23:10: soll ja fotografieren und nicht malen. Also
00:23:12: dafür brauche ich natürlich
00:23:14: die Einwilligung
00:23:16: der abgebildeten Person,
00:23:18: aber wie gesagt, ein
00:23:20: Bild, was ausgedruckt
00:23:22: ist und wo es vielleicht auch keine Dateien mehr
00:23:24: davon gibt, ist kein digitales
00:23:26: Produkt, da gibt es keine
00:23:28: teilautomatisierte Verarbeitung, da gibt es die
00:23:30: DSGVO nicht und das BDSG
00:23:32: würde wahrscheinlich dann auch
00:23:34: nicht gelten.
00:23:36: Muss man mal gucken, ob da drin steht,
00:23:38: ob es für die teilautomatisierte
00:23:40: Verarbeitung erst gilt, so wie die DSGVO
00:23:42: oder immer, weil wie gesagt,
00:23:44: wenn es nur ein ausgedrucktes Bild
00:23:46: ist, dann gibt es keine
00:23:48: teilautomatisierte Verarbeitung, zumindest
00:23:50: wenn sie dann nicht mehr vorliegt
00:23:52: ab dem Moment, wo es gedruckt wurde, man hat
00:23:54: die Dateien gelöscht als Beispiel.
00:23:56: Dann reden wir nicht über die DSGVO,
00:23:58: dann reden wir höchstens über
00:24:00: Persönlichkeitsrechte oder ähnliches,
00:24:02: also das ist ein anderes Thema, aber wir sind ja bei dem Thema
00:24:04: KI und Urheberrecht,
00:24:06: oder was?
00:24:08: Also ich finde, wir haben da auch
00:24:10: jetzt einen ziemlich spannenden Bogen gehabt.
00:24:12: Wir haben beim Urheberrecht begonnen, wir haben uns
00:24:14: die Frage gestellt, kann
00:24:16: KI ein Urheber sein?
00:24:18: Und zumindest wir beide sind
00:24:20: unisono der Meinung, naja, ohne
00:24:22: das Einwirken eines Menschen,
00:24:24: A, gäbe es gar keine KI und
00:24:26: B, trifft
00:24:28: diese KI auch keine wirklichen Entscheidungen,
00:24:30: sondern sie reagiert mehr
00:24:32: auf Inputs irgendeiner Form
00:24:34: und damit ist von einer geistigen
00:24:36: Schöpfung im engeren Sinne so
00:24:38: erstmal nicht zu sprechen.
00:24:40: Und außerdem haben wir geklärt,
00:24:42: dass diese
00:24:44: Urheberrechtsfrage in Bezug
00:24:46: auf was mit dem Werk, was generiert
00:24:48: wird, dann
00:24:50: sozusagen passieren soll
00:24:52: später, dass wir sagen,
00:24:54: okay, wir müssen auf der einen Seite
00:24:56: berücksichtigen, was wird auf dem Bild
00:24:58: dargestellt und
00:25:00: berührt das eben Persönlichkeitsrechte
00:25:02: einer natürlichen Person.
00:25:04: Wenn ja, dann hat die ein
00:25:06: Entscheidungsrecht, ein Einwilligungsrecht.
00:25:08: Wenn nein, gehört das
00:25:10: Urheberrecht an dem erstellten Werk aus
00:25:12: der KI erstmal per se der Person,
00:25:14: der der KI den Auftrag
00:25:16: erteilt hat oder die Eingabe gemacht hat,
00:25:18: dieses Werk zu erzeugen.
00:25:20: Also zwei Sachen dazu. Das eine
00:25:22: ist, vielleicht können wir tatsächlich beim nächsten Mal nochmal
00:25:24: über Urheberrecht sprechen. Wir haben jetzt diesmal
00:25:26: über einen sehr spannenden Aspekt gesprochen, den ich so gar nicht
00:25:28: so tief auf dem Schirm hatte, bin ich dir sehr dankbar
00:25:30: dafür, und zwar die Erzeugung
00:25:32: des Werkes an sich.
00:25:34: Das zweite ist aber, wo du jetzt
00:25:36: angeknüpft hast, wobei die Zeit wahrscheinlich nicht mehr reicht,
00:25:38: da hätte ich auch noch einiges zu sagen. Was ist
00:25:40: mit dem Werk, wenn man es durch eine KI erstellen
00:25:42: lässt, was eine Kombination von
00:25:44: mehreren anderen Werken ist,
00:25:46: von dritten, die die KI
00:25:48: als Inspiration genommen hat sozusagen
00:25:50: und was passiert eigentlich damit?
00:25:52: Wenn du möchtest, können wir das gerne beim
00:25:54: nächsten Mal besprechen. Das ist nämlich ein sehr interessanter
00:25:56: Fall, weil da auch eine Klage in Deutschland gerade läuft
00:25:58: gegen LAION e.V.
00:26:00: oder "Layon" e.V., die dann
00:26:02: die Basis für alle Stabil Diffusion
00:26:04: Verfahren bilden mit ihrem Bilddatensatz.
00:26:06: Da hat ein Fotograf gegen geklagt
00:26:08: und das, ja, also
00:26:10: genau, also angenommen, ich speise
00:26:12: jetzt 10.000 Bilder in eine KI rein, die
00:26:14: wird damit trainiert, oder 100.000 oder 10.000.000
00:26:16: und dann generiert sie neue
00:26:18: Bilder. So, sind die jetzt
00:26:20: verletzen die diese Urheberrechte
00:26:22: von den ursprünglichen Bildautoren
00:26:24: oder nicht?
00:26:26: Das ist eine sehr spannende Frage. Darf ich
00:26:28: überhaupt diese Eingabedaten benutzen
00:26:30: zum Training einer KI und so weiter?
00:26:32: Also das ist eine ganz andere Frage noch als die,
00:26:34: die wir jetzt aufgeworfen haben, die aber auch sehr wichtig ist
00:26:36: und da habe ich aber doch noch eine Anmerkung. Also ich
00:26:38: bin schon der Meinung, also
00:26:40: ob man es jetzt als geistige Schöpfung
00:26:42: bezeichnen will oder nicht, ist eine andere
00:26:44: Frage. Wir sind uns wahrscheinlich einig. Zunächst mal
00:26:46: würde man nicht sagen, dass eine KI
00:26:48: eine geistige Schöpfung vollzieht.
00:26:50: Hast du ja, glaube ich, eben gerade gesagt.
00:26:52: Dass du es auch so siehst. Aber ich
00:26:54: sehe es schon so, dass
00:26:56: KI generierte Bilder per se,
00:26:58: also sofern sie neue Werke sind,
00:27:00: per se dem Urheberrecht
00:27:02: unterliegen und zwar auch ohne, dass
00:27:04: ein Mensch weiteres hinzutut.
00:27:06: Zum einen
00:27:08: könnte man sagen, weil der Mensch schon
00:27:10: die KI erstellt hat. Das ist jetzt vielleicht nicht wirklich
00:27:12: ein Hauptgrund, weil man könnte auch sagen,
00:27:14: Picasso wurde auch von seinen Eltern erzogen
00:27:16: und die sind ja jetzt auch nicht die Urheber von Picassos Werken.
00:27:18: Andererseits
00:27:20: aber nochmal der Punkt,
00:27:22: wenn es davon abhängt,
00:27:24: ob eine KI ein Bild gemalt hat oder ein Mensch
00:27:26: und man gar nicht weiß, ob es die KI war oder ein Mensch,
00:27:28: dann kann es doch irgendwie
00:27:30: keinen Unterschied machen. Ich meine, nur das Wissen,
00:27:32: ob es ein Mensch war oder eine KI, kann doch jetzt nicht
00:27:34: den Ausschlag geben. Also das mag
00:27:36: momentan vielleicht so sein in den USA
00:27:38: zumindest. In Deutschland weiß man es ja wohl noch nicht.
00:27:40: Aber das ist doch lebensfern.
00:27:42: Also realitätsfremd ist das doch.
00:27:44: Auch selbst wenn das Gesetz so wäre
00:27:46: oder ist, wird es meiner Meinung nach
00:27:48: wahrscheinlich demnächst geändert werden müssen, weil
00:27:50: die KI ja jetzt diese Möglichkeiten
00:27:52: erst hat. Vorher konnte sie den Menschen
00:27:54: ja gar nicht so imitieren. Stichwort Turing-Test.
00:27:56: Für mich ist eine KI,
00:27:58: die ein Bild generiert, kann auch ein potenzieller
00:28:00: Urheber sein. Das sehe ich schon so.
00:28:02: Ja, das ist doch sehr
00:28:04: spannend. Ich denke, wir nutzen
00:28:06: das, greifen das beim nächsten Mal auf,
00:28:08: gehen dann auf den zweiten Teil dieser Thematik
00:28:10: ein, betrachten das von der Seite, die
00:28:12: du gerade angesprochen hast und
00:28:14: dann kommen wir ja auch zu dem
00:28:16: Punkt, wo wir dann
00:28:18: merken, okay, wie stufen
00:28:20: wir denn KI jetzt wirklich ein? Im ersten
00:28:22: Moment haben wir jetzt gesagt, okay, eigentlich
00:28:24: eher nicht. Aber
00:28:26: mit der Berücksichtigung dieser Zusatzinformation,
00:28:28: die du gerade reingebracht hast,
00:28:30: tut es ja die Frage auf, naja, in welchem
00:28:32: Umfang vielleicht doch? Und das ist ja sehr
00:28:34: spannend, das dann auch mal
00:28:36: mit aktuellen Gerichtsverfahren zu
00:28:38: vergleichen. Also wie sieht die juristische
00:28:40: Seite das und wie sieht die
00:28:42: pragmatische Seite das? Das ist ja
00:28:44: eigentlich das Spannende hinter dieser
00:28:46: Sache, gerade wenn es darum geht,
00:28:48: was sind das für Trainingsdaten
00:28:50: und welche Einwilligungen oder
00:28:52: Nicht-Einwilligungen liegen hier vor?
00:28:54: Da sind wir ja dann auch wieder beim Datenschutz
00:28:56: und den Persönlichkeitsrechten.
00:28:58: Also von daher passt das doch eigentlich
00:29:00: ganz schön zusammen auch zur letzten Folge.
00:29:02: Ja, sehr gut.
00:29:04: Es war auf jeden Fall wieder super spannend.
00:29:06: Ich fand das total klasse,
00:29:08: wo sich der Dialog hinentwickelt hat und wie er
00:29:10: den Bogen zurückgespannt hat. Und ich
00:29:12: bin sehr gespannt auf deine Infos zu
00:29:14: dem Thema in der nächsten Folge, wenn wir
00:29:16: dann darüber reden, wie
00:29:18: verfahren wir denn mit Dingen, mit
00:29:20: Trainingsdaten und Schöpfungswerken,
00:29:22: die Werke anderer Leute als
00:29:24: Grundlage nehmen? Da freue ich mich sehr
00:29:26: drauf. Ja, ich auch.
00:29:28: Stephan, es war sehr erkenntnisreich.
00:29:30: Du hattest es gesagt. Für mich ist es
00:29:32: auch in einen ganz anderen Aspekt reingegangen,
00:29:34: den ich so gar nicht direkt auf dem Schirm hatte. Wir haben
00:29:36: uns zwar grundsätzlich bekannt, aber die Diskussion
00:29:38: hat gezeigt, dass es doch ein sehr wichtiger Aspekt ist
00:29:40: und da könnte man wahrscheinlich sehr lange
00:29:42: über Philosophien und sehr viele verschiedene Meinungen
00:29:44: bilden, die auch begründbar sind und
00:29:46: fand ich sehr spannend, dass wir da heute
00:29:48: so drüber gesprochen haben.
00:29:50: Dito, mein Freund.
00:29:52: Dann würde ich sagen an alle Zuhörer da
00:29:54: draußen, macht euch noch einen schönen Tag.
00:29:56: Ich hoffe, es hat euch gefallen und ihr schaltet
00:29:58: beim nächsten Mal euch wieder zu
00:30:00: und sperrt die Lauscher auf. Gebt uns gerne
00:30:02: auch Feedback. Wir haben immer Lust,
00:30:04: die Diskussion zu erweitern.
00:30:06: Leberklaus, ich wünsche dir alles Gute
00:30:08: und bis zum nächsten Mal.
00:30:10: Tschüss.
00:30:12: Das war Datenschutz Deluxe.
00:30:14: Du willst mehr spannende
00:30:16: Themen oder Kontakt zu uns?
00:30:18: Dann besuche Klaus Meffert auf
00:30:20: seinem Blog Dr. DSGVO
00:30:22: und Stephan Plesnik auf
00:30:24: seinem YouTube-Kanal Datenschutz ist Pflicht.
00:30:26: Bis zum nächsten Mal.
Neuer Kommentar