#31 Künstliche Intelligenz: Unterliegen KI-generierte Werke dem Urheberrecht?

Shownotes

Der Podcast rund um das Thema Datenschutz und IT. Mit Dr. Klaus Meffert und Stephan Plesnik.

31 Künstliche Intelligenz: Unterliegen KI-generierte Werke dem Urheberrecht?


Jedes Werk, das ein Mensch schafft, genießt automatisch den Schutz des Urhebergesetzes. Dies gilt immer dann, wenn eine Mindestschöpfungshöhe erreicht ist, was oft der Fall ist. Doch wie sieht es aus, wenn Werke wie Bilder, Texter oder Musik, von einer generativen KI erzeugt wurden?

Dies und einiges mehr in der aktuellen Episode von Datenschutz Deluxe sowie im Beitrag zum Podcast (und zur kommenden Folge): https://dr-dsgvo.de/kuenstliche-intelligenz-werke-von-urhebern-und-deren-schutz/
Feedback geben? Fragen stellen? Gerne hier:
https://dr-dsgvo.de
Videokanal von Stephan: https://www.youtube.com/datenschutzistpflicht

Impressum:
https://dr-dsgvo.de/impressum

Transkript anzeigen

00:00:00: Datenschutz Deluxe, der Podcast rund um das Thema Datenschutz und IT mit Dr. Klaus Meffert und Stephan Plesnik.

00:00:13: Hallo und herzlich willkommen, liebe Zuhörer beim Datenschutz Deluxe Podcast.

00:00:17: Ich bin Stephan Plesnik und bei mir ist wie immer Dr. Klaus Meffert. Klaus, wie geht es dir?

00:00:22: Stephan, freut mich, dass wir wieder sprechen und ich bin gespannt, was es zu besprechen gibt.

00:00:28: Ja wunderbar, das freut mich doch zu hören. Also was es zu besprechen gibt, hatten wir ja in der letzten Folge schon mal angeteasert,

00:00:34: weil wir irgendwie bei der Thematik KI, Datensammeln und Datenschutz irgendwie so auch an dieses Thema gestoßen sind.

00:00:40: Ja und was machen wir jetzt denn eigentlich mit dem Urheberrecht, wenn KI da so irgendwelche Sachen dabei ist zu entwickeln oder umzusetzen,

00:00:50: besser gesagt zu generieren, weil wir sprechen ja immer über Generative AI.

00:00:56: Und ja, deswegen habe ich mir gedacht, wäre es doch ganz schön, wenn wir mal über den Part Urheberrecht und KI sprechen,

00:01:04: weil da hast du ja auch schon viele Erfahrungen mit. Sag doch mal, was so deine ersten Berührungspunkte mit diesem Thema überhaupt waren.

00:01:11: Gute Frage. Ja gut, also im Prinzip fängt es ja eigentlich schon beim Fotografen an,

00:01:17: wenn man Passbilder machen lässt für sich, beziehungsweise Passbilder, die man dann auch werblich nutzen möchte, im Internet zum Beispiel.

00:01:24: Der Fotograf ist ja Urheber des Bildes, das er von mir anfertigt. Insofern muss ich seine Urheberrechte berücksichtigen, respektieren

00:01:35: und die sind ihm auch von Gott gegeben, hätte ich fast gesagt, also von Gesetz wegen schon eingeräumt,

00:01:40: ohne dass er es will und ohne dass er irgendwas dafür machen muss. Meistens will er es wahrscheinlich,

00:01:44: aber sie entstehen automatisch dadurch, dass jemand eine Schöpfung begeht, erstellt, die eine gewisse Schöpfungshöhe hat.

00:01:54: Also lapidare Dinge wie ein Viereck malen oder sowas zählt da nicht darunter.

00:01:58: Aber ein Bild erstellen oder eine Fotografie eben von mir zum Beispiel oder von dir, von wem auch immer, fällt unter das Urheberrecht.

00:02:05: Natürlich unter der Annahme, dass der Fotograf dieses Bild auf deinen Wunsch hin anfertigt und nicht einfach heimlich oder sowas.

00:02:12: Aber in meinem Fall war es ja der Wunsch. Ich habe ihm sogar Geld gegeben dafür und ich musste ihm mehr Geld geben,

00:02:18: damit er mir erlaubt, dieses Bild auch auf der Webseite zum Beispiel zu nutzen.

00:02:24: Das ist bei Fotografen ja so üblich. Da kostet das Passbild beispielsweise, ich sage jetzt mal einen Betrag 30 Euro oder 40,

00:02:30: keine Ahnung was es kostet, wenn man die in ausgedruckter Form bekommt.

00:02:33: Wenn man sie in digitaler Form haben will, kostet es vielleicht nochmal ein paar Euro mehr.

00:02:36: Und wenn ich sie dann auch noch im Internet für gewerbliche Zwecke nutzen will, dann muss ich noch mehr bezahlen.

00:02:42: Und zwar wegen dem Urheberrecht. Es steht dem Fotografen frei, darüber zu entscheiden, was er mir erlaubt, was ich mit dem Bild machen darf.

00:02:49: Und natürlich einigt man sich da vorher, weil wenn ich jetzt ein Bild vom Fotografen brauche für meine Webseite und er würde es mir aber nicht erlauben,

00:02:55: dann wäre das blöd. Dann haben wir beide nichts davon.

00:02:57: Deswegen wird das vereinbart bzw. bietet der Fotograf das natürlich vorher an.

00:03:01: Sonst würde ich ja nicht zu ihm gehen und damit ist die Sache erledigt.

00:03:04: Also das war, glaube ich, meine erste Berührung mit dem Urheberrecht.

00:03:08: Ja, super. Um das mal kurz zu klarifizieren für die Zuhörer da draußen, die so wie ich gerne auch mal ins Gesetz gucken und gucken, was steht denn da wirklich drin?

00:03:17: Die beiden Punkte, die du angesprochen hast, ist einmal Paragraf 7 des Urheberrechtsgesetzes.

00:03:21: Und zwar steht da, der Urheber ist der Schöpfer des Werkes.

00:03:26: Also nicht der Inhalte im Werk, sondern des Werkes an sich, was am Ende als fertiges Werk beschrieben wird.

00:03:35: Und dann die Veröffentlichungsgeschichte steht in Paragraf 12.

00:03:39: Da steht drin, der Urheber hat das Recht zu bestimmen, ob und wie sein Werk zu veröffentlichen ist.

00:03:44: Und dem Urheber ist es vorbehalten, den Inhalt seines Werkes öffentlich mitzuteilen oder zu beschreiben.

00:03:51: Ich bin auf ganz anderen Wegen mit dem Urheberrecht das erste Mal in Berührung gekommen.

00:03:55: Und zwar zwecks Musikveröffentlichung, weil das ja auch so der Part ist, aus dem ich studiumstechnisch herkomme.

00:04:02: Und da war es eigentlich immer relativ klar geregelt.

00:04:07: Wobei es eben auch da immer wieder sehr viele Fragen gibt bezüglich Samplings.

00:04:12: Also das Verwenden einzelner Teile oder Stücke anderer künstlerischer Werke im eigenen Werk.

00:04:18: Heutzutage bei den DJ-Veröffentlichungen erleben wir das sehr häufig, dass alte Lieder neu aufgelegt werden.

00:04:25: Teilweise werden sie einfach nur wiederverwendet.

00:04:28: Und an der Stelle stellt sich dann immer die Frage des Urheberrechts und des Werkes und wer wie entlohnt werden muss.

00:04:35: Und diese Entlohnung nennt man dann Tantiemen.

00:04:38: Das waren meine ersten Berührungspunkte, weswegen ich mich dann mit GEMA und so weiter, solchen Verwertergesellschaften auseinandersetzen musste.

00:04:46: Und auch die Diskussion, die YouTube in Bezug auf die GEMA geführt hat, immer unglaublich spannend fand.

00:04:52: Weil ich bis heute nicht verstanden habe, warum die sich da auf diesen Moogs geeinigt haben.

00:04:56: Aber das ist ein anderes Thema.

00:04:59: Kommen wir mal auf die KI zurück.

00:05:01: Und zwar, wir haben ja gerade gesagt, der Urheber ist der Schöpfer des Werkes.

00:05:05: Und hier wird es jetzt spannend.

00:05:06: KI.

00:05:07: Wer ist denn der Schöpfer des Werkes, wenn eine KI ein Werk generiert?

00:05:15: Gut, also da kann ich jetzt zwei Anmerkungen zu machen.

00:05:17: Ich bin kein Jurist, aber ein bisschen kenne ich das Thema.

00:05:19: Und fangen wir mit dem ersten an.

00:05:21: In den USA gab es ja ein Gerichtsverfahren und das Gericht hat festgestellt, wie gesagt, Recht nach USA.

00:05:28: Recht, dass eben eine Künstliche Intelligenz kein Urheber sein kann.

00:05:33: Also nur Menschen können Urheber sein, hat das amerikanische Gericht festgestellt.

00:05:37: Das gilt natürlich nur für Amerika erstmal, nicht für Deutschland.

00:05:40: In Deutschland ist es aber so, ich habe jetzt gerade nachgeguckt, Paragraf 2 Urheberrechtsgesetz, da steht im Absatz 2 drin.

00:05:47: Werke im Sinne dieses Gesetzes sind nur persönliche geistige Schöpfung.

00:05:52: Also persönlich, glaube ich, könnte man somit übersetzen, dass eine Person, daher kommt ja persönlich, dieses Werk geschöpft hat, geschaffen hat, geschaffen hat, so ist das Wort.

00:06:03: Und natürlich gibt es da auch Zwischenfälle.

00:06:06: Wann ist eine Person involviert?

00:06:09: Darüber könnte man jetzt trefflich streiten.

00:06:11: Zum Beispiel, ich muss ja auch die KI erstmal anfüttern, da bin ich doch auch schon beteiligt an dem Schöpfungsprozess.

00:06:17: Oder ich nehme ein KI-Bild und verändere es danach, dann habe ich doch persönlich auch daran mitgewirkt.

00:06:22: Also das würde ich schon sagen, da kann man jetzt nicht einfach sagen, das hat eine KI erstellt.

00:06:27: Wenn ich nachträglich was verändere, dann bin ich doch offensichtlich auch mit als Person beteiligt gewesen.

00:06:31: Die Frage ist, wann ist eine KI eigentlich alleine nur beteiligt und kann sie überhaupt nur alleine beteiligt sein?

00:06:38: Also ich behaupte mal, wenn man es ganz genau nimmt, dass eine KI überhaupt nie alleine irgendwas macht,

00:06:42: sondern man sagt ihr ja vorher, ganz grob zumindest, was sie machen soll, speist ihr Daten ein, könnte man wieder darüber streiten,

00:06:49: ist das jetzt schon eine Beteiligung des Menschen im Sinne des Urgesetzes oder nicht?

00:06:54: Wahrscheinlich eher nicht, aber neben dieser Frage stellt sich ja auch noch die Frage,

00:06:59: was mit den Werken ist, die ein Mensch nimmt und dann weiterverteilt, von anderen zumindest.

00:07:05: Aber diese Frage, ob eine KI ein Schöpfer sein kann, wenn sie alleine beteiligt ist, würde ich jetzt verneinen nach der Gesetzeslage in Deutschland,

00:07:13: aber sehr oft wird es so sein, dass eben ein Bild verändert worden ist und beispielsweise durch Upscaling,

00:07:20: dann nimmt man ja wieder eine KI, dann wird es ja kompliziert oder man schneidet Teile raus aus dem Bild,

00:07:25: ist das dann auch schon eine menschliche Beteiligung oder nicht?

00:07:28: Oder was bei Stable Diffusion geht, man nimmt einzelne Bildausschnitte und maskiert die,

00:07:33: also legt eine Maske drum und sagt dann eben, der KI male hier mal was anderes hin.

00:07:41: Ich meine, es ist die menschliche Entscheidung, einen bestimmten Bildausschnitt auszuwählen und so weiter und so weiter.

00:07:46: Da kann man wirklich drüber streiten und vor allem ist es ja auch so,

00:07:49: niemand außer dem, der das Bild von der KI generieren lässt und weitergibt,

00:07:53: wenn wir beim Bild mal bleiben oder bei der Musik, wie du eben gesagt hast,

00:07:56: weiß ja, ob er was daran verändert hat oder nicht.

00:08:00: Also insofern ist die Diskussion ein bisschen virtuell, außer es ist ein KI-System,

00:08:05: was öffentlich benutzbar ist, beispielsweise durch Kunden oder ähnliches oder ganz kostenfrei

00:08:11: und dann weiß man natürlich, hat diese KI das Bild einfach so ausgespuckt oder nicht.

00:08:17: Aber oft ist es halt so, dass man den Menschen fragen müsste,

00:08:20: hat die KI an dem Bild was verändert oder an dem Musikstück oder nicht?

00:08:22: Oder hat es die KI alleine generiert?

00:08:24: Da würde der Mensch sagen, ja, ich habe da auch was dran verändert, das kann ja keiner nachprüfen.

00:08:28: Das ist sehr richtig.

00:08:32: Also eigentlich ist der Ausgangspunkt der Argumentation auch für mich an der Stelle, genau wie bei dir,

00:08:37: die KI handelt nicht aus eigenem Willen,

00:08:41: sondern sie wird durch irgendwelche Informationen gespeist und dann entsteht etwas daraus.

00:08:46: Das heißt, so gesehen kann man das eigentlich so ein bisschen vergleichen mit einem Hammer, der irgendwo rumliegt.

00:08:52: Der Hammer hat auch eine Funktionalität, die erweitert meine Fähigkeiten als Mensch.

00:08:56: Aber solange ich als Mensch den Hammer nicht anfange zu bedienen und damit einen Befehl eingebe,

00:09:01: was mit dem Hammer geschehen soll, produziert der Hammer nicht selbstständig denkend ein Ergebnis.

00:09:08: Und auch aller Anstrengungen, dass KI sowas können kann oder können wird,

00:09:13: aktuell ist es ja nun mal so, es herrscht noch eine Eingabepflicht.

00:09:17: Am Anfang muss etwas reingegeben werden und das ist eben von einer Person,

00:09:22: in dem Falle meistens eines Menschen, eingegeben worden.

00:09:26: Erst wenn die KI eine eigene Persönlichkeit entwickelt und selbstständig die Entscheidung trifft, Dinge zu erzeugen,

00:09:32: könnte man sie als Urheber eines Werkes, als Schöpfer eines Werkes bezeichnen.

00:09:38: Man kann es allerdings beliebig weit zurückrücken, also die Beteiligung des Menschen.

00:09:43: Zum Beispiel habe ich ein KI-System bei mir lokal laufen, was Bilder erzeugt

00:09:47: und da generiere ich auch noch mit einem Programm automatisiert Prompts.

00:09:51: Ich gebe da Schlüsselworte ein, beispielsweise Adjektive oder sonst irgendwas

00:09:55: und daraus werden dann zufällig Prompts entwickelt.

00:09:57: Und die werden von der KI dann genutzt, um Bilder zu erzeugen.

00:10:00: Da werden tausende Bilder generiert und dann suche ich mir die schönsten aus.

00:10:04: Bin ich jetzt beteiligt an der Bildgenerierung?

00:10:07: Ja, irgendwie natürlich schon.

00:10:09: Ich glaube, da gab es auch mal ein Urteil zu, wenn ich einen Angestellten habe

00:10:13: und sage dem, der soll mir irgendwas malen.

00:10:15: Das ist ein Grafiker, der soll mir eine Grafik malen.

00:10:18: Dann habe ich ihn ja beauftragt, genau wie ich eine KI beauftrage im Prinzip.

00:10:22: Und die KI kriegt ja kein Geld von mir, aber der Angestellte kriegt Geld von mir.

00:10:25: Ich meine, da gab es mal ein Gerichtsurteil, wenn ich einen Angestellten bezahle,

00:10:28: dann ist er zwar Urheber, aber es kann davon ausgegangen werden,

00:10:31: dass durch den Arbeitslohn dieses Werk sozusagen rechtmäßig auf mich übergegangen ist.

00:10:37: Ich meine, da war mal sowas, weil es ist ein bisschen abstrus irgendwie.

00:10:41: Ich bezahle einen Angestellten, dass er mir was malt.

00:10:44: Und dann soll er auch noch die alleinigen Rechte an diesem Werk haben.

00:10:48: Das wäre ein bisschen komisch irgendwie.

00:10:50: Also da würde ich mich sträuben, das zu akzeptieren.

00:10:52: Es gibt auch Zwischenlösungen, da ist man dann als Arbeitgeber vorsichtiger

00:10:55: und schreibt gleich einen Arbeitsvertrag rein.

00:10:57: Aber das halte ich ehrlich gesagt für pervers,

00:10:59: weil man vereinbaren muss, dass der, der Geld dafür kriegt als Angestellter,

00:11:04: der soll ja auf Weisungen handeln, das ist ja das Wesen eines Angestellten,

00:11:08: dann auch noch Inhaber von Rechten sein soll für Werke,

00:11:12: die er bezahlt bekommen hat als Angestellter.

00:11:14: Also da mag die Juristerei ein bisschen anderer Meinung manchmal sein,

00:11:18: aber ich sehe es jedenfalls so.

00:11:19: Und bei der KI kann man es eigentlich auch so sehen.

00:11:21: Ich beauftrage die KI was zu tun und insofern bin ich beteiligt.

00:11:26: Also so würde ich sehen.

00:11:27: Nichts anderes ist es meiner Meinung nach beim Angestellten.

00:11:31: Also ich sehe hier gerade auf Wikipedia zu dem Thema Person.

00:11:35: Also was ist denn im Recht eigentlich als Person definiert?

00:11:37: Und da steht es halt, dass der BGB als Oberbegriff

00:11:40: natürliche Personen und juristische Personen kennt.

00:11:43: Das wissen wir auch.

00:11:44: Und hier steht neben dem Menschen als natürliche Personen.

00:11:49: Also die natürlichen Personen sind ganz klar Menschen.

00:11:53: Und gibt es dann noch die juristischen Personen,

00:11:56: die Rechtssubjekte sind.

00:11:58: Und die unterscheiden sich halt dadurch,

00:12:00: der eine ist ab der Geburt eine Person

00:12:02: und der andere ab der Eintragung bei einem Amtsgericht,

00:12:05: also unsere Gesellschaften.

00:12:07: Und dementsprechend ist das, was du sagst,

00:12:09: ja eigentlich hier schon festgelegt.

00:12:11: Also sowohl die juristische Person als auch die natürliche Person

00:12:14: können ein Urheberrecht haben.

00:12:16: Und dementsprechend stimmt eigentlich

00:12:18: so vom ersten Tenor und Grundgefühl her das, was du sagst.

00:12:21: Der Auftraggeber, das Unternehmen in dem Falle,

00:12:24: beauftragt den Mitarbeiter, der angestellt ist,

00:12:27: damit etwas zu erstellen.

00:12:29: Und da das Unternehmen eine juristische Person darstellt,

00:12:32: kann sie auch das Urheberrecht dieses Werkes tragen,

00:12:35: weil der Mitarbeiter ja nur auf Weisung gehandelt hat.

00:12:39: Das heißt, dass er dabei kreativ geworden ist.

00:12:42: Ja, ich hoffe doch, er wird kreativ.

00:12:44: Sonst bräuchte er kein Design als Angestellter.

00:12:46: Aber ich meine, hier steht immerhin noch drin im Urhebergesetz,

00:12:49: dass es eine persönliche geistige Schöpfung sein soll.

00:12:51: Ob jetzt eine GmbH als juristische Person

00:12:53: eine geistige Schöpfung betreiben kann, kann sein, würde ich sagen.

00:12:56: Weil nämlich die natürliche Person,

00:12:58: die Teil der juristischen Person ja in dem Fall ist,

00:13:00: bei einer GmbH ist ja immer eine natürliche Person beteiligt.

00:13:03: Außer bei einer GmbH und Coca-G oder sowas

00:13:05: können es auch nur juristische Personen teilweise sein.

00:13:07: Aber GmbH ist auch eine natürliche Person beteiligt.

00:13:10: Die hat ja wohl eine geistige Schöpfungsmöglichkeit.

00:13:12: Und wenn sie Teil einer übergeordneten Einheit ist,

00:13:15: geht diese geistige Schöpfungsmöglichkeit

00:13:17: durch diese übergeordnete Einheit über.

00:13:19: Aber ich glaube, das wird jetzt sehr juristisch.

00:13:21: Und zumindest ist es ja auch so, wie eben gesagt,

00:13:24: niemand weiß ja, ob ein Mensch irgendwas nachbearbeitet hat.

00:13:27: Da gibt es zwar Verfahren mit Wasserzeichen,

00:13:29: die automatisch eingefügt werden.

00:13:31: Die sind aber teilweise nicht invariant gegen Upscaling.

00:13:35: Also ich vergrößere ein Bild um den Faktor 4,

00:13:37: dann ist das Wasserzeichen nicht mehr da.

00:13:39: Dann gibt es aber neue Verfahren,

00:13:41: die das angeblich doch noch überstehen sozusagen.

00:13:45: Also das Wasserzeichen macht dann erkennbar,

00:13:48: dass es ein KI-generiertes Bild ist.

00:13:49: Wobei ich natürlich sage,

00:13:50: wenn ich an dem KI-generierten Bild erheblich was verändere

00:13:53: und das Wasserzeichen ist immer noch da,

00:13:54: dann habe ich es trotzdem erheblich verändert.

00:13:56: Auch wenn es ursprünglich durch eine KI...

00:13:57: Also das führt alles ins Nichts.

00:13:59: Und letztendlich muss man sagen,

00:14:01: jedes Werk, was eine gewisse Schöpfungshöhe hat,

00:14:03: so sage ich es, genießt irgendwie auch einen Urheberschutz.

00:14:07: Also das muss so sein.

00:14:09: Das wird sich bestimmt auch in zehn Jahren,

00:14:11: wenn die Gesetzgebung dann soweit ist, auch klären.

00:14:14: Technik ist immer schneller als Recht,

00:14:16: aber alles andere macht im Endeffekt gar keinen Sinn

00:14:19: in der Lebenswirklichkeit.

00:14:20: Es mag juristisch anders sein momentan vielleicht,

00:14:22: aber es macht einfach keinen Sinn.

00:14:24: Dann frage ich dich,

00:14:25: Stephan, hast du das Bild jetzt alleine mit der KI erzeugt,

00:14:28: ganz ohne KI erzeugt oder mit einer KI und mit Nachbearbeitung?

00:14:32: Und wenn du jetzt möchtest, dass du Urheber bist,

00:14:33: sagst du einfach, ja, ich habe es nachbearbeitet

00:14:35: oder ich habe es selbst erzeugt.

00:14:36: Ich meine, wie kann ich dir das denn beweisen,

00:14:38: dass es anders ist?

00:14:39: Also das ist einfach Unsinn anzunehmen,

00:14:42: dass es einen Unterschied macht.

00:14:44: Also Unsinn meine ich jetzt in der Lebenswirklichkeit betrachtet.

00:14:46: Juristisch mag es vielleicht keinen Unsinn machen,

00:14:48: aber irgendwie führt es dann zu nichts.

00:14:50: Ja, das stimmt. Das sehe ich genauso.

00:14:52: Also man diskutiert dann im Endeffekt über Strohhelme

00:14:55: und vergisst, dass man eigentlich aus dem Glas

00:14:57: auch das Wasser direkt trinken kann.

00:14:59: Der Punkt ist der mit der geistigen Schöpfung.

00:15:02: Das finde ich nämlich sehr spannend,

00:15:03: weil wir haben ja darüber gesprochen,

00:15:04: dass es ganz klar ist, dem Urheber gehört das Werk.

00:15:07: Gehen wir jetzt mal davon aus, wie du das beschrieben hast.

00:15:10: Du lässt Fotos von dir machen

00:15:11: und dann ist der Urheber des Werkes

00:15:15: ist tendenziell der Fotograf.

00:15:18: Aber auch hier finde ich das jetzt sehr spannend,

00:15:20: weil wir waren ja gerade bei der Frage

00:15:22: mit dem Unternehmen und dem Mitarbeiter.

00:15:24: Wenn du zum Fotografen gehst, beauftragst du ihn,

00:15:28: sonst macht er keine Fotos von dir.

00:15:30: Und dementsprechend handelt er auch in dem Auftrag

00:15:34: auf deine Weisung.

00:15:35: Also hier müsste eigentlich

00:15:37: dann dieselbe Betrachtungsweise vorliegen,

00:15:39: dass man sagt, dann muss der Mitarbeiter

00:15:42: aber auch das Recht haben,

00:15:43: der Urheber des Werkes zu sein,

00:15:45: weil er das Werk erschaffen hat,

00:15:47: obwohl er auf Weisung gehandelt hat.

00:15:49: Eine Weisung ist nicht eine Beauftragung.

00:15:51: Also ich gebe dir mal ein Beispiel.

00:15:53: Bei der Freiberuflichkeit

00:15:54: ist es eben das Problem der Scheinselbstständigkeit.

00:15:57: Wenn man nur einen Auftraggeber hat

00:15:59: und den zu lange hat,

00:16:00: von dem wirtschaftlich abhängig und so weiter,

00:16:01: gibt es mehrere Kriterien.

00:16:03: Dann ist man scheinselbstständig

00:16:04: und in Wirklichkeit nicht selbstständig,

00:16:05: sondern angestellt.

00:16:06: Muss man nachträglich sowohl der Auftraggeber

00:16:09: als auch der Auftragnehmer

00:16:10: müssen dann Sozialabgaben nachzahlen.

00:16:12: Jetzt ist es so,

00:16:13: ein Kriterium dafür ist,

00:16:15: ob der Freiberufler zum Beispiel

00:16:17: Weisungen empfängt oder nicht.

00:16:20: Das heißt, er kann auch ohne Weisungen,

00:16:22: natürlich ist,

00:16:23: also wenn man es ganz strikt nimmt,

00:16:24: ist alles irgendwie eine Weisung,

00:16:25: weil mit Weisung ist gemeint,

00:16:27: ich erwarte jetzt,

00:16:28: dass du von 9 bis 17 Uhr hier arbeitest

00:16:31: und nicht, wann du Lust hast

00:16:32: und auch nicht, wo du willst,

00:16:34: sondern du sitzt jetzt hier am Arbeitsplatz

00:16:36: und hältst dich jetzt hier an diese Richtlinie

00:16:39: und dies und das

00:16:40: und man macht da relativ konkrete Vorgaben,

00:16:42: strenge Vorgaben.

00:16:43: Es kann auch eine kreative Arbeit sein,

00:16:44: die dann daraufhin entsteht,

00:16:46: aber der Freiberufler

00:16:47: ist eben nicht weisungsgebunden.

00:16:49: Das ist ein typisches Kriterium

00:16:50: eines Freiberuflers,

00:16:51: eines externen Mitarbeiters,

00:16:53: der nicht sozialversicherungspflichtig ist,

00:16:55: dass er eben nicht weisungsgebunden ist.

00:16:57: Das weiß ich aus eigener Erfahrung.

00:16:58: Ich hatte da auch nie Probleme mit,

00:17:00: habe natürlich Anweisungen,

00:17:02: wenn man es mal so will,

00:17:03: oder Aufträge entgegengenommen.

00:17:07: Bitte programmieren wir mal dies und das

00:17:09: oder teste mal dies und das

00:17:10: oder mach mir mal ein Konzept hierfür oder dafür.

00:17:12: Das ist natürlich in dem Sinne jetzt keine Weisung,

00:17:14: das ist ein Auftrag.

00:17:16: Das heißt, du unterscheidest an der Stelle

00:17:18: die Weisung vom Auftrag,

00:17:20: weil der Auftrag,

00:17:22: den du auch dem Fotografen gibst,

00:17:24: im Beispiel,

00:17:25: ist im Endeffekt gebunden daran,

00:17:27: dass du ihm sozusagen die Entscheidung übergibst,

00:17:32: diese Leistung durchzuführen,

00:17:34: weil es ein Auftrag ist.

00:17:36: Er kann frei entscheiden,

00:17:37: ob er ihn annimmt oder nicht.

00:17:38: Und deswegen ist es keine Weisung.

00:17:40: Er ist nicht daran gebunden,

00:17:41: das durchzuführen,

00:17:42: weil es ein irgendwie geartetes Vertragskonstrukt gibt,

00:17:45: das ihn dazu zwingt

00:17:47: oder das dich davor schützt,

00:17:48: dass er es ablehnen kann.

00:17:50: Ja, also in der Art vielleicht.

00:17:52: Wobei, das ist ein juristisch sehr schwieriges Feld,

00:17:55: wo wir uns bewegen.

00:17:56: Und ich glaube, für unseren Fall zwar auch relevant,

00:17:58: aber da möchte ich mich jetzt gar nicht so tief vorwagen,

00:18:01: weil das sehr schwierige juristische Fragen sind

00:18:04: und die teilweise auch geklärt sind,

00:18:06: teilweise noch offen.

00:18:07: Da wissen auch manche Juristen wahrscheinlich gar nicht,

00:18:10: was am Ende bei rauskommt.

00:18:11: Und selbst wenn es geklärt ist,

00:18:12: wie gesagt,

00:18:13: ich halte es einfach so beim Angestellten,

00:18:15: rein logisch,

00:18:16: denklogisch,

00:18:17: beziehungsweise Praxis,

00:18:18: Realitätslebenserfahrung.

00:18:20: Da macht es für mich keinen Sinn,

00:18:22: wenn der Angestellte auf meine Weisung hin was macht

00:18:25: und er dann die Rechte daran hat,

00:18:27: zu entscheiden,

00:18:28: was damit passiert.

00:18:29: Das macht für mich keinen Sinn.

00:18:30: Das macht für mich keinen Sinn als Arbeitgeber.

00:18:32: Dann brauche ich keine Angestellten.

00:18:35: Ja, definitiv.

00:18:36: Das erstreckt sich dann ja auch noch auf andere Bereiche,

00:18:39: wo man dann irgendwie so ein bisschen das Gefühl bekommt,

00:18:42: dass das ein bisschen weird ist.

00:18:44: Ich finde das sehr spannend in Bezug darauf,

00:18:46: wenn wir bei deinem Fotobeispiel bleiben,

00:18:48: weil das ist ja auch etwas,

00:18:49: womit sich wahrscheinlich jeder der Zuhörer identifizieren kann.

00:18:53: Und zwar nehmen wir an,

00:18:55: man geht zu einem Fotografen,

00:18:57: man lässt Fotos von sich machen.

00:18:59: Jetzt haben wir ja gerade gesagt,

00:19:01: okay, der Fotograf ist dann der Urheber des Werkes,

00:19:04: weil er das Werk erschaffen hat.

00:19:06: Und er ist als Urheber auch derjenige,

00:19:08: der frei verfügen kann,

00:19:10: wie dieses Werk verwendet wird.

00:19:12: Jetzt ist aber auf dem Werk

00:19:14: eine Abbildung einer natürlichen Person.

00:19:17: Und diese Abbildung ist ja

00:19:19: mit unseren Persönlichkeitsrechten,

00:19:21: Datenschutzgrundverordnung geschützt.

00:19:23: Das heißt, wir haben ein Entscheidungsrecht,

00:19:26: das irgendwie damit reinwirkt.

00:19:29: Und da ist jetzt die Frage,

00:19:31: wie genau wirkt das denn damit rein,

00:19:33: wenn ich jetzt dieses Foto habe?

00:19:36: Genau, also natürlich ist damit nicht gemeint,

00:19:38: dass der Fotograf mit dem Bild,

00:19:40: was er von dir macht, machen kann, was er will.

00:19:42: Er kann nur dir sagen,

00:19:44: was du damit machen darfst und was nicht.

00:19:46: Du, ist das eher gemeint,

00:19:48: weil natürlich darf er dein Bild nicht veröffentlichen.

00:19:50: Er hat dein Bild vielleicht im Archiv,

00:19:52: falls du mal Bilder nachbestellen möchtest oder so.

00:19:55: Das ist eine legitime Datenverarbeitung,

00:19:58: wobei die DSGVO ja nur für die

00:20:00: mindestens teilautomatisierte Verarbeitung von Daten gilt,

00:20:04: personenbezogenen Daten gilt.

00:20:06: Das heißt also, wenn er das Bild,

00:20:08: so wie es ganz früher war,

00:20:10: als Ausdruck nur ablegt

00:20:12: und keine Dateien davon hat,

00:20:14: dann gilt die DSGVO dafür gar nicht.

00:20:16: Meistens ist es ja so heutzutage,

00:20:18: dass da Dateien gespeichert werden

00:20:20: und gar keine physischen Bilder

00:20:22: mehr abgelegt werden beim Fotografen.

00:20:24: Da ist es dann schon was anderes.

00:20:26: Da greift die DSGVO.

00:20:28: Der hebt aber das Bild nur auf,

00:20:30: macht damit nichts,

00:20:32: außer du kommst mal wieder und sagst,

00:20:34: ich hätte gerne noch mal drei Abzüge davon

00:20:36: oder einen Großdruck davon oder was auch immer.

00:20:38: Aber er kann natürlich mit dem Bild

00:20:40: nicht machen, was er will,

00:20:42: sondern er kann nur entscheiden,

00:20:44: was du damit machen darfst.

00:20:46: Und solange du das Bild natürlich nicht veröffentlichst,

00:20:48: kannst du damit dein Bild,

00:20:50: was er von dir gemacht hat,

00:20:52: zugänglich machen,

00:20:54: kann man juristisch auch drüber streiten,

00:20:56: aber sobald ich den Personalausweis

00:20:58: bei der Polizeikontrolle zeigen muss,

00:21:00: sieht es ja jemand, aber das ist jetzt glaube ich

00:21:02: nicht mit Öffentlichkeit gemeint.

00:21:04: Also insofern kannst du das Bild für dich verwenden,

00:21:06: wie du willst. Sobald es in die Öffentlichkeit

00:21:08: durch dich gelangen soll, brauchst du die Einwilligung

00:21:10: des Fotografen.

00:21:12: Nicht Einwilligung,

00:21:14: sondern die Erlaubnis, möchte ich lieber sagen,

00:21:16: weil bei einer Einwilligung, die könnte man ja auch wieder rufen.

00:21:18: Ja genau,

00:21:20: das ist ja ein gutes Stichwort.

00:21:22: Wir haben da ja

00:21:24: den Punkt der Einwilligungspflicht

00:21:26: zur Veröffentlichung, weil eben

00:21:28: die Person, die abgebildet ist,

00:21:30: mitentscheiden darf, wie das

00:21:32: Werk zu veröffentlichen ist.

00:21:34: Der Urheber darf quasi

00:21:36: entscheiden, was mit dem Werk

00:21:38: gemacht wird, also in welchem Rahmen

00:21:40: es veröffentlicht werden darf,

00:21:42: aber die abgebildeten Personen,

00:21:44: die Persönlichkeitsrechte haben,

00:21:46: dürfen entscheiden, ob innerhalb

00:21:48: dieses Rahmens die Veröffentlichung

00:21:50: für sie überhaupt genehm ist.

00:21:52: Und das muss eben auch, wenn man so möchte,

00:21:54: schriftlich geklärt sein,

00:21:56: wenn der Fotograf vorhat,

00:21:58: zum Beispiel damit zu werben,

00:22:00: mit diesen Fotos, für

00:22:02: seine Tätigkeit als Fotograf.

00:22:04: Und das ist

00:22:06: halt eine Sache, die ganz wichtig ist,

00:22:08: weil eigentlich hat die DSGVO so gesehen

00:22:10: an der öffentlichen Fotografie

00:22:12: nur an der Stelle wirklich was verändert,

00:22:14: dass die Leute das Recht haben,

00:22:16: zu sagen, Leute,

00:22:18: ich möchte aber, dass mein Werk

00:22:20: nur da und dafür veröffentlicht wird,

00:22:22: und ich möchte zum Beispiel nicht, dass ihr damit

00:22:24: werbt, schon gar nicht in öffentlichen Medien.

00:22:26: Da muss man dazu sagen,

00:22:28: das BDSG hatte das immer schon drin,

00:22:30: und das ganze Gerede

00:22:32: damals aus der Fotografen-Szene,

00:22:34: sag ich mal, als die DSGVO kam,

00:22:36: hab ich persönlich

00:22:38: gar nicht wirklich verstanden, weil

00:22:40: für die hat sich nicht wirklich was verändert,

00:22:42: die mussten halt nur darüber informieren, dass sie das tun,

00:22:44: was sie tun, und das ist ja

00:22:46: nichts weiter Schlimmes eigentlich, wenn man so möchte.

00:22:48: Ist ja nicht gut, ist ja mehr Transparenz.

00:22:50: Also das ist ein gutes Beispiel mit dieser Werbung, die du

00:22:52: ansprichst von Fotografen. Also ich kenne

00:22:54: jetzt die klassische Fotografen-Werbung,

00:22:56: da gibt es bestimmt mehrere, aber eine Art

00:22:58: der Werbung ist, man nimmt ein Bild

00:23:00: einer fotografierten Person

00:23:02: und stellt es ins Schaufenster, weil

00:23:04: das ist ja repräsentativ, da kann der Fotograf

00:23:06: zeigen, was er kann. Wenn ich

00:23:08: jetzt ein gemaltes Bild reinstelle, ist ja Quatsch, der Fotograf

00:23:10: soll ja fotografieren und nicht malen. Also

00:23:12: dafür brauche ich natürlich

00:23:14: die Einwilligung

00:23:16: der abgebildeten Person,

00:23:18: aber wie gesagt, ein

00:23:20: Bild, was ausgedruckt

00:23:22: ist und wo es vielleicht auch keine Dateien mehr

00:23:24: davon gibt, ist kein digitales

00:23:26: Produkt, da gibt es keine

00:23:28: teilautomatisierte Verarbeitung, da gibt es die

00:23:30: DSGVO nicht und das BDSG

00:23:32: würde wahrscheinlich dann auch

00:23:34: nicht gelten.

00:23:36: Muss man mal gucken, ob da drin steht,

00:23:38: ob es für die teilautomatisierte

00:23:40: Verarbeitung erst gilt, so wie die DSGVO

00:23:42: oder immer, weil wie gesagt,

00:23:44: wenn es nur ein ausgedrucktes Bild

00:23:46: ist, dann gibt es keine

00:23:48: teilautomatisierte Verarbeitung, zumindest

00:23:50: wenn sie dann nicht mehr vorliegt

00:23:52: ab dem Moment, wo es gedruckt wurde, man hat

00:23:54: die Dateien gelöscht als Beispiel.

00:23:56: Dann reden wir nicht über die DSGVO,

00:23:58: dann reden wir höchstens über

00:24:00: Persönlichkeitsrechte oder ähnliches,

00:24:02: also das ist ein anderes Thema, aber wir sind ja bei dem Thema

00:24:04: KI und Urheberrecht,

00:24:06: oder was?

00:24:08: Also ich finde, wir haben da auch

00:24:10: jetzt einen ziemlich spannenden Bogen gehabt.

00:24:12: Wir haben beim Urheberrecht begonnen, wir haben uns

00:24:14: die Frage gestellt, kann

00:24:16: KI ein Urheber sein?

00:24:18: Und zumindest wir beide sind

00:24:20: unisono der Meinung, naja, ohne

00:24:22: das Einwirken eines Menschen,

00:24:24: A, gäbe es gar keine KI und

00:24:26: B, trifft

00:24:28: diese KI auch keine wirklichen Entscheidungen,

00:24:30: sondern sie reagiert mehr

00:24:32: auf Inputs irgendeiner Form

00:24:34: und damit ist von einer geistigen

00:24:36: Schöpfung im engeren Sinne so

00:24:38: erstmal nicht zu sprechen.

00:24:40: Und außerdem haben wir geklärt,

00:24:42: dass diese

00:24:44: Urheberrechtsfrage in Bezug

00:24:46: auf was mit dem Werk, was generiert

00:24:48: wird, dann

00:24:50: sozusagen passieren soll

00:24:52: später, dass wir sagen,

00:24:54: okay, wir müssen auf der einen Seite

00:24:56: berücksichtigen, was wird auf dem Bild

00:24:58: dargestellt und

00:25:00: berührt das eben Persönlichkeitsrechte

00:25:02: einer natürlichen Person.

00:25:04: Wenn ja, dann hat die ein

00:25:06: Entscheidungsrecht, ein Einwilligungsrecht.

00:25:08: Wenn nein, gehört das

00:25:10: Urheberrecht an dem erstellten Werk aus

00:25:12: der KI erstmal per se der Person,

00:25:14: der der KI den Auftrag

00:25:16: erteilt hat oder die Eingabe gemacht hat,

00:25:18: dieses Werk zu erzeugen.

00:25:20: Also zwei Sachen dazu. Das eine

00:25:22: ist, vielleicht können wir tatsächlich beim nächsten Mal nochmal

00:25:24: über Urheberrecht sprechen. Wir haben jetzt diesmal

00:25:26: über einen sehr spannenden Aspekt gesprochen, den ich so gar nicht

00:25:28: so tief auf dem Schirm hatte, bin ich dir sehr dankbar

00:25:30: dafür, und zwar die Erzeugung

00:25:32: des Werkes an sich.

00:25:34: Das zweite ist aber, wo du jetzt

00:25:36: angeknüpft hast, wobei die Zeit wahrscheinlich nicht mehr reicht,

00:25:38: da hätte ich auch noch einiges zu sagen. Was ist

00:25:40: mit dem Werk, wenn man es durch eine KI erstellen

00:25:42: lässt, was eine Kombination von

00:25:44: mehreren anderen Werken ist,

00:25:46: von dritten, die die KI

00:25:48: als Inspiration genommen hat sozusagen

00:25:50: und was passiert eigentlich damit?

00:25:52: Wenn du möchtest, können wir das gerne beim

00:25:54: nächsten Mal besprechen. Das ist nämlich ein sehr interessanter

00:25:56: Fall, weil da auch eine Klage in Deutschland gerade läuft

00:25:58: gegen LAION e.V.

00:26:00: oder "Layon" e.V., die dann

00:26:02: die Basis für alle Stabil Diffusion

00:26:04: Verfahren bilden mit ihrem Bilddatensatz.

00:26:06: Da hat ein Fotograf gegen geklagt

00:26:08: und das, ja, also

00:26:10: genau, also angenommen, ich speise

00:26:12: jetzt 10.000 Bilder in eine KI rein, die

00:26:14: wird damit trainiert, oder 100.000 oder 10.000.000

00:26:16: und dann generiert sie neue

00:26:18: Bilder. So, sind die jetzt

00:26:20: verletzen die diese Urheberrechte

00:26:22: von den ursprünglichen Bildautoren

00:26:24: oder nicht?

00:26:26: Das ist eine sehr spannende Frage. Darf ich

00:26:28: überhaupt diese Eingabedaten benutzen

00:26:30: zum Training einer KI und so weiter?

00:26:32: Also das ist eine ganz andere Frage noch als die,

00:26:34: die wir jetzt aufgeworfen haben, die aber auch sehr wichtig ist

00:26:36: und da habe ich aber doch noch eine Anmerkung. Also ich

00:26:38: bin schon der Meinung, also

00:26:40: ob man es jetzt als geistige Schöpfung

00:26:42: bezeichnen will oder nicht, ist eine andere

00:26:44: Frage. Wir sind uns wahrscheinlich einig. Zunächst mal

00:26:46: würde man nicht sagen, dass eine KI

00:26:48: eine geistige Schöpfung vollzieht.

00:26:50: Hast du ja, glaube ich, eben gerade gesagt.

00:26:52: Dass du es auch so siehst. Aber ich

00:26:54: sehe es schon so, dass

00:26:56: KI generierte Bilder per se,

00:26:58: also sofern sie neue Werke sind,

00:27:00: per se dem Urheberrecht

00:27:02: unterliegen und zwar auch ohne, dass

00:27:04: ein Mensch weiteres hinzutut.

00:27:06: Zum einen

00:27:08: könnte man sagen, weil der Mensch schon

00:27:10: die KI erstellt hat. Das ist jetzt vielleicht nicht wirklich

00:27:12: ein Hauptgrund, weil man könnte auch sagen,

00:27:14: Picasso wurde auch von seinen Eltern erzogen

00:27:16: und die sind ja jetzt auch nicht die Urheber von Picassos Werken.

00:27:18: Andererseits

00:27:20: aber nochmal der Punkt,

00:27:22: wenn es davon abhängt,

00:27:24: ob eine KI ein Bild gemalt hat oder ein Mensch

00:27:26: und man gar nicht weiß, ob es die KI war oder ein Mensch,

00:27:28: dann kann es doch irgendwie

00:27:30: keinen Unterschied machen. Ich meine, nur das Wissen,

00:27:32: ob es ein Mensch war oder eine KI, kann doch jetzt nicht

00:27:34: den Ausschlag geben. Also das mag

00:27:36: momentan vielleicht so sein in den USA

00:27:38: zumindest. In Deutschland weiß man es ja wohl noch nicht.

00:27:40: Aber das ist doch lebensfern.

00:27:42: Also realitätsfremd ist das doch.

00:27:44: Auch selbst wenn das Gesetz so wäre

00:27:46: oder ist, wird es meiner Meinung nach

00:27:48: wahrscheinlich demnächst geändert werden müssen, weil

00:27:50: die KI ja jetzt diese Möglichkeiten

00:27:52: erst hat. Vorher konnte sie den Menschen

00:27:54: ja gar nicht so imitieren. Stichwort Turing-Test.

00:27:56: Für mich ist eine KI,

00:27:58: die ein Bild generiert, kann auch ein potenzieller

00:28:00: Urheber sein. Das sehe ich schon so.

00:28:02: Ja, das ist doch sehr

00:28:04: spannend. Ich denke, wir nutzen

00:28:06: das, greifen das beim nächsten Mal auf,

00:28:08: gehen dann auf den zweiten Teil dieser Thematik

00:28:10: ein, betrachten das von der Seite, die

00:28:12: du gerade angesprochen hast und

00:28:14: dann kommen wir ja auch zu dem

00:28:16: Punkt, wo wir dann

00:28:18: merken, okay, wie stufen

00:28:20: wir denn KI jetzt wirklich ein? Im ersten

00:28:22: Moment haben wir jetzt gesagt, okay, eigentlich

00:28:24: eher nicht. Aber

00:28:26: mit der Berücksichtigung dieser Zusatzinformation,

00:28:28: die du gerade reingebracht hast,

00:28:30: tut es ja die Frage auf, naja, in welchem

00:28:32: Umfang vielleicht doch? Und das ist ja sehr

00:28:34: spannend, das dann auch mal

00:28:36: mit aktuellen Gerichtsverfahren zu

00:28:38: vergleichen. Also wie sieht die juristische

00:28:40: Seite das und wie sieht die

00:28:42: pragmatische Seite das? Das ist ja

00:28:44: eigentlich das Spannende hinter dieser

00:28:46: Sache, gerade wenn es darum geht,

00:28:48: was sind das für Trainingsdaten

00:28:50: und welche Einwilligungen oder

00:28:52: Nicht-Einwilligungen liegen hier vor?

00:28:54: Da sind wir ja dann auch wieder beim Datenschutz

00:28:56: und den Persönlichkeitsrechten.

00:28:58: Also von daher passt das doch eigentlich

00:29:00: ganz schön zusammen auch zur letzten Folge.

00:29:02: Ja, sehr gut.

00:29:04: Es war auf jeden Fall wieder super spannend.

00:29:06: Ich fand das total klasse,

00:29:08: wo sich der Dialog hinentwickelt hat und wie er

00:29:10: den Bogen zurückgespannt hat. Und ich

00:29:12: bin sehr gespannt auf deine Infos zu

00:29:14: dem Thema in der nächsten Folge, wenn wir

00:29:16: dann darüber reden, wie

00:29:18: verfahren wir denn mit Dingen, mit

00:29:20: Trainingsdaten und Schöpfungswerken,

00:29:22: die Werke anderer Leute als

00:29:24: Grundlage nehmen? Da freue ich mich sehr

00:29:26: drauf. Ja, ich auch.

00:29:28: Stephan, es war sehr erkenntnisreich.

00:29:30: Du hattest es gesagt. Für mich ist es

00:29:32: auch in einen ganz anderen Aspekt reingegangen,

00:29:34: den ich so gar nicht direkt auf dem Schirm hatte. Wir haben

00:29:36: uns zwar grundsätzlich bekannt, aber die Diskussion

00:29:38: hat gezeigt, dass es doch ein sehr wichtiger Aspekt ist

00:29:40: und da könnte man wahrscheinlich sehr lange

00:29:42: über Philosophien und sehr viele verschiedene Meinungen

00:29:44: bilden, die auch begründbar sind und

00:29:46: fand ich sehr spannend, dass wir da heute

00:29:48: so drüber gesprochen haben.

00:29:50: Dito, mein Freund.

00:29:52: Dann würde ich sagen an alle Zuhörer da

00:29:54: draußen, macht euch noch einen schönen Tag.

00:29:56: Ich hoffe, es hat euch gefallen und ihr schaltet

00:29:58: beim nächsten Mal euch wieder zu

00:30:00: und sperrt die Lauscher auf. Gebt uns gerne

00:30:02: auch Feedback. Wir haben immer Lust,

00:30:04: die Diskussion zu erweitern.

00:30:06: Leberklaus, ich wünsche dir alles Gute

00:30:08: und bis zum nächsten Mal.

00:30:10: Tschüss.

00:30:12: Das war Datenschutz Deluxe.

00:30:14: Du willst mehr spannende

00:30:16: Themen oder Kontakt zu uns?

00:30:18: Dann besuche Klaus Meffert auf

00:30:20: seinem Blog Dr. DSGVO

00:30:22: und Stephan Plesnik auf

00:30:24: seinem YouTube-Kanal Datenschutz ist Pflicht.

00:30:26: Bis zum nächsten Mal.

Neuer Kommentar

Dein Name oder Pseudonym (wird öffentlich angezeigt)
Mindestens 10 Zeichen
Durch das Abschicken des Formulars stimmst du zu, dass der Wert unter "Name oder Pseudonym" gespeichert wird und öffentlich angezeigt werden kann. Wir speichern keine IP-Adressen oder andere personenbezogene Daten. Die Nutzung deines echten Namens ist freiwillig.