MemoriesBox
Test

Das EU-KI-Gesetz, Artikel 50, erklärt für Familien

Der Artikel 50 des EU-KI-Gesetzes gilt seit dem 2. August 2026. Er verlangt, dass Menschen erfahren, wenn sie mit einem KI-System sprechen, und dass künstlich erzeugte Audios, Bilder und Videos als solche gekennzeichnet werden. MemoriesBox erfüllt beides, und auf dieser Seite zeigen wir, wie.

Angaben auf dieser Seite geprüft

Die Kurzfassung

Artikel 50 ist der Transparenz-Artikel des EU-KI-Gesetzes, Verordnung (EU) 2024/1689. Er gilt seit dem 2. August 2026, also fünfzehn Tage vor dem Erstellungsdatum dieser Seite. Er verlangt zwei einfache Dinge und eine technische Vorgabe: Sie müssen erfahren, wenn Sie mit einem KI-System interagieren; von KI erzeugte Inhalte müssen so gekennzeichnet sein, dass Maschinen sie erkennen können; und wer ein System einsetzt, das eine künstliche Stimme oder ein künstliches Gesicht einer echten Person erzeugt, muss offenlegen, dass es künstlich ist.

Es verbietet das Klonen von Stimmen nicht. Es regelt nur, wie ehrlich man damit umgehen muss.

Das Datum wurde anhand von Artikel 113 der Verordnung geprüft, wie sie am Tag der Überprüfung auf eur-lex steht. Die digitalen Omnibus-Vorschläge der Kommission aus Ende 2025 sahen für einige Kennzeichnungspflichten nach Artikel 50 Übergangsfristen vor; unabhängig davon behandeln wir den 2. August 2026 als maßgeblich, weil die Offenlegung ohnehin richtig war – ob sie nun Pflicht wurde oder nicht.

Was Artikel 50 tatsächlich verlangt

Artikel 50 hat vier inhaltliche Absätze, die jeweils andere Akteure binden.

Absatz Wer ist gebunden In einfachen Worten Gilt für MemoriesBox
50(1) Anbieter von KI-Systemen, die direkt mit Menschen interagieren Das System muss so gestaltet sein, dass eine Person erfährt, dass sie mit KI spricht – außer es ist für eine durchschnittlich informierte, aufmerksame und verständige Person offensichtlich Ja
50(2) Anbieter von Systemen, die synthetisches Audio, Bild, Video oder Text erzeugen Die Ausgabe muss maschinenlesbar gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sein, soweit technisch machbar Ja
50(3) Betreiber von Systemen zur Emotions- oder biometrischen Erkennung Betroffene Personen müssen informiert werden Nein. Wir betreiben keine solchen Systeme
50(4) Betreiber von Systemen, die ein Deepfake erzeugen Offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde Ja

Zwei Definitionen sind hier besonders wichtig. Ein Deepfake ist laut Artikel 3(60) ein durch KI erzeugtes oder manipuliertes Bild-, Audio- oder Videomaterial, das echten Personen, Objekten, Orten oder Ereignissen ähnelt und fälschlich authentisch wirkt. Eine synthetische Stimme einer echten Person fällt klar darunter – egal, ob sie liebevoll oder mit böser Absicht erstellt wurde. Das Gesetz unterscheidet nicht nach Motivation, und das ist auch richtig so.

Artikel 50(5) regelt das Timing. Die Information muss „klar und deutlich spätestens zum Zeitpunkt der ersten Interaktion oder Exposition“ gegeben werden und barrierefrei sein. Nicht in den Nutzungsbedingungen. Nicht auf Seite vier der Einstellungen. Am Anfang, in einer Form, die die Person wirklich wahrnimmt.

Die wichtigen Termine

Datum Was begann
1. August 2024 Das KI-Gesetz trat in Kraft
2. Februar 2025 Verbotene Praktiken (Artikel 5) und die Pflicht zur KI-Kompetenz (Artikel 4)
2. August 2025 Regeln für allgemeine KI, Governance und Sanktionsregime
2. August 2026 Allgemeine Anwendung, einschließlich der Transparenzpflichten aus Artikel 50
2. August 2027 Hochrisiko-Klassifizierung nach Artikel 6(1) und die damit verbundenen Pflichten

Die Staffelung steht in Artikel 113 der Verordnung.

Welche Rolle MemoriesBox einnimmt

Das Gesetz teilt die Pflichten zwischen Anbietern, die ein System auf den Markt bringen, und Betreibern, die es nutzen. Ein kleines Unternehmen, das ein Familienprodukt auf Basis eines fremden Sprachmodells baut, kann beides sein.

Wir versuchen nicht, uns in die leichtere Kategorie zu argumentieren. Wir behandeln uns als gebunden an Artikel 50(1), 50(2) und 50(4) und legen das entsprechend offen. Sollte die Einordnung je anders ausfallen, ändert sich das Verhalten auf der Seite trotzdem nicht.

Was das für Ihre Familie bei MemoriesBox bedeutet

  • Das Gespräch weist bei jeder Sitzung, gleich zu Beginn, darauf hin, dass es KI ist. Nicht nur einmal bei der Anmeldung.
  • Synthetisches Audio, das vom Avatar erzeugt wird, ist so gekennzeichnet, dass eine Maschine es als künstlich erkennt. Erwägungsgrund 133 der Verordnung nennt die Techniken: Wasserzeichen, Metadaten, kryptografische Herkunftsnachweise und Protokollierung.
  • Die Originalaufnahmen Ihres Angehörigen sind nicht synthetisch. Sie sind eine echte Person am Mikrofon, und Artikel 50 verlangt dafür keine Kennzeichnung. Diese Unterscheidung ist die wichtigste auf dieser Seite.

Wie das konkret im Produkt aussieht:

Pflicht Wo sie erfüllt wird
50(1), Hinweis auf KI Ein Hinweis unter der Gesprächsüberschrift auf der digitalen-Selbst-Seite, bei jeder Sitzung, in allen fünf Sprachen: „Dies ist eine digitale Nachbildung, erstellt nur aus Ihren eigenen Aufnahmen. Es ist keine Person und weiß nichts, was Sie ihm nicht erzählt haben.“ Das Modell selbst wird angewiesen, sich im Gespräch nie als KI auszugeben – deshalb steht der Hinweis in der Oberfläche, nicht in der Antwort
50(2), maschinenlesbare Kennzeichnung Jede erzeugte Audiodatei wird mit Metadaten gespeichert – die im Erwägungsgrund 133 zuerst genannte Technik – mit ai-generated: true und Angabe des Generators, sowohl im Objektspeicher als auch in den Tags der Mediathek. Eine Maschine erkennt so den Unterschied zur echten Aufnahme, und genau darum geht es
50(4), Offenlegung des Deepfakes Derselbe Hinweis, dazu diese Seite und die Tatsache, dass echte Aufnahmen und generierte Antworten unterschiedlich gespeichert und gekennzeichnet werden

Was noch nicht umgesetzt ist: ein hörbares oder eingebettetes Wasserzeichen direkt im Audio. Metadaten bleiben in unserer Speicherung erhalten, gehen aber verloren, sobald jemand die Datei über einen Lautsprecher abspielt und neu aufnimmt – das ist die Grenze, die auch die Verordnung anerkennt. Sobald es einen von der KI-Behörde anerkannten Standard für ein eingebettetes Wasserzeichen gibt, werden wir ihn umsetzen; bis dahin sind die Metadaten die Kennzeichnung, und dieser Absatz ist die Offenlegung, dass es Metadaten sind.

Was Artikel 50 nicht regelt

  • Er verbietet das Klonen von Stimmen nicht. Nichts in Artikel 50 untersagt es, eine synthetische Stimme einer einwilligenden Person zu erstellen.
  • Er ersetzt nicht die DSGVO. Artikel 50(6) stellt ausdrücklich klar, dass diese Pflichten andere unions- und nationalrechtliche Vorschriften unberührt lassen. Einwilligung, Rechtsgrundlage und Betroffenenrechte sind eigene Themen, behandelt unter /trust/is-voice-cloning-legal-in-europe.
  • Er schützt Verstorbene nicht. Die Pflichten aus Artikel 50 gelten für natürliche Personen, die mit einem System interagieren oder ihm ausgesetzt sind. Eine verstorbene Person ist keine natürliche Person mehr, die etwas ausgesetzt ist. Schutz bieten hier das nationale Persönlichkeitsrecht und die eigenen Regelungen zu Lebzeiten. Siehe /trust/who-owns-a-voice-clone.
  • Er entscheidet nicht, ob das eine gute Idee ist. Das finden Sie unter /trust/consent, wo die Kritik an der Kategorie ausführlich dargestellt wird – nicht mit einem Slogan beantwortet.
  • Er gilt nicht außerhalb der EU. Ein US- oder australischer Dienst, der europäische Familien erreicht, kann je nach Ausgestaltung betroffen sein, aber eine Familie in Ohio mit einem amerikanischen Produkt kann sich nicht auf Artikel 50 berufen.

Was passiert, wenn ein Unternehmen ihn ignoriert

Die Nichtbeachtung von Artikel 50 ist in Artikel 99(4)(g) der Verordnung geregelt: Verwaltungsstrafen von bis zu 15.000.000 EUR oder bis zu 3 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres, je nachdem, welcher Betrag höher ist. Für kleine und mittlere Unternehmen, einschließlich Start-ups, kehrt Artikel 99(6) das Verhältnis um, sodass die Obergrenze der jeweils niedrigere Betrag ist. Nach dieser Vorschrift würde ein Unternehmen unserer Größe beurteilt.

Die Durchsetzung erfolgt über nationale Marktüberwachungsbehörden nach Artikel 70. Nach Artikel 85 kann jede natürliche oder juristische Person, die Grund zu der Annahme hat, dass die Verordnung verletzt wurde, eine Beschwerde bei der zuständigen Behörde einreichen. Sie brauchen dafür keinen Anwalt und müssen auch kein Kunde sein.

Die EU ist mit dieser Haltung nicht allein. In China verlangen die im April 2026 veröffentlichten Entwürfe der Cyberspace Administration, dass digitale Menschen als KI-generiert gekennzeichnet werden, verbieten Klone ohne Einwilligung und setzen Strafen zwischen ¥10.000 und ¥200.000 fest. In den USA weisen der vorgeschlagene NO FAKES Act und immer mehr Gesetze zu digitalen Abbildern in die gleiche Richtung.

Was wir nicht versprechen können

  • Wir können nicht versprechen, dass eine Kennzeichnung immer erhalten bleibt. Maschinenlesbare Kennzeichnung ist nur „soweit technisch machbar“ gefordert, und Audio, das neu aufgenommen, komprimiert oder über einen Lautsprecher abgespielt wird, kann sie verlieren. Die Verordnung erkennt diesen Stand der Technik als Grenze an. Wer ein unzerstörbares Wasserzeichen verspricht, übertreibt.
  • Wir können nicht versprechen, dass die Standards endgültig sind. Artikel 50(7) beauftragt die KI-Behörde, Leitlinien zur Erkennung und Kennzeichnung zu erarbeiten – das ist noch nicht abgeschlossen. Was heute Stand der Technik ist, kann in zwei Jahren überholt sein.
  • Wir können nicht versprechen, dass diese Seite eine Rechtsberatung ist. Sie ist eine verständliche Auslegung von denjenigen, die sie einhalten müssen. Für wichtige Entscheidungen lesen Sie die Verordnung selbst oder fragen Sie eine Anwältin oder einen Anwalt in Ihrem Land.
  • Wir können nicht versprechen, dass die Einhaltung Sie vor dem schützt, was Ihnen wirklich Sorgen macht. Auch eine perfekt gekennzeichnete synthetische Stimme kann verstörend sein. Offenlegung ist eine Mindestanforderung, kein Trost.

Was das Gesetz im Original sagt

Häufige Fragen

Wann trat Artikel 50 des EU-KI-Gesetzes in Kraft?

Das KI-Gesetz trat am 1. August 2024 in Kraft, und die Transparenzpflichten aus Artikel 50 gelten seit dem 2. August 2026. Die gestaffelten Termine stehen in Artikel 113 der Verordnung.

Verbietet das EU-KI-Gesetz KI-Stimmenklone von Verstorbenen?

Nein. Artikel 50 ist eine Transparenzregel, kein Verbot. Er verlangt die Offenlegung, dass Sie es mit KI zu tun haben, und die maschinenlesbare Kennzeichnung synthetischer Audios. Ob ein bestimmter Klon zulässig ist, hängt von der Einwilligung und vom nationalen Recht ab, nicht von Artikel 50.

Muss ich erfahren, wenn ich mit einer KI spreche?

Ja. Artikel 50(1) verlangt, dass Sie informiert werden, und Artikel 50(5) verlangt, dass dies klar, deutlich, barrierefrei und spätestens bei der ersten Interaktion geschieht.

Wie hoch ist die Strafe bei Verstoß gegen Artikel 50?

Bis zu 15.000.000 EUR oder 3 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist, nach Artikel 99(4)(g). Für kleine und mittlere Unternehmen gilt der jeweils niedrigere Betrag, nach Artikel 99(6).

Gilt Artikel 50 auch für die echten Sprachaufnahmen meiner Großmutter?

Nein. Artikel 50 betrifft KI-generierte und KI-manipulierte Inhalte. Eine echte Sprachaufnahme ist kein synthetischer Inhalt und muss nicht gekennzeichnet werden. Nur die synthetische Stimme ist betroffen.

Verwandte Themen: Ist Stimmenklonen in Europa legal? · Wem gehört eine geklonte Stimme? · Wie der Stimmenklon entsteht · Wo Ihre Daten gespeichert werden · Alle anderen Wege, eine Stimme zu bewahren · Der vollständige Vergleich

MemoriesBox kostet $139 pro Jahr, gehostet in der EU, die ersten 14 Tage kostenlos. Hier starten, wenn Ihre Frage beantwortet wurde.