Noch 3 Plätze: Triff das KI-Unicorn ElevenLabs bei uns! 🏔️

Guten Abend Smart Chiefs,

ist das noch ein „Growth Hack“ oder schon digitaler Diebstahl?

Ich beobachte gerade einen Trend, der mich nachdenklich macht: Eine US-Influencerin zeigt, wie sie Pinterest-Screenshots (z. B. T-Shirts mit Sprüchen) in Gemini lädt, um die Zitate per KI durch ihre eigenen zu ersetzen. Täuschend echt, perfekte Ästhetik – und das in Sekunden, ohne jemals selbst eine Kamera in der Hand gehabt zu haben.

Effizient? Absolut. Aber ethisch ein Totalschaden, der unser wichtigstes Gut untergräbt: Vertrauen und Originalität.

Während die Tech-Welt solche Abkürzungen feiert, setzt Brüssel mit dem EU AI Act (volle Schärfe ab August 2026) bereits die Leitplanken. Um zu klären, wo „smart“ aufhört und „illegal“ anfängt, habe ich mir einen Experten geholt, der unseren Spirit versteht: Dr. Benedikt Quarch.

Benedikt ist Jurist, Experte für den EU AI Act und KI im Recht – was mich besonders freut – ein Smart Chief der ersten Stunde. Er war bei unserem allerersten Retreat dabei und gehört fest zu unserer Community. Er hat mir die brennendsten Fragen zur neuen Rechtslage beantwortet.

👇🏽👇🏽👇🏽👇🏽

Wenn wir schon die Ehre haben, mit einem Smart Chief zu sprechen, haben wir noch gigantische News in Sachen Smart Chiefs Retreat 2026:

Wir sind stolz und aufgeregt — denn im Sommer erwarten wir niemand Geringeres als ElevenLabs am Wilden Kaiser.

Noch nie gehört? Lest selbst, was das Handelsblatt schreibt:

Elevenlabs ist der Pionier, wenn es um Voice AI und Agents geht — und DIE Plattform, mit der Unternehmenskunden Konversationsagenten für Kundenservice, Schulungen, Vertrieb und weitere Anwendungsfälle einsetzen können.

Ich sag’s euch: Es gibt derzeit kaum ein spannenderes Unternehmen weltweit!

Heute schon können Kunden Stimmen, Sprache, Musik, Bilder und Videos auf der ElevenLabs-Creator-Plattform in mehr als 70 Sprachen generieren und bearbeiten.

Das verändert nicht nur die Welt — sondern ganze Unternehmen! Auch eures!

Auf dem Smart Chiefs Retreat gibt es noch exakt 3 letzte, limitierte Plätze. Wenn ihr Elevenlabs Front-Row im exklusiven Luxus-Hotel Stanglwirt erleben wollt, aus erster Hand lernen und verstehen möchtet, dann bewerbt euch jetzt:

👉🏼 retreat.laura-lewandowski.com.

Wir schließen die Anmeldungen zeitnah.

Und jetzt geht’s weiter mit dem heutigen Thema im Smart Chiefs Newsletter: 

• Was der EU AI Act für dich und dein Business verändert

• Heute keine Top 5 Links der Woche - weil ihr diesen ganzen Content erst mal verdauen müsst!

• Und wie immer eine kurze Umfrage, wie euch der Newsletter heute gefallen wird. Merci.Heute im Smart Chiefs Newsletter:

Work smart, not hard.
Deine Laura

PS: Du hast in dem Text gemerkt, dass es wieder Updates gibt, von denen auch ich noch nichts weiß? Schreib mir eine E-Mail. Und: Teile diesen Newsletter mit anderen Smart Chiefs. Noch immer made by humans ❤️

Das ist Dr. Benedikt Quarch, der uns heute Rede und Antwort steht. Schön, dass du da bist:

Was ist der EU AI Act in einem Satz?

Der EU AI Act – offiziell die Verordnung (EU) 2024/1689 – ist das weltweit erste umfassende Gesetz, das den Einsatz von Künstlicher Intelligenz risikobasiert reguliert: Je gefährlicher ein KI-System potenziell ist, desto strenger die Anforderungen.

2. Seit wann gibt es ihn und für wen ist er relevant?

Die Verordnung ist am 1. August 2024 in Kraft getreten und gilt unmittelbar in allen EU-Mitgliedstaaten – allerdings mit gestaffelten Fristen: Seit Februar 2025 gelten die Verbote besonders gefährlicher KI-Praktiken und die Pflicht zur KI-Kompetenz (Art. 4), seit August 2025 die Regeln für Basismodelle wie GPT oder Gemini, und ab dem 2. August 2026 dann der Großteil der übrigen Vorschriften, darunter die Transparenzpflichten. Für Hochrisiko-KI hat ein Ausschuss des Europäischen Parlaments allerdings ganz aktuell beschlossen, den Geltungsbeginn auf den 2. Dezember 2027 zu verschieben. Noch ist diese Verlängerung aber nicht in Kraft getreten. Relevant ist das Gesetz für praktisch jedes Unternehmen, das KI-Systeme entwickelt, vertreibt oder einsetzt – vom Konzern bis zum Solopreneur.

3. Inwiefern kann mich das Gesetz als Unternehmer:in betreffen?

Sobald du als Unternehmer:in ein KI-System im beruflichen Kontext nutzt – sei es ein Chatbot auf deiner Website, ein KI-Bildgenerator für dein Marketing oder ein KI-Recruiting-Tool – bist du nach dem AI Act ein sogenannter „Betreiber“ (englisch: deployer) und hast eigene Pflichten. Dazu gehören je nach Risikostufe des Systems Transparenz- und Informationspflichten, die Sicherstellung menschlicher Aufsicht und ab August 2026 konkrete Kennzeichnungspflichten für KI-generierte Inhalte.

4. Welche aktuellen Entwicklungen gibt es?

Es bewegt sich gerade sehr viel gleichzeitig: Die EU-Kommission hat im Dezember 2025 den ersten Entwurf eines Verhaltenskodex (Code of Practice) für die Kennzeichnung KI-generierter Inhalte veröffentlicht – die finale Fassung wird bis Juni 2026 erwartet. In Deutschland hat das Kabinett im Februar 2026 das Gesetz zur Durchführung der KI-Verordnung beschlossen, das die Bundesnetzagentur als zentrale Aufsichtsbehörde vorsieht. Und parallel hat die Kommission im November 2025 einen sogenannten Digital Omnibus vorgeschlagen, der Erleichterungen für KMU bringen und bestimmte Fristen für Hochrisiko-KI-Systeme um bis zu 16 Monate verlängern soll – der Rat der EU hat dazu am 13. März 2026 seine Position beschlossen. Ein Ausschuss des Europäischen Parlaments hat, wie gesagt, jüngst ebenfalls für eine Verlängerung gestimmt. 

5. Ein Anwendungsbeispiel: Ich generiere KI-Fotos von mir selbst und poste sie auf Instagram, ohne sie zu kennzeichnen. Ist das in der EU heute schon illegal – oder erst ab August 2026?

Stand heute, März 2026, gibt es aus dem AI Act selbst noch keine Kennzeichnungspflicht für solche Inhalte. Die Transparenzvorschriften des Art. 50 gelten erst ab dem 2. August 2026. Ab dann müssen Betreiber von KI-Systemen, das Bild-, Ton- oder Videoinhalte erzeugt oder manipuliert, die ein Deepfake sind, offenlegen, dass der Inhalt künstlich erzeugt oder manipuliert wurde. Wichtig ist dabei: Wer KI-Fotos nur rein privat und nicht beruflich nutzt, fällt nicht unter den Betreiber-Begriff des AI Acts. Wer sie aber im geschäftlichen Kontext postet – etwa als Influencer:in, Selbstständige:r oder für das Unternehmensmarketing – wird ab August 2026 kennzeichnen müssen. Und Vorsicht: Auch unabhängig vom AI Act können schon heute andere Regeln greifen, etwa die Plattform-AGB oder wettbewerbsrechtliche Vorschriften.

6. Wo zieht das Gesetz die Grenze zwischen privatem Gebrauch und beruflicher Nutzung? Ab wann bin ich rechtlich betroffen?

Der AI Act nimmt in seinem Anwendungsbereich natürliche Personen aus, die ein KI-System im Rahmen einer rein persönlichen, nicht-beruflichen Tätigkeit nutzen – sie sind dann kein „Betreiber“ im Sinne der Verordnung. Die entscheidende Frage ist also: Nutze ich die KI privat, etwa um lustige Bilder für Freunde zu generieren? Oder nutze ich sie beruflich, zum Beispiel für Social-Media-Marketing, Content-Erstellung oder Kundenkommunikation? Sobald ein beruflicher oder kommerzieller Zweck hinzukommt, greift der AI Act – und damit auch die Kennzeichnungspflichten ab August 2026.

7. Was bedeutet „Kennzeichnungspflicht“ konkret im Alltag – reicht ein kleines „AI generated“ im Bild, oder gibt es dafür strengere Vorgaben?

Das Gesetz verfolgt einen zweigleisigen Ansatz: Auf der Anbieterseite (also bei Unternehmen wie OpenAI, Midjourney oder Adobe) müssen KI-generierte Inhalte maschinenlesbar gekennzeichnet werden – etwa durch Wasserzeichen oder Metadaten nach dem C2PA-Standard (Art. 50 Abs. 2 AI Act). Auf der Betreiberseite – also bei dir, wenn du die Inhalte veröffentlichst – musst du offenlegen, dass der Inhalt KI-generiert oder -manipuliert ist (Art. 50 Abs. 4 AI Act). Wie genau das aussehen soll, konkretisiert gerade der Code of Practice der Kommission. Eine Besonderheit: Bei offensichtlich künstlerischen, kreativen, satirischen oder fiktionalen Inhalten reicht eine minimale und unaufdringliche Kennzeichnung. Für alles andere wird man um eine klar sichtbare Offenlegung nicht herumkommen.

8. Wie sieht es mit KI-generierten Texten aus – Captions, Newsletter, LinkedIn-Posts? Fällt das auch darunter?

Hier wird es juristisch spannend und etwas differenzierter: Art. 50 Abs. 4 des AI Acts erfasst KI-generierten Text, allerdings nur dann, wenn er mit dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren. Ein ganz normaler Marketing-Newsletter, eine Produkt-Caption oder ein LinkedIn-Post über dein Business fällt in aller Regel nicht unter „Angelegenheiten von öffentlichem Interesse“ im rechtlichen Sinne. Und selbst wenn: Es gibt eine Ausnahme für Texte, die einem Prozess menschlicher Überprüfung oder redaktioneller Kontrolle unterzogen wurden und eine Person die redaktionelle Verantwortung übernimmt. Trotzdem rate ich zur Transparenz – nicht weil es das Gesetz zwingend verlangt, sondern weil es Vertrauen schafft.

9. Was sind die häufigsten Fehler, die du bei Unternehmen und Selbstständigen siehst, die KI schon täglich nutzen?

Erstens: Viele denken, der AI Act sei erst ab 2026 relevant – dabei gelten die Verbote bestimmter KI-Praktiken und die Pflicht zur KI-Kompetenz bereits seit Februar 2025. Zweitens: Es fehlt oft an einer Bestandsaufnahme, welche KI-Systeme überhaupt im Unternehmen eingesetzt werden und in welche Risikokategorie sie fallen. Und drittens: Datenschutz wird beim KI-Einsatz häufig vergessen – wer personenbezogene Daten in KI-Tools eingibt, hat weiterhin alle DSGVO-Pflichten zu beachten, der AI Act kommt obendrauf.

10. Gibt es tatsächlich Sanktionen – und wenn ja, wer kontrolliert das und wer spricht die aus?

Ja, die Sanktionen sind erheblich: Für Verstöße gegen die verbotenen KI-Praktiken drohen Bußgelder von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes, je nachdem welcher Betrag höher ist. Für andere Verstöße liegt der Rahmen bei bis zu 15 Millionen Euro oder 3 Prozent des Umsatzes. Zuständig für die Durchsetzung sind die nationalen Marktaufsichtsbehörden – in Deutschland wird das nach dem aktuellen Gesetzentwurf die Bundesnetzagentur als zentrale Koordinierungsstelle sein, die mit bestehenden sektoralen Behörden zusammenarbeitet. Auf EU-Ebene überwacht das AI Office der Kommission insbesondere die Basismodelle.

11. Wir konsumieren massenhaft Tipps von US-amerikanischen Coaches und Influencern. Was müssen wir immer mitdenken, wenn wir solche Inhalte auf Europa übertragen?

Das ist einer der gefährlichsten blinden Flecken: In den USA gibt es auf Bundesebene – in einigen Staaten ist es anders – schlicht kein Pendant zum EU AI Act und auch kein Äquivalent zur DSGVO. Wenn ein amerikanischer Coach dir sagt, nutze einfach KI für alles, es gibt keine Regeln, dann stimmt das für seinen Rechtsraum – aber nicht für deinen. In der EU hast du Kennzeichnungspflichten, Datenschutzvorschriften und bald sehr konkrete Compliance-Anforderungen. Was in den USA als harmloser Hack gilt, kann in Europa ein Rechtsverstoß sein. Mein Rat: Immer prüfen, ob ein US-Tipp in deinem regulatorischen Umfeld überhaupt umsetzbar ist.

12. Was sollte ich als Unternehmer:in konkret bis August 2026 geregelt haben?

Vier Dinge würde ich priorisieren: Erstens, eine KI-Bestandsaufnahme – welche KI-Systeme setze ich ein, und welche Risikokategorie betrifft mich? Zweitens, die KI-Kompetenz im Team sicherstellen, denn die Pflicht aus Art. 4 gilt bereits jetzt. Drittens, Prozesse für die Kennzeichnung KI-generierter Inhalte vorbereiten – sobald der finale Code of Practice vorliegt, wird klar, wie die Umsetzung konkret aussehen muss. Und viertens, Datenschutz und KI zusammendenken: Wer personenbezogene Daten in KI-Tools verarbeitet, braucht eine saubere DSGVO-Grundlage.

13. Wo informierst du dich selbst – welche Quellen empfiehlst du, um beim EU AI Act auf dem Laufenden zu bleiben?

Ich schaue regelmäßig auf die offizielle Seite des AI Act Service Desk der EU-Kommission – die ist wirklich gut gemacht und wird laufend aktualisiert. Außerdem gibt es bei Linkedin top Infos: zum Beispiel bei Prof. Martin Ebers und bei mir ;)) 

Und jetzt die Frage an euch: Nutzt du KI schon in deinem Content – und hast du dich bisher mit der Rechtslage beschäftigt?

Schreib mir, ich bin neugierig. ☺️