#73 Wer haftet wenn Agents Fehler machen | mit Rechtsanwältin Julia Dönch
Rechtsanwältin Julia Dönch erklärt, warum ein Agent rechtlich ein Nullum ist, seine Zusagen und Bestellungen dir im Grundsatz trotzdem zugerechnet werden und was Logs, Verträge und die neue Produkthaftung dabei bedeuten.
Das Audio konnte nicht geladen werden. Direkt öffnen
Shownotes
Darüber sprechen wir
Wer haftet, wenn ein KI-Agent falsche Erstattungen verspricht, Bestellungen auslöst oder gegenüber Kunden halluziniert?
In dieser Folge von 365 Checkpoint ist Rechtsanwältin Julia Dönch zu Gast. Wir sprechen darüber, warum KI-Agenten rechtlich keine eigene Persönlichkeit besitzen und ihre Handlungen trotzdem Folgen für Unternehmen haben.
Du erfährst:
• wann Aussagen eines Agents dem Unternehmen zugerechnet werden
• warum Logging und nachvollziehbare Entscheidungen entscheidend sind
• welche Rolle Verträge, Dienstleister und Softwareanbieter bei der Haftung spielen
• warum Human in the Loop, klare Grenzen und ein Agentenverzeichnis wichtig sind
• was sich durch die neue Produkthaftung für Software und KI verändern kann
Hinweis: Die Folge dient der allgemeinen Information und ist keine Rechtsberatung.
Zum Weiterlesen: Die Einordnung der Folge mit Quellen steht im Artikel Wer haftet, wenn dein KI-Agent einen Fehler macht?. Was Manipulation über Prompt Injection bedeutet, erklärt das Glossar. Julia Dönch war schon zweimal zu Gast: zu den Rechtsgrundlagen für die Einführung von KI und zum Urheberrecht bei KI.
KAPITEL
00:00 – Wenn der Agent eine falsche Erstattung verspricht
03:20 – Vorstellung von Julia Dönch
05:02 – Vom Urheberrecht zur Haftung für Agents
05:57 – Warum ein KI-Agent rechtlich ein Nullum ist
07:37 – Wer haftet für falsche Kundenaussagen?
09:44 – Anfechtung und Verträge mit KI-Agenten
14:05 – Warum Logging zum Geschäftsschutz wird
16:22 – Agents bei Bestellungen und Transaktionen
26:42 – Arbeitnehmerhaftung bei menschlichen Fehlern
29:49 – Haftung von Dienstleistern und Vertragspartnern
33:26 – Neue Produkthaftung für Software und KI
36:33 – Manipulation, Prompt Injection und Nachweisbarkeit
40:20 – Kann der Technologieanbieter haftbar sein?
45:30 – Praxistipp: Agentenverzeichnis und Governance
46:38 – Unternehmen haften für Aussagen ihrer Chatbots
Wenn dir die Folge gefallen hat, abonniere 365 Checkpoint, lass uns eine Bewertung da und empfehle den Podcast weiter.
Alles rund um Julia Dönch: https://www.linkedin.com/in/julia-d%C3%B6nch-55200272/
Mehr von Daniel: https://www.linkedin.com/in/drohregger/
Orientierung
Kapitelmarken
- Wenn der Agent eine falsche Erstattung verspricht
- Vorstellung von Julia Dönch
- Vom Urheberrecht zur Haftung für Agents
- Warum ein KI-Agent rechtlich ein Nullum ist
- Wer haftet für falsche Kundenaussagen?
- Anfechtung und Verträge mit KI-Agenten
- Warum Logging zum Geschäftsschutz wird
- Agents bei Bestellungen und Transaktionen
- Arbeitnehmerhaftung bei menschlichen Fehlern
- Haftung von Dienstleistern und Vertragspartnern
- Neue Produkthaftung für Software und KI
- Manipulation, Prompt Injection und Nachweisbarkeit
- Kann der Technologieanbieter haftbar sein?
- Praxistipp: Agentenverzeichnis und Governance
- Unternehmen haften für Aussagen ihrer Chatbots
Zum Thema
Mehr zu dieser Folge
Begriffe aus der Folge
- Prompt Injection Prompt Injection bezeichnet Versuche, einen Agenten über manipulierte Eingaben oder versteckte Anweisungen in externen Inhalten zu unerwünschten Aktionen zu verleiten. Bei indirekter Prompt Injection steckt die schädliche Anweisung in einer verarbeiteten Quelle, nicht in der eigenen Eingabe.
- Human in the Loop (Mensch in der Prüfung) Human in the Loop bedeutet, dass ein Mensch an einem wichtigen Punkt prüft, entscheidet oder eine Aktion ausdrücklich freigibt. Der Mensch bleibt damit verantwortlich, auch wenn Copilot oder ein Agent die Vorarbeit erledigt.
Im Blog dazu
Ähnliche Folgen
Davor und danach
Weiterhören