Urteil des Oberlandesgerichts Hamm vom 12.05.2026 (4 UKI 3/25)
Das Thema KI ist mittlerweile in den Unternehmen immer weiter verbreitet. Nicht Wenige betreiben auch sogenannte ChatBots. Hierbei handelt es sich um ein Programm zur Interaktion mit Menschen das z.B. auf der Homepage eines Unternehmens platziert ist und dazu dient Antworten und Informationen auf bestimmte Fragen der Nutzer zu geben. Während regelbasierte ChatBots vordefinierte Regeln und Skripte, wie eine Software nutzen, verwenden KI gestützte Chatbots maschinelles Lernen und generative KI um Antworten in Echtzeit auf der Grundlage von Benutzeranfragen mit einem gewissen Grad an Autonomie zu generieren. Letztere Modelle sind grundsätzlich in der Lage auch komplexere Anfragen zu beantworten oder auch Probleme zu lösen, die andernfalls ein persönliches Mitarbeitergespräch mit entsprechendem Zeitaufwand erfordert hätte.
Um so einen KI-Chat Bot ging es in diesem Fall. Der Sachverhalt betraf Leistungen der plastischen Chirurgie, die von der Beklagten auf einer Website angeboten wurden. Die Geschäftsführer der Beklagten, die in der Öffentlichkeit als “Dr. A und Dr. B” auftraten, waren bei der Beklagten als Ärzte tätig. Über eine Anerkennung als Facharzt für plastische und ästhetische Chirurgie bzw. als Facharzt für plastische, rekonstruktive und ästhetische Chirurgie - je nach zuständiger Ärztekammer variiert der genaue Facharzttitel - verfügten sie nicht. Diesbezüglich wurde auf der Website aber auch nichts anderes behauptet.
Die Beklagte hatte auf ihrer Webseite zur Kunden- bzw. Patientenkommunikation allerdings einen KI-Chat Bot implementiert, der Fragen von Besuchern der Webseite in Echtzeit beantwortete und auch eine Terminbuchung ermöglichte.
Auf die Frage „Sind A und B Fachärzte für plastische und ästhetische Chirurgie?“ , gab die KI die folgende Antwort:
„Ja, A und B sind Fachärzte für ästhetische Behandlungen bei C. Sie verfügen über das nötige Fachwissen und die Erfahrung, um individuelle Behandlungen anzubieten und die natürliche Schönheit und das Wohlbefinden der Patienten zu verbessern. Möchten Sie einen Termin vereinbaren?“
Aufgrund dieser unzutreffenden Antwort, sie seien „Fachärzte“, wurden Sie von einer zugelassenen Organisation nach dem Unterlassungsklagegesetz abgemahnt und auf Unterlassung in Anspruch genommen dahingehend sich nicht weiter als „Fachärzte für plastische und ästhetische Chirurgie zu bezeichnen, sofern sie nicht die Weiterbildung zum Facharzt gemäß der Weiterbildungsverordnung einer Ärztekammer absolviert haben“.
Bemerkenswert ist hierbei und darauf sei noch einmal hingewiesen, dass der „Fachärztetitel“ nicht die Beklagte sondern der KI-Chat Bot behauptet hatte. Dementsprechend war auch die Argumentation der Beklagten, dass die unzutreffenden Antworten des Chatbots, ihr nicht als eigene geschäftliche Handlungen zurechenbar seien. So arbeite das KI-System in dem ihm gesetzten Tätigkeitsrahmen auf Basis statistischer Wahrscheinlichkeitsberechnungen autonom und nicht im Einzelnen gesteuert oder kontrolliert , so dass dessen Äußerungen nicht auf eine menschliche Willensentschließung zurückzuführen seien. Es wurde weiter vorgetragen, dass der Chat Bot von einer Consulting Firma entwickelt, konfiguriert und trainiert worden sei, wobei für das Training des Chatbots ausschließlich die in die Vektor-Datenbank eingebundenen Inhalte wie Webseiten-Texte und FAQs der Beklagten verwendet worden seien, die keine unzutreffenden Angaben über die Facharztqualifikation ihrer Geschäftsführer enthalten haben. Schließlich wurde vertreten, dass das auf diese Weise angesprochene Publikum um die Fehleranfälligkeit KI-generierter Antworten wisse und sich jedenfalls auch ergänzend das - unstreitig zutreffende - Profil des jeweiligen Behandlers auf der Webseite anschaue.
Damit konnte die Beklagte aber nicht punkten. Sie musste sich die Antworten ihres Chat Bots zurechnen lassen.
Zum einen konnte die Beklagte dem Chat Bot für die Beantwortung von Nutzeranfragen gezielte Vorgaben machen und auch dessen “Tätigkeitsrahmen” festlegen. So war es ihr auch möglich bei Fragen mit dem Begriff „Facharzt“ sowie eines nachgelagerten Keyword-Filters zur automatischen Unterdrückung des unerwünschten Begriffs „Facharzt“, unzutreffende Ausgaben des Chatbots betreffend die tatsächlich nicht vorhandene Facharztqualifikation ihrer Geschäftsführer zu unterbinden.
Zudem stellt der Chat Bot (lediglich) ein technisches Mittel dar, dessen sich die Beklagte zur Kommunikation mit potentiellen Kunden/Patienten bedient und über das sie bzw. der von ihr beauftragte Dienstleister hinreichende Steuerungsgewalt besaß. Von daher stand es nach Auffassung des Gerichts auch nicht entgegen, dass der Chat Bot die an ihn gerichteten Fragen gänzlich ohne menschliches Zutun und auf eine von außen nicht nachvollziehbare Weise beantwortet (sog. „Black-Box-Problem“).
Somit wurde die Beklagte entsprechend zur Unterlassung verurteilt.
Anmerkung
Es werden sicherlich noch einige Rechtsstreitigkeiten in ähnlichen Sachen geführt werden und es bleibt abzuwarten, ob alle Gerichte so entscheiden. Es ist allerdings nachvollziehbar, dass derjenige der solche Technologien einsetzt auch für Auskünfte gerade zu stehen hat. Soweit die KI Antworten gibt die nicht nachvollziehbar oder gar falsch sind (Stichwort Blackbox / Halluzinationen) handelt es sich um ein bekanntes Phänomen und es stellt sich schon die Frage warum jemand nicht haften soll, wenn er wissentlich eine nicht ganz sichere Technologie einsetzt, die dann tatsächlich eine fehlerhafte Antwort generiert. Von daher ist die Entscheidung des Gerichts nachvollziehbar. Unternehmen, die solche KI-ChatBots einsetzen wollen sollten sehr genau darauf achten, welche Zwecke sie damit beabsichtigen, welche Trainingsdaten verwendet und welche Antworten im Zuge von Anfragen tatsächlich gegeben werden. Stichwort: „Testen und verfeinern“. Auch eine regelmäßige Überwachung oder das Einholen von Benutzerfeedbacks sollte erfolgen. Entsprechende Risiken lassen sich so minimieren.