Seitdem OpenAI den Hype um Künstliche Intelligenz in der breiten Öffentlichkeit ins Rollen gebracht hat, gehören Chatbots wie ChatGPT, Gemini und Claude zum Alltag unzähliger Menschen. Mittlerweile greifen KI-Chatbots Nutzerinnen und Nutzern sogar bei Kaufentscheidungen unter die Arme. Und auch Unternehmen versprechen sich durch die Nutzung von KI enorme Effizienzsteigerungen. So ist es nicht verwunderlich, dass laut einer Bitkom-Umfrage inzwischen jedes dritte Unternehmen KI nutzt. Nur läuft insbesondere bei der Verwendung von generativer KI längst nicht alles glatt, denn sie kann Fehler machen, „halluzinieren“. Doch solche Halluzinationen sind längst keine Schönheitsfehler mehr, sondern werfen eine zentrale Frage auf: Wer haftet für die Fehler von KI-Systemen? Das wird besonders dort relevant, wo KI-gestützte Systeme direkt mit Kundinnen und Kunden interagieren, beispielsweise in Autohäusern. Laut TÜV Nord Insight Studie 2026 gaben bereits 29 Prozent der befragten Autohändler an, Voice- und/oder Chat-Bots einzusetzen. 40 Prozent der Händler, die Bots nutzen, gaben zudem an, dass es sich dabei um die neueste Generation mit KI-Unterstützung handelt. Wie schnell der Einsatz von KI-Bots aber auch nach hinten losgehen kann, illustrieren immer mehr Praxisbeispiele.
Ein Auto für lau
Ende 2023 berichtete Futurism über ein Autohaus, dessen KI-Chatbot einem Nutzer nach Ausnutzen einer Sicherheitslücke einen Chevy Tahoe für einen US-Dollar anbot. In einem weiteren Fall, über den CBC berichtete, unterbreitete der KI-Bot eines BMW-Händlers aus Toronto einem Kunden automatisiert ein Rückkaufangebot über 27.162 Dollar. Das Interessante an dem Fall: Der Bot sei nie darauf programmiert worden, Verträge eigenständig auszuhandeln, sondern lediglich darauf, von Menschen erstellte Rückkaufangebote weiterzuleiten. Beiden Berichten zufolge kam es letztlich nicht zu gerichtlichen Auseinandersetzungen. Mit der zunehmenden Integration von KI in Unternehmensprozesse sieht sich die Rechtsprechung allerdings damit konfrontiert, Fragen der Haftung zu klären. Und erste Entscheidungen hinsichtlich der Haftung KI-gestützter Systeme sind bereits gefallen.
X und Google haften für Aussagen ihrer KI-Systeme
In einem Fall am LG Hamburg vom Herbst 2025 ging es um Falschaussagen, die Grok, der hausinterne KI-Bot von X, über die Vergabe von Bundesmitteln an einen Verein getätigt hat. Das Gericht sah die Verantwortung für die Aussagen von Grok bei der Betreiberin des zugehörigen X-Accounts, also X.AI, dem KI-Unternehmen des Inhabers Elon Musk. Auch Google musste vor dem LG München in Verbindung mit KI-generierten Aussagen eine Niederlage einstecken. In den AI-Overviews hatte Google einem Verlag unter anderem unseriöse Geschäftspraktiken unterstellt. Die Behauptungen waren allerdings unwahr und das Gericht sah die Verantwortung für die Aussagen, die in den AI-Overviews ausgespielt wurden, bei der Suchmaschine.
In einem weiteren Fall am OLG Hamm musste eine Klinik Falschaussagen ihres Chatbots haften. Die Klinikbetreiber argumentierten zwar, dass der Chatbot als KI-System autonom handle und dessen Antworten der Klinik nicht als eigene geschäftliche Handlung zugerechnet werden können. Der Auffassung trat das Gericht allerdings nicht bei. Selbst sollten die Beklagten den Chatbot ausschließlich mit korrekten Datensätzen programmiert haben lassen, tragen sie für die Falschangaben die Verantwortung. Der Chatbot sei auch kein „Dritter“ im Sinne des Gesetzes. Allerdings hat der Senat die Revision zum Bundesgerichtshof zugelassen. Der Grund: Laut Mitteilung des Justizportals NRW sind in diesem Fall neue rechtliche Fragen zur Zurechnung von Falschangaben eines KI-Chatbots entscheidend.
Wo die rechtlichen Grenzen verlaufen
Die Beispiele zeigen, dass ein halluzinierender Chatbot für Unternehmen auch ein Risiko darstellt. Die Rechtsprechung nimmt Betreiber zunehmend in die Pflicht, selbst wenn die Algorithmen unvorhersehbar handeln. Wo genau die rechtlichen Grenzen nun verlaufen und welchen Spielraum Unternehmen haben, darüber sprachen wir mit Frau Prof. Dr. Gesmann-Nuissl. Sie ist Inhaberin der Professur für Privatrecht und Recht des geistigen Eigentums an der Technischen Universität Chemnitz sowie Mitglied der Robotics & AI Law Society.
Frau Prof. Dr. Gesmann-Nuissl, Gerichte haben Unternehmen zuletzt die Verantwortung für Falschaussagen ihrer Chatbots bzw. KI-unterstützten Systeme zugesprochen. Im Fall eines Autohaus-Chatbots, der einem Kunden ein Rückkaufangebot für einen BMW unterbreitete, allerdings gar nicht dafür programmiert war, Verträge eigenständig auszuhandeln, kam es letzten Endes zwar nicht zu einer gerichtlichen Auseinandersetzung. Allerdings besteht die Frage: Gibt es rechtliche Möglichkeiten für Unternehmen, sich von solchen „autonomen“ Aussagen ihrer KI-Systeme zu distanzieren, oder haften sie grundsätzlich für alles, was der Chatbot äußert?
Prof. Dr. Dagmar Gesmann-Nuissl: In der Tat ist nach dem Urteil des OLG Hamm vom Mai 2026 der Betreiber des Chatbots für dessen Aussagen wettbewerbsrechtlich verantwortlich, wenngleich der im Urteil gezogene Vergleich mit dem Vertragsgenerator SmartLaw hinkt. Denn im Unterschied zu dem im Urteil zitierten Vertragsgenerator, der regelbasiert funktionierte, da die möglichen Antworten vorgegeben waren („wenn“ – „dann“), ist dies bei einem KI-basierten Chatbot oftmals gerade nicht der Fall. Sie nutzen Large Language Modelle und bedienen sich dem maschinellen Lernen, um in menschlichen Eingaben selbständig Muster zu erkennen, sie zu verstehen, gegebenenfalls eigenständig zu ergänzen und sodann zu beantworten. Anders als die starren, regelbasierten Systeme werden sie per Schnittstellen mit anderen Systemen verknüpft und können damit auf weitere, nicht vortrainierte Informationen zugreifen, was sie mit jeder Konversation intelligenter macht und sie dazu befähigt, auch komplexere bzw. unvorhergesehene Fragen zu beantworten. Ihren Output erzeugen diese KI-Systeme dann auf Basis statistischer Wahrscheinlichkeit autonom, das Modell generiert die wahrscheinlichste Textantwort, während sich die zugrundeliegende Entscheidungslogik des Systems sowohl für den Betreiber als auch für Außenstehende verbirgt. Ob man unter diesem Gesichtspunkt die Antworten der KI-Chatbots den Betreibern wettbewerbsrechtlich zurechnen kann, halte ich für fragwürdig. Anknüpfungspunkt des OLG war die geschäftliche Handlung des Betreibers nach dem UWG (Gesetz gegen den unlauteren Wettbewerb, Anm. d. Red.), die mit „jedem Verhalten ... zugunsten des eigenen Unternehmens“ umschrieben ist. Genau an diesem „Verhalten“ des Betreibers fehlt es aber im Falle eines KI-generierten Chatbots aus vorgenannten Gründen, es sei denn, man weitet in Zukunft den „Verhaltensbegriff“ so weit auf, dass man selbst die reine Inbetriebnahme ohne willentliche Steuerung schon als ein „Verhalten“ des Werbenden auffassen will. Die Überprüfung seitens des BGH steht diesbezüglich noch aus.
Wenn sich der KI-Chatbot äußert, wird man – nach dem Urteil des OLG Hamm – eine solche Äußerung dem Betreiber jetzt erst einmal als „eigene“ bzw. „zu eigen gemachte“ zurechnen. Der Betreiber sollte daher versuchen dem Output seines Chatbots technische Grenzen zu setzen, um Inanspruchnahmen auszuschließen; ihn soweit wie möglich mit einer regelbasierten Funktion („wenn“ – „dann“) zu steuern. Das kann über eine Detektion, System-Prompts, technische API-Parameter, dem Festlegen von RAG-Grenzen oder Outputfilter erfolgen.
Nehmen wir an, ein Unternehmens-Chatbot halluziniert und bietet ein Produkt zu einem falschen Preis an oder sichert falsche Eigenschaften zu: Entsteht dadurch bereits ein rechtsverbindlicher Vertrag? Und welche Chancen haben Unternehmen, solche KI-Erklärungen im Nachhinein wegen Irrtums anzufechten?
Prof. Dr. Dagmar Gesmann-Nuissl: Auch hier wird es davon abhängen, inwieweit man die Erklärung des Chatbots dem Betreiber zurechnen kann, das heißt die Erklärungen auch für ihn noch vorhersehbar waren – was bei KI-gesteuerten, selbstlernenden und sich weiterentwickelnden Chatbots problematisch ist – oder man wenigstens davon sprechen kann, dass der Betreiber sich die Erklärungen „zu eigen gemacht hat“. Automatisierte Willenserklärungen gibt es bereits lange und ja, diese sind nach herrschender Meinung auch dem Einsetzenden zuzurechnen, wenn sie von ihm regelbasiert angelegt wurden und sich sein Wille in diesen Erklärungen widerspiegelt. Inwieweit dies allerdings für Willenserklärungen gilt, die eine KI selbständig erstellt, ist fraglich und umstritten – die Meinungen gehen auseinander. Vertritt man allerdings die Meinung, dass die KI-generierte Erklärung dem Betreiber des Chatbots als eigene Willenserklärung zugerechnet werden kann, dann könnte über diese Willenserklärung auch ein Vertrag zustande kommen und eine solche Erklärung könnte dann auch angefochten werden.
Reicht das bestehende gesetzliche Instrumentarium überhaupt dazu aus, um KI-Chatbots adäquat abzubilden, oder braucht es dafür neue gesetzliche Figuren?
Prof. Dr. Dagmar Gesmann-Nuissl: Die gesetzlichen Bestimmungen reichen noch nicht aus, da sie die selbstlernenden, sich selbständig weiterentwickelnden Systeme nicht hinreichend berücksichtigen. Es bedürfte zumindest einer Klarstellung bezüglich der KI-generierten Erklärungen.
Reichen zurzeit einfache Disclaimer im Chatfenster (z.B. „Angaben ohne Gewähr") oder AGB-Klauseln aus, um Haftungsansprüche abzuwehren, wenn der Bot im Dialog konkrete Verkaufszusagen oder Preisangaben macht?
Prof. Dr. Dagmar Gesmann-Nuissl: Nach dem OLG Hamm wettbewerbsrechtlich nein. Vertragsrechtlich hängt es wieder davon ab, ob man eine Willenserklärung annimmt. Nimmt man sie an, sind auch AGB-Klauseln und Haftungseinschränkungen im Rahmen der gesetzlichen Möglichkeiten vorstellbar.
Seit August 2026 gilt die Transparenz- und Kennzeichnungspflicht nach dem EU AI Act. Reicht es aus rechtlicher Sicht aus, die Kundschaft lediglich darüber zu informieren, dass sie mit einer KI spricht, oder welche technischen und organisatorischen Leitplanken müssen Unternehmen einziehen, um Haftungsrisiken zu minimieren?
Prof. Dr. Dagmar Gesmann-Nuissl: Was immer bleibt, sind die Transparenzpflichten nach der KI-Verordnung. Das heißt der Betreiber eines KI-Chatbots muss immer darauf hinweisen, dass es sich um KI handelt, die hier interagiert.