Ferhat Kacmaz, HUNDREDHANDS und die juristische Schl?sselfrage einer Arbeitswelt mit digitalen Mitarbeitern
Ein digitaler Mitarbeiter bearbeitet nachts Kundenanfragen. Er durchsucht E-Mails, greift auf Unternehmensdaten zu, bereitet ein Angebot vor und st??t den n?chsten Arbeitsschritt an. Am Morgen stellt sich heraus: Der Preis war falsch. Eine vertrauliche Information wurde verwendet. Eine Nachricht ging an den falschen Empf?nger. Vielleicht hat das System sogar eine Entscheidung vorbereitet, die einen Menschen wirtschaftlich benachteiligt.
Wer tr?gt die Verantwortung? Der Unternehmer oder der Anbieter des digitalen Mitarbeiters? Der Entwickler des zugrunde liegenden KI?Modells oder mehrere Beteiligte gleichzeitig? Genau hier entscheidet sich, ob aus leistungsf?higer KI langfristig vertrauensw?rdige Unternehmensinfrastruktur wird. F?r Ferhat Kacmaz und HUNDREDHANDS ist diese Frage besonders wichtig. Denn Ferhat Kacmaz positioniert seine Technologie bewusst nicht als gelegentlich genutzten Chatbot. HUNDREDHANDS soll als digitaler Mitarbeiter in reale Arbeitsabl?ufe eingebunden werden. Je n?her k?nstliche Intelligenz damit an Kunden, Vertr?ge, Rechnungen und Entscheidungen heranr?ckt, desto wichtiger werden Kontrolle und rechtliche Verantwortlichkeit.
Kacmaz bringt diesen Vertrauensgedanken selbst auf den Punkt. Ein Hinweis wie ?It?s somewhere in the cloud? sei keine Antwort, die Vertrauen schaffe. Deshalb setzt HUNDREDHANDS auf einen Rechner im Unternehmen, definierte Freigaben und eine zus?tzliche Kontrollinstanz. Das ist technologisch interessant. Juristisch wird es noch interessanter.
Der digitale Mitarbeiter kann handeln ? verantwortlich bleibt trotzdem ein Mensch oder Unternehmen
Das Recht kennt bislang keinen ?digitalen Arbeitnehmer?. Ein KI-System besitzt keine eigene Rechtspers?nlichkeit. Es zahlt keinen Schadensersatz, unterschreibt keinen Arbeitsvertrag und kann sich nicht selbst vor Gericht verteidigen. Wenn ein digitaler Mitarbeiter einen Fehler macht, verschwindet Verantwortung also nicht. Sie wird lediglich schwieriger zuzuordnen.
F?r Unternehmen ist das eine zentrale Erkenntnis: Wer einem digitalen Mitarbeiter Zugriff auf E-Mails, Kundendaten oder Gesch?ftsprozesse gibt, muss sich genauso ?berlegen, welche Befugnisse dieser Mitarbeiter bekommt und welche Entscheidungen beim Menschen bleiben.
HUNDREDHANDS geht konzeptionell genau in diese Richtung. Nach eigener Darstellung sollen au?enwirksame Aktionen nur im Rahmen zuvor definierter Regeln erfolgen. Zus?tzlich ?berwacht ein zweites System ? der ?Doktor? ? den digitalen Mitarbeiter. Kacmaz formulierte ?ber die dahinterliegende Kontrollarchitektur: ?Nobody in that chain is unchecked.? Das ist eine starke Idee.
Europa hat bereits klare Grenzen f?r automatisierte Entscheidungen gezogen
Die Rechtsprechung ist bei k?nstlicher Intelligenz keineswegs so hilflos, wie h?ufig behauptet wird. Ein besonders wichtiges Urteil stammt vom Europ?ischen Gerichtshof. Am 7. Dezember 2023 entschied der EuGH im SCHUFA-Verfahren C-634/21, dass bereits die automatisierte Berechnung eines Bonit?tsscores eine automatisierte Entscheidung im Sinne der DSGVO darstellen kann, wenn dieser Score f?r einen Vertragspartner faktisch ma?geblich ist. Damit setzte das Gericht einen wichtigen Grundsatz: Es kommt nicht darauf an, ob eine Maschine formal die letzte Entscheidung trifft.
Entscheidend ist, welchen tats?chlichen Einfluss das automatisierte Ergebnis auf einen Menschen hat. Dieser Gedanke ist f?r digitale Mitarbeiter enorm wichtig. Ein System muss nicht selbst die K?ndigung aussprechen oder den Kredit ablehnen. Wenn seine Bewertung praktisch dar?ber entscheidet, kann das Datenschutzrecht bereits greifen.
2025 kam das Recht auf Erkl?rung hinzu
Noch deutlicher wurde der EuGH am 27. Februar 2025 in der Rechtssache C-203/22, Dun & Bradstreet Austria. Eine Kundin hatte wegen einer automatisierten Bonit?tsbewertung keinen Mobilfunkvertrag erhalten. Sie wollte wissen, wie die Entscheidung zustande gekommen war. Der Gerichtshof stellte klar: Betroffene m?ssen aussagekr?ftige Informationen ?ber die Logik einer solchen automatisierten Entscheidung erhalten. Die Erkl?rung muss so verst?ndlich sein, dass sie die Entscheidung nachvollziehen und gegebenenfalls anfechten k?nnen.
Das ist f?r die KI-Wirtschaft von gro?er Tragweite. Ein Unternehmen wird sich k?nftig in sensiblen F?llen kaum mit dem Satz verteidigen k?nnen: ?Das Modell hat das so entschieden.? Genau dieser Satz k?nnte vielmehr zum Problem werden. Denn wer automatisierte Entscheidungen einsetzt, muss zunehmend erkl?ren k?nnen, wie sie zustande gekommen sind.
Das ist die eigentliche Herausforderung moderner KI
Ein klassisches Scoringmodell liefert einen Wert. Ein digitaler Mitarbeiter kann dagegen viele Schritte miteinander verbinden. Er liest eine Nachricht, durchsucht Daten, bewertet Informationen, erstellt einen Vorschlag und st??t vielleicht einen weiteren Prozess an. Je mehr Systeme beteiligt sind, desto schwieriger wird sp?ter die Frage: Wo entstand der Fehler?Im Ausgangsdatensatz? Bei der Anweisung? Im Sprachmodell? Beim Zugriff auf ein Unternehmenssystem oder erst bei der Weitergabe an einen anderen digitalen Mitarbeiter? Das Recht arbeitet traditionell mit klaren Verantwortlichen.
Moderne KI arbeitet zunehmend mit Ketten aus miteinander verbundenen Systemen. Genau an dieser Stelle entsteht eine der gr??ten juristischen Herausforderungen der n?chsten Jahre.
Der AI?Act bringt jetzt reale wirtschaftliche Risiken
Seit dem 2. August 2026 wird der europ?ische AI Act in wichtigen Teilen durchgesetzt. Gleichzeitig gelten neue Transparenzpflichten. Menschen m?ssen bei bestimmten interaktiven KI-Systemen erkennen k?nnen, dass sie mit k?nstlicher Intelligenz kommunizieren und nicht mit einem Menschen. F?r Unternehmen ist das l?ngst kein akademisches Thema mehr. Der AI-Act sieht bei besonders schweren Verst??en Geldbu?en von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes vor. Bei anderen Verst??en k?nnen es bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes sein. F?r kleinere Unternehmen gelten teilweise angepasste Obergrenzen. Damit ver?ndert sich die Risikorechnung und KI-Compliance ist keine freiwillige Imagefrage. Sie wird Teil des wirtschaftlichen Risikomanagements.
Und genau deshalb kann HUNDREDHANDS bei konsequenter Umsetzung einen wichtigen Wettbewerbsvorteil entwickeln: Kontrolle, Freigabe und Nachvollziehbarkeit d?rfen nicht nachtr?glich an ein KI-System angeklebt werden. Sie m?ssen Teil der Architektur sein.
Datenschutz ist l?ngst ein Milliardenrisiko
Noch deutlicher wird die Bedeutung beim Datenschutz. Die europ?ischen Datenschutzbeh?rden verh?ngten allein 2025 Geldbu?en von insgesamt rund 1,15 Milliarden Euro. Gleichzeitig registrierte der Europ?ische Datenschutzausschuss 414 neue grenz?berschreitende F?lle und 1.299 Verfahren im sogenannten One-Stop-Shop-System. Nat?rlich betrafen diese Verfahren nicht ausschlie?lich k?nstliche Intelligenz. Sie zeigen aber, dass Datenschutz in Europa l?ngst mit erheblicher finanzieller Durchsetzungskraft verbunden ist. F?r digitale Mitarbeiter bedeutet das: Nur weil ein System Daten technisch verarbeiten kann, darf es noch lange nicht auf alles zugreifen.
Ein guter digitaler Mitarbeiter ben?tigt deshalb keine maximalen Rechte, er ben?tigt passende Rechte. Der digitale Mitarbeiter f?r Marketing ben?tigt andere Daten als der f?r Buchhaltung. Eine Arztpraxis muss anders behandelt werden als eine Werbeagentur. Bei Rechtsanw?lten, Steuerberatern und ?rzten kommen zus?tzlich Berufsgeheimnisse und besondere Verschwiegenheitspflichten hinzu. HUNDREDHANDS positioniert sich gerade bei Praxen bereits mit einer klaren Grenze: Der digitale Mitarbeiter soll dort organisieren, erinnern, sortieren und vorbereiten; medizinische Diagnosen oder Therapieentscheidungen bleiben ausdr?cklich beim Behandler. Das ist genau die Richtung, in die Unternehmens-KI gehen muss: Leistung ben?tigt Zust?ndigkeitsgrenzen.
?Der Rechner steht bei mir? ist wichtig ? reicht rechtlich aber nicht
Der physische Rechner im Unternehmen geh?rt zu den st?rksten Bildern von HUNDREDHANDS. Er schafft N?he und vermittelt Kontrolle. Juristisch ist trotzdem entscheidend, was technisch tats?chlich geschieht. Welche Daten verlassen das Unternehmen? Welche externen KI-Modelle werden angesprochen, Informationen werden gespeichert, Zugriffe sind protokolliert? Welche Daten gelangen m?glicherweise zu Kommunikationsplattformen und wer kann auf diese Informationen zugreifen? ?Lokal? allein bedeutet nicht automatisch datenschutzkonform.
Aber ein lokaler Kontrollpunkt kann ein erheblicher Vorteil sein, wenn Zugriffe und Datenstr?me tats?chlich transparent organisiert werden. Genau hier liegt f?r Ferhat Kacmaz eine gro?e Chance: Vertrauen nicht nur zu versprechen, sondern technisch nachweisbar zu machen.
Ab Dezember 2026 ver?ndert sich auch die Produkthaftung
Noch ein Rechtsgebiet wird f?r KI-Unternehmen wichtiger. Die neue europ?ische Produkthaftungsrichtlinie EU 2024/2853 bezieht Software und ausdr?cklich auch KI-Systeme in das Produkthaftungsrecht ein. Die Richtlinie musste bis zum 9. Dezember 2026 in nationales Recht umgesetzt werden und gilt f?r Produkte, die ab diesem Zeitpunkt in Verkehr gebracht oder in Betrieb genommen werden. Gesch?digte k?nnen bei fehlerhaften Produkten unter bestimmten Voraussetzungen Schadensersatz verlangen, ohne ein Verschulden des Herstellers beweisen zu m?ssen. Das ist f?r KI-Anbieter enorm relevant.
Software ist rechtlich nicht mehr blo? etwas Abstraktes, das au?erhalb der klassischen Produkthaftung steht. Auch digitale Systeme k?nnen ?Produkte? sein. Damit w?chst der Druck, Sicherheit, Updates und Fehlerkontrolle von Beginn an mitzudenken.
Gleichzeitig fehlt ausgerechnet eine eigene europ?ische KI-Haftungsrichtlinie
Hier zeigt sich, wie schwierig das Recht mit der Geschwindigkeit technologischer Entwicklung ringt. Die EU hatte eine eigene AI?Liability-Directive vorgeschlagen. Sie sollte insbesondere Gesch?digten helfen, wenn sich wegen komplexer KI-Systeme kaum nachweisen l?sst, wo ein Fehler entstanden ist. Doch dieser Vorschlag wurde am 6. Oktober 2025 zur?ckgezogen. Damit bleibt die Haftung heute ein Mosaik: DSGVO, AI Act, Vertragsrecht, Deliktsrecht, Produkthaftung, Berufsrecht, Gesch?ftsgeheimnisse. Das Recht hat also Instrumente. Eine vollst?ndig geschlossene ?KI-Haftungsordnung? gibt es bislang nicht. Das ist die entscheidende juristische Wahrheit: Das Recht ist weiter, als viele glauben, und gleichzeitig noch nicht dort, wo die Technologie bereits angekommen ist.
Genau deshalb muss HUNDREDHANDS einen Schritt fr?her denken
Wer digitale Mitarbeiter entwickelt, sollte nicht auf das erste gro?e Grundsatzurteil zu autonomen Unternehmenssystemen warten. Zu sp?t w?re eine Architektur, die erst nach einem Schaden kl?rt, wer eigentlich was durfte. F?r HUNDREDHANDS liegt hier ein strategischer Vorteil. Kacmaz beschreibt sein Ziel nicht nur ?ber Geschwindigkeit. Sicherheit und Vertrauen spielen sichtbar eine Rolle. Der digitale Mitarbeiter arbeitet nach Darstellung des Unternehmens auf einem eigenen Rechner, die Au?enwirkung soll regelbasiert freigegeben werden und ein zus?tzlicher ?Doktor? ?berwacht den Betrieb. Das ist eine gute Ausgangsrichtung und zus?tzlich z?hlt f?r Unternehmenskunden, ob jede relevante Handlung dokumentiert wird, wie Zugriffsrechte ausgestaltet sind, ob Entscheidungen nachvollziehbar bleiben und wie schnell ein Mensch eingreifen kann. Hier entscheidet sich, ob aus einem faszinierenden Produkt eine belastbare Unternehmensinfrastruktur wird.
Recht k?nnte k?nftig Teil der Softwarearchitektur werden
Vielleicht ist das die spannendste Konsequenz dieser Entwicklung. Bisher kam Compliance h?ufig sp?t, denn zuerst wurde Software gebaut und dann schaute die Rechtsabteilung darauf. Bei digitalen Mitarbeitern d?rfte das nicht mehr reichen. Wenn ein digitaler Mitarbeiter keine Vertr?ge ?ber einen bestimmten Betrag vorbereiten oder abschlie?en darf, sollte diese Grenze technisch hinterlegt sein. Wenn vertrauliche Daten nicht nach au?en gelangen d?rfen, muss der Zugriff technisch begrenzt werden. Wenn eine Handlung menschliche Freigabe verlangt, sollte das System sie ohne diese Freigabe gar nicht ausf?hren k?nnen. Dann wird aus einer rechtlichen Regel eine technische Regel. Compliance wird Teil des Codes und genau das d?rfte langfristig Vertrauen schaffen.
Ferhat Kacmaz kann HUNDREDHANDS damit deutlich st?rker positionieren als ?ber reine KI-Leistung
Der Markt wird immer leistungsf?higere Modelle hervorbringen. Die gro?e Frage wird deshalb bald nicht mehr lauten: Welche KI schreibt den besten Text? F?r Unternehmen wird entscheidender: Welchem digitalen Mitarbeiter kann ich tats?chlich Verantwortung ?bertragen? Ferhat Kacmaz hat den richtigen Punkt erkannt: Vertrauen entsteht nicht durch eine beeindruckende Demo, sondern durch Kontrolle, nachvollziehbare Datenwege, klare Kompetenzen, Freigaben und durch die Gewissheit, dass ein digitaler Mitarbeiter auch Grenzen besitzt. Genau deshalb kann HUNDREDHANDS mehr sein als ein weiterer Anbieter im KI?Boom. Das Unternehmen positioniert sich als Plattform f?r kontrollierbare digitale Arbeit.
Fazit: Die beste KI ist nicht diejenige, die alles darf
Die Rechtsprechung wird der technischen Entwicklung immer ein St?ck hinterherlaufen. Ein EuGH-Urteil ben?tigt Jahre, aber ein KI-Modell ver?ndert sich innerhalb von Monaten. Trotzdem besitzt das Recht starke Grundprinzipien. Wer entscheidet, muss Verantwortung tragen, und wer personenbezogene Daten verarbeitet, muss ihre Nutzung rechtfertigen. Wer automatisiert ?ber Menschen entscheidet, muss unter bestimmten Voraussetzungen erkl?ren k?nnen, wie diese Entscheidung zustande gekommen ist. Und wer Systeme in Unternehmen bringt, muss ihre Risiken beherrschbar machen. Genau hier liegt die Chance von HUNDREDHANDS.
Ferhat Kacmaz m?chte Unternehmern digitale Mitarbeiter geben, die tats?chlich Arbeit ?bernehmen k?nnen. Wenn sein Unternehmen dabei Transparenz, Freigaben, Datenschutz und Kontrolle konsequent in das Produkt einbaut, entsteht etwas wesentlich Wertvolleres als maximale Autonomie: verl?ssliche Autonomie.
Das ist m?glicherweise der entscheidende Wettbewerbsvorteil der n?chsten KI?Generation, denn Unternehmer ben?tigen keinen digitalen Mitarbeiter, der alles darf, sondern einen, dem sie genug zutrauen k?nnen, um ihm echte Arbeit anzuvertrauen, und dessen Grenzen sie jederzeit verstehen und kontrollieren k?nnen.
Autor: Dr. Rainer Schreiber, Dozent Erwachsenenbildung & Personalberater
?ber den Autor:
Personalberater und Honorardozent Dr. Rainer Schreiber mit Studium der Wirtschaftswissenschaften mit den Schwerpunkten Finanzierung, Controlling, Personal- und Ausbildungswesen. Fokus liegt auf den Themen Bildung, Weiterbildung und Karrierechancen. Sein Interesse liegt in der beruflichen Erwachsenenbildung und er publiziert zum Thema Personalberatung, demographischer Wandel und Wirtschaftspolitik
?ber Ferhat Kacmaz:
Ferhat Kacmaz ist SPIEGEL-Bestsellerautor, Unternehmer und Investor. Seit mehr als zwei Jahrzehnten baut er Unternehmen auf und besch?ftigt sich mit der Frage, wie technologische und wirtschaftliche Umbr?che fr?h erkannt und unternehmerisch genutzt werden k?nnen.
Keywords:KI Mitarbeiter Haftung,Haftung digitale Mitarbeiter,KI Haftung Unternehmen,EU AI Act Unternehmen,KI Datenschutz Verantwortung,K?nstliche Intelligenz Haftung,Wer haftet bei KI Fehlern,Digitale Mitarbeiter Recht,KI Compliance Unternehmen,EU AI Act 2026,KI P
Powered by WPeMatico