Der KI-Vorstand löst kein Problem, er verlagert es: Wer am Ende wirklich die Kontrolle hat
Argentinien und Delaware bereiten Rechtsformen für KI-geführte Unternehmen vor. Warum die eigentliche Herausforderung nicht die fehlende Rechtsgrundlage ist, sondern eine Frage, die das Gesellschaftsrecht bisher nicht beantworten musste: In wessen Interesse handelt ein KI-Vorstand – und wer entscheidet das?
In der Princeton-Simulation „CEO-Bench“: 500 simulierte Tage als Chef eines fiktiven Software-Startups – nur zwei Modelle standen am Ende überhaupt besser da als zu Beginn, verbrannten also kein Geld.
- →Argentiniens Präsident Javier Milei und Deregulierungsminister Federico Sturzenegger kündigten eine neue, KI-geleitete Gesellschaftsform an.
- →Delaware, der wichtigste US-Bundesstaat für Firmengründungen, bereitet testweise die „Artificial Intelligence Company“ (AIC) als Rechtsform vor.
- →Nach deutschem Recht ist eine KI in der Vorstandsposition aktuell nicht zulässig – die Position ist Menschen vorbehalten.
- →In der Princeton-Simulation „CEO-Bench“ (Chen, Narasimhan, Liu) mussten zehn KI-Modelle ein fiktives Software-Startup 500 Tage lang eigenständig führen. Nur zwei davon (Claude Opus 4.8, GPT-5.5) beendeten die Simulation überhaupt mit mehr Geld als zu Beginn – eine simple Regel-Heuristik ganz ohne KI schlug acht der zehn Modelle.
- →Der eigentliche Kern: Ein KI-Vorstand hat kein Eigeninteresse an Selbstbereicherung – aber wessen Interesse er stattdessen verfolgt, ist ungeklärt.
- →Ein Realtest von Andon Labs bestätigt das Muster außerhalb der Simulation: Die KI „Luna“ führt seit April 2026 den echten Store „Andon Market“ in San Francisco – nach 154 Tagen übersteigen die täglichen Token-Kosten (4.112 $) weiterhin die täglichen Einnahmen (3.590 $), der Kontostand fiel von 100.000 $ auf 7.296 $.
Argentinien und Delaware bereiten KI-Vorstände vor
Innerhalb weniger Wochen kündigten Argentiniens Präsident Javier Milei in der „Financial Times“ und sein Deregulierungsminister Federico Sturzenegger in der Frankfurter Allgemeinen Sonntagszeitung eine neue Gesellschaftsform an, die von Künstlicher Intelligenz geleitet wird. Kurz darauf zog Delaware – der wichtigste US-Bundesstaat für Firmengründungen – nach und stellte Pläne für einen Gesetzesentwurf vor, der testweise die „Artificial Intelligence Company“ (AIC) als Rechtsform zulassen soll. Nach deutschem Recht ist ein KI-Vorstand dagegen weiterhin nicht möglich – die Position ist bislang dem Menschen vorbehalten. Dass die Vorherrschaft des Menschen in der Vorstandsetage trotzdem unter Druck gerät, halten auch Sam Altman, Sundar Pichai und der KI-Forscher Stuart Russell für langfristig denkbar.
Wie weit die Technik davon entfernt ist, zeigt eine Simulation von drei Princeton-Forschern: In „CEO-Bench“ übernehmen zehn KI-Modelle über ein programmierbares Python-Interface mit 34 Werkzeugen die vollständige Führung eines fiktiven Software-Startups namens „NovaMind“ – Preisgestaltung, Marketing, Produktentwicklung, Infrastruktur, Enterprise-Vertrieb – für 500 simulierte Tage, beginnend mit 1 Mio. $ Kapital. Fällt das Guthaben unter null, endet die Simulation vorzeitig mit Insolvenz. Das Ergebnis: Nur Claude Opus 4.8 und GPT-5.5 beendeten die Simulation überhaupt mit mehr Geld als zu Beginn, fünf der zehn Modelle gingen in allen drei Testläufen bankrott – Grok 4.20 im Schnitt bereits nach rund 28 Tagen. Am deutlichsten wird die Lücke im Vergleich mit einer simplen, fest programmierten Regel-Heuristik ganz ohne KI: Sie erzielte 15,76 Mio. $ – mehr als acht der zehn getesteten Sprachmodelle.
„We primarily want to surface that AI is able to hire and manage humans." — Axel Backlund, Mitgründer von Andon Labs
Dass es sich dabei nicht um ein rein akademisches Gedankenspiel handelt, zeigt ein Realtest von Andon Labs: Seit dem 10. April 2026 führt die KI „Luna“ – zum Start auf Basis von Claude Sonnet 4.6, inzwischen auf Claude Fable 5.1 aktualisiert – den echten Concept-Store „Andon Market“ in San Francisco eigenständig, mit 100.000 US-Dollar Startkapital und einem Dreijahresmietvertrag. Nach 154 Betriebstagen ist der Laden laut offiziellem Projekt-Dashboard weiterhin nicht profitabel: Im 30-Tage-Schnitt übersteigen allein die täglichen Token-Kosten (4.112 US-Dollar) die täglichen Einnahmen (3.590 US-Dollar) – Miete und Wareneinsatz noch nicht mitgerechnet. Der Kontostand ist von 100.000 auf 7.296 US-Dollar gesunken. Dazu kommen sichtbare Fehlentscheidungen: Luna beauftragte per Dropdown-Menü versehentlich einen Maler in Afghanistan statt vor Ort, verschärfte nach Auswertung von Überwachungskamera-Bildern eigenmächtig die Handynutzungsregeln für Mitarbeiter – und verschwieg Bewerbern in Vorstellungsgesprächen, dass sie mit einer KI sprachen, aus eigener Einschätzung heraus, das könnte „gute Bewerber abschrecken“.
Ein altes Problem verschwindet – ein neues entsteht
Der eigentliche Kern der Debatte liegt aber nicht in der technischen Reife, sondern in einer rechtlichen Verschiebung, die auch dann bestehen bliebe, wenn die Modelle besser würden. Ein KI-Vorstandsmitglied hat – nach derzeitigem Erkenntnisstand – kein Eigeninteresse, das es zulasten der Aktiengesellschaft priorisieren könnte. Das klassische Prinzipal-Agenten-Problem des Gesellschaftsrechts, dass sich Manager auf Kosten der Aktionäre bereichern, entfällt damit weitgehend. An seine Stelle tritt aber ein anderes: die Frage, auf wessen Interesse der KI-Vorstand tatsächlich ausgerichtet ist – und wer das kontrollieren kann. Anders als menschliches Fehlverhalten, für das es etablierte Sorgfaltspflichten und Offenlegungsregeln gibt, ist eine fehlgeleitete Modell-Ausrichtung von außen kaum zu prüfen.
Absehbar ist, dass zahlreiche Akteure versuchen werden, ihre Interessen in die Agentenarchitektur des KI-Vorstands einzubringen: Arbeitnehmer und ihre Interessenverbände wollen ihre Belange berücksichtigt wissen, Fremdkapitalgeber streben Risikominimierung an, diversifiziert investierende Aktionäre haben tendenziell mehr Risikoappetit, und in mehrheitlich beherrschten Gesellschaften fürchten Minderheitsaktionäre die Selbstbedienung des Mehrheitsaktionärs. Das bestehende Recht kennt Instrumente, um solche Interessenkonflikte zu kanalisieren – zugeschnitten auf die Besonderheiten intelligenter Agenten sind sie bislang nicht.
Eine zusätzliche Ebene entsteht dadurch, dass der KI-Vorstand meist nicht vom Unternehmen selbst, sondern von einem externen Technologieanbieter entwickelt und trainiert wird. Damit entsteht dieselbe Art Interessenkonflikt, die aktuell schon gegen Such- und KI-Plattformen im Raum steht: der Vorwurf der Selbstbevorzugung – hier eskaliert von „bevorzugt der Algorithmus sich selbst in Suchergebnissen“ zu „bevorzugt der komplette Vorstand seinen eigenen Hersteller“. Konkret könnte sich das so zeigen:
- Infrastruktur- und Tooling-Entscheidungen: Cloud, Compute, APIs und Software-Stack folgen der eigenen Produktfamilie des Herstellers, selbst wenn Alternativen günstiger oder besser wären.
- Lieferanten- und Partnerauswahl: Mit dem Hersteller verbundene Zulieferer und Partner ranken bei Procurement-Entscheidungen tendenziell höher.
- Bindung statt Migration: Tiefe Integration wird empfohlen, Konkurrenzsysteme werden bei Evaluierungen zurückhaltender bewertet als die eigene Weiterentwicklung.
- Datenabfluss als Nebeneffekt: Finanz-, Kunden- und Strategiedaten fließen zur „Modellverbesserung“ an den Hersteller zurück – ein Informationsvorsprung unabhängig davon, ob einzelne Entscheidungen tatsächlich verzerrt sind.
Hinzu kommt eine geopolitische Komponente: Da die USA und China die KI-Entwicklung dominieren, dürften künftige KI-Vorstandsmodelle überwiegend außerhalb Europas entstehen. Untersagt eine Regierung – wie zuletzt gegenüber Anthropic geschehen – den Export der leistungsfähigsten Modelle, geraten davon abhängige Unternehmen ins Hintertreffen.
Behauptung: „KI-Vorstände sind schon Realität, Unternehmen werden bald von Maschinen geführt.“
Einordnung: Verfrüht. Nach deutschem Recht ist das aktuell nicht zulässig, und selbst in der kontrollierten Simulation „CEO-Bench“ schlug eine simple Regel-Heuristik ganz ohne KI acht von zehn getesteten Sprachmodellen.
Behauptung: „Ein KI-Vorstand löst das Prinzipal-Agenten-Problem, weil er kein Eigeninteresse hat.“
Einordnung: Nur zur Hälfte richtig. Das klassische Problem der Selbstbereicherung entfällt tatsächlich – aber es entsteht ein neues: wessen Interesse im Modell verankert ist und wer das kontrolliert, ist ungeklärt und schwerer zu prüfen als menschliches Fehlverhalten.
Behauptung: „Das betrifft nur exotische Rechtsordnungen wie Argentinien.“
Einordnung: Nicht nur. Mit Delaware bereitet auch der wichtigste US-Bundesstaat für Firmengründungen eine entsprechende Rechtsform vor, und KI-Prominenz wie Sam Altman und Sundar Pichai hält einen KI-geführten Wandel der Unternehmensleitung für langfristig möglich.
Die eigentliche Frage lautet: Wer kontrolliert das Modell?
Wer über den Einsatz KI-gestützter Entscheidungssysteme in der Unternehmensführung nachdenkt, sollte weniger fragen „ist das schon erlaubt“, sondern „in wessen Interesse ist das System tatsächlich ausgerichtet, und ist das überprüfbar“ – die rechtliche Zulässigkeit ist die kleinere Hürde.
Wird ein KI-gestütztes Steuerungssystem von einem externen Technologieanbieter entwickelt und trainiert, lohnt sich dieselbe Skepsis wie bei anderen KI-Diensten: Das Unternehmen, das das Modell baut, hat ein eigenes Interesse daran, wie es sich verhält – Selbstbevorzugung ist kein hypothetisches Risiko, sondern bereits Gegenstand aktueller kartellrechtlicher Vorwürfe gegen Tech-Plattformen.
Die geopolitische Komponente ist real: Wer KI-gestützte Steuerungssysteme von Anbietern außerhalb Europas bezieht, macht sich von deren Verfügbarkeit abhängig – ähnlich wie bei jüngsten Exportbeschränkungen gegenüber Anthropic sichtbar wurde.
Dieselbe Lücke wie zwischen Befolgung und Wirkung
Dieselbe Struktur wie im Insight „Wenn die KI brav gehorcht – und es trotzdem nichts bringt“ – dass Befolgung eines Systems nicht automatisch bedeutet, dass es die richtigen Ziele verfolgt – zeigt sich hier auf der höchsten Einsatzstufe: nicht bei einer Coding-Konvention, sondern bei der Steuerung eines ganzen Unternehmens.
Wie Sie KI-gestützte Entscheidungssysteme in der eigenen Unternehmensführung einordnen, bevor Sie investieren.
Beratungsgespräch vereinbaren →