Irgendwo in Ihrem Unternehmen, vielleicht in diesem Moment, kopiert jemand eine Kundenliste in ein kostenloses KI-Tool. Schnell zusammenfassen lassen. Spart Zeit. Dauert dreißig Sekunden.
Und in diesen dreißig Sekunden hat das Unternehmen etwas aus der Hand gegeben, das es nicht zurückholen kann.
Genau hier beginnt das Thema Corporate LLM.
Ein Corporate LLM ist ein großes Sprachmodell, das exklusiv für ein einzelnes Unternehmen betrieben wird. Kein geteilter Dienst, in den die halbe Welt ihre Daten tippt, sondern ein Modell unter Ihrer Kontrolle: Ihre Daten, Ihre Infrastruktur oder Ihre vertraglich abgesicherte Cloud, Ihre Regeln. Der Unterschied zum frei zugänglichen Chatbot ist nicht die Technik. Es ist die Frage, wer am Ende den Schlüssel zur Tür hat.
Ein Corporate LLM hält Unternehmenswissen im eigenen Haus und schützt sensible Daten vor unkontrollierter KI-Nutzung.
Das Rezept und die fremde Küche
Stellen Sie sich vor, in Ihrer Familie gibt es ein Rezept. Seit drei Generationen. Niemand sonst kennt die genaue Mischung, das Verhältnis, den einen Handgriff, der alles trägt.
Eines Tages haben Sie keine Zeit zu kochen. Sie geben das Rezept einem fremden Restaurant: „Machen Sie das bitte für mich.“ Das Essen kommt. Es schmeckt. Bequem war es auch.
Nur: Die fremde Küche hat das Rezept jetzt. Sie kann es aufschreiben, weitergeben, morgen einem anderen Gast servieren. Ihr Geheimnis ist kein Geheimnis mehr. Es liegt in einem Ordner, zu dem Sie keinen Zugang haben.
Genau das passiert, wenn Firmendaten in ein öffentliches KI-Tool wandern. Verträge, Gehaltslisten, Quellcode, die Strategie fürs nächste Jahr. Alles, was eingegeben wird, verlässt das Haus. Es landet auf Servern, die jemand anderem gehören, und kann je nach Anbieter und Vertrag für das Training künftiger Modelle verwendet werden.
Ein Corporate LLM dreht das um. Sie kochen in Ihrer eigenen Küche. Das Modell ist der Koch, den Sie eingestellt haben, und der vertraglich zusichert, dass kein Rezept das Gebäude verlässt.
Warum das gerade jetzt brennt
Hier kommt der unbequeme Teil.
Die Daten fließen längst. Nicht in einer fernen Zukunft, sondern täglich, in fast jedem Unternehmen. Eine repräsentative Erhebung des Branchenverbands Bitkom vom Herbst 2025 zeigt: Vier von zehn Unternehmen gehen davon aus, dass ihre Beschäftigten private KI-Tools für die Arbeit nutzen. Andere Studien, etwa von der Software AG, kommen für deutsche Wissensarbeit auf über fünfzig Prozent.
Für dieses Phänomen gibt es einen Namen: Shadow AI. Die Nutzung von KI ohne Wissen und ohne Freigabe der IT.
Und jetzt das Detail, das jede Verbotsstrategie aushebelt: Ein erheblicher Teil der Beschäftigten würde unautorisierte Tools auch dann weiterverwenden, wenn das Unternehmen sie ausdrücklich verbietet. Das ist kein Trotz. Das ist der nachvollziehbare Reflex von Menschen, die ihre Arbeit schneller erledigen wollen und keine erlaubte Alternative bekommen.
Wer hier nur verbietet, macht das Problem nicht kleiner. Er macht es unsichtbar.
Was passieren kann, wenn niemand hinschaut, hat 2023 ein Weltkonzern vorgeführt: Bei Samsung gaben Mitarbeitende vertraulichen Quellcode in einen öffentlichen Chatbot ein, um sich helfen zu lassen. Die Daten lagen anschließend auf fremden Servern. Das Unternehmen reagierte mit einem internen Verbot. Der Schaden war da.
Die ehrliche Frage lautet also nicht: Soll meine Belegschaft KI nutzen? Sie nutzt sie schon. Die Frage lautet: Will ich, dass sie es im Schatten tut oder im Licht?
Was ein Corporate LLM von einem Wochenend-Tool unterscheidet
Ein öffentlicher Chatbot ist für allgemeine Sprache gebaut. Er kennt das halbe Internet, aber nicht Ihr Unternehmen. Er weiß nicht, wie Ihre Kundschaft heißt, welche Klausel in Ihren Verträgen steht, warum Projekt Nordstern letztes Quartal scheiterte.
Ein Corporate LLM dagegen wird auf drei Arten zu Ihrem Modell.
Erstens durch Kontrolle über die Daten. Bei einer Enterprise-Cloud wie Azure OpenAI oder AWS Bedrock regelt ein Auftragsverarbeitungsvertrag nach Artikel 28 der Datenschutz-Grundverordnung, dass Ihre Eingaben nicht zum Training genutzt und in der EU verarbeitet werden. Bei einer Self-Hosted-Lösung laufen offene Modelle wie Mistral oder Llama auf eigenen Servern. Dann verlässt buchstäblich kein Byte das Haus.
Zweitens durch Anbindung an Ihr Wissen. Das Stichwort heißt Retrieval-Augmented Generation, kurz RAG. Vereinfacht: Das Modell darf vor jeder Antwort in Ihrer eigenen Wissensbasis nachschlagen, in Handbüchern, Verträgen, Tickets. Die Antwort fußt dann auf geprüften Quellen aus Ihrem Haus statt auf vagem Allgemeinwissen. Das senkt das Risiko frei erfundener Antworten, der berüchtigten Halluzinationen, spürbar.
Ein Beispiel macht den Unterschied greifbar. Fragt jemand im Support einen öffentlichen Chatbot, welche Garantie für ein bestimmtes Gerät aus dem Jahr 2022 gilt, bekommt er eine höfliche, allgemeine, womöglich falsche Antwort. Fragt er ein Corporate LLM mit RAG, zieht das Modell die exakte Klausel aus Ihren eigenen Garantiebedingungen und nennt die Quelle dazu. Aus „klingt plausibel“ wird „steht so bei uns“.
Drittens, optional, durch Feinabstimmung. Beim Fine-Tuning lernt ein Modell Ihren Tonfall, Ihre Fachsprache, Ihre wiederkehrenden Aufgaben. Aus dem höflichen Generalisten wird ein Spezialist, der klingt, als hätte er bei Ihnen gelernt.
Drei Wege also, ein Modell vom austauschbaren Werkzeug in einen Kollegen zu verwandeln, der Ihr Geschäft kennt. Welcher davon passt, hängt davon ab, wie sensibel Ihre Daten sind und wie viel Kontrolle Sie wirklich brauchen.
Cloud, lokal, hybrid: drei Türen, ein Ziel
In der Praxis kristallisieren sich drei Wege heraus.
Die Managed Private Cloud ist der schnelle Einstieg. Ein etablierter Anbieter stellt Rechenleistung und Modell, ein Datenschutzvertrag sichert die Verarbeitung in der EU ab. Niedrige Einstiegshürde, laufende Kosten pro Nutzung, kein eigenes Spezialistenteam nötig. Gut für alle, die zügig starten wollen.
Das selbst betriebene Open-Source-Modell ist die Variante für maximale Souveränität. Branchen mit Berufsgeheimnis, also Kanzleien, Steuerberatung, Arztpraxen, oder Unternehmen mit besonders schützenswerten Geschäftsgeheimnissen, fahren oft hier am sichersten. Die Initialkosten für passende Hardware liegen je nach Ausbaustufe grob im fünf- bis sechsstelligen Bereich, dazu kommt der Betrieb. Ab einem gewissen Nutzungsvolumen wird das deutlich günstiger als Cloud-Abrechnung pro Anfrage. Und die offenen europäischen Modelle, allen voran das französische Mistral, kommen für viele Unternehmensaufgaben erstaunlich nah an die großen kommerziellen Systeme heran.
Der hybride Ansatz mischt beides: unkritisches in der Cloud, Sensibles im eigenen Haus. Für die meisten mittelständischen Unternehmen ist das der vernünftige Mittelweg.
Ein Hinweis, der gern untergeht: Nicht jedes „Business-Abo“ macht aus einem öffentlichen Tool automatisch ein Corporate LLM. Entscheidend ist, ob ein belastbarer Auftragsverarbeitungsvertrag vorliegt und ob die Daten nachweislich in der EU bleiben. Der Aufkleber „Enterprise“ allein genügt nicht.
Der rechtliche Rahmen, der niemanden mehr verschont
Zwei Buchstaben-Kürzel entscheiden inzwischen mit, ob KI im Unternehmen erlaubt oder gefährlich ist.
Das erste ist die DSGVO. Schon eine einzige Eingabe mit personenbezogenen Daten in ein ungeeignetes Tool kann ein meldepflichtiger Datenschutzvorfall sein. Der Bußgeldrahmen reicht bis zu zwanzig Millionen Euro oder vier Prozent des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ausfällt. Das ist keine theoretische Drohung. Das ist die Hausordnung.
Das zweite ist der EU AI Act. Die europäische KI-Verordnung greift seit August 2024 stufenweise. Seit Februar 2025 gilt die Pflicht zur sogenannten KI-Kompetenz: Wer KI im Auftrag eines Unternehmens bedient, von der Marketingabteilung bis zum Vertrieb, muss nachweisbar geschult sein. Seit August 2025 gelten Vorgaben für die großen Basismodelle, die General Purpose AI. Für 2026 stehen weitere Pflichten an, deren genaue Fristen für Hochrisiko-Anwendungen politisch noch in Bewegung sind. Wichtig zu wissen: Auch wer fremde Modelle wie ChatGPT, Copilot oder Claude nur in eigene Abläufe einbindet, fällt unter die Verordnung, sobald daraus geschäftskritische Entscheidungen werden.
Die Richtung ist eindeutig, selbst wenn einzelne Termine sich verschieben. Wer seine KI-Nutzung sauber dokumentiert, Zugriffe kontrolliert und ein erlaubtes System bereitstellt, erfüllt nebenbei einen großen Teil dessen, was der Gesetzgeber ohnehin verlangt.
Wer tiefer einsteigen will: Das Bundesamt für Sicherheit in der Informationstechnik hat eigene Handreichungen zu Chancen und Risiken generativer KI veröffentlicht, und der Originaltext des EU AI Act ist frei zugänglich. Beide sind nüchterner als die meisten Schlagzeilen und genau deshalb hilfreich.
Kein Budgetthema. Ein Haltungsthema.
Jetzt kommt der Einwand, der in jeder zweiten Sitzung fällt: Das kostet doch.
Stimmt. Ein Corporate LLM kostet mehr als ein kostenloser Account. Hardware, Betrieb, Schulung, alles will bezahlt werden.
Aber rechnen Sie einmal anders herum. Was kostet ein einziger Datenschutzvorfall? Was kostet es, wenn die Strategie fürs nächste Jahr in einem fremden Trainingsdatensatz landet? Was kostet das Vertrauen Ihrer Kundschaft, wenn herauskommt, dass ihre Daten durch ein unkontrolliertes Tool geflossen sind?
Die Entscheidung für ein eigenes Modell ist selten eine Frage des Budgets. Sie ist eine Frage der Verantwortung. Sie sagt: Das Wissen, das dieses Unternehmen über Jahre aufgebaut hat, bleibt im Haus. Es ist zu wertvoll, um es gegen ein bisschen Bequemlichkeit zu verschenken.
Und sie sagt noch etwas, leiser, aber wichtiger: Wir trauen unseren Leuten KI zu. Wir geben ihnen ein Werkzeug, mit dem sie schneller werden dürfen, ohne dafür ins Risiko zu gehen. Das ist kein Kontrollverlust. Das ist das Gegenteil.
Wo Ihr Wissen morgen liegt
Kehren wir zur Küche zurück.
Das Rezept Ihrer Familie ist nicht schlecht aufgehoben, weil es benutzt wird. Es ist schlecht aufgehoben, wenn Sie nicht mehr wissen, wer eine Kopie hat.
Ein Corporate LLM ist der Versuch, die Küche im eigenen Haus zu behalten und trotzdem modern zu kochen. Schneller, klüger, mit einem Koch, der Ihre Zutaten kennt. Aber unter Ihrem Dach.
Also, ganz ehrlich, ohne Ausweichen: Wenn Sie heute nachschauen würden, welche Ihrer Firmendaten diese Woche durch ein fremdes KI-Tool gelaufen sind, was würden Sie finden?
Und wäre Ihnen wohl dabei?
