Und warum China dabei gar nicht das eigentliche Problem ist.

Open Source bedeutet Vertrauen. Das höre ich oft, auch von mir selbst. Aber stimmt das wirklich, oder ist es eine Abkürzung, die wir uns erlauben weil sie meistens funktioniert?

Die Frage stellt sich gerade sehr konkret. Seit einigen Monaten kursieren Sprachmodelle aus China, allen voran DeepSeek, die nicht nur technisch beeindrucken, sondern auch als Open Source veröffentlicht wurden. Der Code liegt auf dem Tisch. Jeder kann ihn anschauen, herunterladen, lokal betreiben. Und trotzdem ist die Reaktion vieler: Nein danke, das kommt aus China.

Ich verstehe den Reflex. Ich teile ihn sogar, teilweise. Aber ich glaube, er lenkt vom eigentlichen Thema ab.

Was Open Source bei KI bedeutet, und was nicht

Bei klassischer Software ist Open Source ein starkes Versprechen. Der Quellcode liegt offen, jeder kann prüfen was das Programm tut. Versteckte Hintertüren fallen auf, jedenfalls wenn genug Leute hinschauen. Das Modell funktioniert, weil Code deterministisch ist: gleiche Eingabe, gleiche Ausgabe, nachvollziehbar.

Bei einem Sprachmodell ist das anders. Was veröffentlicht wird, sind Gewichte. Milliarden von Zahlen, die zusammen das trainierte Modell ergeben. Theoretisch könnte man sie analysieren. Praktisch ist das so, als würde man versuchen, aus den Synapsenverbindungen eines menschlichen Gehirns abzulesen, was jemand denkt. Möglich? Vielleicht in Ansätzen. Vollständig nachvollziehbar? Nein.

Open Source bei einem LLM bedeutet also vor allem: Sie können es lokal betreiben. Sie können es anpassen. Und Sie müssen Ihre Daten nicht an einen fremden Server schicken. Das ist viel. Aber es ist nicht dasselbe wie vollständige Transparenz.

Lokal installiert, und dann?

Wer DeepSeek oder ein anderes Modell lokal betreibt, etwa über ollama auf dem eigenen Rechner, hat eine wichtige Entscheidung bereits richtig getroffen. Die Daten verlassen das eigene System nicht. Was man eintippt, bleibt auf dem eigenen Rechner. Kein API-Aufruf nach Peking, kein Aufruf nach San Francisco. Lokal ist lokal.

Das ist der Punkt, an dem die Herkunft des Modells tatsächlich weniger relevant wird. Nicht weil chinesische Unternehmen grundsätzlich vertrauenswürdig wären, oder amerikanische grundsätzlich nicht. Sondern weil ein Modell, das ohne Netzwerkzugang läuft, schlicht keine Möglichkeit hat, Daten nach Hause zu schicken. Man kann das nachprüfen. Ein einfaches Netzwerk-Monitoring-Tool zeigt, ob der Prozess nach außen kommuniziert.

sudo nethogs

Wer sichergehen will, klemmt den Rechner während der Nutzung vom Netz. Fertig.

Wo das Vertrauen wirklich anfängt

Das eigentliche Problem bei KI-Modellen ist nicht die Herkunft. Es ist das Training.

Jedes Modell wurde auf Daten trainiert, die irgendwer ausgewählt hat. Diese Auswahl prägt, wie das Modell antwortet, was es betont, was es weglässt, wo es zögert. Bei einem chinesischen Modell kann das bedeuten, dass es zu bestimmten politischen Themen ausweicht. Bei einem amerikanischen Modell kann das bedeuten, dass es bestimmte kommerzielle Interessen widerspiegelt oder kulturelle Annahmen als universal behandelt, die es nicht sind.

Kein Modell ist neutral. Keines.

Und es gibt noch eine Ebene, über die kaum jemand spricht: die menschliche Arbeit hinter dem Training. Bevor ein Modell auf die Welt losgelassen wird, muss es lernen, was es nicht sagen soll. Gewalt, Missbrauch, extremistische Inhalte. Irgendjemand muss dieses Material sichten, bewerten, klassifizieren, damit das Modell es später erkennt und meidet. Das ist keine Maschine. Das sind Menschen.

Für ChatGPT wurde 2023 gut dokumentiert, dass diese Arbeit an Mitarbeiter in Kenia ausgelagert wurde, für einen Stundenlohn von weniger als zwei Dollar. Das Material, das sie zu bewerten hatten, war schwer belastend. Psychologische Unterstützung gab es kaum. Bei anderen amerikanischen Anbietern sieht es strukturell ähnlich aus, der Kostendruck treibt diese Arbeit dorthin, wo Löhne niedrig und Schutzrechte schwach sind. Wie es bei chinesischen Modellen läuft, ist weniger gut dokumentiert. Nicht weil es dort besser wäre, sondern weil unabhängige Recherche dort schwieriger ist.

Das ändert nichts daran, ob man ein Modell lokal betreiben kann oder soll. Aber es gehört zur ehrlichen Antwort auf die Frage, wem man da eigentlich vertraut.

Das bedeutet nicht, dass alle Modelle gleich problematisch sind. Es bedeutet, dass man wissen sollte womit man arbeitet, und für welche Aufgaben man es einsetzt. Ein Modell das beim Schreiben von Code hilft, Texte zusammenfasst oder Fragen zu Linux beantwortet, braucht kein politisches Urteil zu fällen. Da spielt die Trainingspolitik des Anbieters eine untergeordnete Rolle.

Wer ein LLM für sensible Einschätzungen, rechtliche Fragen oder politische Analysen nutzt, sollte grundsätzlich kritisch bleiben, egal woher das Modell stammt.

Was das für den Alltag heißt

Für kleine Unternehmen oder Privatpersonen, die KI-Unterstützung suchen ohne ihre Daten in fremde Hände zu geben, ist ein lokal betriebenes Open-Source-Modell eine ernsthafte Option. Die Hardware muss es hergeben, ein neuerer Rechner mit ausreichend RAM reicht für kleinere Modelle. Die Einrichtung mit ollama ist in einer halben Stunde erledigt.

Ist es so leistungsfähig wie ChatGPT oder Claude? Kommt auf das Modell an, und auf die Aufgabe. Für viele alltägliche Aufgaben: ja, absolut. Für andere: noch nicht ganz.

Aber die Frage ist nicht nur, was das Modell kann. Die Frage ist auch, zu welchem Preis man es nutzt. Wer seine Kundendaten, Entwürfe und internen Dokumente durch einen fremden Server schickt, zahlt mit mehr als Geld.

Bei LinSE beschäftigen wir uns damit, wie sich solche Werkzeuge sinnvoll und sicher in den eigenen Alltag integrieren lassen, ohne dass man dafür Informatik studiert haben muss.