Die meisten bekannten Coding-Assistenten folgen einem einfachen Muster: Eine Erweiterung im Editor schickt Codeausschnitte an einen Cloud-Dienst, dort berechnet ein großes Sprachmodell einen Vorschlag, und das Ergebnis erscheint wenige Augenblicke später in der Entwicklungsumgebung. Für viele Teams ist das bequem. Für Unternehmen, deren Quellcode ein zentrales Betriebsgeheimnis ist, etwa im Maschinenbau, in der Medizintechnik oder bei Software für kritische Infrastruktur, ist es dagegen ein Grundsatzproblem. Der Code verlässt das Haus, oft in Richtung USA, und die Kontrolle darüber, was mit ihm geschieht, liegt im Wesentlichen in Vertragsklauseln.
Refact.ai hat sich früh als Alternative zu diesem Muster positioniert. Neben einer gehosteten Cloud-Variante, die sich wie andere Assistenten nutzen lässt, gibt es einen Server, den Unternehmen selbst betreiben können. Auf diesem Server laufen offene Code-Modelle, die Vervollständigung und Chat übernehmen. Zusätzlich bietet Refact die Möglichkeit, ein Modell auf dem eigenen Code nachzutrainieren, damit es Namenskonventionen, interne Bibliotheken und typische Muster des Unternehmens besser kennt. Drei Merkmale prägen das Angebot:
Die Entwicklung von Refact spiegelt die Entwicklung des gesamten Marktes. Am Anfang stand die Vervollständigung von Code mit kleineren, schnellen Modellen, die auch auf einer einzelnen Grafikkarte laufen. Der Anbieter hat in dieser Phase auch eigene kleinere Code-Modelle veröffentlicht und offene Modelle anderer Projekte in den Server eingebunden. Darauf folgte der Chat mit Projektkontext, bei dem relevante Dateien und Codeabschnitte automatisch in die Anfrage einfließen. Mit dem Aufkommen agentischer Arbeitsweisen hat Refact seinen Schwerpunkt deutlich in Richtung Agent verschoben: Der Assistent soll nicht nur Vorschläge machen, sondern ganze Aufgaben übernehmen, Dateien ändern, Befehle ausführen und das Ergebnis prüfen.
Diese Verschiebung hat Folgen für die Bewertung. Ein Agent arbeitet am besten mit sehr leistungsfähigen Sprachmodellen, und die stärksten Modelle sind häufig proprietär und nur über Cloud-Schnittstellen verfügbar. Refact unterstützt deshalb sowohl offene Modelle im Eigenbetrieb als auch kommerzielle Modelle großer Anbieter. Wie stark sich der Anbieter künftig auf die Cloud- oder die Self-Hosting-Variante konzentriert und welche Teile weiterhin quelloffen gepflegt werden, sollten Sie vor einer langfristigen Entscheidung aktuell prüfen (Stand prüfen).
Die Zielgruppe lässt sich in zwei Gruppen teilen. Die erste sind einzelne Entwicklerinnen und Entwickler sowie kleine Teams, die einen leistungsfähigen Assistenten mit Agent in VS Code oder einer JetBrains-IDE suchen und die Cloud-Variante nutzen. Für sie ist Refact eine Alternative zu Copilot oder Cursor, die ohne Wechsel des Editors auskommt. Die zweite und für den Mittelstand wichtigere Gruppe sind Unternehmen, die einen Assistenten unter eigener Kontrolle betreiben wollen: Softwarehäuser mit Kundenprojekten unter Geheimhaltung, Industrieunternehmen mit eingebetteter Software, Banken- und Versicherungsdienstleister oder Behördenzulieferer, für die eine Verarbeitung von Code in US-Clouds nicht in Frage kommt.
Gerade diese zweite Gruppe hatte lange nur wenige Optionen. Neben Refact gehören Tabby, Continue mit lokalen Modellen und die Enterprise-Varianten von Tabnine zu den bekannten Wegen. Refact unterscheidet sich von diesen vor allem durch die Kombination aus integriertem Agenten, Fine-Tuning im eigenen Server und einer Oberfläche, die Modellverwaltung und Training ohne tiefe Machine-Learning-Kenntnisse zugänglich machen soll. Kapitel 06 vergleicht die Alternativen im Detail.
Die Cloud-Variante funktioniert wie die meisten anderen Assistenten. Nach der Installation des Plugins und der Anmeldung stehen Vervollständigung, Chat und Agent sofort zur Verfügung. Im Hintergrund arbeitet Refact mit einer Auswahl an Sprachmodellen, die sich im Lauf der Zeit verändert. Typischerweise umfasst sie leistungsfähige Modelle großer kommerzieller Anbieter für Chat und Agent sowie schnellere, kleinere Modelle für die Vervollständigung. Welche Modelle aktuell verfügbar sind und bei welchen Anbietern sie laufen, ist beim Anbieter zu prüfen, denn genau davon hängen Qualität und Datenflüsse ab.
Für den Mittelstand ist die Cloud-Variante vor allem als Testumgebung nützlich. Ein Team kann mit nicht vertraulichem Code ausprobieren, wie gut der Agent arbeitet und wie sich die Erweiterung in den Alltag einfügt. Für produktiven Einsatz mit sensiblem Code gelten die Datenschutzfragen, die in Kapitel 09 behandelt werden. Die Cloud-Variante ist damit kein Widerspruch zur Self-Hosting-Strategie, sondern häufig der erste Schritt dorthin.
Der Self-Hosting-Server ist der Baustein, der Refact im Markt unterscheidet. Er wird als Container-Image bereitgestellt und läuft auf Linux-Servern mit geeigneten Grafikkarten. Über eine Weboberfläche lässt sich festlegen, welches Modell für Vervollständigung und welches für Chat zuständig ist, wie viele GPUs welchem Modell zugeordnet werden und ob zusätzlich externe Modellschnittstellen genutzt werden dürfen. Unterstützt wird eine Reihe offener Code-Modelle verschiedener Herkunft, etwa aus den Familien StarCoder, Qwen-Coder, DeepSeek-Coder oder Llama. Welche Modelle in der aktuellen Version konkret angeboten werden, sollten Sie der Dokumentation entnehmen.
Der quelloffene Self-Hosting-Server war lange das Aushängeschild des Projekts. In der Praxis zeigt sich jedoch bei vielen Open-Source-Anbietern, dass sich der Fokus mit der Zeit auf Cloud- und Enterprise-Angebote verlagert und die frei verfügbare Variante langsamer weiterentwickelt wird. Ob und in welchem Umfang das bei Refact der Fall ist, lässt sich am besten an der Aktivität im öffentlichen Repository, an den Versionshinweisen und im direkten Gespräch mit dem Anbieter ablesen (Stand prüfen). Für eine langfristige Plattformentscheidung ist diese Frage wichtiger als jede einzelne Funktion.
Refact positioniert sich nicht als Spezialwerkzeug für Tests, Reviews oder Sicherheit, sondern als Allround-Assistent, der die tägliche Arbeit im Editor abdeckt. Die Differenzierung liegt im Betriebsmodell und in der Anpassbarkeit. Gegenüber GitHub Copilot oder Cursor wirbt Refact mit Kontrolle über Daten und Modelle, gegenüber anderen Self-Hosting-Lösungen mit einem integrierten Agenten und einer vergleichsweise zugänglichen Fine-Tuning-Funktion. Für Unternehmen bedeutet diese Positionierung, dass Refact in der Regel als Hauptassistent eingeführt wird und nicht als Ergänzung. Das macht die Entscheidung weitreichender, weil Gewohnheiten, Schulungen und Prozesse auf das Werkzeug ausgerichtet werden.
Die Vervollständigung ist die Funktion, die am häufigsten genutzt wird und deren Qualität den Alltag am stärksten prägt. Refact schlägt während des Tippens einzelne Zeilen oder ganze Blöcke vor und berücksichtigt dabei den Code vor und nach der Cursorposition, das sogenannte Fill-in-the-Middle. Zusätzlich fließen Informationen aus anderen Dateien des Projekts ein, etwa Definitionen von Funktionen und Klassen, die an der aktuellen Stelle verwendet werden. Dafür indiziert die lokale Agenten-Komponente das Projekt und ermittelt relevante Symbole.
Für die Vervollständigung sind kleine, schnelle Modelle oft besser geeignet als große Chat-Modelle, weil die Antwortzeit entscheidend ist. Ein Vorschlag, der erst nach mehreren Sekunden erscheint, stört mehr, als er nützt. Im Eigenbetrieb ist das ein Vorteil: Ein kleineres Code-Modell lässt sich schon auf einer einzelnen leistungsfähigen Grafikkarte mit kurzer Latenz betreiben. Die Qualität hängt stark vom gewählten Modell und von der Programmiersprache ab. In verbreiteten Sprachen wie Python, JavaScript, TypeScript, Java oder Go sind die Ergebnisse erfahrungsgemäß am besten, bei Nischensprachen, älteren Dialekten oder domänenspezifischen Sprachen, wie sie in der Automatisierungstechnik vorkommen, kann Fine-Tuning einen spürbaren Unterschied machen.
Im Chat können Entwicklerinnen und Entwickler Fragen zum Code stellen, markierte Abschnitte erklären lassen, Fehlermeldungen analysieren oder Vorschläge für Umbauten anfordern. Refact ergänzt die Anfrage automatisch um Kontext aus dem Projekt, und über Befehle lassen sich gezielt Dateien, Verzeichnisse, Suchergebnisse oder Definitionen hinzufügen. Antworten mit Codeänderungen können als Vorschau angezeigt und direkt in die Datei übernommen werden.
Die Qualität des Chats hängt noch stärker als bei der Vervollständigung vom Modell ab. Mit einem leistungsfähigen kommerziellen Modell in der Cloud sind die Antworten in der Regel ausführlicher und treffsicherer als mit einem kleineren offenen Modell im Eigenbetrieb. Unternehmen müssen hier abwägen: Maximale Datenhoheit mit einem offenen Modell auf eigener Hardware oder maximale Qualität mit einem Cloud-Modell unter Vertrag. Ein häufiger Mittelweg besteht darin, offene Modelle mit größerer Leistungsfähigkeit bei einem europäischen GPU-Hoster zu betreiben. Welche Kombination für das eigene Team die richtige ist, lässt sich nur im Pilot mit echten Aufgaben entscheiden.
Wie alle KI-Assistenten erzeugt auch Refact gelegentlich Code, der plausibel aussieht, aber fehlerhaft ist, nicht existierende Funktionen aufruft oder Sicherheitslücken enthält. Je kleiner das Modell, desto häufiger kommt das vor. Hinzu kommt, dass Kontextsuche und Indizierung bei sehr großen Monorepos an Grenzen stoßen können und die Erweiterungen in verschiedenen Editoren nicht immer exakt denselben Funktionsumfang haben. Für den produktiven Einsatz gilt deshalb dieselbe Regel wie bei jedem Assistenten: Vorschläge sind Entwürfe, die geprüft werden müssen, und bestehende Qualitätssicherung wie Code-Review, Tests und statische Analyse bleibt unverzichtbar.
Der Refact Agent folgt dem Muster, das sich bei agentischen Coding-Werkzeugen durchgesetzt hat: Ein Sprachmodell erhält eine Aufgabe und eine Reihe von Werkzeugen, die es selbstständig aufrufen darf. Dazu gehören das Lesen und Schreiben von Dateien, die Suche im Projekt, Shell-Befehle, Git-Operationen und je nach Konfiguration weitere Integrationen wie Datenbanken, Browser-Automatisierung oder Debugger. Das Modell entscheidet, welches Werkzeug es wann nutzt, und arbeitet sich so schrittweise zum Ziel vor. Der Anbieter hat mit dem Agenten in öffentlichen Vergleichstests für Software-Engineering-Aufgaben nach eigenen Angaben gute Ergebnisse erzielt; konkrete Werte und deren Vergleichbarkeit sollten Sie selbst einordnen, denn solche Benchmarks sagen nur begrenzt etwas über die eigene Codebasis aus.
In der Praxis ist der Agent dort stark, wo Aufgaben klar umrissen sind und sich überprüfen lassen: eine neue Schnittstelle nach einem vorhandenen Muster, eine Fehlerbehebung mit reproduzierbarem Test, eine Migration von einer Bibliotheksversion zur nächsten. Schwächer wird er bei Aufgaben, die viel unausgesprochenes Fachwissen erfordern, bei unscharfen Anforderungen oder bei sehr großen Änderungen über viele Module hinweg. Außerdem gilt: Der Agent ist nur so gut wie das Modell dahinter. Mit kleineren offenen Modellen im Eigenbetrieb ist die Agentenleistung in der Regel spürbar geringer als mit den stärksten Cloud-Modellen. Wer den Agenten im Eigenbetrieb nutzen will, braucht deshalb entsprechend leistungsfähige Modelle und Hardware.
Fine-Tuning bedeutet, ein vortrainiertes Modell mit zusätzlichen Beispielen weiterzutrainieren, sodass es Muster aus diesen Beispielen übernimmt. Refact bietet diese Funktion im Self-Hosting-Server an: Ein Administrator wählt Repositorys oder Dateien aus, legt Filter fest und startet das Training über die Weboberfläche. Technisch kommen dabei nach unserem Kenntnisstand ressourcenschonende Verfahren zum Einsatz, die nur einen kleinen Teil der Modellparameter anpassen. Das Ergebnis ist ein angepasstes Modell, das für die Vervollständigung genutzt werden kann.
Der Nutzen ist am größten bei Codebasen mit starken eigenen Konventionen: interne Frameworks, eigene Bibliotheken für Logging oder Datenbankzugriff, besondere Namensregeln oder domänenspezifische Sprachen. Ein allgemeines Modell kennt diese Muster nicht und schlägt deshalb häufig Code vor, der zwar korrekt, aber untypisch für das Projekt ist. Ein feinabgestimmtes Modell kann solche Muster übernehmen. Gleichzeitig gibt es Risiken. Wenn im Trainingsmaterial veralteter oder fehlerhafter Code steckt, lernt das Modell auch diesen. Wenn Zugangsdaten, Kundennamen oder personenbezogene Daten im Code stehen, können sie in Vorschlägen wieder auftauchen. Vor dem Training sollte das Material deshalb bereinigt und bewusst ausgewählt werden.
Ein Agent, der Shell-Befehle ausführen und Datenbanken abfragen darf, ist ein mächtiges Werkzeug und damit auch ein Risiko. Refact bietet nach Herstellerangaben Einstellungen, mit denen sich festlegen lässt, welche Befehle der Agent ohne Rückfrage ausführen darf und welche eine Bestätigung erfordern. Diese Einstellungen sollten restriktiv beginnen. Bewährt hat sich außerdem, den Agenten nur in Entwicklungsumgebungen mit Testdaten arbeiten zu lassen, ihm keine Zugangsdaten zu Produktivsystemen zu geben und alle Änderungen über den normalen Review-Prozess laufen zu lassen. Wer diese Leitplanken früh festlegt und dokumentiert, vermeidet Diskussionen nach dem ersten Zwischenfall und schafft Vertrauen bei Datenschutz und Informationssicherheit.
Refact bietet Erweiterungen für Visual Studio Code und die JetBrains-Familie. Damit sind die beiden Umgebungen abgedeckt, die in mittelständischen Entwicklungsteams am häufigsten genutzt werden. Wer mit Eclipse, Visual Studio, Vim oder Emacs arbeitet, sollte die aktuelle Unterstützung prüfen; hier ist das Angebot je nach Stand eingeschränkt oder nur über Umwege nutzbar. Für Teams mit gemischten Umgebungen ist das ein relevanter Punkt, denn ein Assistent, den nur ein Teil des Teams nutzen kann, schafft unterschiedliche Arbeitsweisen und erschwert Schulung und Support.
Die Erweiterungen verbinden sich mit einem konfigurierbaren Endpunkt. In der Cloud-Variante ist das der Dienst des Anbieters, im Eigenbetrieb die Adresse des eigenen Servers. Für die IT bedeutet das: Die Konfiguration lässt sich zentral vorgeben, etwa über verteilte Einstellungen oder Gruppenrichtlinien, sodass Entwicklerinnen und Entwickler nicht versehentlich mit dem Cloud-Dienst statt mit dem internen Server arbeiten. Diese Absicherung sollte Teil jeder Einführung im Eigenbetrieb sein.
Der Agent wird erst durch seine Werkzeuge nützlich. Refact bringt eine Reihe vorkonfigurierter Integrationen mit, die sich über Konfigurationsdateien im Projekt oder in der Benutzerumgebung aktivieren lassen. Dazu gehören nach Herstellerangaben unter anderem Shell-Befehle, Git und Plattformen wie GitHub oder GitLab, Datenbanken, Container-Werkzeuge, ein Debugger für Python und eine Browser-Automatisierung, mit der der Agent etwa eine Weboberfläche aufrufen und prüfen kann. Über das Model Context Protocol, einen offenen Standard zur Anbindung externer Werkzeuge an KI-Assistenten, lassen sich weitere Dienste ergänzen.
Für Unternehmen ist diese Offenheit Chance und Aufgabe zugleich. Einerseits kann der Agent an bestehende Abläufe angepasst werden, zum Beispiel an interne Build-Skripte oder an ein Ticketsystem. Andererseits erweitert jede Integration die Angriffsfläche. Ein MCP-Server aus unbekannter Quelle oder eine Datenbankverbindung mit zu weit gefassten Rechten kann ungewollte Folgen haben. Die Integrationen sollten deshalb wie jede andere Software freigegeben, dokumentiert und mit minimalen Rechten konfiguriert werden.
Eine Stärke von Refact ist die Flexibilität bei der Modellwahl. Im Eigenbetrieb können offene Code-Modelle auf eigener Hardware laufen, zusätzlich lassen sich kommerzielle Modelle über deren Schnittstellen einbinden, sofern das gewünscht ist. Damit sind gemischte Szenarien möglich: Die Vervollständigung läuft vollständig intern mit einem kleinen, feinabgestimmten Modell, während für anspruchsvolle Chat- oder Agentenaufgaben ein leistungsfähigeres Modell genutzt wird, etwa bei einem Anbieter mit Rechenzentrum in der EU. Wichtig ist, solche Mischformen bewusst zu gestalten und zu dokumentieren, denn mit jedem externen Modell entsteht ein neuer Datenfluss, der datenschutzrechtlich zu bewerten ist. Eine klare Richtlinie, welche Repositorys mit welchen Modellen bearbeitet werden dürfen, verhindert, dass vertraulicher Code unbemerkt nach außen gelangt.
Tabby ist der wohl direkteste Vergleich. Auch Tabby ist quelloffen, läuft auf eigenen GPU-Servern und bietet Vervollständigung sowie Chat mit Kontext aus internen Repositorys. Tabby legt großen Wert auf einfache Installation, einen schlanken Server und eine Verwaltungsoberfläche für Teams. Refact setzt im Vergleich stärker auf den integrierten Agenten und auf Fine-Tuning. Für Teams, die vor allem eine zuverlässige Vervollständigung im eigenen Netz wollen, kann Tabby die schlankere Wahl sein. Wer zusätzlich agentische Funktionen und Anpassung an den eigenen Code sucht, sollte beide im Pilot gegenüberstellen.
Continue verfolgt einen anderen Ansatz. Es ist in erster Linie eine offene Erweiterung für VS Code und JetBrains, die sich mit fast beliebigen Modellquellen verbinden lässt, von lokalen Modellen über eigene Server bis zu kommerziellen Schnittstellen. Continue bringt selbst keinen Modellserver mit; den Betrieb der Modelle übernimmt ein separates Werkzeug wie Ollama, vLLM oder ein Cloud-Anbieter. Das macht Continue sehr flexibel, aber auch etwas aufwendiger in der Zusammenstellung. Refact liefert Server, Modellverwaltung und Fine-Tuning aus einer Hand. Tabnine wiederum ist ein kommerzieller Anbieter, der seit Langem auf Unternehmenskunden mit Datenschutzanforderungen ausgerichtet ist und Installationen in eigener Infrastruktur anbietet. Der Code von Tabnine ist nicht quelloffen, dafür bietet der Anbieter ein klassisches Enterprise-Paket mit Support und Verträgen.
GitHub Copilot und Codeium, dessen Produkte inzwischen eng mit dem Editor Windsurf verbunden sind, stehen für das Cloud-Modell. Ihre Stärken sind sehr leistungsfähige Modelle, breite Verbreitung, schnelle Weiterentwicklung und eine Integration ohne eigene Infrastruktur. Copilot ist zudem tief in GitHub eingebunden, vom Editor bis zum Pull Request. Für Teams ohne besondere Anforderungen an Datenhoheit ist das oft der bequemste Weg. Zu den Eigentumsverhältnissen und zur Produktstrategie von Codeium beziehungsweise Windsurf hat es Veränderungen gegeben; den aktuellen Stand sollten Sie prüfen (Stand prüfen).
Der wesentliche Unterschied zu Refact liegt nicht in einzelnen Funktionen, sondern im Betriebsmodell. Bei Copilot und vergleichbaren Diensten wird Code grundsätzlich in der Cloud des Anbieters verarbeitet, in der Regel bei US-Unternehmen. Es gibt vertragliche Zusagen zu Trainingsausschluss und Speicherdauer, aber keine Möglichkeit, das Modell im eigenen Rechenzentrum zu betreiben. Refact kann hier eine Lücke schließen, zahlt aber mit dem Aufwand für eigene Infrastruktur und, je nach Modell, mit geringerer Leistungsfähigkeit gegenüber den stärksten Cloud-Modellen.
Der Self-Hosting-Server läuft als Container auf Linux und benötigt Grafikkarten mit ausreichend Speicher. Wie viel genau, hängt vom gewählten Modell, von der Zahl gleichzeitiger Nutzer und davon ab, ob Fine-Tuning auf derselben Hardware laufen soll. Für die reine Vervollständigung mit einem kleineren Code-Modell genügt oft eine einzelne leistungsfähige Karte, für größere Chat- und Agentenmodelle oder viele gleichzeitige Anfragen werden mehrere Karten oder Karten der Rechenzentrumsklasse nötig. Konkrete Hardwareempfehlungen und Modellanforderungen sollten Sie der aktuellen Dokumentation entnehmen und im Pilot verifizieren, denn sie ändern sich mit jeder Modellgeneration.
Neben der Hardware gehören zum Betrieb die üblichen Aufgaben: Zugriffsschutz über das interne Netz oder ein VPN, Verschlüsselung der Verbindungen, Authentifizierung der Nutzer, Überwachung von Auslastung und Antwortzeiten, Sicherung der Konfiguration und der feinabgestimmten Modelle sowie ein geregelter Prozess für Updates. Wer bereits Container-Plattformen betreibt, kann Refact dort integrieren. Wer bisher keine GPU-Infrastruktur hat, sollte den Aufwand realistisch einschätzen oder einen europäischen GPU-Hoster mit verwaltetem Betrieb einbinden.
Ein Pilot ist nur dann aussagekräftig, wenn er unter realistischen Bedingungen läuft. Dazu gehören echte Aufgaben aus dem Backlog, nicht nur Demonstrationsbeispiele, und eine Laufzeit, die über die erste Begeisterung hinausgeht. Bewährt haben sich einige einfache Messgrößen: Wie oft werden Vorschläge angenommen? Wie viele Agentenaufgaben führen zu einem brauchbaren Ergebnis, und wie viel Nacharbeit ist nötig? Wie empfinden die Beteiligten Antwortzeit und Qualität? Zusätzlich sollte die IT erfassen, wie stabil der Server läuft, wie hoch die Auslastung der GPUs ist und welcher Betriebsaufwand tatsächlich anfällt. Erst die Kombination dieser Werte erlaubt eine belastbare Entscheidung.
Ein häufiger Fehler besteht darin, den Pilot mit dem kleinsten verfügbaren Modell zu fahren, um Hardwarekosten zu sparen, und daraus zu schließen, dass KI-Assistenz im Eigenbetrieb nicht ausreicht. Umgekehrt sollte man nicht mit dem stärksten Cloud-Modell testen und dann im Eigenbetrieb ein deutlich schwächeres Modell einsetzen. Der Pilot sollte mit der Modellkonfiguration laufen, die später auch produktiv genutzt werden soll.
Refact passt besonders gut zu Unternehmen, die drei Bedingungen erfüllen. Erstens ist der eigene Code so sensibel, dass eine Verarbeitung in fremden Clouds ausgeschlossen oder nur mit großem Aufwand vertretbar ist. Zweitens gibt es im Haus oder bei einem Dienstleister die Kompetenz, Container und GPU-Server zuverlässig zu betreiben. Drittens arbeitet das Team überwiegend in VS Code oder JetBrains-IDEs und in Sprachen, die von offenen Code-Modellen gut abgedeckt werden. Sind diese Bedingungen erfüllt, bietet Refact eine Kombination aus Funktionsumfang und Datenhoheit, die nur wenige Lösungen in dieser Form erreichen.
Zusätzlich profitieren Teams mit starken internen Konventionen vom Fine-Tuning. Wer ein eigenes Framework, eine eigene Datenzugriffsschicht oder eine domänenspezifische Sprache nutzt, erlebt mit allgemeinen Modellen oft, dass Vorschläge zwar korrekt, aber nicht passend sind. Ein angepasstes Modell kann diese Lücke verkleinern und die Akzeptanz im Team deutlich erhöhen.
Weniger geeignet ist Refact für Teams, die keine eigene Infrastruktur betreiben wollen und keine besonderen Datenschutzanforderungen haben. Für sie bieten große Cloud-Assistenten in der Regel stärkere Modelle bei geringerem Aufwand. Auch Teams, die überwiegend in Visual Studio, Eclipse oder anderen nicht unterstützten Umgebungen arbeiten, sollten die Editor-Unterstützung genau prüfen. Und wer vor allem eine reine, schlanke Vervollständigung im eigenen Netz sucht, ist mit Tabby oder mit Continue und einem lokalen Modell möglicherweise schneller am Ziel. Schließlich spricht eine sehr kleine Entwicklungsabteilung mit nur wenigen Personen eher gegen eigene GPU-Server, weil sich Hardware und Betrieb erst ab einer gewissen Nutzerzahl rechnen. Hier kann ein Hoster mit verwaltetem Betrieb oder ein gemeinsamer Server mit anderen Abteilungen die Lösung sein.
Kostenmodell realistisch einschätzen. Refact bietet nach unserem Kenntnisstand einen kostenlosen Einstieg in der Cloud, kostenpflichtige Tarife für intensivere Nutzung und Enterprise-Angebote mit individuellen Konditionen. In der Cloud-Variante hängen die Kosten zunehmend vom Verbrauch an Modellanfragen ab, insbesondere bei Agentenaufgaben mit leistungsfähigen Modellen. Im Eigenbetrieb fallen je nach Lizenzmodell keine oder geringere Lizenzkosten an, dafür Kosten für GPU-Hardware oder gemietete GPU-Kapazität, Strom, Betrieb, Updates und internen Personalaufwand. Konkrete Preise, Kontingente und Lizenzbedingungen ändern sich in diesem Markt häufig; prüfen Sie die aktuellen Konditionen direkt beim Anbieter.
Für die Wirtschaftlichkeit ist eine Gesamtkostenbetrachtung über mehrere Jahre sinnvoll. Ein eigener GPU-Server rechnet sich in der Regel erst ab einer gewissen Zahl aktiver Nutzerinnen und Nutzer und wenn die Hardware gut ausgelastet ist. Ein EU-Hoster mit stunden- oder monatsweise gemieteter GPU-Kapazität senkt die Einstiegshürde und erlaubt es, die Größe nach dem Pilot anzupassen. Auf der Nutzenseite zählen weniger die eingesparten Tastenanschläge als die Zeit, die das Team für Verständnis, Umbauten und Routineaufgaben gewinnt.
Läuft Refact vollständig auf eigener Hardware im eigenen Netz und sind keine externen Modellschnittstellen aktiviert, verlässt Code das Unternehmen nicht. Damit entfallen die typischen Fragen nach Drittlandtransfer, Subprozessoren und Trainingsnutzung durch Dritte weitgehend. Quellcode enthält zwar meist nur wenige personenbezogene Daten, etwa Namen in Kommentaren, Autorenangaben oder Testdaten, aber er ist fast immer ein Geschäftsgeheimnis. Der Eigenbetrieb schützt beides. Ähnlich günstig ist ein Betrieb bei einem Hoster mit Sitz und Rechenzentrum in der EU unter einem Auftragsverarbeitungsvertrag, wobei hier Vertrag, Zugriffsrechte des Hosters und technische Schutzmaßnahmen zu prüfen sind.
Auch im Eigenbetrieb bleiben Pflichten. Die Verarbeitung ist im Verzeichnis von Verarbeitungstätigkeiten zu dokumentieren, Zugriffe sind zu regeln, Protokolle mit Anfragen sollten nur so lange wie nötig gespeichert werden, und beim Fine-Tuning ist darauf zu achten, dass keine personenbezogenen Daten oder Zugangsdaten in das Trainingsmaterial gelangen. Zudem sind die Lizenzbedingungen der eingesetzten offenen Modelle zu prüfen, denn nicht jedes Modell mit offenen Gewichten erlaubt jede kommerzielle Nutzung ohne Einschränkungen.
Bei der Cloud-Variante gelten die bekannten Fragen. Zunächst ist zu klären, welche Gesellschaft Vertragspartner ist, wo sie ihren Sitz hat und in welcher Region die Dienste betrieben werden. Hierzu sollten Sie die aktuellen Angaben des Anbieters prüfen, da sich Gesellschaftsstrukturen und Hosting-Regionen ändern können. Liegt der Betrieb außerhalb der EU, etwa in den USA, ist ein Drittlandtransfer zu bewerten, beispielsweise auf Grundlage des EU-US Data Privacy Framework, sofern der Anbieter zertifiziert ist, oder über Standardvertragsklauseln mit ergänzender Bewertung. Hinzu kommen die Modellpartner: Nutzt die Cloud-Variante kommerzielle Modelle großer US-Anbieter, gehen Codeausschnitte auch an diese weiter. Für die digitale Souveränität bedeutet das eine Abhängigkeit von Rechtsräumen außerhalb der EU, die sich durch Verträge mindern, aber nicht beseitigen lässt.
Neben dem Datenschutz spielt der Schutz des geistigen Eigentums eine Rolle. Zwei Fragen stehen im Vordergrund. Erstens: Kann der eigene Code über den Assistenten an Dritte gelangen? Im reinen Eigenbetrieb ist das weitgehend ausgeschlossen, in der Cloud hängt es von Verträgen und Trainingsausschluss ab. Zweitens: Können Vorschläge des Modells fremden, lizenzrechtlich geschützten Code enthalten? Offene Code-Modelle wurden häufig mit öffentlich verfügbarem Code trainiert, teilweise mit Filtern für bestimmte Lizenzen. Ein Restrisiko, dass Vorschläge geschützten Code weitgehend wiedergeben, lässt sich bei keinem Assistenten völlig ausschließen. Bewährt haben sich interne Richtlinien zum Umgang mit längeren Vorschlägen, Werkzeuge zur Lizenzprüfung in der Pipeline und das Bewusstsein im Team, dass KI-Vorschläge wie Code aus dem Internet zu behandeln sind.
