„Eigenes Modell, Open Source oder API — was ist für uns richtig?“
Wir stellen die vier Fragen, die wirklich zählen — Daten, Antwortzeit, Fehlerkosten und Menge — und leiten daraus eine Entscheidung ab, die ihr begründen könnt.
KI-Architektur entscheiden statt ausprobieren
- Ergebnis
- Begründete Architekturentscheidung
- Für
- IT-Leitung & Geschäftsführung
- Dauer
- 6–10 Wochen
Expert:in
Jan Philipp trifft diese Abwägungen für eigene Systeme regelmäßig und kennt deshalb die Rechnung dahinter, nicht nur die Argumente. Er empfiehlt eine Bauweise statt eines Modells — Modelle veralten, die Architektur soll den Wechsel überstehen.
Herausforderung
Der Pilot lief gut, und jetzt wird es unübersichtlich. Großes Modell über eine Schnittstelle oder ein kleineres im eigenen Haus? Open Source oder ein kommerzieller Dienst? Nachtrainieren oder mit klugen Anweisungen arbeiten?
Zu jeder Frage gibt es überzeugende Vorträge in beide Richtungen, meist von jemandem, der etwas verkauft. Und jede Antwort zieht die nächste nach sich: Wer selbst hostet, braucht Betrieb; wer eine Schnittstelle nutzt, bekommt eine Preisliste, die sich ändern kann.
Also wird entschieden, was gerade am lautesten empfohlen wird — und drei Monate später merkt jemand, dass die laufenden Kosten den Nutzen auffressen oder dass ein Wechsel praktisch nicht mehr möglich ist.
Barriere-Triade
- WollenKaum im Weg
- Loslegen will das Haus längst — hier bremst nicht der Wille.
- KönnenHier hakt es
- Die Abwägungen sind technisch und wirtschaftlich zugleich; im Alleingang trifft man sie schlecht.
- DürfenBremst spürbar mit
- Was mit euren Daten wohin darf, setzt die Grenzen, in denen überhaupt gewählt werden kann.
Lösung
Wir drehen die Reihenfolge um und fangen bei euren Anforderungen an. Welche Daten sind im Spiel, und dürfen sie das Haus verlassen? Wie schnell muss eine Antwort kommen? Wie schlimm ist ein Fehler? Und wie viele Anfragen entstehen im Monat, wenn es wirklich benutzt wird? Diese vier Antworten schließen die meisten Optionen bereits aus.
Danach rechnen wir, statt zu vergleichen. Ein Modell über eine Schnittstelle kostet pro Anfrage und wächst mit der Nutzung; ein selbst betriebenes kostet fast unabhängig davon, dafür laufend. Welches günstiger ist, hängt an eurer Menge — und die schätzen wir vorher ab, statt sie zu hoffen.
Nachtrainieren empfehlen wir selten und erst spät. Meistens bringt es mehr, dem Modell die richtigen Informationen zur Frage mitzugeben, als es umzuschulen: billiger, schneller zu ändern und nachvollziehbar. Wo Nachtrainieren wirklich trägt, sagen wir es — und was es laufend kostet.
Zum Schluss halten wir fest, wie ein Ausstieg aussähe. Nicht weil wir ihn erwarten, sondern weil eine Architektur, aus der man wieder herauskommt, anders gebaut wird als eine, bei der diese Frage nie gestellt wurde. Aufgeschrieben kostet die Antwort einen Nachmittag, nachträglich ein Projekt.
Nenn uns euren geplanten Anwendungsfall und ungefähr, wie oft er genutzt würde. Wir sagen dir, welche Architektur dafür infrage kommt.