Ich bin Informatiker und seit rund 20 Jahren in der Softwareentwicklung, technischen Projektleitung und Technologieberatung t\u00e4tig. Studiert habe ich an der Universit\u00e4t Innsbruck; vor in-manas war ich bei IT-Dienstleistern und lange im Bereich Forschung und Entwicklung zu IoT-Themen t\u00e4tig. in-manas ist ein 2016 gegr\u00fcndetes Technologieunternehmen aus Innsbruck. Mit unserem Sovereign AI OS entwickeln wir eine zentrale Betriebs- und Kontrollschicht f\u00fcr KI-Agenten in Unternehmen. Ich habe 2019 als CTO dort angefangen und verantworte seit meinem Einstieg die technologische Ausrichtung. Dazu geh\u00f6ren die zentralen Architektur- und Technologieentscheidungen gemeinsam mit unserem Team, die Begleitung von Kunden bei ihren KI-Projekten und die Beratung der Gesch\u00e4ftsleitung zur Produktstrategie. Mein Schwerpunkt ist, aus den M\u00f6glichkeiten von KI belastbare Produkte f\u00fcr den Unternehmensalltag zu machen.<\/p>\n\n\n\n
Ausgangspunkt waren digitale Managementl\u00f6sungen, mit denen Unternehmen Wissen besser nutzen und Entscheidungen fundierter treffen k\u00f6nnen. Gro\u00dfe Sprachmodelle er\u00f6ffneten uns dann neue M\u00f6glichkeiten; mit eigenen KI-Agenten gingen wir den n\u00e4chsten Schritt zu Systemen, die selbstst\u00e4ndig Aufgaben bearbeiten und Werkzeuge nutzen. Dabei stellte sich f\u00fcr mich fr\u00fch die Frage, wie wir deren Zugriffe, Aktionen und Kosten unter Kontrolle behalten. Die n\u00f6tige Infrastruktur haben wir zun\u00e4chst f\u00fcr unseren eigenen Einsatz gebaut. Dann erkannten wir, dass genau diese Grundlage auch anderen Unternehmen fehlt. <\/p>\n\n\n\n
Deshalb haben wir eine weitreichende strategische Entscheidung getroffen: den Bau einzelner Agenten in den Hintergrund zu stellen und nahezu unsere gesamten Entwicklungsressourcen auf diese Betriebs- und Kontrollschicht zu konzentrieren. Leicht war das nicht. Kunden unseres Innovationsmanagement-Systems w\u00fcnschten sich neue Funktionen, gleichzeitig kamen Anfragen f\u00fcr neue Agenten. Und unser bestehender AI Orchestrator, die erste Generation dieser Kontrollschicht, musste wegen des rasanten technologischen Wandels grundlegend neu gedacht werden. Diese Neuentwicklung hat \u00fcber Monate fast alle Ressourcen gebunden. Daraus wurde das heutige Sovereign AI OS.<\/p>\n\n\n\n
Unternehmen stehen vor dem Sprung vom einzelnen KI-Experiment zu vielen Agenten im regul\u00e4ren Betrieb. Bis die ersten f\u00fcnf Agenten beim Kunden laufen, dauert es meist lange: Sorgen, Bedenken und Unsicherheiten verz\u00f6gern die Einf\u00fchrung. Doch dann passiert etwas, womit nur wenige rechnen: Von Agent f\u00fcnf bis hundert beschleunigt sich der Rollout fast schon exponentiell. Wenn in dieser Phase jedes Team eigene Zugriffsregeln, Kostenkontrollen und Protokolle entwickelt, entsteht ein schwer \u00fcberschaubares Nebeneinander.<\/p>\n\n\n\n
Verantwortliche brauchen jedoch einen gemeinsamen \u00dcberblick und Regeln, die \u00fcber einzelne Anwendungen hinweg gelten. Das Sovereign AI OS stellt diese Grundlage bereit. Der Begriff Betriebssystem beschreibt dabei die zentrale Betriebs- und Kontrollschicht f\u00fcr KI-Agenten. Unternehmen k\u00f6nnen damit neue Anwendungen auf einer bestehenden Infrastruktur aufbauen, statt grundlegende Betriebsfunktionen jedes Mal neu zu entwickeln. So wird aus einem erfolgreichen Pilotprojekt ein Ansatz, der sich kontrolliert auf weitere Gesch\u00e4ftsprozesse \u00fcbertragen l\u00e4sst.<\/p>\n\n\n\n
Nehmen wir einen Agenten, der interne Dokumente recherchiert, Informationen daraus zusammenf\u00fchrt und einen Bericht vorbereitet. Einen solchen Ablauf kann heute auch eine Fachabteilung ohne Programmierkenntnisse entwickeln, etwa mit einem KI-Assistenten wie Claude Code und unseren Vorlagen. Bevor der Agent in den Betrieb geht, wird festgelegt, welche Daten und Werkzeuge er nutzen darf, und ein Administrator gibt ihn frei. Funktionen oder Zugriffe, die nicht vorgesehen sind, bleiben gesperrt. W\u00e4hrend der Ausf\u00fchrung erfasst die Plattform jede Aktion und jeden Modellaufruf. <\/p>\n\n\n\n
Verantwortliche sehen dadurch, ob der Ablauf funktioniert und an welchem Schritt ein Fehler auftritt. So lassen sich Recherche, Wissensaufbereitung oder mehrstufige Analysen betreiben, und bestehende Anwendungen k\u00f6nnen als Oberfl\u00e4che dienen. Der Kern ist f\u00fcr mich: Die Fachabteilungen bekommen die Freiheit, ihre eigenen Agenten zu bauen, aber kein Agent geht ohne die festgelegten Berechtigungen und die Freigabe durch einen Administrator in den produktiven Betrieb. Das Unternehmen beh\u00e4lt trotzdem \u00dcberblick und Kontrolle. Das AI OS sch\u00fctzt dabei vor Agenten, die au\u00dfer Kontrolle geraten, nicht vor den Menschen, die sie bauen.<\/p>\n\n\n\n
Verantwortliche sehen die Ausf\u00fchrungen ihrer Agenten, deren Status, Fehler und Kosten. Die Protokollierung bleibt auch dann erhalten, wenn ein Lauf fehlschl\u00e4gt oder abgebrochen wird. So l\u00e4sst sich untersuchen, an welcher Stelle etwas schiefgelaufen ist. Menschliches Eingreifen wird n\u00f6tig, wenn ein Agent vom vorgesehenen Ablauf abweicht, ungew\u00f6hnlich viele Ressourcen verbraucht oder Ergebnisse liefert, die fachlich gepr\u00fcft werden m\u00fcssen. Monitoring, Anomalieerkennung und Benachrichtigungen helfen, solche Situationen zu erkennen. \u00dcber einen manuellen Kill Switch l\u00e4sst sich ein einzelner Agentenlauf stoppen, einschlie\u00dflich seiner Modell-, Daten- und Werkzeugzugriffe.<\/p>\n\n\n\n
In der Praxis laufen in Unternehmen aber nicht alle Agenten auf einer Plattform. Deshalb binden wir schrittweise auch Agenten an, die au\u00dferhalb des AI OS betrieben werden, etwa die verschiedenen Agenten aus der Microsoft-Welt. Sie erscheinen in derselben \u00dcbersicht, und f\u00fcr jeden ist klar definiert, was davon gesteuert werden kann. So holt ein Unternehmen nach und nach auch seine Schatten-KI ans Licht.<\/p>\n\n\n\n
Digitale Souver\u00e4nit\u00e4t bedeutet f\u00fcr uns, dass ein Unternehmen selbst \u00fcber seine Daten, seine KI-Verarbeitung und die eingesetzten Anbieter entscheiden kann. Ein europ\u00e4ischer Speicherort allein beantwortet diese Fragen noch nicht. Deshalb l\u00e4sst sich unsere Plattform auf eigener Infrastruktur oder in einer souver\u00e4nen Cloud innerhalb Europas betreiben, einschlie\u00dflich lokal betriebener Modelle. Dabei muss man konsequent sein: Was bringt es, Unternehmensdaten nur von lokalen Modellen verarbeiten zu lassen, wenn die Protokolle der Agenten, die genau diese Daten wieder enthalten, anschlie\u00dfend in irgendeiner Cloud landen? Das f\u00fchrt Souver\u00e4nit\u00e4t ad absurdum.<\/p>\n\n\n\n
Unternehmen k\u00f6nnen zudem angebundene Modelle und Anbieter zentral \u00fcber die Konfiguration wechseln, ohne jeden Agenten einzeln anzupassen. Damit bleibt die Wahl der Infrastruktur und der KI-Modelle eine Entscheidung des Unternehmens. Welche Kombination sinnvoll ist, h\u00e4ngt von der Sensibilit\u00e4t der Daten, den Leistungsanforderungen und den betrieblichen Voraussetzungen ab.<\/p>\n\n\n\n
Ein Agent soll nur die Daten und Werkzeuge nutzen k\u00f6nnen, die f\u00fcr seine Aufgabe vorgesehen sind. Daf\u00fcr arbeiten Agenten in isolierten Umgebungen mit definierten Identit\u00e4ten und Berechtigungen. Ihre Zugriffe werden vor dem produktiven Einsatz festgelegt und freigegeben. Das begrenzt den Handlungsspielraum auch dann, wenn mehrere Agenten parallel arbeiten. Allerdings macht ein technisch erlaubter Zugriff das daraus abgeleitete Ergebnis nicht automatisch fachlich richtig. F\u00fcr sensible Entscheidungen braucht es deshalb zus\u00e4tzlich geeignete Pr\u00fcfungen und klare menschliche Verantwortung. Sicherheit entsteht aus dem Zusammenspiel dieser technischen und organisatorischen Ma\u00dfnahmen. Die volle Kontrolle haben wir \u00fcber Agenten, die im AI OS laufen; extern betriebene Agenten machen wir sichtbar und steuern sie, soweit deren Plattform das zul\u00e4sst.<\/p>\n\n\n\n
Wir erfassen den Tokenverbrauch und s\u00e4mtliche weiteren Kosten, auch jene, die durch die Werkzeuge der Agenten entstehen, und ordnen sie einzelnen Agenten und Ausf\u00fchrungen zu. Damit wird sichtbar, welcher Arbeitsschritt teuer ist und wo sich eine Optimierung lohnt. Budgets lassen sich f\u00fcr einzelne Agenten, Abteilungen oder das gesamte Unternehmen festlegen. Bei definierten Grenzen kann das System warnen oder die Ausf\u00fchrung automatisch abbrechen. Ein Beispiel ist unser Kunde, das Healthtech-Unternehmen Biolyz. Dort geben Agenten Leistungssportlern Empfehlungen zu Ern\u00e4hrung, Schlaf und Bewegung. Vorgegeben war eine Obergrenze von zwei Euro pro Lauf. Mit detaillierter Kostenerfassung und schrittweiser Optimierung konnten wir einzelne L\u00e4ufe auf 20 Cent bringen. Der entscheidende Punkt ist, Wirtschaftlichkeit im laufenden Betrieb messen und gezielt verbessern zu k\u00f6nnen.<\/p>\n\n\n\n
Eine funktionierende Demo beantwortet nicht, wer im Alltag Verantwortung tr\u00e4gt, welche Daten ein Agent nutzen darf und was bei Fehlern passiert. Genau daran scheitern die meisten Projekte, nicht an der Technik. Mein Rat: Mit einem klar abgegrenzten Anwendungsfall beginnen, einen fachlichen und einen technischen Verantwortlichen benennen, Budget und Abbruchkriterien festlegen und erst ausweiten, wenn das im Alltag h\u00e4lt.<\/p>\n\n\n\n
Heute sehen wir bei Kunden drei Arten von L\u00f6sungen: solche aus dem \u00d6kosystem der gro\u00dfen Cloud- und KI-Anbieter, selbst gebaute Systeme und Plattformen wie das AI OS, die unter der Kontrolle des Kunden laufen. Bei den L\u00f6sungen der gro\u00dfen Anbieter ist die entscheidende Frage, wie eng Entwicklung und Betrieb an deren Modelle und Infrastruktur gebunden sind. Wer sensible Daten oder besondere Anforderungen hat, entscheidet sich deshalb oft f\u00fcr ein System in der eigenen Umgebung. Das kann man selbst bauen, und manchmal ist das sinnvoll. Man muss aber damit rechnen, dass ein solches System laufend weiterentwickelt und gewartet werden muss. Sobald Agenten Kernprozesse \u00fcbernehmen, wird es zu einem gesch\u00e4ftskritischen System.<\/p>\n\n\n\n
Genau hier setzt das Sovereign AI OS an: Es verbindet die Modellwahl mit Zugriffssteuerung, Governance, Kostenkontrolle und \u00dcberwachung in einer \u00fcbergreifenden Betriebs- und Kontrollschicht, ohne dass das Unternehmen diese selbst entwickeln und dauerhaft pflegen muss. Unternehmen k\u00f6nnen unterschiedliche Modelle und Anbieter anbinden und wechseln und die Plattform auf eigener Infrastruktur betreiben. Sie behalten damit die Entscheidungshoheit \u00fcber ihren KI-Betrieb. Besonders relevant ist das f\u00fcr sensible Anwendungen in Energieversorgung, Gesundheitswesen, Forschung, \u00f6ffentlichem Verkehr und Industrie sowie f\u00fcr IT-Dienstleister, die solche L\u00f6sungen f\u00fcr ihre Kunden umsetzen.<\/p>\n\n\n\n
Aus den Projekten haben wir vor allem gelernt, dass eine gute L\u00f6sung \u00fcber den gesamten Ablauf beurteilt werden muss. Der Biolyz-Fall zeigt das sehr deutlich: Erst der Blick auf einzelne Arbeitsschritte macht sichtbar, wo sich der Ressourceneinsatz verbessern l\u00e4sst. Solche Erfahrungen flie\u00dfen in die Weiterentwicklung der Plattform ein. Dabei hilft uns das langj\u00e4hrig gewachsene Entwicklungsteam in Innsbruck und Las Palmas. Das Sovereign AI OS ist bereits bei ausgew\u00e4hlten Leuchtturm-Kunden im Einsatz und seit dem Marktstart allgemein verf\u00fcgbar. Jetzt geht es darum, weitere Unternehmen bei der Einf\u00fchrung zu unterst\u00fctzen und das Produkt anhand konkreter Anforderungen weiterzuentwickeln. F\u00fcr die Umsetzung und Verbreitung spielen Partner wie Bosch Software and Digital Solutions und fme eine wichtige Rolle.<\/p>\n\n\n\n
Unsere Vision ist, dass KI-Agenten zu einem verl\u00e4sslichen Teil der betrieblichen Infrastruktur werden. Auch Organisationen mit besonders sensiblen Aufgaben sollen ihre M\u00f6glichkeiten nutzen k\u00f6nnen, ohne die Verantwortung f\u00fcr den Einsatz aus der Hand zu geben.<\/p>\n\n\n\n
Gr\u00fcnderinnen und Gr\u00fcndern w\u00fcrde ich drei Dinge mitgeben.<\/p>\n\n\n\n
Erstens: Definiert schnell eine KI-Strategie. Eure Mitarbeiter werden Agenten erstellen. Gebt ihnen einen legalen, aber vom Unternehmen \u00fcberwachbaren Weg, sonst habt ihr morgen Schattenagenten und keine Kontrolle mehr, was im Unternehmen passiert.<\/p>\n\n\n\n
Zweitens: Achtet darauf, was ihr f\u00fcr euch selbst baut. Unser Produkt ist aus einem Problem entstanden, das wir zuerst selbst hatten. Wenn ihr ein internes Werkzeug immer wieder braucht, besteht eine gute Chance, dass andere es auch brauchen.<\/p>\n\n\n\n
Drittens: Baut ein Team auf, das Wissen langfristig tr\u00e4gt und zugleich offen f\u00fcr technische Ver\u00e4nderungen bleibt.<\/p>\n\n\n\n
Bild Stefan Unterthiner Copyright in-manas<\/p>\n\n\n\n
Wir bedanken uns bei\u00a0Stefan Unterthiner<\/a>\u00a0f\u00fcr das Interview<\/p>\n\n\n\n Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder.<\/p>\n\n\n\n