Mit dem Sovereign AI OS entwickelt in-manas eine Plattform, mit der Unternehmen ihre KI-Agenten zentral verwalten, überwachen und deren Zugriffe sowie Kosten kontrollieren können.
Stefan, kannst du dich und in-manas kurz vorstellen und erzählen, wie du 2019 zum Unternehmen gekommen bist und welche Rolle du heute als CTO übernimmst?
Ich bin Informatiker und seit rund 20 Jahren in der Softwareentwicklung, technischen Projektleitung und Technologieberatung tätig. Studiert habe ich an der Universität Innsbruck; vor in-manas war ich bei IT-Dienstleistern und lange im Bereich Forschung und Entwicklung zu IoT-Themen tätig. in-manas ist ein 2016 gegründetes Technologieunternehmen aus Innsbruck. Mit unserem Sovereign AI OS entwickeln wir eine zentrale Betriebs- und Kontrollschicht für KI-Agenten in Unternehmen. Ich habe 2019 als CTO dort angefangen und verantworte seit meinem Einstieg die technologische Ausrichtung. Dazu gehören die zentralen Architektur- und Technologieentscheidungen gemeinsam mit unserem Team, die Begleitung von Kunden bei ihren KI-Projekten und die Beratung der Geschäftsleitung zur Produktstrategie. Mein Schwerpunkt ist, aus den Möglichkeiten von KI belastbare Produkte für den Unternehmensalltag zu machen.
Du begleitest die technische Entwicklung von in-manas bereits seit mehreren Jahren. Wie hat sich die ursprüngliche Idee hinter dem Unternehmen verändert und welche technologischen Meilensteine waren besonders entscheidend?
Ausgangspunkt waren digitale Managementlösungen, mit denen Unternehmen Wissen besser nutzen und Entscheidungen fundierter treffen können. Große Sprachmodelle eröffneten uns dann neue Möglichkeiten; mit eigenen KI-Agenten gingen wir den nächsten Schritt zu Systemen, die selbstständig Aufgaben bearbeiten und Werkzeuge nutzen. Dabei stellte sich für mich früh die Frage, wie wir deren Zugriffe, Aktionen und Kosten unter Kontrolle behalten. Die nötige Infrastruktur haben wir zunächst für unseren eigenen Einsatz gebaut. Dann erkannten wir, dass genau diese Grundlage auch anderen Unternehmen fehlt.
Deshalb haben wir eine weitreichende strategische Entscheidung getroffen: den Bau einzelner Agenten in den Hintergrund zu stellen und nahezu unsere gesamten Entwicklungsressourcen auf diese Betriebs- und Kontrollschicht zu konzentrieren. Leicht war das nicht. Kunden unseres Innovationsmanagement-Systems wünschten sich neue Funktionen, gleichzeitig kamen Anfragen für neue Agenten. Und unser bestehender AI Orchestrator, die erste Generation dieser Kontrollschicht, musste wegen des rasanten technologischen Wandels grundlegend neu gedacht werden. Diese Neuentwicklung hat über Monate fast alle Ressourcen gebunden. Daraus wurde das heutige Sovereign AI OS.
Mit dem Sovereign AI OS habt ihr kürzlich eine neue Plattform vorgestellt. Welches konkrete Problem möchtet ihr damit lösen und warum brauchen Unternehmen aus eurer Sicht ein eigenes Betriebssystem für KI-Agenten?
Unternehmen stehen vor dem Sprung vom einzelnen KI-Experiment zu vielen Agenten im regulären Betrieb. Bis die ersten fünf Agenten beim Kunden laufen, dauert es meist lange: Sorgen, Bedenken und Unsicherheiten verzögern die Einführung. Doch dann passiert etwas, womit nur wenige rechnen: Von Agent fünf bis hundert beschleunigt sich der Rollout fast schon exponentiell. Wenn in dieser Phase jedes Team eigene Zugriffsregeln, Kostenkontrollen und Protokolle entwickelt, entsteht ein schwer überschaubares Nebeneinander.
Verantwortliche brauchen jedoch einen gemeinsamen Überblick und Regeln, die über einzelne Anwendungen hinweg gelten. Das Sovereign AI OS stellt diese Grundlage bereit. Der Begriff Betriebssystem beschreibt dabei die zentrale Betriebs- und Kontrollschicht für KI-Agenten. Unternehmen können damit neue Anwendungen auf einer bestehenden Infrastruktur aufbauen, statt grundlegende Betriebsfunktionen jedes Mal neu zu entwickeln. So wird aus einem erfolgreichen Pilotprojekt ein Ansatz, der sich kontrolliert auf weitere Geschäftsprozesse übertragen lässt.
Autonome KI-Agenten können zunehmend komplexe Aufgaben selbstständig ausführen. Wie funktioniert euer Sovereign AI OS in der Praxis und welche Prozesse lassen sich damit steuern und überwachen?
Nehmen wir einen Agenten, der interne Dokumente recherchiert, Informationen daraus zusammenführt und einen Bericht vorbereitet. Einen solchen Ablauf kann heute auch eine Fachabteilung ohne Programmierkenntnisse entwickeln, etwa mit einem KI-Assistenten wie Claude Code und unseren Vorlagen. Bevor der Agent in den Betrieb geht, wird festgelegt, welche Daten und Werkzeuge er nutzen darf, und ein Administrator gibt ihn frei. Funktionen oder Zugriffe, die nicht vorgesehen sind, bleiben gesperrt. Während der Ausführung erfasst die Plattform jede Aktion und jeden Modellaufruf.
Verantwortliche sehen dadurch, ob der Ablauf funktioniert und an welchem Schritt ein Fehler auftritt. So lassen sich Recherche, Wissensaufbereitung oder mehrstufige Analysen betreiben, und bestehende Anwendungen können als Oberfläche dienen. Der Kern ist für mich: Die Fachabteilungen bekommen die Freiheit, ihre eigenen Agenten zu bauen, aber kein Agent geht ohne die festgelegten Berechtigungen und die Freigabe durch einen Administrator in den produktiven Betrieb. Das Unternehmen behält trotzdem Überblick und Kontrolle. Das AI OS schützt dabei vor Agenten, die außer Kontrolle geraten, nicht vor den Menschen, die sie bauen.
Ein zentraler Bestandteil eurer Plattform ist die Kontrolle über Zugriffe, Kosten und laufende Aktionen. Wie können Unternehmen nachvollziehen, was ihre KI-Agenten gerade tun, und wann ist ein menschliches Eingreifen notwendig?
Verantwortliche sehen die Ausführungen ihrer Agenten, deren Status, Fehler und Kosten. Die Protokollierung bleibt auch dann erhalten, wenn ein Lauf fehlschlägt oder abgebrochen wird. So lässt sich untersuchen, an welcher Stelle etwas schiefgelaufen ist. Menschliches Eingreifen wird nötig, wenn ein Agent vom vorgesehenen Ablauf abweicht, ungewöhnlich viele Ressourcen verbraucht oder Ergebnisse liefert, die fachlich geprüft werden müssen. Monitoring, Anomalieerkennung und Benachrichtigungen helfen, solche Situationen zu erkennen. Über einen manuellen Kill Switch lässt sich ein einzelner Agentenlauf stoppen, einschließlich seiner Modell-, Daten- und Werkzeugzugriffe.
In der Praxis laufen in Unternehmen aber nicht alle Agenten auf einer Plattform. Deshalb binden wir schrittweise auch Agenten an, die außerhalb des AI OS betrieben werden, etwa die verschiedenen Agenten aus der Microsoft-Welt. Sie erscheinen in derselben Übersicht, und für jeden ist klar definiert, was davon gesteuert werden kann. So holt ein Unternehmen nach und nach auch seine Schatten-KI ans Licht.
Der Begriff Sovereign AI gewinnt zunehmend an Bedeutung. Was versteht ihr konkret unter digitaler Souveränität und wie unterscheidet sich euer Ansatz von bestehenden KI-Plattformen internationaler Technologieanbieter?
Digitale Souveränität bedeutet für uns, dass ein Unternehmen selbst über seine Daten, seine KI-Verarbeitung und die eingesetzten Anbieter entscheiden kann. Ein europäischer Speicherort allein beantwortet diese Fragen noch nicht. Deshalb lässt sich unsere Plattform auf eigener Infrastruktur oder in einer souveränen Cloud innerhalb Europas betreiben, einschließlich lokal betriebener Modelle. Dabei muss man konsequent sein: Was bringt es, Unternehmensdaten nur von lokalen Modellen verarbeiten zu lassen, wenn die Protokolle der Agenten, die genau diese Daten wieder enthalten, anschließend in irgendeiner Cloud landen? Das führt Souveränität ad absurdum.
Unternehmen können zudem angebundene Modelle und Anbieter zentral über die Konfiguration wechseln, ohne jeden Agenten einzeln anzupassen. Damit bleibt die Wahl der Infrastruktur und der KI-Modelle eine Entscheidung des Unternehmens. Welche Kombination sinnvoll ist, hängt von der Sensibilität der Daten, den Leistungsanforderungen und den betrieblichen Voraussetzungen ab.
Wenn mehrere KI-Agenten gleichzeitig auf Unternehmensdaten und Systeme zugreifen, entstehen neue Sicherheitsrisiken. Wie verhindert ihr unberechtigte Aktionen, fehlerhafte Entscheidungen und den unkontrollierten Zugriff auf sensible Informationen?
Ein Agent soll nur die Daten und Werkzeuge nutzen können, die für seine Aufgabe vorgesehen sind. Dafür arbeiten Agenten in isolierten Umgebungen mit definierten Identitäten und Berechtigungen. Ihre Zugriffe werden vor dem produktiven Einsatz festgelegt und freigegeben. Das begrenzt den Handlungsspielraum auch dann, wenn mehrere Agenten parallel arbeiten. Allerdings macht ein technisch erlaubter Zugriff das daraus abgeleitete Ergebnis nicht automatisch fachlich richtig. Für sensible Entscheidungen braucht es deshalb zusätzlich geeignete Prüfungen und klare menschliche Verantwortung. Sicherheit entsteht aus dem Zusammenspiel dieser technischen und organisatorischen Maßnahmen. Die volle Kontrolle haben wir über Agenten, die im AI OS laufen; extern betriebene Agenten machen wir sichtbar und steuern sie, soweit deren Plattform das zulässt.
KI-Agenten versprechen erhebliche Effizienzgewinne, verursachen aber auch laufende Kosten. Wie schafft eure Plattform Kostentransparenz und welche Möglichkeiten haben Unternehmen, den Ressourceneinsatz gezielt zu begrenzen?
Wir erfassen den Tokenverbrauch und sämtliche weiteren Kosten, auch jene, die durch die Werkzeuge der Agenten entstehen, und ordnen sie einzelnen Agenten und Ausführungen zu. Damit wird sichtbar, welcher Arbeitsschritt teuer ist und wo sich eine Optimierung lohnt. Budgets lassen sich für einzelne Agenten, Abteilungen oder das gesamte Unternehmen festlegen. Bei definierten Grenzen kann das System warnen oder die Ausführung automatisch abbrechen. Ein Beispiel ist unser Kunde, das Healthtech-Unternehmen Biolyz. Dort geben Agenten Leistungssportlern Empfehlungen zu Ernährung, Schlaf und Bewegung. Vorgegeben war eine Obergrenze von zwei Euro pro Lauf. Mit detaillierter Kostenerfassung und schrittweiser Optimierung konnten wir einzelne Läufe auf 20 Cent bringen. Der entscheidende Punkt ist, Wirtschaftlichkeit im laufenden Betrieb messen und gezielt verbessern zu können.
Viele Unternehmen experimentieren bereits mit KI, stehen beim produktiven Einsatz autonomer Agenten jedoch noch am Anfang. Welche technischen und organisatorischen Hürden begegnen euch besonders häufig und welche Voraussetzungen sollten Unternehmen vor der Einführung schaffen?
Eine funktionierende Demo beantwortet nicht, wer im Alltag Verantwortung trägt, welche Daten ein Agent nutzen darf und was bei Fehlern passiert. Genau daran scheitern die meisten Projekte, nicht an der Technik. Mein Rat: Mit einem klar abgegrenzten Anwendungsfall beginnen, einen fachlichen und einen technischen Verantwortlichen benennen, Budget und Abbruchkriterien festlegen und erst ausweiten, wenn das im Alltag hält.
Der Markt für KI-Agenten und entsprechende Managementplattformen entwickelt sich rasant. Was unterscheidet das Sovereign AI OS von anderen Lösungen und welche Zielgruppen oder Branchen möchtet ihr besonders erreichen?
Heute sehen wir bei Kunden drei Arten von Lösungen: solche aus dem Ökosystem der großen Cloud- und KI-Anbieter, selbst gebaute Systeme und Plattformen wie das AI OS, die unter der Kontrolle des Kunden laufen. Bei den Lösungen der großen Anbieter ist die entscheidende Frage, wie eng Entwicklung und Betrieb an deren Modelle und Infrastruktur gebunden sind. Wer sensible Daten oder besondere Anforderungen hat, entscheidet sich deshalb oft für ein System in der eigenen Umgebung. Das kann man selbst bauen, und manchmal ist das sinnvoll. Man muss aber damit rechnen, dass ein solches System laufend weiterentwickelt und gewartet werden muss. Sobald Agenten Kernprozesse übernehmen, wird es zu einem geschäftskritischen System.
Genau hier setzt das Sovereign AI OS an: Es verbindet die Modellwahl mit Zugriffssteuerung, Governance, Kostenkontrolle und Überwachung in einer übergreifenden Betriebs- und Kontrollschicht, ohne dass das Unternehmen diese selbst entwickeln und dauerhaft pflegen muss. Unternehmen können unterschiedliche Modelle und Anbieter anbinden und wechseln und die Plattform auf eigener Infrastruktur betreiben. Sie behalten damit die Entscheidungshoheit über ihren KI-Betrieb. Besonders relevant ist das für sensible Anwendungen in Energieversorgung, Gesundheitswesen, Forschung, öffentlichem Verkehr und Industrie sowie für IT-Dienstleister, die solche Lösungen für ihre Kunden umsetzen.
Nach mehreren Jahren technischer Entwicklung habt ihr nun das Sovereign AI OS vorgestellt. Welche Erfahrungen aus bisherigen Projekten sind in die Plattform eingeflossen und welche nächsten Schritte plant ihr bei Produktentwicklung, Markteinführung und Wachstum?
Aus den Projekten haben wir vor allem gelernt, dass eine gute Lösung über den gesamten Ablauf beurteilt werden muss. Der Biolyz-Fall zeigt das sehr deutlich: Erst der Blick auf einzelne Arbeitsschritte macht sichtbar, wo sich der Ressourceneinsatz verbessern lässt. Solche Erfahrungen fließen in die Weiterentwicklung der Plattform ein. Dabei hilft uns das langjährig gewachsene Entwicklungsteam in Innsbruck und Las Palmas. Das Sovereign AI OS ist bereits bei ausgewählten Leuchtturm-Kunden im Einsatz und seit dem Marktstart allgemein verfügbar. Jetzt geht es darum, weitere Unternehmen bei der Einführung zu unterstützen und das Produkt anhand konkreter Anforderungen weiterzuentwickeln. Für die Umsetzung und Verbreitung spielen Partner wie Bosch Software and Digital Solutions und fme eine wichtige Rolle.
Welche langfristige Vision verfolgt ihr mit in-manas und welche drei Ratschläge würdest du anderen Gründerinnen und Gründern geben, die ein technologisch anspruchsvolles KI-Unternehmen aufbauen möchten?
Unsere Vision ist, dass KI-Agenten zu einem verlässlichen Teil der betrieblichen Infrastruktur werden. Auch Organisationen mit besonders sensiblen Aufgaben sollen ihre Möglichkeiten nutzen können, ohne die Verantwortung für den Einsatz aus der Hand zu geben.
Gründerinnen und Gründern würde ich drei Dinge mitgeben.
Erstens: Definiert schnell eine KI-Strategie. Eure Mitarbeiter werden Agenten erstellen. Gebt ihnen einen legalen, aber vom Unternehmen überwachbaren Weg, sonst habt ihr morgen Schattenagenten und keine Kontrolle mehr, was im Unternehmen passiert.
Zweitens: Achtet darauf, was ihr für euch selbst baut. Unser Produkt ist aus einem Problem entstanden, das wir zuerst selbst hatten. Wenn ihr ein internes Werkzeug immer wieder braucht, besteht eine gute Chance, dass andere es auch brauchen.
Drittens: Baut ein Team auf, das Wissen langfristig trägt und zugleich offen für technische Veränderungen bleibt.
Bild Stefan Unterthiner Copyright in-manas
Wir bedanken uns bei Stefan Unterthiner für das Interview
Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder.
