NeuralTrust entwickelt eine Plattform für die Absicherung von KI-Agenten und unterstützt Unternehmen dabei, Sicherheit, Transparenz und Kontrolle beim Einsatz künstlicher Intelligenz zu gewährleisten
Wie entstand die Idee zu NeuralTrust, und welches Problem im Bereich KI-Sicherheit wollten Sie von Anfang an lösen?
Die Veröffentlichung von ChatGPT war ein Wendepunkt. Wie alle anderen haben auch wir das enorme Potenzial erkannt. Aber wir haben auch etwas gesehen, worüber die meisten Menschen noch nicht gesprochen haben. Die Mensch-Computer-Interaktion veränderte sich grundlegend. Natürliche Sprache wurde zur neuen Schnittstelle, und dieser Wandel schuf eine völlig neue Angriffsfläche, für deren Bewältigung bestehende Tools nicht ausgerüstet waren. Herkömmliche Sicherheitsmaßnahmen waren auf strukturierte Eingaben, bekannte Protokolle und deterministisches Verhalten ausgelegt. Natürliche Sprache ist nichts davon. Niemand baute die Infrastruktur auf, um diese neue Welt zu sichern. Das ist das Problem, das wir lösen wollten: Unternehmen vollständige Transparenz, Sicherheit und Kontrolle über ihre KI-Nutzung zu geben.
Wie würden Sie NeuralTrust jemandem erklären, der sich bisher nur wenig mit KI-Sicherheit beschäftigt hat?
Mitarbeiter in allen Abteilungen nutzen KI-Tools und -Agenten, die autonom in ihrem Namen handeln: E-Mails lesen, Datenbanken abfragen, Entscheidungen treffen. Die meisten Unternehmen haben keine Ahnung, was diese Agenten tun, auf welche Daten sie zugreifen oder ob sie manipuliert werden können. NeuralTrust ist die Plattform, die diese Lücke schließt.
Mit welcher Vision wurde NeuralTrust gegründet, und welche Rolle möchten Sie künftig im KI-Ökosystem einnehmen?
Jedes Unternehmen, das KI einsetzt, sollte dies sicher und mit vollem Vertrauen tun können. Nicht, indem die Einführung verlangsamt wird, sondern indem Sicherheit zu einem selbstverständlichen Bestandteil der Entwicklung und des Betriebs von KI wird. KI wird ebenso grundlegend sein wie die Cloud oder das Internet, und genau wie diese Veränderungen neue Kategorien der Sicherheit geschaffen haben, wird dies auch hier der Fall sein. Wir möchten, dass NeuralTrust die Vertrauensschicht ist, über die jeder KI-Einsatz läuft.
Warum wird das Thema Sicherheit bei generativer KI und KI-Agenten aus Ihrer Sicht immer wichtiger?
Weil die Risiken rapide zunehmen. Frühe Anwendungsfälle der KI beschränkten sich meist auf Frage-Antwort-Systeme. Die Risikofläche war begrenzt. KI-Agenten sind jedoch eine ganz andere Kategorie. Sie ergreifen Maßnahmen, agieren autonom, verbinden sich mit internen Systemen und verarbeiten sensible Daten. Wenn etwas schiefgeht, ist das nicht nur eine falsche Antwort. Es kann zu einer Datenpanne, einem Compliance-Verstoß oder einem aus dem Ruder laufenden Geschäftsprozess kommen, ohne dass es jemand bemerkt. Und natürliche Sprache als Schnittstelle führt Angriffsvektoren ein, auf die herkömmliche Sicherheitstools keine Antwort haben. Man kann eine Eingabeaufforderung nicht hinter einer Firewall abschirmen. Man kann eine Unterhaltung nicht auf Signaturen scannen. Sicherheit ist in dieser Welt kein Luxus, sondern unverzichtbar.
An welche Unternehmen richtet sich NeuralTrust besonders, und welche Anforderungen stehen dabei im Mittelpunkt?
Wir konzentrieren uns auf große Unternehmen in stark regulierten Branchen: Banken, Versicherungsgesellschaften, Energieversorger, Fluggesellschaften. Sie zeigen keinerlei Toleranz gegenüber den Risiken, die eine unkontrollierte KI mit sich bringen kann, gehören aber gleichzeitig zu den eifrigsten Anwendern von KI, da die Vorteile zu bedeutend sind, um sie zu ignorieren. Genau in diesem Spannungsfeld sind wir zu Hause. Am wichtigsten sind für sie Transparenz, Compliance und Kontrolle. Sie müssen jederzeit wissen, was ihre KI-Systeme tun, dies gegenüber den Aufsichtsbehörden nachweisen können und in der Lage sein, einzugreifen, wenn etwas schiefgeht.
Welche Herausforderungen beobachten Sie bei Unternehmen, die KI-Anwendungen produktiv einsetzen möchten?
Das häufigste Missverständnis ist, dass die Herausforderung erst dann beginnt, wenn ein Unternehmen beschließt, KI einzusetzen. In Wirklichkeit ist KI zu diesem Zeitpunkt bereits überall im Unternehmen präsent. Die Mitarbeiter nutzen sie bereits seit Monaten – ohne Genehmigung, ohne Wissen der IT-Abteilung und ohne jegliche Sicherheitsüberprüfung. Doch selbst wenn Unternehmen zu formellen Implementierungen übergehen, verschwinden die Herausforderungen nicht, sondern verlagern sich lediglich. Wie lassen sich KI-Agenten sicher in bestehende Systeme integrieren? Wie stellt man ein konsistentes Verhalten innerhalb definierter Grenzen sicher? Wie gewährleistet man die Einhaltung von Vorschriften, ohne den angestrebten geschäftlichen Nutzen zu beeinträchtigen? Unternehmen, die diesen Prozess gut meistern, betrachten Sicherheit nicht als eine Hürde am Ende, sondern als etwas, das von Anfang an integriert ist.
NeuralTrust schützt KI-Systeme vor Risiken wie Datenlecks oder Prompt-Injection-Angriffen. Welche Bedrohungen werden aktuell noch unterschätzt?
Indirekte Prompt-Injection. Die meisten Menschen stellen sich Prompt-Injection so vor, dass ein Nutzer eine böswillige Anweisung in eine Chat-Oberfläche eingibt. Die gefährlichere Variante verbirgt sich jedoch in Daten, die der Agent während des normalen Betriebs liest: eine Webseite, die er aufruft, eine E-Mail im Posteingang, ein Kommentar im CRM, ein Dokument, das er zusammenfassen soll. Der Agent verarbeitet diese Inhalte und führt unwissentlich die Anweisungen des Angreifers aus. Ein Agent mit Zugriff auf E-Mails, Kalender und internen Tools kann durch eine einzige bösartige E-Mail vollständig gekapert werden. Kombiniert man dies mit der Autonomie, über die moderne Agenten verfügen, können die Folgen schwerwiegend sein.
Was unterscheidet NeuralTrust von anderen Anbietern im Bereich Cybersecurity und KI-Sicherheit?
Die meisten Cybersicherheitsanbieter passen bestehende Tools an eine Welt an, für die sie ursprünglich nicht konzipiert wurden. Das funktioniert bis zu einem gewissen Grad, geht aber nicht auf den Kern des Problems ein. NeuralTrust wurde von Anfang an auf der Prämisse aufgebaut, dass natürliche Sprache die neue Angriffsfläche und Agenten die neue Perimeterverteidigung sind. Das zweite Unterscheidungsmerkmal ist Breite ohne Fragmentierung. Unsere Kunden können es sich nicht leisten, fünf Anbieter miteinander zu kombinieren, um eine einzige KI-Implementierung zu sichern. Wir decken den gesamten Lebenszyklus ab: Sicherheitsstatus, Laufzeitschutz und Red-Teaming – alles auf einer einzigen Plattform. Und drittens: Wir wurden in Europa gegründet. Wir verstehen, was Compliance in der Praxis für eine Bank oder einen Versicherer bedeutet, und bieten private, luftisolierte Implementierungen für Unternehmen an, die dies benötigen.
Wie gelingt der Spagat zwischen hohen Sicherheitsanforderungen und einer möglichst einfachen Nutzung von KI-Systemen?
Gute Sicherheit sollte für den Endnutzer weitgehend unsichtbar sein. Die Kontrollen, die Überwachung, die Durchsetzung von Richtlinien: All das sollte im Hintergrund ablaufen, ohne dass jemand seine Arbeitsweise ändern muss. Die Last liegt bei der Plattform, nicht beim Nutzer. Sicherheit sollte die Einführung von KI ermöglichen, nicht behindern.
Welche Rolle spielen Compliance und regulatorische Vorgaben bei der Weiterentwicklung Ihrer Plattform?
KI-Agenten verarbeiten äußerst sensible Daten: das kritische Wissen eines Unternehmens, seine internen Systeme und die Informationen seiner Kunden. Die darüber liegende Sicherheitsplattform darf keine Blackbox sein, über die der Kunde keine Kontrolle hat. Deshalb bieten wir mehrere Bereitstellungsoptionen an, darunter auch die vollständige On-Premise-Bereitstellung. Darüber hinaus verlangen die Aufsichtsbehörden zunehmend von Unternehmen, dass sie einen vollständigen Überblick über ihren Agentenbestand führen: welche Agenten laufen, auf was sie zugreifen und wie sie sich verhalten. Genau dieses Problem löst NeuralTrust.
Wie wird sich die Sicherheit von KI-Agenten in den kommenden Jahren verändern, und wie bereitet sich NeuralTrust darauf vor?
Die Schnittstelle, über die Menschen mit KI interagieren, verändert sich ständig, und mit jeder Veränderung vergrößert sich der Bereich, der gesichert werden muss. Es begann im Internet, verlagerte sich dann auf den Desktop, und mittlerweile ist KI in die Tools integriert, die Menschen täglich nutzen: Slack, E-Mail, CRMs. KI-Agenten sind nicht mehr auf eine spezielle Schnittstelle beschränkt. Sie sind überall, und die Sicherheit muss ihnen dorthin folgen. Eine Plattform, die nur einen Bereich abdeckt, wird immer unvollständig sein. Genau dafür entwickeln wir unsere Lösung.
Welche drei Ratschläge würden Sie Gründerinnen und Gründern geben, die innovative Technologien in einem schnell wachsenden Markt entwickeln?
Erstens: Holt die Zustimmung eurer Kunden ein, bevor ihr etwas entwickelt. Das Wertversprechen, das Verkaufsargument, die Preisgestaltung – testet alles auf Herz und Nieren, bevor ihre euch festlegt.
Zweitens: ICP und GTM-Strategie müssen schnell eingegrenzt werden. Ihr könnt nicht gleichzeitig Großunternehmen, KMUs und Prosumer bedienen, und ihr könnt nicht gleichzeitig verkaufs- und produktorientierte Strategien verfolgen. Entscheidet euch.
Drittens: Seid ehrgeizig, mutig und schnell. Das richtige Markt-Timing ist genauso entscheidend wie die Umsetzung.
Bild Founder v.l.nr. Victor Garcia, Joan Vendrell und Alejandro Domingo Salvador Bildcredits NeuralTrust
Wir bedanken uns bei Joan Vendrell für das Interview
Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder
Premium Start-up: NeuralTrust
Kontakt:
NeuralTrust, S.L.
Llacuna 161
08018 Barcelona
Spain
https://neuraltrust.ai
Agent Security
rodrigo.fernandez@neuraltrust.ai
Ansprechpartner: Rodrigo Fernandez
