Calvin Risk, ein ETH-Spin-off, bietet Unternehmen innovative Lösungen für KI-Governance und Risikomanagement, um KI sicher und effizient einzusetzen
Können Sie uns Calvin Risk vorstellen und erzählen, wie die Idee für das Unternehmen entstanden ist?
Calvin Risk ist ein Spin-off der ETH Zürich und eine Plattform für KI-Governance und Risikomanagement, die Unternehmen dabei unterstützt, KI-Systeme sicher und effizient einzusetzen. Die Idee entstand aus der praktischen Erfahrung meines Mitgründers, Dr. Syang Zhou, während seiner Industrie-Promotion an der ETH. Er arbeitete mit grossen Banken und Versicherungen an der Implementierung und dem Audit von KI und merkte, wie schwierig es war, KI-Systeme vom Experiment zur Produktion zu bringen. Ich selbst arbeitete im Venture Capital Bereich und sah, dass viele Unternehmen trotz Innovationswillen an der Umsetzung scheiterten – vor allem aus Angst vor Risiken und fehlender Governance. Diese Herausforderungen haben uns motiviert, Calvin Risk ins Leben zu rufen.
Wie hat Ihr Hintergrund als ETH-Spin-off die Entwicklung von Calvin Risk geprägt?
Unser Ursprung an der ETH Zürich hat unsere Denkweise entscheidend geprägt und die Art, wie man aus Qualitätstests von KI-Systemen deren Risiko quantifizieren kann, basiert auf Research der ETH. Wir stützen uns auf akademisch fundierte Methoden und internationale Standards wie NIST und ISO. Gleichzeitig hat uns, als Teil des ETH AI Centers, der Zugang zu einem Netzwerk führender Experten und modernster Forschung in der KI- und Risikomanagementbranche geholfen, innovativste Lösungen zu entwickeln, die wissenschaftlich validiert und praktisch anwendbar sind.
Was ist die Vision von Calvin Risk, und welche Schritte unternehmen Sie, um diese zu verwirklichen?
Unsere Vision ist es, Unternehmen weltweit in die Lage zu versetzen, KI sicher, effizient und verantwortungsbewusst zu nutzen. Ein wichtiger Teil unseres Mottos ist «AI Enablement» – also KI zu befähigen, in dem wir die Hürden und Aufwände für unsere Kunden senken, sichere und vertrauenswürdige KI mit dem richtigen Level an Governance verwenden zu können. Wir arbeiten daran, durch unsere Software Governance-Prozesse zu digitalisieren und automatisierte Tests für KI-Modelle bereitzustellen. Unsere Kunden profitieren von effizienteren Abläufen, Kosteneinsparungen und einem reduzierten Risiko schwerwiegender Vorfälle.
Wer gehört zu Ihrer Hauptzielgruppe, und wie hilft Calvin Risk diesen Unternehmen, ihre Herausforderungen zu bewältigen?
Unsere Hauptzielgruppe sind Unternehmen in regulierten Branchen wie Banken und Versicherungen. Sie stehen besonders vor der Herausforderung, KI sicher einzusetzen und gleichzeitig regulatorische Anforderungen wie das EU-KI-Gesetz zu erfüllen. Calvin Risk bietet ihnen Werkzeuge zur zentralen Inventarisierung ihrer KI-Systeme, zum standardisierten Testing von (Gen)AI und zur detaillierten Berichterstattung, um Risiken zu bewerten und zu minimieren. Außerhalb der Finanzindustrie arbeiten wir auch mit der Telekommunikations- und der Transport-Industrie zusammen. Unsere Software wird von diesen meist zuerst von den Bereichen Analytics (CIO) und Governance genutzt, später dann auch von den Risiko- / Validierungs-Teams (CRO). Die hinter der Software stehende Methodik ist allerdings branchenunabhängig.
Welche besonderen Probleme im Bereich der KI-Governance möchten Sie mit Ihrer Plattform lösen?
Viele Unternehmen stehen vor erheblichen Herausforderungen bei der Identifikation und Bewältigung von KI-Risiken. Es fehlen standardisierte Prozesse, insbesondere für das Testen von KI-Systemen, das oft individuell und unsystematisch erfolgt – abhängig vom Fokus einzelner Entwickler oder Teams. Dies führt zu Unsicherheiten bei der strukturierten und effizienten Sicherstellung von KI-Sicherheit, insbesondere bei Basismodellen, die durch Umschulungen oder Änderungen der Anbieter ständigen Anpassungen unterliegen.
Hinzu kommen veraltete Governance-Richtlinien, die oft schwerfällig sind und den spezifischen Anforderungen moderner KI-Systeme nicht gerecht werden. Viele Unternehmen wissen nicht, wie sie strategische Grundsätze in konkrete Maßnahmen umsetzen können, was zu erheblichen operativen Risiken führt – von finanziellen Verlusten bis hin zu Reputationsschäden. Angesichts der Bedeutung von Vertrauen als zentraler Wert ist das Risiko eines KI-bedingten Vorfalls besonders gravierend.
Gleichzeitig erkennen Unternehmen jedoch, dass sie ohne den innovativen Einsatz von KI einen großen Wettbewerbsnachteil haben werden. Dies macht KI-Governance zu einer Priorität auf Vorstandsebene. Mit Calvin Risk schließen wir diese Lücke: Wir bieten automatisierte Tests für Modellqualität, Fairness, Robustheit, Erklärbarkeit und Sicherheit an und unterstützen Unternehmen dabei, ihre Governance-Strukturen und Risikoframeworks zu digitalisieren – für mehr Effizienz und Transparenz.
Was unterscheidet Calvin Risk von anderen Anbietern im Bereich KI-Risikomanagement?
Unsere Plattform bietet eine einzigartige Kombination aus zentraler Modell-Inventarisierung, automatisierten Qualitäts- und Risikobewertungen und wirtschaftlicher Risikoanalyse. Diese Ansätze sind nicht nur wissenschaftlich fundiert, sondern auch auf die praktischen Anforderungen unserer Kunden zugeschnitten, was uns eine führende Position in dieser aufstrebenden Branche sichert. Mit uns kann man also sowohl die Quantifizierung von Qualität und Risiken übernehmen als auch die Durchführung von Qualitativen Risiko Analysen und Governance Prozessen automatisieren. Das gibt es nirgendwo anders.
Wie adressiert Calvin Risk die neuen Anforderungen des EU-KI-Gesetzes, und welche Bedeutung hat dies für Ihre Kunden?
Ein zentraler Teil des EU-KI-Gesetzes ist das Testing und die Validierung von KI-Systemen. Außerdem erfordern, gerade KI-Systeme die als Hochrisiko klassifiziert werden, strikte Dokumentations- und Governance-Prozesse. Unsere Plattform unterstützt Kunden dabei, diese Anforderungen effizient zu erfüllen, indem wir automatisierte Tests und standardisierte Berichte, umfangreiches automatisches Logging und alle anderen Aspekte, die derzeit möglich sind, anbieten. Außerdem helfen wir schon mit den ersten Schritten, die Unternehmen bezüglich des EU AI Acts gehen müssen – nämlich die Bestandaufnahme und die Risiko-Klassifizierung nach dem Gesetzt.
Mit welchen Herausforderungen wurden Sie seit der Gründung von Calvin Risk konfrontiert, und wie haben Sie diese bewältigt?
Zu Beginn mussten wir Unternehmen überzeugen, dass KI-Governance nicht nur ein „nice-to-have“ ist, sondern eine geschäftskritische Komponente. Durch die enge Zusammenarbeit mit führenden Unternehmen und die Erzielung messbarer Erfolge – wie Kosteneinsparungen und Risikoreduzierung – haben wir diese Hürden gemeistert. Mittlerweile gibt es eigentlich kaum mehr ein Unternehmen in Europa, welches KI-Governance nicht als zentrale Priorität für den erfolgreichen Einsatz von KI sieht. Das Thema ist jetzt oft schon ein Anliegen der Vorstands- und Geschäftsführungsebene.
Was waren die größten Erfolge oder Meilensteine von Calvin Risk seit der Gründung im Jahr 2022?
Seit unserer Gründung haben wir mit führenden europäischen Banken und Versicherungen zusammengearbeitet, signifikante Effizienzgewinne erzielt und unsere Plattform kontinuierlich verbessert. Wir konnten zeigen, dass Unternehmen bis zu 65% an Governance-Kosten einsparen und die Einhaltung regulatorischer Standards sicherstellen konnten. Ein weiteres Highlight ist die Einführung modernster Testverfahren für generative KI, wie ChatGPT. Dadurch sind wir von mehreren internationalen Versicherungen zum «Swiss Insurtech des Jahres» und von Risk.net zusammen mit führenden Banken zum Risiko Management Produkt des Jahres 2024 gekürt worden.
Welche zukünftigen Entwicklungen und Innovationen planen Sie für Ihre Plattform?
Wir arbeiten daran, unsere Plattform noch stärker zu automatisieren und Branchenstandards wie dem EU-KI-Gesetz voraus zu sein. Ausserdem planen wir, unsere Datenbank mit branchenspezifischen Risikoprofilen weiter auszubauen, um Unternehmen noch präzisere Analysen zu bieten. Letztlich werden wir von der Risiko Identifikation, Analyse und Mitigation auch immer mehr in die Richtung Risiko Transfer zu schauen – in klarem Deutsch die Frage lösen «Wie kann man KI basierte Systeme und Produkte versichern».
Welche drei Ratschläge würden Sie anderen Gründern geben, die ein technologieorientiertes Startup aufbauen möchten?
- Probleme muss man aus der Praxis verstehen – sprechen Sie mit den Menschen, die sie täglich erleben. Am besten Sie probieren den Prozess, den Sie lösen wollen bei Ihren Kunden selber aus.
- Bauen Sie ein starkes interdisziplinäres Team auf, das sowohl technische als auch geschäftliche Herausforderungen meistern kann. Wenn das Team gut ist, ist der Rest nur noch Engagement und Durchhaltevermögen.
- Um eine Hürde in der Startup Entwicklung zu meistern, ist immer Glück dabei. Aber während man Pech nicht verhindern kann, kann man die Grundlage für Glück schaffen, indem man sich möglichst viele Chancen auf Glück erarbeitet.
Wie sehen Sie die Rolle von KI-Governance in der Unternehmensführung der nächsten fünf bis zehn Jahre, und wie wird Calvin Risk dazu beitragen?
KI-Governance wird ein integraler Bestandteil jeder Unternehmensführung. Angesichts der zunehmenden Verbreitung von KI-Systemen müssen Unternehmen sicherstellen, dass sie nicht nur effizient, sondern auch sicher und transparent sind. Dies wird umso wichtiger, je komplexer und weitverbreiteter diese Systeme sind. Denn das Risiko, dass es zu wirklich signifikanten Vorfällen mit großen Reputations- und finanziellen Schäden kommt, wird dadurch größer. Calvin Risk wird Unternehmen die Werkzeuge und das Know-how bieten diese Anforderungen zu meistern und die Wahrscheinlichkeit solcher Vorfälle zu minimieren. Denn eines ist klar: Man wird in Zukunft nicht auf KI verzichten können, wenn man kompetitiv und erfolgreich bleiben möchte.
Bild Calvin Risk Julian Riebartsch Founder @Daniel Kunz danielkunzphoto.com, Adliswil
Wir bedanken uns bei Julian Riebartsch für das Interview
Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder.
