Calvin Risk ist ein Spin-off der ETH Z\u00fcrich und eine Plattform f\u00fcr KI-Governance und Risikomanagement, die Unternehmen dabei unterst\u00fctzt, KI-Systeme sicher und effizient einzusetzen. Die Idee entstand aus der praktischen Erfahrung meines Mitgr\u00fcnders, Dr. Syang Zhou, w\u00e4hrend seiner Industrie-Promotion an der ETH. Er arbeitete mit grossen Banken und Versicherungen an der Implementierung und dem Audit von KI und merkte, wie schwierig es war, KI-Systeme<\/a> vom Experiment zur Produktion zu bringen. Ich selbst arbeitete im Venture Capital Bereich und sah, dass viele Unternehmen trotz Innovationswillen an der Umsetzung scheiterten \u2013 vor allem aus Angst vor Risiken und fehlender Governance. Diese Herausforderungen haben uns motiviert, Calvin Risk ins Leben zu rufen.<\/p>\n\n\n\n Unser Ursprung an der ETH Z\u00fcrich hat unsere Denkweise entscheidend gepr\u00e4gt und die Art, wie man aus Qualit\u00e4tstests von KI-Systemen deren Risiko quantifizieren kann, basiert auf Research der ETH. Wir st\u00fctzen uns auf akademisch fundierte Methoden und internationale Standards wie NIST und ISO. Gleichzeitig hat uns, als Teil des ETH AI Centers, der Zugang zu einem Netzwerk f\u00fchrender Experten und modernster Forschung in der KI- und Risikomanagementbranche geholfen, innovativste L\u00f6sungen zu entwickeln, die wissenschaftlich validiert und praktisch anwendbar sind.<\/p>\n\n\n\n Unsere Vision ist es, Unternehmen weltweit in die Lage zu versetzen, KI sicher, effizient und verantwortungsbewusst zu nutzen. Ein wichtiger Teil unseres Mottos ist \u00abAI Enablement\u00bb – also KI zu bef\u00e4higen, in dem wir die H\u00fcrden und Aufw\u00e4nde f\u00fcr unsere Kunden senken, sichere und vertrauensw\u00fcrdige KI mit dem richtigen Level an Governance verwenden zu k\u00f6nnen. Wir arbeiten daran, durch unsere Software Governance-Prozesse zu digitalisieren und automatisierte Tests f\u00fcr KI-Modelle bereitzustellen. Unsere Kunden profitieren von effizienteren Abl\u00e4ufen, Kosteneinsparungen und einem reduzierten Risiko schwerwiegender Vorf\u00e4lle.<\/p>\n\n\n\n Unsere Hauptzielgruppe sind Unternehmen in regulierten Branchen wie Banken und Versicherungen. Sie stehen besonders vor der Herausforderung, KI sicher einzusetzen und gleichzeitig regulatorische Anforderungen wie das EU-KI-Gesetz zu erf\u00fcllen. Calvin Risk bietet ihnen Werkzeuge zur zentralen Inventarisierung ihrer KI-Systeme, zum standardisierten Testing von (Gen)AI und zur detaillierten Berichterstattung, um Risiken zu bewerten und zu minimieren. Au\u00dferhalb der Finanzindustrie arbeiten wir auch mit der Telekommunikations- und der Transport-Industrie zusammen. Unsere Software wird von diesen meist zuerst von den Bereichen Analytics (CIO) und Governance genutzt, sp\u00e4ter dann auch von den Risiko- \/ Validierungs-Teams (CRO). Die hinter der Software stehende Methodik ist allerdings branchenunabh\u00e4ngig.<\/p>\n\n\n\n Viele Unternehmen stehen vor erheblichen Herausforderungen bei der Identifikation und Bew\u00e4ltigung von KI-Risiken. Es fehlen standardisierte Prozesse, insbesondere f\u00fcr das Testen von KI-Systemen, das oft individuell und unsystematisch erfolgt \u2013 abh\u00e4ngig vom Fokus einzelner Entwickler oder Teams. Dies f\u00fchrt zu Unsicherheiten bei der strukturierten und effizienten Sicherstellung von KI-Sicherheit, insbesondere bei Basismodellen, die durch Umschulungen oder \u00c4nderungen der Anbieter st\u00e4ndigen Anpassungen unterliegen.<\/p>\n\n\n\n Hinzu kommen veraltete Governance-Richtlinien, die oft schwerf\u00e4llig sind und den spezifischen Anforderungen moderner KI-Systeme nicht gerecht werden. Viele Unternehmen wissen nicht, wie sie strategische Grunds\u00e4tze in konkrete Ma\u00dfnahmen umsetzen k\u00f6nnen, was zu erheblichen operativen Risiken f\u00fchrt \u2013 von finanziellen Verlusten bis hin zu Reputationssch\u00e4den. Angesichts der Bedeutung von Vertrauen als zentraler Wert ist das Risiko eines KI-bedingten Vorfalls besonders gravierend.<\/p>\n\n\n\n Gleichzeitig erkennen Unternehmen jedoch, dass sie ohne den innovativen Einsatz von KI einen gro\u00dfen Wettbewerbsnachteil haben werden. Dies macht KI-Governance zu einer Priorit\u00e4t auf Vorstandsebene. Mit Calvin Risk schlie\u00dfen wir diese L\u00fccke: Wir bieten automatisierte Tests f\u00fcr Modellqualit\u00e4t, Fairness, Robustheit, Erkl\u00e4rbarkeit und Sicherheit an und unterst\u00fctzen Unternehmen dabei, ihre Governance-Strukturen und Risikoframeworks zu digitalisieren \u2013 f\u00fcr mehr Effizienz und Transparenz. <\/p>\n\n\n\n Unsere Plattform bietet eine einzigartige Kombination aus zentraler Modell-Inventarisierung, automatisierten Qualit\u00e4ts- und Risikobewertungen und wirtschaftlicher Risikoanalyse. Diese Ans\u00e4tze sind nicht nur wissenschaftlich fundiert, sondern auch auf die praktischen Anforderungen unserer Kunden zugeschnitten, was uns eine f\u00fchrende Position in dieser aufstrebenden Branche sichert. Mit uns kann man also sowohl die Quantifizierung von Qualit\u00e4t und Risiken \u00fcbernehmen als auch die Durchf\u00fchrung von Qualitativen Risiko Analysen und Governance Prozessen automatisieren. Das gibt es nirgendwo anders.<\/p>\n\n\n\n Ein zentraler Teil des EU-KI-Gesetzes ist das Testing und die Validierung von KI-Systemen. Au\u00dferdem erfordern, gerade KI-Systeme die als Hochrisiko klassifiziert werden, strikte Dokumentations- und Governance-Prozesse. Unsere Plattform unterst\u00fctzt Kunden dabei, diese Anforderungen effizient zu erf\u00fcllen, indem wir automatisierte Tests und standardisierte Berichte, umfangreiches automatisches Logging und alle anderen Aspekte, die derzeit m\u00f6glich sind, anbieten. Au\u00dferdem helfen wir schon mit den ersten Schritten, die Unternehmen bez\u00fcglich des EU AI Acts gehen m\u00fcssen \u2013 n\u00e4mlich die Bestandaufnahme und die Risiko-Klassifizierung nach dem Gesetzt.<\/p>\n\n\n\n Zu Beginn mussten wir Unternehmen \u00fcberzeugen, dass KI-Governance nicht nur ein \u201enice-to-have\u201c ist, sondern eine gesch\u00e4ftskritische Komponente. Durch die enge Zusammenarbeit mit f\u00fchrenden Unternehmen und die Erzielung messbarer Erfolge \u2013 wie Kosteneinsparungen und Risikoreduzierung \u2013 haben wir diese H\u00fcrden gemeistert. Mittlerweile gibt es eigentlich kaum mehr ein Unternehmen in Europa, welches KI-Governance nicht als zentrale Priorit\u00e4t f\u00fcr den erfolgreichen Einsatz von KI sieht. Das Thema ist jetzt oft schon ein Anliegen der Vorstands- und Gesch\u00e4ftsf\u00fchrungsebene.<\/p>\n\n\n\n Seit unserer Gr\u00fcndung haben wir mit f\u00fchrenden europ\u00e4ischen Banken und Versicherungen zusammengearbeitet, signifikante Effizienzgewinne erzielt und unsere Plattform kontinuierlich verbessert. Wir konnten zeigen, dass Unternehmen bis zu 65% an Governance-Kosten einsparen und die Einhaltung regulatorischer Standards sicherstellen konnten. Ein weiteres Highlight ist die Einf\u00fchrung modernster Testverfahren f\u00fcr generative KI, wie ChatGPT. Dadurch sind wir von mehreren internationalen Versicherungen zum \u00abSwiss Insurtech des Jahres\u00bb und von Risk.net zusammen mit f\u00fchrenden Banken zum Risiko Management Produkt des Jahres 2024 gek\u00fcrt worden.<\/p>\n\n\n\n Wir arbeiten daran, unsere Plattform noch st\u00e4rker zu automatisieren und Branchenstandards wie dem EU-KI-Gesetz voraus zu sein. Ausserdem planen wir, unsere Datenbank mit branchenspezifischen Risikoprofilen weiter auszubauen, um Unternehmen noch pr\u00e4zisere Analysen zu bieten. Letztlich werden wir von der Risiko Identifikation, Analyse und Mitigation auch immer mehr in die Richtung Risiko Transfer zu schauen \u2013 in klarem Deutsch die Frage l\u00f6sen \u00abWie kann man KI basierte Systeme und Produkte versichern\u00bb.<\/p>\n\n\n\n KI-Governance wird ein integraler Bestandteil jeder Unternehmensf\u00fchrung. Angesichts der zunehmenden Verbreitung von KI-Systemen m\u00fcssen Unternehmen sicherstellen, dass sie nicht nur effizient, sondern auch sicher und transparent sind. Dies wird umso wichtiger, je komplexer und weitverbreiteter diese Systeme sind. Denn das Risiko, dass es zu wirklich signifikanten Vorf\u00e4llen mit gro\u00dfen Reputations- und finanziellen Sch\u00e4den kommt, wird dadurch gr\u00f6\u00dfer. Calvin Risk wird Unternehmen die Werkzeuge und das Know-how bieten diese Anforderungen zu meistern und die Wahrscheinlichkeit solcher Vorf\u00e4lle zu minimieren. Denn eines ist klar: Man wird in Zukunft nicht auf KI verzichten k\u00f6nnen, wenn man kompetitiv und erfolgreich bleiben m\u00f6chte.<\/p>\n\n\n\n Bild Calvin Risk Julian Riebartsch Founder @Daniel Kunz danielkunzphoto.com, Adliswil<\/p>\n\n\n\n Wir bedanken uns bei Julian Riebartsch<\/a> f\u00fcr das Interview<\/p>\n\n\n\n Aussagen des Autors und des Interviewpartners geben nicht unbedingt die Meinung der Redaktion und des Verlags wieder.<\/p>\n\n\n\nWie hat Ihr Hintergrund als ETH-Spin-off die Entwicklung von Calvin Risk gepr\u00e4gt?<\/h4>\n\n\n\n
Was ist die Vision von Calvin Risk, und welche Schritte unternehmen Sie, um diese zu verwirklichen?<\/h4>\n\n\n\n
Wer geh\u00f6rt zu Ihrer Hauptzielgruppe, und wie hilft Calvin Risk diesen Unternehmen, ihre Herausforderungen zu bew\u00e4ltigen?<\/h4>\n\n\n\n
Welche besonderen Probleme im Bereich der KI-Governance m\u00f6chten Sie mit Ihrer Plattform l\u00f6sen?<\/h4>\n\n\n\n
Was unterscheidet Calvin Risk von anderen Anbietern im Bereich KI-Risikomanagement?<\/h4>\n\n\n\n
Wie adressiert Calvin Risk die neuen Anforderungen des EU-KI-Gesetzes, und welche Bedeutung hat dies f\u00fcr Ihre Kunden?<\/h4>\n\n\n\n
Mit welchen Herausforderungen wurden Sie seit der Gr\u00fcndung von Calvin Risk konfrontiert, und wie haben Sie diese bew\u00e4ltigt?<\/h4>\n\n\n\n
Was waren die gr\u00f6\u00dften Erfolge oder Meilensteine von Calvin Risk seit der Gr\u00fcndung im Jahr 2022?<\/h4>\n\n\n\n
Welche zuk\u00fcnftigen Entwicklungen und Innovationen planen Sie f\u00fcr Ihre Plattform?<\/h4>\n\n\n\n
Welche drei Ratschl\u00e4ge w\u00fcrden Sie anderen Gr\u00fcndern geben, die ein technologieorientiertes Startup aufbauen m\u00f6chten?<\/h4>\n\n\n\n
\n
Wie sehen Sie die Rolle von KI-Governance in der Unternehmensf\u00fchrung der n\u00e4chsten f\u00fcnf bis zehn Jahre, und wie wird Calvin Risk dazu beitragen?<\/h4>\n\n\n\n