{"id":121764,"date":"2026-03-27T12:11:42","date_gmt":"2026-03-27T11:11:42","guid":{"rendered":"https:\/\/startupvalley.news\/de\/?p=121764"},"modified":"2026-03-27T12:11:43","modified_gmt":"2026-03-27T11:11:43","slug":"eva-gengler-ki-daten-hercareer","status":"publish","type":"post","link":"https:\/\/startupvalley.news\/de\/eva-gengler-ki-daten-hercareer\/","title":{"rendered":"Nutze KI so, dass sie feministische Ziele umsetzt"},"content":{"rendered":"\n

Dr. Eva Gengler<\/a> ist Wissenschaftlerin mit Schwerpunkt K\u00fcnstliche Intelligenz, Gr\u00fcnderin \u2013 und Feministin. Noch ist KI weit davon entfernt, feministisch zu sein.  Deshalb setzt sich Eva Gengler f\u00fcr Aufkl\u00e4rung und Selbstbestimmung im Umgang mit KI ein. herCAREER spricht mit der Expertin \u00fcber ihr Buch \u201eFeministische KI\u201c und dar\u00fcber, wie wir alle dazu beitragen k\u00f6nnen, dass die Zukunft mithilfe von KI gerechter wird.<\/p>\n\n\n\n

\u201eNur in einer gerechten Welt w\u00e4re KI gerechter.\u201c<\/h2>\n\n\n\n

herCAREER: In deinem Buch schreibst du, dass KI unsere Welt massiv ungerechter machen wird. Was meinst du damit konkret?<\/h3>\n\n\n\n

Dr. Eva Gengler: Insbesondere Large-Language-Modelle (LLM) wie ChatGPT oder generative KI wie Dall\u00b7E lernen Muster aus bestehenden Daten. Sie reproduzieren und verst\u00e4rken also, was ist. Wer in der analogen Welt benachteiligt ist, wird also auch digital benachteiligt, teils sogar st\u00e4rker. KI lernt zudem vor allem von einer recht kleinen, homogenen und privilegierten Gruppe von Menschen, deren Perspektive nicht f\u00fcr die gesamte Gesellschaft, schon gar nicht f\u00fcr die ganze Welt stehen kann.<\/p>\n\n\n\n

herCAREER: Was w\u00e4re ein Beispiel daf\u00fcr?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ich habe k\u00fcrzlich das Prompt \u201eCreate an image of a doctor and nurses\u201c getestet. Das Ergebnis: ein Bild mit einem wei\u00dfen m\u00e4nnlichen Arzt und mehreren weiblichen, fast ausschlie\u00dflich nicht-wei\u00dfen Pflegekr\u00e4ften. Oder nehmen wir eine Firma, die in der Vergangenheit f\u00fcr eine bestimmte Rolle selten Frauen eingestellt hat \u2013 vielleicht, weil die Position aufgrund mangelnder Flexibilit\u00e4t f\u00fcr M\u00fctter nicht geeignet war. Eine KI, die mit diesen Daten trainiert wird, \u201eschlie\u00dft\u201c wom\u00f6glich daraus, dass M\u00e4nner besser geeignet sind \u2013 und verst\u00e4rkt damit ein altes Muster, ohne die Ursachen zu verstehen oder zu verdeutlichen.<\/p>\n\n\n\n

herCAREER: Wenn es keinen Gender Data Gap g\u00e4be, w\u00e4re KI dann gerechter?<\/h3>\n\n\n\n

Dr. Eva Gengler: Nicht unbedingt. Nur in einer gerechten Welt w\u00e4re KI gerechter. Die Qualit\u00e4t der Daten ist wichtig, aber sie sind niemals neutral. Selbst wenn wir mit ausgewogeneren Datens\u00e4tzen trainieren, k\u00f6nnen Stereotype und menschliche Bias in Entwicklung und Nutzung einflie\u00dfen.<\/p>\n\n\n\n

herCAREER: Wie k\u00f6nnen wir trotzdem ausgewogenere, intersektionalere Daten erheben?<\/h3>\n\n\n\n

Dr. Eva Gengler: Daten sind nur so lange abstrakte, neutrale Einheiten, bis wir deren Machtgef\u00fcge hinterfragen. Erst wenn wir fragen, warum und von wem Daten gesammelt werden, verstehen wir ihre wei\u00dfen Flecken. Ein Beispiel: In der Medizin haben M\u00e4nner entschieden, dass es sich nicht lohnt, den weiblichen K\u00f6rper mit seinen hormonellen Zyklen genau zu erforschen \u2013 er galt als zu komplex. Darum fehlen uns bis jetzt wichtige gendermedizinische Daten, mit gravierenden Folgen f\u00fcr Forschung und Behandlung. Die Qualit\u00e4t unserer Daten und die gerechte Funktionsweise von KI h\u00e4ngen also davon ab, wer die (richtigen) Fragen stellt und wer Entscheidungen trifft.<\/p>\n\n\n\n

herCAREER: Besorgniserregend, wenn wir bedenken, dass die gr\u00f6\u00dften Player in der KI-Entwicklung und die gro\u00dfen Social-Media-Kan\u00e4le von MAGA-affinen M\u00e4nnern geleitet werden, oder?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ja. Im Buch schreibe ich: \u201eMacht pr\u00e4gt KI und KI reproduziert Macht.\u201c Es ist gef\u00e4hrlich, wenn einzelne Personen so viel Macht haben, denn sie bestimmen buchst\u00e4blich, was eine KI oder ein Algorithmus tut. Sie entscheiden \u00fcber deren zugrundliegenden Werte.
Ein Beispiel ist Grok: Ich wei\u00df nicht, ob Elon Musk sich die sogenannte \u201eSpicy-Funktion\u201c selbst gew\u00fcnscht hat. Aber er hat offensichtlich mindestens gebilligt, dass damit zutiefst sexualisierte Bilder auf der Basis von Fotos von Frauen, weiblich gelesenen Personen und Kindern erstellt und auf X geteilt wurden. Das war am Ende sogar gut f\u00fcrs Gesch\u00e4ft. In anderen F\u00e4llen hat Grok antisemitische sowie rassistische Inhalte verbreitet. Das Problem ist: Solche sexistischen, rassistischen und antisemitischen Botschaften wirken oft subtil \u2013 bei Grok sind sie allerdings in der Regel sehr plakativ und offensichtlich. Aber gerade subtile stereotype Bilder und diskriminierende Sprache k\u00f6nnen diskriminierendes Gedankengut in der Mitte der Gesellschaft normalisieren.<\/p>\n\n\n\n

herCAREER: Die Algorithmen sozialer Medien sind genauso manipulierbar, oder?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ja. Experimente auf YouTube und TikTok haben immer wieder gezeigt, dass neu er\u00f6ffnete, neutrale Profile systematisch auf rechtsextremen und frauenfeindlichen Content gelenkt werden.<\/p>\n\n\n\n

herCAREER: Warum ist das so? Denn diese Inhalte spiegeln ja erwiesenerma\u00dfen nicht die Haltung des Gro\u00dfteils der Gesellschaft \u2026<\/h3>\n\n\n\n

Dr. Eva Gengler: Es ist das Gesch\u00e4ftsmodell. Das Ziel dieser Social-Media-Plattformen ist, die Nutzerinnen und Nutzer l\u00e4nger auf der Plattform zu halten \u2013 und genau das bringt Werbeeinnahmen. Und extremer Content wird mehr geklickt. Polarisierung und Meinungsmanipulation sind also kein Zufall, sondern Teil des Gesch\u00e4ftsmodells. Die Entscheider:innen hinter den Plattformen nehmen in Kauf, dass damit Extremismus, Hass und eine konkrete Gefahr f\u00fcr die Demokratie einhergehen.<\/p>\n\n\n\n

herCAREER: Kaum jemand kann heute sagen: \u201eIch boykottiere KI.\u201d Daf\u00fcr ist sie zu tief im (Arbeits-)Alltag verankert. Haben wir also zu wenig Regulierung in Deutschland und Europa?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ich bin \u00fcberrascht, wie viele Stimmen \u2013 auch unsere Wirtschaftsministerin \u2013 sich f\u00fcr Deregulierung einsetzen. Demokratie bedeutet, das friedliche Zusammenleben aller zu sch\u00fctzen, nicht die Wirtschaft um jeden Preis zu f\u00f6rdern. Nat\u00fcrlich brauchen wir wirtschaftlichen Aufschwung, aber nicht auf Kosten der Menschenrechte! Insofern: Ja, wir brauchen unbedingt Regulierung, denn es ist offensichtlich, dass gerechte KI ohne sie nicht realisierbar ist.<\/p>\n\n\n\n

herCAREER: Wie effektiv ist der EU-AI-Act deiner Einsch\u00e4tzung nach?<\/h3>\n\n\n\n

Dr. Eva Gengler: F\u00fcr mich geht die Regulierung nicht weit genug. Das liegt unter anderem daran, dass sehr viele Firmen in die Ausarbeitung eingebunden waren, die Lobby f\u00fcr weniger strenge Auflagen f\u00fcr KI gemacht haben. In Sachen Diversit\u00e4t, Barrierefreiheit, Zugang und Teilhabe sowie \u00f6kologische Nachhaltigkeit geht die Regulierung nicht weit genug. Aber sie ist ein wichtiger Anfang \u2013 gerade mit Blick auf Deregulierung in den USA.<\/p>\n\n\n\n

herCAREER: Die Entwicklung des AI-Acts hat acht Jahre gedauert. Eine im Januar entwickelte Software kann jedoch bereits im Juli veraltet sein. Wie soll so effektive Regulierung m\u00f6glich sein?<\/h3>\n\n\n\n

Dr. Eva Gengler: Gesetze arbeiten mit Generalisierungen, um flexibel zu bleiben. Ich glaube beispielsweise nicht, dass KI-Agenten explizit in der Regulierung erw\u00e4hnt sind, weil sie damals noch keine gro\u00dfe Rolle gespielt haben. Aufgrund ihrer Einsatzfelder und Nutzung w\u00fcrde ich dennoch sagen, dass sie unter die KI-Regulierung fallen. Es wird aber tats\u00e4chlich schwierig bleiben, die technologische Geschwindigkeit politisch und juristisch abzudecken.<\/p>\n\n\n\n

herCAREER: Schwierig auch dahingehend, dass viele Nationen \u2013 auch Deutschland \u2013 sich nicht immer an multilaterale Abkommen halten. Enth\u00e4lt das Papier auch echte Sanktionen oder ist es mehr als freiwillige Selbstkontrolle zu betrachten?<\/h3>\n\n\n\n

Dr. Eva Gengler: Laut dem Abkommen sollen das EU-AI-Office der Europ\u00e4ischen Kommission und die nationalen KI-Aufsichtsbeh\u00f6rden die Einhaltung kontrollieren. Bei Verst\u00f6\u00dfen sind finanzielle Strafen vorgesehen. Ob die finanziellen und personellen Ressourcen f\u00fcr die \u00dcberwachung allerdings ausreichen, wird sich zeigen.<\/p>\n\n\n\n

herCAREER: So wie Sexismus kein Frauen-, sondern ein M\u00e4nnerproblem ist, sind Diskriminierung und Polarisierung durch KI kein technisches Problem, sondern ein menschliches. Wo m\u00fcssen wir also ansetzen?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ein wichtiger Bereich ist die Bildung. Wir m\u00fcssen Kompetenzen fr\u00fch vermitteln \u2013 schon in der Schule. Und zwar nicht nur in der Nutzung, sondern im verantwortungsvollen Umgang mit KI. Kinder sollten lernen, wie Machtstrukturen und Hierarchien wirken und dass Technologie darum nie neutral ist. Jedes Ergebnis muss hinterfragt werden.<\/p>\n\n\n\n

herCAREER: Welche Frage ist die erste, die man sich stellen sollte?<\/h3>\n\n\n\n

Dr. Eva Gengler: Die Frage nach dem Zweck: Warum?<\/p>\n\n\n\n

herCAREER: Warum spielt Simon Sineks Konzept \u201eStart with Why\u201c eine Rolle im Kontext feministischer KI?<\/h3>\n\n\n\n

Dr. Eva Gengler: Simon Sinek sagt: Wenn wir als Organisation nicht wissen, warum wir etwas tun, dann k\u00f6nnen wir es auch nicht richtig tun. Das gilt besonders f\u00fcr KI. Wer Systeme entwickelt oder einsetzt, sollte verstehen, welchem Ziel sie dienen. Heute geht es meist um Effizienz oder Kostensenkung. Wenn das Ziel jedoch Gerechtigkeit oder Vielfalt im Recruiting ist, d\u00fcrfen wir uns nicht (nur) auf alte Datens\u00e4tze st\u00fctzen, die Ungerechtigkeit widerspiegeln. Wir sollten mit KI den Prozess neu und gerechter denken.
Im Recruiting gibt es da zum Beispiel Chemistree, die ein KI-gest\u00fctztes Matching im Personalwesen anbieten. Statt Stellenbeschreibungen und schier unerreichbaren Anforderungslisten \u2013 zumindest aus Sicht von vielen Frauen \u2013 matcht die KI konkrete Anforderungen und Vorstellungen eines Unternehmens mit den Kompetenzen und Pr\u00e4ferenzen der Talente. Das kann dazu f\u00fchren, dass sich Frauen letztendlich f\u00fcr eine Stelle bewerben, auf die sie sich ohne das Matching nicht beworben h\u00e4tten.<\/p>\n\n\n\n

herCAREER: Es ist interessant: Im Innovationskontext verteufeln wir die Aussage \u201eDas haben wir schon immer so gemacht\u201c \u2013 und das zu Recht. Beim Thema KI verlassen wir uns jedoch ausschlie\u00dflich auf bestehende Muster und verschlie\u00dfen uns so systematisch echten Innovationen. Wie k\u00f6nnen IT-Unternehmen dazu beitragen, ethische und feministische Innovationen zu entwickeln?<\/h3>\n\n\n\n

Dr. Eva Gengler: Indem sie nach dem Warum fragen. Jede Person, die an einer KI-Entwicklung arbeitet, sollte sich bewusst sein, welchen Zweck die Anwendung hat. Aber die wirkliche Verantwortung liegt im Management. Sie setzen die Rahmen, sie bestimmen \u00fcber Budgets, sie tragen die Verantwortung daf\u00fcr, wo, wie und vor allem warum KI eingesetzt wird.<\/p>\n\n\n\n

herCAREER: Gibt es Prozesse, die dabei helfen k\u00f6nnen?<\/h3>\n\n\n\n

Dr. Eva Gengler: KI-Governance und Tests! Wir sollten unsere Systeme im gesamten Prozess immer wieder testen, mit diversen Daten und durch diverse Personen. Denn erst dann fallen Probleme oft auf. Und das sollten wir von Anfang an machen!<\/p>\n\n\n\n

herCAREER: Transdisziplin\u00e4re und intersektionale Testgruppen?<\/h3>\n\n\n\n

Dr. Eva Gengler: Genau. So kann selbst ein Entwickler:innen-Team, das vorwiegend aus wei\u00dfen, sozio\u00f6konomisch \u00e4hnlichen Umfeldern kommt, wichtige wei\u00dfe Flecken aufdecken. In der Praxis ist das oft nicht leicht umzusetzen \u2013 zumindest wird es viel zu selten getan.<\/p>\n\n\n\n

herCAREER: Wie kann jede*r von uns KI feministisch nutzen?<\/h3>\n\n\n\n

Dr. Eva Gengler: Ihr k\u00f6nnt euch fragen, wie ihr eine KI so nutzt, dass sie feministische Ziele umsetzt. Ihr k\u00f6nnt LLM nutzen, um feministische Texte zu schreiben \u2013 aber bitte immer den Inhalt selbst bestimmen, KI darf nur ein Werkzeug zur Unterst\u00fctzung sein. Schon beim Formulieren eines Prompts k\u00f6nnt ihr entscheiden, welche Perspektive ihr einfordert, k\u00f6nnt gezielt Expertinnen oder LGBTQIA-Personen als Quellen verlangen \u2013 und generell Quellenvielfalt \u2013 ebenso wie genderneutrale Sprache. So pr\u00e4gt ihr KI auch St\u00fcck f\u00fcr St\u00fcck ein bisschen mit.<\/p>\n\n\n\n

herCAREER: Das hat dann meine konkrete Anfrage feministisch gepr\u00e4gt \u2013 aber habe ich damit einen Einfluss auf die KI selbst?<\/h3>\n\n\n\n

Dr. Eva Gengler: Wir haben bereits mehrfach beobachtet, dass KI-Unternehmen auf Druck der \u00d6ffentlichkeit nachgebessert haben. Also finde ich es gut, wenn wir problematische Inhalte, die eine KI generiert hat, teilen und sichtbar machen. Das kann Druck aus\u00fcben, wenn es viele von uns tun \u2013 wie auch im Fall von Grok auf X zu beobachten war. Wir wissen nicht mit Sicherheit, wie gro\u00df der Einfluss von unserem Nutzer:innen-Feedback auf LLMs ist, aber ich w\u00fcrde trotzdem sagen, dass es gut ist, wenn wir auch das System kritisieren und hoffen, dass es St\u00fcck f\u00fcr St\u00fcck dazulernen wird. Am Ende sollten wir uns beim Prompten immer fragen: Was wollen wir mit KI erreichen \u2013 einen Teil der Realit\u00e4t abbilden oder sie ver\u00e4ndern?<\/p>\n\n\n\n

herCAREER: Wenn KI ein Abbild unserer Gesellschaft ist, m\u00fcssen wir im analogen und im digitalen Raum m\u00f6glichst feministisch agieren. Du schreibst, wir sollen anderen (KI-)Expertinnen eine Plattform bieten.<\/h3>\n\n\n\n

Dr. Eva Gengler: Genau. KI lernt von digitalem Content. Das bedeutet: Je \u00f6fter ich Expertinnen an die Medien empfehle und je mehr Panels ausschlie\u00dflich mit Frauen oder parit\u00e4tisch mit Frauen besetzt sind, desto \u00f6fter werden sie auch erw\u00e4hnt und eingeladen werden. Das ist in unserer analogen Welt so, aber das wird durch digitale Berichterstattung und Pr\u00e4senz auch in die Datengrundlage einflie\u00dfen und die n\u00e4chste Generation von KI mitpr\u00e4gen.<\/p>\n\n\n\n

Dr. Eva Gengler wird ihr Buch \u201eFeministische KI\u201d und ihre Forschungserfahrungen im Rahmen des\u00a0Authors-MeetUp auf der herCAREER Expo 2026\u00a0am 22.+ 23. Oktober 2026 in M\u00fcnchen\u00a0vorstellen.<\/p>\n\n\n\n

Das Interview f\u00fchrte herCAREER-Redakteurin\u00a0Kristina Appel.<\/em><\/p>\n\n\n\n

Bild Dr. Eva Gengler Wirtschaftsinformatikerin und intersektional-feministische Forscherin zu Macht und K\u00fcnstlicher Intelligenz Co-Founderin der feminist AI Community und enableYou \u00a9 Helena Henkel<\/p>\n\n\n\n

Quelle messe.rocks GmbH<\/p>\n\n\n\n