Paper auf EXIST2025 ausgezeichnet
Erklärbare KI gegen Sexismus: IC\M/T-Forschung international ausgezeichnet
Ein Forschungsteam des IC\M/T der FH St. Pölten erzielte beim internationalen Wettbewerb EXIST2025 zur Erkennung von Sexismus in sozialen Netzwerken herausragende Ergebnisse. Neben der bloßen Erkennung sexistischer Inhalte lag der Fokus auch auf dem Verständnis der Absicht hinter einem Beitrag sowie der Kategorisierung der Art des Sexismus.
Beitrag zu ethischer KI-Forschung
Mit innovativen KI-Modellen, die in Englisch und Spanisch evaluiert wurden, schnitt das Team in der Teamwertung hervorragend ab:
- Beim Verstehen der Absicht von Sexismus konnten sie mit ihrem eigens entwickelten transparenten Klassifikationsmodell als viertbestes Team in die Wertung eingehen.
- Mit dem Basismodell konnten sie sich als drittbestes Team bei der Erkennung von Sexismus positionieren.
Die entwickelten Modelle überzeugten durch Erklärbarkeit, Effizienz und Mehrsprachigkeit – ein bedeutender Beitrag zur ethischen KI-Forschung. Mit dem eingereichten Paper konnte das Team zeigen, wie sich diskriminierende Inhalte auf nachvollziehbare und transparente Weise automatisch erkennen lassen.
Besonders bemerkenswert: Die Modelle funktionierten auch bei mehrsprachigen Daten sehr gut – obwohl die als Basis fungierenden erklärenden Adjektive ausschließlich in Englisch angegeben sind.
Was sind diese „erklärenden Adjektive“? Gemeinsam mit Soziolog*innen der Universität Wien wurde eine Liste von Adjektiven erstellt, die typische Merkmale emotionaler und hasserfüllter Aussagen beschreiben. Das Modell wählt daraus passende Begriffe wie „diskriminierend“, „geschlechterstereotyp“, „patriarchalisch“, „einschränkend“ oder „abwertend unangemessen“ aus und entscheidet auf dieser Basis, ob ein Kommentar sexistisch ist. Entscheidungen sind somit leicht für Menschen nachzuvollziehen.
Die Ergebnisse werden im September 2025 von Adrian Jaques Böck auf der CLEF-Konferenz in Madrid präsentiert.
Autor*innen: Roberto Labadie-Tamayo (ehemals FH St. Pölten), Adrian Jaques Böck, Djordje Slijepčević, Xihui Chen, Andreas Babic und Matthias Zeppelzauer