Die Rechtsanwaltskanzlei HÄRTING hat unseren Berater Martin Raasch eingeladen, beim 2. HÄRTING-KI-Tag am 28. November einen Vortrag mit Praxisbezug zu halten. Neben Rednern wie dem Hamburger Datenschutz-Beauftragen Thomas Fuchs, dem DSB a.D. Baden-Württembergs, Dr. Stefan Brink und Rebekka Weiß von Microsoft sprach Martin darüber, wie Bias in KI-Syteme gerät und was man dagegen unternehmen kann.

In einer interaktiven Demo zeigte Martin Raasch den Teilnehmenden anhand von Googles Teachable Machine, wie KI-Modelle trainiert werden können und wie sich dabei Bias einschleichen kann. Es ist erstaunlich, wie einfach das Training von KI-Modellen mittlerweile ist – so gibt es inzwischen sogar Spielzeuge, mit denen Kinder eigene KI-Modelle trainieren können. Für einfache Anwendungen reichen oft schon wenige hundert Bilder, um gute Vorhersagen zu erzielen. Doch wenn KI-Systeme auf biometrische Merkmale wie Stimme oder Aussehen trainiert werden, braucht es entweder große, repräsentative Datensätze oder vortrainierte Modelle, um Bias zu vermeiden. In unserem Beitrag beleuchteten wir drei Dimensionen, in denen Bias erkannt und vermieden werden kann:

1. Datenkontrolle: Die Trainingsdaten sollten zweckgerecht und sorgfältig ausgewählt werden.
2. Modellkontrolle: Modell-Vorhersagen müssen mit Testdaten überprüft werden.
3. Erklärbarkeit von Entscheidungen: Es ist wichtig zu verstehen, welche Datenpunkte welche KI-Features aktivieren.

Ein Highlight unserer Demo war der Einsatz synthetischer Trainingsdaten. Mit dem Open-Source-Modell Stable Diffusion erstellten wir 1.200 Bilder von nicht existierenden Personen und konnten diese erfolgreich für das Training einsetzen. Die Qualität des Modells verbesserte sich merklich durch den Einsatz solcher hochwertiger, künstlich generierter Daten. Dieses Thema stieß auf großes Interesse bei den Teilnehmenden, da synthetische Daten in den kommenden Jahren eine immer wichtigere Rolle für das Training und Testen von KI-Modellen spielen werden.

Martins Beitrag kann in Folge 62 des Podcasts Härting.fm nachgehört werden.

Für weitere Informationen zu KI und Datenschutz, KI im Unternehmen und zur Vorbereitung auf die kommende EU-KI-Verordnung kontaktieren Sie uns gerne unter: service@brainosphere.de.