Regeln für Künstliche Intelligenz: Wer sagt, was fair ist?

Die Europäische Kommission will Künstliche Intelligenz regulieren und Diskriminierung verhindern. Aber viele Fragen sind offen. Die Gastwirtschaft.

So groß die gesellschaftlichen Chancen von Künstlicher Intelligenz (KI) auch sein mögen: Zahlreiche Beispiele führen uns regelmäßig vor Augen, wie fehleranfällig viele KI-Systeme sind und Menschen beispielsweise diskriminieren können. Geht es nach der Europäischen Kommission, bleiben Bürger:innen der EU künftig vor solchen KI-Anwendungen verschont. Denn in ihrem im Frühjahr vorgelegten Vorschlag für eine europaweite Regulierung für KI sieht die Kommission vor, dass so genannte „Hochrisiko-KI-Systeme“, also etwa Systeme im Gesundheitssektor oder Personalmanagement, getestet und einer Prüfung unterzogen werden, bevor sie auf den Markt kommen. Der Ansatz ist begrüßenswert, denn er würde es Politik und Gesellschaft ermöglichen, aus der reaktiven Lage herauszukommen, in der sie sich im Umgang mit digitalen Technologien zu oft befinden. Doch wie so oft steckt der Teufel im Detail. Begriffe wie Diskriminierung und Fairness müssen definiert und messbar gemacht werden, um KI darauf prüfen zu können. Wer aber kann und sollte festlegen, was fair ist? Um die Güte von KI-Systemen bestmöglich zu prüfen, braucht es zudem geeignete Testdaten. Doch welche Anforderungen sollten Testdatensätze erfüllen? Und stehen sie überhaupt in ausreichender Menge und Qualität zur Verfügung?