KI-Diskussion: Was läuft gerade schief in der Künstlichen Intelligenz, Frau Zweig?

**Lead**

Die Debatte um die Künstliche Intelligenz (KI) erreicht einen neuen Höhepunkt: In einem aktuellen Diskurs, der in deutschen Medien und internationalen Fachkreisen breit rezipiert wird, stellt die renommierte Informatikerin und Autorin Katharina Zweig die Frage nach dem Versagen der KI-Industrie. Das Gespräch, das unter dem Titel „Was läuft gerade schief in der Künstlichen Intelligenz?“ geführt wurde, beleuchtet grundlegende Defizite in der Entwicklung und Anwendung von KI-Systemen. Zweig, Professorin für Sozioinformatik an der Technischen Universität Kaiserslautern, kritisiert insbesondere die mangelnde Transparenz und die übertriebenen Erwartungen an Machine-Learning-Modelle.

**Contexto**

Katharina Zweig ist eine der prominentesten Stimmen, die sich kritisch mit der KI-Entwicklung auseinandersetzen. Ihr Buch „Die KI-Entscheidung“ aus dem Jahr 2021 wurde in Fachkreisen als „wichtiger Beitrag zur Versachlichung der Debatte“ gelobt. Sie warnt darin vor einer unkritischen Übernahme von Algorithmen in Bereichen wie Personalauswahl, Medizin oder Strafjustiz. Zweig argumentiert, dass viele KI-Systeme auf fehlerhaften oder verzerrten Daten trainiert werden und dadurch diskriminierende Ergebnisse produzieren. Zudem seien die Modelle oft nicht nachvollziehbar – ein Problem, das als „Black-Box“-Phänomen bekannt ist. In dem aktuellen Gespräch geht sie tiefer auf die strukturellen Probleme ein: Fehlanreize in der Forschung, mangelnde Regulierung und eine Technologiegläubigkeit, die reale Risiken ignoriert.

International haben ähnliche Debatten bereits zu politischen Konsequenzen geführt. Die Europäische Union arbeitet am AI Act, einem Gesetzespaket zur Regulierung von KI-Systemen. In den USA fordern Fachleute wie Timnit Gebru oder Joy Buolamwini mehr Rechenschaftspflicht. Zweig verweist auf diese Entwicklungen, betont aber, dass die Umsetzung oft schleppend verlaufe. In ihrem Gespräch nennt sie konkrete Beispiele: Gesichtserkennungssysteme, die bei dunkleren Hauttönen versagen, oder Algorithmen zur Kreditwürdigkeitsprüfung, die historische Vorurteile reproduzieren.

**Analyse**

Die Frage „Was läuft schief in der KI?“ ist nicht nur technischer Natur, sondern hat weitreichende gesellschaftliche Implikationen. Zweig macht deutlich, dass die KI-Industrie jahrelang unrealistische Versprechen gemacht hat – von autonomen Fahrzeugen bis hin zu medizinischen Diagnosen. Diese Hype-Zyklus führe zu Enttäuschungen und Vertrauensverlust, wenn die Systeme in der Praxis scheitern. Gleichzeitig würden Milliarden in unausgereifte Technologien investiert, während grundlegende ethische Fragen offen blieben. Die Informatikerin fordert daher eine nüchterne Bestandsaufnahme: Welche Aufgaben kann KI sinnvoll übernehmen? Wo sind die Risiken zu hoch? Und wie können wir sicherstellen, dass KI dem Menschen dient, statt ihn zu kontrollieren?

Der Diskurs mit Zweig trifft einen Nerv in einer Zeit, in der generative KI-Systeme wie ChatGPT oder Midjourney weltweit für Furore sorgen. Während die einen die nächste industrielle Revolution ausrufen, warnen andere vor Arbeitsplatzverlusten, Desinformation und Machtkonzentration. Zweig plädiert für eine demokratische Kontrolle und eine breite öffentliche Debatte. Sie argumentiert, dass die Entscheidung über den Einsatz von KI nicht allein den Unternehmen oder Tech-Führungskräften überlassen werden dürfe. Stattdessen müssten Bürger, Behörden und Wissenschaft gemeinsam Leitlinien entwickeln. So könne verhindert werden, dass KI zu einem Instrument der Ungleichheit oder der Überwachung werde.

**Fontes**

- Katharina Zweig, Professorin für Sozioinformatik an der TU Kaiserslautern, Buchautorin („Die KI-Entscheidung“, 2021) - Diskussion veröffentlicht in der Frankfurter Allgemeinen Zeitung sowie in Fachforen wie „AlgorithmWatch“ - Hinweise auf den EU AI Act (Verordnung zu Künstlicher Intelligenz, Stand 2023) - Debatte um ethische KI: Timnit Gebru (ehemals Google AI) und Joy Buolamwini (MIT Media Lab)