KI-Forscherin Zweig: „Die Software ist nicht sicher, und das wissen die KI-Anbieter“

**Lead**

Die KI-Forscherin Katharina Zweig, Professorin für Informatik an der Rheinland-Pfälzischen Technischen Universität Kaiserslautern-Landau, hat in einem aktuellen Interview schwere Vorwürfe gegen die Anbieter von Künstlicher Intelligenz erhoben. Sie betont, dass die derzeitige KI-Software grundlegende Sicherheitsmängel aufweise und die Unternehmen dies wüssten, aber aus wirtschaftlichem Interesse nicht ausreichend korrigierten. Die Aussagen der Wissenschaftlerin, die bereits durch ihr Buch „Ein Algorithmus hat kein Taktgefühl“ bekannt wurde, reihen sich in eine wachsende Kritik an der mangelnden Transparenz und Sicherheit von KI-Systemen ein.

**Contexto**

Katharina Zweig gilt als eine der profiliertesten Stimmen in der deutschen KI-Debatte. Seit Jahren forscht sie zu den sozialen und ethischen Implikationen von Algorithmen und Künstlicher Intelligenz. In ihrem 2019 erschienenen Buch „Ein Algorithmus hat kein Taktgefühl“ thematisierte sie bereits die Gefahren unkontrollierter Automatisierung und die Verantwortung der Entwickler. Nun erneuert sie ihre Warnung mit Blick auf die jüngste Entwicklung generativer KI-Modelle und großer Sprachassistenten.

Die Kernaussage der Forscherin lautet, dass KI-Systeme nicht hinreichend getestet und abgesichert seien, bevor sie auf den Markt kämen. Sie kritisiert, dass Unternehmen oft zuerst veröffentlichen und später nachbessern – ein Vorgehen, das bei sicherheitskritischer Software in anderen Branchen undenkbar wäre. Insbesondere die sogenannten „Black-Box“-Modelle, bei denen selbst die Entwickler nicht genau nachvollziehen können, wie Entscheidungen zustande kommen, seien ein massives Sicherheitsrisiko.

Zweig verweist dabei auf bekannte Fälle, in denen KI-Systeme diskriminierende Entscheidungen trafen oder auf Basis manipulierter Eingaben versagten. Trotz wiederholter Enthüllungen habe sich an der Praxis wenig geändert, da die wirtschaftlichen Anreize für schnelle Markteinführungen hoch seien. Die Forscherin stellt fest, dass das Wissen um die Unsicherheit bei den Anbietern vorhanden sei, aber nicht ausreichend in Sicherheitsmaßnahmen übersetzt werde. Dieses Spannungsfeld zwischen Innovation und Verantwortung sei ein zentrales Problem der Branche.

**Analise**

Die Aussagen Zweigs gewinnen vor dem Hintergrund globaler Regulierungsbemühungen an Bedeutung. Die Europäische Union arbeitet derzeit am AI Act, einem umfassenden Rechtsrahmen für Künstliche Intelligenz. Die von Zweig aufgezeigten Sicherheitslücken könnten den Druck auf die Gesetzgeber erhöhen, strengere Vorgaben zu machen – etwa verpflichtende Sicherheitszertifikate vor Markteinführung oder die Offenlegung von Trainingsdaten und Modellarchitekturen.

Gleichzeitig zeigt die Kritik, dass die Selbstregulierung der Tech-Konzerne bislang unzureichend ist. Die mangelnde Sicherheit könne nicht nur individuelle Nutzer gefährden – etwa durch fehlerhafte medizinische Diagnosen oder automatisierte Entscheidungen im Strafrecht –, sondern auch systemische Risiken für die gesamte digitale Infrastruktur bergen. Falls KI-Systeme in kritischen Bereichen wie Energieversorgung oder Verkehr eingesetzt werden, könnten unbehobene Schwachstellen katastrophale Folgen haben.

Die Debatte um Sicherheit muss zudem aus einer ethischen Perspektive betrachtet werden. Zweig argumentiert, dass Anbieter eine moralische Verantwortung trügen, die über die reine Gewinnmaximierung hinausgehe. Dass sie trotz Kenntnis der Mängel nicht handelten, werfe ein schlechtes Licht auf die Branche. Für Unternehmen könnte dies langfristig zu einem Vertrauensverlust führen, der den Markt für KI-Produkte insgesamt schädigt.

**Fontes**

Die Informationen basieren auf öffentlich zugänglichen Aussagen von Prof. Dr. Katharina Zweig, die sie in verschiedenen Medieninterviews und in ihrem wissenschaftlichen Werk getätigt hat. Insbesondere das Interview in der Frankfurter Allgemeinen Zeitung sowie Diskussionen auf der Konferenz re:publica und dem Deutschen Ethikrat dienen als Quellen. Die Analyse stützt sich ferner auf Veröffentlichungen des Bundesministeriums für Bildung und Forschung zur KI-Sicherheit sowie auf Diskussionspapiere der Europäischen Kommission zum AI Act.