Der AI Act ist beschlossen, die Umsetzung läuft, und in vielen Industrieunternehmen ist die Verunsicherung groß. Wir haben mit Prof. Dr. Patrick Glauner gesprochen, Professor für künstliche Intelligenz an der Technischen Hochschule Deggendorf, Sachverständiger in Anhörungen des Bundestags und des Europaparlaments und Mitglied im wissenschaftlichen Beirat der Cyberagentur.
Es geht um die KI-Verordnung und ihre Folgen für den Mittelstand, um die Frage, wo Deutschland im internationalen Vergleich wirklich steht, und um die unbequemste Antwort auf die Frage, wo ein Unternehmen mit KI anfangen sollte. Das Gespräch führte Andrea für den Podcast Systemblick.
DAS WICHTIGSTE IN KÜRZE
|
KURZ ZUSAMMENGEFASSTDer AI Act verfolgt ein sinnvolles Ziel, setzt nach Einschätzung von Patrick Glauner aber am falschen Punkt an: KI in Fahrzeugen, Flugzeugen oder Finanzprodukten war bereits vertikal reguliert. Für den Mittelstand bedeutet die Verordnung vor allem Einordnung und Risikoanalyse für jeden Anwendungsfall. Im internationalen Vergleich liegt Deutschland auf Platz 5. Der wirksamste Hebel für Unternehmen ist nicht mehr Technik, sondern ein klar definierter Anwendungsfall. |
Was mich in solchen Anhörungen immer wieder überrascht, ist die Zusammensetzung der Sachverständigen. Natürlich braucht man Verbandsvertreter, natürlich braucht man Gewerkschaftsvertreter. Wenn die technische Fachexpertise am Tisch aber nur noch eine Minderheit ist, dann ist das aus meiner Sicht irritierend. Ich habe erlebt, dass ich unter acht Sachverständigen der Einzige war, der jemals selbst programmiert hat.
Inhaltlich habe ich immer vor dem AI Act gewarnt, weil er Innovation aus meiner Sicht verhindert und verteuert. Einzelne Kritikpunkte sind auch angenommen worden. Aber wenn so eine Maschinerie einmal läuft, lässt sie sich kaum noch anhalten. Ein Gesetz abzubrechen ist politisch unattraktiver, als ein neues zu machen.
Der AI Act, auf Deutsch die KI-Verordnung, hat das Ziel, vertrauenswürdige KI-Systeme in Europa zu bauen. Die Intention ist grundsätzlich gut. Die Frage ist, wie man das erreicht. Die EU-Kommission war der Auffassung, dafür brauche es ein großes Regelwerk. Daraus wurden mehrere Hundert Seiten, und je länger beraten wird, desto länger werden solche Texte.
Die Ansage war, KI sei unreguliert. Dieser Auffassung widerspreche ich ausdrücklich. Wenn ich KI in ein Flugzeug, ein Auto oder ein Finanzprodukt einbaue, ist dieser Bereich längst vertikal reguliert, und die KI ist diesen Anforderungen selbstverständlich unterworfen. Der Ansatz, Anwendungsfälle in Risikoebenen einzuordnen und je Risiko unterschiedliche Auflagen zu machen, ist im Grundsatz vernünftig. Nur ist die Einordnung im Einzelfall sehr schwer, und die Anforderungen bleiben unklar.
DER SCHRITT, DER ÜBERSPRUNGEN WURDEIch hätte mir gewünscht, wir hätten beim AI Act zuerst die Regelungslücke identifiziert und dann genau diese geschlossen. Stattdessen wurde ein umfassendes Regelwerk über einen Bereich gelegt, der in vielen Branchen bereits reguliert ist. |
Das Erste, was der Mittelstand gemerkt hat, ist die Debatte um eine KI-Weiterbildungspflicht, die manche aus dem AI Act herleiten. Daraufhin waren sehr schnell viele Schulungsanbieter unterwegs, die plötzlich KI-Schulungen im Programm hatten. Ob diese Pflicht wirklich so drinsteht, ist unklar und hängt von der Lesart ab. Dass Unternehmen sich mit dem Thema beschäftigen müssen, ist trotzdem sinnvoll.
Der zweite Punkt ist konkreter: Jeder Anwendungsfall muss eingeordnet werden, es muss eine Risikoanalyse stattfinden, und das betrifft auch alle bestehenden Anwendungsfälle. Damit steht sofort die Frage im Raum, was überhaupt KI ist. Genau das ist im AI Act sehr breit und schwammig gefasst. Warum bekommen wir so etwas nicht auf zehn Seiten? Lange Gesetzestexte erzeugen vor allem zusätzlichen Aufsichts- und Beratungsbedarf. Im internationalen Wettbewerb hilft uns das nicht.
Den AI Act gar nicht zu verabschieden. Erst prüfen, wo tatsächlich eine Regelungslücke besteht, und wenn es eine gibt, dann kann man sie schließen. Ich glaube ohnehin, dass vieles Stück für Stück über Normen und Standards entsteht und weniger über den Gesetzgeber. Unternehmen haben von sich aus ein großes Interesse daran, sichere Systeme zu bauen. Dafür braucht es Normen und Standards, und die entwickeln sich unabhängig vom AI Act. Durch den AI Act gibt es jetzt zusätzliche Anforderungen, die am Ende über ISO-Standards erfüllt werden müssen.
PRAXISHINWEISWas ich in Europa und besonders in Deutschland beobachte: Wir neigen dazu, päpstlicher als der Papst zu sein und Anforderungen zu übererfüllen. Vielleicht muss man an manchen Stellen bewusst ins Risiko gehen und sich fragen, ob man wirklich jede Anforderung maximal scharf auslegen muss. In anderen Teilen der EU wird derselbe Rechtsrahmen pragmatischer ausgelegt. Das ist ausdrücklich keine Handlungsempfehlung, das muss ich betonen. |
Da höre ich meist zwei Aussagen: alles ganz schlecht oder alles ganz toll. Beides ist sehr subjektiv. Wichtig sind objektive Messungen. Dazu gibt es Berichte zur Wettbewerbsfähigkeit. Einen davon habe ich über viele Jahre mit Partnern in London, Dubai und Hongkong herausgegeben, den AI Competitiveness Index.
Aggregiert über alle Faktoren, also Anzahl der Unternehmen, Forschung, Innovation, Finanzen und wirtschaftlicher Impact, liegt Deutschland auf Platz 5 weltweit. Vor uns liegt aber das Vereinigte Königreich, obwohl es kleiner ist. Ein Faktor dabei ist, dass Großbritannien nach dem EU-Austritt nicht mehr dem europäischen Regulierungsrahmen unterliegt. Die USA und China sind sehr stark. Deutschland hat aber ebenfalls viele Stärken, und die werden gern schlechtgeredet. So schlecht ist die Lage nicht.
Die wirtschaftlichen Herausforderungen sind aktuell dramatisch. Allein durch die demografische Entwicklung werden wir in den nächsten Jahren kaum noch Wirtschaftswachstum erreichen, es sei denn, wir automatisieren mehr. Dabei kann KI eine große Rolle spielen, weil wir Arbeitskraft effizienter einsetzen. Angst vor Massenarbeitslosigkeit muss dabei niemand haben, wir haben eher viel zu wenig Menschen für die anstehende Arbeit. Natürlich muss sich jeder weiterbilden, manche müssen sich umorientieren. Das war immer so, und der Staat kann das mit Weiterbildungsangeboten ausgestalten.
Ein Beispiel mit großem Potenzial ist die Pflege. Ich habe kürzlich in ein Startup mitinvestiert, das Roboterlösungen in Krankenhäuser bringt. Warum sollten Pflegekräfte Betten hin und her schieben? Das ist verlorene Zeit, das kann ein Roboter machen, und die Pflegekräfte können sich auf ihre eigentliche Aufgabe konzentrieren. Wenn wir das nicht tun, drohen erhebliche Wohlstandsverluste.
DARK FACTORY NUR, WO SIE SICH RECHNETIn den Fabriken sind heute ohnehin kaum noch Menschen. Wenn dort noch ein paar Leute unterwegs sind und ich extrem viel investieren muss, damit gar niemand mehr da ist, muss ich das erst einmal rechnen. Es gibt Anwendungsfälle, in denen sich das lohnt. Aber wir brauchen nicht an jeder Stelle eine Dark Factory. |
Oft kommen Unternehmen zu mir und sagen, sie wollen KI machen. Dann frage ich, was genau. Die Antwort ist häufig: Wir haben ein Datenset, damit wollen wir KI machen, und die KI soll herausfinden, was man damit machen kann. So funktioniert es ausdrücklich nicht. Ich brauche ein klares Ziel, einen Anwendungsfall, ein unternehmerisches Ziel. KI ist sinnvoll, aber KI ist nicht die Lösung für alle Probleme. Also immer mit konkreten Anwendungsfällen kommen und diese möglichst einfach lösen.
Es gibt Studien, die sagen, 90 bis 95 Prozent aller KI-Projekte scheitern. Das hat oft damit zu tun, dass gar kein echter Anwendungsfall bearbeitet wird, sondern Luftschlösser gebaut werden. Wenn man mit den richtigen Leuten zusammenarbeitet, sind Erfolgsquoten von über 90 Prozent erreichbar, sofern die Voraussetzungen passen. Wenn keine Daten vorhanden sind, kann ich daraus schlecht lernen.
Ganz wichtig: immer zuerst die menschliche Intelligenz, dann die künstliche.
Prof. Dr. Patrick Glauner, TH Deggendorf
Die Gefahr ist, dass es immer mehr Digitalregulierung wird, und diese ist untereinander nicht harmonisiert, teils widersprüchlich. Vorhaben wie die geplante Chatkontrolle sehe ich kritisch. Es gab mit der Omnibus-Gesetzgebung auf europäischer Ebene den Versuch, zu entschlacken. Ursprünglich wollte man deutlich vereinfachen, am Ende wurden es einzelne Detailverbesserungen. Da müssen wir hin: vereinfachen, reduzieren, harmonisieren, Widersprüche entfernen und Innovation an die vorderste Stelle setzen.
Ein Beispiel, das gut funktioniert, ist die Hightech-Agenda in Bayern. Dort sind 1.000 neue Hightech-Professuren entstanden. Zum Vergleich: Als die Agenda 2018 und 2019 angekündigt wurde, gab es an allen staatlichen Hochschulen und Universitäten in Bayern rund 7.000 Professuren für alle Studienfächer zusammen. Dazu sind Transferzentren entstanden, mit enger Zusammenarbeit mit Unternehmen. So etwas sollte die EU-Kommission für ganz Europa wiederholen. Auf Bundesebene gibt es Versuche, diesen Ansatz zu übertragen. Das halte ich für einen Schritt in die richtige Richtung.
Was ich in der Politik dagegen oft sehe: KI wird als Nischenthema behandelt. Am Ende zielt KI darauf ab, menschliches Entscheidungsverhalten zu unterstützen oder zu automatisieren, und das betrifft alle Ministerien und alle Teile der Gesellschaft. Dieser größere Blick wäre sehr hilfreich.
Die vollständige Folge mit allen Details zum AI Act, zur Arbeit der Cyberagentur und zur Frage, wo Deutschland in zehn Jahren steht, hören Sie in unserem Podcast Systemblick. Wie sich Kennzahlen und Prozessdaten in der Produktion systematisch nutzbar machen lassen, zeigt unsere Lösung für Prozessdatenmanagement sowie der Beitrag zur Anomalieerkennung.
Der AI Act, auf Deutsch KI-Verordnung, soll vertrauenswürdige KI-Systeme in Europa sicherstellen. Er ordnet Anwendungsfälle in Risikoebenen ein und knüpft an jede Risikoebene unterschiedliche Auflagen. Kritisiert wird vor allem der Umfang von mehreren Hundert Seiten sowie die Schwierigkeit, einen konkreten Anwendungsfall im Einzelfall eindeutig einer Risikoklasse zuzuordnen.
Mittelständische Unternehmen müssen jeden KI-Anwendungsfall einordnen und eine Risikoanalyse durchführen, auch für bereits bestehende Anwendungen. Erschwerend kommt hinzu, dass der AI Act sehr breit definiert, was als KI gilt. Daraus entsteht zusätzlicher Dokumentations- und Beratungsaufwand, der im internationalen Wettbewerb keinen Mehrwert schafft.
Manche leiten aus dem AI Act eine KI-Weiterbildungspflicht ab. Ob eine solche Pflicht tatsächlich in dieser Form besteht, ist unklar und hängt von der Lesart ab. Unabhängig davon ist es sinnvoll, dass Beschäftigte Grundkenntnisse zu KI aufbauen, bevor Anwendungsfälle produktiv gehen.
Im AI Competitiveness Index, der Faktoren wie Anzahl der Unternehmen, Forschung, Innovation, Finanzen und wirtschaftlichen Impact aggregiert, liegt Deutschland auf Platz 5 weltweit. Vor Deutschland liegen unter anderem die USA, China und das Vereinigte Königreich.
Studien zufolge scheitern 90 bis 95 Prozent aller KI-Projekte. Die häufigste Ursache ist ein fehlender Anwendungsfall: Es wird von den Daten aus gedacht statt von einem unternehmerischen Ziel. Mit klar definiertem Anwendungsfall, verfügbaren Daten und erfahrenen Beteiligten sind Erfolgsquoten von über 90 Prozent erreichbar.