Direkt zum Inhalt

KI als Ingenieur: Die Blackbox rechnet vor

Eigenständig berechnen KI-Agenten komplexe Strömungen oder entdecken neue Materialien. Doch bleibt die Grundlagenforschung dabei auf der Strecke? Und was passiert, wenn die KI Fehler macht?
Eine Konturenkarte zeigt den Luftstrom um ein Profil. Links fließen gleichmäßige, parallel verlaufende Linien in Grün- und Gelbtönen, die den ungestörten Luftstrom darstellen. Rechts wird der Luftstrom durch das Profil gestört, was zu Wirbeln und Turbulenzen in Blautönen führt. Die Abbildung veranschaulicht die aerodynamischen Effekte eines Objekts im Luftstrom.
KI-Agenten berechnen nicht nur komplizierte Strömungen, sondern sie können auch beim Bau von Brücken oder Tunneln eingesetzt werden.

Als Xu Chu erkennt, wie zuverlässig sein neuer Assistent arbeitet, erschrickt er. »Mein Team und ich konnten so manche Nacht nicht mehr gut schlafen«, sagt Chu, der als Strömungsmechaniker an der Universität Stuttgart forscht. Sein neuer Assistent ist kein Mensch, sondern eine KI, die selbstständig komplexe technische Probleme löst. Dieser »KI-Ingenieur« sei der erste der Welt, sagt Chu. Inzwischen hat der Forscher eine ganze Plattform für alle möglichen Ingenieurswissenschaften entwickelt – vom Strömungs- bis zum Strukturingenieur – , und jeweils ist KI die treibende Kraft hinter den Berechnungen. Sogar wissenschaftliche Paper und Doktorarbeiten schreibt seine künstliche Intelligenz. Die Ergebnisse seien zwar nicht die besten, aber doch überdurchschnittlich. Das hätten Kollegen bestätigt. »Kein Zweifel: Das ist eine Revolution«, meint Chu. »Wir werden Zugang zu unbegrenzten intellektuellen Ressourcen haben.«

Als OpenAI im November 2022 ChatGPT veröffentlichte, begann für viele eine neue Zeitrechnung. Plötzlich wusste jeder, was KI ist. Und jeder wollte sie für seine Arbeit einsetzen. Auch die Ingenieurbranche beschäftigt sich damit, und der Hype um KI ist bisher nicht abgeflaut. Die einen fürchten sich davor, dass die Technologie Arbeitsplätze vernichten könnte. Andere sehen eine glorreiche Zukunft voraus, in der KI alle großen Menschheitsprobleme lösen wird. Doch sind die Entwicklungen an den Universitäten und in den Unternehmen wirklich so bahnbrechend? Wie verändert sich die Arbeit als Ingenieurin oder als Wissenschaftler? Und hilft uns die KI, oder sollten wir uns Sorgen machen?

Xu Chu stammt aus China und lebt seit rund 20 Jahren in Deutschland. Seit mehr als zehn Jahren befasst er sich mit künstlicher Intelligenz, unter anderem als Leiter eines interdisziplinären Teams an der Universität Stuttgart. Schlüssel zu Chus KI-Ingenieur ist das Zusammenspiel mehrere KI-Agenten – also Softwareprogrammen, die Aufgaben in einem vorgegebenem Rahmen autonom ausführen. Sie planen, treffen Entscheidungen und bedienen sich anderer Softwareprogramme, ohne dass es eines menschlichen Eingriffs bedarf. Und sie passen sich an, um schrittweise komplexe Ziele zu erreichen. Wie traditionelle Chatbots nutzen auch KI-Agenten große Sprachmodelle wie ChatGPT, allerdings reagieren sie nicht einfach auf Anfragen, sondern sie handeln auf eigene Faust.

In Chus erstem KI-Ingenieur lösen vier KI-Agenten Aufgaben aus der Strömungsmechanik. Dabei gehen sie arbeitsteilig vor: Einer interpretiert die Anfrage des Nutzers, ein weiterer formuliert daraufhin Anweisungen für die Berechnung, ein dritter Agent greift auf ein Simulationsprogramm zu und berechnet damit die Strömung, ein vierter erstellt Diagramme und wertet die Ergebnisse aus. Chu setzte seine Assistenten auf unterschiedliche strömungsmechanische Probleme an. Dazu zählten einfache Beispiele wie das einer viskosen Flüssigkeit, die unter einem Druckgefälle durch einen geraden Kanal fließt. Es gab aber auch komplizierte Fälle, etwa mehrphasige Strömungen in porösen Medien, wie sie bei Drainagevorgängen in der Erdöltechnik vorkommen, oder auch turbulente Strömungen in der Aerodynamik eines Motorrads, das mit verschiedenen Geschwindigkeiten unterwegs ist. Teilweise wiederholte Chu die Simulationen bis zu hundertmal. Stets sei das Ergebnis gleich gewesen.

Motorrad im Gegenwind | Bei komplizierten Strömungsproblemen kommen KI-Agenten auch bei hundertfacher Wiederholung zum gleichen Ergebnis.

Für die deutsche Industrie sieht Chu in solchen KI-Agenten eine große Chance – vielleicht auch die letzte, um nach der Produktion nicht auch noch Forschung und Entwicklung nach China oder Indien zu verlieren. Er rechnet vor: »Entweder stellen Sie in Deutschland zehn Ingenieurinnen und Ingenieure ein oder für den gleichen Preis 40 in Indien.« Durch KI sei es nun möglich, diesen Gehaltsunterschied auszugleichen. Dafür müsse ein Ingenieur aus Fleisch und Blut in Deutschland eben mehrere KI-Ingenieure nutzen.

Trotz immer leistungsfähigerer KIs ist Chu überzeugt, dass der Mensch in der Ingenieurstechnik auch in Zukunft zentral bleibt. »Allerdings brauchen wir richtig gute Elite-Ingenieure, denn diese müssen die richtigen Fragen stellen.« Und sie müssen erkennen, ob die Ergebnisse, die die KI ausgibt, richtig oder falsch sind – denn Fehler werde die KI auch in Zukunft machen. Und gerade im Ingenieurwesen ist das ein Problem.

Ohne Fehler geht es nicht

Eine KI, die bei der Auslegung eines Kernkraftwerks oder einer Brücke halluziniert, wäre fatal. Doch das Problem lässt sich vermutlich nicht vollends lösen. »Künstliche Intelligenz ist eine Blackbox und wird es wohl auch immer bleiben«, sagt der Wissenschaftsphilosoph Jan Cornelius Schmidt von der Hochschule Darmstadt. Er hat jahrelang zu neuronalen Netzen und Machine Learning geforscht und will nun wissen, ob und wie KI die Arbeit in den Natur- und Technikwissenschaften verändert.

»Allerdings brauchen wir auch richtig gute Elite-Ingenieure, denn diese müssen die richtigen Fragen stellen«Xu Chu, Strömungsmechaniker

»Künstliche Intelligenz organisiert, lernt und optimiert sich selbst. Aber wie sie das macht, das wissen auch die besten Informatikerinnen und Informatiker nicht«, sagt Schmidt. Deswegen befassen sie sich zunehmend mit Explainable AI, also dem Versuch, hier etwas Licht ins Dunkel zu bringen. Entscheidungen der KI sollen nachvollziehbar – erklärbar – und transparent werden. »Bisher ohne Erfolg.« Schmidt erklärt das Problem an einem Beispiel aus der Autoindustrie: Gewissermaßen sei Explainable AI technisches Reverse Engineering. »Es ist so, als würde man einen BMW nehmen und einfach schauen, aus welchen Teilen das Auto besteht.« Dadurch erfahre man aber nichts über die verwendeten chemischen Substanzen und Legierungen sowie über die Maschinen, die das Auto zusammenbauen.

»Die Fehleranfälligkeit von KI kann man reduzieren«, sagt Schmidt mit Blick auf Bereiche, wo es auf Sicherheit und Präzision ankommt. Hundertprozentige Sicherheit werde es aber nicht geben. »Diese Instabilität ist ein systemimmanentes Problem.«

Der Verein Deutscher Ingenieure (VDI) knüpft den Einsatz von generativer KI deswegen an die Verfügbarkeit von Explainable AI. Solange es diese nicht gebe, dürfe KI nicht in Prozessen angewandt werden, in denen Fehler schwerwiegende Folgen hätten, schreibt der Verein in einer Studie vom Mai 2025. Das soll verhindern, dass Ingenieure das nötige Wissen verlieren, um im Notfall in diese Prozesse eingreifen zu können.

Der VDI unterscheidet im sicherheitsrelevanten Bereich zwischen der Planung und der Umsetzung von Projekten. Brücken, Tunnel und Staudämme zu berechnen, zählt zur Planung. Das Ergebnis, das die KI hier liefert, kann noch tagelang durch Menschen geprüft werden. Daher sei der Einsatz von KI hier verantwortbar. Anders verhält es sich etwa bei Signal- und Bremssystemen in der Bahntechnik oder in der Schifffahrt. Hier würde ein Versagen der KI zu Unfällen führen, denn nur Sekunden, nachdem sie eine vermeintliche Lösung gefunden hat, würde sie schon in den Verkehr eingreifen. Einem Mensch bliebe keine Zeit mehr zur Prüfung.

Wie ein Gespräch zwischen Wissenschaftlern

Francesco Ciucci will das Potenzial von KI in weniger sicherheitskritischen Bereichen nutzen. Der Materialwissenschaftler von der Universität Bayreuth arbeitet an nachhaltigen und langlebigen Batterien. Das langwierige und ressourcenintensive Forschen nach neuen Materialien kürzt er ab, indem er auf künstliche Intelligenz setzt.

»Die Fehleranfälligkeit von KI kann man reduzieren, hundertprozentige Sicherheit gibt es aber nicht«Jan Cornelius Schmidt, Wissenschaftsphilosoph

Gemeinsam mit seinem Team hat Ciucci ein System entwickelt, das ebenfalls aus mehreren KI-Agenten besteht, die mit großen Sprachmodellen arbeiten. Das System analysiert Literatur zu Ciuccis Forschungsfrage und verknüpft sie mit detailliertem Fachwissen aus verschiedenen Fachbereichen. »Das kann man sich wie ein Gespräch zwischen Wissenschaftlern vorstellen«, sagt er. Das System generiert Ideen, gibt Feedback und entscheidet, welche Lösung weiterverfolgt werden soll. Es arbeite also wie ein menschlicher Experte, nur eben viel schneller. »Wenn Menschen recherchieren, dauert es Wochen, bis ein geeignetes Material identifiziert ist. Die KI schafft das in wenigen Stunden.«

Sein KI-System konnte sich bereits in der Praxis beweisen. Es schlug mehrere neue, kostengünstige und umweltfreundliche Elektrolytkomponenten für Zinkbatterien vor. Zugleich bremst Ciucci aber auch die Erwartungen an KI im Bereich der Materialwissenschaften: »Bisher haben wir noch keine großen Durchbrüche gesehen. Einige Forscher haben gute Ergebnisse erzielt, aber wir stehen noch am Anfang.« Die Zukunft sehe jedoch vielversprechend aus. Den größten Vorteil sieht er aktuell bei der Hilfe beim Schreiben von wissenschaftlichen Artikeln. »Das nimmt bisher 50 Prozent meiner Arbeit ein«, sagt Ciucci.

Woher kommt das Grundlagenwissen?

Dazu passt eine Aussage von Wissenschaftsphilosoph Schmidt: »Wahrscheinlich ist die Revolution für die Geistes-, Kultur- und Sozialwissenschaften größer, denn viele der Anwendungsfelder liegen hier im sprachlichen Bereich.« Die Entwicklung von KI sei im Moment mehr evolutionär als revolutionär, anders als es der öffentliche Hype vermuten ließe. An der grundlegenden mathematischen Struktur habe sich in den vergangenen 15 Jahren wenig getan. »Man hat heute halt mehr Leistung und mehr Daten.«

»Einige Forscher haben gute Ergebnisse erzielt, aber wir stehen noch am Anfang«Francesco Ciucci, Materialwissenschaftler

Auf die Frage, ob durch den Einsatz von KI das Verstehen eines Problems in den Hintergrund rücke, sagt Materialwissenschaftler Ciucci: »Wenn man neue Technologien entwickeln will, ist es natürlich ein großer Vorteil, wenn etwas schnell funktioniert. Aber wir dürfen dort nicht stehen bleiben. KI könnte unseren traditionellen Prozess umkehren: Wir finden zuerst die Lösung und arbeiten dann das physikalische Verständnis heraus. Aber das ›Warum‹ zu verstehen bleibt für uns Wissenschaftler unverzichtbar.« Das jedenfalls sei die Einstellung seiner Kollegen in Hongkong, mit denen er früher zusammen an KI geforscht hat.

Als zweischneidig bewertet der Philosoph Schmidt es, Grundlagenforschung durch KI-Methoden zu erweitern. Man könne mit KI teilweise besser prognostizieren, sagt er. »Das gelingt ähnlich gut, wie wenn man ein grundlegendes mathematisches Gesetz erkannt hat.« Trotzdem birgt dieser Ansatz ein Problem: In jenen Disziplinen, die stark anwendungs- und handlungsorientiert sind, entfällt jeder Anreiz, Grundlagenwissen zu erlangen. Bisher beobachtet der Wissenschaftsphilosoph zwar noch nicht, dass Erkenntnis durch Prognose ersetzt wird. Allerdings fürchtet er, dass sich das in Zukunft angesichts knapper Kassen und schwindender Ressourcen ändert. Das wäre fatal, sagt Schmidt. Denn die Grundlagenforschung sei der Grund für eine Vielzahl an Innovationen in den vergangenen 150 Jahren. Sie habe fundamentale Erkenntnisse und verlässliche Erklärungen über Natur, Technik und Gesellschaft geliefert – und so unser modernes Weltbild und unser Selbstverständnis geprägt.

Präzise Baupläne und Konstruktionen

Große Hoffnung setzt die Baubranche in KI, die Ingenieurinnen und Ingenieure entlastet. So bietet das Unternehmen Allplan bereits heute eine KI-basierte Software an, die wiederkehrende Prozesse in der Planung von Bauprojekten automatisiert. Allerdings arbeitet sie bislang weitgehend »Wenn-Dann«-Regeln ab, statt aus Daten zu lernen und selbstständig zu konstruieren.

Im nächsten Schritt integriert das Unternehmen deswegen künstliche neuronale Netze in seine Software, die mit Daten von ausgewählten Kunden trainiert werden und in naher Zukunft ganze Baupläne oder präzise geplante Konstruktionen vorschlagen.

Zwar erzeugt die Software bereits heute automatisiert Pläne, allerdings sind die noch wenig detailliert. Unter anderem fehlen Positionsnummern, Beschriftungen und Maße. Diese zu ergänzen und gut lesbar sowie kollisionsfrei zu platzieren, sei mühsam, sagt Produktmanager Stefan Kaufmann, und umso aufwendiger werde es, wenn der ganze Prozess bei Planänderungen wiederholt werden müsse. Deswegen soll zukünftig die KI diesen Job übernehmen.

Digitale Stadtplanung | Die Baubranche setzt große Hoffnung in KI-Unterstützng, doch die Vielzahl an Normen und Richtlinien, die sich je nach Bereich unterscheiden, erschweren den Einsatz.

Ähnlich verhält es sich beim Erstellen von Detaillösungen. Auch das schafft die Software von Allplan bereits heute weitgehend automatisiert. Allerdings wünschen sich Planer, dass dabei unternehmensspezifisches Wissen berücksichtigt wird. Die KI soll also in Zukunft verstehen, wie ein Ingenieurbüro ein Problem löst und dann Vorschläge anbieten, wenn ähnliche Probleme auftreten.

Hochwertige Datensätze fehlen oft

»Generative KI wird in der Lage sein, ganze Bauwerke zu konstruieren. Die Frage ist nur, wann«, sagt Kaufmann. »Vieles funktioniert bisher nicht zuverlässig genug.« Beim Lesen von Bauplänen stoße die KI zum Beispiel an ihre Grenzen.

Da es dem Bauwesen nach wie vor und trotz Baukrise an Fachkräften fehlt, sieht Kaufmann in KI-Lösungen eine große Chance: »Wenn wir in der Lage sind, viel schneller zu simulieren und mithilfe von KI viel früher verbesserte Vorschläge zu machen, können wir Geld und Material zu sparen.«

KI könnte unseren traditionellen Prozess umkehren: Wir finden zuerst die Lösung und arbeiten dann das physikalische Verständnis heraus

Der Einsatz generativer KI im Bauwesen wird allerdings dadurch erschwert, dass der Markt sehr kleinteilig ist. In jedem Bereich gebe es hunderte unterschiedliche Normen und Richtlinien, sagt Kaufmann. »Berechnet man die Statik eines Bauwerks für einen bestimmten Ort, lässt sie sich nicht auf einen beliebigen anderen Ort übertragen.«

Zudem seien die Datenstrukturen im Bau sehr kompliziert und uneinheitlich. Generative KI-Modelle sind auf hochwertige, einheitlich strukturierte und umfangreiche Trainingsdaten angewiesen. In vielen Ingenieurbereichen sind solche Datensätze noch nicht verfügbar. Auch Wissenschaftsphilosoph Schmidt sieht darin ein zentrales Problem. »Entscheidend ist in Zukunft, ob die KI saubere Daten zur Verfügung hat.«

Strömungsmechaniker Xu Chu tourt trotz solcher Bedenken mit seinen KI-Ingenieuren von Konzern zu Konzern und von Universität zu Universität. Das Interesse sei groß. So war er bereits bei Unternehmen aus dem Maschinenbau, der Optikindustrie, dem Bauwesen und der Automobilindustrie. Sein Ziel ist es, irgendwann einen ganzen Mercedes mit KI zu entwickeln. »Ehrlich gesagt, sind wir davon noch sehr weit entfernt«, sagt Chu. Optimistisch ist er trotzdem. Die Zukunft stellt er sich wie in einem Marvel-Film vor: So wie Tony Stark und seine KI »Jarvis« gemeinsam am Iron-Man-Anzug tüfteln, würden bald Menschen mit einem KI-Wissenschaftler zusammenarbeiten.

WEITERLESEN MIT »SPEKTRUM +«

Im Abo erhalten Sie exklusiven Zugang zu allen Premiumartikeln von »spektrum.de« sowie »Spektrum - Die Woche« als PDF- und App-Ausgabe. Testen Sie 30 Tage uneingeschränkten Zugang zu »Spektrum+« gratis:

Jetzt testen

(Sie müssen Javascript erlauben, um nach der Anmeldung auf diesen Artikel zugreifen zu können)

Schreiben Sie uns!

Wenn Sie inhaltliche Anmerkungen zu diesem Artikel haben, können Sie die Redaktion per E-Mail informieren. Wir lesen Ihre Zuschrift, bitten jedoch um Verständnis, dass wir nicht jede beantworten können.

Partnerinhalte

Bitte erlauben Sie Javascript, um die volle Funktionalität von Spektrum.de zu erhalten.