Warum ist generative KI eine Ingenieurskatastrophe? Das Problem mit Skalierung und Kosten erklärt
Der Satz generative KI ist eine Ingenieurskatastrophe wurde nach einem Artikel im "The Atlantic" im Juli 2026 populär, der argumentierte, dass die Industrie eine ressourcenhungrige Technologie entwickelt hat, deren Kosten mit zunehmender Skalierung nicht so stark sinken wie bei traditioneller Software. Die Überschrift ist bewusst provokativ, deutet aber auf eine ernste Frage hin: Können Systeme, die jede Antwort in Echtzeit generieren, schnell genug billiger, zuverlässiger und nachhaltiger werden, um ihre massive Infrastruktur zu rechtfertigen?
Die stärkste Version der Kritik besagt nicht, dass große Sprachmodelle niemals funktionieren. Es geht darum, dass ihre Wirtschaftlichkeit strukturell umständlich sein kann: Mehr Benutzer zu bedienen bedeutet, mehr Tokens zu verarbeiten, längere Kontexte verbrauchen mehr Speicher, Trainingsläufe an der Grenze des Möglichen werden immer größer und unvollständige Ausgaben erfordern immer noch Überprüfung. Gleichzeitig kann das Label "Katastrophe" irreführend sein, da Preise für Inferenz, Hardwareeffizienz und die Leistung kleinerer Modelle dramatisch verbessert wurden.
Quelle: Foto von Brett Sayles / Pexels
Wichtige Erkenntnisse
- Die Kritik bezieht sich hauptsächlich auf die Kosteneinheiten. Ein generatives Modell muss für jede Anfrage eine neue Berechnung durchführen, anstatt nur eine zuvor gespeicherte Seite oder Datei zurückzugeben.
- Es gibt zwei verschiedene Skalierungsprobleme. Eines betrifft die Kosten für die Bedienung von mehr Benutzern; das andere betrifft die wachsende Rechenleistung, die zur Weiterentwicklung der Modellfähigkeiten erforderlich ist.
- Langer Kontext und Schlussfolgerungen können die Kosten vervielfachen. Mehr Eingabetokens erhöhen die Aufmerksamkeit und die Speicherarbeit, während längere generierte Schlussfolgerungen zusätzliche Inferenzschritte hinzufügen.
- Physische Infrastruktur ist wichtig. Chips, Hochbandbreitenspeicher, Netzwerke, Kühlung, Strom und Netzanschlüsse sind Teil des Produkts, keine unsichtbaren Hintergrunddetails.
- Der Gegentrend ist real. Die Kosten für das Erreichen eines festen Niveaus der Modellleistung sind aufgrund besserer Chips, Algorithmen, Quantisierung, dünner Modelle und Serving-Software stark gesunken.
- Das praktische Urteil hängt vom Wert pro Ergebnis ab. Generative KI ist verschwenderisch, wenn ein teures Modell wahllos eingesetzt wird, aber sie kann rational sein, wenn sie genug Arbeit, Verzögerung oder Fehler ersetzt, um die vollen Kosten zu rechtfertigen.
Was bedeutet "generative KI ist eine Ingenieurskatastrophe" eigentlich?
In dieser Debatte bedeutet "Ingenieurskatastrophe" nicht, dass ChatGPT, Claude, Gemini oder Open-Source-Modelle universell fehlerhaft sind. Es beschreibt eine mögliche Diskrepanz zwischen der Produkterfahrung und der benötigten Maschinerie, um sie zu liefern. Die Benutzeroberfläche fühlt sich leicht an: Geben Sie eine Frage ein und erhalten Sie eine Antwort. Hinter dieser Interaktion kann jedoch ein großes Modell Tausende von Eingabetokens lesen, Modellgewichte und zwischengespeicherten Kontext durch den Speicher des Beschleunigers bewegen, das nächste Token berechnen und diesen Prozess wiederholen, bis die Antwort vollständig ist.
Traditionelle Internetunternehmen werden oft profitabler, wenn sie wachsen, da die festen Entwicklungskosten auf mehr Kunden verteilt werden und die Grenzkosten für eine weitere Seitenaufrufung winzig werden. Generative KI hat ebenfalls Fixkosten, aber auch sinnvolle variable Kosten. Jede zusätzliche Konversation verbraucht Beschleunigerzeit, Speicherbandbreite und Strom. Stapelverarbeitung, Zwischenspeicherung und optimierte Kernel können diese Kosten senken, aber sie machen die ursprüngliche Generierung nicht kostenlos.
| Skalierungsdruck | Warum es teuer werden kann | Wichtige Einschränkung |
|---|---|---|
| Mehr Benutzer | Mehr Prompts und generierte Tokens erfordern mehr Inferenzkapazität. | Stapelverarbeitung und höhere Auslastung können die Kosten pro Token senken. |
| # FEHLER: Quelltext für ID 'text_035' wurde nicht gefunden. | Mehr aktive Parameter erhöhen im Allgemeinen die Speicherbewegung und die Berechnung. | Mixture-of-Experts-Modelle aktivieren nur einen Teil des Netzwerks für jeden Token. |
| Längerer Kontext | Prompt-Verarbeitung und der Key-Value-Cache wachsen mit der Konversationslänge. | FlashAttention, sparse Attention und Cache-Kompression reduzieren die Belastung. |
| Mehr Schlussfolgerung | Zusätzliche generierte Schritte erhöhen Latenz und Token-Verbrauch. | Zusätzliche Rechenleistung kann sich lohnen, wenn sie die Genauigkeit bei schwierigen Aufgaben maßgeblich verbessert. |
| Frontier Training | Größere Cluster, längere Läufe und umfangreiche Experimente erfordern erhebliche Investitionen. | Bessere Daten und rechenoptimiertes Training können das einfache Parameterwachstum übertreffen. |
| Unzuverlässige Ausgabe | Halluzinationen und inkonsistentes Verhalten verursachen Kosten für Überprüfung, Tests und Korrekturen. | Abruf, eingeschränkte Workflows und menschliche Genehmigung können die Zuverlässigkeit verbessern. |
Quelle: pexels.com
Generative KI ist nicht nur ein Modellproblem. Produktionssysteme erfordern auch Kapazitätsplanung, Überwachung, Failover, Sicherheit, Warteschlangen und sorgfältige Kontrolle von Latenz und Auslastung.
Das erste Skalierungsproblem: Jede Antwort zu bedienen kostet echte Rechenleistung
Eine Suchmaschine, eine Streaming-Plattform oder ein soziales Netzwerk betreiben ebenfalls teure Rechenzentren, sodass variable Kosten allein generative KI nicht einzigartig machen. Der Unterschied liegt in der Menge der frischen Berechnung, die mit jeder personalisierten Antwort verbunden ist. Ein zwischengespeicherter Artikel kann Millionen von Lesern mit begrenzter zusätzlicher Verarbeitung geliefert werden. Ein Sprachmodell erstellt normalerweise für jeden Benutzer eine neue Sequenz, ein Token nach dem anderen.
Die Produktionsinferenz hat zwei Hauptphasen. Während des Prefill, , verarbeitet das Modell den Eingabe-Prompt und baut einen internen Cache auf. Während der Dekodierung, , generiert es sequenziell Ausgaben, wobei es wiederholt die Modellgewichte und den Key-Value-Cache verwendet. Deshalb können lange Prompts, große Modelle, hohe Nebenläufigkeit und lange Antworten die Kosten erhöhen. Deshalb kann ein KI-Agent, der Dutzende von Modellaufrufen tätigt, weitaus teurer sein als die einzelne Chat-Anfrage, die für den Benutzer sichtbar ist.
Die relevante Kennzahl ist daher nicht nur "Preis pro Million Tokens". Ein billigerer Token kann immer noch eine höhere Rechnung erzeugen, wenn Produkte mehr Tokens generieren, mehr Dokumente anhängen, längere Denkketten ausführen oder einen KI-Assistenten in jede Anwendung integrieren. Dieser Rebound-Effekt ist ein Grund, warum die Gesamtnachfrage nach Infrastruktur steigen kann, auch wenn die Stückpreise fallen.
Das zweite Skalierungsproblem: Fähigkeitsgewinne haben abnehmende Erträge
Neuronale Skalierungsgesetze zeigen, dass der Verlust von Sprachmodellen tendenziell vorhersagbar ansteigt, wenn Modellgröße, Trainingsdaten und Rechenleistung zunehmen. Diese Vorhersagbarkeit trug zur Schaffung der modernen Frontier-Modellstrategie bei: Mehr Rechenleistung investieren und bessere Leistung erwarten. Aber eine Potenzgesetzbeziehung impliziert auch abnehmende Erträge. Um den verbleibenden Fehler weiter zu reduzieren, können überproportional größere Ressourcen erforderlich sein.
Das bedeutet nicht, dass jedes neue Modell einfach mehr Parameter enthalten muss. Die Chinchilla-Arbeit von Google DeepMind zeigte, dass ein Modell mit 70 Milliarden Parametern, das mit einer rechenoptimierteren Balance aus Daten und Modellgröße trainiert wurde, das Gopher-Modell mit 280 Milliarden Parametern bei gleichem Trainings-Compute-Budget übertreffen konnte. Die Lektion ist wichtig: Brutales Parameterwachstum kann verschwenderisch sein, und Datenqualität, Trainingsdauer, Architektur und die Strategie nach dem Training spielen eine Rolle.
Quelle: pexels.com
Der Fortschritt von Frontier-Modellen hängt von großen Beschleunigerclustern ab, die als ein System arbeiten. Kommunikation, Speicherzugriff und Fehlerbehandlung können genauso wichtig werden wie reine Rechenleistung.
Die Trainingskosten erstrecken sich auch über den erfolgreichen Endlauf hinaus. Modellentwickler führen Experimente, Datenaufbereitung, Ablationsstudien, Sicherheitstests und fehlerhafte Läufe durch. Selbst wenn die Öffentlichkeit eine Modellveröffentlichung sieht, kann das zugrunde liegende Forschungsprogramm weitaus mehr Rechenleistung verbrauchen als der reine Trainingslauf.
Skaliert eine LLM wirklich quadratisch?
Die virale Kritik besagt oft, dass "große Sprachmodelle quadratisch skalieren". Diese Aussage ist teilweise korrekt, aber zu breit, wenn sie auf einen gesamten KI-Dienst angewendet wird. In der ursprünglichen Transformer-Architektur hat die Standard-Full-Self-Attention eine Rechenkomplexität pro Schicht von ungefähr O(n² × d), wobei n die Sequenzlänge und d die Darstellungdimension ist. Eine Verdoppelung der Eingabelänge kann daher den Aufmerksamkeitsanteil der Prompt-Verarbeitung erheblich teurer machen.
Eine eingesetzte LLM ist jedoch kein undifferenzierter quadratischer Algorithmus. Autoregressives Decoding verwendet einen Key-Value-Cache, sodass frühere Zustände nicht für jedes neue Token von Grund auf neu berechnet werden müssen. Modellgewichts-Zugriff, Speicherbandbreite, Stapelgröße und Cache-Kapazität können die Leistung dominieren. Moderne Systeme verwenden auch FlashAttention, Grouped-Query Attention, Sparse Attention, Quantisierung und Cache-Management-Techniken, um den Speicherverkehr zu reduzieren und den Durchsatz zu verbessern.
Die genaue Schlussfolgerung ist enger gefasst: Langer Kontext bleibt eine ernsthafte Systemherausforderung, insbesondere bei der Prompt-Verarbeitung und bei hoher Nebenläufigkeit, aber "das gesamte Modell kostet immer n²" ist keine vollständige Beschreibung der Produktionsinferenz.
Quelle: pexels.com
Im großen Maßstab hängt die KI-Performance von der effizienten Datenübertragung zwischen Beschleunigern, Speicher und Netzwerkverbindungen ab. Eine Engstelle in einer beliebigen Schicht kann dazu führen, dass teure Hardware ungenutzt bleibt.
Warum Strom, Speicher und Rechenzentren Teil des Kostenproblems sind
Die Kostenstruktur von generativer KI ist physisch. Fortschrittliche Beschleuniger erfordern Hochbandbreitenspeicher, schnelle Interconnects und erhebliche Kühlung. Rechenzentren benötigen Netzanschlüsse, Backup-Systeme, Grundstücke, Bauarbeiten und lange Beschaffungszyklen. Wenn die Nachfrage schneller steigt, als Chips, Stromerzeugung oder Übertragungskapazität hinzugefügt werden können, entstehen lokale Engpässe.
Die Internationale Energieagentur schätzte, dass Rechenzentren im Jahr 2024 etwa 415 Terawattstunden Strom verbrauchten, rund 1,5 % des globalen Stromverbrauchs. Ihr Basisszenario prognostiziert für 2030 etwa 945 TWh. Die IEA erwartet außerdem, dass beschleunigte Server, die weitgehend durch KI-Adoption angetrieben werden, bis 2030 fast die Hälfte des Nettozuwachses des globalen Strombedarfs von Rechenzentren ausmachen werden.
Weltweit bleibt dieser Anteil kleiner als in wichtigen Sektoren wie Industrie, Transport oder Gebäude. Lokal kann die konzentrierte Nachfrage nach Rechenzentren jedoch schwierige Netz- und Genehmigungsprobleme verursachen. Eine nützliche Ergänzung ist Zerlos umfassendere Analyse der KI-Energiebedarf, Infrastrukturkosten und Investitionen.
Quelle: pexels.com
Große KI-Bereitstellungen erfordern eine kontinuierliche operative Überwachung. Kapazität, Strom, Fehler, Latenz und Arbeitslastbedarf müssen in Echtzeit ausgeglichen werden, anstatt als einmalige Kosten für Software behandelt zu werden.
Warum die Behauptung "Ingenieurskatastrophe" unvollständig ist
Das stärkste Gegenargument ist die Geschwindigkeit der Effizienzsteigerung. Der AI Index 2025 von Stanford berichtete, dass die Inferenzkosten eines Systems auf dem Niveau von GPT-3.5 zwischen November 2022 und Oktober 2024 um mehr als das 280-fache gesunken sind. Derselbe Bericht zitierte jährliche Rückgänge von etwa 30 % bei den Hardwarekosten und jährliche Energieeffizienzverbesserungen von etwa 40 %.
Diese Gewinne stammen aus mehreren Ingenieurschichten:
- Bessere Beschleuniger: mehr Rechenleistung und Speicherbandbreite pro Watt.
- Quantisierung: niedrigere Präzisionsgewichte und Caches reduzieren den Speicherverbrauch und beschleunigen die Inferenz.
- Destillation: kleinere Modelle lernen nützliches Verhalten von größeren Systemen.
- Mixture of Experts: nur ein Teil der Parameter wird für jeden Token aktiviert.
- Serving-Optimierung: kontinuierliche Stapelverarbeitung, Präfix-Zwischenspeicherung und spekulative Dekodierung verbessern die Auslastung.
- Aufgabenweiterleitung: einfache Anfragen können an kleine Modelle gehen, während schwierige Aufgaben teure Modelle nutzen.
- Abruf und Tools: ein Modell kann eine fokussierte Wissensquelle konsultieren, anstatt sich nur auf größere Parameteranzahlen zu verlassen.
Deshalb ist es falsch anzunehmen, dass die heutige Kostenkurve dauerhaft ist. Das Hauptrisiko besteht darin, dass die Nachfrage schneller wachsen kann als die Effizienz. Wenn jeder Modellaufruf zehnmal billiger wird, ein Produkt aber hundertmal so viele Aufrufe tätigt, steigen die Gesamtkosten und der Energieverbrauch immer noch.
Wann generative KI wirklich zu einer Ingenieurskatastrophe wird
Das Label wird fair, wenn ein Unternehmen generative KI übernimmt, ohne ihre Einschränkungen zu berücksichtigen. Häufige Fehlermuster umfassen:
- Verwendung des größten Modells für jede Aufgabe. Klassifizierung, Extraktion und Weiterleitung funktionieren oft auch mit viel kleineren Systemen.
- Senden von übermäßigem Kontext. Das Einbringen ganzer Dokumentenspeicher in Prompts erhöht die Latenz und die Kosten, während manchmal die Antwortqualität sinkt.
- Zulassen von unbegrenzten Agenten-Schleifen. Autonome Wiederholungsversuche und Tool-Aufrufe können große Token-Budgets verbrauchen, ohne ein nützliches Ergebnis zu erzielen.
- Ignorieren von zwischenspeicherbarer Arbeit. Wiederholte Anweisungen, Dokumente und deterministische Ausgaben sollten nicht immer neu berechnet werden.
- Messen von Tokens statt von Ergebnissen. Geringe API-Preise sind bedeutungslos, wenn das System oft fehlschlägt und Menschen die Arbeit neu machen müssen.
- Überspringen des Zuverlässigkeits-Engineerings.
- Annahme, dass KI einen vollständigen Workflow ersetzt. Integration, Überprüfung, Fehlerbehandlung und Wartung können die Kosten des Modellaufrufs selbst übersteigen.
Dies ähnelt der breiteren Frage nach dem Aufbau nachhaltiger KI-Geschäftsmodelle durch Unternehmen: Das relevante Maß ist nicht, ob eine Demo beeindruckend aussieht, sondern ob das vollständige System mehr Wert erzeugt, als es verbraucht.
Wie man generative KI baut, ohne die schlimmsten Kostenprobleme zu erben
| Praktische Umsetzung | Was zu messen ist | Warum es wichtig ist |
|---|---|---|
| Setzen Sie ein Budget pro erfolgreichem Task | Gesamtkosten für Modell, Infrastruktur und Überprüfung | Verhindert, dass günstige Tokens teure fehlerhafte Workflows verbergen. |
| Weiterleiten nach Schwierigkeitsgrad | Erfolgsrate nach Modell-Tier | Reserviert Frontier-Modelle für Anfragen, die sie wirklich benötigen. |
| Kontext kontrollieren | Eingabetokens, Abrufpräzision und Latenz | Reduziert unnötige Aufmerksamkeit und Wachstum des Key-Value-Caches. |
| Agentenschritte begrenzen | Tool-Aufrufe, Wiederholungsversuche und Abschlussrate | Verhindert unkontrollierte Schleifen und macht Kosten vorhersehbar. |
| Wiederholte Arbeit cachen | Cache-Hit-Rate und vermiedene Tokens | Wandelt einige generative Arbeitslasten in konventionelle Serving-Arbeitslasten um. |
| Abstention designen | Fehlalaramrate und Eskalationsqualität | Reduziert die versteckten Kosten von plausiblen, aber falschen Antworten. |
| Vergleich mit einer Nicht-KI-Baseline | Zeit, Qualität und Kosten im Vergleich zum bestehenden Prozess | Zeigt, ob KI ein echtes Problem löst oder Komplexität hinzufügt. |
Kleinere und lokale Modelle können auch nützlich sein, wenn Arbeitslasten vorhersehbar sind, Datenschutz wichtig ist oder API-Abhängigkeit unerwünscht ist. Sie eliminieren keine Hardwarekosten, können aber die Kapazitäts- und Datenverwaltung einfacher steuerbar machen. Zerlos Leitfaden für die besten lokalen LLMs für Offline-Schreiben erklärt den Kompromiss zwischen Modellgröße, Speicheranforderungen und praktischer Fähigkeit.
FAQ
Warum sagen Leute, generative KI sei eine Ingenieurskatastrophe?
Der Begriff wurde nach einem Artikel im "The Atlantic" im Juli 2026 populär, der argumentierte, dass generative KI schlechte Skaleneffekte, schnell wachsende Infrastrukturanforderungen und abnehmende Erträge größerer Modelle kombiniert. Es ist eine kritische Interpretation, kein etablierter technischer Konsens.
Wird generative KI teurer, wenn sie mehr Nutzer gewinnt?
Die Gesamtkosten steigen normalerweise mit der Nutzung, da jeder Prompt und jeder generierte Token Rechenleistung erfordert. Die Kosten pro Anfrage können durch Stapelverarbeitung, bessere Hardware, optimierte Software und kleinere Modelle immer noch sinken. Die wichtige Frage ist also, ob die Effizienz schneller steigt als die Nachfrage wächst.
Sind große Sprachmodelle wirklich O(n²)?
Die Standard-Full-Self-Attention hat eine quadratische Rechenkomplexität in Bezug auf die Sequenzlänge während der Aufmerksamkeitsberechnung, was besonders für die Prompt-Verarbeitung relevant ist. Die Produktionsinferenz nutzt auch Key-Value-Caching und viele Optimierungen, sodass die Beschreibung des gesamten LLM-Dienstes als einfach O(n²) eine Vereinfachung darstellt.
Warum kostet ein längeres Kontextfenster einer KI mehr?
Das Modell muss mehr Eingabetokens verarbeiten und mehr zwischengespeicherte Aufmerksamkeitszustände aufrechterhalten. Langer Kontext kann die Prompt-Latenz, den Speicherverbrauch und die Anzahl gleichzeitiger Anfragen, die auf einen Beschleuniger passen, erhöhen. Sparse Attention, Kompression und besseres Cache-Management können die Auswirkungen reduzieren.
Fallen die Kosten für KI-Inferenz oder steigen sie?
Beide Aussagen können zutreffen. Die Kosten für das Erreichen einer festen Fähigkeit sind schnell gesunken, aber die Gesamtausgaben können steigen, da Nutzung, Kontextlänge, Schlussfolgerungstokens und Agentenaufrufe noch schneller wachsen. Kosten pro Einheit und Gesamtsystemkosten müssen getrennt gemessen werden.
Können kleinere KI-Modelle das Skalierungsproblem lösen?
Sie können einen Teil davon lösen. Kleine Modelle sind billiger, schneller und einfacher zu implementieren, und viele Geschäftsanforderungen erfordern keine Spitzenleistung. Schwierige Schlussfolgerungen, breites Wissen oder komplexe multimodale Arbeit können immer noch ein größeres Modell rechtfertigen, weshalb die Weiterleitung zwischen verschiedenen Modellstufen oft effizienter ist, als ein einziges Modell für alles zu wählen.
Ist generative KI wirtschaftlich nicht nachhaltig?
Nicht unbedingt. Nachhaltigkeit hängt vom Wert ab, der pro erfolgreichem Ergebnis erzeugt wird, vom Tempo der Effizienzsteigerungen, von den Preisen, der Auslastung und den Infrastrukturkosten. Ein sorgfältig abgegrenzter Workflow kann profitabel sein, während ein unbegrenzter Agent oder eine wahllos eingesetzte KI-Funktion ihre eigene Wirtschaftlichkeit zerstören kann.
Fazit
Die Bezeichnung "Ingenieurskatastrophe" für generative KI fängt eine reale Warnung ein: Die Technologie kann enorme Kosten für Rechenleistung, Speicher, Strom und Verifizierung hinter einer einfachen Benutzeroberfläche verbergen. Mehr Benutzer zu bedienen ist nicht kostenlos, langer Kontext ist teuer, und Fortschritte an der Spitze können schnell steigende Ressourcen für kleinere Gewinne erfordern.
Aber die Schlagzeile erzählt nicht die ganze Geschichte. Die Inferenzkosten für feste Fähigkeiten sind abgestürzt, Architekturen werden sparsamer, kleinere Modelle verbessern sich, und die Produktionssoftware lernt, teure Rechenleistung selektiver zu nutzen. Generative KI wird zu einer Katastrophe, wenn Organisationen sie als grenzenlose Magie behandeln. Sie wird zu einem technischen System, wenn sie jedes Ergebnis budgetieren, Arbeitslasten intelligent weiterleiten, Kontext und Agenten einschränken und das Ergebnis ehrlich mit einer billigeren Nicht-KI-Alternative vergleichen.