Economics of AGI: Warum Verifikation der wahre Engpass der KI-Ära ist

Ein bahnbrechendes Research Paper von Forschern am MIT, der Washington University und der UCLA stellt die gängigen Wirtschaftsmodelle für KI auf den Kopf. Statt KI als bloßen Arbeitsersatz zu betrachten, argumentieren Christian Catalini, Xiang Hui und Jane Wu, dass der eigentliche Engpass der AGI-Ära nicht Intelligenz ist – sondern menschliche Verifikationskapazität.

Die zentrale These: Verifikation als neuer Engpass

Das Paper „Some Simple Economics of AGI" modelliert den Übergang zu AGI als Kollision zweier Kostenkurven:

• Cost to Automate (cA): Sinkt exponentiell durch wachsende Rechenleistung und akkumuliertes Wissen
• Cost to Verify (cH): Bleibt biologisch begrenzt durch menschliche Zeit, Kognition und Erfahrung

Diese strukturelle Asymmetrie erzeugt eine wachsende Measurability Gap (∆m) – die Kluft zwischen dem, was KI-Agenten autonom ausführen können, und dem, was Menschen tatsächlich überprüfen können. Genau diese Lücke bestimmt den „verifiable share" der Wirtschaft und damit, wie viel agentisches Output wirklich produktiv ist.

Warum „Human-in-the-Loop" instabil ist

Die Autoren identifizieren zwei Kräfte, die das aktuelle Gleichgewicht untergaben:

The Missing Junior Loop

Wenn KI Einstiegsjobs automatisiert, bricht die klassische Lehrlingspipeline zusammen. Nachwuchskräfte sammeln keine praktische Erfahrung mehr – doch genau diese Erfahrung wird für die Verifikation komplexer KI-Outputs benötigt. Die Zukunft hat weniger qualifizierte Verifizierer, obwohl der Bedarf an Oversight exponentiell wächst.

The Codifier's Curse

Senior-Experten rationalisieren ihre eigene Obsoleszenz. Sie kodifizieren ihr Fachwissen als Trainingsdaten und proprietäres Ground Truth – und schaffen damit die Grundlage für ihre Ersetzung durch KI-Systeme.

Die vier Zonen der Wirtschaft

Das Framework teilt die Ökonomie in vier Regime:

Die gefährlichste Zone: Runaway Risk – hier ist Automatisierung quasi kostenlos, aber Verifikation praktisch unmöglich. Unternehmen deployen trotzdem, weil der Wettbewerbsdruck es verlangt.

Die „Trojan Horse"-Externalität

Das Paper beschreibt eine systemische Gefahr: Wenn ungeprüfte KI-Agenten im großen Stil eingesetzt werden, entsteht eine „Trojan Horse"-Externalität (XA). Die Outputs sehen gut aus, erfüllen messbare KPIs – aber verfehlen die eigentliche menschliche Intention. Das Ergebnis: eine „Hollow Economy" mit explosivem nominalem Output, aber erodierender realer Wertschöpfung.

Besonders brisant: Die Versuchung, KI durch KI zu verifizieren, erzeugt laut den Autoren nur künstliches Vertrauen. Weil Agent und Auditor dieselben blinden Flecken teilen, propagieren korrelierte Fehler – das System zertifiziert sich selbst.

Was das für Marketing-Teams bedeutet

Die Implikationen für Marketing und Business sind weitreichend:

1. Verification Infrastructure als Wettbewerbsvorteil

Unternehmen, die robuste Verifikationssysteme aufbauen, gewinnen einen nachhaltigen Moat. Das bedeutet: Investitionen in Observability, Ground-Truth-Daten und menschliche Oversight-Kapazität sind keine Compliance-Kosten – sie sind strategische Produktionstechnologie.

2. Die „Sandwich"-Topologie

Das Paper empfiehlt eine organisatorische Neuausrichtung: Human Intent → Machine Execution → Human Verification. Für Marketing heißt das: Strategische Ziele und Markenintention definieren Menschen, KI-Agenten führen aus, und Menschen validieren die Ergebnisse gegen die ursprüngliche Absicht.

3. Von Software-as-a-Service zu Software-as-Labor

Das dominante Geschäftsmodell verschiebt sich: Statt Software-Zugang zu monetarisieren, wird die Monetarisierung von Outcomes zentral. Firmen werden nach ihrer Fähigkeit bewertet, Risiken autonomer Outputs zu absorbieren – „Liability-as-a-Service".

4. Measurability-Biased Technical Change

Wirtschaftliche Renten fließen künftig nicht mehr primär an die bestausgebildeten Fachkräfte, sondern an diejenigen, die in unmessbaren Domänen operieren oder bereit sind, die Haftung für maschinelle Outputs zu übernehmen.

Was Unternehmen jetzt tun sollten

Die Autoren empfehlen eine klare Agenda:

• Observability ausbauen: Tools deployen, die hochdimensionales Agentenverhalten in überprüfbare Signale komprimieren
• Ground Truth schützen: Proprietäre Verifikationsdaten als strategisches Asset behandeln
• Talent Pipeline sichern: Durch „Synthetic Practice" (KI-gestütztes Training) die Missing Junior Loop überbrücken
• Graceful Degradation: Systeme so designen, dass sie bei mangelnder Oversight auf sichere Basismodi zurückfallen

Fazit: Verifikation skalieren, nicht nur Automatisierung

Das Paper von Catalini, Hui und Wu liefert einen der durchdachtesten Frameworks für die AGI-Transition. Die Kernbotschaft ist klar: Wer nur Automatisierung skaliert ohne gleichzeitig Verifikationskapazität aufzubauen, riskiert eine Hollow Economy – eine Wirtschaft, die auf dem Papier boomt, aber in der Realität an Substanz verliert.

Für Marketing-Entscheider bedeutet das: Die nächste Welle der KI-Adoption wird nicht durch bessere Modelle entschieden, sondern durch die Fähigkeit, deren Output verlässlich zu steuern, zu überprüfen und zu verantworten.

---

📄 Original-Paper: Some Simple Economics of AGI – Christian Catalini (MIT), Xiang Hui (WashU), Jane Wu (UCLA), Februar 2026. Kostenlos auf arXiv verfügbar.