AI Skalierungsgesetze erklärt: Ist AGI näher, als wir denken?

Der Winkel. AI's Der Aufstieg folgt Gesetzen, die so regelmäßig sind wie jene in der Physik: Mehr Rechenleistung, bessere Algorithmen und mehr Daten bringen vorhersehbare Gewinne, und die Länge der Aufgabe, die ein Spitzenmodell selbstständig erledigen kann, hat sich seit 2023 etwa alle vier Monate verdoppelt.

AGI ist kein Schalter, der sich von heute auf morgen umlegen lässt. Es ist eher eine Treppe, und bei digitalen, klar definierten Aufgaben steigen wir sie schnell hinauf. Bei neuartigen, ergebnisoffenen und physischen Aufgaben ist die Treppe noch steil.

Der Trick

Bitten Sie einen Chatbot, ein Sonett zu schreiben, Ihren Code zu korrigieren oder Ihre Blutwerte zu erklären – und es fühlt sich an wie Magie. Der Trick funktioniert, weil Sie nur die Bühne sehen. Hinter den Kulissen gibt es keinen Zauberer. Dort stehen drei Regler und eine Stromrechnung.

1. Der erste Regler ist „Berechnen“: Er gibt an, wie viele Berechnungen in das Training eines Modells einfließen.
2. Der zweite Aspekt sind die Algorithmen: wie geschickt die einzelnen Berechnungen durchgeführt werden.
3. Der dritte Aspekt sind die Daten: wie viel Text, Code und Videomaterial das Modell zum Lernen nutzt.

Seit 2024 kommt ein vierter Regler hinzu: die Denkzeit, also die Rechenzeit, die ein Modell für die Berechnung benötigt, bevor es eine Antwort gibt. Erhöht man einen beliebigen Regler, steigt die Leistung bemerkenswert vorhersehbar.

Diese Vorhersagbarkeit ist die eigentliche Offenbarung. Isaac Newton lieferte uns Gesetze, die beschreiben, wie sich Dinge bewegen. AI Forscher haben Gesetze gefunden, die beschreiben, wie sich Intelligenz, zumindest die von Maschinen, mit zunehmenden Ressourcen verbessert. Ähnlich wie Newton's Gesetze funktionieren innerhalb ihres Geltungsbereichs einwandfrei, brechen aber an ihren Grenzen. Dieses Werk handelt von beidem: den Gesetzen und ihren Grenzen.

Mojo's Gesetz: das neuronale Skalierungsgesetz

Im Januar 2020 hat ein Team bei OpenAI angeführt von Jared Kaplan zeigte, dass ein Sprachmodell's Der Fehler, sein „Verlust“, nimmt gemäß einem stetigen Potenzgesetz der Rechenleistung ab, die zum Trainieren verwendet wurde. Aufgeschrieben ist es fast enttäuschend einfach:

L(C) = \left(\frac{C_c}{C}\right)^{\alpha_C}, \qquad \alpha_C \approx 0.050

L ist der Verlust, C der Trainingsaufwand und C_c eine Konstante. Der Exponent ist entscheidend. Bei α ≈ 0.05 reduziert eine Verzehnfachung des Trainingsaufwands den Verlust nur um etwa 11 %, da 10 hoch -0.05 ungefähr 0.89 ergibt. Jeder weitere Zehnerschritt führt zu einer ähnlichen, bescheidenen Verbesserung, und zwar so lange, bis ein anderer Faktor an seine Grenzen stößt. Kaplan's Das Team fand übereinstimmende Potenzgesetze für die Modellgröße und die Daten.

Zwei Jahre später korrigierte DeepMind in seiner Chinchilla-Veröffentlichung (Hoffmann et al., März 2022) die Vorgehensweise. Bei einem festen Budget sollten Parameter und Trainingsdaten parallel wachsen, was etwa 20 Trainingsdaten pro Parameter entspricht . Chinchilla, trainiert mit 70 Milliarden Parametern und 1.4 Billionen Trainingsdaten, übertraf ein viermal so großes Modell, das auf derselben Rechenleistung trainiert wurde.

Und die Regler vervielfachen sich. Wenn der Rechenaufwand für das Training fortschrittlicher KI-Modelle etwa um das Fünffache pro Jahr wächst (Epoch AI) und bessere Algorithmen den Rechenaufwand für dasselbe Ergebnis etwa alle acht Monate halbieren (Ho et al., 2024), steigt die effektive Rechenleistung des besten Modells grob um das 14-Fache pro Jahr, denn 2 hoch 12/8 ist ungefähr 2.8, und 5 mal 2.8 ist 14. Das ist eine Berechnung von Mojo, kein gemessener Wert, aber sie erklärt, warum sich die Modelle jedes Jahr wie völlig andere anfühlen.

Was zeigen die Zifferblätter tatsächlich an?

Alle vier Skalen drehen sich noch, aber die Datenskala nähert sich ihrem Stillstand.

Berechnen. Epoch AI Schätzungen zufolge hat sich der Rechenaufwand für das Frontier-Training seit 2020 etwa verfünffacht, während die Trainingskosten jährlich um etwa das 3.5-Fache gestiegen sind. GPT-3 wurde 2020 mit etwa 3 × 10^23 Operationen trainiert; GPT-4 im Jahr 2023 mit etwa 2 × 10^25.

Epoch's Größte Schätzung für einen Lauf im Jahr 2026, OpenAI's GPT-6 Astra liegt bei etwa 9 × 10^26, und es wurde noch kein Lauf bei 10^27 bestätigt. Epoch schätzte, dass das Training von Grok 4 im Jahr 2025 etwa 310 Gigawattstunden Strom verbrauchen und etwa 490 Millionen Dollar kosten würde.

Algorithmen. Eine Studie von Anson Ho und Kollegen aus dem Jahr 2024 ergab, dass sich der Rechenaufwand, der nötig ist, um ein bestimmtes Leistungsniveau von Sprachmodellen zu erreichen, etwa alle acht Monate halbiert, obwohl größere Rechenkapazitäten immer noch einen größeren Teil der Arbeit leisten.

Ihre Daten. Dies ist das Zifferblatt mit einem Stopp. Epoche AI schätzt den Bestand an öffentlichen Aktien Von Menschen geschriebener Text Bei rund 300 Billionen Token rechnet man damit, dass diese zwischen 2026 und 2032 vollständig für das Training genutzt werden. Wir befinden uns nun innerhalb dieses Zeitraums. Labore greifen auf synthetische Daten, lizenzierte Daten, Videos und die eigenen Denkprozesse der Modelle zurück.

Denkzeit. Der neueste Trend. Im September 2024 zeigte OpenAIs o1, dass längeres Nachdenken bei der Beantwortung einer Aufgabe die Genauigkeit kontinuierlich steigert: Bei einem Mathematikwettbewerb 2024 erzielte es 74 % mit einem Versuch und 93 %, nachdem es 1,000 Versuche stichprobenartig analysieren und neu bewerten konnte, im Vergleich zu 12 % bei GPT-4o. Eine Studie aus dem Jahr 2024 ergab, dass ein effizienter Einsatz von Inferenz-Rechenleistung dazu beiträgt, dass ein kleines Modell ein 14-mal so großes übertrifft.

Richard Sutton's Der Essay „Die bittere Lektion“ aus dem Jahr 2019 sagte dies voraus: Ob Schach, Go, Sprache oder Sehen – allgemeine Methoden, die mehr Rechenleistung nutzen, haben kluges, manuell erworbenes Wissen jedes Mal übertroffen. Sechs Jahre später schmerzt diese Lektion noch immer.

Was sagt die Physik über die Grenzen?

Die oben genannten Softwaregesetze wirken auf Hardware, und Hardware unterliegt den Gesetzen der Physik. Drei Zahlen bilden den Rahmen für die gesamte Debatte.

Chips werden zwar immer noch schneller, aber nicht mehr so ​​wie früher. Das Mooresche Gesetz, das die Verdopplung der Transistoranzahl etwa alle zwei Jahre vorsah, hat sich verlangsamt; Jensen Huang von Nvidia erklärte es 2022 für beendet.

Doch Nvidia's Chips für Rechenzentren haben die Rechenleistung bei dichter 16-Bit-Verarbeitung von etwa 125 Billionen Operationen pro Sekunde beim V100 (2017) auf etwa 4,000 Billionen Operationen pro Sekunde beim Rubin (2026) gesteigert – eine Steigerung um etwa das 32-Fache innerhalb von neun Jahren, wie das Unternehmen selbst spezifiziert. Der größte Zuwachs resultierte aus spezialisiertem Design und weniger präzisen mathematischen Berechnungen, nicht aus kleineren Transistoren.

Epoch AI Maßnahmen Hardware für maschinelles Lernen Sie wird etwa alle 2.1 Jahre doppelt so kosteneffizient.

Unser Gehirn ist erstaunlich effizient. Laut dem US-amerikanischen National Institute of Standards and Technology (NIST) benötigt ein menschliches Gehirn etwa 20 Watt. Eine Nvidia H100 hingegen verbraucht rund 700 Watt. Open Philanthropy schätzt die Rechenleistung des Gehirns auf etwa 10^15 Operationen pro Sekunde – ungefähr die Leistung einer H100. Der Vergleich hinkt zwar etwas, aber der Effizienzunterschied ist real und zeigt, wie viel Potenzial in der Hardwareentwicklung noch steckt.

Es gibt eine Untergrenze. Das 1961 vorgeschlagene und 2012 experimentell bestätigte Landauer-Prinzip legt die minimale Energie fest, die zum Löschen eines Bits an Information bei Raumtemperatur benötigt wird: etwa 3 × 10⁻²¹ Joule. Heutige Chips benötigen um ein Vielfaches mehr Energie. Die Physik ist noch nicht die stärkste Grenze. Kraftwerke hingegen schon.

Die Internationale Energieagentur's Energie und AI Laut einem Bericht werden Rechenzentren im Jahr 2024 schätzungsweise 415 Terawattstunden Strom verbrauchen, das entspricht etwa 1.5 % des weltweiten Stromverbrauchs.'s insgesamt und wird bis 2030 auf etwa 945 Terawattstunden geschätzt.

Die Zahlen pro Frage sind gering und sinken weiter: Google ermittelte im Mai 2025 einen mittleren Energieverbrauch von 0.24 Wattstunden pro Textanfrage an Gemini, etwas weniger als Epoch AI.'s Anfang des Jahres wurde der Energieverbrauch einer typischen ChatGPT-Anfrage auf etwa 0.3 Wattstunden geschätzt, und Google berichtete von einem 33-fachen Rückgang des Energieverbrauchs pro Anfrage innerhalb von 12 Monaten.

Der Haken ist das Jevons-Paradoxon: Da jede Anfrage immer günstiger wird, stellen wir Milliarden weiterer Anfragen.

Die Mojo Horizon Uhr: Wie lange kann AI Funktioniert es von selbst?

Im Jahr 2019 bewältigte GPT-2 Aufgaben von etwa 3 Sekunden Dauer. Im April 2026 wird METR's frühe Schätzung für Anthrop's Die Vorschau zu Claude Mythos dauerte mehr als 16 Stunden.

Das entspricht einer Steigerung um etwa das 21,000-fache innerhalb von sieben Jahren. Die Anpassung einer Trendlinie an jeden neuen Rekordwert ergab, dass sich der Zeitraum von 2019 bis 2026 etwa alle sechs Monate verdoppelte und seit 2023 etwa alle 4.1 Monate . METRs eigene Aktualisierung vom Januar 2026 beziffert die Verdopplungszeit nach 2023 auf etwa 4.3 Monate, unsere unabhängige Anpassung stimmt also überein.

Verlängert man die Linie nach 2023 – rein beispielhaft –, so schneidet sie Ende 2026 eine 40-Stunden-Woche und in der zweiten Hälfte des Jahres 2027 einen 167-Stunden-Monat ab.

Nun zu den Einschränkungen, denn die sind wichtig.

1. Erstens ist eine Erfolgsquote von 50 % keine Verlässlichkeit; bei einer Erfolgsquote von 80 % sind die Zeithorizonte deutlich kürzer.
2. Zweitens handelt es sich um eigenständige Software und Forschungsaufgabenkeine unübersichtlichen Arbeiten mit Kollegen, Kunden und physischen Gegenständen.
3. Drittens ist der Messlatte selbst nicht mehr zuverlässig: METR gibt an, dass seine Schätzungen über 16 Stunden hinaus unzuverlässig sind, und hat die Aktualisierung seiner Rangliste im September 2026 eingestellt.

Wenn das Lineal vor dem zu messenden Objekt endet, ist das an sich schon ein Signal.

Warum sinken die Benchmarks immer weiter?

Weil sich die Modelle verbessern und weil Benchmarks Zielvorgaben sind. Beides trifft zu, und der zweite Grund ist, warum ich jede Rangliste mit Sorgfalt behandle.

Das eindrucksvollste Beispiel ist ARC-AGI-3, das von der ARC Prize Foundation am 25. März 2026 als Sammlung interaktiver Rätsel ohne Anleitung veröffentlicht wurde, die Menschen leicht lösen können. Zum Start waren die besten AI OpenAI erzielte 0.51 %. Am 3. September 2026 wurde OpenAI vom ARC Prize zertifiziert.'s GPT-6 Astra erreichte im Standardtest 62.7 %. (Die im Internet kursierenden Angaben von 98 % bis 99 % basieren auf einem anderen Testaufbau, der vom ARC Prize nicht als Standard anerkannt wird.) Ein Benchmark, der auf jahrelange Leistung ausgelegt war, verlor innerhalb von etwa sechs Monaten einen Großteil seines Leistungspotenzials.

Auch anderswo wiederholt sich das Muster. Der Anteil der mit SWE-bench Verified bewerteten Programmierkenntnisse stieg von 4.4 % im Jahr 2023 auf etwa 96 % in den von Anbietern gemeldeten Ergebnissen von 2026, was bedeutet, dass die besten Modelle nicht mehr voneinander zu unterscheiden sind. Im Juli 2025 wird Google DeepMind's Gemini Deep Think löste fünf von sechs Aufgaben der Internationalen Mathematik-Olympiade und erzielte dabei 35 von 42 Punkten nach offizieller Bewertung – ein Goldmedaillenstandard.

Das Objektiv hier ist Goodhart.'s Gesetz: Sobald eine Messgröße zum Ziel wird, verliert sie ihre Aussagekraft. Labore trainieren anhand bekannter Benchmarks; Testfragen fließen in die Trainingsdaten ein. Das macht den Fortschritt nicht unecht. Es bedeutet, dass die ehrlichen Messgrößen diejenigen sind, die wie echte Arbeit aussehen, wie beispielsweise METR.'s Zeithorizonte und solche, die für Maschinen noch schwierig und für Menschen einfach sind, wie ARC-AGI-3 und die Menschheit.'s Die letzte Prüfung ohne Hilfsmittel, bei der das beste offizielle Ergebnis 38.3 % betrug.

Wie nah ist AGI also dran?

Auf Bildschirmen ist die Realität näher als in der realen Welt, und näher, als die meisten Laien annehmen. Doch „AGI“ hat für verschiedene Menschen unterschiedliche Bedeutungen, was mit ein Grund dafür ist, dass sich die Debatte im Kreis dreht.

Definitionen. Das „Levels of AGI“-Framework von Google DeepMind (Morris et al., 2023) bewertet Systeme anhand zweier Achsen: ihrer Leistungsfähigkeit und ihrer Allgemeingültigkeit. Chatbots wurden damals als „aufkommende“ AGI klassifiziert. Laborleiter sprechen von Systemen, die die wirtschaftlich wertvollsten Aufgaben erledigen können; Dario Amodei von Anthropics beschreibt sie als „eine Ansammlung von Genies in einem Rechenzentrum“. Skeptiker definieren sie als menschenähnliches Lernen aus Erfahrung, was aktuelle Modelle nicht leisten.

Prognosen.

Die Laborleiter sind aggressiver: Im Januar 2026 wird Anthropic's Dario Amodei schrieb, dass der mächtige AI Es könnte noch ein bis zwei Jahre dauern. Demis Hassabis sagte 2023, es könnte innerhalb eines Jahrzehnts so weit sein. Yann LeCun, der Meta verließ und 1.03 Milliarden Dollar für ein neues Labor einwarb, bezeichnet große Sprachmodelle als Sackgasse, und Richard Sutton argumentiert, dass sie eher imitieren als lernen.

Mojos drei Tore. Anstelle einer Ziellinie verfolge ich drei, jede mit einem messbaren Test.

Tor	Test	Stand, November 2026	Mojo's besuch
1. Digitale Autonomie	AI Absolviert eine Woche lang reale Software- oder Forschungsarbeit mit hoher Zuverlässigkeit	50 % Vorhersagehorizont nach 16 Stunden; zuverlässiger Vorhersagehorizont deutlich kürzer; Messung fehlerhaft	Plausibel innerhalb von 1 bis 3 Jahren
2. Neuheit	Menschenniveau bei Rätseln, die für Menschen einfach und für Maschinen neu sind (ARC-AGI-3)	Bestverifiziert: 62.7 %; davon 100 % durch Menschen.	Schnelle Schließung; innerhalb von 1 bis 2 Jahren plausibel.
3. Die physische Welt	Roboter, die allgemeine körperliche Arbeiten zu wettbewerbsfähigen Kosten erledigen	Kostenwettbewerbsfähig für etwa 0.3 % der körperlichen Tätigkeiten (Anthropic, Sep 2026)	Ein Jahrzehnt oder mehr

Mein Urteil: Die digitale Hälfte der AGI ist vor 2030 durchaus realistisch. Die physische Hälfte, die Wäsche faltet, Heizungen repariert und Kranke pflegt, ist noch in weiter Ferne. Moravec's Das Paradoxon bleibt bestehen: Was uns schwerfällt, fällt Maschinen leicht, und was uns leichtfällt, fällt ihnen schwer. Wer behauptet, AGI sei zu einem bestimmten Zeitpunkt verfügbar, will einem etwas verkaufen.

Anspruchsprüfung

Anfragen	Wer macht das?	MES	Mojo's besuch
Die Skalierungsgesetze gelten weiterhin.	AI Labs, Epoch AI	4 Stark	Der Verlust sinkt mit zunehmender Rechenleistung; die Datenauswahl ist das bindende Risiko.
AI „gegen eine Wand rennen“	Skeptiker, periodisch	0 Hat nicht gehalten	Horizonte und harte Benchmarks stiegen bis 2026 kontinuierlich an.
Der Aufgabenhorizont verdoppelt sich alle 4 bis 7 Monate.	METR	4 Stark	Durch unsere eigene Anprobe bestätigt; Messfehler ab 16 Stunden
AI Menschen auf dem Niveau der Mathematik-Olympiade schlagen	Google DeepMind	4 Stark	Offiziell zertifizierter Goldstandard, Juli 2025
AGI wird bis 2027 Realität sein.	Einige Laborleiter	1 Anspruch	Das hängt von der Definition ab; die digitale Hälfte ist bald plausibel.
LLM-Studiengänge sind eine Sackgasse	Yann LeCun	1 Anspruch	Eine ernstzunehmende Minderheitsmeinung; noch keine Ergebnisse deuten auf eine harte Obergrenze hin.
AI Der Energieverbrauch pro Abfrage ist minimal	Google, OpenAI	3 Vielversprechende	Selbstberichtete Angaben, die jedoch mit Epoch AI übereinstimmen.'s unabhängige Schätzung
Uns werden die Trainingsdaten ausgehen	Epoche KI	3 Vielversprechende	Das Zeitfenster von 2026 bis 2032 hat sich geöffnet; die Frage nach synthetischen Daten ist noch offen.

Der Gegenwinkel

Das stärkste Argument gegen meine Interpretation ist, dass ich einen Messlatte mit der Sache selbst verwechsle. Zeithorizonte und Benchmarks sind von Forschern entwickelte Tests, und Modelle werden zunehmend darauf trainiert, diese Tests zu bestehen.

Ich nehme das ernst, weshalb meine Tore über eine Woche hinweg zuverlässig funktionieren müssen und das physische Tor weit entfernt bleibt. Dieser Trend hat sich jedoch trotz mehrerer Änderungen der Messkriterien in sieben Jahren bewährt. Wenn jeder neue Test schneller abschneidet als der vorherige, liegt die wahrscheinlichste Erklärung darin, dass sich das Gemessene tatsächlich verbessert.

Mojo's Prognosen

1. Eine veröffentlichte Schätzung von METR oder einem vergleichbaren unabhängigen Gutachter stellt ein Modell dar's 50 % der Zeithorizonte müssen bis zum 31. Dezember 2027 über 40 Stunden liegen. Wahrscheinlichkeit: 60%.
2. Ein Ergebnis von 85 % oder mehr im ARC-AGI-3's Der Standardtestaufbau wird vom ARC Prize bis zum 31. Dezember 2027 verifiziert. Wahrscheinlichkeit: 55%.
3. Epoch AI schätzt, dass bis zum 31. Dezember 2027 mehr als 10^27 Operationen durchgeführt werden. Wahrscheinlichkeit: 85%.

Alle drei werden in das Mojo Forecast Ledger eingetragen und öffentlich gewertet.

Wo dies als Nächstes diskutiert wird.

FAQ