AI Hukum Penskalaan Dijelaskan: Adakah AGI Lebih Hampir Daripada Yang Kita Fikirkan?

Sudut. AI's Rise mengikuti hukum yang sama tetapnya seperti mana-mana hukum dalam fizik: lebih banyak pengiraan, algoritma yang lebih baik dan lebih banyak data membeli keuntungan yang boleh diramal, dan tempoh tugas yang boleh diselesaikan oleh model sempadan sendiri telah meningkat dua kali ganda kira-kira setiap empat bulan sejak 2023.

AGI bukanlah suis yang boleh dihidupkan dalam satu hari sahaja. Ia seperti tangga, dan dalam kerja digital yang jelas, kita mendakinya dengan pantas. Dalam kerja baharu, terbuka dan fizikal, tangganya masih curam.

Triknya

Minta chatbot untuk menulis sonet, membetulkan kod anda atau menerangkan ujian darah anda, dan ia terasa seperti magik. Caranya berkesan kerana anda hanya melihat pentas. Di belakang pentas tiada ahli sihir. Terdapat tiga dail dan bil elektrik.

1. Dail pertama ialah pengiraan: berapa banyak pengiraan yang digunakan untuk melatih model.
2. Yang kedua ialah algoritma: betapa bijaknya setiap pengiraan digunakan.
3. Yang ketiga ialah data: berapa banyak teks, kod dan video yang dipelajari oleh model.

Sejak tahun 2024, dail keempat telah menyertai mereka: masa berfikir, pengiraan yang digunakan oleh model untuk membuat penaakulan sebelum ia menjawab. Naikkan sebarang dail dan prestasi meningkat dengan cara yang boleh diramalkan dengan luar biasa.

Kebolehramalan itu adalah pendedahan sebenar. Isaac Newton memberi kita hukum yang menggambarkan bagaimana sesuatu bergerak. AI Para penyelidik telah menemui hukum yang menggambarkan bagaimana kecerdasan, sekurang-kurangnya jenis mesin, bertambah baik dengan sumber. Seperti Newton's undang-undang, ia berfungsi dengan baik dalam julatnya dan pecah di tepinya. Karya ini mengenai kedua-duanya: undang-undang, dan tepinya.

Mojo's Hukum: hukum penskalaan saraf

Pada Januari 2020, satu pasukan di OpenAI yang diketuai oleh Jared Kaplan menunjukkan bahawa model bahasa's ralat, "kerugiannya", jatuh sebagai hukum kuasa lancar bagi pengiraan yang digunakan untuk melatihnya. Ditulis, ia hampir mengecewakan dan mudah:

L(C) = \left(\frac{C_c}{C}\right)^{\alpha_C}, \qquad \alpha_C \approx 0.050

L ialah kerugian, C ialah latihan pengiraan dan C_c ialah pemalar. Eksponen ialah keseluruhan cerita. Dengan α pada kira-kira 0.05, pendaraban pengiraan dengan 10 mengurangkan kerugian hanya kira-kira 11%, kerana 10 kuasa tolak 0.05 ialah kira-kira 0.89. Setiap langkah sepuluh kali ganda memperoleh peningkatan yang serupa dan sederhana, selama-lamanya, sehingga sesuatu yang lain habis. Kaplan's Pasukan mendapati hukum kuasa yang sepadan untuk saiz dan data model.

Dua tahun kemudian, kertas kerja Chinchilla DeepMind (Hoffmann dan rakan sekerja, Mac 2022) telah membetulkan resipi tersebut. Untuk bajet tetap, parameter dan token latihan sepatutnya berkembang bersama, yang bersamaan dengan kira-kira 20 token data latihan setiap parameter . Chinchilla, dengan 70 bilion parameter yang dilatih pada 1.4 trilion token, mengatasi model empat kali ganda saiznya yang dilatih pada pengiraan yang sama.

Dan dailnya berganda. Jika pengiraan latihan sempadan berkembang kira-kira 5 kali setahun (Epoch AI) dan algoritma yang lebih baik mengurangkan separuh pengiraan yang diperlukan untuk hasil yang sama setiap 8 bulan atau lebih (Ho dan rakan sekerja, 2024), pengiraan berkesan di sebalik model terbaik berkembang kira-kira 14 kali setahun, kerana 2 kuasa 12/8 adalah kira-kira 2.8, dan 5 darab 2.8 ialah 14. Itulah aritmetik Mojo, bukan angka yang diukur, tetapi ia menjelaskan mengapa model setiap tahun terasa seperti spesies yang berbeza.

Apakah sebenarnya bacaan pada dail itu?

Keempat-empat dail masih berputar, tetapi dail data menghampiri hentiannya.

Pengiraan. Epoch AI Anggaran pengiraan latihan sempadan telah berkembang kira-kira 5 kali setahun sejak 2020, dengan kos latihan meningkat kira-kira 3.5 kali setahun. GPT-3 telah dilatih dengan kira-kira 3 × 10^23 operasi pada tahun 2020; GPT-4 dengan kira-kira 2 × 10^25 pada tahun 2023.

Epoch's anggaran terbesar untuk larian 2026, OpenAI's GPT-6 Astra, adalah kira-kira 9 × 10^26, dan tiada larian yang disahkan pada 10^27. Epoch menganggarkan bahawa latihan Grok 4 pada tahun 2025 menggunakan kira-kira 310 gigawatt-jam elektrik dan menelan belanja kira-kira $490 juta.

Algoritma. Satu kajian pada tahun 2024 oleh Anson Ho dan rakan sekerja mendapati bahawa komputer perlu mencapai tahap prestasi model bahasa yang tetap separuh setiap kira-kira 8 bulan, walaupun komputer yang lebih besar masih melakukan lebih banyak kerja.

Tarikh. Ini dail dengan penahan. Epoch AI menganggarkan stok awam teks tulisan manusia pada kira-kira 300 trilion token dan menjangkakan ia akan digunakan sepenuhnya untuk latihan di antara tahun 2026 dan 2032. Kita kini berada di dalam tempoh tersebut. Makmal beralih kepada data sintetik, data berlesen, video dan jejak penaakulan model itu sendiri.

Masa berfikir. Dail terbaru. Pada bulan September 2024, o1 OpenAI menunjukkan bahawa membiarkan model menaakul lebih lama pada masa menjawab meningkatkan ketepatan dengan lancar: pada pertandingan matematik 2024, ia mendapat skor 74% dengan satu percubaan dan 93% apabila ia boleh mengambil sampel dan menilai semula 1,000 percubaan, berbanding 12% untuk GPT-4o. Satu kajian pada tahun 2024 mendapati bahawa pengiraan inferens perbelanjaan dengan bijak membolehkan model kecil mengatasi satu 14 kali ganda saiznya.

Richard Sutton's Esei 2019 “The Bitter Lesson” menyaksikan perkara ini berlaku: merentasi catur, Go, pertuturan dan penglihatan, kaedah umum yang menggunakan lebih banyak pengiraan telah mengatasi pengetahuan buatan tangan yang bijak setiap masa. Enam tahun kemudian, pengajaran itu masih menyakitkan.

Apakah yang dikatakan oleh fizik tentang hadnya?

Undang-undang perisian di atas bergantung pada perkakasan dan jawapan perkakasan kepada fizik. Tiga nombor membingkai keseluruhan perdebatan.

Cip masih menjadi semakin pantas, cuma bukan dengan cara lama. Hukum Moore, iaitu penggandaan transistor kira-kira setiap dua tahun, telah menjadi perlahan; Jensen Huang dari Nvidia menganggapnya sudah tidak berfungsi lagi pada tahun 2022.

Namun Nvidia's Cip pusat data meningkatkan prestasi 16-bit yang padat daripada kira-kira 125 trilion operasi sesaat pada V100 (2017) kepada kira-kira 4,000 trilion pada Rubin (2026), kira-kira 32 kali dalam sembilan tahun, mengikut spesifikasinya sendiri. Kebanyakan keuntungan datang daripada reka bentuk khusus dan matematik berketepatan rendah, bukan transistor yang lebih kecil.

Epoch AI langkah-langkah perkakasan pembelajaran mesin mendapat kira-kira dua kali ganda lebih cekap kos setiap 2.1 tahun.

Otak anda sangat cekap. Otak manusia beroperasi pada kira-kira 20 watt, menurut Institut Piawaian dan Teknologi Kebangsaan AS. Satu Nvidia H100 menggunakan kira-kira 700 watt. Tekaan terbaik Open Philanthropy untuk kuasa pengkomputeran mentah otak adalah kira-kira 10^15 operasi sesaat, lebih kurang sama dengan yang dihasilkan oleh satu H100. Perbandingannya umpama epal dengan oren, tetapi jurang kecekapan adalah nyata dan menunjukkan berapa banyak perkakasan bilik yang masih ada.

Terdapat lantai. Prinsip Landauer, yang dicadangkan pada tahun 1961 dan disahkan secara eksperimen pada tahun 2012, menetapkan tenaga minimum yang diperlukan untuk memadamkan satu bit maklumat pada suhu bilik: kira-kira 3 × 10^-21 joule. Cip hari ini menggunakan banyak peringkat magnitud lebih daripada itu. Fizik belum lagi menjadi had yang mengikat. Stesen janakuasa adalah.

Agensi Tenaga Antarabangsa's Tenaga 2025 dan AI melaporkan anggaran pusat data menggunakan kira-kira 415 terawatt-jam elektrik pada tahun 2024, kira-kira 1.5% daripada tenaga elektrik dunia's jumlah keseluruhan, dan diunjurkan kira-kira 945 terawatt-jam menjelang 2030.

Setiap soalan, angkanya kecil dan menurun: Google mengukur gesaan teks median kepada Gemini pada 0.24 watt-jam pada Mei 2025, sedikit di bawah Epoch AI's anggaran kira-kira 0.3 watt-jam untuk pertanyaan ChatGPT biasa pada awal tahun itu, dan Google melaporkan penurunan tenaga sebanyak 33 kali ganda setiap gesaan selama 12 bulan.

Masalahnya ialah paradoks Jevons: apabila setiap pertanyaan menjadi lebih murah, kita bertanya berbilion-bilion lagi

Jam Mojo Horizon: berapa lama boleh AI bekerja sendiri?

Pada tahun 2019, GPT-2 menguruskan tugasan selama kira-kira 3 saat. Pada April 2026, METR's anggaran awal untuk Anthropic's Pratonton Claude Mythos berdurasi lebih daripada 16 jam.

Itu merupakan peningkatan kira-kira 21,000 kali ganda dalam tempoh tujuh tahun. Apabila saya memadankan garis trend pada setiap rekod baharu, ufuk tersebut berganda kira-kira setiap 6 bulan sepanjang 2019 hingga 2026, dan kira-kira setiap 4.1 bulan sejak 2023. Kemas kini METR sendiri pada Januari 2026 meletakkan masa penggandaan selepas 2023 pada kira-kira 4.3 bulan, jadi pemadanan bebas kami bersetuju.

Lanjutkan garisan pasca-2023, semata-mata sebagai ilustrasi, dan ia akan melintasi minggu kerja 40 jam sekitar akhir tahun 2026 dan bulan kerja 167 jam pada separuh kedua tahun 2027.

Sekarang peringatan, kerana ia penting.

1. Pertama, kejayaan 50% bukanlah kebolehpercayaan; pada kejayaan 80%, jangka masa adalah jauh lebih pendek.
2. Kedua, ini adalah perisian yang serba lengkap dan tugas penyelidikan, bukan kerja yang bersepah dengan rakan sekerja, pelanggan dan objek fizikal.
3. Ketiga, kayu pengukur itu sendiri semakin tidak menentu: METR mengatakan anggarannya melebihi 16 jam tidak boleh dipercayai dan ia berhenti mengemas kini papan pendahulunya secara aktif pada September 2026.

Apabila pembaris habis digunakan sebelum benda itu diukur, itu adalah isyarat tersendiri.

Mengapakah penanda aras terus jatuh?

Kerana model-modelnya semakin bertambah baik, dan kerana penanda aras adalah sasaran. Kedua-duanya benar, dan yang kedua adalah sebab saya melayan setiap papan pendahulu dengan berhati-hati.

Kes yang paling menarik perhatian ialah ARC-AGI-3, yang dilancarkan oleh ARC Prize Foundation pada 25 Mac 2026 sebagai satu set teka-teki interaktif tanpa arahan, yang mudah diselesaikan oleh manusia. Semasa pelancaran, yang terbaik AI menjaringkan 0.51%. Pada 3 September 2026, Hadiah ARC mengesahkan OpenAI's GPT-6 Astra pada 62.7% pada persediaan ujian standardnya. (Dakwaan viral sebanyak 98% hingga 99% datang daripada persediaan berbeza yang tidak dikira oleh ARC Prize sebagai standard.) Penanda aras yang direka untuk bertahan selama bertahun-tahun telah kehilangan sebahagian besar ruangnya dalam masa kira-kira enam bulan.

Di tempat lain corak tersebut berulang. Pengekodan pada SWE-bench Verified meningkat daripada 4.4% pada tahun 2023 kepada kira-kira 96% dalam keputusan 2026 yang dilaporkan oleh pembekal, yang bermaksud ia tidak lagi membezakan model terbaik. Pada Julai 2025, Google DeepMind's Gemini Deep Think menyelesaikan lima daripada enam masalah Olimpik Matematik Antarabangsa, dengan memperoleh 35 daripada 42 mata di bawah penggredan rasmi, satu piawaian pingat emas.

Kanta di sini ialah Goodhart's hukum: apabila sesuatu ukuran menjadi sasaran, ia tidak lagi menjadi ukuran yang baik. Makmal berlatih ke arah penanda aras yang terkenal; soalan ujian bocor ke dalam data latihan. Itu tidak menjadikan kemajuan palsu. Ini bermakna ukuran yang jujur ​​adalah ukuran yang kelihatan seperti kerja sebenar, seperti METR's ufuk masa, dan yang masih sukar untuk mesin dan mudah untuk manusia, seperti ARC-AGI-3 dan Humanity's Peperiksaan terakhir tanpa alat, di mana skor rasmi terbaik ialah 38.3%.

Jadi, sejauh manakah AGI itu hampir?

Lebih dekat di skrin berbanding di dunia, dan lebih dekat daripada yang diandaikan oleh kebanyakan orang di luar bidang ini. Tetapi "AGI" membawa maksud yang berbeza bagi orang yang berbeza, yang merupakan separuh sebab perdebatan ini menjadi tidak menentu.

Definisi. Rangka kerja "Tahap AGI" Google DeepMind (Morris dan rakan sekerja, 2023) menilai sistem berdasarkan dua paksi, iaitu prestasinya yang baik dan keumumannya, serta mengklasifikasikan chatbot pada masa itu sebagai AGI "muncul". Ketua makmal membincangkan tentang sistem yang boleh melakukan kerja yang paling bernilai dari segi ekonomi; Dario Amodei dari Anthropic menggambarkan "sebuah negara genius dalam pusat data". Golongan skeptikal mendefinisikannya sebagai pembelajaran seperti manusia daripada pengalaman, yang tidak dilakukan oleh model semasa.

Ramalan.

Pemimpin makmal lebih agresif: pada Januari 2026, Anthropic's Dario Amodei menulis bahawa ia sangat berkuasa AI mungkin satu hingga dua tahun lagi. Demis Hassabis berkata pada tahun 2023 bahawa ia boleh berlaku dalam tempoh sedekad. Yann LeCun, yang meninggalkan Meta dan mengumpul $1.03 bilion untuk makmal baharu, menggelarkan model bahasa yang besar sebagai jalan buntu, dan Richard Sutton berhujah mereka meniru dan bukannya belajar.

Tiga pintu gerbang Mojo. Daripada satu garisan penamat, saya menjejaki tiga, setiap satunya dengan ujian yang boleh diukur.

Pintu Pagar	ujian	Status, November 2026	Mojo's membaca
1. Autonomi digital	AI melengkapkan seminggu kerja perisian atau penyelidikan sebenar dengan kebolehpercayaan yang tinggi	50% ufuk melebihi 16 jam; ufuk yang boleh dipercayai jauh lebih pendek; pengukuran melanggar	Boleh dijangka dalam tempoh 1 hingga 3 tahun
2. Kebaruan	Teka-teki tahap manusia mudah untuk orang ramai dan baharu dalam mesin (ARC-AGI-3)	Disahkan dengan terbaik 62.7%; manusia 100%	Penutupan segera; boleh dijangka dalam tempoh 1 hingga 2 tahun
3. Dunia fizikal	Robot melakukan kerja fizikal am pada kos yang kompetitif	Kos kompetitif untuk kira-kira 0.3% tugasan fizikal (Anthropic, Sep 2026)	Satu dekad atau lebih

Keputusan saya: separuh digital AGI adalah kemungkinan sebenar sebelum tahun 2030. Separuh fizikal, bahagian yang melipat pakaian, membaiki dandang dan merawat orang sakit, jauh lebih jauh. Moravec's Paradoks masih berlaku: apa yang sukar bagi kita mudah bagi mesin, dan apa yang mudah bagi kita sukar bagi mereka. Sesiapa yang memberitahu anda bahawa AGI tiba pada satu tarikh sahaja sedang menjual sesuatu.

Semakan Tuntutan

Tuntutan	Siapa yang membuatnya	MES	Mojo's membaca
Undang-undang penskalaan masih terpakai	AI makmal, Epoch AI	4 Kuat	Kerugian terus menurun dengan pengiraan; dail data adalah risiko pengikatan
AI sedang "melanggar dinding"	Skeptikal, secara berkala	0 Tidak bertahan	Cakrawala dan penanda aras tetap terus meningkat sehingga tahun 2026
Jangka masa tugas berganda setiap 4 hingga 7 bulan	METR	4 Kuat	Disahkan oleh kesesuaian kami sendiri; pengukuran melebihi 16 jam
AI mengalahkan manusia di peringkat olimpik matematik	Google DeepMind	4 Kuat	Piawaian emas yang digredkan secara rasmi, Julai 2025
AGI akan tiba menjelang 2027	Beberapa ketua makmal	1 Tuntutan	Bergantung pada definisi; separuh digital itu mungkin tidak lama lagi
LLM adalah jalan buntu	Yann LeCun	1 Tuntutan	Pandangan minoriti yang serius; tiada keputusan lagi menunjukkan siling yang keras
AI penggunaan tenaga setiap pertanyaan adalah kecil	Google, OpenAI	3 Menjanjikan	Melaporkan sendiri, tetapi selaras dengan Epoch AI's anggaran bebas
Kami akan kehabisan data latihan	Epoch AI	3 Menjanjikan	Tetingkap 2026 hingga 2032 telah dibuka; data sintetik adalah persoalan terbuka

Sudut Lawan

Kes paling kuat yang menentang pembacaan saya ialah saya tersilap tersilap kayu pengukur untuk benda itu sendiri. Ufuk masa dan penanda aras adalah ujian yang dibina oleh penyelidik, dan model semakin dilatih untuk lulus ujian.

Saya menganggap perkara itu serius, itulah sebabnya pintu pagar saya memerlukan kerja yang boleh dipercayai selama seminggu dan mengapa pintu pagar fizikal berada jauh. Tetapi trend ini telah bertahan beberapa perubahan kayu pengukur selama tujuh tahun. Apabila setiap ujian baharu jatuh lebih cepat daripada yang sebelumnya, penjelasan yang paling mungkin adalah bahawa perkara yang diukur benar-benar bertambah baik.

Mojo's Ramalan

1. Anggaran yang diterbitkan daripada METR atau penilai bebas yang setanding meletakkan model's 50% tempoh masa melebihi 40 jam menjelang 31 Disember 2027. Kebarangkalian: 60%.
2. Skor 85% atau lebih pada ARC-AGI-3's Persediaan ujian standard disahkan oleh Hadiah ARC menjelang 31 Disember 2027. Kebarangkalian: 55%.
3. Epoch AI menganggarkan latihan dijalankan melebihi 10^27 operasi menjelang 31 Disember 2027. Kebarangkalian: 85%.

Ketiga-tiganya akan dimasukkan ke dalam Lejar Ramalan Mojo dan akan dinilai di khalayak ramai.

Di mana perkara ini akan dibahaskan seterusnya

Soalan Lazim