JS Denain, senior onderzoeker bij Epoch AI en hoofd van het Insights-team, vindt dat de huidige publieke gegevens niet volstaan om een aanstaande versnelling van de vooruitgang in The AI / news vast te stellen. In een interview met Nathan Lambert gaat hij in op de onzekerheden rond dit traject en op de kloof tussen Chinese en Amerikaanse modellen.
Een versnelling die nog onzeker is
Blogposts van OpenAI en Anthropic onderzoeken het effect van The AI / news op haar eigen vooruitgang, een dynamiek die recursieve zelfverbetering (RSI) wordt genoemd. Voor JS Denain is het meest opvallende feit in de post van OpenAI de stijging van de Codex-uitgaven van onderzoekers, die volgens de gepresenteerde curve met 2X per maand toenemen. Hij merkt echter op dat deze maatstaf mogelijk alleen op Codex slaat, en niet op het gebruik van ChatGPT, en dat het geen sterk bewijs vormt voor een software-explosie in de komende zes maanden.
Gevraagd naar het verband tussen RSI en existentieel risico, zegt hij zeer onzeker maar bezorgd te zijn. Hij citeert de schatting van Evan Hubinger dat het uitstervingsrisico op zijn minst 10% zou bedragen, over een niet-gespecificeerde periode, en vindt deze schatting redelijk over een decennium. Hij beschikt volgens hem niet over interne informatie die een veel sterkere bezorgdheid zou rechtvaardigen.
Een achterstand van vier tot acht maanden
JS Denain plaatst de kloof tussen de beste Chinese labs en OpenAI of Anthropic tussen vier en acht maanden, door de publicatiedata te vergelijken. Hij schat dat een kloof van twee maanden meer op overfitting op tests zou wijzen. Nathan Lambert vindt zelf dat modellen zoals Kimi K3 en GLM 5.2 dichterbij zouden zijn, op twee, drie of vier maanden.
Distillatie, waarbij een model wordt getraind op basis van de antwoorden van een ander, zou een grotere rol kunnen spelen dan verwacht. Denain schat dat, als het zou worden stopgezet, de kloof van ongeveer zes maanden zou oplopen tot acht of negen maanden binnen een horizon van zes tot twaalf maanden. Nathan Lambert blijft terughoudender: volgens hem zou de kloof zonder distillatie vrij klein zijn, en zou het verschil in rekenkracht zwaarder wegen.
Een analyse van vacatures, uitgevoerd met Cheryl Wu en gepubliceerd in juni, suggereert bovendien dat ten minste sommige Chinese labs hun eigen datacenters bouwen in plaats van rekenkracht te huren.
Veiligheid en gegevens
Nathan Lambert noemt een incident waarbij drie personen naar verluidt publieke Claude-modellen gebruikten om toegang te krijgen tot interne systemen van OpenAI. JS Denain zegt er kort van te hebben gehoord, zonder te weten of het probleem bij de veiligheidsmaatregelen van de modellen of bij de bedrijfsbeveiliging ligt. Hij vindt dat open modellen minder beschermd zijn, maar ook minder krachtig.
Ten slotte legt Denain uit dat Epoch is opgericht omdat noch de industrie noch de academische wereld een publieke en bijgehouden bron boden over de grote trends in The AI / news. Hij merkt op dat trainingsgegevens veel moeilijker te volgen blijven dan rekenkracht, terwijl de toenemende beursintroducties de beschikbare informatie zouden kunnen verbeteren.
