Anthropic gebruikt AI om de ontwikkeling van zijn eigen modellen te versnellen, volgens een nieuw rapport van de AI-veiligheidsonderzoeksorganisatie METR. Volgens het document zouden de modellen van het bedrijf ongeveer twee keer zo snel vooruitgaan als een jaar geleden, zonder duidelijk teken van vertraging. Het rapport roept ook een vraag op: wat weet het publiek eigenlijk van dit tempo en de bijbehorende risico’s?
- Anthropic gebruikt AI om de ontwikkeling van zijn modellen te versnellen, volgens METR.
- Het bedrijf heeft een groot deel van het bewijs in het rapport laten censureren.
- Veiligheidsonderzoekers uiten scherpe kritiek op het gebrek aan transparantie.
- Experts waarschuwen dat de AI-ontwikkeling heel snel verloopt.
Het rapport is het resultaat van een elf weken durend onderzoek binnen het bedrijf, als onderdeel van een evaluatie van zijn AI-onderzoeks- en ontwikkelingsactiviteiten. Volgens METR suggereren de benchmark-scores dat Anthropic ‘ongeveer twee jaar historische vooruitgang heeft geboekt in het afgelopen jaar’. De onderzoekers zeggen ‘vertrouwen’ te hebben dat deze versnelling niet alleen te danken is aan de toename van de rekenkracht die wordt gebruikt om de modellen te trainen, een factor die lang als de belangrijkste motor van de vooruitgang werd beschouwd.
AI versnelt het onderzoek van Anthropic
Volgens METR is het grootste deel van de waargenomen versnelling in oktober ‘te danken aan AI’, en zou de bijdrage ervan in de loop van de tijd toenemen. Deze conclusie is gebaseerd op informele enquêtes op Slack en op interviews met werknemers, die melding maken van aanzienlijke productiviteitswinsten. Gemiddeld zeggen werknemers die het meest presterende interne model van het bedrijf gebruiken ongeveer 12 keer productiever te zijn dan zonder AI-assistentie, ongeveer het dubbele van wat ze enkele maanden eerder aangaven met Mythos 5.
Voorlopig komt deze versnelling vooral van een AI die menselijke onderzoekers assisteert, en niet van een AI die alleen werkt. METR waarschuwt echter dat ‘sommige tekenen erop wijzen dat volledig autonome bijdragen binnenkort een grotere rol zullen spelen’. De onderzoekers hebben geen duidelijk teken gevonden van afnemende meeropbrengsten of een knelpunt dat een nog snellere versnelling zou kunnen verhinderen.
Drie nieuwe modellen van Anthropic hebben bovendien hun training in de afgelopen zes maanden voltooid zonder te zijn gepubliceerd. Ze worden aangeduid met de codenamen Model 2, Model 3 en Model 4, waarvan de training respectievelijk in juli, tussen augustus en september, en tussen september en oktober eindigde. METR noemt ook een niet-gepubliceerd model uit 2022, genaamd Unreleased 2022. De onderzoekers specificeren dat ‘dit de codenamen zijn die aan ons zijn meegedeeld; wij begrijpen dat ze andere interne namen hebben’.
Gecensureerde informatie
Anthropic gaf METR toegang tot niet-openbare informatie, waaronder vertrouwelijk onderzoek, modelprestatiegegevens en interviews met werknemers. Het rapport preciseert echter dat de toegang niet onbeperkt was. Anthropic had het recht de definitieve versie te censureren, en METR beweert een rapport van ongeveer 100 pagina’s te hebben ingediend, waarvan de openbare versie is ontdaan van ‘het merendeel van het bewijs’ dat de organisatie het meest informatief vond.
Anthropic rechtvaardigt deze verwijderingen met het risico om concurrenten te bevoordelen. METR is van mening dat ‘het grootste deel van de gecensureerde informatie van zeer hoog niveau was’, zonder zich uit te spreken over het commerciële karakter van deze keuzes. In een lang bericht op X erkent medeoprichter van Anthropic Sam McCandlish: ‘We hebben veel gecensureerd, en ik accepteer dat dit het verifiëren van het werk van METR moeilijker maakt.’ Hij beweert dat het bedrijf ‘de juiste beslissing heeft genomen’, en kondigt de binnenkortige publicatie aan van zijn eigen rapport over de snelheid van AI-vooruitgang.
Groeiende druk op transparantie
Het rapport heeft scherpe kritiek losgemaakt onder AI-veiligheidsonderzoekers. Daniel Kokotajlo, voormalig onderzoeker van OpenAI die het AI Futures Project leidt, beschuldigt Anthropic ervan ‘roekeloos te gokken met onze levens’. Brianna Rosen, directeur onderzoek naar geavanceerde modelveiligheid bij het Institute for AI Policy and Strategy, vindt dat ‘het rapport niet transparant genoeg was over het bewijs’. Anthropic weigerde vragen van The Verge te beantwoorden en verwees naar het bericht van Sam McCandlish.
Het New Yorkse parlementslid Alex Bores heeft het Congres opgeroepen om ‘RSI dit jaar nog te verbieden, indien mogelijk’. RSI, of recursieve zelfverbetering, verwijst naar AI-systemen die zonder menselijke tussenkomst steeds krachtigere opvolgersystemen kunnen ontwikkelen. Marius Hobbhahn, oprichter en CEO van Apollo Research, vindt dat de resultaten ‘grosso modo overeenkomen’ met wat het veld verwachtte, ‘misschien een beetje sneller’, en hij waarschuwt: ‘Bereid je voor op gekte. Het gaat heel snel.’
