OpenAI : bestuurslid dat Sam Altman ontsloeg vindt dat ‘we AI-bazen nog steeds niet kunnen vertrouwen’

OpenAI : bestuurslid dat Sam Altman ontsloeg vindt dat ‘we AI-bazen nog steeds niet kunnen vertrouwen’

Helen Toner, uitvoerend directeur van het Center for Security and Emerging Technology (CSET) van de Georgetown University en voormalig bestuurslid van OpenAI, vindt dat beleidsmakers betrouwbare informatie over kunstmatige intelligentie nodig hebben. In een interview met presentator Nilay Patel voor de podcast Decoder van The Verge gaat ze in op de governance van AI-labs, het concept van AGI en de rivaliteit met China.

Het CSET, dat sinds 2019 bestaat en ongeveer 50 mensen telt, omschrijft zichzelf als een analysecentrum dat niet academisch is. Het produceert lange rapporten, evenals korte briefings voor drukke beleidsmakers. Volgens Helen Toner is de kloof tussen Washington en Silicon Valley reëel, maar beperkt deze zich niet tot een kwestie van expertise: medewerkers van het Congres zijn, naar haar mening, ‘over het algemeen slimmer dan ze erkenning krijgen’.

Het OpenAI-voorval

Helen Toner behoorde tot de vier bestuursleden van OpenAI die stemden voor het ontslag van Sam Altman. Deze episode, soms ‘the blip’ genoemd, eindigde met de terugkeer van Sam Altman als CEO, het vertrek van Helen Toner en de installatie van een nieuwe raad van bestuur. OpenAI is sindsdien volledig gereorganiseerd.

De non-profit raad van bestuur had de taak ervoor te waken dat het bedrijf zijn doel om veilige AI te bouwen niet zou opofferen voor winst en groei. Volgens de presentator, toen de raad probeerde deze hefboom te gebruiken, bezweek dit verantwoordelijkheidsmechanisme. Helen Toner zag naar haar mening wat er gebeurt wanneer veiligheidsverplichtingen botsen met commerciële prikkels. Ze vindt dat de toekomst niet zou moeten rusten op de betrouwbaarheid van één persoon: als dat het geval was, ‘zaten we diep in de problemen’.

AGI, zelfverbetering en singulariteit

Gevraagd naar AGI, of algemene kunstmatige intelligentie, zegt Helen Toner niet te stellen dat deze mijlpaal bereikt is. Ze spreekt liever van een ‘wazige wolk’ van definities, waarvan sommige al zijn gepasseerd. Andere, zoals die van een bewuste AI die alles kan wat een mens kan, blijven ver weg. Ze heeft hierover een blogpost geschreven op haar Substack.

Ze beschrijft ook een wijdverbreid idee in Silicon Valley: recursieve zelfverbetering, of RSI (recursive self-improvement), dat wil zeggen de mogelijkheid dat AI-systemen deelnemen aan het creëren van krachtigere systemen, tot aan superintelligentie. Volgens haar gebruiken bedrijven nu AI in een groeiend deel van hun onderzoek en ontwikkeling, zonder het hele proces aan AI toe te vertrouwen. Ze citeert Demis Hassabis van Google, die zei dat ‘we aan de vooravond van de singulariteit staan’.

Over het concept van alignment, dat tot doel heeft modellen af te stemmen op de intenties van hun ontwerpers, vindt Helen Toner de term te breed. De meest consistente versie, volgens haar, is ervoor zorgen dat de AI doet wat de gebruiker wil. Ze vindt dat deze richting ‘niet op de goede weg’ is om opgelost te worden. Ze benadrukt echter dat deze vragen deel uitmaken van wetenschappelijk onderzoek dat tijd vergt.

Wat regulering betreft, zegt ze meer voorstander te zijn van regels die gericht zijn op de meest geavanceerde systemen dan van een wet die alle AI dekt. Ze noemt Californië, New York en Illinois, die bijna identieke wetten hebben aangenomen, en merkt op dat deze dynamiek op staatsniveau zou kunnen doorzetten.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x