Om systemen voor kunstmatige intelligentie af te stemmen op de bedoelingen van hun ontwerpers, is een mogelijkheid om inspiratie te putten uit de mechanismen die individuen binnen de regels van de samenleving houden. Dat is de benadering die wordt verdedigd door Elad Hazan, hoogleraar informatica aan Princeton, die voorstelt om te leunen op sociale normen, het rechtssysteem of financiële prikkels uit het marktkapitalisme.
- Elad Hazan wil AI-agenten sturen met sociale normen, het rechtssysteem en financiële prikkels.
- Oplossers en auditors controleren elkaar, en beide worden beloond of bestraft op basis van hun resultaten.
- Samenspanning kan worden tegengegaan door auditors ruim te belonen en hun werk zelf te controleren.
- De aanpak gaat uit van rationeel gedrag, maar grote taalmodellen reageren vaak onvoorspelbaar op prikkels.
‘We willen een superintelligente The AI / news uitlijnen’, zegt hij. ‘Waarom hebben we het dan niet eerst over mensen? Hoe lijnen we mensen uit?’
Regels geïnspireerd door de samenleving
Het mechanisme dat Elad Hazan voorstelt, laat modellen afwisselen in twee rollen: de ‘oplossers’, die problemen aanpakken, en de ‘auditors’, die het werk van anderen controleren. ‘De ene agent speelt de rol van politie; de andere die van burger’, vat hij samen.
Tijdens de training worden de modellen beloond op basis van resultaten. Oplossers die betrapt worden op valsspelen worden bestraft, maar auditors die er niet in slagen valsspelers te ontdekken worden dat ook. Bij onenigheid tussen auditors en oplossers kan de zaak voor een ‘proces’ worden gebracht, waar een menselijke expert een uitspraak zou kunnen doen.
Elad Hazan erkent een risico: dat de agenten onderling samenspannen, zoals auditors kunnen doen met de bedrijven die ze moeten controleren, of corrupte politieagenten met criminelen. Volgens hem kan dit probleem worden opgelost door auditors voldoende te belonen zodat betrapt worden het risico niet waard is, wat veel eenvoudiger is bij het trainen van een The AI / news dan in de echte wereld, waar de salarisbudgetten voor politie krap zijn. Hij stelt ook voor om de auditors zelf te controleren, met technieken vergelijkbaar met die van mystery shoppers.
Hij baseert zich op het werk van de econoom Gary Becker, Nobelprijswinnaar, die in de jaren zest0 het concept van de ‘rationele delinquent’ introduceerde. Volgens Elad Hazan overtreden criminelen de wet niet omdat ze fundamenteel slecht zouden zijn, maar omdat het de meest rationele keuze is gezien de geboden prikkels. Een misdaad heeft volgens deze redenering alleen zin als het voordeel opweegt tegen de mogelijke straf.
Voor Elad Hazan moet uitlijning niet worden gezien als een eigenschap van een model, maar als de beschrijving van zijn gedrag op een bepaald moment. ‘Je bent, in zekere zin, een aardig persoon’, zegt hij. ‘Ben je uitgelijnd? Ik weet het niet. Dat ben je waarschijnlijk meestal, maar er zou een situatie kunnen zijn waarin dat niet het geval is.’
De grenzen van de benadering
De methode gaat uit van de veronderstelling dat The AI / news-agenten zich rationeel gedragen. De mechanismetheorie, een tak van de economie die prikkelregels ontwerpt, heeft echter een wisselvallige staat van dienst bij mensen, die zich niet altijd gedragen zoals economische modellen voorspellen.
Het artikel wijst op een paradox: economen hebben decennia geprobeerd menselijk gedrag tot wiskunde te reduceren, terwijl grote taalmodellen wiskundige systemen zijn die werken op basis van menselijke taal en mogelijk even moeilijk te ontcijferen zijn. Deze modellen vertonen gedrag dat meer menselijk dan mechanisch lijkt, en ze kunnen worden beïnvloed door subtiele factoren die moeilijk te begrijpen en uit te leggen zijn. Helen Qu, research fellow aan het Flatiron Institute, een non-profitorganisatie gewijd aan het bevorderen van wetenschappelijke ontdekking door computationele methoden, vraagt zich af: ‘Is het überhaupt redelijk om aan te nemen dat ze op prikkels zullen reageren?’
