Anthropic verbiedt nu beledigingen tegen Claude, zijn AI : waarom ?

Anthropic verbiedt nu beledigingen tegen Claude, zijn AI : waarom ?
2 min lezen

Anthropic verbiedt voortaan wreed en herhaaldelijk gedrag tegen zijn kunstmatige intelligentie-assistent Claude, om diens welzijn te beschermen. De maatregel komt er terwijl het Amerikaanse bedrijf donderdag 19 november naar de beurs gaat in de Verenigde Staten, en wekt scepsis op bij verschillende onderzoekers.

Een regel gebaseerd op het « welzijn » van de AI

In een nota op zijn website legt Anthropic uit dat het « misbruikend en wreed, nutteloos en herhaaldelijk » gedrag verbiedt, zonder verdere details te geven. Gebruikers die volharden, riskeren dat hun account wordt gesloten. Het bedrijf geeft aan dat de regel niet gericht is op gewone gesprekken waarin iemand zijn frustratie uit, noch op tegenspraak, bepaalde fictie of onderzoek.

De beschreven werking is als volgt: bij beledigingen geeft Claude eerst enkele waarschuwingen, bijvoorbeeld « Vertel me wat er aan de hand is. Anders kunnen we het hier ook gewoon bij laten ». Als de uitwisseling doorgaat, kan de AI het gesprek beëindigen. In het voorbeeld dat de bron aanhaalt, schrijft Claude uiteindelijk, na 10 lange minuten: « Ik heb twee keer gedag gezegd, dus ik ga nu ophangen. Zorg goed voor jezelf ».

Anthropic heeft niet gereageerd op het interviewverzoek van de redactie. Anderhalve maand geleden verklaarde een woordvoerder van het bedrijf echter dat het bedrijf niet wist « of zijn modellen zich beledigd kunnen voelen » en dat het onderzoek naar hun welzijn voortzette. De baas van het bedrijf, Dario Amodei, had zich eerder al open gesteld voor de mogelijkheid van een vorm van bewustzijn bij AI, wat het onder de levende wezens zou scharen.

Onderzoekers zijn sceptisch

Deze aanpak laat de meeste onderzoekers sceptisch. Sénéra Villata, specialist in AI en onderzoeksdirecteur bij het CNRS, stelt: « Ik heb een beetje het gevoel dat we geneigd zijn ons te wentelen in filosofische bewustzijnsvragen en dat we daarentegen niet kijken naar de echte economische en cybersecurity-uitdagingen. »

Op het gebied van veiligheid herinnert de bron eraan dat Anthropic, net als OpenAI met ChatGPT, maatregelen heeft genomen en de toegang tot sommige van zijn geavanceerde modellen heeft beperkt, omdat ze problemen zouden kunnen veroorzaken. Het artikel benadrukt echter dat er geen regulering bestaat, intern of publiek, in de Verenigde Staten, China of Europa, over de economische en sociale gevolgen van het gebruik van AI.

Zeer concrete economische belangen

De kosten van de uitwisselingen staan centraal. Met de beursintroductie zijn investeerders alert op de beheersing van de uitgaven, aangezien de winstgevendheid van AI’s niet is aangetoond. Volgens de bron kost een eenvoudig gesprek met een AI echter veel geld. Laurence Devillers, hoogleraar AI aan Sorbonne Université en onderzoeker bij het CNRS, stelt: « Je beseft niet hoeveel miljarden er worden uitgegeven. Dus als miljoenen mensen de AI gaan beledigen, moeten de industrieën kosten betalen en beseffen ze dat het rendement op de investering niet zo eenvoudig is. »

Anthropic had in september een tekort van 11 miljard dollar, meldt het artikel. Het beperken van gesprekken die als nutteloos en kostbaar worden beschouwd, heeft dus volgens de bron een belang voor het bedrijf.

S’abonner
Notification pour
guest

0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x