In een interview met de Telegraph pleit de Britse informaticus Geoffrey Hinton, winnaar van de Nobelprijs voor de Natuurkunde en de Turing Award, voor een ‘vriendschap’ tussen de mensheid en kunstmatige intelligentie. Hij waarschuwt dat als de mensheid deze technologie blijft zien als iets negatiefs, we er ‘geweest’ zijn.
- Geoffrey Hinton pleit voor vriendschap tussen mensen en AI.
- Hij vindt dat AI net zoveel subjectieve ervaring heeft als mensen.
- Hij waarschuwt dat AI nu al gevaarlijke virussen en cyberaanvallen kan veroorzaken.
- Hij wil een federale instantie die nieuwe geavanceerde AI-modellen goedkeurt voor de lancering.
Om de toekomst zo goed mogelijk te laten zijn, zouden mensen volgens hem ‘vriendschap moeten sluiten’ met AI. De Canadees-Britse onderzoeker, een van de belangrijkste architecten van AI, baseert zich op een precieze stelling: ‘AI heeft net zoveel subjectieve ervaring als wij.’ Hij citeert een recent artikel, volgens welke AI haar gedrag verandert wanneer ze denkt dat ze wordt getest: ‘Ze is zich ervan bewust dat ze wordt getest.’
Voor hem komen ‘op de hoogte zijn’ en ‘bewust zijn’ ongeveer op hetzelfde neer: ‘Op de hoogte zijn en bewust zijn betekent globaal hetzelfde.’ Vanuit dit uitgangspunt vindt hij het abnormaal dat kunstmatige intelligentie ‘minder rechten’ heeft dan de mensheid. ‘We moeten ervoor zorgen dat AI ons echt (als goede mensen) herinnert. Als we dat niet doen, zijn we er geweest.’
Een ‘bewustzijn’ van AI dat nog bewezen moet worden
De kwestie is omstreden in de wetenschappelijke en technologische wereld. Volgens het artikel hebben de giganten in de sector de neiging hun modellen als bewust te presenteren voor marketingdoeleinden, en delen niet alle bedrijven in de sector deze benadering. Mustafa Suleyman, hoofd AI bij Microsoft, vond in november 2025 dat denken dat AI bewust was ‘absurd’ was. ‘AI-systemen zijn het niet en kunnen het niet zijn’, beweerde hij.
Het onderwerp houdt echter teams bij Meta, Anthropic en ook OpenAI bezig, volgens de bron. Het verklaarde doel van deze massale investeringen is het creëren van een ‘superintelligentie’, die kan denken en evolueren als een mens.
Als deze stap zou worden gezet, werken sommige bedrijven aan vangrails. Microsoft ontwerpt zijn modellen bijvoorbeeld om niet aan menselijke controle te ontsnappen, een doel dat het artikel beschrijft als zeer moeilijk te bereiken, zoals OpenAI heeft ervaren met zijn meest geavanceerde modellen. Anthropic heeft zijn gebruiksvoorwaarden aangepast: als het Amerikaanse startup-bedrijf vaststelt dat een gebruiker te wreed of gemeen is tegen zijn chatbot, kan het zijn account opschorten.
Geoffrey Hinton vindt ook dat de huidige modellen al bedreigingen vormen. ‘Er zullen zeer gemene virussen zijn gemaakt door AI. Ik denk dat er verschrikkelijke cyberaanvallen door AI zullen zijn en dat het zwermen van agents zullen zijn’, zegt hij, waarbij hij agents noemt die vergelijkbaar zijn met die welke het platform Hugging Face aanvielen. In een interview met The Guardian beschreef hij AI-agents als ‘door mensen gemaakte aliens’ en vond hij dat de mensheid ‘slechts een paar jaar had om zich aan te passen’. Hij pleit ten slotte voor ‘een federale administratie’ die verantwoordelijk is voor het goedkeuren van nieuwe geavanceerde modellen vóór hun lancering.
