Robots zijn net mensen. Waar intelligente robots voor de gemiddelde mens nog een ver-van-hun-bed-show zijn, hebben we als gamers al een zekere vertrouwdheid met dit fenomeen. We voelen kameraadschap met robots als EDI, Claptrap of Kara en tegelijkertijd maken robots als de Reapers, Eliza Cassan of GLaDOS ons bewust van de gevaren die de ontwikkeling van kunstmatige intelligentie met zich meebrengt. Gamers zijn dan ook als geen ander voorbereid op de komst van intelligente robots in het echte leven en de vragen die gepaard gaan met deze ontwikkeling.

In games zijn kunstmatig intelligente robots vaak al niet meer van mensen te onderscheiden, maar ook de realiteit beweegt zich steeds meer in die richting. Deze ontwikkeling roept veel vragen op, waarvan er al gauw twee op de voorgrond treden: kunnen robots bewustzijn ontwikkelen en wat is de impact hiervan op de mensheid? De rol van kunstmatige intelligentie in games werpt een interessant licht op deze vragen.

Detroit: Become Human en de bewuste AI

Een van de vragen die robotica en AI-onderzoek met zich meebrengen is of robots ooit menselijk zelfbewustzijn kunnen ontwikkelen. Is een robot zich bewust van zijn bestaan? Deze kwestie staat bijvoorbeeld centraal in Detroit: Become Human, maar zien we bijvoorbeeld ook terug in een film als Bladerunner 2049. In Detroit: Become Human zijn robots in eerste instantie onbewuste slaven, maar ontwikkelen ze in de loop van het verhaal een bewustzijn van hun eigen toestand.

Detroit: Become Human
Pixel Vault

Een invloedrijke manier om tegen zelfbewustzijn en emoties aan te kijken is vanuit het perspectief van evolutie. Een van de eerste filosofen die hier op deze manier tegen aankeek was Friedrich Nietzsche. Waar zijn filosofische voorgangers iets als zelfbewustzijn zagen als teken van de superioriteit van de mens, had Nietzsche het idee dat we juist zelfbewustzijn hebben omdat we in feite nogal mislukte dieren met gebrekkige instincten zijn.

Precies omdat we zulke zielige dieren zijn, hebben we elkaars hulp nodig om te overleven. Om de hulp van anderen in te schakelen moeten we ons echter wel bewust zijn van onze eigen toestand: ziedaar het ontstaan van zelfbewustzijn. Mensen hebben dus zelfbewustzijn om dezelfde reden dat een kameleon schutkleuren heeft: overlevingsdrang.

Emergentie of kwetsbaarheid?

Als we de vraag naar zelfbewustzijn net als Nietzsche vanuit evolutionair perspectief bekijken, dan zijn er alsnog meerdere antwoorden mogelijk op de vraag of robots dit ooit kunnen ontwikkelen. Volgens één zienswijze is zelfbewustzijn een emergente eigenschap. Dat wil zeggen dat het een eigenschap is die automatisch ontstaan bij een bepaalde mate van complexiteit. Zodra een robot complex genoeg wordt, wordt deze vanzelf zelfbewust.

Als we terugdenken aan Nietzsche’s ideeën over het ontstaan van zelfbewustzijn, dan is er echter nog een ander belangrijk ingrediënt nodig voor het ontstaan van zelfbewustzijn, namelijk kwetsbaarheid. Mensen ontwikkelen deze eigenschap in eerste instantie omdat ze kwetsbare wezens zijn. Een onsterfelijke robot met een metalen lichaam zal volgens deze zienswijze dan ook nooit echt bewustzijn kunnen ontwikkelen.

Het interessante aan Detroit: Become Human is dat de situatie die de game neerzet, overeenkomt met Nietzsche’s ideeën over zelfbewustzijn. De androids die in de game worden neergezet zijn namelijk wel kwetsbare wezens: ze hebben een kwetsbaar lichaam dat kan bloeden en kan sterven. Zelfbewustwording ontstaat in die game dan ook vaak op momenten dat de robots in gevaar zijn. Detroit spiegelt ons geen onkwetsbare superrobots voor, maar kwetsbare, sterfelijke wezens. Het is precies in het licht van hun eigen sterfelijkheid dat ze zich bewust worden van hun eigen bestaan.

Gevaarlijke AI

In Detroit: Become Human leidt de bewustwording van androids uiteindelijk tot een opstand en een revolutie, waarin androids gelijke rechten opeisen. Afhankelijk van de keuzes die je als speler maakt, kan dit een vreedzame of een bloedige revolutie worden. Dit raakt aan een andere belangrijke vraag die de opkomst van kunstmatige intelligentie met zich meebrengt: is het mogelijk dat robots op een dag in opstand komen en ons allemaal vermoorden? Deze vraag vormt de achtergrond voor een bekend science-fictionmotief en zien we terug in talloze films en games.

Hoewel we de moordlustige AI op veel manieren terugzien in populaire cultuur, valt hun motivatie vrijwel altijd uiteen in twee categorieën. Robots komen ofwel in opstand om voor hun eigen rechten op te komen, ofwel omdat de mens een te chaotisch element is dat geëlimineerd moet worden. Beide motivaties zien we bijvoorbeeld terug in Mass Effect.

AI in opstand

De eerste categorie opstandige robots heeft te maken met het probleem dat we hiervoor behandelden: het ontstaan van zelfbewustzijn in kunstmatig intelligente wezens. Met het ontstaan van zelfbewustzijn wordt de AI zich ook bewust van zijn ondergeschikte rol. Zelfbewustzijn leidt zodoende tot de behoefte aan gelijke rechten en een eigen plek in de maatschappij. Een dergelijke opstand speelt daarom ook een belangrijke rol in Detroit: Become Human.

In Mass Effect zien we dit motief terug in de strijd tussen de Geth en de Quarians. De Quarians ontwikkelden de Geth in eerste instantie als makkelijke en goedkope arbeidskrachten. Het woord Geth betekent dan ook letterlijk ‘dienaar’ in de taal van de Quarians. Omdat de Geth informatie met elkaar uitwisselen, zorgde de toenemende hoeveelheid individuele Geth ervoor dat ze als soort steeds intelligenter werden. Op een zeker moment zorgde dit ervoor dat de Geth zelfbewust werden, wat tot uiting kwam in dat ze hun Quarian-meesters vragen stelden als ‘Am I alive?’ en ‘Does this unit have a soul?’

De Quarians raakten in paniek door deze vragen, vanwege de mogelijke gevaren van een heel ras van zelfbewuste, intelligente robots. Zich bewust zijnde van deze gevaren hadden ze de Geth oorspronkelijk juist geen echte kunstmatige intelligentie willen geven. In de ontstane paniek probeerden ze de Geth te deactiveren, waar deze op reageerden door in opstand te komen tegen hun scheppers. Net als bij de androids in Detroit: Become Human moeten we de opstand en het geweld van de Geth dus voornamelijk begrijpen als een vrijheidsstrijd.

Orde in de chaos

Het andere scenario van een bloeddorstige AI zien we in Mass Effect terug in de vorm van de Reapers en kennen we ook uit uit films als The Avengers: Age of Ultron of Terminator. In grote lijnen komt dit scenario hierop neer: een AI wordt geschapen om de vrede te bewaren, maar komt tot de conclusie dat menselijk gedrag te chaotisch en onvoorspelbaar is om dit op lange termijn vol te houden.

De conclusie is dan vervolgens: de mensheid moet uitgeroeid worden om de lieve vrede te bewaren. Het systeem dat bedoeld is om de mensheid te beschermen, keert zich tegen de mens, omdat de mens zijn eigen grootste vijand is. Deze vorm van AI is een praktische uitwerking van een zogenaamde Theory of Everything. Zoals een Theory of Everything de hele wereld probeert te vatten in termen van logische wetten, proberen Ultron of de Reapers de wereld zelf beheers- en berekenbaar te maken. De mens is een fundamenteel chaotisch element en moet uit de weg geruimd worden om orde te creëren.

De Reapers uit Mass Effect hebben het daarbij dan nog niet eens alleen op de mensheid gemunt, maar op complexe beschavingen als zodanig. De achterliggende gedachte is als volgt: bij een zekere mate van complexiteit ontwikkelt iedere beschaving van organisch leven een ras van intelligente machines. Net zoals in het geval van de Quarians en de Geth zullen deze machines het altijd aan de stok krijgen met hun scheppers, wat uiteindelijk zal leiden tot de vernietiging van al het organisch leven. De oplossing voor dit probleem: iedere zoveel jaar moeten alle complexe beschavingen uitgeroeid worden om plaats te maken voor nieuwe beschavingen. Organisch leven wordt uitgeroeid om organisch leven te beschermen.

De huidige staat van AI

We hebben het nu gehad over zelfbewuste en bloeddorstige AI in games, wat onvermijdelijk de vraag oproept hoe het op dit moment eigenlijk staat met de ontwikkelingen op het gebied van AI. Ook wat dat betreft bieden games een interessant perspectief: AI speelt namelijk op verschillende niveaus een rol. In games als Mass Effect en Detroit: Become Human spelen intelligente machines een rol in het verhaal, maar AI speelt in de meeste games natuurlijk ook nog een andere rol. De NPC’s en companions waar je in een game mee op pad gaat, hebben namelijk ook een vorm van kunstmatige intelligentie. Ze reageren op wat je zegt en hoe je je gedraagt in de wereld en doen dat op steeds complexere manieren.

Wat fascinerend is aan personages in games is dat we ons emotioneel aan ze gaan hechten. De personages uit Mass Effect en Detroit: Become Human zijn daar duidelijke voorbeelden van, maar het meest sterke recente voorbeeld is misschien nog wel God of War. De impact van het verhaal van God of War hangt namelijk voor een belangrijk deel samen met de emotionele betrokkenheid die je voelt bij Atreus, de zoon van Kratos die je in de game mee op sleeptouw neemt.

Dit brengt ons terug bij de vraag waar we mee begonnen: kunnen kunstmatig intelligente wezens zelfbewustzijn ontwikkelen? Volgens de Britse filosoof en wetenschapper Alan Turing is er een makkelijke methode om dit te meten, die neerkomt op de vraag: zijn ze in staat ons voor de gek te houden? De emotionele reactie die wij hebben op personages in games suggereert dat het niet lang meer duurt voordat game personages daadwerkelijk in staat zijn zelfbewustzijn te ontwikkelen.

Bewuste NPC’s

Dit laatste moeten we echter met een korrel zout nemen. Niet alleen is het zo dat de turingtest tegenwoordig als achterhaald wordt beschouwd, de personages in games zijn bovendien alleen in staat ons voor de gek te houden binnen de strikte parameters die de game ons voorschotelt. In God of War heb je bijvoorbeeld helemaal geen controle over de gesprekken die Kratos voert met Atreus. In een game als Mass Effect of Detroit: Become Human heb je meer controle, maar heb je bij het voeren van een gesprek alsnog slechts de keuze uit hooguit vier voorgekauwde dialoogopties.

Wanneer je daadwerkelijk alles zou kunnen vragen, vallen de personages uit deze games al gauw door de mand. Dat zie je bijvoorbeeld bij programma’s als Siri of Cleverbot, die weliswaar kunnen reageren op simpele instructies, maar waarmee een simpel gesprek al snel uitloopt op een serie misverstanden en onbedoeld grappige reacties.

Onze emotionele band met personages heeft dan ook meer te maken met de evolutionair bepaalde behoefte om menselijke eigenschappen te projecten op levenloze objecten. Het is immers voor je overlevingskansen voordeliger een boomstam voor een krokodil aan te zien dan een krokodil voor een boomstam. De band die we ervaren met Atreus zegt dus waarschijnlijk meer over ons dan over het zelfbewustzijn van Atreus. Het blijft desalniettemin een interessante vraag of we ooit met zelfbewuste digitale personages op pad zullen kunnen gaan in onze games.