Oneerlijk voordeel: verwacht niet dat ai als een mens speelt

DeepMind's recente exploits bij het ontwikkelen van kunstmatige intelligentie die spelers van wereldklasse bij StarCraft II kunnen verslaan, zorgden voor veel opschudding. Terwijl DeepMind het een grote doorbraak noemde, beweerden anderen dat het vals spelen, oneerlijk en bovenmenselijk was.

Maar wat het hele debat aangeeft, is dat we misschien de context moeten veranderen waarin we de mogelijkheden van AI bespreken en evalueren - en stoppen met het vergelijken van de gameplay met die van ons.

AlphaStar, DeepMind's StarCraft-spelende bot, maakt gebruik van deep learning, een populair AI-veld waarin programmeurs het gedrag van hun AI-modellen ontwikkelen door ze een waanzinnig aantal voorbeelden te geven. AlphaStar trainde eerst in een grote database met menselijke spelgegevens die door Blizzard werden uitgegeven en speelde miljoenen spellen tegen zichzelf om de regels van StarCraft te leren en te beheersen. Het werd toen opgezet tegen de mens en veegde DeepMind's eigen amateurspelers voordat het tegen wereldkampioenen ging.

Toen AlphaStar TLO en MaNa versloeg, twee van 's werelds beste spelers, was er reden om aan te nemen dat de kunstmatige intelligentie-industrie een mijlpaal had bereikt. In een blogpost noemde DeepMind AlphaStar "een stap vooruit in onze missie om intelligente systemen te creëren die ons op een dag zullen helpen nieuwe oplossingen te ontsluiten voor enkele van 's werelds belangrijkste en meest fundamentele wetenschappelijke problemen."

Maar toen kwamen de kritieken.

Een oneerlijk voordeel

Critici beweren dat AlphaStar verschillende kenmerken heeft waardoor het een oneerlijke tegenstander is tegen mensen.

Ten eerste is AlphaStar razendsnel. DeepMind-ingenieurs zeggen dat ze AlphaStar hebben gehandicapt om te voorkomen dat het meer acties uitvoert dan een mens zou kunnen doen. Maar menselijke spelers klikken veel op spam, of impulsieve acties die geen waarde hebben of achter hen denken.

Wanneer spelers bijvoorbeeld hun eenheden willen bevelen om naar een locatie te gaan of een vijand aan te vallen, klikken ze vaak herhaaldelijk op dezelfde locatie of op een traject naar de bestemming, omdat het een vals gevoel geeft dat klikken die actie zal versnellen. In werkelijkheid voeren de eenheden alleen het meest recente commando uit en negeren eerdere commando's. Daarentegen is elke beweging van AlphaStar precies.

Critici beweren dat de mismatch AlphaStar het spel op een bovenmenselijke manier laat beheren. In een groot gevecht waarbij veel eenheden betrokken zijn, kan AlphaStar bijvoorbeeld elk commando aan elk van zijn eenheden met snelheid en precisie geven die onmogelijk zou zijn voor zijn menselijke tegenstanders. In een analyse van de prestaties van AlphaStar beschreef Timothy B. Lee van ArsTechnica enkele scenario's waarin de snelheid en precisie van AlphaStar hem een ​​oneerlijk voordeel opleverden.

Andere analisten hebben erop gewezen dat AlphaStar meer informatie ontvangt dan menselijke spelers. De versie van de bot die MaNa en TLO versloeg, had toegang tot de hele kaart, in tegenstelling tot het zien van de waarde van een monitor als slagveld als een menselijke speler. Maar het werd nog steeds beperkt door "mist van oorlog", wat betekent dat het geen informatie kon halen uit de gebieden waar het geen actieve eenheden had.

Weer anderen bekritiseerden de grenzen van AlphaStar: het kon alleen spelen als Protoss, een van de drie races in StarCraft, en in slechts een van de vele maps van het spel. Met een nieuwe race en map zou AlphaStar waarschijnlijk verliezen van menselijke amateur-tegenstanders omdat het, vanuit het perspectief van de AI, zou zijn als het spelen van een totaal ander spel.

Wat is fair play?

DeepMind heeft nog steeds geen technische details vrijgegeven, maar sommigen vermoeden dat AlphaStar in plaats van onbewerkte pixels te moeten verwerken zoals mensen, via API's (applicatie-programmeerinterfaces) toegang tot onbewerkte gamegegevens heeft gehad.

bedankt! maar dat zegt niet of de specifieke software die won tegen experts pixels of voorbereide APi-dingen gebruikte, die beide beschikbaar zijn, maar heel anders

- Gary Marcus (@GaryMarcus) 31 januari 2019

Ars 'Timothy B. Lee komt tot deze conclusie: "De ultieme manier om het speelveld te egaliseren is om AlphaStar exact dezelfde gebruikersinterface te laten gebruiken als menselijke spelers." Dit betekent dat, net als een menselijke speler die naar een computerscherm staart, de AI alleen toegang heeft tot de grafische afbeeldingen van het spel en toetsaanslagen, muisklikken en scrolls moet simuleren in plaats van interactie met het spel via API-aanroepen.

Dit zou een redelijk punt zijn als we verwachtten dat AI de menselijke hersenen en zintuigen exact zou repliceren. Maar diepe leer- en neurale netwerken, die nog steeds de voorhoede zijn van AI, hebben duidelijke grenzen waardoor ze sommige van de meest elementaire menselijke functies niet kunnen reproduceren.

Diep leren is een smalle AI, wat betekent dat het heel goed is in het uitvoeren van specifieke taken zoals het labelen van afbeeldingen of het herkennen van spraak, maar het is vreselijk in het generaliseren van taken of het overbrengen van zijn kennis naar andere domeinen. Hoe meer je het probleemdomein verbreedt, hoe beperkter de mogelijkheden van de AI worden en hoe meer training het nodig heeft. Daarom kan AlphaStar niet nog een RTS-game spelen, zoals Warcraft 3 of Company of Heroes.

Het kostte AlphaStar 200 jaar aan spellen om Protoss op één niveau te beheersen. Het zou waarschijnlijk net zo veel kosten om Terran of Zerg, de andere twee races van StarCraft, te leren spelen. Een menselijke speler kan daarentegen snel de kennis overdragen die hij van het ene spel naar het nieuwe heeft opgedaan.

We zijn nog steeds tientallen jaren verwijderd (althans) van algemene AI, het type dat kan overeenkomen met de cognitieve capaciteiten van mensen. Sommige wetenschappers geloven dat we er nooit in zullen slagen het menselijk brein te reproduceren.

Maar smalle AI is erg goed in het verwerken van grote hoeveelheden informatie met zeer hoge snelheden. Daarom kan AlphaStar de hele kaart van StarCraft tegelijkertijd aan. De ontwerpers van StarCraft hadden de game kunnen aanpassen om spelers een volledig overzicht van de gamekaart te bieden, maar dat zou de spelers waarschijnlijk verwarren in plaats van helpen. Mensen kunnen ook toegang krijgen tot onbewerkte gamegegevens, maar ook dat zou niet helpen.

Mensen zijn traag in het verwerken van gegevens, maar hebben gezond verstand en abstract denkvermogen waarmee ze plannen kunnen maken en beslissingen kunnen nemen zonder volledige informatie. Daarom geven ze er de voorkeur aan een beperkt zicht op de kaart te hebben en zich te concentreren op een enkel deel van het slagveld; tegelijkertijd hebben ze een idee van wat er gaande is in andere delen van het spel en kunnen ze een algemeen spelplan ontwikkelen.

Valt AlphaStar vals?

Gezien de verschillen tussen AI en het menselijk brein, is het redelijk om te zeggen dat de critici gelijk hadden in hun beoordeling: DeepMind trok de concurrentie in het voordeel van AlphaStar door het te beperken tot een enkele kaart en een enkele race. Maar het debat over AlphaStar kan ons tot een aantal zeer belangrijke conclusies brengen.

Ten eerste moet het belangrijkste punt van het spel niet zijn om te controleren of AI kan klikken en scrollen als een mens. In plaats daarvan moeten we ons concentreren op hoe AI presteert in een spel dat onvolmaakte informatie biedt en realtime besluitvorming vereist. In dit opzicht heeft AlphaStar het behoorlijk goed gedaan.

• Waarom zou u een AI-assistent vertrouwen? Hoe zit het met een gezicht? Waarom zou u een AI-assistent vertrouwen? Hoe zit het met een gezicht?
• Het AI Industrie Jaar van Ethische Reckoning Het AI Industrie Jaar van Ethische Reckoning
• Deze AI is te krachtig om aan het publiek vrij te geven. Deze AI is te krachtig om aan het publiek vrij te geven

Ten tweede is StarCraft misschien niet de beste locatie om de strategische en planningsmogelijkheden van AI te testen. Zoals een analist opmerkte: "StarCraft II is een spel dat kan worden verbroken door mechanische perfectie." Dit betekent dat AI zijn slechte strategische vaardigheden kan compenseren met zijn bovenmenselijke snelheid en chirurgische precisie.

Ten slotte zijn AI en menselijke intelligentie zo verschillend dat het waarschijnlijk onmogelijk zou zijn om een ​​gelijk speelveld tussen de twee te creëren. De kleinste wijzigingen in de regels zouden het spel snel kantelen ten gunste van de ene of de andere kant in een mate die de concurrentie oneerlijk zou maken.

We moeten op zoek gaan naar omgevingen en instellingen waar we AI volledig kunnen ontketenen en testen in plaats van het te vertragen met kunstmatige menselijke beperkingen. Wat kunnen mensen en AI bereiken als ze samenwerken in plaats van concurreren?