Avantatge injust: no espereu que jugui com un ésser humà

Les recents exploracions de DeepMind en el desenvolupament d’intel·ligència artificial que pot vèncer a jugadors de classe mundial a StarCraft II van causar molta revolada. Si bé DeepMind la va anomenar un gran avenç, altres van argumentar que era trampa, injusta i sobrehumana.

Però el que indica tot el debat és que potser hem de canviar el context en què discutim i avaluar les capacitats de la IA i deixar de comparar el seu joc amb el nostre.

AlphaStar, el bot de reproducció StarCraft de DeepMind, utilitza l'aprenentatge profund, un camp popular de la IA en el qual els programadors desenvolupen el comportament dels seus models d'AI donant-los un nombre insensat d'exemples. AlphaStar es va formar per primera vegada en una gran base de dades de dades de jocs humans llançada per Blizzard, jugant milions de jocs contra si mateix per aprendre i dominar les regles de StarCraft. Aleshores va ser enfrontat contra humans, arrasant els propis jugadors aficionats de DeepMind abans de passar contra els campions del món.

Quan AlphaStar va vèncer TLO i MaNa, dos dels millors jugadors del món, hi havia motius per creure que la indústria d’intel·ligència artificial havia superat una fita. DeepMind va publicar en un missatge al bloc AlphaStar "un pas endavant en la nostra missió de crear sistemes intel·ligents que algun dia ens ajudaran a desbloquejar solucions noves per a alguns dels problemes científics més importants i fonamentals del món".

Però després van venir les crítiques.

Un avantatge injust

Els crítics afirmen que AlphaStar té diverses característiques que el converteixen en un adversari injust contra els humans.

En primer lloc, AlphaStar està creixent ràpidament. Els enginyers de DeepMind asseguren que van disminuir AlphaStar per evitar que realitzés més accions del que un humà podria realitzar. Però els jugadors humans fan molta brossa fent clic, o accions impulsives que no tenen valor ni pensen al darrere.

Per exemple, quan els jugadors volen ordenar que les seves unitats es desplacin a una ubicació o ataquin a un enemic, sovint fan clic repetidament sobre la mateixa ubicació o en una trajectòria cap a la destinació, ja que dóna una falsa sensació que el fet de fer clic permet accelerar aquesta acció. En realitat, les unitats només executen la comanda més recent i ignoraran les anteriors. En canvi, tots els moviments d'AlphaStar són precisos.

Els crítics defensen que el desajust permet al AlphaStar micromecenatge del joc d'una manera sobrehumana. Per exemple, en una gran batalla on participen moltes unitats, AlphaStar pot donar comandaments individuals a cadascuna de les seves unitats amb una velocitat i precisió que serien impossibles per als seus oponents humans. En una anàlisi del rendiment d'AlphaStar, Timothy B. Lee d'ArsTechnica va descriure alguns escenaris en què la velocitat i precisió d'AlphaStar li aportarien un avantatge injust.

Altres analistes han assenyalat que AlphaStar rep més informació que els reproductors humans. La versió del bot que va batre MaNa i TLO va tenir accés a tot el mapa, a diferència de veure com un jugador humà valia la pena un monitor com un jugador humà. Però encara es limitava a la "boira de guerra", cosa que significa que no podia extreure informació de les zones on no tenia unitats actives.

Uns altres van criticar els límits d'AlphaStar: només podia jugar com Protoss, una de les tres curses de StarCraft, i només en un dels molts mapes del joc. Tenint en compte una nova raça i mapa, AlphaStar perdria probablement davant els adversaris humans amateurs perquè, des de la perspectiva de l'AI, seria com jugar a un joc totalment diferent.

Què és Fair Play?

DeepMind encara no ha publicat detalls tècnics, però alguns sospiten que en lloc d’haver de processar píxels en brut com ho fan els humans, AlphaStar podria haver tingut accés a dades de joc en brut mitjançant les API (interfícies de programació d’aplicacions).

gràcies! Però això no diu si el programari particular que va guanyar contra experts utilitzava píxels o coses API preparades, que estan disponibles, però són molt diferents

- Gary Marcus (@GaryMarcus) 31 de gener de 2019

Ars 'Timothy B. Lee arriba a aquesta conclusió: "La manera definitiva de nivellar el terreny de joc seria fer que AlphaStar utilitzés la mateixa interfície d'usuari que els jugadors humans". Això vol dir que, igual que un reproductor humà mirant un monitor d’ordinador, l’IA només tindria accés als gràfics del joc i hauria de simular cops de tecla, clics del ratolí i desplaçaments en lloc d’interaccionar amb el joc mitjançant trucades de l’API.

Aquest seria un fet just si esperéssim que l'AI replicés exactament el cervell i els sentits humans. Però l’aprenentatge profund i les xarxes neuronals, que són encara l’avantguarda de l’IA, tenen límits diferents que impedeixen reproduir algunes de les funcions humanes més bàsiques.

L’aprenentatge profund és una IA estreta, cosa que significa que és molt bo per realitzar tasques específiques com ara l’etiquetatge d’imatges o el reconeixement de la parla, però és terrible per generalitzar tasques o transferir els seus coneixements a altres dominis. Com més s’amplia el domini problemàtic, més limitada és la capacitat de l’IA i més formació necessita. Per això, AlphaStar no podrà jugar un altre joc d’RTS, com Warcraft 3 o Company of Heroes.

També va requerir AlphaStar 200 anys de jocs per dominar Protoss en un sol nivell. Probablement trigaria tant a aprendre a jugar a Terran o a Zerg, les altres dues curses de StarCraft. En canvi, un jugador humà podria ràpidament transmetre el coneixement que va obtenir d’un joc a un de nou.

Encara estem dècades lluny (almenys) de l’IA general, el tipus que pot igualar les capacitats cognitives dels humans. Alguns científics creuen que mai aconseguirem reproduir el cervell humà.

Però la IA estreta és molt bona per processar grans quantitats d’informació a tarifes molt ràpides. És per això que AlphaStar pot gestionar tot el mapa de StarCraft alhora. Els dissenyadors de StarCraft podrien haver modificat el joc per proporcionar als jugadors una visió completa del mapa del joc, però això probablement confondria els jugadors en lloc d’ajudar-los. També es pot accedir als humans a les dades del joc en brut, però això tampoc ajudaria.

Els humans som lents en processar dades, però tenen un sentit comú i capacitats de pensament abstracte que els permeten planificar i prendre decisions sense informació completa. Per això prefereixen tenir una vista limitada del mapa i centrar-se en una sola part del camp de batalla; al mateix temps, tenen la idea del que passa en altres parts del joc i poden desenvolupar un pla de joc general.

AlphaStar fa trampes?

Tenint en compte les diferències entre la IA i el cervell humà, és just afirmar que els crítics tenien raó en la seva valoració: DeepMind va equilibrar la competència a favor d’AlphaStar limitant-la a un sol mapa i una única raça. Però el debat sobre AlphaStar ens pot portar a conclusions molt importants.

Primer, el punt principal del joc no hauria de ser comprovar si la IA pot fer clic i desplaçar-se com un ésser humà. En lloc d'això, ens hauríem de centrar en el rendiment de l'AI en un joc que proporciona informació imperfecta i que requereix la presa de decisions en temps real. En aquest sentit, AlphaStar va fer una feina força bona.

• Què us faria confiar en un assistent d’IA? Què tal d'una cara? Què us faria confiar en un assistent d’IA? Què tal d'una cara?
• Any de la computació ètica de la indústria de l'AI
• Aquesta IA és massa poderosa per alliberar-se al públic Aquesta AI és massa poderosa per publicar-la

En segon lloc, StarCraft podria no ser el lloc ideal per provar les capacitats de planificació i planificació de l'AI. Com va assenyalar un analista, "StarCraft II és un joc que es pot trencar per la perfecció mecànica". Això significa que la IA pot compensar les seves males habilitats estratègiques amb la seva velocitat sobrehumana i la seva precisió quirúrgica.

Finalment, la IA i la intel·ligència humana són tan diferents que probablement seria impossible crear un terreny de joc igual entre els dos. Els canvis més reduïts a les regles inclinarien ràpidament el joc en favor d’un costat o de l’altre fins a un punt que faria que la competència fos injusta.

Hauríem de buscar entorns i configuracions on puguem desencadenar i provar AI a tot el seu potencial en lloc d’accelerar-lo amb limitacions artificials humanes. Què poden aconseguir els humans i l’IA quan cooperen en lloc de competir?