Vídeo: Don't fear intelligent machines. Work with them | Garry Kasparov (De novembre 2024)
Garry Kasparov va ser una de les primeres víctimes de la revolució d'automatització de l'AI. La seva pèrdua davant el Deep Blue d’IBM el va convertir en el primer campió d’escacs humans que va perdre un partit a un ordinador. Però Kaspàrov no està embolicat; el seu llibre, Deep Thinking , explora com la IA pot ajudar-nos a ser més humans.
Dan Costa: Després d'una carrera jugant a escacs i lluitant a Deep Blue, des de llavors heu convertit en un expert especialista en escacs. Com voleu que la gent entengui la intel·ligència artificial?
Garry Kasparov: he de confessar que conec els límits de la meva ignorància. És per això que estic encantat de parlar de coses en les quals tinc confiança en la meva pròpia experiència, i crec que tinc cert coneixement sobre les relacions entre màquines i màquines i podria parlar amb alguna autoritat sobre els resultats futurs.
A més, crec que encara estem en una edat primerenca de l’IA i hauríem de debatre fins i tot alguns termes. Es tracta de semàntica, és de filosofia i sempre dic que la gent creu que estem a l’era Windows 10, mentre encara estem tots a MS-DOS.
En aquest moment, és molt important entendre, realment, "Què és AI? Quan diem AI, què volem dir?" Perquè si pregunteu a 10 experts sobre IA, aposto que obtindreu 11 o 12 respostes. Hi ha força desacord.
Encara hi ha detalls, però crec que, en general, ho reconeixem bé, hi ha un grup de persones que anomenarem optimistes, davant la gran multitud de persones que practiquen la vida. D’alguna manera, el públic està més disposat a acceptar escenaris entre mans, crec que és el nostre instint de tenir por al futur, que també és interessant perquè quan es remunta als anys 50 i 60, la ciència-ficció era molt optimista. Tot es tractava de nosaltres, només de treballar amb màquines.
Ara, quan ens fixem en els 70, 80, 90, passem a la visió distòpica. Es tracta de terminadors. Es tracta de Matrix, i ara el gènere de ciència-ficció està gairebé mort perquè es tracta de fantasia, de màgia. La gent té molta por a parlar del futur perquè no estem segurs de què passarà allà. Crec que simplement hauríem de reconèixer que l’IA no és una vareta màgica, però no és un terminador. No és un prevere de la utopia o la distopia. És una eina. És una cosa que hauríem de trobar.
No és obrir portes de l'infern, però no és un paradís. No és una solució per a tot. No és una salvació. Mirem els problemes de la Terra i la meva preocupació més gran avui en dia no es tracta de robots assassins o d’una mena de realitat virtual que pugui arruïnar el nostre sentit de la realitat, sinó que es tracta d’actors dolents. Es tracta de terroristes. Es tracta de l’espai rupestre amb aquesta tecnologia per malmetre’ns. Sempre dic que la gent… té el mal monopolista. Aquí crec que ens hauríem de concentrar, però també hauria de reconèixer que l’IA podria fer tantes coses fantàstiques per a nosaltres perquè el que la gent dirà: "Oh, AI crea nous reptes. L’AI podria treure moltes feines". Exactament. Això és el que ha passat amb les feines a l’agricultura, les feines a la fabricació. La tecnologia pertorbadora sempre destrueix indústries però alhora crea nous llocs de treball.
Dic que la tecnologia és la raó principal per la qual molta gent segueix viva per queixar-se de la tecnologia perquè no reconeixem que la vida mitjana creixia, crec que 45, 47 principis del segle XX fins ara 75, gràcies a la tecnologia. Volem beneficis, volem comoditat i no ens fixem en el preu. Les persones compren Alexa, o baixen una aplicació de reconeixement facial i, després, es queixen de la privadesa. És hora que entenguem què esperem d’aquestes tecnologies, de manera com volem afrontar-les? Com poden millorar la nostra vida i alhora reconèixer que no hem de debatre sobre la llet vessada. Va a passar.
No ens hem de preguntar si volem o no, està passant. Crec que qualsevol intent de protegir l’agonia i d’alentir el procés, crec que és simplement contraproduent, ja que no es poden estalviar feines condemnades. Però hem de pensar en noves indústries. Com podem crear alguns llocs de treball nous que ens ajudaran a crear… un coixí financer per tenir cura dels que quedaven enrere?
Dan Costa: Va ser un dels punts que apuntava al pensament profund . L’AI ens ofereix una oportunitat perquè siguem més humans. Crec que hem de donar compte i fer que la gent se senti i entengui.
Garry Kasparov: L'informe McKinsey del mercat de treball dels Estats Units el 2016 va ser una demostració clara. Quanta poca creativitat s’ha utilitzat?
Moltes de les feines realitzem treballs repetitius, treballs prims. Les feines intel·lectuals també poden ser repetitives. També poden ser fàcilment executables per les màquines amb molta més eficàcia. Aquí, arribeu al punt que el que hem après dels jocs… dels escacs, del golf, de qualsevol altre joc, és sempre que tenim el marc creat pels humans i sabem el que fem, les màquines aniran millor.
Hem de reconèixer que en tots els sistemes tancats, les màquines seran superiors. Per cert, no hem d’entendre com ho fan. Aquest és un altre error. Volem explicabilitat. Les màquines ho podrien fer de manera molt incòmoda segons els nostres estàndards. Els avions van volar ràpidament, i l'ocell va estar batent les ales. És per això que pensar que les màquines ens superaran fins i tot en errors d’intel·lecte, fent alguna cosa que entenguis que està malament. Hauríem de buscar els resultats, i aquest és l’altre problema de les empreses perquè hi ha tantes normatives que requereixen que expliquin el que fan, però pot ser que l’explicabilitat no hi sigui si voleu buscar eficiència i productivitat.
Dan Costa: Vas plantejar el cas sobre Go, i el que va fer que el Go AI sigui molt més efectiu és quan es va ensenyar a jugar. No tenia unes normes imposades per l'home.
Garry Kasparov: Ara és el mateix que els escacs. Un cop més, el futur de les relacions de missions humanes serà molt dels propis humans que actuaran com a pastors, perquè haurem de trobar la manera de crear aquests sistemes fantàstics, les àrees d’intel·ligència estreta, on les màquines faran la feina molt millor que qualsevol humà.. Després, per veure com es connecten. Són àrees d’intel·ligència estreta a camp general, de sistema obert. De nou, sona fàcil, però crec que és un gran repte, perquè la sala dels humans i les seves relacions amb les màquines podrien reduir-se cada cop més. Fins i tot potser duren alguns decimals, però no importa. Podria ser molt més eficaç perquè hi ha tant poder. La canalització o canviar la direcció per un 0, 1 per cent d’un grau d’aquest angle podria tenir una diferència massiva i massiva, a un objectiu a una milla de distància.
Dan Costa: Una de les coses que més em preocupa de la IA és que els bons sistemes d'AI estan impulsats per molta quantitat de dades i algorismes reals. Si ens fixem en qui té la majoria de les dades d’aquest espai ara mateix, és de gran tecnologia, són els governs estatals. Com veus el paper de l’individu en aquesta revolució de l’AI? Perquè sembla haver-hi certa asimetria d’accés a aquestes noves tecnologies i diferents motivacions.
Garry Kasparov: Sí. No podia estar d’acord més. Tenim aquest problema i crec que el públic reconeix aquest problema, però encara no és la pressió suficient dels governs per imposar regles molt estrictes i mesures molt punitives a les corporacions que violen la privadesa.
Una de les meves preocupacions com a president de la Fundació dels Drets Humans és que les regles difereixen entre el món democràtic i el que no té lloc. Em sembla molt preocupant que aquests gegants multinacionals, com Google, Apple, Microsoft, Facebook, apliquin regles molt diferents als seus clients a Amèrica o Europa i als que no van tenir la sort de néixer al món lliure i viure a La Xina, Rússia i Turquia -que alliberar les dades de les activitats socials podria ser, literalment, una qüestió de vida i de mort. Crec que aquest és el pas número u, però també hauríem de reconèixer si es produeixen dades, es recopilaran.
Estic segur que hi ha moltes maneres en què els governs podrien limitar l’ús d’aquestes dades. A més, crec que és l’avantatge de la part pública perquè després del testimoni de Mark Zuckerberg al Senat dels Estats Units, que vaig trobar… va ser una mostra increïble de desconeixement per part dels legisladors nord-americans. No podien fer bones preguntes durant cinc hores; el tenien en un seient calent i era un malbaratament. No vaig veure indignació pública. Una oportunitat tan gran ha estat perduda.
El simple consell, "Dividim-los". No és un Standard Oil. Si només comenceu a dividir (i odio els monopolis), però tindreu molts i molts googles amb dades repartides. Hauríem de trobar una manera d’apoderar els individus. No conec les tecnologies blockchain, però probablement aquesta és la manera d’ajudar les persones a controlar les seves pròpies dades i el seu propi futur. Crec que encara hi ha un moment en què és el concepte original d’internet, xarxa social. Ara, de sobte, són les xarxes socials. La gent no ho reconeix. No és una diferència semàntica.
Dan Costa: està ingressat d’una manera totalment diferent.
Garry Kasparov: Es tracta de connectar gent. Es tracta de la idea de com ajuntar-nos Com emprar a l’individu, obtenir accés a dades i produir alguna cosa que pugui beneficiar-lo o ella i només formar part d’aquest sistema global. Les xarxes socials són diferents, tu ets l’orient. Ara ets… l’objectiu de les grans corporacions. Com podem tornar a aquest concepte de xarxa social? No tinc solucions, confesso la meva ignorància sobre solucions tècniques, però sé que aquesta és exactament la filosofia que és la pregunta correcta que cal fer. Crec que el públic no entén la gravetat d’aquest repte.
Dan Costa: ets un ciutadà rus...
Garry Kasparov: També ciutadà croat, tinc un passaport E, és així com viatjo.
Dan Costa:… que viu als Estats Units, però heu escrit molt sobre la propaganda, els seus efectes i els seus poders i sobre com l'utilitza el govern rus. Aquí als Estats Units, ara tenim un univers mediàtic de Facebook, Twitter i Google, que és gairebé com una màquina de propaganda privada a la qual poden accedir els governs, les empreses individuals. De nou, com algú que ha tractat i entès aquests problemes, quins consells teniu per als Estats Units? A mesura que ens movem cap a aquest sistema, on ja no podem creure el que veiem en línia.
Garry Kasparov: Mira, he estat davant el creixement de la indústria de notícies falses i fàbriques de troll a la Rússia de Putin des del començament d'aquest segle. Al voltant del 2004-2005, els experts en propaganda de Putin, els nois de KGB, van prendre una decisió fidel de no seguir la Xina pels tallafocs. Però més aviat, creant els falsos llocs web d’internet que contenen molta informació real d’aquestes peces verinoses. En lloc de tenir la portada d’un diari propi, la història que tothom ha de seguir, la línia del partit, podríeu difondre-la en molts trossos, en desenes de peces. Poseu-lo en un paquet embolicat amb moltes històries de veritat.
No és tan senzill com dir, Garry Kasparov és un enemic de l’estat. No, algú va dir que Garry Kasparov és un enemic de l'estat, però algú més va dir que no, però era un gran jugador d'escacs, però probablement ara estava infiltrat per la veu i la propaganda. Algú dirà, no, no, no, és un bon noi. De manera que tota la pàgina de comentaris podria ser falsa.
Dan Costa: Els robots estan discutint amb els robots.
Garry Kasparov: Els bots i s’ho passen molt bé, és per això que un dia quan Putin va atacar les eleccions nord-americanes, va tenir més de deu anys d’experiència en aquestes indústries. Treballant a Rússia, als països veïns amb grans comunitats russes a l'est d'Europa, a l'Europa occidental.
Al meu llibre, Winter Coming: Why Vladimir Putin and the Enemies of the Free World , 2015, deia que només era qüestió de temps. No és si, sinó quan i on atacaria. Perquè de nou, ja han construït aquesta màquina i és relativament barat. Segueix sent milions de dòlars d'inversió, però en comparació amb la intervenció militar oberta, l'enfrontament… és relativament barat. I també, s’adaptava a la mentalitat KGB de Putin, al seu fons KGB, a l’espionatge. Així que, en comptes d’un enfrontament obert, sempre busca una oportunitat per infiltrar-se. Són mètodes de judo clàssics, utilitzeu els punts forts del vostre oponent contra ell. Per Putin va ser brillant perquè es tractava de la tecnologia occidental i del món lliure, i es podia utilitzar per minar el mateix fonament del món lliure.
Dan Costa: Tens algun consell sobre com sortir d’aquesta situació? Com que sembla que està passant, realment no s’ha aturat.
Garry Kasparov: No, i no s’aturarà. Per a qualsevol que tingui experiència il·limitada, la resposta és òbvia. La defensa és una proposta perdedora. En seguretat cibernètica, podeu crear les defenses, però al final del dia l’única resposta és la dissuasió. És com si la guerra freda agradi o no li agradi, és una ciber guerra freda. Estem sota constants atacs de Putin o d’altres enemics del món lliure. Ja siguin estats com Iran, Corea del Nord o Xina, o organitzacions quasi estatals que també utilitzen els mateixos mètodes.
Només la dissuasió podria detenir aquests atacs o limitar-los. Perquè entendran les conseqüències de ser excessivament agressius. Tractant de protegir els nostres punts febles aquí i allà, és important que construïm algunes defenses. És important que sensibilitzem el públic sobre les amenaces, però no funcionarà. Pel que fa a les indústries de notícies falses, hi ha molts reptes dins de la nostra societat lliure, que van permetre la indústria de les notícies falses. Es tracta d’una por a la partidisme, es tracta de l’absència d’un diàleg entre persones amb idees ideològiques diferents que ajudessin Putin i altres enemics del món lliure a utilitzar les falses notícies per engolir aquest buit.
Dan Costa: Així que, ara treballa amb Avast, una empresa amb la qual coneixen els lectors de PCMag. Quins consells atorgueu als consumidors per augmentar el seu nivell de defensa?
Garry Kasparov: Pel que fa al nivell de defensa individual, és molt fàcil. El primer missatge és als propietaris d’habitatges intel·ligents. Em va sorprendre una mica perquè, fins i tot en aquest sud-oest, vaig parlar amb molta gent, gent amb una bona experiència no entén com de vulnerables són les cases intel·ligents actuals.
La llar nord-americana, 39 milions tenen almenys un dispositiu vulnerable. La gent no entén que un dispositiu vulnerable faci que tota la llar intel·ligent sigui vulnerable. Perquè els punts forts de la vostra piràmide de defensa depèn de l’enllaç més feble. Una poma dolenta fa que tot el paquet es podreixi.
La majoria dels problemes el creen els fabricants d’electrodomèstics tradicionals (rentadores, màquines de cafè) perquè no hi ha experiència en la construcció de sistemes digitals. Però ho han de fer ara. A un cost molt baix, perquè és una competència de preus, però volen formar part del sistema. La majoria dels sistemes no tenen defenses adequades. Crec que necessitem… la supervisió del govern, hem de fer pressió per obligar-los a complir certs estàndards.
Però també cal haver de proporcionar manuals separats, perquè ningú llegeix manual de 100 pàgines. A la pàgina 85, llegeixes alguna cosa sobre aquestes coses digitals, la gent no ho llegeix. La majoria utilitzen el mode predeterminat, que és, naturalment, una invitació oberta per a un pirata informàtic. Crec que és molt important que la gent comenci a fer el que jo anomeno higiene digital, perquè ens rentem les mans, ens raspallem les dents, ho fem automàticament. No ens salva de malalties greus, però es pot evitar el 90 per cent dels problemes. Igual que els nostres dispositius mòbils connectats, encara hauríem de protegir-nos dels virus, però es poden fer moltes coses demostrant que ens importa perquè és tan important com la nostra salut.
Dan Costa: Per tant, vull fer-vos les tres preguntes que em plantejo a tothom que vingui al programa. Hi ha alguna tendència tecnològica que et preocupa i que et mantingui al dia?
Garry Kasparov: No, sóc un optimista incorregible. Em preocupa la gent dolenta, no la mala tecnologia, perquè cada tecnologia té un doble ús. Podeu construir un reactor nuclear, però abans malauradament, creeu una bomba nuclear. És lamentable que la destrucció sigui més fàcil que la construcció. És per això que a la història sempre sabem que s’ha provat una nova tecnologia que es produeix una pertorbació.
Dan Costa: No us preocupa que passarà el mateix amb AI? Em serviré per destruir abans que s’acostumi a crear?
Garry Kasparov: Una vegada més, no es tracta de robots assassins. Es tracta de dolents, actors dolents al darrere. La gent dirà oh, hauríem de pensar en una IA ètica. L’AI no pot ser més ètica que els seus creadors. No entenc què significa, com l'electricitat ètica. Si tenim tendència a la nostra societat, l'AI la segueix. Veu una disparitat, ja sigui racial, de gènere o de disparitat de renda. Ho té en compte; AI és un algorisme basat en probabilitats. D’alguna manera, queixar-se d’una IA ètica és com queixar-se d’un mirall perquè no ens agrada el que veiem allà.
Dan Costa: Hi ha alguna tecnologia que utilitzeu cada dia que encara ens inspira meravella?
Garry Kasparov: No. Per a mi, la veritable meravella del món és l'accés a la informació. Com que puc recopilar dades, és més fàcil. Vaig créixer a la Unió Soviètica i la informació era escassa, no hi havia gaires llibres. Ara, el cas és que puc Kindle… només em fa sentir bé. Ara hi ha tanta tecnologia que ens envolta que ens ajuda a millorar. A més, el que és sorprenent, la gent es queixa, oh, què podem fer? No es pot inventar res de nou… i dic que espereu un segon. Mireu aquest dispositiu a la butxaca, anem enrere en 1976 o 1977, el supercomputador Cray va ser com un miracle. Què és aquest dispositiu? Deu mil vegades més poderós?
- AI és (també) una força per al bé AI és (també) una força per al bé
- Aquesta IA és massa poderosa per alliberar-se al públic Aquesta AI és massa poderosa per publicar-la
- Aquesta IA prediu el desplaçament en línia abans que passi, aquesta IA prediu el desplaçament en línia abans que passi
Dan Costa: Més potent que la llançadora espacial.
Garry Kasparov: Exactament. Tenim tant poder i… vull que comencem a somiar de nou en gran. Perquè ara tenim aquestes oportunitats. Em sap greu per la cursa espacial, vam aturar l'exploració espacial, l'exploració en oceà profund Tornem enrere, intentem fer coses grans. Fa quatre anys vaig fer un discurs d’inici a la Universitat de Saint Louis a Missouri. Dirigint-me als estudiants graduats, vaig dir que heu de reviure l’esperit d’exploració, sobretot perquè Sant Lluís és la porta a l’oest i, avui en dia és més segur volar a Mart que no pas que Colom creués l’Atlàntic. Perquè, almenys, coneixem la distància i tenim el mapa. Espero que els nostres fills, els nostres néts… seran més agressius en els seus somnis, en utilitzar aquesta fenomenal tecnologia per fer-nos avançar perquè penso que, confessem, admetem aquest fet important; la nostra generació s’ha alentit en la nostra recerca de descobrir les meravelles del món, l’espai o els oceans.
