Vídeo: Ellen Ullman on Code, Conscience, and the Museum of Me (Setembre 2024)
Per a aquest episodi de Fast Forward, vaig parlar amb Ellen Ullman, autora de Life in Code, una sèrie d’assaigs que comencen el 1994 quan era programadora a Silicon Valley. Ara fa la seva vida escrivint sobretot ficció, però Ullman segueix sent un amant observador de la regió, de la indústria de la tecnologia i de com les eines que fabriquem ens canvien diàriament.
Dan Costa: les teves programacions arrels es remunten força. El 1978, vau ser un anglès major que vau decidir el canvi de programació. Per què faríeu una cosa així?
Ellen Ullman: Em vaig involucrar amb un grup fent vídeo, el Sony Portapak era una d'aquestes màquines com la PC. Aquestes coses que han estat controlades per empreses corporacions de sobte estaven a les vostres mans. Podríeu crear els vostres propis vídeos, les vostres històries. Podríeu fer la volta i mostrar-los. No hi va haver restriccions. Podríeu fer porno, etc., i va ser una època molt emocionant. Vaig aprendre que m’agradava treballar amb màquines. La possibilitat de treballar amb aquestes màquines per fer canvis socials i art era intrigant. Al final, vaig deixar Ithaca per anar a San Francisco.
Així que per impuls, el vaig comprar. I després hi va haver el problema de la programació. És una mica més difícil que començar amb un Portapak, premeu el botó. Ho vaig trobar difícil, però el bo. Crec que qualsevol que vulgui entrar en enginyeria de programari ha de sentir: "Sí, això és dur, però també el plaer de la caça". Si no hi ha cap sensació de seducció sobre la resolució de problemes, serà una experiència molt infeliç.
I la gent d’avui no ho entén ben bé en aquell moment, quan va comprar un TRS-80 a Radio Shack, no ho va fer gaire. L’has de fer fer coses. Heu d’aprendre a utilitzar-lo, i és una mena de la invitació a la qual vau rebre?
Sí, hi havia una pantalla en blanc. Aleshores ja era una televisió obsoleta. Tenia un teclat i gravàveu programes en un casset de reel-to-reel. I crec que va aguantar potser 4K. Aquesta era la mida màxima del programa. I tenia el llenguatge BÀSIC. I no sé si la gent coneix la diferència entre un llenguatge interpretat i un compilat. Interpretat vol dir que només l’executa davant vostre. Així que, ja ho sabeu, introduïu dos punts, ja ho sabeu, dos més dos i us mostra quatre. Això és fàcil, fent que les primeres petites coses vagin passant. Fer qualsevol cosa significativa va ser molt difícil, sobretot perquè el BASIC precoç tenia moltes trampes. Igual que podríeu dir "Anar a", però automàticament no enrere. De manera que podríeu perdre la vostra forma en l’enredat i es coneixia amb el nom de codi Geddy. Un cop més, va ser frustrant i intrigant.
Quan mirava el llibre i parles d’aquells primers anys, el que em crida l’atenció és la gent amb què treballaves. Gairebé sembla més una col·lecció d'artistes que no pas enginyers i programadors de hardcore. Es pot parlar una mica de l’esprit de corps o de la gent amb la qual treballava?
Sí. Si mireu enrere i –sabeu qui és la marca Stewart, el catàleg de Lectronic de Whole Earth, The Well–, va ser una de les primeres comunitats en línia. I la gent estava atreta per ella. Ja coneixeu el llibre de John Markoff, Què va dir el dormidor ?
Segur.
Ja sabeu, picapedrers i abandonadors i gent que estava boja i teníeu ganes de passar-ho bé. Va ser l'ambient que em va atraure, com el Portapak. Es tracta de persones que es divertien i exploraven. I les primeres persones amb qui he treballat quan he de ocupar-me i guanyar-me la vida eren també. Una antiga ballarina sufí, una dona que feia una dissertació i història de l'art, un noi de França que fumava Gauloises, tot i que no estava permès fumar. I em deia: "Un ordinador mai em va dir que deixés de fumar". I aquest és el tipus de gent amb què vam treballar.
En algun lloc al voltant del '83 al '86, es va canviar. Informàtica es va convertir en un títol comú, Enginyeria de programari. I ens van unir un grup molt seleccionat per a homes, que havia estudiat Informàtica com a títol de grau. I l’ambient va canviar completament. La gent era més difícil de parlar. A la meva experiència, no van ser tan ben arrodonits. Es tracta d’una generalització molt àmplia.
Vaig treballar amb homes molt ben arrodonits. Podeu citar Shakespeare amb el millor d’ells. Però tot aquest ambient va canviar. Suposo que és perquè la professió havia de perdre la innocència.
Com us heu inspirat per fer codificació?
Bé, de nou va ser, "Uau, què és això?" Ja sabeu, quan vaig començar el meu primer programa real, hi va haver una mica de plaer. "Wow, funciona. Jo ho vaig fer." Va passar de res a alguna cosa. I va ser com la primera vegada que vaig arreglar un carburador. Ja ho sabeu, vosaltres desprèn les coses. Els tornes a muntar i el cotxe arrenca, oi? Així que aquest és un plaer rar, i és difícil arribar-hi. Una vegada que vaig tenir aquesta sensació, era una mica com una droga, ja sabeu. Tens un valor elevat i el perds, i el recuperes o ho intentes.
En el llibre en parlem molt. Dius, tothom hauria d’aprendre a codificar perquè és difícil. I aquesta dificultat serà, finalment, la sensació de satisfacció que obteniu.
No estic dient a tothom que aprengui a codificar. Com he dit, cal que s’exposi a la gent. La qüestió és desmitificar el codi. Estem envoltats d'algorismes que ens controlen, i això no és cap novetat per a qui acaba de piratejar Equifax, per exemple. Un terç de la població adulta dels Estats Units. Per tant, la qüestió és saber prou que està escrit per gent i que les pot canviar.
Hi ha un regidor al Bronx que proposa un projecte de llei en què l’entitat contempla tots els algoritmes que utilitzen i passen des de les tasques de la policia fins als horaris de recollida d’escombraries a la escola que van els nens i busquen biaix. en ells. Aquest és el procés que espero, que la gent del gran públic comenci a veure que es poden canviar aquestes coses. Tenen biaix i es pot abordar el biaix.
De manera que això ens porta a un dels seus punts principals, i és que el codi en si conté parcials en contingut. I crec que, amb algoritmes, es porta a un nivell ben diferent. Però, en funció de qui hagi escrit el codi, reflectirà certs biaixos polítics, biaixos culturals. Simplement es pot parlar una mica de com s'incorpora en el codi?
Doncs bé, els enginyers de programari no determinen quin codi serà escrit. Això prové de la part superior. I la gent de la part superior és un home molt ric, excessivament blanc i el seu desig és el que pensen que és fantàstic per a la societat o quines són les tasques.
Per exemple, una aplicació de lliurament senzilla ha seleccionat codis postals. Què vol dir això? Que no podem guanyar diners amb persones amb ingressos marginals? O no volem enviar cotxes allà dalt? És un exemple senzill. Entra, tot és de compres? És això el que la gent necessita? Quin tipus de mirada social expressa això?
Es tracta d'algorismes fins i tot més profunds. Acabo de llegir un article de Phillip Rogaway. El va lliurar el 2015 i es tracta de les implicacions morals de la criptografia. I parla de la criptografia com a poder. Per a qui ho escriu? Per a què l’utilitzen? D'aquesta manera, es pot veure des de l'aplicació més senzilla, fins a la part inferior del que es considera matemàtic, el biaix integrat.
Crec que hi heu posat el dit quan parleu de "Tot és de compres?" perquè, certament, tot està motivat pel comerç ara, i la raó per la qual heu d’orientar determinats codis postals és perquè podeu guanyar diners en aquests codis postals. I això dóna forma al producte i després es converteix en aquest cicle de reforç. El mateix passa amb tots els instituts. Aquesta és la raó per la qual Amazon va comprar Whole Foods i no Stop & Shop. És per aquests prejudicis demogràfics i només és el mercat laboral. Però les forces del mercat són ara mateix que ara determinen el desenvolupament tecnològic.
Tinc un exemple d'alguna cosa que crec que és meravellós. Hi va haver un grup parlant sobre: "Això està codificant des de la base." No, la gent no està asseguda als seus espais tancats de vidre on treballem, i decideix que "sóc sense ànim de lucre i això beneficiarà la societat i canviarà el món". Es tracta d’un grup que treballa sobre el terreny amb treballadors no documentats.
I així, es van apropar a un grup. Un cop més, va arribar als codificadors des de terra. I em van dir: "Pots construir-nos alguna cosa?" La majoria d'aquests nois tenen aplicacions per a mòbils, l'aplicació conserva l'anonimat, per descomptat, i pot incloure aquesta matrícula. "Ho busqueu i no feu feina". Es podria preguntar, algú guanya diners? Finalment, sí, perquè aquestes persones que estan desesperades per la feina no se les enganya tant.
És com un sistema de reputació. El mateix tipus de reputació, el mateix que es construeix a Uber, on els pilots es classifiquen i els conductors tenen una qualificació i, idealment, els millors conductors i els millors motoristes seran recompensats d'alguna manera. És un exemple fascinant. Tens algun consell per a persones que comencen a codificar o busquen explorar-lo com a opció professional?
Consells als usuaris que busquen explorar-lo? En primer lloc, hi ha reunions a tot arreu. No, no hauria de dir arreu. També estan en codis postals seleccionats. Hi ha milers i milers a la zona de la badia, on podeu registrar-vos i reunir-vos amb altres persones que us ensenyaran a codificar. N’hi ha per a dones especialment. Això és de gran ajuda.
Vaig fer una recerca d’altres llocs del país. Buffalo, Nova York, Utica, Nova York. I no hi havia res. Aleshores, què fem amb això? Així doncs, massivament els cursos en línia semblen una possibilitat. I una de les coses sobre les que vaig escriure, i que vaig fer, va ser, matricular-me per auditar-la. I vaig veure tots els mateixos biaixos en els professors.
Feien supòsits sobre la cultura nord-americana. I bé, voleu guanyar mil milions de dòlars. Un milió no seria suficient per a tu. Tot el mateix. Crec que la gent pot descarregar aquests vídeos, fer-se un grup junts, ja ho sabeu. Tens la llengua al tipus que t’explica tonteries socials. I ajudeu-vos mútuament i apreneu a codificar.
També hi ha acadèmies de codis que costen milers de dòlars, i en realitat estaven tancant. Garanteixen a les persones, obtindreu tres xifres en vuit mesos. No crec que sigui una bona ruta. L’ideal seria que les escoles ho ensenyessin. I no vull dir que la codificació s’uneixi a les humanitats com a alfabetització bàsica. Crec que les persones amb humanitats han de revisar la codificació per aportar aquest coneixement de les persones que han estudiat Història i Sociologia i idiomes estrangers, com viuen altres persones al món. Porta’l a l’àrea de codificació.
Vull parlar-vos una mica sobre les xarxes socials. Al 1998, vau escriure un assaig anomenat The Museum of Me, i sento que aquesta frase s’enganxava com si es tractés d’una novetat. Però primer vau escriure el 1998 i vau dir que internet ens permetrà crear "Una bombolla de pensament privada" llegint només els llocs web que reforcen les seves creences desitjades, que és exactament on sembla que ens trobem avui.
Vostè ho va dir, que estàveu descrivint Internet en general, però les xarxes socials sembla que acaben de portar això a un nivell totalment nou. Em sap greu tenir raó sobre això. Hi havia coses que he vist passar, suposo que, al meu cor, esperaven avisos. Però, ja ho sabeu, només he escrit per a una petita publicació, Crec que això va ser probablement a Harper . D’alguna manera, per desgràcia, la generació de selfie va desaprofitar l’ article de Harper .
Bé, què llegeixen? Ja estan llegint fonts, ja ho sabeu. Així que els feeds els expliquen què passa avui. És molt difícil, per cert, seure i parlar amb vosaltres avui sobre tecnologia, un dia després que tinguem aquesta horrible matança a Las Vegas. I més de 50 persones van morir i centenars de ferits. Realment no sabem l'abast d'aquest.
I ja sabeu, les pistoles són tecnologia. El disseny industrial és tecnologia. Ja ho sabeu, solem pensar-ho com simplement telèfons i ordinadors portàtils i AI, servidors i algorismes. Però les persones dissenyen aquest aparell que permet a una pistola disparar centenars de bales amb una sola ràfega. I això realment m’atura. Ja sabeu, en dies com aquest, és difícil ser alegre. Vull dir, sóc el representant de la tristesa en general, però aquesta em va detenir particularment.
A tots els costa només passar-se el dia en dies com aquest. Però un dels punts que segueixes plantejant és que totes les tecnologies tenen aquests efectes implícits i que no són neutres, i moltes converses ètiques que envolten tota mena d’altres debats sobre política, política, qüestions socials. succeeixen a l’espai tecnològic, perquè els enginyers el construeixen, el mercat ho demana. Els dissenyadors la construeixen, l’envien i, després, vivim amb les conseqüències.
Però sembla que a cada torn, tant si es tracta de tecnologia de canons, codi de programari, accés a serveis, hem de tenir aquesta conversa sobre les conseqüències.
Aquesta seria la meva esperança. Per això vaig escriure aquest llibre, amb l’esperança d’iniciar una conversa a diferents nivells, ja ho sabeu. No quin és l’objectiu del futur. El futur és el que en feu ara, conversant. El desig humà condueix el futur. Aquesta és la nostra prerrogativa. També, per mirar al passat. Una altra raó per la qual volia tornar a mitjans dels 90 és que hem après del passat.
Simplement mirar endavant t’ensenya molt poc perquè això és tot fantasia. Però si tornem enrere i veiem com vam arribar a on som i les tendències que ens van arribar aquí, els èxits que la gent va tenir en el passat, coses que vam aprendre. Hi ha gent que vivia abans que nosaltres, que han treballat en tecnologia de la computació més que nosaltres. Entrarem 100 anys, suposo que ho sabeu, en algun moment començar amb les idees al respecte. Així doncs, espero que la gent s’aturi i s’eduqui. Mireu enrere i proveu de veure com van arribar on es troben.
Què en penses de la naturalesa de la indústria tecnològica quant a la mida dels líders? Amb Google i Amazon i Apple i Microsoft, parleu de quatre empreses que dominen absolutament indústries senceres. La indústria web, la indústria al detall i la indústria de l'entreteniment. Són aquestes empreses, hi ha alguna cosa de ser massa gran que crei el seu propi problema?
Aquesta és una bona pregunta. Sí, són massa grans. Tots hem de conviure amb ells molt de temps. I una empresa com Apple es retrata com a socialment progressista. Tot i això, aquestes empreses són profundament llibertàries. No volen que el govern els controli, excepte quan volen que el govern els hi vagi.
Mireu què passa amb totes aquestes ciutats que demanen que Amazon arribi al seu centre. "Oh, no haureu de pagar impostos durant 20 anys." Així, el govern els ajuda. Això és el que volen aquestes empreses. No volen regulació. No veig en aquest ambient polític com ho farem. No tenim un Tribunal Suprem que digués: "Són monopolis. Els destrossarem".
Aquesta és la pregunta correcta. Sí, són massa grans. Molta gent ha d’abordar el que fem des d’aquí.
Quin és el problema que tenen? Com que hi ha empreses, mai no he vist una empresa privada que hagi demanat més regulació. Quin és el risc de tenir aquestes grans empreses gegants? És que utilitzaran el seu poder de mercat per explotar els consumidors? És que no innovaran perquè tenen fonamentalment monopolis en totes aquestes diferents indústries?
Bé, explotaran els consumidors. Anem a tenir més vigilància. Hi ha més competència. Crec que no poden simplement seure i dir: "No estic fent R + D. No estic arribant a la mà". Però, tinc molta por que provingui de comprar altres empreses. Les startups tenen aquestes idees i després es compren. I després dissolen els seus excitants poders, si en tenen, en aquestes corporacions més grans.
Però aquestes empreses no poden seure i no fer res. Mireu què va passar amb Microsoft. Va quedar enrere. Mireu Intel. Intel va ser un dels gegants. Ara està al darrere. Les persones ja no utilitzen grans ordinadors i ordinadors portàtils tenen xips diferents, i no contribueixen mai al mòbil. Així que hauran d’innovar. Espero que no ho facin només comprant empreses d’altres persones i després diluint els efectes d’aquestes empreses, que sembla que passen.
Teniu un assaig sobre l’error del Mil·lenni, que la majoria de la gent haurà de tenir a Google per esbrinar què era. Però, abans de sortir a l’aire, us deia que realment estava a la sala d’informatius la nit de Cap d’Any del 1999 i ningú no sabia realment què passaria. Sabíem que els ordinadors personals probablement estarien bé, però tothom estava preocupat pel que passa a la central elèctrica amb aquest ordinador a la cambra de seguretat a la qual ningú va fer la visita en deu anys. Però, es pot parlar una mica del que va passar llavors, i quines lliçons ens poden tenir avui en dia.
Una de les coses que va ser meravelloses és per això que vaig conèixer programadors que havien escrit aquest codi als anys 60 que van dir: "Mai esperava que aquest codi estaria vivint tant de temps". L’empresa Texaco era l’única gran corporació que estava disposada a fer-se pública per dir: "No es tracta d’un engany. Això és el que estem fent. Aquests són els problemes que tenim."
I els seus esforços van ser heroics. I hi va haver petites coses locals que no es van donar a conèixer. Però, en el meu cor, sabia, parlant amb aquests programadors dedicats i caps de projecte, que anava bé perquè realment planifiquessin. La lliçó per a nosaltres ara és que encara estem utilitzant tot aquest antic codi. Tenim aquests frontals cridaners i, després, tens internet, que està realment estressat. I això és un codi molt antic.
La raó per la qual tenim tots aquests hacks és que Internet no va ser mai dissenyat per a la privadesa i l’anonimat. Va ser dissenyat per ser col·legial i obert. Ningú no va pensar en la idea que hi hauria aquests astuços tronats. Així doncs, tenim una vulnerabilitat. Tornem als servidors fent algorismes, o sigui en el sistema operatiu anomenat Linux. Linux remunta.
Si aprofundeix cada cop més en allò que hi ha darrere de les coses maques, hi ha codi antic, codi antic i codi antic. I els programadors escriuen coses que es troben per sobre de l’altre codi, i que no sempre, sovint no ho fan, entenen els detalls de les coses amb què s’està interaccionant. Així doncs, continua la lliçó.
Excel · lent. Vull parlar-vos una mica sobre AI. Sembla que estem en aquesta posició amb Internet, que té totes aquestes conseqüències no desitjades que encara estem intentant resoldre; i ara creem aquesta tecnologia totalment nova que té totes aquestes implicacions. Hi aneu a moltes empreses i disposen de sistemes AI que funcionen, que prenen decisions empresarials i que recomanen, i que literalment no saben com van arribar. No poden identificar el procés que va arribar a la conclusió. Ells només saben que funciona. Es pot parlar una mica sobre què pot suposar això?
Creuen que funciona. La tendència en aquest moment a l'AI, tota la idea d'un robot humanoide que no podem dir des d'un ésser humà ha anat realment pel camí. Demostra que és molt, molt, difícil d'entendre com funcionen els éssers humans de la seva manera. Ara és l'aprenentatge automàtic. La idea és que escriviu un algorisme. Mireu els resultats i canvia ell mateix i, després, mira els resultats i aprèn.
El que passa és que les persones que han escrit aquest algorisme original no saben què passa després de diverses iteracions. I el codi s’allunya més i més lluny de les persones que ho entenen. Així doncs, és una mena de monstre, ja ho sabeu, en el sentit que funciona pel seu compte. I sí, funciona, però, què li falta?
Funciona en dades que tenen biaix. Té un biaix en primer lloc, respecte al passat. Hi ha errors. De manera que el que s’aprèn és també esbiaixat i propens a errors. Em preocupa l'AI en aquest sentit, especialment la idea d'automòbils. I que estem parlant de danys humans reals. I podríem parlar massa temps d’això, així que millor deixaré.
La majoria de les previsions diuen que els automòbils de conducció automàtica seran més segurs que els conductors humans, cosa que crec que els conductors humans són una gran part del problema que hi ha a les carreteres.
Els conductors humans tenen una història de 100 anys de conduir cotxes. Heus aquí el que podem fer els humans: no només es fixen en la proximitat que els envolta. Sabeu quan conduïu, fins i tot si sou inadequats, si teniu una mica d’experiència, podeu veure per davant, un quart de quilòmetre, mig quilòmetre per un turó que està congestionat, i haureu d’anar a punt per aturar-vos..
Podeu llegir la personalitat dels cotxes. Algú arriba pel carrer més lluny. Veieu la marca, el model, l’agressivitat del conductor. Quan el cotxe es mogui, ja sabeu que us anirà tallant. No espereu cap alarma de proximitat. Els éssers humans saben de manera que, amb un flaix, o bé vaig a tenir un xoc o vaig a entrar en ràbia amb aquest cotxe. O vaig a dir: "D'acord, endavant".
Ara, anem a les formes en què es poden bloquejar els cotxes que s’auto condueixen. Un cop més, confien en les interfícies màquina-a-màquina. I hi haurà errors en aquest codi, període. Així es comunicaran per Internet o per alguna xarxa sense fils. Hi ha una gran vulnerabilitat. Hem vist que els cotxes que funcionen sense fils ja han estat piratats per pirates informàtics blancs per mostrar-los: "Mira, puc fer que el cotxe es quedi fora de la carretera".
Com es protegeix això? I també hi ha la interfície entre diferents marques i models. Ara, creieu que tothom conduirà un Prius? No, els humans volem un tipus de rendiment diferent. De manera que tornarà a haver-hi competència per com funcionen els cotxes, com es vol sentir el conductor o els ocupants quan estan a la carretera.
Hi haurà algun tipus d’API estàndard, l’interfície d’aplicació, que són famosos per a errors. Però, hi ha molts, molts punts de fracàs que poden passar-hi. A més, no poden conduir a la neu.
Hi ha això.
Hi ha això. Vull dir, veuríeu, que no seríeu inútils?
Creieu que tindrem cotxes autoconductius que només tindran probabilitats d’error i de risc? O que no creieu que realment puguem crear un cotxe segur per a si mateix i que la tecnologia trigui molt més del que pensen les persones?
Crec que passarà. Crec que en carreteres d’accés limitat, com les autopistes, funcionarà bé. A menys que nevi o hi hagi pluja intensa. S’ha de veure les línies. I després ha de veure els llums de trencament i els llums dels cotxes al seu voltant. Així, doncs, amb punts de vista limitats, s’afegeixen altres LIDAR i altres.
Al final, funcionarà. Tardarà una mica més. Ara mateix crec que hi ha algunes poblacions que estan construint una infraestructura al centre de la ciutat per als cotxes. Però, estem aquí a Manhattan i tenim problemes per mantenir el nostre metro en funcionament. Creus que necessitarem milers de milions de dòlars per convertir Manhattan en un lloc que tingui sensors per a vehicles automòbils? No ho sé, ara fa centenars d’anys, si Manhattan no s’ha inundat de les naus creixents?
Serà allà. Però pensa que l'eufòria –i com és habitual, sóc el representant tenebrós–, sento que estic a la banda del mar, i hi ha tota la gent que sap realment el que fan i estic com una puça rebotant per l'altra. final, intentant empènyer una mica cap avall i anivellar els miradors. Tempera les expectatives. Tothom hauria de conèixer la dura feina que hem de fer per assolir aquesta meravellosa expectativa.
Us faré un parell de preguntes que em plantejo a tothom que vingui al programa. I aquest ha de ser fàcil per a vosaltres. Quina tendència tecnològica et preocupa més? Hi ha alguna cosa que us mantingui de nit? Podem fer un altre espectacle.
Totes les anteriors. No em manté a la nit. Vull dir, dedico força temps a pensar-hi durant el dia. Ja ho sé, una de les preguntes que crec que teníeu la intenció de plantejar va ser, ja sabeu, la gent hauria de fer una pausa de totes aquestes? Sí.
Avui em va sortir gairebé al carrer per algú que passava amb una vespa.
I un telèfon?
Amb auriculars i telèfon. Així que realment em preocupa. La gent realment es podria fer mal.
La gent es fa mal cada dia a la ciutat de Nova York perquè tothom mira el seu telèfon i va caminant.
Sí, visc a la zona del sud del mercat. Em baso a San Francisco a Startup Alleys, Second Street. Ara, una cosa és dir que tothom està mirant el seu telèfon, però quan intentes caminar pel carrer cap al nord quan tothom es dirigeix al sud i 100 persones busquen els seus telèfons, realment és com, sento com jo. visc en un món aliè.
