Tècnica: innovació, ai i ètica

Algunes de les meves sessions preferides a la conferència de Techonomy a principis d’aquest mes van tractar l’ètica, els valors, la innovació i com ha entrat en joc la intel·ligència artificial en aquestes àrees.

Valors humans per a una era tecnològica

El fundador de Techonomy, David Kirkpatrick, va iniciar la conferència amb una xerrada sobre l’atenció als valors humans de la tecnologia. La primera gran conversa va ser sobre "valors humans" amb Julie Hanna, presidenta executiva de Kiva, que va parlar de la tecnologia com a força democratitzadora i va assenyalar que bona part del món viu amb menys de 2 dòlars al dia. Ella va dir que "la forma més gran de justícia és l'accés just".

La reverenda Michael C. McFarland, tresorera, província nord-americana de la Companyia de Jesús, va dir que hem de preguntar-nos on es troba la justícia en termes d’ús de la tecnologia i pensar en els supòsits incrustats en la tecnologia. Li preocupa que la tecnologia del lloc de treball, que pot produir una major eficiència i productivitat, es desplegui sovint sense pensar en l’impacte sobre els treballadors, que de vegades pateixen impactes devastadors. Va instar l’audiència a començar pensant en l’experiència del treballador.

Erica Kochi, directora executiva d’Innovació i cofundadora d’UNICEF Innovació, va assenyalar que fa set anys no hi havia una bona solució tecnològica dirigida als més pobres dels pobres i l’únic denominador comú era el missatge de text. El seu grup s'ha centrat en la creació de les seves pròpies solucions mitjançant missatges de text i va assenyalar que, tot i que hi ha telèfons Android molt barats, el sistema operatiu s'ha creat per a persones amb un pla de dades, no per a aquells que visquin menys de 2 dòlars al dia. "Si volem crear productes i serveis per a persones que no som nosaltres, hem de pensar-ho des del seu punt de vista", va dir.

Hanna va parlar de la "falsa elecció entre propòsit i benefici, entre missió i producte", i va dir que les cultures impulsades per la missió són llocs millors per treballar, engendrar més lleialtat i ajudar a construir empreses duradores. Kochi va dir que es poden fer les dues coses i va dir que el model de negoci principal ha de ser un alineat amb la responsabilitat social, cosa que no ha de ser una cosa que es faci al costat.

McFarland va parlar de centrar-se no només en els accionistes, sinó en tots els grups d’interès d’una empresa, i va utilitzar com a exemple els Bell Labs d’AT&T abans de la ruptura de l’empresa. Li preocupa la manca d’invertir en R + D a llarg termini i ha afirmat que “hem de canviar la cultura sobre com pensem en els negocis i què significa tenir èxit”.

Biblioteca

Em va quedar impressionat en una xerrada posterior per Tony Marx, president de la Biblioteca Pública de Nova York, que va dir que, a diferència del supòsit que alguns tenen que les biblioteques se'n van, va veure que les noves tecnologies ofereixen la màxima oportunitat de la història per a les biblioteques. sempre han apostat per ajudar les persones a accedir a la informació.

Va assenyalar que, en el passat, les biblioteques eren retretes per les restriccions físiques i financeres d’aconseguir la gent a les col·leccions, però va dir que això canvia.

Les biblioteques poden tenir un impacte de tres grans maneres, va dir. El primer consisteix només en connectar gent, i va assenyalar que un terç dels nord-americans no tenen connectivitat a Internet a casa, però les biblioteques també poden servir per entrenar a les persones com utilitzar els ordinadors, i també com fer codi.

Va dir que, encara que els motors de cerca actuals són "increïbles", tenen limitacions i va assenyalar que encara no hi ha molta informació bàsica de qualitat produïda per mil·lenis d'esforços. Va dir que la seva visió és oferir als patrons de la biblioteca "cada llibre, cada imatge, cada document i cada arxiu de qualsevol part del món de forma gratuïta".

Tot es refereix a l'antiga noció de biblioteca com a base, va dir Marx, i ens va instar a imaginar si tot el talent del món tenia la capacitat d'aprendre, crear i innovar, tot i que escollís. "Tenim les eines perquè sigui imparable", va dir. "Fem-ho."

Déus a les caixes: tot el poderós algorisme i valors ocults

Oren Boiman, cofundador i conseller delegat de Magisto, que utilitza AI per editar vídeos, va dir que "els ordinadors cada vegada són més caixes negres", amb algoritmes creats per xarxes neuronals que bat els millors algoritmes dissenyats pels programadors. Tot i que aquests algorismes poden prendre decisions molt millors que els humans, ningú no entén ben bé com ho fan.

Vivienne Ming, cofundadora i presidenta de Socos, que ven programari que ajuda als nens a aprendre enviant una recomanació al dia als seus pares, va parlar sobre la creació de algoritmes intel·ligents. Va dir que gran part del treball amb xarxes neuronals profundes depèn dels conjunts d’entrenament i va parlar d’un algorisme de reconeixement facial que no reconeixia les cares negres a causa d’un biaix inherent a l’entrenament. "Els ordinadors són com la gent", va dir. "Depèn de com els augmenti".

Ron Brachman, científic de Yahoo, va dir que tot i que ara utilitzem termes antropomorfitzats per descriure les màquines, encara hi ha una diferència fonamental entre els humans i els ordinadors en aquest moment. Les persones prenen decisions en funció de les seves necessitats i desitjos, que és molt diferent de la manera en què els sistemes computacionals prenen decisions avui dia.

Boiman va explicar com en la majoria d’aquestes “caixes negres” tot està connectat i els petits canvis d’entrada poden fer diferències grans i de vegades caòtiques en els resultats, com per exemple quan els vídeos es fan virals. Va dir que això fa que les coses siguin imprevisibles, i és difícil remuntar les coses al que va passar inicialment. Brachman va assenyalar de la mateixa manera que no tenim manera de controlar el que aprenen els nens, el mateix és cert per als mecanismes computacionals.

Màquines de negoci intel·ligents

La discussió de l'AI i les qüestions ètiques que es plantegen va continuar en un altre panell amb els líders d'algunes empreses de programari més especialitzades. Babak Hodjat, cofundador i científic principal de la companyia d'aprenentatge de màquines Sentient Technologies, va dir que la qüestió de l'ètica suposa una distracció quan es tracta de la IA, i que l'ètica també afecta tota mena d'altres tecnologies, des dels telèfons intel·ligents fins a les puntuacions FICO..

George John, president i fundador de la companyia de publicitat programàtica Rocket Fuel, va assenyalar els avantatges de la tecnologia i va dir que "si l'AI funciona de debò, la gent hauria de tornar a casa abans". Va parlar de la necessitat de noves habilitats de gestió i de gestió tant de persones com de màquines intel·ligents. També va parlar de cercar aplicacions d'AI que no s'adaptin només a les grans empreses, sinó que també puguin beneficiar-ne les persones.

Jag Duggal, SVP de Gestió de Productes per a l’empresa de mesurament d’audiència Quantcast, va dir que es tracta d’eines dissenyades per fer-nos més productius, fer més coses i augmentar la nostra capacitat. Va dir que hi ha una infinitat d’innovació i productivitat que poden sortir d’això i va dir que, tot i que hi ha temors de que la tecnologia s’avanci massa, està molt més preocupat pels límits de la tecnologia.

Li preocupava especialment els incentius i què passa quan els algorismes d’aprenentatge automàtic acaben seguint els incentius equivocats. Per exemple, va assenyalar com al mercat de distribució d’anuncis en línia, els venedors de comerç electrònic donaven crèdit al darrer anunci que va veure una persona abans de realitzar una comanda. D’aquesta manera es tradueix en més anuncis que s’orienten després que una persona hagi visitat un lloc de comerç electrònic i sovint després que algú hagi decidit comprar-lo; és a dir, quan es pot malgastar l’anunci. Va dir que Quantcast està intentant posar exemples millors.

Jon Stein, fundador i conseller delegat de la companyia d’inversions Betterment basada en AI, va parlar del bé que pot fer la tecnologia i va acordar que era important establir incentius clars. Va parlar sobre el seguiment d’estàndards de confiança, com actuar en el millor interès del vostre client i va dir que la seva transparència té un paper important a fi que la gent pugui entendre on es poden produir conflictes.

Stein va dir que la tecnologia farà més difícil ser criminal en el temps, però Duggal va dir que és més escèptic, perquè els escorcolls també tenen tecnologia. Tot i així, està impressionat pel potencial de la tecnologia i va citar un exemple de projecte de Google on una IA pot identificar càncers en talps a la pell. Va dir que està preocupat per una "interpretació errònia" de la qüestió per part dels opositors a la tecnologia.