Conferència de codis: youtube, facebook, twitter s’executen per reduir el contingut dolent

Seguint els passos d’altres conferències tecnològiques, el Code Code Conference d’enguany es va centrar en l’inconvenient de la tecnologia, i en especial dels mitjans de comunicació social, amb els líders d’Instagram, Twitter i YouTube que es van plantejar les seves polítiques per eliminar o no divulgar contingut qüestionable.

Tots aquests executius semblen tenir una variació de la conversa següent: Sí, a la nostra plataforma hi ha coses dolentes. Hauríem d’haver-ho conegut anteriorment. Estem intentant millorar les coses. Però és difícil. Ho sentim si t’has ofès.

Tot té sentit, però no mol·loca totes les crítiques, ni silencia les veus que demanen la ruptura o almenys més regulació de les grans plataformes tecnològiques. Aquí és el que van dir alguns dels executius i alguns dels crítics al programa.

YouTube

La directora general de YouTube, Susan Wojcicki, va descriure els canvis en la política de la plataforma sobre discurs d’odi, i va dir que si un vídeo al·lega ara que algun grup (com una raça o religió) és superior, això ja no serà permès; ni els vídeos que al·leguen que un altre grup és inferior. Va dir que la firma també va afegir més grups a la llista protegida, incloent castes a l'Índia i víctimes d'esdeveniments violents verificats (com l'Holocaust). Va dir que aquests són només alguns dels molts canvis en les polítiques que la firma ha realitzat durant l'any passat. També va parlar de limitar la distribució del "contingut de línia límit" de manera que alguns vídeos que no estan bloquejats no s'inclouen a les recomanacions de YouTube i no estan disponibles per obtenir ingressos. Segons ella, ha reduït el seu punt de vista en un 80 per cent.

Però va reconèixer que tot plegat ha continuat desembocant en controvèrsies, iniciant la seva entrevista demanant disculpes a la comunitat LGBTQ i dient que va entendre que les seves decisions eren perjudicials per a aquesta comunitat, però que no era la intenció. La polèmica es refereix a la decisió de YouTube de permetre que els vídeos de Stephen Crowder romanguin al lloc, malgrat les queixes del president de Vox, Carlos Maza, que Crowder l’assetjava a ell i a d’altres amb comentaris anti-LGTBI. (Vox fa la conferència del codi.)

"El context és realment important", va dir Wojcicki, que va dir que abans que la signatura elimini un vídeo, considera si un vídeo està dedicat a l'assetjament o un vídeo d'una hora amb una pesta racial, tant si és una figura pública com si és maliciós. amb intenció Va dir que determinar que alguna cosa és maliciosa és una barrera elevada per a l'empresa, segons que necessita fer complir les polítiques de forma coherent, perquè sempre hi ha vídeos que es queixen. Va assenyalar que es poden trobar molts crits racials i comentaris masclistes en coses com ara cançons de rap, converses de nit i molt d'humor. Va dir que la companyia vol treballar per canviar les polítiques, en lloc de tenir una reacció "genial" davant d'una instància individual.

Al final, va dir que l'empresa va decidir que aquests vídeos no eren assetjament i que no incomplien les polítiques i va dir que aquesta va ser la decisió correcta. Però va dir que l'empresa suspèn la monetització, perquè el creador del vídeo guanyés els anuncis publicats al vídeo.

Va dir que, si YouTube eliminés el vídeo, hi hauria un altre contingut que hauria de deixar anar. Però va dir que la signatura eliminarà les coses i que molts dels canvis realitzats en la política d’odi seran realment beneficioses per a la comunitat LGBTQ i es reduiran a vídeos. I va repetir una disculpa per la ferida que podria causar.

Preguntat per l’amfitrió de la conferència Peter Kafka si l’escala de YouTube –amb 2.000 milions d’usuaris i 500 hores de vídeo carregades cada minut– significa que mai no podreu resoldre el problema, Wojcicki va dir: "Definitivament podem millorar la manera de gestionar la plataforma i veig com hem millorat molt ". Va assenyalar que la firma ha experimentat una reducció del 50 per cent de la quantitat de contingut violent durant els últims dos anys i que té més de 10.000 persones treballant en contingut. Però va tornar a centrar-se en les coses dolentes de la plataforma i va assenyalar que també hi havia un gran contingut. "Tota la preocupació és per aquest percentatge fraccionari del contingut", va dir. Però va reconèixer que hi ha molta feina a fer per abordar aquest contingut i va dir que l'empresa inverteix en eines i treballa intensament per solucionar-ho.

Ella va apartar un suggeriment que podria haver-hi una barrera per penjar vídeos, dient que "perdríem moltes veus". Però va parlar de tenir més "nivells de confiança" de vídeos perquè qualsevol pugui començar a penjar coses, però hauria de complir algunes normes per obtenir una distribució més àmplia.

"Veiem tots aquests avantatges d'obertura", va dir, però va assenyalar que YouTube té la responsabilitat d'entendre el contingut i decidir què s'ha de recomanar i què s'ha de promoure.

Wojcicki va dir que creia que YouTube i Google afrontaran més regulacions, assenyalant les noves regulacions sobre drets d'autor a Europa, però va dir que és important que els reguladors entenguessin com implementar aquestes coses de manera raonable a causa del potencial de conseqüències no desitjades.

Preguntat per Kevin Roose, de The New York Times, sobre si YouTube ha contribuït a la radicalització de la política, (sobre la base d’una història recent que va fer), Wojcicki va dir que el lloc s’ha pres molt seriosament les preocupacions de radicalització i va fer diversos canvis al gener. del "contingut de frontera" en un 50 per cent.

Va dir que YouTube vol oferir una àmplia gamma d’opinions, els usuaris escollint el que volen veure, però estava preocupat, i va dir que pensava que aquests canvis en les polítiques i en les recomanacions faran la diferència.

Instagram i Facebook

Dos executius de Facebook van parlar de com Facebook, i en particular Instagram, tractava les crítiques.

Adam Mosseri, que dirigeix ​​Instagram, va dir que estem veient "un canvi de paradigma cap a formes de comunicacions més privades", i va assenyalar que tot el creixement a Instagram provenia d'històries i de missatgeria. Va assenyalar que les històries són fugaces, mentre que el feed és millor si voleu coses que estan al voltant de sempre. Va assenyalar que les històries no es tracten de "missatgeria d'utilitat", sinó de "entrants de conversa".

Mosseri va dir que la companyia té "molts debats acalorats", ja que hi ha una tensió real entre privadesa i seguretat. Va dir: "Vam plantejar una participació en el terreny que va dir que la missatgeria hauria de ser absolutament privada", però va acordar que l'empresa necessita temps per treballar i temps per trobar solucions de seguretat per a la seguretat.

Andrew Bosworth, que supervisa la realitat artificial, la realitat virtual i altres projectes avançats per a Facebook, va assenyalar que de vegades la privadesa significa privadesa de Facebook, però d'altres volen privadesa del govern o del dispositiu. Històricament, va dir que la privadesa per a Facebook significava control sobre les dades i qui la podia veure. Però va assenyalar que es juga de diferents maneres, i va dir que "la conversa global no tindrà una resposta", ja que els diferents mercats tenien visions diferents sobre el control del govern davant la seguretat.

Preguntat per Casey Newton del Verge sobre si no seria possible desvincular Facebook i convertir Instagram en una empresa separada, Mosseri va dir que "potser seria més fàcil la meva vida i probablement seria beneficiós per a mi com a persona, però Només crec que és una idea terrible ". Va dir que en qüestions com la integritat electoral i el discurs d’odi, només farà que exponencialment sigui més difícil per a Instagram mantenir els seus usuaris segurs. Va dir que originalment va prometre mantenir Instagram independent de Facebook, però va incomplir aquesta promesa quan es tractava de funcions de seguretat perquè Facebook té més persones que treballen en seguretat i integritat que el nombre total de persones que treballen a Instagram.

Mosseri va dir que és fonamentalment una cosa sana que estigués passant per la sol·licitud de responsabilitat i que Facebook va cometre un error al no centrar-se prou en les conseqüències no desitjades dels primers anys. "Hem de fer més coses per nodrir i fer créixer el bé i abordar el dolent", va dir.

Bosworth va dir que quan un lloc és petit, es pot revisar tot el contingut, tot i que això ens aporta preocupacions sobre la privadesa. Quan es fa més gran, no podeu revisar manualment tot el contingut, però obteniu més recursos i una "economia d'escala". Va coincidir que Facebook "estava darrere de tot això", però va dir que la companyia invertia massivament, dient que pensava que era un problema solucionable i que la signatura treballava tant en solucions tècniques com en reguladors sobre com respondre. No us acosteu a resoldre'ls, dividint-vos en equips i donant a cada equip menys recursos, va afegir.

Preguntat sobre si Facebook no pot solucionar aquests problemes perquè ofereix serveis compatibles amb anuncis, Bosworth va dir: "Ens costa molt més tenir algun contingut marginal a la plataforma". Va dir que Facebook tenia desenes de milers de persones que revisaven el contingut. Si l’empresa hauria de ser despietada i desfer-se de tots els discursos que siguin del tot controvertits, va dir, això seria més eficaç.

Mosseri va dir que ens hauríem d’orgullar de poder utilitzar aquest servei de forma gratuïta. La companyia va dir que la publicitat és el que permet que la companyia pugui proporcionar-ho, i és pagada majoritàriament per persones que s’ho poden permetre. Si heu tallat la publicitat, reduïu la gent.

Un canvi que Instagram està provant és ocultar "agradar" al sistema. Mosseri va dir que no volem que Instagram sigui "un entorn pressionat", i va assenyalar com els gustos poden ser la competència. Va tenir una inquietud per fer gustos i compta com a privat, però va dir que és només un experiment.

Mosseri també va parlar del dispositiu Portal de la companyia, del qual va dir que "va deixar la funcionalitat de la taula" eliminant la gravació de les converses. Va dir que estem veient una nova generació de maquinari amb altaveus intel·ligents, però que Facebook volia assegurar-se que "la connexió humana és un ús de primera part", però amb la privadesa integrada.

Bosworth va assenyalar que Facebook veu VR com "una oportunitat per aprofundir" i té experiències significatives fins i tot quan no hi podeu estar

Twitter

Dos executius de Twitter van abordar qüestions similars, enfrontant-se a la afirmació de la copresidenta de Kara Swisher, que la plataforma és un "cesspool" construït en persones que poden dir el que vulguin i després dir coses terribles.

Twitter "es basa fonamentalment en permetre que la gent parli en públic", va dir el responsable del producte Kayvon Beykpour. Va dir que l'objectiu del lloc és "servir la conversa pública", cosa que "ajuda a la gent a aprendre, ajuda a la gent a resoldre problemes i ajuda a la gent a adonar-nos de nosaltres" Hi som tots ". Aquest és el punt de partida, però va dir que hi ha una" crisi existencial "ja que si la conversa no és sana, la gent no hi vol participar.

Beykpour va assenyalar que la majoria de la gent de Twitter no té grans plataformes, sinó que té desenes o centenars de seguidors, i que la gent utilitza el servei per trobar gent amb interessos semblants.

Vijaya Gadde, que és la política legal de Twitter, la política pública i la seguretat, va dir que la signatura es va comprometre originalment a expressar-se completament gratuït, però ara era més conscient de l'impacte que estem tenint. Va dir que la signatura té un marc polític centrat en els drets humans fonamentals, com la seguretat i la lliure expressió.

Va assenyalar que la signatura tractava ara de la manca de confiança i la desinformació de la plataforma. A l’abril, en el marc de les eleccions a l’Índia i Europa, va dir que la firma va desenvolupar noves polítiques destinades a frenar la desinformació sobre com registrar-se per votar o on votar. Ella va dir que encara era un procés d’aprenentatge, posant de manifest, per exemple, que es van eliminar algunes bromes. En altres àrees, va dir que si busqueu informació sobre les vacunes, ara us dirigirà a fonts de confiança. L’objectiu és especialment prevenir el “dany fora de línia” a les persones.

Gadde va assenyalar que Twitter ha tingut una "preferència històrica de no ser àrbitre de la veritat", però va admetre que era difícil fer-ho a escala. En canvi, segons ella, la signatura intentava amplificar el contingut que prové de fonts de bona reputació. Amb el temps, va dir, la companyia haurà de fer més coses i va dir que estava vigilant el que fan altres plataformes.

Beykpour va dir que històricament Twitter ha "girat excessivament" en intentar resoldre mitjançant la política i l'aplicació, no mitjançant el producte i la tecnologia. Va dir que la companyia ha avançat en temes de salut i que n'aconseguirà més. Va assenyalar que la firma acabava d'emetre una nova política simplificada de més fàcil lectura i que permetria una aplicació millor. Actualment, va dir, el 40 per cent dels tuits de les "accions" fermes es fan proactivament, a diferència de les queixes.

Va dir que la firma està amplificant el contingut i va dir que les noves polítiques han reduït la quantitat d’abusos denunciats en un 45 per cent; i el nombre de blocs de comptes un 30 per cent. A més, va assenyalar que ara la firma repta i bloqueja més registres per intentar evitar que es registri un compte maliciós; però encara té problemes com encertar la contrasenya bruta.

Preguntat per les pors que les plataformes de xarxes socials estiguin provocant una radicalització més gran, Gadde va admetre que era una preocupació. "Crec que hi ha contingut a Twitter i a totes les plataformes que contribueixen a la radicalització", va dir. Però va afegir que l'empresa té molts mecanismes i polítiques que hi combaten. Va dir que el 90 per cent de tot el contingut del terrorisme és eliminat immediatament i que ha prohibit 110 grups extremistes violents.

Gadde va dir que les regles de Twitter "són un document viu", amb una nova investigació que respon a nous perjudicis, aconsellant a la signatura si hi ha més que podem fer. Va assenyalar que "les coses dolentes també passen en plataformes privades". Com que Twitter està completament obert, va dir, tothom pot veure i respondre. Però va assenyalar que ser obert pot ser un desavantatge perquè dóna a la gent una plataforma. Va dir que la companyia intentava trobar l'equilibri adequat entre l'interès públic i la capacitat de veure i respondre, i els problemes que pot provocar el contingut. Va assenyalar que la signatura ha de treballar en solucions globals, ja que el 80 per cent dels seus usuaris no eren als Estats Units

Va parlar de la importància de la transparència i de tenir molt clara quines són les regles. Però també va esmentar la fiabilitat del contingut, i va assenyalar que amb les figures públiques, encara que Twitter eliminés un tuit, el contingut cridaria l’atenció.

En resposta a una pregunta d'audiència, Gadde va dir que Twitter estava "molt, molt centrat en la radicalització", dient que si reclameu una associació amb grups extremistes violents, no podreu estar a Twitter. Però va dir que la signatura ha de treballar per entendre com fer-ne més, i que es faran canvis. Responent a una altra pregunta sobre l’abús dirigit a les dones, va dir que permetre que Twitter sigui més proactiu farà una gran diferència. Però va dir que es preocupava molt per silenciar les veus, especialment les de grups minoritaris i dones.

Beykpour va dir que una possible solució era proporcionar als clients un major control sobre la manera de sentir-se més segurs a la plataforma, com per exemple donar als autors la possibilitat de moderar les respostes dins d’un fil de conversa. També va parlar de nous tipus de converses, i va assenyalar que el Twitter actual és gairebé tan sols els tuits públics que viuen per sempre i els missatges directes. Va assenyalar que entremig, la signatura no admet, però està considerant, coses com una conversa pública que pot limitar-se a quatre persones.

Mitjà

Ev Williams, el conseller delegat de Medium i cofundador de Blogger i Twitter, es va centrar més en Medium, un servei de subscripció que segons ell va creixent a un ritme saludable, però que no donaria números. Va dir que la gent es subscriu al servei d’idees i perspectives, en temes des de la salut fins al JavaScript fins a la redacció literària.

Va discutir com el contingut del grup pot ser important. Va dir que és "molt alcista en les subscripcions de contingut editorial", però que pot ser difícil per a molts llocs web. "No ens subscrivim a programes de TV o a artistes de música de manera individual." En canvi, amb Medium, intenta construir una plataforma que inclogui llocs propietat i operat, i també diversitat d’altres llocs. Va dir que Medium té centenars de milers de persones que escriuen cada mes.

Estava convençut que el contingut agrupat tindrà èxit i va dir que no hi ha competidors directes, tot i que qualsevol lloc web que tingui una subscripció i alguna cosa com Apple News + amb el seu paquet de revistes sí que competeix.

Williams va dir que les polítiques de Medium han canviat amb el pas del temps i que la seva moderació de contingut ara és "més aviat agressiva" pel que està disposat a enderrocar. A Medium, va dir, "tot el que recomanem és aprovat per primer cop per un humà". Va reconèixer que això significa que el lloc mai serà tan gran com les xarxes socials, però va dir que el "intercanvi de valor" de la signatura que posa el contingut en una piscina de cura, però darrere d'una taula de pagaments, augmentarà.

Tot i que es va centrar en Medium, Williams va debatre sobre xarxes socials i blogs. Va dir que troba a faltar el blog, com una cosa entre els pensaments extremadament casuals a les xarxes socials i articles de llarga durada. Va dir que en els blocs de coses es podria "marinar" en contraposició a la "addicció a la retroacció a curt termini que perjudica el pensament".

El problema, va dir, és que "el feedback instantani és probablement confús amb converses saludables". Va assenyalar que la gent es va enganxar a comentaris de curta durada, com ara la visualització pública de seguidors o els agrada en una publicació. Va dir que és impossible viure en aquell entorn i no fer que canviï el seu comportament. Altres sistemes amb una retroalimentació més lenta, com butlletins o podcasts, permeten més context i converses millors. "Si cada comunicat ha de mantenir-se pel seu compte, perds la capacitat d'aprofundir", va dir.

Va dir que la conversa política va ser "més sorollosa del que no ha estat mai", i que ho dificulta, fins i tot si voleu escoltar moltes perspectives. Però va dir que hi ha punts brillants.

"El motiu pel qual em vaig emocionar en primer lloc és que vaig pensar que ens faria més intel·ligents", va dir Williams. Va pensar que si la gent pogués plantejar idees fora, el món hauria de fer decisions més intel·ligents. Però va dir que no ha resultat així per culpa dels sistemes de retroalimentació i dels incentius. "Part d'ell és el límit de l'interval de l'atenció humana", va dir, i va assenyalar que més informació no ens fa més intel·ligents si no sabem com digerir-la o com contextualitzar-la, especialment si hi ha indústries que intenten et fan comprar coses.

Per això va començar a treballar a Medium fa 7 anys. Va assenyalar que amb un servei de subscripció, els clients paguen, de manera que cal crear un producte que algú trobi prou valuós per pagar. Va dir que allò era millor que la publicitat, que es va centrar en com de barat es pot cridar l’atenció d’algú.

Un tauler de crítiques

Per descomptat, les grans plataformes també van tenir moltes crítiques a la fira. En particular, un grup va incloure Nicole Wong, exdirectora nord-americana subdirectora de tecnologia i exdirectora general de Google; Jessica Powell, ex-vicepresidenta de comunicacions de Google i autora de The Big Disruption ; i Antonio García Martínez, anteriorment de Facebook i autor de Chaos Monkeys.

"No es tracta de problemes nous, hi han estat des del primer moment", va dir Powell, tot i que estava preocupada per "conseqüències no desitjades" i que el control de contingut és difícil. Va dir que és fantàstic que les plataformes tinguin polítiques més estrictes "però hi haurien d'haver estat molt abans".

Wong va assenyalar que en la primera era d'Internet, "estàvem construint tecnologia i pensàvem que canviarem bé el món". Ella va dir que és increïble i que encara existeix, i que la gent de tecnologia està en gran mesura per fer el bé. Però va dir que la gent estava mandrosa en no reconèixer que la tecnologia no és inherentment bona. Ella va dir que ara sabem com és veure un "internet armat" i que hem de crear sistemes que ho tinguin en compte. "Ningú no ens deu una internet gratuïta i oberta, pensada per al nostre bé, i hem de construir això".

García Martínez va dir que, si algú regularà el discurs a Facebook, hauria de ser el govern. "Una democràcia és l'estructura on es té responsabilitat, no una corporació", va dir. Però va dir que pensava que Facebook s’hauria de desglossar de totes maneres, amb Instagram i What’s App separat, i va dir que si augmenteu la barra de moderació de contingut, podríeu obtenir un avantatge competitiu.

Powell va dir que hi havia un argument creïble que si teniu més dades, podeu entrenar millor els models d’AI, de manera que necessiteu menys moderació humana. Però va suggerir que la indústria podria oferir una manera de reunir informació per a tots els jugadors, dient que això ja està fet per a l'explotació infantil i que hauríem de saber com fer-ho per l'assetjament escolar. En general, va dir que qualsevol regulació ha de posar-se en qüestions de control i transparència, dient que és erroni que una startup avui en dia hagi de preocupar-se pel camí que cal adquirir.

García Martínez va dir que sempre hi ha un equilibri entre privadesa, comoditat i seguretat, i va dir que està bé si sabeu quins compromisos esteu fent. Però va suggerir desfer-se dels agregadors de dades de tercers.

En una altra sessió, el còmic i crític Baratunde Thurston va empènyer la seva pròpia plataforma de "nou maneres de no enroscar el futur". Aquests elements inclouen transparències i puntuacions de confiança, canviant el valor predeterminat per tancar les converses; i propietat de dades i portabilitat. Però va cridar l'atenció al descriure Facebook com un "servei d'apologia basat en el núvol" que ofereix "Apologia com a servei".

Així mateix, el professor de NYU Stern, Scott Galloway, conegut pel seu llibre The Four: The DNA DNA of Amazon, Apple, Facebook i Google , va fer diverses prediccions per a l’any que ve. S’inclouen aquestes previsions que un alt funcionari de Facebook serà arrestat i detingut en sòl estranger i que hi haurà més regulació de les grans empreses de tecnologia. Va dir que pensava que a través de spinoffs i ruptures, Big Tech afegirà més valor que la capitalització total de Boeing i Airbus en els propers sis mesos.