Microsoft desglossa la forma de gestionar una botiga ètica

El president de Microsoft, Brad Smith, va fer el pas insòlit de publicar una publicació al bloc el divendres, 13 de juliol del 2018, en què demanava al govern que regulés la tecnologia que desenvolupa la seva pròpia empresa. Aquesta tecnologia és un reconeixement facial, i Smith ja veu el perill de permetre un ús sense restriccions d'aquesta capacitat, especialment per part dels governs. Però Smith també va assenyalar que l’ús indegut del reconeixement facial a la indústria privada pot tenir conseqüències igual de greus.

Pocs dies després, l'Associació per a Maquinària Informàtica (ACM) va publicar al seu lloc web el Codi d'ètica i conducta professional de l'ACM, que és un nou codi de conducta professional que té una posició similar a la de Microsoft, però que és molt més àmplia en el seu cobertura del comportament ètic en el negoci de la tecnologia de la informació (IT). El que tenen en comú tots dos llocs és la idea de mantenir un alt nivell de responsabilitat corporativa. Això és una cosa que molts professionals de les TI intenten ignorar i deixar a la gent més gran a la cadena alimentària a nivell baix, una actitud desafortunada i perillosa.

Smith, a la seva publicació al bloc, es preocupa pel mal ús del reconeixement facial. S'adona que, fins i tot en els grans campus organitzats entorn de la tecnologia actual, especialment els testimonis de seguretat com els que utilitzen molts sistemes de gestió de la identitat, és possible fer un seguiment molt proper d'on es troben les persones i, a partir d'aquí, esbrinar el que fan. Però, amb el reconeixement facial, és possible distingir les persones de qualsevol gent en qualsevol lloc i no només rastrejar el seu parador, sinó també guardar registres d’on s’han basat en poques dades a part de les seves característiques físiques. Tal com assenyala Smith, aquest seguiment ja s'està fent a la Xina. Smith demana una comissió per estudiar l’ús i les conseqüències del reconeixement facial als Estats Units.

Reconeixement facial com a forma d’identificació fiable

És evident que, en molts casos, la vigilància 24x7 dels moviments d’una persona és il·legal als Estats Units, com ho demostren les recents decisions de la Cort Suprema nord-americana sobre l’ús del seguiment d’ubicació del telèfon mòbil i l’ús de dispositius GPS sense cap mandat. Però això no significa que alguna agència, en algun lloc, no ho intenti.

Així mateix, no hi ha dubte que el reconeixement facial ha avançat fins al punt que es pot utilitzar com a forma d’identificació fiable (ID). Algunes companyies aèries estan provant el reconeixement facial per passar a través de línies de seguretat i per utilitzar-les en avions a l'aeroport internacional de Los Angeles (LAX). Així mateix, quan vaig tornar a Washington, DC en un vol des de Londres, el mes passat, tot el que em feia falta per entrar als Estats Units era una vista de la cara per una càmera i una exploració de les meves empremtes digitals mentre el passaport estava escanejat per un lector.

Reconeixement facial: passos següents

Aleshores, la pregunta és, quin és el següent pas? Com a professional informàtic, suposem que se li va demanar que creéssiu un sistema de reconeixement facial per al vostre empresari que identificaria les persones que l'empresa no volia a la seva propietat o local. Potser havien passat un mal control, eren sospitosos de llevar la botiga o que hi havia un empleat que havia estat acomiadat.

Què faries? Totes aquestes són bones raons per no permetre que una persona entri a la vostra botiga o a la seva propietat. El més probable és que no tingueu gaire problemes per trobar fotografies d’elles, així que el sistema de reconeixement hauria de poder identificar-les fàcilment. Aleshores, què passa?

Aquesta és la part del vostre procés de presa de decisions, en què heu de decidir com utilitzar el reconeixement facial o altres dades biomètriques per a aquest tema, com a part de les vostres polítiques de seguretat. No és tan tallat i assecat com la vostra resposta a una alerta contra programari maliciós d’un dels vostres nodes de protecció. Aquestes respostes no es poden automatitzar fàcilment. Aleshores, establiríeu una alarma? Pàgina del gestor de la instal·lació? Seguretat d'alerta? Truca la policia? La resposta a qualsevol d’aquests podria ser sí, però també podria ser no, i prendre una decisió equivocada podria ser un error de finalització de carrera.

7 consells sobre l’ús de reconeixement facial de manera sàvia

A continuació es mostren alguns consells que poden ajudar a reduir la possibilitat de tenir problemes mentre es protegeix l'organització:

Publiqueu avisos on els visitants i empleats els veuran, informant-los que utilitzeu vídeo de vigilància i reconeixement facial com a part de la vostra operació de seguretat. (Els vostres advocats estaran encantats d'ajudar amb l'idioma real.)

Assegureu-vos que hi hagi un ésser humà al llaç abans de realitzar cap acció sobre la base de qualsevol tipus d'identificació biomètrica. Tot i que millora, el reconeixement facial, com altres biomètriques, no és 100% fiable. Abans de prendre mesures, algú ha de confirmar el que diu el sistema de reconeixement. (Col·loqueu amb el vostre departament jurídic i amb l’alta direcció per fer aquest mapa.)

Reconèixer la limitació del vostre sistema d’identificació facial o biomètric. Per exemple, la tecnologia de reconeixement facial actual funciona millor amb els mascles blancs, però no tan bé amb les dones no blanques. Heu d'assegurar-vos que no realitzeu involuntàriament perfils racials. Recordeu el greu que han patit les empreses, des del CVS fins a Starbucks, quan, intencionadament o no, ho feien exactament. (Tot plegat, una molt bona discussió per tenir amb el vostre equip legal.)

Assegureu-vos que hi ha un procediment "Oops". Tindreu identificadors incorrectes, així que us heu d'assegurar que no fan vergonya a la persona ni a la companyia. (De nou, els advocats de la vostra empresa i l’alta direcció han de tenir un pes aquí.)

Determineu per endavant on aneu a compartir els resultats de les verificacions d’identificació. No només podeu enviar-ho tot a diverses autoritats governamentals. Heu de determinar què podeu compartir, què no podeu compartir i què requereix una garantia. A continuació, assegureu-vos que els vostres procediments interns siguin forts per tal que els vostres empleats no intentin obsequiar-se en compartir el que no s'hauria de compartir. (Probablement sigui una conversa més llarga amb els vostres advocats, així que ordeneu una pizza.)

Prova contínuament els sistemes d’identificació amb els conjunts de dades més coneguts de manera que puguis fer el reconeixement més precís. (El vostre venedor de reconeixement facial hauria de tenir aquests conjunts de dades disponibles i, amb el temps, podreu crear-ne el vostre.)

• Finalment, tingueu cura de qui us dirigiu per al reconeixement. Els membres del públic tenen forts drets de privacitat i la infracció d’aquests drets pot costar molt a la vostra organització. (Endevineu què? Més temps d'advocat.)

Si bé la vostra empresa no pot controlar el que el govern decideix fer pel que fa al reconeixement facial, que probablement res no es té en compte l’atmosfera disfuncional que hi ha a Washington, DC, aquests dies, podeu controlar el que passa a les vostres instal·lacions. De fet, us esperem si us trobeu davant d’un jutge. Seguint els principis ètics de l’ACM de ser honest i digne de confiança i prendre mesures per no discriminar-se mentre es protegeix la privacitat han esdevingut més importants que mai.