Microsoft, el gel, i el problema amb la tecnologia de ser 'neutre'

Quan busqueu paraules per descriure IBM, us sembla sòlid i ferm, però també està tacat. Durant la Segona Guerra Mundial, sota la direcció del seu president i conseller delegat Thomas Watson, IBM va ajudar a mecanitzar els treballs administratius del Tercer Reich.

La filial alemanya de la companyia, amb la cooperació i coordinació de la companyia matriu, va establir camps de concentració amb màquines d’ordenació de targetes arrendades que mantenia, aplicacions personalitzades i proveïdes de paper per guardar-les en targetes de perforació. La informació esmentada per aquelles màquines Hollerith va tenir un paper fonamental a l'hora de posar els jueus darrere de l'esgrima del fil d'afectar-se que milions no seran escapats.

Avui en dia, milers de nens d’immigrants i sol·licitants d’asil es troben a les seves pròpies gàbies d’enllaç en cadena als centres de detenció nord-americans, codis de barres embolicats al voltant dels seus canells. Les empreses darrere de la tecnologia que en fa un seguiment, o no, no estan desitjades de presumir d’aquest fet.

El mes de gener, Microsoft va parlar de la seva col·laboració amb Immigration and Customs Enforcement (ICE), que utilitza el servei de núvol de Redmond Azure Government. La publicació va reaparèixer aquesta setmana enmig de la crisi de la política de separació infantil del govern a la frontera i, per un breu temps, se’n va esborrar qualsevol menció de l’ICE. Fonts amb coneixement del problema van dir a PCMag que un empleat l'ha suprimit després de veure comentaris a les xarxes socials; va ser restaurada poc després.

La font també va dir que no creuen que s’utilitzin els serveis d’Azure o Azure en la separació de famílies a la frontera sud, cosa que va fer ressò del conseller delegat Satya Nadella en una carta que condemna la política de l’administració de separar famílies. Va dir que Azure només l'utilitza l'ICE per a càrregues de treball de correu electrònic, calendari, missatgeria i gestió de documents.

Però, realment, no pot estar segur de quina forma l’agència utilitza els seus serveis. Segons sembla, alguns empleats de Microsoft coincideixen; van escriure una carta oberta demanant a la companyia que acabés el seu contracte amb ICE. Els desenvolupadors de GitHub, que recentment va adquirir Microsoft, van fer el mateix.

És aquí on les empreses tecnològiques han de prendre decisions per motius morals; volen fer negocis amb entitats governamentals que es dediquen a la feina que l’alt comissionat de drets de l’ONU per als drets humans ha titllat de desconsideració?

Polèmica de reconeixement d’imatges

Si bé tenia un perfil inferior, Vigilant Solutions va signar un contracte amb ICE per al seu programa de reconeixement de plaques de llicència (LPR), que s’utilitza per trobar i rastrejar persones en temps real. "La nostra solució LPR no consisteix només en trobar vehicles robats. És per això i molt més", diu el lloc de la companyia.

Vigilant Solutions no va respondre a la consulta del seu treball amb ICE. I no és l'única empresa que manté força la tecnologia que reconeix les imatges que utilitzen les agències governamentals i les autoritats.

Rekognition d'Amazon utilitza l'aprenentatge profund per detectar objectes, persones i activitats inanimades. En cas de ser preguntat per usos legals, però potser qüestionables per la societat, l’ICE es converteixi en un client, un portaveu d’Amazon reconeix el potencial d’abús, però va dir que Rekognition està subjecta a la Política d’ús acceptable d’Amazon Web Services.

Una lectura de la política es resumeix de maneres aturar un comportament objectable. La secció més rellevant prohibiria "Totes les activitats que siguin il·legals, que violin els drets dels altres o que puguin ser perjudicials per a altres persones, les nostres operacions o la seva reputació".

El Rekognition no l’utilitza l’ICE, però l’utilitzen diversos departaments policials, cosa que preocupa a alguns accionistes d’Amazon, que han demanat a l’empresa que deixi de vendre Rekognition als agents de la llei.

NBC News va destapar una gran quantitat d’empreses de tecnologia que tenen contractes amb ICE, incloses HP Enterprise, Dell i Motorola. Una empresa que ajuda ICE no ha de sorprendre: Palantir. Té un acord de 41 milions de dòlars per al producte de Gestió de Casos Investigatius de l'ICE, que és "crucial per a la missió" per a l'agència, segons documents obtinguts per The Intercept.

El cofundador i president de Palantir, Peter Thiel, ha estat un partidari constant de Donald Trump des de la seva campanya. El mateix Thiel no ha parlat de la situació a la frontera, però el 2008 va fer una donació d'1 milió de dòlars al grup anti-immigrant NumbersUSA, que es dedica a reduir la immigració legal i il·legal. Aparentment, Thiel no veu ironia en convertir-se en ciutadà neozelandès al passar el procés habitual.

Els contractes governamentals són de gran confiança, però es poden aprofitar activitats tan similars a les que han provocat algunes de les pitjors atrocitats de la història. Pregunteu a Google, que s’ha mostrat complicat amb objeccions al seu treball amb el Pentàgon en un polèmic programa drone. El capital social Silicon Valley ha guanyat al llarg dels anys i cal posar les seves capacitats i habilitats per eradicar els horrors del nostre passat per a un futur millor.