Com afectarà el gdpr a la indústria aèria | ben dickson

En el que es pot descriure com una espècie de cursa armamentística, les empreses tecnològiques han acumulat grans volums de dades dels usuaris per perfeccionar els algoritmes d’intel·ligència artificial que impulsen les seves aplicacions i plataformes. Fins ara, principalment han estat capaços d’evadir la rendició de comptes quan les seves pràctiques l’han empescat cap a àrees grises legalment i èticament.

Però això podria canviar el 25 de maig, quan entrin en vigor les Normes generals de protecció de dades de la Unió Europea (GDPR). El GDPR imposarà restriccions sense precedents a la recollida i la manipulació de dades dels usuaris a la regió de la UE i aplicarà sancions greus a les empreses que no s’acompleixen.

Això podria semblar una mala notícia per a les empreses que utilitzin algoritmes AI, que s’han beneficiat de normatives de recollida de dades laxes (i termes llargs, avorrits i ambigus de documents de servei). Hi ha qui tem que les normes més estrictes dificultin la innovació i el desplegament d’intel·ligència artificial en moltes aplicacions i dominis. Altres creuen que la nova directiva crearà una base on les aplicacions d’AI es convertiran en més fiables i confiables.

Sigui com sigui, la indústria de l'AI està convertint en un gran canvi en l'era de GDPR.

Propietat i privadesa de dades

"GDPR és una gran cosa per a AI, perquè necessita que pensem de manera diferent en com recopilem i utilitzem dades", afirma Tim Estes, fundador i president de raonament digital. "Durant massa temps, les empreses tecnològiques han insistit que per rebre valor dels seus productes i serveis, haureu de renunciar a les vostres dades."

Anteriorment, les empreses havien de rebre només un consentiment vagi dels usuaris per recopilar tota mena de dades. "AI ha ajudat a mantenir viu el bombo de dades; proporciona una altra raó per la qual les empreses han de recopilar i minar totes les dades disponibles", afirma Estes. "Moltes empreses han començat a implementar IA per analitzar les seves dades només perquè pensen que haurien de, sense pensar-ho, l'impacte sobre la privadesa dels usuaris o la propietat de les dades".

La premissa més bàsica de GDPR és que les dades pertanyen als usuaris. Segons GDPR, les empreses hauran de revelar tot l’àmbit d’informació que recopilen, així com la manera d’utilitzar-la i com la protegiran i eviti l’accés no autoritzat. Les noves regles obligaran les empreses de l'AI a ser més minucioses sobre les dades que recopilen en comptes de dedicar-se a l'assessorament, el processament i el compartir informació de l'usuari.

Dret a ser oblidat

GDPR proporciona als usuaris el poder per exigir a una empresa que esborri totes les seves dades dels seus servidors. Això no s’ajustarà bé a les empreses d’AI, que tenen un interès de mantenir el màxim de dades d’usuaris possibles per realitzar tasques com predir les tendències i el comportament dels usuaris.

"Al final del dia, GDPR tracta sobre la manera de recollir i gestionar les dades i no necessàriament de la quantitat de dades que hi ha", afirma Maryna Burushkina, directora general de GrowthChannel. "La principal dificultat que tindran la majoria de les empreses no consisteix tant en obtenir opcions de reconeixement, sinó en gestionar les dades, comunicar l'ús de les dades als usuaris i permetre que els usuaris puguin eliminar-la".

Les empreses de l'AI hauran de fer passos addicionals per anonimitzar les seves dades si encara volen tenir accés a aquestes dades. Però altres reptes s’enfronten a les empreses que ja tenen grans botigues de dades d’usuaris.

"En virtut de GDPR, si una empresa vol esborrar una PII específica, han d'assegurar-se que s'esborrin a tot arreu", afirma Amnon Drori, CEO de Octopai. Aquesta pot ser una tasca desagradable de realitzar manualment quan les vostres dades s’escampen per diferents servidors i s’emmagatzemen en diferents formats estructurats i no estructurats.

Per exemple, quan se suprimeixi el número de targeta de crèdit d’un usuari (sens dubte una informació sensible), les empreses hauran d’examinar tots els informes, bases de dades, objectes de base de dades i ETL on s’emmagatzema la informació. "De vegades veiem noms de metadades diferents per al mateix element: per exemple, " número de targeta de crèdit ", " número cc ", número de crèdit c), " número de targeta ", " núm. De targeta de crèdit ". La llista continua i endavant ", diu Drori. Sovint és impossible saber on mirar i el procés pot trigar setmanes o fins i tot mesos i, com molts processos manuals, és propens a errors humans i inexactituds, segons Drori.

GDPR també augmentarà el cost dels errors humans en el maneig de dades. "És per això que tantes empreses busquen avui una solució automatitzada per gestionar amb precisió les seves metadades", afirma Drori. Potser irònicament, la mateixa IA pot ser una solució en aquest sentit. Les eines de gestió de metadades basades en IA poden analitzar totes les fonts de dades dins d’una organització i consolidar relacions entre diferents eines i fonts de dades.

Dret a l’explicació

Una de les parts més significatives de GDPR pel que fa a la IA és el que s'ha conegut com el "dret a explicació". La directiva estableix que les empreses han de notificar als usuaris sobre "l'existència de la presa de decisions automatitzada" i proporcionar-los "informació significativa sobre la lògica implicada, així com la importància i les conseqüències previstes per a aquest tractament per a l'interessat".

Això significa bàsicament que els usuaris han de saber quan se sotmeten directament o indirectament a algorismes AI i que poden ser capaços de desafiar les decisions que aquests algoritmes prenen i sol·licitar la prova de com es va derivar la conclusió. Aquest serà un dels majors reptes que haurà d’afrontar la indústria d’AI.

Les xarxes neuronals profundes, la tecnologia principal dels algorismes contemporanis d'AI, són estructures de programari complexes que creen les seves pròpies regles de funcionalitat analitzant grans conjunts de dades i trobant correlacions i patrons. A mesura que les xarxes neuronals es tornen més complexes, el seu comportament és cada cop més difícil de descompondre. Sovint, ni tan sols els enginyers poden explicar els motius de les decisions que prenen els seus algoritmes de IA.

Anomenat el problema de la "caixa negra", la inexplicabilitat dels algoritmes de la IA ha fet difícil implementar-los en decisions judicials, aplicacions de la llei, sol·licituds de préstecs i crèdits, contractació, assistència sanitària i altres dominis crítics. Però sense cap avantatge legal, les empreses d’AI tenien poc al·licient per fer més transparents els algoritmes d’IA, sobretot quan estaven estretament lligats als seus secrets comercials.

Ara, GDPR mantindrà les empreses d’AI per tenir en compte les decisions que prenguin els seus algoritmes.

"Com a part de GDPR, les organitzacions són responsables de descriure amb claredat el mètode de processament en llenguatge humà mentre sol·liciten el consentiment del tema", afirma Pascal Geenens, investigador de seguretat de Radware. "A mesura que evoluciona l'aprenentatge profund i els científics de dades són incapaços de caracteritzar una naturalesa determinista darrere del raonament de la xarxa neuronal, aquesta descripció podria esdevenir més complexa i difícil d'explicar."

Bens, GDPR es tracta de responsabilitzar els humans que processen les dades, segons Geenens. Així, si utilitzeu algorismes d'aprenentatge automàtic per fer el processament, heu de dissenyar-los de manera que us permetin explicar les decisions que prenen en nom vostre.

Un bon nombre d’organitzacions estan intentant desenvolupar tecnologies per tal de fer l’IA més transparent. Entre ells és destacable l'AI Explainable AI (XAI) de DARPA, un projecte de recerca que pretén fer comprensibles les decisions basades en la IA.

Externalització de la IA

GDPR també afectarà a organitzacions que posen les seves dades a disposició de tercers. Un exemple destacat d'aquesta empresa és Facebook; en el seu escàndol Cambridge Analytica, el gegant de mitjans socials no va evitar que la firma minera de dades recollís i abusés de les dades de 87 milions d’usuaris. Però GDPR també tindrà implicacions per a les empreses que subcontractin les seves funcionalitats de IA i posin a la seva disposició els proveïdors d'AI.

"Mentre que molts suposen que els proveïdors d'AI són com altres proveïdors de serveis, simplement ofereixen la seva tecnologia a canvi d'una compensació monetària, la veritat és que els proveïdors d'AI també participen en col·laboracions comercials com a forma de desenvolupar i evolucionar la seva tecnologia", afirma Estes, el cap. executiu de raonament digital. Això significa que un proveïdor d'AI pot voler mantenir les dades d'un client per entrenar els seus propis algoritmes i utilitzar-lo en altres dominis.

Per exemple, un proveïdor d’IA que ajuda a una organització sanitària a trobar patrons en els símptomes i a millorar els diagnòstics podria trobar un conjunt de dades que millori els seus algorismes propietaris. L’empresa AI pot aleshores desitjar aprofitar les dades per millorar els seus algorismes per a altres tipus d’atenció al pacient, per evolucionar les seves capacitats per ajudar altres proveïdors de salut. Sota GDPR, l’organització sanitària encarregada de les dades serà responsable de qualsevol ús no ètic del proveïdor d’AI. Estes creu que la clau és que les empreses busquin proveïdors d'AI que creguin en la propietat dels algorismes, no pas de les dades.

"GDPR obligarà les empreses a parar més atenció a com i quan s'utilitzen les seves dades, on es guarden i què hi passa després de completar un projecte", afirma Estes. "Això significa treballar amb proveïdors d'AI que ajuden a definir les línies de propietat de dades i a implementar estratègies que protegeixen la informació de l'usuari, alhora que no dificulten les formes en què pot ajudar a evolucionar l'èxit dels algorismes d'AI".

GDPR dificultarà la innovació AI?

Experts vam parlar per creure que, tot i que la nova normativa desafiarà les pràctiques i hàbits actuals que les empreses de la IA han adoptat, també els obligarà a trobar noves maneres d’innovar i també a mantenir el respecte a la privadesa i als estàndards ètics.

"Amb la regulació de GDPR que entra en vigor, totes les principals empreses de programari adopten les mesures necessàries per no només assegurar el compliment, sinó també per innovar i pensar fora de caixa per trobar noves oportunitats al mercat", afirma Burushkina, de GrowthChannel.

"La innovació no serà obstaculitzada, sinó dirigida i motivada, per GDPR", afirma el Drori de Octopai. Mentrestant, GDPR també donarà lloc a noves empreses i tecnologies que ajudaran les organitzacions a assolir i mantenir el compliment de GDPR.

Els estàndards establerts per GDPR podrien contribuir, de fet, a superar l’ampliació de la bretxa de confiança entre els proveïdors i els usuaris de serveis alimentats per AI. Estes creu que GDPR farà que els proveïdors d'AI i els que implementin la seva tecnologia siguin més responsables del com i on utilitzen els recursos de dades i els impulsarà a posar els usuaris abans de beneficis. "Al final del dia", diu, "els proveïdors d'AI només haurien de tenir els algorismes, no les dades, per innovar les seves capacitats i solucions".