Taula de continguts:
Vídeo: Происшествие на дороге. Оказываем Первую Помощь - Accident: The Pilot (Первый Взгляд) (De novembre 2024)
El 12 de març, el MIT Technology Review va publicar una història que va començar així: "És l'any 2023, i els cotxes que automobilitzen finalment estan navegant pels carrers de la nostra ciutat. Per primera vegada, un d'ells ha colpejat i ha assassinat un vianant amb una enorme cobertura mediàtica. És probable que tingueu una demanda amb molt d’alt nivell, però quines lleis haurien d’aplicar?"
Tot i que encara s’està investigant l’incident, la commoció que es produeix és una indicació de la distància de la integració amb èxit de la intel·ligència artificial en les nostres tasques i decisions crucials.
En molts casos, el problema no és amb la IA, sinó amb les nostres expectatives i comprensió. Segons Wired , prop de 40.000 persones van morir l'any passat només per incidents a la carretera, només 6.000 dels quals eren vianants. Però molt pocs (si n’hi ha) van encapçalar la manera com va fer l’incident d’Uber.
Una de les raons per les quals la caiguda d’Uber va causar una commoció és que generalment tenim grans expectatives de noves tecnologies, fins i tot quan encara estan en desenvolupament. Sota la il·lusió que les matemàtiques pures impulsen els algorismes de la IA, tendim a confiar en les seves decisions i ens sorprenen quan cometen errors.
Fins i tot els conductors de seguretat al volant dels automòbils autotractors deixen la protecció baixada. El vídeo de l’incident d’Uber va mostrar que el conductor estava distret, mirant cap avall segons segons es va produir l’accident.
El 2016, el conductor d’un model Tesla S que funcionava en mode Pilot automàtic va morir després que el vehicle s’estavellés contra un camió. Una investigació va trobar que el conductor podria haver estat veient una pel·lícula de Harry Potter en el moment de la col·lisió.
Les expectatives de perfecció són altes, i les decepcions són potents. Els crítics es van afanyar a posar en qüestió tot el projecte d'automòbil d'automòbil d'Uber després de l'incident; l’empresa ha suspès temporalment les proves d’auto-conducció de cotxes al cap de l’hora.
AI no és humà
Entre les crítiques que van seguir després de l’accident hi havia que un conductor humà hauria evitat fàcilment l’incident.
"No estava saltant entre els arbustos. Havia estat avançant clarament per diversos carrils de trànsit, que haurien d'haver estat a la vista del sistema per agafar", va dir un expert a CNN.
Té raó. Un conductor humà experimentat probablement l’hauria vist. Però els algorismes AI no són humans.
Els algorismes d’aprenentatge profund que es troben en els cotxes d’auto-conducció utilitzen nombrosos exemples per “aprendre” les regles del seu domini. A mesura que passen el temps a la carretera, classifiquen la informació que recopilen i aprenen a manejar diferents situacions. Però això no significa necessàriament que utilitzin el mateix procés de presa de decisions que els impulsors humans. És per això que en algunes situacions poden comportar un millor rendiment que els humans i fallar en aquells que semblen trivials per als humans.
Un exemple perfecte és l’algoritme de classificació d’imatges, que aprèn a reconèixer imatges mitjançant l’anàlisi de milions de fotografies etiquetades. Amb els anys, la classificació d’imatges s’ha convertit en súper eficient i supera els humans en molts escenaris. Això no significa que els algoritmes entenguin el context de les imatges de la mateixa manera que ho fan els humans.
Per exemple, les investigacions d’experts de Microsoft i la Universitat de Stanford van descobrir que un algorisme d’aprenentatge profund format amb imatges de gats blancs creia amb un alt grau de convicció que la foto d’un gos blanc representava un gat, un error que un nen humà podria evitar fàcilment. I en un cas famós, l’algoritme de classificació d’imatges de Google classificava erròniament persones de color de pell fosca com a goril·les.
S'anomenen "casos de vora", situacions que els algoritmes d'AI no han estat entrenats per gestionar, generalment per falta de dades. L'accident d'Uber encara està en investigació, però alguns experts de l'AI suggereixen que podria ser un altre cas d'avantguarda.
L’aprenentatge profund té molts reptes a superar abans que es pugui aplicar en situacions crítiques. Però els seus fracassos no ens haurien de dissuadir. Hem d’ajustar les nostres percepcions i expectatives i adoptar la realitat que tota gran tecnologia falla durant la seva evolució. L’IA no és diferent.
