Quan el núvol està obert, la tecnologia es basa en el salvament

Al llarg de la línia de costa de l'estat de Nova Gal·les del Sud d'Austràlia (NSW), hiverna una flota de drons que ajuda a mantenir les aigües segures. A principis d’aquest any, els drons van ajudar els socorristes a la Far North Coast de l’estat a rescatar dos adolescents que lluitaven en surf pesat.

Els drons es basen en algorismes d’intel·ligència artificial (IA) i algorismes de visió de màquines que analitzen constantment els seus fluxos de vídeo i posen de relleu elements que necessiten atenció: taurons, banyistes perduts. Es tracta del mateix tipus de tecnologia que permet a Google Fotos ordenar fotografies, una càmera de seguretat domèstica per detectar desconeguts i una nevera intel·ligent per avisar-vos quan els peribles es troben a prop de les seves dates de caducitat.

Però, mentre que aquells serveis i dispositius necessiten una connexió constant al núvol per a les seves funcions de IA, els drons NSW poden realitzar les seves tasques de detecció d'imatges amb o sense una connexió a Internet sòlida, gràcies a xips de càlcul neuronal que els permeten realitzar càlculs d'aprenentatge profund local..

Aquests xips formen part d’una tendència creixent d’innovacions informàtiques de punta, que permeten als nostres dispositius alimentats per programari realitzar almenys algunes funcions crítiques sense un enllaç constant al núvol. L’augment de la informàtica de punta està ajudant a resoldre problemes nous i antics i ens obre el camí per a la propera generació de dispositius intel·ligents.

Descàrrega del núvol

En les dues darreres dècades, el núvol s’ha convertit en la forma defectuosa d’acollir aplicacions, amb una bona raó.

"El que fa que el núvol sigui tan atractiu és que tendeix a descarregar el cost de posar en marxa qualsevol activitat que vulgueu realitzar", afirma Rob High, CTO d'IBM Watson. "El núvol… permet que la gent pugui… resoldre problemes reals avui dia sense haver de passar pels costos de la creació d'infraestructures."

Amb una connectivitat a Internet omnipresent i amb aplicacions en núvol, serveis i plataformes de desenvolupament gairebé núvol, les barreres per crear i implementar aplicacions han disminuït considerablement. Els vasts recursos de proveïdors de núvols com IBM, Google i Amazon han impulsat el desenvolupament no només d’aplicacions comercials trivials, sinó també de programes complexos que requereixen grans quantitats de computació i emmagatzematge: algoritmes d’IA i d’aprenentatge automàtic, així com streaming i AR. aplicacions (realitat augmentada)

Però aquests avenços també han creat un repte: la majoria de les aplicacions que utilitzem no poden funcionar tret que estiguin connectades al núvol. Inclou la majoria de les aplicacions que funcionen en ordinadors i telèfons, així com el programari en neveres, termòstats, panys de portes, càmeres de vigilància, cotxes, drons, sensors meteorològics, etc.

Amb l’arribada d’Internet of Things (IoT), un nombre creixent de dispositius estan executant programari i generant dades, i la majoria d’ells requeriran un enllaç al núvol per emmagatzemar i processar aquestes dades. La quantitat d’energia i amplada de banda necessària per enviar aquestes dades al núvol és immensa i l’espai necessari per emmagatzemar les dades desafiarà els recursos fins i tot dels trams de núvol més potents.

"Hi ha moltes dades que estem recopilant en aquests sistemes, ja sigui a la vora, o sigui un dispositiu IoT o qualsevol altre lloc, que gairebé podríeu decidir no tenir-ne importància", diu High. Però si cada decisió ha de tenir lloc al núvol, totes les dades hauran de ser enviades a la xarxa als servidors del núvol per ser raspades i filtrades.

Com a exemple, els avions moderns High names, que contenen centenars de sensors que controlen els motors a reacció i recopilen centenars de gigabytes d’estat i dades de rendiment durant cada vol. "Quant d'aquestes dades importen realment si voleu analitzar-les sobre un total? Probablement només sigui una fracció", diu High. "Per què no desfer-se'n a la font quan no calgui per a qualsevol altra cosa que facis?"

Fer el que High suggereix fora del núvol era anteriorment impossible, però els avenços en els processadors de sistema de xip (SoC) de baix consum, de baix consum, han proporcionat als dispositius de punta una major potència informàtica i els han permès suportar una mica de la càrrega computacional dels seus. ecosistemes, com ara realitzar anàlisis en temps real o filtrar dades.

"Hi ha tantes dades en l'entorn de punta, té sentit incorporar algunes de les capacitats de computació en núvol a la capacitat computacional del dispositiu de vora", afirma High.

Problemes de privadesa

Els avantatges informàtics de vora no es limiten a alliberar recursos de núvol.

Remi El-Ouazzane, grup de tecnologia nova i director general de Movidius (Intel), cita les càmeres de seguretat comercials com un altre exemple de quan la informàtica de punta pot marcar una gran diferència. Vegeu aquestes càmeres als semàfors, als aeroports i a l'entrada dels edificis, gravant i transmetent vídeo de gran qualitat a tota la xarxa durant tot el dia.

"Com menys dades necessiteu transportar a un servidor o centre de dades, més rentat i perfeccionament es pot fer a nivell local, millor serà el vostre cost global de propietat des d'una perspectiva d'emmagatzematge i transferència", afirma El-Ouazzane.

Això significa proporcionar càmeres amb el poder d’analitzar els seus propis fluxos de vídeo, determinar quins fotogrames o longituds de vídeo requereixen atenció i enviar només aquestes dades al servidor.

Quan aquestes càmeres estan instal·lades a casa vostra, a l’oficina o a qualsevol ubicació privada, la connexió amb el núvol també es converteix en un problema potencial de seguretat. Els pirates informàtics i els investigadors en seguretat han pogut comprometre la connexió entre els electrodomèstics i els servidors del núvol per interceptar fonts de vídeo sensibles. L'anàlisi de les dades localment obvia la necessitat de tenir un conducte de vídeo entre la vostra llar, la vostra vida privada i un proveïdor de serveis.

Movidius, que va ser adquirit per Intel el 2016, és una de les diverses startups que converteixen els xips informàtics especialitzats en tasques d’AI com ara el reconeixement de veu i la visió per ordinador. La companyia fabrica unitats de processament de visió (VPU): processadors de potència baixa que utilitzen xarxes neuronals que analitzen i "comprenen" el context de les imatges digitals sense la necessitat de tornar-les al núvol.

El Movidius Myriad 2 és un processador de visió sempre activat per a entorns amb restriccions d'energia.

"Quan la càmera entén la semàntica del que mira, aleshores la capacitat d’imposar regles sobre el que la càmera pot fer o no pot fer es converteix en una tasca molt fàcil", afirma El-Ouazzane. "No necessiteu capturar el vostre saló durant les dotze hores següents, només per saber que, en un moment donat, el vostre gos va creuar la catifa que hi ha al davant del sofà."

Altres empreses exploren l'ús de la informàtica de punta basada en tecnologia AI per preservar la privadesa dels usuaris. L’Apple iPhone X, per exemple, està alimentat pel xip A11 Bionic, que pot executar tasques d’IA localment, permetent-li realitzar un reconeixement facial complicat sense enviar l’animació de l’usuari al núvol.

Més processament d'AI al límit pot obrir el camí cap a la intel·ligència artificial descentralitzada, on els usuaris han de compartir menys dades amb grans empreses per utilitzar aplicacions AI.

Reduint la latència

Un altre problema dels grans proveïdors de núvols és que els seus centres de dades es troben fora de les grans ciutats, situant-los a centenars i milers de quilòmetres de distància de les persones i dispositius que utilitzen les seves aplicacions.

En molts casos, la latència causada per les dades que viatgen cap al núvol i pot arribar a produir uns resultats mortals o pitjors. Es pot tractar d’un drone que intenta evitar les col·lisions o l’aterratge a terra desigual o un cotxe que condueix per si mateix que intenta decidir si entra en un obstacle o un vianant.

La lleugera implementació de les xarxes neuronals profundes i la visió per ordinador de Movidius fa que els seus xips siguin adequats per a dispositius de punta mòbil com els drons, per als quals no és factible el maquinari que consumeix energia com les GPU. Els drons són un estudi especialment interessant, perquè necessiten un accés de baixa latència al càlcul de IA i han de seguir funcionant en la configuració fora de línia.

La detecció de gestos és una altra àrea en què la informàtica de punta pot ajudar a millorar l'experiència del drone. "L'objectiu és fer que els drons siguin accessibles per a molta gent, i el gest sembla que és una manera agradable de que la gent els faci servir. La latència és important quan gestualis el drone per realitzar alguna tasca", afirma El-Ouazzane.

Per a startups com Skylift Global, que proporciona serveis de drone pesats per rescatar els treballadors i els primers que responen, l’accés de baixa latència a IA i el càlcul de recursos pot estalviar diners i vides. "Reduirà significativament els costos d'ingestió de dades, reduirà la latència de la xarxa, augmentarà la seguretat i ajudarà a convertir les dades de transmissió en decisions en temps real", afirma Amir Emadi, el conseller delegat i fundador de Skylift.

Lliurar subministraments als primers que responen requereix decisions per part del segon. "Com més temps passi, per exemple en la lluita contra un incendi forestal, més costós es torna a posar remei a la situació. A mesura que els nostres drons es converteixen en capaços de prendre decisions en temps real a la vora fins i tot quan perden connectivitat, podrem estalviar més vides, diners i temps ", afirma Emadi.

Altres dominis que necessiten càlculs en temps real són aplicacions de realitat augmentada i virtual i vehicles autònoms. "Es tracta de tots els entorns informàtics basats en l'experiència. Van a passar al voltant de la gent", afirma Zachary Smith, director general de Packet, una startup basada a Nova York centrada en permetre als desenvolupadors accedir a maquinari altament distribuït.

Una aplicació AR o VR que no pot estar al dia amb els moviments de l’usuari causarà marejos o evitarà que l’experiència esdevingui immersiva i real. I la latència serà encara més un problema quan es facin cotxes d’auto-conducció, que es basen molt en la visió de l’ordinador i algorismes d’aprenentatge automàtic.

"Una latència de 30 mil·lisegons no importarà per carregar la pàgina web, però realment importarà que un cotxe determini a 60 km / h si ha de girar a l'esquerra o a la dreta per evitar que es caigui en una nena", afirma Smith.

Afrontar els reptes de la vora

Malgrat la necessitat d’apropar la informàtica a l’abast, pot ser que la implementació de maquinari especialitzat en tots els dispositius no sigui la resposta final, reconeix Smith. "Per què no només poseu tots els ordinadors al cotxe? Crec que realment té a veure amb l'evolució de la velocitat que podreu controlar el cicle de vida d'això", afirma.

"Quan poseu maquinari al món, sol estar-hi entre cinc i deu anys", afirma Smith, mentre que la tecnologia que alimenta aquests casos d'ús basat en experiència està evolucionant cada sis a 12 mesos.

Fins i tot empreses molt grans amb cadenes de subministrament complicades sovint lluiten per actualitzar el seu maquinari. El 2015, Fiat Chrysler va haver de recordar 1, 4 milions de vehicles per solucionar una vulnerabilitat de seguretat que es va exposar cinc anys abans. I el gegant fabricant de xips Intel continua lluitant per fer front a un defecte de disseny que exposa centenars de milions de dispositius als pirates informàtics.

El-Ouazzane de Movidius reconeix aquests reptes. "Sabem que cada any haurem de canviar una gamma de productes, perquè cada any aportarem més intel·ligència al límit i demanarem als nostres clients que actualitzin", afirma.

Per evitar recaptacions constants i permetre als clients fer un ús llarg del seu maquinari de punta, Movidius empaqueta els seus processadors amb recursos i capacitat addicionals. "Necessitem la capacitat per als pròxims anys per realitzar actualitzacions en aquests productes", afirma El-Ouazzane.

Packet, l’empresa de Smith, utilitza un enfocament diferent: crea centres de dades de micro que es poden desplegar a ciutats, més properes als usuaris. A continuació, la companyia pot proporcionar als desenvolupadors recursos computacionals de poca latència, tan a prop que puguis arribar als usuaris sense posar el maquinari real a la vora.

"Creiem que caldrà un mecanisme de lliurament d'infraestructures per posar hardware que pugui accedir pels desenvolupadors de totes les ciutats del món", afirma Smith. La companyia ja opera a 15 ubicacions i preveu expandir-se finalment a centenars de ciutats.

Però les ambicions de Packet van més enllà de crear versions en miniatura de les instal·lacions d’expansió que funcionen de Google i Amazon. Tal com explica Smith, desplegar i actualitzar maquinari especialitzat no és factible amb el núvol públic. Al model de negoci de Packet, els fabricants i desenvolupadors despleguen maquinari especialitzat als centres de dades de punta de l’empresa, on poden actualitzar-lo i actualitzar-lo ràpidament quan es produeixi la necessitat, alhora que s’asseguren que els seus usuaris tinguin un accés súper ràpid als recursos informàtics.

Hatch, un dels clients de Packet, és una empresa spin-off de Rovio, la companyia de jocs mòbils que va crear Angry Birds. La companyia gestiona Android en servidors informàtics de punta per proporcionar serveis de streaming de jocs multijugador de baixa latència als usuaris amb dispositius Android de gamma baixa.

"necessita servidors ARM bastant especialitzats en tots aquests mercats de tot el món", afirma Smith. "Tenen configuracions personalitzades de la nostra oferta de servidors, i la posem a vuit mercats mundials a tot Europa, i aviat serà de 20 o 25 mercats. Ens sembla com Amazon, però arriben a executar maquinari personalitzat a tots els mercats d'Europa. ".

Teòricament, Hatch podria fer el mateix al núvol públic, però els costos el convertirien en un negoci ineficient. "La diferència és entre posar 100 usuaris per CPU versus posar 10.000 usuaris per CPU", afirma Smith.

Smith creu que aquest model apel·larà a la generació de desenvolupadors que impulsarà les properes innovacions de programari. "En què ens centrem és com connectar la generació de programari, les persones que van créixer al núvol, amb primitius especialitzats en maquinari", afirma Smith. "Estem parlant d'usuaris que ni tan sols poden obrir el seu MacBook per mirar cap a dins, i aquesta és la persona que innovarà en la pila de maquinari / programari".

Els núvols es dissiparan?

Si el dispositiu de punta es converteix en capaç de realitzar tasques computacionals complicades, el futur del núvol està en perill?

"Per a mi, la computació de punta és una pròxima progressió natural i lògica de la computació en núvol", afirma IBM Watson.

De fet, el 2016, IBM va llançar un conjunt d’eines que permeten als desenvolupadors distribuir perfectament les tasques entre la vora i el núvol, especialment en els ecosistemes IoT, on els dispositius de punta ja recopilen molta informació sobre el seu entorn immediat. I a finals del 2016, Amazon Web Services, una altra plataforma de desenvolupament de núvols més important, va anunciar Greengrass, un servei que permet als desenvolupadors IoT executar parts de les seves aplicacions en núvol en els seus dispositius de punta.

Res d’això significa que el núvol s’anirà desapareixent. "Hi ha moltes coses que es fan millor al núvol, fins i tot quan encara es treballa molt a la vora", afirma High. Inclou tasques com agrupar dades de moltes fonts diferents i fer analítiques a gran escala amb grans conjunts de dades.

"Si hem de crear models en els algoritmes de la IA que utilitzem en aquests dispositius de vora, la creació i la formació d'aquests models encara és un problema molt intensiu en computació i, sovint, cal una capacitat computacional que superi amb escreix el que hi ha disponible en aquests dispositius de punta", ha explicat. diu.

El-Ouzzane està d’acord. "La capacitat d'entrenar models d'AI localment és extremadament limitada", afirma. "Des d'un punt de vista d'aprenentatge profund, la formació només té un lloc on seure, i és al núvol, on obteniu suficients recursos de càlcul i prou emmagatzematge per poder tractar grans conjunts de dades."

El-Ouazzane també utilitza casos en què els dispositius de vora s'assignen amb tasques de missió i de temps, mentre que el núvol s'ocupa de la informació més avançada que no depèn de la latència. "Vivim en un món de continuïtat entre el núvol i la vora".

"Hi ha una relació molt simbiòtica i sinèrgica entre la computació de punta i la computació en núvol", afirma High.