El model de programació OmpSs del BSC porta l’eficiència energètica als dispositius hardware heterogenis

18 Gener 2021

Després de tres anys de recerca, LEGaTO, el projecte europeu coordinat pel BSC, conclou amb aportacions importants a l’eficiència energètica, que era la seva missió principal. L’objectiu de les tecnologies desenvolupades al projecte era assolir un ordre de magnitud d’estalvi energètic en cinc casos d’ús àmpliament aplicables. A més, sis projectes del BSC amb finançament europeu es desenvoluparan basats en els resultats de LEGaTO.

El projecte ha aconseguit els següents resultats en els cinc casos d’ús d’atenció mèdica, llar intel·ligent (smart home), ciutat intel·ligent (smart city), aprenentatge automàtic (machine learning) i la passarel·la segura per la Internet de les Coses (secure IoT gateway):

  • El primer cas d’ús és una aplicació pilot d’assistència mèdica. És una aplicació per al descobriment de marcadors biològics que té com a objectiu la identificació potencial de marcadors de malalties. La necessitat d’accelerar l’anàlisi de biomarcadors és més rellevant que mai donada la recent emergència sanitària a la que el món està fent front. En concret, l’ús d’FPGAs va resultar en una acceleració fenomenal de 822x en aquest cas d’ús, que obre un nou horitzó a l’anàlisi de biomarcadors.
  • La finalitat de LEGaTO al cas d’ús de llar intel·ligent és aconseguir un gran estalvi energètic, per tal que les eines per a la vida assistida com el mirall intel·ligent (smart mirror) puguin instal·lar-se a residències de gent gran. L’ús de l’estil de programació de memòria compartida a GPUs distribuïdes va permetre un estalvi energètic de 10x al mirall intel·ligent. A l’inici del projecte, requeria 600 watts per operar i les possibilitats d’utilització eren molt limitades. Al final del projecte, el mirall intel·ligent només requereix 50 watts, cosa que fa possible la seva utilització.
  • El cas d’ús de ciutat intel·ligent que modela la dispersió de pol·lució urbana va guanyar 7x en eficiència energètica gràcies a l’ús de GPUs.
  • Es va obtenir fins a 16x d’eficiència energètica i rendiment al cas d’ús d’aprenentatge automàtic, dedicat a la conducció automatitzada i a la renderització gràfica, amb l’ús de l’optimitzador de LEGaTO.
  • La passarel·la segura per l’Internet de les Coses és vital per tal de simplificar la complexitat de comunicació de dispositius locals a una xarxa, i per donar recolzament als casos d’ús mencionats en els seus objectius amb la reducció de la complexitat de la seguretat.

“A més de la coordinació i gestió del projecte, l’equip del BSC ha contribuït de manera significativa a la missió de LEGaTO d’augmentar l’estalvi energètic en un ordre de magnitud en dispositius hardware heterogenis, basant la seva programació en el model de programació OmpSs, que permet la reutilització del codi en les diferents plataformes i basat en el model d’execució de tasques seguint les seves dependències de dades”, afirma Osman Unsal, cap del grup de recerca Computer Architecture for Parallel Paradigms al BSC i coordinador del projecte europeu LEGaTO.

Independentment de les optimitzacions de casos d’ús esmentades, l’equip d’experts del BSC també ha aconseguit millorar l’eficiència energètica en un ordre de magnitud amb l’ús de tècniques undervolting (treball a una tensió menor que la tensió nominal) en acceleradors FPGA en aplicacions de xarxes neuronals. Així mateix, s’ha expandit la solució de checkpoints (punts de control) de la interfície FTI (interfície per la tolerància a fallades, Fault Tolerant Interface) per ser utilitzades a GPUs i FPGAs i permetre uns majors nivells de fiabilitat en sistemes per a altes prestacions heterogenis. Altres assoliments inclouen l’habilitat de poder executar tasques segures en entorns amb support del maquinari (Intel SGX); i l’ús d’OmpSs@cluster per particionar l’aplicació de mirall intel·ligent en diversos nodes, amb molt bon nivell d’eficiència energètica.

LEGaTO ha donat uns resultats excel·lents des del punt de vista d’OmpSs, entre els quals cal incloure el suport per a dispositius CUDA i OpenCL quan ambdós son al mateix sistema. Aquests resultats inclouen combinacions com FPGAs d’Intel i GPUs CUDA d’Nvidia. També s’han aconseguit importants avançaments en el suport que OmpSs ofereix per a les FPGAs de Xilinx (també conegut com a OmpSs@FPGA), i en la implementació del directori/cache de suport a les transferències de dades per a les GPUs i FPGAs en OmpSs-2.

Per una altra banda, la col·laboració amb Technion i Maxeler ha tingut èxit en la integració de nuclis DFiant DSL i de nuclis Maxeler com a tasques d’OmpSs. El desenvolupament de l’eina d’anàlisi del graf de tasques és fonamental per al futur desenvolupament d’aplicacions en FPGAs, per tal de conèixer específicament quines parts de l’aplicació i com poden explotar-se millor a les FPGA. Per últim, ha estat molt útil investigar l’ús d’SGX per tasques segures, que ha mostrat que OmpSs pot executar-se de manera segura en enclavaments SGX.

Vista general del sistema LEGaTO

A més d’altres iniciatives que ja estan utilitzant tecnologies desenvolupades a LEGaTO, sis projectes europeus del BSC continuaran el desenvolupament dels resultats aconseguits a LEGaTO:

  • eProcessor, coordinat pel BSC i amb altres tres socis de LEGaTO, farà servir els resultats del BSC en l’ús de punts de control (FTI) energèticament eficients amb l’objectiu de proporcionar el primer conjunt de solucions completes de codi obert basat en tecnologia RISC-V.
  • La funcionalitat OmpSs@FPGA s’està utilitzant als projectes AMPERE (per treballar aplicacions en temps real), EuroEXA (per donar suport als nous prototips), i a MEEP (per desenvolupar una plataforma de simulació de processadors utilitzant FPGAs, i basada en IP desenvolupat a Europa).
  • OmpSs@cluster s’està utilitzant i desenvolupant al projecte EPEEC, que aborda els sistemes integrats de components de programació que permeten la programació a Exascala de gran productivitat per als futurs superordinadors Exaescala heterogenis.
  • Les tècniques d’FPGA undervolting s’estan implementant al projecte Tetramax LV-EmbeDL, liderat pel BSC i l’spin-off EmbeDL.

Per últim, LEGaTO també ha contribuït al document “Towards Resilient EU HPC Systems: A Blueprint”, que es va realitzar amb l’objectiu d’iniciar una col·laboració a nivell europeu sobre la resiliència de sistemes HPC i per ajudar la comunitat europea d’HPC a definir bones pràctiques en aquesta matèria.

El software de LEGaTO a GitHub pot trobar-se aquí: https://github.com/legato-project/FinalSoftwareStack

 

Sobre LEGaTO

El projecte LEGaTO (Low Energy Toolset for Heterogeneous Computing) està finançat per la Comissió Europea amb un pressupost de més de 5 milions d’euros i tindrà una durada de 3 anys, començant l’1 de desembre de 2017. Els pàrtners del projecte són Barcelona Supercomputing Center (BSC, Espanya), Universitaet Bielefeld (UNIBI, Alemanya), Universite de Neuchatel (UNINE, Suïssa), Chalmers Tekniska Hoegskola AB (CHALMERS, Suècia), Data Intelligence Sweden AB (DIS, Suècia), Technische Universität Dresden (TUD, Alemanya), Christmann Informationstechnik + Medien GmbH & Co. KG (CHR, Alemanya), Helmholtz-Zentrum für Infektionsforschung GmbH (HZI, Alemanya), TECHNION - Israel Institute of Technology (TECHNION, Israel), Maxeler Technologies Limited (MAXELER, Regne Unit).

Més informació: http://www.legato-project.eu

 

Aquest projecte ha rebut finançament del programa d’investigació i innovació Horizon 2020 de la Unió Europea segons l’acord nº 780681