Logística de Transportes: como superar gargalos e reduzir custos
Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três...
Transcript of Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três...
![Page 1: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/1.jpg)
Globalcode – Open4education
Resolvendo os Gargalos do EdgeFPGAs: De monstros a solução
João DulliusEngenheiro de Aplicações - BP&M
![Page 2: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/2.jpg)
Globalcode – Open4education
O palestrante
Engenheiro de Aplicações
Processamento Embedded
FPGAs
João DulliusBP&M Representações
![Page 3: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/3.jpg)
Globalcode – Open4education
Internet of Everything
![Page 4: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/4.jpg)
© Copyright 2019 Xilinx
Data Explosion Across IIoT and HcIoTBenefits of the IoT Revolution
Source: Forbes https://www.forbes.com/sites/bernardmarr/2018/05/21/how-much-data-do-we-create-every-
day-the-mind-blowing-stats-everyone-should-read/#558a143f60ba
2.5 Quintillion Bytes
of data created per day
90% of World Data
created in last 2 years
2.5 Exabytes
de dados gerados por dia
90% dos Dados do Mundo
gerados nos últimos 2 anos
Mais de 60 Yottabytes
serão usados em AI em 2019
Source: Forbes https://www.forbes.com/sites/bernardmarr/2018/05/21/how-much-data-do-we-create-every-
day-the-mind-blowing-stats-everyone-should-read/#558a143f60ba
Qual a quantiade de dados gerada diariamente?
![Page 5: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/5.jpg)
Globalcode – Open4education
VoT - Video of Things
![Page 6: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/6.jpg)
Globalcode – Open4education
VoT - Video of Things
![Page 7: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/7.jpg)
Globalcode – Open4education
VoT - Video of Things
![Page 8: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/8.jpg)
Globalcode – Open4education
VoT - Video of Things
![Page 9: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/9.jpg)
Globalcode – Open4education
VoT - Video of Things
![Page 10: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/10.jpg)
Globalcode – Open4education
4K
VoT - Video of Things
2160
3840
![Page 11: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/11.jpg)
Globalcode – Open4education
VoT - Video of Things
Resolution H.264 MJPEG
1MP (1280*720) 2 Mbps per camera 6 Mbps per camera
2MP (1920*1080) 4 Mbps per camera 12 Mbps per camera
5MP (2560*1960) 10 Mbps per camera 30 Mbps per camera
4K (3840*2160) 18 Mbps per camera 64 Mbps per camera
![Page 12: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/12.jpg)
Globalcode – Open4education
Rede 4G
16/07/19
Palestra Yara Senger
Sala Stadium
16/07/19
Palestra Alberto Cardoso
Sala IoT
![Page 13: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/13.jpg)
Globalcode – Open4education
• Mais de 100M de devices IoT na
área medica estão atualmente
instalados, crescendo para 161M em
2020
• Executivos dizem que privacidade
(59%), integração de sistemas
legados (55%) e segurança
(54%) são as três maiores barreiras
travando a adoção de IoT na área médica
atualmente
Privacidade de dados e Segurança
![Page 14: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/14.jpg)
Globalcode – Open4education
Privacidade de dados e Segurança
![Page 15: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/15.jpg)
Globalcode – Open4education
Privacidade de dados e Segurança
![Page 16: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/16.jpg)
Globalcode – Open4education
PoT - Physics of Things
Physics of Systems
Distância NYC/LA: 2,800 milhas
Velocidade da luz: 186,000 milhas/s
Round trip: 2*2800/186000 = 30ms
Frequência de Controle = 10ms
![Page 17: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/17.jpg)
Globalcode – Open4education
GARGALOS DE
PROCESSAMENTO
![Page 18: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/18.jpg)
Globalcode – Open4education
System Performance
AI Computer Vision
initimage read
image pre-processing
inferencePost-
processing
![Page 19: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/19.jpg)
Globalcode – Open4education
Goodbye Moore Law
![Page 20: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/20.jpg)
Globalcode – Open4education
CPUs são sequenciais!
![Page 21: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/21.jpg)
Globalcode – Open4education
System Performance
AI Computer Vision
initimage read
image pre-processing
inferencePost-
processingGPU
ML Latency
![Page 22: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/22.jpg)
Globalcode – Open4education
System Performance
ML Latency
AI Computer Vision
initimage read
image pre-processing
Post-processing
GPU
![Page 23: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/23.jpg)
Globalcode – Open4education
AI Computer Vision
initimage read
image pre-processing
Post-processing
GPU
![Page 24: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/24.jpg)
Globalcode – Open4education
FPGAO Monstro
![Page 25: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/25.jpg)
Globalcode – Open4education
FPGAs
![Page 26: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/26.jpg)
Globalcode – Open4education
FPGAs
![Page 27: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/27.jpg)
Globalcode – Open4education
FPGAs
![Page 28: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/28.jpg)
Globalcode – Open4education
FPGAA Solução
![Page 29: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/29.jpg)
Globalcode – Open4education
FPGA Fabric• 7 Series FPGA Fabric
• Custom Engines
Tightly Coupled Domains• 3000+ interconnects
• Up to 100Gb/s Bandwidth
Integrated Analog• Temp & Power Monitor
• 12-bit 1MSPS ADC
Integrated Peripherals• USB, GigE, CAN
• UART, SDIO, I2C, SPI
High BW Memory• L1/L2 Cache, OCM
• DDR2/3, LPDDR2 w/ECC
Application Processor• Single or Dual Core
• Up to 1GHzA9
Dual Core1GHz
Kintex-7 FPGA Fabric
Dual-Core 800MHz
Artix-7 FPGA Fabric
Single-Core766MHz
Artix-7 FPGA Fabric
Zynq-7000
![Page 30: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/30.jpg)
Globalcode – Open4education
Mais periféricos?
Drag, Drop,
and Customize
UART1
UART2
. . .
UARTN
USB
PWM
ADC
MIPI
HDMI
Ethernet
DDR2/3
WiFi
Microblaze / ARM Core
Memory
Management
Unit
Instruction
CacheData Cache
Ethernet
USB
UART
I2C Controller
SPI Controller
Ext Mem Controller
Ethernet ControllerDDR Controller
.
.
.
IP Catalog
Partner IP
CAN
. . .
Automotive & Industrial
Video & Image Processing
Embedded
Networking
Digital Signal Processing
Drag & Drop
100’s de IP & Peripherals
SPI
I2C
✓ Expanda interfaces e features
✓ Adote os mais novos
protocolos(e.g., EtherCAT, TSN, …)
✓ Desenvolva um sistema
“Future-Proof” e que evolui de
acordo com o mercadoML
Processing System
![Page 31: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/31.jpg)
Globalcode – Open4education
Plataformas
![Page 32: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/32.jpg)
Globalcode – Open4education
Aceleração em Hardware
Processing System
Programmable Logic
Input
Arm® Core
Output
System-Level Profiling1
Toggle SW-HW Partitioning2
System Optimizing Compiler3
C/C++ C/C++ C/C++C/C++
Toggle HW/SW [S]Toggle HW/SW [H]
![Page 33: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/33.jpg)
Globalcode – Open4education
Machine Learning with SoC/FPGA
FPGA
Processor
image read
image pre-processing
DPU
Post-processing
v4l2src
![Page 34: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/34.jpg)
Globalcode – Open4education
main(){
cv::imread(A);
cv::stereoRectify(A,B,C,D);
cv::stereoLBM(C,D,out);
cv::imshow(out);
}
stereoRectify
stereoLBM
300
300
1 2 3 4Cross-compile
OpenCV application to
Zynq (ARM A9/A53)
Profile and identify
bottleneck functions
Minimal changes to the
code and set functions to
hardware.
Compile for SW/HW.
Run on the board
main(){
cv::imread(A);
xF:stereoRectify<line>(A,B,C,D);
xF:stereoLBM<win,n_disp>(C,D,out);
cv::imshow(out);
}
OpenCV Support with Automatic HW Acceleration
![Page 35: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/35.jpg)
Globalcode – Open4education
xfOpenCV: 50+ Most Needed OpenCV Functions
![Page 36: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/36.jpg)
Globalcode – Open4education
Custom CV Function / Library Creation Flow
stereoRectify
stereoLBM
CUSTOM_CV
300
300
300
1 2 3 4Cross-compileWrite custom CV
function in C, C++
Assign functions to
hardware.
Compile using SDSoC
Run on the board
main(){
cv::imread(A);
xF:stereoRectify<line>(A,B,C,D);
xF:stereoLBM<win,n_disp>(C,D,E);
CUSTOM_CV(E,out);
cv::imshow(out);
}
CUSTOM_CV(E,out){
#pragma HLS PIPELINE
for(…){
#pragma HLS UNROLL
for(…){ …
}
}
}
![Page 37: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/37.jpg)
Globalcode – Open4education
FPGA
Processor
image pre-processing
DPU
Post-processing
image read
AI Computer Vision with SoC/FPGA
![Page 38: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/38.jpg)
Globalcode – Open4education
FPGA
Processor
image pre-processing
DPU
Post-processing
AI Computer Vision with SoC/FPGA
image read
![Page 39: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/39.jpg)
Globalcode – Open4education
FPGAs - Brave New World
![Page 40: Resolvendo os Gargalos do Edge - Amazon S3€¦ · 17/07/2019 · e segurança (54%) são as três maiores barreiras travando a adoção de IoT na área médica atualmente Privacidade](https://reader035.fdocumentos.tips/reader035/viewer/2022071006/5fc349bdc20cda68c12383e2/html5/thumbnails/40.jpg)