Kinect
description
Transcript of Kinect
![Page 1: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/1.jpg)
Kinect
Semana Acadêmica de Ciência da Computação - PUCPR
Bruno C. de PaulaBruno C. de Paula
![Page 2: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/2.jpg)
2
Quem sou eu?
Bruno Campagnolo de Paula
http://www.brunocampagnolo.com
http://twitter.com/bcp
![Page 3: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/3.jpg)
Por que estou aqui?320/04/23
Centro deEngenharia de Sistemas Inteligentes
![Page 4: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/4.jpg)
Interesse em aplicações para a GGJ12!Global Game Jam 2010 e 2011 (Curitiba)
420/04/23
Saiba mais em:http://www.ggjcwb.com/2011/02/relatorio/
![Page 5: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/5.jpg)
ResumoVamos aprender o que é o Kinect;Arquitetura básica;Falar sobre o princípios de funcionamento;Demonstrar ferramentas de desenvolvimento e o SDK oficial.Comentar sobre aplicações e projetos.
![Page 6: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/6.jpg)
Público-alvo da palestra
Pessoal da computação em geral;
Interessados em robótica;Desenvolvedores de jogos;Pesquisadores e desenvolvedores
interessados no futuro dos sistemas de informação;
Educadores (gesture based learning).
620/04/23
![Page 7: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/7.jpg)
O que é o Kinect?
Dispositivo de interação natural;
Microsoft;XBOX 360 (jogos); Lançamento:
4/11/2010;8 milhões vendidos
em 60 dias (recorde);10 milhões até
março de 2011;
720/04/23
![Page 8: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/8.jpg)
Motivação para criação do Kinect
Sucesso do Wii;
820/04/23
![Page 9: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/9.jpg)
Wii / Kinect não são tão pioneiros!Dispositivos de interface naturalTrabalhos de Myron Krueger (Video Place),
Activator, EyeToy, Track IR, projetos finais;
Problemas sempre foram: performance e reconhecimento facial.
920/04/23
![Page 10: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/10.jpg)
Kinect não é o único dispositivo moderno de interface natural atualWavi Xtion da Asus
1020/04/23
![Page 11: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/11.jpg)
Kinect não vai ser o único dispositivo futuro de interface naturalWindows 8/9; iOs 6;
1120/04/23
![Page 12: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/12.jpg)
Projeto Natal - Origem
Forte P&D;Alex Kipmann -
Diretor de incubação da Microsoft;
PrimeSense;3DV Systems.
1220/04/23
![Page 13: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/13.jpg)
History is about to be rewritten.
This time human beings will be at the centre
-- and the machines will be the ones that adapt.
(apresentação do Kinect 2010)
![Page 14: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/14.jpg)
1420/04/23
Se você sabe mover-se você sabe usar o Kinect
![Page 15: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/15.jpg)
1520/04/23
Qualquer tecnologia suficientemente avançada é indistinguível de magia.
Arthur C. Clarke
![Page 16: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/16.jpg)
Arquitetura do Kinect1620/04/23
![Page 17: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/17.jpg)
Arquitetura do Kinect 1720/04/23
Projetor de Luz Infravermelha (invisível)
Câmera RGB (“comum”)
Câmera infravermelha
Conjunto de microfones
Motor
![Page 18: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/18.jpg)
Arquitetura do Kinect1820/04/23
![Page 19: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/19.jpg)
Arquitetura do KinectImage StreamCada pixel representa uma cor;640x480 (30 fps) OU1280x1024 (máximo 15 fps);
1920/04/23
![Page 20: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/20.jpg)
Arquitetura do KinectDepth StreamCada pixel representa a
distância em relação ao objeto;11 bits de precisão
(2048 níveis de sensibilidade);
1.2 a 3.5 metros;640x480 (30 fps – sem
informação do jogador) e 320x240 (30 fps – com informação do jogador);
2020/04/23
![Page 21: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/21.jpg)
Arquitetura do KinectAudio Stream4 microfones;Anula ruído e eco.Permite gravação de audio;Excelente reconhecimento de fala (em
inglês);
2120/04/23
![Page 22: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/22.jpg)
Arquitetura do KinectMotor27 graus para cima ou para baixo;Não chamar com muita freqüencia;SDK limita em 15 vezes a cada 20
segundos.
2220/04/23
![Page 23: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/23.jpg)
Sensor de profundidade 3d do Kinect2320/04/23
Projetor de Luz Infravermelha
Câmera infravermelha
Sensor de Profundidade 3D
![Page 24: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/24.jpg)
Princípio de funcionamento do sensor de profundidade 3DMedição de um “padrão” invisível
projetado no corpo;
2420/04/23
Observação: não é uma câmera estereoscópica!
![Page 25: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/25.jpg)
Informações de esqueleto dos jogadoresDetecta até 6
jogadores;Obtém informação de
esqueleto de 2 jogadores;
Dá para obter a qualidade da captura;
Este é o grande destaque do Kinect na área de Machine Learning.
2520/04/23
![Page 26: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/26.jpg)
O que dá para fazer com tudo isto?
Vídeo sobre Os 5 primeiros meses do Kinect;
Antes do lançamento do SDK Oficial!!
2620/04/23
![Page 27: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/27.jpg)
Desenvolvendo para o KinectDrivers abertos (Open Kinect):
Windows XP, Vista, 7;MacOS X;Linux;Open Source;
OpenNI (PrimeSense): Windows, Linux, Mac OS X;
Kinect SDK:Oficial da Microsoft;Apenas para Windows 7;
2720/04/23
![Page 28: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/28.jpg)
Desenvolvendo para o KinectDrivers abertos Após o lançamento foi “hackeado” em
poucos dias;Ele é um dispositivo USB não
criptografado!
Microsoft já estava prevendo usos fora do XBOX;
Open Kinect Contest US$ 3.000,00;
2820/04/23
![Page 29: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/29.jpg)
Desenvolvendo para o KinectOpenNIWrappers para linguagens diversas:
C, C++, Processing, Java, Scratch;Fácil de integrar com o FAAST;O FAAST permite a criação de
programas para o Kinect sem saber programar para o Kinect.
2920/04/23
![Page 30: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/30.jpg)
Desenvolvendo para o Kinect SDK oficial13/junho/2011Windows 7;2GB RAM;DirectX 9.0c;Dual Core 2.66 GHz;Versão Beta;
Licença não-comercial (cuidado!!);
3020/04/23
![Page 31: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/31.jpg)
DEMOS do QuickStart do Kinecthttp://channel9.msdn.com/Series/KinectSDKQuickstarts/1)Instalação do Sensor / Download do SDK;2) Configurando o ambiente;3) Criando um projeto Kinect no Visual
Studio;4) Exibindo a imagem da câmera;5) Alterando o ângulo de elevação da
câmera;6)
Trabalhando com a informação de profundidade;
7) Obtendo informações do esqueleto
3120/04/23
![Page 32: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/32.jpg)
1)Instalação do Sensor
O Kinect que vem no Bundle do XBOX não tem o cabo de energia (pode ser comprado a parte);
Não coloque 2 Kinects ou 2 câmeras no mesmo hub USB;
Verifique a versão do Windows (64 / 32 bits).
3220/04/23
![Page 33: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/33.jpg)
2) Configurando o ambiente
Instalar Visual Studio (pode ser o Express);
Instalar DirectX SDK – Junho 2010; Instalar Runtime do DirectX;Se quiser usar o reconhecimento de
voz:Speech Runtime 10.2;Kinect Speech Platform;Speech SDK;
3320/04/23
![Page 34: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/34.jpg)
3) Criando um projeto Kinect no Visual Studio
3420/04/23
![Page 35: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/35.jpg)
3) Criando um projeto Kinect no Visual Studio
3520/04/23
![Page 36: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/36.jpg)
3) Criando um projeto Kinect no Visual Studio
3620/04/23
*
![Page 37: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/37.jpg)
4) Exibindo a imagem da câmera
Ver eventos VideoFrameReady e DepthFrameReady;
3720/04/23
![Page 38: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/38.jpg)
![Page 39: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/39.jpg)
5) Alterando o ângulo de elevação da câmera nui.NuiCamera.ElevationAngle =
(int)slider1.Value; Máximo de 15 mudanças em 20
segundos; -27 a +27 graus;
3920/04/23
![Page 40: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/40.jpg)
6) Trabalhando com informação de profundidadeCálculo da distância em milímetros:
Depth Image Type;• Bitshift o segundo byte por 8;•Distância = (int) Bits[0] | Bits[1] << 8;
DepthAndPlayerIndex Type:• Bitshift do primeiro por 3 e do segundo por 5;•Distância = (int) Bits[0] | Bits[1] << 5;
O Player Index indica o jogador que está contido naquele ponto;
Máximo de 6 jogadores;
4020/04/23
![Page 41: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/41.jpg)
7) Obtendo informações do esqueleto
4120/04/23
Evento SkeletonFrameReady.
![Page 42: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/42.jpg)
7) Obtendo informações do esqueletoCada joint retorna:
X – Posição horizontal entre -1 e 1Y – Posição vertical entre -1 e 1Z – Distância até o Kinect em metros
Cada joint tem um estado associado:Tracked;Not Tracked: raro;Inferred: oclusão, cortado, baixa
confiança.
4220/04/23
![Page 43: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/43.jpg)
Demos diversos
Skeletal Viewer;ShapeGame;Kinect Mouse Cursor;Kinect NUI;
Demos no Processing e do FAAST (se der tempo!);
4320/04/23
![Page 44: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/44.jpg)
Aplicações e possibilidades do Kinect
Controle de dispositivos através das mãos (Minority Report);
4420/04/23
![Page 45: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/45.jpg)
Aplicações e possibilidades do Kinect
Controle robótico:Kits que eram $28.000 agora são
$500;Exemplo com quadricóptero;
4520/04/23
![Page 46: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/46.jpg)
Aplicações e possibilidades do Kinect
Mocap baratíssimo!
4620/04/23
![Page 47: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/47.jpg)
Aplicações e possibilidades do Kinect
Video conferência 3D;
4720/04/23
![Page 48: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/48.jpg)
Aplicações e possibilidades do Kinect
Scanner 3D (melhor ainda se integrado com uma impressora 3D);
4820/04/23
![Page 49: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/49.jpg)
Aplicações e possibilidades do Kinect
Kinect + Realidade Aumentada
4920/04/23
![Page 50: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/50.jpg)
Aplicações e possibilidades do Kinect
Kinect Shopping
5020/04/23
![Page 51: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/51.jpg)
Aplicações e possibilidades do KinectTrocar canal da TV;Adaptação de jogos normais para Kinect;Ensino de idiomas;Ensino em geral;Sistema de navegação para carros;Música;Aplicações médicas;Controle de Apresentação (PowerPoint);COLOQUE A SUA IDEIA AQUI!!!!TENHO INTERESSE EM PROJETOS FINAIS /
EVENTOS USANDO KINECT.
5120/04/23
![Page 52: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/52.jpg)
Mas, não precisa usar o Kinect para tudo...Cliente Twitter usando o Kinect;
5220/04/23
![Page 53: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/53.jpg)
Links Recomendados
Kinect Hacks:http://kinecthacks.net/Portal que centraliza aplicativos e
testes com o Kinect.Kinect Education:
http://www.kinecteducation.com/Usos do Kinect na educação;
5320/04/23
![Page 54: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/54.jpg)
Links Recomendados
Kinect SDK:http://research.microsoft.com/en-us/
um/redmond/projects/kinectsdk/Portal oficial da Microsoft sobre
desenvolvimento para o Kinect;Coding4Fun Kinect Toolkit:
http://c4fkinect.codeplex.com/Bibliotecas extras úteis para uso com
o SDK.
5420/04/23
![Page 55: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/55.jpg)
Links Recomendados
OpenKinect:http://openkinect.org/wiki/Main_PageDownload dos drivers open source -
libfreenect;OpenNI:
http://www.openni.org/Download dos drivers da PrimeSense.
5520/04/23
![Page 56: Kinect](https://reader031.fdocumentos.tips/reader031/viewer/2022013101/56813de9550346895da7c05f/html5/thumbnails/56.jpg)
Material Extra e Referências
http://blogs.msdn.com/b/uk_faculty_connection/archive/2011/06/21/kinect-for-windows-sdk-event.aspx
http://readwriteweb.com.br/2010/11/09/um-cientista-explica-o-microsoft-kinect/
http://www.kinecteducation.com/http://www.wired.co.uk/magazine/
archive/2010/11/features/the-game-changer?page=all
5620/04/23