PILOTO CYBORG - ipev.cta.br ões/SSV 2013... · PDF fileinventores criaram suas...

PILOTO CYBORG: O HOMEM DE MUITOS

MILHÕES DE DÓLARES.

Ana Maria Vieira - - - - - - - - - - Anais do 6º Simpósio de Segurança de Voo (SSV 2013) – Direitos Reservados - Página 318 de 1014 - - - - - - - - - -

OBJETIVO

• Perceber as grandes máquinas híbridas, constituídas de peças ehumanos e, no caso da Aviação, de pilotos e avião.

• Propor uma reflexão, levantar questões e estabelecer possibilidadesde interação com pesquisadores de diferentes áreas, tais como,psicologia, comunicação, engenharia e ciências jurídicas,contribuindo para o debate do futuro que prevê, por exemplo, umpiloto cujas funções neurais vinculam-se diretamente ao computadorde bordo. O computador pode decidir assumir o voo, se considerarnecessário.

• Questionar a atribuição de culpa aos pilotos ou a “falha humana”,uma vez que pilotos e aeronaves são elementos híbridos.

- - - - - - - - - - Anais do 6º Simpósio de Segurança de Voo (SSV 2013) – Direitos Reservados - Página 319 de 1014 - - - - - - - - - -

INTRODUÇÃO

• A ideia de acoplar o homem à sua máquinavoadora não é novidade. Antes daconstrução do primeiro avião, váriosinventores criaram suas próprias asas,feitas de penas e madeira leve anexadasaos braços, e saltavam do alto de torrespara testar sua capacidade de voar.


INTRODUÇÃO

• Os resultados foram desastrosos.

• No século XV, Leonardo da Vinci elaborouprojetos para a construção de um ornitóptero (dogrego: ornitho, ave + pteron, asa). As asasbatiam, propulsionadas pelos braços e pernas dohomem.

• Estes inventos voadores mostram os primeiroshíbridos de homem e máquina, ou seja, asprimeiras tentativas de acoplar o homem àmáquina voadora transformando-os em um sóelemento.


INTRODUÇÃO

• Pilotar um avião moderno, é uma tarefa na qual máquina e Humanos estão integradosformando uma matrizmatrizmatrizmatriz biotecnológicabiotecnológicabiotecnológicabiotecnológica dededede resoluçãoresoluçãoresoluçãoresolução dededede problemasproblemasproblemasproblemas....

• O comandante = gerenciador de sistemas

• “Cockpit cognitivo" - permite que os pilotos operem certos sistemas de controle poratividade neural e o seu estado físico é monitorado pelo computador através deleituras de ondas cerebrais, de suor nas palmas da mão e dos olhos que pode assumiro controle no caso de uma emergência.

• Gravar a atividade cerebral de um piloto para personalizar a cabine para asnecessidades do indivíduo em tempo real, desde a escolha do órgão sensorial menossobrecarregados para comunicar a informações priorizando e eliminando distrações.

• Estimulação magnética transcraniana (TMS) para suprimir ou melhorar as funçõescerebrais individuais (atingir o cérebro de forma dirigida, através de pulsos magnéticossobre o crânio, os quais, atravessando os tecidos, geram uma fraca corrente elétricacapaz de provocar alterações na atividade das células nervosas )

• O cérebro e o corpo do piloto estão cada vez mais entremeados no tecido do sistemade controle do cockpit. interface-cérebro-máquina-cérebro

• Isso levanta uma série questionamentos éticos, tanto sobre os direitos do piloto comoos de quem, na realidade, será responsável pelas ações em combate


Sistemas eletrônicos epidérmicos são capazes decolar na pele de soldados por mais de 24 horas.(Imagem cortesia de J. Rogers, Universidadede Illinois.)

No futuro o soldado será “embalado” comsensores, capazes de identificar o calorcircundante de uma ferida.Autotratamento - dispositivos para redução da dore estanque do sangramento mantêm o pilotovoando, apesar de ferido. Eletrodos são ativadosno cérebro para obliterar e anular a dor.

O piloto não precisa falar, O COMPUTADORtransmitirá informações, de quem ele é, o tempode descida, qual é a gravidade estimada doferimento, etc.


INTRODUÇÃO• A potencial consequência dessa mudança é

que as funções de comando significativas serãodesempenhadas por máquinas que funcionam,não como um assistente, mas como um tomadorde decisão e executor - o que é conhecido como“machine command”.

• Os efeitos negativos desta perda de controlepodem gerar mais do que apenas umadiminuição de ego, que pode resultar na falta departicipação, ou seja, em uma retirada sensorial.

• Overtrust syndrom - pensar que informações nãorelacionadas à automação são menos críveis.


PILOTOS E AUTOMAÇÃO

Taylor, Finnies e Hoy simularam um cenário de combate emque um computador fornecia pistas sobre a intenção doinimigo. Pistas foram seguidas, mesmo em conflito com aevidência de que as informações estavam erradas.

• Conejo e Wickens - voo simulado durante o qual ospilotos deveriam atingir alvos em solo utilizando pistasautomatizadas.

• Os pilotos se mostravam bastante propensos a seremenganados pela máquina e escolherem um “falso alvo”,apesar de a posição e a identidade do verdadeiro alvoestarem claramente visíveis na tela.


TEORIA DO HOMEM HÍBRIDO

• Pense no Google e imagine este recurso com seu próprioarquivo pessoal buscando notas que você mesmoinseriu, situação que você passou, treinos no simulador.Imagens projetadas imagens diretamente na retina dopiloto com um laser de baixa potência (virtual retinadisplay) sem prejudicar a visão dos pilotos.

• Computação ubíqua - tornar a interação pilotocomputador invisível, ou seja, integrar a informática comas ações e comportamentos naturais dos pilotos. Nãoinvisível como se não pudesse ver, mas, sim de umaforma que nem percebam que estão dando comandos aum computador, mas como se tivessem conversando.


HOMEM HÍBRIDO• F-35’s Helmet Mounted Display System: Fornece informações essenciais

do voo: HUD virtual no visor , combinando toda a informação proveniente desensores do avião, juntamente com imagens alimentadas por um conjunto decâmeras montadas em superfícies exteriores do jato que o sistema forneceao piloto como uma visão semelhante ao raio-X imaginário. O piloto pode verem todas as direções, e através de qualquer superfície não importa paraonde o piloto vire a cabeça.


HOMEM HÍBRIDO• "Você não está voando - o computador faz o voo. Você se senta em

uma poltrona, por assim dizer, e gerencia o espaço de batalha,gerencia todas as entradas que estão chegando de quilômetros dedistância na tela do capacete na frente de seus olhos”.

• “O poder de precisão é incrível, e a capacidade de coleta deinformações é enorme, você se torna um ser que tudo vê.

• "É assustador quando você pensa sobre isso - como tudo se tornamais tecnológica, há cada vez menos do elemento humano voando, ealgumas pessoas podem não perceber que estão fazendo a transiçãode um jogo de vídeo game em sua sala de estar para um grande jogode vídeo em um conflito”.

• “A diferença é que na vida real, simplesmente não há botão de reset".


CYBORGS• Em sua obra “Jamais fomos modernos", Bruno Latour (1999)

pretende abandonar o mundo das representações de objetos esujeitos e chegar aos "quase-objetos" ou "quase-sujeitos", ou seja,aos híbridos. É preciso perceber as grandes máquinas híbridasconstituídas entre objetos e humanos.

• Cyborgs são, portanto, a essência desta transcendência da barreira homem-máquina.

• Os cyborgs são a representação física da "mecanização" do homeme a "humanização" das máquinas.

• O cyborg é uma experiência militar possibilitada pela interação com atecnologia.

• Um exemplo ficcional que ajuda a compreender esta ideia: A sérieamericana, dos anos 70 - CYBORG: The Six Million Dollar Man .


CYBORGS

• O Curiosamente o acidente da abertura doseriado é uma filmagem original da NASAde um acidente em 1967 com o pilotoBruce Peterson em um avião Northrop M2-F2. Felizmente, Peterson estava protegidopela estrutura do M2-F2 e conseguiusobreviver ao acidente apesar de terperdido um olho (NASA, 1996)


CYBORGSDepois vieram outros cyborgs famosos como: Robocop, O exterminador

do futuro, Soldado Universal, Iron Men, Cyborg Soldier, dentre outros


CYBORGS

• A constituição de cyborgs produz mudanças políticas naconcepção do mundo e na ação do Estado (Gray, 2002).

• Um exemplo é a questão da guerra, na qual os soldadosnão são mais humanos lutando contra humanos, mascyborgs tecnologicamente avançados, tendosuperioridade bélica aquele que possui a melhor emais produtiva simbiose (Defense Advanced ResearchProjects Agency , DARPA).

• A fusão da Biologia e da Computação para criarsoldados cyborgs tem sido prioridade na DARPAdesde 2002.


OS PILOTOS CYBORGS

• Programa de Tecnologia de Interface Neural - DARPA – ProgramaMicro Bio Informação: integrar os pilotos militares a computadoresde aviões, direta ou remotamente. Transmitir sons ou imagensdiretamente para o cérebro dos soldados.

• “Estamos desenvolvendo projetos para processamento de microchipsque podem ser implantados abaixo do crânio e manipuladosremotamente.” Rudolph afirma ter testado um chip que pode, muitoem breve, ser usado em campo (Alan S. Rudolph chefe do projeto)

• Este programa tem como objetivo controlar a capacidade humana emsituações complexas, através do envio de comandos de controle àaeronave e esta também podem enviar informações para o cérebro.


OS PILOTOS CYBORGS• Em um workshop do exército os militares

dos EUA mostraram-se abertos para os“implantes neurofuncionais”.

• Alguns soldados presentes levantaramproblemas éticos importantes que foramrebatidos com argumentos que algunsdestes conceitos já são usados namedicina (por exemplo, em pacientesparalisados).


OS PILOTOS CYBORGS

• O piloto militar de ontem entrava emcombate somente com a máquina e asarmas.

• O piloto militar de hoje é reforçado pelatecnologia.

• O piloto de amanhã será um cyborg, umorganismo cibernético, reforçado por tudo oque a tecnologia tem para oferecer.


OS PILOTOS CYBORGS

• Scanners cerebrais de Eletroencefalografia (EEG), oque lhes permite monitorar o estado mental de um piloto econfirmar se ele realmente está se concentrando no voo.

• Eles ajustam os scanners ao capacete do piloto de caçagraças a um avanço na miniaturização de chips.

• Se o piloto não perceber o aviso luminoso, adormecer,ficar inconsciente ou entrar em pânico, os sensores vãodetectar a situação e retransmiti-la para a base.

• Teoricamente, alguém no solo poderia, então, intervir ecolocar o avião no piloto automático.


OS PILOTOS CYBORGS

• Pierre Lévy - Propõe dar um fim àpolarização entre humanos e máquinas,escapando das oposições fáceis quecolocam, de um lado, os humanos, a carne,e, de outro, as máquinas, o metal, o silício.

• Ao se conectar à aeronave, o piloto passaa fazer parte da máquina e vice-versa.Tornam-se um elemento híbrido deorganismo e máquina, ou seja, um cyborg.


Chinook helicopter disaster - computer software failure or pilot error?

• O Chinook ZD576 transportava 25 pessoas, dentre elas, oficiais deinteligência, quando caiu sobre o Mull of Kintyre, em 2 de Junho de 1994.

• Os pilotos Tenente Jonathan Tapper e Tenente Richard Cook foramconsiderados culpados, sob a alegação de negligência crassa, eminquérito da RAF (Royal Air Force)

.• A frota do Chinook Mark 2 vinha apresentando generalizadas e repetidas

falhas causadas pelo software.

• Quando o um software de segurança-crítica do computador falha ouapresenta problemas de codificação ou de design que contribuem para umincidente importante, dificilmente encontram-se traços físicos relacionados àdeficiência do software.

• Somente o fabricante pode compreender suficientemente bem seu sistemapara identificar eventuais falhas na sua concepção, codificação ou testes.

• Os fabricantes geralmente possuem grandes recursos à sua disposiçãopara provar que seu equipamento não foi responsável por um acidente.Portanto, o elo mais fraco após um desastre particularmente fatal serásempre dos operadores - especialmente se estes já estão mortos.

• Até hoje nenhum fabricante foi implicado em uma grande catástroferelacionada a software.


Chinook MK2• Perrow (1999) aponta seu ceticismo quanto à classificação das causas dos

acidentes aéreos em “erro do piloto”, pois reconhece que a expressãoengloba convenientemente todos os percalços cuja verdadeira causa éincerta, complexa ou “embaraçosa” para a organização.

• É uma forma alternativa de dizer “culpem a vítima”, ao invés de culpar todosos envolvidos, todos que contribuíram com o acidente não realizando suafunção corretamente.

• Em julho de 2011, o Secretário da Defesa Liam Fox pediu desculpas àsfamílias dos dois pilotos da RAF e um novo relatório inocentou os pilotosenvolvidos no acidente de 1994.

• Depreende-se daí que a perda do Chinook ZD576 é muito mais do que umacidente de helicóptero.

• Aceitar o veredicto contra os pilotos é aceitar que é razoável culpar osoperadores quando o software contribuiu para o acidente.

• softwares sofisticados, que visam evitar o erro humano, podem induziro ser humano ao erro.


Chinook MK2

• Pedido de desculpas


Chinook MK2

• À luz da teoria homem híbrido que tem de ser analisado são asrelações humanos e não-humanos que estavam acoplados e sepropunham a levar a cabo uma missão. Algumas dessas relaçõesnão se mantiveram estáveis, e a missão fracassou.

• Se antes formavam um único bloco este desaparece e é substituídopor ações pontuadas.

• No relatório o mais importantes foi o comportamento dos pilotos,situadas pouco antes do desfecho do acidente. Essescomportamentos foram descritos e discutidos como “negligentes”,partindo do pressuposto que a ação correta era previamenteconhecida pelos operadores que optaram por não usá-la, comoresultado de uma escolha consciente, originada pela personalidadeindisciplinada ou desatenta.


Aeronaves não tripuladas• "Fatores humanos não foi integrado no design original dos VANTs. Como resultado, o percentual de

grandes acidentes causados por "fatores humanos é, ironicamente, maior para os VANTs do quepara aviões tripulados” (Coronel Dougherty comandante de operações de VANTs falando naconferência da Association for Unmanned Vehicle Systems International (AUVSI) em Vegas).

• Dougherty prosseguiu, pedindo aos designers “Um melhor estudo para manter a sanidade."

• Relatórios de acidentes do Pentágono revelam que acidentes em aviões não tripulados ocorreremporque nem todas as circunstâncias podem ser preditas (ZUCCHINO, 2011).

• A incapacidade de antecipar todas as possíveis contingências conduz a situações na qual o sistemase comporta de forma como ele foi projetado mas não da maneira que se espera.

• Inúmeros fatores podem afetar a informação cognitiva da aeronave robô como: estímulos externos,variações no ambiente operacional, falhas de software, falsos estímulos, e qualquer situação nova einesperada. Sem nenhum ser humano no circuito para ajudar a interpretar os dados, raciocinarsobre estes dados, e decidir como responder, o entendimento da situação fica ainda maiscomplicado (WEISS, 2011)

• Precisamos trabalhar em conjunto com as demais áreas como éticas, legais , técnicas e fatores humanos para enfrentar, por exemplo, um disparo inadvertido, discriminação do alvo errado e a possibilidade de o inimigo a tomar o controle do sistema não tripulado.

• Ronald C. Arkin, diretor do Mobile Robot Laboratory at Georgia Tech está procurando maneiras deimbuir nos VANTs uma sensação de "ética" e até mesmo uma "consciência" artificial para quepossam seguir às regras internacionais de guerra transformando essas aeronaves robôs emquase humanos. Localizar o alvo destruir as armas mas não as pessoas.

• Teremos então a humanização das máquinas.


O futuro prevê pilotos que serão capazes de conduzir seus aviões pelo pensamento


• Por acaso os pilotos mantiveram seusdedos pecaminosos fora dos controles?

(membro do Conselho de Administração daAirbus em fevereiro de 1990, quando lhe foicomunicado sobre a queda de um A 320 daIndian Airlines SCHMIDT, 2000)

RESPONSABILIDADE PRESSUPÕE A LIBERDADE DE AGIR.



• Vimos que a tecnologia está no caminho deprivar o piloto de sua capacidade de decisão e,em última instância, do controle da aeronave.

• Do ponto de vista legal, isso é motivo de grandepreocupação e, portanto, não pode ficar semsolução.

• A Convenção de Chicago de 1944 determina: “Opiloto em comando deverá ser responsável pelaoperação e segurança do avião e pela segurançade todas as pessoas a bordo durante o voo.”


• Muitas vezes, porém, o sistema é tão complexo que só pode serdominado com muita dificuldade.

• Nesses casos, as possibilidades de se tomar medidas responsáveissão bastante limitadas.

• A capacidade de exercer a responsabilidade pressupõe a liberdade ea oportunidade de agir.

• No entanto, se o piloto for incapaz de agir ele não poderá continuar aser onerado com esta responsabilidade.

• Normalmente, a abordagem de uso incorreto ou negligente doequipamento é utilizada para mitigar a responsabilidade dosfabricantes.



• Outros afirmam que o fato de responsabilizar osprodutores por todos os danos causados peloseu software colocaria muitos fabricantes forado mercado e reduziria a criatividade da indústriade software, sufocando assim o progressotecnológico (MARTI, 2011).

• Em um simpósio de segurança de voo da ICAO,Etienne Tarnowski, representante da Airbus,expressou a opinião de que "o piloto, como ogoleiro, é responsável pela operação segura dasaeronaves em todas as circunstâncias”



• O goleiro só entra em ação quando a equipe,especialmente da defesa (neste caso, ocomputador), não conseguiu fazer o seu trabalhono campo de jogo.

• O homem deve continuar controlando a máquina,não deve ser permitido à máquina controlar ohomem.

• Somente desta forma o piloto continuará aexercer e assumir suas responsabilidades.



CONCLUSÕES• A conclusão aponta para a necessidade de uma coexistênciaequilibrada entre o homem e suas máquinas voadorassuperinteligentes, aprimorando-se, cada vez mais, o treinamento e,consequentemente, aperfeiçoando o relacionamento entre humanose máquinas, tornando, deste modo, possível lidar com tecnologiascomplexas e, simultaneamente, manter níveis elevados desegurança. Do contrário, é provável que as futuras aeronavespressuponham os pilotos como uma espécie que ainda precisaevoluir.• É preciso haver um equilíbrio entre o poder da tecnologia e o humano.• O conceito de "piloto em comando" (O conceito de "piloto em comando" (O conceito de "piloto em comando" (O conceito de "piloto em comando" (pilotpilotpilotpilot in in in in commandcommandcommandcommand) está se ) está se ) está se ) está se transformando em "piloto em comando parcial" e evoluindo para transformando em "piloto em comando parcial" e evoluindo para transformando em "piloto em comando parcial" e evoluindo para transformando em "piloto em comando parcial" e evoluindo para ““““piloto sem comandopiloto sem comandopiloto sem comandopiloto sem comando””””. E portanto devemos rever . E portanto devemos rever . E portanto devemos rever . E portanto devemos rever ““““erro do pilotoerro do pilotoerro do pilotoerro do piloto””””

• O sonho de a tecnologia funcionar perfeitamente é tão ilusório como a crença na infalibilidade do ser humano.


RECOMENDAÇÕES

• Para enfrentar os novos desafios científicos, o treinamento necessita de umatransformação radical. A convergência das disciplinas, anteriormente separadasem áreas como Humanas, Biológicas e Exatas, é inevitável quando se pretendeformar indivíduos que compreendam, em profundidade, os vários campos daCiência e sejam capazes de, inteligentemente, trabalhar para integrar, comeficiência, tecnologia, ética, corpo humano e saúde mental.

• Uma formação que integre o cognitivo, o afetivo e o psicomotor.

• Cognitiva -resultante do armazenamento organizado na mente do ser que aprende. A afetiva - resulta de experiências e sinais internos, tais como, prazer, satisfação, dor e ansiedade. Psicomotora - envolve respostas musculares adquiridas por meio de treino e prática.

• A aeronave deve ser adaptada para servir como uma ferramenta controlávele útil para o ser humano, e não o oposto.

• As novas tecnologias, sem dúvida, serão revolucionárias, mas, deverão serregidas sempre pelo respeito, ética e priorizando o bem-estar, a segurançae a dignidade dos seres humanos.


OBRIGADA PELA ATENÇÃO!

[email protected]

TEL: XX 11 99975 7004


PILOTO CYBORG - ipev.cta.br ões/SSV 2013... · PDF fileinventores criaram suas...

Documents

Transcript of PILOTO CYBORG - ipev.cta.br ões/SSV 2013... · PDF fileinventores criaram suas...