Inteligência Artificial e Regulação de algoritmos · 2018-10-23 · e de práticas anti...

Inteligência Artificial e Regulação de algoritmos

Paulo Novais e Pedro Miguel Freitas

Maio 2018

Inteligência Artificial e Regulação de algoritmos | maio de 2018 - 1 -

Título do Projeto/Ação:

Inteligência Artificial e regulação de algoritmos

Código do Projeto/Ação

TICS0110

Beneficiários directos:

Ministério da Ciência, Tecnologia, Inovações e Comunicações, Brasil

Designação do Relatório:

Final

Autores Paulo Novais e Pedro Miguel Freitas Universidade do Minho

Data do Relatório 30 de maio 2018

___________ Disclaimer: As opiniões emitidas nesta publicação são de exclusiva e inteira responsabilidade dos autores, não representam, necessariamente, o ponto de vista do Governo Brasileiro e da Comissão Europeia. ___________

Projeto implementado por:


1. Índice

2. Introdução ......................................................................................................... 5

Motivação ............................................................................................................. 5 Estrutura do documento...................................................................................... 5

3. Uma nova Revolução Industrial ....................................................................... 8

A nova Matéria-prima dos nossos tempos ....................................................... 8 Trabalho ............................................................................................................... 10 Democracia ........................................................................................................ 11 Indústria 4.0 .......................................................................................................... 12 Oportunidades .................................................................................................... 13 Caminhos ............................................................................................................. 13

4. Inteligência Artificial ....................................................................................... 14

Paradigmas ......................................................................................................... 15 Inteligência .......................................................................................................... 15 Áreas de aplicação ........................................................................................... 15

5. Entidades Inteligentes ..................................................................................... 17

Agentes ................................................................................................................ 17 Agentes Inteligentes ........................................................................................... 18 Autonomia ........................................................................................................... 20 Sumário ................................................................................................................ 21

6. Aplicações ....................................................................................................... 22

Veículos não tripulados ..................................................................................... 22 Veículos Autónomos .......................................................................................... 22 Robôs .................................................................................................................... 24 Negócios na Internet ......................................................................................... 25 Resolução de conflitos ...................................................................................... 27

7. O panorama jurídico em matéria de Inteligência artificial ................................................................................................. 28

8. União Europeia, robótica e IA ........................................................................ 30

1) Princípios relativos ao desenvolvimento da robótica e da inteligência artificial para utilização civil ........................................................ 33 2) Investigação e inovação .............................................................................. 34


3) Princípios éticos .............................................................................................. 34 4) (Des)necessidade de uma Agência Europeia da Robótica e da Inteligência Artificial ..................................................................................... 36 5) Direitos de propriedade intelectual e circulação de dados .................. 36 6) Normalização, segurança e proteção ....................................................... 37 7) Meios de transporte autónomos (veículos autónomos, drones) ................................................................................................................. 37 8) Robôs de assistência ..................................................................................... 38 9) Robôs médicos ............................................................................................... 38 10) Reparação e aperfeiçoamento humano ................................................ 39 11) Educação e emprego ................................................................................ 39 12) Impacto ambiental ...................................................................................... 40 13) Responsabilidade ......................................................................................... 40 14) Aspetos internacionais ................................................................................ 42 A reação da Comissão Europeia..................................................................... 42

9. A legislação europeia atual ........................................................................... 45

Veículos autónomos ........................................................................................... 45 União Europeia ................................................................................................. 45

Alemanha ......................................................................................................... 46

Portugal ............................................................................................................. 51

Considerações intermédias ............................................................................ 53

Drones .................................................................................................................. 54 União Europeia ................................................................................................. 54

Alemanha ......................................................................................................... 56

Portugal ............................................................................................................. 57


Proteção de dados pessoais ............................................................................ 60 União Europeia ................................................................................................. 60

Alemanha ......................................................................................................... 62

Portugal ............................................................................................................. 63


Mercados financeiros ........................................................................................ 64 União Europeia ................................................................................................. 64

Alemanha ......................................................................................................... 65

Portugal ............................................................................................................. 66



10. Conclusão ........................................................................................................ 68

Considerações Finais ......................................................................................... 68 Recomendações ................................................................................................ 69

Robôtica ............................................................................................................ 69

Veículos Autónomos ........................................................................................ 70

Drones ................................................................................................................ 70

Dados ................................................................................................................. 70

Mercados Financeiros ..................................................................................... 71

Agência Federal Brasileira para a Robótica e da Inteligência Artificial ................................................................................................................. 71

11. ANEXO. ............................................................................................................. 72

12. Referências ...................................................................................................... 81

13. Fontes Legislativas ........................................................................................... 87

14. Bibliografia recomendada ............................................................................. 90


2. Introdução

Motivação

O projeto “Inteligência Artificial e regulação de algoritmos” (Código do Projeto/Ação: TICSO110) visa identificar tendências e perspetivas na formulação de políticas públicas quanto aos impactos atuais e vindouros das aplicações baseadas nas tecnologias de Inteligência Artificial (IA) - principalmente no que diz respeito à regulação de algoritmos, e seus efeitos quanto à garantia da proteção de direitos fundamentais, à correção de eventuais falhas de mercado e de práticas anti competitivas, bem como ao estabelecimento de mecanismos voltados ao estímulo científico e tecnológico nesse domínio.

O presente documento identifica um conjunto de abordagens sobre aplicações baseadas em IA e respetiva regulamentação jurídica, em particular nas áreas seguintes:

I. Robôs; II. Veículos não tripulados e/ou Autónomos; III. O caso particular dos Drones; IV. Mercados Financeiros; V. Dados

São analisadas as políticas públicas delineadas pela União Europeia e, sempre que se justifica de alguns estados-membros que desempenham, no momento atual, papéis de liderança nesses domínios com iniciativas legislativas ou regulamentações específicas.

A partir da análise crítica das experiências e políticas públicas europeias em matéria de inteligência artificial e algoritmos são apresentadas recomendações para a criação de uma agenda brasileira sobre estas temáticas.

Este trabalho pretende abrir novos horizontes e perspetivas baseadas na visão europeia sobre os desafios impostos pela Inteligência Artificial e Robótica e deste modo lançar novos caminhos de diálogo inter-regional e de colaboração neste trajeto comum.

Estrutura do documento

Capítulo 3

Neste capítulo é feita contextualização sobre o atual estado da sociedade e os desafios inerentes a esta nova revolução industrial que estamos a viver. São


ainda examinados algumas temáticas quentes, tais como o Trabalho, Democracia, Indústria 4.0 e as novas oportunidades que surgem no horizonte.

Capítulo 4

Neste capítulo contextualiza-se a Inteligência, as suas dimensões e áreas de aplicação.

Capítulo 5

No capítulo sobre entidades inteligentes, apresenta-se o conceito de agente e de agente inteligente. Caracteriza-se as suas principias facetas e características, e Lançam–se as bases da discussão sobre o problema da autonomia.

Capítulo 6

Neste capítulo são apresentados uma serie de áreas de aplicação das entidades inteligentes descritas na secção anterior e sua relevância e os reptos colocados.

Capítulo 7

Apresenta-se, neste capítulo, o panorama jurídico da inter-relação ente o direito e as matérias relacionadas com a Inteligência artificial.

Capítulo 8

Neste capítulo é feita apresentação detalhada da resolução da União Europeia sobre Direito Civil sobre a Robótica. Em particular aborda-se os seguintes pontos: 1) aos princípios relativos ao desenvolvimento da robótica e da inteligência artificial para utilização civil; 2) à investigação e inovação; 3) princípios éticos; 4) (des)necessidade de uma Agência Europeia da Robótica e da Inteligência Artificial; 5) direitos de propriedade intelectual e circulação de dados; 6) normalização, segurança e proteção; 7) meios de transporte autónomos (veículos autónomos, drones); 8) robôs de assistência; 9) robôs médicos; 10) reparação e aperfeiçoamento humano; 11) educação e emprego; 12) impacto ambiental; 13) responsabilidade; e 14) aspetos internacionais.

Capítulo 9

Neste capítulo é identificada a legislação europeia que aborda a desafios colocados pela robótica e inteligência artificial, em particular nos seguintes sectores-chave: veículos autónomos; drones; proteção de dados pessoais; mercados financeiros. Sendo ainda dado um foco especial a abordagem que é feita em diferentes Estados-membros, tais como Portugal, Alemanha e referências, ainda, a Inglaterra.


Capítulo 10

No capítulo das conclusões são feitas algumas considerações finais e apresentados possíveis caminhos futuros.

Tendo como ponto de observação as experiências e políticas públicas europeias em matéria de inteligência artificial e algoritmos são, ainda, sugeridas algumas recomendações para a agenda digital brasileira sobre estas temáticas.

Anexos

São apresentados um conjunto de anexos com informações relevantes sobre as temáticas apresentadas. Em particular sobre Robôs Inteligentes, Carta Robótica, Código para as Comissões de Ética da Investigação, Licença para os criadores e para os utilizadores.

Finalmente, apresentam-se as referências e fontes legislativas usadas no desenvolvimento deste documento e um conjunto de bibliografia recomenda.


3. Uma nova Revolução Industrial A sociedade está num processo de transformação e evolução. Está-se a passar, de forma acelerada, para uma sociedade da informação e do conhecimento, onde a Inteligência Artificial, Robótica e diferentes Tecnologias da Informação e Comunicação têm vindo a assumir um papel primordial. A 4ª revolução industrial está aí e novos desafios se colocam.

Uma revolução industrial é um processo caracterizado por mudanças abruptas e radicais, associados a incorporação de novas tecnologias, que se vão materializar e implicar profundas alterações na sociedade, em particular ao nível político, económico, e social.

Na primeira revolução industrial, final do século XVII e início do século XVIII, deu-se a mecanização da produção, usando a água e energia a vapor como as fontes desse movimento. Na segunda revolução industrial, final do século XIX e início do século XX, surge a produção em larga escala de produtos, de uma forma rápida e barata, em que a energia elétrica surge como o fator de inovação. A terceira revolução, que inicia na década de 60 do século passado, marca o advento das Tecnologias da Informação e Comunicação. Com a revolução digital, a que ela dá origem, surgem os computadores, e o seu uso intensivo pela sociedade, a Internet e as plataformas digitais.

Um nova era está a surgir, estimulada por um conjunto de tecnologias disruptivas dos quais são bons exemplos a robótica, a inteligência artificial, a realidade aumentada, o big-data, a nanotecnologia, a biologia, a genética e a internet das coisas. Esta revolução industrial não se caracteriza por ter uma tecnologia hegemónica, mas pela convergência e sinergia entre elas.

A quarta revolução industrial fica marcada pela convergência de tecnologias digitais, físicas e biológicas.

A nova Matéria-prima dos nossos tempos

A matéria-prima assume-se como a base essencial à fabricação de um produto. Por norma, um produto natural que tem que ser submetido a um processo (produtivo) para se transformar num produto final. Algo em bruto que passa por um processo industrial (mais ou menos elaborado) para se obter um produto acabado. As matérias-primas eram, até agora, tipicamente de origem animal, vegetal ou mineral.


Ao longo dos tempos diferentes matérias-primas tiveram a preponderância de serem a matéria-prima desse tempo. A pedra, o cobre, o bronze, o ferro, o carvão (entre outros) tiveram papéis relevantes na história da humanidade. O petróleo, durante o século XX, assumiu esse papel e para além da sua dimensão económica, era mesmo considerado como uma questão política de primeira importância. Depreende-se que a matéria-prima (seja ela qual for), para além da sua utilidade económica adquire uma importante utilidade politica. No final do século XX havia economistas que referiam mesmo que “O petróleo era 10% de economia e 90% de política”, o que sublinha esta dimensão associada ao poder e ao seu controlo.

Nesta nova sociedade a informação e o conhecimento têm o papel maior na criação de riqueza, de bem-estar e na melhoria da qualidade de vida das pessoas.

Dados, essa palavra mágica, assume então o papel central de matéria-prima! São um conjunto de valores ou ocorrências, em um estado bruto, com o qual são obtidas informações e/ou conhecimento. São a matéria-prima da informação e, naturalmente numa sociedade que assenta nela, a gestão e o controlo são essências.

Passamos os dias a disponibilizar os nossos dados (já agora, a palavra vem do latim datum “aquilo que se dá”) sem muitas vezes nos apercebermos disso. Todos diariamente colocamos posts ou tweets em redes sociais, comprarmos em sítios de comércio eletrónico, fazemos transações bancárias,… i.e., entregamos os nossos dados (entregamo-nos) aos fornecedores de serviços (muitas vezes estranhamente gratuitos!). Nem nos apercebemos que hoje mais do que fornecer serviços, o que querem é obter os nossos dados. Porque com esses dados nós deixamos de ter “segredos”, de ser desconhecidos, passamos a ser calculáveis, estimados e previsíveis, i.e., podem nos conhecer melhor que nós a nós próprios. Esta nova matéria-prima com a qual tudo é “possível” conhecer, e as grandes empresas, deste novo tempo, são as detentoras deste novo ”ouro” e nós somos os seus fornecedores.

Este novo conhecimento abre obviamente novas oportunidades e novos horizontes, mas também coloca novas e sérias ameaças. O conhecimento está sempre limitado a quantidade e a qualidade das informações disponíveis e/ou utilizadas, mas algumas questões se colocam: quem o vai produzir e para que fins? quem o vai deter? como se vai disseminar? que uso vamos dar a esse conhecimento?...

Hoje o dilema, que se coloca, é em que tipo de sociedade queremos viver? Numa sociedade onde a informação e o conhecimento são um bem público


ou uma sociedade onde são uma mercadoria transacionada, uma propriedade privada.

Como diria Cícero “Não basta adquirir sabedoria; é preciso, além disso, saber utilizá-la.”

Trabalho

Historicamente tem havido uma evolução gradual e constante, com a passagem progressiva de um trabalho predominantemente manual para um trabalho mais intelectual. As tarefas normalmente associadas à cognição são hoje, em geral, as mais bem renumeradas e mais reconhecidas (a este respeito recomenda-se a leitura de Sapiens: Uma Breve História da Humanidade de Yuval Harari).

Com a 4ª Revolução Industrial surgem naturalmente novas ameaças no horizonte e muitos proclamam o fim anunciado (e provavelmente extemporâneo) do emprego.

Os robôs estão a ficar com os nossos empregos há mais de 50 anos! Então por que estamos nós preocupados com isso? Alguém quer ser soldador ou pintor de carros numa linha de produção intensiva e desumanizada? ou num qualquer contexto de trabalhos sujos, pesados ou perigosos para o ser humano? Convém recordar que “eles” são mais eficientes e produtivos nessas tarefas e no futuro ainda o serão mais! Os veículos autónomos, por exemplo, estão aí mesmo à porta.

Os robôs e os sistemas de Inteligência Artificial (IA) genericamente serão sempre mais eficientes que nós em tarefas repetitivas que possam ser reproduzidas e replicadas, que não necessitem de criatividade (nas suas mais diversas dimensões), quer sejam manuais ou mais intelectuais. Tudo é uma questão de tempo! Afinal um sistema de IA ganhou, há já algum tempo atrás, ao maior mestre de Xadrez (Garry Kasparov).

Existem, no horizonte, alguns sinais positivos. As maiores e mais fortes economias do mundo e com elevada taxa de robotização, estão, no entanto, com níveis de desemprego a baixar e até alguns casos historicamente baixas! Porquê? Porque o trabalho está também ele a mudar. Se de facto, estão a desaparecer os trabalhos (manuais ou cognitivos) rotineiros, em contraste, o trabalho não rotineiro está evidenciado sinais de elevado crescimento. Surgem novas necessidades e novos empregos no setor da saúde, assistência social, em contextos científicos e técnicos, na proteção do ambiente, bem como na educação e formação, i.e., setores onde a interação com o homem e a criatividade são fundamentais.


Numa visão futurista poderemos nos concentrar em fazer as “coisas” que nos tornam mais humanos. Eventualmente sustentados por uma legião de “robôs”. Cabe a nós decidir se eles devem trabalhar para nós, connosco ou contra nós.

Democracia

Por definição a democracia é o Governo em que o povo exerce a soberania. O termo deriva do grego “dēmokratía” que significa o governo do povo.

A democracia da Grécia antiga estava alicerçada na participação dos cidadãos em assembleia, com o propósito de tomar decisões. Naturalmente, a Democracia ao longo dos tempos, em diferentes latitudes e longitudes teve variações no entendimento de quem podia ser cidadão, do estatuto de cidadão, quer no âmbito das decisões que podiam tomar, quer nas estruturas e instituições que lhe estavam associadas. A democracia hoje está moldada à escala do estado e assenta no conceito das democracias representativas, em que os cidadãos (eleitores) elegem os seus representantes, para que durante um determinado período tomem decisões em sua representação. Os Representantes do Povo escutam e percecionam a vontade e aspirações do Povo e decidam em consonância.

Em cada tempo foram desenvolvidos instrumentos e ferramentas para facilitar este processo de auscultação da vontade popular, dos quais se destacam os referendos e as sondagens. A Internet, e em particular as redes sociais, desempenham hoje um papel central neste processo e têm uma influência decisiva, no que outrora foi desempenhado pela média. Como sabemos nem sempre esta influência é positiva, mas são, no entanto, instrumentos poderosos na reinvenção da democracia. A Internet desempenha hoje um papel vital e é uma arena de práticas popular-democráticas modernas.

Nesta nova era poderão agravar-se as desigualdades, em primeiro lugar no trabalho, em que somente alguns beneficiarão da riqueza criada, enquanto um grande número sofrerá da perda de emprego. Segundo, muita desta riqueza criada se concentrará em empresas e países detentores da tecnologia.

Por outro lado, estamos a falar da possibilidade de gerar conhecimento a um nível que até agora nunca, nem ninguém foi capaz de imaginar. A questão que aqui se coloca é da adequação, validade e imparcialidade dos dados utilizados. Poderemos nós confiar nesse conhecimento? A Internet está repleta de falsas notícias e as últimas eleições nos EUA são ilustrativas desta realidade. Uma outra questão será a normalização do conhecimento obtido que irá refletir uma certa visão e/ou tendência, desprezando a diversidade. São, ainda de facto, tecnologias novas que necessitam de algum tempo para amadurecer.


Por exemplo, será fundamental que o processo de geração possa ser autoexplicativo i.e., possamos entender o processo e as suas bases para o melhor controlar e usar.

Existem alguns sinais pouco positivos. Singapura é hoje, o que os ingleses denominam, de uma “data-controlled” sociedade, o que se iniciou como programa de combate ao terrorismo, acabou a influenciar as políticas económicas e de imigração. Na China fala-se dos ”Citizen Score” que irão determinar em que condições cada cidadão, entre outras coisas, poderá obter empréstimos, empregos ou vistos de viagem.

Temos um longo caminho a percorrer ao nível da definição de novas normas e regras de proteção de dados e privacidade, e obviamente um novo quadro jurídico envolvente que crie a indispensável confiança.

Indústria 4.0

A 4ª Revolução Industrial é fundamentalmente um câmbio de paradigma e não uma simples etapa do progresso tecnológico. “A quarta revolução industrial não é definida por um conjunto de tecnologias emergentes em si mesmas, mas a transição em direção a novos sistemas que foram construídos sobre a infraestrutura das revoluções anteriores” (Schwab, 2017).

Acrescentando ainda que “Há três razões pelas quais as transformações atuais não representam uma extensão da terceira revolução industrial, mas a chegada de uma diferente: a velocidade, o alcance e o impacto nos sistemas. A velocidade dos avanços atuais não tem precedentes na história e está impactando quase todas as indústrias de todos os países”.

Associada a este cenário está a ideia da indústria 4.0 surge na Alemanha em 2011, onde foi promovida como forma de modernizar a já desenvolvida indústria germânica, em um projeto que envolvia as industrias, as universidades e a administração pública. Pretendia-se criar as chamadas “smart factories” e caracteriza-se como uma combinação de tecnologias de produção, informação e comunicação, com o potencial de integração em toda a cadeia de valor.

Na essência, esta nova era, rompe com o arquétipo de produção a que estamos habituados. Focando-se em novos processos e produtos proporcionados pela convergência crescente entre as Tecnologias da Informação e Comunicação, a Robótica (automação e sistemas autónomos) e a Biologia. Naturalmente as empresas, as pessoas e a sociedade carecem de se adaptar a um mundo que se pretende interligado, ágil, eficiente e (espera-se) mais inteligente.


Oportunidades

As tecnologias, associadas a esta revolução, têm o potencial para ligar milhões e milhões de pessoas à internet, melhorar a eficiência das empresas e das organizações e ajudar a preservar o meio ambiente, fazendo uso de uma melhor gestão e controlo dos recursos do planeta, tendo, ainda, o potencial de corrigir os “males” provocados por revoluções industriais anteriores.

A 4ª Revolução Industrial, como as revoluções anteriores, tem em si o potencial de aumentar os níveis de prosperidade e melhorar os padrões de vida da humanidade.

Esta nova miríade de tecnologia possibilita novos produtos e serviços que aumentam a produtividade, eficiência e em última instância ambiciona-se melhorar a qualidade de vida. Encomendar um livro ou um táxi, reservar uma viagem, adquirir um qualquer bem, efetuar pagamentos, ver um filme, ouvir uma música, jogar um jogo online… tudo isto ficou ao alcance de um “clik”.

Uma coisa é certa a forma como organizamos e nos organizamos em sociedade ir-se-á transformar. As nossas decisões poderão ameaçar algumas dos nossos maiores avanços civilizacionais e o nosso modo de vida.

Caminhos

Numa recente AI Summit, realizada em Londres em 2017, analisou-se a evolução da área e perspetivou-se os próximos passos que poderão estar aí a aparecer. Enquanto nos primeiros anos se ambicionava alcançar ambientes que pudessem maximizar a produtividade nas atividades diárias dos seus utilizadores, agora aponta-se para ambientes que assistam os seus utilizadores de uma forma mais equilibrada, em que a tecnologia assiste em vez de potenciar. Ambicionam-se ambientes que possam fomentar sociedades mais prósperas e sustentáveis.

Os caminhos seguem por diversos trilhos, mas o mote passa por garantir uma maior aproximação entre os sistemas e os humanos. Tudo aponta para uma “humanização” destes sistemas, não tão-somente limitada a uma busca de melhores resultados e performance (redução do erro humano) mas também sensíveis à presença humana.

O caminho passa indubitavelmente por aqui.


4. Inteligência Artificial A atividade humana está diretamente ligada à inteligência, sendo esta requerida ao nível das mais diversas tarefas, nomeadamente na compreensão das linguagens, na capacidade de expressão e na aprendizagem. De facto existem diversas formas e graus de inteligência que ocorrem em pessoas, mas, também, em outros seres vivos.

John McCarthy (2007) define Inteligência Artificial como:

“It is the science and engineering of making intelligent machines, especially intelligent computer programs. It is related to the similar task of using computers to understand human intelligence, but Artificial Intelligence does not have to confine itself to methods that are biologically observable”.

Esta definição apresenta a Inteligência Artificial (IA) como uma ciência e uma engenharia, com características muito próprias e que não se deve circunscrever a métodos que sejam biologicamente observáveis. Pode-se considerar implícita uma ideia, que se subscreve, de que à parte artificial desta inteligência se deve deixar espaço para a Imaginação, a Arte e a Ficção, da mesma forma que para voar como os pássaros, os aviões não batem as asas: o Homem só percebeu isso quando prescindiu de tentar imitar a Natureza e se deixou levar pela sua imaginação.

Uma definição mais simples e na linha de Luger e Stubblefield (1998) apresenta a IA como uma disciplina que tem por objetivo o estudo e a construção de entidades artificias com capacidades cognitivas semelhantes às dos seres humanos (Costa & Simões, 2008).

A IA é, por um lado, uma ciência que procura estudar e compreender o fenómeno da inteligência, e, por outro, um ramo da engenharia, na medida em que procura construir instrumentos para apoiar o Homem (Russel & Norvig, 1995). Os Sistemas Inteligentes têm como um dos seus propósitos, o de habilitar o computador para que este execute funções que são desempenhadas pelo ser humano fazendo uso do conhecimento e do raciocínio. A capacidade inerente aos humanos de agir inteligentemente é habitualmente associada ao conhecimento que estes detêm. O conhecimento é, pois, um requisito essencial para a construção destes sistemas.


Paradigmas

A metáfora computacional olha para a inteligência como uma forma de computação. A inteligência surge como o resultado da atuação de processos sobre estruturas simbólicas. Nesta metáfora desenvolve-se através de programas que atuam sobre representações do mundo, existindo uma correspondência entre os objetos do mundo e a sua representação simbólica (Costa & Simões, 2008).

A metáfora conexcionista olha para a inteligência como sendo uma propriedade emergente das interações de um número elevado de unidades elementares de processamento. Parte-se do princípio que os fenômenos mentais podem ser descritos como a interconexão de redes que possuam unidades uniformes e simples (neurónios), densamente interligados. Sendo as redes neuronais o modelo mais utilizado (Costa & Simões, 2008).

A metáfora biológica esta abordagem olha a forma como as espécies evoluem. Nesta abordagem de inspiração biológica parte-se de um conjunto de soluções candidatas, designada população, que se faz evoluir ao longo do tempo de acordo com princípios da evolução (Costa & Simões, 2008).

Inteligência

Nos Dicionários a inteligência é apresentada a seguinte definição: Inteligência: […] faculdade de compreender, um talento, o raciocínio, a habilidade […]

É difícil definir inteligência pois está coberta por uma áurea de mistério, que lhe advém, um pouco, de uma componente que emana da mente, do talento e da habilidade. A questão é mais séria e complexa quando se estudam as formas para a sua implementação em processos computacionais ou entidades inteligentes, descrevendo a atitude mental e desenvolvendo o talento e a habilidade. Os investigadores e cientistas têm aplicado os seus esforços no desenvolvimento de sistemas de computação com o objetivo de executarem tarefas similares às que um humano realiza, e tais sistemas possuem um certo grau de inteligência, i.e., uma Inteligência Artificial.

Áreas de aplicação

A Inteligência Artificial é hoje de facto relevante para qualquer tarefa intelectual. Os exemplos de aplicação da Inteligência Artificial vão desde dos veículos autônomos (como dornes e automóveis autónomos), ao diagnóstico médico, a criação de arte (como poesia, música), na prova de teoremas matemáticos, jogos (como o xadrez ou go), os motores de busca, os assistentes


online (como o Siri), o reconhecimento de imagens e vídeo, a filtragem de spam, na previsão de decisões judiciais e marketing online.


5. Entidades Inteligentes Definir o conceito de entidade inteligente tem sido uma tarefa de difícil concretização, devido ao facto deste conceito ser usado para caracterizar muitas e diversas espécies de entidades. Resulta, daí, que as múltiplas definições existentes na literatura se prendam com inúmeros e distintos contextos de utilização e de desenvolvimento de aplicações. O agente assume-se como uma figura metafórica utilizada em inúmeras áreas do conhecimento humano, que vão desde a Psicologia, a Economia e a Sociologia, até às Ciências da Computação. São muitas vezes vistos como entidades designadas como objetos autocontidos, interativos e concorrentes, que comunicavam por troca de mensagens e que demonstravam possuir um certo tipo de comportamento, que podem ou não ter uma componente física.

Importa aqui fazer uma distinção, que não sendo fundamental para o entendimento dos conceitos envolvidos, é necessário ser feita: entre agentes de software (Software) e Robôs.

Em ciências da Computação, um agente de software, que pode ou não ter uma componente física, é um (ou um conjunto de) programa de computador que atua para outro que pode ser um utilizador final ou mesmo outro programa. Os exemplos mais populares são os bots e os robôs. Os robôs em que os agentes surgem incorporados como uma parte física i.e., com um corpo. Os bots um software (não visível por não ter corpo físico i,e., virtual) como um chatbot executado em um Smartphone (por exemplo, o Siri).

Para o objeto deste estudo, o importante é que estas entidades inteligentes - agentes têm um conjunto de propriedades e comportamentos que devemos necessariamente analisar.

Agentes

Nos dicionários da Língua Portuguesa é apresentada uma definição de agente na forma: Agente: [...] algo que age, capaz de produzir um efeito [...].

Uma outra definição passa por considerar um agente como algo que obtém informação e conhecimento do seu universo de discurso através de sensores e actua nesse ambiente através de actuadores [Russel & Norvig,1995]. Pode-se dizer que os agentes são componentes persistentes e activos que percebem, raciocinam, actuam e comunicam (Figura 1). Pode-se perceber que os agentes são entidades que habitam em ambientes complexos, sentem esse ambiente e


actuam de modo autónomo, procurando executar um conjunto de tarefas para as quais receberam procuração.

Na comunidade científica existe, no entanto, um certo acordo sobre uma das facetas dessas entidades: a que se prende com o conceito de autonomia. Por exemplo, Wooldridge [Wooldridge, 2009] afirma que um agente corporiza um sistema computacional capaz de uma acção flexível e autónoma, desenvolvido num determinado meio ou sobre um dado universo de discurso, o que se apresenta como uma definição mais abrangente (entende-se por flexível um agente que é reactivo, pro-activo e com capacidade de socialização).

Figura 1: Agente

Agentes Inteligentes

Wooldridge e Jennings [Wooldridge & Jennings, 1995] apresentam aquilo a que nos dias de hoje se pode definir como o fio condutor que levou a uma das primeiras formulações e quantificações, sob um ponto de vista formal, da noção de agente e, em termos de propriedades do foro antropopático, e adjetivados como sendo de fracas ou fortes. Em particular, um agente (ou um Sistema Multiagente) é considerado fraco quando não apresenta um conjunto mínimo de atributos, a partir dos quais se possam definir e quantificar um certo conjunto de atitudes como, por exemplo:

Autonomia: os agentes operam sem a intervenção de outros agentes, e têm controlo sobre as suas acções e o seu estado de conhecimento interno,

SensorActuador

.

Ambiente


Reactividade: os agentes têm percepção do que ocorre no seu universo de discurso e respondem adequada e atempadamente a mudanças ocorridas nesse ambiente.

Pro-actividade: os agentes são capazes de tomar a iniciativa, conduzindo as suas próprias acções segundo um comportamento que é dirigido por objectivos.

Sociabilidade: os agentes interactuam com outros agentes, comunicando com estes, competindo ou cooperando na resolução de problemas que entretanto lhes tenham sido colocados.

A noção de agente fraco tem a sua génese em áreas como a Computação Distribuída e a IA, onde se entende o agente como um paradigma para a automação dos procedimentos de cooperação, situações que se desenvolvem quando se olha para a resolução de problemas em ambientes distribuídos.

Por outro lado, um agente é considerado forte, quando a(s) entidade(s) com que nos deparámos é(são) eminentemente cognitiva(s), passível(eis) de desenvolver a sua própria consciência, de seapresentar como tendo um conjunto de mais-valias como a perceptibilidade, a sentimentalidade e o emocionismo [Wooldridge & Jennings, 1995]. Por conseguinte, um conjunto mínimo de atributos tem, de ser considerado, e em que se destacam [Nwana, 1996] [Russel & Norvig, 1995]:

Mobilidade: um agente diz-se móvel quando se movimenta através da rede executando as tarefas de que foi incumbido e cumprindo objectivos.

Intencionalidade: a intencionalidade é a capacidade que o agente apresenta para a definição de objectivos assim como de estratégias para os atingir. Esta atitude é analisada em moldes semelhantes aos apresentados na qualificação de mobilidade.

Aprendizagem: a aprendizagem é a capacidade que o agente apresenta para adquirir conhecimento. A actualização da base de conhecimento é feita através da assimilação de padrões de comportamento ou de preferências manifestadas pelo próprio agente.

Competência: um agente é competente quando conduz com sucesso e eficiência as tarefas que é incumbido de realizar. A competência está normalmente relacionada com a confiança depositada no agente, por terceiros.

Veracidade: um agente não fornece, propositadamente, informação falsa.


Racionalidade: um agente racional não aceita realizar tarefas que lhe pareçam impossíveis de executar, contraditórias com os seus princípios (e.g., ética), ou quando não são compensados em termos do risco, custo e esforço envolvido.

Benevolência: um agente benevolente adopta como seus, os objectivos de terceiros, desde que estes não entrem em conflito com os que perfilha. Os agentes benevolentes são levados a realizar todas as tarefas que lhe sejam imputadas.

Emotividade: certas características próprias do ser humano têm vindo a migrar e a constituir-se como parte constituinte de agentes (Sistemas Multiagente). Um agente emotivo emula emoções artificiais para transmitir afetividade aos seres humanos, permitindo assim interações mais efetivas, estimulantes e naturais entre humanos e agentes.

Autonomia

Autonomia ("aquele que estabelece suas próprias leis") é um conceito descrito fundamentalmente na moral, na política e na filosofia. Define-se como a capacidade de um indivíduo racional (não necessariamente um organismo vivo) de tomar uma decisão não forçada baseada nas informações disponíveis.

A autonomia é uma das características mais consensuais na comunidade da Inteligência Artificial, Segundo Nwana [Nwana, 1996], autonomia refere-se ao princípio de que os agentes podem agir baseados nas suas próprias regras de decisão, sem existir a necessidade de serem guiados por humanos.

O Problema da autonomia

Várias questões se colocam neste contexto:

Podemos detetar diferentes graus de autonomia, dado que esta é um conceito relacional (social) [Castelfranchi, 1994].

Um agente só é autónomo em relação à influência dos outros agentes.

Qual a relação entre a autonomia de um agente e a sua capacidade de colaboração e aprendizagem?

Tendo em conta que os agentes são situados, adaptando-se ao ambiente onde estão inseridos, bem como a outros agentes, então a autonomia de um agente tem necessariamente que ser limitada!

Como é que o comportamento humano responde e se adapta ao ambiente, e ao mesmo tempo, é independente dos estímulos externos? [Descartes].


Autonomia em relação ao contexto físico (ambiente)

Este tipo de autonomia entre em conflito com a necessidade de adaptação de um agente. Ou seja, quanto mais autónomo o agente é do ambiente, menos necessidade tem de se adaptar a ele e de interagir com ele.

Autonomia em relação ao contexto social (aos outros)

Este tipo de autonomia tem a ver com os objetivos dos agentes. Poder-se-á dizer que o grau de autonomia é dado pelo número e valor dos objetivos que o agente tem que não consegue atingir sem a ajuda de outros. Este tipo de autonomia pode ainda ser decomposto em dois tipos: autonomia relativa aos meios de execução e autonomia relativa aos objetivos.

Postulados de um agente autónomo e social [Castelfranchi, 1994].

O agente tem os seus próprios objetivos;

O agente é capaz de tomar decisões relativas a vários objetivos que podem estar em conflito;

O agente adota objetivos de outros agentes e do exterior (influenciável);

Adota como consequência de uma escolha;

Adota se vê que a sua adoção o leva a atingir os seus próprios objetivos.

Sumário

O conceito ou a definição de agente está longe de ser consensual. No entanto, tal poderá assumir-se como uma vantagem e não como um senão, uma vez que deste modo é possível um elevado grau de abstração na análise dos problemas. Existem autores que afirmam que o conceito de agente não existe enquanto meio inequívoco de classificação dos processos de desenvolvimento e análise de software, mas sim enquanto abstração útil para a abordagem a problemas porventura complexos.

Apesar da indefinição quanto ao conceito, existe um conjunto de características consideradas elementares para a criação de agentes inteligentes: a autonomia, a proatividade, a reatividade e o comportamento social.

As áreas de aplicação deste tipo de entidades e sistemas são variadas e vão desde o comércio eletrónico até sistemas de controlo de tráfego aéreo, entre outras


6. Aplicações

Em particular no âmbito do estudo que estamos a elaborar vamos dar especial atenção às questões levantadas pela utilização de veículos autónomos, aos negócios na internet e as possibilidades abertas pela resolução de conflitos na internet.

Veículos não tripulados

Um veículo não tripulado (também pode ser designado de Drone) é um veículo sem um humano a bordo, com responsabilidades de o dirigir. Os veículos não tripulados podem ser controlados ou guiados remotamente, ou podem ser veículos autônomos que são capazes de detetar seu ambiente e navegar em modo autónomo.

Existem diversos tipos de veículo não tripulado, os quais podemos desatacar:

• Veículo terrestre não tripulado (Unmanned ground vehicle - UGV), como o carro autônomo;

• Veículo aéreo não tripulado (Unmanned aerial vehicle - UAV), aeronave não tripulada comumente designada de "drone";

• Veículo aéreo de combate não tripulado (Unmanned combat aerial vehicle)

• Veículo de superfície não tripulado (Unmanned surface vehicle - USV), para a operação na superfície da água;

• Veículo subaquático não tripulado (Unmanned underwater vehicle - UUV), designado de drone subaquático;

• Nave espacial não tripulada (Unmanned spacecraft), se for controlada remotamente designada de unmanned space mission e se for autónoma designada de ("robotic spacecraft" or "space probe").

Veículos Autónomos

Um veículo autônomo designado, normalmente, como carro sem condutor, autocondução, carro robótico e veículo terrestre não tripulado, é um veículo que é capaz de detetar o seu ambiente e navegar sem a entrada humana.

Os veículos autônomos usam uma miríade de tecnologias para percecionar e modelar o ambiente em que se movem, tais como: radar, luz laser, GPS, odometria e visão por computador. Sistemas de controlo avançados


interpretam informações vindas dos sensores de forma a identificar caminhos de navegação apropriados, bem como obstáculos e a sinalização relevante.

Esta tecnologia arrasta com ela um vasto potencial disruptivo, em que os benefícios possíveis incluem: o aumento da segurança, o aumento da mobilidade, a redução da criminalidade. Especificamente, deseja-se uma redução significativa nos acidentes rodoviários e dos custos relacionados, o que levará a diminuição dos custos associados aos seguros. Prevê-se que os veículos autônomos aumentem o fluxo de tráfego, proporcionam uma maior possibilidade de mobilidade para crianças, idosos, pessoas com deficiências, na medida em que os viajantes são dispensados das tarefas de condução e navegação.

Com este tipo de condução (autónoma) espera-se ainda que tenha um impacto direto na diminuição do consumo de combustível, na redução das necessidades de espaço de estacionamento, no incremento de novos modelos de negócios para o transporte como um serviço, especialmente através da economia compartilhada.

Uma outra dimensão que se levanta neste cenário é os diferentes níveis de autonomia que estes veículos podem apresentar e que vamos analisar de seguida.

Os 5 níveis de autonomia em veículos autónomos

A Society of Automotive Engineers (SAE)1 desenvolveu uma classificação dos veículos autónomos em função das tecnologias que possuí e as manobras de condução que podem ser executadas sem a intervenção do respetivo condutor.

Nível 0: O veículo não possui nenhum sistema que lhe permita circular de forma autónoma.

Nível 1: Em certos modos de condução, o veículo pode assumir o controlo do volante ou dos pedais. O veículo incorpora um sistema de controlo de cruzeiro e o sistema de manutenção na faixa pela qual circulamos.

Nível 2: Neste nível, o veículo já pode ser considerado semiautónomo. Um veículo neste nível tem certos modos em que o carro pode assumir os pedais e o volante, mas apenas sob certas condições, o condutor mantém o controlo final sobre o veículo. Se surgir alguma situação de perigo, o condutor toma o

1 https://www.sae.org/


controlo da situação imediatamente. Dessa forma, os sistemas de condução autónomos podem ser desativados a qualquer momento.

Nível 3: Um veículo de nível 3, o carro possui certos modos que assumirão plenamente as responsabilidades de condução, sob certas condições, mas espera-se que um condutor retome o controlo (a condução) quando o sistema o solicitar. Este tipo de veículo pode decidir quando deve mudar de faixa de rodagem e como responder a incidentes dinamicamente na estrada, mas usa o condutor humano como o sistema de retorno. Este seria o nível em que estaria o atual Autopilot do Tesla Model S.

Nível 4: Nesse nível, o veículo pode circular sem intervenção do condutor. A única limitação dessa condução é que só pode ser realizada em espaços perfeitamente delimitados, onde a tecnologia (do veículo) pode depender de si mesma. Esse nível de autonomia será, segundo o que se pensa, o que terão os futuros táxis autônomos.

Nível 5: O último nível de condução autônoma. Neste nível, o veículo pode circular de forma autônoma por qualquer via sempre e quando seja autorizada a sua circulação. Para que tal desidrato seja permitido, considera-se que deverá possuir a tecnologia suficiente para que possa reagir diante dos imprevistos que possam surgir na via em que circula.

Robôs

Um robô é uma máquina programada que é capaz de executar uma série de ações. Os robôs podem assumir uma forma humanoide, mas a maioria dos robôs são máquinas desenhadas para executar uma tarefa sem ter em conta a necessidade de uma aparência humana (e.g., robôs em ambientes industrias).

Os robôs podem classificados como autônomos ou semiautónomos, e podem ter uma aparência humanoide como o ASIMO (Advanced Step in Innovative Mobility da Honda), a robôs industriais, robôs de assistência médica, robôs de assistência, robôs de terapia, drones, e podem mesmo ser nano-robôs.

Importa referir que o termo robô pode caracterizar tanto um robô físico (i.e., com corpo) como um agente de software (i.e., virtual sem corpo físico) que são designados geralmente por bots.

Podemos em jeito de resumo, dizer que existem dois tipos mais gerais de robôs, com base em na utilização: robôs autônomo de propósito geral e robôs dedicados.

Há já referida anteriormente, evolução que o trabalho (humano) sofre com a passagem progressiva de um trabalho predominantemente manual para um


trabalho mais intelectual. Os robôs são de facto mais eficientes que os humanos em tarefas repetitivas que possam ser reproduzidas e replicadas, e que não necessitem de criatividade (nas suas mais diversas dimensões), quer sejam manuais ou mais intelectuais. Obviamente isso levanta problemas com no setor laboral e vai mudar radicalmente o panorama do mercado trabalho destinado aos humanos e, também, vai implicar novas legislações que regulamentem as relações e as interações entre humanos e robôs.

Claramente e de acordo com o “Executive Summary World Robotics 2017 Industrial Robots” da IFR (The International Federation of Robotics) a procura de robôs (Figura 2 robôs industrias) irá aumentar muito e em particular na indústria. Daqui se depreende também a sua utilização na indústria automóvel e além disso, a contínua modernização e reformulação irão ainda garantir mais investimentos em robôs em países já altamente automatizados.

Figura 2: Previsão de Procura de Robôs Industrias até 2020

Fonte: IFR World Robotics Report (https://ifr.org/downloads/press/Executive_Summary_WR_2017_Industrial_Robots.pdf)

Negócios na Internet

Com o advento da Internet os negócios na internet tornaram-se um fenómeno global. O comércio Eletrónico tornou-se uma prática comum e crescente.

O comércio eletrónico como um tipo de transação comercial feita através de um equipamento eletrônico. Com a expensão da Internet, as empresas

https://ifr.org/downloads/press/Executive_Summary_WR_2017_Industrial_Robots.pdf



passaram a ver o ambiente digital como um terreno fértil com inúmeras oportunidades de exploração.

No contexto deste surge a necessidade de definir a contratação eletrónica como a utilização em todo o processo de meios eletrónicos no tratamento de operações e de comunicação por entidades adjudicantes e outras entidades na compra de bens e serviços ou obras públicas, a partir da divulgação do procedimento até ao pagamento.

Uma definição, mais jurista, define a contratação eletrónica, como sendo aquela contratação que se forma mediante manifestações de vontade que se concretizam em transmissões de dados ou informação através de meios eletrónicos.

Que no remete para uma questão essencial, que neste contextos se colca - o Big Data. Por que na prática do que estamos a falar é da produção e armazenamento de grandes quantidades de dados.

A análise adequada de tais grandes conjuntos de dados permite gerar novo conhecimento que se encontra em correlações que só se podem por existirem estes grandes volumes de dados. Como são exemplos eventuais tendências em determinados ramos de negócios, a prevenção de doenças, o combate à fraude e a criminalidade.

No âmbito deste estudo esta massificação de dados, coloca imensos desafios. Sendo a privacidade o maior deles, de facto coloca-se aqui uma ameaça à privacidade representada pelo aumento de armazenamento e manipulação de informações pessoais que podem ser identificáveis.

Se muitas vezes uma simples recomendação de produtos, baseadas no nosso histórico de pesquisas, sugeridas pela Amazon pode parecer invasiva ao comum dos mortais. A legislação não está ainda preparada para as inúmeras oportunidades que o Big Data oferece ao agregar, analisar e tirar conclusões a partir de dados até então esparsos.

As questões de privacidade e proteção de dados vão ser objeto de análise em próximo capítulo.

Uma outra questão que se levanta é a utilização em mercados financeiros, mas não só, de algoritmos autónomos. Um mercado financeiro é basicamente um "ambiente" que permite a transação de bens (compra e venda, i.e., a comercialização) de bens, tais como valores mobiliários (e.g., ações, obrigações), mercadorias e dinheiro (de diferentes moedas).


Ora hoje a maioria das principais transações são efetuadas e controladas por algoritmos supostamente “inteligentes” e autónomos. O que levanta questões de responsabilidade associados aos possíveis erros que podem ocorrer. Um pouco na senda dos problemas identificados pela utilização de veículos autónomos e sua operação.

Resolução de conflitos

O surgimento de uma sociedade globalizada, suportada em relações estabelecidas através do funcionamento da rede - Internet, traz em si novos desafios no que à resolução de conflitos respeita. Os litígios, como vimos, podem surgir entre quaisquer duas pessoas ou entidades, independentemente do local físico e tempo em que se encontrem. Implicando a necessidade de encontrar alternativas aos tradicionais sistemas de resolução judicial de conflitos.

Os sistemas de resolução de conflitos em linha (“On-line Dispute Resolution”) podem alargar substancialmente as possibilidades de intervenção dos sistemas alternativos de resolução de conflitos e, através da introdução de mecanismos mais sofisticados como sejam os sistemas inteligentes para potenciar a geração de respostas e possíveis soluções para as necessidades e aspirações das partes em litígio (Novais and Carneiro, 2016).

Estes sistemas podem ser alternativas viáveis a resolução de alguns dos conflitos e ameaças que analisamos em pontos anteriores, mas não são, nem podem, ser vistos como substitutos da regulamentação urgente e indispensável que estes novos ambientes necessitam (Viana, Andrade and Novais, 2016).


7. O panorama jurídico em matéria de Inteligência artificial

O Direito é uma ciência que tem uma natureza e velocidade particulares. A criação de normas jurídicas, a sua interpretação e a sua aplicação demandam do legislador e intérprete um tempo próprios de modo a que não se ceda às pulsões intempestivos e, eventualmente, populistas que se façam sentir num determinado período. Por essa razão, o espaço do “jurídico” compadece-se mal com fenómenos de grande volatilidade. A tecnologia, e em particular a inteligência artificial, é exatamente um desses casos. A rapidez com que se assiste ao surgimento e esquecimento das tecnologias leva a que o Direito, quando compelido a regular determinado setor, sinta dificuldades a vários níveis.

Em primeiro lugar, a descrição da matéria a ser regulada. Dado que as novas tecnologias têm subjacentes ciências com léxicos completamente distintos daqueles empregues no Direito, surge a questão de como normativizar uma realidade que é, ontologicamente, extrajurídica, isto é, como colocar em letra de lei ou, usando uma outra expressão, cristalizar o que é polimórfico, volátil e, por vezes, passageiro. Uma técnica legislativa usada, designadamente ao nível do Direito da União Europeia, é o recurso a listas de definições dos termos empregues no diploma em causa. Definições que, visando resistir ao desafio da temporalidade das tecnologias, consistem em redações terminológicas de um elevado grau de abstração tal que, embora logrando o objetivo referido, falham naquele que é o essencial: o de fornecer ao intérprete do direito um apoio hermenêutico útil. De nada serve uma definição que não consegue expressar de modo adequado e transparente o que está a ser definido. Não cumpre o seu propósito primordial. É por isso importante a concreção de um equilíbrio entre a determinabilidade e a intemporalidade. A determinabilidade do conteúdo do termo definido, possibilitando uma exegese mais fácil do texto legal a ser apreciado, deve ser, a nosso ver, constituir prioridade de igual importância à de construção de textos normativos capazes de resistir aos desafios do tempo.

Em segundo lugar, fruto da hiperespecialização académica e profissional, tão caraterística do nosso mundo, leva a que, in casu, os operadores judiciários, preparados quase que exclusivamente para as tarefas de leitura e interpretação da lei, não disponham, em regra, das capacidades técnicas e académicas para a compreensão do horizonte material que cada um dos termos técnicos relacionados com novas tecnologias implica na vida prática. Esta circunstância, fomentada pela falta de aposta na multidisciplinaridade da


formação profissional e académica, redunda, a jusante, na impossibilidade de apreciação autónoma do caso que necessite de ser qualificado juridicamente.

A estas dificuldades junta-se uma outra, mais especificamente no domínio da inteligência artificial: a de inexistência de uma abordagem normativa holística a nível da União Europeia. À parte da resolução com recomendações à Comissão a propósito de direito civil sobre robótica, a que nos referiremos de seguida, a inteligência artificial e robótica continua a ser um tópico que não tem merecido a atenção devida, sendo descortinadas apenas pequenos afloramentos normativos em textos legais dispersos.


8. União Europeia, robótica e IA Socorrendo-se do art.º 225.º do Tratado sobre o Funcionamento da União Europeia2, que permite ao Parlamento Europeu solicitar à Comissão Europeia que redija uma proposta legislativa (in casu, uma diretiva) o Parlamento Europeu aprovou no passado dia 16 de Fevereiro de 2017 uma resolução com recomendações à Comissão a propósito de direito civil sobre robótica3.

Aprovada com 396 votos a favor, 123 contra e 85 abstenções4, a resolução estabelece uma série de propostas que a Comissão deverá atender quando, no futuro próximo, elaborar uma proposta de ato da União. Trata-se de um marco incontornável na realidade jurídica não só europeia, mas também mundial, pelo seu carácter inovador e abrangente sobre uma questão das questões mais importantes cujas implicações poderão alterar o próprio tecido da sociedade humana em várias das suas dimensões. São vários os países que têm na sua agenda política a regulamentação jurídica da inteligência artificial e robots, mas, com esta resolução, a União Europeia prepara-se para tomar a dianteira, norteando desde logo os Estados-membros sobre os standards a serem seguidos.

Na origem desta resolução esteve um relatório desenvolvido pela Comissão dos Assuntos Jurídicos que, após 10 reuniões entre Maio de 2015 e Setembro de 2016 e audição de vários stakeholders5, foi adotado em Janeiro de 20176.

A mesma comissão coordenou uma consulta pública sobre o objeto deste relatório (direito civil sobre robótica), que terminou em meados de 2017, com

2 Artigo 225.o (ex-segundo parágrafo do artigo 192.o TCE) O Parlamento Europeu pode, por maioria dos membros que o compõem, solicitar à Comissão que submeta à sua apreciação todas as propostas adequadas sobre as questões que se lhe afigure requererem a elaboração de atos da União para efeitos de aplicação dos Tratados. Caso não apresente uma proposta, a Comissão informa o Parlamento Europeu dos motivos para tal. 3 Cf. http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017-0051&language=EN&ring=A8-2017-0005 4 Cf. http://www.europarl.europa.eu/news/en/press-room/20170210IPR61808/robots-and-artificial-intelligence-meps-call-for-eu-wide-liability-rules 5 Cf. http://www.europarl.europa.eu/RegData/etudes/ATAG/2017/599250/EPRS_ATA(2017)599250_EN.pdf 6 Cf. http://www.europarl.europa.eu/sides/getDoc.do?type=REPORT&mode=XML&reference=A8-2017-0005&language=EN


questionários a serem implementados tendo como público-alvo especialistas e comunidade em geral7.

A resolução do Parlamento Europeu parte sobretudo do relatório apresentado pela Comissão dos Assuntos Jurídicos e, nos considerandos iniciais, centra a questão, do ponto de vista jurídico, na matéria da responsabilidade decorrente dos produtos defeituosos. Daí a referência à Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos que se ocupa exatamente da proteção do consumidor e, inversamente, da responsabilidade do produto por danos causados por defeitos do seu produto 8 . Este enquadramento jurídico inicial define a tónica desta resolução, como iremos ver com maior detalhe.

Desde logo, o Parlamento Europeu chama a atenção na Introdução para o potencial que a robótica e inteligência artificial possuem para levarem a sociedade humana a uma nova era, movida por uma nova revolução industrial que produzirá implicações profundas, exigindo por isso atuação do legislador. Os setores que poderão beneficiar da robótica e da IA são, no entender, do Parlamento Europeu sobretudo a produção, comércio, transportes, cuidados médicos, trabalhos de salvamento, educação, agricultura e ainda operações de limpeza de locais tóxicos poluídos. Embora haja este enorme potencial de "transformar vidas e práticas de trabalho, para aumentar os níveis de eficiência, de poupanças e de segurança, e para oferecer um melhor nível de serviços", traz igualmente "um conjunto de preocupações relacionadas com os efeitos diretos e indiretos para a sociedade no seu conjunto", em domínios como o emprego, ensino ou políticas sociais, obrigando a uma análise séria a princípios como o da transparência, tendencial equilíbrio socioeconómico, proteção de dados pessoais e privacidade, dignidade, autonomia e autodeterminação da pessoa humana.

Por todas estas razões, considera o Parlamento Europeu necessário assumir a dianteira na construção de normas de regulamentação que constituam o padrão para a indústria europeia, evitando desse modo que esta última se veja na situação de conformar as suas atividades com base em normas estabelecidas por países terceiros, como por exemplo os EUA, Japão, China ou Coreia do Sul. O ponto de partida deverá ser, para o Parlamento, o tratamento

7 Cf. http://www.europarl.europa.eu/committees/en/juri/subject-files.html?id=20170202CDT01121 8 O texto completo da diretiva pode ser encontrado aqui http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A31985L0374.


da responsabilidade civil decorrente da robótica e IA, sem que com isso se minem de forma indelével os avanços e vantagens que lhe estão associadas. Ou seja, pretende esta resolução propor um equilíbrio entre a necessidade de regulamentação da robótica e IA, em particular a responsabilidade, a transparência e a prestação de contas, e o benefício que esta revolução tecnológica traz à sociedade. Em suma, o objetivo será para já tratar o problema da responsabilidade civil, sem com isso asfixiar o processo de investigação, inovação e desenvolvimento da robótica e IA.

Do ponto de vista jurídico, parece ser claro que o Parlamento Europeu parte dos seguintes postulados:

- as normas e princípios jurídicos atuais podem não ser suficientes ou adequados para solucionar as hipóteses em que os atos ou omissões de um robô não podem ser atribuídas a um humano específico, seja ele fabricante, operador, proprietário ou utilizador, particularmente quando um robô toma decisões autónomas;

- as normas e princípios jurídicos atuais não contemplam a responsabilidade autónoma e direta de um robô por condutas lesivas a terceiros;

- as normas e princípios jurídicos atuais implicam que a responsabilidade por danos causados por robôs ou IA recaia sobre um humano específico, quer nos casos de defeito de fabrico (responsabilidade do fabricante) quer nos de má utilização (responsabilidade do utilizador);

- insuficiência das normas jurídicas em matéria de responsabilidade contratual perante cenários em que IA tomam decisões quanto à escolha de contratantes, negociação de condições contratuais, celebração de contratos e seu cumprimento;

- possível insuficiência das atuais regras de responsabilidade extracontratual particularmente pela necessidade de comprovação de um nexo de causalidade entre o defeito do produto e os danos efetivamente provocados;

- possível insuficiência da referida Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos, dado que os robôs e IA mais avançados tecnologicamente estão dotados de mecanismos de aprendizagem e adaptação que torna praticamente impossível a previsão de comportamentos futuros.

Tendo em conta estes postulados e considerações previamente tecidos, o Parlamento Europeu, através desta resolução, insta a Comissão a tomar posição


relativamente: 1) aos princípios relativos ao desenvolvimento da robótica e da inteligência artificial para utilização civil; 2) à investigação e inovação; 3) princípios éticos; 4) (des)necessidade de uma Agência Europeia da Robótica e da Inteligência Artificial; 5) direitos de propriedade intelectual e circulação de dados; 6) normalização, segurança e proteção; 7) meios de transporte autónomos (veículos autónomos, drones); 8) robôs de assistência; 9) robôs médicos; 10) reparação e aperfeiçoamento humano; 11) educação e emprego; 12) impacto ambiental; 13) responsabilidade; e 14) aspetos internacionais.

1) Princípios relativos ao desenvolvimento da robótica e da inteligência artificial para utilização civil9

Neste domínio sublinha-se, em primeiro lugar, a necessidade de criação de um léxico claro, determinado e com significação unívoca aplicável no seio da União Europeia e que tenha por objeto os sistemas ciberfísicos, sistemas autónomos e robôs autónomos10.

Em segundo lugar, a Comissão é instada a ponderar e tomar posição relativamente à criação de um sistema europeu de registo de robôs avançados no mercado interno da União Europeia e, concomitantemente, quanto à entidade que deveria gerir o referido sistema de registo, a qual, no entender do Parlamento, poderia ser uma nova Agência da União Europeia para a Robótica e a Inteligência Artificial.

Em terceiro lugar, alerta para a necessidade de garantir na etapa de desenvolvimento da robótica e IA que a decisão última caiba ao ser humano e não às máquinas inteligentes. Ainda que não o concretize, parece-nos que o Parlamento pretendia sugerir que, em ultima ratio, se introduzisse um kill switch, conferindo o poder de decisão em última instância ao ser humano.

Igualmente, atendendo à natureza peculiar da União Europeia e dos princípios que a fundamentam, como o da livre circulação e mútuo reconhecimento, é sugerido que, com o fito de evitamento da fragmentação na aplicação destas regras, deverá lançar-se mão do princípio do reconhecimento mútuo, por um

9 Nesta análise, como nas seguintes, ater-nos-emos apenas aos aspetos que nos parecem mais relevantes tendo em conta o objetivo e objeto deste relatório e, por isso, não seremos exaustivos na descrição e análise desta resolução, por ser despicienda. 10 Deverão ser tomados em consideração critérios como aquisição de autonomia através de sensores e/ou da troca de dados com o seu ambiente (interconetividade) e da troca e análise desses dados; autoaprendizagem com a experiência e com a interação (critério opcional); um suporte físico mínimo; adaptação do seu comportamento e das suas ações ao ambiente; inexistência de vida no sentido biológico do termo.


lado, na utilização transfronteiriça de robôs e de sistemas robóticos e, por outro, nos ensaios, certificação e autorização de introdução no mercado dos robôs.

Finalmente, deverão ser previstos mecanismos de apoio às startups e pequenas e média empresas que recorram à robótica ou contribuam para a criação de novos segmentos de mercado neste domínio.

2) Investigação e inovação

Neste particular, é imprescindível que a União Europeia se mantenha na vanguarda da investigação no campo da robótica e inteligência artificial. Para tanto, deverá continuar e mesmo aprofundar-se o apoio financeiro a projetos de investigação, através do financiamento público e/ou parcerias público-privadas, dedicados ao desenvolvimento de aplicações de robótica e inteligência artificial, mas igualmente ao impacto causado por estas na área social, ética, jurídica e económica.

Nos processos de investigação e desenvolvimento de aplicações até à sua comercialização deve ser respeitado o princípio da precaução, tomando-se assim as medidas de segurança adequadas em função dos impactos potenciais previsíveis, sem que com isso se obstaculize o progresso científico e consequente benefício da sociedade.

Finalmente, para o fomento da investigação e inovação, é necessário o reforço da conectividade e infraestruturas digitais, razão pela qual a Comissão é instada a garantir a concretização deste pressuposto, em respeito pelo princípio da neutralidade da rede, e ao mesmo passo favorecer o uso de normas e plataformas abertas que se apoiem no princípio da interoperabilidade.

3) Princípios éticos

Evidentemente que o desenvolvimento desregrado da robótica e inteligência artificial merece especial repúdio dado que em poderá desse modo colocar-se valores ou interesses essenciais para o livre desenvolvimento da pessoa e para a vida em comunidade, razão pela qual se concede particular proteção a direitos fundamentais, como a segurança, saúde, liberdade, privacidade, entre outros. Daí que seja compreensível que o Parlamento Europeu considere que os riscos decorrentes da utilização da robótica e da inteligência artificial devam ser acautelados e endereçados com o estabelecimento de princípios éticos adequados à complexidade desta matéria. Em anexo à resolução, o Parlamento Europeu propõe um conjunto de princípios constantes de uma Carta da Robótica, que devem ser obedecidos pela Comissão aquando da proposta de atos jurídicos em matéria de robótica. Merece atenção cuidada o código de conduta para os engenheiros de robótica, o código para os comités


de ética da investigação quando analisam protocolos de robótica e as licenças de modelos para criadores e utilizadores11.

O Parlamento considera igualmente importante que se mitigue ou reduza a opacidade de funcionamento dos robôs e inteligência artificial, particularmente quando se esteja perante decisões tomadas por estes sistemas cujo impacto sobre a vida das pessoas seja substancial. Tal como se exige, por exemplo, no campo do direito penal, a fundamentação de uma decisão, também aqui não se poderá simplesmente reduzir o fundamento de uma decisão ao facto de esta ter sido tomada com recurso a sistemas inteligentes. Esta preocupação tem tomado de assalto vários países onde o recurso a algoritmos para a tomada de decisões como a possibilidade de caução, determinação de medida concreta da pena ou a decisão de libertação condicional de um recluso é já uma realidade. Estes algoritmos determinam o risco de reincidência do arguido ou a probabilidade de ele comparecer a uma audiência e, com base nestas informações, são tomadas decisões de impacto inegável, sem que, e aqui se situa o punctum crucis do problema, se conheçam as variáveis que fundamentaram o sentido da decisão da “máquina”. Isto acontece porque habitualmente estes sistemas inteligentes são produtos comprados a empresas privadas que, por razões que facilmente se adivinham, não querem ver revelados os segredos do seu funcionamento12. No entanto, a manutenção desta opacidade significa uma clara obstrução a uma sindicância plena da decisão a que o julgador chega, podendo mesmo alegar-se que através dela o julgador pode sentir-se compelido a desresponsabilizar-se pela decisão, por não considerar ser sua, pelo menos na totalidade. Certo é que, embora se saiba que instrumentos de avaliação de risco tomam em consideração fatores como idade, género, localização geográfica, circunstâncias familiares ou condições socioeconómicas, pelo facto de estarmos a mais das vezes perante software proprietário torna-se praticamente impossível analisar a ponderação das variáveis e validar os resultados obtidos, havendo mesmo quem denuncie casos de discriminação racial pelos algoritmos13.

Em suma, “o quadro ético orientador deve basear-se nos princípios de beneficência, não-maleficência, autonomia e justiça, nos princípios e valores consagrados no artigo 2.º do Tratado da União Europeia e na Carta dos Direitos Fundamentais, tais como a dignidade do ser humano, a igualdade, a justiça e

11 Pela sua importância, esses documentos são reproduzidos integralmente em anexo deste relatório. 12 Cf. https://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now. 13 https://psmag.com/.amp/news/racial-bias-in-criminal-risk-scores-is-mathematically-inevitable.


a equidade, a não discriminação, o consentimento esclarecido, o respeito pela vida privada e familiar e a proteção de dados, bem como em outros princípios e valores subjacentes do direito da União, como a não estigmatização, a transparência, a autonomia, a responsabilidade individual e a responsabilidade social, e em códigos e práticas éticas existentes”.

Uma palavra final deverá ser proferida neste apartado a propósito das preocupações relacionadas com a proteção de dados pessoais, particularmente naqueles casos em que robôs desempenhem funções no domicílio do utilizador, tendo por essa razão acesso a um local umbilicalmente ligado à esfera mais íntima de uma pessoa.

4) (Des)necessidade de uma Agência Europeia da Robótica e da Inteligência Artificial

O Parlamento Europeu considera importante ponderar a criação de uma Agência Europeia da Robótica e da Inteligência Artificial, com recursos humanos e materiais adequados e suficientes, com a finalidade de aconselhamento técnico, ético e regulamentar diante dos desafios derivados da robótica e inteligência artificial. Faria igualmente parte do seu rol de funções o controlo transetorial e multidisciplinar das aplicações baseadas na robótica, a identificação de padrões de melhores práticas e a recomendação de medidas de regulação, a definição de novos princípios e a resolução de potenciais questões de proteção ao consumidor e de problemas sistemáticos.

Seria ainda necessário, no entender do Parlamento, que fossem apresentados relatórios anuais pela Comissão e futura Agência Europeia a propósito das evoluções sempre galopantes no sector da robótica e inteligência artificial.

5) Direitos de propriedade intelectual e circulação de dados

Relativamente à regulamentação jurídica da propriedade intelectual, embora não esteja pensada explicitamente para a robótica, o Parlamento Europeu entende que o direito e doutrina atual são genericamente suficientes para dar uma resposta adequada, embora possam beneficiar de uma pontual adaptação a esta nova realidade.

Apesar de se tratar de uma matéria a que devotaremos uma atenção mais pormenorizada, não podemos deixar de dar conta também da necessidade de cumprimento do Regulamento Geral sobre a Proteção de Dados14 que entrará em vigor em Maio de 2018, substituindo a atual Diretiva 95/46/CE do Parlamento Europeu e do Conselho, de 24 de Outubro de 1995, relativa à protecção das

14 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex%3A32016R0679.


pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados15.

6) Normalização, segurança e proteção

Nesta secção são abordadas três dimensões distintas, mas intimamente conexionadas: a da normalização, a da segurança e a da proteção.

Quanto à primeira, deve clamar-se a premência de adopção de normas técnicas internacionais no domínio da robótica e inteligência artificial, a partir de uma colaboração próxima entre entidades como a Comissão, organizações europeias de normalização e a Organização Internacional de Normalização. A obtenção deste objetivo é instrumental para um mercado concorrencial, inovação, harmonização, segurança dos produtos e proteção dos consumidores.

A Comissão é ainda instada a redigir critérios uniformes para os Estados-membros para regulamentar as hipóteses de experimentação de robôs, em particular em cenários de vida real.

7) Meios de transporte autónomos (veículos autónomos, drones)

Diversos Estados-membros têm dado passos legislativos significativos no sentido da regulamentação dos veículos autónomos e drones, pelo que teremos ocasião de a eles nos referirmos quando analisarmos as ordens jurídicas nacionais. Isto não obsta porém a que ao nível europeu, perante o impacto dos veículos autónomos16 e drones, se exija uma resposta normativa. Aliás, tendo como força-motriz o fim da competitividade europeia, o Parlamento Europeu explicitamente se refere ao setor automóvel, afirmando que “o setor automóvel se encontra em carência urgente de normas eficazes a nível da União e a nível mundial para garantir o desenvolvimento transfronteiriço de veículos automatizados e autónomos, de modo a explorar na plenitude o seu potencial económico e beneficiar dos efeitos positivos de tendências tecnológicas”, embora inclua no conceito de veículos autónomos “todos os sistemas telepilotados, automatizados, conetados e autónomos de transporte rodoviário,

15 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:31995L0046. 16 Conforme se lê na resolução, tais impactos serão sentidos na “responsabilidade civil (imputabilidade e seguros), segurança rodoviária, todos os temas ligados ao ambiente (por exemplo, eficiência energética, utilização de tecnologias e fontes de energias renováveis), questões relacionadas com a informação (acesso aos dados, proteção dos dados e da privacidade e partilha dos dados), questões relacionadas com as infraestruturas de TIC (por exemplo, a densidade elevada de comunicações eficientes e fiáveis) e com o emprego (por exemplo, a criação e a perda de postos de trabalho, a formação dos condutores de veículos pesados de mercadorias com vista à utilização de veículos automatizados”.


ferroviário, marítimo, fluvial e aéreo, incluindo veículos automóveis, comboios, embarcações, aeronaves, aeronaves não tripuladas e todas as formas futuras de evolução e inovação neste setor”.

8) Robôs de assistência

A proteção dos grupos mais vulneráveis, como os idosos, têm sido uma das preocupações da União Europeia. Também na robótica e na inteligência artificial não podiam ser negligenciados. Um dos primeiros aspetos a ter em atenção liga-se à possível ligação emocional que pode resultar da interação destes cidadãos com robôs, o que deve suscitar uma reflexão profunda sobre esta questão e seu impacto no dia-a-dia numa larga franja da população europeia. Não pode pois ser olvidado que, em particular no séc. XXI, um dos desafios que as sociedades mais desenvolvidas têm enfrentado é precisamente o da inversão das suas pirâmides etárias, fruto, por um lado, da diminuição do número de nascimentos e, de outro, aumento da população idosa.

Estas mudanças demográficas abrem uma enorme oportunidade de desenvolvimento e utilização de robôs de assistência, cujo âmbito de utilização pode ser ainda alargado a pessoas com deficiência, com demência, perda de memória ou distúrbios cognitivos. Apesar de podermos reconhecer vantagens na sua utilização, nomeadamente o assistência e acompanhamento permanente ou ainda a prestação de cuidados, libertando os prestadores humanos para tarefas mais especializadas, a verdade é que a robótica, mesmo que “mascarada” com feições humanas, poderá contribuir para um ainda maior isolamento em especial dos mais idosos.

9) Robôs médicos

É consabido o papel cada vez mais importante dos robôs médicos no contexto de uma sala de cirurgias. É de facto uma das grandes vantagens da robótica no campo da medicina esta possibilidade de execução tarefas cirúrgicas precisas, repetitivas e menos invasivas, que permitem um recobro mais rápido e mais indolor, diminuindo igualmente a percentagem de infeções ou complicações pós-operatórias. Para além das vantagens terapêuticas, não são despiciendas as poupanças que originam. É por isso de saudar o desenvolvimento e inovação ao nível dos robôs médicos, mas, alerta o Parlamento Europeu, deverá ocorrer um sério investimento na formação e preparação dos profissionais de saúde para que as vantagens do recurso a robôs sejam maximizadas.


10) Reparação e aperfeiçoamento humano

Neste contexto, o Parlamento Europeu aponta a necessidade de criação urgente de comissões de ética de robôs em hospitais e outras instituições de cuidados de saúde. A sua criação e funcionamento deverá ser realizado de acordo com diretrizes a serem criadas pela Comissão e Estados-Membros. A utilidade destas comissões justificar-se-ia com a resolução de problemas éticos pouco habituais colocados no cuidado e tratamento de pacientes.

A humanidade tem conhecido avanços espantosos na reparação e compensação de órgãos ou funções humanas, mas também no aperfeiçoamento humano com recurso a sistemas ciberfísicos ou robôs médicos, que podem ser usados ou implantados no corpo humano. Estes sistemas ciberfísicos podem constituir uma séria ameaça à integridade física e vida caso não sejam implementadas medidas de segurança que minorem, pelo menos, ataques ilícitos que ponham em causa o seu normal funcionamento. O receio de hacking de aparelhos médicos é um tópico extremamente atual e cuja importância tenderá a aumentar. Prova disso é o recente alerta emitido pela FDA (Food and Drug Administration) 17 , em Agosto de 2017, a propósito de cibervulnerabilidades encontradas em cerca de meio milhão de pacemakers que podiam ser exploradas para fins maliciosos, e que, em última instância, poderiam desencadear alterações do batimento cardíaco do paciente ou levar à descarga das baterias, resultando na morte do paciente18. A solução para este problema passou pela instalação de novos firmwares, não tendo sido necessário proceder à remoção do pacemaker para esta atualização, pois os aparelhos afetados possuíam um sistema de rádio-frequência (RF).

Uma sugestão interessante é a da criação de entidades independentes de confiança que deteriam o código-fonte de aparelhos médicos vitais para assim prestar serviços de manutenção, reparação e aperfeiçoamento nos casos em que o fornecedor desses serviços já não os preste.

11) Educação e emprego

A revolução digital e tecnológica a que a sociedade humana tem assistido nestas últimas décadas levou a uma demanda cada vez maior de profissionais especializados na área das TIC, razão pela qual se torna imprescindível o desenvolvimento de programas de formação e ensino que levem à captação de jovens e, em particular, mulheres para uma carreira digital.

17 Cf. https://www.fda.gov/MedicalDevices/Safety/AlertsandNotices/ucm573669.htm 18 Cf. https://www.theguardian.com/technology/2017/aug/31/hacking-risk-recall-pacemakers-patient-death-fears-fda-firmware-update.


No campo do emprego, temos assistido nos meios de comunicação social mas não só à representação de um futuro em que o ser humano será substituído por máquinas, em particular naquelas tarefas mais repetitivas. Daí a necessidade sentida pelo Parlamento Europeu de solicitar à Comissão um estudo aprofundado das tendências laborais e do impacto que a utilização de robôs está a ter no mercado de trabalho. Mais. Dependendo do ritmo e grau de adoção de mão-de-obra robótica poderemos assistir a mudanças profundas nos sistemas de segurança social, algo que deve ser desde já antecipado em função de estudos preditivos.

Por fim, ainda no campo laboral, o Parlamento Europeu chama a atenção para as vantagens da robótica em termos de segurança no trabalho, se aos robôs forem atribuídas aquelas tarefas mais perigosas, mas que poderá também ocasionar riscos para a segurança dos seres humanos naqueles contextos onde haja uma interação entre seres humanos e robôs. Será por isso importante a implementação de regras que mitiguem estes riscos e que tutelem a saúde, a segurança e respeito dos direitos fundamentais dos trabalhadores.

12) Impacto ambiental

A criação, desenvolvimento e utilização de sistemas robóticos e inteligência artificial deverão ser energeticamente eficientes, promovendo, na medida do possível, o recurso a energias renováveis e a construção de sistemas reparáveis, de modo a evitar desperdícios elétricos e eletrônicos, ao mesmo tempo que deverão ser minimizados resíduos resultantes destas atividades de desenvolvimento. É sublinhado ainda o potencial positivo da robótica e inteligência artificial no ambiente, em particular em domínios como o da agricultura, abastecimento e transporte alimentar.

13) Responsabilidade

A questão da responsabilidade é, como ficou assinalado, uma das grandes questões suscitadas por esta resolução e em relação à qual a Comissão é instada a propor um instrumento legislativo. No entender do Parlamento, este instrumento legislativo deverá ser acompanhado de instrumentos não legislativos e não deverá limitar o tipo ou extensão de danos indemnizáveis nem a formas de compensação apenas porque os danos foram causados por robôs ou inteligência artificial. O suporte ou fundamento teórico que sustente a obrigação de indemnizar poderá ser o da responsabilidade objetiva ou o da gestão de riscos. Ao passo que a primeira, a responsabilidade objetiva, para ser efetivada dispensa uma componente subjetiva, bastando a comprovação do dano e estabelecimento de um nexo causal entre a atuação do robô e o dano, a segunda abordagem, de gestão de riscos, coloca o seu enfoque na pessoa


que tem a capacidade de minimizar os riscos e lidar com os impactos negativos decorrentes do funcionamento prejudicial do robô.

Para a determinação da responsabilidade é proposto um duplo critério: instruções dadas ao robô e grau de autonomia deste. Este critério levaria ao seguinte raciocínio: quanto maior a capacidade de aprendizagem ou autonomia do robô e mais longa a sua educação maior a responsabilidade do seu professor. É afastada por enquanto a hipótese de responsabilidade direta e autónoma, ainda que complementar, do robô para além da pessoa, tal como acontece, em vários ordenamentos jurídicos, em relação à responsabilidade de pessoas jurídicas ao lado da responsabilidade de pessoas singulares.

À imagem do que acontece em relação aos veículos motorizados, o Parlamento propõe como possível solução para a questão da responsabilidade a criação de seguros obrigatórios para a robótica, que cubram danos provocados por estes. Paralelamente poderia ser criado um fundo de garantia que cobrisse danos em hipóteses de não aplicação de um seguro. Para tanto, será necessário que as seguradoras sejam sensibilizadas para este emergente mercado.

Ainda neste domínio, o Parlamento Europeu insta a Comissão a ponderar todas as soluções possíveis para a edificação de um futuro instrumento legislativo, tal como:

“a) Criar um regime de seguros obrigatórios, se tal for pertinente e necessário para categorias específicas de robôs, em que, tal como acontece já com os carros, os produtores ou os proprietários de robôs seriam obrigados a subscrever um seguro para cobrir os danos potencialmente causados pelos seus robôs;

b) Garantir que um fundo de compensação não serviria apenas para garantir uma compensação se um dano causado por um robô não se encontrasse abrangido por um seguro;

c) Permitir que o fabricante, o programador, o proprietário ou o utilizador beneficiassem de responsabilidade limitada se contribuíssem para um fundo de compensação, bem como se subscrevessem conjuntamente um seguro para garantir a indemnização quando o dano é causado por um robô;

d) Decidir quanto à criação de um fundo geral para todos os robôs autónomos inteligentes ou quanto à criação de um fundo individual para toda e qualquer categoria de robôs e quanto à contribuição que deve ser paga a título de taxa pontual no momento em que se coloca o robô no mercado ou quanto ao pagamento de contribuições periódicas durante o tempo de vida do robô;


e) Garantir que a ligação entre um robô e o respetivo fundo seja patente pelo número de registo individual constante de um registo específico da União que permita que qualquer pessoa que interaja com o robô seja informada da natureza do fundo, dos limites da respetiva responsabilidade em caso de danos patrimoniais, dos nomes e dos cargos dos contribuidores e de todas as outras informações relevantes;

f) Criar um estatuto jurídico específico para os robôs a longo prazo, de modo a que, pelo menos, os robôs autónomos mais sofisticados possam ser determinados como detentores do estatuto de pessoas eletrónicas responsáveis por sanar quaisquer danos que possam causar e, eventualmente, aplicar a personalidade eletrónica a casos em que os robôs tomam decisões autónomas ou em que interagem por qualquer outro modo com terceiros de forma independente;

g) Introduzir um instrumento especificamente para os consumidores que tencionem requerer coletivamente uma compensação por danos decorrentes do mau funcionamento de máquinas inteligentes às empresas produtoras responsáveis;”

14) Aspetos internacionais

Nesta última secção, o Parlamento Europeu assinala a genérica adequação das atuais normas de direito internacional privado geral em matéria de acidentes de viação, aplicáveis na União, à criação de veículos autónomos. Apesar disto, destaca que a Convenção de Viena sobre a Circulação Rodoviária, de 8 de novembro de 1968, instrumento jurídico visivelmente datado, deverá ser alterada de modo a contemplar as hipóteses de condução sem condutor.

Por última, exorta à cooperação internacional, especialmente sob a égide das Nações Unidas.

A reação da Comissão Europeia

Em 16 de Maio de 2017, a Comissão Europeia, através do documento SP(2017)31019 forneceu uma resposta às preocupações e sugestões oferecidas

19 Cf. http://www.europarl.europa.eu/oeil/spdoc.do?i=28110&j=0&l=en.


pelo Parlamento Europeu. Uma resposta, diríamos nós, não totalmente favorável aos intentos do Parlamento Europeu.

No tocante à questão da responsabilidade civil decorrente do uso da robótica, a Comissão sustentou que iria explorar diferentes soluções, designadamente uma possível revisão da Diretiva 85/374/CEE do Conselho, de 25 de julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos. Concordou ainda que um regime de seguros no domínio da robótica seria relevante, digna de ser ponderada. No fundo, o que se retira da posição da Comissão Europeia relativa a esta questão é de que a considerava interessante e importante sobretudo para a indústria ligada à inteligência artificial e robótica, mas que não demandava uma reflexão imediata.

No que concerne ao registo de robôs e distinção entre estes e inteligência artificial, a Comissão foi de opinião de que não estaríamos ainda num momento em que essa distinção consiga ser realizada de uma forma clara, razão pela qual se exige um maior esforço de investigação. No aspeto relativo ao financiamento, a Comissão relembrou o esquema de financiamento chamado Horizonte 2020 e linhas de investigação como as do Crescimento Azul (“Blue Growth”) 20 e Fábricas do Futuro (“Factories of the Future”) 21 , bem como a parceria público-privada denominada SPARC que constitui o maior programa mundial de inovação na área da robótica 22 . Parece-nos que a robótica continuará a ser uma grande aposta da União Europeia, nomeadamente em termos financeiros, atendendo ao impacto económico, social, cultural atuais e seu enorme potencial23.

A Comissão reconheceu igualmente a importância da conetividade na sociedade atual e, em particular, para o avanço da inteligência artificial e robótica. Sobre este domínio já se havia aliás debruçado na Comunicação COM(2016) 587, de 14 de Setembro de 2017, a propósito da Conectividade para um Mercado Único Digital Concorrencial - Rumo a uma Sociedade Europeia a Gigabits24

Quanto ao importante aspeto da segurança na utilização da robótica, embora recorde a existência da Diretiva 2006/42/CE do Parlamento Europeu e do 20 Cf. https://ec.europa.eu/maritimeaffairs/policy/blue_growth_en. 21 Cf. http://ec.europa.eu/research/industrial_technologies/factories-of-the-future_en.html. 22 Cf. https://www.eu-robotics.net/sparc/about/index.html. 23 Cf. http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics. 24 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52016DC0587&from=en.


Conselho relativa às máquinas e que altera a Diretiva 95/16/CE 25, também afirmou que irá avaliar uma possível revisão da mesma. Temos para nós, porém, que a revisão da referida Diretiva é não apenas desejável como imperativa. Os pressupostos em que a mesma assenta não se coaduna com os desafios colocados pela fabrico e uso de máquinas inteligentes e inteligência artificial. Basta atentar à denominação da Diretiva para nos apercebermos da sua evidente inadequação para a matéria que aqui discutimos. Embora seja de notar que a Diretiva seja aplicável à questão da segurança no fabrico e utilização de robôs, não cobre naturalmente a inteligência artificial em toda a sua magnitude. Nem mesmo os veículos autónomos.

Relativamente a matérias como a harmonização de standards técnicos, a defesa, a consideração do uso de robôs na área médica e em contextos laborais, a Comissão remeteu sobretudo para os programas de financiamento de investigação atualmente implementados e necessidade de uma atenção contínua aos desenvolvimentos ocorridos nestes setores.

Um dos focos da resolução com recomendações à Comissão a propósito de direito civil sobre robótica particularmente inovador e que, por essa razão, captou imediatamente a atenção foi a de uma possível Agência Europeia da Robótica e da Inteligência Artificial. Neste ponto a Comissão Europeia foi peremptória no sentido de considerar que será desnecessária. Apesar dos patentes méritos, que nos havíamos referido supra, de uma Agência Europeia com competências específicas neste domínio, capaz de congregar saberes, aconselhar e regulamentar neste domínio tão exigente, a Comissão Europeia pensa ser suficiente a criação de um órgão consultivo.

25 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:32006L0042.


9. A legislação europeia atual Tal como nos Estados-membros, a atual abordagem legislativa europeia aos desafios colocados pela robótica e inteligência artificial tem sido realizada de forma sectorial. A exceção reside precisamente na aludida Resolução do Parlamento Europeu, de 16 de fevereiro de 2017, que contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL)), que poderá constituir a génese de uma regulamentação europeia mais abrangente.

Identificamos os seguintes sectores-chave que têm merecido a atenção quer da União Europeia quer de diferentes Estados-membros: veículos autónomos; drones; proteção de dados pessoais; mercados financeiros.

Veículos autónomos

União Europeia

A União Europeia não dispõe no atual momento de um quadro normativo específico sobre veículos autónomos, nomeadamente carros autónomos. Existem de facto diplomas internacionais como a Convenção sobre trânsito viário (ou rodoviário), celebrada em Viena, em 8 de novembro de 196826, mas a União Europeia não é signatária. O mesmo se passa relativamente à Convenção de Genebra de 1949.

O sentido político-estratégico atual da União Europeia passa, sobretudo, por quatro vetores: delineamento de estratégias políticas; desenvolvimento de standards europeus; designadamente a nível de segurança; financiamento de pesquisa e investigação e reflexão sobre a necessidade de alterações legislativas. Estes vetores constituem as linhas de força de uma estratégia europeia fundada em um mercado único digital que assenta, entre outros pilares, numa mobilidade automatizada, conectada e cooperativa na Europa (CCAM)27. São vários os resultados práticos decorrentes da CCAM. Por exemplo, a assinatura em março de 2017 de uma carta de intenções em que vários stakeholders mostraram interesse numa cooperação mais estreita nomeadamente para a realização de iniciativas transnacionais para o teste e demonstração do funcionamento de veículos autónomos28. Estes “corredores”

26 Cf. https://treaties.un.org/Pages/ViewDetailsIII.aspx?src=TREATY&mtdsg_no=XI-B-19&chapter=11&Temp=mtdsg3&lang=en. 27 Cf. https://ec.europa.eu/digital-single-market/en/cooperative-connected-and-automated-mobility-europe. 28 Cf. http://ec.europa.eu/newsroom/dae/document.cfm?doc_id=43821.


transnacionais de testes incluem os seguintes segmentos rodoviários: Metz-Merzig-Luxemburgo; Rotterdam-Antwerp-Eindhoven; Porto-Vigo e Mérida-Évora (corredor Lisboa – Madrid); o corredor E8 "Aurora Borealis" entre Tromsø (Noruega) e Oulu (Finlândia); O "Caminho Nórdico" entre Suécia, Finlândia e Noruega 29 . Também neste domínio é de sublinhar a criação de Aliança Europeia do Automóvel e Telecomunicações30 que engloba seis associações dos setores relevantes (ACEA, CLEPA, ETNO, ECTA, GSMA, GSA) e 37 empresas, entre as quais fabricantes automóveis e players importantes na área das telecomunicações. O propósito fundamental desta Aliança é a implementação generalizada de sistemas de condução autónoma e conectada. Outra iniciativa de interesse é o dos Sistemas de Transporte Inteligente Cooperativo ou Cooperative Intelligent Transport Systems (C-ITS) 31 que visa a troca de informações entre veículos e entre estes e as estradas. Finalmente, uma palavra para o GEAR 2030 32 , um grupo de especialistas formado na sequência da Decisão da Comissão C(2015) 6943 de 19 de Outubro de 2015, com o propósito de analisar e discutir as tendências e desafios na indústria automóvel até 20130 e daí elaborar recomendações e relatórios33.

Alemanha

A um nível nacional é de destacar a posição de liderança da Alemanha nesta matéria. De facto, nestes últimos meses, a Alemanha tem estado em destaque nos media internacionais pelo facto de ser um país líder no que toca à regulamentação de carros autónomos. A razão deste esforço legislativa é evidente: o peso da indústria automóvel na economia alemã e a consequentemente aposta no que é considerado o futuro dos carros. Não é por isso completamente surpreendente que este país tenha tomado a dianteira ao aprovar legislação que permite a utilização de carros autónomos34. De facto, através da 8.ª alteração (Achtes Gesetz zur Anderung des Straßenverkehrsgesetzes) 35 ao Código da Estrada (Straßenverkehrsgesetz)36, de 16 de junho de 2017, foram introduzidos cinco artigos (§1a, §1b, §1c, §63a e

29 Um mapa destes corredores pode ser descarregado no sítio seguinte: http://ec.europa.eu/newsroom/document.cfm?doc_id=46898. 30 Cf. http://www.acea.be/press-releases/article/37-leading-companies-join-forces-in-european-automotive-telecom-alliance. 31 Cf. https://ec.europa.eu/transport/themes/its/c-its_en. 32 Cf. http://ec.europa.eu/growth/content/commission-launches-gear-2030-boost-competitiveness-and-growth-automotive-sector-0_en. 33 Cf. http://ec.europa.eu/docsroom/documents/26081 e https://publications.europa.eu/en/publication-detail/-/publication/24c9ad0e-da38-11e7-a506-01aa75ed71a1/language-en/format-PDF/source-52926290. 34 Cf. https://www.reuters.com/article/us-germany-autos-self-driving/germany-adopts-self-driving-vehicles-law-idUSKBN1881HY. 35 Cf. https://www.cr-online.de/bgbl117s1648_75404.pdf. 36 Cf. https://www.gesetze-im-internet.de/stvg/BJNR004370909.html.


§63b) que se ocupam exatamente desta matéria: definindo veículos parcialmente ou totalmente autónomos; permitindo a utilização destes veículos desde que esteja sempre presente um condutor que possa, a qualquer momento retomar o controlo do veículo; introduzindo a obrigação de os veículos serem equipados com uma caixa negra que seja capaz de registar os dados mais relevantes para, em caso de acidente, se determinar sobre quem deve cair a responsabilidade: o condutor ou o produtor.

Igualmente importante é a publicação muito recente de um relatório que inclui uma lista de orientações éticas 37 que devem nortear a programação de veículos autónomos. Esta lista, tida como a primeira no mundo38, foi redigida pela Comissão de Ética do Ministério Federal dos Transportes e Infraestruturas Digitais e apresentada em Agosto de 2017.39

A Comissão de Ética teve uma composição heterogénea, integrando desde académicos a bispos auxiliares, e foi liderada pelo Dr. Udo di Fabio, professor de direito público na Universidade de Bonn. O relatório das suas atividades apresenta, como se disse, uma lista de regras éticas relacionadas com veículos autónomos, que são as seguintes:

“1. O principal objetivo dos sistemas de transporte parcialmente e totalmente automatizados é melhorar a segurança de todos. Outro objetivo é aumentar as oportunidades de mobilidade e possibilitar benefícios adicionais. O desenvolvimento tecnológico obedece ao princípio da autonomia pessoal, o que significa que os indivíduos gozam de liberdade de ação para a qual eles próprios são responsáveis.

2. A proteção dos indivíduos prevalece sobre todas as outras considerações utilitárias. O objetivo é reduzir o nível de dano até que seja completamente prevenido. O licenciamento de sistemas automatizados não é justificável, a menos que prometa produzir pelo menos uma diminuição de danos em comparação com a condução humana, ou seja, um saldo positivo de riscos.

3. O setor público é responsável por garantir a segurança dos sistemas automatizados e conectados introduzidos e licenciados no ambiente de rua pública. Os sistemas de condução, portanto, precisam de licenciamento e monitoramento oficial. O princípio orientador é a prevenção de acidentes, embora os riscos residuais tecnologicamente inevitáveis não militem contra a

37 Cf. https://www.bmvi.de/SharedDocs/EN/Documents/G/ethic-commission-report.pdf?__blob=publicationFile. 38 Cf. https://futurism.com/germany-drafts-worlds-first-ethical-guidelines-for-self-driving-cars/. 39 Cf. http://www.bmvi.de/SharedDocs/DE/Pressemitteilungen/2017/128-dobrindt-massnahmenplan-ethikregeln-fahrcomputer.html.


introdução da condução automatizada se o equilíbrio de riscos for fundamentalmente positivo.

4. A responsabilidade pessoal dos indivíduos para tomar decisões é uma expressão de uma sociedade centrada em seres humanos individuais, com o seu direito ao desenvolvimento pessoal e sua necessidade de proteção. O objetivo de todas as decisões regulatórias governamentais e políticas é, assim, promover o desenvolvimento livre e a proteção dos indivíduos. Numa sociedade livre, a forma como a tecnologia é descrita estatutariamente é tal que um equilíbrio é atingido entre a máxima liberdade de escolha pessoal em um regime geral de desenvolvimento e a liberdade de outros e a sua segurança.

5. A tecnologia automatizada e conectada deve evitar acidentes sempre que isso seja praticamente possível. Com base no estado da arte, a tecnologia deve ser projetada de tal forma que situações críticas sejam evitadas. Estas incluem situações de dilema, ou seja, uma situação em que um veículo automatizado tem de "decidir" qual de dois males, entre os quais não pode haver uma solução de compromisso, ele necessariamente tem de executar. Neste contexto, todo o espectro de opções tecnológicas - por exemplo, de limitar o escopo da aplicação a ambientes de tráfego controláveis, sensores de veículos e desempenho de travagem, sinais para pessoas em risco, até à prevenção de perigos por meio de infraestruturas rodoviárias "inteligentes" - deve ser usado e evoluído continuamente. O aprimoramento significativo da segurança rodoviária é o objetivo do desenvolvimento e da regulamentação, começando pelo design e programação dos veículos, de modo a que circulem de forma defensiva e antecipatória, colocando o menor risco possível para pessoas vulneráveis na estrada.

6. A introdução de sistemas de condução mais automatizados, especialmente com a opção de prevenção automática de colisão, pode ser aceite social e eticamente se puder desbloquear o potencial existente de limitação de danos. Por outro lado, uma obrigação legalmente imposta de utilizar sistemas de transporte totalmente automatizados ou a sua imposição prática é eticamente questionável se implicar a submissão a imperativos tecnológicos (proibição de degradar o sujeito a um mero elemento de rede).

7. Em situações perigosas que se revelem inevitáveis, apesar de todas as precauções tecnológicas serem tomadas, a proteção da vida humana goza de máxima prioridade no equilíbrio de interesses legalmente protegidos. Assim, dentro das restrições do que é tecnologicamente viável, os sistemas devem ser programados para aceitar danos aos animais ou propriedade em um conflito, se isso significar o evitamento de danos pessoais.


8. As decisões dilemáticas genuínas, como uma decisão entre uma vida humana e outra, dependem da situação concreta, incorporando o comportamento "imprevisível" das partes afetadas. Elas não podem, portanto, ser claramente padronizados, nem podem ser programados de forma que sejam eticamente inquestionáveis. Os sistemas tecnológicos devem ser projetados para evitar acidentes. No entanto, eles não podem ser padronizados para uma avaliação complexa ou intuitiva dos impactos de um acidente de tal forma que eles possam substituir ou antecipar a decisão de um condutor responsável com a capacidade moral de fazer julgamentos corretos. É verdade que um condutor humano estaria agindo ilegalmente se ele matasse uma pessoa em uma emergência para salvar a vida de uma ou mais pessoas, mas ele não iria necessariamente agir com culpa. Tais julgamentos legais, feitos em retrospectiva e levando em consideração circunstâncias especiais, não podem ser facilmente transformados em avaliações ex ante genéricas ou abstratas e, consequentemente, em rotinas de programação correspondentes. Por esta razão, talvez mais do que qualquer outra, seria desejável que uma agência do setor público independente (por exemplo, uma Agência Federal para a Investigação de Acidentes envolvendo Sistemas Automatizados de Transporte ou um Departamento Federal para a Segurança em Transportes Automatizados e Conectados) processasse de forma sistemática as lições aprendidas.

9. No caso de situações de acidentes inevitáveis, qualquer distinção baseada em características pessoais (idade, género, constituição física ou mental) é estritamente proibida. Também é proibido compensar umas vítimas com outras. A programação no sentido de reduzir o número de ferimentos pessoais pode ser justificável. As partes envolvidas na geração de riscos de mobilidade não devem sacrificar as partes não envolvidas.

10. No caso de sistemas de condução conectados e automatizados, a responsabilidade que anteriormente residia no indivíduo desloca-se do condutor para os fabricantes e operadores dos sistemas tecnológicos e para os órgãos responsáveis pela tomada de decisões políticas, legais e sobre. Os regimes jurídicos de responsabilidade e a sua concretização nas decisões quotidianas tomadas pelos tribunais devem refletir adequadamente esta transição.

11. A responsabilidade por danos causados por sistemas de condução automáticos ativados é regida pelos mesmos princípios que a responsabilidade por outros produtos. Assim, os fabricantes ou operadores estão obrigados a otimizar continuamente os seus sistemas e a observar os sistemas que já entregaram e aprimorá-los onde isso seja tecnologicamente possível e razoável.


12. O público tem o direito a uma informação suficientemente diferenciada sobre as novas tecnologias e seu uso. Para a implementação prática dos princípios aqui desenvolvidos, as diretrizes para o uso e programação de veículos automatizados devem ser divisadas de forma tão transparente quanto possível e comunicadas em público e revistas por um órgão independente tecnicamente adequado.

13. Não é possível afirmar hoje se, no futuro, será possível e conveniente ter a conectividade completa e o controlo central de todos os veículos a motor no contexto de uma infraestrutura de transporte digital, semelhante à dos setores de caminhos de ferro e de aviação. A conectividade completa e o controlo central de todos os veículos a motor no contexto de uma infraestrutura de transporte digital são eticamente questionáveis se, e na medida em que, não se seja capaz de excluir com segurança a vigilância total dos condutores e a manipulação do controlo do veículo.

14. A condução automatizada é justificável apenas na medida em que os ataques concebíveis, em particular a manipulação do sistema informático ou das fraquezas do sistema inato, não resultem em danos que possam prejudicar a confiança das pessoas no transporte rodoviário.

15. Os modelos empresariais permitidos que utilizam os dados que são gerados pela condução automática e conectada e que são relevantes ou não para o controlo do veículo enfrentam limites decorrentes da autonomia e da soberania dos dados dos condutores. São os proprietários dos veículos e os condutores que decidem se os dados do veículo que são gerados devem ser encaminhados e usados. A natureza voluntária dessa divulgação de dados pressupõe a existência de alternativas sérias e sua exequibilidade. Devem ser tomadas medidas numa fase inicial para contrariar uma força normativa da factualidade, como a que prevalece no caso de acesso de dados pelos operadores de motores de busca ou redes sociais.

16. Deve ser possível distinguir claramente se um sistema autónomo sem condutor está a ser usado ou se um condutor com a possibilidade de retorno do controlo mantém a responsabilidade. No caso de sistemas sem condutores, a interface homem-máquina deve ser projetada de forma a que, em qualquer momento, seja claramente regulada e aparente em que lado as responsabilidades individuais recaem, especialmente a responsabilidade pelo controlo. A distribuição das responsabilidades, por exemplo no que diz respeito ao tempo e acesso, deve ser documentada e armazenada. Isto aplica-se especialmente aos procedimentos de transferência de humano a tecnologia. A padronização internacional dos procedimentos de entrega e sua documentação (log) devem ser almejadas para garantir a compatibilidade das


obrigações de registo ou documentação à medida que as tecnologias automobilísticas e digitais cruzam cada vez mais as fronteiras nacionais.

17. O software e a tecnologia de veículos altamente automatizados devem ser projetados de modo que a necessidade de uma transferência abrupta do controlo para o condutor ("estado de emergência") seja virtualmente evitada. Para permitir uma comunicação humano-máquina eficiente e segura e evitar sobrecargas excessivas, os sistemas devem adaptar-se mais ao comportamento comunicativo humano em vez de exigir que os humanos aprimorem as suas capacidades adaptativas.

18. Os sistemas de autoaprendizagem e a sua ligação a bases de dados centrais de cenários podem ser eticamente aceites se, e na medida que, gerarem ganhos de segurança. Os sistemas de autoaprendizagem não devem ser usados a menos que atendam aos requisitos de segurança relativos às funções relevantes para o controlo do veículo e não prejudiquem as regras aqui estabelecidas. Parece sensato transferir cenários relevantes para um catálogo central de cenários em uma entidade neutra, a fim de desenvolver padrões universais apropriados, incluindo quaisquer testes de aceitação.

19. Em situações de emergência, o veículo deve, de forma autónoma, sem assistência humana, entrar num "estado seguro". É desejável a harmonização, especialmente da definição de um estado seguro ou das rotinas de entrega.

20. O uso adequado de sistemas automatizados deve fazer parte da educação digital geral das pessoas. O uso adequado de sistemas automáticos de condução deve ser ensinado e testado de maneira apropriada durante as aulas de condução.”40

Portugal

Portugal não dispõe de legislação específica sobre carros autónomos. O principal diploma em matéria de circulação rodoviária é o Código da Estrada, aprovado pelo Decreto-Lei n.º 114/94, de 3 de maio, e atualizado pelo Decreto-Lei n.º 151/2017, de 7 de dezembro. Segundo este diploma, os veículos que circulem na via pública têm, em regra, de ter um condutor, não se prevendo a possibilidade de condução completamente autónoma. De acordo com José Mendes, Secretário de Estado Adjunto e do Ambiente, está a ser analisada a criação de legislação relativa à circulação de veículos sem condutor41, e que a mesma deverá, numa primeira fase legalizar “funções mais básicas de condução autónoma, como, por exemplo, a entrada e a saída de 40 Tradução realizada pelos Autores. 41 Cf. https://www.dinheirovivo.pt/empresas/carros-autonomos-governo-quer-estudar-leis-em-2017/.


um parque de estacionamento, e, depois, numa segunda fase, funções mais avançadas”42. Portugal está, por isso. mais atrasado em termos legislativos, tendo por referência a Alemanha. Mas, apesar desta inércia legislativa, no território nacional português vão ser testados veículos autónomos no âmbito da iniciativa Auto C-ITS43.

Figura 3: Lisboa: Teste de veículos autónomos

Fonte: https://www.autocits.eu/sites/autocits/files/AUTOCITS%20Brochure%20v2.0.pdf

A iniciativa Auto C-ITS é um projeto co-financiado pela União Europeia, ao abrigo do Connecting Europe Facility (CEF)44, com início em 1/11/2006, duração de 26 meses e orçamento de 2,6 milhões de euros. Para além de Paris e Madrid, foi escolhida Lisboa, mais concretamente um segmento de 7km de extensão da estrada A9 (CREL), para, em a colaboração de entidades portuguesas, designadamente a Autoridade Nacional de Segurança Rodoviária45, testarem veículos autónomos, como shuttles ou carros, e algumas das suas funcionalidades como a capacidade de notificação sobre a presença de veículos parados ou lentos, perigos ou condições atmosféricas (cf. Figura 3). Dado que se trata de uma iniciativa experimental numa via pública, haverá

42 Cf. https://www.dinheirovivo.pt/empresas/carros-autonomos-governo-quer-estudar-leis-em-2017/. 43 Cf. https://www.autocits.eu/. 44 Cf. https://ec.europa.eu/inea/en/connecting-europe-facility. 45 Cf. http://www.ansr.pt/Pages/default.aspx.


sempre condutores no seu interior, sendo ainda acompanhados por autoridades públicas46.

Considerações intermédias

Da análise realizada pode concluir-se que, no panorama europeu, são poucos os Estados-membros que dispõem de legislação específica em relação a veículos autónomos. Tome-se como referência a Figura 4, infra, produzida na iniciativa Auto C-ITS, que constitui uma análise transnacional das ordens jurídicas europeias e internacionais em matéria de legalização de veículos autónomos47.

Figura 4: Legislação específica sobre veículos autónomos

Fonte: https://www.autocits.eu/sites/autocits/files/AUTOCITS%20Regulation%20study_ABSTRACT.pdf

Podem ser retiradas duas conclusões desta tabela. Em primeiro lugar, a generalidade dos ordenamentos jurídicos europeus analisados prevê somente, verificadas certas condições, o uso de veículos autónomos para finalidade de testes. Em segundo lugar, existe um interesse crescente no estudo e desenvolvimento de regras jurídicas que contemplem o uso de veículos autónomos.

A nosso ver, a República Federativa do Brasil deveria adotar uma atitude prudente, mas concomitantemente pró-ativa. Isto é, atendendo à necessidade de maturação das tecnologias associadas aos veículos autónomos, seria prudente que se estabelecessem esforços tecnológicos, operacionais e legais, para a implementação de testes de veículos autónomos primeiramente em contextos fechados e completamente controlados. Numa segunda fase, reunido o know-how adequado iniciar-se-iam os testes em contextos reais – estradas brasileiras – com a condução a cargo do veículo, mas com um condutor detrás do volante pronto a intervir, forças de segurança a

46 Cf. https://www.razaoautomovel.com/2017/10/139467. 47 Tenha-se em atenção que este estudo é de maio de 2017, não contemplando alterações legislativas entretanto ocorridas.


acompanhar o percurso e equipas multidisciplinares versadas no domínio da condução autónoma a registar todos os dados relevantes. Idealmente estes testes seriam realizados em cooperação com principais stakeholders, nomeadamente fabricantes de automóveis e organismos públicos relevantes. Esta metodologia seria depois adaptada para toda a tipologia de veículos autónomos, v.g. comboios, aeronaves ou barcos.

Recomendamos que a República Federativa do Brasil defina uma agenda e políticas digitais onde se definam estratégias a médio e longo prazo que englobem: o investimento (ou incentivo ao investimento) em projetos de desenvolvimento e implementação de tecnologias de condução autónoma que se mostrem capazes de aumentar a competitividade e inovações brasileiras; alteração dos conteúdos programáticos dos cursos de formação dos novos condutores de modo a contemplarem esta realidade, sensibilização da população em geral; criação de legislação apropriada; criação de uma autoridade nacional para os transportes automatizados – ou um departamento para os transportes automatizados numa agência federal para a robótica e inteligência artificial – ou, caso não seja possível, a inclusão de funções de consultoria, fiscalização e supervisão relativa a transportes automatizados em organismos públicos já criados.

Drones

União Europeia

Também neste domínio a União Europeia tem muito caminho a percorrer. Ainda que os veículos aéreos não tripulados sejam motivo para que a União Europeia financie programas promotores do seu desenvolvimento, v.g., integração de sensores, surgem, ainda, preocupações como a questão da identificação dos drones, nomeadamente quando provoquem caos no espaço aéreo.

Há, sem dúvida, um sentido de urgência na regulamentação deste setor. Logo em 2015, o Parlamento Europeu, através de uma Resolução, de 29 de outubro de 2015, sobre a utilização segura de sistemas de aeronaves telepilotadas (RPAS), geralmente conhecidos como veículos aéreos não tripulados (UAV), no campo da aviação civil, afirmava que o setor dos sistemas de aeronaves telepilotadas (RPAS) “necessita urgentemente de regras à escala europeia e mundial, a fim de assegurar o desenvolvimento transfronteiriço dos RPAS; entende[ndo ainda] que é necessário um quadro jurídico europeu claro para garantir o investimento e o desenvolvimento de um setor europeu competitivo de RPAS”48. Para além disso, recordou “a importância económica deste setor, e 48 Cf. http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2015-0390+0+DOC+XML+V0//PT.


[salientou] a necessidade de políticas adequadas para proteger a privacidade e garantir a proteção de dados e a segurança, políticas essas proporcionais ao seu objetivo e que não imponham encargos desnecessários às PME”49.

A Agência Europeia para a Segurança da Aviação (AESA)50 divulgou muito recentemente a Opinião 1/201851 que inclui uma proposta legislativa para os drones52, sendo expectável que até ao fim de 2018 seja adotado um texto legal. Os objetivos da Opinião, delineados logo nas suas páginas iniciais, foram o de criar um novo enquadramento jurídico definidor de medidas mitigadores do risco das operações envolvendo drones nas categorias “abertas” e “específicas”.

A categoria “aberta” refere-se às hipóteses de utilização de drones em que, em função dos riscos envolvidos, é dispensável uma autorização prévia por uma autoridade competente ou uma declaração prévia por parte do operador do drone, enquanto a categoria “específica” engloba os casos em que, atendendo os riscos colocados, se requer uma autorização prévia de uma autoridade competente, a não ser que sejam cumpridos determinados standards, caso em que uma declaração do operador do drone é suficiente, ou ainda se o operador é titular de um certificado apropriado. Existe ainda a categoria certificada, onde o grau de exigência é superior, mas sobre o qual a Opinião da AESA não se debruça.

Para além de aspetos como a necessidade de identificação remota de drones, o modo de voo automático, sem controlo do operador humano, é objeto de regulação, em particular no Anexo à Proposta de Regulamento53 onde se exige

49 Cf. http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2015-0390+0+DOC+XML+V0//PT. 50 Cf. Regulamento (CE) n.° 216/2008 do Parlamento Europeu e do Conselho, de 20 de Fevereiro de 2008, relativo a regras comuns no domínio da aviação civil e que cria a Agência Europeia para a Segurança da Aviação, e que revoga a Directiva 91/670/CEE do Conselho, o Regulamento (CE) n.° 1592/2002 e a Directiva 2004/36/CE. 51 Cf. https://www.easa.europa.eu/sites/default/files/dfu/Opinion%20No%2001-2018.pdf. 52 Cf. https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20COMMISSION%20REGULATION%20%28EU%29%20...-...%20laying%20down%20rules%20and%20procedures%20for%20the%20operation%20of%20unmanned%20aircraft.pdf, https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20ANNEX%20%28Part-UAS%29%20to%20DRAFT%20COMMISSION%20REGULATION%20%28EU%29%20...-...%20laying%20down%20rules%20and%20procedures%20for%20the%20operation%20of%20unmanned%20aircraft.pdf e https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20COMMISSION%20DELEGATED%20REGULATION%20%28EU%29%20...-...%20on%20making%20available%20on%20the%20market%20of%20unmanned%20aircraft....pdf. 53 Cf. https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20ANNEX%20%28Part-UAS%29%20to%20DRAFT%20COMMISSION%20REGULATION%20%28EU%29%20...-...%20layi


não apenas a designação de responsabilidades e funções durante todas as fases da operação, mas também um conjunto de procedimentos e pressupostos, a saber:

1) Antes de iniciar uma operação com um drone, o piloto remoto deve obter informações atualizadas, relevantes para a operação pretendida, sobre quaisquer restrições de voo ou condições estabelecidas pelo Estado-Membro de operação; garantir que o ambiente operacional seja compatível com as limitações e condições autorizadas ou declaradas ou com os procedimentos dos modelos de clubes e associações; garantir que o drone esteja em condições seguras para completar o voo pretendido de forma segura; e quando exigido pelo cenário padrão, pela autorização operacional ou pelas condições publicadas pelo Estado-Membro para a zona de operação, garantir que as informações sobre a operação foram disponibilizadas para o unidade de serviço de tráfego aéreo relevante, outros usuários do espaço aéreo ou partes interessadas relevantes.

2) Durante o voo, o piloto remoto deve cumprir as limitações e condições autorizadas ou declaradas ou com os procedimentos dos modelos de clubes e associações, conforme aplicável; assegurar a operação segura do drones em relação a terceiros no terreno ou no ar; cumprir as restrições de área e espaço aéreo; pilotar o drone dentro das limitações definidas pelo operador do drone; não voar perto ou dentro de áreas onde uma resposta de emergência esteja em andamento, a menos que tenha permissão concedida pelo responsável pela resposta de emergência; e respeitar os direitos de privacidade, o meio ambiente e operar o drone de forma atenciosa que minimize qualquer incômodo causado a outras pessoas ou animais.

Alemanha

O marco legal de referência no ordenamento jurídico alemão é o Verordnung zur Regelung des Betriebs von unbemannten Fluggeratem, de 30 de março de 201754. Este diploma introduziu uma série de modificações legais, sendo as mais significativas as verificadas na Luftverkehrs-Ordnung (LuftVO) – a regulamentação do tráfego aéreo. Neste último diploma, mais concretamente na seção 5a, dos artigos 21a a 21f. encontram-se as normas relativas às operações de aeronaves não tripuladas.

ng%20down%20rules%20and%20procedures%20for%20the%20operation%20of%20unmanned%20aircraft.pdf. 54 Cf. https://www.bmvi.de/SharedDocs/DE/Anlage/LF/verordnung-zur-regelung-des-betriebs-von-unbemannten-fluggeraeten.pdf?__blob=publicationFile.


De acordo com esta regulamentação, a operação de drones com cinco quilos ou menos só poderá ocorrer à linha de vista, ou seja, o controlador terá de manter contato visual direto ou através de instrumentos visuais auxiliares. É proibida a operação dentro de 100 metros de ou acima de multidões, locais de acidentes, desastres, sítios de operações policiais, forças de segurança ou de manobras ou exercícios militares; dentro de 100 metros de ou acima de zonas industriais, prisões, bases militares, centrais energéticas; dentro de 100 metros de ou acima de edifícios estatais ou federais, missões diplomáticas ou consulares, organizações internacionais, instalações policiais e de agências de segurança; dentro de 100 metros de ou acima de autoestradas federais, hidrovias federais e instalações ferroviárias; acima de reservas naturais; em áreas residenciais a não ser que o drone tenha um peso igual ou inferior a 250 gramas e não tenha capacidade de captação e gravação de áudio, vídeo ou sinais de rádio, a não ser que haja consentimento daqueles cujos direitos possam ser afetados; acima de 100 metros, salvo circunstâncias excecionais; em espaço aéreo controlado; se o drone carregar explosivos, artigos pirotécnicos, materiais radioativos, perigosos, bem como coisas, líquidos ou gases que possam causar pânico, medo ou terror; dentro de 100 metros de ou acima de hospitais (artigo 21b).

É, porém, permitida a operação de drones, desde que devidamente autorizada, sempre que estes tenham um peso superior a 5 quilos; ou com motor de combustão interna se se localizarem dentro de 1,5 quilómetros de uma zona residencial; ou voarem durante a noite; ou no raio de 1,5 quilómetros de um aeroporto.

Em suma, apesar de muitos modelos de drone possuírem capacidades de navegação autónoma, a legislação alemã foca-se sobretudo nas características físicas dos drones ou na área geográfica em que são operados para determinar a legalidade ou não da sua operação.

Portugal

A regulamentação jurídica relativa à operação civil de drones data de 2016. Foi através do Regulamento n.º 1093/2016, de 24 de novembro55, que o legislador tomou um passo decisivo e exemplar no enfrentamento de uma realidade cada vez mais presente e por isso incontornável. Realidade essa assim definida pelo legislador português nas palavras introdutórias do regulamento: “A utilização de aeronaves civis não tripuladas, usualmente conhecidas como «Drones», pilotadas a partir de uma estação de piloto remoto ou com capacidade de operar autonomamente, é hoje uma realidade irrefutável, seja em atividades

55 Cf. https://dre.pt/application/conteudo/105367104.


de recreio, desportivas, de competição, de interesse público ou em atividades de natureza comercial”.

A necessidade de normas jurídicas que regulamentem as condições de operação aplicáveis à utilização do espaço aéreo por aeronaves civis pilotadas remotamente impõe-se pelos perigos que representa, apesar de todos os benefícios que lhe possam ser apontados. É comum vermos noticiados episódios de uso indevido de drones em espaços aéreos sensíveis pondo em causa a segurança dos transportes aéreos, designadamente em aeroportos56. Por essa razão, são múltiplos os exemplos de estratégias de prevenção e repressão de drones, v.g. aves treinadas especificamente para capturar drones, drones com redes instaladas ou sistemas eletrónicos de interferência no controlo do drone. Poderá parecer uma preocupação desmesurada, mas a verdade é que um drone que colida com as turbinas de uma aeronave ou se coloque na rota normal da aeronave pode desencadear uma série de eventos que ponham em causa a capacidade dos pilotos manobrarem com segurança o avião ou helicóptero57.

Adicionalmente, podem estas aeronaves pilotadas remotamente, quando não operadas corretamente, pôr em causa a segurança de pessoas e bens que se encontrem à superfície.

O Regulamento n.º 1093/2016, de 24 de novembro, define o conceito de voos autónomos. O artigo 2.º, al. u), esclarece que por operação autónoma deve entender-se a “operação durante a qual a aeronave pilotada remotamente é operada sem a intervenção do piloto remoto na gestão do voo”. Por outros palavras, durante o tempo de voo, não existe uma pessoa que esteja a manipular o drone.

O legislador português segue a tendência normativa neste sector e, tal como na Alemanha, opta por conceder importância prevalecente ao tipo de drone e características específicas da operação, como a altitude, para definir os limites da legalidade. Embora avance com uma definição do que são operações autónomas, esta expressão não é usada novamente no regulamento relativo à operação civil de drones. De acordo com a nossa pesquisa, um dos principais elementos a tomar em consideração para se aferirem as regras portuguesas aplicáveis à operação de drones tem que ver

56 Cf. http://g1.globo.com/jornal-nacional/noticia/2017/11/drone-invade-espaco-aereo-de-congonhas-em-sp-e-prejudica-voos.html. 57 Cf. https://gizmodo.com/this-could-be-the-first-drone-caused-aircraft-crash-in-1823071652.


com a circunstâncias de a operação ser realizada à linha de vista ou além da linha de vista.

A operação à linha de vista (Visual Line-of-Sight) consiste “na operação segundo as regras de voo visual em que o piloto remoto ou o observador da aeronave pilotada remotamente mantém contacto visual direto, sem ajuda, com a referida aeronave” (artigo 2, al. v), enquanto a operação além da linha de vista (BVLOS, Beyond Visual Line-of-Sight) acontece quando estamos perante uma “operação segundo as regras de voo visual em que o piloto remoto ou o observador da aeronave pilotada remotamente mantém contacto visual direto, sem ajuda, com a referida aeronave” (artigo 2, al. w). Podemos dizer que genericamente podem ser operados drones em operações VLOS até uma altitude de 120 metros, desde que sejam minimizados os riscos e perigos para outras aeronaves, pessoas ou bens (artigo 3), ao passo que as operações BVLOS carecem em regra de autorização expressa da Autoridade Nacional da Aviação Civil58, a não ser que a massa operacional seja igual ou inferior a 1 quilograma, não seja excedida uma altura de 5 metros, o equipamento esteja munido de modo de operação first-person-view, o voo se realize num raio de 100 metros tendo por referência o piloto, o voo seja em local afastado de pessoas e bens e o risco de colisão com pessoas e bens de terceiros seja inexistente.


Com o avançar da tecnologia, assistimos à comercialização de drones com funcionalidades, instrumentos (p. ex: sensores) que permitem a realização de operações com grau de autonomia variável. Algumas das empresas mais conhecidas do setor produzem drones que têm funcionalidades como o retorno autónomo a casa, sensores de colisão iminente, acompanhamento inteligente de um objeto, animal ou pessoa, tornando possível o voo autónomo do drone sem que haja um input constante por parte do utilizador.

No Brasil a E94.103, al. c) do Regulamento Brasileiro de Aviação Civil Especial, de 2 de maio de 2017 determina que é proibida a operação autônoma de aeronaves não tripuladas.

Do ponto de vista da legislação europeia, a questão da autonomia ou inteligência artificial do drone e a sua relevância jurídica acaba por soçobrar perante critérios como as caraterísticas físicas do drone e o tipo de operação a realizar (VLOS ou BVLOS), bem como a sua localização geográfica59.

58 Cf. http://www.anac.pt/vPT/Generico/Paginas/Homepage00.aspx. 59 Bastante enxuta e pragmática é a regulamentação do Reino Unido. A Air Navigation Order 2016, de 25 de agosto, contém apenas três artigos que, direta ou indiretamente,


Sugerimos que seja estudada a possibilidade de permitir o recurso a funções de voo autónomo nos drones, eventualmente acompanhada de medidas de prevenção ou minimização de risco para as pessoas ou bens, emissão de licenças para a operação de drones após a certificação pelas autoridades nacionais, obrigatoriedade de seguros de responsabilidade, entre outras. Não nos parece adequado que se enverede por um caminho absolutamente proibitivo.

Igualmente importante será a promoção de campanhas de sensibilização e informação para os direitos e deveres associados ao uso de drones, recorrendo, por exemplo, a infográficos de leitura fácil e clara, em lugar de remeter somente para a legislação existente que, como sabemos, emprega um léxico que difícil compreensão para o cidadão comum60.

Proteção de dados pessoais

União Europeia

A proteção de dados pessoais está consagrada em vários textos legais importantes 61 . Em 1981, sob os auspícios do Conselho da Europa, surgiu o primeiro instrumento internacional vinculativo relativo à proteção de um indivíduo contra abusos na recolha e tratamento de dados pessoais. Referimo-nos à Convenção do Conselho da Europa para a Proteção das Pessoas relativamente ao Tratamento Automatizado de Dados de Carácter Pessoal.

O Tratado da União Europeia, no artigo 39.º, estabelece que “em conformidade com o artigo 16.o do Tratado sobre o Funcionamento da União Europeia e em derrogação do n.o 2 do mesmo artigo, o Conselho adota uma decisão que

se debruçam sobre esta temática. O artigo 94.º estabelece que é proibido usar drones para largar coisas ou animais quando ponham em risco pessoas ou bens. O piloto deve também certificar-se, antes de iniciar a operação, que estão reunidas as condições de segurança necessárias. Ademais, o piloto deve manter contato visual direto em relação ao drone. O artigo 95.º refere-se aos drones de vigilância que só podem ser operados com permissão da Civil Aviation Authority se a operação tiver lugar dentro de 150 metros de uma área congestionada ou de uma reunião de mais de 1000 pessoas, ou a 50 metros de qualquer veículo ou pessoa. Finalmente, o artigo 241 torna proibido o ato negligente ou descuidado de colocação em risco de pessoas ou bens através de um veículo aéreo. 60 Por exemplo, http://www.bmvi.de/SharedDocs/DE/Publikationen/LF/flyer-die-neue-drohnen-verordnung.pdf?__blob=publicationFile, http://www.voanaboa.pt/Files/downloads/ANAC-Folheto-AF-NOVA.pdf ou http://dronesafe.uk/wp-content/uploads/2016/11/Dronecode.pdf. 61 Seguimos de perto Freitas, Pedro, Moreira, Teresa e Andrade, Francisco, "Data protection and biometric data: European Union legislation", in Richard Jiang, Somaya Al-maadeed, Ahmed Bouridane, Danny Crookes e Azeddine Beghdadi (eds.), Biometric security and Privacy: opportunities & challenges in the Big Data era, Springer, 2017, pp. 413-421.

http://www.voanaboa.pt/Files/downloads/ANAC-Folheto-AF-NOVA.pdf

http://dronesafe.uk/wp-content/uploads/2016/11/Dronecode.pdf


estabeleça as normas relativas à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais pelos Estados-Membros no exercício de atividades relativas à aplicação do presente capítulo, e à livre circulação desses dados. A observância dessas normas fica sujeita ao controlo de autoridades independentes.”. Por seu turno, o Tratado sobre o Funcionamento da União Europeia afirma que todas as pessoas têm direito à protecção dos dados de carácter pessoal que lhes digam respeito (artigo 16, n.º 1). E a Carta dos Direitos Fundamentais da União Europeia, no artigo 8.º, com a epígrafe Protecção de dados pessoais, diz que todas as pessoas têm direito à protecção dos dados de carácter pessoal que lhes digam respeito; que esses dados devem ser objeto de um tratamento leal, para fins específicos e com o consentimento da pessoa interessada ou com outro fundamento legítimo previsto por lei; e que todas as pessoas têm o direito de aceder aos dados coligidos que lhes digam respeito e de obter a respetiva retificação.

O instrumento legislativo europeu decisivamente focado na questão da proteção de dados pessoais é o Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE 62 . O raciocínio subjacente a este regulamento é o da promoção de um nível consistente de protecção dos dados pessoais em toda a União Europeia, permitindo simultaneamente a livre circulação de dados pessoais entre os Estados-Membros. O fluxo livre de dados pessoais é necessário para uma integração econômica e social mais profunda. Sem o intercâmbio de dados pessoais, o setor público e privado ficariam bastante limitados na realização das suas atividades, o mercado interno europeu sofreria e as autoridades públicas não seriam capazes de executar as suas tarefas. Desde 1995, com a Diretiva 95/46/CE do Parlamento Europeu e do Conselho, de 24 de Outubro de 1995, que a União Europeia possui um conjunto comum de regras em matéria de protecção de dados de pessoas singulares. No entanto, a globalização e os rápidos desenvolvimentos tecnológicos sentidos desde então tornaram esta Diretiva completamente obsoleta e incapaz de encontrar um equilíbrio entre a protecção dos dados pessoais e o cumprimento das necessidades modernas da sociedade.

A produção, recolha e tratamento de enormes quantidades de dados, o chamado fenómeno do Big Data, coloca desafios inolvidáveis à proteção de dados pessoais. Pelas suas características, e em particular o volume

62 Cf. https://publications.europa.eu/pt/publication-detail/-/publication/3e485e15-11bd-11e6-ba9a-01aa75ed71a1/language-pt.


incomensurável de dados e a necessidade de recurso a processos automatizados, o Big Data não pode deixar de estar regulado. O Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, cujo início de vigência se aproxima vertiginosamente (25 de Maio de 2018) ocupar-se-á, como não podia deixar de ser, não apenas ao tratamento manual de dados pessoais, mas também ao automatizado. Outrossim, a definição de perfis, isto é, o tratamento automatizado de dados pessoais que consista em utilizar esses dados pessoais para avaliar certos aspetos pessoais de uma pessoa singular, nomeadamente para analisar ou prever aspetos relacionados com o seu desempenho profissional, a sua situação económica, saúde, preferências pessoais, interesses, fiabilidade, comportamento, localização ou deslocações.

O titular dos dados pessoais possui direitos que lhe são conferidos pelo Regulamento e que se concretizam nomeadamente na transparência das informações, das comunicações e das regras para exercício dos seus direitos; na informação e acesso aos dados pessoais; retificação; apagamento dos dados («direito a ser esquecido»); limitação do tratamento; portabilidade dos dados; oposição; direito de não ficar sujeito a nenhuma decisão tomada exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar.

É deste modo concedida proteção ao titular dos dados pessoais diante do possível recurso a algoritmos para o tratamento de dados e criação de perfis, baseados em aspetos pessoais como desempenho profissional, a situação económica, saúde, preferências ou interesses pessoais, fiabilidade ou comportamento, localização ou deslocações do titular dos dados, que possam produzir efeitos jurídicos, v.g., recusa automática a acesso a uma linha de crédito.

Alemanha

Os Estados-membros estão em fase de adaptação ao novo Regulamento Europeu relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados. É preciso notar que, nos termos do artigo 288.º do TFUE, o regulamento tem caráter geral e, por outro lado, é obrigatório em todos os seus elementos e diretamente aplicável em todos os Estados-Membros. Conforme João Mota de Campos et al63, um Regulamento possui caráter geral porque não particulariza, no sentido de individualizar, os destinatários das normas que prevê. É obrigatório em todos os

63 João Mota de Campos, João Luís Mota de Campos, e António Pinto Pereira, Manual de Direito Europeu, 7.a ed. (Coimbra: Coimbra Editora, 2014), 313 e ss.


seus elementos na medida em que impõe aos destinatários quaisquer que sejam – da própria União Europeia até ao cidadão individual – o cumprimento de todas as disposições, incluindo o seu modo de aplicação e execução. Naquelas hipóteses em que o regulamento é um acto legislativo completo, não exigindo uma norma nacional que, por exemplo, concretize uma matéria que havia ficado omissa, então o seu poder normativo faz-se sentir autonomamente sem a intervenção legislativa dos Estados-Membros. Não se torna assim necessária, bem pelo contrário, a atuação nacional para o acolhimento do Regulamento na ordem jurídica nacional. Por isso se aponta o efeito de aplicabilidade direta aos Regulamentos. Na data da sua entrada em vigor, é automaticamente incorporado no direito nacional.

A Alemanha, com o Bundesdatenschutzgesetz (BDSG), alterado em 30 de Junho de 2017, antecipou-se à entrada em vigor do Regulamento e introduziu as necessárias modificações para o seu direito nacional se conformar com o direito europeu. Esta lei tem como destinatários as entidades públicas, mas também privadas designadamente quando procedam ao processamento de dados pessoais através de meios total ou parcialmente automatizados.

Trata-se de um ato legislativo importantíssimo em matéria de aquisição, tratamento e processamento de dados pessoais, pelo qual se pretende assegurar que, numa sociedade fundamentalmente assente na transação de dados e informação, o titular dos dados não constitua tão-somente um sujeito passivo, praticamente objeto de recolha de dados pessoais, mas um interveniente com uma voz ativa quanto à recolha dos dados (p. ex. consentimento), seu processamento e destino.

Portugal

Também Portugal aguarda a entrada em vigor do Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE. Encontra-se, porém, atrasado quanto à adaptação da legislação nacional. Embora exista uma Proposta de Lei com vista a encorpar as linhas de força do Regulamento, continua para já a vigorar a Lei n.º 67/98, de 26 de Outubro, atualizada pela Lei n.º 103/2015, de 24/08.


Cremos que torna imprescindível que o Brasil promova um amplo debate em torno dos dados pessoais e da proteção jurídica que lhes deve ser concedida.


Entendemos que a previsão do artigo 5.º, inciso X e XII da Constituição da República são insuficientes e demandam uma concretização maior.

Tome-se como exemplo o artigo 35.º da Constituição portuguesa. Epigrafado “Utilização da informática”, constitui um marco constitucional importantíssimo na defesa dos dados pessoais, quer constem em ficheiros manuais quer sejam automatizados. De acordo com esta norma, todos os cidadãos têm o direito de acesso aos dados informatizados que lhes digam respeito, podendo exigir a sua retificação e atualização, e o direito de conhecer a finalidade a que se destinam, nos termos da lei.

É vedado o tratamento de dados referentes a convicções filosóficas ou políticas, filiação partidária ou sindical, fé religiosa, vida privada e origem étnica, salvo em casos excecionais. Como é proibido também o acesso a dados pessoais de terceiros, salvo indicação em contrário na lei. A nível infraconstitucional, tem o legislador português a tarefa de definir o regime aplicável aos fluxos de dados transfronteiras e as formas adequadas de protecção de dados pessoais e de outros cuja salvaguarda se justifique por razões de interesse nacional, bem como o conceito de dados pessoais, bem como as condições aplicáveis ao seu tratamento automatizado, conexão, transmissão e utilização, e garante a sua protecção, designadamente através de entidade administrativa independente.

Mesmo que, por razões extrajurídicas, se mostre complexa o procedimento de alteração da lei fundamental, acreditamos que, perante os riscos de recolha e utilização abusiva de dados pessoais, é incontornável que se encare esta problemática o mais rapidamente e eficazmente possível.

Mercados financeiros

União Europeia

As técnicas de negociação algorítmica de alta frequência consistem em técnicas avançadas de atuação no mercado financeiro. A Diretiva 2014/65/UE do Parlamento Europeu e do Conselho de 15 de maio de 2014 relativa aos mercados de instrumentos financeiros e que altera a Diretiva 2002/92/CE e a Diretiva 2011/61/UE64, reconhece benefícios no uso da negociação algorítmica de alta frequência, tais como uma maior participação nos mercados, um aumento da respetiva liquidez, menores diferenciais, uma menor volatilidade a curto prazo e os meios para obter uma melhor execução das ordens dos clientes.

Mas, de acordo com a mesma Diretiva, carregam riscos potenciais como o de sobrecarga dos sistemas das plataformas de negociação, devido a grandes

64 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A32014L0065.


volumes de ordens; o de serem geradas ordens em duplicado ou erradas; o de funcionarem incorretamente e desse modo de perturbarem o mercado; gerarem volatilidade em certas ocasiões; ou consumarem comportamentos considerados abusivos de mercado, nos termos do Regulamento (UE) n. ° 596/2014 do Parlamento Europeu e do Conselho, de 16 de abril de 2014 , relativo ao abuso de mercado (regulamento abuso de mercado) e que revoga a Diretiva 2003/6/CE do Parlamento Europeu e do Conselho e as Diretivas 2003/124/CE, 2003/125/CE e 2004/72/CE da Comissão65.

A visão oferecida pela Diretiva para a mitigação destes riscos passa pela adoção de um conjunto de medidas e controlos de risco específicos, dirigidos a empresas que desenvolvem negociação algorítmica ou se dedicam a técnicas de negociação algorítmica de alta frequência, e outras medidas dirigidas aos operadores das plataformas de negociação contactados por essas empresas.

Para uma adequada coordenação e supervisão destas entidades e este tipo de atividades surgiu a Autoridade Europeia de Supervisão (Autoridade Europeia dos Valores Mobiliários e dos Mercados)66. Mas há igualmente um princípio de autorresponsabilização das empresas e plataformas de negociação que deverão assegurar a aplicação de medidas rigorosas para garantir que a negociação algorítmica ou as técnicas de negociação algorítmica de alta frequência não criem perturbações no mercado e não possam ser utilizadas para fins abusivos.

Alemanha

Reconhecendo os perigos associados da negociação algorítmica de alta frequência, entrou em vigor em 2013 a Gesetz zur Vermeidung von Gefahren und Missbräuchen im Hochfrequenzhandel (Hochfrequenzhandelsgesetz). Esta lei procedeu a modificações em diversos diplomas legislativos, v.g. no setor bancário e de investimentos.

A negociação algorítmica é definida pelo Bundesanstalt für Finanzdienstleistungsaufsicht (BaFin), entidade reguladora do setor financeiro, como uma negociação onde as ordens são introduzidas, modificadas ou anuladas por computadores 67 . Este tipo de negociação pode levar à

65 Cf. http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:32014R0596. 66 Resultante do Regulamento (UE) n.º 1095/2010 do Parlamento Europeu e do Conselho, de 24 de Novembro de 2010, que cria uma Autoridade Europeia de Supervisão (Autoridade Europeia dos Valores Mobiliários e dos Mercados). 67 Cf., em língua inglesa, https://www.bafin.de/EN/Aufsicht/BoersenMaerkte/Hochfrequenzhandel/high_frequency_trading_node_en.html


sobrecarga das plataformas de negociação e desencadear efeito cascata quando um algoritmo reage a um evento e aciona os restantes algoritmos. O risco associado a este efeito cascata é o do incremento da volatilidade do mercado.

As principais inovações do Hochfrequenzhandelsgesetz dizem respeito ao seguinte68: os intermediários financeiros e demais participantes do mercado deverão requerer autorização para usarem técnicas de negociação algorítmica de alta frequência, que se caraterizam pela automatização das ordens ou transações financeiras, sem a intervenção de um humano, pelo volume mensagens ao longo do dia e pelo recurso a infraestruturas que minimizem a latência, conferindo assim uma vantagem competitiva; deveres de gestão do risco e de prestação de informações ao BaFin; obrigação de identificação do tipo de algoritmo empregue; dever de implementação e atualização de mecanismos de controlo dos algoritmos e riscos associados; cumprimento de order-to-trade ratio (OTR).

Portugal

A defesa do mercado constitui uma preocupação relevante do legislador português. No Código dos Valores Mobiliários, Decreto-Lei n.º 486/99, de 13 de novembro, essa preocupação é espelhada de forma adequada no artigo 311.º quando se exige dos intermediários financeiros e os demais membros de mercado a abstenção da participação em operações ou prática de outros atos suscetíveis de pôr em risco a regularidade de funcionamento, a transparência e a credibilidade do mercado.

A mesma norma reconhece que os padrões de intervenção negocial algorítmica ou de alta frequência podem comportar riscos de perturbação, de alteração artificial ou enganosa da negociação ou de atraso no funcionamento do sistema de negociação.

A Comissão do Mercado de Valores Mobiliários (CMVM) detém poderes de supervisão e regulação do sistema financeiro, obedecendo na sua função de supervisão a princípios como os de: a) Protecção dos investidores; b) Eficiência e regularidade de funcionamento dos mercados de instrumentos financeiros; c) Controlo da informação; d) Prevenção do risco sistémico; e) Prevenção e repressão das atuações contrárias a lei ou a regulamento; f) Independência perante quaisquer entidades sujeitas ou não à sua supervisão.

Em matéria de supervisão do uso de intervenção negocial algorítmica ou de alta frequência deve a CMVM executar as diligências necessárias para se

68 Ibid.


assegurar que este tipo de operações não põe em risco o normal funcionamento do mercado.

O Código dos Valores Mobiliários prevê um regime sancionatório aplicável em caso de incumprimento das normas aí previstas, recorrendo a sanções jurídico-penais e sanções contraordenacionais.


Os valores jurídicos da regularidade de funcionamento, transparência e credibilidade constituem hoje vetores essenciais para a estabilidade comunitária, sendo múltiplos as instâncias onde a paz social e comunitária é erodida em consequência de atos de interferência, manipulação ou defraudação do mercado financeiro.

Estamos diante de um setor particularmente complexo e de extrema importância societal. A agenda política de um país moderno deve tomar em consideração os benefícios e riscos associados à negociação algorítmica de alta frequência, regulamentar este tipo de atividade e manter uma supervisão e fiscalização apertadas. Os modelos de supervisão dos mercados financeiros assumem anatomias distintas consoante as tradições jurídicas de cada país, não se podendo dizer que haja uma solução one-size-fits-all. As idiossincrasias políticas, sociais, culturais e jurídicas nacionais, bem como o contexto regional e internacional em que um país se enquadra, são fundamentais para a decisão sobre o rumo a seguir. Não temos dúvidas, porém, que a negociação algorítmica de alta frequência é merecedora da atenção do poder político.


10. Conclusão

Considerações Finais

Num contexto em que após termos “eletrificado” tudo, estamos agora a dotar de capacidades cognitivas todos os objetos do nosso dia-a-dia. Esta nova realidade irá permitir a humanidade estender e aumentar, individualmente, as suas capacidades como pessoas (e.g., aprofundando a memória, acelerando o reconhecimento) e, coletivamente, como uma espécie.

O futuro reserva-nos, pois, um ambiente composto por humanos e entidades artificiais, trabalhando, vivendo e contribuindo de forma natural e integrada para a resolução de problemas. Estas entidades residirão nos dispositivos que transportamos, nos eletrodomésticos, em espaços públicos, nas roupas que usamos e mesmo no nosso corpo. Seremos reconhecidos em qualquer espaço em que estejamos, e serviços personalizados seguir-nos-ão para qualquer lugar em que nos viermos a encontrar, transportando as nossas preferências e necessidades e possibilitando que sejamos mais eficientes e produtivos.

Neste enquadramento, podemos visionar que esta tecnologia está integrada “naturalmente” nas nossas vidas e é usada numa base diária por todos os seus cidadãos, nas mais variadas facetas das suas vidas. Coloca-se aqui a necessidade de cada país estar preparado para este contexto e os seus novos desafios.

A atual abordagem legislativa europeia aos desafios colocados pela robótica e inteligência artificial é porém incipiente e sectorial. A aposta tem sido claramente no sentido do R&D e seu financiamento através de programas específicos, com os objetivos de promoção de um desenvolvimento acelerado das tecnologias, sob pena da União Europeia ficar numa posição de desvantagem face às restantes potências económicas mundiais. Paralelamente assiste-se a um estudo ponderado, mas reconhecidamente prolongado, das implicações económicas, políticas, éticas, sociais, culturais e jurídicas.

Perante este cenário, a liderança na regulamentação jurídica tem sido assumida as mais das vezes pelos diversos Estados-membros, designadamente


a Alemanha e Portugal69, entre outros, que, em função das exigências societais espácio-temporalmente notadas, procedem a esforços assíncronos de normativação. Não é de todo a resposta ideal para uma realidade (digital) que não conhece fronteiras físicas, mas a emergência dos tempos a isso tem obrigado.

Recomendações

Da análise empreendida em cada um dos setores em que o impacto da inteligência artificial e robótica mais se tem feito sentir, entendemos que o Brasil poderá beneficiar das boas-práticas europeias para se colocar na dianteira deste desafio global.

Robôtica

Relativamente aos robôs, temos para nós que será desejável que o Brasil analise a possibilidade de regulamentar juridicamente a sua produção e utilização em contextos laborais, domésticos, médicos, entre outros. Não temos dúvidas que que os robôs trarão grandes benefícios, mas, concomitantemente, teremos de avaliar os seus efeitos em domínios como o emprego, ensino, cultura, políticas sociais e o próprio direito, dado que princípios como o da transparência, equilíbrio socioeconómico, proteção de dados pessoais e privacidade, dignidade, autonomia e autodeterminação da pessoa humana poderão ter de ser reavaliados. Neste particular, chamamos atenção especial para a possível necessidade de se avançar com uma figura jurídica inédita como o da personalidade eletrónica, ou seja, personalidade jurídica de agentes de software ou robôs com um grau de autonomia avançado. Esta ideia revolucionária certamente abalaria os dogmas (jurídicos, políticos e sociais) que temos por adquiridos, porém, tal como aconteceu relativamente às pessoas jurídicas ou coletivas, razões pragmáticas de responsabilização (civil e/ou criminal) direta e autónoma poderão redundar nesta necessidade.

69 Basta atentar à multiplicidade de legislação portuguesa nestes domínios referidos no relatório e o modo como, em certas ocasiões, vai mais longe do que os instrumentos jurídicos Europeus ou chega mesmo a antecipá-los. A título de exemplo, cf. Regulamento n.o 1093/2016, Condic ões de operac a o aplicaveis a utilizaca o do espac o aéreo pelos sistemas de aeronaves civis pilotadas remotamente (“Drones”); Lei n.º 109/2009, de 15 de Setembro, Lei do Cibercrime; Decreto‐Lei n.o 7/2004, de 7 de Janeiro, sobre comércio electrónico no mercado interno e tratamento de dados pessoais; Decreto‐Lei n.o 486/99, de 13 de Novembro, Código dos Valores Mobiliários; e a Lei n.o 41/2004, de 18 de Agosto, Protecção de dados pessoais e privacidade nas telecomunicações.


Veículos Autónomos

Já quanto aos veículos autónomos, em particular os carros autónomos, Brasil deverá adotar uma atitude prudente, mas ativa. Deverá ser contemplada a possibilidade de implementação de testes de veículos autónomos em contextos fechados e completamente controlados para depois, numa segunda fase, estes teses se desenvolverem em contextos reais. Será necessário igualmente um esforço financeiro na área de investigação e desenvolvimento em projetos relacionados com veículos autónomos (carros, barcos, comboios…) para que o Brasil não fique dependente de tecnologia estrangeira e do know-how aí produzido. Uma posição de destaque neste domínio implicará, a nosso ver, o investimento (ou incentivo ao investimento) em projetos de desenvolvimento e implementação de tecnologias de condução autónoma que se mostrem capazes de aumentar a competitividade e inovações brasileiras, alteração dos conteúdos programáticos dos cursos de formação dos novos condutores/pilotos, sensibilização da população em geral; criação de legislação apropriada e criação de uma autoridade nacional para os transportes automatizados.

Drones

No caso particular dos drones, o Brasil deveria permitir o recurso a funções de voo autónomo, eventualmente acompanhada de medidas de prevenção ou minimização de risco para as pessoas ou bens, emissão de licenças para a operação de drones após a certificação pelas autoridades nacionais e obrigatoriedade de seguros de responsabilidade. Estas medidas deverão ser acompanhadas de campanhas de sensibilização e informação para os direitos e deveres associados ao uso de drones.

Dados

O uso das novas tecnologias, inteligência artificial, algoritmos e robótica levam-nos necessariamente à questão da big data e proteção de dados pessoais. Impõe-se com elevada urgência a aprovação de um instrumento legislativo específico nesta matéria, um “Marco Civil da Internet” para os dados pessoais! Não porque se deva replicar acriticamente as iniciativas europeias. Longe disso. O que se trata aqui é de, em primeiro lugar, concretizar um mandato constitucional brasileiro de proteção de dados pessoais e, em segundo lugar, reconhecer que, no contexto da globalização, tais iniciativas europeias irão produzir efeitos práticos não apenas nos Estados-membros mas também nos países e empresas que com eles se relacionem.


Mercados Financeiros

Uma palavra ainda para os mercados financeiros. É consabido que a paz social e comunitária é erodida em consequência de atos de interferência, manipulação ou defraudação do mercado financeiro. Por esse motivo, a tutela dos valores jurídicos da regularidade de funcionamento, transparência e credibilidade erigem-se a tarefa fundamental. Estes valores são afetados com uma utilização desregrada da negociação algorítmica de alta frequência. Incumbirá ao Brasil optar por um modelo de supervisão compatível com a sua realidade política, sociais, cultural e jurídica que se mostre eficaz na prevenção dos riscos colocados pela negociação algorítmica de alta frequência.

Agência Federal Brasileira para a Robótica e da Inteligência Artificial

Há, em suma, muito caminho a percorrer. Identificámos alguns sectores relevantes, mas o avanço vertiginoso da inteligência artificial e robótica mostrará que o seu impacto se fará sentir para além daquilo que hoje imaginamos. Eventualmente a imaginação humana será ultrapassada pela “imaginação” artificial. Isto porém não nos deve demover se assumir um papel ativo na conformação do desenvolvimento da inteligência artificial. O ponto de partida poderá muito bem residir na criação de uma Agência Federal Brasileira para a Robótica e da Inteligência Artificial. Uma agência com poderes de consultoria, supervisão e, eventualmente, regulação, cuja composição deverá refletir a multidisciplinaridade e complexidade do tema: políticos, académicos e profissionais, nacionais e internacionais, com expertise em robótica e inteligência artificial.

Terminando, relembramos as palavras de Jacques Ellul “Technique has penetrated the deepest recesses of the human being. The machine tends not only to create a new human environment, but also to modify man's very essence. The milieu in which he lives is no longer his. He must adapt himself, as though the world were new, to a universe for which he was not created”70.

70 Jacques Ellul, The Technological Society, Vintage Books, 1964, p. 325.


11. ANEXO.

RECOMENDAÇÕES DO PARLAMENTO EUROPEU NO ÂMBITO DAS DISPOSIÇÕES DE DIREITO CIVIL SOBRE ROBÓTICA

Resolução do Parlamento Europeu, de 16 de fevereiro de 2017

(Transcrição integral)

O documento original pode ser consultado em:

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//PT#BKMD-13.

Definição e classificação de «robôs inteligentes»

Deverá ser criada uma definição comum europeia para os robôs autónomos inteligentes, incluindo, se for caso disso, definições das suas subcategorias, tendo em consideração as seguintes características:

• a capacidade de adquirir autonomia através de sensores e/ou da troca de dados com o seu ambiente (interconetividade) e a análise destes dados;

• a capacidade de aprender com a experiência e com a interação;

• a forma do suporte físico do robô;

• a capacidade de adaptar o seu comportamento e as suas ações ao ambiente.

Registo de «robôs inteligentes»

Para efeitos de rastreabilidade, e a fim de facilitar a aplicação de outras recomendações, deverá ser introduzido um sistema de registo de robôs avançados, assente nos critérios estabelecidos para a classificação de robôs. O sistema de registo e o registo deverão abranger toda a União, cobrindo o mercado interno, e poderiam ser geridos por uma Agência Europeia de Robótica e Inteligência Artificial, caso essa agência seja criada.

Responsabilidade civil

Qualquer solução jurídica aplicada à responsabilidade dos robôs e da inteligência artificial em caso de danos não patrimoniais não deverá, em caso algum, limitar o tipo ou a extensão dos danos a indemnizar nem as formas de

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//PT#BKMD-13

http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2017-0051+0+DOC+XML+V0//PT#BKMD-13


compensação que podem ser disponibilizadas à parte lesada, pelo simples facto de os danos terem sido provocados por um agente não humano.

O futuro instrumento legislativo deverá basear-se numa avaliação aprofundada da Comissão que determine se a abordagem a aplicar deve ser a da responsabilidade objetiva ou a da gestão de riscos.

Deverá ser criado um regime de seguros obrigatórios, que poderá ter basear-se na obrigação do produtor de subscrever um seguro para os robôs autónomos que produz.

O regime de seguros deverá ser complementado por um fundo a fim de garantir que os danos possam ser indemnizados caso não exista qualquer cobertura de seguro.

As decisões políticas sobre as regras de responsabilidade civil aplicáveis aos robôs e à inteligência artificial deverão ser tomadas com base em informações adequadas de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, com cientistas e especialistas capazes de avaliar todos os riscos e consequências possíveis.

Interoperabilidade, acesso aos códigos e direitos de propriedade intelectual

Deve ser garantida a interoperabilidade dos robôs autónomos ligados em rede que interagem entre si. Deve ser disponibilizado, sempre que necessário, acesso aos códigos-fonte, aos dados de entrada e aos pormenores de construção, a fim de investigar os acidentes e os danos provocados pelos robôs inteligentes e de assegurar a sua operacionalidade, disponibilidade, fiabilidade, segurança e proteção permanentes.

Carta da Robótica

Ao propor atos jurídicos em matéria de robótica, a Comissão deverá ter em conta os princípios consagrados na Carta da Robótica.

CARTA DA ROBÓTICA

O código de conduta ética proposto no domínio da robótica estabelece as bases para a identificação, a supervisão e o cumprimento dos princípios éticos fundamentais, desde a fase de conceção e desenvolvimento.

O quadro, elaborado com base em informações de um projeto de investigação e desenvolvimento à escala europeia dedicado à robótica e à neurociência, deve ser concebido de modo ponderado a fim de possibilitar ajustamentos específicos numa base casuística para avaliar se um dado comportamento é


correto ou errado numa dada situação e para tomar decisões de acordo com uma hierarquia de valores predefinida.

O código não deverá substituir a necessidade de resolver todos os grandes problemas jurídicos neste domínio; deverá, antes, ter uma função de complementaridade. Limitar-se-á, portanto, a facilitar a classificação ética da robótica, a reforçar os esforços de inovação responsável neste domínio e a ter em conta as preocupações do público.

Deverá ser dada particular atenção às fases de investigação e desenvolvimento da trajetória tecnológica pertinente (processo de conceção, exame ético, controlos de auditoria, etc.). O código deverá procurar dar resposta à necessidade de cumprimento das normas éticas pelos investigadores, pelos profissionais, pelos utilizadores e pelos criadores, e introduzir um procedimento para encontrar uma forma de resolver os dilemas éticos pertinentes e para permitir que estes sistemas funcionem de um modo eticamente responsável.

CÓDIGO DE CONDUTA ÉTICA PARA OS ENGENHEIROS DE ROBÓTICA

PREÂMBULO

O Código de Conduta convida todos os investigadores e criadores a agir de forma responsável e com consideração absoluta pela necessidade de respeitar a dignidade, a privacidade e a segurança dos seres humanos.

O Código de Conduta apela a uma estreita cooperação entre todas as disciplinas a fim de garantir que a investigação de robótica na União Europeia seja realizada de um modo seguro, ético e eficaz.

O Código de Conduta abrange todas as atividades de investigação e desenvolvimento no domínio da robótica.

O Código de Conduta é voluntário e proporciona um conjunto de princípios e orientações gerais para medidas a tomar por todas as partes interessadas.

Os organismos que financiam a investigação em robótica, as organizações de investigação, as comissões de ética e os investigadores são incentivados a ponderar, desde as fases iniciais, as implicações futuras das tecnologias ou dos objetos a investigar e a desenvolver uma cultura de responsabilidade tendo em conta os problemas e as oportunidades que podem surgir no futuro.

Os organismos públicos e privados que financiam a investigação em robótica deverão exigir que todas as propostas de financiamento de investigação em


robótica sejam acompanhadas por um dossiê de avaliação de risco. O código deve considerar os seres humanos, e não os robôs, como agentes responsáveis.

Os investigadores no domínio da robótica devem pautar-se pelos mais elevados padrões de conduta ética e profissional, e respeitar os seguintes princípios:

Beneficência – os robôs devem atuar no interesse dos seres humanos;

Não-maleficência – a doutrina de «acima de tudo, não prejudicar», segundo a qual os robôs não devem causar danos aos humanos;

Autonomia – a capacidade de tomar decisões informadas e livres de coação sobre as condições de interação com os robôs;

Justiça – uma distribuição equitativa dos benefícios associados à robótica e, em particular, a acessibilidade a robôs de cuidados domésticos e de cuidados de saúde.

Direitos fundamentais

As atividades de investigação em robótica - desde a sua conceção e aplicação até à sua difusão e utilização - devem respeitar os direitos fundamentais e ser realizadas no interesse do bem-estar e da autodeterminação dos indivíduos e da sociedade em geral. A dignidade e a autonomia – tanto física como psicológica – dos seres humanos devem ser sempre respeitadas.

Precaução

As atividades de investigação em robótica devem ser realizadas de acordo com o princípio da precaução, prevendo os impactos potenciais dos resultados na segurança e tomando as devidas precauções, proporcionadas em relação ao nível de proteção, e fomentando ao mesmo tempo o progresso em benefício da sociedade e do ambiente.

Abertura à participação dos interessados

Os engenheiros de robótica garantem a transparência e o respeito pelo legítimo direito de acesso de todas as partes interessadas às informações. A abertura à participação dos interessados permite a participação de todas as partes interessadas nas atividades de investigação em robótica, ou por elas abrangidas, nos processos decisórios.

Responsabilização


Os engenheiros de robótica são responsáveis pelos impactos sociais, ambientais e para a saúde humana que a robótica possa ter nas gerações presentes ou futuras.

Segurança

Os criadores de robótica devem ter em conta e respeitar o bem-estar físico, a segurança, a saúde e os direitos das pessoas. Os engenheiros de robótica devem preservar o bem-estar humano, respeitando simultaneamente os direitos humanos, e revelar prontamente os fatores suscetíveis de pôr em perigo as pessoas ou o ambiente.

Reversibilidade

A reversibilidade, enquanto condição necessária da capacidade de controlo, é um conceito fundamental na programação dos robôs de forma a comportarem-se de modo seguro e fiável. Um modelo de reversibilidade indica ao robô as ações que são reversíveis e como revertê-las, caso seja possível. A capacidade de anular a última ação ou uma sequência de ações permite aos utilizadores anularem as ações indesejadas e regressarem à «boa» fase do seu trabalho.

Privacidade

O direito à privacidade deve ser sempre respeitado. Os engenheiros de robótica devem assegurar que as informações privadas sejam mantidas em segurança e só sejam utilizadas de forma adequada. Além disso, os engenheiros de robótica devem garantir que os indivíduos não sejam identificáveis pessoalmente, salvo em circunstâncias excecionais e, se for esse o caso, que só o sejam com um consentimento esclarecido, inequívoco e informado. O consentimento humano informado deve ser solicitado e obtido antes de qualquer interação homem-máquina. Enquanto tais, os criadores de robótica são responsáveis por conceber e adotar procedimentos para o consentimento válido, a confidencialidade, o anonimato, o tratamento justo e um processo equitativo. Os criadores devem satisfazer todos os pedidos de destruição de dados conexos e da sua eliminação de conjuntos de dados.

Maximização do benefício e minimização do dano

Os investigadores devem procurar maximizar os benefícios do seu trabalho em todas as fases, desde a conceção até à divulgação. Devem ser evitados todos os danos causados aos participantes na investigação, aos sujeitos humanos e aos participantes em experiências, testes ou estudos ou a eles sujeitos. Sempre que ocorram riscos que constituam um elemento inevitável e integrante da investigação, devem ser criados e respeitados sólidos protocolos de avaliação


e gestão dos riscos. Normalmente, o risco de danos não deve ser superior ao que existe na vida do dia-a-dia, ou seja, as pessoas não devem ser expostas a riscos superiores ou a mais riscos do que aqueles a que são expostas na sua vida normal. O funcionamento dos sistemas de robótica deve basear-se sempre num processo exaustivo de avaliação do risco, o qual deve ser enformado pelos princípios cautelares e de proporcionalidade.

CÓDIGO PARA AS COMISSÕES DE ÉTICA DA INVESTIGAÇÃO (CEI)

Princípios

Independência

O processo de exame ético deve ser independente da própria investigação. Este princípio destaca a necessidade de evitar conflitos de interesses entre os investigadores e as pessoas que examinam o protocolo de ética, e entre os examinadores e as estruturas organizativas de governo.

Competência

O processo de exame ético deve ser realizado por examinadores com conhecimentos especializados adequados, tendo em conta a necessidade de ponderar cuidadosamente o alcance da adesão e a formação específica das CEI em ética.

Transparência e responsabilização

O processo de exame deve ser responsável e aberto a escrutínio. As CEI têm de reconhecer as suas responsabilidades e devem estar devidamente situadas no âmbito das estruturas organizativas que conferem transparência ao funcionamento e aos procedimentos das CEI para manter e analisar as normas.

A função de uma CEI

Uma CEI é normalmente responsável por analisar toda a investigação que envolve participantes humanos realizada por indivíduos empregados na ou pela instituição em causa; por garantir que o exame de ética seja independente, competente e oportuno; por proteger a dignidade, os direitos e o bem-estar dos participantes em atividades de investigação; por ter em consideração a segurança do(s) investigador(es); por ter em consideração os interesses legítimos de outras partes interessadas; por tomar decisões informadas sobre o mérito científico das propostas; e por fazer recomendações informadas aos investigadores se as propostas forem consideradas insuficientes em algum aspeto.

A constituição de uma CEI


Por norma, as CEI devem ser multidisciplinares, incluir homens e mulheres e ser constituídas por elementos com ampla experiência e conhecimentos especializados no domínio da investigação em robótica. O processo de nomeação deve garantir que os elementos da comissão forneçam um equilíbrio adequado de conhecimentos científicos, antecedentes filosóficos, jurídicos ou éticos, contribuam com opiniões e incluam pelo menos um elemento com conhecimentos especializados em ética e utilizadores de serviços especializados de saúde, educação ou sociais, sempre que estes constituam o cerne das atividades de investigação, e indivíduos com conhecimentos metodológicos específicos relevantes para a investigação que analisam. As CEI devem ser constituídas de modo a evitar conflitos de interesse.

Acompanhamento

As organizações de investigação devem estabelecer procedimentos adequados de acompanhamento dos projetos de investigação que receberam aprovação ética até à sua conclusão e garantir o seu exame contínuo, caso a conceção da investigação deixe antever possíveis alterações ao longo do tempo que precisem de ser abordadas. O acompanhamento deve ser proporcionado em relação à natureza e ao grau do risco associado à investigação. Se uma CEI considerar que um relatório de acompanhamento suscita preocupações importantes quanto à conduta ética do estudo, deve solicitar uma descrição completa e detalhada da investigação para exame ético completo. Se se considerar que um estudo não está a ser realizado de forma ética, deve ponderar-se a possibilidade de retirar a sua aprovação, e a investigação deve ser suspensa ou interrompida.

LICENÇA PARA OS CRIADORES

Os criadores devem:

• ter em conta os valores europeus de dignidade, autonomia e autodeterminação, liberdade e justiça antes, durante e após o processo de conceção, desenvolvimento e fornecimento dessas tecnologias, incluindo a necessidade de não prejudicar, lesar, enganar ou explorar os utilizadores (vulneráveis).

• introduzir princípios fidedignos de conceção do sistema em todos os aspetos do funcionamento do robô, tanto em termos de conceção de hardware como de software, e para o processamento de quaisquer dados, na plataforma ou fora desta, para efeitos de segurança.


• introduzir elementos de privacidade desde a conceção, de modo a assegurar que as informações privadas sejam mantidas em segurança e utilizadas apenas de forma adequada.

• integrar mecanismos óbvios de autoexclusão («kill switches») que devem ser compatíveis com objetivos de conceção razoáveis.

• garantir que um robô funcione em conformidade com os princípios éticos e jurídicos locais, nacionais e internacionais.

• garantir que as etapas do processo decisório do robô sejam suscetíveis de reconstrução e rastreabilidade.

• garantir que seja exigida a máxima transparência na programação de sistemas de robótica, bem como a previsibilidade do comportamento robótico.

• analisar a previsibilidade de um sistema entre seres humanos e robôs, atendendo à incerteza na interpretação e na ação e a possíveis falhas robóticas ou humanas.

• desenvolver ferramentas de rastreabilidade na fase de conceção do robô. Estas ferramentas irão facilitar a responsabilização e a explicação do comportamento robótico, mesmo que limitado, nos vários níveis pretendidos por peritos, operadores e utilizadores.

• elaborar protocolos de conceção e de avaliação e reunir com potenciais utilizadores e partes interessadas quando avalia os benefícios e os riscos da robótica, incluindo os de natureza cognitiva, psicológica ou ambiental.

• garantir que os robôs possam ser identificados como robôs ao interagirem com humanos.

• salvaguardar a segurança e a saúde dos que interagem e entram em contacto com robótica, uma vez que os robôs, enquanto produtos, devem ser concebidos com processos que garantem a sua segurança e proteção. Um engenheiro de robótica tem de preservar o bem-estar da humanidade e, simultaneamente, respeitar os direitos humanos e não pode disponibilizar um robô sem salvaguardar a segurança, a eficácia e a reversibilidade do funcionamento do sistema.

• obter um parecer favorável de uma CEI antes de testar um robô em ambiente real ou de envolver humanos nos seus procedimentos de conceção e desenvolvimento.

LICENÇA PARA OS UTILIZADORES

Os utilizadores devem:


• ter autorização para utilizar um robô sem risco ou medo de danos físicos ou psicológicos.

• ter o direito de esperar que um robô efetue qualquer tarefa para a qual foi explicitamente concebido.

• estar conscientes de que qualquer robô pode ter limitações percetivas, cognitivas e de atuação.

• respeitar a fragilidade humana, tanto física como psicológica, bem como as necessidades emocionais dos humanos.

• ter em conta os direitos de privacidade das pessoas, incluindo a desativação de controlos de vídeo durante procedimentos íntimos.

• estar proibidos de recolher, utilizar ou divulgar informações pessoais sem o consentimento expresso dos titulares dos dados.

• estar proibidos de utilizar um robô de um modo que infrinja princípios e normas éticas ou jurídicas.

• estar proibidos de modificar um robô para que o mesmo possa funcionar como arma.


12. Referências Yuval Harari Y., Sapiens: Uma Breve História da Humanidade, Elsinore, ISBN: 9789898864086, 2017

Klaus Schwab, The Fourth Industrial Revolution, Crown Business, ISBN: 9781524758868, 2017.

John McCarthy, What is artificial intelligence?, Stanford University, 2017 (http://www.formal.stanford.edu/jmc/whatisai/whatisai.html).

George Luger, William Stubblefield, Artificial Intelligence Structures and Strategies for Complex Problem Solving. Addison-Wesley, 1989.

Ernesto Costa E., Anabela Simões, Inteligência Artificial: Fundamentos e Aplicações, FCA Editora, ISBN: 972-722-269-2, 2004.

Stuart Russel, Peter Norvig, Artificial Intelligence: A modern approach, Prentice-Hall, 2nd Ed. IBSN: 0-13-103805-2, 2003.

Michael Wooldrige, An Introduction to Multiagent Systems - - Second Edition, John Wiley & Sons, ISBN 978-0470519462, 2009.

Michael Wooldridge, Nicholas Jennings, “Intelligent Agents: Theory and Practice”, Knowledge Engineering Review, 10 (2), pp. 115 152, 1995.

Hyacinth S. Nwana, “Software Agents: An Overview”, Knowledge Engineering Review, 11 (3), pp. 1 40, 1996.

Cristiano Castelfranchi, Guarantees for Autonomy in Cognitive Agent Architecture. ECAI Workshop on Agent Theories, Architectures, and Languages 1994: 56-70, 1994.

The International Federation of Robotics, Executive Summary World Robotics 2017 Industrial Robots, 2017. https://ifr.org/downloads/press/Executive_Summary_WR_2017_Industrial_Robots.pdf

Novais P., Carneiro D., Interdisciplinary Perspectives on Contemporary Conflict Resolution, IGI-Global, 363 pages, ISBN: 978-1-5225-0245-6, 2016.

Fernando Viana, Francisco Andrade, Paulo Novais, Resolução de conflitos de consumo em linha em Portugal e na União Europeia – A plataforma europeia de resolução de conflitos em linha (RLL), Scientia Ivridica, Tomo LXV – N.º 341, ISSN: 0870-8185, pp 207-240, 2016.

http://www.formal.stanford.edu/jmc/whatisai/whatisai.html




Parlamento Europeu, Robots and artificial intelligence: MEPs call for EU-wide liability rules, http://www.europarl.europa.eu/news/en/press-room/20170210IPR61808/robots-and-artificial-intelligence-meps-call-for-eu-wide-liability-rules

Parlamento Europeu, Civil law rules on robotics, http://www.europarl.europa.eu/RegData/etudes/ATAG/2017/599250/EPRS_ATA(2017)599250_EN.pdf

Parlamento Europeu, Report with recommendations to the Commission on Civil Law Rules on Robotics, http://www.europarl.europa.eu/committees/en/juri/subject-files.html?id=20170202CDT01121

Jason Tashe, Courts Are Using Ai To Sentence Criminals. That Must Stop Now, 2017, https://www.wired.com/2017/04/courts-using-ai-sentence-criminals-must-stop-now

Pacific Standard Staff, Racial Bias In Criminal Risk Scores Is Mathematically Inevitable, 2017, https://psmag.com/.amp/news/racial-bias-in-criminal-risk-scores-is-mathematically-inevitable

US Food & Drug Administration, Firmware Update to Address Cybersecurity Vulnerabilities Identified in Abbott's (formerly St. Jude Medical's) Implantable Cardiac Pacemakers: FDA Safety Communication, 2017, https://www.fda.gov/MedicalDevices/Safety/AlertsandNotices/ucm573669.htm

Alex Hern, Hacking risk leads to recall of 500,000 pacemakers due to patient death fears, 2017, https://www.theguardian.com/technology/2017/aug/31/hacking-risk-recall-pacemakers-patient-death-fears-fda-firmware-update

Daniel Schlaepfer e Hugo Kruyne, AI and robots should not be attributed legal personhood, 2018, https://www.euractiv.com/section/economy-jobs/opinion/ai-and-robots-should-not-be-attributed-legal-personhood/

Janosch Delcker, Europe divided over robot ‘personhood’, 2018, https://www.politico.eu/article/europe-divided-over-robot-ai-artificial-intelligence-personhood/

Comissão Europeia, Follow up to the European Parliament resolution of 16 February 2017 on civil law rules on robotics, http://www.europarl.europa.eu/oeil/spdoc.do?i=28110&j=0&l=en


Comissão Europeia, Blue growth, https://ec.europa.eu/maritimeaffairs/policy/blue_growth_en

Comissão Europeia, Factories of the Future, http://ec.europa.eu/research/industrial_technologies/factories-of-the-future_en.html

SPARC, https://www.eu-robotics.net/sparc/about/index.html

Comissão Europeia, Robotics, http://ec.europa.eu/programmes/horizon2020/en/h2020-section/robotics

Comissão Europeia, Comunicação da Comissão ao Parlamento Europeu, ao Conselho, ao Comité Económico e Social Europeu e ao Comité Das Regiões, 2016, http://eur-lex.europa.eu/legal-content/PT/TXT/HTML/?uri=CELEX:52016DC0587&from=en

Comissão Europeia, Cooperative, connected and automated mobility in Europe, 2018, https://ec.europa.eu/digital-single-market/en/cooperative-connected-and-automated-mobility-europe

AA.VV., Letter of Intent on the testing and large scale demonstrations of Connected and Automated Driving (CAD), 2017, http://ec.europa.eu/newsroom/dae/document.cfm?doc_id=43821

http://ec.europa.eu/newsroom/document.cfm?doc_id=46898

ACEA, 37 leading companies join forces in European Automotive-Telecom Alliance, 2016, http://www.acea.be/press-releases/article/37-leading-companies-join-forces-in-european-automotive-telecom-alliance

Comissão Europeia, Cooperative, connected and automated mobility (C-ITS), https://ec.europa.eu/transport/themes/its/c-its_en

Comissão Europeia, Commission launches GEAR 2030 to boost competitiveness and growth in the automotive sector, 2016, http://ec.europa.eu/growth/content/commission-launches-gear-2030-boost-competitiveness-and-growth-automotive-sector-0_en

High Level Group on the Competitiveness and Sustainable Growth of the Automotive Industry in the European Union (GEAR 2030), Final report, 2017, http://ec.europa.eu/docsroom/documents/26081

Comissão Europeia, GEAR 2030 Strategy 2015-2017, Comparative analysis of the competitive position of the EU automotive industry and the impact of the introduction of autonomous vehicles: final report - Study, 2017,


https://publications.europa.eu/en/publication-detail/-/publication/24c9ad0e-da38-11e7-a506-01aa75ed71a1/language-en/format-PDF/source-52926290

Reuters, Germany adopts self-driving vehicles law, 2017, https://www.reuters.com/article/us-germany-autos-self-driving/germany-adopts-self-driving-vehicles-law-idUSKBN1881HY

Federal Minister of Transport and Digital Infrastructure, Automated and Connected Driving, Report, 2017, https://www.bmvi.de/SharedDocs/EN/Documents/G/ethic-commission-report.pdf?__blob=publicationFile

Brad Bergan e Patrick Caughill,Germany Drafts World’s First Ethical Guidelines for Self-Driving Cars, 2017, https://futurism.com/germany-drafts-worlds-first-ethical-guidelines-for-self-driving-cars/

Bundesministerium für Verkehr und digitale Infrastruktur, Bundesregierung beschließt Maßnahmenplan zum automatisierten Fahren, 2017, http://www.bmvi.de/SharedDocs/DE/Pressemitteilungen/2017/128-dobrindt-massnahmenplan-ethikregeln-fahrcomputer.html

Dinheiro Vivo/Lusa, Carros autónomos: Governo quer estudar leis em 2017, 2017, https://www.dinheirovivo.pt/empresas/carros-autonomos-governo-quer-estudar-leis-em-2017/

https://www.autocits.eu/

Comissão Europeia, Connecting Europe Facility, https://ec.europa.eu/inea/en/connecting-europe-facility

Autoridade Nacional de Segurança Rodoviária, http://www.ansr.pt/Pages/default.aspx

Guilherme Costa, Portugal vai receber os primeiros testes com veículos autónomos em 2018, 2017, https://www.razaoautomovel.com/2017/10/139467

European Aviation Safety Agency, Opinion No 01/2018, https://www.easa.europa.eu/sites/default/files/dfu/Opinion%20No%2001-2018.pdf

European Aviation Safety Agency, Draft Commission Regulation (Eu) …/… of Xxx Laying Down Rules And Procedures For The Operation Of Unmanned Aircraft, https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20COMMISSION%20REGULATION%20%28EU%29%20...-...%20laying%20down%20rules%20and%20procedures%20for%20the%20operation%20of%20unmanned%20aircraft.pdf


European Aviation Safety Agency, Annex, UAS operations in the ‘open’ and ‘specific’ categories, https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20ANNEX%20%28Part-UAS%29%20to%20DRAFT%20COMMISSION%20REGULATION%20%28EU%29%20...-...%20laying%20down%20rules%20and%20procedures%20for%20the%20operation%20of%20unmanned%20aircraft.pdf

European Aviation Safety Agency, Draft Commission Delegated Regulation (Eu) …/… of Xxx On Making Available On The Market Of Unmanned Aircraft Intended For Use In The ‘open’ Category And On Third-country Uas Operators, https://www.easa.europa.eu/sites/default/files/dfu/DRAFT%20COMMISSION%20DELEGATED%20REGULATION%20%28EU%29%20...-...%20on%20making%20available%20on%20the%20market%20of%20unmanned%20aircraft....pdf

Globo, Drone invade espaço aéreo de Congonhas, em SP, e prejudica voos, 2017, http://g1.globo.com/jornal-nacional/noticia/2017/11/drone-invade-espaco-aereo-de-congonhas-em-sp-e-prejudica-voos.html

Jennings Brown, This Could Be the First Drone-Caused Aircraft Crash In the US, https://gizmodo.com/this-could-be-the-first-drone-caused-aircraft-crash-in-1823071652

Autoridade Nacional da Aviação Civil, http://www.anac.pt/vPT/Generico/Paginas/Homepage00.aspx

Bundesministerium für Verkehr und digitale Infrastruktur, Die neue DrohnenVerordnung, http://www.bmvi.de/SharedDocs/DE/Publikationen/LF/flyer-die-neue-drohnen-verordnung.pdf?__blob=publicationFile

Autoridade Nacional da Aviação Civil, Código Drone, http://www.voanaboa.pt/Files/downloads/ANAC-Folheto-AF-NOVA.pdf

Civil Aviation Authority, The Drone Code, http://dronesafe.uk/wp-content/uploads/2016/11/Dronecode.pdf

Pedro Freitas, Teresa Moreira, Francisco Andrade, "Data protection and biometric data: European Union legislation", in Richard Jiang, Somaya Al-maadeed, Ahmed Bouridane, Danny Crookes e Azeddine Beghdadi (eds.), Biometric security and Privacy: opportunities & challenges in the Big Data era, Springer, pp. 413-421, 2017.

João Mota de Campos, João Luís Mota de Campos, e António Pinto Pereira, Manual de Direito Europeu, 7.a ed., Coimbra: Coimbra Editora, 2014.


Federal Financial Supervisory Authority, Algorithmic trading and high-frequency trading, 2018, https://www.bafin.de/EN/Aufsicht/BoersenMaerkte/Hochfrequenzhandel/high_frequency_trading_node_en.html

Jacques Ellul, The Technological Society, Vintage Books, 1964.


13. Fontes Legislativas

• European Parliament resolution of 16 February 2017 with recommendations to the Commission on Civil Law Rules on Robotics (2015/2103(INL)) http://www.europarl.europa.eu/sides/getDoc.do?type=TA&reference=P8-TA-2017-0051&language=EN&ring=A8-2017-0005

• Directiva 85/374/CEE do Conselho, de 25 de Julho de 1985, relativa à aproximação das disposições legislativas, regulamentares e administrativas dos Estados-Membros em matéria de responsabilidade decorrente dos produtos defeituosos, http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A31985L0374

• Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril de 2016, relativo à proteção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados), http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex%3A32016R0679

• Directiva 95/46/CE do Parlamento Europeu e do Conselho, de 24 de Outubro de 1995, relativa à protecção das pessoas singulares no que diz respeito ao tratamento de dados pessoais e à livre circulação desses dados, http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:31995L0046

• Directiva 2006/42/CE do Parlamento Europeu e do Conselho, de 17 de Maio de 2006 , relativa às máquinas e que altera a Directiva 95/16/CE, http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:32006L0042

• Nações Unidas, Convention on Road Traffic, 1968, https://treaties.un.org/Pages/ViewDetailsIII.aspx?src=TREATY&mtdsg_no=XI-B-19&chapter=11&Temp=mtdsg3&lang=en

• Achtes Gesetz zur Änderung des Straßenverkehrsgesetzes, https://www.cr-online.de/bgbl117s1648_75404.pdf

• Straßenverkehrsgesetz, https://www.gesetze-im-internet.de/stvg/BJNR004370909.html


• Resolução do Parlamento Europeu, de 29 de outubro de 2015, sobre a utilização segura de sistemas de aeronaves telepilotadas (RPAS), geralmente conhecidos como veículos aéreos não tripulados (UAV), no campo da aviação civil, http://www.europarl.europa.eu/sides/getDoc.do?pubRef=-//EP//TEXT+TA+P8-TA-2015-0390+0+DOC+XML+V0//PT

• Regulamento (CE) n.° 216/2008 do Parlamento Europeu e do Conselho, de 20 de Fevereiro de 2008, relativo a regras comuns no domínio da aviação civil e que cria a Agência Europeia para a Segurança da Aviação, e que revoga a Directiva 91/670/CEE do Conselho, o Regulamento (CE) n.° 1592/2002 e a Directiva 2004/36/CE

• Verordnung zur Regelung des Betriebs von unbemannten Fluggeräten, https://www.bmvi.de/SharedDocs/DE/Anlage/LF/verordnung-zur-regelung-des-betriebs-von-unbemannten-fluggeraeten.pdf?__blob=publicationFile

• Regulamento n.º 1093/2016, Condições de operação aplicáveis à utilização do espaço aéreo pelos sistemas de aeronaves civis pilotadas remotamente (“Drones”)

• Diretiva 2014/65/UE do Parlamento Europeu e do Conselho, de 15 de maio de 2014, relativa aos mercados de instrumentos financeiros e que altera a Diretiva 2002/92/CE e a Diretiva 2011/61/UE, http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=CELEX%3A32014L0065

• Regulamento (UE) n.° 596/2014 do Parlamento Europeu e do Conselho, de 16 de abril de 201 , relativo ao abuso de mercado (regulamento abuso de mercado) e que revoga a Diretiva 2003/6/CE do Parlamento Europeu e do Conselho e as Diretivas 2003/124/CE, 2003/125/CE e 2004/72/CE da Comissão, http://eur-lex.europa.eu/legal-content/PT/TXT/?uri=celex:32014R0596

• Regulamento (UE) n.º 1095/2010 do Parlamento Europeu e do Conselho, de 24 de Novembro de 2010, que cria uma Autoridade Europeia de Supervisão (Autoridade Europeia dos Valores Mobiliários e dos Mercados)

• Lei n.º 109/2009, de 15 de Setembro, Lei do Cibercrime

• Decreto‐Lei n.o 7/2004, de 7 de Janeiro, sobre comércio electrónico no mercado interno e tratamento de dados pessoais


• Decreto‐Lei n.o 486/99, de 13 de Novembro, Código dos Valores Mobiliários

• Lei n.o 41/2004, de 18 de Agosto, Protecção de dados pessoais e privacidade nas telecomunicações


14. Bibliografia recomendada Inteligência Artificial

Arlindo Oliveira, The Digital Mind - How Science Is Redefining Humanity, MIT Press, ISBN: 9780262036030, 2017.

Pedro Domingues, The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World, Basic Books, ISSBN 978-0465065707, 2015,

Angelo Costa, Vicente Julian, Paulo Novais, Personal Assistants: Emerging Computational Technologies, Springer - Intelligent Systems Reference Library, ISSN: 1868-4394, ISBN: 978-3-319-62529-4, Vol. 132, 212 pages, 2018. https://doi.org/10.1007/978-3-319-62530-0

Inteligência Artificial e Ética

L. M. Pereira, A. Saptawijaya, Programming Machine Ethics, Springer SAPERE series, Vol. 26, 194 pages, Flyer, ISBN: 978-3-319-29353-0, DOI 10.1007/978-3-319-29354-7, 2016.

L. M. Pereira, A Máquina Iluminada - Cognição e Computação, Fronteira do Caos, Editores, 259 pages, ISBN: 978-989-8647-58-0, 2016

Inteligência Artificial aplicada

Martin Ford, Rise of the Robots: Technology and the Threat of a Jobless Future, Basic Books, ISBN: 978-0465097531, 2016.

Hod Lipson and Melba Kurman, Driverless - Intelligent Cars and the Road Ahead, ISBN: 9780262534475, MIT press, 2017.

Markus Maurer, J. Christian Gerdes, Barbara Lenz, and Hermann Winner (Eds), Autonomous Driving - Technical, Legal and Social Aspects, Springer, 978-3-662-48845-4, 2016.

Hugh Gusterson, Drone - Remote Control Warfare, MIT Press, ISSBN 9780262534413, 2016.

Paulo Novais, Davide Carneiro, Francisco Andrade, José Neves, Harnessing Content and Context for Enhanced Decision Making, AI Approaches to the Complexity of Legal Systems - AICOL 2013 International Workshops, Lecture Notes in Computer Science vol. 8929, Pompeu Casanovas, Ugo Pagallo, Monica Palmirani, Giovanni Sartor (Eds), ISBN 978-3-662-45959-1, pp 232-246, 2014. http://dx.doi.org/10.1007/978-3-662-45960-7_17


Regulação da Inteligência Artificial

How to Regulate Artificial Intelligence - The New York Times 09.2017, https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html

Should Artificial Intelligence Be Regulated? – Forbes 08.2017, https://www.forbes.com/sites/quora/2017/08/31/should-artificial-intelligence-be-regulated/#764796a6331d

Inteligência Artificial e Direito

Pedro Freitas, Francisco Andrade, “Agentes de software, intencionalidade e dolo”, in AAVV., Liber Amicorum de Manuel Simas Santos, Rei dos Livros, 2016, pp. 489-512.

Hallevy, G., When robots kill: artificial intelligence under criminal law, Northeastern University Press, 244 pages, Northeastern University Press, 2013.

Pagallo, U., The Laws of Robots: Crimes, Contracts, and Torts, Springer, ISBN 978-94-007-6563-4, 200 pages, 2013.

Brandini Barbagalo E., Contratos Eletrônicos, Editora Saraiva, págs. 48-58, 2001.

Francisco Carneiro Pacheco Andrade, A questão do consentimento na contratação electrónica inter-sistémica inteligente, Scientia Ivridica, Tomo LIV – nº 304, págs. 675-695, Outubro-Dezembro 2005.

Cristiana Teixeira Santos, Francisco Andrade, Paulo Novais, Sinergia na resolução de litígios em linha e a necessidade de proteção da privacidade e dos dados pessoais Revista Democracia Digital e Governo Eletrônico, Brasil, ISSN 2175-9391, Nº 10, pp 341-359, 2014.

Andrade F., Carneiro D., Novais P., A Inteligência Artificial na Resolução de Conflitos em Linha, Scientia Ivridica – Tomo LIX, n.º 321, ISSN: 0870-8185, pp 137-164, 2010.

https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html

https://www.nytimes.com/2017/09/01/opinion/artificial-intelligence-regulations-rules.html

https://www.forbes.com/sites/quora/2017/08/31/should-artificial-intelligence-be-regulated/#764796a6331d

https://www.forbes.com/sites/quora/2017/08/31/should-artificial-intelligence-be-regulated/#764796a6331d

www.sectordigues.org

Inteligência Artificial e Regulação de algoritmos · 2018-10-23 · e de práticas anti...

Documents

Transcript of Inteligência Artificial e Regulação de algoritmos · 2018-10-23 · e de práticas anti...