Maj Inf RAJA ASAD ALI, Exército do Paquistão

Maj Inf RAJA ASAD ALI

INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS

ESCOLA DE COMANDO E ESTADO MAIOR DO EXÉRCITO ESCOLA MARECHAL CASTELLO BRANCO

Maj Inf RAJA ASAD ALI, Exército do Paquistão

Rio de Janeiro 2020

Maj Inf RAJA ASAD ALI

INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS

Trabalho de Conclusão de Curso apresentado à Escola de Comando e Estado-Maior do Exército, como requisito parcial para a obtenção do título de Especialista em Ciências Militares, com ênfase em Defesa.

Orientador: Ten Cel Inf Fábio Gomes Barbosa

Rio de Janeiro 2020

Maj Inf RAJA ASAD ALI, Exército do Paquistão

INTELIGÊNCIA ARTIFICIAL: IMPLICAÇÕES NA SEGURANÇA NACIONAL E DESAFIOS JURÍDICOS

Trabalho de Conclusão de Curso apresentado à Escola de Comando e Estado-Maior do Exército, como requisito parcial para a obtenção do título de Especialista em Ciências Militares.

Aprovado em ____de outubro de 2020.

COMISSÃO AVALIADORA

_________________________________________________ Fábio Gomes Barbosa – Ten Cel Inf - Presidente Escola de Comando e Estado-Maior do Exército

_________________________________________________ Orlando Mattos Sparta de Souza – Ten Cel Inf - Membro

Escola de Comando e Estado-Maior do Exército

_________________________________________________ Murilo da Silveira Guerra – Ten Cel Int - Membro Escola de Comando e Estado-Maior do Exército

R138H Asad Ali, Raja Inteligência artificial: implicações na segurança nacional e desafios jurídicos. / Raja Asad Ali. 一2020.

24 fl. : il ; 30 cm.

Orientação: Fabio Gomes Barbosa Trabalho de Conclusão de Curso (Especialização em Ciências Militares)一Escola de Comando e Estado-Maior do Exército, Rio de Janeiro, 2020. Bibliografia: fl 22 - 24.

1. EVOLUÇÃO DA TECNOLOGIA FUTURÍSTICA INTELIGENTE. 2. IMPLICAÇÕES PARA GUERRAS FUTURAS. 3. REGRA E ÉTICA QUE REGEM A TECNOLOGIA INTELIGENTE I. Título.

CDD 355.4

AGRADECIMENTOS

Ao Tenente-Coronel FÁBIO GOMES BARBOSA, não só pela orientação firme e segura,

como também, pelo incentivo e pela confiança evidenciada em várias oportunidades. Sua

dedicação se revestiu de capital importância para que eu pudesse realizar o trabalho com

tranquilidade e eficiência.

Meu padrinho Maj Infantaria VITOR GONÇALVES LOUREIRO pelo constante apoio e

motivação durante o curso, em todos os aspectos profissionais e não profissionais.

A minha mãe e pai, pelo empenho dedicado em minha formação e educação. Seus exemplos

e valores estão presentes em qualquer sucesso obtido.

Ao Exército do Paquistão pela confiança confiada a mim para fazer o Curso de Comando e

Estado-Maior no Brasil, na Escola de Comando e Estado-Maior de Exército, Escola Marechal

Castello Branco, Rio de Janeiro.

A Deus, pela proteção e orientação recebidas, principalmente nos momentos mais difíceis.

Pela força necessária que recebi para resolver os problemas apresentados.

“Com fé, disciplina e dedicação altruísta ao dever, não há nada que vale a pena que você não consiga alcançar.” (Muhammad Ali Jinnah, Fundador do Paquistão)

RESUMO

A Inteligência Artificial (IA) entrou na vida cotidiana. Hoje, vê-se de carros automatizados a suporte on-line por telefone e drones para muitos setores como saúde, educação, agricultura, comércio eletrônico, guerra, finanças etc. O mundo está fazendo uma transição do controle humano para um controle mais tecnológico e inteligente e qualquer nação que não se adaptar rapidamente perderá o “trem” do desenvolvimento. A inteligência artificial e a robótica têm enorme potencial positivo e estão sendo usadas para aumentar a produção. A inteligência artificial (IA) está afetando a vida em todos os setores, incluindo saúde, educação, agricultura, comércio eletrônico, finanças e guerra etc. No entanto, o funcionamento dos robôs cognitivos / inteligência artificial está causando novos problemas e desafios, mudanças sociais e criando desafios sem precedentes relacionados a todos os aspectos, incluindo segurança e privacidade, perda de empregos, etc. Um problema muito sério são as máquinas armadas, como os drones que matam seres humanos. Esse novo paradigma deu origem a novos desafios no mundo global. No momento, não existe nenhuma lei / convenção internacional para governar a Inteligência Artificial (IA) / Robótica e seus desafios éticos, regulatórios e legais. Alguns princípios éticos e desafios chave a serem considerados incluem; princípio de responsabilidade; dignidade humana; privacidade; autonomia; transparência; Princípio "não prejudique", justiça etc. As partes interessadas em todos os estratos da sociedade estão ponderando sobre a natureza e a extensão das estruturas legais e regulatórias. É de imensa importância que seja urgentemente estabelecido um novo regime jurídico internacional que garanta a soberania das Nações e a privacidade do público a todo custo. Este artigo avalia e analisa a situação atual em relação à Inteligência Artificial (IA) e seus desafios éticos e legais, especialmente no domínio tarifário das Nações Unidas. O documento também destaca algumas áreas-chave a serem abordadas no novo sistema ético e jurídico para regular esse setor mais importante, que fará parte do nosso dia a dia muito em breve.

Palavras-chave: Evolução da tecnologia futurística inteligente; Implicações para guerras

futuras; Regra e ética que regem a tecnologia inteligente.

ABSTRACT

Artificial Intelligence (AI) has become part of our everyday life. The world is making a transition from human control to more technological and intelligent control and any nation that does not adapt quickly will miss the “train” of development. Artificial intelligence and robotics have enormous positive potential and are being used to increase production. Artificial intelligence (AI) is affecting life in all sectors, including health, education, agriculture, e-commerce, finance and war etc. However, the functioning of cognitive / artificial intelligence robots is causing new problems and challenges, social changes and creating unprecedented challenges related various aspects, including security and privacy, job losses, etc. The most serious issue is concerning the armed machines that has the capability to kill. This new paradigm has given rise to new challenges in the global world. At the moment, there is no or vague international law / convention to govern Artificial Intelligence (AI) / Robotics and its ethical, regulatory and legal challenges. Some ethical principles and key challenges to be considered includes; principle of responsibility; human dignity; privacy; autonomy; transparency etc. Stakeholders in all strata of society are pondering the nature and extent of legal and regulatory structures. It is of immense importance that a new international legal regime is urgently established to guarantee the sovereignty of nations and the privacy of the public at all costs.This article assesses and analyzes the current situation in relation to Artificial Intelligence (AI) and its ethical and legal challenges, especially in the United Nations tariff domain. The document also highlights some key areas to be addressed in the new ethical and legal system to regulate this most important sector, which will be part of our daily lives very soon. Keywords: Evolution of smart futuristic technology; Implications for future wars; Rule and

ethics governing smart technology.

SUMÁRIO

1 INTRODUÇÃO ........................................................................................................ 9

1.1 PROBLEMA .......................................................................................................... 9

1.2 OBJETIVOS ....................................................................................................... 10

1.2.1 Objetivo Geral .................................................................................................. 10

1.3 DELIMITAÇÃO DO ESTUDO ............................................................................. 11

1.4 RELEVÂNCIA DO ESTUDO ............................................................................... 11

2 REFERENCIAL TEÓRICO .................................................................................... 11

2.1 O QUE É INTELIGÊNCIA ARTIFICIAL ............................................................... 12

2.2 EVOLUÇÃO DA INTELIGÊNCIA ARTIFICIAL AI ............................................... 12

2.3 INTELIGÊNCIA ARTIFICIAL - RAMOS PRINCIPAIS ......................................... 13

3 METODOLOGIA DE PESQUISA ........................................................................... 13

3.1 TIPO DE PESQUISA .......................................................................................... 13

3.2 UNIVERSO E AMOSTRA ................................................................................... 13

3.3 COLETA DE DADOS .......................................................................................... 14

3.4 TRATAMENTO DOS DADOS ............................................................................ 14

3.5 LIMITAÇÕES DO MÉTODO ............................................................................... 14

4 IMPLICAÇÕES SOBRE SEGURANÇA EM VÁRIOS DOMÍNIOS ......................... 14

4.1 IA NA CONSTRUÇÃO DA PAZ E SEGURANÇA ............................................... 15

4.2 EDUCAÇÃO ....................................................................................................... 16

5 REGULAMENTO JURÍDICO E ÉTICO .................................................................. 18

5.1 LEIS INTERNACIONAIS E DESENVOLVIMENTOS .......................................... 19

5.2 DESAFIOS ÉTICOS ........................................................................................... 19

6 CONCLUSÃO ...........................................................................................................20

REFERÊNCIA .................................................. ERRO! INDICADOR NÃO DEFINIDO.

9

1 INTRODUÇÃO

O mundo está fazendo uma transição monumental, pela primeira vez, da tecnologia

controlada pelo homem para uma mais inteligente e dotada da capacidade de

autoaprendizagem, no que veio a ser chamado de quarta Revolução Industria (SCHWAB,

2016).

A Inteligência Artificial (IA) entrou no cotidiano desde carros automatizados da Tesla,

assistentes on line no telefone até drones customizados para um grande número de setores,

tais como: saúde, educação, agricultura, e-commerce, finanças etc.

Qualquer nação que não se adaptar rapidamente, pagará caro pela falta do

conhecimento. A conta pode ser ainda maior que aquela paga pelos que perderam a primeira

revolução industrial.

A Inteligência Artificial e a robótica têm um enorme potencial positivo e, embora

estejam sendo usadas para aumentar a produção e para serviços sociais e domésticos, o

funcionamento dos robôs cognitivos / Inteligência Artificial está causando mudanças sociais

e criando desafios sem precedentes, relacionados a todos os aspectos, incluindo segurança

e privacidade.

Dentre estes aspectos, o número de humanos ficando desempregados e o emprego

de máquinas armadas, como os drones, matando seres humanos têm sido os mais

polêmicos. De fato, o mundo enfrenta uma situação de Catch-22 1sobre como salvaguardar

os valores humanos e abraçar esse avanço tecnológico útil e inevitável.

Este artigo avalia e analisa a situação atual em relação à Inteligência Artificial (IA) e

seus desafios legais e éticos, especialmente no domínio do direito das Nações Unidas.

Também dá uma breve visão geral dos recentes desenvolvimentos na governança da IA,

como está sendo definida a agenda para a definição da regulação da IA, os quadros éticos

e as abordagens técnicas, bem como algumas sugestões concretas para promover o debate

sobre a governança da IA.

1.1 PROBLEMA

As leis que regem a Inteligência Artificial ainda são aguardadas. O novo arcabouço

ético, regulatório e legal deve abordar muitas questões fundamentais, incluindo

1 Frase que foi idiomatizada como uma situação sem saída, uma armadilha, no livro de Joseph Heller na obra “Catch-22”, onde o autor relata o dilema enfrentado por pilotos de B-25 no final da Segunda Guerra Mundial.

10

responsabilidade primária e nível de tomada de decisão delegada às máquinas de IA etc.

Esta temática tem sido discutida na Comissão dos Assuntos Jurídicos do Parlamento

Europeu.

Esse novo paradigma deu origem a novos desafios, principalmente em um mundo

global. Atualmente, não existe Direito Internacional/convenção para governar a Inteligência

Artificial (IA)/Robótica. Alguns princípios éticos fundamentais e desafios a considerar

incluem: princípio de responsabilidade; dignidade humana; privacidade; autonomia;

transparência; Princípio de “não prejudicar”, justiça etc.

A maioria dos países não tem os quadros legais necessários para a IA em seu nível

nacional. Muitas das Corporações Multinacionais (MNCs) estão atualmente elaborando seus

próprios códigos para regular isso, por exemplo, robôs ou regras de carros sem motorista

em caso de acidentes. No entanto, as questões como licença não são decididas. As partes

interessadas em todos os estratos da sociedade estão ponderando sobre a natureza e a

extensão dos marcos legais e regulatórios.

Dado o exposto, este trabalho buscará responder o seguinte questionamento: Como

a comunidade global e as Nações Unidas estão lidando com a adequação do arcabouço

ético, legal e regulatório requerido pela Inteligência Artificial/robótica?

1.2 OBJETIVOS 1.2.1 Objetivo Geral

Este estudo tem como objetivo esclarecer pontos cruciais a sobre aspectos éticos da

Inteligência Artificial (IA), tais como: o mapeamento dos esforços globais; os aspectos éticos,

regulatórios e legais das tecnologias de IA.

1.2.2 Objetivos Específicos

a. Quais são os principais debates acadêmicos sobre ética da Inteligência Artificial

(IA)?

b. Quais são os diversos tipos e categorias de Inteligência Artificial (IA) e robótica

que precisam ter código ético?

c. Que esforços foram feitos para regular a IA até agora?

d. Quais devem ser os contornos do Direito Internacional para fornecer um código

de ética e regulação viável à Inteligência Artificial (IA)?

e. Qual é o potencial no Futuro para a Inteligência Artificial.

11

1.3 DELIMITAÇÃO DO ESTUDO

Os marcos teóricos utilizados são principalmente as leis e princípios internacionais de

direitos humanos, estudos de caso e modelos, que tratam dos princípios éticos globais

acordados, sociedade, direitos e responsabilidades, que tratam dos aspectos filosóficos que

afetam diretamente essa pesquisa.

1.4 RELEVÂNCIA DO ESTUDO

Este estudo tem muito significado porque a maioria das pesquisas anteriores acerca

do assunto teve foco estreito em aspectos técnicos da Inteligência Artificial, ou seus desafios,

deixando de lado aspectos éticos e jurídicos acerca desse novo desafio que se mostra uma

realidade para o futuro próximo.

Tais áreas são fundamentais para a compreensão e regulação desse novo sistema

ético e jurídico que fará parte do nosso cotidiano muito em breve, sendo de valor significativo

para os tomadores de decisão, formuladores de políticas, governos, acadêmicos e outras

partes interessadas para entender e abordar esse campo complexo e relativamente novo,

que não pode ser negligenciado.

Este estudo fornecerá novos insights através da investigação da literatura disponível

com esforços para destacar a complexidade das questões éticas que precisam ser

abordadas, e, uma vez que o Direito Internacional/convenção existe para governar a

Inteligência Artificial (IA)/Robótica, quais são os esforços que estão sendo feitos e que tipo

de mecanismo regulatório/marco legal os países têm que desenvolver.

2 REFERENCIAL TEÓRICO

Os referenciais teóricos utilizados são principalmente como leis e princípios

internacionais de direitos humanos, estudos de caso e modelos, que tratam dos princípios

éticos globais acordados, da sociedade, dos direitos e responsabilidades que tratam dos

aspectos filosóficos que estão diretamente relacionados a esta pesquisa. No campo da

ciência cptr, o int artificial (AI), às vezes chamado de inteligência de máquina, é demonstrado

por máquinas, em contraste com o int natural exibido por humanos e outros animais. A história da Artificial Int (AI) começou na antiguidade, com mitos, histórias e rumores

deseres artificiais dotados de int ou consciência por mestres artesãos. Homens mecânicos

12

e seres artificiais aparecem nos mitos gregos, como os robôs dourados de Hefesto e a

Galatéia de Pigmalião, até uma dica muito séria dada no Alcorão, “E quando chegar a hora

de executar o Nosso comando (de tormento) contra eles, traremos da terra para eles uma

besta que conversará com eles, porque as pessoas não têm certeza em Nossos sinais”

2.1 O QUE É INTELIGÊNCIA ARTIFICIAL

A inteligência artificial (IA) pode ser definida como uma área da ciência da

computação que lida com a criação de máquinas inteligentes, que funcionam e reagem como

seres humanos (WEST, 2018). Outra definição, mais comum, é a simulação de processos

de inteligência humana por máquinas, especialmente sistemas de computador. Esses

processos incluem aprendizado (aquisição de informações e regras para o uso das

informações), raciocínio (uso de regras para chegar a conclusões aproximadas ou definidas)

e autocorreção.

2.2 EVOLUÇÃO DA INTELIGÊNCIA ARTIFICIAL

Em 1950, o termo AI foi usado por Alan Turing, matemático do Reino Unido. Ele

publicou seu artigo intitulado "Computing Machinery & Intelligence", que é visto como um

estudo pioneiro nesse novo campo, chamado Inteligência Artificial (POLK, 2017).

Em 1952, Arthur Samuel desenvolveu o primeiro programa de computador capaz de

aprender por si próprio - programa de jogo de damas.

O termo "Inteligência Artificial" ganhou popularidade em 1956, quando John McCarthy

realizou um seminário. McCarthy desenvolveu a linguagem de programação LISP para criar

os programas de IA em 1958.

O primeiro robô industrial foi empregado pela General Motors, em 1961, para a linha

de montagem de veículos. A Universidade de Stanford, em 1972, desenvolveu um sistema

especialista para bactérias causadoras de infecções e seus antibióticos sugeridos. O

primeiro carro sem motorista apareceu em Munique em 1986, fabricado pela Mercedes Benz

(WIKIWAND, 2019).

Uma inovação eminente veio na forma do xadrez Deep Blue, um programa da IBM

que ficou famoso ao vencer o então campeão mundial de xadrez, Gary Kasparov, em 1997.

Com mais desenvolvimentos, a North-Western University EUA desenvolveu um programa

de IA capaz de escrever notícias esportivas, sem nenhum envolvimento humano. Em 2011,

13

um programa de IA venceu dois campeões do jogo Jeopardy (MARKOFF, 2011). Desde

então, a IA desenvolveu variedades e revolucionou quase todos os campos do mundo. 2.3 INTELIGÊNCIA ARTIFICIAL - RAMOS PRINCIPAIS

a. Aprendizado de Máquina

Refere-se à aprendizagem sem supervisão para a identificação de padrões nos fluxos

de dados, ou envolvendo classificação e regressões numéricas.

b. Engenharia do Conhecimento

O ramo da Engenharia do conhecimento refere-se às aplicações que envolvem

campos de bom senso, raciocínio lógico e poder de resolução de problemas.

c. Percepção da Máquina

Está relacionado à capacidade de usar as entradas sensoriais. Por exemplo, a visão

por computador pertence ao poder de analisar entradas visuais, incluindo facial,

objeto ou reconhecimento de gestos.

d. Robótica

A robótica lida com o manuseio de tarefas como manipulação e navegação de objetos

e sub-problemas de localização, planejamento de movimento, mapeamento e etc

(MORAVEC, 2009). 3 METODOLOGIA DE PESQUISA 3.1 TIPO DE PESQUISA

A metodologia de pesquisa qualitativa foi aplicada para encontrar respostas para as

perguntas da pesquisa. A pesquisa é de cunho bibliográfico, uma vez que será baseada em

artigos científicos disponibilizados na base de dados da CAPES.

3.2 UNIVERSO E AMOSTRA

O universo do presente estudo é a Inteligência Artificial (IA) / Robótica. A amostra se

concentrará no campo das leis e princípios internacionais de direitos humanos, nos estudos

de caso e modelos que lidam com princípios éticos, sociedade, direitos e responsabilidades

14

globais acordados, e aqueles que tratam dos aspectos filosóficos que têm relação direta com

esta pesquisa. 3.3 COLETA DE DADOS

A coleta de dados do presente trabalho de conclusão do curso será realizada através

da coleta na literatura especializada, realizando uma pesquisa bibliográfica no site da

CAPES, além de outras fontes bibliográficas de relevo encontradas nas referências dos

artigos selecionados.

3.4 TRATAMENTO DOS DADOS

De acordo com o Departamento de Pesquisa e Pós-Graduação, o método de

tratamento dos dados que foram utilizados no presente estudo se concentrou na análise de

conteúdo, onde foram realizados estudos do material coletado para obtenção da

fundamentação teórica, visando responder a questão apresentada (NETO et al., 2012).

Contempla as técnicas de análise de dados, incluindo importação, exploração,

visualização e aplicação de análise qualitativa para conduzir um estudo abrangente a fim de

tirar conclusões e recomendações.

Identificou e extrair as palavras e expressões mais relevantes em um texto.

Transforme dados não estruturados em percepções qualitativas acionáveis, para derivar

conclusões relativas.

3.5 LIMITAÇÕES DO MÉTODO

Devido à constatação de que existem pesquisas mínimas disponíveis sobre os

aspectos éticos e legais da Inteligência Artificial (IA) e ao tempo curto destinado a elaboração

da pesquisa, aproximadamente oito meses, os resultados refletirão a limitação dos dados

disponíveis. No entanto, por ser um período curto de pesquisa, a coleta de dados em

bibliografia secundária possibilita o ganho de uma visão mais ampla do problema.

4 IMPLICAÇÕES SOBRE SEGURANÇA EM VÁRIOS DOMÍNIOS

A inteligência artificial tem implicações públicas, nacionais e culturais consideráveis.

Pela sua versatilidade, a IA levanta questões de liberdade de expressão, privacidade e

15

vigilância, propriedade de dados, preconceito e discriminação, manipulação de informação

e confiança, relações de poder e impacto ambiental em relação ao seu consumo de energia.

Os sistemas de IA têm implicações para os humanos, pois algoritmos em mídias sociais ou

sites de notícias podem falsificar notícias e produzir desinformação, confundindo os limites

entre "fatos" e "verdade". A partir de agora, discorreremos sobre alguns domínios

importantes da IA.

4.1 IA NA CONSTRUÇÃO DA PAZ E SEGURANÇA

O aumento do armamento da IA para fins militares é uma causa de séria preocupação.

Os dados "físicos" (satélite / vigilância) e "digitais" incluem todos os outros dados

(documentos, mídias sociais, dados sociológicos) são utilizados, permitindo à IA categorizar

dados massivos para identificar ameaças externas e internas - descobrir as estratégias dos

atores , interprete os planos por trás das atividades e sugira ações corretivas, bem como

previsões futuras (CONGATEC, 2020). Tal ferramenta de conscientização situacional

poderia ser um instrumento poderoso para prevenção e resolução de conflitos (HCSS, 2017).

Poderia dar uma visão dos fatores que impulsionam o esforço humano e ajudar a

desradicalização. A "inteligência antecipatória" pode prever inquietação e instabilidade social

e sugerir mitigação. No nível social, a IA pode nos levar a uma sociedade mais resiliente e

nos ajudar a avançar em direção a um mundo mais pacífico e livre de conflitos (COMEST ,

2019).

Do lado negativo, a IA transformará a natureza e a prática do conflito, com um

conseqüente impacto na sociedade que vai muito além de questões estritamente militares

(VALLOR, 2016). Não apenas mudará como a força explosiva é usada aumentando a

eficácia da implantação de sistemas de armas, mas também a IA promete melhorar

drasticamente a velocidade e a precisão de tudo, desde logística militar, inteligência e

consciência situacional até planejamento e execução / operações no campo de batalha. A

velocidade com que tais ferramentas de planejamento poderiam operar aumentaria a

capacidade de agir em situações de mudanças rápidas. Mas exemplos anteriores de avisos

enganosos sobre máquinas na guerra fria foram rejeitados pelo comandante humano no

local, evitando a 3ª Guerra Mundial e o apocalipse nuclear.

Existe a possibilidade de que a máquina de tomada de decisões auxiliada por IA

implemente suas próprias decisões de ataque e morte sem intervenção humana - por

exemplo, uma arma totalmente autônoma. Enquanto a IA pode ser considerada uma

revolução nos assuntos militares que permite às forças armadas realizar tarefas delicadas e

16

difíceis com precisão e sem interferência humana. Seu verdadeiro "potencial revolucionário

é transformar o conceito de" forças armadas em aquelas cujas armas são mais sutis do que

explosivas. Já estamos vendo isso no recurso de ataque de contexto cibernético (BIRD,

2020).

4.2 EDUCAÇÃO

A Inteligência Artificial requer um repensar do papel social da educação. A educação

deve capacitar os cidadãos a desenvolver novas formas de pensamento crítico, incluindo

“consciência de algoritmo (HAMILTON, 2014) e impacto da IA na informação, conhecimento

e tomada de decisão. A velocidade de mudança que a IA está trazendo apresenta muitos

desafios sem precedentes. Será necessária uma reeducação sobre IA moderna, para evitar

o analfabetismo digital. A educação formal tradicional será inadequada, uma vez que se

concentrou em letramentos formais como leitura, escrita e matemática. Os recursos

educacionais abertos (REA) (HYLEN, 2015) são de grande valor para a aprendizagem. Mas

encontrar o material relevante a partir de dados massivos é um grande problema. A IA pode

ajudar os alunos iniciantes com um conteúdo adequado às necessidades do aluno a partir

de enormes recursos de REA.

4.2.1 Conhecimento Científico

A IA afeta nossa aplicação de conhecimento científico quando justaposta em

contextos sociais. AI está em uma posição estratégica com seu aprendizado profundo

desafiando com sucesso as práticas científicas contemporâneas. Isso obviamente afetará

pesquisas futuras.

4.2.2 Ciências da Vida e Saúde

Tecnologias de IA como cirurgia robótica, aplicativos de diagnóstico de autoajuda

como IBM Watson, chatbots que fornecem ajuda psicológica, robôs de saúde para idosos e

facilitam a entrada de dados são de imenso benefício para a humanidade - ajudando os

pacientes e reduzindo a carga sobre os médicos. No entanto, eles perdem elementos de

cuidado humano, causam isolamento social e têm problemas como privacidade de dados,

17

automedicação e afetam a relação médico-paciente. Levanta questões filosóficas como “O

que é humano”. Portanto, é necessária uma regulação equilibrada com autonomia.

4.2.3 Ciência Ambiental

AI tem grandes benefícios em meio ambiente, ciência agrícola e gerenciamento de

risco de desastres, por meio do processamento de dados e aplicação e interpretação. Pode

ajudar a melhorar a conservação, a reciclagem, o consumo eficiente de energia, a melhoria

da produção agrícola, o bem-estar do gado, a proteção contra inundações, etc.

4.2.4 Tomada de decisão baseada em IA

A tomada de decisão baseada em IA está sendo usada cada vez mais. Isso afeta

muitas áreas, como o sistema judicial. No entanto, a decisão baseada em IA pode nem

sempre ser justa ou apropriada. Portanto, recomenda-se cautela ao implementar o papel

humano embutido nele.

4.2.5 Língua

Em traduções baseadas em IA de idiomas formais, as palavras podem ter significados

alterados e contexto em vários idiomas. Portanto, existe o risco de mal-entendidos e perda

de qualidade. A tradução automática e o armazenamento de idiomas são a vantagem da IA.

Na Austrália, o Centro de Excelência para a Dinâmica da Linguagem ARC registrou 50.000

horas de palavra falada, o que levaria 2 milhões de horas manualmente (O’BRIEN, 2018).

4.2.6 Comunicação

O jornalismo baseado em algoritmo e automatizado, bem como as notícias de mídia

social, podem ter um viés inerente. Isso afeta o direito de acesso à informação gratuita. A IA

pode espalhar informações ou notícias falsas, como o escândalo Cambridge Analytica

(JAKE, 2019), em que conteúdo manipulador, politicamente tendencioso e fabricado foi

usado para atingir constituintes específicos. A presença de pontos de vista livres e diversos

é importante para qualquer sociedade aberta. Pode levar a grupos de opinião

18

homogeneizados, que são antagônicos a outros grupos de opinião. A filtragem ou censura

por meio de IA também é um problema sério.

4.2.7 Igualdade De Gênero

Os sistemas de IA são construídos usando conjuntos de dados que refletem o mundo

real - um mundo que pode ser falho, injusto e discriminatório (MCKINSEY GLOBAL

INSTITUTE, 2019). Isso pode afetar a igualdade de gênero. Uma ferramenta de contratação

usada pela Amazon foi considerada sexista, pois priorizou candidatos do sexo masculino

para empregos técnicos (DASTIN, 2018). A aplicação de dados desagregados por gênero

no algoritmo de IA é importante.

5 REGULAMENTO JURÍDICO E ÉTICO

A Inteligência Artificial apresenta desafios sem precedentes nos domínios judiciário e

ético. A Assembleia Parlamentar do Conselho da Europa (PACE) conduziu um importante

trabalho sobre 'Direitos humanos na era do robô', com foco em: segurança, liberdade de

expressão, respeito pela privacidade, propriedade, dignidade humana, responsabilidade,

acesso a um julgamento livre e justo. Alguns novos direitos humanos foram destacados com

foco especial na proteção de dados pessoais, preferências e atividades de rastreamento

(TURNER, 2018). É essencial que as tecnologias de IA sejam desenvolvidas com padrões

éticos claros para que respeitem a dignidade / direitos humanos. Não havia uma estrutura

ética internacional formal relacionada a todas as aplicações e inovações em IA. Regras e

padrões precisam ser simplificados, já que as tecnologias de IA não são neutras, mas

inerentemente tendenciosas devido aos dados nos quais são treinados e às escolhas feitas

durante o treinamento nos dados e, além disso, a tomada de decisão da máquina de IA é

imprevisível.

Isso desafia o desenvolvimento de tecnologias de IA relacionados aos preconceitos

embutidos em algoritmos, incluindo preconceitos de gênero, a proteção da privacidade das

pessoas e dados pessoais, os riscos de criar novas formas de exclusão e desigualdades, as

questões de distribuição justa de benefícios e riscos, responsabilização, responsabilidade,

19

impactos no emprego e no futuro do trabalho, dignidade e direitos humanos, segurança e

riscos da dupla utilização (UNESCO, 2019).

Por causa das implicações sociais, muitas instituições e governos estão preocupados

com as implicações éticas da IA. Há uma série de relatórios e diretrizes sobre IA e ética -

como os do Conselho da Europa, da Comissão Europeia, do Instituto de Engenheiros

Elétricos e Eletrônicos (IEEE), da Organização para Cooperação e Desenvolvimento

Econômico (OCDE), a União Internacional de Telecomunicações (UIT) e a Organização

Mundial da Saúde (OMS) - que identificaram princípios importantes para o desenvolvimento

e implantação da IA (AMENSETY INTERNATIONAL, 2018).

A Inteligência Artificial desempenha um papel cada vez mais importante no

processamento, estruturação e fornecimento de informações, e é necessária atenção para

novas divisões digitais entre países e dentro de diferentes grupos sociais. A IA deve

fortalecer a liberdade de expressão, o acesso universal à informação, a qualidade do

jornalismo e a mídia livre, independente e pluralista, evitando a difusão de desinformação.

5.1 LEIS INTERNACIONAIS E DESENVOLVIMENTOS

O novo instrumento de definição de leis/padrões internacionais deve fornecer um

mecanismo global para incorporar valores e direitos éticos humanos universais em sistemas

de IA, compatível e alinhado com a visão centrada no ser humano. O recente aumento nas

declarações de princípios éticos sobre IA é um bom desenvolvimento:

a) A Declaração de Toronto (EUROPEAN COMMISION, 2019): Protegendo o direito

à igualdade e à não discriminação em sistemas de aprendizado de máquina.

b) Diretrizes de ética para IA confiável do Grupo de especialistas de alto nível em IA

da Comissão Europeia (IEEE, 2019).

c) O IEEE (HERRLE, 2019) Ethically Aligned Design: uma visão para priorizar o bem-

estar humano com sistemas autônomos e inteligentes, com foco em engenheiros.

d) O movimento de regulamentação digital da União Europeia com o objetivo de

proteger os dados pessoais precisa ser aprimorado (AVWM, 2019).

5.2 DESAFIOS ÉTICOS

Com as experiências realistas de autonomia de IA e robôs, uma questão fundamental

surgiu a respeito da responsabilidade legal e ética pela conduta de máquinas de IA. Os

20

precedentes anteriores colocavam a responsabilidade do animal de estimação nos

proprietários (RODRIGUEZ, 2019). O mesmo princípio está em jogo aqui. ‘Ética da máquina’

é a disciplina emergente, com o objetivo de lidar com questões morais. Isso envolve a

instalação de máquinas de IA com dados para funcionar de acordo com os princípios éticos.

Outra questão no futuro será o status aprimorado e/ou respeito das máquinas/robôs de IA,

e eles poderiam ser tratados como indivíduos quando se desenvolvem no domínio cognitivo

e demonstram comportamento moral e ético.

Para sistemas determinísticos do tipo AI, o programa e o programador controlam suas

ações, com clara responsabilidade pelas ações (ROUSE, 2018). Em tais casos, os

instrumentos legais podem ser usados para regulá-los. Considerando que, para sistemas

cognitivos do tipo AI, as decisões e ações de uma máquina de AI são aleatórias e

imprevisíveis, com estimativa estatística parcial. Portanto, é um problema sério o como

atribuir responsabilidades. Portanto, códigos e diretrizes éticas são exigidos tanto para

fornecedores quanto para usuários finais, além das leis.

Áreas críticas quando as máquinas de IA são capazes de causar danos, por exemplo,

robôs ou armas de soldados, ou mesmo carros autônomos. Em tais casos, é importante que

o controle humano ainda esteja no papel principal, e a autonomia dada à IA deve ser limitada.

Portanto, o princípio abrangente deve ser a responsabilidade humana (DIGNUM, 2019).

6 CONCLUSÃO

As tecnologias de IA devem ser introduzidas cuidadosamente em um ambiente

controlado e em menor escala. A produção em massa e a exposição ao público em geral só

devem ser realizadas após a formalização do código de conduta e ética . Isso deve informar

o processo de formulação de políticas e códigos de ética da AI.

Códigos de ética da AI a devem ser incluídos no currículo de áreas profissionais como

engenharia, medicina, ciências físicas e outros ramos semelhantes, em coordenação com

Ministério da Ciência.

Os efeitos da IA em humanos devem ser analisados anualmente. Os efeitos podem incluir

perda de empregos, seu impacto social e questões de privacidade. Após o que as medidas

necessárias e a correção podem ser tomadas. Devem ser buscadas medidas atenuantes e

oportunidades de emprego alternativas. Além disso, se um determinado sistema de IA está

causando mais danos do que benefícios, ele deve ser retirado do mercado / uso público.

21

O controle humano sobre as armas autônomas não é negociável. As diretrizes do

CICV precisam ser seguidas.

Para veículos autônomos com direção autônoma, que operam com aprendizado de

máquina, a responsabilidade deve permanecer com um humano (motorista).

O Direito Internacional Humanitário precisa ser atualizado para lidar e controlar as

questões éticas relacionadas ao uso de robôs armados ou drones. O operador não deve ser

autorizado a utilizá-los sem um órgão superior para autorizar o seu uso em cada ocasião.

Não é apenas um princípio legal, mas também moral, quando a IA tira uma vida humana

preciosa.

As leis devem ser aprovadas contra todas as agências que coletam e compilam dados

pessoais dos usuários para fins comerciais, políticos ou outros fins nas redes sociais /

internet.

O Código de Ética para Inteligência Artificial deve ser desenvolvido pelas Nações

Unidas e, como um documento vivo, deve ser atualizado regularmente, visto que a tecnologia

está avançando muito rapidamente.

A IA potencialmente representa muitos riscos para os direitos humanos, como por

exemplo saúde, educação, agricultura, comércio eletrônico, finanças e guerra, etc. No

entanto, se gerida e controlada de forma adequada, pode beneficiar substancialmente os

humanos também. O funcionamento de robôs cognitivos / Inteligência Artificial está

causando novos problemas e desafios, mudanças sociais e criando questões sem

precedentes relacionadas a todos os aspectos, incluindo segurança e privacidade. É

importante que o regime jurídico internacional crie ferramentas e estrutura legal para verificar

e controlar as questões éticas e legais que a IA está causando e realizar correções a fim de

torná-la uma ferramenta mais útil para a humanidade.

REFERÊNCIA

22

Schwab, Klaus. The Fourth Industrial Revolution: what it means and how to respond. 2016. Disponível em: https://www.weforum.org/agenda/2016/01/the-fourth-industrial-revolution-what-it-means . Acessado em: 11 setembro 2020.

West, Darrell. How artificial intelligence is transforming the world. Disponível em: https://www.brookings.edu/research/how-artificial-intelligence-is-transforming-the-world/ Acessado em: 27 Outubro 2020.

Polk, Ryan. Artificial Intelligence & Machine Learning: Policy Paper | Internet Society. Disponível em: https://www.internetsociety.org/resources/doc/2017/artificial-intelligence-and-machine-learning-policy-paper/?gclid Acessado em: 26 out 2020.

Markoff, John. On ‘Jeopardy!’ Watson Win Is All but Trivial - The New York Times. Disponível em: <https://www.nytimes.com/2011/02/17/science/17jeopardy-watson.html>. Acessado em: 29 out 2020.

Moravec, Hans. Rise of the Robots--The Future of Artificial Intelligence - Scientific American. Disponível em: <https://www.scientificamerican.com/article/rise-of-the-robots/>. Acessado em: 27 out 2020.

CONGATEC. New state-of-the-art Computer-on-Modules - Military Embedded Systems. Disponível em: <https://militaryembedded.com/radar-ew/rugged-computing/new-state-of-the-art-computer-on-modules>. Acesso em: 27 Outubro 2020.

HCSS. Artificial Intelligence And The Future Of Defense Strategic Implications For Small-And Medium-Sized Force Providers. 2017. Disponível em: https://hcss.nl/sites/default/files/files/reports Acessado em: 20 setembro 2020.

COMEST. AI ethics. Disponível em: https://en.unesco.org/themes/ethics-science-and-technology/comest . Acessado em: 26 setembro 2020.

Vallor, Shannon. Technology and the Virtues: Oxford University Press, 2016. Disponível em: https://oxford.universitypressscholarship.com/view/10.1093/acprof:oso1. Acessado em: 27 setembro 2020.

Bird, Eleanor. The ethics of artificial intelligence: Issues and initiatives. 2020. Disponível em: http://www.europarl.europa.eu/thinktank . Acessado em: 28 setembro 2020.

Hamilton, Kevin. A Path to Understanding the Effects of Algorithm Awareness. 2014. Disponível em: http://dx.doi.org/10.1145/2559206.2578883 . Acessado em: 11 Outubro 2020.

Hylen, Jan. Opportunities and challenges Education Analytics in Stockholm. 2015. Disponível em: http://www.okfn.org Acessado em: 27 Outubro 2020.

23

O’Brien, Abbie. How AI is helping preserve Indigenous languages. Disponível em: https://www.sbs.com.au/news/how-ai-is-helping-preserve-indigenous-languages . Acessado em: 3 Outubro 2020.

Mckinsey Global Institute. Artificial Intelligence The Next Digital Frontier. 2017. Disponível em: https://www.mckinsey.com/~/media/mckinsey/industries/advanced%20electronic . Acessado em: 3 Outubro 2020.

Dastin, Jeffrey. Amazon scraps secret AI recruiting tool that showed bias against women | Reuters. 2018 . Disponível em: https://www.reuters.com/article/us-amazon-com-jobs-automation-insight-idUSKCN1MK08G . Acessado em: 27 Outubro 2020.

Turner, Jacob. Robot rules: Regulating artificial intelligence. 2018. . Disponível em:

https://books.google.com.br/books?hl=pt BR&lr=&id=moB1DwAAQBAJ&oi, . Acessado em:

6 Outubro 2020.

UNESCO. Towards an Ethics of Artificial Intelligence . 2019. Disponível em: https://www.un.org/en/chronicle/article/towards-ethics-artificial-intelligence . Acessado em: 27 Outubro 2020. Amnesty International. The Toronto Declaration: Protecting the rights to equality and non-discrimination in machine learning systems. Disponível em: https://www.accessnow.org/the-toronto-declaration-protecting-the-rights-to-equality-and-non-discrimination-in-machine-learning-systems/ Acessado em: 7 Outubro 2020. European Commision. Ethics guidelines for trustworthy AI | Shaping Europe’s digital future. Disponível em: https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai . Acessado em: 7 Outubro2020.

Herrle, Jeanette. The Peril and Potential of the GDPR | Centre for International Governance Innovation. 2019. Disponível em: https://www.cigionline.org/articles/peril-and-potential-gdpr . Acessado em: 27 Outubro 2020.

AVWM. Guidelines for Responsible Pet Ownership | American Veterinary Medical Association. 2019. Disponível em: <https://www.avma.org/resources-tools/avma-policies/guidelines-responsible-pet-ownership>. Acessado em: 7 Outubro 2020.

Rodriguez, Jesus. Seven Key Dimensions to Help You Understand Artificial Intelligence Environments. Disponível em: https://www.kdnuggets.com/2019/07/seven-key-dimensions-understand-artificial-intelligence-environments.html . Acessado em: 7 Outubro 2020.

24

ROUSE, Margaret. What is cognitive computing? - Definition from WhatIs.com. 2018. Disponível em: <https://searchenterpriseai.techtarget.com/definition/cognitive-computing>. Acessado em: 7 Outubro 2020.

Dignum, Virginia. Responsible Artificial Intelligence: Ethical Thinking by and about AI. 2019. Disponível em: https://books.google.com.br/books?hl=pt-BR&lr=&id=EEO8DwAAQBAJ&oi=fnd&pg=PR5&dq=Dignum,+Virginia.+Responsible+Artificial+Intelligence:+Ethical . Acessado em: 7 Outubro 2020.