Drones

Por que a sociedade não se posiciona contra os robôs assassinos?

Máquinas que matam humanos

A realidade encontrou a ficção cara a cara no campo da robótica.

Contudo, além do encontro estar passando despercebido pela sociedade, a robótica parece ter chegado de forma menos controlada do que a ficção previra.

Na ficção, conforme preconizado por Isaac Asimov, as máquinas estavam sujeitas às Três Leis da Robótica:

•1ª: um robô não pode fazer mal a um ser humano e nem, por omissão, permitir que algum mal lhe aconteça.

•2ª: um robô deve obedecer às ordens dos seres humanos, exceto quando estas contrariarem a Primeira Lei.

•3ª: um robô deve proteger a sua integridade física, desde que, com isto, não contrarie a Primeira e a Segunda leis.

Na realidade, enquanto alguns criam robôs que ajudem paraplégicos a recuperar seus movimentos e explorar outros planetas, os primeiros produtos a chegar ao mercado visam, ao contrário, ferir e matar.

O problema atingiu proporções que chamaram a atenção da ONU (Organização das Nações Unidos), que, sem maiores divulgações, reuniu-se para discutir a "ética" dos robôs assassinos pela primeira vez.

Pesquisadores, especialistas em robótica e até ex-comandantes militares reuniram-se em Genebra, na Suíça, para falar sobre os recentes avanços em "armas letais autônomas", um eufemismo para robôs assassinos ou armas robotizadas.

Os tópicos incluíram as questões éticas envolvidas e quais leis estão sendo afetadas ou eventualmente desobedecidas pelas máquinas de matar que, percebidas ou não, já estão em operação.

Os resultados da discussão só serão conhecidos em Novembro, quando o grupo que dirigiu os trabalhos vai apresentar seu relatório oficial.

Robôs assassinos

O risco dos robôs assassinos não é mais uma ameaça hipotética.

A Rússia acaba de equipar suas bases de mísseis com robôs armados que podem atirar em qualquer invasor - ou humano desavisado - de forma autônoma.

Enquanto isso, uma empresa na África do Sul começou a vender robôs para combater manifestações da sociedade civil, citando sobretudo as greves, um direito constitucional em virtualmente todos os países do mundo.

De acordo com uma pesquisa da ONU, civis foram mortos em 33 ataques com drones ao redor do mundo. No Paquistão, de 2.200 a 3.300 pessoas foram mortas por ataques de drones norte-americanos desde 2004, 400 dos quais eram civis. De acordo com os últimos dados do Ministério da Defesa do Paquistão, 67 civis foram mortos em ataques de drones no país desde 2008.

Em 2006, o Japão decidiu adotar a primeira lei de Asimov, argumentando que ainda não seria realístico dar atenção às outras duas.

Mas os fatos mostram que já não é mais suficiente confiar em humanos responsáveis para fazer robôs responsáveis.

"Não é mais 'muito cedo' para começar a discutir esse tipo de questão, dada a velocidade de seu desenvolvimento," afirmou Linda Johansson, pesquisadora em ética robótica no Instituto Real de Tecnologia da Suécia.

Por que a sociedade não se posiciona contra os robôs assassinos?

Para quem os controla, os drones são o supra-sumo da tecnologia. Para os civis em terra, são máquinas que matam inocentes à distância, sem qualquer chance de defesa. [Imagem: KTH/Paul Fleet]

Decisão robótica

Linda sugere que, com a realidade atropelando as previsões dos futurólogos, é necessário reconsiderar as leis internacionais de guerra e examinar quem deve ser responsabilizado pelas ações dos robôs avançados.

"Soldados podem matar outros soldados em uma guerra - seria admissível que alguém do outro lado da terra ataque os operadores que controlam os drones?" Questiona a pesquisadora.

Ela também questiona a ética de atribuir aos operadores de drones a tarefa de rastrear uma pessoa à distância por dias, eventualmente semanas, antes de disparar no momento "mais propício": "Isso é diferente de soldados de combate comuns que enfrentam seus adversários diretamente," diz ela.

"Em breve poderemos estar diante de uma situação em que um operador controla dois drones em vez de um, por razões de custo," prevê Linda. "Acrescente a isso a tendência humana de confiar na tecnologia; agora imagine uma situação em que decisões muito rápidas devem ser tomadas. Fica fácil deixar a etapa da decisão fora do circuito e entregar o controle para o robô ou computador."

"O homem se torna o elo mais fraco," conclui ela.

Valor da vida

Na semana passada, um relatório da organização Human Rights Watch pediu o banimento das armas robotizadas e autônomas.

"Como máquinas inanimadas, armas totalmente autônomas não podem verdadeiramente compreender nem o valor de uma vida individual, nem o significado de sua perda", afirma a nota da entidade.

Desde Asimov, muitas têm sido as preocupações com o risco do surgimento de "máquinas assassinas".

Confiando que o futuro demoraria muito a chegar, a sociedade não se preparou, e agora terá que lutar para evitar que o problema atinja um ponto sem volta. Inovação Tecnológica – Brasil