Skip to main content

Armas autônomas: é aí que mora o perigo!

A comunidade científica tem alertado a sociedade para os riscos acerca da utilização da inteligência artificial há anos. Em janeiro de 2015 um grupo deles subscreveu uma carta contendo uma lista de recomendações do que vale a pena pesquisar, objetivando assegurar que a IA permaneça robusta e benéfica para a humanidade.

Dentre as prioridades de pesquisa de curto prazo ligadas à questões legais e éticas, aquelas que se referem às armas autônomas me chamaram, especialmente, a atenção.

Questionam assim, cientistas e pesquisadores:

- Podem as armas autônomas letais serem feitas de tal modo a estarem sujeitas às leis humanitárias?

- Se assim que alguma organização vier a sugerir que as armas autônomas sejam banidas, é possível desenvolver uma definição precisa de autonomia para esse propósito e pode tal banimento ser implementado na prática?

- Se for permissível ou legal o uso de armas letais autônomas, como tais armas deveriam ser integradas na estrutura de comandos e controles, de tal modo que as responsabilidades sejam distribuídas?

- Quais realidades técnicas e previsões deveriam informar essas questões e como um "significativo controle humano" sobre armas deveria ser definido?

- São as armas autônomas capazes de reduzir a aversão política ao conflito, ou talvez resultar em batalhas acidentais ou mesmo em guerras?

- Finalmente, como pode o discurso público e transparente  acerca destas questões ser melhor encorajado?

Banimento imediato
Ainda que máquinas capazes de decidir matar alguém sem a intervenção direta de um humano não exista, alguns especialistas em segurança nacional consideram tal possibilidade plausível, dado o desenvolvimento dos atuais mísseis "semi-autônomos" e das aeronaves não tripuladas que decolam, voam e aterrizam por conta própria.

No ano passado, em preparação para um encontro organizado pelas Nações Unidas um grupo de pesquisadores da Universidade de Harvard publicou um relatório que conclama a comunidade internacional a banir tais tecnologias tão logo quanto possível.

Numa entrevista concedida ao MIT Technology Review, Bonnie Docherty, a autora do referido relatório afirma:

"Nós acreditamos que tais tecnologias podem revolucionar as guerras e pensamos que devemos agir desde já, antes que os países invistam a tal ponto de não quererem mais desistir delas. Existem muitas preocupações acerca destas armas, incluindo as éticas e legais, preocupações sobre como determinar o accountability, assim como o risco de uma corrida armamentista, para nomear algumas."

"Caso essas máquinas vierem a existir, não haveria um modo de tornar as pessoas responsáveis (accountable) se elas violarem as leis internacionais.

O programador, o fabricante, o comandante e o operador, iriam todos escapar sob as leis existentes" diz a autora.