Uma nova carta sobre Sistemas Letais Autônomos (Future of Life Institute, 18/07/2018)

No dia 18 de julho, foi anunciado em Estocolmo (Suécia), durante a International Joint Conference on Artificial Intelligence (IJCAI), um compromisso (pledge) contra “o desenvolvimento, a fabricação, o comércio ou o uso de sistemas letais autônomos”. Organizado pelo Future of Life Institute e publicado em seu site, o compromisso foi assinado pelos principais líderes em P & D em Inteligência Artificial: foram signatários mais de 160 companhias e organizações relacionadas a IA de 36 países e 2400 indivíduos de 90 países. Em abril, 26 países (dentre eles Brasil, China e vários outros latinoamericanos) já tinham anunciado um apoio a algum tipo de banimento (ver a carta abaixo). Sendo o próximo encontro da ONU sobre os Sistemas Letais Autônomos (LAWS) a ser realizado em agosto, os signatários esperam incentivar um compromisso internacional entre os Estados.

Ateliê de Humanidades já publicou, no dia 30 de março de 2018, como parte de nossa série sobre Incertezas da Inteligência Artificial, um ensaio dedicado às ameaças físicas existentes na aplicação de IAs para usos militares: (2/4) A guerra inteligente potencializada, escrito por André Magnelli & Renato Magnelli. Nele, não apenas tratamos dos perigos abertos pela possibilidade de desenvolvimento de Sistemas Letais Autônomos, como também trouxemos ao público brasileiro a tradução de uma carta aberta, organizada pelo mesmo Future of Life Institute, divulgada na Abertura da International Joint Conference on Artificial Intelligence (IJCAI)em 28 de julho de 2015

Com a nova carta, reforça-se felizmente o movimento internacional em favor do banimento dos Sistemas Letais Autônomos. Segue abaixo a tradução da carta, feita por Renato Magnelli e revisada por André Magnelli:


Compromisso sobre Sistemas Letais Autônomos

A Inteligência Artificial (IA) está se encaminhando para uma crescente participação em sistemas militares. Existe uma oportunidade e uma necessidade urgentes de que  os cidadãos, os legisladores e os líderes distingam entre os usos aceitáveis e inaceitáveis da Inteligência Artificial.

Nessa perspectiva, nós que aqui assinamos concordamos que a decisão de tirar uma vida humana nunca deve ser delegada a uma máquina. Há um componente moral nessa postura, o de que não devemos permitir que máquinas façam decisões de supressão de vidas pelas quais outro – ou ninguém – será culpável. Há também um poderoso argumento pragmático: ao selecionar e atacar alvos sem intervenção humana, os sistemas letais autônomos poderiam ser perigosamente desestabilizadores para todas as nações e os indivíduos. Milhares de pesquisadores do ramo de Inteligência Artificial concordam que, ao remover o risco, a imputabilidade e a dificuldade em se tirar vidas humanas, os sistemas letais autônomos poderiam se tornar poderosos instrumentos de violência e de opressão, especialmente quando relacionados a sistemas de vigilância e de dados. Além disso, os sistemas letais autônomos possuem características bem diferentes de armas nucleares, químicas e biológicas, e a ação unilateral de um único grupo poderia muito facilmente iniciar uma corrida armamentista, que, para sua gestão, demandaria ferramentas técnicas e sistemas globais de governança que a comunidade internacional não possui. Estigmatizar e prevenir tal corrida armamentista deve ser uma alta prioridade para a segurança nacional e global.

Nós, que aqui assinamos, convocamos aos governos e aos líderes dos governos a criar um futuro com normas internacionais rígidas, regulações e leis contra sistemas letais autônomos. Na ausência dessas, nós optamos por assumir um compromisso maior: não participaremos nem apoiaremos o desenvolvimento, a fabricação, o comércio ou o uso de sistemas letais autônomos. Pedimos que as empresas e as organizações da área de tecnologia, assim como os líderes, os legisladores e outros indivíduos, unam-se a nós neste compromisso.

Independente desse compromisso, 26 países explicitamente endossaram o pedido de proibição de sistemas letais autônomos nas Nações Unidas: Argélia, Argentina, Áustria, Bolívia, Brasil, Chile, China, Colômbia, Costa Rica, Cuba, Djibouti, Equador, Egito, Gana, Guatemala, Vaticano, Iraque, México, Nicarágua, Paquistão, Panamá, Peru, Estado da Palestina, Uganda, Venezuela, Zimbábue.

Ver carta original, seguida de todos os signatários, em Future of Life Institute

Deixe um comentário

Preencha os seus dados abaixo ou clique em um ícone para log in:

Logotipo do WordPress.com

Você está comentando utilizando sua conta WordPress.com. Sair /  Alterar )

Foto do Google+

Você está comentando utilizando sua conta Google+. Sair /  Alterar )

Imagem do Twitter

Você está comentando utilizando sua conta Twitter. Sair /  Alterar )

Foto do Facebook

Você está comentando utilizando sua conta Facebook. Sair /  Alterar )

Conectando a %s

Site no WordPress.com.

Acima ↑

%d blogueiros gostam disto: