Podcast. Incertezas da Inteligência Artificial (I): Cenários hipotéticos de uma ciberguerra em ação

As tecnologias de Inteligência Artificial (IA) estão em moda. A disciplina foi reconhecida e nominada ainda na década de 50, sob o ambicioso objetivo de simular todo aspecto do aprendizado e da inteligência. Após meio século de expectativas e obstáculos, os desenvolvimentos tecnológicos vertiginosos dos últimos anos nas áreas das redes neurais de aprendizado profundo, da robótica (drones e veículos autônomos), do processamento de língua natural (chatbots) e da ciência dos dados fazem proliferar suas aplicações práticas, assim como as análises sobre suas potencialidades e ameaças. Com as promessas incertas e os riscos imprevistos de cada invenção, nossos afetos oscilam entre a ansiedade por descobertas, a surpresa por novidades e um medo diante do desconhecido.

Ameaças generalizadas à segurança, armas de guerras (reais e virtuais), desaparecimento súbito de postos de trabalho, fake news automatizadas disseminando instabilidade política, sofisticação do sistema de controle dos Estados, algoritmos mapeando e classificando todos nossos passos, formando uma bolha ideológica e de consumo – não faltam sinais de que os autômatos dos novos tempos prometem nos deixar em constante sinal de suspense. Parece-nos, diante da avalanche de informações e inovações, que os valores mais caros da vida humana estão ameaçados permanentemente pelos autômatos que os próprios humanos estão a criar e proliferar.

O República de Ideias publica hoje, com participação de Renato Magnelli e André Magnelli, o primeiro episódio de uma série sobre “As incertezas da Inteligência Artificial”, vinculada a ensaios que publicamos nos Cadernos do Ateliê no Plano de Convergência “Tecnociências & Sociedade: Interflúvios e Porvires da Máquina, da Vida e do (Pós-)Humano“. Nesta série analisamos questões sobre IA em torno do relatório The Malicious Use of Artificial Intelligence: Forecasting, Prevention, and Mitigation, por meio do qual vinte e seis especialistas em Inteligência Artificial oriundos de centros universitários (Yale, Stanford, Cambridge e Oxford) e de organizações não-governamentais (como Electronic Frontier Foundation e OpenAI), assumiram uma posição sobre os potenciais usos maliciosos das IAs com ameaças à segurança digital, física e política. Neste episódio apresentamos e refletimos sobre uma das dimensões das incertezas sobre IAs, a da cibersegurança.

Tópicos

Apresentação do contexto da série sobre Incertezas da Inteligência Artificial: um ensaio sobre uso de IAs na política e em fake news vem aí!
O que é Inteligência Artificial: brevíssima definição
A automatização por IA, suas vulnerabilidades e consequências para a segurança digital, física e política;
As capacidades potencialmente sobre-humanas das IAs;
Uma questão de conjunto: as guerras (híbridas) de nosso tempo;
Ciberguerras: ciberataques e ciberdefesas;
Consequências das IAs para a segurança digital: invasões, engenharia social e adaptabilidade;
Exemplos de ciberguerra em ação;
Uma reflexão sobre propostas de medida e controle.