A9 Redução da margem de intervenção humana por meio da automação

Tópico

O modelo de comando e controle já estabelecia o julgamento humano como o tomador de decisão final dentro de um prazo comprimido. Essa anomalia surge quando sistemas de apoio à decisão baseados em automação ou inteligência artificial, projetados para acelerar a resposta a uma ameaça percebida, acabam reduzindo ainda mais essa mesma janela de verificação: quanto mais rápido o sistema automatizado responde, menos tempo o julgamento humano tem para intervir, mesmo que o sistema formalmente mantenha um ponto de decisão humana no processo.

Ao contrário dos sistemas da Guerra Fria, onde a intervenção humana direta em cada decisão crítica era a norma explícita, um sistema mais automatizado gera pressão — pela sua própria velocidade — para decisões mais rápidas com menos oportunidade para verificação independente, mesmo que ninguém tenha formalmente decidido eliminar esse ponto de controle humano.

É por isso que esse modelo, que começa com a automação projetada para acelerar a resposta, é particularmente relevante para cenários futuros com armas hipersônicas ou sistemas de defesa assistidos por inteligência artificial: quanto menor o tempo de voo de um sistema de lançamento, mais ele comprime a mesma janela de decisão já estabelecida pelo modelo de comando e controle, um tema de debate ativo em fóruns de governança de tecnologia militar.

ID:5013