Vigilância por IA: A Caixa de Pandora para a Democracia?

O novo programa de vigilância de mídia social do Departamento de Estado, "Catch and Revoke", que usa IA para revisar as pegadas de mídia social de dezenas de milhares de candidatos a visto de estudante em busca de sinais de terrorismo, destaca os perigos interligados de IA, vigilância e ameaças à democracia. O artigo argumenta que, embora a IA ofereça a promessa de prever e controlar o comportamento, ela acelera as tendências existentes, obscurecendo as linhas entre dados públicos e privados e permitindo o uso de informações pessoais para tomada de decisões. Embora a IA possa ser benéfica, a falta de controles restritivos representa um risco significativo para a democracia. O comércio de dados e o capitalismo de vigilância exacerbam esses perigos, colocando informações privadas na esfera pública e as utilizando como armas. O autor enfatiza que a precisão da IA não significa compreender indivíduos; em vez disso, ela os categoriza, apagando a singularidade e ameaçando a originalidade celebrada na democracia. A obra apela por controles rigorosos, semelhantes aos que regem a energia nuclear, para evitar o mau uso da IA e preservar as liberdades democráticas.