Em entrevista à TV Senado, Castells enfatizou que o mau uso da tecnologia se agrava em um momento no qual a humanidade se defronta com grandes problemas. Segundo o professor, o debate público tem se convertido em uma série de manipulações que provocam um efeito negativo da tecnologia sobre a democracia. Ele citou as eleições nos Estados Unidos e no Brasil como exemplos claros de como a polarização e o uso das redes sociais têm impactado de forma significativa o cenário político.
Castells ressaltou que as tecnologias não são a causa do problema, mas sim as pessoas que as utilizam e para qual finalidade. Ele argumentou que a falta de confiança nos políticos e nas instituições políticas é a origem da crise democrática, e apontou a regulação das redes sociais e do uso da inteligência artificial como possíveis soluções.
Para o professor espanhol, as redes sociais, controladas por oligopólios, precisam ser reguladas por lei para evitar abusos. Ele destacou a importância de começar a regular seriamente a inteligência artificial, pois essa tecnologia tem o poder de criar uma realidade artificial nas mentes das pessoas, distorcendo a percepção da realidade.
Castells também chamou a atenção para a falta de confiança da população nos políticos e nas instituições democráticas. Ele apontou que a maioria dos cidadãos não confia em seus representantes e considera que a democracia em que vivem não é legítima. Essa crise de confiança, somada à desinformação disseminada pelas redes sociais, amplia a crise de legitimidade e leva as pessoas a reagirem de forma emocional, sem acreditar na mídia ou no que veem nas redes.
Diante desse cenário, diversos senadores têm apresentado projetos relacionados ao uso da inteligência artificial. O senador Styvenson Valentim, por exemplo, propôs o PL 5.051/2019, que disciplina o uso da inteligência artificial no Brasil, estabelecendo princípios para seu uso responsável. Outros projetos, como o 29/2023, buscam incluir na Constituição proteções relacionadas à integridade mental e à transparência algorítmica.
Além disso, projetos que visam reprimir crimes cometidos com o uso da inteligência artificial têm sido apresentados por senadores como Chico Rodrigues, Jader Barbalho, Jorge Kajuru, Weverton e Jandira Feghali. Essas propostas buscam aumentar as penalidades para crimes como manipulação de imagem e divulgação de conteúdo falso.
No âmbito da regulamentação da inteligência artificial, a criação da Comissão Temporária Interna sobre Inteligência Artificial (CTIA) e da Comissão Mista Permanente para Proteção de Dados, Inteligência Artificial e Segurança Cibernética (CMCiber) são passos importantes para garantir a proteção dos direitos dos cidadãos e a segurança nas operações tecnológicas.
Por fim, a recente resolução do Tribunal Superior Eleitoral para as eleições municipais deste ano, que proíbe o uso de deepfakes e impõe restrições ao uso de robôs na propaganda eleitoral, reflete a preocupação das autoridades com o uso indevido das tecnologias nas campanhas políticas. A regulamentação e fiscalização do uso da inteligência artificial são fundamentais para garantir a integridade do processo democrático e a transparência nas eleições.
