By Conforme elucida Bruno Garcia Redondo, o constitucionalismo moderno baseia-se na ideia de limitação do poder e na proteção dos direitos fundamentais. No entanto, a ascensão da Inteligência Artificial (IA) tem colocado esses pilares sob tensão. Sistemas algorítmicos estão cada vez mais presentes em decisões que antes competiam exclusivamente aos seres humanos — da concessão de crédito à alocação de recursos públicos, da segurança pública à seleção de candidatos para empregos.
O uso da IA nessas esferas pode gerar desequilíbrios de poder, já que algoritmos muitas vezes operam com base em dados opacos, não auditáveis e difíceis de contestar. Isso desafia diretamente a ideia de transparência, accountability e controle público — fundamentos centrais do constitucionalismo democrático. Saiba mais, a seguir!
De que forma a IA pode violar ou fragilizar direitos fundamentais?
A Inteligência Artificial, ao ser usada em larga escala, pode afetar diretamente direitos fundamentais como a privacidade, a igualdade, a liberdade de expressão e o devido processo legal. Um exemplo preocupante é o uso de sistemas de reconhecimento facial por órgãos de segurança pública, que têm demonstrado taxas elevadas de falsos positivos, especialmente contra populações marginalizadas, como negros e pobres.
Bruno Garcia Redondo discute como a ascensão da IA coloca em risco os princípios constitucionais e a proteção dos direitos fundamentais no contexto jurídico.
Além disso, Bruno Garcia Redondo explica que decisões automatizadas em áreas como crédito, seguros e recursos humanos podem reproduzir ou até ampliar discriminações preexistentes, ferindo o princípio constitucional da igualdade. A coleta massiva de dados pessoais, muitas vezes sem o consentimento informado dos usuários, também levanta sérias questões sobre a proteção da intimidade e da vida privada.
A quem cabe a responsabilidade pelas decisões tomadas por algoritmos?
Segundo Bruno Garcia Redondo, a responsabilidade civil, penal e administrativa por decisões algorítmicas ainda é um terreno nebuloso. No contexto constitucional, surge uma pergunta crítica: quem responde quando uma IA toma uma decisão que viola direitos fundamentais? A empresa desenvolvedora do sistema? A instituição que o adota? O programador?
@brunogarciaredondo0 Bruno Garcia Redondo explica como o Direito Ambiental protege o meio ambiente A legislação ambiental é essencial para um futuro sustentável! Bruno Garcia Redondo explica seu impacto na preservação dos recursos naturais. #BrunoGarciaRedondo #BrunoGarcia #BrunoRedondo #QueméBrunoGarciaRedondo #OqueaconteceucomBrunoGarciaRedondo #ProcuradorBrunoGarciaRedondo #ProcuradordauerjBrunoGarciaRedondo
♬ original sound – Bruno Garcia Redondo – Bruno Garcia Redondo
A Constituição impõe deveres ao Estado de proteger os cidadãos, inclusive diante de novas tecnologias, o que significa que ele não pode se eximir de fiscalizar e regulamentar o uso da IA. No entanto, a complexidade técnica dos algoritmos dificulta a identificação de culpados diretos, o que pode acabar criando uma “zona cinzenta de impunidade” que enfraquece a efetividade dos direitos fundamentais.
A transparência algorítmica é compatível com o direito à informação?
O direito à informação é essencial para o exercício da cidadania e a fiscalização dos poderes públicos. No entanto, muitos sistemas de IA operam com algoritmos de “caixa-preta”, em que nem mesmo seus criadores conseguem explicar completamente os critérios das decisões tomadas. Isso coloca em xeque a transparência exigida pelas normas constitucionais.
De acordo com Bruno Garcia Redondo, a ausência de explicabilidade algorítmica impede que os cidadãos questionem decisões, recorram de injustiças e participem plenamente dos processos democráticos. Para garantir o respeito ao direito à informação, seria necessário regulamentar a IA exigindo auditabilidade e interpretabilidade dos sistemas, inclusive com mecanismos de supervisão humana.
Conclui-se assim que a promessa de neutralidade algorítmica tem sido frequentemente desmentida pela prática. Bruno Garcia Redondo destaca que muitos sistemas de IA são treinados com bancos de dados históricos, os quais refletem desigualdades sociais, econômicas e raciais. Como resultado, algoritmos tendem a perpetuar essas desigualdades, afetando o princípio constitucional da igualdade.
Autor: deivis thaylla
