Imagine-se vivendo em um prédio cujo síndico é uma figura distante, escolhida por uma empresa estrangeira, da qual você nunca ouviu falar pessoalmente. Todas as regras do condomínio, que abrangem desde o horário das luzes até a gestão da água e o funcionamento dos elevadores, são determinadas por essa empresa. Ela também coleta dados sobre suas rotinas e comportamentos, como seus horários de saída e as interações com os vizinhos. Em certas ocasiões, você descobre que essas informações, incluindo aspectos pessoais, foram revendidas a uma farmácia, que utiliza seu perfil para marketing direcionado, mesmo sem seu consentimento. Um vizinho pode receber anúncios sobre medicamentos com base em dados de sua geladeira inteligente. O ambiente parece estar controlado por algoritmos que fazem previsões sobre seu comportamento financeiro.
A indignação nessas circunstâncias é compreensível. No entanto, você não poderia tomar medidas legais ou chamar as autoridades, pois o síndico opera de um local distante e a empresa atuante não segue as normas locais. Ela se exime de responsabilidade e não participa das reuniões do condomínio, limitando a comunicação a notificações automáticas.
Esse cenário, que poderia ser um roteiro de ficção, se assemelha a situações reais em que as tecnologias de inteligência artificial (IA) são utilizadas por grandes corporações. Essas organizações são responsáveis por regular o que é visto, consumido e até como as escolhas são percebidas. O gerenciamento dessas atividades ocorre de forma privada e sem qualquer supervisão democrática.
Empresas como OpenAI, Meta, Google e Microsoft fazem escolhas contínuas sobre o funcionamento de seus sistemas. Elas estabelecem, com critérios muitas vezes pouco claros, quais conteúdos são considerados problemáticos e quais terão maior destaque. Essas decisões são tomadas sem consulta pública ou consideração das normas brasileiras, ignorando os contextos socioculturais locais.
As organizações frequentemente afirmam que suas operações são guiadas por princípios éticos, mas a governança real delas é restrita. Apesar da formação de conselhos consultivos com a intenção de promover responsabilidade ética, muitas vezes eles possuem uma função apenas simbólica, e a transparência em seus relatórios é limitada.
A noção de que uma regulação estatal da IA poderia levar a um controle excessivo é uma preocupação de alguns. No entanto, a verdade é que a IA já está sendo moldada de acordo com interesses específicos, sem a participação do público. Isso resulta em um ambiente em que as normas são imposições de entidades que não têm conexão direta com as comunidades afetadas.
Recentemente, o contrato entre a Microsoft e o Governo Federal brasileiro, que abrange o período de 2023 a 2025, ultrapassou 1,3 bilhão de reais. Esse valor se refere a investimentos em serviços de computação em nuvem, essenciais para a implementação de políticas públicas. Se não forem honrados, esses serviços podem levar a dificuldades na administração pública.
Além disso, a proposta do governo brasileiro para isentar impostos a grandes empresas de tecnologia que construírem data centers no país aumenta a preocupação sobre a dependência tecnológica. Nesse cenário, o Brasil parece agir como um cliente passivo, pagando por produtos que não controla e que podem não atender aos seus interesses.
Portanto, é evidente a necessidade de regulação efetiva. Projetos como o PL 2630/2020 e o PL 2338/2023 buscam responsabilizar plataformas digitais e estabelecer um marco legal para a IA. No entanto, esses passos iniciais são apenas uma parte do trabalho necessário. O ideal seria desenvolver uma infraestrutura de tecnologia própria que atenda às necessidades brasileiras, possibilitando uma autonomia que se distancie da dependência atual.
