A responsabilidade das plataformas online na garantia de ambientes justos e seguros

Você já denunciou um perfil falso e recebeu, segundos depois, uma resposta automática a garantir que «nada foi encontrado»? É nesse clique banal que se mede, na prática, a responsabilidade das plataformas online na garantia de ambientes justos e seguros. A cena repete-se milhões de vezes por dia: o utilizador sinaliza assédio, fraude ou discurso de ódio e um sistema classifica o caso em milissegundos, sem que ninguém veja o contexto. Repórteres que acompanham equipas de confiança e segurança descrevem sempre o mesmo padrão — filas de denúncias a crescer, modelos treinados em dados desiguais e prazos de resposta definidos mais por capacidade operacional do que por risco real. O resultado é uma assimetria difícil de esconder: quem opera a infraestrutura conhece as regras por dentro; quem sofre o dano raramente sabe por que motivo a sua queixa foi arquivada. Enquanto essa caixa negra permanecer fechada, qualquer promessa de ambiente seguro fica dependente da boa vontade de quem a faz.

A arquitetura típica de moderação assenta em três camadas que raramente comunicam entre si. A primeira é o classificador automático, treinado para reconhecer padrões de spam, nudez, incitação ou fraude; decide em milissegundos e erra sobretudo em ironia, sotaques e línguas com menos dados disponíveis. A segunda é a fila humana, para onde sobem apenas os casos que o modelo marcou como ambíguos ou que foram objeto de recurso. A terceira é a via de contestação, o momento em que o utilizador tenta explicar o contexto que a máquina ignorou. Quando uma destas camadas é subdimensionada, as outras duas absorvem a pressão e degradam-se em silêncio. O padrão observado por equipas de investigação é consistente: plataformas que publicam apenas a taxa de precisão dos seus modelos, sem revelar quantos casos foram revistos por pessoas e quantos recursos foram aceites, descrevem um processo que não conseguem demonstrar. Precisão sem denominador é publicidade, não é governação.

O quadro regulatório mudou a conversa. O Regulamento dos Serviços Digitais impõe obrigações de diligência escalonadas pela dimensão da plataforma — avaliações de risco sistémico, mecanismos de denúncia de fácil acesso, regras sobre publicidade segmentada e auditorias externas para as maiores. O RGPD acrescenta limites ao tratamento de dados pessoais, e o Marco Civil da Internet, no Brasil, fixou responsabilidades por conteúdo de terceiros em condições específicas. Nenhum destes diplomas, porém, resolve o problema de fundo: repartir o ônus entre Estados, empresas e utilizadores não equivale a garantir resultados. A lei diz quando uma plataforma falha; raramente diz qual é o nível aceitável de dano remanescente. Essa lacuna empurra o debate para os tribunais, caso a caso, com custos que só organizações grandes conseguem suportar. Para quem usa o serviço, a proteção continua a depender de detalhes técnicos que ninguém explica no momento do registo e que mudam ao ritmo das atualizações.

Relatórios de transparência tornaram-se um género literário próprio: muitas páginas, gráficos cuidados e quase nenhuma comparação possível. Cada empresa escolhe as suas métricas — «ações tomadas», «conteúdos removidos», «impressões», «visualizações» —, define os seus denominadores e publica intervalos que raramente coincidem com os dos concorrentes. Investigadores académicos que pedem dados para estudar amplificação relatam o mesmo obstáculo: APIs limitadas, amostras enviesadas e contratos que proíbem replicar o estudo. Sem denominadores comuns, ninguém consegue afirmar se a moderação melhorou ou se apenas mudou de vocabulário. Esta opacidade tem consequências materiais. Um sistema de recomendação pode amplificar conteúdo limítrofe sem violar nenhuma regra escrita, porque o dano está na distribuição e não no objeto. Medir a responsabilidade das plataformas exige, por isso, métricas de exposição — quem viu o quê, quantas vezes e com que consequências. Enquanto essas métricas forem opcionais, a transparência continuará a ser, sobretudo, uma peça de comunicação institucional.

A obrigação de manter equipas de confiança e segurança, juristas e auditores cabe mal a quem tem vinte funcionários. Marketplaces de bairro, fóruns técnicos e comunidades de nicho enfrentam o mesmo tipo de denúncias que os gigantes — assédio, fraude, conteúdo ilegal —, mas sem orçamento proporcional. A saída mais comum é subcontratar moderação a fornecedores externos, comprar classificadores prontos a usar e adotar listas de bloqueio partilhadas. Ganha-se velocidade e perde-se contexto: um termo legítimo numa comunidade de saúde pode ser sinalizado como ofensa noutro idioma, e a remoção preventiva cala precisamente quem deveria ser protegido. É aqui que a responsabilidade das plataformas online na garantia de ambientes justos e seguros deixa de ser um debate abstrato e passa a ser uma questão de escala. Regras pensadas para milhares de moderadores, aplicadas a equipas de três pessoas, produzem dois efeitos previsíveis: excesso de zelo com conteúdo ambíguo e lentidão na resposta a casos graves. Ferramentas setoriais partilhadas e apoio técnico público resolveriam mais do que novas obrigações declarativas.

Boa parte dos problemas de segurança resolve-se antes de qualquer denúncia, no momento em que o produto é desenhado. Predefinições de privacidade restritivas, limites ao contacto não solicitado entre adultos e menores, verificação de idade proporcional ao risco e fricção deliberada em partilhas em massa alteram a distribuição do dano sem remover uma única publicação. O oposto também é verdadeiro: padrões de desenho manipuladores — contadores de popularidade, notificações que fabricam urgência, botões de partilha desproporcionados — empurram o utilizador para a exposição. O incómodo é que estas decisões raramente passam por escrutínio público, porque não são «conteúdo» e escapam à maioria das obrigações de transparência. Uma plataforma pode cumprir todos os prazos de remoção e continuar a recomendar material limítrofe a adolescentes, desde que cada item, isoladamente, não viole regras. Avaliar a responsabilidade das plataformas exige, portanto, olhar para o feed e para os valores por omissão, não apenas para a fila de denúncias nem para os comunicados trimestrais.

Por trás de cada decisão de remoção está, quase sempre, uma pessoa a olhar para imagens que ninguém deveria ver oito horas por dia. Os revisores de conteúdo trabalham sob metas de produtividade, muitas vezes através de empresas subcontratadas, com apoio psicológico desigual e formação insuficiente em línguas e contextos locais. A rotatividade elevada é a consequência lógica: quem adquire competência cultural e linguística depressa procura outra função, e o conhecimento acumulado desaparece com essa saída. Para as plataformas, o cálculo é tentador — a moderação humana é o centro de custo mais visível e o mais fácil de comprimir. Para os utilizadores, o resultado aparece na qualidade das decisões: erros repetidos em dialetos, comunidades diaspóricas e humor local. Reconhecer este trabalho como infraestrutura crítica, com condições, pausas obrigatórias e supervisão clínica, não é caridade nem relações públicas. É o que separa uma política de segurança credível de um comunicado bem escrito. Sem revisores estáveis, qualquer promessa de ambiente seguro fica dependente de modelos que ainda não compreendem contexto.

A última camada é a que decide se tudo o resto é verificável: auditoria independente com acesso real a dados. Um regime credível exige três elementos concretos:

• mandato legal para investigadores consultarem amostras representativas, sem depender da boa vontade da empresa;
• metodologia publicada, replicável e comparável entre operadores de dimensão semelhante;
• consequências definidas quando os resultados contradizem a política anunciada.

Sem acesso, as auditorias resumem-se a entrevistas com gestores e a documentos fornecidos pela própria entidade auditada. Com acesso, aparecem comparações desconfortáveis entre o que a política promete e o que o sistema faz. A responsabilidade das plataformas online na garantia de ambientes justos e seguros ganha aqui o seu teste mais concreto: existe reparação para quem foi afetado por uma decisão automática errada? Há prazo, instância de recurso e resposta fundamentada? Enquanto o recurso for um formulário sem resposta humana, a prestação de contas é apenas processual. Sanções proporcionais ao volume de negócio ajudam, mas nenhum mecanismo substitui a possibilidade de um utilizador comum contestar uma decisão e obter uma explicação compreensível.