ENTRE HIPÓCRATES E O ALGORITMO: QUANDO A TECNOLOGIA PASSA A DECIDIR ANTES DE NÓS
Vivemos um tempo curioso. Nunca tivemos tanto acesso à informação, e nunca fomos tão silenciosamente conduzidos por ela. Sistemas inteligentes nos sugerem o que comprar, o que assistir, por onde andar — e, cada vez mais, como cuidar da nossa própria saúde.
Na medicina, a inteligência artificial deixou de ser promessa futurista para se tornar ferramenta cotidiana: auxilia diagnósticos, interpreta exames, sugere condutas, antecipa riscos. Em muitos casos, melhora a qualidade do cuidado. Em outros, cria uma nova camada invisível de mediação entre o médico, o paciente e a decisão clínica.
O que está em jogo não é a tecnologia em si, mas algo mais profundo: quem decide quando um algoritmo passa a “opinar”? E, sobretudo, com base em quais dados?
Como observa Mireille Hildebrandt, vivemos a transição de uma sociedade da informação para uma sociedade orientada por dados. Nesse novo ambiente, sistemas inteligentes não apenas informam decisões — eles antecipam comportamentos, moldam escolhas e reconfiguram, silenciosamente, os próprios fins do Direito. Em outras palavras: o risco já não é apenas errar. É não perceber quem está decidindo.
O prontuário virou código
Na prática clínica, isso se traduz em uma mudança quase imperceptível: dados sensíveis de pacientes — exames, históricos, sintomas, diagnósticos — passam a circular em plataformas, softwares e ferramentas que aprendem, correlacionam e inferem padrões.
Muitas vezes, isso ocorre de forma informal: médicos discutem casos em sistemas de inteligência artificial de uso geral, sem contratos, sem políticas de governança, sem clareza sobre onde esses dados são processados ou armazenados.
Os dados de saúde deixam de ser apenas documentação médica e passam a ser matéria-prima algorítmica.
Do ponto de vista jurídico, isso é um divisor de águas. Dados de saúde são, por definição legal, dados pessoais sensíveis. Não são apenas informações técnicas — são projeções diretas da identidade da pessoa.
Stefano Rodotà, um dos maiores constitucionalistas europeus, já advertia que proteger dados pessoais é proteger a própria dignidade humana. A pessoa não se esgota no corpo físico; ela também existe na forma como é descrita, classificada, perfilada e prevista pelos sistemas que a cercam.
Quando dados circulam sem governança, o que se fragiliza não é apenas a privacidade. É a autonomia.
O mito do “eu aceito”
Durante muito tempo, acreditou-se que bastaria o consentimento para legitimar o uso de dados. Bastaria clicar em “aceito” para que tudo estivesse juridicamente resolvido.
Bruno Bioni demonstra que essa lógica é ilusória. O consentimento, sozinho, é incapaz de proteger o titular em ambientes digitais complexos. Ele é formal, assimétrico e, muitas vezes, simbólico. Não se trata mais de escolha individual. Trata-se de estrutura de poder.
Em um mundo orientado por dados, a proteção jurídica não pode se apoiar apenas na vontade do usuário. Ela exige deveres objetivos de cuidado, responsabilidade institucional, gestão de riscos e, sobretudo, governança da informação.
A ingenuidade como novo risco jurídico
Nos bastidores da prática clínica, começa a surgir um fenômeno silencioso: médicos inserem dados reais de pacientes em sistemas de inteligência artificial de uso geral, buscando apoio diagnóstico, revisão de hipóteses ou simples segunda opinião.
A intenção, quase sempre, é nobre. A estrutura, quase nunca, é segura.
Na minha experiência profissional, a maior parte das violações de dados na saúde não nasce do dolo, mas da ingenuidade.
O problema não é o médico usar tecnologia. O problema é fazê-lo sem perceber que, nesse gesto aparentemente inofensivo, informações do prontuário deixam de ser apenas documentos clínicos e passam a integrar um ecossistema algorítmico sobre o qual não há controle jurídico, técnico ou institucional.
O cuidado se transforma, sem que ninguém perceba, em exposição.
O novo papel do Direito
A inteligência artificial não elimina o médico, nem substitui o Direito. Mas desloca ambos para um território ainda pouco mapeado.
Na prática, começamos a conviver com decisões cada vez mais mediadas por sistemas que aprendem, correlacionam e inferem padrões, sem que esteja claro — nem para quem desenvolve, nem para quem utiliza — onde termina o apoio tecnológico e começa a transferência silenciosa de poder decisório.
A pergunta, portanto, já não é apenas se a tecnologia funciona, mas como ela se integra à responsabilidade profissional, quais limites jurídicos devem existir para o uso de dados sensíveis e de que forma clínicas, hospitais e profissionais podem estruturar essa relação de maneira segura, ética e juridicamente sustentável.
Entre Hipócrates e o algoritmo, o desafio contemporâneo não é rejeitar a inovação, mas construir critérios para governá-la.
E talvez a questão mais honesta a se fazer hoje não seja o que a inteligência artificial é capaz de fazer — mas o que ainda precisa permanecer sob decisão humana.
Leituras que inspiraram esse texto:
Mireille Hildebrandt
- Smart Technologies and the End(s) of Law (Oxford University Press, 2016)
- Law for Computer Scientists and Other Folk (Oxford, 2020)
Stefano Rodotà
- Il diritto di avere diritti (Laterza, 2012)
- A vida na sociedade da vigilância (tradução brasileira, Renovar)
- O mundo na rede: quais direitos, quais vínculos (Perspectiva)
Bruno Bioni
- Proteção de Dados Pessoais: a função e os limites do consentimento (Forense)
- Privacidade, Proteção de Dados e Defesa do Consumidor (Thomson Reuters)
