Com o avanço da tecnologia na área da saúde, surge um paradoxo em que nunca foi tão fácil adotar a inteligência artificial, e ao mesmo tempo, nunca foi tão perigoso fazê-lo sem controle. Muitos profissionais já utilizam ferramentas generativas no cotidiano, muitas vezes fora dos sistemas institucionais, criando um cenário de “shadow AI” que expõe dados sensíveis e aumenta os riscos legais.
A governança deixou de ser apenas um tema teórico. Atualmente, a maioria das organizações não tem frameworks claros para o uso responsável da inteligência artificial, monitoramento de modelos ou planos de resposta a incidentes. Isso é especialmente crítico em um setor em que decisões automatizadas podem impactar diretamente a vida das pessoas.
O risco não está apenas em falhas técnicas, mas também em vieses algorítmicos, falta de transparência e violações de privacidade. Já ocorreram casos em que sistemas de apoio clínico reproduziram desigualdades históricas ao priorizar certos perfis de pessoas. Outros falharam em explicar decisões automatizadas, comprometendo a confiança de médicos e pacientes.
Nesse contexto, o papel do Chief AI Officer (CAIO) se torna fundamental. Cabe a ele estruturar políticas claras de uso de IA, garantir supervisão humana em decisões críticas e alinhar a tecnologia às exigências regulatórias, como LGPD, HIPAA e normas emergentes de IA na saúde.
A segurança também assume uma nova dimensão. Os agentes de IA ampliam a superfície de ataque cibernético, exigindo controles específicos, como isolamento de ambientes, monitoramento contínuo e restrições de acesso. Ao mesmo tempo, a privacidade deve ser considerada desde o design dos projetos, evitando o uso excessivo ou indevido de dados pessoais.
Outro pilar fundamental é a transparência. Tanto pacientes quanto profissionais têm o direito de saber quando a IA está envolvida em diagnósticos, recomendações ou decisões administrativas. Estudos mostram que a comunicação clara sobre o uso de IA tende a aumentar a confiança, desde que haja a opção de revisão humana.
Na América Latina, o debate sobre esse tema é ainda mais urgente. Enquanto alguns profissionais já adotam a IA de forma individual, poucas instituições possuem estratégias estruturadas. Isso traz riscos, mas também uma oportunidade: aprender com experiências globais e implementar a IA de forma responsável desde o início, evitando erros já conhecidos.
A inteligência artificial é uma realidade na saúde. A diferença entre gerar valor ou criar problemas está na forma como ela é governada. Mais do que tecnologia, o setor precisa de liderança capaz de equilibrar inovação, ética e segurança. Sem isso, a promessa da IA pode se tornar um passivo difícil de gerenciar.
Emir Vilalba Moreira é Head of Health da Semantix, empresa brasileira especializada em dados e inteligência artificial. Com mais de 20 anos de experiência nos setores de tecnologia e saúde, construiu sua carreira em posições de liderança estratégica e comercial, incluindo passagens por grandes farmacêuticas multinacionais. Atua também como professor de MBA e palestrante, com foco em inovação, uso responsável de IA e transformação digital na saúde.