Ponto cego da IA na saúde: dados de pacientes em ferramentas que a TI não aprovou

Um novo relatório está expondo uma falha grave de governança na IA da saúde: quase nove em cada dez líderes dizem que equipes de segurança ou compliance revisam código escrito por IA que envolve dados de pacientes antes de entrar em produção, mas sete em cada dez ainda encontraram ferramentas criadas com IA lidando com dados de pacientes sem o conhecimento da TI ou da segurança.

O alerta maior está no que acontece antes da revisão. A maioria das organizações afirma que informações reais de pacientes chegam a assistentes de código com IA pelo menos algumas vezes, apenas metade tem uma política escrita para esses assistentes, e mais da metade diz que código gerado por IA contribuiu para credenciais embutidas no código. A proteção de dados de pacientes exige regras aplicáveis, dados sintéticos em testes e visibilidade real sobre a IA usada sem aprovação antes que a exposição vire violação.