Brasil agora tem limites para IA na medicina – e a decisão final deve ser humana

Brasil estabelece limites para uso de IA na medicina, priorizando decisão humana

O Conselho Federal de Medicina (CFM) anunciou a primeira norma referente à utilização de inteligência artificial (IA) na área médica no Brasil. A resolução, divulgada nesta sexta-feira (27), determina que a tecnologia deve ser uma ferramenta de apoio, sem substituir a decisão final do médico.

As diretrizes entram em vigor em 180 dias e afirmam que a responsabilidade final por diagnósticos e tratamentos permanece com o profissional de saúde. Além disso, é proibido que sistemas automáticos forneçam resultados ou sugiram tratamentos diretamente aos pacientes sem a devida explicação por parte de um médico.

Critérios de segurança e governança para IA

A resolução estabelece critérios de segurança e gestão para o uso de tecnologias de IA. Foi criada uma escala de risco com quatro níveis: baixo, médio, alto e inaceitável. Para classificar uma tecnologia em um desses níveis, a norma considera:

- Impacto nos direitos fundamentais: Avalia se a tecnologia pode afetar direitos básicos do paciente.

- Gravidade clínica: Examina a criticidade do contexto de saúde e a gravidade da condição médica.

- Sensibilidade dos dados: Analisa a natureza das informações processadas pelo sistema de IA.

- Grau de autonomia: Verifica o nível de independência do sistema na geração de resultados.

Quando a IA é uma ferramenta relevante no atendimento, o médico deve registrar seu uso no prontuário, garantindo a rastreabilidade do processo. O profissional mantém sua autonomia, ou seja, não pode ser obrigado a seguir sugestões da máquina. A supervisão humana deve ser constante, pois as respostas da IA não substituem o julgamento clínico do médico.

Direitos do paciente e responsabilidade do médico

O paciente tem o direito de recusar a utilização da IA em seu tratamento e deve ser informado sobre a tecnologia com antecedência. O uso dessas ferramentas não dispensa o médico de seguir o Código de Ética Médica. Em casos de falhas exclusivas do sistema, o médico não será responsabilizado, desde que tenha demonstrado cautela e relatado o erro. O profissional deve comunicar riscos ou falhas às autoridades competentes assim que identificá-los.

Hospitais e clínicas que implementarem IA precisam criar uma Comissão de IA e Telemedicina, liderada por um médico, responsável por fiscalizar e monitorar as ferramentas para garantir a ética no uso. Por fim, todos os modelos de IA devem respeitar rigorosamente a Lei Geral de Proteção de Dados (LGPD).