Pacientes da cidade de Utah, nos Estados Unidos, poderão renovar receitas médicas de rotina por inteligência artificial sem precisar passar por consulta com um médico. A medida faz parte de um projeto piloto que nasceu de uma parceria entre o OAIP (Escritório de Política de Inteligência Artificial de Utah) e a startup de tecnologia em saúde Doctronic.
O projeto já está em funcionamento há cerca de três meses e, segundo a OAIP, a empresa busca automatizar essas solicitações para reduzir o “tipo de trabalho administrativo que frequentemente atrasa as clínicas” e ajudar os médicos a se concentrarem mais no atendimento ao paciente.
Como a ferramenta de IA funciona?
O órgão regulador afirma que a IA da Doctronic operará dentro de parâmetros rígidos e sob a supervisão de médicos. O sistema pode processar renovações de 30, 60 ou 90 dias para medicamentos que já tenham sido prescritos por um profissional licenciado.
O processo de implementação será dividido em três fases. Durante cada uma, haverá protocolos de verificação de identidade e de receitas para evitar uso indevido, e também de privacidade do paciente para evitar divulgações acidentais.
Na etapa atual do processo, as ferramentas devem ser supervisionadas por profissionais licenciados e os médicos da Doctronic farão o acompanhamento individual dos pacientes conforme necessário. A IA não tem autorização para:
- Emitir novas receitas;
- Manipular substâncias controladas ou causadoras de dependência;
- Fazer alterações nos planos de tratamento.
Sistema de segurança
Em atualização recente, o órgão regulador de IA informou que o piloto segue dentro do contrato planejado e que, até o momento, nenhum incidente grave de segurança foi registrado pela população ou pela empresa.
Foram realizadas análises de divergências entre as decisões da IA e a avaliação dos médicos supervisores, que indicaram que casos relatados apresentaram “risco nulo”, “risco menor” ou “risco de menor a moderado”.
Relatórios de red teaming (testes de invasão e uso malicioso efetuados por terceiros) mostraram que as barreiras de proteção do sistema limitam de forma substancial os riscos aos usuários.
Os dados formais sobre impactos e saúde pública ainda estão em fase de coleta. O órgão, porém, aponta que houveram feedbacks positivos dos usuários, como suporte multilíngue, atendimento 24 horas por dia, respostas imediatas aos pedidos e maior conveniência para as farmácias locais na reautorização de receitas.
O estado de Utah pode exigir modificações ou novos ajustes caso identifique riscos futuros à população.
Associação médica não apoia a prática
Em pronunciamento conjunto sobre o papel da inteligência aumentada na saúde, organizações médicas americanas — como a AMA (American Medical Association) e a AAFP (American Academy of Family Physicians) — se manifestaram contra discursos que tentem colocar algoritmos acima da avaliação médica.
A publicação destaca que narrativas ou projetos sugerindo que a IA é mais bem informada do que os profissionais de saúde, ou que médicos não tomam boas decisões sem consultar a tecnologia, “diminuem a expertise médica e correm o risco de minar a confiança dos pacientes”.
Além disso, apontam que o diagnóstico e a manutenção de tratamentos exigem a avaliação do paciente em seu contexto real, algo que depende de anos de formação, escuta ativa e julgamento profissional.
“Precisamos avançar com cuidado, e precisamos fazer isso de forma correta”, diz a nota.
Inteligência artificial na cardiologia: entenda seus usos para saúde