Problemas Éticos no Uso do Software de Apoio à Decisão Médica

Renato M.E. Sabbatini


Núcleo de Informática Biomédica da Universidade Estadual de Campinas
WWW: http://home.nib.unicamp.br/~sabbatin Email:renato@sabbatini.com.

Revista Informédica, 1(1): 5-11, 1993.


Desde a década dos 70, a Informática, através de um dos seus ramos, a Inteligência Artificial, vêm desenvolvendo programas de computador capazes de elaborar decisões complexas na área de diagnóstico, prognóstico e terapia médica. Esses programas, denominados de sistemas especialistas (ou sistemas expert, em inglês) têm capacidade de raciocínio do tipo dedutivo, muito semelhante à que o médico utiliza em seu dia-a-dia para identificar e tratar os problemas de saúde dos seus pacientes. Fornecendo-se ao programa os sintomas, sinais e resultados de exames médicos de um determinado caso clínico, ele é capaz de orientar a decisão médica com grande exatidão, e até de explicar as razões e o raciocínio usado para chegar até ela (inclusive fornecendo as referências bibliográficas relevantes !)

Os sistemas especialistas recebem este nome porque geralmente tratam de domínios muito restritos da conhecimento em Medicina. Por exemplo, existem programas específicos para recomendar o diagnóstico e a terapia de glaucomas, de câncer de mama, de alterações do equilíbrio ácido-básico, de anemias, de doenças reumáticas, de epilepsias, de cardiopatias congênitas, e muitos outros. Estima-se que já existam cerca de 2.000 programas desenvolvidos de apoio à decisão em Medicina, e muitos deles foram incorporados à equipamentos biomédicos e a programas de computador de uso rotineiro em hospitais e clínicas. É o caso, por exemplo, dos novos aparelhos comerciais de ECG, capazes de elaborar a interpretação correta dos traçados obtidos, ou de um sistema de registro médico computadorizado, desenvolvido na Universidade de Utah, que avalia automaticamente os dados dos pacientes, dando sugestões e lembretes para o médico por ocasião da consulta ou da visita.

Esses programas são desenvolvidos de modo a funcionarem com um altíssimo grau de precisão e acurácia. Geralmente, acertam 100 % dos diagnósticos de dificuldade pequena ou média, e 80 %, ou mais, dos diagnósticos difíceis. Portanto, têm um desempenho igual a dos grandes médicos especialistas na área, e superior à maioria dos médicos não especialistas. Existe até o caso do CASNET/GLAUCOMA, um programa especialista em glaucoma, desenvolvido na Universidade de Rutgers, nos EUA, que foi "nomeado" como sendo um dos 20 me-lhores médicos especialistas no assunto, em um Congresso Americano de Oftalmologia, na década dos 80 ! Existem vários trabalhos sérios, mostrando que tais programas, quando usados de forma sistemática no contexto da assistência médica, aumentam de forma significativa a sua qualidade e grau de acerto, e ajudam a diminuir os custos e os riscos para o paciente.


Novos Problemas

Evidentemente, a existência de programas desse tipo coloca problemas éticos bastante difíceis de serem solucionados, principalmente agora que eles estão começando a ser difundidos para a população em geral, através de sistemas como videotexto, redes de computadores pessoais, software para microcomputadores, etc. Recentemente, uma empresa anunciou, nos EUA, um programa chamado CyberDoctor ("doutor cibernético"), que pode dar consultas médicas sobre qualquer área da atenção primária, através de uma rede de computadores acessada por quase 2 milhões de usuários leigos...

O primeiro problema se refere à responsabilidade ética por erros de software. De quem é a responsabilidade se um erro em um programa de diagnóstico, por exemplo, leva à morte ou prejuízo para a saúde de um paciente ? É do autor do software, de quem o comercializou, ou do profissional de saúde que adotou a solução proposta pelo programa ?

O segundo problema, relacionado em parte ao primeiro, é o de certificação do software. Os norte-americanos e europeus tem discutido ultimamente a necessidade ou não de estabelecer um sistema de certificação de qualidade de produtos de software médico, da mesma maneira como acontece hoje com medicamentos e aparelhos biomédicos (de responsabilidade de órgãos como a FDA, nos EUA). O software médico seria análogo a um livro médico, ou é mais parecido com um equipamento biomédico ou um novo medicamento ? As soluções técnicas e legais são totalmente diferentes conforme a postura adotada. Na analogia com um livro, por exemplo, não haveria necessidade de certificação. O responsável final pela decisão é sempre o médico que trata do paciente: não importa se o livro (ou o software) está errado. Posteriormente o médico poder processar judicialmente o autor. Um princípio fundamental, então, é o do identificação ou reconhecimento da autoria. Livros tem autores conhecidos e identificados: o software deveria ter, também. O segundo princípio é o de autoridade, ou seja, a credibilidade da informação contida no livro, ou no software, é relacionada diretamente à da autoridade reconhecida do autor. Decorre naturalmente a exigência de competência profissional, ou seja, um software de decisão em saúde deve necessariamente contar com autor(es) profissionais no domínio do software (médicos, por exemplo), assim como uma empresa farmacêutica deve contar com um farmacêutico responsável em cada medicamento, e um laboratório de análises, com um biomédico ou médico responsável perante a lei.

Já na analogia com um dispositivo médico, o software deveria ser extensamente testado e aprovado por uma equipe de profissionais especializados, contra um banco exaustivo de possibilidades. Só depois disso sua comercialização e distribuição deveria ser aprovada. Além disso, um software médico, por exemplo, somente poderia ser utilizado por outro médico, em analogia com a prescrição médica de drogas. Constituiria transgressão da lei confiar um software de auxílio à decisão médica a um leigo.


As Soluções Existem

Contra a primeira proposta, existem poucos argumentos desfavoráveis, a não ser que ela não resolve satisfatoriamente o problema da responsabilidade ética. De qualquer forma, é uma abordagem perfeitamente viável. A certificação poderia ser opcional, ou seja, algo como um selo de qualidade, conferido por uma comissão profissional (Underwood Laboratories, nos EUA, Technische Ueberwachungsverein, na Alemanha, etc. Não temos uma estrutura semelhante no Brasil, infelizmente, mas deveríamos tê-la), e que poderia ser constituída no seio da Sociedade Brasileira de Informática em Saúde, na AMB, na UNIMED, etc. Isso levaria à uma seleção natural do software mais competente, pelo usuário.

Quanto à segunda proposta, agradável aos olhos dos que acham necessário regular todos os aspectos de funcionamento da sociedade, existem muitos obstáculos. A qualidade geral de um software é relativamente fácil de determinar. A ausência de erros, entretanto, é quase impossível, principalmente quando o software tem milhões de caminhos possíveis, e seu comportamento não pode ser predito por nenhuma técnica atual (é o caso dos sistemas "expert"). A longa burocracia, além disso, inviabilizaria a maioria dos produtos de software, que já tem vida muito limitada em um ambiente de acelerado progresso tecnológico.

Acho que pouca gente duvida, entretanto, que algo deve ser feito para prevenir a proliferação de softwares de apoio à decisão contendo erros, e que, principalmente, deve ser regulamentado qual é o tipo de software pode ser ofertado à população leiga. Em maio deste ano, ocorrerá um seminário especial na Faculdade de Medicina de Harvard, em Boston, EUA, especificamente para discutir questões como esta, ou seja, onde a Informática Médica tangencia o paciente diretamente, e que benefícios e prejuízos esta tendência poderá trazer.


E o Brasil ?

No Brasil, evidentemente, estas preocupações ainda não chegaram ao seio das associações científicas e éticas responsáveis pelo uso de dispositivos de auxílio ao trabalho médico. Em um projeto destinado a promover o desenvolvimento da Informática Médica no Brasil, elaborado pelo Ministério de Ciência e Tecnologia em 1988 (e que, infelizmente, ficou sepultado em algumas gavetas burocráticas por aí), esse assunto foi examinado de perto, por uma subcomissão da qual fiz parte, e pela qual fui responsável como relator. O parecer final fez algumas recomendações interessantíssimas sobre o software de apoio à decisão em Medicina, que valeria a pena reexaminar. Uma delas é que esse tipo de software aplicativo, para fins de registro no INPI (Instituto Nacional de Propriedade Industrial) ou para a aquisição por órgãos públicos ou semi-públicos, deveria ter, entre seus autores responsáveis, um profissional de saúde especializado na sua área de domínio, bem como identificar claramente os autores e sua localização.

Outra recomendação interessante é a de que o go-verno deveria estabelecer um sistema de certificação opcional de software de aplicação em saúde (selo de qualidade), através de uma comissão profissional qualificada, implementada através de Conselhos ou Sociedades profissionais, tais como Conselho Federal de Medicina, Associação Brasileira de Medicina, Sociedade Brasileira de Informática em Saúde, etc. Uma lista do software testado e certificado seria divulgada periodicamente através de órgãos de circulação dirigida para médicos. A Organização Mundial da Saúde e a Comunidade Econômica Européia já estão se movimentando nesse sentido. Recentemente, fiz parte de uma comissão da OMS que está propondo a criação de um Centro Internacional para Certificação de Software em Saúde, a ser sediado na Itália.

Ninguém está realizando, aqui no Brasil, estudos para a inclusão de normas de deontologia médica relativas à responsabilidade de erros médicos incorridos por defeitos de software de aplicação em saúde. Essa é uma área que exige ação urgente, pois dentro em breve, esse tipo de software estará também tendo grande difusão em nosso meio, muitos deles elaborados de forma tecnicamente incompetente. Os médicos usuários não tem condições de avaliar individualmente a proficiência técnica desses problemas, portanto algo precisa ser feito.

Além disso, o fato desses programas terem um desempenho superior ao da maioria dos médicos coloca uma série de problemas sérios no campo da ética profissional. Como o juramento de Hipócrates obriga o médico a dar o melhor tratamento possível ao paciente, como ficaria a questão da obrigatoriedade do uso desses softwares ? Um dos primeiros softwares de apoio à decisão médica estudados com detalhe foi um desenvolvido em Manchester, Inglaterra, por um cirurgião chamado De Dombal. Ele provou que o programa, que tinha o objetivo de diagnosticar a causa de urgências abdominais, acertava muito mais do que um residente ou até de um médico assistente, tendo desempenho semelhante ao de uma junta médica. Seu uso sistemático nos pronto-socorros da cidade de Manchester, comprovadamente diminuiu em mais de 20 % a necessidade de laparotomia exploratória. O uso do programa tornou-se, então, obrigatório, em muitos hospitais. Em outro caso recente, um software desenvolvido por meu grupo na Universidade Estadual de Campinas, é capaz de acertar 90 % dos prognósticos de mortalidade de 12 meses de pacientes com insuficiência cardíaca congestiva do tipo dilatado. Os médicos somente acertam 78 %. Com tamanha proficiência, o software poderia ser utilizado rotineiramente para priorizar listas de candidatos à transplante, para orientar o paciente quanto ao prognóstico de sua doença, etc.

Um fato nos chama a atenção, com relação a este tema. Nos EUA, já começaram a ocorrer os primeiros casos de pacientes que ganham processos de imperícia médica contra hospitais ou profissionais que não usaram computadores para garantir a melhor tecnologia de diagnóstico e terapia. Um hospital perdeu um processo, por não ter registros médicos computadorizados em sua UTI, e a família de um paciente processou um oncologista porque ele não informou o prognóstico extremamente conservador para um dos seus pacientes, levando-o a um sofrimento prolongado e a um tratamento muito caro, ambos desnecessários. O acesso da população leiga a softwares sofisticados de apoio à decisão médica tem um enorme potencial para agravar esses problemas.

Temo que se a classe médica não se mobilizar para entender melhor e propor soluções para esses dilemas, acabará sendo ultrapassada pelos fatos criados pelo acelerado desenvolvimento tecnológico da Inteligência Artificial.


Para Saber Mais

SEI (Secretaria Especial de Informática, MCT) - Plano de Desenvolvimento do Setor de Informática em Saúde. Brasília, DF, agosto de 1988.


Voltar à HomePage Voltar ao Índice de Artigos Enviar email p/o Editor
Copyright (c) 1995 Renato M.E. Sabbatini