The application of artificial intelligence (AI) in the medical industry is becoming increasingly widespread. Relying on its powerful machine-learning capabilities, it has gradually become an important auxiliary diagnostic device. At the same time, it gradually has a certain degree of autonomy. But this also leads to the problem of lack of transparency in algorithms. A critical ethical issue known as the “algorithmic black-box” problem has emerged. For the ethical challenges associated with the opacity of medical artificial intelligence algorithms, enabling artificial intelligence systems to have reasoning and moral judgment abilities, namely constructing medical artificial moral agents, has been proposed as a viable solution. This article analyzes the solutions of constructing medical artificial moral agents including “top-down” and “bottom-up” approaches. After that, the new hybrid ethical design approach is proposed, integrating the advantages of both top-down and bottom-up approaches.La aplicación de la inteligencia artificial (IA) en la industria médica se está extendiendo cada vez más. Basándose en sus potentes capacidades de aprendizaje automático, se ha convertido gradualmente en un importante dispositivo auxiliar de diagnóstico y, al mismo tiempo, de forma gradual, con cierto grado de autonomía. Pero esto también conduce al problema de la falta de transparencia en los algoritmos y, debido a esta situación, ha surgido un cuestionamiento ético crítico, conocido como el problema de la “caja negra algorítmica”. Para los desafíos éticos asociados con la opacidad de los algoritmos de inteligencia artificial médica se ha propuesto como solución viable permitir que los sistemas de inteligencia artificial tengan capacidades de razonamiento y juicio moral, es decir, construir agentes morales artificiales médicos. Este artículo analiza las soluciones para construirlos, incluidos los enfoques “de arriba hacia abajo” y “de abajo hacia arriba”. Después de eso se propone el nuevo enfoque de diseño ético híbrido, que integra las ventajas de ambos enfoques.A aplicação de inteligência artificial (IA) na indústria médica está se tornando amplamente difundida. Contando com poderosos recursos de aprendizado de máquina, ela gradualmente ase tornou um importante dispositivo auxiliar de diagnóstico. Ao mesmo tempo, ela gradualmente tem um certo grau de autonomia. Mas isso também leva ao problema de uma falta de transparência em algoritmos. Um aspecto ético crítico conhecido como o problema da “caixa preta algorítmica” emergiu. Para os desafios éticos associados com a opacidade dos algoritmos de inteligência artificial médica, permitir que os sistemas de inteligência artificial tenham capacidade de raciocínio e julgamento moral, nomeadamente a construção de agentes morais artificiais médicos, foi proposto como uma solução viável. Esse artigo analisa as soluções de construção de agentes morais artificiais médicos, incluindo abordagens “de cima para baixo” e “de baixo para cima”. Depois disso, a nova abordagem de planejamento ético híbrido é proposta, integrando as vantagens de ambas abordagens de cima para baixo e de baixo para cima.