Show simple item record

The ethical risks and solutions of the algorithm black box in medical artificial intelligence

Los riesgos éticos y las soluciones de la caja negra algorítmica en la inteligencia artificial médica;
Os riscos e soluções éticas da caixa preta algorítmica em inteligência artificial médica

dc.creatorQinggui, Hu
dc.creatorXiuqiong, Tang
dc.creatorHui, Chen
dc.creatorJinsong, Wang
dc.date2025-04-06
dc.date.accessioned2025-05-07T14:06:14Z
dc.date.available2025-05-07T14:06:14Z
dc.identifierhttps://actabioethica.uchile.cl/index.php/AB/article/view/78363
dc.identifier.urihttps://revistaschilenas.uchile.cl/handle/2250/252148
dc.descriptionThe application of artificial intelligence (AI) in the medical industry is becoming increasingly widespread. Relying on its powerful machine-learning capabilities, it has gradually become an important auxiliary diagnostic device. At the same time, it gradually has a certain degree of autonomy. But this also leads to the problem of lack of transparency in algorithms. A critical ethical issue known as the “algorithmic black-box” problem has emerged. For the ethical challenges associated with the opacity of medical artificial intelligence algorithms, enabling artificial intelligence systems to have reasoning and moral judgment abilities, namely constructing medical artificial moral agents, has been proposed as a viable solution. This article analyzes the solutions of constructing medical artificial moral agents including “top-down” and “bottom-up” approaches. After that, the new hybrid ethical design approach is proposed, integrating the advantages of both top-down and bottom-up approaches.en-US
dc.descriptionLa aplicación de la inteligencia artificial (IA) en la industria médica se está extendiendo cada vez más. Basándose en sus potentes capacidades de aprendizaje automático, se ha convertido gradualmente en un importante dispositivo auxiliar de diagnóstico y, al mismo tiempo, de forma gradual, con cierto grado de autonomía. Pero esto también conduce al problema de la falta de transparencia en los algoritmos y, debido a esta situación, ha surgido un cuestionamiento ético crítico, conocido como el problema de la “caja negra algorítmica”. Para los desafíos éticos asociados con la opacidad de los algoritmos de inteligencia artificial médica se ha propuesto como solución viable permitir que los sistemas de inteligencia artificial tengan capacidades de razonamiento y juicio moral, es decir, construir agentes morales artificiales médicos. Este artículo analiza las soluciones para construirlos, incluidos los enfoques “de arriba hacia abajo” y “de abajo hacia arriba”. Después de eso se propone el nuevo enfoque de diseño ético híbrido, que integra las ventajas de ambos enfoques.es-ES
dc.descriptionA aplicação de inteligência artificial (IA) na indústria médica está se tornando amplamente difundida. Contando com poderosos recursos de aprendizado de máquina, ela gradualmente ase tornou um importante dispositivo auxiliar de diagnóstico. Ao mesmo tempo, ela gradualmente tem um certo grau de autonomia. Mas isso também leva ao problema de uma falta de transparência em algoritmos. Um aspecto ético crítico conhecido como o problema da “caixa preta algorítmica” emergiu. Para os desafios éticos associados com a opacidade dos algoritmos de inteligência artificial médica, permitir que os sistemas de inteligência artificial tenham capacidade de raciocínio e julgamento moral, nomeadamente a construção de agentes morais artificiais médicos, foi proposto como uma solução viável. Esse artigo analisa as soluções de construção de agentes morais artificiais médicos, incluindo abordagens “de cima para baixo” e “de baixo para cima”. Depois disso, a nova abordagem de planejamento ético híbrido é proposta, integrando as vantagens de ambas abordagens de cima para baixo e de baixo para cima.pt-BR
dc.formatapplication/pdf
dc.languageeng
dc.publisherUniversidad de Chile. Centro Interdisciplinario de Estudios en Bioéticaen-US
dc.relationhttps://actabioethica.uchile.cl/index.php/AB/article/view/78363/79032
dc.rightsCopyright (c) 2025 Hu Qinggui, Tang Xiuqiong, Chen Hui, Wang Jinsongen-US
dc.sourceActa Bioethica; Vol. 31 No. 1 (2025): NARRATIVAS, BIOÉTICA Y MEDICINAen-US
dc.sourceActa Bioethica; Vol. 31 Núm. 1 (2025): NARRATIVAS, BIOÉTICA Y MEDICINAes-ES
dc.source1726-569X
dc.source0717-5906
dc.subjectinteligencia artificial médica, caja negra algorítmica, enfoque de arriba hacia abajo, enfoque de abajo hacia arriba, enfoque híbridoes-ES
dc.subjectmedical artificial intelligence, algorithmic black-box, top-down approach, bottom-up approach, hybrid approachen-US
dc.subjectinteligência artificial médica, caixa preta algorítmica, abordagem de cima para baixo, abordagem de baixo para cima, abordagem híbridapt-BR
dc.titleThe ethical risks and solutions of the algorithm black box in medical artificial intelligenceen-US
dc.titleLos riesgos éticos y las soluciones de la caja negra algorítmica en la inteligencia artificial médicaes-ES
dc.titleOs riscos e soluções éticas da caixa preta algorítmica em inteligência artificial médicapt-BR
dc.typeinfo:eu-repo/semantics/article
dc.typeinfo:eu-repo/semantics/publishedVersion


This item appears in the following Collection(s)

Show simple item record