Antecedentes: La investigación en inteligencia artificial incorporada (IA) tiene una relevancia clínica cada vez mayor para aplicaciones terapéuticas en servicios de salud mental. Con innovaciones que van desde los «psicoterapeutas virtuales» hasta los robots sociales para el cuidado de la demencia y el autismo, pasando por los robots para los trastornos sexuales, los agentes virtuales y robóticos con inteligencia artificial están asumiendo cada vez más intervenciones terapéuticas de alto nivel que solían ser ofrecidas exclusivamente por personas altamente capacitadas y capacitadas. profesionales de la salud. Para permitir una implementación clínica responsable, es necesario identificar y abordar las implicaciones éticas y sociales del uso cada vez mayor de la IA incorporada en la salud mental.
Objetivo: Este artículo evalúa las implicaciones éticas y sociales de traducir aplicaciones de IA incorporadas en la atención de salud mental en los campos de la psiquiatría, la psicología y la psicoterapia. Sobre la base de este análisis, desarrolla un conjunto de recomendaciones preliminares sobre cómo abordar los desafíos éticos y sociales en las aplicaciones actuales y futuras de la IA incorporada.
Métodos: Sobre la base de una búsqueda de literatura temática y principios establecidos de ética médica, se realizó un análisis de los aspectos éticos y sociales de las aplicaciones de IA actualmente incorporadas en los campos de la psiquiatría, la psicología y la psicoterapia. Para permitir una evaluación integral, el análisis se estructuró en torno a los tres pasos siguientes: evaluación de los beneficios potenciales; análisis de cuestiones y preocupaciones éticas generales; discusión de cuestiones éticas y sociales específicas de las intervenciones.
Resultados: Desde una perspectiva ética, los beneficios importantes de las aplicaciones de IA incorporada en la salud mental incluyen nuevos modos de tratamiento, oportunidades para involucrar a poblaciones de difícil acceso, una mejor respuesta de los pacientes y liberación de tiempo para los médicos. Las cuestiones y preocupaciones éticas generales incluyen: la prevención de daños y diversas cuestiones de ética de los datos; falta de orientación sobre el desarrollo de aplicaciones de IA, su integración clínica y la formación de profesionales de la salud; ‘lagunas’ en los marcos éticos y regulatorios; el potencial de uso indebido, incluido el uso de tecnologías para reemplazar servicios establecidos, lo que podría exacerbar las desigualdades en salud existentes. Los desafíos específicos identificados y discutidos en la aplicación de la IA incorporada incluyen: cuestiones de evaluación de riesgos, remisiones y supervisión; la necesidad de respetar y proteger la autonomía del paciente; el papel de la terapia no humana; transparencia en el uso de algoritmos; y preocupaciones específicas sobre los efectos a largo plazo de estas aplicaciones en la comprensión de la enfermedad y la condición humana.
Conclusiones: Sostenemos que la IA incorporada es un enfoque prometedor en todo el campo de la salud mental; sin embargo, se necesita más investigación para abordar las preocupaciones éticas y sociales más amplias de estas tecnologías para negociar las mejores prácticas médicas y de investigación en atención de salud mental innovadora. Concluimos indicando áreas de investigación futura y desarrollando recomendaciones para áreas de alta prioridad que necesitan una orientación ética concreta.