Hola Julian,
Me alegra mucho que saques este tema puesto que desde mi punto de vista es de fundamental importancia. Es cierto que no se aborda en este curso primero porque no es el objetivo del mismo y segundo por la duración pero por eso las discusiones de los chats son interesantes porque intentamos daros información dicional que no podemos cubrir en el tiempo del curso y discutir sobre temas como este.
El uso de la IA puede exacerbar problemas éticos tradicionales, además la IA onlleva sus propias cuestiones éticas, como la equidad, la inclusión, la transparencia, la responsabilidad, la privacidad, la seguridad, la fiabilidad y la protección. Se está trabajando en estas areas y anivel legal. Europa ha ido un paso más allá en la legislación y en la dirección de proteger a las personas de un mal uso de los datos privados se ha creado una nueva legislación Europea sobre el tratamiento general de los datos 2016/679 (GDPR).
En concreto el artículo 17 de la GDPR contempla el derecho de explicación del paciente. Lo que implica que cualquier método de predicción o diagnóstico que resulte de la aplicación de métodos de aprendizaje automático o inteligencia artificial , casi todos, necesita tener una interpretación lingüística que pueda ser entendida tanto por pacientes como por el personal sanitario que lo usa.
Ensuring patient and public involvement in the transition to AI-assisted mental health care: A systematic scoping review and agenda for design justice.
Zidaru T, Morrow EM, Stockley R. Health Expect. 2021 Aug;24(4):1072-1124. doi: 10.1111/hex.13299. Epub 2021 Jun 12.
-------
Hi Julian,
I am very glad you brought up this topic since from my point of view it is of fundamental importance. It is true that it is not addressed in this course firstly because it is not the objective of the course and secondly because of the duration but that is why the chat discussions are interesting because we try to give you ditional information that we cannot cover in the course time and discuss topics like this.
The use of AI can exacerbate traditional ethical issues, plus AI brings its own ethical issues, such as fairness, inclusiveness, transparency, accountability, privacy, safety, reliability and security. Work is ongoing in these areas and at the legal level. Europe has gone a step further in legislation and in the direction of protecting individuals from misuse of private data a new European General Data Processing Legislation 2016/679 (GDPR) has been created.
Specifically Article 17 of the GDPR provides for the patient's right of explanation. Which implies that any predictive or diagnostic method resulting from the application of machine learning or artificial intelligence methods , almost all of them, needs to have a linguistic interpretation that can be understood by both patients and the healthcare staff using it.
Ensuring patient and public involvement in the transition to AI-assisted mental health care: A systematic scoping review and agenda for design justice.
Zidaru T, Morrow EM, Stockley R. Health Expect. 2021 Aug;24(4):1072-1124. doi: 10.1111/hex.13299. Epub 2021 Jun 12.