Comité Ético Científico analizó los desafíos del uso de IA en la investigación con personas

Con el propósito de reflexionar en torno a los dilemas que impone la automatización algorítmica en la generación de conocimiento, el Comité Ético Científico Institucional (CEC) de la Universidad Mayor realizó su encuentro anual titulado “IA y Ética en Investigación Científica: desafíos para una ciencia responsable y segura”.

La cita académica, realizada en el auditorio del campus Manuel Montt, congregó a investigadores, académicos, directivos y docentes para abordar la protección de la privacidad de información en estudios con seres humanos, la integridad científica y las implicancias éticas del uso creciente de modelos de lenguaje en la educación superior.

Durante la apertura, la vicerrectora de Investigación, Dra. Susana Cabello, destacó que la tecnología abre nuevas capacidades para abordar problemas complejos y democratizar el acceso a herramientas de análisis en equipos diversos. Sin embargo, advirtió: “Disponer de esta herramienta no elimina por sí solo las desigualdades en el desarrollo científico. La velocidad no siempre equivale a la calidad, así como la disponibilidad de información no garantiza que esta sea verdadera, verificable o pertinente. La IA puede generar resultados convincentes que contengan errores o reproducir sesgos presentes en los datos”.

En esa línea, la autoridad recalcó el rol orientador de las instancias evaluadoras y comentó que la “transparencia sobre el uso de IA, la verificación de los resultados, la protección de los datos y la supervisión humana no son obstáculos para la innovación, sino condiciones indispensables para que esta sea confiable y contribuya efectivamente al avance del conocimiento”.

Acompañamiento académico

El Comité Ético Científico Institucional, creado en 2021 a partir de la fusión de los Comités de ambas sedes, cuenta con una composición representativa que integra a académicos de Santiago y Temuco. Su objetivo es resguardar el bienestar y la seguridad de los participantes en estudios científicos y asegurar el valor social de cada proyecto.

Su presidenta, Natalia Chahín, explicó que la labor de esta instancia “no se limita únicamente a la revisión formal de proyectos; también debemos promover la formación en temas contingentes como este. Hemos evolucionado desde aquella fase en que se percibía al Comité como una traba burocrática, hacia un espacio de asesoría que acompaña a los equipos en el proceso, con el objetivo dealcanzar los más altos estándares de rigor éticos, científicos y legales”.

Y agregó: “Las personas que participan en una investigación no son meras fuentes de datos, sino seres humanos que depositan su confianza en nosotros. En este escenario, la ética de la investigación y la ciberseguridad se articulan dentro de un mismo espacio de responsabilidad para definir qué información podemos ingresar a una base y cómo la resguardamos”.

Charlas

El programa consideró dos ponencias magistrales. La primera, “Entre la eficiencia y la integridad: desafíos éticos del uso de IA en investigación científica”, estuvo a cargo de Luis Ortiz Muñoz, coordinador del Centro de Evidencia de la Pontificia Universidad Católica y Director de Cochrane Chile.

El experto abordó la presión que enfrentan los equipos por elevar su volumen de publicaciones ante herramientas que aceleran los procesos de redacción y búsqueda.

“Existe una paradoja, porque quienes usan estas tecnologías pueden llegar a publicar significativamente más rápido. Sin embargo, la responsabilidad no se puede delegar. La IA debe actuar como un copiloto en el flujo de trabajo, pero los autores deben garantizar la trazabilidad de la información, transparentar en qué etapas metodológicas se recurrió a ella y resguardar que los datos de los participantes estén efectivamente anonimizados antes de cualquier procesamiento digital”, dijo.

Posteriormente, el director del Centro de Investigación en Ciberseguridad (CICS) de la Universidad Mayor, Dr. Cristian Barría, expuso la conferencia “IA y ciberseguridad en investigación con seres humanos: protección de datos, privacidad y responsabilidad científica”.

La jornada concluyó con un conversatorio dirigido por Natalia Chahín, que concluyó con la siguiente reflexión: “La IA llegó para quedarse. El desafío ahora es incorporarla de manera responsable, protegiendo la integridad científica, los datos, la ciberseguridad y por sobre todo los derechos, la dignidad y el bienestar de las personas que participan en investigación”. En este conversatorio se respondieron preguntas del público y se delinearon criterios institucionales para el diseño de futuros protocolos científicos seguros.