Gaceta UNAM
Número 5453
Ciudad Universitaria
22 de febrero de 2024
Daniel Robles
Comités de investigación deben certificar la viabilidad de los proyectos ante la falta de regulación: Jennifer Hincapie, directora del PUB
La inteligencia artificial (IA) debe concebirse y reconocerse hoy en día como una herramienta fundamental para el desarrollo de la humanidad, pero es indispensable delimitar sus alcances y limitaciones para evitar que se desarrollen proyectos con sesgos raciales, de género o de pensamiento.
Para la directora del Programa Universitario de Bioética (PUB) de la UNAM, Jennifer Hincapie Sanchez, la IA representa en estos momentos uno de los avances tecnológicos más relevantes que tenemos en el mundo, pues en ella convergen la acumulación de grandes cantidades de datos e información, big data, así como la automatización de procesos sistemáticos y la llamada cuarta revolución en herramientas para la vida.
Destacó que el desarrollo de la inteligencia artificial puede ser tan benéfico o malicioso como nosotros mismos queramos, por lo que el principal reto filosófico que se tiene es delimitar que aquélla pueda llegar a ser una herramienta esencial para el desarrollo, al igual que lo es la ciencia.
“No podemos pensar que la ciencia o la IA pudieran reemplazar al ser humano, toda vez que son herramientas diseñadas para optimizar procesos que impactan nuestro estilo de vida. La tecnología bien empleada sigue arrojando importantes beneficios para mejorar las condiciones de vida de las personas.”
Para determinar los niveles de riesgo, apuntó, lo primero que se debe considerar es que la inteligencia artificial es programada por seres humanos y éste es un factor que puede determinar que su desarrollo tenga sesgos cognitivos específicos.
La especialista comentó que ante la falta de una legislación adecuada que regule el desarrollo óptimo de estas nuevas herramientas, es estrictamente necesario que en el campo de la investigación científica y la academia, todos se apeguen a la declaración que sobre el tema emitió la UNESCO, la cual marca las pautas sobre los límites y alcances que debiera tener el avance de la IA, principalmente en lo que se refiere a la protección de datos personales y el respeto a los derechos humanos.
Advirtió que, ante el vertiginoso avance de la ciencia y la tecnología, que va mucho más rápido que cualquier legislación que pudiera regular sus alcances, se deben explorar nuevos mecanismos de evaluación y certificación para la inteligencia artificial, similares a los que se aplican en desarrollos médicos y de salud, con criterios estrictamente éticos que no traspasen los derechos de las personas.
“Una forma adecuada de regular podría ser mediante los comités de ética en investigación de las diferentes disciplinas, quienes ya conocen cuáles son las necesidades de las poblaciones, pero que también tienen conciencia de hasta dónde puede llegar un avance tecnológico y a partir de ahí, aprobar los mejores proyectos que no representen riesgo.”
Señaló que en el ámbito de la salud la aplicación de la IA es amplísima y ya se viene usando desde hace mucho tiempo. En México ya tenemos un robot llamado Da Vinci que hace cirugías de manera remota, por lo que se puede realizar intervenciones de mínima invasión, lo cual permite que los pacientes se recuperen de manera más efectiva y más rápida.
La inteligencia artificial tiene un gran potencial porque nos puede ayudar a minimizar la brecha de acceso a los servicios médicos:
“Pensemos un poco en las personas que están en la sierra y que necesitan ser revisadas por un especialista, por ejemplo, un dermatólogo que les evalúe un lunar que se ve extraño o sospechoso, entonces puede ser que a través de la inteligencia artificial aplicada en la telemedicina, se pueda hacer una consulta a distancia y emitir un diagnóstico inicial, lo cual ayudaría a minimizar tiempos de espera y permitiría que las personas que requieren de atención, la reciban oportunamente.”
Bienestar de la comunidad
Hincapie Sanchez resaltó que, en el ámbito universitario y académico, el desarrollo de la ciencia y la tecnología y en particular de la inteligencia artificial deben mantener como objetivo principal el bienestar de la comunidad y todos debemos beneficiarnos de ella.
Recordó que, en el caso de la UNAM, la Coordinación de Universidad Abierta, Innovación Educativa y Educación a Distancia ya tiene un curso específico para profesores que orienta sobre la implementación o la utilización de la IA como una herramienta didáctica dentro del aula de clases, con una aplicación efectiva y ética.
Finalmente, resaltó la importancia de mantener ciertas reservas al momento de utilizar los datos generados por la inteligencia artificial, toda vez que al no ser una inteligencia integral como la que tenemos los seres humanos y que además todos los días se está nutriendo de información que proviene de internet y las redes digitales, es susceptible de contener información falsa e imprecisa o, en el peor de los casos, manipulada por intereses políticos o de mercadotecnia.
No hay comentarios:
Publicar un comentario