UDEM idea soluciones contra el mal uso de la IA
Por: Agencia Informativa UDEM
El reportaje de la Agencia Informativa UDEM, titulado Deepfake, ¿cómo enfrentar la amenaza?, muestra los peligros del mal uso de los desarrollos tecnológicos y evidencia la amenaza que significa hoy para las mujeres y las niñas la proliferación de las imágenes, audios o videos falsos que son creados con inteligencia artificial para lucrarse con ellos o desprestigiar a las víctimas.
Estas imágenes, principalmente sexuales, en las que se difama a la mujer, están saturando las redes sociales y hasta el momento no hay un control efectivo sobre ellas ni una regulación que castigue este delito que viola varios derechos.
Independientemente de que exista una ley para regular el tema de los deepfakes y, en general, del uso de la tecnología, la UDEM ha tomado la iniciativa de comenzar el cambio, convencida de que cualquier solución debe empezar a darse desde la formación, la educación y la ética de cada persona.
La Universidad implementó desde el año 2016 una iniciativa, liderada por Marta Sylvia del Río, experta en plataformas digitales, profesora investigadora en la UDEM y directora regional de UXPA (User Experience Professionals Association) en Latinoamérica entre los años 2016 y 2021, con la cual busca concientizar a los alumnos, especialmente a los programadores y desarrolladores informáticos, sobre el potencial daño que pudieran llegar a causar cuando ejerzan su profesión.
«Todos los alumnos que llevan la materia Diseño de Interfases deben presentar como proyecto final un Código de Ética propio. En él dicen a qué se comprometen en el ejercicio de su vida profesional y analizan, por ejemplo, cómo usar la psicología para hacer que una persona dé un clic o para que una empresa venda más, analizan qué hacer y qué no hacer. Es un proyecto personal y cada uno tiene diferentes prioridades, pero la esencia es ayudarlos a reflexionar sobre los riesgos que existen con el uso o mal uso de las tecnologías«, explica la investigadora.
Diseño de Interfases es una materia que se imparte en varias carreras en la UDEM. La llevan Ingeniería en Tecnologías Computacionales (ITC), Ingeniería en Robótica y Sistemas Inteligentes (IRSI), la Licenciatura en Mercadotecnia y Estrategia Creativa (LMEC) y la Licenciatura en Animación y Efectos Digitales (LAED).
«Este proyecto del Código de Ética tendrá importantes repercusiones porque son los ingenieros en Tecnologías Computacionales los que hacen los programas. Ahorita, antes de que programen algo, les estamos inculcando la responsabilidad, la ética, que piensen en las posibles consecuencias, en las implicaciones que tienen las bases de datos, su manejo y el daño que pueden llegar a ocasionar, incluyendo la violación a la privacidad de las personas», afirma la experta.
Del Río explica que aplicaciones tan populares entre los jóvenes, como FaceApp, que permite ver cómo sería la persona en la vejez, o AppLock Face, que usa voz y cara para desbloquear celulares, entre otras, son diseñadas por los ingenieros computacionales o informáticos y pueden conllevar riesgos o peligros para quienes las usen porque se comparten datos biométricos únicos de las personas que pueden llegar a ser usados para otros fines.»Quienes escanean su cara para verse más joven o más viejo están entregando información única de seguridad. Si en el futuro tu banco te dice ‘aumentamos nuestra seguridad y ahora sólo vas a poder entrar a tu cuenta con tu cara’, el problema es que tu cara ya la tiene una aplicación y tú no sabes si compartió tus datos con alguien más», advierte la investigadora.
La dimensión social hace la diferencia
Karen Garza Treviño, alumna de octavo semestre de Ingeniería en Tecnologías Computacionales en la UDEM, dice que, aunque la ética se la inculcan a los alumnos en varias materias y durante el transcurso de la carrera, el Código de Ética, que se realiza desde los primeros semestres, es fundamental porque sienta las bases de su vida académica y profesional.
“Hacer el Código de Ética implica una constante investigación porque la tecnología cambia rápidamente, entonces tenemos que ver cómo se está actualizando para adecuar igualmente su aplicación, ver qué riesgos tienen estos nuevos desarrollos y por qué es importante aplicarlos”, cuenta la alumna.
Karen hizo su Código de Ética sobre la manera correcta y honesta para persuadir al usuario de comprar un producto o servicio. Para esto, estudió el comportamiento de las personas en el momento de comprar. El proyecto de Karen se basó en 15 principios relacionados, entre otros aspectos, con protección de información, regulaciones de las empresas para protección de datos y accesibilidad, es decir, que todas las personas se puedan beneficiar de la tecnología.
“A veces las personas preguntan qué tiene que ver la ética con la programación y yo les digo que la relación entre estas dos ciencias es lo que contribuye a hacer un mundo mejor porque todos los sistemas que desarrollemos deberían tener un beneficio para la sociedad. Si no tenemos en cuenta la ética al momento de programar para, entre otras cosas, proteger los datos de los usuarios, se van a crear sistemas que perjudiquen y no vamos a ser profesionales humanos, que es parte de lo que buscamos en todas las carreras y esto se hace especialmente valioso en aquellas que son tecnológicas”, explica Karen.
Hacer el Código, dice la alumna, les ayuda a dimensionar la responsabilidad social que tienen como programadores porque mucha gente no está ni siquiera informada de los peligros de usar la tecnología, no son conscientes de cómo se podrían manejar sus datos, por lo que un programador que se desempeñe desde una perspectiva humana y ética trabajará para evitar la vulneración o el mal manejo de estos datos.
Karen advierte que la dimensión social de las tecnologías cobra mayor relevancia con el avance de la inteligencia artificial que a veces hace que el desarrollador pueda perder el control sobre las mismas tecnologías que está creando y cita a la socióloga turco-estadounidense Zeynep Tufekci, cuando afirma, frente al avance de la IA, que: “Es como que ya no estamos programando, estamos creando inteligencia que no comprendemos realmente”.
“Después de realizar este proyecto o Código de Ética, los alumnos podemos decidir, conscientemente, en qué tipos de sistemas tecnológicos queremos participar”, afirma Karen.
Rogelio Eduardo Benavides de la Rosa, alumno de octavo semestre de Ingeniería en Tecnologías Computacionales en la UDEM, hizo su Código de Ética basado en la accesibilidad de la tecnología.
“La tecnología debería llegar a todas las personas porque nos facilita la vida, nos ahorra tiempo y nos ayuda en el aprendizaje, entre otras muchas ventajas. Mi proyecto planteó realizar desarrollos tecnológicos, apps o software, que sean utilizables por cualquier persona y esto incluye personas con discapacidad motriz, visual, auditiva o monetaria”, afirma Rogelio.
Por ejemplo, explica el estudiante, los programas que se desarrollen no deben ser pesados porque eso hace que no se puedan utilizar en computadoras de bajos recursos. La accesibilidad tiene que ver con programas que se puedan usar en cualquier computadora y por cualquier persona.
“El 15% del tráfico mundial de la red viene de personas con algún tipo de discapacidad y muchas de ellas son mayores de edad. Nuestro trabajo debe ser desarrollar software para que puedan agrandar la letra, poner una tipografía más legible, que no tengan dificultad para leer y hacer accesibles las apps para que más personas las puedan utilizar. Este es un gran campo de oportunidad que tenemos los desarrolladores”, dice Rogelio.
La tecnología, afirma, siempre se debe crear y usar para beneficiar al mundo, y con transparencia, diciéndole siempre la verdad al usuario. “Lo que hagamos debe ser con el consentimiento de los usuarios, decirles qué se está haciendo con sus datos y que sean capaces de decidir. No forzarlos, por ejemplo, a recibir correos que no desean y que puedan encontrar fácil la opción de desactivar esos envíos que llegan en automático. Debemos crear una interacción ética y de credibilidad y confianza con el usuario y nunca forzarlo a hacer las cosas que nosotros queremos que haga”.
Para Rogelio, la formación ética y responsable del uso de la tecnología debe empezar desde temprana edad porque solo la educación y concientización harán que estas herramientas se usen para el bien de todos.
“Las herramientas están ahí y las personas siempre van a poder elegir entre usarlas para bien o para mal. ¿Para qué se usa un arma? Un policía la usa para brindar seguridad y un delincuente para robar, así que cada persona decide qué hacer con las herramientas que tiene. Por esto es tan importante la educación y la concientización, para que las personas que piensan en usar mal la tecnología sepan lo que podrían causar en la vida de otras”, explica el alumno.
La ética personal, afirma, será la que haga la diferencia entre el desarrollo tecnológico para el bien de la humanidad o el uso de la tecnología para dañar a las personas. “Esta ética que nos están inculcando en la Universidad debe permear a todos los niveles de la sociedad”.
Formar personas críticas, el objetivo
Adicionalmente, para preparar a los jóvenes y ayudarlos en el manejo de la información, tanto de la que reciben como de la que generan, la Universidad imparte desde el otoño de 2021 la materia Retos de la Comunicación Contemporánea en todas sus carreras.
Beatriz Elena Inzunza, profesora del Departamento de Cine y Comunicación, en la Facultad de Educación y Humanidades de la UDEM, dice que el objetivo de esta materia es ayudar a los alumnos a tomar conciencia de las interacciones comunicativas que realizan y guiarlos para que desarrollen un pensamiento crítico en el momento de aceptar o rechazar ciertos mensajes.»Que sepan que cada like representa una contribución a la información porque altera algoritmos y que ellos son usuarios y audiencias de numerosos sitios y redes sociales, por lo que conocer cómo funcionan y cómo se genera la información en ellos les puede ayudar a tomar decisiones conscientes sobre qué tipo de información dan y reciben. Y, de alguna manera, esto será una clase de protección para ellos», explica Inzunza, experta en comunicación y una de las principales impulsoras de este curso en la Universidad.
Con el objetivo de motivar la participación ciudadana y para garantizar un tratamiento informativo adecuado frente a los contenidos presentados, los invitamos a escribir a [email protected] en caso de dudas, aclaraciones, rectificaciones o comentarios.