- El aprendizaje automático es poderoso, pero no es sinónimo de sabiduría, dijo en la XI Reunión Nacional de la Academia Mexicana de Computación
El futuro de la computación entrelazada con la inteligencia artificial (IA) debe construirse con una mirada crítica, plural y siempre situada, no a partir de los sueños de una superinteligencia abstracta, sino de soluciones concretas con impacto social y de servicio del bien común.
Así lo expuso el director del Instituto de Investigaciones en Matemáticas Aplicadas y en Sistemas (IIMAS), Ramsés Mena Chávez, al intervenir en la XI Reunión Nacional de la Academia Mexicana de Computación (Amexcomp) con sede en la UNAM.
Es necesario replantear qué significa enseñar, investigar y crear tecnología, cuando conceptos como la programación (que durante décadas fueron el eje central de la formación y la práctica profesional de la computación) parecen enfrentarse a su propia obsolescencia ante los avances de la automatización y el aprendizaje mecanizado encapsulados en la IA, argumentó.
“Más allá de las herramientas o los lenguajes, la pregunta de fondo es cómo articular el desarrollo tecnológico con una reflexión ética, cómo formar científicas y científicos que comprendan cómo funcionan los sistemas, para quién y con qué consecuencias los construimos”, resaltó.
En el auditorio del IIMAS, Mena Chávez dejó en claro que el aprendizaje automático es poderoso, pero no es sinónimo de sabiduría.
“Nuestra apuesta debe ser entonces por una inteligencia compartida, que no se limite a automatizar tareas, sino que potencie la interacción entre personas y sistemas, que aprenda de múltiples perspectivas y que construya soluciones al servicio del bien común”, propuso.
A decir del experto, la historia y el devenir actual de la IA nos han enseñado que no se trata de crear sistemas totalmente desvinculados del humano, sino de desarrollar tecnologías interdependientes diseñadas desde una corresponsabilidad y diálogo entre disciplinas. La noción de una inteligencia artificial autónoma, ajena a la participación humana, se aleja de cualquier horizonte ético y realista.
¿Riesgos?
En su oportunidad, el presidente de Amexcomp, Eduardo Morales Manzanares, subrayó la importancia de la computación como área transversal.
Está en todos lados, no es difícil imaginar la vida sin un dispositivo computacional en estos días que no esté a nuestro alcance; lo mismo está pasando con estos modelos de la IA, principalmente generativos, que se hicieron públicos y la gente los está utilizando de manera masiva y se están incorporando a la sociedad, refirió.
La gente está usando estos sistemas sin alguna guía clara de cómo hacerlo, ni las posibles consecuencias o peligros potenciales que tienen. Se habla de mejoras en la educación, en la salud, pero hay riesgos claros de que esta tecnología pueda aumentar la brecha entre las personas con recursos y sin ellos, apuntó.
Añadió que también hay una preocupación de cómo está penetrando en los adolescentes, y hay evidencias de que pueden disminuir sus habilidades cognitivas y sociales.
Ramsés Mena alertó: están confiando plenamente en estos sistemas, crean vínculos emocionales y, desafortunadamente, aumentan los casos de personas que atentan contra sí mismas por consultarlos.
En este sentido, sugirió mayor coordinación e implementar acciones, dialogar con el gobierno y la sociedad; promover foros de discusión, realizar intercambios de experiencias, crear material, cursos en línea sobre el uso, retos y los riesgos de esta tecnología.
.jpg){kind=link}