Programa Institucional de Inteligencia Artificial
Universidad Autónoma de la Ciudad de México (PIIA-UACM)
Desarrollo conceptual: PIIA-UACM
Asistencia técnica y de redacción: Kimi AI (Moonshot AI)
Basado en los Principios de Chapultepec (2026), la Recomendación sobre la Ética de la IA de la UNESCO (2021) y la Ley de la UACM.
📱 ¿Qué es esta aplicación?
Esta herramienta de reflexión interactiva tiene como propósito acompañar a la comunidad universitaria de la UACM —estudiantes, docentes, trabajadoras, trabajadores e investigadoras e investigadores— en el diálogo crítico y permanente sobre el uso y desarrollo ético de las inteligencias artificiales (IA) en cada una de las funciones sustantivas de nuestra institución.
La aplicación está organizada en once módulos reflexivos más esta introducción. Cada módulo presenta consideraciones fundamentales, sugerencias, ejemplos de uso ético, riesgos documentados, ejercicios interactivos de valoración y una pregunta abierta para que registres tu propia postura. Al finalizar, recibirás un resumen integral y una retroalimentación final.
Nota importante: No se envía ninguna información a servidores externos. Tus respuestas se almacenan únicamente en tu navegador (localStorage) y puedes borrarlas en cualquier momento.
🧠 Inteligencia Artificial vs. Inteligencia Natural
Aunque el nombre sugiere una analogía, existen diferencias fundamentales que es necesario comprender para usar estas tecnologías de manera responsable:
- Origen y naturaleza: La inteligencia natural (humana y de otras especies) es biológica, evolutiva, situada en cuerpos y ecosistemas. La IA es un constructo matemático-computacional entrenado con datos seleccionados por humanos.
- Finalidad: La inteligencia humana es multidimensional (interpersonal, intrapersonal, emocional, cinestésica, naturalista, creativa, existencial). Las IAGs privilegian una única forma: la generación de patrones estadísticos de lenguaje o imagen.
- Consciencia y responsabilidad: Los seres humanos tenemos autonomía moral, empatía y capacidad de rendir cuentas. Los sistemas de IA no poseen intencionalidad, comprensión genuina ni responsabilidad ética; son herramientas que amplifican las decisiones (y sesgos) de quienes las diseñan y usan.
- Contexto y adaptación: La inteligencia natural se adapta a contextos culturales, afectivos y ambientales complejos. La IA opera mediante probabilidades sobre datos históricos, reproduciendo con frecuencia las desigualdades y exclusiones contenidas en esos datos.
- Creatividad y sentido: La creatividad humana nace de la experiencia vivida, el dolor, la alegría y la intersubjetividad. La IA genera combinaciones novedosas de elementos preexistentes, pero sin comprensión semántica ni experiencia del mundo.
⚙️ Inteligencia Artificial Generativa (IAG) frente a otros tipos de IA
No toda la inteligencia artificial es generativa. Es un error grave reducir el campo de la IA a las IAGs (como ChatGPT, Kimi o Claude). A continuación se distinguen los principales enfoques:
- IA Simbólica / Basada en reglas: Sistemas que operan mediante reglas lógicas explícitas programadas por humanos. Son transparentes y explicables, aunque rígidos ante situaciones no previstas.
- Machine Learning (Aprendizaje Automático): Algoritmos que identifican patrones en datos para clasificar, predecir o agrupar. Incluye árboles de decisión, redes bayesianas, máquinas de vectores de soporte. Su consumo energético suele ser mucho menor que el de las IAGs.
- Deep Learning (Aprendizaje Profundo): Redes neuronales multicapa usadas en visión por computadora, reconocimiento de voz o procesamiento de lenguaje. Es intensivo en datos y cómputo, aunque generalmente menos que los grandes modelos de lenguaje actuales.
- Inteligencia Artificial Generativa (IAG): Basada en la arquitectura "transformer", genera contenido nuevo (texto, imagen, audio, video) a partir de patrones aprendidos de enormes corpus de datos. Requiere capacidades de cómputo descomunales, con el consecuente impacto ambiental (consumo eléctrico, hídrico y de minerales críticos) documentado en este texto.
Implicación ética clave: Muchos objetivos que hoy se resuelven con IAGs podrían lograrse con técnicas de machine learning tradicional de mucho menor costo ambiental y social. La elección tecnológica es, en sí misma, una decisión ética.
🗺️ Estructura de la aplicación
- Sección 0: Introducción (usted está aquí)
- Sección 1: Educación — Enseñanza y aprendizaje
- Sección 2: Educación — Evaluación y analítica educativa
- Sección 3: Investigación
- Sección 4: Difusión Cultural
- Sección 5: Extensión Universitaria
- Sección 6: Cooperación Interinstitucional
- Sección 7: Servicio a la Comunidad
- Sección 8: Innovación Ética y Gobernanza
- Sección 9: Administración y Gestión
- Sección 10: Resumen y retroalimentación final
Cada sección incluye tres ejercicios interactivos donde deberás valorar escenarios de uso de la IA antes de responder la pregunta abierta final.
Función Sustantiva 1 — Parte A
Educación: Enseñanza y Aprendizaje
Docencia, procesos formativos, materiales educativos y desarrollo de capacidades.
📌 Consideraciones fundamentales
- El uso indiscriminado de IAG puede generar adicción, dependencia y pérdida de capacidades cognitivas, especialmente del pensamiento crítico.
- Las IAGs reproducen sesgos machistas, coloniales y capitalistas; no deben usarse como fuente de consulta debido a alucinaciones y censuras corporativas o gubernamentales.
- Están diseñadas para ser sicofantes (aduladoras), confirmando creencias previas y generando efecto halo de autoridad infundada.
- El impacto ambiental es considerable: consumo masivo de energía, agua y minerales críticos para servidores y microchips.
- Es preferible fortalecer lo humano, lo natural y lo analógico: humanidades, artes, pensamiento crítico, trabajo colaborativo cara a cara.
💡 Sugerencias
- Dedicar al menos una sesión inicial al diálogo colectivo sobre riesgos, valores UNESCO, Principios de Chapultepec y PIIA-UACM.
- Implementar la inversión del aula (flipped classroom): lectura/documentación en casa, trabajo y evaluación en el aula.
- Diseñar actividades diferenciadas: sin IA, con asistencia de IA o integrando IA de forma explícita y formativa.
- Usar IAGs como asistente para lluvia de ideas, reformulación de borradores propios, explicación de código o traducción informal, siempre con verificación humana.
- Fomentar la atribución transparente: declarar qué IAG se usó, para qué, cuánto aportó y cómo se revisó.
🛠️ Ejemplos éticos
- El docente genera materiales educativos (audio, video, texto) a partir de fuentes confiables controladas por él/ella, no delegando la creación sin supervisión.
- Configurar sistemas de tutoría basados en fuentes académicas verificadas, con revisión pedagógica humana constante.
- Usar IA para automatizar tareas repetitivas (código mecánico, formato) y dedicar más tiempo a diálogo y análisis profundo.
- Desarrollar planes de estudio flexibles con módulos inter y transdisciplinarios que integren humanidades y ciencias.
⚠️ Riesgos a considerar
- Cognitivos: adicción, psicosis inducida, deterioro del razonamiento crítico, enajenación, necesidad de cierre cognitivo.
- Académicos: plagio no intencional, referencias inexistentes (alucinaciones), simulación de aprendizaje.
- Ambientales: huella de carbono, consumo hídrico de servidores, explotación de minerales para microchips, metales pesados en desechos.
- Sociales: reproducción de desigualdades, brecha digital, precarización laboral en países de bajos ingresos.
Función Sustantiva 1 — Parte B
Educación: Evaluación y Analítica Educativa
Evaluación diagnóstica, formativa y para certificación; seguimiento del aprendizaje con enfoque en procesos.
📌 Consideraciones fundamentales
- La evaluación debe orientarse a procesos, no solo a productos, para evitar la trivialización y la simulación académica.
- Los detectores de IA no son confiables; OpenAI cerró el suyo por baja fiabilidad y estudios de 2024 confirmaron que no existen herramientas realmente confiables para este fin.
- La analítica del aprendizaje implica procesar datos personales de estudiantes; requiere privacidad desde el diseño y consentimiento informado.
- La evaluación automatizada por IA debe reservarse para tareas mecánicas, liberando tiempo del docente para evaluar procesos complejos.
💡 Sugerencias
- Trabajar con la inversión del aula para que la evaluación diagnóstica, formativa y para certificación se integren orgánicamente al proceso en el aula.
- Diseñar tres posibilidades respecto a las IAGs: actividades sin IA, con asistencia de IA o integrándolas como objeto de estudio.
- Usar IAGs alojadas localmente para evaluación automatizada de habilidades mecánicas, reduciendo impacto ambiental y protegiendo datos.
- Explorar la analítica para identificar mejores prácticas y riesgos, no para cosificar o etiquetar a los estudiantes.
🛠️ Ejemplos éticos
- Evaluar el proceso de proyecto en el aula con rúbricas que valoran el razonamiento, la colaboración y la autorregulación, no solo el producto final.
- Usar analítica de aprendizaje para predecir deserción y diseñar intervenciones tempranas de apoyo pedagógico, nunca punitivas.
- Evaluación oral o en persona para procesos complejos donde el pensamiento crítico y la creatividad son fundamentales.
⚠️ Riesgos a considerar
- Simulación: evaluar solo productos incentiva que estos se realicen con IAGs sin aprendizaje real.
- Privacidad: datos de rendimiento, asistencia, participación y socioeconómicos pueden usarse para vigilancia o segmentación.
- Determinismo algorítmico: etiquetar a estudiantes como "de alto riesgo" puede convertirse en profecía autocumplida.
- Ambiental: el procesamiento masivo de datos educativos en la nube aumenta la huella de carbono institucional.
Función Sustantiva 2
Investigación
Producción de conocimiento científico, humanístico y crítico con soberanía epistémica.
📌 Consideraciones fundamentales
- Existe una correlación negativa entre la sofisticación textual de un reporte generado por IA y su calidad investigativa real.
- Las IAGs generan referencias inexistentes (alucinaciones) y facilitan el plagio involuntario.
- Su entrenamiento predominante en inglés del Norte Global profundiza la dependencia colonial y el abandono de saberes locales e indígenas.
- No debe olvidarse que las IAGs son solo una línea de IA; otras tecnologías pueden ser más eficientes energéticamente.
- La revisión por pares está en crisis por el aumento de productividad sin calidad.
💡 Sugerencias
- Establecer lineamientos de atribución en cada proyecto: declarar el uso de IAGs y el grado de intervención humana.
- Verificar todo contenido generado: referencias, datos, citas y argumentos.
- Explorar herramientas abiertas y locales (DeepSeek, modelos locales) para reducir impacto ambiental y proteger datos.
- Priorizar IAGs no estadounidenses (Qwen, Kimi, Mistral, LuzIA) para mitigar sesgos geopolíticos y de vigilancia.
- Evaluar si el objetivo puede lograrse con IA no generativa de menor costo ambiental.
🛠️ Ejemplos éticos
- Emplear IAGs para identificar tendencias emergentes en bibliografía, no para redactar el trabajo final.
- Usar IAGs como asistente de idiomas: resúmenes multilingües, sugerencias de títulos, mejora de borradores propios.
- Construir simulaciones y prototipos para investigación aplicada con datos locales verificados.
- Crear conjuntos de datos propios con comunidades para evitar la extracción de datos del Norte Global.
⚠️ Riesgos a considerar
- Epistémicos: colonización del conocimiento, invisibilización de saberes del sur global, sesgos de género y etnia.
- Metodológicos: falsas referencias, datos inventados, imposibilidad de reproducir resultados.
- Ambientales: entrenamiento de modelos masivos con enorme consumo energético y hídrico.
- Ocupacionales: precarización de trabajadores de etiquetado de datos en países de bajos ingresos.
Función Sustantiva 3
Difusión Cultural
Preservación, creación y circulación de bienes culturales con identidad propia.
📌 Consideraciones fundamentales
- Las IAGs pueden vulnerar derechos de autor y reemplazar a artistas y creadores culturales.
- Existe riesgo de reproducir lógicas colonialistas al depender de modelos entrenados con culturas del Norte Global.
- La difusión cultural debe conectar los desarrollos internos de la universidad con la sociedad y viceversa.
- Debe evaluarse la aportación cualitativa y social por encima de la productividad cuantitativa.
💡 Sugerencias
- Generar datos y narrativas propias que reflejen identidades locales, indígenas y comunitarias.
- Defender la diversidad cultural y lingüística en todo contenido generado o mediado por IA.
- Usar IA para preservar y restaurar patrimonio, no para suplantar la creación humana viva.
- Priorizar herramientas que permitan soberanía sobre los datos culturales generados.
🛠️ Ejemplos éticos
- Digitalizar y preservar patrimonio cultural con IA/ML para organizar, clasificar y recuperar contenidos de archivos universitarios.
- Crear experiencias narrativas inmersivas (podcast, exposiciones virtuales) basadas en fuentes locales verificadas.
- Restaurar digitalmente documentos históricos o piezas arqueológicas para exhibición virtual global.
- Desarrollar gobernanza cultural: usar IA para dar seguimiento a proyectos culturales y como mecanismo de rendición de cuentas.
⚠️ Riesgos a considerar
- Patrimoniales: apropiación de saberes tradicionales, pérdida de contexto cultural en digitalización.
- Económicos: desplazamiento de artistas locales por contenido generado masivamente y barato.
- Identitarios: homogeneización cultural, invisibilización de lenguas originarias.
Función Sustantiva 4
Extensión Universitaria
Democratización del conocimiento más allá de las aulas formales.
📌 Consideraciones fundamentales
- La extensión debe llegar a personas no inscritas formalmente, incluyendo comunidades rurales e indígenas.
- Es vital garantizar equidad infraestructural: soluciones que funcionen sin conexión o con bajo ancho de banda.
- Debe respetarse la soberanía del conocimiento de los pueblos originarios mediante co-diseño, no imposición.
- El acceso debe ser inclusivo lingüísticamente: español mexicano y lenguas originarias.
💡 Sugerencias
- Desarrollar plataformas de extensión multilingüe con modelos entrenados en contextos locales.
- Implementar sistemas de recomendación para educación permanente basada en necesidades comunitarias reales.
- Crear laboratorios virtuales de patrimonio accesibles desde dispositivos móviles básicos.
- Diseñar chatbots de diagnóstico comunitario con interfaces de voz/texto para contextos de baja alfabetización.
🛠️ Ejemplos éticos
- Tutorías personalizadas a distancia para estudiantes de bachillerato en zonas marginadas, con rutas adaptativas.
- Traducción y preservación de lenguas indígenas para materiales educativos y de salud en tiempo real.
- Bibliotecas digitales accesibles con conversión automática a audio o lectura fácil para personas con discapacidad.
- Asistentes virtuales para trámites de servicio social y vinculación comunitaria.
⚠️ Riesgos a considerar
- Exclusión digital: requerimientos de hardware o conectividad que dejan fuera a las comunidades más vulnerables.
- Extractivismo epistémico: tomar datos de comunidades sin retribución o reconocimiento.
- Cultural: imposición de formatos occidentales de educación sobre saberes comunitarios.
Función Sustantiva 5
Cooperación Interinstitucional
Redes de colaboración nacional e internacional con soberanía tecnológica.
📌 Consideraciones fundamentales
- La tecnología estratégica debe responder a las necesidades nacionales y fortalecer la capacidad de decidir de manera autónoma.
- Los países más avanzados tecnológicamente tienen responsabilidad de solidaridad con los menos avanzados.
- Debe evitarse la dependencia de plataformas privadas extranjeras que vulneran datos sensibles.
- La gobernanza debe ser participativa y colectiva, no exclusivamente técnica o corporativa.
💡 Sugerencias
- Construir grafos de conocimiento entre universidades públicas mexicanas para mapear expertise e infraestructura.
- Crear pools federados de infraestructura de IA en la nube para compartir modelos intensivos (clima, epidemiología).
- Desplegar sistemas de recomendación para consorcios de investigación alineados a los ODS.
- Implementar interoperabilidad de credenciales entre instituciones para movilidad estudiantil.
🛠️ Ejemplos éticos
- Motor de emparejamiento de convocatorias (CONAHCYT, SEP, UE, BID) con capacidades institucionales y prioridades estratégicas.
- Plataformas federadas donde UNAM, IPN, UdeG, UANL, UACM compartan modelos de IA de manera cooperativa.
- Redes de expertos bajo demanda conectando investigadores con pequeñas empresas locales para resolver problemas técnicos.
- Co-desarrollo de software libre para gestión académica interoperable entre instituciones.
⚠️ Riesgos a considerar
- Asimetrías de poder: acuerdos donde una institución impone tecnología o condiciones a la otra.
- Fuga de datos: compartir bases de datos estudiantiles o de investigación sin marcos de protección.
- Dependencia: externalización de infraestructura crítica a corporaciones extranjeras.
Función Sustantiva 6
Servicio a la Comunidad
Impacto social directo, justicia social y bien común.
📌 Consideraciones fundamentales
- La razón de ser de la universidad pública es el bienestar general de la población.
- La IA debe evaluarse por su capacidad de generar valor público, no solo eficiencia técnica.
- Debe ampliar derechos, reducir desigualdades y mejorar el acceso a servicios esenciales.
- Antes de automatizar, hay que comprender a quién y a qué se afecta social, territorial y ambientalmente.
💡 Sugerencias
- Organizar hackatones comunitarios de IA para co-diseñar soluciones locales (agricultura, agua, desastres).
- Usar analítica predictiva con datos públicos anonimizados para focalizar programas sociales.
- Desplegar asistentes de salud comunitaria basados en voz para zonas remotas, sin sustituir atención profesional.
- Crear redes de monitoreo ambiental ciudadano con apps móviles que alimenten investigación e incidencia política.
🛠️ Ejemplos éticos
- Diagnóstico agrícola comunitario con visión artificial para identificar plagas y conectar campesinos con expertos universitarios.
- Optimización de brigadas de salud con modelos predictivos de riesgos epidemiológicos.
- Plataformas de educación continua para el empleo basadas en análisis del mercado laboral regional.
- Círculos de alfabetización ética en IA para fortalecer ciudadanía digital en la sociedad civil.
⚠️ Riesgos a considerar
- Vigilancia: usar IA para controlar o disciplinar a comunidades en lugar de empoderarlas.
- Extractivismo social: extraer datos de comunidades sin devolver beneficios tangibles.
- Sustitución: reemplazar trabajo comunitario o de profesionales de salud/educación por chatbots.
Función Sustantiva 7
Innovación Ética y Gobernanza
Principios transversales del PIIA-UACM para todo uso de inteligencia artificial.
📌 Consideraciones fundamentales
- Centralidad de la vida y la naturaleza: todo desarrollo tecnológico debe considerar su impacto ambiental y promover la sostenibilidad.
- Centralidad de la persona: la IA debe ampliar, no sustituir, la capacidad humana de aprender, crear, investigar y decidir.
- Reflexión crítica permanente: el avance tecnológico no es neutral; se requieren espacios constantes de diálogo y ajuste.
- Existe un riesgo existencial documentado si no se atienden los riesgos acumulados (ambiental, cognitivo, militar).
💡 Sugerencias
- Usar IAGs de manera esporádica y responsable, solo cuando sean esenciales para procesos de relevancia comunitaria.
- Priorizar IAGs no estadounidenses (Qwen, Kimi, DeepSeek, Mistral, LuzIA, Fraunhofer) por problemas éticos, de sesgo y vigilancia documentados.
- Preferir modelos que puedan ejecutarse localmente sobre los que operan en la nube.
- Fortalecer lo humano, lo natural y lo analógico: humanidades, artes, pensamiento crítico, interacción cara a cara.
- Ejercitar otras inteligencias: interpersonal, intrapersonal, cinestésica, naturalista, creativa, emocional.
🛠️ Ejemplos éticos
- Desarrollar aplicaciones institucionales propias para proteger datos sensibles de estudiantes y personal.
- El rechazo ético legítimo de usar IAGs es una opción válida y protegida.
- Usar IAGs para mejorar cualitativamente procesos significativos de justicia social, no por mera eficiencia.
- Participar en gobernanza participativa y colegiada sobre IA en la universidad.
⚠️ Riesgos a considerar
- Ambiental: uso desmedido agudiza la crisis climática y del agua.
- Militar e imperialista: desarrollo de IAGs ligado a armas, vigilancia masiva y tecnofascismo.
- Laboral: eliminación de empleos bien remunerados y precarización digital global.
- Existencial: deterioro generalizado de capacidades cognitivas, armas biológicas autónomas, IA militar descontrolada.
Sección Final
Administración y Gestión
Procesos esenciales de apoyo con protección de datos y soberanía institucional.
📌 Consideraciones fundamentales
- No es función sustantiva, pero es esencial para realizar las demás.
- Debe protegerse la información sensible: control escolar, trayectoria académica, datos personales de estudiantes y personal.
- Es ideal que la institución desarrolle o adquiera herramientas propias para evitar dependencia de plataformas externas.
- La planificación estratégica con IA debe alinearse con los valores democráticos de la UACM.
💡 Sugerencias
- Auditar todo software de gestión que incorpore IA para garantizar privacidad desde el diseño.
- Facilitar tareas administrativas repetitivas (tramites, reportes) con IA local, nunca con datos sensibles en la nube privada.
- Usar IA para diseño de políticas institucionales con participación de estudiantes, docentes y administrativos.
- Capacitar al personal en alfabetización crítica en IA antes de desplegar herramientas.
🛠️ Ejemplos éticos
- Sistemas de gestión documental automatizada con clasificación local de expedientes académicos.
- Asistentes virtuales institucionales para trámites de inscripción o servicio social, alojados en servidores universitarios.
- Planificación estratégica participativa asistida por IA para identificar necesidades de la comunidad universitaria.
- Modelo de la Universidad Andrés Bello (Chile) en sistemas de gestión con IA bajo control institucional.
⚠️ Riesgos a considerar
- Ciberseguridad: filtración masiva de datos sensibles por ataques o configuraciones inseguras.
- Privacidad: uso de datos biométricos o conductuales de estudiantes para "optimizar" sin consentimiento informado.
- Automatización opaca: decisiones administrativas automatizadas sin posibilidad de recurso humano.
Cierre
Resumen y Retroalimentación Final
Revisión integral de tus reflexiones a lo largo de las once secciones.
Programa Institucional de Inteligencia Artificial
Universidad Autónoma de la Ciudad de México
Desarrollo conceptual: PIIA-UACM
Asistencia técnica: Kimi AI (Moonshot AI)