pág. 3949
LA INTELIGENCIA ARTIFICIAL COMO RECURSO
EDUCATIVO EN EDUCACIÓN SUPERIOR:
PERSPECTIVAS ÉTICAS SOBRE SU USO
ARTIFICIAL INTELLIGENCE AS AN EDUCATIONAL RESOURCE
IN HIGHER EDUCATION: ETHICAL PERSPECTIVES ON ITS USE
Bethy Margot Castillo Pindo
Universiadad Metropolitana de Educación, Ciencia y Tecnología UMECIT, Panamá
Alexander Jhasmany Calderón Aguirre
Investigador Independiente, Panamá
Manuel Gustavo Humanante Endara
Investigador Independiente, Panamá
Carlos Fernando Chang Dávila
Investigador Independiente, Panamá
Juan Carlos Ojeda Aguirre
Investigador Independiente, Panamá
pág. 3950
DOI: https://doi.org/10.37811/cl_rcm.v8i4.12622
La Inteligencia Artificial como Recurso Educativo en Educación Superior:
Perspectivas Éticas sobre su Uso
Bethy Margot Castillo Pindo1
bethcastillo_86@yahoo.es
https://orcid.org/0000-0001-6879-3009
Universiadad Metropolitana de Educación, Ciencia
y Tecnología UMECIT
Ecuador
Alexander Jhasmany Calderón Aguirre
xana9197@gmail.com
https://orcid.org/0009-0004-9733-5743
Investigador Independiente
Panamá
Manuel Gustavo Humanante Endara
gustavohumanante@hotmail.com
https://orcid.org/0009-0007-2579-2779
Universidad Nacioanl de Educación
Panamá
Carlos Fernando Chang Dávila
carloschangdavila1685@gmail.com
https://orcid.org/0009-0003-4468-0212
Investigador Independiente
Panamá
Juan Carlos Ojeda Aguirre
juankojeda1985@hotmail.com
https://orcid.org/0009-0006-4202-6091
Investigador Independiente
Panamá
RESUMEN
El presente artículo analiza la utilización de la inteligencia artificial (IA) como recurso educativo en
instituciones de educación superior prestando atención primordial al problema que radica en la falta de
comprensión y consenso sobre las implicaciones éticas y los desafíos asociados al uso de la IA en la
educación superior. Este estudio es de alcance exploratorio con un enfoque cualitativo, se emplea un
método teórico analitico-sintetico para el analisis de la información recolectada. La población considera
fueron tres bases de datos: Dialnet, Redalyc y Scielo, con las cuales se llevó a cabo la revision
documental. Entre los principales reultados se tiene 79 documentos analizados a partir de los cuales se
realiza un analisis de los diferentes usos que se da a la IA, y aspectos éticos como el acceso a la IA, la
privacidad y el manejo de los datos de los estudiantes, la automatización de la evaluación y la enseñanza,
así como la posible deshumanización del proceso educativo. En conclusión, realizar un análisis de las
implicaciones éticas del uso de la IA en la educación formal e informal es imprescindible para no sobred
depender de estas tecnologias ni deshumanizar el proceso de enseñanza-aprendizaje.
Palabras clave: inteligencia artificial, educación superior, recurso educativo, uso ético
1
Autor principal
Correspondencia: bethcastillo_86@yahoo.es
pág. 3951
Artificial Intelligence as an Educational Resource in Higher Education:
Ethical Perspectives on Its Use
ABSTRACT
The present article analyzes the use of artificial intelligence (AI) as an educational resource in higher
education institutions, paying primary attention to the problem stemming from the lack of understanding
and consensus regarding the ethical implications and challenges associated with the use of AI in higher
education. This study is exploratory in scope with a qualitative approach, employing an analytical-
synthetic theoretical method for the analysis of the collected information. The population considered
included three databases: Dialnet, Redalyc, and Scielo, through which a documentary review was
conducted. Among the main results, 79 documents were analyzed, from which an analysis of the
different uses of AI was carried out, and ethical aspects such as access to AI, privacy and management
of student data, the automation of assessment and teaching, as well as the potential dehumanization of
the educational process were examined. In conclusion, conducting an analysis of the ethical implications
of using AI in formal and informal education is essential to avoid over-reliance on these technologies
and to prevent the dehumanization of the teaching-learning process.
Keywords: artificial intelligence, higher education, educational resource, ethical use
Artículo recibido 13 julio 2024
Aceptado para publicación: 15 agosto 2024
pág. 3952
INTRODUCCIÓN
En la última década, el avance de la inteligencia artificial (IA) ha transformado diversos sectores,
incluyendo la educación superior. Estas tecnologías prometen revolucionar los métodos tradicionales de
enseñanza y aprendizaje, ofreciendo nuevas herramientas para la personalización de la educación, la
gestión de datos y la automatización de procesos educativos. Sin embargo, con estas oportunidades
también surgen preocupaciones éticas y desafíos que deben ser cuidadosamente considerados para
asegurar un uso responsable y equitativo de la IA en contextos académicos.
El presente artículo explora la utilización de la inteligencia artificial como recurso educativo en
instituciones de educación superior, con un enfoque particular en las perspectivas éticas relacionadas
con su implementación. A medida que las universidades y centros educativos adoptan estas tecnologías,
es fundamental evaluar no solo su efectividad pedagógica, sino también las posibles implicaciones para
la privacidad, la equidad y la justicia social. En este sentido, se hace necesario un análisis exhaustivo
que aborde estos temas y proponga marcos éticos que guíen su integración en el entorno educativo.
La creciente dependencia de la IA en la educación plantea preguntas críticas sobre cómo estas
herramientas afectan a los estudiantes, especialmente en términos de acceso equitativo a recursos
tecnológicos, privacidad de datos y potenciales sesgos en los sistemas algorítmicos. (Buils, et al.2022).
Además, la automatización en la enseñanza y la evaluación puede influir en la relación entre estudiantes
y docentes, y en la calidad del aprendizaje. (Parra, 2022). Por lo tanto, este artículo no solo busca
identificar los beneficios potenciales de la IA en la educación superior, sino también los retos éticos que
deben ser abordados para evitar la deshumanización del proceso educativo y asegurar que estas
tecnologías se utilicen de manera justa y beneficiosa para todos los actores involucrados.
En este sentido, el presente artículo da a concocer un estudio teórico sobre la integración de la
inteligencia artificial (IA) como herramienta educativa en el ámbito de la educación superior, en el cual
se emplea un paradigma crítico-reflexivo. El estudio es desarrollado dentro del contexto ecuatoriano,
por lo cual, la indagación teórica se enmarca en el analisis de publicciones referentes al uso de la IA
como recurso educativo en educación superior dentro de este territorio. El tema central se enfoca en las
implicaciones éticas que surgen con el uso de tecnologías avanzadas en entornos académicos, donde la
IA desempeña un papel cada vez más significativo en procesos de enseñanza y aprendizaje.
pág. 3953
El problema de investigación que se plantea radica en la falta de comprensión y consenso sobre las
implicaciones éticas y los desafíos asociados al uso de la IA en la educación superior. En particular,
existen preocupaciones sobre la equidad en el acceso a estas tecnologías, la privacidad y el manejo de
los datos de los estudiantes, la automatización de la evaluación y la enseñanza, así como la posible
deshumanización del proceso educativo. Este vacío en el conocimiento demanda una investigación que
clarifique cómo estas cuestiones pueden afectar a estudiantes y docentes, y cómo se pueden mitigar
potenciales riesgos.
Abordar este tema es de gran relevancia debido a varias razones. En primer lugar, el uso de la IA en la
educación está en constante crecimiento, transformando significativamente las dinámicas tradicionales
de enseñanza y aprendizaje. (Álvarez y Prieto, 2023). Comprender estas transformaciones es crucial
para evaluar su impacto en la calidad educativa y en la experiencia de los estudiantes. Además, las
cuestiones éticas relacionadas con la IA, como la equidad, la privacidad y los sesgos algorítmicos, son
fundamentales para asegurar que el uso de estas tecnologías no perpetúe desigualdades ni viole derechos
fundamentales.
De igual manera, es legítimo cuestionarse si el uso de la inteligencia artificial y las tecnologías
semánticas relacionadas es ético en la Educación Superior. La inteligencia artificial conlleva preguntas
y acciones sobre asuntos de gran trascendencia ética (a la vez que representa una oportunidad real y
práctica para la formación moral del estudiante). Las situaciones de conflicto ético también surgen como
una oportunidad para establecer las bases de un uso ético de la tecnología; al evitar la respuesta ética,
estamos transmitiendo el mensaje de que la dimensión tecnocientífica es prescindible para juzgar en
ética; contribuyendo así al reconocimiento de la ética de la ciencia de la complejidad.
Adicionalmente, la educación superior tiene el deber de preparar a sus estudiantes y docentes para
interactuar con tecnologías emergentes de manera crítica y ética. Esto incluye no solo habilidades
técnicas, sino también una comprensión profunda de las implicaciones sociales y éticas del uso de la IA.
(Salmerón et al. 2023). En este sentido, el artículo busca contribuir al debate académico y ofrecer
recomendaciones para una implementación responsable y equitativa de la inteligencia artificial en la
educación superior, garantizando así que estas herramientas sean utilizadas de manera que beneficien a
toda la comunidad educativa.
pág. 3954
Inteligencia artificial (IA)
La inteligencia artificial (IA) ha emergido como una de las tecnologías más transformadoras del siglo
XXI, aplicándose en diversas áreas como la educación, la medicina, y la industria. Su capacidad para
aprender y tomar decisiones autónomas ha abierto nuevas oportunidades y planteado importantes
desafíos éticos y sociales. La IA se define como la capacidad de una máquina para imitar funciones
cognitivas humanas como el aprendizaje y la resolución de problemas. (Villanueva, 2024). Sus bases
teóricas se encuentran en disciplinas como la informática, las matemáticas y la neurociencia.
Mota y Martínez (2023) mencionan que los modelos de IA incluyen algoritmos de aprendizaje
automático, redes neuronales profundas y sistemas basados en reglas:
Aprendizaje Automático: Es una rama de la IA que se enfoca en el desarrollo de algoritmos que
permiten a las máquinas aprender a partir de datos. Según el Centro para Cerebros, Mentes y Máquinas
(CBMM), el aprendizaje automático combina teorías de probabilidad, geometría computacional y
análisis de optimización para crear modelos predictivos robustos. (García, 2021)
Redes Neuronales: Estas son modelos computacionales inspirados en la estructura del cerebro humano,
que se utilizan para reconocer patrones complejos y hacer predicciones. Las redes neuronales profundas
(deep learning) han sido particularmente exitosas en tareas como el reconocimiento de imágenes y el
procesamiento del lenguaje natural. (Macías, et al.2023)
Por otra parte, Sánchez, et al. (2023) consideran que la explicabilidad es una de las principales áreas de
investigación en la IA, especialmente en el contexto de modelos de "caja negra" como las redes
neuronales profundas. La explicabilidad se refiere a la capacidad de un sistema de IA para proporcionar
información comprensible sobre su funcionamiento interno y sus decisiones. Según Delgado, et al.
(2024) la explicabilidad incluye tanto la descripción de los pasos de transformación de los datos dentro
del modelo como la interpretación de los resultados para diferentes audiencias.
Los marcos teóricos para la explicabilidad buscan integrar modelos de IA con principios de la ciencia
cognitiva y la teoría de la información para asegurar que las decisiones automatizadas sean transparentes
y justificables. Este enfoque es crucial en aplicaciones sensibles como la medicina, donde las decisiones
de los modelos de IA deben ser comprensibles y verificables por profesionales humanos. La
implementación práctica de la IA abarca diversas metodologías, desde el aprendizaje supervisado y no
pág. 3955
supervisado hasta el aprendizaje por refuerzo. (Vera, 2023). En la educación superior, por ejemplo, la
IA puede personalizar el aprendizaje, mejorar la accesibilidad y proporcionar herramientas avanzadas
de análisis de datos.
METODOLOGÍA
La metodologia empleada para este estudio es de alcance exploratorio con un enfoque cualitativo, puesto
que el foco de analisis se enmarca en categorias como la inteligencia artificial y el uso ético de las
misma, por lo tanto, se emplea un método teórico analitico-sintetico para el analisis de la información
recolectada. (Tamayo y Tamyo, 1999). Considerando que la investigación es de tipo exploratoria la
población considera fueron tres bases de datos: Dialnet, Redalyc y Scielo, el estudio se llevó a cabo
mediante una búsqueda sistemática de investigaciones en español. Durante la búsqueda, se
seleccionaron algunos artículos de revistas indexadas, actas de congresos internacionales y capítulos de
libros que presentaban resultados de investigación relacionadas al uso de la IA como recurso educativo
en educación superior.
Una vez definidos los documentos cientificos que aboradan esta tematica se aplico la técnica de revisión
documental y el instrumento utilizado fue la ficha de contenido. (Gallardo y Moreno, 1999). La revisión
documental consistió en una revisión sistemática de documentos, siguiendo categorías específicas de
inclusión y exclusión. La ficha de contenido facilitó la revisión de similitudes, categorías y elementos
de análisis relevantes en cada uno de los estudios identificados. Los descriptores de búsqueda incluyeron
palabras clave relacionadas como "inteligencia artificial", "recurso educativo" y "uso ético". Con esta
información se pretende describir los diferentes usos que se da a la IA en educación superior así como
reflexionar sobre las implicacione éticas que tiene este recurso educativo, a fin de plantear pautas
pedagogicas para los docentes de educación superior al momento de aplicar la IA como recurso en el
aula de clase.
RESULTADOS
Luego de aplicar el proceso de recoleccion de información se obtuvo documentos que fueron analizados
y a los cuales corresponden los resultados que se presentan en este apartado, cabe mencionar que para
llegar a esta numero de documentos se siguió el siguiente proceso de filtación:
pág. 3956
Figura 1. Proceso de filtración de la busqueda bibligráfica
Nota. La figura describe el procedimeinto de filtación realizado para la selección de documentos a revisar. En la parte exterior
se encuntras los criterios tomados en cuenta en cada fase, elaboración propia (2024).
Por lo tanto, los resultados teóricos corresponden a los 79 documentos que responden a los criterios de
analisis de esta investigación a partir de la cual se describen al siguientes apreciaciones sobre el uso que
actualmente se da a la inteligencia artificial en educación superior.
Las aplicaciones generales de la IA en la educación superior actualemnte son diversas y comprenden
distintos aspectos de la docencia y la innovación educativa. En el caso de la enseñanza, numerosos
investigadores han estudiado el potencial de la IA en el diseño y producción de materiales docentes. Es
el caso de Intelligent Tutoring Systems (ITS), un tipo de software creado con el objetivo de proporcionar
instrucción individualizada, permitiendo crear programas que "entiendan" las diferentes capacidades y
estilos de aprendizaje de los estudiantes. En campos muy definidos su utilización ha mostrado mejoras
significativas. Por ejemplo, y a raíz de las recientes investigaciones con estudiantes con necesidades
educativas especiales, se están desarrollando generadores de recursos didácticos accesibles desde los
LMS.
Otras aplicaciones de inteligencia artificial para el aprendizaje corresponden a los modelos de apoyo
para el providing learning analytics and early warning systems, que permiten analizar el desempeño
académico y detectar patrones de abandono. Las empresas desarrolladoras están encauzando sus
esfuerzos en dos direcciones distintas. Por un lado, están aquellos que buscan apoyar el establecimiento
de estrategias y objetivos, y por otro lado, aquellos que se enfocan en optimizar una secuencia de
pág. 3957
acciones. Estos diseños de proceso son específicos y se derivan de la documentación del proceso clínico
y de la base de conocimientos.
De igaula amnera, otros usos que se da a la IA es para la creación de recurso de esvaluación, en este
sentido, además de los cuestionarios que ofrecen retroalimentación, los tutores virtuales también pueden
desempeñar un papel crucial mediante la realización de sugerencias contextualizadas y personalizadas.
Tienen beneficios, tales como: ayudar a los estudiantes a interactuar con el material, facilitar su retención
y transferencia, y también desarrollar habilidades para resolver problemas y aplicar el conocimiento de
manera efectiva.
Según autores como Zamora y Mendoza (2023), Delgado, et al. (2024) y Vera (2023) ha consideran que
en un período de cuatro a cinco años la adopción de sistemas de tutoría personalizada será casi universal
para académicos, pero los esfuerzos que recurren a la inteligencia artificial se expandieron. Afirmaron,
por ejemplo, que Ascent 2, un sistema tutor basado en computadora producido por la Universidad
Carnegie Mellon de Australia (CMU), muestra que la tecnología de aprendizaje digital (LD) está
madurando y es capaz de ofrecer herramientas para modelar el aprendizaje del estudiante y para permitir
un enfoque más basado en los datos para personalización. De igual manera inteligencias como ChatGpt,
Aithor, ClaudeAI entre otros en los ultimos dos años han ido aumentando su popularidad dentro del
capo educativo y por ende su uso es más recurrente, sin embargo publicaciones sobre el uso de etas
inteligencias aun es limitada.
Entre otros usos que se da actualemente a la IA en educaciñon superior y han sido difundisos en los
trabajos revisatos estan:
Adaptación del Aprendizaje a Cada Estudiante
La IA destaca por su capacidad para personalizar la experiencia educativa. Mediante el análisis de
extensos conjuntos de datos sobre el desempeño estudiantil, los sistemas de IA pueden detectar
tendencias y ofrecer sugerencias individualizadas. Esto permite ajustar el material didáctico a las
necesidades específicas de cada alumno, reforzando sus puntos débiles y potenciando sus fortalezas.
Apoyo Académico Automatizado
Se han desarrollado sistemas de tutoría inteligente que brindan asistencia personalizada fuera del aula.
Estos pueden resolver dudas, ampliar explicaciones y orientar a los estudiantes en la resolución de
pág. 3958
problemas complejos. Plataformas como Carnegie Learning y Knewton emplean algoritmos sofisticados
para modificar las experiencias de aprendizaje en tiempo real.
Calificación y Retroalimentación Automática
La IA también se aplica en la automatización de evaluaciones, permitiendo a los docentes enfocarse en
tareas más estratégicas. Los sistemas basados en IA pueden revisar exámenes y ensayos, proporcionando
feedback inmediato. Además, estos sistemas pueden identificar errores recurrentes y proponer mejoras
en el proceso de aprendizaje.
Ayudantes Digitales en el Campus
Los asistentes virtuales impulsados por IA se están integrando en las universidades para facilitar tareas
administrativas y académicas. Pueden informar sobre horarios, fechas límite y servicios universitarios.
Un ejemplo es "Pounce", el asistente virtual de la Universidad Estatal de Georgia, que responde
preguntas frecuentes y guía a los estudiantes en trámites administrativos.
Anticipación de Resultados Académicos
El análisis predictivo es otra aplicación crucial de la IA en la educación superior. Al examinar datos
históricos y actuales, los algoritmos de IA pueden pronosticar el rendimiento futuro de los estudiantes e
identificar a aquellos en riesgo de abandono, permitiendo a las instituciones tomar medidas preventivas
para mejorar la retención.
Elaboración de Materiales Educativos
La IA también se utiliza en la creación de contenidos educativos, como la generación de problemas
matemáticos, el diseño de programas de estudio personalizados y la producción de recursos didácticos
multimedia. Empresas como Content Technologies, Inc. utilizan IA para crear libros de texto digitales
adaptados a las necesidades específicas de los estudiantes.
Enseñanza Dinámica
El aprendizaje adaptativo emplea IA para ajustar el ritmo y la complejidad del contenido según el avance
del estudiante. Plataformas como Smart Sparrow permiten a los educadores diseñar cursos que se
adaptan automáticamente a las respuestas y el nivel de comprensión de cada alumno, ofreciendo una
experiencia educativa más efectiva y personalizada.
Es resumen, la incorporación de la IA en la educación superior está proporcionando herramientas
pág. 3959
potentes que optimizan tanto la enseñanza como el aprendizaje. Desde la personalización del aprendizaje
hasta la automatización de evaluaciones y el análisis predictivo, la IA está revolucionando la educación
de manera significativa. No obstante, es fundamental abordar las implicaciones éticas y garantizar un
uso justo y equitativo de estas tecnologías.
Estas aplicaciones evidencian el potencial de la IA para revolucionar la educación superior, haciéndola
más accesible, eficiente y adaptada a cada individuo. Para obtener información más detallada sobre estos
usos, se recomienda consultar investigaciones y publicaciones recientes en plataformas académicas y
revistas especializadas en tecnología educativa.
DISCUSIÓN
Aumentar la comprensión de la naturaleza de la interacción del estudiante con un recurso educativo es
clave para el diseño o rediseño efectivo de lecciones. Los entornos de aprendizaje con sistemas de tutoría
personalizados permiten al tutor desempeñar el papel necesario para ampliar el conocimiento de los
estudiantes, manteniendo el interés en el material eficaz. Se puede establecer cuándo y cómo enviar
sugerencias o estímulos de manera que puedan surgir sentimientos sinérgicos entre el software y el
humano en el proceso de enseñanza-aprendizaje. (del and Esteban 2022). Varias herramientas que se
incrustan en los recursos de aprendizaje en línea se utilizan para recopilar información útil sobre cómo
los estudiantes interactúan con un recurso específico. El objetivo de tales tecnologías no es limitarse a
la realización de pruebas para indicar el grado de aprendizaje, sino también para ayudar a los educadores
a entender cómo los estudiantes abordan el contenido, ya que suelen emplear diferentes estrategias que
influyen en la efectividad del aprendizaje.
Con la finalidad de contribuir al uso reflexivo, crítico y comprometido de dispositivos y programas que
incorporen IA, en el ámbito educativo algunos autores desafían las representaciones de la tecnología y
sugieren llevar adelante una serie de acciones que contribuyan a contemplar las dimensiones éticas,
sociales, políticas y culturales de estos desarrollos. Así, resulta función de las universidades el facilitar
la participación activa y crítica de todos los agentes involucrados en la utilización de IA con el fin de
poder, entre todos, participar y concertar los límites del desarrollo tecnológico, alfabetizarse y fomentar
competencias necesarias para una convivencia tecnológica inclusiva y plural. (Ayuso y Gutiérrez, 2022)
A continuación, se enumerarán algunos de los beneficios y desafíos generales al incorporar IA en el
pág. 3960
ámbito universitario. Como ventajas, algunos autores destacan la posibilidad de tener en cuenta de
manera sistemática información procesual sobre los estudiantes, lo que resulta de interés a la hora de
valorar el progreso y suficiencia en el desarrollo de sus competencias. Otra de las ventajas radica en los
tiempos de respuesta más rápidos y personalizados a las necesidades formativas de los estudiantes, lo
que se produciría hasta en la implementación de modalidades de aprendizaje más ajustadas.
Autores como Garcia (2023); Macías, et al. (2023) y Peñaherrera, et al. (2022) consideran que para la
implementación de la IA los docentes deben tener en cuenta los siguientes apectos:
Crecimiento del uso de la IA: Con el avance de la tecnología, la IA se está integrando cada vez más en
los sistemas educativos. Es crucial entender cómo estas tecnologías están transformando la educación
superior y cuáles son las consecuencias de su adopción.
Aspectos Éticos y Sociales: La implementación de la IA en educación plantea importantes preguntas
éticas, como la equidad en el acceso a las herramientas tecnológicas, la privacidad y el uso de datos
personales, y los sesgos inherentes en los algoritmos. Abordar estos temas es esencial para asegurar un
uso justo y equitativo de la tecnología.
Impacto en la Calidad Educativa: La IA puede cambiar la dinámica de la enseñanza y el aprendizaje,
afectando la calidad de la educación. Es importante investigar cómo estas tecnologías pueden ser
utilizadas de manera efectiva para mejorar la experiencia educativa sin comprometer la integridad del
proceso de enseñanza-aprendizaje.
Formación de Profesores y Estudiantes: Es vital que tanto profesores como estudiantes comprendan
las capacidades y limitaciones de la IA para poder utilizarla de manera efectiva y ética en entornos
educativos.
En este sentido, se puede decir que en cuanto a la optimización de recursos humanos (profesorado,
personal de administración y servicios), a través de procedimientos administrativos automatizados, dejar
tareas laboriosas en manos de la IA o enriquecer y hacer más diversa la oferta de recursos educativos
también es representada como clara ventaja. Algunos autores, entre ellos López et al. (2023) destacan
que a medida que las capacidades de los sistemas de IA mejoran, los estudiantes pueden utilizar
mecanismos tutoriales generados por IA que ayuden a los alumnos a adquirir conocimientos y
comprensión profunda del material, en lugar de conocimiento superfluo o memorización.
pág. 3961
En el ámbito educativo, los docentes y los responsables de las políticas educativas pueden beneficiarse
de la inteligencia artificial a la hora de evaluar el grado de eficacia de las diferentes metodologías de
enseñanza. La IA puede hacer un seguimiento y evaluación de los perfiles personales y académicos de
los usuarios/estudiantes de manera individualizada, lo que facilitará a los profesores la
retroalimentación.
Además, es relevante destacar que la IA es también capaz de evaluar de forma automática las prácticas
de los docentes, ayudando al profesor a hacer un mejor seguimiento de su actividad didáctica y a
diseñarla adecuadamente a partir de ese análisis. Es indudable, por tanto, que la IA construida éticamente
debería ser un excelente recurso para facilitar la educación personalizada y el desarrollo competencial,
pero su implementación debe ser acorde con los valores del sistema educativo en el que se inserta. Es
relevante reseñar que con la inteligencia artificial podemos ofrecer un acompañamiento más completo
al aprendiz, tanto en los aspectos pedagógicos como personales (emocionales, motivacionales y
afectivos del alumnado).
Entre algunas recomendacionaes al momento de emplear la IA como recurso, y retomando criterios de
Gonzáles-Sánchez, et al. (2023) se plantea considerar lo sguiente:
Democratización de la Tecnología Educativa: Un reto ético crucial es garantizar que la IA sea
accesible para todos los estudiantes. Existe el peligro de que las disparidades digitales se intensifiquen
si solo ciertos sectores estudiantiles, particularmente en instituciones con recursos abundantes, pueden
aprovechar estas innovaciones tecnológicas. Es imperativo implementar estrategias que fomenten la
inclusión y el acceso universal para prevenir la marginación digital.
Resguardo de la Información Personal: La aplicación de IA en entornos universitarios frecuentemente
implica el procesamiento de extensos conjuntos de datos estudiantiles. Esto suscita inquietudes sobre la
confidencialidad y la salvaguarda de la información. Las instituciones deben establecer protocolos
rigurosos para proteger los datos personales de los alumnos y asegurar su uso ético y seguro.
Claridad y Comprensibilidad de los Procesos: La transparencia en los sistemas y modelos de IA es
fundamental para generar confianza en estas tecnologías. Tanto estudiantes como educadores deben
comprender el funcionamiento de las herramientas de IA y los mecanismos detrás de las decisiones
automatizadas. La capacidad de explicar estos procesos es esencial para permitir que los usuarios
pág. 3962
entiendan y cuestionen los resultados generados por los sistemas de IA.
Preservación del Factor Humano en la Educación: La excesiva automatización en la enseñanza y
evaluación puede conducir a una despersonalización del proceso educativo. Es crucial mantener un
equilibrio entre el uso de tecnología y la interacción humana para conservar la calidad y el enfoque
personalizado en la educación. Los docentes deben ser capacitados para utilizar las herramientas de IA
como apoyo a su labor, no como sustitutos.
Prevención de Prejuicios y Trato Desigual: Los algoritmos de IA pueden perpetuar o incluso
amplificar los sesgos presentes en los datos de entrenamiento. Esto puede resultar en decisiones
discriminatorias que afecten negativamente a ciertos grupos de estudiantes. Es fundamental desarrollar
y aplicar métodos para identificar y corregir estos sesgos en los sistemas de IA. Las investigaciones han
demostrado que la evaluación periódica de los algoritmos y la inclusión de conjuntos de datos diversos
en el entrenamiento pueden ayudar a mitigar estos riesgos.
CONCLUSIONES
Imaginemos por un momento que una máquina fuera capaz de abarcar la complejidad que implica el
acto de enseñar, además, pensemos que la forma en que se llevara a cabo esta enseñanza se adaptara a
nuestra forma de aprender, manifestando claramente un despliegue ético. Sin embargo, ¿podríamos
estar dispuestos a renunciar a la presencia humana?; no se trata simplemente de un holograma que
imite la figura humana, pensando que de esta manera engañará a los usuarios, sino el frío espectro de la
tecnología que enfatiza esta falta de persona. El uso de la Inteligencia Artificial en la educación superior
a tenido muchos usos, inciando por la automatizacion de la evaluación y proceso de retroalimentación
hasta llegar a la produccion y personalizacion de los procesos de aprenizajes, lo cual no esta para nada
mal.
No obstante, el proceso algoritmico de aprendizaje de la Inteligencia Artificial cada vez crea una base
teorica mas amplia y por ende puede realizar mayores funciones, llegando al hecho de que un estudiante
puede pedir a un software de IA realizar sus tareas educativas, mientras que por su parte los docentes
pueden llegar a depender mucho de esta técnologia al momento de diseñar sus clases, obiando el aspecto
emotivo que debe caracterizar al proceso educativo.
El análisis de cada uno de estos aspectos permitirá comprender con mayor claridad las implicaciones
pág. 3963
éticas del uso de la Inteligencia Artificial (IA) en la educación superior; y más allá por su potencial
aplicativo en otros campos (salud, trabajo social, judicatura, etc.), se perfilan claramente la necesidad
de reflexión en torno a los aspectos éticos del desarrollo de la IA y en consecuencia del perfil formativo
que puede ir asumiendo la comunidad educativa en su conjunto.
En esta perspectiva, desde la humanidad y teniendo muy claro lo que supone un docente, haya o no
máquinas, un análisis de las implicaciones éticas del uso de la IA en la educación formal e informal es
imprescindible; y puede llegar a constituir un campo profesional en términos de análisis, diseño,
aplicación y evaluación.
REFERENCIAS BIBLIOGRÁFICAS
Álvarez, M., y Prieto, P. (2023). Presentación del Dossier temático:“La educación superior en la era
digital”. Revista Educación Superior y Sociedad (ESS), 35(2), 28-45.
https://www.iesalc.unesco.org/ess/index.php/ess3/article/view/v35i2.878-
presentaci%C3%B3n-dossier/542
Ayuso, D. y Gutiérrez, P. (2022). La Inteligencia Artificial como recurso educativo durante la formación
inicial del profesorado. RIED-Revista Iberoamericana de Educación a Distancia, 25(2), 347-
358. https://www.redalyc.org/journal/3314/331470794017/331470794017.pdf
Buils, S., Esteve-Mon, F., Sanchéz-Tarazaga, L. y Arroyo-Ainsa, P. (2022). Análisis de la perspectiva
digital en los marcos de competencias docentes en Educación Superior en España. RIED-Revista
Iberoamericana de Educación a Distancia, 25(2), 133-147.
https://www.redalyc.org/journal/3314/331470794007/331470794007.pdf
Delgado, N., Campo-Carrasco, L., Sainz, M. y Etxabe-Urbieta, J. (2024). Aplicación de la Inteligencia
Artificial (IA) en Educación: Los beneficios y limitaciones de la IA percibidos por el
profesorado de educación primaria, educación secundaria y educación superior. Revista
electrónica interuniversitaria de formación del profesorado, 27(1), 207-224.
https://revistas.um.es/reifop/article/download/577211/356891
Gallardo, Y. y Moreno. A. (1999). “Módulo 3 RECOLECCIÓN DE LA INFORMACIÓN.” P. 153 in
Serie APRENDER A INVESTIGAR Módulo. Santa Fe de Bogotá: ARFO EDITORES LTDA.
pág. 3964
García, J. (2021). Implicancia de la inteligencia artificial en las aulas virtuales para la educación
superior. Revista Orbis Tertius-UPAL. 5(10). 31-52.
https://www.biblioteca.upal.edu.bo/htdocs/ojs/index.php/orbis/article/download/98/187
García, O. (2023). Uso y percepción de ChatGPT en la educación superior. Revista de Investigación en
Tecnologías de la Información, 11(23), 98-107. https://doi.org/10.36825/RITI.11.23.009
Gonzáles-Sánchez, J., Villota-Garcia, F., Moscoso-Parra, A., Garces-Calva, S., y Bazurto-Arévalo, B.
(2023). Aplicación de la Inteligencia Artificial en la Educación Superior. Revista Científica
Dominio de las Ciencias, 9(3), 1097-1108.
https://dominiodelasciencias.com/ojs/index.php/es/article/download/3488/7759
López, H., Rivera, A. y Cruz, C. (2023). Personalización del aprendizaje con inteligencia artificial en la
educación superior. Revista Digital de Tecnologías Informáticas y Sistemas, 7(1), 123-128.
http://redtis.org/index.php/Redtis/article/download/165/147
Macias, R., Solorzano, L., Choez, C. y Blandón, B. (2023). La inteligencia artificial; análisis del presente
y futuro en la educación superior. Revista Científica Multidisciplinar G-nerando, 4(1)
https://revista.gnerando.org/revista/index.php/RCMG/article/view/98
Mota, K. y Martínez, M. (2023). Aulas híbridas como herramientas tecnológicas en la Educación
Superior: estudio bibliométrico. Revista Scientific. 8(28) 305-326.
https://dialnet.unirioja.es/descarga/articulo/9512537.pdf
Parra, J. S. (2022). Potencialidades de la Inteligencia Artificial en Educación Superior: Un enfoque
desde la personalización. Revista Tecnológica-Educativa Docentes 2.0. 14(1). 19-27.
https://doi.org/10.37843/rted.v14i1.296
Peñaherrera, W., Cunuhay, W., Nata, D., y Moreira, L. (2022). Implementación de la Inteligencia
Artificial (IA) como recurso educativo. Recimundo, 6(2), 402-413.
https://dialnet.unirioja.es/servlet/articulo?codigo=8430804
Salmerón, Y., Luna, H., Murillo, W., y Pacheco, V. (2023). El futuro de la Inteligencia Artificial para
la educación en las instituciones de Educación Superior. Revista Conrado, 19(93), 27-34.
http://scielo.sld.cu/pdf/rc/v19n93/1990-8644-rc-19-93-27.pdf
Tamayo y Tamayo, M. (1999). “MÓDULO 2. LA INVESTIGACIÓN.” P. 141 in SERIE APRENDER
pág. 3965
A INVESTIGAR. Santa Fe de Bogotá: ARFO EDITORES LTDA.
Vera, F. (2023). Integración de la Inteligencia Artificial en la Educación superior: Desafíos y
oportunidades. Transformar. 4(1). 17-34.
https://www.revistatransformar.cl/index.php/transformar/article/download/84/44
Villanueva, A. (2024). Contexto educativo de aprendizaje basado en uso de las TICs en Educación
Superior. LATAM Revista Latinoamericana de Ciencias Sociales y Humanidades, 5(2), 285-29
https://latam.redilat.org/index.php/lt/article/download/1876/2415
Zamora, Y. y Mendoza, M. (2023). La Inteligencia artificial y el futuro de la educación superior:
desafíos y oportunidades. Horizontes pedagógicos, 25(1), 1-13.
https://horizontespedagogicos.ibero.edu.co/article/download/hop.25101/1858
