Los Riesgos de la Inteligencia Artificial en la Educación
Roberto Fernando Lozada Lozada[1] https://orcid.org/0009-0007-4634-7981 Tecnológico de Monterrey México |
Estefany Maria Lopez Aguayo https://orcid.org/0009-0000-5260-5886 Universidad de Buenos Aires Argentina |
Mariana de Jesus Espinoza Suquilanda https://orcid.org/0009-0003-5741-3877 Universidad Nacional de Chimborazo Ecuador |
Narcisa de Jesus Arias Pico narcisa_arias_pico@hotmail.com https://orcid.org/0009-0004-2911-3719 Universidad Metropolitana Ecuador |
Grace Edith Quille Vélez https://orcid.org/0009-0001-9222-759X Universidad Complytense de Madrid España |
Es inevitable que hoy en día los estudiantes no hagan uso de las tecnologías de Inteligencia Artificial (IA), y es que ha sido una herramienta capaz de realizar diversas tareas, de forma que simula las funciones cognitivas realizadas por un humano, tales como: resolución de problemas, aprender un tema particular, etc. Sin embargo, así como existen estos beneficios generados por este tipo de innovación tecnológica, también existen riesgos que afectan el aprendizaje adecuado, incurriendo en prácticas donde carece la ética, como es el caso del uso del plagio. Por ello, el presente artículo científico tiene como objetivo general analizar los riesgos de la Inteligencia Artificial en la educación, de forma que se dió a conocer el manejo poco ético de las herramientas IA en el ámbito educativo, y sus repercusiones tanto en la integridad académica como en los estudiantes en cuanto al desarrollo de un pensamiento crítico. El tipo de estudio utilizado fue el documental, puesto que se realizó apoyándose en fuentes de carácter documental. Como resultado, se obtuvo que es fundamental que el estudiante desarrolle el pensamiento crítico, asimismo se recomienda que las instituciones educativas contemplen dentro de su marco normativo enunciados éticos y de resguardo de la información.
Palabras clave: educación; ética; inteligencia artificial; riesgos
The risks of artificial intelligence in education
It is inevitable that today students do not make use of Artificial Intelligence (AI) technologies, and it has been a tool capable of performing various tasks, in a way that simulates the cognitive functions performed by a human, such as: resolution of problems, learning a particular topic, etc. However, just as there are these benefits generated by this type of technological innovation, there are also risks that affect adequate learning, incurring practices where ethics is lacking, such as the use of plagiarism. Therefore, the general objective of this scientific article is to analyze the risks of Artificial Intelligence in education, so that the unethical handling of AI tools in the educational field was made known, and its repercussions on academic integrity. as in students in terms of the development of critical thinking. The type of study used was documentary, since it was carried out based on documentary sources. As a result, it was found that it is essential for the student to develop critical thinking; it is also recommended that educational institutions consider ethical statements and information protection within their regulatory framework.
Keywords: education; ethics; artificial intelligence; risks
Artículo recibido 12 septiembre 2023
Aceptado para publicación: 22 octubre 2023
La IA o Inteligencia Artificial se ha convertido en una herramienta muy poderosa en la educación, en la actualidad los estudiantes hacen uso de los chatbots para responder a preguntas y buscar ayuda en tiempo real. Además estos chatbots pueden mejorar la capacidad de escritura y lectura de los alumnos. Por otro lado, las instituciones han hecho uso de la gamificación en las aulas de clases, ayudando al alumnado a retener mucho mejor la información impartida por el docente.
De lo anterior, se puede observar que ciertamente la IA supone grandes avances en la educación puesto que según Ramírez (2021) esta innovación posee la fuerza para revolucionar la enseñanza y el aprendizaje al convertirlos en elementos que pueden ser más accesibles y prácticos, aunado a ello, tiene la habilidad de automatizar tareas administrativas como los programas de clases y gestión de registros,y puede generar mayor tiempo para que los docentes puedan enfocarse en iniciativas estratégicas que proporcionen a los alumnos un mayor aprendizaje.
Sin embargo, la adopción de estos sistemas expertos en la enseñanza puede desencadenar una serie de riesgos, según Jara y Ochoa (2020) refiere que la adopción de la IA en el ámbito educacional ha sido mucho más lento de lo que se esperaba, y las repercusiones en las prácticas en la enseñanza y aprendizaje de los alumnos han sido desalentadoras para aquellos que sueñan con transformar la educación.
Como ya es de conocimiento para muchos, no existe una definición precisa de lo que significa la IA, no obstante, de acuerdo a Estupiñán et al. (2021) refieren que corresponde a un conjunto de tecnologías con habilidades que en el pasado eran únicamente del intelecto humano, por lo que se podría decir que básicamente es una máquina que simula las funciones cognitivas realizadas por las personas, tales como: resolución de problemas, aprender un tema en particular, etc.
El uso de la IA ha tenido un gran avance en la educación y un ejemplo de ello es la aparición del ChatGPT, el cual según Horton et al. (2023) es un gran bot conversacional creado para dar respuestas concisas y exactas a las consultas realizadas por los usuarios, además se caracteriza por contar con habilidades increíbles, como por ejemplo, la de buscar en diversas bases de datos a fin de detectar información clave y poder construir textos en diferentes estilos y formatos, de manera que puede desarrollar ensayos y resúmenes, código informático, generando así contenido eficiente y muy parecido al realizado por las personas.
No es un secreto, que este tipo de tecnología ha sido una completa revolución tanto para los alumnos como para los docentes, puesto que es una herramienta que permite la creación de recursos para el alumnado, como por ejemplo: cuestionarios, diapositivas y colocar notas. Además, puede utilizarse para producir ideas a partir de las tareas impartidas.
Ante esto, un estudio realizado por Zhai (2022) en el que se realizó haciendo uso del ChatGPT para la escritura de un artículo obteniendo como resultado que esta innovadora herramienta es capaz de ayudar a los alumnos a escribir un artículo de forma coherente, (parcialmente) conciso, sistemático e informativo, además el estudio demostró que la redacción es muy eficiente y amerita un conocimiento profesional muy poco por parte del alumno. Asimismo, Nature (2023) ha evidenciado que el ChatGPT puede realizar ensayos estudiantiles, hacer resúmenes de trabajos investigativos y dar respuestas exactas a preguntas médicas. Al respecto, los docentes indicaron que los trabajos realizados por esta IA eran tan eficientes que los científicos no podían creer que lo había realizado una computadora.
Características como éstas han demostrado que el ChatGPT tiene la gran posibilidad de cambiar el sistema educativo, sin embargo, Qadir (2023) indica lo tan imperfecta que resulta esta herramienta, puesto que comete muchos errores y proporciona información errónea, haciendo énfasis que es de suma importancia implementar un marco para su adecuada utilización de forma ética y fiable. Otros autores como McCallum (2023), aseguran que esta tecnología ha generado problemas de privacidad argumentando que esta innovación tecnológica supone una amenaza mundial, por lo que recomienda el establecimiento de directrices respecto a su uso.
Por este motivo, el presente artículo científico resulta de relevancia, puesto que se detallarán los riesgos que genera Inteligencia Artificial en la educación, de forma que se pondrá énfasis que este tipo de tecnología podría amenazar el futuro de los jóvenes, ya que al depender totalmente de las TIC no ponen en práctica el desarrollo de su pensamiento crítico y capacidades, debido a que los sistemas inteligentes estarían dedicados a hacer estas cosas por ellos. De esta forma, es de importancia detectar cuales son estos tipos de riesgos a lo que están expuestos los estudiantes haciendo uso de la Inteligencia Artificial.
Actualmente, se ha implementado en algunas instituciones educativas el Metaverso, el cual según Flores (2023) corresponde a un entorno multiusuario constante que une la realidad física con la realidad virtual, es decir, se establece un mundo virtual que se encuentra paralelo al mundo real.
De acuerdo a Ordoñez et al. (2022) el Metaverso, corresponde a numerosas entidades que se consolidan de forma mutua, son conformaciones diversas que están siendo incorporadas en varios ambientes sociales. Es por ello, que las definiciones de metaverso se encuentra muy relacionada a la idea de un “mundo virtual”, de forma que proporciona en el usuario una fuerte sensación de estar en un entorno tecnológico que no es real. En la siguiente figura se muestra los tipos de metaverso que existen:
Figura 1. Tipos de Metaverso
Fuente: Ordoñez et al. (2022)
Realidad aumentada: La cual hace posible la unión y combinación de componentes virtuales con los componentes físicos en tiempo real. Ordoñez et al. (2022)
Lifelogging: Contribuye a la transformación de la parte física de los signos vitales de una persona en
componentes digitales que se pueden registrar para luego ser analizados de forma fácil. Un ejemplo de ello son las múltiples apps y elementos integrados en teléfonos móviles que tienen la capacidad de registrar el ritmo cardiaco, pasos realizados en el día, hábitos alimenticios, grado de oxigenación en la sangre, etc. (Ordoñez et al.(2022)
Mundo espejo: Aquí se representa de forma virtual, la visión exacta del mundo físico. Un ejemplo de ello, es Google Earth el cual es una herramienta muy utilizada debido a que constantemente integran
sensores de geolocalización y mapas. (Ordoñez et al. (2022)
Mundos virtuales: Mejor conocido como entornos virtuales totalmente abstractos, aquí el usuario se introduce dentro de ello haciendo uso de un personaje ficticio en particular, el cual es creado por el usuario real, de esta forma éste se interrelaciona en una “realidad virtual” muy diferente a la real. (Ordoñez et al. (2022).
Por otra parte, dentro del Metaverso, se ha impartido un modelo de aprendizaje llamado e-learning 2.0, el cual de acuerdo a Álvarez (2023) se basa en el aprendizaje mediante el juego, poniendo énfasis en el usuario y centrado en el learning by doing, o mejor conocido como: aprender haciendo; en el que a la vez se encuentra en conexión con otros usuarios.
En el ámbito del learning by doing surgió la plataforma llamada Second Life el cual se caracteriza por ser una aplicación informática que es instalada en el computador permitiendo al usuario que participe e interactúe en el mundo virtual, siendo capaz de formar objetos y estructuras difíciles en 3D que puede analizar desde diversas perspectivas, así también pudiendo interactuar con otros usuarios (Álvarez, 2023).
Por otro lado, se tiene al ChatGPT (Generative Pretrained Transformer), el cual de acuerdo a Qadir (2023) es un bot que es capaz de generar una escritura increíblemente realizada y adecuadamente referenciada en concordancia con las preguntas de la tarea realizada por el docente. Una de las características más notables de este tipo de tecnología es que las respuestas son tan perspicaces y muy bien investigadas que muchos estudiantes llaman al bot la sentencia de muerte para las formas tradicionales de evaluar las actividades académicas (Vega et al. (2023).
De acuerdo a King (2023) el ChatGPT ha podido transformar la forma en que los estudiantes realizan sus tareas, puesto que les da la posibilidad de generar de forma fácil ensayos sin poner mucho esfuerzo y la capacidad de investigar para poder realizar contenidos casi originales. Además, este tipo de innovación es conocida por contribuir en la educación superior respecto al aprendizaje de idiomas, estableciendo a los alumnos una serie de prácticas conversacionales y un feedback a nivel de pronunciación, permitiendo así que los estudiantes desarrollen seguridad y confianza a la hora de aprender un nuevo lenguaje y de forma general, mejorar sus capacidades comunicativas (Baidoo & Owusu, 2023).
Por medio de un enfoque constructivista, el ChatGPT puede alcanzar de forma eficiente un aprendizaje adaptativo, ya que aprovecha información existente mediante indicaciones idóneas (Rudolph et al. (2023). Esto genera un mejoramiento del aprendizaje al hacer la conexión de conocimientos previos para implantar nuevas conexiones y significados que guíen hacia nuevos conocimientos.
Así pues, el origen conversacional que posee el ChatGPT permite construir activamente el conocimiento de los alumnos, al mismo tiempo que participan de manera continua en la tarea, y aprender mediante la experiencia y la experimentación, los cuales constituyen una parte fundamental en la generación de conocimiento (Stapleton & Stefaniak, 2019).
Asimismo, el ChatGPT puede ayudar a que se establezca un entorno de aprendizaje inteligente, puede hacer uso de la big data y análisis de aprendizaje para verificar el desempeño de los alumnos, pronosticar el éxito y dar una respuesta a los alumnos, incluyendo sus estados emocionales, en tiempo real, lo que da como resultado un aprendizaje adaptativo personalizado (PAL) que es coherente con la teoría constructivista (Stapleton & Stefaniak, 2019).
El ChatGPT puede conducirse como asistente de investigación, dando respuestas a las preguntas de
los usuarios, manejando la literatura asociada que ha aprendido y sintetizando información, también, funciona como asistente de redacción garantizando un apoyo constante (Goel, 2020). Por lo que, el ChatGPT ha funcionado como un apoyo a la investigación y el análisis, y pese que hoy en día es de nivel básico, tiene la gran ventaja de causar en la investigación y en la educación superior un gran impacto.
Se ha demostrado que el ChatGPT hace posible las actividades de evaluación innovadoras, donde pueden ser establecidas en un entorno educativo centrado en el estudiante y juntamente coadyuvan a que la evaluación se haga de manera holística y significativa para un mejor aprendizaje de los alumnos. Esta herramienta tecnológica es capaz de desarrollar preguntas de evaluación, nuevas lecciones y planes de estudio en la educación superior (Dwivedi et al.(2023).
Es así como el ChatGPT puede impulsar la creatividad y las habilidades que pueden estimular el pensamiento crítico. Puesto que este tipo de innovación se puede incorporar juntamente con actividades de evaluación innovadoras, mejorando el aprendizaje colaborativo, el feedback en tiempo real, el aprendizaje personalizado, la interacción con docentes y promoviendo la creación de conocimiento de manera eficiente.
De acuerdo a Abbas et al. (2022) el ChatGPT posee la ventaja de otorgar grandes beneficios al personal académico, ya que no solo los estudiantes reciben un aprendizaje activo sino que los docentes y demás personas que se encargan de la administración educativa pueden gozar de las oportunidades que brinda el sistema y manejar muy bien sus tareas administrativas. Esto es posible ya que esta innovación tecnológica proporciona un soporte administrativo automatizado de forma que el personal puede hacer uso de los datos y análisis para compartir comentarios no académicos acertados y personalizados a los alumnos, como por ejemplo: notificaciones en cuanto a próximas fechas límite, recordatorios sobre actividades por entregar, notas sobre el estatus de una tarea, entre otras.
Álvarez (2023) llevó a cabo un trabajo de fin de grado en Humanidades cuyo objetivo fue realizar un estudio crítico sobre la transformación de la inteligencia artificial dentro del marco educativo, específicamente en la enseñanza a nivel secundario. La metodología de estudio utilizada fué de tipo documental, en donde se realizaron indagaciones de fuentes bibliográficas varias para llevar a cabo el análisis del tema en estudio. Como resultado se obtuvo que ya es un hecho de que el ChatGPT ha sido utilizado en gran magnitud para hacer plagio y que lo más recomendable para evitar que la IA acabe con enseñanzas clave, es que se consoliden políticas enfocadas en la creación de leyes y normativas donde se establezcan parámetros éticos para su adecuada aplicación.
Este estudio se relaciona con la investigación actual, debido a que Álvarez (2023) hace énfasis en las desventajas que puede tener el ChatGPT dentro del marco educativo y que puede ocasionar serios problemas a nivel ético; mientras que el presente artículo se encarga de dar a conocer los riesgos de la inteligencia artificial en la educación.
Vega et al. (2023) realizó un artículo científico llamado “ChatGPT e inteligencia artificial: ¿obstáculo o ventaja para la educación médica superior?” cuyo objeto de estudio fue analizar el chatGPT a fin de constatar si representa un obstáculo o ventajas para la educación médica superior. Su metodología se basó en un estudio documental. Los resultados o conclusiones obtenidas es que las universidades de educación superior deben poner en marcha políticas más rigurosas y sanciones más duras para de esta forma combatir el plagio y garantizar que en las aulas de estas instituciones prevalezca la integridad.
Este artículo desarrollado por Vega et al. (2023) se relaciona con la investigación actual, ya que destaca las ventajas que tiene una de las innovaciones tecnológicas más utilizadas hoy en día por los estudiantes: el ChatGPT, de forma que hace ver la importancia de controlar estos obstáculos; mientras que en el presente artículo se hará hincapié en estos riesgos, no sólo los generados por el ChatGPT sino también de otras herramientas de la IA.
Por otro lado, Ordoñez (2022) elaboró un artículo científico y su objetivo general fue analizar las herramientas metaverso y su impacto en contextos educativos. La metodología implementada fue de tipo documental y bibliográfica con modalidad descriptiva, donde a través del análisis de fuentes
bibliográficas, se pudo fundamentar la investigación.
Los resultados obtenidos fueron analizados desde 2 perspectivas, desde el ámbito positivo se concluyó que las herramientas del multiverso (second life y opensim) contribuyen al desarrollo de competencias del alumno, no obstante, desde el ámbito negativo puede afectar en el desarrollo de capacidades físicas y cognitivas.
El artículo elaborado por Ordoñez (2022) definitivamente se relaciona con la investigación actual, puesto que demuestra a nivel físico y cognitivo los daños ocasionados por herramientas de la IA como lo es el Multiverso; caso similar ocurre con el presente artículo, el cual manifestará los riesgos que inciden para las instituciones educativas el usar herramientas de la IA de forma deliberada y sin supervisión ética.
Por lo anteriormente mencionado, el objetivo general de este artículo científico es analizar los riesgos de la Inteligencia Artificial en la educación, de forma que se dará a conocer el manejo poco ético de las herramientas de la IA en el ámbito educativo, y sus repercusiones tanto en la integridad académica como en los estudiantes en cuanto al desarrollo de un pensamiento crítico.
Se caracteriza por ser un tipo de estudio documental puesto que se realizó apoyándose en fuentes de carácter documental (Universidad Veracruzana, 2017). Para el desarrollo de este artículo se indagó en artículos científicos, de forma que se trató de establecer las principales bases teóricas del tema en estudio.
Se utilizó el método analítico, el cual se define como aquel que distingue las partes de un todo y revisa de forma ordenada cada uno de los elementos por separado, es ideal cuando se ejecutan trabajos de investigación documental (Maya, 2014), por lo que se requirió de su aplicación para desarrollar el respectivo análisis del tema en estudio. Aunado a ello, fue necesario para la interpretación de los resultados generados a partir de la indagación de fuentes bibliográficas.
Técnica de análisis
La técnica de análisis utilizada para el desarrollo de este artículo fue la revisión documental, debido a que hizo posible la obtención de la información de fuentes bibliográficas mediante datos relevantes encontrados en artículos científicos, tesis de grado, y todo aquel material explicativo y audiovisual relacionado con el foco de estudio.
Todo esto con el fin de recabar información fidedigna para el desarrollo de los riesgos de la inteligencia artificial en la educación.
De acuerdo a Flores & Peñalvo (2022), refiere que docentes manifiestan que uno de los principales riesgos es la ausencia de criterio y pensamiento crítico. Otro riesgo muy importante es la dependencia tecnológica y por otro lado, la no posibilidad de poder diferenciar el trabajo realizado de forma personal con la aplicación del plagio.Ante estos riesgos, el mismo autor señala que para que este fenómeno se solucione se deben implantar normativas y reglamentos respecto a la manera efectiva de cómo utilizarse para que, tanto los docentes como los alumnos, hagan uso de herramientas tomando en cuenta la ética y la responsabilidad.
Una vez analizado en el apartado anterior la IA en el marco educativo y los beneficios que implica, a continuación se detallarán con mayor precisión los riesgos de la IA en la educación:
Es importante destacar que la IA depende del análisis de una gran cantidad de información, por lo que genera complicaciones en cuanto al tema de la privacidad y la seguridad de datos personales. Por esta razón, Ruaro y Reis (2020) refieren que es relevante establecer medidas para resguardar los datos de las personas vulnerables, por lo que deben ser usados con ética (Ruaro & Reis, 2020).
De este modo, el riesgo de un ciberataque se incrementa cuando no hay protocolos de seguridad adecuados en el manejo de la IA, esto debido a que la capacidad de sus aplicaciones para el mejoramiento de los procesos de enseñanza y aprendizaje eleva la exposición de los datos personales de los alumnos y sus familiares.
La aparición de estos sesgos puede no contribuir a que se garantice una educación de calidad e inclusiva para todas las personas involucradas. El entrenamiento de los algoritmos de aprendizaje automático se ejecuta con datos que provienen de algunos contextos y personas, lo que podría acarrear que estos sistemas interioricen apreciaciones parciales o discriminatorias propias de esas fuentes (Lu & Harris, 2018).
Por consiguiente, su uso podría traer como consecuencia que se reproduzcan estos sesgos en los salones de clase, manteniendo o aumentando las brechas que ya existen en el campo educativo. Así pues, es fundamental que se diseñen políticas dirigidas a prevenir que la incorporación de IA aumente las brechas raciales, de género, etc. (Lu & Harris, 2018)
De acuerdo a Dwivedi (2023) el uso del chatGPT tiene muy poca ética, lo que podría generar graves consecuencias, tales como: bajas calificaciones, penalidades académicas, expulsión definitiva de la institución y daño a su reputación profesional. Por ello, es de suma importancia que los alumnos entiendan la relevancia de la integridad académica y eviten usar ChatGPT u otra tecnología innovadora para hacer trampa en las actividades a realizar.
Muchos medios de comunicación mantienen la idea de que las tecnologías IA podrían automatizar por completo las actividades asignadas a los alumnos, cuando es responsabilidad de los docentes guiar al alumno hacia un aprendizaje adecuado, donde solo el uso de estas máquinas es solamente complementario y no sustitutivo. No obstante, aún persiste la expectativa causada por la IA en cuanto a que ésta pueda enseñar por sí sola a los alumnos y reemplazar la labor del docente. (Tuomi, 2018)
Por lo tanto, para que estas tecnologías se impartan de manera eficiente, deben seguir el modelo Interactivo de Aprendizaje de Chassignol et al. (2018):
Figura 1. Modelo Interactivo de Aprendizaje
Fuente: Chassignol et al. (2018)
Cada uno de los elementos del modelo se detallan a continuación:
Comunicación: Corresponde a la intercomunicación entre alumnos y docentes, en lo relacionado a dudas, revisión de ejercicios, evaluación, entre otros (Chassignol, et al. (2018).
Contenido: Viene dado por una serie de conocimientos que los docentes imparten a fin de que los alumnos comprendan el tema de estudio, el cual corresponde a una asignatura en particular. Este elemento implica tanto el contenido educativo como su personalización, el cual viene a ser una de las áreas relevantes de la aplicación de las tecnologías fundamentadas en IA, específicamente, las relacionadas a los procesos de decisión autónoma(Chassignol, et al. (2018).
Métodos de enseñanza: Se caracterizan por los diversos principios y procedimientos didácticos usados por los docentes con el propósito de transmitir el conocimiento correspondiente y estar seguros de que los estudiantes lo estan entendiendo correctamente(Chassignol, et al. (2018).
Evaluación: Son los diversos métodos o herramientas que los docentes emplean para evaluar, verificar y llevar un control académico, la evolución del aprendizaje de los estudiantes, la adquisición de sus habilidades y destrezas; y finalmente, sus necesidades educativas(Chassignol, et al. (2018).
Actualmente, la adecuada divulgación de la Inteligencia Artificial ha sido muy decadente, puesto que todavía involucran costos de inversión muy altos para las instituciones educativas, esto se debe fuertemente por la escasa preparación de los docentes en el dominio de estas nuevas tecnologías, lo que les dificulta entender bien sus aportes y utilizarlas de manera efectiva en los salones de clase (Zaidi et al. (2018).
Cabe la probabilidad de que las escuelas y países con mayor cantidad de recursos puedan ir estableciendo las condiciones para el uso correcto de la IA más rápidamente que en los países y sectores más vulnerables.
Para una adecuada implementación de la IA, es importante que los docentes participen y se capaciten en torno a cómo hacer uso adecuado de éstas tecnologías, ya que de nada sirve que los estudiantes hagan uso de ellas sin contemplar los métodos de enseñanza y evaluación que son necesarios al momento de ser impartida la enseñanza, de esta forma se evita que el estudiante haga uso deliberado de estas herramientas innovadoras, incurriendo así en el plagio total de las actividades.
Se debe tener en cuenta que es fundamental que el estudiante desarrolle el pensamiento crítico, que él pueda razonar por sí mismo y plasmar sus ideas, considerando que solamente estas tecnologías son de ayuda complementaria para realizar tareas y demás asignaciones.
Es recomendable que las instituciones educativas contemplen dentro de su marco normativo enunciados éticos y de resguardo de la información, a fin de que los docentes y personal administrativos de estos espacios de enseñanza, tengan la responsabilidad de controlar los riesgos que son inherentes a la tecnología IA.