pág. 11173
ARQUITECTURA TECNOLÓGICA Y DESAFÍOS
LEGALES DEL ARTE GENERADO POR
INTELIGENCIA ARTIFICIAL: ANÁLISIS DESDE
LA INGENIERÍA DE SISTEMAS
TECHNOLOGICAL ARCHITECTURE AND LEGAL
CHALLENGES OF ART GENERATED BY ARTIFICIAL
INTELLIGENCE: ANALYSIS FROM SYSTEMS
ENGINEERING
Erika Yuliana Pino Quintana
Universidad Nacional De Pilar, Paraguay
Jazmín Anahí Duré Ramos
Universidad Nacional De Pilar, Paraguay
pág. 11174
DOI: https://doi.org/10.37811/cl_rcm.v9i5.20391
Arquitectura Tecnológica y Desafíos Legales del Arte Generado por
Inteligencia Artificial: Análisis desde la Ingeniería de Sistemas
Erika Yuliana Pino Quintana1
yulipq021@gmail.com
https://orcid.org/0009-0001-2489-0699
Universidad Nacional De Pilar
Paraguay
Jazmín Anahí Duré Ramos
www.dureramos@hotmail.com
Universidad Nacional De Pilar
Paraguay
RESUMEN
En la última década, la inteligencia artificial generativa (IAG) ha transformado radicalmente la
producción artística mediante herramientas como DALL·E, Midjourney y Stable Diffusion, capaces de
generar obras visuales, musicales o textuales con escasa o nula intervención humana directa. Esta nueva
forma de creación automatizada ha abierto un complejo debate interdisciplinario que involucra
dimensiones tecnológicas, jurídicas y éticas. El presente artículo ofrece una revisión crítica de estas
problemáticas desde el enfoque de la ingeniería de sistemas, poniendo énfasis en la arquitectura
algorítmica de los modelos generativos, los vacíos legales en materia de derechos de autor y los dilemas
éticos asociados a la autonomía de las máquinas. A través del análisis documental de literatura
académica, legislación comparada y estándares técnicos, se examinan las implicancias del uso masivo
de datos protegidos, la falta de transparencia en los sistemas de IA y la desprotección legal de las obras
generadas. Asimismo, se exploran propuestas emergentes que buscan repensar la autoría, establecer
marcos regulatorios flexibles y diseñar arquitecturas explicables, auditables y éticamente responsables.
El estudio concluye que la integración del enfoque sistémico resulta clave para abordar los desafíos que
plantea la creatividad algorítmica y garantizar una innovación tecnológica alineada con principios
jurídicos y valores humanos.
Palabras clave: Inteligencia artificial generativa, arte digital, derecho de autor, ética algorítmica,
ingeniería de sistemas, arquitectura tecnológica
1
Autor principal
Correspondencia: yulipq021@gmail.com
pág. 11175
Technological Architecture and Legal Challenges of Art Generated by
Artificial Intelligence: Analysis from Systems Engineering
ABSTRACT
In the last decade, generative artificial intelligence (GAI) has radically transformed artistic production
through tools such as DALL·E, Midjourney, and Stable Diffusion, which are capable of generating
visual, musical, or textual works with little or no direct human intervention. This new form of automated
creation has opened a complex interdisciplinary debate involving technological, legal, and ethical
dimensions. This article offers a critical review of these issues from the perspective of systems
engineering, emphasizing the algorithmic architecture of generative models, the legal gaps in copyright
law, and the ethical dilemmas associated with machine autonomy. Through a documentary analysis of
academic literature, comparative legislation, and technical standards, the study examines the
implications of the massive use of protected data, the lack of transparency in AI systems, and the legal
unprotection of generated works. Furthermore, it explores emerging proposals that seek to rethink
authorship, establish flexible regulatory frameworks, and design explainable, auditable, and ethically
responsible architectures. The study concludes that integrating a systemic approach is essential to
address the challenges posed by algorithmic creativity and to ensure technological innovation aligned
with legal principles and human values.
Keywords: Generative artificial intelligence, digital art, copyright, algorithmic ethics, systems
engineering
Artículo recibido 24 septiembre 2025
Aceptado para publicación: 29 octubre 2025
pág. 11176
INTRODUCCIÓN
En la actualidad, el auge de la inteligencia artificial (IA) generativa ha transformado radicalmente la
forma en que se concibe y produce el arte. Herramientas como DALL·E, Midjourney y Stable Diffusion
permiten la creación de imágenes y obras visuales sin intervención directa humana en el proceso
artístico, planteando interrogantes profundos sobre la autoría, los derechos de propiedad intelectual y
los límites éticos del uso de algoritmos en campos creativos. Esta problemática adquiere especial
relevancia desde la perspectiva de la ingeniería de sistemas, en la que la arquitectura tecnológica
subyacente desempeña un rol determinante en la trazabilidad, transparencia y control del contenido
generado.
El presente artículo tiene como objetivo general analizar la arquitectura tecnológica detrás de las
herramientas de IA generativa y los desafíos legales asociados a la producción de obras artísticas, desde
un enfoque técnico-jurídico aplicado a la ingeniería de sistemas. Para ello, se describen los principales
componentes arquitectónicos involucrados en la generación automatizada de contenido, se examinan los
vacíos normativos en torno al derecho de autor, y se reflexiona sobre las implicancias éticas y sociales
de estas tecnologías. Asimismo, se analizan propuestas regulatorias internacionales que buscan
adaptarse a este nuevo escenario creativo.
La metodología empleada se basa en un diseño cualitativo, de tipo descriptivo y analítico, con enfoque
documental. Se recurrió a la revisión de literatura científica, legislación vigente y fuentes institucionales
para identificar patrones comunes, conflictos normativos y propuestas de solución. El análisis incluyó
fuentes académicas especializadas, marcos legales nacionales e internacionales, así como estudios
técnicos sobre la arquitectura de modelos generativos. Esta aproximación permitió abordar de manera
interdisciplinaria una problemática compleja que exige considerar simultáneamente aspectos
tecnológicos, jurídicos y éticos.
METODOLOGÍA
El presente estudio se desarrolló bajo un enfoque cualitativo, de tipo descriptivo y analítico, orientado a
examinar los aspectos tecnológicos, jurídicos y éticos vinculados a la inteligencia artificial generativa
(IAG) aplicada al arte digital.
pág. 11177
El diseño de investigación fue documental, no experimental y transversal, ya que se fundamentó en la
comprobación de literatura científica, legislación comparada y documentos institucionales producidos
en los últimos diez años.
Las fuentes de información incluyeron artículos académicos indexados, normativa nacional e
internacional (como el Convenio de Berna, la Ley paraguaya N.º 1328/98 y las propuestas regulatorias
de la Unión Europea), además de informes elaborados por organismos como la UNESCO, la OMPI y la
CISAC.
Para la recolección y análisis de datos se empleó la verificación bibliográfica sistemática y el análisis
comparativo de marcos legales, complementados con el estudio de casos jurisprudenciales relevantes
(por ejemplo, Thaler v. Perlmutter en Estados Unidos). Esta estrategia permitió identificar patrones
comunes, tensiones normativas y vacíos legales, así como evaluar el rol de la arquitectura tecnológica
en la generación automatizada de contenidos.
Los criterios de inclusión contemplaron fuentes publicadas entre 2014 y 2024, en español e inglés, que
abordaran al menos uno de los tres ejes del estudio: dimensión tecnológica, jurídica o ética. Como
criterios de exclusión, se descartaron artículos de divulgación sin respaldo académico, blogs o fuentes
no verificables.
En cuanto a las consideraciones éticas, el trabajo se guio por el principio de respeto a la propiedad
intelectual y la citación íntegra de las fuentes consultadas. Asimismo, se buscó garantizar la objetividad
en la selección del material, evitando sesgos de interpretación.
RESULTADOS Y DISCUSIÓN
Fundamentos tecnológicos de la inteligencia artificial generativa
Uno de los principales hallazgos del estudio radica en la relevancia de comprender la arquitectura
tecnológica de los modelos de inteligencia artificial generativa (IAG), dado que de ella dependen la
calidad, transparencia y control de las obras producidas.
La IAG se define como un subcampo del aprendizaje automático orientado a la creación de contenido
novedoso —imágenes, música, texto o video— a partir de grandes volúmenes de datos. Estos sistemas
reproducen patrones culturales, estéticos o lingüísticos previamente aprendidos, y han transformado los
modos de producción artística y digital contemporánea.
pág. 11178
Entre las arquitecturas más utilizadas destacan:
• Redes generativas adversarias (GANs): introducidas por Goodfellow et al. (2014), funcionan
mediante la interacción entre un generador y un discriminador. Su capacidad para sintetizar imágenes
realistas ha revolucionado la producción visual, aunque presentan limitaciones como el mode collapse
y la falta de explicabilidad.
• Modelos de difusión: permiten generar imágenes de alta calidad a partir de la eliminación
progresiva de ruido, alcanzando niveles de detalle superiores, aunque requieren elevados recursos
computacionales (Ho et al., 2020).
• Transformers: basados en mecanismos de autoatención (Vaswani et al., 2017), han demostrado
gran versatilidad para la generación de texto, imágenes y sonido, con ventajas en coherencia semántica,
pero también riesgos de sesgos y uso intensivo de datos.
A continuación, se presenta una síntesis comparativa de los principales modelos:
Tabla 1. Comparación entre modelos generativos utilizados en IA
Modelo
Arquitectura base
Tipo de
salida
Limitaciones
GANs
Red neuronal dual
(Generador/Discriminador)
Imagen
Entrenamiento
inestable, mode
collapse
Diffusion
Ruido gaussiano y reconstrucción
inversa
Imagen
Alto costo
computacional
Transformer
Autoatención (self-attention)
Texto,
imagen,
sonido
Sesgos, uso intensivo
de datos
El análisis evidencia que, si bien estas arquitecturas han expandido las posibilidades creativas, también
presentan desafíos relacionados con la opacidad algorítmica, la dependencia de grandes volúmenes de
datos y la dificultad de establecer criterios claros de autoría. Estas tensiones deben considerarse en
paralelo con los vacíos legales y éticos, lo que justifica la necesidad de un marco regulatorio flexible y
una ingeniería de sistemas con responsabilidad social.
pág. 11179
Derecho de autor y vacíos legales
El análisis de los marcos normativos muestra que la mayoría de las legislaciones continúan vinculando
la autoría a personas físicas, lo que deja fuera del sistema a obras generadas parcial o totalmente por
algoritmos.
En Estados Unidos, la U.S. Copyright Office ha ratificado que solo se conceden derechos a obras con
intervención humana significativa, como lo confirma el caso Thaler v. Perlmutter (Samuelson, 2023).
En la Unión Europea, aunque no se ha reconocido personalidad jurídica a las IA, se discute la creación
de figuras sui generis que otorguen protección limitada bajo responsabilidad humana (European
Parliament, 2022). En Paraguay, la Ley N.º 1328/98 mantiene una visión clásica del autor como persona
física, sin contemplar la generación algorítmica.
Estos vacíos legales generan incertidumbre sobre la titularidad de los derechos de explotación, la
legitimidad del uso de obras protegidas como insumos de entrenamiento y la responsabilidad por
infracciones derivadas de outputs algorítmicos.
Tensiones éticas en la creación automatizada
La producción artística mediante IA plantea dilemas que trascienden la dimensión legal:
• Transparencia y explicabilidad: muchos modelos operan como “cajas negras”, lo que dificulta
auditar los procesos y asignar responsabilidades (Floridi, 2019).
• Sesgos algorítmicos: al entrenarse con grandes volúmenes de datos, los sistemas pueden
replicar estereotipos y representaciones discriminatorias (Binns, 2018).
• Apropiación cultural: la reproducción de estilos indígenas o iconografías ancestrales sin
consentimiento puede considerarse extractivismo simbólico (UNESCO, 2023).
• Justicia social: la sustitución parcial del trabajo humano por producción algorítmica amenaza
la sostenibilidad económica de sectores creativos (Appel et al., 2024).
Estas tensiones demuestran la necesidad de mecanismos de supervisión ética y trazabilidad en el diseño
de arquitecturas generativas.
Vacíos Legales y Nuevas Propuestas
El análisis de la legislación vigente en distintas jurisdicciones revela un desfase significativo entre el
avance de la inteligencia artificial generativa (IAG) y los marcos normativos tradicionales. La mayoría
pág. 11180
de las leyes de derecho de autor, como es el caso de la Ley N.º 1328/98 en Paraguay, continúan
vinculando la autoría exclusivamente a personas físicas, sin ofrecer alternativas para obras generadas
parcial o totalmente por algoritmos.
Este vacío legal genera incertidumbre sobre la titularidad de los derechos de explotación económica, la
responsabilidad en caso de infracción y la legitimidad de los insumos utilizados para el entrenamiento
de los modelos. Casos como Thaler v. Perlmutter en EE.UU. (U.S. Copyright Office, 2023) han
reafirmado que las obras sin intervención humana significativa no pueden ser protegidas por el
copyright, lo cual deja fuera del sistema a miles de producciones digitales.
En respuesta, distintas propuestas internacionales han comenzado a emerger. La Unión Europea ha
planteado la posibilidad de una figura sui generis que reconozca derechos limitados sobre obras
generadas por IA, siempre bajo responsabilidad humana (European Parliament, 2022). Asimismo,
autores como Gervais (2021) proponen categorías como el "usuario creativo" o "operador de IA", que
permitirían asignar derechos en casos de participación mixta entre humanos y sistemas algorítmicos.
Este panorama subraya la urgencia de reformular la legislación de propiedad intelectual para evitar que
las creaciones generadas mediante IA queden en un limbo jurídico, afectando tanto a creadores como a
usuarios tecnológicos.
Tensiones Éticas en la Creación Automatizada
La producción artística mediante inteligencia artificial también expone un conjunto de dilemas éticos
que no pueden abordarse únicamente desde la legalidad, sino que requieren una evaluación de los valores
implicados en los procesos creativos.
Uno de los conflictos más destacados es el uso de obras preexistentes —muchas veces protegidas por
derechos de autor— como insumos de entrenamiento sin consentimiento de sus creadores. Aunque
algunas empresas alegan que este uso cae bajo el principio de fair use, esta interpretación resulta
ambigua y, en muchos contextos, carente de base legal sólida. Organizaciones como la CISAC (2023)
han denunciado esta práctica como una forma de “extractivismo creativo” que pone en riesgo la
sostenibilidad de la economía cultural.
Otro foco de tensión se presenta en la apropiación cultural algorítmica. Las IA pueden reproducir
estéticas vinculadas a comunidades originarias, lenguas ancestrales o expresiones identitarias sin
pág. 11181
comprender su significado o contexto, lo cual perpetúa una forma moderna de colonialismo simbólico
(UNESCO, 2023).
A ello se suma la opacidad algorítmica: muchos modelos generativos funcionan como cajas negras, lo
que impide auditar cómo y por qué se producen ciertos outputs. Esta falta de explicabilidad atenta contra
principios como la responsabilidad y la transparencia. Propuestas como las datasheets for datasets
(Gebru et al., 2021) y model cards buscan mitigar esta situación mediante documentación estandarizada
que permita evaluar sesgos, calidad de los datos y limitaciones técnicas.
Finalmente, el reemplazo parcial de artistas humanos por sistemas automatizados plantea un conflicto
entre eficiencia tecnológica y justicia social. Como advierte Appel et al. (2024), la desprotección del
trabajo creativo frente a la automatización masiva podría generar nuevas desigualdades en la
distribución de la riqueza cultural y económica.
Implicancias para la Ingeniería de Sistemas
Desde la perspectiva de la ingeniería de sistemas, los desafíos planteados por la IA generativa no se
reducen a aspectos técnicos, sino que exigen una re-conceptualización de las responsabilidades del
diseño algorítmico.
Los ingenieros de sistemas desempeñan un rol central en la construcción de arquitecturas generativas,
desde la selección de datasets hasta la configuración de los modelos de aprendizaje. En este contexto,
conceptos como trazabilidad de datos, reaplicabilidad del modelo, y seguridad funcional dejan de ser
requisitos opcionales y se convierten en componentes esenciales del desarrollo responsable.
Uno de los principales problemas identificados es la carencia de criterios estandarizados para evaluar la
calidad ética y legal de los sistemas generativos. La ingeniería de sistemas, al articular procesos de
modelado, retroalimentación y verificación, puede ofrecer herramientas metodológicas para construir
IA más robustas y audítales (Floridi, 2019).
Además, la disciplina permite integrar enfoques de evaluación de riesgos, modelado de escenarios y
análisis de impacto que son indispensables en contextos donde las decisiones algorítmicas afectan
derechos humanos, acceso a la cultura y sostenibilidad laboral.
pág. 11182
Se plantea, por tanto, la necesidad de una ingeniería de sistemas con conciencia ética, que incorpore en
su praxis principios de justicia, transparencia y pluralidad cultural. No se trata solo de que la IA funcione,
sino de que funcione de forma alineada con los valores que deseamos preservar como sociedad.
CONCLUSIÓN
El estudio permitió identificar que la inteligencia artificial generativa (IAG) no solo plantea avances
significativos en la producción artística digital, sino también importantes desafíos en materia legal, ética
y tecnológica. Desde el punto de vista técnico, arquitecturas como las GANs, los modelos de difusión y
los transformers han ampliado las posibilidades creativas, aunque con limitaciones relacionadas con la
opacidad algorítmica, los sesgos y la demanda de recursos computacionales.
En el ámbito jurídico, se evidenció un rezago normativo en la mayoría de las legislaciones, incluida la
paraguaya, que siguen concibiendo al autor únicamente como persona física. Esta situación genera un
vacío en la protección de obras generadas por IA y abre un debate sobre la necesidad de nuevas figuras
legales o regímenes adaptativos que permitan conciliar innovación con seguridad jurídica.
A nivel ético, los hallazgos subrayan la urgencia de atender riesgos como la apropiación cultural, la
explotación de obras sin consentimiento, la falta de transparencia en los procesos algorítmicos y el
impacto en la sostenibilidad laboral del sector creativo. Estos dilemas refuerzan la importancia de
implementar mecanismos de trazabilidad, replicabilidad y supervisión ética en los modelos generativos.
Finalmente, se concluye que la ingeniería de sistemas debe asumir un rol central en este escenario,
integrando criterios de responsabilidad social, justicia y pluralidad cultural en el diseño y despliegue de
sistemas generativos. Solo a través de un enfoque sistémico, interdisciplinario y éticamente
fundamentado será posible garantizar que la creatividad algorítmica se desarrolle en armonía con los
principios jurídicos y los valores humanos.
Como línea futura, se recomienda profundizar en estudios comparativos de marcos legales emergentes
y en la elaboración de estándares técnicos que favorezcan la construcción de arquitecturas audítales y
culturalmente inclusivas.
pág. 11183
REFERENCIAS BIBLIOGRÁFICAS
Appel, A., Samanta, R., & Kumar, R. (2024). Artificial creativity and labor displacement: Challenges
for cultural economies. Technology and Society Journal, 39(1), 22–41.
Bengio, Y., LeCun, Y., & Hinton, G. (2015). Deep learning. Nature, 521(7553), 436–444.
https://doi.org/10.1038/nature14539
Binns, R. (2018). Fairness in machine learning: Lessons from political philosophy. In Proceedings of
the 2018 Conference on Fairness, Accountability and Transparency (pp. 149–159).
https://doi.org/10.1145/3287560.3287583
Confederación Internacional de Sociedades de Autores y Compositores (CISAC). (2023). AI and the
creative sector: Ensuring fair use and fair remuneration.
https://www.cisac.org/Newsroom/articles/artificial-intelligence-and-creators-rights
European Parliament. (2021). Report on the proposal for a regulation laying down harmonised rules on
artificial intelligence (Artificial Intelligence Act).
https://www.europarl.europa.eu/doceo/document/A-9-2021-0186_EN.html
Floridi, L. (2014). The fourth revolution: How the infosphere is reshaping human reality. Oxford
University Press.
Floridi, L. (2019). Establishing the rules for building trustworthy AI. Nature Machine Intelligence, 1(6),
261–262. https://doi.org/10.1038/s42256-019-0055-y
Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J. W., Wallach, H., Daumé III, H., & Crawford,
K. (2021). Datasheets for datasets. Communications of the ACM, 64(12), 86–92.
https://doi.org/10.1145/3458723
Gervais, D. J. (2021). The machine as author. Iowa Law Review, 105(5), 2053–2085.
https://ilr.law.uiowa.edu/article/63052-the-machine-as-author
Goodfellow, I., Pouget-Abadie, J., Mirza, M., Xu, B., Warde-Farley, D., Ozair, S., Courville, A., &
Bengio, Y. (2014). Generative adversarial nets. In Advances in Neural Information Processing
Systems, 27 (pp. 2672–2680). https://arxiv.org/abs/1406.2661
Ho, J., Jain, A., & Abbeel, P. (2020). Denoising diffusion probabilistic models. In Advances in Neural
Information Processing Systems, 33 (pp. 6840–6851). https://arxiv.org/abs/2006.11239
pág. 11184
Organización Mundial de la Propiedad Intelectual (OMPI). (2020). La inteligencia artificial y la
propiedad intelectual: cuestiones emergentes.
https://www.wipo.int/edocs/mdocs/mdocs/es/wipo_ip_ai_2_ge_20_1_rev.pdf
Radford, A., Wu, J., Child, R., Luan, D., Amodei, D., & Sutskever, I. (2019). Language models are
unsupervised multitask learners. OpenAI. https://cdn.openai.com/better-language-
models/language_models_are_unsupervised_multitask_learners.pdf
Rombach, R., Blattmann, A., Lorenz, D., Esser, P., & Ommer, B. (2022). High-resolution image
synthesis with latent diffusion models. In Proceedings of the IEEE/CVF Conference on
Computer Vision and Pattern Recognition (CVPR) (pp. 10684–10695).
https://doi.org/10.1109/CVPR52688.2022.01042
Samuelson, P. (2023). Thaler v. Perlmutter: Why AI-generated works aren't protected by copyright law.
Journal of Intellectual Property Law, 30(1), 45–67.
U.S. Copyright Office. (2023). Copyright registration guidance: Works containing material generated
by artificial intelligence. https://www.copyright.gov/ai/
UNESCO. (2021). Recomendación sobre la ética de la inteligencia artificial.
https://unesdoc.unesco.org/ark:/48223/pf0000381137
World Intellectual Property Organization (WIPO). (1971). Berne Convention for the Protection of
Literary and Artistic Works. https://www.wipo.int/treaties/en/ip/berne/