Modelos de minado de texto para la implementacin de sistemas de prediccin de plagio de la Universidad Tcnica de Manab

 

Text mining models for the implementation of plagiarism prediction systems at the Technical University of Manab

 

Modelos de minerao de texto para a implementao de sistemas de previso de plgio na Universidade Tcnica de Manab

 

 

Dario Xavier Mieles Macias I
dmiles0735@utml.edu.ec
 https://orcid.org/0000-0001-8689-8218
Ermenson Ricardo Ordoez Avila II
ermensonrodoez@gmail.com
https://orcid.org/0000-0003-2583-2076
 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 

 


Correspondencia: dmiles0735@utml.edu.ec

 

 

Ciencias Tcnica y Aplicadas

Artculo de Investigacin

* Recibido: 23 de abril de 2023 *Aceptado: 12 de mayo de 2023 * Publicado: 12 de junio de 2023

 

  1. Estudiante de la carrera de Ingeniera en Sistemas informticos, Universidad Tcnica de Manab, Ecuador.
  2. Magster en Gestin de Sistemas de Informacin e Inteligencia de Negocios, Ingeniero en Sistemas Informticos, Facultad de Ciencias Informticas, Universidad Tcnica de Manab, Ecuador.

Resumen

El presente estudio tiene como propsito analizar los modelos de minado de texto para la implementacin de sistemas de prediccin de plagio como herramientas modernas que deben ajustarse a los desafos complejos de este problema de crecimiento continuo. Para ello se realiz una revisin sistemtica de literatura enmarcada en parmetros PRISMA para seleccin de artculo y reduccin de sesgo, identificacin de cadenas de bsqueda en bases de datos como ACM, Science direct, IEEE xplore, Scopus considerando criterios de enfoque y contenido para evaluar cada artculo seleccionado. Entre las tcnicas de minera de texto fueron ms comunes los clasificadores especficamente, las redes neuronales y los rboles de decisin, tambin se identificaron tcnicas de agrupamiento. El sistema de deteccin de plagio ms utilizado es Turnitin, el modelo de minera ms utilizado son las redes recurrentes (LSTM) cuya precisin fue del 100%, la recuperacin de 97%, exactitud del 99% y una deteccin de plagio del 94%. En conclusin, las Universidades e institutos se han visto en la necesidad de implementar procesos de deteccin de plagio a travs del uso de sistemas de deteccin, se ha considerado el empleo de tcnicas de minera de texto que facilitan la deteccin y reconocimiento de elementos, similitudes, coincidencias y semejanzas que aportan en la comprobacin de plagio en textos acadmicos; las redes recurrentes han presentado mejores resultados en diversos escenarios de deteccin, por ello, se sugieren como modelo de minera de datos de tipo predictivo.

Palabras Clave: Minera de texto; prediccin; plagio; software antiplagio; publicaciones acadmicas.

 

Abstract

The purpose of this study is to analyze text mining models for the implementation of plagiarism prediction systems as modern tools that must be adjusted to the complex challenges of this continuously growing problem. For this, a systematic review of the literature was carried out framed in PRISMA parameters for article selection and bias reduction, identification of search strings in databases such as ACM, Science direct, IEEE xplore, Scopus considering focus and content criteria to evaluate each study. selected item. Among the text mining techniques, specifically classifiers, neural networks and decision trees were more common, clustering techniques were also identified. The most used plagiarism detection system is Turnitin, the most used mining model is recurring networks (LSTM) whose accuracy was 100%, recovery 97%, accuracy 99% and plagiarism detection 94%. In conclusion, Universities and institutes have seen the need to implement plagiarism detection processes through the use of detection systems, the use of text mining techniques has been considered that facilitate the detection and recognition of elements, similarities , coincidences and similarities that contribute to the verification of plagiarism in academic texts; recurrent networks have presented better results in various detection scenarios, therefore, they are suggested as a predictive data mining model.

Keywords: Text mining; prediction; plagiarism; anti-plagiarism software; academic publications.

 

Resumo

O objetivo deste estudo analisar modelos de minerao de texto para a implementao de sistemas de previso de plgio como ferramentas modernas que devem ser ajustadas aos complexos desafios desse problema crescente. Para isso, foi realizada uma reviso sistemtica da literatura enquadrada nos parmetros PRISMA para seleo de artigos e reduo de vis, identificao de strings de busca em bases de dados como ACM, Science direct, IEEE xplore, Scopus considerando critrios de foco e contedo para avaliar cada estudo. item selecionado. Entre as tcnicas de minerao de texto, especificamente classificadores, redes neurais e rvores de deciso foram mais comuns, tcnicas de agrupamento tambm foram identificadas. O sistema de deteco de plgio mais utilizado o Turnitin, o modelo de minerao mais utilizado redes recorrentes (LSTM) cuja preciso foi de 100%, recuperao 97%, preciso 99% e deteco de plgio 94%. Em concluso, Universidades e institutos tm visto a necessidade de implementar processos de deteco de plgio atravs do uso de sistemas de deteco, foi considerado o uso de tcnicas de minerao de texto que facilitam a deteco e reconhecimento de elementos, semelhanas, coincidncias e semelhanas que contribuem para a verificao de plgio em textos acadmicos; redes recorrentes tm apresentado melhores resultados em vrios cenrios de deteco, portanto, so sugeridas como um modelo preditivo de minerao de dados.

Palavras-chave: Minerao de texto; predio; plgio; software antiplgio; publicaes acadmicas.

 

 

Introduccin

La tecnologa ha permitido generar escenarios de informacin que favorecen los nuevos conocimientos; sin embargo, la gran cantidad de datos que se encuentran en la Web se ha convertido en un arma de dos caras, especialmente en el campo de la investigacin acadmica donde resulta indispensable el buen manejo de la informacin como una habilidad que contribuya con la localizacin y uso eficiente de la informacin (Michn y lvarez, 2019).

Los formatos digitales y el acceso abierto a gran cantidad de informacin forman parte de la revolucin informtica (reconocida como un proceso innovador que ha experimentado con datos cientficos) donde los datos constituyen un nuevo recurso valioso que no slo se genera e impulsa, sino que, adems, se comercializa. Por ello, cada vez, existe mayor inters por la creacin de enfoques, herramientas, mtodos y aplicaciones computacionales innovadores orientados a la caracterizacin, estudio, sistematizacin, estructuracin, entre otros, para obtener nuevo conocimiento, resolver problemas y tomar decisiones en base al resultado de los procesos informticos que manejan esos datos (Venkatakrihnan et al., 2016).

En el campo de la investigacin, cada vez existe un mayor desafo por parte de las Universidades para aprobar los trabajos investigativos realizados por los estudiantes, pues si bien es un proceso que demanda indagacin, pruebas, comprobacin y anlisis, en la prctica no siempre se cumplen todas esas fases; al contrario, la dinmica actual de los estudiantes con el advenimiento de la era digital, las demandas sociales que exigen cada vez mayor grado de preparacin acadmica a jvenes profesionales y la deshonestidad acadmica se ha convertido en una realidad que atenta directamente contra las investigaciones originales y confiables, pues se trata de un problema de principios ticos-morales producto de las nuevas caractersticas adquiridas en el plagio acadmico derivadas de la era digital (Rogerson y McCarthy, 2017).

A este respecto, Llovera (2023) indica que, el uso de los diferentes recursos e informacin en formato digital ha conducido al estudiantado a buscar formas ms rpidas para realizar sus trabajos acadmicos y, por ello, incurrir muchas veces en la prctica conocida como ciberplagio lo cual ocurre de forma consciente (copia y pega de Internet) e inconsciente, esta ltima cuando se desconoce la debida norma de citacin como APA, Vancouver, IEEE, etc., cuya aplicacin es fundamental, especialmente cuando se ha parafraseado el texto de referencia.

En este contexto, el plagio acadmico ha cobrado especial relevancia en el campo de la investigacin universitaria, especialmente a partir de casos que han involucrado figuras pblicas como congresistas, funcionarios pblicos y hasta presidentes (Navarro, 2023); a esto, se suma informacin como la resultante de la encuesta del Programa Universitario de Biotica realizado por la Universidad Autnoma de Mxico que revela cmo un 52% de acadmicos de dicha casa de estudios que ha sido testigo de plagio acadmico por parte de sus colegas en procesos de investigacin para titulacin de pregrado, postgrado y hasta doctorado (Cruz, 2023).

Frente a este creciente problema del ciberplagio, el mismo que ocurre en el contexto acadmico en investigaciones realizadas por estudiantes de educacin superior, se ha incrementado el uso de programas y sistemas informticos por parte de las universidades y revistas cientficas para la deteccin de coincidencias y patrones que puedan evidenciar plagio en el material que se presente ante las autoridades universitarias en virtud de evitar investigaciones fraudulentas y generar las respectivas sanciones o correctivos necesarios para mantener la confianza y validez de los trabajos que se aprueben para su futura publicacin.

La minera de textos forma parte de esas soluciones informticas que se han perfeccionado con el paso de los aos y las innovaciones tecnolgicas que han ocurrido, pues se trata de un subconjunto de la minera de datos til para extraer informacin de datos no estructurados y, a su vez, detectar grupos, tendencias, asociaciones y derivaciones de patrones a partir de tcnicas basadas en el procesamiento de textos como la lingstica computacional y la recuperacin de informacin las cuales se aplican tanto en la fase de pre-procesamiento, donde los textos se transforman en un tipo de representacin semiestructurada, previo a la fase de descubrimiento, donde se detectan agrupamientos, asociaciones, desviaciones o tendencias (Gil, 2021).

Este proceso de descubrimiento se realiza mediante el uso de mtodos de aprendizaje automtico, estadsticos, matemticos o artificiales para explorar en grandes bases de datos (Mancilla et al., 2020) que, de otra forma, no se podran analizar. Cuando se hace referencia a esta tcnica, es preciso entender que la minera de datos puede ser descriptiva o predictiva; en el primer caso, se trata de aquella que encuentra patrones y relaciones en los datos utilizando tcnicas de asociacin y agrupamiento, mientras que, en el segundo caso se trata de aquellas que predicen el valor particular de un atributo a partir de otros atributos enfocadas en algoritmos de clasificacin y regresin (Santamaria, 2015).

En el contexto universitario, en donde se desenvuelven los estudiantes de la Universidad Tcnica de Manab, es necesario explorar las alternativas tecnolgicas que permitan y garanticen una adecuada revisin de las publicaciones de sus estudiantes, reduciendo el plagio, y a su vez, alcanzando niveles adecuados de calidad.

Es por ello que, describiendo las caractersticas tcnicas y metodolgicas de las herramientas utilizadas para el diseo e implementacin de soluciones orientadas a la prediccin del plagio, se obtendran mejores mrgenes de confiabilidad en los procesos de revisin de las producciones intelectuales elaboradas en el seno de esta casa de estudio.

Esta revisin sistemtica de literatura tiene como objetivo explorar los modelos de minado de texto utilizados en sistemas de prediccin de plagio en instituciones de educacin superior. Para alcanzar este propsito, se formularon las siguientes preguntas de investigacin:

RQ1. Qu tcnicas de minera de texto se han utilizado para predecir el plagio en publicaciones acadmicas?, RQ2. Cules son los sistemas de prediccin de plagio utilizados en instituciones de educacin superior?, RQ3. Cules son los modelos de minera de datos, con mejores indicadores de rendimiento, implementados en sistemas de prediccin de plagio en universidades?

Finalmente, es preciso indicar que este trabajo de investigacin presenta el orden que sugiere el modelo PRISMA, para revisiones sistemticas de literatura: introduccin, mtodo, resultados, discusin y conclusiones.

 

Mtodo

El presente artculo de revisin sistemtica parte de la aplicacin de los parmetros PRISMA (Preferred Reporting Items for Systematic reviews and Meta-Analyses por sus siglas en ingls) para este tipo de investigaciones en el que se considera fundamental utilizar la lista de verificacin al momento de seleccionar los artculos y publicaciones que conformarn la sistematizacin, as como la determinacin de una estrategia de bsqueda que responda a dichos parmetros con la finalidad de reducir los sesgos informativos.

En este caso, la estrategia de bsqueda utilizada inici con la determinacin de los criterios de bsquedas, entre los cuales destacan como criterios de inclusin: publicaciones, artculos de revisin sistemtica, artculos originales y artculos de revisin bibliogrfica; asimismo, se consideraron las publicaciones realizadas en revistas de alto impacto, redactadas en ingls o espaol, cuyo contenido sea completo y disponible, publicaciones realizadas en un perodo de 2015-2023, que compartan ms de una palabra clave.

Por su parte, los criterios excluyentes se enmarcaron en: publicaciones incompletas, tesis doctorales, monografas o libros, investigaciones publicadas en revistas no indexadas o de bajo impacto, publicaciones realizadas en otro idioma distinto al ingls o espaol, que no comparten variables o palabras claves, publicadas antes del 2015.

Posterior a la determinacin de los criterios de bsqueda, se especificaron las palabras claves a utilizar en base a las principales variables de investigacin las cuales fueron: Plagio, minera de texto, aprendizaje automtico tcnicas de minera de datos, prediccin de plagio, algoritmos de prediccin, educacin superior en espaol y, Plagiarism, text mining, machine learning, data mining techniques, plagiarism prediction, prediction algorithms, higher education en ingls. Estas palabras junto a los criterios de bsqueda orientaron la indagacin a travs de los buscadores de alto impacto tales como: ACM, Science direct, IEEE Xplore, Scopus y Google Academy. Con estos trminos clave, se dise la cadena de bsqueda ideal (Tabla 1).

 

Tabla 1.- Cadena de bsqueda por cada buscador

Base de Datos

Cadena de Bsqueda

ACM

[All: plagiarism] AND [[All: prediction] OR [All: detection]] AND [All: "text mining"] AND [E-Publication Date: (01/01/2015 TO 12/31/2023)]

Science direct

plagiarism AND (prediction OR detection) AND "text mining"

Google Academy

plagiarism + (prediction OR detection) + "text mining"

IEEE xplore

((plagiarism AND(prediction OR detection) AND "text mining"))

Scopus

1         ( plagiarism AND ( prediction OR detection ) AND "text mining" ) AND PUBYEAR > 2014 AND PUBYEAR < 2024 AND PUBYEAR > 2014 AND PUBYEAR < 2024

 

Para el proceso de revisin y seleccin de los artculos que conforman la sistematizacin, se utiliz la lista de verificacin para resmenes estructurados de PRISMA, haciendo nfasis en los tems de: ttulo, resumen, objetivos, mtodos y resultados, los cuales permitieron llevar a cabo la bsqueda y seleccin en sus diferentes fases de identificacin, cribado, evaluacin e inclusin.

 

Para la evaluacin de los artculos primarios se valoraron dos aspectos principales: enfoque y contenido, en tres niveles de acuerdo a los percentiles indicados donde moderado corresponde entre 0 y 40 de aportacin, aceptable entre 41 y 80, y finalmente, ptimo entre 81 y 100 (Tabla 2).

 

Tabla 2.- Valoracin de cada nivel de aporte de los artculos revisados

Nivel de aporte

Percentil

Moderado

0-40

Aceptable

41-80

ptimo

81-100

 

En el primer caso, se evaluaron las referencias de sistemas de prediccin de plagio y, en el segundo caso, se evaluaron las referencias relacionadas con la minera de datos, cada una de ellas con un conjunto de criterios (Tabla 3) que se ponderaron de acuerdo al aporte que tuvo cada uno de ellos a las variables: Nada (0), Algo (0.5), Cumple Totalmente (1).

 

Tabla 3.- Criterios a evaluar por cada aspecto de investigacin

Criterios

Aspectos

Enfoque

Contenido

1

E1-Menciona criterios de prediccin de plagio

C1-Metodologa de minera de datos utilizadas

2

E2-Presenta indicadores de rendimiento de los algoritmos utilizados

C2-Secciones de limitaciones

3

E3-Describe las tcnicas de mineras de textos utilizadas

C3-Propuestas o referencias para el desarrollo de investigaciones futuras

 

Resultados

Los principales hallazgos de este estudio evidencian que los artculos seleccionados y revisados cumplieron en un 100% con los parmetros de verificacin de resmenes estructurados PRISMA (Figura 1), los cuales se realizaron en su mayora en el ao 2020 en pases asiticos, seguidos de pases latinoamericanos y, finalmente, los de Europa, los cuales cumplieron cada uno con las respectivas palabras claves en relacin a: deteccin de plagio, machine learning, minera de texto, minera de datos, plagio acadmico, etc., (Tabla 4)

 

Figura 1. El flujo de bsqueda y seleccin de artculos.

 

Tabla 4

Identificacin, evaluacin y seleccin de artculos segn PRISMA

 

P

Autor

Ao

Ttulo

Lugar del estudio

Tipo de estudio

Palabras Claves Asociadas

P1

Sindhu y Idicula

2017

Plagiarism detection in Malayalam language text using a composition of similarity measures

Singapur

Revisin

Deteccin de plagio

P2

Duracick et al.

2020

Mtodo optimizado basado en algoritmo K-means como herramienta en la deteccin de plagio en cdigo fuente

Colombia

Artculo Original

Plagio, algoritmos, cdigo fuente

P3

Qiubo et al.

2019

Research on code plagiarism detection model based on Random Forest and Gradient Boosting Decision Tree

Hong Kong

Artculo Original

Deteccin de plagio, rbol de decisin

P4

Xylogiannopoulos, et al.

2020

Text mining for plagiarism detection: multivariate pattern detection for recognition of text similarities

Espaa

Artculo Original

Minera de texto y deteccin de plagio

P5

Viuginov et al.

2020

A Machine Learning based plagiarism detection in source code

China

Artculo Original

Machine learning

P6

Al et al.

2018

Detection of plagiarism in URDU text documents

Pakistn

Artculo Original

Plagio, algoritmos de clasificacin

P7

Mansoor y Al Tamimi

2022

Plagiarism detection system in scientific publication using LSTM networks

 

Artculo Original

Deteccin de plagio, minera de texto

P8

Massagram et al.

2018

A novel technique for Thai document plagiarism detection using syntactic parse trees

Tailandia

Revisin

Minera de texto y deteccin de plagio

P9

Chakrabarty y Roy

2018

An efficient context-aware agglomerative fuzzy clustering framework for plagiarism detection

India

Artculo Original

Minera de texto y deteccin de plagio

P10

El-Rashidy et al.

2022

reliable plagiarism detection system based on deep learning approaches

Egipto

Artculo Original

Minera de texto y deteccin de plagio

P11

Priya et al.

2019

Plagiarism detection in source code using machine learning

India

Artculo Original

Minera de texto, minera de datos, machine learning y deteccin de plagio

P12

Perilla, M.

2020

Deteccin de plagio en cdigo fuente java mediante tokenizacin y aprendizaje de mquina

Colombia

Artculo Original

Plagio, cdigo fuente, tokenizacin

P13

Reducindo et al.

2017

Integracin de plataformas LMS y algoritmo de cdigo abierto para deteccin y prevencin de plagio en Educacin Superior

Mxico

Artculo Original

Plagio acadmico, algoritmo de deteccin

P14

Santamara, W.

2015

Tcnicas de minera de datos aplicadas en la deteccin de fraude: Estado del arte

Colombia

Artculo Original

Deteccin de fraude, minera de datos

P15

Hany y Gomaa

2022

A hybrid approach to paraphrase detection based on text

Egipto

Artculo Original

Deteccin de fraude, minera de datos

P16

Huang et al.

2020

Code plagiarism detection method based on code similarity and student behavior characteristics

China

Artculo Original

Deteccin de plagio, minera de datos

P17

Nennuri, et al.,

2021

Plagiarism detection through data mining techniques

Suiza

Artculo Original

Deteccin de plagio, minera de datos

P18

Kulkarni et al.

2021

Analysis of Plagiarism Detection Tools and Methods

 

Revisin Sistemtica

Deteccin de plagio

P19

Shakeel, et al.

2020

A multi-cascaded model with data augmentation for enhanced paraphrase detection in short texts

Pakistan

Artculo Original

Deteccin, minera

P20

Awale et al.,

2020

Plagiarism Detection in Programming Assignments using Machine Learning

Nepal

Artculo Original

Deteccin de plagio, Minera de textos

 

 

Los artculos primarios seleccionados se valoraron por criterio en cada uno de los aspectos evaluados: enfoque y contenido ponderados de acuerdo a su nivel de aportacin en cada una de las variables de est6udio (Tabla 5). En este particular, se evidencia un mayor aporte aceptable y ptimo en enfoque, mientras que, en el contenido, el mayor aporte es el moderado. En cuanto a los criterios de enfoque, la presentacin de indicadores de rendimiento de los algoritmos utilizados (E2) fue el mejor ponderado; por su parte, el criterio de contenido mejor ponderado fue el de metodologa de minera de datos utilizadas (C1) (Figura 2).

 

Tabla 5.- Tabla de valoracin segn aporte (enfoque-contenido)

P

Enfoque

%

Aporte

Contenido

%

Aporte

E1

E2

E3

C1

C2

C3

P1

1

1

1

100%

ptimo

1

0

1

67%

Aceptable

P2

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P3

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P4

1

1

0.5

83%

ptimo

0.5

0

0.5

33%

Moderado

P5

1

1

0.5

83%

ptimo

0.5

0

1

50%

Aceptable

P6

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P7

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P8

1

1

1

100%

ptimo

1

1

1

100%

ptimo

P9

1

1

1

100%

ptimo

1

0

1

67%

Aceptable

P10

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P11

1

0.5

1

83%

ptimo

1

0

0

33%

Moderado

P12

1

1

1

100%

ptimo

1

1

1

100%

ptimo

P13

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P14

0.5

1

1

83%

ptimo

1

0

1

67%

Aceptable

P15

1

1

1

100%

ptimo

1

0

0

33%

Aceptable

P16

1

1

1

100%

ptimo

1

1

0

67%

Aceptable

P17

1

1

1

100%

ptimo

1

0

0

33%

Moderado

P18

1

0.5

0.5

67%

Aceptable

0.5

0

0

17%

Moderado

P19

1

0.5

1

83%

ptimo

1

0

0

33%

Moderado

P20

1

1

1

100%

ptimo

1

0

0

33%

Moderado

 

 

Figura 2.- Nivel de aporte de los artculos primarios (enfoque-contenido)

 

Entre las principales tcnicas de minera de texto utilizadas para predecir plagio en las publicaciones acadmicas destacan los clasificadores de tipo predictivo a travs de redes neuronales, rboles de decisiones, redes bayesianas y otros como datos etiquetados de Machine Learning; por su parte, el agrupamiento de tipo descriptivo se present a partir del uso de agrupamiento difuso. En cuanto a los sistemas de prediccin de plagio utilizados en las instituciones de educacin superior que fueron analizadas, destaca Turnitin como el principal y ms comn sistema de deteccin a pesar de que se enuncian otros como Plagscam, Chamilo, Jplag.

En cuanto a las caractersticas funcionales de las soluciones informticas que emplean la minera de datos para la prediccin de plagio se utilizaron procesos como el algoritmo K-Means, Nave Bayes, KDD, K-NN, C4.5, clasificacin binaria, mquina de soporte vectorial en algunos casos aplicados en WEKA. En la mayora de los casos los procedimientos realizados se enmarcaron en el anlisis, consenso, patrones de comportamiento, tokenizacin de cdigo fuente, limpieza, extraccin, recuperacin, agrupamiento, validacin y localizacin de conjuntos.

Por su parte, las soluciones funcionales que se presentaron en los estudios revisados contemplaron la creacin de nuevos algoritmos para la obtencin de correlaciones entre conjuntos de intemsets relevantes para reducir redundancias (Daz y Garca, 2018), deteccin de plagio de cdigo fuente, mapeo de uso Weka, descubrimiento de conocimiento usando KDD, identificacin de datos para caracterizar fenmenos, identificacin de diversos tipos de plagio, determinacin de variables asociadas, seleccin, limpieza, transformacin y proyeccin de datos, comparacin de niveles de uso de texto, deteccin de patrones investigativos, deteccin de fraude, prediccin de fracaso escolar, incremento de la eficiencia en la deteccin de plagio y deteccin de plagio semntico (Tabla 6 ).

 

Tabla 6.- Principales resultados en tcnicas y modelo de minera utilizada

P

TMD utilizada

TM

Solucin funcional

Proceso

Procedimiento

P1

Red Neuronal (clasificador)

Predictiva

Prediccin de plagio rpido y con ptima clasificacin

algoritmo NLP

Combinacin de puntuaciones de similitud

P2

Agrupacin

Descriptiva

Deteccin de plagio de cdigo fuente

K-Means

Herramienta de clasificacin previa de vectores

P3

rboles de decisin (clasificador)

Predictiva

Mejor rendimiento para determinar nivel de sospecha del cdigo

Algoritmos Random Forest y Gradient Boosting Decision Tree

Combinacin de algoritmos para determinar rango de grado de similitud

P4

Agrupacin

Descriptiva

Deteccin de plagio en bibliotecas digitales de big data, deteccin de patrones comunes entre documentos bajo inspeccin y bibliotecas de referencia y deteccin eficiente de diferentes tipos de plagio

Algoritmo LERP-RSA y ARPaD

Combinado multivariante que mejora la estructura de datos para la deteccin de patrones

P5

rbol de anlisis comprimido (Clasificadores)

Predictiva

Canalizacin para clasificar cdigos fuente de pares
de soluciones para problemas de ACM

AST (rbol de Sintaxis Abstracta)

Produccin de rbol estructurado con diferentes tipos de nodos

P6

Redes Bayesianas (Clasificadores)

Predictiva

Identificar diferentes tipos de plagio, como el reordenamiento de oraciones, la similitud intertextual inerte/borrada y la similitud de copia cercana

Support Vector Machine y Nave Bayes

Mtodo de concenso

P7

Redes Neuronales (Clasificadores)

Predictiva

Detectar plagios internos y externos, ampla la memoria para aprender de sus experiencias recordando sus entradas.

Algoritmo LSTM (Long -Short Term Memory)

Extensin de redes neuronales recurrentes

P8

rboles de anlisis sintctico (clasificador)

Predictiva

Identificacin de clases semnticas de las oraciones. Mejora la precisin de la deteccin de plagio

SRL (Semantic Role Labeling)

Etiquetado jerrquico-no secuencial

P9

Agrupamiento difuso (Fuzzy clustering)

Descriptiva

Mejorar solidez y consistencia de resultados para agrupar artculos multidisciplinarios

Enfoque aglomerativo

Construir jerarqua de grupos

P10

Redes Neuronales convolucionales (Clasificador)

Predictiva

Extrae automticamente caractersticas que se utilizarn para la clasificacin de objetos

RNN/CNN/ Modelo LSTM

Clasificar y predecir

P11

Datos etiquetados Mahine Learning (Clasificadores)

Predictiva

Determinar presencia o ausencia de plagio, estimar funcin de densidad de las predictoras, reducir sesgo y varianza en el contexto de aprendizaje supervisado

LSTM

Combinacin de algoritmos clasificadores para optimizar precisin de resultados

P12

Clasificadores

Predictiva

Deteccin de plagio de cdigo fuente

SMO usado en WEKA

Tokenizacin de cdigo fuente

P13

Agrupamiento

Descriptivo

Deteccin de plagio de cdigo fuente

AAPD

Extraccin-recuperacin

P14

Agrupamiento, rboles de decisin y redes neuronales

Descriptiva y predictiva

Deteccin de fraude

K-Means, CART, MLP

Descubrimiento y extraccin de conocimiento

P15

Red Neuronal (clasificador)

Predictiva

Prediccin de plagio rpido y con ptima clasificacin

Algoritmo NLP

Combinacin de tcnicas de similitud (semntica, de cadena y de incrustracin

P16

rboles de decisin (clasificadores)

Predictivo

Deteccin de plagio de cdigo basado en similitud del cdigo

Clasificacin binaria utilizando SCD (concentracin de similitud de cdigo)

Identificar distribucin de similitud entre todos los cdigos

P17

Redes Neuronales (Clasificadores)

Predictivo

Incrementar la eficiencia en la deteccin de plagio

Enfoque k-NN

Localizacin de conjuntos de datos copiados

P18

Redes Neuronales (Clasificadores)

Predictivo

Deteccin de plagio semntico

Enfoque K-NN

Localizacin de conjuntos de datos copiados

P19

Redes Neuronales (Clasificadores)

Predictivo

Mejorar el rendimiento de los modelos de aprendizaje profundo y analizar el impacto de varios pasos de aumento de datos

CNN y LSTM

Deteccin de parfrasis en textos breves

P20

rboles de decisin (Clasificador)

Predictivo

Incrementar precisin en el modelo de deteccin

Algoritmo xgBoost

Predecir pares de cdigo fuentes plagiados

Finalmente, los indicadores de rendimiento mejor valorados en los modelos de minera de datos revisados en los artculos son: la precisin (f-measure) con un 100% en modelos como el enfoque aglomerativo, 99% en la clasificacin binaria y 98% en las LSTM; en cuanto a la recuperacin, el marco SPT y SRL report un 100%, el algoritmo xgBoost 97% y las LSTM un 97%; por su parte, la exactitud tuvo mejor valoracin en modelos como las LSTM (99%), xgBoost (94%) y Gradient Boosting Decision Tree (95%) (Tabla 7).

Asimismo, se analiz el nivel de deteccin de plagio que report mejor valoracin en las LSTM con un 94% y la especificidad de 98% fue generada utilizando Gradient Boosting Decision Tree; el mejor tiempo fue de 1.64 segundos y lo report el SMO.

 

Tabla 7.- Indicadores de rendimiento por tcnica y modelo de minera

Publicacin

Modelo

Tcnica de minera

Medida de rendimiento

Precisin

Recuperacin

Exactitud

Det. Plagio

Tiempo

Esp.Sen.

P1

NLP

Red Neuronal (PNN)

0.93

0.95

 **

 **

 **

 **

P2

K-means

Clustering

 **

** 

 **

 **

5.2 ''

*** 

P3

Random Forest y Gradient Boosting Decision Tree

rbol de decisin

0.202 (RF)
0.929 (GBDT)

** 

0.202 (RF)
0.959 (GBDT)

 **

** 

1 (RF)
0.864 (GBDT)

P4

Algoritmo LERP-RSA y ARPaD

Clustering

 **

 **

 **

1

** 

** 

P6

Support Vector Machine y Nave Bayes

Redes Bayesianas

0.73 (SVM)
0.71(NB)

0.83 (SVM)
0.80 (NB)

** 

 **

** 

 **

P7

Algoritmo LSTM (Long -Short Term Memory)

Redes neuronales

0.98

0.97

0.99

** 

 **

** 

P8

Marco SPT y SRL

rboles de anlisis sintctico

0.33 (SRL)
0.79 (SPT)

1

 **

** 

 **

** 

P9

Enfoque aglomerativo

Agrupamiento difuso

1

0.95

 **

 **

 **

** 

P10

Modelo LSTM

Redes Neuronales convolucionales (Clasificador)

0.95

0.92

 **

0.94

**

 **

P11

LSTM

Datos etiquetados Mahine Learning

0.89

0.887

 **

0.887

** 

**

P12

SMO usado en WEKA

Clasificadores

 **

**

**

**

1.64 ''

**

P15

NLP

Red Neuronal (PNN)

0.76

**

**

**

**

**

P16

Clasificacin binaria

rbol de decisin

0.99

**

**

**

**

**

P17

Enfoque k-NN

Redes neuronales

Alta

**

**

**

**

**

P18

Enfoque K-NN

Redes neuronales

Alta

**

**

**

**

**

Alta

**

**

**

**

**

P19

CNN y LSTM

Redes neuronales

0.70

0.80

0.90

**

**

**

P20

Algoritmo xgBoost

rbol de decisin

0.95 (NP)
0.89 (P)

0.97 (NP)
0.82 (P)

0.94 (NP)
0.94 (P)

**

**

**

** Valores no disponibles

 

Discusin

Los hallazgos de este estudio muestran que el problema del plagio acadmico, especialmente, a nivel universitario, es comn en todos los continentes y en diversos idiomas, lo que supone un reto para la minera de datos en la creacin de algoritmos y programas de deteccin de plagio que superen las barreras del idioma en virtud de incrementar la precisin en este tipo de recursos informticos.

En atencin a la pregunta de investigacin RQ1: Qu tcnicas de minera de texto se han utilizado para predecir el plagio en publicaciones acadmicas? En esta investigacin destacaron entre las tcnicas de minera de textos utilizadas para predecir plagio en publicaciones acadmicas los clasificadores de redes neuronales tal como exponen autores como: Sindhu e Idicula (2017); Mansoor y Al Tamimi (2022); El-Rashidy (2022); Perilla (2019); Hany (2022); Nennuri et al., (2021); Kullkarni et al., (2021); Shakeel et al., (2020), los rboles de decisiones referidos por: Awale et al., (2020); Huang et al., (2020); Massagram et al., (2018); Viuginov (2020), Qiubo, (2019); Santamara (2015) y las redes bayesianas (Al et al., 2018). En este contexto, los clasificadores son idneos para identificar coincidencias y generar mtricas de similitud, especialmente utilizadas en la deteccin de plagio porque, especficamente en la identificacin de parfrasis, permiten inferir el contexto adecuado sobre una oracin debido a su corta longitud (Hunt et al., 2019).

Asimismo, los rboles de decisin constituyen una potente herramienta de clasificacin porque soportan los posibles problemas de clasificacin y regresin que puedan surgir en el proceso al tiempo que son ms fciles de comprender; en el caso de las predicciones, permite seleccionar el mejor punto de corte para hacerlas y repetir el proceso hasta alcanzar la profundidad fija deseada (Espinoza, 2018).

En el caso de las redes bayesianas, permiten observar el comportamiento dinmico de un patrn a partir de una aproximacin en funcin de los valores que toman el resto de las variables; en este sentido, se genera un modelo emprico, inductivo que permite reconstruir un modelo de informacin real a partir de la propagacin de las influencias por esa red bayesiana (Sarmiento y Ocampo, 2023).

Por otro lado, los hallazgos mostraron una incidencia significativa en el uso de tcnicas de agrupamiento o clustering, especialmente del agrupamiento difuso, tambin resulta til para la deteccin de plagio al tener la capacidad de pertenecer a ms de un grupo, lo cual permite acortar el tiempo de anlisis, pues cada uno de los grupos al que pertenece se asocia a un conjunto de niveles de pertenencia que indican la fuerza de asociacin entre un dato especfico y uno o varios grupos (Villanza et al., 2012).

En cuanto a la pregunta de investigacin RQ2: Cules son los sistemas de prediccin de plagio utilizados en instituciones de educacin superior? En relacin a los sistemas de prediccin de plagio utilizadas en las instituciones de educacin superior en todo el mundo, Turnitin es la herramienta antiplagio ms comn que apoya al docente y a los estudiantes, especialmente cuando se consultan fuentes electrnicas (Moreno, 2018). Este sistema realiza sus bsquedas de similitud entre ms de un billn de pginas y sitios de Internet, siendo til en la reduccin de porcentaje de similitud y mejoramiento de los trabajos de investigacin acadmica debido a que permite realizar retroalimentacin por parte del docente (Daz, 2015).

Finalmente, en relacin a RQ3: Cules son los modelos de minera de datos, con mejores indicadores de rendimiento, implementados en sistemas de prediccin de plagio en universidades? En este caso, las redes recurrentes de LSTM (Long Short Term Memory por sus siglas en ingls) fueron las ms usadas y mejor valoradas, pues adems de presentar elevados niveles de precisin, recuperacin, exactitud y deteccin de plagio, tal como mencionan El-Rashidy et al., (2022); Mansoor y Al Tamimi, (2022); Priya et al., (2019) Shakeel et al., (2020); (Reducindo et al., 2017) son altamente efectivas para tal fin por su capacidad de aprender y recordar secuencias por largos perodos de tiempo debido a la elevada sensibilidad que tienen a los datos de entrada (Snchez, et al., 2020).

Otro modelo de minera de datos que fue valorado con el 100% de precisin fue el enfoque aglomerativo que se utiliz para mejorar la solidez y consistencia de los resultados en virtud de poder realizar una mejor agrupacin de artculos multidisciplinarios para dar respuesta a la integracin de caractersticas semnticas y alcanzar una mejor y optimizada funcin (Chakrabarty y Roy, 2018)

El algoritmo xgBoost, tambin es uno de los modelos mejor valorados con una recuperacin del 97% y una exactitud del 94%; en este caso, se utiliz como parte del aprendizaje automtico bajo el marco de Gradient Boosting optimizada y distribuida que brinda una elevada eficiencia en la resolucin de problemas manejando grandes cantidades de datos con mayor rapidez (Awale et al., 2020).

 

Limitaciones

Si bien el presente estudio se realiz atendiendo a los parmetros de revisiones sistemticas con estndares internacionales, el acceso limitado a plataformas con mayor nmero de artculos con textos completos disponibles dificult el hallazgo de estudio ptimo, especialmente en relacin al contenido. Adems, slo se atendieron estudios en ingls y espaol, lo cual es otra limitante entendiendo que existen estudios en otros idiomas que se realizan en pases desarrollados y ms avanzados en esta materia que no fueron revisados y podran generar informacin idnea para profundizar en este estudio.

 

Conclusiones

El plagio acadmico se ha convertido en uno de los problemas ms graves, desde el punto de vista tico, a los que se enfrentan las universidades frente al uso desmedido, poco tico e irresponsable de las publicaciones e informacin que se encuentran en Internet por parte de los estudiantes que presentan investigaciones que atentan contra el derecho de autor de quienes s se han tomado la tarea de analizar, profundizar y crear textos cientficos de calidad. Ante esta compleja situacin, las Universidades e institutos se han visto en la necesidad de implementar procesos de deteccin de plagio a travs del uso de sistemas de deteccin como es el caso de Turnitin o Urkund; no obstante, el elevado costo de las licencias que autorizan su uso y el incremento en los falsos positivos de estos han contribuido a la necesidad de replantear los sistemas y usos implementados para tal fin.

En consecuencia, se ha considerado el empleo de tcnicas de minera de texto que facilitan la deteccin y reconocimiento de elementos, similitudes, coincidencias y semejanzas que aportan en la comprobacin de plagio en textos acadmicos en estudios universitarios, pues permiten atender a este problema que cada vez crece y se vuelve ms complejo de detectar.

Por ello, utilizar modelos que tengan elevados niveles de precisin, exactitud y recuperacin constituye una premisa al analizar la idoneidad de estas herramientas para la deteccin de plagio acadmico, siendo las redes recurrentes (LSTM) las que han presentado mejores resultados en diversos escenarios de deteccin, por ello, se sugieren como modelo de minera de datos de tipo predictivo.

 

Referencias

  1. Al, W., Ahmed, T., Rehman, Z., Rehman, A., Slaman, M. (22 de noviembre de 2018). Detection of plagiarism in URDU text documents. Conferencia internacional sobre tecnologas emergentes (ICET) de 2018, Islambad, Pakistn. DOI: 10.1109/ICET.2018.8603616.
  2. Awale, N., Pandey, M., dulal, A., Timsin, B. (2020). Plagiarism Detection in Programming Assignments using Machine Learning. Journal or artificial intelligence and capsule networks, 2(3), 177-184. DOI: 10.36548/jaicn.2020.3.005
  3. Chakrabarty, A., Roy, S. (2018). An efficient context-aware agglomerative fuzzy clustering framework for plagiarism detection. International journal of data mining modelling and management, 10(2), 188. DOI: 10.1504/IJDMMM.2018.092533
  4. Cruz, E. (30 de enero 2023). Desde 2013 encuesta de UNAM revel que 52% de acadmicos atestiguaron algn plagio de tesis. La Hoguera. https://lahoguera.mx/desde-2013-encuesta-de-unam-revelo-que-52-de-academicos-atestiguaron-algun-plagio-de-tesis/
  5. Daz, D. (2015). El uso de Turnitin con retroalimentacin mejora la propiedad acadmica de estudiantes de bachillerato. Ciencia, docencia y tecnologa, 26(51), 197-216. https://dialnet.unirioja.es/servlet/articulo?codigo=5265867
  6. Daz, A., Garca, L. (2018). FP-MAXFLOW: Un algoritmo para la minera de patrones relevantes de longitud mxima. Computacin y Sistemas, 22(2), 563-583. DOI: 10.13053/cys-22-2-2498
  7. Duracik, M., Callejas, M., Mikusova, M. (2020). Mtodo optimizado basado en algoritmo K-Means como herramienta en la deteccin de plagio de cdigo fuente. RISTI, (e29),620-632. https://www.proquest.com/openview/fb8bfe36673b48be7b95c99d83529f32/1?pq-origsite=gscholar&cbl=1006393
  8. El-Rashidy, M., Mohamed, R., El-Fishawy, N., Shouman, M. (2022). Reliable plagiarism detection system based on deep learning approaches. Neural Computing and Applications, 34, 18837-18858. https://doi.org/10.1007/s00521-022-07486-w
  9. Espinoza, M. (2018). Weka, reas de aplicacin y sus algoritmos: una revisin sistemtica de literatura. Revista Cientfica Ecociencia, 5(Edicin Especial), 1-26. DOI: https://doi.org/10.21855/ecociencia.50.153
  10. Gil, J. (2021). Minera de texto con R: Aplicaciones y tcnicas estadsticas de apoyo. UNED.
  11. Hany, M., Gomaa, W. (09 de mayo de 2022). A hybrid approach to paraphrase detection based on text similarities and machine learning classifiers. 2nd International Mobile, Intelligent and Ubiquitous computing conference, El Cairo, Egipto. DOI: 10.1109/MIUCC55081.2022.9781678.
  12. Huang, Q., Song, X., Fang, G. (01 de junio de 2020). Code plagiarism detection method based on code similarity and student behavior characteristics. IEEE International Conference on Artificia Intelligence and Computer Applications, Dalian, China. DOI: 10.1109/ICAICA50127.2020.9182389.
  13. Hunt, E., Janamsetty, R., Kinares, C., Koh, C., Snchez, A., Zhan, F., zdemir, M., Wasim, S., Yolcu, O., Dahal, B., Zhan, J., Geali, L., Oh, P. (2019). Modelos de aprendizaje automtico para la identificacin de parfrasis y sus aplicaciones en la deteccin de plagio. Conferencia Internacional IEEE sobre Gran conocimiento.
  14. Kulkarni, S., Govilkar, S., Amin, D. (7 de mayo de 2021). Analysis of Plagiarism Detection Tools and Methods. Proceedings of the 4th international conference on advances in science & technology. https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3869091
  15. Llovera, Y., Aragn, Y., Cano, P. (2023). Ciberplagio acadmico entre el estudiantado universitario: un acercamiento al estado actual de la temtica (2017-2020). Revista Colombiana de Educacin, (87), 207-226. DOI: https://doi.org/10.17227/rce.num87-13143
  16. Mancilla, G., Leal, P., Snchez, A., Vidal, C. (2020). Factores asociados al xito de los estudiantes en modalidad de aprendizaje en lnea: un anlisis en minera de datos. Formacin Universitaria, 13(6), 23-36. DOI: http://dx.doi.org/10.4067/S0718-50062020000600023
  17. Mansoor, M., Al Tamimi, M. (2022). Plagiarism detection system in scientific publication using LSTM networks. Internacional Journal Technical and physical problems of engineering, 4(4), 17-24. http://www.iotpe.com/IJTPE/IJTPE-2022/IJTPE-Issue53-Vol14-No4-Dec2022/3-IJTPE-Issue53-Vol14-No4-Dec2022-pp17-24.pdf
  18. Massagram, W., Prapanitisatian, S., Kerson, K. (2018). A novel technique for Thai document plagiarism detection using syntactic parse trees. Engineering & Applied Science Research, 45(4), 290-311. DOI: 10.14456/easr.2018.39
  19. Michn, L., lvarez, E. (2019). Tendencias actuales en el manejo de datos de investigacin. BIOCIT, 12(45), 869-880. https://dialnet.unirioja.es/servlet/articulo?codigo=6971157
  20. Moreno, J. (2018). Plagio en universidades: estudio de Turnitin y Compilatorio. Sego-Bit (7), 16-23. https://www.researchgate.net/publication/329151488_Plagio_en_universidades_estudio_de_Turnitin_y_Compilatio
  21. Navarro, M. (07 de febrero de 2023). Denuncian ante la CNMS la cara oculta de las publicaciones cientficas universitarias. El cierre digital. https://elcierredigital.com/investigacion/945608780/llevan-juzgado-cara-oculta-negocio-publicaciones-cientificas-universitarias.html
  22. Nennuri, R., Geetha, M., Samhitha, M., Sandeep, S., Rochini, G. (26 de mayo2021). Plagiarism detection through data mining techniques. Journal of physiscs: conference series, International Conference on Recent Trends in Computing, San Francisco, EE.UU. DOI: 10.1088/1742-6596/1979/1/012070
  23. Perilla, M. (2019). Deteccin de plagio en cdigo fuente java mediante tokenizacin y aprendizaje de mquina. Educacin, ciencia y tecnologas emergentes para la generacin del siglo 21, 79-100. https://www.researchgate.net/publication/344755167
  24. Priya, S., Dixit, A., Das, K., Harish, R. (2019). Plagiarism detection in source code using Machine Learning. International journal of engineering and advanced technology, 8,898-900. https://www.ijeat.org/wp-content/uploads/papers/v8i4/D6359048419.pdf
  25. Qiubo, H., Jingdong, T., Guozheng, F. (28 de abril de 2019). Research on code plagiarism detection model based on Random Forest and Gradient Boosting Decision Tree. Conferencia internacional de 2019 sobre minera de datos y aprendizaje automtico, Hong Kong. DOI: 10.1145/3335656.3335692
  26. Reducindo, I., Rivera, L., Rivera, J., Olvera, M. (2017). Integracin de plataforma LMS y algoritmo de cdigo abierto para deteccin y prevencin de plagio en Educacin Superior. Revista general de informacin y documentacin, 27(2), 299-315. DOI: https://doi.org/10.5209/RGID.58205
  27. Rogerson, A., McCarthy, G. (2017). Using internet based paraphrasing tools: Original work, patchwriting or facilitated plagiarism? International Journal for Educational Integrity, 13(2), 1-15. DOI: 10.1007/s40979-016-0013-y
  28. Snchez, D., Gonzlez, H., Hernndez, Y. (2020). Revisin de algoritmos de deteccin y seguimiento de objetos con redes profundas para videovigilancia inteligente. Revista Cubana de Ciencias Informticas, 14(3), 165-197. https://www.redalyc.org/journal/3783/378365834009/html/
  29. Santamara, W. (2015). Tcnicas de minera de datos aplicadas en la deteccin de fraude: Estado del Arte. Universidad Nacional de Colombia. https://www.researchgate.net/publication/240724702_Tecnicas_de_Mineria_de_Datos_Aplicadas_en_la_Deteccion_de_FraudeEstado_del_Arte
  30. Sarmiento, J., Ocampo, C. (2023). Enfoques frecuentistas y bayesiano en el estudio del plagio acadmico. Una propuesta innovadora en investigacin educativa. REICE, 21(1), 139-158. DOI: https://doi.org/10.15366/reice2023.21.1.007
  31. Shakeel, M., Karim, A. Khan, I. (2020). A multi-cascaded model with data augmentation for enhanced paraphrase detection in short texts. Information processing & management, 57(3), 102204. DOI: https://doi.org/10.1016/j.ipm.2020.102204
  32. Sindhu, L., Idicula, S. (24 de febrero de 2017). Plagiarism detection in Malayalam language text using a composition of similarity measures. Conferencia internacional sobre aprendizaje automtico y computacin, Singapur. DOI: https://doi.org/10.1145/3055635.3056655
  33. Venkatakrishnan, S., Mohan, K., Beattie, J., Correa, E., Dart, J., Deslippe, A., Hexemer, H., Krishnan, A., MacDowell, S., Marchesini, S., Patton, T., Perciano, J., Sethian, R., Stromsness, B., Tierney, C., Tull, D., Ushizima, D., Parkinson, D. (2016). Making advanced scientific algorithms and big scientific data management more accesible. Electronic Imaging, (19),1-7. DOI: 10.2352/ISSN.2470-1173.2016.19.COIMG-155
  34. Villanaza S., Arteaga, F., Seijas, c., Rodrguez, O. (2012). Estudio comparativo entre algoritmos de agrupamiento basado en SVM y C-medios difuso aplicados a seales electrocardiogrficas arrtmicas. Revista Ingeniera UC, 19(1), 16-24. https://www.redalyc.org/articulo.oa?id=70732261003
  35. Viuginov, N., Grachev, P., filchenkov, A. (26 de diciembre de 2020). A Machine Learning based plagiarism detection in source code. 3ra Conferencia Internacional sobre algoritmos, computacin e Inteligencia Artificial. Sanya, China. DOI: 10.1145/3446132
  36. Xylogiannopoulos, K., Karampelas, P., Alhajj, R. (31 de agosto de 2018). Text mining for plagiarism detection: Multivariate pattern detection for recognition of text similarities. Conferencia Internacional IEEE/ACM 2018 sobre avances en anlisis y minera de redes sociales, Barcelona, Espaa. DOI: 10.1109/ASONAM.2018.8508265.

 

 

 

 

 

 

2023 por los autores. Este artculo es de acceso abierto y distribuido segn los trminos y condiciones de la licencia Creative Commons Atribucin-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)

(https://creativecommons.org/licenses/by-nc-sa/4.0/).

Enlaces de Referencia

  • Por el momento, no existen enlaces de referencia
';





Polo del Conocimiento              

Revista Científico-Académica Multidisciplinaria

ISSN: 2550-682X

Casa Editora del Polo                                                 

Manta - Ecuador       

Dirección: Ciudadela El Palmar, II Etapa,  Manta - Manabí - Ecuador.

Código Postal: 130801

Teléfonos: 056051775/0991871420

Email: polodelconocimientorevista@gmail.com / director@polodelconocimiento.com

URL: https://www.polodelconocimiento.com/