����������������������������������������������������������������������������������

 

 

Influencia de la Inteligencia Artificial en el Derecho Penal: Una revisi�n sistem�tica de la literatura

 

Influence of Artificial Intelligence on Criminal Law: A Systematic Review of the Literature

 

Influ�ncia da Intelig�ncia Artificial no Direito Penal: Uma Revis�o Sistem�tica da Literatura

 

 

 

 

 

 

 

 

 

 

 

Correspondencia: americabenitezabarca@outlook.es �

 

Ciencias Sociales y Pol�ticas

Art�culo de Investigaci�n

 

 

* Recibido: 13 de enero de 2025 *Aceptado: 19 de febrero de 2025 * Publicado: �31 de marzo de 2025

 

        I.            Universidad Estatal Amaz�nica, Puyo, Ecuador.

      II.            Universidad Estatal Amaz�nica, Puyo, Ecuador.

   III.            Universidad Estatal Amaz�nica, Puyo, Ecuador.

   IV.            Universidad Estatal Amaz�nica, Puyo, Ecuador.

 

Resumen

El presente trabajo muestra una revisi�n exhaustiva sobre el papel de la inteligencia artificial (IA) en el �mbito del derecho penal. Recoge para ello sus aplicaciones y ventajas, pero tambi�n los problemas �ticos y legales que sus aplicaciones pueden dar lugar. En este sentido, la IA ha demostrado tener efectos positivos sobre la precisi�n y la eficiencia en los procesos judiciales, especialmente en �reas como la predicci�n de reincidencia o el an�lisis conductual. Por el contrario, la adopci�n de los sistemas de IA como herramientas en el derecho penal puede suponer tambi�n importantes riesgos, como la opacidad de los algoritmos, sesgos y problemas en el mantenimiento de la transparencia de las decisiones automatizadas. Para llevar a cabo esta revisi�n, se ha seguido el modelo PRISMA, interrogando estudios recientes, entre 2022 y 2025, obtenidos de las bases de datos Scopus y Web of Science. Los resultados extra�dos de esta investigaci�n se agrupan en seis categor�as principales que son los tipos de IA aplicados en el derecho penal, implicaciones �ticas, aspectos procesales y ejemplos de uso dados. Este an�lisis deja en evidencia la necesidad de regular la IA en el contexto de la justicia, y enfatiza tambi�n la importancia de la supervisi�n humana. Las conclusiones del trabajo muestran la necesidad de promover pol�ticas que favorezcan la transparencia de los algoritmos, as� como el respeto de los derechos fundamentales. Finalmente, tambi�n sugiere continuar futuras l�neas de investigaci�n, en direcci�n a evaluar emp�ricamente los sesgos algor�tmicos y a generar algoritmos m�s explicables, con objeto de lograr una adopci�n �tica y eficaz de la IA en el sistema judicial penal.

Palabras Clave: Inteligencia Artificial; Derecho Penal.

 

Abstract

This paper presents a comprehensive review of the role of artificial intelligence (AI) in criminal law. It examines its applications and advantages, as well as the ethical and legal issues its applications can raise. In this regard, AI has been shown to have positive effects on the accuracy and efficiency of judicial processes, especially in areas such as recidivism prediction and behavioral analysis. Conversely, the adoption of AI systems as tools in criminal law can also pose significant risks, such as the opacity of algorithms, biases, and problems maintaining the transparency of automated decisions. To conduct this review, the PRISMA model was followed, examining recent studies from 2022 to 2025, obtained from the Scopus and Web of Science databases. The results of this research are grouped into six main categories: the types of AI applied in criminal law, ethical implications, procedural aspects, and examples of its use. This analysis highlights the need to regulate AI in the context of justice and also emphasizes the importance of human oversight. The paper's conclusions highlight the need to promote policies that favor the transparency of algorithms and respect for fundamental rights. Finally, it also suggests pursuing future lines of research to empirically evaluate algorithmic biases and generate more explainable algorithms, in order to achieve the ethical and effective adoption of AI in the criminal justice system.

Keywords: Artificial Intelligence; Criminal Law.

 

Resumo

Este artigo apresenta uma revis�o abrangente do papel da intelig�ncia artificial (IA) no �mbito do direito penal. Para isso, examina as suas aplica��es e vantagens, mas tamb�m os problemas �ticos e jur�dicos que as suas aplica��es podem suscitar. Neste sentido, a IA demonstrou ter efeitos positivos na precis�o e efici�ncia dos processos judiciais, especialmente em �reas como a previs�o da reincid�ncia e a an�lise comportamental. Pelo contr�rio, a ado��o de sistemas de IA como ferramentas no direito penal pode tamb�m representar riscos significativos, como a opacidade dos algoritmos, os enviesamentos e os problemas de manuten��o da transpar�ncia das decis�es automatizadas. Para conduzir esta revis�o, seguimos o modelo PRISMA, examinando estudos recentes de 2022 a 2025, obtidos a partir das bases de dados Scopus e Web of Science. Os resultados extra�dos desta pesquisa est�o agrupados em seis categorias principais: os tipos de IA aplicados no direito penal, as implica��es �ticas, os aspetos processuais e os exemplos de utiliza��o fornecidos. Esta an�lise destaca a necessidade de regulamentar a IA no contexto da justi�a e enfatiza tamb�m a import�ncia da supervis�o humana. As conclus�es do artigo real�am a necessidade de promover pol�ticas que promovam a transpar�ncia nos algoritmos e respeitem os direitos fundamentais. Por fim, sugere ainda a procura de futuras linhas de investiga��o orientadas para a avalia��o emp�rica de enviesamentos algor�tmicos e para a gera��o de algoritmos mais explic�veis, de forma a alcan�ar a ado��o �tica e eficaz da IA ​​no sistema de justi�a criminal.

Palavras-chave: Intelig�ncia Artificial; Direito penal.

 

 

Introducci�n

La Inteligencia Artificial (IA) ha tenido una profunda incidencia en distintas esferas, tambi�n en el �mbito del Derecho Penal. En la �ltima d�cada, en el contexto de las investigaciones penales, la evaluaci�n de riesgos o la toma de decisiones judiciales, la aplicaci�n de sistemas de IA ha promovido, tanto la eficacia como la exactitud, de los procedimientos judiciales, especialmente en �mbitos de relevancia como la predicci�n de la reincidencia, los an�lisis de patrones de conducta o la detecci�n del crimen en tiempo real (Kleinberg et al., 2018). Estos avances son efectos de la utilizaci�n de t�cnicas recientes de Machine Learning y de Big Data, lo que permite realizar evaluaciones que en ocasiones rebasan las capacidades humanas. Cabe decir, sin embargo, que la integraci�n de la IA en el �mbito del Derecho Penal tambi�n se ven acompasadas de desaf�os �ticos y legales, sobre todo en lo que tiene que ver con el respeto de los derechos fundamentales, la transparencia en la toma de decisiones o la mitigaci�n del sesgo en los sistemas algoritmos (Angwin et al., 2016).

A pesar de los avances logrados, subsisten vac�os importantes de investigaci�n que limitan nuestra comprensi�n de los efectos de la IA en el Derecho Penal. En efecto, la carencia de estandarizaci�n de la utilizaci�n de herramientas de IA y la escasez de estudios emp�ricos en los que se aplique en distintos �mbitos legales y judiciales refuerzan la necesidad de realizar investigaciones adicionales (Barocas & Selbst, 2016; Legg & Bell, 2020). Por ende, el sesgo algor�tmico y la opacidad de las decisiones generadas en los procesos judiciales a partir de sistemas de IA se muestran como unas �reas poco investigadas, las cuales necesitan un an�lisis exhaustivo que garantice que estos sistemas se ajusten a los principios de justicia e imparcialidad (Dharneesh et al., 2024). Dando respuesta a aquellos vac�os que nos han llevado a producir esta investigaci�n, se exploran los beneficios y tambi�n los posibles riesgos de la IA en el contexto penal, y se propone un marco de referencias cr�ticas para una adopci�n responsable de las mismas en los sistemas judiciales.

Los prop�sitos de realizar este trabajo de investigaci�n son por tanto los de llevar a cabo una revisi�n sistem�tica de la literatura, explorando el papel de la IA en el derecho penal desde una perspectiva hol�stica. El primer objetivo del estudio consiste en poder determinar cu�les son las principales aplicaciones inform�ticas de la IA en los sistemas judiciales y de seguridad, analizando aquellos estudios que abordan las revisiones de la IA centr�ndose en los riesgos y beneficios que comportan y los impactos que le otorgan a la administraci�n de justicia. Asimismo, se analizar�n aquellas propuestas normativas que emergen de la literatura cient�fica para poder contribuir a reducir los sesgos algor�tmicos y garantizar la definici�n de los principios de equidad en el marco de la administraci�n de justicia penal.

Esta investigaci�n presenta un marco completo y al hilo con el rol de la IA en el contexto del derecho penal, en el �mbito acad�mico y pr�ctico. La revisi�n sistem�tica aporta un conocimiento expl�cito y claro de los l�mites y del potencial de la IA en este �mbito, ofreciendo al legislador, as� como al magistrado y a los actores del proceso jur�dico, recomendaciones fundamentadas para una adecuada aplicaci�n �tica de las herramientas inform�ticas. Las implicaciones pr�cticas residen en la construcci�n de pol�ticas que puedan llegar a elaborar la promoci�n de la transparencia algor�tmica y la creaci�n de est�ndares que lleguen a regular el funcionamiento de la IA dentro del marco de la justicia penal, velando por los derechos humanos y construyendo la confianza en el sistema judicial (Hildebrandt, 2020).

 

Metodolog�a

Con el fin de conseguir los objetivos que se han formulado en esta investigaci�n y dar respuesta a las preguntas planteadas, se llev� a cabo una revisi�n sistem�tica, la cual se ejecut� mediante un protocolo explicito y replicable basado en el modelo PRISMA, realizando una b�squeda que inclu�a seleccionar los estudios atendiendo a criterios de inclusi�n y exclusi�n previamente fijados (Gough et al., 2012)

Las bases de datos seleccionadas para llevar a cabo la b�squeda de literatura fue la Web of Science (WoS), debido a su extens�simo registro de publicaciones cient�ficas revisadas por pares, y su inter�s en el �mbito de derecho penal e inteligencia artificial. La b�squeda de la literatura estuvo limitada al periodo de 2022 a 2025, con el fin de intentar dar cuenta de los estudios m�s actuales en relaci�n con el tema a analizar. La b�squeda fue a partir de los t�rminos "inteligencia artificial" OR "artificial intelligence" AND "derecho penal" OR "criminal law", aplicando operadores booleanos con el fin de tener mayor exactitud en los resultados que obten�amos. Se fijaron criterios espec�ficos para incluir los estudios en el an�lisis. Se incluyeron aquellos art�culos que trataban sobre la aplicaci�n de la IA dentro del �mbito del derecho penal y que ofrec�an datos emp�ricos o bien an�lisis cr�ticos a prop�sito del tema tratado. Se excluyeron documentos duplicados, cap�tulos de libros, disertaciones y art�culos de conferencias que no abordaban de forma directa la IA en el �mbito del derecho penal.

En relaci�n al proceso de selecci�n y al an�lisis de los datos, se realiz� un proceso de selecci�n por medio de dos fases. En primer lugar, se consultaron los t�tulos y res�menes para decidir la pertinencia de los estudios. En segundo lugar, se leyeron los estudios, resultado de la selecci�n de forma intensiva para confirmar la inclusi�n. Para organizar los resultados, se implanto una matriz de codificaci�n que permiti� clasificar los estudios en funci�n de variables de inter�s como es la utilizaci�n de la IA en decisiones judiciales en el �mbito del derecho penal. La lectura de los estudios seleccionados fue analizada y sintetizada a trav�s de un proceso cualitativo y cuantitativo (donde fue necesario). Para la organizaci�n de las categor�as tem�ticas de los resultados se realiza un an�lisis descriptivo para ofrecer una idea global de la influencia de la IA en el derecho penal.

 

Figura 1. Diagrama de Flujo del proceso de selecci�n del estudio

 

An�lisis de Resultados

La revisi�n sistem�tica realizada sobre el uso de la Inteligencia Artificial (IA) en el derecho penal revela seis categor�as clave de informaci�n que destacan los diversos enfoques y desaf�os en la implementaci�n de estas tecnolog�as en el sistema judicial. A continuaci�n, se presentan los hallazgos en cada una de estas categor�as.

Tipos de IA y sus aplicaciones en el derecho penal

La aplicaci�n de la inteligencia artificial (IA) en el �mbito del derecho penal abarca un conjunto de tecnolog�as dise�adas para optimizar los sistemas de justicia penal, mejorando la eficacia y precisi�n en la resoluci�n de casos. Dentro de estas tecnolog�as, destacan tres enfoques principales: los sistemas expertos, el aprendizaje autom�tico y la IA para la valoraci�n del riesgo.

En primer lugar, los sistemas expertos buscan replicar el razonamiento de un especialista en derecho penal mediante la aplicaci�n de reglas predefinidas y conocimientos extra�dos de precedentes jurisprudenciales. Estas herramientas permiten asistir a los operadores jur�dicos en la toma de decisiones sobre casos de alta complejidad o en la interpretaci�n de normativas legales (Caterini, 2022). Adem�s, expertos en inform�tica han desarrollado modelos capaces de proporcionar recomendaciones jur�dicas fundamentadas con base en reglas espec�ficas, facilitando as� el an�lisis y la argumentaci�n en el proceso penal (Dremliuga & Korobeev, 2023).

Por otro lado, el aprendizaje autom�tico representa una de las aplicaciones m�s relevantes de la IA en la justicia penal. A trav�s del procesamiento y an�lisis de grandes vol�menes de datos, estos algoritmos pueden identificar patrones y realizar predicciones, lo que resulta especialmente �til para el reconocimiento de tendencias delictivas y la estimaci�n de la reincidencia criminal. Una de las ramas m�s avanzadas de este enfoque es el aprendizaje profundo, que emula el funcionamiento de las redes neuronales del cerebro humano, permitiendo an�lisis predictivos m�s sofisticados y precisos (Serventich, 2022).

La IA tambi�n se emplea en la valoraci�n del riesgo, facilitando la evaluaci�n de la probabilidad de reincidencia en un contexto judicial, as� como la identificaci�n de riesgos procesales de los acusados. Estas herramientas se basan en el an�lisis de datos hist�ricos sobre conductas delictivas, factores socioecon�micos y antecedentes penales, permitiendo a jueces y fiscales realizar una evaluaci�n informada antes de la toma de decisiones en el proceso judicial (Caterini, 2022; Serventich, 2022).

Implicaciones de la IA en el derecho penal

La incorporaci�n de la inteligencia artificial (IA) en el sistema penal conlleva importantes implicaciones en el �mbito �tico, jurisprudencial y operativo. Su aplicaci�n en la toma de decisiones judiciales plantea debates sobre la responsabilidad penal de la IA, el impacto en los principios fundamentales del derecho penal, el rol de los jueces en la era digital y los riesgos de sesgo y discriminaci�n.

Uno de los debates m�s relevantes es la posible responsabilidad penal de la IA, especialmente ante la creciente autonom�a de estos sistemas en la toma de decisiones. Algunos autores argumentan que, si la IA puede actuar de manera aut�noma, entonces podr�a considerarse que sus acciones tienen una �intenci�n maliciosa�, lo que dar�a lugar a la discusi�n sobre la imputabilidad penal de los sistemas de IA o de quienes los programan. Esta controversia ha llevado a posturas encontradas respecto a la necesidad de regular la responsabilidad de los desarrolladores, operadores y usuarios de la IA en contextos judiciales (Mahardhika et al., 2023; Rodger et al., 2023; Zhaoxun et al., 2024).

Asimismo, el uso de la IA en el derecho penal podr�a afectar principios fundamentales como la legalidad, la presunci�n de inocencia y el derecho a la defensa. La creciente automatizaci�n en los procesos penales exige un marco regulador que garantice la protecci�n de los derechos de las personas involucradas en estos procedimientos. Es crucial que la IA aplicada en la justicia penal sea desarrollada con mecanismos que preserven estos principios, evitando que la automatizaci�n se convierta en una barrera para el acceso a la justicia o genere fallos arbitrarios (Mahardhika et al., 2023; Serventich, 2022).

Otro aspecto de gran relevancia es el rol de la IA en la toma de decisiones judiciales. Aunque los sistemas de IA pueden servir como herramientas de apoyo para jueces y fiscales, no deben sustituir el juicio humano en la resoluci�n de casos. La delegaci�n excesiva de la toma de decisiones en algoritmos automatizados podr�a socavar la confianza p�blica en el sistema judicial. Para evitar estos riesgos, se requiere que los modelos de IA sean explicables y transparentes, de manera que tanto los operadores de justicia como los ciudadanos comprendan los fundamentos de sus recomendaciones o predicciones (Caterini, 2022; Ryberg, 2024; Al-Dulaimi & Mohammed, 2025).

Uno de los desaf�os m�s cr�ticos es la posible reproducci�n de sesgos y discriminaci�n por parte de los algoritmos de IA. Si bien estas tecnolog�as pueden utilizarse para la predicci�n de delitos y el an�lisis de patrones criminales (Kaur & Saini, 2024), tambi�n pueden perpetuar sesgos estructurales existentes en el sistema penal. Dado que los algoritmos aprenden a partir de datos hist�ricos, es posible que reproduzcan desigualdades relacionadas con la raza, el g�nero o el estatus socioecon�mico de los acusados. La implementaci�n de salvaguardas para mitigar estos sesgos es fundamental para garantizar la equidad en el uso de la IA en el derecho penal (Mustafa, 2024).

Se evidencia as� que la integraci�n de la inteligencia artificial en el sistema penal ofrece oportunidades significativas para mejorar la eficiencia de la justicia, pero tambi�n plantea desaf�os sustanciales en t�rminos de responsabilidad, equidad y confianza p�blica. Es esencial un enfoque regulatorio riguroso que equilibre los beneficios tecnol�gicos con la protecci�n de los derechos fundamentales en el �mbito penal.

Aspectos procesales de la IA en el derecho penal

La inteligencia artificial tambi�n plantea cuestiones fundamentales en relaci�n con los procedimientos penales:

�         Admisibilidad de prueba generada por IA: Existe una controversia respecto a la aceptabilidad de la prueba generada por IA ya que la prueba generada por IA no es suficientemente fiable y v�lida para los procedimientos jurisdiccionales. Las propiedades de los algoritmos, su oscuridad u opacidad, los sesgos y, por tanto, la exigencia de la admisibilidad de la prueba y su credibilidad constituyen una dificultad para la aducci�n de prueba generada por IA (Sayyed, 2024; Serventich, 2022).

�         Motivaci�n de las resoluciones jurisdiccionales generadas por IA: La incorporaci�n de IA al procedimiento judicial que se lleva a cabo por un juez o jueza comporta la necesidad de mostrar c�mo la IA ha influido en lo que dictan (Shi, 2022). La motivaci�n de una resoluci�n jurisdiccional a partir de IA debe ser comprensible para las partes y para la poblaci�n, dado que ha de asegurarse la legitimidad del sistema judicial y el derecho de las partes a enjuiciar la decisi�n tomada a partir de IA (Buj�n, 2023; Wu et al., 2022).

Retos y oportunidades de la IA en el derecho penal

La incorporaci�n de la inteligencia artificial (IA) en el �mbito del derecho penal ofrece oportunidades significativas para optimizar la eficiencia del sistema judicial, pero al mismo tiempo plantea desaf�os que requieren una regulaci�n clara y estrategias para garantizar su uso justo y equitativo. La IA puede mejorar la toma de decisiones, reducir la carga procesal y aumentar la precisi�n en los procedimientos judiciales. Sin embargo, su implementaci�n sin un marco normativo adecuado puede generar riesgos relacionados con la �tica, la privacidad y la equidad en la administraci�n de justicia.

Uno de los aspectos m�s cr�ticos en la adopci�n de la IA en el derecho penal es la necesidad de reglamentaci�n y marcos �ticos adecuados. A medida que estas tecnolog�as se integran en el sistema judicial, es fundamental contar con normativas que regulen su uso, establezcan principios �ticos y garanticen que las herramientas de IA sean empleadas de manera transparente y respetuosa con los derechos fundamentales. La falta de regulaci�n espec�fica puede derivar en un uso inconsistente de la IA, lo que podr�a dar lugar a errores en la interpretaci�n de datos, sesgos en las decisiones automatizadas y, en casos extremos, abusos por parte de los operadores del sistema de justicia penal (DoCarmo et al., 2022; Suleimanova, 2024). Para evitar estos riesgos, es imprescindible la supervisi�n humana en los procesos en los que la IA desempe�a un rol determinante.

Por otro lado, uno de los principales beneficios de la IA en el �mbito judicial es la reducci�n de la carga procesal. La automatizaci�n de tareas repetitivas, como la revisi�n de expedientes, la identificaci�n de patrones en grandes vol�menes de datos y la elaboraci�n de informes judiciales, permite a jueces y fiscales enfocarse en actividades de mayor valor agregado, como la interpretaci�n de la ley y la deliberaci�n en casos complejos. Esta optimizaci�n del tiempo no solo mejora la eficiencia de los procesos judiciales, sino que tambi�n contribuye a la reducci�n de los tiempos de espera en la resoluci�n de casos, favoreciendo as� un acceso m�s �gil a la justicia (Begaric et al., 2022; Granados, 2024).

Asimismo, la IA tiene el potencial de incrementar la eficiencia y precisi�n en la toma de decisiones judiciales. Al minimizar los errores humanos y proporcionar an�lisis de datos basados en evidencia, los sistemas de IA pueden ofrecer informaci�n relevante para la fundamentaci�n de fallos y la evaluaci�n de riesgos en el proceso penal. Sin embargo, para que la IA realmente contribuya a la justicia, es fundamental enfrentar los desaf�os que representan los sesgos algor�tmicos. Si los modelos de IA se entrenan con datos hist�ricos que reflejan desigualdades estructurales, es probable que perpet�en y amplifiquen esas mismas desigualdades dentro del sistema penal (Zhang et al., 2022). Por ello, es esencial que el desarrollo de herramientas de IA en la justicia penal incorpore mecanismos de auditor�a y supervisi�n que garanticen la equidad en su aplicaci�n.

En conclusi�n, aunque la inteligencia artificial tiene el potencial de mejorar significativamente la administraci�n de justicia penal, su implementaci�n debe realizarse con precauci�n, garantizando un equilibrio entre eficiencia, transparencia y respeto a los derechos fundamentales. La regulaci�n adecuada, el monitoreo de sesgos y la supervisi�n humana son elementos esenciales para asegurar que la IA se convierta en un aliado para la justicia, en lugar de un factor que contribuya a la inequidad y la deshumanizaci�n de los procesos penales.

Ejemplos concretos de IA en el derecho penal

Las aplicaciones pr�cticas de la inteligencia artificial en el �mbito del derecho penal son un claro ejemplo de las ventajas y de los riesgos derivados de la misma:

�         COMPAS (Correctional Offender Management Profiling for Alternative Sanctions): Herramienta de estimaci�n de riesgos que se utiliza en los Estados Unidos para pronosticar la probabilidad de que una persona vuelva a delinquir. Aunque su uso es ampliamente com�n, ha sido fuertemente criticada por la falta de transparencia de su algoritmo, lo que dificulta la evaluaci�n de la imparcialidad o de su buena precisi�n, y por el riesgo de que puede hacer formada porque reproduce sesgos con determinadas poblaciones (Serventich, 2022).

�         Sistemas de reconocimiento facial y an�lisis biom�trico: Estas tecnolog�as se utilizan en la identificaci�n de sospechosos en las investigaciones criminales, aunque el grado de acierto del reconocimiento facial y la utilizaci�n �tica de los datos biom�tricos suscitan dudas, teniendo en cuenta el riesgo de violaci�n de la privacidad y de discriminar en funci�n de la raza y el sexo a partir de los algoritmos de reconocimiento facial (Acquaviva, 2023; Mamak, 2024).

Discusi�n de Resultados

La incorporaci�n de la Inteligencia Artificial (IA) al derecho penal es un avance importante por cuanto los sistemas judiciales poseen una capacidad mayor de gestionar, analizar y predecir decisiones a partir de datos. Esta revisi�n refleja el papel de la IA para optimizar procesos como la evaluaci�n de riesgos, la determinaci�n de la reincidencia o el an�lisis de patrones de conducta (Kleinberg et al., 2018). A medida que se ampl�an las aplicaciones de la IA en el derecho penal, surgen tambi�n retos �ticos, funcionales y legales, lo que tensiona principios jur�dicos fundamentales como la presunci�n de inocencia en sentido estricto, el derecho a un debido proceso y la imparcialidad de la administraci�n de justicia. La opacidad que poseen muchos algoritmos, como la posibilidad de sesgos en su programaci�n o en la recogida de datos de entrenamiento, permiten aumentar las preocupaciones respecto a la transparencia y justicia de tales decisiones automatizadas (Angwin et al., 2016; Mustafa, 2024).

Uno de los aspectos que se destacan en esta revisi�n es la tensi�n que ofrece la IA frente a la eficiencia y el riesgo que conlleva. Por una parte, la automatizaci�n de las tareas del sistema penal permite a jueces y fiscales gestionar los casos de menor complejidad y as� optimizar el tiempo para las decisiones de mayor calado. No obstante, esta eficiencia tambi�n viene acompa�ada de la posibilidad de una despersonalizaci�n de las decisiones judiciales, lo cual plantea interrogantes acerca de hasta qu� punto jueces y operadores humanos deben seguir manteniendo un papel y un control sobre las herramientas que se utilizan (Buj�n, 2023). El dilema de la asistencia y la delegaci�n de decisiones a la IA es el eje transversal en este �mbito. Algunos sistemas act�an �nicamente como un soporte para el juez, mientras que otros son utilizados para ofrecer recomendaciones aut�nomas que en algunos casos pueden condicionar de forma importante el resultado del proceso judicial.

La cuesti�n en torno a la responsabilidad penal de la IA tambi�n es relevante. A medida que los sistemas adquieren eficacia cada vez mayor, algunos autores postulan que ser�a el caso de preguntarse si la IA podr�a asumir una responsabilidad penal similar a la de los agentes humanos. Sin embargo, aunque la expresi�n "intenci�n maliciosa" en un sistema de IA pueda parecer indefinida, la autonom�a en las opciones de una toma de decisiones automatizada alimenta este debate. Por su parte, la discusi�n sobre de qui�n es la responsabilidad de errar en los casos de errores algor�tmicos �si del creador del algoritmo, del usuario o del propio algoritmo� pone en evidencia la acuciante necesidad de un marco normativo que conteste a esta cuesti�n (Mahardhika et al., 2023; Zhaoxun et al., 2024).

Un reto �tico particularmente pertinente es el posible mantenimiento o ampliaci�n de sesgos preexistentes en los sistemas de la justicia. Los algoritmos de IA son entrenados con datos hist�ricos que pueden resultar estar sesgados, lo que puede acontecer en decisiones que obedecen al sesgo en funci�n de raza, g�nero o nivel econ�mico. Este problema se evidenci� con la llegada del sistema COMPAS de evaluaci�n del riesgo de reincidencia de los acusados en EE. UU. Por su parte, las cr�ticas que se han suscitado sobre COMPAS �debido a su opacidad, as� como al hecho de que se le acusara de discriminaci�n hacia determinados grupos� ilustran el riesgo de que estas tecnolog�as mantengan desigualdades en lugar de justicia (Serventich, 2022). Por ello, los desarrolladores de IA y los legisladores deber�an preparar el terreno para ver de qu� forma es posible eliminar o mitigar los sesgos gracias a la preocupaci�n de est�ndares de transparencia, as� como de �tica.

Tambi�n es cierto que la admisibilidad de la evidencia producida por IA suscita dif�ciles cuestiones relativas a la validez y la fiabilidad de dicha evidencia en el seno de un tribunal. La opacidad algor�tmica o, en otros t�rminos, la "caja negra" de la IA complica la comprobabilidad y la discusi�n de las decisiones relevantes en los actos judiciales. Para poder utilizar la IA correctamente en la esfera del derecho penal, es necesario que los sistemas sea explicables y que sus procedimientos puedan revisarse. Sin embargo, el �mbito tecnol�gico actual no ha llegado a despejar completamente este umbral, lo que hace que existan limitaciones a su admisi�n en los procedimientos judiciales formales (Sayyed, 2024; Wu et al., 2022).

De otro lado, las oportunidades de descongesti�n judicial y de ganar en eficiencia y en justicia que aporta la IA son irrebatibles s�lo si se someten a regulaciones claras que limiten estos riesgos y que permitan un uso �tico de la tecnolog�a. La IA tiene el potencial de transformar la administraci�n de justicia penal posibilitando interiorizar la carga procesal y optimizar la utilizaci�n de recursos. Sin embargo, para que esta promesa se realice es necesaria una infraestructura regulatoria que se integre en est�ndares �ticos y protocolos de supervisi�n humana que garanticen que el sistema judicial contin�e con su papel de custodio de los derechos humanos y evite la delegaci�n de decisiones en herramientas opacas o irresponsables (DoCarmo et al., 2022; Granados, 2024).

Esta revisi�n tambi�n pone de manifiesto la ausencia de investigaci�n emp�rica sobre los efectos reales de la IA en la equidad y en la eficacia de los procedimientos judiciales. Esto es as� porque aunque se han progresado en avances te�ricos son escasos los estudios emp�ricos que midan los efectos de estas tecnolog�as en el d�a a d�a de los tr�mites judiciales. Evaluaciones longitudinales sobre la equidad, la eficacia y la percepci�n p�blica de la IA en contextos judiciales ser�n elementos determinantes para entender y mitigar posibles desventajas que se vayan planteando e implementar las directrices del derecho tradicional a situaciones enmarcadas por la IA.

 

Conclusiones

El auge de la Inteligencia Artificial en el �rea del derecho penal produce un desarrollo considerable, con un impacto real en la eficacia o en la calidad de los procedimientos penales. Las finalidades que se proponen con herramientas como los sistemas expertos, el machine learning o las herramientas para valorar los riesgos, han demostrado su capacidad para ayudar a la toma de decisiones, a reducir los tiempos procesales, asistir en las valoraciones del riesgo de volver a delinquir, etc. No obstante, los peligros a los que puede dar lugar la opacidad algor�tmica o el sesgo inherente, pero tambi�n algunas violaciones de principios jur�dicos fundamentales parecen suponer una serie de cuestiones �ticas y legales que requieren poder responder urgentemente.

Esta revisi�n insiste en la importancia de la exigencia de poner en pr�ctica instrumentos normativos que regulen el uso de estos trabajos tecnol�gicos respetando los derechos humanos sin perder la objetiva y la independencia de la actuaci�n. En este sentido, una supervisi�n adecuada y el cumplimiento de salvaguardas van a ser elementales para poder hacer un buen uso del desarrollo tecnol�gico sin poner en peligro la integridad del sistema judicial.

Desde un nivel te�rico, esta reflexi�n a�ade literatura al reconocer la IA en el �mbito del derecho penal a partir de una visi�n global, de una reflexi�n que no haga solo hincapi� en la capacidad t�cnica, sino que tambi�n incluya la �tica y la legalidad de los usos de esta tecnolog�a. Desde un nivel te�rico, estas conclusiones vuelven a insistir en la necesidad de poder ofrecer estas estructuras te�ricas que hacen cara no solo a una reflexi�n �tica, sino a la crisis que se plantea por la implantaci�n de la IA en derecho penal. Adem�s, la reflexi�n abierta a una investigaci�n futura que pueda poner de manifiesto de una manera m�s pormenorizada cu�les son las crisis que podr�a llegar a significar la IA, de forma especial desde la perspectiva de la opacidad de la IA, la responsabilidad penal, el sesgo algor�tmico, etc. Tambi�n pone de manifiesto que la integraci�n en el estudio de la IA debe recoger diferentes enfoques y composiciones, ya que la formalizaci�n de teor�as sobre la IA aplicada al derecho penal, s�lo se puede construir con el apoyo de la formalizaci�n de una ciencia combinada (inform�tica, �tica etc.).

Los resultados de este trabajo de revisi�n a nivel pr�ctico sugieren recomendaciones dirigidas a legisladores, jueces y profesionales del derecho. Para los legisladores, existe la necesidad de adoptar pol�ticas p�blicas y de crear regulaciones que gu�en el uso de la IA en procesos judiciales, a la vez que se promueve la transparencia algor�tmica y se externan est�ndares de validez y fiabilidad que deben cumplir las pruebas generadas por IA. Respecto de jueces y de los operativos con el Sistema Jur�dico, resultan importantes establecer pr�cticas que garanticen la supervisi�n del uso de dichas herramientas por parte de la capacidad humana y el conocimiento de las limitaciones y capacidades de la IA. En consecuencia, se debe incluir la formaci�n pr�ctica en el uso de estas tecnolog�as de modo que dicha formaci�n permita que los profesionales del derecho sepan que uso pueden hacer de la IA en los procedimientos. Estas implicancias pr�cticas tienen un solo objetivo: conducir a una aplicaci�n �tica y efectiva de la IA en el derecho penal de modo que la misma contribuya al fortalecimiento del sistema judicial y no a la erosi�n del mismo.

Futuras Investigaciones

La incorporaci�n de la IA en el �mbito penal demuestra la existencia de infinidad de caminos que necesitan investigaci�n para llevar a cabo una implementaci�n �tica y conveniente. La optimizaci�n de algoritmos constituye uno de los temas de futuro. Resultan necesarios estudios que construyan y evaluen procedimientos para hacer que los algoritmos sean explicables y comprensibles por jueces, abogados y partes intervinientes de un proceso judicial. Explorar c�mo implementar tecnolog�as de IA que proporcionen un elevado grado de interpretabilidad as� como de justificaci�n de las decisiones, contribuir� a generar confianza del p�blico y a promover la equidad en su aplicaci�n.

El emp�rico sesgo algor�tmico constituye otro de los temas relevantes. La evidencia en cuanto a la posible reproducci�n y extensi�n de la IA sobre sesgos discriminatorios en el sistema penal es todav�a escasa, por cuanto que los futuros estudios emp�ricos pueden ser orientados a c�mo diferentes algoritmos impactan a las distintas poblaciones y a c�mo los datos de entrenamiento pueden ser alterados para ajustarse a �stos. La investigaci�n tambi�n contribuir�a a poder identificar y aplicar pr�cticas que eviten la discriminaci�n en el sistema de justicia penal, garantizando que los principios de equidad y justicia se cumplan en todos los casos.

 

Referencias

1.      Acquaviva, G. (2023). Crimes without Humanity? Artificial Intelligence, Meaningful Human Control, and International Criminal Law. Journal of International Criminal Justice, 21(5), 981-1004.

2.      Al-Dulaimi, A. O. M., & Mohammed, M. A. A. W. (2025). Legal responsibility for errors caused by artificial intelligence (AI) in the public sector. International Journal of Law and Management.

3.      Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine bias. ProPublica. https://www.propublica.org/article/machine-bias-risk-assessments-in-criminal-sentencing

4.      Barocas, S., & Selbst, A. D. (2016). Big Data's disparate impact. California Law Review, 104(3), 671-732. https://doi.org/10.15779/Z38BG31

5.      Bagaric, M., Svilar, J., Bull, M., Hunter, D., & Stobbs, N. (2022). The solution to the pervasive bias and discrimination in the criminal justice system: transparent and fair artificial intelligence. Am. Crim. L. Rev., 59, 95.

6.      Buj�n, M. V. �. (2023). Inteligencia artificial y medidas cautelares en el proceso penal: Tutela judicial efectiva y autodeterminaci�n informativa en potencial riesgo. Revista espa�ola de derecho constitucional, 43(127), 177-207.

7.      Caterini, M. (2022). El sistema penal en la encrucijada ante el reto de la inteligencia artificial. IDP: revista de Internet, derecho y pol�tica= revista d'Internet, dret i pol�tica, (35), 5.

8.      Dharneesh, B., Thenisha, S., Srithick, S. S., & Abirami, A. (2024). Why Law Firms Need to Embrace Artificial Intelligence to Transform the Indian Legal Industry. Reshaping Intelligent Business and Industry: Convergence of AI and IoT at the Cutting Edge, 81-95.

9.      DoCarmo, T., Rea, S., Conaway, E., Emery, J., & Raval, N. (2021). The law in computation: What machine learning, artificial intelligence, and big data mean for law and society scholarship. Law & Policy, 43(2), 170-199.

10.  Dremliuga, R., & Korobeev, A.I. (2023). Criminal Infringement on Artificial Intelligence Systems: A Criminal Law Description. Russian Journal of Criminology.

11.  Eubanks, V. (2018). Automating inequality: How high-tech tools profile, police, and punish the poor. St. Martin's Press.

12.  Granados, J. S. A. P. (2024). El proceso penal mediado por inteligencia artificial. Revista Brasileira de Direito Processual Penal, 10, e988.

13.  Gough, D., Thomas, J., & Oliver, S. (2012). Clarifying differences between review designs\rand methods art:10.1186/2046-4053-1-28. Systematic Reviews, 1�9. https://doi.org/10.1186/2046-4053-1-28

14.  Hildebrandt, M. (2020). Law for computer scientists and other folk. Oxford University Press. https://doi.org/10.1093/oso/9780198840353.001.0001

15.  Kaur, M., & Saini, M. (2024). Role of Artificial Intelligence in the crime prediction and pattern analysis studies published over the last decade: a scientometric analysis. Artificial Intelligence Review, 57(8), 202.

16.  Kleinberg, J., Mullainathan, S., & Raghavan, M. (2018). Inherent trade-offs in the fair determination of risk scores. In Proceedings of the 2018 ACM Conference on Economics and Computation (pp. 40-47). ACM. https://doi.org/10.1145/3219166.3219177

17.  Legg, M., & Bell, F. (2020). Artificial intelligence and the legal profession. Bloomsbury Publishing.

18.  Mahardhika, V., Astuti, P., & Mustaffa, A. (2023). Could Artificial Intelligence be the Subject of Criminal Law?. Yustisia, 12(1), 1-12.

19.  Mamak, K. (2024). AGI crimes? The role of criminal law in mitigating existential risks posed by artificial general intelligence. AI & SOCIETY, 1-11.

20.  Mustafa, A. (2024). The Future of Criminal Law in the Age of Electronic Crimes and Artificial Intelligence.� Pakistan Journal of Life and Social Sciences,� 22(2), 9519-9535

21.  Rodger, H., Lensen, A., & Betkier, M. (2023). Explainable artificial intelligence for assault sentence prediction in New Zealand. Journal of the Royal Society of New Zealand, 53(1), 133-147.

22.  Ryberg, J. (2024). Criminal Sentencing and Artificial Intelligence: What is the Input Problem?. Criminal Law and Philosophy, 1-18.

23.  Sayyed, H. (2024). Artificial intelligence and criminal liability in India: exploring legal implications and challenges. Cogent Social Sciences, 10(1), 2343195.

24.  Serventich, C. (2022). Inteligencia artificial en el proceso penal �M�s vale humano conocido o algoritmo por conocer?.

25.  Shi, J. (2022, June). Artificial intelligence, algorithms and sentencing in Chinese criminal justice: problems and solutions. In Criminal Law Forum (Vol. 33, No. 2, pp. 121-148). Dordrecht: Springer Netherlands.

26.  Suleimanova, S. (2024). Comparative Legal Analysis of the Role of Artificial Intelligence in Human Rights Protection: Prospects for Europe and the Middle East. Pakistan Journal of Criminology, 16(3).

27.  Wu, J., Wang, H., Sun, N., Wang, H., & Tatarinov, D. (2022). International Criminal Law Protection of Environmental Rights and Sentencing Based on Artificial Intelligence. Journal of Environmental and Public Health, 2022(1), 4064135.

28.  Zea, M. P. �., & V�zquez, A. F. Z. (2024). Aplicaci�n de la inteligencia artificial en el Derecho Penal: problemas y desafios.

29.  Zhang, Y., Zhao, Y., & Zhao, Y. (2022). The Application of Artificial Intelligence Decision‐Making Algorithm in Crisis Analysis and Optimization of the International Court System. Mobile Information Systems, 2022(1), 8150122.

30.  Zhaoxun, C., Rajamanickam, R., & Dahlan, N. K. (2024). Exploring The Legal Subjectivity of Artificial Intelligence in Incitement to Suicide. Jurnal IUS Kajian Hukum dan Keadilan, 12(1), 31-42.

 

 

 

 

 

 

 

 

� 2025 por los autores. Este art�culo es de acceso abierto y distribuido seg�n los t�rminos y condiciones de la licencia Creative Commons Atribuci�n-NoComercial-CompartirIgual 4.0 Internacional (CC BY-NC-SA 4.0)

(https://creativecommons.org/licenses/by-nc-sa/4.0/).