Establishment of Criminal Liability for Facts Committed by Artificial Intelligence
Article Sidebar
Main Article Content
Abstract
This article analyzes the challenges inherent in determining criminal liability for harmful acts committed by artificial intelligence systems. Proceeding from the distinction between weak artificial intelligence: predictable and controlled by human, and strong artificial intelligence, characterized by autonomous learning, it examines the inadequacy of traditional models of criminal imputation, such as mediate perpetration or product liability, to resolve the issues posed by artificial intelligence. The text explores European Union proposals, centered on human control and risk management; debates the potential creation of an electronic personhood for autonomous systems; and concludes that, while the current framework prioritizes human supervision, the evolution towards more autonomous AI may necessitate a reconceptualization of the theory of crime and criminal liability.
Downloads
Article Details
This work is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.
References
Agustina, J. R. (2021). Nuevos retos dogmáticos ante la cibercriminalidad. ¿Es necesaria una dogmática del ciberdelito ante un nuevo paradigma? Estudios Penales y Criminológicos, 41, 705-777.
Benítez Ortúzar, I. F. (2008). Informática y delito. Aspectos penales relacionados con las nuevas tecnologías. En Benítez Ortúzar, I. F. (Coord.). Reforma del Código penal. Respuestas para una sociedad del siglo XXI, 111-136. Dykinson.
Benítez Ortúzar, I. F. (2021). Ciberdelitos. la implementación en el ordenamiento interno de los acuerdos internacionales en materia de ciberdelincuencia. En Lledó Yagüe, F. Benítez Ortúzar, I. y Monje Balmaseda, O. (Dirs.). La robótica y la inteligencia artificial en la nueva era de la revolución industrial 4.0. Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes, 79-128. Dykinson.
Castillo Jiménez, C. (2001). Protección del derecho a la intimidad y uso de nuevas tecnologías de la información. Derecho y Conocimiento, 1, 35-48.
Comisión Europea (2018). Comunicación al Parlamento Europeo, al Consejo Europeo, al Con-sejo, al Comité Económico y Social Europeo, y al Comité de las Regiones. Inteligencia artificial para Europa. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52018DC0237
Comisión Europea (2019). Comunicación al Parlamento Europeo, al Consejo, al Comité Eco-nómico y Social Europeo, y al Comité de las Regiones. Generar confianza en la inteli-gencia artificial centrada en el ser humano. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52019DC0168&from=LT
Consejo de Europa. (Septiembre 17, 2010). Convenio sobre ciberdelincuencia, de 23 de no-viembre de 2001 Boletín Oficial del Estado, (226), 78847-78896. https://www.boe.es/eli/es/ai/2001/11/23/(1)
Consejo de Europa (2003). Protocolo adicional al Convenio sobre la ciberdelincuencia, relativo a la penalización de actos de índole racista y xenófoba cometidos por medio de sistemas informáticos. https://www.coe.int/en/web/cybercrime/first-additional-protocol
Cuesta Aguado, P. M. (2019). Inteligencia artificial y responsabilidad penal. Revista Penal Mé-xico, 9(16-17), 51-62. https://revistacienciasinacipe.fgr.org.mx/index.php/01/article/view/336
Demetrio Crespo, E., Caro Coria, D. C. y Escobar Bravo, M. E. (Eds.). (2023). Estudios de De-recho penal, neurociencias e inteligencia artificial. Ediciones UCLM.
Fiscalía General del Estado. (Octubre 11, 2011). Instrucción 2, sobre el Fiscal de Sala de Crimi-nalidad Informática y las secciones de criminalidad informática de las Fiscalías. https://www.fiscal.es/memorias/estudios2016/INS/INS_02_2011.html
Gobierno de España, Ministerio del Interior (2023). Informe sobre la cibercriminalidad. https://www.interior.gob.es/opencms/export/sites/default/.galleries/galeria-de-prensa/documentos-y-multimedia/balances-e-informes/2023/Informe-Cibercriminalidad_2023.pdf
Herrera de las Heras, R. (2022). Aspectos legales de la inteligencia artificial. Personalidad ju-rídica de los robots y responsabilidad civil. Dykinson.
Informe de situación de cibercriminalidad en España (2024). https://ptedisruptive.es/wp-content/uploads/2024/12/INFORME-DE-SITUACION_CIBERSEGURIDAD_2024.pdf
Lledó Benito, I. (2022). El Derecho penal, robots, IA y cibercriminalidad: desafíos éticos y ju-rídicos. ¿Hacia una distopía? Dykinson.
Lledó Yagüe, F. (2022). Los nuevos esclavos digitales del siglo XXI y la superación del hombre óptimo. ¿Hacia un nuevo derecho robótico? Dykinson.
McCarthy, J., Minsky, M. L., Rochester, N. y Shanon, C. E. (s. f.). A proposal for the Darmouth Summer Research Project on Artificial Intelligence. https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth
Miró Llinares, F. (2018). Inteligencia artificial y justicia penal: Más allá de los resultados lesi-vos causados por robots. Revista de Derecho Penal y Criminología, (20), 87-130.
Morán Espinosa, A. (2021). Responsabilidad penal de la inteligencia artificial (IA). ¿La próxi-ma frontera? IUS, 15(48), 289-323.
Muñoz Vela. J. M. (Enero-marzo, 2022). Inteligencia artificial y responsabilidad penal. Derecho Digital e Innovación. (11), s. p. Wolters Kluwer.
Navarro Cardoso, F. (2025). Anotaciones sobre la responsabilidad penal de las «personas artifi-ciales». Revista Penal, (56), 198-207. https://doi.org/10.36151/RP.56.10
Orden PCI/487/2019, de 26 de abril, «Estrategia nacional de ciberseguridad» (Abril 30, 2019). Boletín Oficial del Estado, (103), 43437-43455. https://www.boe.es/buscar/doc.php?id=BOE-A-2019-6347
Parlamento Europeo. (Febrero 16, 2017). Resolución con recomendaciones destinadas a la Co-misión, sobre normas de Derecho civil sobre robótica. https://www.europarl.europa.eu/doceo/documetno/TA-8-2017-0051_ES.docx
Parlamento Europeo y Consejo de Europa. (Julio 12, 2024). Reglamento (UE) 2024/1689. Bole-tín Oficial del Estado. https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81079
Quintero Olivares, G. (2017). La robótica ante el Derecho penal: el vacío de respuesta jurídica a las desviaciones incontroladas. Revista Electrónica de Estudios Penales y de la Seguri-dad, (1), 1-22. https://www.ejc.reeps.com/numeros-anteriores/numero-1-segundo-semestre-2017
Real Decreto 1150/2021, de 28 de diciembre, «Estrategia de seguridad nacional» (Diciembre 31, 2021). Boletín Oficial del Estado, (314), 167795-167830. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2021-21884
Real Decreto 729/2023, de 22 de agosto, «Estatuto de la Agencia Española de Inteligencia Arti-ficial» (Septiembre 2, 2023). Boletín Oficial del Estado, (210), 122289-122316. https://www.boe.es/eli/es/rd/2023//08/22/729
Romeo Casabona, C. (2022a). Avances científicos y Derecho penal. En Demetrio Crespo, E., Cuerda Martín, M. y García de la Torre García, F. (Coords.). Derecho penal y compor-tamiento humano. Avances desde la neurociencia y la inteligencia artificial, 77-107. Ti-rant lo Blanch.
Romeo Casabona, C. (2022b). La atribución de responsabilidad penal por los hechos cometidos por sistemas autónomos inteligentes, robótica y tecnologías conexas. ULP Law Review i Revista de Direito da ULP, 16, 7-16.
Rosal Blasco, B. (Junio, 2023). ¿El modelo de la responsabilidad penal de las personas jurídicas para los daños punibles derivados del uso de la inteligencia artificial? Revista de Res-ponsabilidad Penal de Personas Jurídicas y Compliance, 2, 1-49. https://www.redepec.com/wp-content/uploads/pdf/-el-modelo-de-la-responsabilidad-penal-de-las-personas-jur-dicas-para-los-da-os-punibles-derivados-del-uso-de-la-inteligencia-artificial--3098.pdf
Valls Prieto, J. (2021). Inteligencia artificial, derechos humanos y bienes jurídicos. Aranzadi.
Valls Prieto, J. (2022). Sobre la responsabilidad penal por la utilización de sistemas inteligen-tes. Revista Electrónica de Ciencia Penal y Criminología, (24), 24-27. https://revistacriminologia.com/24recpc24-27.pdf