Determinación de la responsabilidad penal por hechos realizados por la inteligencia artificial
Barra lateral del artículo
Contenido principal del artículo
Resumen
Los desafíos que plantea la determinación de la responsabilidad penal por hechos lesivos cometidos por sistemas de inteligencia artificial son objeto de análisis en el presente artículo. A partir de la distinción entre una dimensión tecnológica débil: previsible y controlable por humanos, y una fuerte, con aprendizaje autónomo, se examina la insuficiencia de los modelos tradicionales de imputación penal, como la autoría mediata o la responsabilidad por el producto defectuoso, para resolver los problemas que plantea la inteligencia artificial. El texto explora las propuestas de la Unión Europea, centradas en el control humano y la gestión de riesgos; debate acerca de la posible creación de una personalidad electrónica para sistemas autónomos y concluye que, si bien el marco actual prioriza la supervisión humana, la evolución hacia IA más autónomas podría exigir una reconceptualización de la teoría del delito y la responsabilidad penal.
Descargas
Detalles del artículo
Esta obra está bajo una licencia internacional Creative Commons Atribución-NoComercial 4.0.
Citas
Agustina, J. R. (2021). Nuevos retos dogmáticos ante la cibercriminalidad. ¿Es necesaria una dogmática del ciberdelito ante un nuevo paradigma? Estudios Penales y Criminológicos, 41, 705-777.
Benítez Ortúzar, I. F. (2008). Informática y delito. Aspectos penales relacionados con las nuevas tecnologías. En Benítez Ortúzar, I. F. (Coord.). Reforma del Código penal. Respuestas para una sociedad del siglo XXI, 111-136. Dykinson.
Benítez Ortúzar, I. F. (2021). Ciberdelitos. la implementación en el ordenamiento interno de los acuerdos internacionales en materia de ciberdelincuencia. En Lledó Yagüe, F. Benítez Ortúzar, I. y Monje Balmaseda, O. (Dirs.). La robótica y la inteligencia artificial en la nueva era de la revolución industrial 4.0. Los desafíos jurídicos, éticos y tecnológicos de los robots inteligentes, 79-128. Dykinson.
Castillo Jiménez, C. (2001). Protección del derecho a la intimidad y uso de nuevas tecnologías de la información. Derecho y Conocimiento, 1, 35-48.
Comisión Europea (2018). Comunicación al Parlamento Europeo, al Consejo Europeo, al Con-sejo, al Comité Económico y Social Europeo, y al Comité de las Regiones. Inteligencia artificial para Europa. https://eur-lex.europa.eu/legal-content/ES/TXT/PDF/?uri=CELEX:52018DC0237
Comisión Europea (2019). Comunicación al Parlamento Europeo, al Consejo, al Comité Eco-nómico y Social Europeo, y al Comité de las Regiones. Generar confianza en la inteli-gencia artificial centrada en el ser humano. https://eur-lex.europa.eu/legal-content/EN/TXT/PDF/?uri=CELEX:52019DC0168&from=LT
Consejo de Europa. (Septiembre 17, 2010). Convenio sobre ciberdelincuencia, de 23 de no-viembre de 2001 Boletín Oficial del Estado, (226), 78847-78896. https://www.boe.es/eli/es/ai/2001/11/23/(1)
Consejo de Europa (2003). Protocolo adicional al Convenio sobre la ciberdelincuencia, relativo a la penalización de actos de índole racista y xenófoba cometidos por medio de sistemas informáticos. https://www.coe.int/en/web/cybercrime/first-additional-protocol
Cuesta Aguado, P. M. (2019). Inteligencia artificial y responsabilidad penal. Revista Penal Mé-xico, 9(16-17), 51-62. https://revistacienciasinacipe.fgr.org.mx/index.php/01/article/view/336
Demetrio Crespo, E., Caro Coria, D. C. y Escobar Bravo, M. E. (Eds.). (2023). Estudios de De-recho penal, neurociencias e inteligencia artificial. Ediciones UCLM.
Fiscalía General del Estado. (Octubre 11, 2011). Instrucción 2, sobre el Fiscal de Sala de Crimi-nalidad Informática y las secciones de criminalidad informática de las Fiscalías. https://www.fiscal.es/memorias/estudios2016/INS/INS_02_2011.html
Gobierno de España, Ministerio del Interior (2023). Informe sobre la cibercriminalidad. https://www.interior.gob.es/opencms/export/sites/default/.galleries/galeria-de-prensa/documentos-y-multimedia/balances-e-informes/2023/Informe-Cibercriminalidad_2023.pdf
Herrera de las Heras, R. (2022). Aspectos legales de la inteligencia artificial. Personalidad ju-rídica de los robots y responsabilidad civil. Dykinson.
Informe de situación de cibercriminalidad en España (2024). https://ptedisruptive.es/wp-content/uploads/2024/12/INFORME-DE-SITUACION_CIBERSEGURIDAD_2024.pdf
Lledó Benito, I. (2022). El Derecho penal, robots, IA y cibercriminalidad: desafíos éticos y ju-rídicos. ¿Hacia una distopía? Dykinson.
Lledó Yagüe, F. (2022). Los nuevos esclavos digitales del siglo XXI y la superación del hombre óptimo. ¿Hacia un nuevo derecho robótico? Dykinson.
McCarthy, J., Minsky, M. L., Rochester, N. y Shanon, C. E. (s. f.). A proposal for the Darmouth Summer Research Project on Artificial Intelligence. https://home.dartmouth.edu/about/artificial-intelligence-ai-coined-dartmouth
Miró Llinares, F. (2018). Inteligencia artificial y justicia penal: Más allá de los resultados lesi-vos causados por robots. Revista de Derecho Penal y Criminología, (20), 87-130.
Morán Espinosa, A. (2021). Responsabilidad penal de la inteligencia artificial (IA). ¿La próxi-ma frontera? IUS, 15(48), 289-323.
Muñoz Vela. J. M. (Enero-marzo, 2022). Inteligencia artificial y responsabilidad penal. Derecho Digital e Innovación. (11), s. p. Wolters Kluwer.
Navarro Cardoso, F. (2025). Anotaciones sobre la responsabilidad penal de las «personas artifi-ciales». Revista Penal, (56), 198-207. https://doi.org/10.36151/RP.56.10
Orden PCI/487/2019, de 26 de abril, «Estrategia nacional de ciberseguridad» (Abril 30, 2019). Boletín Oficial del Estado, (103), 43437-43455. https://www.boe.es/buscar/doc.php?id=BOE-A-2019-6347
Parlamento Europeo. (Febrero 16, 2017). Resolución con recomendaciones destinadas a la Co-misión, sobre normas de Derecho civil sobre robótica. https://www.europarl.europa.eu/doceo/documetno/TA-8-2017-0051_ES.docx
Parlamento Europeo y Consejo de Europa. (Julio 12, 2024). Reglamento (UE) 2024/1689. Bole-tín Oficial del Estado. https://www.boe.es/buscar/doc.php?id=DOUE-L-2024-81079
Quintero Olivares, G. (2017). La robótica ante el Derecho penal: el vacío de respuesta jurídica a las desviaciones incontroladas. Revista Electrónica de Estudios Penales y de la Seguri-dad, (1), 1-22. https://www.ejc.reeps.com/numeros-anteriores/numero-1-segundo-semestre-2017
Real Decreto 1150/2021, de 28 de diciembre, «Estrategia de seguridad nacional» (Diciembre 31, 2021). Boletín Oficial del Estado, (314), 167795-167830. https://www.boe.es/diario_boe/txt.php?id=BOE-A-2021-21884
Real Decreto 729/2023, de 22 de agosto, «Estatuto de la Agencia Española de Inteligencia Arti-ficial» (Septiembre 2, 2023). Boletín Oficial del Estado, (210), 122289-122316. https://www.boe.es/eli/es/rd/2023//08/22/729
Romeo Casabona, C. (2022a). Avances científicos y Derecho penal. En Demetrio Crespo, E., Cuerda Martín, M. y García de la Torre García, F. (Coords.). Derecho penal y compor-tamiento humano. Avances desde la neurociencia y la inteligencia artificial, 77-107. Ti-rant lo Blanch.
Romeo Casabona, C. (2022b). La atribución de responsabilidad penal por los hechos cometidos por sistemas autónomos inteligentes, robótica y tecnologías conexas. ULP Law Review i Revista de Direito da ULP, 16, 7-16.
Rosal Blasco, B. (Junio, 2023). ¿El modelo de la responsabilidad penal de las personas jurídicas para los daños punibles derivados del uso de la inteligencia artificial? Revista de Res-ponsabilidad Penal de Personas Jurídicas y Compliance, 2, 1-49. https://www.redepec.com/wp-content/uploads/pdf/-el-modelo-de-la-responsabilidad-penal-de-las-personas-jur-dicas-para-los-da-os-punibles-derivados-del-uso-de-la-inteligencia-artificial--3098.pdf
Valls Prieto, J. (2021). Inteligencia artificial, derechos humanos y bienes jurídicos. Aranzadi.
Valls Prieto, J. (2022). Sobre la responsabilidad penal por la utilización de sistemas inteligen-tes. Revista Electrónica de Ciencia Penal y Criminología, (24), 24-27. https://revistacriminologia.com/24recpc24-27.pdf