EL DEEPFAKE COMO RETO PROBATORIO: ANÁLISIS Y PROPUESTA DE REGULACIÓN DE LA INTELIGENCIA ARTIFICIAL EN EL ÁMBITO JUDICIAL
Abstract
La inteligencia artificial (IA) generativa está en auge en los últimos años y su contenido refleja una vulneración de derechos y una necesidad imperativa de regular. El objetivo era proponer un sistema que regule y evalúe los casos de deepfake que se dan en la actualidad, asentado así una base legislativa para el futuro. Para ello, se analizó la legislación que se aplica actualmente y las propuestas de ley que regularían esta materia, también se exploró la opinión doctrinal de algunos autores respecto a esta problemática. Aunque algunos preceptos pueden ser interpretados para proteger a las víctimas, el avance de la
IA y sus capacidades generan una inseguridad jurídica que precisa de regulación propia. Solo un sistema con unas bases sólidas es factible para el enfrentamiento contra esta nueva tecnología.
References
BODEN, M. AI: Its Nature and Future. Oxford: Oxford University Press, 2016.
CARO CORIA, D. C. “Las garantías constitucionales del proceso penal”. En: Anuario de Derecho Constitucional Latinoamericano, 2006, pp. 1028-1045. Disponible en: https://biblioteca.corteidh.or.cr/tablas/R08047-30.pdf [Consultado: 10 de junio de 2024].
DAGAR, D. y KUMAR VISHWAKARMA, D. “A Literature Review and Perspectives in Deepfakes: Generation, Detection, and Applications”. En: International Journal of Multimedia Information Retrieval, vol. 11, julio de 2022, pp. 219-289. Disponible en: https://link.springer.com/article/10.1007/s13735-022-00241-w [Consultado: 7 de junio de 2024].
ESPAÑA. CONGRESO DE LOS DIPUTADOS. Proposición de Ley Orgánica (13 de octubre de 2023) de regulación de las simulaciones de imágenes y voces de personas generadas por medio de la inteligencia artificial. En: Boletín Oficial de las Cortes Generales, núm. 122/000011, 2023. Disponible en: https://www.congreso.es/public_oficiales/L15/CONG/BOCG/B/BOCG15-B-23-1.PDF [Consultado: 6 de junio de 2024].
ESPAÑA. FISCALÍA GENERAL DEL ESTADO. “Circular 2/2015 (19 de junio de 2015) sobre los delitos de pornografía infantil tras la reforma operada por Ley Orgánica 1/2015”. En: Boletín Oficial del Estado, ref. FIS-C-2015-00002, 2015. Disponible en: https://www.boe.es/buscar/abrir_fiscalia.php?id=FIS-C-2015-00002.pdf [Consultado: 15 de junio de 2024].
ESPAÑA. JEFATURA DEL ESTADO. Ley Orgánica 1/1982 (5 de mayo de 1982), de protección civil del derecho al honor, a la intimidad personal y familiar y a la propia imagen. En: Boletín Oficial del Estado, núm. 115, 1982, pp. 1-7. Disponible en: https://www.boe.es/buscar/pdf/1982/BOE-A-1982-11196-consolidado.pdf [Consultado: 7 de junio de 2024].
FERREIRA, K. “Tipos de Inteligencia Artificial: conoce cuáles existen y cómo usarlos”. En: Rockcontent, 20 de julio de 2021. Disponible en: https://rockcontent.com/es/blog/tipos-de-inteligencia-artificial/ [Consultado: 30 de junio de 2024].
GARCÍA-ULL, F. J. “Deepfakes: el próximo reto en la detección de noticias falsas”. En: Anàlisi: Quaderns de comunicació i cultura, núm. 64, junio de 2021, pp. 103-120. Disponible en: https://analisi.cat/article/view/v64-garcia [Consultado: 8 de junio de 2024].
GROTHAUS, M. Trust No One: Inside the World of Deepfakes. Londres: Hachette UK, 2021.
GUTIÉRREZ SULLCA, E. M. “Artificial Intelligence Techniques for Detecting Deepfakes and their Impact on the Veracity of Online Content”. En: International Journal of Systems Engineering, vol. 4, núm. 2, 2023, pp. 6-9. Disponible en: https://systemjournal.org/index.php/ijse/article/view/39/26 [Consultado: 12 de junio de 2024].
HAO, K. “Deepfake Porn is Ruining Women’s Lives. Now the Law May Finally Ban It”. En: MIT Technology Review, 12 de febrero de 2021. Disponible en: https://www.technologyreview.com/2021/02/12/1018222/deepfake-revenge-porn-coming-ban/ [Consultado: 9 de junio de 2024].
JAREÑO LEAL, Á. “El derecho a la imagen íntima y el Código Penal: la calificación de los casos de elaboración y difusión del deepfake”. En: Revista Electrónica de Ciencia Penal y Criminología, núm. 26, 2024, pp. 1-37. Disponible en: http://criminet.ugr.es/recpc/26/recpc26-09.pdf [Consultado: 12 de junio de 2024].
LLORÍA GARCÍA, P. “Delitos y redes sociales: los nuevos atentados a la intimidad, el honor y la integridad moral (especial referencia al ‘sexting’)”. En: La Ley Penal: Revista de Derecho Penal, Procesal y Penitenciario, núm. 105, 2013, pp. 215-232.
RANA, S. et al. “Deepfake Detection: A Systematic Literature Review”. En: IEEE Access, vol. 10, 2022, pp. 25494-25513. Disponible en: https://ieeexplore.ieee.org/stamp/stamp.jsp?arnumber=9721302 [Consultado: 11 de junio de 2024].
RODRIGO LÓPEZ, J. F. “Tragic Realism: How to Regulate Deepfakes in Colombia?”. En: Latin American Law Review, núm. 8, 2022, pp. 125-145. Disponible en: https://doi.org/10.29263/lar08.2022.08 [Consultado: 30 de junio de 2024].
SIMÓ SOLER, E. “Retos jurídicos derivados de la Inteligencia Artificial Generativa: deepfakes y violencia contra las mujeres como supuesto de hecho”. En: InDret Criminología: Revista para el Análisis del Derecho, núm. 2, 2024, pp. 493-515. Disponible en: https://indret.com/wp-content/uploads/2023/04/1767.pdf [Consultado: 14 de junio de 2024].
UNIÓN EUROPEA. PARLAMENTO EUROPEO y CONSEJO EUROPEO. “Regulation of the European Parliament and of the Council laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828”. En: Diario Oficial de la Unión Europea, 10 de junio de 2024.
