¿Es posible una Inteligencia artificial respetuosa con la protección de datos?

Celia Fernández-Aller; María Mercedes Serrano Pérez

doi:10.14198/DOXA2022.45.11

Autores/as

Celia Fernández-Aller Universidad Politécnica de Madrid, España https://orcid.org/0000-0002-0642-2058
María Mercedes Serrano Pérez Universidad de Castilla La Mancha, España https://orcid.org/0000-0001-6955-2063

DOI:

https://doi.org/10.14198/DOXA2022.45.11

Palabras clave:

Discriminación algorítmica, Inteligencia artificial, Privacidad

Resumen

La Inteligencia artificial es un reto clave en la cuarta revolución industrial que vivimos. El artículo pretende analizar la compatibilidad de ésta con el derecho a la protección de datos. Para ello se analizan los principios que subyacen a la regulación y se estudia el encaje de las características de la tecnología en los mismos. Se destacan los principales derechos de los sujetos, así como las obligaciones de los responsables de los tratamientos. Especial atención se presta a la discriminación algorítmica en el caso de los perfiles y el marketing político, que supone un reto a evitar por su vulneración del principio de igualdad y justicia en el tratamiento de la información personal. Resulta esencial salvaguardar el derecho a la explicabilidad algorítmica. Se concluye con un análisis de la necesaria regulación que está en fase de discusión en Europa.

Citas

AGDP (2020) Adecuación al RGPD de tratamientos que incorporan Inteligencia Artificial. Una introducción. https://www.aepd.es/es/media/guias/adecuacion-rgpd-ia.pdf

Australian Human Rights Commission (2019) Human Rights and Technology Discussion Paper. ISBN 978-1-925917-15-4.

Barfield, W. (2020), The Cambridge Handbook of the Law of Algorithms. University of Washington, Ed. Cambridge University Press. https://doi.org/10.1017/9781108680844

Bonmatí Sánchez, J., y Gonzalo Doménech, J. J., (2020) «La gestión de riesgos y su encaje legal en la regulación de la inteligencia artificial», Era digital, Sociedad y Derecho, Tirant lo Blanch, Valencia.

Christodoulou, E., Kalypso I. (2019), «Democracy Under Attack: Challenges of Addressing Ethical Issues of AI and Big Data for More Democratic Digital Media and Societies» Frontiers in Political Science.

Clarke, R. (2019) «Australia Regulatory alternatives for AI» Computer Law & Security review, num. 35, pp. 398-409. https://doi.org/10.1016/j.clsr.2019.04.008

Comisión Europea. Propuesta de regulación de la Inteligencia artificial de abril de 2021: https:// ec.europa.eu/commission/presscorner/detail/en/ip_21_1682

Consejo de Europa (2020) Protección de las personas en lo que respecta al tratamiento automático de datos personales en el contexto de la elaboración de perfiles. Recomendación CM/Rec (2010)13 y exposición de motivos. Consejo de Europa, 23 de noviembre de 2010. https://www. coe.int/t/dghl/standardsetting/cdcj/CDCJ%20Recommendations/CMRec(2010)13E_ Profiling.pdf

Cotino Hueso, L. (2019). «Ética en el diseño para el desarrollo de una inteligencia artificial, robótica y big data confiables y su utilidad desde el derecho». Revista Catalana de Dret Públic, (58), pp. 29-48.

Damiani, E. Artificial Intelligence Cybersecurity Challenges, ENISA, Diciembre 2020, https:// www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges

De la Quadra Salcedo Fernández del Castillo, T., (2018) «Retos, riesgo y oportunidades de la sociedad digital», Sociedad Digital y Derecho, de la Quadra-Salcedo, T., Piñar Mañas, J. L., (directores), Ministerio de Industria, Comercio y Turismo, Madrid.

Dubber, P. (2020), The Cambridge Handbook of the Law of Algorithms. University of Washington, Ed. Cambridge University Press.

Ebert, N. (2020), Algorithms and Law. Ed. Cambridge University Press.

Fernández-Aller, C. (2020), «¿Vale todo para hacer propaganda electoral en internet?» The Conversation https://theconversation.com/profiles/celia-fernandez-aller-718032/articles

Fernández Aller, C. et. al (2021), «An Inclusive and Sustainable Artificial Intelligence Strategy for Europe Based on Human Rights», in IEEE Technology and Society Magazine, vol. 40, no. 1, pp. 46-54, March 2021. https://doi.org/10.1109/MTS.2021.3056283

Floridi, L (2019), «Translating principles into Practices of Digital Ethics: Five Risks of Being Unethical». Philosophy and Technology, 32. https://doi.org/10.2139/ssrn.3835010

González-Espejo, M.J y Pavón, J. (editores); Moisés Barrio Andrés…[et al.] (2020) An Introductory Guide to Artificial Intelligence for Legal Professionals. Ed. Kluwer Law International.

Grupo de expertos de alto nivel sobre inteligencia artificial, creado por la Comisión Europea (2019) Directrices éticas para una Inteligencia Artificial fiable, https://op.europa.eu/es/ publication-detail/-/publication/d3988569-0434-11ea-8c1f-01aa75ed71a1

Hernández Corchete, J.A. (2018). «Expectativas de privacidad, tutela de la intimidad y protección de datos», Sociedad Digital y Derecho, de la Quadra-Salcedo, T., Piñar Mañas, J. L., (directores), Ministerio de Industria, Comercio y Turismo, Madrid (2018).

Kazim, E., Danielle M., Thame D., Adriano K. (2021), «AI auditing and impact assessment: according to the UK information commissioner's office», AI and Ethics. https://doi.org/10.1007/s43681-021-00039-2

Lazcoz Moratinos, G., y Castillo Parrilla, J. A., (2020) «Valoración algorítmica ante los derechos humanos y el Reglamento General de Protección de Datos: el caso SyRI», Revista Chilena de Derecho y Tecnología, vol. 9, núm. 1. https://doi.org/10.5354/0719-2584.2020.56843

Lazcoz Moratinos, G. (2021) «Análisis de la propuesta de reglamento sobre los principios éticos para el desarrollo, el despliegue y el uso de la inteligencia artificial, la robótica y las tecnologías conexas» IUS ET SCIENTIA N.º 2 • ISSN 2444-8478. https://doi.org/10.12795/IETSCIENTIA.2020.i02.03

Le Clainche, J. y Le Métayer, D. (2012), «Données personnelles, vie privée et non-discri- mination: des protections complémentaires, une convergence nécessaire (Personal data, privacy and non-discrimination: complementary protections, a necessary convergence)», Revue Lamy Droit immatériel, 90.

Mitrou, L. (2018), «Data Protection, Artificial Intelligence and Cognitive Services: Is the General Data Protection Regulation (GDPR) 'Artificial Intelligence-Proof'? ». https://doi.org/10.2139/ssrn.3386914

Moerel, E.M.L. (2014), «Big Data Protection. How to Make the Draft EU Regulation on Data Protection Future Proof» (February 14, 14). https://doi.org/10.2139/ssrn.3126164

Norwegian Data Protection Authority (2018), Artificial Intelligence and privacy.

Ponce Solé, J. (2019), Inteligencia artificial, Derecho administrativo y reserva de humanidad: algoritmos y procedimiento administrativo debido tecnológico. http://laadministracionaldia. inap.es/usuarios/noticia.asp?id=1509505#nota75

Quadra-Salcedo Fernández del Castillo, T. (2019), «Derechos fundamentales, democracia y mercado en la edad digital», Derecho Digital e Innovación, núm. 1, enero-marzo.

Rebollo Delgado, L., Serrano Pérez, M.a M., Manual de Protección de Datos, 3.a ed., Dykinson, S. L., Madrid 2019.

Regulation of the European Parliament and of the Council laying down harmonized rules on artificial intelligence (artificial intelligence act) and amending certain union legislative acts, COM(2021) 206 final, disponible en https://digital-strategy.ec.europa.eu/en/library/ proposal-regulation-laying-down-harmonised-rules-artificial-intelligence

Selbst, A. and Powles, J. (2017), «Meaningful information and the right to explanation» International Data Privacy Law 233, 7(4), 20. https://doi.org/10.1093/idpl/ipx022

Schermer, B (2011), «The limits of privacy in automated profiling and data mining» 27 Computer Law & Security Review 45. https://doi.org/10.1016/j.clsr.2010.11.009

Smith, B. C., (2019), The promise of artificial intelligence. Reckoning and judgment, The MIT Press, Cambridge (Massachusets). https://doi.org/10.7551/mitpress/12385.001.0001

Tegmark et al. (2020), «The role of artificial intelligence in achieving the Sustainable Development Goals» Nature Communications.

Tegmark, Max (2017), Life 3.0. Being human in the age of Artificial Intelligence. Vintage.

The Alan Turing Institute /ICO (2020) Explaining decisions made with AI. https://ico.org. uk/for-organisations/guide-to-data-protection/key-dp-themes/explaining-decisions- made-with-ai/

Vida Fernández, J. (2018), «Los retos de la regulación de la inteligencia artificial: algunas aportaciones desde la perspectiva europea» en Sociedad Digital y Derecho, de la Quadra- Salcedo, T., Piñar Mañas, J. L., (directores), Ministerio de Industria, Comercio y Turismo, Madrid (2018).

Yeung, Howes, Pogrebna (2020), «AI Governance by Human Rights-Centered Design, Deliberation and Oversight: and End to Ethics Washing», in The Oxford Handbook of Ethics of AI, Ed. Oxford University Press. https://doi.org/10.2139/ssrn.3435011