En este episodio, continuamos nuestra exploración crítica sobre la inteligencia artificial y las nuevas tecnologías, centrándonos en su impacto legal y ético a través de casos recientes que han llegado a los tribunales en distintas partes del mundo. ¿Cómo han respondido los sistemas judiciales frente a los sesgos y fallas de los algoritmos? ¿Qué derechos se ven afectados y qué desafíos plantea la automatización de decisiones?
La discusión comienza con el análisis del estudio de ProPublica sobre el algoritmo COMPAS, utilizado en jurisdicciones en los EE. UU. para predecir reincidencia criminal, un sistema que ha generado preguntas sobre si aplica sesgos raciales en su funcionamiento (Julia Angwin et al., Machine Bias, 2016). También se aborda el caso del algoritmo de reclutamiento de Amazon, en el que se alegaba favorecía a hombres en detrimento de las mujeres, un ejemplo de sesgo algorítmico que llevó a la compañía a realizar ajustes en su sistema.
Desde Europa, comentamos el fallo del Tribunal Ordinario de Bolonia en el caso Filt Cgil Bologna v. Deliveroo Italia S.R.L. (2020), que sentó precedente al reconocer cómo un sistema algorítmico podía afectar derechos laborales fundamentales en contextos de trabajo atípico, así como el fallo en el caso TJUE en OQ v. Land Hessen (C-634/21), que refuerza la protección de datos frente a decisiones automatizadas en la Unión Europea.
Ampliamos la conversación con casos como el de Louis v. SafeRent (D. Mass., 2023), donde se denunció que un algoritmo de evaluación de inquilinos discriminaba a personas con vales de vivienda. Aunque se resolvió por acuerdo, la corte permitió que el caso avanzara, marcando un hito importante en la regulación de tecnologías de vivienda.
También discutimos el uso emergente de la inteligencia artificial en el proceso judicial: un juez en Cartagena, Colombia, incluyó la consulta a ChatGPT como parte de su argumentación en una sentencia laboral (Salvador Espitia Chávez v. Salud Total E.P.S., 2023), y en EE. UU., un juez del 11º Circuito citó a ChatGPT para definir el término “landscaping” en el caso Snell v. United Specialty Ins. Co. (2024), abriendo el debate sobre el papel de estas herramientas en la interpretación legal.
Finalmente, retomamos el caso Nederlandstalige Vereniging van Juristen v. Estado de los Países Bajos (Tribunal de Distrito de La Haya, 2020), que expone cómo la inteligencia artificial puede poner en jaque la privacidad y el derecho a la protección de datos personales, en el contexto de políticas públicas automatizadas.
El panel para este episodio está compuesto por: Manolo Núñez Negrón, Director Ejecutivo de la Academia Judicial Puertorriqueña; el juez Sigfrido Steidel Figueroa, Director Administrativo de los Tribunales; la jueza Maritere Colón Domínguez, Directora Administrativa Auxiliar de los Tribunales, y el Lcdo. Manuel Quilichini, ex presidente del Colegio de Abogados y Abogadas de Puerto Rico.