En este episodio conversamos con Santiago Carlen, abogado especializado en ciberdelitos, sobre los desafíos y transformaciones que la inteligencia artificial está generando en el campo de la justicia y el derecho. A lo largo del diálogo exploramos:
• Cómo se están utilizando herramientas de IA en la justicia
• Los riesgos y dilemas de aplicar sistemas de IA en el ámbito judicial.
• Los debates entorno a la IA en propiedad intelectual y patentes
• Los desafíos de regular una tecnología económica y geopolíticamente clave en un contexto de oligopolios y potencias en competencia
Santiago Carlen es abogado (UCES) especialista en investigación de ciberdelitos y evidencia digital (Univ. Austral). Es litigante en el fuero penal federal y provincial de Chubut, autor de artículos de doctrina, investigador del Instituto de Investigación en Ciencias Jurídicas (UCES) en diversos proyectos, y docente y creador del curso "Inteligencia Artificial Generativa para abogados".
Índice de temas
(00:00:00) Bienvenida
(00:00:20) Presentación del episodio
(00:03:29) Bienvenida con el invitado
(00:04:00) SECCIÓN 1: IA en el sistema judicial
(00:07:40) De la máquina de escribir a la IA: transformaciones tecnológicas en tribunales
(00:09:34) Uso de IA generativa para redactar escritos, contratos y análisis documental
(00:10:38) Problemas de alucinaciones y citas falsas
(00:12:26) Limitaciones por falta de entrenamiento con jurisprudencia argentina
(00:16:56) IA para automatizar multas y contravenciones y sus límites
(00:21:04) Riesgos de decisiones automatizadas frente a la opacidad de los modelos
(00:23:30) Sesgos en IA y sesgos en jueces humanos: paralelismos y dilemas
(00:26:52) Complejidad de entrenar una IA para realizar inferencias jurídicas y evaluar pruebas
(00:30:40) IA en tareas administrativas de la justicia: agilizar trámites y gestiones
(00:31:44) Impacto laboral y paralelismos con otras revoluciones tecnológicas
(00:33:00) SECCIÓN 2: Nuevos dilemas jurídicos frente a la IA
(00:36:28) Cómo el derecho tarda en adaptarse a cambios disruptivos: propiedad intelectual, derechos laborales, responsabilidad civil
(00:38:47) Desactualización normativa en Argentina: datos personales y propiedad intelectual
(00:39:23) Debate global por el uso de obras con copyright para entrenar modelos
(00:41:17) Discusión sobre estilos artísticos, plagio y deepfakes
(00:42:42) Tres posturas sobre la autoría de obras generadas por IA
(00:45:17) Propuestas de “personalidad jurídica” para IA y debates en la UE
(00:46:55) Derechos de autor: sentido, plazos y posible necesidad de adaptación
(00:45:00) SECCIÓN 3: Regulación y responsabilidad
(00:48:13) La cuestión de la responsabilidad y la personería en la IA generativa y agéntica
(00:49:16) Sistemas de responsabilidad civil: subjetiva y objetiva
(00:50:03) Paralelos históricos: electricidad y la expansión de la responsabilidad objetiva
(00:51:12) Dilemas actuales: quién responde por daños causados por IAs “autónomas”
(00:56:45) El enfoque regulatorio de la Unión Europeo en función del nivel de riesgo
(00:58:28) Diferencias en los enfoques regulatorios de Estados Unidos, Europa y China
(01:05:02) Iniciativas de regulación en América Latina y Argentina
(01:06:57) Vuelta a Europa y el desafío de alcanzar marcos regulatorios globales en un contexto de competencia tecnológica
(01:09:21) Desafíos de gobernanza global: ¿La IA regulada como la energía atómica?
(01:13:43) Saludo final y despedida
----------------------------------
Seguí a LAIA en:
Web: https://laia.ar/
Instagram: https://www.instagram.com/laialab_/
X: https://twitter.com/LaiaLab_
Linkedin: https://www.linkedin.com/company/laia-ar/
Podcast: https://open.spotify.com/show/3TUSWSSSUWYrB7Iv0YQDiy
Youtube: https://www.youtube.com/@Laia-labinteligenciaartificial/
----------------------------------
Créditos del episodio:
Conducción: Cristian Cao
Producción: Cristian Cao, Lucas Pratessi y Florencia Guaita
Audio: Sergio Paoletti
Imagen y video: Alejandro Biscione