En los Tribunales de Paraná se presentó este jueves la ponencia “Inteligencia Artificial Generativa, los sesgos algorítmicos y los desafíos éticos y jurídicos”, a cargo de Elisa Simó Soler (*). La actividad fue organizada por el Instituto” Dr. Juan Bautista Alberdi”, por iniciativa de la vocal de la Sala Nº 2 en lo Civil y Comercial del STJER, Gisela Schumacher. En la oportunidad también se detalló el trabajo del Sistema lnterinstitucional de Abordaje de la Violencia (SIAV) diseñado por el Superior Tribunal se Justicia de Entre Ríos a través del Programa de Gestión Judicial.
Estuvieron presentes en la exposición, el presidente del Superior Tribunal de Justicia (STJ), vocal Germán Carlomagno; las vocales Susana Medina; Laura Mariana Soage y Gisela Schumacher, mientras que la vocal Claudia Mizawak participó vía ZOOM.
La apertura de las disertaciones estuvo a cargo dela vocal Susana Medina, quien agradeció a las disertantes, Elisa Simó Soler y a la secretaria general del STJER, Elena Salomón, de quien destacó el “trabajo realizado de manera silenciosa durante tanto tiempo y que hoy tenemos la oportunidad de ver”.
A su turno, la vocal Gisela Schumacher señaló la importancia y el honor de contar con la doctora en Derechos Humanos, Democracia y Justicia Internacional, Simó Soler. Destacó también que lo que sirvió de base para el desarrollo del SIAV fue el trabajo en red, la colaboración de muchas personas de diversas disciplinas que integran el Poder Judicial de Entre Ríos, mezclando sus diferentes lenguajes. “Es uno de los grandes desafíos que se tiene cuanto se debe abordar la problemática de la violencia”, afirmó la vocal.
Seguidamente, Simó Soler, que es investigadora de la Universidad de Valencia, España, al abrir su ponencia destacó el valor del proyecto SIAV y lo calificó de “vanguardista, pionero e impresionante” no sólo por el objetivo que persigue sino por la “metodología aplicada en él”, aseguró en referencia a la propuesta.
Y, ya sobre el tema específico de su disertación invitó al auditorio a reflexionar, “como paso previo y fundamental”, acerca del “por qué y para qué ir a una Justicia alogarítmica” al tiempo que planteó que la Inteligencia Artificial (IA) “no es algo que va a pasar sino que es una realidad” y propuso “pensar su uso en la perspectiva de género”.
“Pensemos – sugirió – a la IA y a la Justicia desde y con las mujeres” y observó que sistemas de IA pueden perpetuar o simplificar desigualdades que ya existen en la discriminación directa” marcó Simó Soler para quien la transformación digital de la Justicia debe hacerse desde una perspectiva de género para garantizar el derecho constitucional a la tutela judicial. Y, para que ello tenga el resultado esperado advirtió que impera abordar y afrontar los sesgos alogarítmicos que refuerzan estereotipos de género y evitar nuevas formas de violencia de género, como las deepfakes”, precisó.
Sobre el cierre de su exposición, detalló entre los riesgos, “la falta de transparencia en la cumplimentación de formularios”; como límites “la funcionalidad del propio sistema”, “la vulneración e los derechos” y la “supervisión humana” y entre las oportunidades “la objetividad, la trazabilidad y la mejor protección”
En razón de estos riesgos, y para prevenirlos, exhortó a alcanzar medidas de orden político, jurídico y tecnológico aunque realzó los beneficios que la herramienta digital puede ofrecer a la Justicia entre los que marcó la eficiencia, eficacia y calidad
Diseño algorítmico, soberanía y justicia: el caso SIAV
El SIAV es una herramienta para la de predicción temprana del riesgo, que actualmente está en una etapa de prueba piloto en Paraná. Fue desarrollado por el Superior Tribunal de Justicia de Entre Ríos a través del Programa de Gestión Judicial combinando tecnología, criterios jurídicos y un fuerte trabajo interdisciplinario previo, que incorpora la inteligencia artificial, dándole previamente y de manera institucional los criterios que orientan las respuestas brindadas por el sistema.
Sobre esta temática se explayó la Secretaria General del STJER, a cargo del Programa de Gestión Judicial, Elena Salomón. Al explicar su alcance remarcó que el SIAV no es IA pura sino un modelo de automatización de procesos, y que, como en todo sistema de predicción de riesgo, hay un posicionamiento político, conceptual y epistémico. Es una plataforma interdisciplinaria e interinstitucional para asegurar la trazabilidad de datos de violencia, que pertenece y fue diseñado por el Superior Tribunal de Justicia, con su base de datos.
El SIAV no reemplaza la intervención humana, sino que actúa como un sistema de apoyo, su rol es el procesamiento y priorización de datos. Esto se debe a que, antes de comenzar el trabajo informático, de escritura de códigos para armar el algoritmo, se trabajó en una instancia de discusión política y epistemológica intercientífica con profesionales de la ciencia y de la conducta humana.
El algoritmo de predicción temprana de riesgo del STJER no es generativo, es el resultado de lo que se le enseña a la máquina lo que hasta hoy todos los equipos interdisciplinarios dijeron que era riesgoso. Fue entrenado con datos propios, valorados y cerrados, no crea nueva información.
Otro de los puntos a destacar del sistema de predicción de riesgo del STJER es que puede dar cuenta de cómo se armó, a través de un manual escrito donde se reflejan los valores discretos que se asignaron.
Por último destacó que no se desplaza el trabajo humano, sino complementa la intervención de los Equipos Técnicos Interdisciplinarios y les brinda la información de las denuncias clasificadas, evitando la revictimización.
La actividad estuvo dirigida principalmente a integrantes de los poderes judiciales, operadores del sistema de protección de derechos, así como a la comunidad académica y jurídica interesada y se realizó en modalidad híbrida. Quienes residen en Paraná pudieron asistir de manera presencial en el Salón de Actos del STJ, mientras que a través de Zoom se conectaron participantes de 14 provincias argentinas y la Ciudad Autónoma de Buenos Aires, lo que reafirma la relevancia de los temas que se abordaron en la jornada.
9 de abril de 2026
SIC-STJER
(*) Su trabajo académico la posiciona como una referente en el análisis crítico del impacto de las nuevas tecnologías, particularmente de la inteligencia artificial generativa, desde una perspectiva jurídica, con especial énfasis en derechos fundamentales, sesgos algorítmicos y perspectiva de género.
