“La inteligencia artificial mejorará la Justicia en temas de violencia de género”

“La inteligencia artificial mejorará la Justicia en temas de violencia de género”

Entrevista con Nieves Macchiavelli, líder del proyecto de Laboratorio de Inteligencia Artificial de Género del Ministerio Público Fiscal.

Parte del equipo: Carolina Cinalli, Maria Jose Mazzaro, Maeia Elena Lumiento, Valeria Pastorella, Gabriela Busellini y Nieves Macchiavelli.

El Ministerio Público Fiscal, desde el 2017 ha incoporado a Prometea, un sistema de inteligencia artificial que busca mejorar la calidad velocidad de la Justicia.

En octubre del pasado año, el Laboratorio de Inteligencia Artificial se puso al hombro el Proyecto de Automatización de Procesos y Denuncias en materia de Violencia de Género, liderado por Nieves Macchiavelli.

Es por eso que Noticias Urbanas dialogó con la Secretaria General sobre este sistema innovador que sienta precedencia en América Latina y que “automatiza procesos”, permitiendo brindarle a la víctima mejores resultados y tiempos en la resolución de su denuncia.

“Hablar de inteligencia artificial en casos de violencia de género puede resultar hasta un poco frívolo. Pero es todo lo contrario”, explicó Macchiavelli, explicando que el sistema “predictivo” no es utilizado en materia de género ya que los casos son evaluados se manejan “nuevos paradigmas” que son empleados de “manera manual” bajo la evaluación humana de cada caso, tras la necesidad de “repensar los procesos” de investigación a partir de incoporar las ventajas que proporcionan los “sistemas tecnológicos”.

Asimismo, Gabriela Busellini, secretaria de Fiscalías del MPF y colaboradora en el Laboratorio como encargada de la federalización del proyecto, quien toma  continuas capacitaciones en género en la Corte Suprema de Justicia de la Nación, le contó también a NU el plan para llevar a Prometea a cada provincia del país e, incluso, a distintos países del mundo.

 

-Nieves, contanos sobre vos y cómo llegás a ser titular de este proyecto.

Soy secretaria general del Ministerio Público Fiscal y tengo a mi cargo la Secretaría Judicial, que hace los proyectos y dictámenes que van a firmar el fiscal General, Luis Cevasco, o el fiscal Adjunto, que es Juan Corvalán.

Más allá de esto, venimos haciendo trabajos de investigación, porque para poder hacer dictámenes cada vez más eficientes, eso requiere de una capacitación y estudio de los temas. Y a medida que íbamos haciendo estos trabajos, nos fuimos dando cuenta que lo inherente a la materia “género” era una debilidad que se empezaba a ver en los procesos judiciales: la forma en la que eran llevados los procesos judiciales, los tradicionales razonamientos con los que los y las juezas o fiscales proponían soluciones.

Me refiero, a nosotros nos han formado y entrenado para llevar los procesos de una manera determinada. Por ejemplo, para quienes trabajamos en penal, en los casos de violación: lo primero que hacen es hacerle una pericia psicológica a la mujer para ver si no está fabulando, probar a través de estudios físicos de que la mujer realmente tuviera algún rasgo de violencia, etc. Esto lo naturalizamos de tal forma que no se cuestiona más.

Acá es donde cobran suma importancia los procesos de investigación y los cambios de paradigma. Se genera la necesidad de repensar los procesos, y es lo que estamos haciendo, sumando innovación de sistemas tecnológicos.

El Ministerio Público Fiscal, desde el año 2017, se encuentra trabajando en renovar los procesos a partir de incorporar inteligencia artificial, para dar un mejor servicio de justicia.

Así es como nace el Laboratorio de Inteligencia Artificial que tiene un montón de proyectos, de los cuales uno es el de Automatización de Procesos y Denuncias en materia de violencia de género, que es el que yo tengo a mi cargo. Éste nació en octubre del 2018, y el fin es mejorar los procesos de esta temática a partir de aplicar inteligencia artificial y poder agregarles eficiencia a la resolución de los casos que se nos presentan, mejorando los tiempos de la Justicia.

-¿Cómo resulta aplicable la IA en casos de violencia de género?

-Hablar de inteligencia artificial en casos de violencia de género puede resultar frívolo, porque las personas asocian la IA solo con la predicción. Y esto no es así.

La IA que usamos en de tipo restrictiva y, además, por el momento solo usamos la modalidad de automatización.

Lo que significa que frente a una respuesta, el algoritmo nos indica qué documento le corresponde. Y para ello el humano es quien lo entrena.  En cualquier caso, lo que intentamos realizar como fin último es mejorar el servicio de Justicia a través del uso de las nuevas tecnologías.

La inteligencia artificial intenta brindar soluciones más eficientes, y en este caso se trata de una herramienta para que la persona que viene a denunciar un delito en el contexto de la violencia contra la mujer pueda llevar adelante un proceso que no la revictimice, sino todo lo contrario, que el Estado le de una solución y herramienta tan eficaz como inmediata.

Con este sistema, nos enfocamos en la violencia económica, ya que hay varios tipos de violencia de género: física, psicológica, la que menciono, entre otras.

Voy a dar un ejemplo claro: nos dimos cuenta que había un delito que son los incumplimientos de los deberes de asistencia familiar, donde la mujer denuncia que la expareja no cumple con las obligaciones a cargo respecto de los hijos que tienen en común.

Y, tras analizar cómo eran tramitados estos procesos, advertimos que primero se investigaba el patrimonio del denunciado para ver si su falta era que no quería o no podía pagar, y luego recién se tomaba una decisión al respecto.

Todo eso tenía una demora importante, porque reconstruir un patrimonio significa consultar a un montón de órganos públicos, y demoraba, en promedio, desde la denuncia hasta la toma de decisiones, no menos de 85 días corridos, y en el medio la mujer seguía sin tener soluciones.

Ante esta circunstancia, el Fiscal General dictó un criterio general de actuación que es como una directiva para tramitar los procesos bajo otras normas y formas. Así, la reducción de los plazos se redujo en un 80%. Esto es solo una reingeniería de los procesos fruto de la investigación. Pero luego, entra la inteligencia artificial a mejorar aun más estos procesos.

 

-¿Cómo interactúan con el sistema de IA? ¿En qué circunstancias lo utilizan?

-Prometea automatiza documentos. Nosotros entrenamos al algoritmo para que, frente a determinada acción, le corresponda un documento.

Por ejemplo, reconstruir un patrimonio significaba que, si los fiscales necesitaban 15 pedidos de información, tenían que hacerlo de a uno y, en promedio, cada uno tardaba 30 minutos de mínima con el sistema informático actual del Ministerio Público. Con Prometea, eso demora dos minutos porque los hace todos al mismo tiempo. Esto es solo un ejemplo sencillo, Prometea puede automatizar todo aquellos para lo cual se la entrene.

La automatización que intenta estandarizar documentos con datos previamente cargados es la mejor solución que encontramos para estos casos, pero no quiere decir que para otro tipo de violencia o delito podamos entrenarla con otro tipo de solución, como la de tipo “predictiva”.

En conclusión y resumen: en los casos del procedimiento en cuanto a incumplimiento de los deberes de asistencia familiar, determinamos que para conseguir buenos resultados era necesario hacer, por una lado, esta reingeniería del proceso, y por el otro, automatizar documentos.

 

-¿En qué aspectos Prometea precisa de intervención humana?

-Prometea hace una serie de preguntas y con las respuestas que nosotros le damos fabrica el documento final. Es decir, no da respuestas sola, sin ningún tipo de intervención humana.

Esa es una de las formas de la inteligencia artificial: “predictivo”, y si bien Prometea lo puede hacer, por ahora descartamos poder aplicar esta modalidad en casos de violencia de género.

De hecho, Prometea está trabajando con predicción pero para casos que no son penales, por ejemplo en lo contencioso administrativo en temas de vivienda, con respecto a lo que es vivienda digna, que ya está estandarizada la solución respecto de nuestro tribunal local.

Prometea analiza palabras a través de keywords, y da la solución en 15 segundos. Se pone un número de expediente, lee y se zambulle en las distintas páginas donde usualmente están cargados los datos de estos expedientes, hace algunas preguntas y trae la solución en 15 segundos. La efectividad es casi del 98%, pero todo después se corrige y supervisa con intervención humana.

En sí, todo esto conlleva un trabajo de investigación, que lo que hacemos nosotros es no solo relevar datos, sino también analizarlos, los confrontamos con las normas y en función de eso vemos qué tipo de inteligencia artificial se ajusta mejor a ese proceso.

 

-¿Qué desafíos se presentan actualmente en torno al proyecto?

-Lo que más ansío es lograr la interfaz con los sistemas operativos de la Fiscalía. Para que se entienda: Prometea necesita nutrirse se datos para poder tener un resultado satisfactorio.

Prometea no guarda datos, no tiene “back up” sino que se nutre de datos que están en otros sistemas. Si puediera ingresar a nuestro sistema, hay datos que los tomaría de ahí y podría reducir la cantidad de preguntas que realiza para completar los documentos. Hay gente ahora que está trabajando para eso: para lograr esta interfaz.

Y estamos ahora intentando federalizar este sistema, cuya tarea está a cargo de Gabriela (Busellini), para ayudar y aportar a la Justicia, para que vean que esto no es futurístico. Es necesario que todos se den el lugar a repensar las formas en que son llevados los procesos cuando hay una mujer víctima de violencia, por eso digo que es un cambio de paradigma.

¿Qué más se puede pedir desde el sector público que el trabajo llegue a resultados de mayor calidad y brinde soluciones eficaces a la mujer que es víctima de violencia, acelerando los tiempos de la Justicia?

 

-¿Qué opinás sobre la idea de que el avance tecnológico se cobra puestos de trabajo humano?

-Esto tiene diferentes aristas: siempre que se propone un cambio hay una resistencia. Esto es una condición innata del ser humano, pero el avance tecnológico es algo que ya no se puede parar. Hay que ir adaptándose, siempre siendo respetuosos de los derechos del ser humano. No se propone que nadie reemplace a nadie, sino que es adicionar tecnología en beneficio al trabajo humano.

No va a reemplazar al ser humano, primero porque nosotros usamos la técnica de aprendizaje de máquina que es que los humanos somos quienes estamos atrás de todo esto y porque, en todo lo que hacemos, sea desde lo predictivo o automatizado, siempre va a estar el control humano posterior. De hecho, los documentos que automatiza Prometea en género son documentos de Word que son editables. Es una herramienta y no una amenaza. Al aplicar Prometea, la persona en vez de dedicarse a tareas que son rutinarias y estandarizadas, lo hace en un tiempo mucho más corto y ese tiempo de ganancia se utiliza en la investigación.

 

-Gabriela, ¿en qué condiciones se encuentra el proceso de federalización del proyecto?

-Gabriela: Nosotras, tanto Nieves como yo, somos socias de AMJA, Asociación de Mujeres Jueces de Argentina, que nuclea secretarias judiciales además de juezas, y de la mano de Susana Media, presidenta de la Asociación, planeamos llevar el Laboratorio de Género a las provincias.

Ya hemos empezado a hacer un primer camino en ese sentido, ya que María del Carmen Battaini, presidenta de la Comisión Directiva de la Junta Federal de Cortes Superiores Tribunales de Justicia (JUFEJUS), está sumamente interesada en este proyecto y en federalizarlo, con lo cual, de la mano de ella y de Susana Medina, probablemente hagamos una expansión y de a poco ir viajando.

Vamos a ir avanzando en un plan estratégico para llevarlo a cabo, ya que estamos convencidas de que podemos colaborar en alcanzar un mejor país llevando estos avances en cuestión de género al Interior.

Además, tenemos un plan a nivel internacional. Tenemos algunas jornadas donde vamos a participar, invitaciones de algunas embajadas, también de la mano de AMJA, que tiene a sus miembros en diferentes partes del mundo.

La idea ahora es hacer un primer viaje a Portugal, hemos sido invitadas por el embajador argentino de allá, Oscar Moscariello, a exponer los avances del Laboratorio en “ Jornadas de Violencia de Género” junto a la Universidad ISCTE-IUL de Portugal.

Finalmente, quisiera agregar que Prometea es miembro de los laboratorios de inteligencia artificial del mundo, que es una asociación que nuclea laboratorios del mundo y fundamentalmente de la Unión Europea (CLAIRE). Nos han honrado dándonos esa apertura, porque estamos en perspectiva de mostrar que esto es inédito e innovador. Puedo dar fe de que Nieves lidera un gran equipo y los resultados están a la vista.

 

Léase aquí:

-Informe de primera evaluación. 

-Informe de segunda evaluación. 

Qué se dice del tema...