A partir de algoritmos detectan conductas potencialmente autodestructivas en la red


A partir de algoritmos detectan conductas potencialmente autodestructivas en la red

Este trabajo es realizado por el Lic. en Ciencias de la Computación Sergio Burdisso en su tesis doctoral, dirigida por el Dr. Marcelo Errecalde. A partir de los modelos creados por los profesionales pueden encontrarse ciertos patrones relacionados con conductas depresivas.

La importancia de estos modelos radica en que las redes sociales se han convertido en el principal medio de interacción entre las personas, por ello cualquier sistema que permita detectar riesgos en ese ámbito es importante, explicó Errecalde. «Los usuarios generan una gran cantidad de datos e información, hablan y muestran patrones en el lenguaje que nos permiten hacer análisis con datos masivos que permiten obtener conclusiones a gran escala y que antes con los métodos tradicionales no se podían hacer», afirmó.

Desde el punto de vista de la informática los profesionales trabajan creando un nuevo modelo de aprendizaje que parte de cómo lidiar con estos tipos de escenarios, detectando tres (3) características que necesitan cumplir los sistemas: poder clasificar y procesar secuencias de cosas como flujos (por ejemplo de textos), poder decidir antes qué conductas son potencialmente riesgosas, y marcar distintos niveles de intensidad de las distintas publicaciones.

«Nuestros sistemas no apuntan a reemplazar la parte clínica de evaluar si las personas tienen un problema o no, sino la de asistir a los profesionales, pudiendo monitorear grandes flujos de información que para una persona sería imposible hacerlo, e identificar esos casos que tienen amplias chances de ser problemáticos», sostuvo Errecalde.

En este sentido, los profesionales que trabajan en disciplinas vinculadas a la salud mental se ven favorecidos por determinados tipos de análisis que antes eran imposibles de hacer: como por ejemplo vincular ciertas patologías no solo con el lenguaje que usan las personas, sino con ciertos comportamientos o información que se genera a partir del uso o de la interacción de esas personas con las redes.

«Los modelos no son infalibles, pueden tener varios problemas que en la vida real pueden tener muchas explicaciones, por ello es fundamental que los modelos puedan ser transparentes y puedan dar explicaciones a los expertos, que son los que terminan tomando las decisiones», afirmó el licenciado Burdisso.

Es por ello que a partir de los modelos creados por los profesionales pueden encontrarse ciertos patrones relacionados con conductas depresivas, analizando no solo el lenguaje, sino también viendo los horarios en los que interactúan en las redes los usuarios, analizando cuáles son sus redes de contacto, la información sobre los emoticones que usan, datos que en los test clásicos vinculados con la psicología no son tomados en cuenta.

En este contexto de pandemia por el Covid- 19, los expertos sostienen que estos desarrollos requerirían un trabajo interdisciplinario con profesionales de psicología, ya que estos sistemas nunca deberían tomar decisiones, sino asistir a las decisiones de un experto humano. «Serían herramientas de monitoreo en tiempo real, que filtren posibles candidatos y puedan darle los datos a los profesionales para que terminen de analizar qué personas están realmente en riesgo y cuáles son falsos positivos«, finalizó el doctorando Sergio Burdisso.

Con respecto a esto, el doctor Errecalde afirma que actualmente estos desarrollos potencian su importancia, porque la gente intensifica su actividad alrededor de las redes por la situación de encierro y porque estas situaciones potencian una gran cantidad de problemas asociados al estrés, a situaciones de depresión y de angustia.

Foto del equipo completo en los desafíos CLEF: María José Garciarena Ucelay, Maria Paula Villegas, Marcelo Luis Errecalde, Dario Funez, Leticia Cagnina, Sergio Burdisso.

Antecedentes de trabajo de los profesionales

Estos desarrollos han tenido como antecedentes la participación de los profesionales en desafíos mundiales para la detección de riesgos. En el año 2017 el Congreso CLEF de predicción de riesgos en Internet empezó a realizar desafíos que consistían en la detección anticipada de riesgo en la red. Ese año a los participantes se les liberó un conjunto de datos de usuarios de redit, donde una parte pequeña (alrededor del 10%) había sido diagnosticada clínicamente con depresión.

Con la parte liberada de los datos, los equipos debían entrenar algún modelo de aprendizaje automático de inteligencia artificial. «Existen dos (2) medidas para medir el desempeño de los modelos, porque las tradicionales que se utilizan para medir de forma óptima los modelos no servían, porque a la tarea no solo había que resolverla bien, sino rápido, de forma anticipada, tomando una decisión lo antes posible«, explicó Burdisso.

A los modelos se les dan fragmentos de las publicaciones de los usuarios para que pueda tomar la decisión de si es o no una conducta de riesgo o si necesita leer más para tomar una decisión, es una medida de error, mientras más cercana a cero (0) sea es mejor. En las dos (2) medidas el equipo de estudiantes y profesionales de la UNSL salió primero.

En el año 2018 el grupo volvió a participar y el desafío implicó una tarea de precisión con otros tipos de usuarios, ya que además de la detección de conductas asociadas a depresión agregaron la anorexia. En ese año el equipo logró la primera posición en las dos (2) tareas y en la detección relacionada a la anorexia, obtuvieron la mejor precisión, con un 91%.

El año pasado fue la última vez que participaron, en ese desafío cambiaron las reglas, ya que no liberaron bloques de publicaciones, sino que lo hicieron más realista. «Debíamos conectarnos con un servidor que simulaba cómo el usuario publicaba en tiempo real y en lugar de esperar la próxima publicación, le pedía otra. A partir del cambio de condiciones participamos con dos (2) tipos de modelos, uno trabajaba con bloques y otro era independiente de ellos, que fue el modelo que trabajé en mi tesis de doctorado», explicó Burdisso.

En esa oportunidad el grupo ganó en ambas medidas, en las dos (2) tareas, tanto de conductas autodestructivas como de anorexia. «Lo que tienen de interesante estos desafíos es que estos conjuntos de datos son privados, por eso estuvo muy bueno que los organizadores los crearon porque incentivan a la investigación en ese aspecto (…) la idea es prevenir el riesgo anticipadamente de trastornos que pueden llevar a la muerte a las personas«, finalizó el Licenciado.

Foto 1: extraída de la web.
Foto 2: Sergio Burdisso.

X