¡A la final del reto de Alibaba! Crean IA para detectar la violencia

— Hola, ¡qué gusto tenerte por aquí! ¿Te ha pasado algo que quisieras platicar? — pregunta Violetta —

— Sí, mi pareja se burla de todo lo que digo y cuando estamos con otras personas no me deja aportar.

Así, como si estuvieras mensajeando con una amiga, es como podrás interactuar con Violetta,una plataforma que a través de un chatbot reconoce casos de violencia de todo tipo y enseguida conecta con ayuda profesional.

Este proyecto de inteligencia artificial (IA) fue creado por cinco estudiantes mexicanos, quienes quedaron en el Top 10 del reto global Alibaba GET Global Challenge 2020, liderado por la compañía china de comercio electrónico Alibaba.

“Sobretodo, Violetta busca la prevención y detección de violencia doméstica. Le habla a la generación que busca respuestas en línea”, dice a CONECTA Sasha Glatt, estudiante del Tec y una de las creadoras de la plataforma.

Además de Sasha, en el desarrollo de Violetta participaron sus compañeros Sara Kalach, Carla Pilgram y Benjamin Gorshtein, quienes estudian en el Tec campus Santa Fe; además de Floretta Mayerson que es alumna del IDC Herzliya.

VIOLETTA: UNA CONFIDENTE DIGITAL

“Puedes platicar con Violetta como si fuera una amiga, una confidente y no solo una herramienta tecnológica”, dice Sasha, estudiante de la Licenciatura en Mercadotecnia.

“Es para mujeres y hombres. Puedes compartirle una historia propia o de alguien cercano, y en caso de que estés sufriendo algún tipo de violencia te redirige a una línea de ayuda, ya sea en el ámbito psicológico o legal”, platica Carla, quien estudia la carrera de Finanzas.

Violetta es una plataforma que:

• Funciona a través de un chatbot con inteligencia artificial.
• Su programación detecta palabras y frases que usarían víctimas potenciales de violencia.
• Su algoritmo fue diseñado con procesamiento de lenguaje natural y Machine Learning.
• Orienta y comparte información sobre tipos de violencia y sus diferentes modalidades.
• En caso de ser necesario conecta a la persona con una línea de atención profesional.

“La idea es que sea una herramienta con mucha empatía, con el lenguaje que todas usamos y las herramientas con las que nos sentiríamos cómodas”, explica Glatt.

Pero, ¿y qué situaciones puedo compartir con Violetta? Según Sara, la herramienta te orientará para que puedas identificar diferentes tipos de violencia y sus modalidades.

“Le puedes platicar un poco de todo, la misma herramienta te va guiando para que reconozcas si estás viviendo una situación de violencia”, dice Sara.
 

DETECTAR Y REDUCIR LA VIOLENCIA

Aunque la violencia doméstica es un problema que afecta desde hace tiempo a la sociedad, Sasha señala que los casos se incrementaron debido al confinamiento generado por la pandemia de COVID-19.

“Las personas que tenían un espacio seguro en su oficina, en la universidad o fuera de casa ya no podían salir, todo nace por la necesidad de ayudar a la gente que está en casa y que está viviendo violencia”, describe.

“La violencia no es un tema nuevo de la pandemia, nada más que el foco se puso sobre el tema y es el momento de aplicar y de innovar para resolverlo”, agrega Floretta.

Ante una aparente normalización de la violencia doméstica, el equipo ha analizado que incluso habrá personas que no puedan saber si están siendo víctimas y es a través del chatbot que pueden detectar esos casos.

Así, las personas se pueden orientar sobre los diferentes tipos y modalidades del ciclo de la violencia, incluso pueden conocer sobre herramientas como el violentómetro, material gráfico para reconocer manifestaciones de violencia en la pareja.

Sara destaca que la herramienta también sirve para recolectar información para generar estadísticas y reportes que pueden servir a universidades y organizaciones para tomar acciones de prevención.

Al buscar que sea una plataforma segura y confidencial, Violetta no recolecta información personal, como nombre o datos sensibles del usuario.

“Lo único que estamos almacenando es si eres hombre y mujer, los inputs que tú le metes al chatbot por medio de la conversación y de dónde nos estás escribiendo para hacer un mapeo, pero no son datos sensibles”, explica Sasha.

Al ser una herramienta tecnológica con base en la inteligencia artificial, Violetta puede ser utilizada en varias regiones del país e incluso del mundo, y únicamente hay que añadirle los datos necesarios para cada localidad.

“El plan es buscar ONGs en lugares en los que vayamos a abrir operaciones y así el contenido se tropicaliza al lugar donde está entrando como la ayuda se redirige a donde está físicamente el lugar de apoyo”, explica Sasha.

EN TOP 10 DE COMPETENCIA GLOBAL

Hace cuatro meses, las estudiantes transformaron un proyecto que iba enfocado en temas de seguridad sexual a lo que actualmente es Violetta; hoy, llegaron a una final internacional de la competencia organizada por la Alibaba Business School.

La edición 2020 del Alibaba Global E-Commerce Talent Global Challenge, que se realizó el 29 de agosto, se enfoca en propuestas digitales de jóvenes emprendedores que buscan soluciones a problemas generados por la pandemia del COVID-19.

“Ha sido toda una aventura, empezó todo en el concurso de Ponte la Verde aquí en México, en esa ocasión no ganamos pero fuimos semifinalistas; a partir de ahí generamos toda una red de mentores que nos apoyaron para impulsar el proyecto”, dice Sara.

Varios de esos mentores fueron quienes les dieron el consejo de inscribirse a la convocatoria del consorcio chino Alibaba.

“En un principio, a nivel global eran más de 2 mil equipos; ahorita, después de varias rondas de pitches estamos en el top 10 y somos el único equipo de Latinoamérica participando en la final”, informa Sara, quien es estudiante de Mercadotecnia.

¿QUÉ SIGUE PARA VIOLETTA? 

Actualmente Violetta está en fase de validación para perfeccionar el funcionamiento del algoritmo al 100%.

Sasha platica que trabajan con la Fundación Origen para validar la plataforma.

Los psicólogos y la línea de ayuda de la fundación están colaborando para evaluar y mejorar el funcionamiento de Violetta, que hasta la fecha y en fase de prueba cuenta con alrededor de 300 usuarios.

“Todo este tema de las frases más recurridas, de palabras clave, todo eso, lo sacamos de la información que está todo el tiempo validada por profesionales.

“Al ser una herramienta tecnológica hablando de temas tan sensibles tenemos que ser muy cuidadosos con todo el proceso antes de salir al mercado, por eso lo estamos validando con psicólogos expertos”, comenta Floretta.

La siguiente etapa de validación será con personas que han vivido situaciones de violencia y hoy no se encuentran en riesgo, para conocer de qué forma les hubiera ayudado tener una plataforma como Violetta.

Carla explica que eventualmente al comprobar que la plataforma funcione adecuadamente podrían ofrecer su servicio a universidades y empresas que quieran proveer de la herramienta a su comunidad.

“Para que los estudiantes o empleados la utilicen en caso de necesitar redirigirlos hacia una línea de ayuda y que además tengan una perspectiva del bienestar de sus comunidades para proponer soluciones orientadas en datos reales y del momento”, dice Carla.

“No estaríamos compitiendo con psicólogos, lo que queremos es la prevención y la masificación, hacer que el alcance con la herramienta tecnológica sea mucho mayor, y conectar a quien necesite ayuda con un profesional humano”, puntualiza Sasha.

SEGURO TAMBIÉN QUERRÁS LEER: