Del 27 al 29 de octubre del 2023, como parte de la Red de Alfabetización Mediática e Informacional (AMI) en México y en colaboración con la Universidad Iberoamericana, Campus Ciudad de México, participamos en el #HackathonAMI2023.

Cartel bienvenida al hackathon AMI 2023

¿Qué es la Red AMI?

La Red AMI, Red por la Alfabetización Mediática e Informacional, busca cultivar un pensamiento crítico respecto a los medios de comunicación e información e involucrar la participación ética y responsable de la ciudadanía en el ámbito digital.

Como parte de la red, desde SocialTIC colaboramos con instituciones gubernamentales como el Instituto Nacional Electoral (INE) y el Instituto Mexicano de la Radio (IMER), universidades destacadas como la Universidad Autónoma de Nuevo León (UANL) y la Universidad Veracruzana (UV), y organizaciones de la sociedad civil, como la UNESCO y la DW Akademie.

¿Por qué enfocarnos en los discursos de odio?

Los discursos de odio están relacionados con la discriminación y  actos de violencia. A menudo, estas expresiones o mensajes se construyen con base en la identidad y características de una persona o grupo, como la raza, religión, etnia, orientación sexual, identidad de género, discapacidad, condición de migrante, entre otras; dando lugar a contenido dañino o malicioso que incita al odio y a la discriminación.

Desde infoactivismo hemos profundizado en cómo identificarlos; ya que estas expresiones de odio, no siempre se presentan de forma explícita; a menudo tienen forma de ofensas, características negativas, prejuicios estigmatizantes, deshumanizantes.

Lee aquí: ¿Cómo identificar discursos de odio en redes sociales y qué herramientas utilizar para combatirlo?

Aunque los discursos de odio no son nuevos, su presencia ha proliferado en las redes sociales y el auge de los microformatos (relatos audiovisuales cortos). Estos dos elementos han extendido su alcance y han complejizado su manejo, facilitando una difusión rápida, muchas veces anónima, y en cierta medida, atemporal y persistente, ya que el contenido puede ser almacenado en cualquier dispositivo y retransmitido indefinidamente.

El problema se exacerba por aspectos humanos y técnicos, como los sesgos y las dinámicas de interacción en las redes sociales, basadas en algoritmos que privilegian contenidos emocionales, en este caso negativos. 

Más allá de las fronteras digitales, estos discursos, lejos de ser inofensivos, son palpables y dañinos. Tienen repercusiones emocionales graves y pueden materializarse en violencia física: perpetuando así la violencia estructural hacia personas históricamente vulneradas y contribuyendo a una cultura de desinformación y polarización que mina los cimientos del debate público constructivo y los derechos humanos de todas las personas.

¿Qué pasó en la Hackathon AMI 2023?

El hackathon se construyó en 2 fases: 

Primera Fase: Paneles Introductorios: Aprendizajes y experiencias sobre los Discursos de Odio 

Panelistas hackathon AMI 2023

Antes de trabajar en las soluciones, consideramos importante profundizar en la problemática para construir soluciones pertinentes. Un mes previo al Hackathon se desarrollaron 4 paneles en los que se invitaron especialistas para abordar diversos aspectos del discurso de odio en las redes sociales. 

1. “¿Odio en las redes sociales? Aproximaciones al discurso de odio en las plataformas digitales”, estableció un marco común, explorando marcos jurídicos y el rol de compañías como Meta. 

2. “Una internet diversa: Identificar y combatir el odio en redes sociales”, se centró en las experiencias de organizaciones civiles que han recibido discursos de odio por su labor, así como experiencias de personas que acompañan o representan. 

3. “¿La polarización gana las elecciones? El discurso de odio y la desinformación en línea durante tiempos electorales“, analizó cómo la intolerancia afecta los procesos electorales y fomenta la polarización política.

4. “¿Contrarrestar el odio en los medios de comunicación? El rol del periodismo de calidad para disminuir el discurso de odio en las redes”, examinó la responsabilidad de los medios en la perpetuación y combate del odio.

Necesidades y recomendaciones en torno al discurso de odio en las redes sociales.

En todos se enfatizó la complejidad del discurso de odio en el ámbito digital y la importancia de abordarlo desde múltiples frentes. También se plantearon necesidades y recomendaciones para participantes del Hackathon:

  • Tener presente el contexto a la hora de abordarlo.
  • Desarrollar soluciones que integren a múltiples sectores,
  • Abordar de manera cuidadosa los discursos de odio para evitar la censura y respetar la libertad de expresión y diversidad. 
  • La necesidad de contar con herramientas para el monitoreo, documentación y reporte de discursos de odio. 
  • Diseñar estrategias o herramientas que aumenten la conciencia y sensibilización de las personas sobre el tema.
  • Dar atención a la influencia de las redes sociales en la polarización política, especialmente en períodos electorales.
  • Promover un periodismo veraz y crítico que desafíe la desinformación y los discursos sesgados.
  • Fomentar soluciones centradas en procesos y problemáticas humanas, donde la tecnología actúe como catalizador para reducir el discurso de odio.

Segunda Fase: Desarrollo de Soluciones Tecnológicas – Jornada de Colaboración, Talleres y Mentorías.

Inauguración Hackathon AMI 2023

Finalmente, tras obtener una comprensión sólida de los desafíos involucrados, durante un maratón de 48 horas continuas, estudiantes de varias universidades en México, prototiparon soluciones digitales para combatir el discurso de odio en las redes sociales.

Posterior a la inauguración, tuvimos espacio de integración y formación de equipos multidisciplinarios. Las disciplinas eran varias, con personas dedicadas a la programación, análisis de datos, diseño, comunicación, psicología, ciencias sociales, entre otras. 

El segundo día, los equipos se enfocaron a concretar sus ideas y desarrollar sus prototipos, para el final del día trabajar sus presentaciones finales, la cual consistió en una breve presentación de los prototipos desarrollados en un pitch de 5 minutos.

Tras un fin de semana de esfuerzo conjunto y colaboración, el cierre del evento  tuvo lugar con la presentación de cada uno de los equipos ante un panel de jueces, quienes evaluaron su pertinencia, robustez tecnológica, creatividad y multidisciplina

Cabe destacar, que a lo largo de esta jornada los equipos contaron con el apoyo de especialistas en diversos campos: desde el análisis de discursos de odio y su impacto en poblaciones vulneradas, hasta periodismo, comunicación, procesos electorales, democracia, y desarrollo tecnológico y ciencia de datos.

Durante el evento, se ofrecieron talleres y pláticas formativas clave para enriquecer la experiencia y el desarrollo de soluciones de los equipos participantes:

  1. Una plática sobre Inteligencia Artificial impartida por Daniela Rojas del Eon Institute.
  2. Una breve introducción a la Alfabetización Mediática e Informacional y Discursos de Odio, a cargo de Edgar Zamora y Lena Gamper de la DW Akademie. 
  3. Un taller práctico de GitHub por Vicente Guzmán de Accenture.

Soluciones y Premiación del Hackathon

El resultado fueron 10 iniciativas. Entre ellas: sitios web, bots, aplicaciones, algoritmos, extensiones de navegador, plataformas de denuncia, etc. 

A pesar de que no todas enfocaron su solución hacia los discursos de odio, abordaron aspectos relacionados como la polarización y la desinformación para mitigarlos. 

Los equipos que obtuvieron los tres primeros lugares fueron:

  1. Descifradores: Creó un algoritmo para analizar seis emociones: ira, felicidad, sorpresa, asco, miedo y tristeza. Utiliza bases de datos de la plataforma X (Twitter) y su función es mapear tendencias en las conversaciones digitales mediante la interpretación del uso de emojis relacionados a las emociones.
    Equipo Descifradores, ganadores del primer lugar del Hackathon AMI 2023
  2. Redes Unidas: Desarrolló un programa que identifica contenidos audiovisuales con discursos de odio dirigidos hacia la comunidad LGBT en TikTok y YouTube. Al detectar contenidos cargados de odio, el software redirige a una página para sensibilizar y concientizar al respecto.
    Equipo Redes Unidas, segundo lugar del Hackathon AMI 2023
  3. Fact Typing: Diseñó un chatbot en WhatsApp para combatir la desinformación. El chatbot permite solicitar las noticias más recientes y evaluar la fiabilidad de las noticias recibidas o que se planean compartir.
    Fact Typing, equipo ganador del tercer lugar del hackathon AMI 2023

Estas fueron otras valiosas propuestas para abordar los discursos de odio:

  1. Tool Reflection: Creó una herramienta para compañías de redes sociales.  La herramienta alerta a la reflexión de las personas usuarias al compartir contenido y ofrece la opción de modificar el mensaje. También recopila datos y elabora informes para que las redes sociales entiendan el discurso de odio y generen estrategias que disminuyan su impacto.
  2. Únete al Pacto: Planteó la creación de un observatorio para monitorear y analizar los discursos de odio emitidos por figuras políticas. Este proyecto apela a la proactividad de la ciudadanía para reportar los contenidos inapropiados y posteriormente hacer un análisis cuantitativo automatizado. Los casos reportados finalmente son evaluados por un consejo multisectorial que reporta los hallazgos y generan recomendaciones.
  3. InfoTec: Es un programa diseñado para orientar a las personas que ejercerán su voto por primera vez. Inicialmente, se requiere que completen un formulario de diagnóstico que examina cómo su personalidad podría influir en su voto. Tras finalizarlo, se les brinda información sobre el lugar y los pasos a seguir, así como, información educativa sobre las obligaciones de las figuras políticas por las que votarán.
  4. ElectorIA: Es un portal en línea diseñado para recopilar y evaluar noticias sobre candidaturas y partidos políticos en la Ciudad de México durante el periodo electoral. Utiliza herramientas de web scraping y APIs de verificación de noticias para asegurarse de que la información que ofrece a las personas votantes, sea confiable y veraz.
  5. P-Te: Es una extensión para identificar mensajes de odio en comentarios de YouTube. Antes de publicar un comentario, detecta si contienen odio, para alertar y señalar los términos problemáticos.
  6. Necesitar a Alguien: Busca apoyar a personas afectadas por discursos de odio, mediante una extensión que analiza sus perfiles de redes sociales. Al habilitarlo, brinda recomendaciones personalizadas para optimizar su seguridad y privacidad en sus cuentas. Además, sugiere prácticas para mejorar hábitos digitales y facilita información sobre instancias y recursos de apoyo psicológico.
  7. CeroHate: Es un sitio web que ofrece recursos para comprender mejor la desinformación y el odio en redes sociales, y herramientas para identificar y combatirlos. Además, recoge y analiza los testimonios de personas afectadas y vincula con organizaciones especializadas de apoyo.

Si te interesa conocer con mayor detalle alguna de las iniciativas, puedes ver su presentación en vivo en este enlace. También, si te gustaría tener contacto de manera directa, puedes mandarnos un correo electrónico indicándonos el equipo o la iniciativa que te interesa. Escríbenos a contacto@socialtic.org

Agradecimientos 

Antes de cerrar este recuento del #HackathonAmi2023, reconocemos y  agradecemos a quienes hicieron posible este evento. Especialmente a la Universidad Iberoamericana, Campus Ciudad de México, por las facilidades y colaboración. 

También agradecemos al equipo de panelistas que compartieron sus reflexiones y experiencias. Así como a las, los y les mentores y ponentes que nos acompañaron durante los 3 días asesorando y compartiendo su conocimiento.  

Muchas gracias a todas las personas participantes que nos inspiraron con sus iniciativas, esfuerzo y trabajo conjunto.

Si buscas involucrarte en el uso de datos y tecnología para el cambio social, te recomendamos seguir nuestras redes y eventos donde podrán conocer otras organizaciones e iniciativas dedicadas a la tecnología cívica, datos y periodismo de investigación con una perspectiva social.  

Si tienes interés en organizar eventos tipo, hackathones, datatones, ideatones, etc. Te recomendamos consultar Radiografía de un Hackathon para llevarlos a cabo.

Clausura del Hackathon AMI 2023