Cada que iniciamos un año, en SocialTIC compartimos nuestras visiones, inquietudes y anhelos acerca del trabajo cívico y tecnológico que promovemos.
Con la mirada en este 2023 reflexionamos sobre el rol de la tecnología cívica para democracias en crisis, y cómo nos adaptamos a los cambios (técnicos y de dirección) de las plataformas comerciales para nuestro activismo, cómo construimos alternativas más libres y diversas y cómo afrontamos el contexto de vigilancia en la región y el impacto de las tácticas anti derechos.
Aquí compartimos nuestras principales reflexiones y cuestionamientos relacionadas a los retos que como comunidades de sociedad civil, tecnología cívica y derechos digitales afrontaremos.
1.¿Qué tecnología cívica necesitan las democracias en crisis?
Como cada año, en algún lugar de Latinoamérica habrá elecciones. ¿Qué podemos esperar de estos procesos electorales? ¿Qué retos deberá enfrentar la sociedad civil que busca incidir de manera positiva en las elecciones?
La pandemia, las crisis económicas y el descontento social dejaron una huella difícil de ignorar en las democracias latinoamericanas, en especial en lo que se refiere a la confianza en los actores políticos y las instituciones democráticas. Con el reciente intento de golpe de estado en Brasil, se ha demostrado nuevamente el potencial destructivo de la desinformación y la polarización política. Ambas constituyen enormes obstáculos para la gestión del conflicto en el marco de una democracia, pues dañan sus fundamentos: movilizan miedos irracionales, siembran la desconfianza e incluso promueven la violencia.
¿Qué procesos electorales tiene en puerta la región latinoamericana?
Será un año bastante movido: en febrero ocurrirá el Plebiscito Constitucional en Ecuador, habrá elecciones generales en Guatemala, Argentina y Paraguay, se redactará y someterá a plebiscito un nuevo borrador de Constitución para Chile. Y, con algo de suerte y mucha sensatez política, posiblemente exista una elección extraordinaria en Perú que permita a fuerzas políticas gestionar y reconducir la crisis política y social hacia el marco institucional. Con más de 50 personas fallecidas de manera violenta en medio de las protestas, esperamos que la sociedad peruana defina de manera pacífica el rumbo que quiere para su gobierno.
🌎🗳️ Este año se celebran elecciones:
✅Subnacionales en Colombia🇨🇴, Ecuador🇪🇨 y México🇲🇽
✅Generales en Argentina🇦🇷, Guatemala🇬🇹 y Paraguay🇵🇾
✅Nuevo Proceso Constituyente en Chile🇨🇱🗓️ Mira acá el Calendario Electoral de 2023 en América Latina https://t.co/lN34wQjZaa pic.twitter.com/BeMqz4d33t
— Transparencia Electoral (@TransparenciaAL) January 2, 2023
¿Qué tecnología cívica necesitan las democracias en crisis?
Es urgente que el ecosistema de tecnología cívica preste atención a los contextos, las amenazas y las experiencias anteriores de aciertos y errores. Será fundamental impulsar proyectos sólidos de vigilancia electoral independiente y ciudadana tanto a lo largo de todo el proceso electoral (legalidad de las candidaturas, transparencia en el financiamiento y publicidad, monitoreo y documentación de violencia en el marco de la contienda, etc) como el día de la jornada electoral (cobertura segura para la denuncia de irregularidades y violencias, monitoreo de resultados, etc).
También será importante impulsar los proyectos de voto informado (información general sobre la elección, información sobre les candidates y sus trayectorias, sobre sus posturas y proyectos políticos, etc.). Y especialmente crucial será combatir la desinformación electoral, ya no sólo desde proyectos de fact checking (que, claro está, seguirán siendo importantísimos) sino con herramientas didácticas que permitan visibilizar y denunciar ante audiencias más amplias cualquier intento de actores maliciosos de hacerse pasar por proyectos de tecnología cívica, apropiar y mal usar sus herramientas. En estos esfuerzos cívico-tecnológicos esperamos evitar los errores comunes identificados en el pasado.
Anteriormente reflexionamos sobre esto en: Tecnología cívica: lo que ha funcionado, 5 consideraciones indispensables de toda tecnología cívica, Oportunidades para la tecnología cívica.
Si aspiramos a recuperar la confianza ciudadana, el estándar de transparencia (financiera y de intereses), pulcritud metodológica y usabilidad detrás de cada proyecto de tecnología cívica debe ser más alto.
2. Plataformas y redes sociales
Las noticias sobre las redes sociales comerciales en 2022 estuvieron en buena parte enfocadas en las adquisiciones y financiamientos de multimillonarios (En octubre de 2022, Elon Musk adquirió Twitter). Como muchas empresas, estas decisiones solo toman en cuenta modelos de negocios e intereses personales. Esta lógica de negocios omite una visión integral que en el caso de las redes sociales está ligada a derechos y libertades como la libertad de expresión, el acceso a la información, el derecho a la comunicación, la seguridad y privacidad.
Dada la relevancia de las redes sociales en nuestras vidas, este 2023 todo parece indicar que millonarios seguirán clavando el ojo a alguna red social o decidirán crear la propia como lo hizo Donald Trump. Ante este escenario, cobra importancia la reflexión colectiva para analizar y debatir las políticas de contenidos, normas de comunidad, acciones de seguridad y privacidad, uso de algoritmos, etc.
Entonces este año continuamos preguntándonos ¿a dónde nos movemos y cómo construimos espacios virtuales seguros, diversos, libres y respetuosos de los derechos humanos? ¿Son las redes descentralizadas una alternativa para la defensa de los derechos humanos en línea? ¿Cómo nos adaptamos a estos cambios? ¿Cómo fomentamos una cultura contra la desinformación y el uso crítico e informado de las redes sociales?
El conocimiento que surja de estas experiencias impactará la comunicación, el activismo y la cultura digital. Queda seguir al pendiente de los espacios alternativos, cambios en las redes sociales, en las normas de comunidad y políticas de contenidos, ajustar nuestras estrategias de comunicación para seguir interactuando con comunidades y públicos.
3. Posibilidades y desafíos de la Inteligencia Artificial
Durante 2022 vimos cómo la adopción de soluciones de inteligencia artificial se expandió masivamente para uso público. Soluciones como ChatGPT y DALL·E 2 salieron de la esfera de especialistas, permitiendo que otras personas sin experiencias técnicas pudieran aprovechar el procesamiento de grandes volúmenes de datos y aprendizaje basado en máquinas para interactuar a través de preguntas y respuestas y generar imágenes desde inputs de texto.
Estos ejemplos de uso masivo de soluciones tecnológicas abren múltiples posibilidades y desafíos en el ámbito cívico-social.
Los importantes avances en el procesamiento de lenguaje natural amplían las posibilidades para habilitar interfaces informativas para la ciudadanía tanto desde el gobierno como la sociedad civil.
Desde nuestros últimos recuentos de Lo Mejor del Infoactivismo hemos destacado diversos chatbots que buscan brindar información oportuna a personas con distintas necesidades cívico-sociales. A medida que existan librerías semánticas más refinadas y modelos de procesamiento de texto mejor entrenados, estas interfaces podrán ser más exactas y sensibles sirviendo como medio de atención masiva a la sociedad.
Imagen creada con beta.dreamstudio.ai
No obstante, como en cualquier interfaz de interacción informativa automatizada, es peligroso asumir que las respuestas que reciben las personas son siempre correctas o no están influenciadas por algún sesgo cultural, ideológico o político. Si bien han sido ambiciosos los esfuerzos de ChatGPT para refinar su aprendizaje basado en información verificada e inclusive tener supervisión humana para evitar propagar lenguaje violento en sus respuestas, al abordar temas sensibles o culturalmente específicos siempre existe el riesgo que soluciones basadas en inteligencia artificial genere salidas de información inexactas, sesgadas o tóxicas.
Muchos de estos sesgos han sido evidentes en las soluciones de generación de gráficos, imágenes y video que, basando su aprendizaje en modelos estereotípicos de imágenes occidentales heteropatriarcales suelen reproducir estereotipos de género, raza y estética en sus productos gráficos y audiovisuales. Y si estas soluciones no diversifican su base de referencias en su aprendizaje, muy probablemente al incrementar su uso también se profundizarán los estereotipos que rigen nuestra sociedad actual. De ahí la importancia de profundizar en la inclusión y diversidad en el desarrollo de modelos y mecanismos de aprendizaje basado en máquinas así como de la transparencia algorítmica e iniciativas que comprendan múltiples voces de la sociedad en torno a la regulación algorítmica.
En un plano más amplio, la expansión del uso de aplicaciones basadas en inteligencia artificial desafía elementos estructurales de nuestra sociedad. Múltiples debates buscan distinguir entre obras derivadas de máquinas y humanos así como los mecanismos que se deben establecer para valorar apropiadamente el aprendizaje y aportaciones humanas. Y estos debates abren la puerta a la necesidad de repensar cómo lidiar con el uso perverso de estas tecnologías cuando son utilizadas para generar daño en individuos o para desinformar.
También, queda aún la expectativa de ver si la naturaleza abierta y misión de iniciativas como OpenAI podrá ser sustentable permitiendo un nivel de acceso y uso equitativo a esta tecnología para quienes buscan promover soluciones cívicas basadas en inteligencia artificial abierta, segura y enfocada a hacer el bien. A medida que estas soluciones no sean accesibles, las limitaciones para aprovechar sus usos para fines cívico-sociales serán más altas, la falta de diversidad en su evolución perpetuarán las culturas dominantes y los grupos de poder tendrán mayor potencial para generar impactos en quienes menos poder tengan.
4. Tácticas anti derechos y sus estrategias de comunicación digital
Los grupos anti derechos saben que la comunicación, y en especial la comunicación digital, es esencial para ampliar su base de seguidores y su influencia en la sociedad. Han buscado manipular las plataformas digitales para articular su discurso y han construido un movimiento regresivo capaz de coordinar sus estrategias digitales con estrategias de incidencia política de manera transnacional.
A inicios de este año, vimos una vez más cómo la desinformación difundida por medios digitales atenta contra la democracia y pone en jaque la institucionalidad de un país. El intento de desconocer las elecciones y dar un golpe de Estado en Brasil es un llamado de advertencia sobre lo urgente que es impulsar acciones más decididas para comprender, analizar y prevenir las tácticas de manipulación informativa empleadas por grupos con visiones regresivas de los derechos humanos. No sólo se trata de desinformación, aunque ésta sea una de las caras más visibles. No sólo los grupos históricamente discriminados están en riesgo, aunque estos suelen ser las primeras víctimas de este tipo de movimientos. Y no sólo las organizaciones de sociedad civil enfocadas en el uso de las tecnologías y la libertad de expresión deberían participar en la conversación sobre el rol de las plataformas digitales en estos procesos políticos
Es urgente impulsar el trabajo colaborativo para analizar y neutralizar la influencia de los grupos regresivos en el espacio digital. Es urgente coincidir en un vocabulario preciso que permita entender y explicar a los sectores más amplios de la sociedad cómo funcionan los mecanismos de manipulación informativa en las plataformas digitales. Y es urgente no dejar que las fuerzas regresivas nos cuelen narrativas que hagan creer que el reconocer los derechos de un grupo de personas históricamente excluidas e invisibilizadas va a borrar o dañar los derechos de otro grupo de personas también históricamente excluidas y discriminadas.
5. La vigilancia sigue sin controles y en impunidad
En 2017, cuando se reveló la evidencia detrás del uso del malware Pegasus en México con #GobiernoEspía, advertimos local e internacionalmente que el descontrol de adquisición y uso ilegal de tecnologías para la vigilancia nos llevaría a la normalización del espionaje de la ciudadanía, y por consecuencia a la violación silenciosa y sistemática de los derechos humanos. A poco más de 5 años, esas advertencias y las recomendaciones de acción desde sociedad civil especializada en derechos digitales han sido cínicamente ignoradas por el Estado mexicano y tibiamente amplificadas por instituciones internacionales promotoras de la apertura.
A finales de 2022, la investigación #EjércitoEspía volvió a evidenciar en México el espionaje ilegal con el mismo malware Pegasus, esta vez con evidencias que señalan a las fuerzas armadas como institución presuntamente perpetradora de espionaje ilegal en contra de periodistas y sociedad civil ahora en un contexto nacional de creciente militarización.
La evidencia de espionaje ilegal en contra de periodistas y personas defensoras está documentada en #EjércitoEspía 🪖
Ante las descalificaciones, omisiones y opacidad, seguiremos exigiendo al gobierno federal y a la @SEDENAmx lo siguiente: pic.twitter.com/AIeobBpSDo
— SocialTIC (@socialtic) October 6, 2022
A nivel internacional, con evidencia del uso ilegal de Pegasus en decenas de países en contra de miles de civiles han provocado que la sospecha del abuso de estas tecnologías sea parte del actuar cotidiano de gobiernos abusivos llevando a organizaciones de tecnología y derechos humanos a fortalecer nuestras capacidades de apoyo permanente la atención y diagnóstico ataques digitales.
Ante ese escenario desesperanzador, será necesario dar seguimiento a los juicios impulsados por las principales empresas tecnológicas en contra de NSO Group en cortes estadounidenses y las promesas de regulación del Parlamento Europeo en torno a la investigación de los abusos cometidos en esa región, el establecimiento de regulación para el uso responsable de estas tecnologías y la internacionalmente exigida moratoria a la compra, venta, transferencia y uso de software de espionaje. A medida que en lo internacional y nacional no haya regulación con perspectiva de derechos humanos que impulse registros claros de adquisición de spyware, controles para su uso y salvaguardas para las personas intervenidas, continuaremos viviendo en continua vulnerabilidad y riesgo.