LA IA AVANZA A TODA VELOCIDAD: ¿ESTÁ PREPARADA LA DEMOCRACIA?

✍️ #LaOpinión | Hernán González Sala

En esta ocasión les compartiré parte de las intervenciones que hubo en la mesa de dialogo: Innovación tecnológica y democracias modernas, organizada por un servidor, dentro del marco de la novena semana de la democracia organizada por el Instituto Electoral y de Participación Ciudadana de Tabasco a través de la Comisión de Organización Electoral y Educación Cívica, presidida por mi compañera la consejera electoral, la licenciada Ángela Guadalupe Araujo Segura.

Esta mesa tuvo como objeto el poder compartir experiencias del uso e implementación de tecnologías de la información y la comunicación dentro de los distintos procedimientos que se realizan dentro de los procesos electorales. Asimismo, se buscó tener distintas opiniones y perspectivas sobre la postura de cada ponente y el resultado fue un magnifico ejercicio donde se abordaron temas relevantes y experiencias de éxito en la innovación y actualización de sistemas a través del uso de la Inteligencia Artificial (de aquí en adelante IA), así como también se pusieron sobre la mesa los posibles riesgos que se pueden tener al darle un mal uso a la IA.

La primera en participar fue la Licda. Karla Isabel Olvera Moreno, Consejera Electoral del Instituto Electoral del Estado de Querétaro, quien a través de la virtualidad realizo su presentación que a continuación comparto de manera resumida.

La implementación de la inteligencia artificial (IA) en los procesos electorales representa una oportunidad para modernizar la organización electoral, agilizar el procesamiento de resultados y fortalecer los principios de certeza, transparencia y confiabilidad democrática.

Durante el Proceso Electoral 2023-2024, el Instituto Electoral del Estado de Querétaro (IEEQ) implementó una prueba piloto de inteligencia artificial en el Programa de Resultados Electorales Preliminares (PREP), con el objetivo de automatizar la captura de datos de las actas de escrutinio y cómputo, reducir los tiempos operativos y optimizar los recursos humanos, sin eliminar la verificación por parte del personal electoral.

La prueba piloto se desarrolló mediante la capacitación de un sistema de reconocimiento de caracteres y números escritos a mano, apoyado en tecnología de Microsoft Azure AI Document Intelligence. Para su implementación, se realizaron adecuaciones normativas y técnicas, así como una consulta al Instituto Nacional Electoral (INE), que aprobó la viabilidad del modelo de acta propuesto en octubre de 2023. Para este proceso electoral 2026-2027 se busca que se aborde el 100% de las actas con este mismo procedimiento con apoyo de la IA.

La segunda ponente Mtra. Cecilia Calderón Ortega, Directora de Seguridad y Control Informático del INE, quien realizo las siguientes aportaciones.

La democracia evoluciona junto con la sociedad y los avances tecnológicos, los cuales ofrecen nuevas oportunidades para ejercer derechos, fortalecer las instituciones y mejorar la relación con la ciudadanía. En este sentido, señaló que la innovación tecnológica debe ser responsable y estar orientada por los principios democráticos, a fin de ampliar el acceso a la información y los servicios, agilizar los procesos institucionales y fortalecer la transparencia, la rendición de cuentas y la confianza ciudadana.

Subrayó que el uso de la tecnología en las instituciones electorales debe contribuir al cumplimiento de principios como la certeza, legalidad, independencia, imparcialidad, objetividad y máxima publicidad, sin sustituirlos ni comprometer la protección de los datos personales. Para ello, resulta fundamental contar con mecanismos de gobernanza que permitan evaluar, dirigir y supervisar las decisiones tecnológicas, asegurando que respondan a los objetivos institucionales y a las necesidades de la sociedad.

Como ejemplo, expuso los avances del INE en la implementación de la inteligencia artificial, particularmente en un proyecto de clasificación y extracción de datos para trámites relacionados con la credencial para votar. Este sistema busca optimizar los tiempos de procesamiento y facilitar la revisión documental; sin embargo, mantiene la supervisión y validación humana como elementos indispensables para garantizar la precisión y confiabilidad de los resultados.

Asimismo, explicó que el INE ha establecido lineamientos para el uso ético y responsable de la inteligencia artificial, sustentados en criterios como la supervisión humana, la trazabilidad, la evaluación de riesgos, la calidad de los datos, la equidad, las pruebas de seguridad y la protección de la información personal. La participación de especialistas y de diversas áreas institucionales permite valorar los proyectos antes de su implementación, considerando no solo su viabilidad tecnológica, sino también sus implicaciones jurídicas, operativas y de seguridad.

Finalmente, resaltó la importancia de la capacitación del personal y del uso estratégico de las herramientas tecnológicas, procurando que su implementación responda a necesidades concretas y genere beneficios verificables. Concluyó que la innovación no consiste únicamente en digitalizar procesos, sino en utilizar la tecnología de manera consciente, ética y eficiente para fortalecer las capacidades institucionales.

En conclusión, la innovación tecnológica fortalece las democracias modernas cuando se encuentra guiada por los principios democráticos, respaldada por una gobernanza efectiva y acompañada de supervisión humana. De esta manera, las instituciones electorales pueden modernizar sus procesos, proteger los derechos de la ciudadanía y consolidar la confianza pública en la organización de las elecciones.

El tercer ponente fue el M.D. Manuel Cortés Muriedas, Consejero Electoral del Instituto Estatal Electoral y de Participación Ciudadana de Oaxaca, quien nos obsequió las siguientes aportaciones.

La incorporación de avances tecnológicos en los procesos electorales representa una oportunidad para fortalecer la transparencia, agilizar los procedimientos y mejorar la confianza ciudadana. El uso de herramientas digitales, transmisiones en vivo y plataformas de actualización de resultados permite facilitar el acceso a la información y dar mayor seguimiento a las actividades electorales.

Asimismo, la inteligencia artificial ofrece alternativas para optimizar tareas institucionales, procesar información y sistematizar datos relacionados con los sistemas normativos internos de las comunidades. Sin embargo, su implementación requiere supervisión humana para garantizar la precisión, confiabilidad y certeza de los resultados.

Otro aspecto relevante es el impacto de las redes sociales en la difusión de información electoral, debido a la rapidez con la que pueden propagarse noticias falsas, imágenes manipuladas y contenidos que afectan la reputación de las candidaturas y la percepción ciudadana sobre las instituciones. Por ello, resulta necesario fortalecer los mecanismos de verificación de información y promover un uso responsable de las plataformas digitales, respetando la libertad de expresión y los derechos humanos.

Finalmente, la modernización tecnológica debe considerar las condiciones geográficas, socioeconómicas, lingüísticas y culturales de cada entidad, con el propósito de reducir la brecha digital y garantizar la inclusión. En este sentido, la tecnología y la inteligencia artificial deben contribuir a mejorar la eficiencia, transparencia y certeza de los procesos electorales, sin sustituir la supervisión humana ni la responsabilidad institucional.

El cuarto ponente fue el Mtro. Luis Antonio Vidal Calzada, Representante del Sector Empresarial, quien nos compartió las siguientes aportaciones.

La inteligencia artificial y las redes sociales han ampliado el ámbito de los riesgos que deben atender las autoridades electorales. La equidad de las contiendas ya no depende exclusivamente de las condiciones de competencia en el territorio físico, sino también de la visibilidad digital de las candidaturas, la transparencia de los algoritmos y la autenticidad de la interacción en línea.

El principal reto consiste en desarrollar capacidades institucionales que permitan detectar y analizar oportunamente posibles campañas coordinadas, contenidos engañosos y prácticas de manipulación digital. Para ello, resulta necesario combinar regulación preventiva, cooperación con las plataformas, herramientas tecnológicas y equipos humanos especializados.

En síntesis, la modernización de la vigilancia electoral debe integrar el análisis del entorno digital como una dimensión complementaria de la fiscalización y supervisión tradicionales, garantizando al mismo tiempo la libertad de expresión, la protección de los derechos ciudadanos y la equidad en la competencia política. Como plantea el ponente, el objetivo no es que la tecnología tome las decisiones electorales, sino que proporcione información objetiva y oportuna para que las autoridades puedan actuar con mayor eficacia y que la ciudadanía ejerza su voto de manera libre e informada.

La quinta ponente fue Mtra. Sofía Martínez de Castro León, Exconsejera Electoral del OPLE Chiapas, quien nos compartió las siguientes reflexiones y experiencias.

La ponencia abordó la relación entre la innovación tecnológica, la confianza ciudadana y la democracia moderna, destacando que el principal desafío de las autoridades electorales no consiste únicamente en incorporar nuevas tecnologías, sino en garantizar que los procesos electorales sean transparentes, verificables, accesibles y confiables para la ciudadanía.

La expositora señaló que, aunque la tecnología ha avanzado considerablemente en los procesos electorales, la confianza ciudadana no ha aumentado al mismo ritmo. En este sentido, destacó que la percepción de la democracia se construye no solamente durante la jornada electoral, sino también antes y después de las elecciones, particularmente a través de las redes sociales, los medios digitales y las conversaciones cotidianas.

Asimismo, explicó que la desinformación representa uno de los principales riesgos para la democracia, especialmente ante el uso de inteligencia artificial para generar noticias falsas, clonar voces, producir videos manipulados y difundir mensajes engañosos que pueden influir en la opinión pública. También advirtió sobre el incremento de la violencia política contra las mujeres por razón de género mediante herramientas digitales.

Como parte de su exposición, presentó experiencias internacionales que permiten identificar buenas prácticas en materia electoral:

- Suecia: destacó la importancia de la transparencia institucional, el reconocimiento y corrección de errores informáticos, el voto anticipado y la identificación de la publicidad política y sus fuentes de financiamiento.

- Brasil: expuso la experiencia de la urna electrónica, las pruebas de seguridad, la participación ciudadana en la revisión de los sistemas y las medidas regulatorias para combatir la desinformación y el uso indebido de la inteligencia artificial.

- Colombia: mencionó los sistemas de preconteo electoral y diversos casos de contenidos falsos generados o difundidos durante las campañas.

- México: resaltó mecanismos como el Programa de Resultados Electorales Preliminares (PREP), las auditorías y pruebas de los sistemas, la participación ciudadana en las casillas y el desarrollo de herramientas digitales para orientar e informar al electorado.

La ponente también subrayó que el acceso desigual a Internet y la falta de alfabetización digital y mediática representan desafíos importantes, particularmente en entidades con menores niveles de conectividad. Por ello, consideró necesario fortalecer las capacidades ciudadanas para identificar información falsa y comprender el funcionamiento de las nuevas tecnologías.

Finalmente, concluyó que la confianza en las elecciones no depende exclusivamente de la tecnología utilizada, sino de la posibilidad de que la ciudadanía conozca, comprenda y verifique cada etapa del proceso electoral. En consecuencia, las autoridades electorales, los partidos políticos y las instituciones del Estado deben fortalecer la transparencia, la rendición de cuentas y el acceso a la información, procurando que la innovación tecnológica contribuya a consolidar la democracia y no genere nuevas formas de opacidad.

Después de haber analizado las distintas experiencias y reflexiones sobre los temas de la implementación de las tecnologías de la información y la comunicación en los distintos procedimientos que se desarrollan dentro de las autoridades electorales es evidente que existe una preocupación real de como nos encontramos realmente las autoridades en la materia para poder contrarrestar los efectos del mal uso que se le puede dar a la IA dentro y fuera de los procesos electorales, esta herramienta puede eficientar cualquier procedimiento dentro de las distintas etapas de un proceso electoral, pero también se debe limitar las funciones de la misma para evitar problemáticas de fuga de información o situaciones que conduzcan a colocar en un estado de vulnerabilidad los sistemas usados por las autoridades electorales.

También es necesario que las autoridades legislativas comiencen a construir la normativa necesaria para que sirva de contención en el mal uso de la IA y que también se establezcan las sanciones pertinentes a cada caso en concreto. Por parte de las autoridades electorales nos toca analizar, estudiar, reflexionar e implementar medidas que sean eficaces contra el mal uso de la IA que puedan incidir en los resultados de las elecciones, sin duda hay mucho que hacer y poco tiempo de reacción, la IA va en un Lamborghini y las autoridades vamos en una bicicleta, debemos acelerar y no dejar que la Ola nos alcance.