Introducción

La era digital ha transformado profundamente las interacciones humanas y la difusión de la información, generando nuevas vías para la influencia y el control. La manipulación digital, entendida como el proceso mediante el cual entidades buscan motivar e influir en individuos para que adopten decisiones o acciones específicas de manera socialmente inaceptable, ha adquirido una complejidad creciente (Zarsky, 2019). Las innovaciones tecnológicas, particularmente en inteligencia artificial (IA) y el análisis de grandes volúmenes de datos, han amplificado las capacidades y el alcance de estas estrategias. La naturaleza omnipresente de las tecnologías digitales en la vida cotidiana ha posibilitado nuevas formas de flujos de datos que permiten un monitoreo constante de los consumidores de productos, servicios y contenidos (Zarsky, 2019). Esta capacidad de observación detallada crea un terreno fértil para la aplicación de técnicas sofisticadas de manipulación. El presente documento examina las innovaciones recientes en manipulación digital y el efecto que ejercen sobre diversos fenómenos socio-digitales, analizando la evolución de estas prácticas, las tecnologías que las sustentan y sus ramificaciones para la esfera pública, la democracia y la confianza ciudadana.

Panorama de la manipulación digital: evolución y tecnologías emergentes

De la manipulación mediática tradicional a la digital

La manipulación de la información no es un fenómeno exclusivo de la era digital. Históricamente, los medios de comunicación han sido vehículos para la propaganda y la influencia ideológica. Sin embargo, la digitalización ha reconfigurado fundamentalmente este panorama (Widholm & Ekman, 2024). La convergencia de la computación, los medios y las telecomunicaciones, impulsada por los avances en tecnologías de la información y comunicación, ha transformado cada aspecto de la sociedad, desde los creadores de contenido hasta los usuarios (Earnshaw, 2001). Esta evolución ha desdibujado las fronteras entre la información verificada y los contenidos engañosos, haciendo que la desinformación se propague con una rapidez sin precedentes (Kumar et al., 2021). A diferencia de los medios tradicionales, el entorno digital facilita la creación y distribución masiva de narrativas falsas a bajo costo, aprovechando la arquitectura de las plataformas para alcanzar audiencias específicas y generar interacciones virales (Diaz Ruiz, 2023).

Innovaciones tecnológicas clave: inteligencia artificial, big data y algoritmos

Las capacidades actuales de manipulación digital están intrínsecamente ligadas a los avances en inteligencia artificial (IA), big data y algoritmos. La IA ha revolucionado el procesamiento y la generación de contenido, permitiendo la creación de medios falsos, tanto visuales como textuales, que son difíciles de distinguir de los auténticos (Shao et al., 2024)(Shao et al., 2023). Simultáneamente, la proliferación de redes 4G y 5G ha transformado el entorno del big data, redefiniendo las metodologías de gestión y análisis de datos . La capacidad de gestionar y analizar estos vastos y variados conjuntos de datos ha superado la capacidad de cualquier individuo u organización . Los algoritmos de las plataformas digitales, alimentados por estos datos, son capaces de modelar perfiles de usuario extremadamente detallados, lo que permite la entrega personalizada de contenido y, a su vez, la orientación de mensajes manipuladores con alta precisión. Estos mecanismos no solo difunden la desinformación, sino que también pueden influir en las emociones y pensamientos de los usuarios, afectando sus comportamientos económicos, sociales y políticos (Kukharenko, 2024).

El papel de las plataformas digitales y redes sociales

Las plataformas digitales y las redes sociales son entornos cruciales para la manipulación digital. Su diseño fomenta la interacción y la viralización, creando un terreno propicio para la rápida difusión de contenido engañoso (Diaz Ruiz, 2023)(Akhtar et al., 2024). La arquitectura de monetización de estas plataformas, basada en la atención y el compromiso del usuario, incentiva la creación de contenido sensacionalista que puede volverse viral, incluyendo narrativas controvertidas y engañosas (Diaz Ruiz, 2023). La gobernanza de estas plataformas, que ha pasado de las comunidades de usuarios a los algoritmos de redes sociales, junto con su énfasis en generar ingresos a partir de los datos de los usuarios, ha mermado la confianza en las comunidades en línea y ha facilitado las campañas de desinformación (Walker et al., 2019). Además, la naturaleza efímera de las campañas de desinformación en redes sociales presenta desafíos únicos para la investigación académica, especialmente dada la restricción en el acceso a datos a través de interfaces de programación de aplicaciones (APIs) (Walker et al., 2019).

Técnicas y estrategias actuales de manipulación digital

Desinformación, fake news y DeepFakes

La desinformación y las fake news constituyen una preocupación creciente a nivel global (Demestichas et al., 2020). Estas se caracterizan por ser noticias engañosas, a menudo construidas con una sensación de convicción, que buscan persuadir a las personas de aceptar un incidente específico (Kumar et al., 2021). Su propagación masiva a través de medios en línea ha generado un nuevo campo de estudio en la detección y regulación de la información (Kumar et al., 2021). Dentro de este espectro, los DeepFakes representan una de las innovaciones más perturbadoras. Estas falsificaciones de medios, tanto visuales como textuales, están ampliamente extendidas en la red (Shao et al., 2024). A diferencia de los métodos de detección de falsificaciones de una sola modalidad, los DeepFakes multimodales requieren un razonamiento más profundo para analizar y fundamentar los rastros sutiles de manipulación en diferentes modalidades (Shao et al., 2024)(Shao et al., 2023). La proliferación de estos contenidos engañosos subraya la necesidad de mecanismos avanzados de verificación de hechos y alfabetización digital (n.d.).

Microtargeting, manipulación algorítmica y personalización de contenidos

El microtargeting y la manipulación algorítmica son estrategias que explotan la personalización de contenidos para influir en los usuarios. Mediante el análisis de grandes volúmenes de datos personales y de comportamiento, las plataformas pueden construir perfiles detallados de los individuos. Estos perfiles permiten a los algoritmos seleccionar y entregar mensajes altamente segmentados y personalizados, diseñados para resonar con las predisposiciones psicológicas y políticas de cada usuario (Zarsky, 2019). La personalización algorítmica puede llevar a la creación de «burbujas de filtro» y «cámaras de eco», donde los individuos son expuestos predominantemente a información que confirma sus creencias existentes, lo que puede agravar la polarización política (Otieno, 2024). La Unión Europea ha abordado esta problemática mediante medidas regulatorias como el Código de Prácticas sobre Desinformación y la Ley de Servicios Digitales, que buscan la rendición de cuentas de las plataformas y la transparencia algorítmica (D’Andrea et al., 2025). La comprensión de cómo los algoritmos influyen en la difusión de información es fundamental para contrarrestar la manipulación (Akhtar et al., 2024).

Ciberseguridad y privacidad como dimensiones de la manipulación

La ciberseguridad y la privacidad son elementos fundamentales en el contexto de la manipulación digital. La protección de los datos personales es vital para prevenir la construcción de perfiles detallados que alimentan las estrategias de microtargeting(Zarsky, 2019). Los proveedores de servicios digitales tienen obligaciones significativas en el ámbito de la ciberseguridad, incluyendo la minimización del riesgo de incidentes que puedan afectar negativamente los sistemas de información (Karpiuk, 2023). Un marco legal robusto en ciberseguridad es indispensable para proteger los activos digitales y los derechos de privacidad de los individuos (Himanshu, 2024). Sin embargo, la implementación de medidas efectivas de ciberseguridad debe equilibrarse con el respeto a los derechos de privacidad, un desafío complejo en la era digital (Allahrakha, 2023). La manipulación puede aprovechar vulnerabilidades en la ciberseguridad para acceder a datos sensibles o para llevar a cabo campañas maliciosas, mientras que la falta de privacidad en el flujo de datos facilita la orquestación de estas campañas (Zarsky, 2019).

Impacto socio-digital: implicaciones y desafíos contemporáneos

Transformación de la esfera pública y procesos democráticos

La manipulación digital altera la esfera pública y los procesos democráticos al introducir distorsiones en el flujo de información y en la formación de la opinión ciudadana (Widholm & Ekman, 2024). La difusión de información errónea y la manipulación persistente en las redes sociales, a menudo con fines políticos o ideológicos, afectan la apertura de estos espacios (Akhtar et al., 2024). Herramientas de aprendizaje automático poseen una capacidad creciente para influir en las emociones y pensamientos, lo que puede convertirse en una fuente de control sobre el comportamiento social y político (Kukharenko, 2024). Esto socava la capacidad de los ciudadanos para tomar decisiones informadas, esencial para el funcionamiento de las democracias (Kukharenko, 2024). La polarización política, exacerbada por los algoritmos que promueven cámaras de eco y burbujas de filtro, representa un desafío significativo para la cohesión social y el diálogo constructivo (Otieno, 2024). La resiliencia democrática en este entorno requiere una comprensión profunda de las interconexiones entre la psicología del usuario, los bots y las tácticas de desinformación (Akhtar et al., 2024).

Consecuencias éticas y sociales en la sociedad digital

Las implicaciones éticas y sociales de la manipulación digital son extensas y complejas. La capacidad de influir sutilmente en las decisiones de los individuos sin su pleno consentimiento plantea interrogantes sobre la autonomía y la libertad personal (Zarsky, 2019). La desinformación puede tener costos individuales y sociales significativos, así como riesgos para la seguridad nacional y pérdidas económicas sustanciales (Fraga-Lamas & Fernandez-Carames, 2020). En un contexto más amplio, la digitalización y el monitoreo constante de los individuos generan preocupaciones que se enmarcan en paradigmas de privacidad y protección de datos (Zarsky, 2019). Sin embargo, la preocupación por la manipulación va más allá de la privacidad, aludiendo a la capacidad de las empresas para motivar e influir en decisiones de una manera socialmente inaceptable (Zarsky, 2019). Se requieren marcos éticos y normativos que aborden estas nuevas dinámicas, garantizando que el desarrollo tecnológico no comprometa los valores fundamentales de las sociedades. La investigación interdisciplinaria es esencial para combatir eficazmente las manipulaciones en redes sociales y para salvaguardar la integridad de las plataformas (Akhtar et al., 2024).

Riesgos para la privacidad, seguridad y confianza ciudadana

La manipulación digital representa serias amenazas para la privacidad individual, la seguridad de la información y, en última instancia, la confianza ciudadana en las instituciones y en el ecosistema digital. La recopilación masiva de datos personales, aunque a menudo presentada como una mejora de la experiencia del usuario, facilita las prácticas manipuladoras al permitir una segmentación y personalización de mensajes altamente invasivas . Los incidentes de ciberseguridad, como las filtraciones de datos, pueden exponer información sensible utilizada para la manipulación o la ingeniería social (Himanshu, 2024). La omnipresencia de fake news y DeepFakes erosiona la confianza en los medios de comunicación y en la veracidad de la información en línea (Fraga-Lamas & Fernandez-Carames, 2020). Cuando los ciudadanos perciben que están siendo manipulados o que la información que consumen es poco fiable, disminuye su participación cívica y su confianza en el proceso democrático (Kukharenko, 2024). La seguridad jurídica y técnica en el ciberespacio es un componente esencial para mitigar estos riesgos y restaurar la confianza (Himanshu, 2024).

Conclusiones y perspectivas futuras

La manipulación digital, potenciada por avances en inteligencia artificial, big data y algoritmos, ha evolucionado de prácticas mediáticas tradicionales a estrategias sofisticadas que inciden en la esfera pública y los procesos democráticos. La capacidad de generar desinformación, fake news y DeepFakes con un alto grado de realismo (Shao et al., 2024)(Shao et al., 2023), combinada con el microtargeting algorítmico , presenta desafíos sustanciales para la integridad de la información y la autonomía individual. Las plataformas digitales, con sus modelos de negocio basados en la atención, amplifican estas dinámicas, exacerbando la polarización y la desconfianza ciudadana (Diaz Ruiz, 2023)(Otieno, 2024).

Para contrarrestar estos fenómenos, se precisan esfuerzos coordinados que abarquen múltiples frentes. En el ámbito tecnológico, la investigación en detección de falsificaciones multimodales y el desarrollo de sistemas de verificación de hechos basados en IA son direcciones prometedoras (Shao et al., 2024)(n.d.). Desde una perspectiva regulatoria, se requiere una mayor transparencia algorítmica y la rendición de cuentas por parte de las plataformas digitales (D’Andrea et al., 2025). La educación en alfabetización mediática y el fomento del pensamiento crítico son esenciales para empoderar a los ciudadanos y reducir su susceptibilidad a la desinformación (Arechar et al., 2022). Además, fortalecer los marcos de ciberseguridad y protección de la privacidad es indispensable para salvaguardar los datos personales que son la base de muchas estrategias de manipulación (Allahrakha, 2023)(Karpiuk, 2023). El desarrollo de enfoques interdisciplinarios, que integren conocimientos de las ciencias sociales, la tecnología y el derecho, es vital para una comprensión integral y una respuesta efectiva a los desafíos que presenta la manipulación digital (Akhtar et al., 2024).

References

Zarsky, T. Z. (2019). Privacy and Manipulation in the Digital Age. In Theoretical Inquiries in Law (Vol. 20, Issue 1, pp. 157–188). Walter de Gruyter GmbH. https://doi.org/10.1515/til-2019-0006

Widholm, A., & Ekman, M. (2024). Democracy and digital disintegration: Platforms, actors, citizens. In Nordicom Review (Vol. 45, Issue s1, pp. 1–14). Walter de Gruyter GmbH. https://doi.org/10.2478/nor-2024-0005

Earnshaw, R. (2001). Digital media. In IEEE Computer Graphics and Applications (Vol. 21, Issue 1, pp. 14–17). Institute of Electrical and Electronics Engineers (IEEE). https://doi.org/10.1109/mcg.2001.895125

Kumar, P. J. S., Devi, Polagani. R., Sai, N. R., Kumar, S. S., & Benarji, Tharini. (2021). Battling Fake News: A Survey on Mitigation Techniques and Identification. In 2021 5th International Conference on Trends in Electronics and Informatics (ICOEI) (pp. 829–835). IEEE. https://doi.org/10.1109/icoei51242.2021.9452829

Diaz Ruiz, C. (2023). Disinformation on digital media platforms: A market-shaping approach. In New Media & Society (Vol. 27, Issue 4, pp. 2188–2211). SAGE Publications. https://doi.org/10.1177/14614448231207644

Shao, R., Wu, T., Wu, J., Nie, L., & Liu, Z. (2024). Detecting and Grounding Multi-Modal Media Manipulation and Beyond. In IEEE Transactions on Pattern Analysis and Machine Intelligence (Vol. 46, Issue 8, pp. 5556–5574). Institute of Electrical and Electronics Engineers (IEEE). https://doi.org/10.1109/tpami.2024.3367749

Shao, R., Wu, T., & Liu, Z. (2023). Detecting and Grounding Multi-Modal Media Manipulation. In 2023 IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR). IEEE. https://doi.org/10.1109/cvpr52729.2023.00667

Kukharenko, M. (2024). The impact of digitalization on modern democratic processes and public administration. In Analytical and Comparative Jurisprudence (Issue 4, pp. 390–394). Uzhhorod National University. https://doi.org/10.24144/2788-6018.2024.04.63

Akhtar, M. M., Masood, R., Ikram, M., & Kanhere, S. S. (2024). SoK: False Information, Bots and Malicious Campaigns: Demystifying Elements of Social Media Manipulations. In Proceedings of the 19th ACM Asia Conference on Computer and Communications Security (pp. 1784–1800). ACM. https://doi.org/10.1145/3634737.3644998

Walker, S., Mercea, D., & Bastos, M. (2019). The disinformation landscape and the lockdown of social platforms. In Information, Communication & Society (Vol. 22, Issue 11, pp. 1531–1543). Informa UK Limited. https://doi.org/10.1080/1369118x.2019.1648536

Demestichas, K., Remoundou, K., & Adamopoulou, E. (2020). Food for Thought: Fighting Fake News and Online Disinformation. In IT Professional (Vol. 22, Issue 2, pp. 28–34). Institute of Electrical and Electronics Engineers (IEEE). https://doi.org/10.1109/mitp.2020.2978043

(N.d.).

Otieno, P. (2024). The Impact of Social Media on Political Polarization. In Journal of Communication (Vol. 4, Issue 1, pp. 56–68). CARI Journals Limited. https://doi.org/10.47941/jcomm.1686

D’Andrea, A., Fusacchia, G., & D’Ulizia, A. (2025). Policy Review: Countering Disinformation in the Digital Age – Policies and Initiatives to Safeguard Democracy in Europe. In Information Polity (Vol. 30, Issue 1, pp. 82–91). SAGE Publications. https://doi.org/10.1177/15701255251318900

Karpiuk, M. (2023). The Legal Status of Digital Service Providers in the Sphere of Cybersecurity. In Studia Iuridica Lublinensia (Vol. 32, Issue 2, pp. 189–201). Maria Curie-Sklodowska University. https://doi.org/10.17951/sil.2023.32.2.189-201

Himanshu. (2024). Cybersecurity Law: Challenges and Legal Frameworks for Protecting Digital Assets and Privacy Rights. In Indian Journal of Law (Vol. 2, Issue 2, pp. 18–22). Shodh Sagar. https://doi.org/10.36676/ijl.v2.i2.05

Allahrakha, N. (2023). Balancing Cyber-security  and Privacy: Legal and Ethical  Considerations in the Digital Age. In Legal Issues in the Digital Age (Vol. 4, Issue 2, pp. 78–121). National Research University, Higher School of Economics (HSE). https://doi.org/10.17323/10.17323/2713-2749.2023.2.78.121

Fraga-Lamas, P., & Fernandez-Carames, T. M. (2020). Fake News, Disinformation, and Deepfakes: Leveraging Distributed Ledger Technologies and Blockchain to Combat Digital Deception and Counterfeit Reality. In IT Professional (Vol. 22, Issue 2, pp. 53–59). Institute of Electrical and Electronics Engineers (IEEE). https://doi.org/10.1109/mitp.2020.2977589

Arechar, A. A., Allen, J. N. L., Berinsky, A. J., Cole, R., Epstein, Z., Garimella, K., Gully, A., Lu, J. G., Ross, R. M., Stagnaro, M., Zhang, J., Pennycook, G., & Rand, D. G. (2022). Understanding and Combating Misinformation Across 16 Countries on Six Continents. Center for Open Science. https://doi.org/10.31234/osf.io/a9frz