DEPROFAKE
Defensa Proactiva frente a la Ciberamenaza Desinformativa
Researchers
- de Fuentes, José María (PI)
- Goyanes, Manuel (PI)
- González-Manzano, Lorena
- Herrera, Susana
- Ibanez-Lissen, Luis
- Sánchez, Ángel
- Tapiador, Juan
Resumen
En la última década, la capacidad de producción y distribución de contenido informativo ha dejado de ser monopolio de los medios de comunicación de masas, lo que ha modificado radicalmente la confianza y credibilidad del contenido consumido. Las redes sociales se han posicionado como elementos centrales en la distribución de información, independientemente de la calidad, veracidad u falsedad del contenido distribuido o producido por individuos o grupos. Es en estas ecologías donde se ha detectado la proliferación de agentes que difunden campañas de desinformación mediante la fabricación de distintos tipos de contenido falso y, con ello, manipular, intoxicar, o engañar a la opinión pública, interfiriendo en la normal actividad social. En este contexto, resulta esencial entender los antecedentes y consecuencias de la exposición a contenido falso, así como proponer mecanismos para su predicción y contrarrestar las estrategias que evaden su detección. Este proyecto, cubre estas cuatro lagunas en la literatura. En primer lugar, mediante una encuesta panel, el proyecto examina los contenidos falsos más recurrentes y los antecedentes demográficos, económicos, políticos y de alfabetización mediática de la difusión y exposición individual de contenido fabricado. Asimismo, se investigan las consecuencias de la difusión y exposición de contenido falso en varios niveles del conocimiento y participación política (voto, participación legal/ilegal, discusión, etc.). En segundo lugar, a través de técnicas matemáticas y computacionales, el proyecto propone nuevos mecanismos de predicción de la emergencia de contenido falso, así como de la evasión de la detección, lo que permitirá complementar y emplear de forma más eficaz los sistemas de detección actuales. En su conjunto, el proyecto aborda el fenómeno de los contenidos falsos desde una perspectiva social-informática, lo que posibilita una aproximación mutuamente enriquecida por los factores concurrentes en cada disciplina.
Diseminación de resultados
Los resultados del proyecto se han publicado en revistas y conferencias científicas de relevancia, como medio de difusión principal. No obstante, con el fin de llegar a la sociedad en general se han realizado diversas acciones de diseminación:
- Charla en C1b3rwall, la plataforma online de aprendizaje de ciberseguridad de la Polícia Nacional. Enlace
- Mesa redonda en la Semana de la Ciencia, titulada: “Desinformación y democracia”, con la participación de Rafael Rubio, Alfonso Sánchez-Macián, Manuel Goyanes, Luis Ibañez-Lissen y José María de Fuentes. Enlace a la grabación
Protección de resultados
El proyecto ha dado lugar a tres herramientas que han sido registradas para proteger la propiedad intelectual:
- Herramienta de predicción de volúmenes de noticias falsas basado en Inteligencia Artificial. Autores: Luis Ibáñez Lissen, Lorena González Manzano, José María de Fuentes García-Romero de Tejada
- Herramienta de análisis de impacto de ataques de contaminación para inteligencias artificiales generalistas. Autores: Luis Ibáñez Lissen, Lorena González Manzano, José María de Fuentes García-Romero de Tejada
- Herramienta de generación de reseñas falsas basado en Inteligencia Artificial. Autores: Luis Ibáñez Lissen, Lorena González Manzano, José María de Fuentes García-Romero de Tejada
Si se desea más información sobre ellas, por favor consulte al Servicio de Apoyo al Emprendimiento y la Innovación de la Universidad Carlos III de Madrid (patentes@uc3m.es).
Publications
Ibanez-Lissen, Luis; de Fuentes, José María; González-Manzano, Lorena; Anciaux, Nicolas. Continuous Authentication Leveraging Matrix Profile. 19th International Conference on Availability, Reliability and Security (ARES 2024). Springer.
Ibanez-Lissen, Luis; González-Manzano, Lorena; de Fuentes, José María; Goyanes, Manuel. Poster: On the feasability of predicting fake news appearance. Jornadas Nacionales de Investigación en Ciberseguridad (JNIC 2024). JNIC.
Ibanez-Lissen, Luis; de Fuentes, José María; González-Manzano, Lorena; Goyanes, Manuel. Use of transfer learning for affordable in-context fake review generation. IEEE Transactions of Big Data.
de Fuentes, José María; Jordá, Beatriz; Goyanes, Manuel. Las noticias falsas como arma legítima: cómo el uso partidista de las noticias falsas está envenenando WhatsApp y desafiando a las democracias liberales. Actas del IX Congreso Internacional de la Asociación Española de Investigación de la Comunicación.
Ibanez-Lissen, Luis; González-Manzano, Lorena; de Fuentes, José María; Goyanes, Manuel. On the feasibility of predicting volumes of fake news – the Spanish case. Transactions on Computational Social Systems. IEEE.
Hernández-Álvarez, Luis; Barbierato, L; Caputo, Stefano; de Fuentes, José María; González-Manzano, Lorena. KeyEncoder: A secure and usable EEG-based cryptographic key generation mechanism. Pattern Recognition Letters. Springer.
González-Manzano, Lorena; de Fuentes, José María; Lombardi, Flavio; Ramos, Cristina. A technical characterization of APTs by leveraging public resources. International Journal of Information Security. Springer.
Gil de Zúñiga, Homero; Goyanes, Manuel; Skurka, Chris. Understanding Fake News Corrective Action: A Mixed-Method Approach. International Journal of Communication.
Giménez-Aguilar, Mar; de Fuentes, José María; González-Manzano, Lorena. Malicious uses of blockchains by malware: from the analysis to Smart-Zephyrus. International Journal of Information Security. Springer.
Jordá, Beatriz; Goyanes, Manuel. The rear window effect: How users respond to political discussions and persuasive discourses in social media. International Journal of Communication.
