PrincipalesOpiniónPolíticaTecnología
El GEMELO DIGITAL: cuando los DATOS de TODOS se convierten en PODER de UNOS POCOS
Por Eric Peralta
No se trata de una exageración ni de una hipótesis infundada. La decisión del Poder Ejecutivo de avanzar en la creación del denominado “Gemelo Digital Social”, mediante un contrato que vincula al Estado con la empresa Palantir -propiedad del empresario Peter Thiel-, representa un punto de inflexión en la historia de la soberanía de los datos en la Argentina. En esencia, este acuerdo habilitaría el acceso y procesamiento de información administrada por la ANSES, es decir, registros que abarcan una parte sustancial de la población activa y pasiva del país.
Lo que se proyecta construir es mucho más que una base de datos organizada: se trata de una infraestructura tecnológica basada en inteligencia artificial con capacidad para intervenir en la relación entre el Estado y los ciudadanos. Dependiendo de los parámetros definidos para su funcionamiento, estas herramientas podrían influir en la asignación, evaluación o gestión de beneficios, asignaciones y prestaciones sociales.
El riesgo es evidente. Si se incorporaran criterios vinculados a conductas, opiniones o formas de participación política, el acceso a derechos fundamentales podría quedar condicionado por variables ajenas a los principios de igualdad y debido proceso. En ese escenario, quienes protesten, militen en espacios opositores o expresen posiciones críticas en redes sociales podrían verse afectados sin mecanismos transparentes de revisión previa.
Lo más preocupante es que tales decisiones podrían adquirir una apariencia de neutralidad técnica o legalidad formal hasta que la justicia lograra intervenir, un proceso que, por su propia dinámica, puede extenderse durante años.
MÁS ALLÁ DEL CONTROL: LA INTERFERENCIA EN LA VIDA DEMOCRÁTICA
Las consecuencias potenciales van mucho más lejos. La concentración de grandes volúmenes de información personal abre la puerta a nuevas formas de influencia política que no requieren métodos tradicionales de fraude electoral ni vulneran de manera evidente las normas vigentes. La frontera entre la persuasión democrática legítima y la manipulación tecnológica se vuelve cada vez más difusa.
La irrupción de la inteligencia artificial generativa, sumada al funcionamiento opaco de los algoritmos que ordenan y distribuyen la información, ha transformado las campañas electorales y la discusión pública. En este nuevo escenario, el ciudadano corre el riesgo de dejar de ser un sujeto informado para convertirse en un objetivo de segmentación permanente.
El impacto resulta particularmente significativo entre los jóvenes, cuya percepción de la realidad y de la democracia se construye, en gran medida, a través de plataformas digitales que privilegian la interacción y el impacto emocional por encima de la calidad o veracidad de los contenidos que circulan.
Esta preocupación no surge únicamente del debate político actual. La académica Shoshana Zuboff, profesora emérita de Harvard Business School, sostiene en su obra La era del capitalismo de la vigilancia (2019) que las grandes plataformas digitales han desarrollado un modelo económico basado en la extracción sistemática de datos personales para predecir y modificar conductas. Según su investigación, la acumulación de información sobre millones de personas genera una nueva forma de poder capaz de influir en decisiones individuales y colectivas sin necesidad de coerción visible.
EL MOTOR DE LA DISCORDIA: ALGORITMOS DISEÑADOS PARA LA FURIA.
El verdadero poder de esta dinámica no reside únicamente en la capacidad de producir contenidos falsos o engañosos, sino en la velocidad y escala con que estos pueden difundirse.
Plataformas como TikTok, Instagram Reels o YouTube Shorts operan bajo una lógica comercial orientada a maximizar el tiempo de permanencia de los usuarios. Diversas investigaciones han demostrado que las emociones intensas -como el enojo, el miedo o la sorpresa- generan mayores niveles de interacción que los análisis reflexivos o la información verificada.
Una afirmación polémica o una narrativa cargada de indignación, amplificada mediante herramientas de inteligencia artificial, puede propagarse en cuestión de segundos. El algoritmo detecta ese incremento de actividad, clasifica el contenido como relevante y lo distribuye masivamente antes de que cualquier mecanismo de verificación logre intervenir.
El resultado es la consolidación de las denominadas “cámaras de eco”: espacios informativos donde las personas reciben de manera reiterada contenidos afines a sus intereses, creencias o emociones previas. Así, el sistema reduce la exposición a perspectivas alternativas y favorece procesos de polarización que suelen desarrollarse de forma imperceptible para los propios usuarios.
La matemática y científica de datos Cathy O’Neil advirtió tempranamente este fenómeno en Weapons of Math Destruction (2016), donde demuestra cómo los sistemas algorítmicos pueden reproducir sesgos, discriminar poblaciones enteras y afectar derechos fundamentales mientras conservan una apariencia de objetividad técnica. Su principal advertencia es que cuanto más opaco es un algoritmo, más difícil resulta identificar quién responde por sus consecuencias.
ANTECEDENTES Y FUENTES: LO QUE YA SABEMOS SOBRE PALANTIR Y EL PODER DE LOS DATOS
No estamos ante una empresa desconocida ni ante un actor tecnológico de trayectoria neutral. Existen registros públicos, investigaciones periodísticas y estudios académicos que permiten dimensionar el alcance de sus herramientas y las controversias que han acompañado su expansión global.
– Informes del Parlamento Europeo (2021 y 2023): distintos documentos alertaron sobre las capacidades de plataformas como Foundry y Gotham para integrar grandes volúmenes de información procedente de múltiples fuentes y generar perfiles detallados de individuos y grupos, planteando interrogantes sobre transparencia, control democrático y protección de datos.
– Centro de Investigación Periodística (CIPER, Chile): investigaciones publicadas en 2022 analizaron la expansión de Palantir en América Latina y advirtieron sobre las dificultades que enfrentan los Estados para supervisar plenamente el procesamiento de datos cuando estas tecnologías son contratadas a proveedores privados.
– Asociación por los Derechos Civiles (ADC, Argentina): informes y documentos recientes sobre gobernanza algorítmica y protección de datos personales subrayan que cualquier tratamiento de bases de datos sensibles debe cumplir estrictamente con los principios de transparencia, finalidad específica, proporcionalidad y auditoría independiente.
– Documentación corporativa de Palantir: la propia empresa sostiene que sus plataformas permiten tomar decisiones basadas en datos en tiempo real. Sin embargo, persisten debates acerca de los mecanismos de supervisión externa, la explicabilidad de los sistemas y los límites necesarios para prevenir usos discriminatorios o políticamente orientados.
Las preocupaciones asociadas al uso masivo de datos personales no son teóricas. El escándalo de Cambridge Analytica, revelado en 2018, mostró cómo millones de perfiles obtenidos a través de redes sociales fueron utilizados para desarrollar estrategias de microsegmentación política destinadas a influir en procesos electorales. Más allá de las controversias sobre su impacto concreto, el caso demostró que la información digital puede convertirse en una herramienta de intervención política de enorme alcance cuando se combina con técnicas avanzadas de análisis de datos y perfiles psicológicos.
La preocupación también ha sido expresada por organismos internacionales. La UNESCO, en su Recomendación sobre la Ética de la Inteligencia Artificial (2021), sostiene que los sistemas de IA deben estar sujetos a supervisión humana efectiva, transparencia y mecanismos de protección de los derechos fundamentales. Del mismo modo, la Organización para la Cooperación y el Desarrollo Económicos (OCDE) estableció principios internacionales que exigen responsabilidad, explicabilidad y control democrático sobre las decisiones automatizadas.
Por su parte, Henry Kissinger, Eric Schmidt y Daniel Huttenlocher, en The Age of AI and Our Human Future (2021), advierten que la inteligencia artificial no solo transforma la economía o la tecnología, sino también la manera en que las sociedades comprenden la realidad y toman decisiones colectivas. Los autores sostienen que los Estados democráticos enfrentan el desafío histórico de garantizar que estas herramientas permanezcan subordinadas al interés público y no a estructuras opacas de poder.
Estas investigaciones y antecedentes no prueban por sí mismos que una determinada tecnología vaya a utilizarse con fines indebidos. Sin embargo, muestran que la concentración de datos personales, combinada con sistemas avanzados de inteligencia artificial y escasos mecanismos de supervisión independiente, constituye uno de los principales desafíos políticos y democráticos del siglo XXI.
UNA NUEVA REALIDAD PARA LA DEMOCRACIA.
La combinación entre capacidades avanzadas de procesamiento de datos y acceso a información sensible de amplios sectores de la población plantea interrogantes profundos sobre el futuro de la democracia, la privacidad y la soberanía digital.
Quien controla los datos y los algoritmos que los procesan dispone de herramientas capaces de influir sobre conductas, orientar preferencias y condicionar decisiones de manera difícilmente perceptible para la ciudadanía. El problema ya no radica únicamente en quién gobierna, sino también en quién diseña, administra y supervisa las infraestructuras tecnológicas que organizan la vida social.
Las advertencias formuladas por organismos internacionales, investigadores y especialistas en gobernanza digital convergen en un mismo punto: cuando la capacidad de recopilar información, procesarla mediante inteligencia artificial y actuar sobre la conducta humana se concentra sin controles efectivos, la frontera entre administración, vigilancia e influencia política se vuelve cada vez más difícil de distinguir.
Esta es una nueva forma de poder. Un poder que no siempre se expresa mediante leyes visibles o decisiones explícitas, sino a través de códigos, modelos predictivos y sistemas opacos cuyo funcionamiento permanece fuera del escrutinio público.
La pregunta que queda planteada es tan simple como decisiva: ¿estamos dispuestos a delegar aspectos centrales de nuestra identidad, nuestra historia y nuestros derechos en sistemas cuya lógica de funcionamiento, objetivos reales y mecanismos de control permanecen, en gran medida, fuera del alcance del ciudadano común?
*Director de la Academia del Pensamiento Estratégico (APE).
