RESPUESTA A LA CONSULTA PARA LA CARTA DE DERECHOS DIGITALES

David Pastor-Escuredo
6 min readNov 16, 2020

Problemas que se pretenden solucionar con la iniciativa

Actualmente existen importantes asimetrías entre la velocidad de desarrollo de la digitalización, la capacidad de reacción, la regulación y la estrategia. La rápida expansión y desarrollo del uso de los datos, la IA y de algunas tecnologías digitales, genera incertidumbre respecto a sus riesgos y ha traído aparejadas críticas y desconfianzas. Esto se debe en gran medida a que la institucionalidad y capacidad de reacción regulatoria actual no permite otorgar suficientes garantías individuales y colectivas sin mermar las ventajas aparejadas al uso de dichas tecnologías ni potenciar completamente los enormes beneficios sociales y colectivos que su uso es capaz de generar. En particular esto se debe a:

  • Desconocimiento de usos e impacto de las tecnologías digitales en la vida de las personas que llevan a una desconfianza inhibidora de usos positivos
  • Excesiva dependencia del sector privado y algunos (pocos) ​data holders para poder desarrollar usos sociales para bien público
  • Falta de sistemas de ​accountability y trazabilidad de dichos data holders y el impacto de iniciativas y casos de uso
  • El potencial riesgo de vigilancia individual y masiva y discriminación por parte de entidades públicas y/o privadas, generando sensación de incertidumbre y vulnerabilidad por parte de los usuarios.
  • Asimetrías de información y falta de transparencia sobre la forma en la cual se recogen, almacenan y utilizan los datos personales
  • Falta de diálogo entre quienes crean las tecnologías y quienes las regulan y toman decisiones
  • Incertidumbre ante potenciales impactos negativos y falta de mecanismos sociales y regulatorios para mitigarlos
  • Falta de capacidades en organismos públicos y otras entidades para desarrollar usos sociales y positivos de estas tecnologías
  • Falta de una visión reflexiva y ética a medio y largo plazo de cómo estas tecnologías van a cambiar la sociedad y cómo deben interactuar las personas y las máquinas
  • Falta de mecanismos de participación ciudadana e inteligencia colectiva para poder democratizar cómo las tecnologías digitales deben usarse
  • Desacople entre la investigación y la toma de decisiones que debe, cada vez más, basarse en criterios científicos y rigurosos

La necesidad y la oportunidad

Todos estos problemas mencionados están interconectados entre sí, por lo que existe una necesidad de tener una visión centrada en el ser humano, basada en principios éticos comunes y co-concebidos implementados a través de mecanismos adecuados de defensa y de actuación para poder:

  • Promover y defender derechos individuales ante la masificación de la interconexión digital y las plataformas digitales que tienen influencia en comportamientos a escala masiva
  • Vigilar y valorar aspectos de salud mental y desarrollo individual en todas las edades y estratos sociales
  • Ayudar a crear ecosistemas (público-privados-personas) responsables para el uso de datos con fines públicos
  • Arbitrar las relaciones de poder que se generan en torno a los datos
  • Promover y avanzar hacia los Objetivos de Desarrollo Sostenible como metas comunes globales que implican la mejora de la vida de las personas a nivel colectivo e individual
  • Igualmente desarrollar modelos económicos solidarios e inclusivos que aúnen competitividad con objetivos de bienestar colectivo y solidaridad
  • Fomentar innovación creativa y centrada en las personas que genera valor añadido y que ayude a configurar un futuro del trabajo aceptable y deseable
  • Atención a los más vulnerables y cómo la tecnología puede ayudarles o desfavorecerles
  • La oportunidad es clara, las tecnologías digitales pueden ser catalizadores de cambios hacia una sociedad mejor, más justa y con mayor bienestar, pero esto no se conseguirá por defecto. Los derechos digitales tienen que apoyar en la creación de mecanismos sociales que deben ser necesariamente complejos y multi-actor.

Los objetivos

Los objetivos no son tarea fácil. Una sobredimensión regulatoria podría implicar una regulación en la propia evolución científica y tecnológica, lo cual se debe evitar. Es importante que se consideren tanto el contenido de los derechos como de las futuras estructuras y mecanismos que se podrán inspirar y generar a partir de los mismos. Algunos objetivos clave deberían ser:

  • Incrementar capacidades y conocimientos (alfabetización digital) de toda la sociedad, evitando (activamente) brechas y desigualdades y asegurando que los profesionales tienen los conocimientos necesarios para poder discernir correctamente cómo la digitalización afecta a su trabajo
  • Promover la descentralización de los datos en general, su gestión y el control sobre los datos personales en particular
  • Facilitar la investigación multidisciplinar rigurosa e innovación con impacto social y enfocada en los Objetivos de Desarrollo Sostenible
  • Incrementar mecanismos de democratización y retribución del valor del uso de datos en la sociedad (generadora de los datos) tanto en términos sociales como económicos con una inspiración en principios de solidaridad
  • Arbitraje de las relaciones de poder que se generan en torno a los datos y la inteligencia artificial
  • Crear mecanismos (tecnológicos, sociales, políticos y regulatorios) que aseguren algunos principios éticos básicos necesarios para un uso responsable de los datos y la inteligencia artificial como son la privacidad o la libertad
  • Asegurar que hay tecnología encargada de medir el impacto y de evaluar los datos que se utilizan de forma escalable

Posibles soluciones alternativas regulatorias y no regulatorias

Las soluciones a las problemáticas complejas que nos trae la digitalización deben ser abordadas garantizando derechos humanos en su uso pero con miras hacia el bien colectivo. La inteligencia colectiva es una potente herramienta para minimizar sesgos, aprender a interpretar los datos y calibrar el impacto y las problemática no pueden ser abordadas únicamente desde la esfera de lo individual. Lo colectivo tiene que tener, cada vez más, un peso mayor debido a que el impacto de ciertas tecnologías es sistémico y nos afectan a todos más rápido y a ciertos colectivos con mayor intensidad.

Entre las soluciones no regulatorias tenemos:

  • Conformación de grupos de expertos/observatorios multi-actor de ciertas tecnologías. El diálogo entre la ciencia y quienes formulan políticas públicas y toman decisiones resulta fundamental para hacer frente a los desafíos. Dichos equipos deben idealmente ser multi-disciplinarios y haciendo, a su vez, uso de los datos y la inteligencia artificial
  • Creación de incentivos para integrar alianzas público privadas: Ello puede jugar un papel fundamental en equilibrar los incentivos, intereses y las relaciones de poder que se generan dado el gran valor de los datos y el conocimiento que se extrae de la inteligencia artificial
  • Creación de mecanismos de cooperación y gobernanza internacional internacional facilitar tanto el flujo transfronterizo de datos, la interoperabilidad de los mismos, coordinación respecto a los niveles de garantía y una comunicación expedita acorde a la nueva economía digital.
  • Creación de mecanismos de trazabilidad de uso e impacto de los datos por parte de los diferentes actores a lo largo de la cadena del valor de los datos: desde su generación hasta los últimos beneficiarios.
  • Creación de fideicomisos de datos mediante el cual una persona autoriza a una institución para tomar decisiones sobre los datos en su nombre, en beneficio de un grupo más amplio de partes interesadas.
  • Comités de evaluación y auditoría de diseño de algoritmos y procesos de creación frameworks de IA que sean colaborativos y abiertos, evitando el desarrollo parcelado y aislado de algoritmos por parte de organizaciones y empresas
  • Estudio y evaluación del comportamiento de la inteligencia artificial y agentes digitales a escala y en su entorno de acción (​machine behavior) para su mejora

A nivel regulatorio tenemos:

  • La inserción de derechos que garanticen valores individuales y colectivos, como son el acceso universal e igualitario a las tecnologías digitales, sin discriminación de ningún tipo; la consagración de la autodeterminación informativa; y la revisión de los derechos de privacidad, libertad de expresión, información y comunicación, y neutralidad digital.

pero también derechos habilitadores y que promuevan la acción en sus distintas dimensiones (ciencia, inversión, políticas, proyectos sociales, etc). Sin una acción y una praxis ético-científica no se podrá conducir la digitalización hacia su máximo potencial transformador para una mejor sociedad. Algunos ejemplos son:

  • Revisión de la normativa de libre competencia y creación de reglas que se centren más en la conducta que en el actor
  • Incrementar la rendición de cuentas y transparencia de los algoritmos en plataformas digitales de contenido
  • Extensión de los principios de transparencia para que los datos no sólo estén disponibles físicamente, si no que pueden ser visualizados y presentados para su comprensión por parte de los ciudadanos
  • Creación de infraestructuras digitales que faciliten y promuevan la compartición de datos entre diversos actores para generar mayor valor social
  • Creación de mapas beneficio-riesgo en términos de privacidad, impacto y agregación de datos para poder ser usados para fines públicos

--

--

David Pastor-Escuredo

Data & AI Scientist. Development & Resilience. Digital Governance & Policy. Life & Biomedical science. Philosopher. Musician. @UCL @LifeDLab @EITHealth @UNICEF