🤖 Explícame tu algoritmo — Newsletter 229°

Un abogado es una persona capaz de afirmar, de manera inconcusa, que alguien conculcó la ley. ¿Qué quiso decir? Eso lo debe resolver otro abogado.— Juan Villoro

Edición 229° de Economicón, la newsletter de privacidad y sociedad de la información de México.

Ayuda a Economicón. 🍐 Compra una suscripción en Substack, dona con Patreon o aporta con PayPal.

🌳 La vida te lo retribuirá y yo te lo voy a agradecer. Mucho.

🍐 Los proveedores de bienes y servicios en México deben prepararse para explicar con peras y manzanas los modelos matemáticos que usan para analizar sin intervención humana los datos personales de sus clientes y tomar decisiones relevantes.

La nueva ley de datos personales permite oponerse a ser analizados por máquinas cuando los resultados nos provoquen consecuencias negativas, lo que obligadamente pasa por saber y entender las fórmulas algorítmicas que se aplican a nuestros datos. (Economicón)

• ❌ La ley da el derecho a decir “No” a la toma de decisiones con inteligencia artificial si éstas producen “efectos jurídicos no deseados”, como discriminación o negación de servicios, o afectan “de manera significativa” nuestros intereses, derechos o libertades.
• La ley ejemplifica que este derecho de oposición puede ejercerse contra evaluaciones para analizar o predecir el rendimiento profesional, la situación económica, el estado de salud, las preferencias sexuales, la fiabilidad o el comportamiento. (Artículo 26°, fracción II)

Suena bien. El problema será garantizarlo.

• 🏦 ¿La negación a concedernos un crédito afecta derechos o libertades?
• ¿El rechazo a una solicitud de trabajo produce “efectos jurídicos no deseados”?
• 📦 ¿Los precios diferenciados de tu tienda de comercio electrónico provocan daños o perjuicios?

¿A quién le aplica? A cualquier organización que use algoritmos en sus sistemas de recomendación, de selección automatizada, de análisis predictivo o herramientas de monitoreo.

El ejercicio y garantía de este derecho promete ser todo menos sencillo para ninguna de las partes involucradas: la persona titular de los datos, la organización responsable del tratamiento y la autoridad supervisora del cumplimiento.

1. Derecho de acceso. Para oponernos al tratamiento automatizado hay que saber que fuimos objeto de un tratamiento automatizado. Para saberlo, la persona debe pedir a la organización que usa sus datos que le informe cómo tomó alguna decisión que le afecta.
2. 🤓 Derecho a entender. La organización debe explicar sus modelos matemáticos. Su respuesta debe ser clara y sencilla para que las personas entiendan la lógica de los algoritmos y, si lo desean, expresen su rechazo. (Economicón)
3. 🤖 Derecho de oposición. La persona puede solicitar que cese el uso de sus datos por medios automatizados. Se entiende, pero no lo dice la ley, que la persona tiene derecho a que un humano revise la decisión algorítmica para confirmarla o corregirla.
4. 😮‍💨 En caso de negativa, la persona debe quejarse ante la autoridad de protección de datos personales. Esta autoridad revisará la respuesta, analizará los argumentos de las partes y tomará una decisión. (Economicón)

Suplencia de la queja. Puede pasar que la persona no sepa argumentar, pero sabe que algo le duele. Entonces los abogados de la autoridad de datos podrán hacerlo por ella y, si procede, exigir el cese del tratamiento.

• O puede pasar lo contrario: que la autoridad se niegue a hacerla de intérprete, como hacía la vieja agencia de privacidad (el Inai, extinguido en marzo), y que tampoco aplique el principio pro persona, para garantizar la máxima protección de los derechos de la persona.

⛓️‍💥 Secreto industrial. También puede pasar que la autoridad necesite conocer información confidencial para replicar la decisión algorítmica, como modelos, procesos o propiedad intelectual.

• Esto provocará tremendo lío en la supervisión, porque los secretos industriales están protegidos por ley y, si se da el caso, habrá que ponderar entre el derecho a la confidencialidad y el derecho a la protección de datos personales.
• 🧠 Una autoridad administrativa como la nueva agencia de privacidad será incapaz de conocer las tripas algorítmicas sin autorización judicial de por medio.

🃏 Combo killer. Sumemos otro escenario. La nueva ley eliminó la expresión “persona física” de la definición de persona titular de los datos, lo que puede inferir que la ley también aplica para personas morales.

• Y si una persona moral (una empresa, una organización, una asociación) es titular de datos personales, entonces puede ejercer los derechos de acceso y oposición y exigir al banco que le explique por qué le negó un préstamo.

Algunas leyes se crean con las mejores intenciones, pero su ejercicio resulta problemático o letra muerta en el peor de los casos. Y, lo más grave, pueden generar desprecio o desinterés en el sistema normativo.

Si está y no sirve, ¿para qué está?

• Espero que no sea el caso.

Newsletters anteriores

• La inteligencia artificial puede salvar a Google
• Husmear en tu cuenta bancaria
• El juicio millonario que puede cambiar internet en México
• 🇧🇷 La mátrix de Lula
• Transparencia para el Pueblo
• 📚 10 libros sobre privacidad
  • Ver todas

Sobre mí

Soy José Soto Galindo, periodista. Fui director de Medios del Inai. Edité El Economista en línea de 2010 a 2024 y antes fui editor en Público-Milenio (2001-2009). Soy maestro en Transparencia y Protección de Datos Personales por la UdeG y tengo especialidad en derecho de las telecomunicaciones (IIJ-UNAM) y derecho de las tecnologías de la información (ITAM). Doy clases de periodismo en la Universidad de Guadalajara.

Ayuda a Economicón. 🍐 Compra una suscripción en Substack, dona con Patreon o aporta con PayPal.

🌳 La vida te lo retribuirá y yo te lo voy a agradecer. Mucho.

Otras noticias

Privacidad y datos personales

• Estados Unidos está almacenando el ADN de niños migrantes en una base de datos para criminales (Wired)
• Kenia obtiene una victoria legal histórica en contra de Worldcoin y le hace eliminar datos biométricos (R3D)
• México: Hackean al ‘nuevo INAI’ y exponen datos de miles de aspirantes a empleos en la 4T (Publimetro)
  • Plataforma “TrabajaEn” protege a sus usuarios con altas medidas de seguridad (El Heraldo)
  • En Economicón: Otro año de impunidad de la mayor filtración de datos de empleados del gobierno (2023)
• Paraguay: IMSI catchers: la vigilancia invisible que amenaza tu derecho a manifestarte (Tedic)

Ley de telecomunicaciones en México

• El registro de usuarios de telefonía móvil no garantiza la seguridad, sino que incrementa los riesgos para la población (R3D)
• Credenciales inútiles, de Gabriel Zaid (Reforma 🔒)
  • En Economicón: 🤳🏼 CURP con foto… y reconocimiento facial

Plataformas

• Estados Unidos: What Has Congress Been Doing on Section 230? (Lawfare)
  • Section 230 Under Fire: Recent Cases, Legal Workarounds, and Reforms, de Eric Rosen (Dynamis LLP)
  • Guía para interpretar restricciones a la libertad de expresión en Internet, de Vladimir Chorny (R3D)
  • En Economicón: El juicio millonario que puede cambiar internet en México

Otras lecturas

• México: 15 años del Anuario de Cine: plataformas y pantallas, de Jorge Bravo (El Economista)
• México: Carga de trabajo aplasta la justicia local: un juzgado recibe 5 mil expedientes al año y empleados laboran hasta 17 horas al día (Animal Político)

Comentarios