Propuesta para regular la IA en CDMX busca proteger uso de datos de ciudadanos

IA: riesgos y oportunidades

En la Ciudad de México el uso de la tecnología fue clave durante los últimos seis años, durante el periodo de Claudia Sheinbaum y después de Martí Batres al frente del Gobierno capitalino, gracias a la Agencia Digital de Innovación Pública (ADIP).

El 57% de los trámites en la ciudad ya han sido digitalizados, un total de 283, entre los cuales se encuentran la renovación de la licencia de conducir, la apertura de nuevos negocios, así como la obtención de copias de actas de nacimiento, matrimonio y defunción.

Durante la pandemia de covid-19, la inteligencia artificial fue usada para que a través del envío de un mensaje SMS las personas pudieran hacer un test sobre síntomas y con ello conocer su potencial de estar contagiadas. Así mismo se utilizó el monitoreo anónimo de los celulares –en cooperación con compañías telefónicas– para ubicar zonas de concentración de personas y aplicar medidas de distanciamiento social.

La actual jefa de Gobierno, Clara Brugada, ha anunciado que se usará la IA en los semáforos de las avenidas de la ciudad, para hacer más eficiente la circulación de vehículos.

Te puede interesar:

CDMX

Licencia permanente y más Cablebús: las promesas de Brugada sobre movilidad

“El uso de inteligencia artificial puede ayudar a la ciudadanía, puede ayudar al gobierno a tomar decisiones, es un excelente buscador, sintetizador, generador de conclusiones para la creación de política pública y legislaciones.

“Es una herramienta muy poderosa que así como puede ser útil para la ciudadanía, pero también es un arma de doble filo”, sostiene la diputada Patricia Urriza, de Movimiento Ciudadano, quien preside la comisión de Educación, Ciencia, Tecnología e Innovación.

De acuerdo con expertos, el uso indebido de inteligencia artificial puede llevar a la violación del derecho a la intimidad y la privacidad de las personas, como en el caso del ciberacoso y la suplantación de identidad, e incluso facilitar la "manipulación social".

Ejemplo de ello fue el papel de Cambridge Analytica (compañía privada de minería y análisis de datos) durante la votación del Brexit –salida del Reino Unido de la Unión Europea– así como en las elecciones presidenciales de Estados Unidos en 2016, donde resultó ganador por primera vez Donald Trump.

“El activo más importante y más valioso del planeta en el siglo XXI son los datos personales”, indica el comisionado del Info CDMX, al señalar que estos se llegan a considerar como ‘el nuevo petróleo’.

Por ello, explica, el espíritu de la ley tiene que ver con la protección de los datos personales y los mecanismos de garantía, tutela, protección y defensa.

Las claves de la propuesta sobre IA en CDMX

La iniciativa para regular el uso de IA en las autoridades y sujetos obligados en la Ciudad de México se basa en los criterios de ética, seguridad, transparencia y explicabilidad. Fue elaborada por el Info CDMX con la asesoría de la Embajada Británica en México a través del Open Data Institute así como White Bx Project, una consultoría privada.

Con 72 artículos, estos son los puntos principales de la propuesta de ‘Ley para el uso de inteligencia artificial y el tratamiento de datos personales por sujetos obligados en CDMX’.

Para el uso de la IA, las autoridades y sujetos obligados –como el Gobierno capitalino, la Fiscalía local y juzgados– deberán seguir estos principios rectores:

• Aplicar ciberseguridad para proteger a los modelos de inteligencia artificial que utilicen para evitar una afectación a los datos personales.

• Informar de manera clara y comprensible a las personas sobre cómo usarán sus datos personales en modelos de inteligencia artificial mediante un aviso de privacidad.

• Implementar auditorías algorítmicas como parte del procedimiento para la gestión de riesgos de privacidad y la revisión de los modelos de inteligencia artificial.

• Evaluar los impactos adversos a la privacidad con un informe a partir de implementar sistemas de gestión de riesgos de privacidad y de un plan de inteligencia artificial auditado.

El Info CDMX podrá realizar evaluaciones de transparencia algorítmica para verificar el cumplimiento de la ley.

En coordinación con los sujetos obligados, el Info CDMX promoverá la innovación con base en dos ejes de política pública:

• Establecer lineamientos claros y confiables para la publicación y el acceso a datos abiertos que faciliten su intercambio y la reutilización para investigación y el desarrollo de IA, sin que se afecte el derecho a la privacidad de las personas.

• Implementar políticas de uso de la IA sin un perfilamiento social que genere manipulación, inequidad o discriminación.

Conoce más:

CDMX

En qué casos se cancela la licencia para conducir en CDMX

Los sujetos obligados que utilicen inteligencia artificial deben contar con:

• Comité de IA, para determinar los impactos negativos al derecho a la privacidad que puedan surgir ante el uso de IA.
• Código de conducta para el uso responsable de la IA.
• Programa de capacitación.
• Metodología básica para la gestión de riesgos de privacidad.
• Sistema de gestión de riesgos de privacidad.
• Procedimiento para protección de la privacidad.

Los sujetos obligados deberán mitigar los riesgos relacionados con el uso de datos personales a través de inteligencia artificial. Esto incluye posibles ataques cibernéticos, envenenamiento de datos, accesos no autorizados o pérdida de datos, indica el Artículo 34.

La Agencia Digital de Innovación Pública (ADIP) estará a cargo de realizar auditorías algorítmicas periódicas, para verificar que los sistemas o modelos de IA utilizados por los sujetos obligados funcionen de forma transparente, justa y segura, de acuerdo con el Artículo 35. Estas auditorías deberán ser públicas.

Las personas pueden ejercer sus derechos para el Acceso, Rectificación, Cancelación, Oposición y Portabilidad (ARCOP) sobre el uso de sus datos personales con IA por las autoridades y sujetos obligados.

El Info CDMX estará encargado de vigilar y verificar el cumplimiento de la ley sobre el uso de inteligencia artificial, de acuerdo con el Artículo 42.

Info CDMX y ADIP vigilarán uso de IA

Con esta propuesta de ley, la Agencia Digital de Innovación Pública junto al Info CDMX se colocan como piezas clave para la evaluación y vigilancia del uso de IA.

Esto se propone mientras a nivel federal se ha aprobado la eliminación del Instituto Nacional de Transparencia, Acceso a la Información y Protección de Datos Personales (INAI) y sus funciones serán asumidas por el propio Poder Ejecutivo, a través de la Secretaría Anticorrupción y de Buen Gobierno.

“Hay una oportunidad con esta experiencia que tiene el Info CDMX de 18 años, incluso de proponer la creación de una agencia especializada en materia de protección de datos personales y uso de la inteligencia artificial. También un modelo que recree con fuerza la garantía del acceso a información pública”, señala el comisionado Bonilla.

Lee también:

Congreso

Diputados consuman eliminación de autónomos y crean órgano de competencia

La iniciativa se encuentra en proceso en dos comisiones del Congreso capitalino: de Transparencia, Rendición de Cuentas y Combate a la Corrupción, así como la de Educación, Ciencia, Tecnología e Innovación que realizan dos sesiones de Parlamento Abierto el 13 y el 27 de noviembre.

Para la legisladora Patricia Urriza es necesario comenzar a proteger los datos personales con los que cuentan las autoridades ante el uso de la inteligencia artificial.

“El Gobierno es la entidad con mayor cantidad de datos personales disponibles: tiene la información del Registro Civil, de la Fiscalía, si tenemos hijos, propiedades.

“Lo que se busca es que esa información no sea mal utilizada por el Gobierno con fines políticos, que se utilice la información con inteligencia artificial pero que se tenga ciertos límites para proteger a la ciudadanía”, considera.

La diputada de MC señala que de lograr este primer paso al marcar límites para el uso de IA por parte de las autoridades y sujetos obligados, la siguiente tarea será regular a las empresas privadas.

“Un segundo paso para esta regulación sería regular el uso de los datos personales en las empresas, porque las empresas toman muchas decisiones y hacen uso de la imagen, de las voces, de las preferencias algorítmicas que tenemos todos en nuestros celulares. Esto ha generado por ejemplo mucha violencia de género, ahora las imágenes, los videos, los audios se pueden editar para agredir a una persona en específico”, señala.