El Senado planea hacer la primera ley para regular el uso de la inteligencia artificial y castigar las malas prácticas relacionada a ella, como la manipulación de elecciones o crear deepfakes sexuales.
Después de 10 meses de análisis del tema con expertos, llegó esta propuesta que será presentada este miércoles, la cual clasifica infracciones en tres niveles: leves, graves y gravísimas.
La iniciativa considera como prácticas prohibidas de violencia digital mediante el uso de inteligencia artificial aquellas que, de manera intencional o como resultado previsible de su diseño, tengan por efecto causar daño grave a mujeres o niñas.
Entre las acciones que considera como prácticas prohibidas son:
- Generación o difusión de deepfakes o contenidos sintéticos de carácter sexual o íntimo sin el consentimiento expreso de la persona afectada, o de cualquier contenido de esta naturaleza que involucre a niñas, niños o adolescentes.
- La manipulación de imágenes, audios o videos con la finalidad de humillar, acosar, extorsionar o ejercer violencia contra una mujer.
- La automatización deliberada de campañas de odio, difamación, desprestigio o agresiones basadas en género.
- El diseño o uso de sistemas de inteligencia artificial destinados principalmente a facilitar el ciberacoso, hostigamiento o persecución digital.
En la propuesta se habla de “neuroderechos”, término que no aparece en ninguna legislación mexicana, pero ya son reconocidos en otros países.
Éste se define como los derechos destinados a proteger la identidad personal, la privacidad mental, la integridad cognitiva y la libertad de pensamiento frente al uso de neurotecnologías o sistemas de inteligencia artificial que interfieran en información neuronal o en los procesos mentales de las personas.
Se menciona que las escuelas deberán incluir en sus contenidos de enseñanza temas relacionados a los derechos humanos, neuroderechos, ciberseguridad, gobernanza digital y sostenibilidad tecnológica.
Mientras, desde el gobierno federal, mediante la Secretaría de Ciencia, Humanidades, Tecnología e Innovación y la Autoridad Nacional en Inteligencia Artificial se promoverá la creación de redes académicas, laboratorios de innovación y alianzas nacionales e internaciones para la formación de talento y el intercambio científico.
Además, las dependencias de la Administración Pública Federal, así como gobierno estatales y municipales deberán implementar programas permanentes para capacitar a servidores públicos en el uso ético y responsable de sistemas de inteligencia artificial.
También el gobierno fomentará la capacitación para la iniciativa privada, en especial para las micro, pequeñas y medianas empresas, con el fin de impulsar la adopción responsable y competitiva de soluciones basadas en inteligencia artificial.
En la propuesta se propone la creación de una serie de órganos y una de ellas es la Autoridad Nacional en Inteligencia Artificial, la cual se encargará de la coordinación, articulación y seguimiento de la política nacional en materia de inteligencia artificial.
Cada año, deberá presentar un informe sobre las actividades de supervisión que haya realizado, los riesgos emergentes que identificó, las certificaciones emitidas, las sanciones aplicadas y la evaluación general sobre la inteligencia artificial en el país.
Esta autoridad integrará un Consejo Consultivo Nacional, en el cual participarán los sectores públicos, privados, académicos y sociales, y emitirá opiniones y recomendaciones de carácter no vinculante en materia de ética, seguridad, innovación y derechos humanos.
La Autoridad también integrará un Observatorio Nacional de Igualdad Algorítmica que analizará los riesgos que los sistemas de inteligencia artificial puedan general para mujeres y otros grupos vulnerables; emitirán alertas técnicas sobre posibles sesgos algorítmicos; publicarán informes periódicos sobre desigualdad algorítmica y sus impactos, y formularán recomendaciones y emitirán alertas tempranas en casos de alto impacto.
Establecerá un Sistema Nacional de Certificación de Sistemas de Inteligencia Artificial que estará destinado a verificar el cumplimiento de estándares nacionales e internacionales en materia de seguridad, ética, transparencia y gobernanza.
También se conformará la Agencia de Transformación Digital y Telecomunicaciones, que será la autoridad técnica y operativa responsable de la transformación digital del sector públicos federal, la adopción segura y ética de sistemas de inteligencia artificial y la supervisión del cumplimiento de esta ley.
Otro órgano que se crea es el Fondo Nacional para el Desarrollo de la Inteligencia Artificial, que será un instrumento financiero especializado destinado a apoyar la investigación, innovación y desarrollo tecnológico en materia de inteligencia artificial.
En la propuesta que será presentada plantea que el Estado establezca mecanismos de financiamiento público, mixto y privado para impulsar proyectos de investigación, desarrollo tecnológico, innovación y emprendimiento en inteligencia artificial.
Se menciona que se otorgará estímulos fiscales, deducciones, créditos, fondos de garantía y apoyos concursables a proyectos que promuevan la innovación responsable, el desarrollo tecnológico nacional y la soberanía científica en inteligencia artificial.
Asimismo, se propone que el Estado fomente la participación de emprendedores, pequeñas, medianas y grandes empresas, desarrolladores independientes y talento joven en programas de innovación, competencias tecnológicas y retos nacionales en materia de inteligencia artificial.
Las infracciones derivadas se dividen en leves, graves y gravísimas. En ese último caso se encuentran:
- Implementar sistemas que, por acción u omisión dolosa o con negligencia grave, generen daños graves o irreversibles a la vida, integridad física o cognitiva, salud, privacidad, derechos humanos, seguridad nacional o
- Emplear inteligencia artificial para manipulación cognitiva, política, electoral o social con fines ilícitos o contrarios a los principios democráticos, de manera deliberada. No se considerarán comprendidas en este supuesto las actividades de comunicación política, publicidad o difusión
- Operar, desplegar o poner en funcionamiento, por parte de autoridades públicas o de particulares, sistemas autónomos letales o sistemas de inteligencia artificial capaces de causar daño grave a la integridad de las personas
- Proveer sistemas principalmente diseñados para el fraude, la extorsión, la desinformación o la suplantación de identidad
Para la sanción de estas acciones, la Autoridad Nacional de IA, la cual notificará al presunto infractor, definirá la conducta imputada, solicitará la información técnica necesaria y determinará si existen riesgos inminentes que ameritan medidas provisionales.
Las sanciones pueden ir de amonestación pública o privada, multas, suspensión temporal, suspensión definitiva o retiro del mercado hasta clausura temporal o definitiva de plataformas o servicios.
