QUIEREN REGULAR LA INTELIGENCIA ARTIFICIAL
La iniciativa pertenece al diputado Jorge Reta, con el fin de
regular todos los sistemas de inteligencia
artificial empleados en el ámbito porteño, en consonancia
con los valores promovidos en la Constitución de la Ciudad de Buenos Aires, promoviendo la
protección de la democracia, seguridad, salud y derechos de los ciudadanos ante el uso
dañino de la inteligencia artificial.
A continuación el articulado completo del proyecto:
Artículo 2 ° .- Definición. A los efectos de la presente, se entiende por:
Inteligencia artificial. La inteligencia artificial es la habilidad de una máquina de presentar
las mismas capacidades que los seres humanos, como el razonamiento, el aprendizaje, la
creatividad y la capacidad de planear. Perciben su entorno, se relacionan con él, resuelven
problemas y actúan con un fin específico. La máquina recibe datos (ya preparados o
recopilados a través de sus propios sensores, por ejemplo, una cámara), los procesa y
responde a ellos. Los sistemas de IA son capaces de adaptar su comportamiento en cierta
medida, analizar los efectos de acciones previas y de trabajar de manera autónoma.
Datos biométricos. Información personal surgida de técnicas específicas de procesamiento
de información relativa al físico, psicología, características y comportamiento de una persona
que permitan o confirmen la identificación de una persona.
Identificación en tiempo real. Identificación biométrica remota de personas en espacios
públicos accesibles con el objetivo de ejercer un control violatorio de la privacidad de lapersona y con resultados pasibles de categorización discrminatoria basada en la edad, etnia,
sexo o discapacidad.
Infraestructura crítica. Instalaciones, equipos, sistemas, o parte de instalaciones, equipos y
sistemas necesarios para la provisión de servicios esenciales.
Servicios esenciales. Servicios cruciales para el mantenimiento de la actividad social,
económica, salud pública, seguridad y medioambiente.
Proveedor de inteligencia artificial. Cualquier distribuidor, comercializador, desarrollador o
participante en el desarrollo de inteligencia artificial debe ser considerado como proveedor a
los efectos de la presente regulación.
Información pasible de uso público. Información legal obtenida legalmente con el objeto de
salvaguardar intereses públicos sustanciales en las siguientes áreas:
- Seguridad pública y salud pública, incluyendo la detección de enfermedades,
diagnósticos preventivos, control y tratamiento y mejoras en el sistema de salud
pública; - Seguridad y adaptabilidad de los sistemas de transporte público, infraestructura
crítica; - Eficiencia y calidad de la administración pública y servicios públicos.
Artículo 3 ° .- Prohibiciones. Queda prohibido: - La utilización ,en cualquier ámbito, de inteligencia artificial que utilice técnicas
subliminales a la conciencia de las personas, que teleológicamente utilice técnicas
manipulativas o engañosas con el objetivo o efecto de alterar el comportamiento de las personas o grupos de las personas conllevando una afección en la toma de
decisiones de la persona o grupo. - La utilización ,en cualquier ámbito, de inteligencia artificial que utilice las
vulnerabilidades de una personas o grupo específico en base a su edad, discapacidad,
condición social o económica buscando alterar su comportamiento de forma tal que
pueda generar un daño al grupo o persona. - La utilización ,en cualquier ámbito, de inteligencia artificial con el fin de clasificar o
evaluar de personas o grupo de personas durante un determinado tiempo basándose en
su comportamiento social, conocimiento, personalidad predecida que pueda conllevar
a un tratamiento desfavorable a una persona o grupo determinado de personas en un
contexto diferente al original donde se generó o colectó la información. - La utilización de inteligencia artificial para predecir análisis de riesgo de personas o
grupos de personas con el objetivo de predecir la posibilidad que la misma o el mismo
pueda incurrir en un acto delictivo; basándose en sus características personales o
grupales. Queda plenamente excluido de tal consideración el uso de inteligencia
artificial para el apoyo en el tratamiento de personas o grupos de personas
involucradas en actividades criminales, siempre y cuando sea objetivo y verificable o
tenga vínculos directos con la actividad criminal. - La utilización ,en cualquier ámbito, de inteligencia artificial o el uso de sistemas de
categorización biométrica con la finalidad de deducir su opinión política, su
participación en organizaciones sociales, su participación en organizaciones
religiosas, orientación sexual. Se excluye la clasificación de la obtención legal de información biométrica. El “uso en tiempo real” de sistemas de identificación biométrica en espacios de
acceso público con la finalidades policiacas salvo cuando:
a. Se tratase de la busqueda de victimas de secuestro, trafico humano,
explotación sexual y búsqueda de personas desaparecidas;
b. La prevención de amenazas específicas, sustanciales e inminentes o que
comprometan la integridad física de una persona o grupo.
Artículo 4 ° .- Obligaciones de proveedores. Los proveedores de inteligencia artificial
tendrán las siguientes obligaciones: - Control de riesgo. Los sistemas de inteligencia artificial deberán ser probados con el
objetivo de identificar su amenaza y posibles formas de adecuar su uso, cuando no
eliminarlo, de forma tal que no viole la normativa vigente. - Cumplir con los requisitos de la presente ley.
- Registrarse debidamente en el registro de empresas de inteligencia artificial el cual
dependerá del ministerio de economía o autoridad en la que devenga. - Disponer la información técnica correspondiente al empleo y control del sistema de
inteligencia artificial registrado. - Aquellos proveedores que se consideren o se pueda considerar como de riesgo rojo o
naranja que hayan iniciado operaciones de forma precedente a la entrada de vigencia
de esta normativa, deberán someterse a un análisis de la autoridad de aplicación con el objeto de ejercer las correcciones necesarios aun cuando ello conlleve su retiro,
inhabilitación, o modificación para su empleo. - Los proveedores deberán, ante el requerimiento por parte de la autoridad competente,
entregar toda la información y documentación necesaria para demostrar la
conformidad del cumplimiento de los requerimientos referidos, cumpliendo con una
redacción de fácil entendimiento para la autoridad. - Los desarrolladores deberán asignar un control humano para personas que posean la
competencia necesaria, habilidades técnicas y autoridad, así como también dar el
apoyo necesario - Los desarrolladores de inteligencia artificial deberán monitorear la operación de
inteligencia artificial de nivel rojo. Deberán ,de manera activa y sistemática,
recolectar documentación relevante que de pauta del rendimiento del sistema en uso a
lo largo de su vida útil conllevando la verificación del cumplimiento de los
requerimientos dispuestos en la presente ley. Se encuentra terminantemente prohibido
acceder a información clasificada salvo que la autoridad pertinente autorice tal acceso
con la finalidad de verificar el correcto funcionamiento. - Los proveedores de sistemas de inteligencia artificial deberán relevar a la autoridad de
aplicación cualquier incidente que pudiese ocurrir en el empleo de los sistemas
referidos.
a. Inmediatamente posterior al reporte el proveedor deberá, sin demora alguna,
ejecutar las investigaciones necesarias respecto al sistema de inteligencia
artificial involucrado. Deberá incluir un análisis de riesgo del evento como así
también una acción correctiva del mismo y la disposición de tales datos a la Justicia. Artículo 5 ° .- Requisitos para proveedores. Los proveedores deberán cumplir los siguientes
requisitos: - Estar radicados en la Argentina.
- Transparencia y rendición de cuenta rutinaria semestral ante la autoridad competente.
- No destinar los bienes a otro uso o goce que el estipulado o hacer uso indebido de los
mismos. - Facilitar el acceso de inspectores autorizados a todas las instalaciones, libros de
contabilidad y documentación vinculada con el cumplimiento del contrato y firmar las
actas de infracción que se labren. - Satisfacer las multas por infracciones dentro de los tres (3) días de notificado.
Artículo 6 ° .- Registro Único de Proveedores de Inteligencia Artificial.
En el Registro Único de Proveedores de Inteligencia Artificial deben inscribirse los
proveedores de inteligencia artificial y servicios afines que anhelen contratar con el Estado de
la Ciudad Autónoma de Buenos Aires. En el mismo se consignarán sus antecedentes legales,
económicos y comerciales nacionales e internacionales.
Aquellas jurisdicciones y/o entidades contratantes no pueden exigir certificación de
inscripción registral y vigencia. La misma deberá ser requerida internamente al Registro
Único de Proveedores de Inteligencia Artificial. La inscripción en el Registro Único de
Proveedores de Inteligencia Artificial es condición indispensable para contratar con el Estado de la Ciudad de Buenos Aires. Los procedimientos de inscripción deben ser simples, gratuitos, rápidos y asistidos. La
tramitación se realiza en forma electrónica en el sitio de internet del sistema. El interesado
debe acompañar dentro del plazo que establezca la reglamentación, la documentación
correspondiente. La autoridad de aplicación establecerá las pautas de su funcionamiento
restantes.
Artículo 5 ° .- Empleo de la información pasible de uso público. La información pasible de
uso público podrá ser empleada limitándose a funciones fuera de tiempo real, pudiendo
admitirse su uso en tiempo real para las situaciones detalladas a continuación:
A. Búsqueda una persona desaparecida
B. Búsqueda de un prófugo
C. Prevención de eventos que pudiesen atentar contra la seguridad pública debiendo estar
limitado en tiempo y espacio su uso y debidamente registrada.
Artículo 6 ° .- De la información personal en el uso público. Toda información personal
procesada a los efectos de lo mencionado en el artículo precedente, deberá estar separada,
aislada, protegida en el procesamiento y uso conforme a la normativa nacional y local
vigente.
Artículo 7 ° .- Del uso de la inteligencia artificial en la educación o formación profesional.
Aquellos sistemas de inteligencia artificial utilizados en la educación o la formación
profesional que la Ciudad Autónoma de Buenos Aires posea potestad, en particular para:
A. determinar el acceso o la admisión; para asignar personas a instituciones o programas
educativos y de formación profesional en todos los niveles;
B. para evaluar los resultados del aprendizaje de las personas; C. para evaluar el nivel de educación adecuado para un individuo y que influyen
materialmente en el nivel de educación y formación que las personas recibirán o
podrán acceder;
D. para monitorear y detectar comportamientos prohibidos de los estudiantes durante las
pruebas;
Artículo 8 ° .- Niveles de riesgo. A los efectos de la presente ley se tomará en cuenta la
siguiente clasificación de riesgos:
I. Rojo. Para aquellos sistemas de inteligencia artificial que:
A. Alteren el comportamiento cognitivo de las personas o grupos, manipulando
sus acciones.
B. Generen una clasificación discriminatoria o social scoring.
C. Identifiquen a las personas biometricamente y las categoricen.
D. Sistemas de identificación biométrica en tiempo real y remoto.
II. Naranja. Para aquellos sistemas de inteligencia artificial que:
A. Sean usados en productos que contemplados en materia de legislación
productiva de la Ciudad.
B. Que recaigan en áreas críticas que deban ser registradas por una base de datos
de la ciudad, siendo considerados los siguientes puntos:
i. Manejo y operación de infraestructura crítica.
ii. Educación. iii. Manejo de personal.
iv. Fuerzas de seguridad.
v. Salud.
vi. Asistencia en interpretación legal y aplicación de la ley.
vii. Aquellos que la evolución tecnológica genere y la autoridad de
aplicación considere pertinente.
Artículo 9 ° .- Requerimientos de transparencia y publicidad. La inteligencia artificial
generativa tendrá la obligación de poseer una aclaración visible en aquello que genere o
modifique independientemente del ámbito de aplicación con el objeto de esclarecer su
incidencia.
Artículo 10 ° .- Comuníquese, etc.
