La causa impulsada Ministerio Público Fiscal de la Ciudad de Buenos Aires que, a través de una acción colectiva, pretendía que el Gobierno local ejerza acciones “concretas” para proteger a los usuarios que acceden a diferentes páginas que permiten clonar voz y rostro mediante la IA, llegó a su fin.
La jueza Romina Lilian Tessone admitió el desistimiento de la acción, luego de que se presentara un acuerdo transaccional al que se había arribado entre los contendientes.
Cabe recordar que, entre los pedidos del MPF, se encontraba el bloqueo de acceso a páginas web en redes BA WIFI y el despliegue de una campaña de concientización sobre la materia, atento a los graves riesgos para los derechos de los consumidores y la poca seguridad de los sitios web cuestionados.
Entre los puntos clave del convenio, el GCBA se comprometió a ejecutar acciones “concretas” en concepto de poder de policía para regular y controlar la prestación del servicio de clonación de voz y de rostro con inteligencia artificial brindado por plataformas web libres, a los fines de proteger los derechos de identidad, privacidad e intimidad.
El acuerdo, al que accedió Diario Judicial, señala que se pautó un bloqueo en “todas las redes de internet que operen en establecimientos o espacio públicos bajo su gestión, incluyendo BA WIFI” el acceso a las plataformas que prestan esos servicios de modo irregular, lo que se verificará con las auditorías.
Si bien el compromiso siguió el objeto de la demanda, las acciones que se pactan dejan algunos grises sobre su implementación, así como cual será la reacción de las empresas afectadas al no existir una normativa específica que regule la materia, pese a lo cual igualmente existirán bloqueos.
Por otro lado, el Gobierno porteño también se comprometió a realizar una “campaña masiva de concientización” sobre los riesgos y consecuencias del uso de esta tecnología, “a través de exposiciones y cursos”, aunque tampoco se detalla en que plazo, con que frecuencia, si utilizarán redes sociales.
De igual manera, se acordó que el GCBA realice auditorías periódicas sobre las páginas web que prestan esos servicios para detectar si se presta “de forma irregular”, en especial aquellas que no requieren que el usuario brinde un consentimiento informado y explícito previo a la entrega de datos biométricos, así como aquellas que tienen políticas de privacidad o términos y condiciones genéricos o vagos.
A esto se agrega el control sobre plataformas que no cuenten con sistemas de seguridad para verificar la mayoría de edad de quienes interactúan con ella, aunque tampoco hay detalles sobre cómo se llevará adelante esta verificación.
El acuerdo, al que accedió Diario Judicial, señala que se pautó un bloqueo en “todas las redes de internet que operen en establecimientos o espacios públicos bajo su gestión, incluyendo BA WIFI” el acceso a las plataformas que prestan esos servicios de modo irregular, lo que se verificará con las auditorías. Anque el texto incluye un listado inicial a bloquear, no se precisa en virtud de qué pautas se los incluyó en lista.
Para cumplir con ese objetivo también se prevé la incorporación de un “canal de comunicación” para que los usuarios puedan advertir o solicitar bloqueos de este tipo de apps.