El juicio por las DeepFake cambió de juzgado

La acción colectiva que cuestionaba el uso de la inteligencia artificial para clonar rostros o voces, dando lugar a deepfake y fake News iniciada por la fiscal Marcela Monti, cambió de tribunal.

El expediente, que se inició ante el fuero lo Contencioso Administrativo, Tributario y de Relaciones de Consumo, fundándose en la normativa de consumidores y por la cual se peticionaba que, en virtud del poder de policía en materia de consumo, el Estado ejerza acciones concretas para proteger a los consumidores y usuarios que accedían a distintas páginas webs.

Entre los derechos en juego, la fiscal remarcó la violación de los derechos de información, seguridad y trato digno de la Ley 24.240, así como los de identidad, privacidad e intimidad conforme arts. 19 y 75 inc 22 de la CN,  12 y 39 de la CCCABA y CCYCN, además de las previsiones de la Ley de Protección de Datos Personales (25.326) y la seguridad pública.

En concreto, la acusadora pública entendió que la clonación de voz y rostro por medio de la IA, consistía “en un proceso complejo que implica capturar y analizar datos biométricos de una persona a los fines de crear, de forma sintética o artificial, una copia virtual de la voz e imagen original”, por lo cual se debía concientizar a la población sobre su uso, y bloquear su uso en las redes públicas de GCBA.

La cuestión aún no ha sido resuelta, pero conforme avanzó el proceso, el juzgado que inicialmente intervino en el caso terminó declarando su incompetencia, en virtud del objeto de la demanda que, en definitiva, pretendía que el GCBA, a través de la Dirección General de Defensa y Protección al Consumidor ejecuta determinadas acciones.

En tal sentido, expresó que el Código Contencioso Administrativo y Tributario de CABA definía cuales se consideraban autoridades administrativas de CABA y que en las causas donde tales autoridades estuvieran legitimadas para estar en juicio, la competencia era contencioso administrativa, siendo además una normativa de orden público.

La demanda no involucraba al GCBA en un rol de proveedor de bienes o prestador de servicios en los términos de los arts. 2 LDC y 1093 CCCN…“al tratarse de obtener un pronunciamiento judicial sobre supuestas incumbencias no cumplidas o que se pretenda deban ser efectivizadas por parte de la Autoridad de Aplicación de la Ciudad (DGDyPC), no cabe más que concluir que la Justicia en lo Contencioso Administrativo y Tributario es la competente para entender en la presente causa, la que, reitero, no tiene como objeto ninguna relación de consumo”.

Con ese contexto, concluyó que la causa también era contencioso administrativa, y por lo tanto correspondía declarase incompetente, dado que por Res. Pres. CM N° 408/2023, se asignó “la titularidad de los Juzgados de Primera Instancia del fuero Contencioso Administrativo, Tributario y de las Relaciones de Consumo Nº 25, 26 y 27, con competencia exclusiva en las relaciones de consumo” desde ese año.

Ello, en tanto la demanda no involucraba al GCBA en un rol de proveedor de bienes o prestador de servicios en los términos de los arts. 2 LDC y 1093 CCCN, “sino en sus competencias y cometidos esencialmente administrativos respecto a la puesta en práctica de procederes o conductas determinadas, que a criterio de la actora deben ordenarse judicialmente cumplir”.

Por ello, “al tratarse de obtener un pronunciamiento judicial sobre supuestas incumbencias no cumplidas o que se pretenda deban ser efectivizadas por parte de la Autoridad de Aplicación de la Ciudad (DGDyPC), no cabe más que concluir que la Justicia en lo Contencioso Administrativo y Tributario es la competente para entender en la presente causa, la que, reitero, no tiene como objeto ninguna relación de consumo”.

La decisión posteriormente fue apelada, pero la sala 2 de la Cámara del fuero, integrada por los jueces Fernando Juan Lima y Mariana Díaz optó por confirmar el pronunciamiento porque “la relación de consumo que motiva la presente demanda no vincula a los consumidores con la demandada en autos, sino con diversos terceros no individualizados (genéricamente, páginas web que prestan el servicio de clonación de voz y rostro con IA)". 

Sobre tal base, la alzada consideró que lo que se requiere en el caso es que el GCBA "adopte una serie de medidas en ejercicio de su poder de policía” por lo cual excedía la materia regulada en el Código Procesal local, aunque exista una relación de consumo subyacente.

La causa terminó recayendo en el Juzgado de Primera Instancia en lo Contencioso Administrativo y Tributario N° 1, a cargo de Romina Lilian Tesone.