La Corte de Justicia de la provincia de San Juan, mediante Acuerdo General N° 102/2024, aprobó el “Protocolo de Uso Aceptable de la IA Generativa (IAGen)” para todos los agentes del Poder Judicial sanjuanino.
Para los ministros del tribunal, “la notable capacidad de esta tecnología exige establecer en forma oportuna, un marco regulatorio para su uso responsable y compatible con los principios éticos y los valores institucionales de la Administración de Justicia”.
Siendo necesaria la reglamentación “para habilitar su uso en el marco de la actividad jurisdiccional y administrativa, toda vez que la IAGen tiene la aptitud de generar en forma ágil textos complejos con contenido jurídico y argumentativo, replicando patrones de lógica y aplicándolos en modelos de actuaciones judiciales y también administrativas”.
A su vez, remarcaron los riesgos que implica el uso de la IA “por la inexactitud o posibilidad de errores en los resultados, si no es usada debidamente o bien por limitaciones técnicas del mismo desarrollo”.
La decisión de la Corte, implica la obligatoriedad del cumplimiento de las reglas y directrices para todos los agentes del poder judicial de San Juan que interactúen con la IAGen en cualquier dispositivo o plataforma, cuando la interacción se relaciones con la actividad que desempeña, ya que de lo contrario advierte que se considerará como falta disciplinaria pasible de sanción.
La finalidad del nuevo protocolo afirma es “preservar la confidencialidad, privacidad e integridad de la información”, así como el cumplimiento de la normativa y las mejores prácticas en seguridad informática.
La decisión de la Corte, implica la obligatoriedad del cumplimiento de las reglas y directrices para todos los agentes del poder judicial de San Juan que interactúen con la IAGen en cualquier dispositivo o plataforma, cuando la interacción se relaciones con la actividad que desempeña, ya que de lo contrario advierte que se considerará como falta disciplinaria pasible de sanción.
El protocolo acordado que se incluye como anexo del Acuerdo General, aborda la temática señalando el alcance, los objetivos, las autorizaciones de acceso y uso, referencias sobre los “prompts” en sus diferentes formas.
También se incluyen los propósitos para el uso de la IA generativa, las reglas sobre confidencialidad y privacidad, con su obligación de “anonimizar los datos” antes de introducirlos en el programa, el comportamiento ético y el cumplimiento normativo.
También se incluyen los propósitos para el uso de la IA generativa, las reglas sobre confidencialidad y privacidad, con su obligación de “anonimizar los datos” antes de introducirlos en el programa, el comportamiento ético y el cumplimiento normativo.
Se anexa pautas sobre la valoración de los resultados brindados por la IA, obligando al usuario a verificar y validar la información antes de su uso, prohibiéndose la delegación de toma de decisiones.
Sumado a ello, el protocolo incluye sugerencias de seguridad, se obliga a los usuarios a reportar incidentes y se prohíbe la introducción de claves y otros datos sensibles que puedan comprometer la seguridad del poder judicial.
El poder judicial se reserva el derecho de monitoriar el uso de la IAGen, así como de actualizar o modificar el protocolo.
Finalmente, se incluyen prohibiciones específicas, como la no utilización para actividades personales, ni para generar o distribuir contenido ofensivo, ilegal o inapropiado, la prohibición de manipular datos o obtener acceso no autorizado a recursos del poder judicial, exponiéndolo a daños.
El texto cuenta con la firma de los jueces Marcelo Lima, Adriana García Nieto, daniel Olivares Yapur Juan Jose Victoria, Guillermo De Sanctir, y el fiscal General de la Corte Eduardo Quattropiani.