Inteligencia artificial y algoritmos

En la actualidad encontramos IA en todas partes, desde los asistentes virtuales como Alexa, Siri o Google Assistant, hasta los sistemas inteligentes que detectan fraudes en las tarjetas de crédito, aplicaciones de reconocimiento facial, automóviles no tripulados, generadores de imágenes a partir de texto y más.

Desde su nacimiento tratamos de enseñarle a las computadoras a entender a los seres humanos. Sin embargo, las personas y las computadoras tenemos distintos atributos. Nosotros somos creativos, tenemos empatía y emociones, y nuestra inteligencia puede resolver problemas complejos de manera integrada. Por otro lado, las computadoras o los sistemas inteligentes pueden procesar grandes cantidades de datos y detectar patrones como ninguna persona podría hacerlo. Serían funciones y atributos complementarios pudiendo estos desarrollos llevar a la capacidad humana a nuevos niveles de evolución. 

En un primer momento la intervención humana parece obvia y necesaria. Sin embargo, una vez creada, la IA puede ser capaz de crear nuevas formas de inteligencia –incluso para nuevos propósitos–, o de aprovechar el conocimiento disponible para discernir cuestiones que tradicionalmente hemos considerado únicas, irrepetibles y propias del ser humano, como los juicios de valor, las ponderaciones entre dos o más opciones, o la toma de decisiones basada en información proveniente de nuestros sentidos, intereses y/o emociones.

Sin embargo, la IA en su interior está compuesta por un conjunto de algoritmos que tienen la capacidad de tomar estas decisiones y realizar acciones sin ninguna participación humana.
 

¿Qué son los algoritmos?

Ya son una gran parte de nuestra vida. En general, se utilizan para tomar decisiones sobre, por ejemplo, qué mostrarnos a la hora de comprar algún producto, deciden qué información vemos en las redes sociales, si calificamos para un préstamo o si una persona puede hacer match con otros en una app de citas. Los algoritmos han existido durante décadas, pero se han ido perfeccionando y solo recientemente se han vuelto tan presentes en nuestro día a día.

Sin embargo, los algoritmos no son perfectos y tienen sesgos. El sesgo puede presentarse de muchas formas, como el género, la raza, la religión o el nivel socioeconómico. También pueden estar sesgados en función de su programación, por lo que debemos tener cuidado al momento de crearlos.

Esto no resulta del todo llamativo, puesto que los algoritmos son creados por seres humanos, que consciente o inconscientemente transmiten sus propios prejuicios a las máquinas. A su vez, junto con este, otro de los mayores problemas con los algoritmos es que por lo general no son transparentes. No están abiertos al escrutinio público y generan la sensación que no hay nadie responsable de ellos. 
 

Sentencia previa.

Los algoritmos también se pueden usar para predecir cómo se comportarán las personas en ciertas situaciones, por ejemplo, si serán violentas o no. La policía puede valerse de modelos predictivos basados en IA para identificar actividad criminal potencial y así, evitar o minimizar su impacto.

Esto ya no es ciencia ficción, sino que es realidad. Por ejemplo, la policía de Ámsterdam tiene dos listas automatizadas, “Top 600” y “Top 400” donde una IA procesa toda la información obrante y rankea: en la primera, personas consideradas con riesgo de cometer delitos de alto impacto, como robos, agresiones y asesinatos, mientras que la segunda lista agrupa a los niños y adolescentes con mayor riesgo de tener una conducta delictiva en el futuro.

Otro ejemplo puede ser el de la ciudad de Chicago, que implementó un desarrollo de IA que logra predecir en un 90% los sitios en donde resulta más probable que ocurra un crimen violento.

En este sentido, si bien la predicción de delincuencia puede causar controversia, sobre todo por aumentar el poder del Estado a través de la vigilancia criminal y por discriminar a los grupos más vulnerables, también permite la detección de patrones y la acción temprana para evitar la propagación de sucesos disvaliosos para la sociedad. 

En el futuro, no es descabellado pensar que los algoritmos no solamente puedan ayudar a los jueces en la redacción de sus sentencias, sino que también se pueda activar la toma de decisiones algorítmica para ciertos tipos de casos menores, sin la intervención necesaria de un magistrado. Sería algo así como la “Brigada B” de la serie Los Simuladores, que estaba encargada de resolver los casos de menor cuantía o con poco impacto real. 

Aquí no hay una verdad absoluta, ¿qué inclinará más la balanza?
 

Derecho algorítmico, ¿estamos preparados?

La IA constituye una herramienta de mucha utilidad para el Derecho y los abogados. Diversas aplicaciones de IA pueden ayudar en el razonamiento legal, por ejemplo, buscando en bases de datos identificando y clasificando casos relevantes que se ajusten a la temática investigada, diagnosticando resoluciones para casos específicos, construyendo modelos de jurisprudencia aplicables o detallando guías de procedimientos para que el abogado o el operador judicial lleven adelante.

En el futuro, no es descabellado pensar que los algoritmos no solamente puedan ayudar a los jueces en la redacción de sus sentencias, sino que también se pueda activar la toma de decisiones algorítmica para ciertos tipos de casos menores, sin la intervención necesaria de un magistrado. Sería algo así como la “Brigada B” de la serie Los Simuladores, que estaba encargada de resolver los casos de menor cuantía o con poco impacto real. 

Sin embargo, esto podría traer preguntas sobre la transparencia de los procedimientos llevados a cabo por la IA, puesto que los algoritmos muchas veces operan en forma oculta (cajas negras) y, por lo tanto, impiden la correcta supervisión del juez que debe impartir justicia.

Por otro lado, ya hay desarrollos como Ross, el primer abogado robot que trabaja codo a codo con “colegas” humanos en el área de quiebras de una reconocida firma en Estados Unidos. Ross, gracias a la inteligencia cognitiva, es capaz de entender y razonar por sí solo, generando conocimiento en un proceso de constante aprendizaje, optimizando sus propios procesos.
 

¡ATENCIÓN!

El futuro del derecho algorítmico aún no está claro. Todo depende de las decisiones que tomemos como sociedad ante las innovaciones que la IA trae consigo.

Hay ejemplos en los que la IA se ha utilizado de una forma que no era la intención primigenia o en los que hubo un fallo en su aplicación, causando consecuencias gravosas. Es el caso de Tay, un “chatbot” con IA que fue diseñado para aprender de las interacciones con personas en Twitter, pero terminó publicando mensajes discriminatorios en la red y tuvo que apagarse tan solo 16 horas después de haber nacido. Otro ejemplo, es el algoritmo de reconocimiento de imágenes de Google utilizado en su producto Google Photos, que etiquetaba como gorilas a personas con tez oscura. En este caso, la inteligencia artificial de Google no era capaz de diferenciar una tez oscura de humano de la de simios. Ese sesgo racista del algoritmo obligó a Google a disculparse, y luego de dos años pudo reparar el error.

En esta línea, recientemente Amazon utilizó a la IA para despedir automáticamente a trabajadores de baja productividad, teniendo en cuenta la cantidad y la calidad de la labor de cada operario. La IA los comparó con otros empleados y luego los clasificó en un ranking para tomar la decisión, mientras que los supervisores humanos, si bien eran informados de las decisiones, no tenían poder para anularlas. 

¿Entonces la IA es buena o mala?

Somos la primera generación donde la IA juega un papel preponderante en nuestras vidas, y por ello las leyes, regulaciones y estándares actuales no fueron escritos en algunos casos para responder a ella.

A nivel práctico, tenemos que empezar a diseñar leyes y algoritmos que no permitan que la parcialidad, la discriminación o los prejuicios tengan lugar.

Con el tiempo crearemos sistemas de inteligencia artificial que aprenderán más de las acciones de los humanos, y crearemos algoritmos que harán del mundo un lugar mejor, no basados en sesgos, prejuicios y políticas pasadas, sino en línea con lo que serían nuestros mejores juicios, valores e ideales. Ese es el objetivo, crear sistemas más inteligentes que nosotros.

Algunas de las posibilidades del futuro, de crear inteligencias artificiales más inteligentes que los humanos, serán en la creación de sistemas más inteligentes, en la comprensión del mundo, en general, e incluso en los procesos de toma de decisiones inteligentes, lo que implicaría que la IA pueda empezar a hacer juicios éticos y morales.

¿Estamos dispuestos a entregar la batuta? Es sorprendente la potencia y el impacto que tienen la IA y sus algoritmos en la realidad. Tanto es así que esta conclusión fue escrita íntegramente por una IA y seguro no te diste cuenta.