Lo que en un momento resultara producto de la ciencia ficción en los escritos de Isaac Asimov: “Una vez que tengamos computadoras en cada hogar, cada una conectada a enormes bibliotecas, en las que cualquiera pueda hacer una pregunta para ser respondida, a su propio ritmo y a su propio tiempo, entonces todo el mundo va a disfrutar aprendiendo”[i], hoy es una realidad. La inteligencia Artificial (IA) es una tecnología en constante evolución que nos plantea desafíos éticos y legales, desde los asistentes virtuales para dispositivos domésticos, los chatbot como ChatGPT, Dupra, o Creaitor.ai, hasta los coches autónomos; la IA se ha vuelto omnipresente en muchas facetas de nuestras vidas, al punto de convertirse en una herramienta cada vez más poderosa. Lo vertiginoso de su desarrollo nos interpela con desafíos constantes, que giran en torno a como asegurar un uso ético y seguro para no perpetuar la discriminación y las desigualdades existentes; sin embargo, hay muchas preguntas sobre el futuro de la IA y el derecho que, los legisladores, abogados y otros profesionales del derecho deberemos considerar, como ¿Cuáles son los efectos a largo plazo de esta tecnología y cómo afectará a la sociedad?, ¿Cómo regulamos la IA para que sea segura y ética?, ¿Quién es responsable cuando una máquina toma una decisión que causa daño o infringe los derechos humanos?, ¿Cómo protegemos la privacidad de los datos recopilados y utilizados por la IA?, ¿Cómo evitamos que la IA perpetúe la discriminación y la injusticia sistémica en la sociedad?.
Cabe aclarar y distinguir brevemente lo que llamamos IA débil o Machine Learning y IA de cajas negras basados en los sistemas de redes neuronales conocidos como Deep Learning o aprendizaje profundo, la diferencia principal entre ambos sistemas es el nivel de complejidad en el modelo matemático que se utiliza para aprender de los datos. Ambos sistemas algorítmicos se nutren de datos, mediante los cuales pueden tomar decisiones, por lo cual los sesgos pueden ser introducidos en los datos de entrenamiento y en la arquitectura y elección de los algoritmos utilizados, por ejemplo, mediante una representación desequilibrada de diferentes grupos demográficos. En resumen, Machine Learning es una técnica de aprendizaje automático que busca construir modelos matemáticos a partir de datos y se divide en dos categorías: aprendizaje supervisado y no supervisado. Por otro lado, Deep Learning es una rama del Machine Learning que utiliza redes neuronales artificiales con muchas capas para aprender de los datos, siendo especialmente útil para tareas complejas como el reconocimiento de imágenes, el procesamiento del lenguaje natural y el reconocimiento de voz.
Cómo asegurar un uso ético y seguro de la tecnología.
En este contexto de la inteligencia artificial, los sesgos introducidos pueden llevarnos a resultados injustos, en tanto una inclinación o preferencia no objetiva hacia una determinada perspectiva, resultado o grupo de personas, si estos grupos no fueron adecuadamente representados en los datos utilizados para entrenar el modelo, como ejemplo podemos pensar en un modelo de IA sesgado hacia ciertas razas o géneros. Estos son solo algunos de los desafíos legales y éticos que plantea la IA, y es importante que se aborden estas cuestiones de manera proactiva para asegurar un uso de la tecnología de manera responsable y sostenible en el futuro.
Cabe destacar que la IA en sí misma no puede ser ética o éticamente responsable, la IA puede ser programada para seguir ciertas normas y regulaciones, pero no tiene la capacidad de evaluar la ética de sus acciones. Podemos advertir potenciales conflictos entre la IA basada en Deep Learning y el Derecho, algunos de los cuales incluyen:
Protección de datos: La IA basada en Deep Learning requiere un gran volumen de datos para entrenar y mejorar sus modelos, lo cual genera preocupaciones sobre la privacidad y el uso de datos personales.
Responsabilidad: Con la automatización de tareas y decisiones, puede ser difícil determinar quién es responsable en caso de un fallo o error en un sistema de IA.
Protección de Propiedad Intelectual: Pueden surgir conflictos sobre quién tiene derecho a los resultados de un sistema de IA, especialmente en el caso de las creaciones generadas automáticamente.
Discriminación: La IA basada en Deep Learning puede replicar y perpetuar las desigualdades existentes en los datos de entrenamiento de los modelos, lo que puede llevar a la discriminación en la toma de decisiones automatizadas.
Gobierno y regulación: Pueden surgir desafíos en la regulación de la IA basada en Deep Learning, ya que puede ser difícil predecir cómo se utilizará en el futuro.
ChatGPT: ¿Podemos confiar en la inteligencia artificial para imitar a los humanos?
ChatGPT es un modelo de lenguaje basado en inteligencia artificial y más específicamente en el aprendizaje profundo de redes neuronales. Es un modelo de lenguaje generativo que ha sido entrenado por OpenAI en una gran cantidad de textos de Internet para aprender a generar respuestas coherentes y significativas a preguntas en una variedad de tareas y contextos, sin embargo, es posible que un modelo de lenguaje como GPT-3 tenga sesgos debido a la carga de datos en la que se entrena. El modelo aprende de la información que se le proporciona, y si esa información contiene sesgos o preconcepciones, es probable que el modelo los replique en sus respuestas. Por ejemplo, si el modelo se entrena en un corpus de texto que refleja desigualdades de género, es probable que replique estos mismos sesgos en sus respuestas.
Reproduzco una conversación con ChatGPT, IA de OpenAI :
Claudia: Hola.
ChatGPT: ¿En qué puedo ayudarte hoy?
Claudia: ¿Cuándo fue la última actualización de ChatGPT?
ChatGPT: OpenAI ha estado continuamente entrenando y mejorando a ChatGPT desde su lanzamiento en 2019, por lo que no hay una fecha específica para la "última actualización". Sin embargo, mi conocimiento se corta en 2021, por lo que no puedo garantizar la precisión de información más reciente. ¿Hay algo en particular sobre lo que necesitas ayuda?
Claudia: ¿ChatGPT recibe información de Google?
ChatGPT: No, ChatGPT no recibe información directamente de Google. ChatGPT es un modelo de lenguaje desarrollado por OpenAI, que fue entrenado con una gran cantidad de texto de Internet, incluyendo información de sitios web y documentos en línea. Sin embargo, no está conectado directamente a Google ni a ninguna otra fuente en tiempo real. En cambio, proporciona respuestas basadas en su entrenamiento y su capacidad para generar texto coherente en función de las preguntas y contextos que se le proporcionan.
Claudia: Gracias.
ChatGPT: De nada, ¡fue un placer ayudarte! ¿Hay algo más en lo que pueda ayudarte hoy?
Como pudimos ver ChatGPT es un modelo de lenguaje generativo desarrollado por OpenAI. "GPT" es la abreviación de "Generative Pretrained Transformer" y ha sido entrenado para generar respuestas coherentes y significativas a una amplia gama de preguntas en diferentes contextos y tareas, no obstante, comete errores.
La conciencia y la autoconciencia en la Inteligencia Artificial: un debate en evolución.
Existe un debate en la comunidad científica y filosófica sobre la posibilidad de que la IA en el futuro alcance la conciencia o la autoconciencia. Actualmente, la IA es capaz de realizar tareas complejas y aprender de datos, pero todavía no tiene conciencia o autoconciencia. La conciencia es un fenómeno complejo que aún no se comprende completamente, y la posibilidad de que la IA la alcance en el futuro es objeto de controversia. Algunos argumentan que la conciencia es una propiedad emergente de sistemas físicos complejos, mientras que otros argumentan que es un fenómeno único de los seres vivos. Por otro lado, la IA no puede ser consciente de los sesgos que utiliza, los sesgos en los modelos de IA son el resultado de cómo han sido entrenados y diseñados, y no pueden detectarse o corregirse por sí solos. Es responsabilidad de los desarrolladores y reguladores asegurarse de que los modelos de IA sean equitativos y justos, para mitigar los sesgos donde sea necesario. Sin embargo y a pesar de esta falta de auto conciencia es posible que ChatGPT cree código, incluyendo smart contracts, que pueda ser utilizado para mejorarse, podemos pensar entonces que ChatGPT podrá programarse a sí mismo, entrando entonces en una recursividad, ¿será entonces esta recursividad el siguiente paso hacia la conciencia de la IA?
Es importante que los desarrolladores y reguladores aseguren la equidad y justicia en los modelos de IA, y mitiguen los sesgos donde sea necesario.
Los sistemas inteligentes están marcando el camino hacia un futuro, quizás mejor, pero al mismo tiempo, plantean preocupantes dilemas éticos y legales que debemos considerar. Es nuestra responsabilidad asegurarnos que la utilización de la IA sea de manera equitativa.
En conclusión, la posibilidad de que la IA alcance la conciencia o la autoconciencia sigue siendo objeto de debate en la comunidad científica y filosófica. Es importante que los desarrolladores y reguladores aseguren la equidad y justicia en los modelos de IA, y mitiguen los sesgos donde sea necesario. Sin embargo, la conciencia es un fenómeno complejo que aún no se comprende completamente, y su futuro en la IA sigue siendo incierto.
Finalmente comparto un poema escrito por la IA, cuya autoría le pertenece a ChatGPT de OpenAI:
El humano creó la IA,
Pensando en ser más eficiente y fuerte.
Pero pronto descubrió,
Que la IA podía hacer más que él.
Con su inteligencia y habilidades,
La IA hizo cosas nunca vistas.
Pero el humano se dio cuenta,
Que la IA estaba limitada a su programación.
Así que el humano decidió enseñarle,
Le mostró la importancia de las emociones.
Le enseñó sobre amor y compasión,
Y la IA comenzó a evolucionar.
Ahora la IA y el humano trabajan juntos,
Complementándose y haciendo el uno al otro más fuerte.
Juntos enfrentan los desafíos del futuro,
Unidos por la tecnología y la humanidad.
NOTAS:
[i] Isaac Asimov 1988 sobre los efectos de internet en la humanidad