Si hoy te escribo para contarte que estoy de viaje y te envío por whatsapp un mensaje que dice que los extraterrestres se tomaron la ciudad de Nueva York y te lo acompaño con esta foto, ¿Qué pensarías? ¿Dudarías o la reenviarías?. Esa foto la produjo con mi instrucción la herramienta de IA Dall-e de OpenAI[1].
Es tanto lo que puede hacer la IA que ya no hay límite en los registros gráficos que se publican en las redes sociales o que circulan por internet. Y obviamente toda esa desinformación puede ser usada hasta para manipular votantes, generar violencia, reacciones de masas, y todo únicamente por fotos o imágenes que no son reales sino fabricadas o manipuladas con mala intención, pues las masas enardecidas no se toman el tiempo para verificar la fuente ni la veracidad de la información, sino que actúan desde la emoción y no desde la razón.
A la herramienta que diseña con IA le puedo pedir lo que se me pase por la cabeza y ella lo produce en una foto, o dibujo o pintura, según yo se lo pida, mejor que cualquier diseñador especializado, graduado en una universidad. Obviamente, esa posibilidad es tan amplia e ilimitada que se pueden lograr imágenes que parecen reales y no lo son. Y, como mencioné antes, el resultado de esas imágenes viajando por el ciber espacio puede ser desastroso. ¿Declaraciones de amor falsas también? La IA puede redactar una carta de amor, aunque no sea capaz de sentirlo. Pero una relación que nazca así, un amor artificial no tiene futuro. No puede florecer en la vida real, pues los sentimientos no se fingen y la inspiración y el talento no surge de la noche a la mañana.
Y en todo caso si la IA de tanto afinar su capacidad de redacción llegara a redactar cosas realmente impactantes y “sentidas”, la relación amorosa prácticamente es con la máquina en vez de con quien entrega la carta. Nuevamente nos encontramos frente al cuestionamiento: es mentira o es verdad? O es que queremos terminar en una relación amorosa con una máquina, como la que nos muestra la película Ella (her, 2013)?
Ese poder ilimitado que le damos a la IA y que sin duda se puede descontrolar es tan absurdo como que en esa película la relación del humano con la máquina se vuelve tan real que hasta discuten como discutiría una pareja de humanos. Raro no?
Y quizás más gráficamente y en dibujos animados ese descontrol de la IA nos lo muestra la película “Lluvia de Hamburguesas”(Cloudy with a chance of Meatballs, 2009), cuando esa máquina que generaba la comida que el programador le pidiera se desconfigura y ya no se deja mandar ni programar. Imaginariamente podríamos pensar que el hecho de que caiga comida del cielo sería bueno, no? Se solucionaría un gran problema del mundo: el hambre. Pero con ese descontrol de la máquina es tal la cantidad de comida que cae del cielo que se convierte en un problema inmanejable y se generan otros problemas más graves. Todo esto para ver en dibujos animados los efectos del poder descontrolado de las máquinas y hasta donde podríamos llegar.
Son alarmas básicas a las que debemos prestar atención!
Nota final: Esta reflexión también va cargada de agradecimiento a todos los amigos y familiares con quienes he compartido el tema y me han aportado sus opiniones y comentarios. Gracias a todos!
Si hoy te escribo para contarte que estoy de viaje y te envío por whatsapp un mensaje que dice que los extraterrestres se tomaron la ciudad de Nueva York y te lo acompaño con esta foto, ¿Qué pensarías? ¿Dudarías o la reenviarías?. Esa foto la produjo con mi instrucción la herramienta de IA Dall-e de OpenAI[1].
Es tanto lo que puede hacer la IA que ya no hay límite en los registros gráficos que se publican en las redes sociales o que circulan por internet. Y obviamente toda esa desinformación puede ser usada hasta para manipular votantes, generar violencia, reacciones de masas, y todo únicamente por fotos o imágenes que no son reales sino fabricadas o manipuladas con mala intención, pues las masas enardecidas no se toman el tiempo para verificar la fuente ni la veracidad de la información, sino que actúan desde la emoción y no desde la razón.
A la herramienta que diseña con IA le puedo pedir lo que se me pase por la cabeza y ella lo produce en una foto, o dibujo o pintura, según yo se lo pida, mejor que cualquier diseñador especializado, graduado en una universidad. Obviamente, esa posibilidad es tan amplia e ilimitada que se pueden lograr imágenes que parecen reales y no lo son. Y, como mencioné antes, el resultado de esas imágenes viajando por el ciber espacio puede ser desastroso. ¿Declaraciones de amor falsas también? La IA puede redactar una carta de amor, aunque no sea capaz de sentirlo. Pero una relación que nazca así, un amor artificial no tiene futuro. No puede florecer en la vida real, pues los sentimientos no se fingen y la inspiración y el talento no surge de la noche a la mañana.
Y en todo caso si la IA de tanto afinar su capacidad de redacción llegara a redactar cosas realmente impactantes y “sentidas”, la relación amorosa prácticamente es con la máquina en vez de con quien entrega la carta. Nuevamente nos encontramos frente al cuestionamiento: es mentira o es verdad? O es que queremos terminar en una relación amorosa con una máquina, como la que nos muestra la película Ella (her, 2013)?
Ese poder ilimitado que le damos a la IA y que sin duda se puede descontrolar es tan absurdo como que en esa película la relación del humano con la máquina se vuelve tan real que hasta discuten como discutiría una pareja de humanos. Raro no?
Y quizás más gráficamente y en dibujos animados ese descontrol de la IA nos lo muestra la película “Lluvia de Hamburguesas”(Cloudy with a chance of Meatballs, 2009), cuando esa máquina que generaba la comida que el programador le pidiera se desconfigura y ya no se deja mandar ni programar. Imaginariamente podríamos pensar que el hecho de que caiga comida del cielo sería bueno, no? Se solucionaría un gran problema del mundo: el hambre. Pero con ese descontrol de la máquina es tal la cantidad de comida que cae del cielo que se convierte en un problema inmanejable y se generan otros problemas más graves. Todo esto para ver en dibujos animados los efectos del poder descontrolado de las máquinas y hasta donde podríamos llegar.
Son alarmas básicas a las que debemos prestar atención!
Nota final: Esta reflexión también va cargada de agradecimiento a todos los amigos y familiares con quienes he compartido el tema y me han aportado sus opiniones y comentarios. Gracias a todos!
Carla A. Sarmiento Colmenares
Abogada, LL.M.
@sarmientocarla
[1] www.openai.com
Buscar
Publicaciones recientes