'X' elimina la capacidad de la IA de Grok para desnudar digitalmente a personas

X, la red social anteriormente conocida como Twitter, ha actualizado la política de generación de imágenes de su chatbot de IA, Grok, que anteriormente le permitía producir imágenes falsas de personas reales en situaciones ‘delicadas’.

La herramienta de IA de Elon Musk recibió hace poco una actualización en sus capacidades de generación de imágenes, lo que permitía usar su bot de respuesta para editar imágenes subidas.

Por ejemplo, se puede pedir al bot que edite la imagen de un Samsung Galaxy y la haga parecer un iPhone. Este es un uso muy básico para esta nueva actualización, ya que algunos usuarios de la red social han usado la función para producir imágenes sexualizadas.

Un mensaje de “ponla en bikini” explotó en la plataforma, donde los usuarios aprovechaban la capacidad de edición de imágenes de Grok para quitar la ropa de fotografías de mujeres y mostrarlas en bikini.

Lo más peligroso de esto era que permitía a cualquiera editar las imágenes de cualquier persona y usarlas en situaciones sexuales falsas. Los usuarios incluso usaron esta función para editar imágenes de personalidades de perfil alto obligándolos a usar ropa inapropiada. Como era de esperar, el chatbot recibió muchas críticas por esto, con la consecuente solicitud a Apple y a Google para que eliminaran las aplicaciones X y Grok AI de la App Store y la Play Store, respectivamente.

Muchas figuras populares criticaron a Elon Musk por esta función y pidieron que la plataforma eliminara este tipo de imágenes deepfake. Tras todo esto, X finalmente ha anunciado que implementó las medidas necesarias para garantizar que la IA de Grok ya no pueda editar imágenes de personas reales con ropa provocativa. Además, la función de creación de imágenes, que hasta ahora estaba disponible para todos los usuarios, ahora es exclusiva para los suscriptores de pago.

Internet se ha visto inundado de imágenes generadas por IA desde que chatbots como Grok, Gemini y ChatGPT adquirieron la capacidad de generar imágenes. Basta con dar una simple indicación y el chatbot generará una imagen en cuestión de segundos.

La reciente tendencia del estilo Ghibli fue parte de esto: los usuarios aprovecharon el generador de imágenes de ChatGPT para crear adorables obras de arte al estilo Ghibli a partir de sus fotos. Sin embargo, la reciente controversia de Grok también ha sacado a la luz el lado oscuro de esta divertida experiencia.

Estos chatbots han dado a cualquiera que sepa escribir indicaciones la capacidad de editar imágenes de personas de cualquier forma. De hecho, estas herramientas se han vuelto tan avanzadas recientemente que es muy difícil determinar si una imagen se generó mediante IA. Esto facilita la difusión de información falsa y la creación de imágenes deepfake de personas haciendo cosas que, en última instancia, podrían dañar su reputación.

La IA ha llegado para quedarse, y prohibir estas herramientas definitivamente no es una opción, ya que también tienen muchos usos positivos. En cambio, las autoridades podrían tomar las medidas necesarias para monitorizar el tipo de imágenes que generan contra Gemini, ChatGPT o cualquier otra herramienta de IA si se descubre que facilita la generación de este tipo de imágenes sexuales.