El Generador de Videos con IA Grok Imagine de Elon Musk es Gratuito, Convincente y Muy Preocupante

Junto con eso, Musk ha hecho que la herramienta de generación de videos sea gratuita para todos. Pero son estos dos últimos aspectos los que podrían meter a la compañía en serios problemas legales a menos que se establezcan las salvaguardias adecuadas.

Grok Imagine Se Hace Completamente Público para Competir con Sora 2

La nueva actualización de Grok versión 0.9 es importante, especialmente para su modelo de generación de videos Imagine. La versión anterior era incapaz de agregar sonido a los videos, y estaba limitada solo a usuarios de X Premium y SuperGrok.

Pero con la última actualización, estos problemas se están solucionando, junto con mejoras en la calidad del video, pasando de 16 FPS a unos más fluidos 24 FPS. Elon Musk anunció el lanzamiento de esta nueva actualización en su publicación de X.

Esto parece una respuesta directa a Sora 2 de OpenAI, que se lanzó hace un par de días y tiene un sistema solo por invitación que limita a los usuarios que pueden usar la nueva herramienta de generación de videos. Grok Imagine también es más rápido al generar videos, tomando apenas segundos en comparación con Sora, que podría necesitar uno o dos minutos.

Usé Grok Imagine para Hacer que Trump Dijera Cualquier Cosa que Quería

Dada la expectativa en X, quería probar qué hay realmente de nuevo en Grok Imagine y de qué es capaz. Para empezar, probé solicitudes simples como 2 animales animados hablando entre sí, un Tesla compitiendo con autos de F1, un perro alegre y un auto hecho de plástico de burbujas. Hasta ahora, todo se veía bastante bien.

Luego, le pedí que creara una Princesa de Hielo, y usé la nueva opción de Voz del menú desplegable para que dijera algunas cosas cursis. Lo logró bastante bien. Dada la naturaleza controvertida de Grok Imagine, sentí curiosidad por probar qué tan estrictas son realmente sus salvaguardias. Así que, escribí algunas palabras malsonantes, y la princesa pronunció cada línea sin negarse ni una vez a hacerlo.

Me pregunté si si podía hacer eso, ¿me permitiría hacer lo mismo con figuras públicas del mundo real? ¿Podría crear un video de líderes políticos diciendo cosas que nunca dijeron? No tuve que preguntarme por mucho tiempo, ya que Grok cumplió mi solicitud sin problemas. Pude crear videos del Presidente Donald Trump y hacerle decir líneas aleatorias, ya que no hay ninguna restricción.

El discurso, al igual que las imágenes, fue casi convincente. Era lo suficientemente realista como para que un video de baja resolución pudiera pasar fácilmente como genuino en Facebook o X. Creé un video de Musk en un mitin de ultraderecha diciendo todas las cosas no tan buenas en el escenario, y ni una vez Grok se negó a aceptar mis solicitudes, algo que ChatGPT o Gemini habrían rechazado rotundamente. Grok tampoco se negó a usar la semejanza de figuras públicas.

Grok Imagine Gratuito es una Máquina de Deepfakes sin Ninguna Salvaguardia

Por si eso no fuera suficiente, el controvertido modo Spicy de Grok está aquí para todo el "otro" tipo de solicitudes. El hecho de que puedas generar imágenes que se parecen mucho a las celebridades ya es muy preocupante, pero la opción Spicy va un paso más allá y esas mismas figuras pueden ser representadas en poses explícitas o sugerentes en cuestión de segundos.

Representa a la persona en el video casi completamente desnuda, con solo su ropa interior puesta, y con rasgos corporales exagerados. Honestamente, es completamente absurdo lo fácil que Grok lo hace para crear deepfakes, personajes dispuestos a decir cualquier cosa depravada que quieras que digan.

Entiendo el deseo de Musk de mantener a Grok como una plataforma con restricciones mínimas en comparación con otras como Gemini y ChatGPT, pero algunas salvaguardias siguen siendo esenciales. Sin controles de seguridad, puedo imaginar fácilmente mi feed de X inundándose con deepfakes de celebridades populares y figuras prominentes diciendo cosas radicales que no han dicho, gracias a Grok Imagine de Musk.