Midjourney Planea Permitir a Cualquiera en la Web Editar Imágenes con IA
Publicado el 19 de octubre de 2024 por Kyle Wiggers
Midjourney está preparando el lanzamiento de una herramienta web mejorada que permitirá a los usuarios editar cualquier imagen que suban desde la web utilizando la IA generativa de Midjourney. Esta herramienta, que el CEO de Midjourney, David Holtz, dijo que se lanzará «a principios de la próxima semana», también permitirá a los usuarios retexturizar objetos en las imágenes para «repintar» sus colores y detalles según las descripciones proporcionadas.
El Auge de la Edición de Imágenes con IA
Editando imágenes existentes con IA se ha convertido en un tema candente últimamente. Plataformas como Meta han batallado con la forma de etiquetar imágenes editadas con herramientas de IA frente a aquellas generadas desde cero por un modelo de IA, mientras que empresas como Google han lanzado potentes funciones de IA que no ofrecen una indicación visual de que las imágenes han sido modificadas por IA.
El año pasado, Midjourney se comprometió a utilizar la propiedad Digital Source Type de IPTC, un estándar técnico que incrusta metadatos en las imágenes que indican que han sido generadas por IA. Sin embargo, la compañía es una de las pocas plataformas de IA importantes que no ha adoptado la tecnología de metadatos C2PA, que traza la procedencia completa de una imagen, incluyendo el equipo y software utilizados para crearla.
Moderación y Controversias
En un mensaje en el servidor oficial de Discord de Midjourney, Holz comentó que la nueva herramienta de imagen estará restringida inicialmente a un «subconjunto de la comunidad actual», con mayor moderación humana y una «nueva y más avanzada IA de moderación» para intentar prevenir abusos.
“Honestamente, no estamos seguros de cómo restringir con precisión el despliegue de esta función,” dijo. Midjourney está solicitando la opinión de la comunidad a través de una encuesta que utilizarán para determinar qué usuarios tendrán acceso primero.
Existen riesgos al implementar este tipo de herramientas de edición sin las salvaguardias adecuadas en su lugar. Podrían facilitar la infracción de derechos de autor a gran escala o promover la distribución de deepfakes engañosos.
El Creciente Problema de los Deepfakes
Los deepfakes están proliferando en las redes sociales, dificultando la distinción entre la verdad y la desinformación. Recientemente, imágenes generativas de IA falsificadas de destrucción y sufrimiento humano inundaron la web tras el paso del Huracán Helene.
Según datos de Clarity, una empresa de detección de deepfakes, se ha creado y publicado un 900% más de deepfakes este año en comparación con el mismo periodo el año anterior. Esto ha generado preocupación, comprensiblemente. Una reciente encuesta de YouGov reveló que el 85% de los estadounidenses están preocupados por la propagación de deepfakes engañosos en línea.
Ante la falta de una ley federal que criminalice los deepfakes en EE. UU., más de 10 estados han promulgado estatutos contra la suplantación asistida por IA. La ley de California, actualmente detenida, sería la primera en permitir que los jueces ordenen a quienes publiquen deepfakes que los eliminen o enfrenten posibles sanciones monetarias.
Midjourney no ha sido precisamente un ejemplo brillante de despliegue responsable de IA. Recientemente fue demandada debido a su supuesta utilización de contenido con derechos de autor para entrenar sus modelos de IA generativa. Sin embargo, en meses recientes, la plataforma ha tomado medidas para limitar la difusión de deepfakes, incluyendo filtros para figuras políticas de cara a las elecciones presidenciales de EE. UU.
Conclusión
El potencial de la IA para transformar la edición de imágenes es enorme, pero también presenta grandes desafíos y riesgos. La llegada de herramientas como la que planea lanzar Midjourney podría democratizar aún más el acceso a la edición creativa, pero también requiere un marco ético y legal robusto para asegurar que no se abuse de ellas. ¿Qué opinas sobre el equilibrio que se debe lograr entre innovación y responsabilidad en el uso de la IA?
Preguntas para la Audiencia
¿Crees que las nuevas herramientas de edición de IA deberían tener regulaciones estrictas?
¿Qué medidas consideras necesarias para prevenir el abuso de estas tecnologías?
¿Cuál es tu opinión sobre la capacidad de las IA para crear contenidos engañosos?