¿Generación técnica ética de la inteligencia artificial? Adobe Firefly podría ser la respuesta – Ars Technica

El martes, Adobe una declaración Firefly, su nuevo generador de síntesis de imágenes con IA. A diferencia de otros modelos de arte de IA como Stable Diffusion y DALL-E, Adobe dice que el motor Firefly, que puede generar nuevas imágenes a partir de descripciones de texto, ha sido entrenado solo en fuentes legales y éticas, lo que hace que su salida sea clara para el uso de artistas comerciales. Se integrará directamente en Creative Cloud, pero por ahora es solo vacante como versión de prueba.

Desde el surgimiento generalizado de los fotomontajes el año pasado, el campo ha estado plagado de problemas de ética y derechos de autor. Por ejemplo, un creador de IA llamado Stable Diffusion obtuvo su capacidad para crear imágenes a partir de descripciones de texto después de que los investigadores entrenaron un modelo de IA para analizar cientos de millones de imágenes extraídas de Internet. Muchas (quizás la mayoría) de estas imágenes tenían derechos de autor y se obtuvieron sin el consentimiento de los titulares de los derechos, lo que ha dado lugar a demandas y protestas por parte de los artistas.

Para evitar esos problemas legales y éticos, Adobe ha creado un creador de arte de IA que está capacitado solo en imágenes de Adobe Stock, contenido con licencia pública y contenido de dominio público, lo que garantiza que el contenido generado sea seguro para uso comercial. Adobe entra en más detalles en el Nuevo lanzamiento:

Adobe Firefly constará de múltiples modelos, diseñados específicamente para atender a clientes con una amplia gama de habilidades técnicas y antecedentes, que funcionan en una variedad de casos de uso diferentes. El primer modelo de Adobe, entrenado en imágenes de Adobe Stock, contenido con licencia pública y contenido de dominio público donde los derechos de autor han expirado, se centrará en imágenes y efectos de texto y está diseñado para crear contenido seguro para uso comercial. Los cientos de millones de imágenes con licencia profesional de Adobe Stock se encuentran entre las de mayor calidad del mercado y ayudan a garantizar que Adobe Firefly no cree contenido basado en la propiedad intelectual o las marcas comerciales de otras personas. Los futuros prototipos de Adobe Firefly aprovecharán una variedad de activos, tecnología y datos de capacitación de Adobe y más. A medida que se implementen otros modelos, Adobe continuará priorizando el abordaje de sesgos potencialmente dañinos.

Además de su compromiso con un generador de IA más ético, Adobe duplica la ética con una etiqueta de «no entrenar» para los creadores que no quieren que su contenido se use para entrenar el modelo. Según Adobe, esta marca permanecerá «asociada con el contenido donde sea que se use, publique o almacene».

En términos de rendimiento, Adobe Firefly se parece a DALL-E de OpenAI, aunque Ars aún no ha podido calificar su rendimiento. demostraciones en sitio web de luciérnaga Demostración de varias capacidades, incluido Texto a imagen (crear imágenes únicas a partir de una descripción de texto), Efectos de texto (aplicar patrones o texturas usando un mensaje de texto) y Vector Recolor (crear formas únicas de trabajo a partir de una descripción de texto).

Queda por ver si los artistas adoptarán Firefly en su flujo de trabajo, pero el nuevo paradigma de IA parece, a primera vista, un paso adelante positivo para los defensores de la ética de la IA. Como siempre, tendremos que tratar las reclamaciones de Adobe con precaución y lo mantendremos informado a medida que surjan nuevos detalles.