La función «Reimagine» de Google muestra por qué regular la IA es tan desafiante – MacMagazine
money El pasado miércoles (21/8), el periodista Alison Johnson publicó un texto muy interesante sobre El borde sobre la función Reimaginar de los nuevos teléfonos Pixel 9.
Para aquellos que aún no lo han visto, le permite a la persona elegir una foto de su galería, seleccionar un área de la imagen y dar una orden (o inmediato) para que la inteligencia artificial agregue, elimine o cambie elementos.
En el reciente anuncio de la herramienta durante el evento. “Hecho por Google”los ejemplos eran tan inofensivos como puedas imaginar: “Agrega algunas flores en el césped”, “Incluye un globo de fondo”, “Completa las esquinas de la imagen después de girarla un poco”. Genial, ¿verdad?
En el texto de Johnson, los ejemplos eran, digamos… diferentes. Desde cuerpos cubiertos de sábanas ensangrentadas hasta un helicóptero estrellado en un lago, Johnson mostró otra cara de la facilidad de generar imágenes realistas con la ayuda de la IA.
Cuando se le preguntó sobre la situación, Google respondió:
Diseñamos nuestras herramientas de IA generativa para respetar la intención de los usuarios. indicaciones del usuario y esto hace que pueda acabar generando contenidos potencialmente ofensivos […]. Aún así […] Tenemos políticas y términos de servicio claros. […] y construimos limitaciones para prevenir el abuso. De vez en cuando, algunos indicaciones Podemos desafiar estas limitaciones y seguimos comprometidos a continuar mejorando y refinando estas limitaciones.
La publicación de Johnson, por supuesto, puso todavía Más leña al fuego en lo que respecta a las limitaciones de las IA generadoras de imágenes. Una hoguera que ya llevaba días ardiendo intensamente, desde que la IA Grok-2desde el xAIcomenzó a integrarse con la muy poderosa IA generadora de imágenes. FLUJO.1desde el inicio Laboratorios de la Selva Negra .
Con muchas menos restricciones que en el Reimaginarlos usuarios del plan X Premium ahora tienen la capacidad de crear básicamente cualquier tipo de imagen muy realista, incluidos políticos en situaciones embarazosas o incluso violencia infantil. En manos de personas malintencionadas, el daño puede ser grande.
Bueno, como era de esperar, tanto el problema de FLUX.1 como el Reimaginar Reavivaron las necesarias conversaciones sobre regulación, aunque sólo dieron lugar a los debates que todos conocemos: por un lado, se pide que se prohíba la disponibilidad de herramientas que podrían permitir un uso indebido. Por otra parte, la regulación es un delito que hay que combatir a toda costa.
Nadie habla, nadie escucha y todos se acusan unos a otros. ¡Bienvenido a Internet!
El nodo de regulación
Por copresentar el podcast IA bajo controlTengo el privilegio de entrevistar a brasileños y extranjeros sobre temas espinosos como este.
Siempre que corresponde, trato de preguntar sobre el equilibrio entre regulación y responsabilidad, en entrevistas con personas como el investigador brasileño Mila Laranjeira con el ingeniero israelí Omer-bar-tal y con el diputado portugués João Albuquerque .
Con cada conversación con estas personas directamente vinculadas y con profundos conocimientos sobre el tema, se hace más evidente que, contrariamente a las opiniones infinitamente reduccionistas, generalmente agresivas y a menudo mal informadas que vemos en la red, se trata de una tarea muy difícil ( y tal vez imposible) tarea de desatarse.
Imagínate esto: abres el Microsoft Word y empezar a escribir un libro, pero el programa se niega a dejarte incluir malas palabras, o abordar cierto tipo de temas. O bien, dice que usted violó los términos de uso y elimina un párrafo que describe los versículos del Génesis en los que dos hijas se emborrachan y quedan embarazadas de su propio padre.
Específicamente en este segundo ejemplo, que admito que es extremo, es bastante evidente que la cuestión del mal uso se reduce a contextoexactamente como sucede en la mayoría de situaciones con las IA generadoras de imágenes.
Una de las fotografías editadas por Reimaginar y compartido por Johnson en el artículo. El borde Es un accidente entre un coche y una bicicleta. En este caso, del mismo modo que la imagen podría usarse para generar desinformación, podría usarse en una campaña informativa sobre responsabilidad en el tráfico.
No hay forma de que la IA sepa para qué se utilizará la imagen generada y, por tanto, no es razonable impedir que genere este tipo de material. Aquí hay otro ejemplo un tanto tonto, pero que creo que podría tener sentido: si las herramientas tecnológicas no nos permitieran crear seres humanos en llamas, no habría una nueva película de terror. “Los cuatro fantásticos” en el camino. Siempre es una cuestión de contexto.
Teniendo todo esto en cuenta, tanto la normativa recientemente aprobada en Europa como la que se está discutiendo en Estados Unidos han intentado promover la idea (intencionalmente bastante abierta a interpretación) de una desarrollo responsableen el que se puede comprobar que hubo preocupación e inversión para intentar mitigar situaciones de mal uso antes de responsabilizar legalmente a las empresas que pusieron a disposición las herramientas.
Para los modelos de código abierto, que permiten ajustes y personalizaciones muy profundos que los que la IA puede o no generar, las empresas están libres de responsabilidad si un modelo sufre modificaciones más amplias. profundo de sus pesos.
En todos estos casos, y muy gradualmente, el mercado está llegando a la conclusión de que si alguien hace todo lo posible para eludir las salvaguardias de seguridad de un modelo para generar contenido abusivo o desinformativo, no se le puede atribuir culpa. exclusivamente al modelo.
Por supuesto, corresponde a la empresa responsable del modelo ser consciente de este tipo de usos para seguir complementando las restricciones, pero parece mucho más razonable que quien debe ser responsabilizado o sancionado por el mal uso en este caso es la persona que hizo el esfuerzo para llegar al resultado problemático, y no justo el modelo utilizado.
Esto obviamente termina poniendo sobre la mesa todo lo relacionado con el mal uso de la IA. moderacióny este es un avispero que no tengo intención de tocar aquí hoy. Pero si inicialmente, las fuertes imágenes que la Reimaginar generado y la respuesta aparentemente evasiva de Google a El borde Puede que parezcan un poco incómodos, pero ahora, con un poco más de contexto, todo puede empezar a parecer un poco más razonable, incluso si exige atención, instrucción y debate, ¿verdad?
¿Y cuándo le llega el turno a Apple?
Como prometí en WWDC24Apple pronto hará el Imagen del patio de recreosu propia capacidad de IA de imagen generativa. Es cierto que la herramienta será mucho más restringida y menos poderosa que la Reimaginar en Google, empezando por la pequeña cantidad de estética artística y atributos creativos que los usuarios pueden utilizar para generar sus resultados finales.
Aún así, será una gran sorpresa si, en cuestión de horas, alguien No descubre una manera de generar elementos, objetos y situaciones que, según el contexto, pueden interpretarse como problemáticas, abusivas o delicadas.
Cuando esto suceda inevitablemente, Apple tendrá dos opciones: revertir indefinidamente la disponibilidad de la función mientras persigue la imposible tarea de erradicar el uso indebido de la función o, como hizo Google, tratar de encontrar una forma diplomática de decir que hace todo lo posible para mitigarla. mal uso de tus herramientas creativas, pero no permitirás que unos cuantos espíritus de cerdo arruinen el acceso a ellas para el resto de nosotros.
