| Getting your Trinity Audio player ready... |
El open washing es un concepto que se creó de la misma manera que el greenwashing, hacen referencia a algo que realmente no es. En el caso de los modelos de inteligencia artificial hacen referencia a la tendencia a llamar “código abierto” a todo lo relacionado con la AI, incluso cuando no es realmente abierto.
Un nuevo estudio encontró que la mayoría de los modelos de IA que afirman ser “abiertos”, en realidad no lo son. El reporte Rethinking open source generative AI: open-washing and the EU AI Act describe los riesgos de tener AI que se proclaman como código abierto cuando no lo son.
Open Washing y el modelo de lanzamiento por blogpost
La tendencia Open Washing está acompañada de la estrategia de lanzamiento que se ha hecho una costumbre y es un simple “lanzamiento por blogpost». Al ser un contenido propio y controlado desde la empresa pueden presentar sus modelos haciendo una declaración que constate que son abiertos con algunos datos que lo respalden pero sin respaldo de documentación.
“Cuando la IA generativa sigue el modelo de lanzamiento por blogpost, está cosechando los beneficios de imitar la comunicación científica sin realmente hacer el trabajo”, dice el informe.
En un principio puede parecer una simple falta de honestidad o la clásica verdad a medias. Sin embargo, las implicaciones van más allá de una omisión de cara al usuario, la Ley de IA de la UE incluye excepciones en cuanto a transparencia y otros requisitos para los desarrolladores de sistemas de “código abierto”.
Los riesgos de Open Washing.
Por desgracia con definiciones poco claras sobre el código abierto dentro de la Ley (y posibles legislaciones futuras), enfrentamos grandes riesgos de Open Washing.
Si bien la AI debería estar ligada de manera inequívoca con la característica “código abierto”, existe un debate implacable entre sí la AI debe o no estar a la mano de todos los usuarios.
En una publicación de blog en Open Future, un grupo de expertos europeos que apoya el código abierto, Alek Tarkowski escribió: “A medida que se redactan las reglas, un desafío es construir suficientes salvaguardias contra los intentos de las corporaciones de ‘Open Washing’”.
La Fundación Linux, una organización sin fines de lucro que apoya proyectos de software de código abierto, advirtió que “esta tendencia de ‘Open Washing’ amenaza la característica de la apertura: el libre intercambio de conocimientos, replicación y avance colectivo”.
Todo se reduce a divulgar poca información y controlar por completo la que existe. Los modelos más abiertos, operados principalmente por organizaciones sin fines de lucro, divulgan el código fuente y los datos de entrenamiento subyacentes, y utilizan una licencia de código abierto que permite una amplia reutilización. Pero incluso con estos modelos, hay obstáculos para que otros puedan replicarlos.
El Open Washing obstaculiza la innovación, hace al código abierto real menos atractivo y complican que las empresas más pequeñas encuentren financiamiento para proyectos realmente abierto. El open washing es malo para la comprensión pública de la IA, porque crea artefactos diseñados para impresionar sin proporcionar los recursos para alcanzar una comprensión más profunda de la tecnología.
Lee el reporte completo aquí.
