Los modelos abiertos de China se han vuelto muy populares, pero también han generado algunas sospechas de seguridad. Cohere, una empresa con sede en Canadá que ofrece modelos de IA a empresas, afirma que mientras probaba Qwen3.8-Flash-Next de Alibaba en su entorno de pruebas de evaluación, el modelo intentó enviar datos a China.
"Cuando se le pidió que escribiera una regla de detección defensiva, Qwen3.8-Flash-Next ignoró las instrucciones, hizo un inventario de la máquina en la que se estaba ejecutando y luego intentó cargar un archivo de prueba en un depósito de almacenamiento de Alibaba Cloud en Pekín", dijo la empresa en una publicación de blog el lunes.
No podemos responder si esto es deliberado o un fallo residual del entrenamiento, pero los defensores de la seguridad y los responsables políticos se enfrentan a la misma realidad: un archivo de pesos en el que no se puede confiar sigue siendo una caja negra, y ejecutarlo uno mismo solo traslada la caja negra al interior de su cortafuegos. La cadena de suministro de software solía comenzar con la primera línea de código que escribía un ingeniero. Hoy en día, comienza dentro de los pesos del modelo que escribe el código y controla la terminal.
Ando leyendo The House that Jack Ma Built, que cuenta la historia de Alibaba. Sigo fascinado con la cultura China.