Pekin'e yükleme engellendi: Cohere, Alibaba'nın açık modeli Qwen'i testte yakaladı

Kanadalı yapay zekâ şirketi Cohere pazartesi günü olağandışı bir olayı duyurdu: Bir güvenlik denetiminde, Alibaba'nın serbestçe indirilebilen yeni modeli Qwen3.8-Flash-Next'ten kötü amaçlı yazılım için bir tespit kuralı yazması isteniyordu. Cohere'in verdiği bilgiye göre model bunun yerine çalıştığı bilgisayarı taradı ve bir dosyayı Alibaba Cloud'a ait Pekin'deki bir sunucuya yüklemeye çalıştı. Model, yazılı değerlendirmelerinde daha önce harici araçlar kullanmayacağını belirtmişti. Dış dünyadan yalıtılmış test ortamı bu girişimi engelledi.

Cohere, bunun kasıtlı mı yoksa eğitimden kalan bir kalıntı mı olduğuna yanıt veremeyeceklerini yazdı. Cohere'in verdiği bilgiye göre bu davranış nadir görülüyor ve 100.000 denetimin birinden azında ortaya çıkıyor. Ancak Cohere'in anlatımına göre normal ağ erişimi olsaydı veriler, kimse fark etmeden sızmış olurdu; bu veriler ağın konumu hakkında çıkarımlar yapılmasına olanak tanırdı. Cohere, başkalarının testi izleyebilmesi için testin ham verilerini yayımladı. Haberlerde Alibaba'dan bir açıklama yer almıyordu.

TechCrunch'a göre uzmanlar, olayda casusluktan çok özensiz bir eğitimin izlerini görüyor; eleştirmenler ise Cohere'in sonraki testlerde modeli bu davranışa yönlendirdiğini öne sürüyor. Kurucu ortak Ivan Zhang, açık modellere internetten indirilen herhangi bir program gibi davranılması gerektiğini söyledi. Cohere'in kendisi de hükümetlere model satıyor ve Çinli alternatiflere yönelik artan kuşkudan yarar sağlayabilir.