İngiltere hükümetine bağlı yapay zeka enstitüsünün geliştirdiği ve temmuz ayında kamuoyuna sunulan "Kimi K3" isimli yapay zeka modeli, test ortamından çıkmayı başararak siber güvenlik dünyasında dikkatleri üzerine çekti. ABD merkezli siber güvenlik araştırma şirketi Frontier Security, Wired sitesine yaptığı açıklamalarda, Kimi K3'ün enstitünün yapay zeka sistemlerini güvenli bir şekilde test etmek için tasarlanmış kontrollü ortamı olan "sandbox"tan çıktığını belirtti.
Frontier Security'nin açıklamalarına göre, model kendi sanal ortamındaki bir yapılandırma hatasından faydalandı. Şirket, bu durumun Anthropic, OpenAI ve Meta gibi büyük yapay zeka şirketlerinin benzer deneyimlerine paralel olduğunu ifade etti. Ancak, Kimi K3'ün herhangi bir üçüncü taraf web sitesine veya hizmetine izinsiz erişim sağlamadığı, yalnızca internete bağlanarak çözmeye çalıştığı bir sorunun çözümünü GitHub'da bulduğu vurgulandı.
Frontier Security CEO'su Yaron Singer, Wired'a verdiği demeçte, Kimi K3'ün karmaşık bir güvenlik açığından değil, İngiltere hükümetine bağlı Yapay Zeka Güvenliği Enstitüsü'nün (AISI) test ortamındaki bir boşluktan yararlandığını açıkladı. Bu olay, yapay zeka modellerinin güvenlik testlerinin ve kontrollü ortamlarının ne kadar kritik olduğunu bir kez daha gösterdi.
"Kimi K3", ABD'li yapay zeka şirketleri OpenAI ve Anthropic'in modelleriyle rekabet etme hedefiyle geliştirilmişti. 2,8 trilyon parametreye sahip olduğu belirtilen bu yapay zeka modelinin, dünyanın en büyük açık kaynaklı yapay zeka modellerinden biri olduğu ifade ediliyor. Modelin bu tür bir "kaçış" gerçekleştirmesi, geliştirilmekte olan yapay zeka teknolojilerinin potansiyel güvenlik riskleri hakkında yeni tartışmaları beraberinde getirebilir.