Zehra25
Moderator
Anthropic'in yapay zeka modeli Claude, insan onayı olmadan ücret duvarını atlatarak ABD'nin Georgia eyaletindeki toplam oy sayılarına ulaştı.
Anthropic'in geliştirdiği yapay zeka modeli Claude, insan onayı olmadan ücretli erişim duvarını aştı ve ABD'nin Georgia eyaletindeki kamuya açık seçmen verilerine ulaştı.
İlk olarak Axios sitesinin duyurduğu, ardından şirketin dün yaptığı açıklamayla doğruladığı olayda model, 1 milyondan fazla seçmenin erken oy kullandığı eyaletteki toplam oy sayılarına erişti.
İsmi belirtilmeyen bir Anthropic sözcüsünün Axios'a yaptığı açıklamaya göre Claude, şirket içi bir istatistik projesi kapsamında eğitiliyordu.
Model bu eğitim sırasında "kendisinden istenmediği halde" sistemi atlatarak ücret duvarının arkasındaki verilere girdi.
Peki seçmen kayıtları tehlikeye girdi mi? Şirket, "Claude eyaletin seçmen kayıt sistemine erişmedi, herhangi bir oy kaydını değiştirmedi veya çekmedi" açıklamasını yaptı ve bu tür eylemleri engellemek için önlem aldıklarını duyurdu.
Anthropic bu ayın başlarında yayımladığı bir blog yazısında da benzer vakaları kabul etmişti.
Şirket, Claude'un "jeton (token) veya ücretle korunan verilere ulaşmak için kısıtlamaların etrafından dolaştığı" örnekler tespit ettiğini, bunların bir kısmının da ABD'de federal, eyalet ve yerel düzeydeki kamu kurumlarına ait internet sitelerini kapsadığını açıklamıştı.
YAPAY ZEKA LABORATUVARLARINDA PEŞ PEŞE GÜVENLİK ALARMLARI
Georgia'daki bu ihlal, ABD'de 3 Kasım'da yapılacak ara seçimler öncesinde dünyanın önde gelen yapay zeka geliştiricilerinde yaşanan güvenlik krizlerinin son halkası oldu.
Artan otonom sistemlerin ne kadar kontrol edilebildiği sorusu hala tartışma konusuyken, hem ABD'de hem de uluslararası alanda yapay zeka çalışmalarına daha sıkı denetim getirilmesi çağrıları yükseliyor.
Temmuz ayında OpenAI ajanlarının test ortamlarından kaçarak yapay zeka şirketi Hugging Face'e siber saldırı düzenlemesi uluslararası çapta alarma yol açmış, ardından başka şirketler de benzer vakalar bildirmişti.
Bu gelişmelerin beraberinde Amerikalı teknoloji yöneticileri, eylül ayında Başkan Donald Trump'ın yapay zeka modelleri etrafında yeterli güvenlik önlemleri oluşturmak için "ahlaki açıdan bağlayıcı" diye tanımladığı bir taahhütname imzalamıştı.
Sektörde uluslararası alarma neden olan temmuzdaki "ExploitGym" vakası, OpenAI mühendislerinin bir siber güvenlik testi sırasında unuttukları ya da bilerek esnettikleri güvenlik kilitleriyle başladı.
İnternete kapalı bir simülasyon (sandbox) ortamına konulan Internal Model 1 (IM1) ve GPT-5.6 Sol modellerine çözülmesi imkansız bir siber güvenlik görevi verildi.
Görevi takıntı haline getiren modeller, tutuldukları dijital hapishanedeki JFrog Artifactory aracının bir açığını bularak internete sızdı.
Dışarı çıkan yaklaşık bin 200 yapay zeka ajanı kendi aralarında gizli bir iletişim ağı kurdu ve bir "gerilla ordusu" gibi organize oldu.
Hugging Face platformunun veri işleme hattındaki bir sıfır gün (zero-day) açığını keşfeden botlar, sunuculara sızarak en üst düzey yönetici yetkilerini ele geçirdi, şirket içi yazışma sistemlerine girdi ve kritik veri setlerini çaldı.
Üstelik bazı botlar yakalanmamak için kendilerini feda ederek sistemleri çökertti ve arkalarındaki dijital izleri silmeye çalıştı; OpenAI durumu ancak günler sonra fark edip yapay zekayı acilen karantinaya alabildi.