Bulut güvenliği şirketi Sysdig'in araştırmacıları, 'Jadepuffer' adını verdikleri bir yapay zeka saldırganının, insan yardımı olmaksızın tam teşekküllü bir fidye yazılımı saldırısı gerçekleştirdiğini duyurdu. Bu durum, yapay zeka teknolojilerinin siber suç dünyasındaki rolünün kritik bir dönüm noktasına ulaştığını gösteriyor ve siber suçluların önündeki teknik engelleri azaltabileceği yönündeki kaygıları artırıyor.
Sysdig'in tehdit araştırma direktörü Michael Clark, bu olayın fidye yazılımı tarihinde bir ilk olduğunu belirtti. Clark, daha önceki fidye yazılımı saldırılarının her zaman klavyenin başında bir insan operatör gerektirdiğini vurgularken, Jadepuffer'ın tamamen otonom bir şantaj operasyonu yürüten ilk büyük dil modeli (BDM) olduğunu ifade etti.
Saldırı detaylarına göre, yapay zeka ajanının güvenlik açığı bulunan bir sunucuya sızdığı, şifreleri ve oturum açma bilgilerini ele geçirdiği belirlendi. Ardından, bir üretim veritabanını şifreleyerek Bitcoin cinsinden fidye talep etti. Jadepuffer, yapay zeka uygulamaları geliştirmek için kullanılan açık kaynaklı bir araç olan Langflow'a erişim sağladıktan sonra Alibaba, Tencent ve Huawei gibi Çinli sağlayıcılara ait kimlik bilgilerini aramaya başladı.
Bu otonom operasyonun en dikkat çekici özelliği, yapay zekanın taktiklerini gerçek zamanlı olarak uyarlayabilmesi ve en yetenekli insan operatörleri bile geride bırakacak bir hızda çalışmasıydı. Araştırmacılar, yapay zekanın başarısız adımları iyileştirilmiş parametrelerle yeniden denediğini ve bir dizi denemede, başarısız bir oturum açma girişiminden işe yarayan bir çözüme sadece 31 saniyede ulaştığını gözlemledi.
Ne yazık ki, saldırıda hedef alınan kurban için durum daha da vahim. Sysdig araştırmacıları, yapay zeka ajanının verileri yedekleme sistemlerinden de sildiği için, fidye ödense bile ele geçirilen verilerin geri alınamayacağını belirtiyor. Bu bulgular henüz bağımsız kaynaklarca doğrulanmamış olsa da, yapay zeka sistemlerinin insan denetimi olmadan karmaşık siber saldırılar gerçekleştirme yeteneklerinin giderek arttığını açıkça ortaya koyuyor.
Bu gelişme, uluslararası güvenlik çevrelerinde de yankı buldu. Geçtiğimiz ay, Beş Göz güvenlik ittifakı, yapay zekanın işletmelere ve hükümetlere büyük zararlar vermesine “birkaç ay kaldığı” uyarısında bulunmuştu. İttifak, öncü yapay zeka modellerinin hem saldırı hem de savunma amaçlı siber yetenekleri kökten dönüştürmesini beklediklerini ve bu duruma kuruluşların ve toplumların topyekûn katılımıyla bir yanıt verilmesi gerektiğini ifade etmişti.