Devlet destekli birden fazla grup, üretkenliği artırmak ve saldırılar veya hedeflerde keşif için potansiyel altyapı hakkında araştırma yapmak için Google'dan AI destekli Gemini asistanı ile denemektedir.
Google'ın Tehdit İstihbarat Grubu (GTIG), geleneksel savunmaları atlayabilen yeni AI özellikli siber saldırılar geliştirmek veya yürütmek yerine öncelikle üretkenlik kazanımları için İkizler kullanan devlete bağlı ileri kalıcı tehdit (APT) gruplarını tespit etti.
Tehdit aktörleri, bu kamu hizmetleri en azından hazırlık dönemini kısaltabileceğinden, saldırı amaçları için AI araçlarını çeşitli başarı derecelerine yükseltmeye çalışıyorlar.
Google, 20'den fazla ülkeden APT gruplarıyla ilişkili İkizler faaliyetlerini tespit etti, ancak en önde gelenler İran ve Çin'den geliyordu.
En yaygın durumlar arasında araçlar ve senaryolar geliştirmek için kodlama görevleri, kamuya açıklanan güvenlik açıkları üzerine araştırmalar, teknolojiler (açıklamalar, çeviri) hakkında araştırmalar, hedef kuruluşlarla ilgili ayrıntıları bulmak ve tespitten kaçınmak, ayrıcalıkları artırmak veya yürütmek için yöntemleri aramak vardı. Uzaklıklı bir ağda iç keşif.
Google, İran, Çin, Kuzey Kore ve Rusya'dan APT'lerin hepsinin Gemini'yi denediğini ve aracın güvenlik boşluklarını keşfetmelerine, tespitten kaçınmalarına ve kontromasyon sonrası faaliyetlerini planlamalarına yardımcı olma potansiyelini araştırdığını söylüyor. Bunlar aşağıdaki gibi özetlenmiştir:
Google ayrıca, tehdit aktörlerinin İkizler'e karşı kamu jailbreaks kullanmaya çalıştığı veya platformun güvenlik önlemlerini atlamak için istemlerini yeniden ifade ettikleri vakaları gözlemlediğinden de bahsediyor. Bu girişimlerin başarısız olduğu bildirildi.
Popüler AI Chatbot Chatgpt'in yaratıcısı Openai, Ekim 2024'te benzer bir açıklama yaptı, bu nedenle Google'ın son raporu, üretken AI araçlarının her seviyedeki tehdit aktörleri tarafından büyük ölçekli kötüye kullanımının bir teyidi olarak geliyor.
Jailbreaks ve güvenlik baypasları ana akım AI ürünlerinde bir endişe olsa da, AI pazarı, kötüye kullanımı önlemek için uygun korumalardan yoksun olan AI modelleriyle yavaş yavaş dolduruyor. Ne yazık ki, bazıları bypass'a önemsiz kısıtlamalara sahip olanlar da artan popülerlikten yararlanıyor.
Siber güvenlik istihbarat şirketi Kela, yakın zamanda, kötü niyetli kullanımı kolaylaştırabilecek hızlı enjeksiyon saldırılarına karşı savunmasız olan Deepseek R1 ve Alibaba'nın Qwen 2.5 için gevşek güvenlik önlemleri hakkında ayrıntıları yayınladı.
Ünite 42 araştırmacıları ayrıca Deepseek R1 ve V3'e karşı etkili jailbreaking teknikleri gösterdiler, bu da modellerin hain amaçlar için kötüye kullanılması kolay olduğunu gösterdi.
Microsoft, teknoloji desteği dolandırıcılığını engellemek için Edge Scareware blokerini test ediyor
Google Chrome, yeni aldatmaca algılama özelliğindeki sayfaları analiz etmek için AI kullanıyor
FBI, yapay zeka ile çalışan sahtekarlık planlarının nasıl ele alınacağına dair ipuçlarını paylaşıyor
PYPI'da Infostealer kötü amaçlı yazılım tarafından taklit edilen Deepseek AI araçları
Google, 2024'te Play Store'dan 2.36 milyon riskli Android uygulamasını engelledi
Kaynak: Bleeping Computer