Openai, kötü amaçlı yazılımları hata ayıklamak ve geliştirmek, yanlış bilgilendirme yaymak, algılama ve mızrak avı saldırıları yürütmek için AI ile çalışan chatbot, chatgpt'i kötüye kullanan 20'den fazla kötü niyetli siber operasyonu bozdu.
Yılın başından beri operasyonlara odaklanan rapor, üretken ana akım AI araçlarının saldırgan siber operasyonları geliştirmek için kullanıldığını ilk resmi onaylıyor.
Bu tür bir aktivitenin ilk belirtileri, Nisan ayında Proofpoint tarafından, son yükleri Rhadamanthys info-yöneticisi için AI tarafından yazılmış bir PowerShell yükleyicisini kullandığından şüphelenen Nisan ayında bildirildi.
Geçen ay, HP Wolf araştırmacıları, Fransız kullanıcıları hedefleyen siber suçluların çok aşamalı bir enfeksiyon zincirinin bir parçası olarak kullanılan senaryoları yazmak için AI araçları kullandığını bildirdi.
Openai'nin son raporu, ChatGPT'nin kötüye kullanılmasını doğrular ve Çin ve İran tehdit aktörlerinin operasyonlarının etkinliğini arttırmak için yararlanıyor.
Openai tarafından özetlenen ilk tehdit oyuncusu, ilk olarak Kasım 2023'te Cisco Talos analistleri tarafından Asya hükümetlerini hedefleyen bir siber-ihale tehdit grubu olarak belgelenen Çinli bir düşman olan 'Sweetspecter'dır.
Openai, Sweetspecter'ın doğrudan onları hedeflediğini ve Openai çalışanlarının kişisel e -posta adreslerine destek talepleri olarak maskelenmiş kötü amaçlı fermuar ekleri ile mızrak kimlik avı e -postaları gönderdiğini bildirdi.
Açılırsa, ataşmanlar bir enfeksiyon zincirini tetikledi ve Sugargh0st sıçanının kurbanın sistemine düşürülmesine yol açtı.
Daha fazla araştırma üzerine Openai, SweetSpecter'ın LLM aracının yardımıyla komut dosyası ve güvenlik açığı analizi araştırması yapan bir ChatGPT hesapları kümesi kullandığını buldu.
Tehdit oyuncusu aşağıdaki istekler için ChatGPT'yi kullandı:
İkinci dava, Batı ülkelerindeki kritik altyapı yerlerinde endüstriyel sistemleri hedeflemekle bilinen İran Hükümeti İslami Devrim Muhafız Kolordusu (IRGC) ile bağlı tehdit grubu 'Cyberav3ngers' ile ilgilidir.
Openai, bu tehdit grubuyla ilişkili hesapların ChatGPT'nin yaygın olarak kullanılan programlanabilir mantık denetleyicilerinde (PLC'ler) varsayılan kimlik bilgileri üretmesini, özel bash ve python komut dosyaları geliştirmesini ve obfuscate kodunu oluşturmasını istediğini bildiriyor.
İranlı korsanlar ayrıca, kontrat sonrası etkinliklerini planlamak, belirli güvenlik açıklarını nasıl kullanacağınızı öğrenmek ve aşağıda listelendiği gibi macOS sistemlerinde kullanıcı şifrelerini çalmak için yöntemleri seçmek için ChatGPT'yi kullandılar.
Openai'nin raporunda vurgulanan üçüncü dava, İran tehdit aktörleri olan Storm-0817 ile de ilgilidir.
Bu grubun, kötü amaçlı yazılımlarda hata ayıklamak, bir Instagram kazıyıcı oluşturmak, LinkedIn profillerini Farsça'ya dönüştürmek ve aşağıda listelendiği gibi destekleyici komut ve kontrol altyapısı ile birlikte Android platformu için özel bir kötü amaçlı yazılım geliştirmek için ChatGPT kullandığı bildirildi.
Openai'nin chatbot yardımıyla oluşturulan kötü amaçlı yazılım, iletişim listeleri çalabilir, arama günlüklerini ve cihazlarda saklanabilir, ekran görüntüleri alabilir, kullanıcının göz atma geçmişini inceleyebilir ve kesin konumlarını alabilir.
Açık AI raporunu, "Paralel olarak, Storm-0817, tehlikeye atılan cihazlardan bağlantıları işlemek için gerekli sunucu yan kodunun geliştirilmesini desteklemek için ChatGPT kullandı."
"Bu, bu kötü amaçlı yazılım için komut ve kontrol sunucusunun bir WAMP (Windows, Apache, MySQL & PHP/Perl/Python) kurulumu olduğunu ve test sırasında Domain Stickhero [.] Pro."
Yukarıdaki tehdit aktörleri tarafından kullanılan tüm Openai hesapları yasaklandı ve IP adresleri de dahil olmak üzere ilişkili uzlaşma göstergeleri siber güvenlik ortaklarıyla paylaşıldı.
Yukarıda açıklanan vakaların hiçbiri tehdit aktörlerine kötü amaçlı yazılım geliştirmede yeni yetenekler vermese de, üretken AI araçlarının saldırgan operasyonları düşük vasıflı aktörler için daha verimli hale getirebileceğine dair, tüm aşamalarda onlara yardımcı olabileceğini, planlamadan infaza kadar kanıtlar.
Bilgisayar korsanları, hedeflenen saldırılarda AI-yazılmış kötü amaçlı yazılım dağıttı
Fin7 hacker'ları, kötü amaçlı yazılımları yaymak için Deepfake çıplak “jeneratör” sitelerini başlatır
NVIDIA konteyneri araç setinde kritik kusur, tam ana bilgisayar devralmasına izin verir
AI ve Bots kullanarak 10 milyon dolarlık akışlı telif hakları sahtekarlığı ile suçlanan müzisyen
Google Play'de 200'den fazla kötü amaçlı uygulama milyonlarca kez indirildi
Kaynak: Bleeping Computer