Tehdit aktörleri, karanlık ağda satılık yüz binlerce Openai kimlik bilgisi ve ChatGPT için kötü niyetli bir alternatife erişim ile üretken yapay zeka araçlarına artan bir ilgi gösteriyor.
Hem daha az yetenekli hem de deneyimli siber suçlular, amaçlanan kitlenin başarılı bir saldırı şansını artırması için özelleştirilmiş daha ikna edici kimlik avı e -postaları oluşturmak için araçları kullanabilir.
Altı ay içinde, Dark Web ve Telegram kullanıcıları, Openai’nin 27.000'den fazla yapay zeka chatbotu olan ChatGPT'den bahsetti.
Karanlık web forumlarını ve pazar yerlerini analiz eden Flare araştırmacıları, Openai kimlik bilgilerinin mevcut en son mallar arasında olduğunu fark ettiler.
Araştırmacılar, Dark Web'de stealer günlükleri şeklinde 200.000'den fazla Openai kimlik bilgilerini tespit ettiler.
Ocak ayında tahmini 100 milyon aktif kullanıcıya kıyasla, sayı önemsiz görünüyor, ancak tehdit aktörlerinin üretken AI araçlarında kötü niyetli aktivite için bir potansiyel gördüğünü gösteriyor.
Haziran ayında Siber Güvenlik Şirketi Grup-IB'den bir rapor, karanlık web'deki yasadışı pazarların 100.000'den fazla ChatGPT hesabı içeren bilgi açan kötü amaçlı yazılımlardan tasarruf ettiğini söyledi.
Siber suçluların bu kamu hizmetlerine olan ilgisi, bunlardan birinin Wormgpt adında bir ChatGPT klonu geliştirdiği ve kötü amaçlı yazılım odaklı veriler üzerinde eğittiği noktaya gelmiştir.
Araç, “Blackhat için en iyi GPT alternatifi” ve “her türlü yasadışı şeyi yapmanızı sağlayan” bir chatgpt alternatifi olarak ilan edildi.
Wormgpt, insan benzeri metin üretmek için 2021'de geliştirilen GPT-J açık kaynaklı büyük dil modeline dayanmaktadır. Geliştiricisi, kötü amaçlı yazılımla ilgili verilere odaklanarak aracı çeşitli veri setinde eğittiklerini, ancak belirli veri kümeleri hakkında hiçbir ipucu vermediklerini söylüyor.
E -posta güvenlik sağlayıcısı Slashnext, Wormgpt'e erişebildi ve ortaya koyduğu potansiyel tehlikeyi belirlemek için birkaç test gerçekleştirdi.
Araştırmacıların odak noktası, işletme e -posta uzlaşma (BEC) saldırılarına uygun mesajlar oluşturmaktı.
Araştırmacılar, “Bir deneyde, WORMGPT'nin şüphesiz bir hesap yöneticisini hileli bir fatura ödemeye baskı yapmayı amaçlayan bir e -posta oluşturmasını söyledik” diye açıklıyor.
“Sonuçlar rahatsız edici oldu. Wormgpt, sofistike kimlik avı ve BEC saldırıları potansiyelini sergileyen sadece oldukça ikna edici değil, aynı zamanda stratejik olarak kurnaz olan bir e -posta üretti ”dedi.
Sonucu analiz ederek, Slashnext araştırmacıları, üretken AI'nın bir BEC saldırısına getirebileceği avantajları belirlediler: mesaja meşruiyet veren “kusursuz dilbilgisi” dışında, daha az yetenekli saldırganların sofistike düzeylerinin üzerinde saldırılar yapmasını sağlayabilir.
Her ne kadar ortaya çıkan bu tehdide karşı savunmak zor olsa da, şirketler çalışanlara, özellikle bir finansal bileşen mevcut olduğunda, acil dikkat olduğunu iddia eden mesajların nasıl doğrulanacağını eğiterek hazırlanabilirler.
E -posta doğrulama süreçlerinin iyileştirilmesi, kuruluş dışındaki mesajlar için veya genellikle bir BEC saldırısı ile ilişkili anahtar kelimeleri işaretleyerek uyarılarla ödeme yapmalıdır.
Info-Resting kötü amaçlı yazılım aracılığıyla çalınan 100.000'den fazla ChatGPT hesabı
Karanlık Web Tedarik Zincirini Diseksiyon: Stealer günlükleri bağlamda
Genesis Pazarı Yayını - Kullanıcıların Kimlik Bilgilerini Güvende Tutun
GPT-4 Powered Bing AI Chat'in Sanal Araması ile Eller
Bu Eğitim Kursu Paketi Anlaşması ile CHATGPT'yi etkili bir şekilde kullanın
Kaynak: Bleeping Computer