Openai, İran, Kuzey Kore, Çin ve Rusya'dan devlet destekli tehdit grupları tarafından kullanılan ve yapay zeka chatbot Chatgpt'i kötüye kullanan hesapları kaldırdı.
AI Araştırma Örgütü, Microsoft'un tehdit istihbarat ekibinden önemli bilgiler aldıktan sonra, büyük dil modeli (LLM) hizmetlerini kötü niyetli amaçlar için kötüye kullanan hack gruplarıyla ilişkili belirli hesaplara karşı harekete geçti.
Ayrı bir raporda Microsoft, bu gelişmiş tehdit aktörlerinin ChatGPT'yi nasıl ve neden kullandığına dair daha fazla ayrıntı sunuyor.
Aşağıdaki tehdit gruplarıyla ilişkili etkinlik platformda feshedildi:
Genel olarak, tehdit aktörleri, keşif, sosyal mühendislik, kaçırma taktikleri ve jenerik bilgi toplama gibi stratejik ve operasyonel yeteneklerini geliştirmek için büyük dil modellerini kullandılar.
Gözlenen vakaların hiçbiri, doğrudan kötü amaçlı yazılım veya eksiksiz özel sömürü araçları geliştirmek için LLM'lerin kullanımını içermez.
Bunun yerine, gerçek kodlama yardımı, kaçırma ipuçları talep etme, komut dosyası oluşturma, antivirüsü kapatma ve genellikle teknik işlemlerin optimizasyonu gibi daha düşük seviyeli görevlerle ilgilidir.
Ocak ayında, Birleşik Krallık Ulusal Siber Güvenlik Merkezi'nden (NCSC) bir rapor, 2025 yılına kadar sofistike gelişmiş kalıcı tehditlerin (APT'ler) operasyonlarının, özellikle kaçan özel kötü amaçlı yazılım geliştirmede, yönetim kurulu genelindeki AI araçlarından yararlanacağını öngördü.
Geçen yıl, Openai ve Microsoft'un bulgularına göre, kimlik avı/sosyal mühendislik gibi APT saldırı segmentlerinde bir artış oldu, ancak geri kalanı oldukça keşifti.
Openai, özel izleme teknolojisi, endüstri ortaklarından gelen bilgiler ve şüpheli kullanım kalıplarını tanımlamakla görevli özel ekipleri kullanarak devlet destekli bilgisayar korsanlarını izlemeye ve bozmaya devam edeceğini söyledi.
Openai'nin gönderisi, "Bu aktörlerin istismarından öğrenilen dersleri alıyoruz ve onları güvenlik konusundaki yinelemeli yaklaşımımızı bilgilendirmek için kullanıyoruz."
Şirket, "En sofistike kötü niyetli aktörlerin sistemlerimizi zarar için nasıl kullanmaya çalıştıklarını anlamak, gelecekte daha yaygın hale gelebilecek uygulamalara bir sinyal veriyor ve korumalarımızı sürekli olarak geliştirmemize izin veriyor."
Openai ChatGPT veri sızıntısı kusuru için kusurlu düzeltme
İngiltere, AI'nın önümüzdeki iki yıl boyunca fidye yazılımını güçlendireceğini söylüyor
AI'nın Siber Güvenlikte Oynadığı İkili Rol: Nasıl Önde Kalınır
2023'te eklenen en iyi Windows 11 özellikleri
Microsoft
Kaynak: Bleeping Computer