Sarılma yüz platformunda en az 100 kötü niyetli AI ML modelinin bulunduğu, bazıları kurbanın makinesinde kod yürütebilen ve saldırganlara kalıcı bir arka kapı sağlayan.
Hugging Face, yapay zeka (AI), doğal dil işleme (NLP) ve makine öğrenimi (ML) ile uğraşan bir teknoloji firmasıdır ve toplulukların modelleri, veri kümelerini ve tam uygulamaları işbirliği yapabileceği ve paylaşabileceği bir platform sağlar.
JFrog'un güvenlik ekibi, platformda barındırılan yaklaşık yüz modelin kötü niyetli işlevsellik içerdiğini ve veri ihlalleri ve casusluk saldırıları riskini oluşturduğunu buldu.
Bu, kötü amaçlı yazılım, turşu ve sır tarama da dahil olmak üzere Sarmak Face'in güvenlik önlemlerini sarmaya ve güvensiz seansizasyon gibi davranışları keşfetmek için modellerin işlevselliğini incelemesine rağmen olur.
JFrog, sarılma yüzünde barındırılan pytorch ve tensorflow keras modellerini incelemek için gelişmiş bir tarama sistemi geliştirdi ve kullandı.
JFrog raporunu, "" Kötü niyetli modellere "atıfta bulunduğumuzda, özellikle bu konutları gerçek, zararlı yükleri belirttiğimizde vurgulamak çok önemlidir."
Diyerek şöyle devam etti: "Bu sayı, sarılma yüzünde pytorch ve tensorflow için kötü amaçlı modeller üretmeye yönelik çabaların dağılımının gerçek bir temsilini sağlayarak yanlış pozitifleri hariç tutar."
Son zamanlarda "Baller423" adlı bir kullanıcı tarafından yüklenen ve o zamandan beri Huggingface'den kaldırılan bir Pytorch modelinin vurgulanmış bir örneği, belirli bir ana bilgisayara ters kabuk oluşturma yeteneği veren bir yük içeriyordu (210.117.212.93) .
Kötü niyetli yük, bir Pytorch model dosyası yüklendikten sonra rasgele kod yürütmek için Python'un turşu modülünün "__Reduce__" yöntemini kullandı ve kötü amaçlı kodu güvenilir serileştirme işlemine yerleştirerek algılamadan kaçındı.
JFrog, aynı yükü ayrı durumlarda diğer IP adreslerine bağlanan aynı yükü buldu ve kanıtlar operatörlerinin bilgisayar korsanları yerine AI araştırmacısı olma olasılığını gösterdi. Bununla birlikte, deneyleri hala riskli ve uygunsuzdu.
Analistler, operatörlerin gerçek niyetlerini belirlemek için etkinliği çekmek ve analiz etmek için bir balkon konuşlandırdılar, ancak yerleşik bağlantı (bir gün) döneminde herhangi bir komut yakalayamadılar.
JFrog, kötü niyetli yüklemelerin bazılarının, sarılma ve böcek ödüllerini toplama ve hata ödüllerini toplama konusunda güvenlik önlemlerini atlamayı amaçlayan güvenlik araştırmalarının bir parçası olabileceğini, ancak tehlikeli modeller halka açık hale geldiğinden, risk gerçek ve hafife alınmamalıdır.
AI ML modelleri önemli güvenlik riskleri oluşturabilir ve bunlar paydaşlar ve teknoloji geliştiricileri tarafından uygun bir şekilde takdir edilmemiş veya tartışılmamıştır.
Jfrog'un bulguları bu sorunu vurgulamakta ve ekosistemi kötü niyetli aktörlerden korumak için yüksek uyanıklık ve proaktif önlemler çağrısında bulunur.
Openai, devlet destekli bilgisayar korsanlarının chatgpt kullanmasını engeller
İngiltere, AI'nın önümüzdeki iki yıl boyunca fidye yazılımını güçlendireceğini söylüyor
AI'nın Siber Güvenlikte Oynadığı İkili Rol: Nasıl Önde Kalınır
Japonya, Kuzey Koreli hackerlar tarafından yaratılan kötü niyetli Pypi paketlerini uyarıyor
Lockbit fidye yazılımı Gizli olarak yeni nesil şifreleyiciyi yayından kaldırmadan önce inşa etmek
Kaynak: Bleeping Computer