Bu makale, Salesforce'un Seçkin Güvenlik Architect'si Varonis'in Nathan Coppinger ve Mike Smith ile işbirliği içinde yazılmıştır. Salesforce Einstein Copilot’un güvenlik modelinin nasıl çalıştığını ve güvenli ve güvenli bir sunum sağlamak için azaltmanız gereken riskleri kapsar.
Salesforce, Einstein Copilot'u hevesle bekleyen müşterilere resmen kullanıyor. Bu yeni konuşma yapay zeka asistanı, satış, pazarlama ve müşteri hizmetleri temsilcilerinin müşterilerle nasıl etkileşime girdiğini ve CRM aracındaki dahili belgelere nasıl eriştiklerini devrim yaratacaktır.
Einstein Copilot, günlük süreçleri kolaylaştırmak ve verimliliği artırmak için soruları cevaplamak, içgörü sağlamak ve Salesforce genelinde görevleri yerine getirmek için doğal dil sorgularını anlayabilir.
Yeni AI, verimlilik ve akıtma süreçlerine büyük sıçrayışlar getirecek, ancak hafifletmek için gerekli adımları atmanız gereken risklerle de gelecek.
Bu blogda şunları tartışacağız:
Einstein Copilot için temel kullanım durumlarından bazıları:
Ve tüm bunlar, kullanıcıdan basit bir dilde basit bir istem ile yapılabilir.
Aşağıda, Einstein Copilot'un nasıl sürdürdüğüne dair basit bir genel bakış:
Salesforce, müşterilerin Einstein Copilot aracılığıyla işlediği verileri güvence altına almaya kararlıdır. Bunu yapmak için Einstein Trust katmanını geliştirdiler.
Einstein Copilot üzerinden akan müşteri verileri güven katmanı içinde şifrelenir ve bu verilerin hiçbiri arka uçta tutulmaz. PII, PCI ve PHI gibi hassas veriler de maskelenir.
Einstein Trust katmanı ayrıca, toksik dil algılama yetenekleri aracılığıyla önyargılı, toksik ve etik olmayan yanıtların miktarını azaltmaya çalışacak ve son kullanıcı üzerindeki yükü azaltmaya çalışacaktır.
Salesforce, Einstein Copilot'un arkasındaki LLM'leri eğitmek için müşteri verilerini kullanmayacağını ve üçüncü taraflara satılmayacağını belirtti.
Salesforce güvenliğinin temel bileşenlerinden biri paylaşılan sorumluluk modelidir. Paylaşılan sorumluluk modeli, Salesforce ve müşterilerinin veri, AI ve genel platformun güvenli kullanımı konusunda rollerini ve sorumluluklarını tanımlar.
Bu modelde Salesforce, AI'yı (Einstein Trust katmanı tarafından gösterildiği gibi) ve Einstein Copilot aracılığıyla müşteri verilerinin güvenli bir şekilde işlenmesini sağlayan altyapı, platform ve hizmetleri güvence altına almaktan sorumludur.
Aynı zamanda, müşteriler AI'ya bağlanan uygulamaları ve yapılandırmaları güvence altına almaktan sorumludur:
Bu, her iki tarafın da en yüksek güvenlik ve güven seviyesini oluşturmak için birlikte çalışmasını sağlar.
Einstein Copilot, Salesforce kullanıcısının erişimini ve izinlerini devralır, bu nedenle kritik verileri kilitleyerek riski azaltmak, her kullanıcının (ve dolayısıyla Einstein Copilot'un) sadece işlerini yapmak için ihtiyaç duydukları şeye erişebilmesini zorunlu kılmak zorunludur.
Her kullanıcının izinlerini anlamak için şunları ayrıştırmanız gerekir:
Bununla birlikte, Salesforce izinleri oldukça karmaşıktır ve analiz etmek ve anlamak için önemli bir çaba gerektirir - özellikle büyük bir işletmenin her birinde düzinelerce izin içeren 1.000'e kadar izin seti olabilir.
Bunun da ötesinde, güvenlik ekipleri bu süreci tamamlamalarına yardımcı olmak için Salesforce ekiplerine güvenmeli ve Salesforce yöneticilerinin işleri çalıştırma ile dolu olduğu için, bu süreci tamamlamak ezici olabilir.
Einstein Copilot, dahili belgelerinize ve verilere, yararlı bağlamla toprak üreten AI istemlerine dayanır ve doğru ve ilgili bilgiler sağlar.
Salesforce'un dediği gibi, “İyi AI harika verilerle başlar.”
Einstein Copilot, Salesforce ortamınız ve bulut depolama (AWS ve kar tanesi gibi) dahil olmak üzere birden fazla veri kaynağını birleştiren Salesforce veri bulutundan veri çeker.
Veriler, üretken AI için gerçeğin kaynağıdır ve en iyi Einstein Copilot deneyimini sağlamak ve halüsinasyon riskini azaltmak için verilerinizin şu olması gerekir:
İzinlerinizin kilitlenmesini ve doğru olmasını sağlamanın yanı sıra, Einstein Copilot veri depoları arasında bir başlangıç kayıt ve dokümantasyon incelemesi yapmalısınız ve güncel, eski ve yanlış bilgileri güncelleyin veya temizleyin.
Ardından, dahili belgelerinizi temiz ve güncel tutmak için düzenli bir inceleme süreci ayarlayabilirsiniz.
Çevrenizde Einstein Copilot'un eğitilmesini veya yüzey cevaplarını istemediğiniz veriler olması gerekir; Salesforce ile Einstein Copilot'un erişmesini istemediğiniz verileri kesen bölgeler oluşturabilirsiniz. Ancak, bu verilerin ne olduğunu ve nerede yaşadığını belirlemek müşteriye bağlıdır.
Destekten pazarlamaya kadar birçok departman, müşteri ve halka açık içerik oluşturmak için Einstein Copilot'u kullanacak. Bununla birlikte, daha önce de belirttiğimiz gibi, AI çıkışının kalitesi ve doğruluğu genellikle girdinin kalitesine dayanır.
Salesforce'un istemi oluşturucu, kullanıcılarınızın AI'dan uygun yanıtlar üretmesini sağlar. Bu özellik, yöneticilerin uygun, konu üzerinde ve kaliteli AI çıktısını sağlamak için iş akışı içindeki belirli işlemler için koruyucu raylar oluşturmasını sağlar (örneğin, müşteri destek yanıtları).
Hızlı inşaatçı, kullanıcıya Einstein Copilot'a beslenmesi için bir şablon sağlayacak ve istemi dinamik olarak müşteri adları, hesaplar, bağlam ve AI'nın yanıtına yardımcı olabilecek ilgili makaleler gibi bilgilerle topraklayacaktır.
Bu aynı zamanda, kötü niyetli bir aktörün modeli yapmaması gereken bir yanıt vermeye kandırmaya çalıştığı hızlı enjeksiyon saldırılarına karşı korunmanıza yardımcı olacaktır.
AI yolculuğunuza Einstein Copilot ile başlamadan önce, Salesforce güvenlik duruşunuzu anlamanız ve verilerinizin güvenli ve sorunsuz bir sunum için hazırlandığından emin olmanız önemlidir.
Varonis Veri Güvenlik Platformu, kuruluşların Salesforce güvenlik duruşlarına genel bir bakış elde etmelerine yardımcı olur:
Varonis, kuruluşunuzun güvenli ve sorunsuz bir Einstein Copilot sunumuna hazırlanmasına yardımcı olabilir.
Bugün bir demo isteyin ve tamamlayıcı bir Salesforce risk değerlendirmesine başlayın. Başlamak ücretsiz ve kolaydır ve sonuçlar sizindir.
Bu makale başlangıçta Varonis blogunda yayınlandı.
Varonis tarafından sponsorlu ve yazılmıştır.
Kaynak: Bleeping Computer