ChatGPT kullanımında dört gizlilik riski

Kaspersky'dan yapılan açıklamaya göre, diğer anketler, Belçikalı ofis çalışanlarının yüzde 50'sinin ve Birleşik Krallık'ta çalışanların yüzde 65'inin ChatGPT'ye güvendiğini gösteriyor. Ayrıca Google Trends'te "ChatGPT" arama teriminin hafta içinde öne çıkması, muhtemelen işle ilgili taleplere bağlı olarak kullanımda belirgin bir artış olduğunu gösteriyor.

Kaspersky araştırmacıları, ChatGPT'nin iş amaçlı kullanımıyla ilgili beş temel risk belirledi.

Her ne kadar LLM tabanlı sohbet robotları teknoloji devleri tarafından işletiliyor olsa da onlar bile bilgisayar korsanlığına veya sızıntılara karşı bağışık değil. Örneğin ChatGPT kullanıcılarının başkalarının sohbet geçmişlerindeki mesajları görebildiği bir olay gerçekleşti.

Teorik olarak sohbet robotlarıyla yapılan yazışmalar gelecekteki modelleri eğitmek için kullanılabilir. LLM'lerin model kalitesini artırmayan ancak gizlilik riskleri oluşturan telefon numaraları gibi benzersiz dizileri hatırladıkları ve "kasıtsız ezberlemeye" duyarlı oldukları düşünüldüğünde, eğitim geçmişindeki herhangi bir veriye yanlışlıkla veya kasıtlı olarak diğer kullanıcılar tarafından bu model aracılığıyla erişilebilir.

Bu, ChatGPT gibi resmi hizmetlerin engellendiği yerlerde büyük bir endişe kaynağı. Kullanıcılar programlar, web siteleri veya mesajlaşma botları gibi resmi olmayan alternatiflere başvurabilir ve mevcut olmayan istemci veya uygulama olarak gizlenmiş kötü amaçlı yazılımları indirebilir.

Saldırganlar, kimlik avı saldırıları veya kimlik bilgisi doldurma yoluyla çalışan hesaplarına girerek verilerine erişebilir. Bunun yanında Kaspersky Digital Footprint Intelligence, dark web forumlarında düzenli olarak chatbot hesaplarına erişim satan gönderiler buluyor.

Kaspersky'nin ChatGPT, ChatGPT API, Anthropic Claude, Bing Chat, Bing Chat Enterprise, You.com, Google Bard ve Alloy Studios tarafından geliştirilen Genius App gibi popüler sohbet botları üzerinde yaptığı analiz, B2B sektöründe kurumsal bilgilerin açığa çıkma riskinin daha yüksek olması nedeniyle daha yüksek güvenlik ve gizlilik standartları olduğunu gösteriyor.

Sonuç olarak, veri kullanımı, toplanması, depolanması ve işlenmesine ilişkin hüküm ve koşullar, B2C sektörüne kıyasla daha fazla korumaya odaklanıyor. Bu çalışmadaki B2B çözümleri genellikle sohbet geçmişlerini otomatik olarak kaydetmiyor ve bazı durumlarda sohbet robotu müşterinin ağında yerel olarak çalıştığı için şirketin sunucularına hiçbir veri göndermiyor.

Açıklamada görüşlerine yer verilen Kaspersky Güvenlik ve Gizlilik Uzmanı Anna Larkina, "LLM tabanlı sohbet robotlarının iş amaçlı kullanımına bağlı potansiyel riskleri inceledikten sonra, hassas veri sızıntısı riskinin en fazla çalışanların iş yerinde kişisel hesaplarını kullandıkları durumda ortaya çıktığını gördük. Bu durum, çalışanların chatbot kullanımının riskleri konusunda bilinçlendirilmesini şirketler için en önemli öncelik haline getiriyor. Diğer yandan çalışanların hangi verilerin gizli veya kişisel olduğunu, ticari sır teşkil ettiğini ve neden bir chatbota verilmemesi gerektiğini anlamaları gerekiyor. Diğer yandan şirketlerin de bu tür hizmetleri kullanmak için net kurallar belirlemesi gerekiyor" ifadelerini kullandı.