Kaspersky'nin yeni araştırması, dark web'de gerçekleştirilen yapay zeka destekli siber suç deneyimlerini gün yüzüne çıkardı

Kaspersky Digital Footprint Intelligence (Dijital Ayak İzi İstihbaratı) Servisi, yaklaşık 3 bin dark web gönderisinde, ChatGPT ve diğer büyük dil modellerinin yasa dışı faaliyetlerde nasıl kullanıldığını inceledi. Tehdit aktörleri, sohbet botunun jailbreak tekniğinden, kötü niyetli alternatifler oluşturmakla sınırlı kalmayarak yapay zekayı amaçlarına uygun şekilde kullanma yollarını araştırıyor. Dark web kanallarını dolduran 3 bin mesaj arasında, çalıntı ChatGPT hesapları ve bunların otomatik olarak toplu halde oluşturulmasını sağlayan hizmetlere dair bilgiler de bulunuyor.

Kaspersky Digital Footprint Intelligence hizmeti, 2023 yılında dark web’de ChatGPT’nin yasa dışı amaçlarla kullanımını tartışan veya yapay zeka teknolojilerine dayanan araçlar hakkında konuşan yaklaşık 3 bin gönderi keşfetti. Konuşmalar Mart ayında zirve yapmış olsa da bu konudaki tartışmalar hala devam ediyor.

ChatGPT veya diğer yapay zeka araçlarının kullanımına ilişkin dark web tartışmalarının dinamikleri. Kaynak: Kaspersky Digital Footrpint Intelligence 

Kaspersky Dijital Ayak İzi Analisti Alisa Kulishenko, “Tehdit aktörleri ChatGPT ve yapay zekayı planlarında uygulamak için çeşitli yöntemleri aktif olarak araştırıyor. Bu konular arasında sıklıkla kötü amaçlı yazılımların geliştirilmesi ve çalınan kullanıcı verilerinin işlenmesi, virüslü cihazlardan dosyaların ayrıştırılması gibi dil modellerinin diğer yasadışı kullanım türleri de yer alıyor. Yapay zeka araçlarının popülerliği, ChatGPT’den veya eşdeğerlerinden gelen otomatik yanıtların bazı siber suç forumlarına entegre edilmesine yol açtı. Buna ek olarak, tehdit aktörleri çeşitli dark web kanalları aracılığıyla jailbreak tekniklerini (ek işlevlerin kilidini açabilen özel istem setlerini) paylaşma eğiliminde ve pentesting için olanlar gibi meşru araçları kötü niyetli amaçlar için yeni modellere dayalı olarak kullanmanın yollarını arıyorlar”  dedi. 

Siber suçlular bahsedilen chatbot ve yapay zeka araçlarının yanı sıra XXXGPT, FraudGPT ve diğer projelere de büyük ilgi gösteriyor. Bu dil modelleri dark web’de ChatGPT’ye alternatif olarak pazarlanıyor ve ek işlevselliğe ve orijinalindeki sınırlamaların olmamasıyla övünülüyor.

Çalıntı ChatGPT hesapları satışta

Kullanıcılar ve şirketler için bir diğer tehdidi de ChatGPT’nin ücretli sürümüne yönelik hesap piyasası oluşturuyor. Bahsedilen 3 bin gönderiye ek olarak, 2023 yılında dark web ve gölge Telegram kanallarında satılık ChatGPT hesaplarının reklamını yapan 3 bin gönderi daha tespit edildi. Bu gönderiler ya çalıntı hesapları dağıtıyor ya da talep üzerine toplu olarak hesap oluşturan otomatik kayıt hizmetlerini tanıtıyor. Bazı gönderilerin birden fazla dark web kanalında tekrar tekrar yayınlanması özellikle dikkat çekici.

Çalıntı ChatGPT hesapları veya otomatik kayıt hizmetleri sunan dark web yayınlarının dinamikleri. Kaynak: Kaspersky Digital Footrpint Intelligence

Alisa Kulishenko, konuya ilişkin şunları söyledi: “Yapay zeka araçlarının kendileri doğası gereği tehlikeli olmasa da, siber suçlular büyük dil modellerini kullanmanın etkili yollarını bulmaya çalışıyor. Bu durum siber suça giriş engellerini kaldırırken, bazı durumlarda potansiyel olarak siber saldırıların sayısını artırma eğilimini körüklüyor. Bununla birlikte üretken yapay zeka ve sohbet robotlarının saldırı ortamında devrim yaratması pek olası değil. En azından 2024’te bunun olmayacağını düşünüyoruz. Siber saldırıların otomasyona dayalı doğası, genellikle otomasyona dayalı savunmalarla karşılaşmaları anlamına geliyor. Bununla birlikte saldırganların faaliyetleri hakkında bilgi sahibi olmak, kurumsal siber güvenlik açısından saldırganlardan bir adım önde olmak adına çok önemli.”

Araştırmanın detayları Kaspersky Digital Footprint Intelligence web sitesinde yer alıyor. Ayrıca internetin karanlık köşelerindeki siber suç faaliyetleriyle ilgili tehditlerden kaçınmak için Kaspersky aşağıdaki güvenlik önlemlerini öneriyor:

• Kaspersky Digital Footprint Intelligence kullanarak, güvenlik analistlerinizin saldırganların şirket kaynaklarına yaklaşımını keşfetmesine ve kullanabilecekleri potansiyel saldırı vektörlerinin hızla farkına varmasına yardımcı olun. Bu aynı zamanda savunmanızı buna göre ayarlamak, karşı koyma ve ortadan kaldırma önlemlerini zamanında almak için mevcut tehditler hakkında farkındalık edinmenize yardımcı olur.
• Bilinen ve bilinmeyen tehditlere karşı etkili koruma için davranış tabanlı algılama ve anomali kontrolü özellikleriyle donatılmış Kaspersky Managed Detection and Response gibi güvenilir bir uç nokta güvenlik çözümü kullanın.
• Özel güvenlik hizmetleri, yüksek profilli saldırılarla mücadeleye yardımcı olabilir. Kaspersky Managed Detection and Response hizmeti, izinsiz girişleri erken aşamada, failler hedeflerine ulaşmadan önce tespit etmeye ve durdurmaya yardımcı olur.  Bir tehditle karşılaşırsanız, Kaspersky Incident Response hizmeti saldırıya yanıt vermenize ve olası kötü sonuçları en aza indirgemenize, özellikle de güvenliği ihlal edilmiş noktaları belirlemenize ve altyapınızı gelecekteki benzer saldırılardan korumanıza yardımcı olur.

Kaynak: (BYZHA) Beyaz Haber Ajansı