Kaspersky’nin yeni araştırması, karanlık ağdaki yapay zeka destekli siber suç deneyimlerini ortaya koyuyor

Kaspersky Dijital Ayak İzi İstihbarat Servisi, yaklaşık 3 bin dark web gönderisinde ChatGPT ve diğer önemli dil modellerinin yasa dışı faaliyetlerde nasıl kullanıldığını inceledi. Tehdit aktörleri, chatbotun jailbreak tekniği gibi kötü niyetli alternatifler yaratmakla sınırlı kalmıyor, aynı zamanda yapay zekayı amaçlarına uygun kullanmanın yollarını da araştırıyor. Dark web kanallarını dolduran 3 bin mesaj arasında, çalınan ChatGPT hesapları ve bunların otomatik olarak toplu olarak oluşturulmasını sağlayan hizmetlerle ilgili bilgiler de yer alıyor.

Kaspersky Dijital Ayak İzi İstihbarat servisi, 2023 yılında dark web’de ChatGPT’nin yasa dışı amaçlarla kullanımını tartışan veya yapay zeka teknolojilerine dayalı araçlardan bahseden yaklaşık 3 bin gönderi keşfetti. Mart ayında görüşmeler zirveye ulaşmış olsa da bu konudaki tartışmalar halen devam ediyor.

ChatGPT veya diğer yapay zeka araçlarının kullanımına ilişkin karanlık web tartışmalarının dinamikleri. Kaynak: Kaspersky Dijital Ayak İzi İstihbaratı

Kaspersky Dijital Ayak İzi Analisti Alisa Kulishenko, “Tehdit aktörleri, planlarında ChatGPT ve yapay zekayı uygulamanın çeşitli yollarını aktif olarak araştırıyor. Bunlar genellikle kötü amaçlı yazılımların geliştirilmesini ve çalınan kullanıcı bilgilerinin işlenmesi ve virüs bulaşmış cihazlardan belgelerin ayrıştırılması gibi dil modellerinin diğer yasa dışı kullanımlarını içerir. Yapay zekanın popülerliği Bu durum, ChatGPT veya eşdeğerlerinden gelen otomatik yanıtların bazı siber suç forumlarına entegre edilmesine yol açmıştır. Ayrıca, tehdit aktörleri çeşitli karanlık web kanalları aracılığıyla jailbreak tekniklerini (ek işlevlerin kilidini açabilecek özel istem setleri) paylaşma ve meşru suistimal etme eğilimindedir. Pentest araçları gibi araçlar. “Amaçlara yönelik yeni modellere dayanarak bunu kullanmanın yollarını arıyorlar.”söz konusu.

Siber suçlular, bahsedilen chatbot ve yapay zeka araçlarının yanı sıra XXXGPT, FraudGPT ve diğer projelere de büyük ilgi gösteriyor. Bu dil modelleri, ChatGPT’ye alternatif olarak karanlık ağda pazarlanmaktadır ve ek işlevlere sahip olmaları ve orijinalin sınırlamalarından yoksun olmaları ile övünmektedir.

Çalınan ChatGPT hesapları satışta

Kullanıcılara ve şirketlere yönelik bir diğer tehdit ise ChatGPT’nin ücretli sürümüne yönelik hesap pazarıdır. Bahsedilen 3 bin paylaşımın yanı sıra 2023 yılında dark web ve gölge Telegram kanallarında satılık ChatGPT hesaplarının reklamını yapan 3 bin paylaşım daha tespit edildi. Bu paylaşımlar ya çalıntı hesapları dağıtıyor ya da isteğe bağlı olarak toplu hesap oluşturan otomatik kayıt hizmetlerinin tanıtımını yapıyor. Bazı gönderilerin birden fazla dark web kanalında tekrar tekrar yayınlanması özellikle dikkat çekiyor.

Çalınan ChatGPT hesaplarını veya otomatik kayıt hizmetlerini sunan karanlık web yayınlarının dinamikleri. Kaynak: Kaspersky Dijital Ayak İzi İstihbaratı

Alisa Kulishenko, konuyla ilgili şunları söyledi: “Yapay zeka araçlarının kendisi doğası gereği tehlikeli olmasa da, siber suçlular geniş dil kalıplarını kullanmanın etkili yollarını bulmaya çalışıyor. Bu, siber suçun giriş noktasını ortadan kaldırdı ve bazı durumlarda potansiyel olarak siber saldırıların sayısını artırma eğilimini ateşledi. Ancak , üretken yapay zeka ve chatbot saldırılarının çevrede bir devrim yaratması pek olası değil.Bunun en azından 2024’te olmayacağını düşünüyoruz.Siber saldırıların otomatikleştirilmiş doğası, çoğu zaman otomatik savunmalarla rekabet edebilecekleri anlamına geliyor. Saldırganların faaliyetlerine ilişkin bilgiler, saldırganlardan bir adım önde olabilmek için kurumsal siber güvenlik açısından oldukça önemli. kıymetli.”

Araştırmanın ayrıntıları Kaspersky Dijital Ayak İzi İstihbaratı web sitesinde mevcuttur. Ayrıca Kaspersky, internetin karanlık köşelerindeki siber suç faaliyetleriyle ilgili tehditlerden kaçınmak için aşağıdaki güvenlik önlemlerini de öneriyor:

• Kaspersky Dijital Ayak İzi İstihbaratını kullanarak güvenlik analistlerinizin saldırganların şirket kaynaklarına yaklaşımını keşfetmelerine ve kullanabilecekleri potansiyel saldırı vektörlerinin hızla farkına varmalarına yardımcı olun. Bu aynı zamanda savunmanızı buna göre ayarlamanız ve karşı ve ortadan kaldırma önlemlerini zamanında almanız için mevcut tehditler hakkında farkındalık kazanmanıza da yardımcı olur.
• Bilinen ve bilinmeyen tehditlere karşı etkili savunma sağlamak için davranış tabanlı tespit ve anormallik tespitiyle donatılmış Kaspersky Managed Detection and Response gibi güvenli bir uç nokta güvenlik çözümü kullanın.
• Özel güvenlik hizmetleri yüksek profilli saldırılarla mücadelede yardımcı olabilir. Kaspersky Yönetilen Tespit ve Yanıt hizmeti, failler hedeflerine ulaşmadan önce izinsiz girişlerin erken bir aşamada tespit edilmesine ve durdurulmasına yardımcı olur. Bir tehditle karşılaşırsanız Kaspersky Incident Response hizmeti, özellikle tehlikeye atılan noktaları tespit ederek ve altyapınızı gelecekte benzer saldırılara karşı koruyarak saldırıya yanıt vermenize ve olası olumsuz sonuçları en aza indirmenize yardımcı olur.

Kaynak: (BYZHA) Beyaz Haber Ajansı