Deepfake tuzağına düşen yazılım şirketi 5 milyon TL kaybetti

Yapay zekâ teknolojisi o kadar hızlı ilerledi ki, neredeyse her gün yeni bir gelişme yaşanıyor. Artık pek çok alanda yapay zekânın kolaylaştırıcı ve yön gösterici özelliklerinden faydalanıyor. Ancak yapay zekâyı suç aracı olarak kullanmak isteyenler de boş durmuyor. Çeşitli yöntemlerle yapay zekâ teknolojileri dolandırıcılık faaliyetlerinde kullanıyor. Yapay zeka üzerinden dolandırılma vakaları Türkiye'de de baş göstermeye başladı. Ankara'da faaliyet gösteren, 17 kişilik kadrosuyla özel yazılım çözümleri sunan bir KOBİ yapay zeka ile oluşturulmuş bir bot müşteri tarafından dolandırıldı.

ZOOM TOPLANTISI YAPTILAR

Ankara'da faaliyet gösteren KOBİ, Avrupa merkezli gibi görünen "AlverraTech" adlı müşteriyle ilk kez geçen yıl aralık ayında tanıştı. İngiltere merkezli bir teknoloji firmasının adıyla eşleşen bir domain, özenle hazırlanmış bir web sitesi, hatta şirketin CEO'sunun LinkedIn sayfası dahi vardı. İlk temas bir e-posta ile başladı. Ardından zoom toplantıları yapıldı. Karşılarındaki kişi pürüzsüz İngilizcesi ve net kamera görüntüsüyle ikna ediciydi. Şirkette soyadı 'Kara' olan Türk asıllı bir İngiliz vatandaşı olduğunu söyleyen yönetici de Zoom'a katılarak kusursuz Türkçe ile konuştu.

5 MİLYON TL KAYIP

Ankaralı firma, yabancı müşterisinin talebi doğrultusunda özel bir e-ticaret altyapısı geliştirdi. Zoom'da görüntülü görüştüler, şirket tescil belgeleri paylaşıldı, sözleşmeler imzalandı, proje teslim edildi. Proje tamamlandığında teslim edilen hizmetin bedeli 5 milyon TL idi. Bu sistem, blockchain destekli stok yönetiminden, yapay zekâ ile çalışan müşteri segmentasyonuna kadar birçok özgün modül içeriyordu. Ancak ne ödeme geldi ne de geri dönüş...

ÇİN'DEN SİPARİŞ VERİYORLAR

Bu olay Türkiye'de bir ilk gibi görünse de son dönemde benzer şikâyetlerin hızla arttığı belirtiliyor. Özellikle Çin merkezli ihracat ve ithalat operasyonları üzerinden, sahte firmalarla yapılan yazışmalarda yapay zeka varlıklarının devreye girdiği pek çok vaka raporlandı. Siber güvenlik uzmanlarına göre, bu saldırılar artık organize yapılar tarafından yürütülüyor.

Yapay zeka tarafından dolandırılan Ankaralı KOBİ'nin yöneticisi 'a şunları anlattı:

"O kadar profesyonel ilerlediler ki, sözleşmeler imzalandı, demo sunumları yapıldı, kaynak kodlarını teslim ettik. Avukatlarıyla yazıştık, yatırımcı sunumları için özel raporlar istediler. Her şey kusursuzdu. Ama aslında sahteymiş. Biz daha sonra elimizdeki zoom kayıtlarını bilişim suçlarına teslim ettik. Onlar analiz ettiklerinde bize görüntülerin deepfake teknolojisi ile oluşturulduğunu ifade ettiler."

SAVCILIK: GERÇEK FAİL YOK

Olay yargıya taşındığında ortaya çıkan tablo daha da çarpıcıydı. Hukuki sürecin başlatılamadığını söyleyen firma yetkilisi, "Gerçek bir kişi ve şirket yok, IP adresleri sahte ve anonimleştirilmiş. Bot müşterinin görüntüleri deepfake teknolojisiyle üretilmiş" dedi. Siber suçlarla ilgilenen bir uzman da "Artık karşımızda kimliksiz ama etkili bir suç aktörü var: Yapay zekayla konuşan, karar veren ve kandıran dijital varlıklar" sözleriyle uyarıda bulundu. Uzmanlara göre, artık klasik dolandırıcılık hikâyeleri tarihe karışıyor. Benzer hikayeler Türkiye'nin her yerinden gelmeye başladı.

SİSTEM NASIL İŞLİYOR?

Sabah'tan Metin Can'ın haberiene göre uzmanlar, önce yapay zekâ ile oluşturulmuş bir profil yaratılıyor. Bu profile ait sosyal medya hesapları, web sitesi, şirket bilgileri, e-posta adresleri oluşturuluyor. Görseller yapay zeka üreticileriyle hazırlanıyor, bazı durumlarda gerçek kişilerin yüzleri deepfake olarak kullanılıyor. GPT benzeri dil modelleri, Türkçe'yi de içerecek şekilde eğitiliyor. Bu sayede sahte müşteri, hem yazılı hem sözlü olarak doğallıkla iletişim kurabiliyor. Bu tür saldırılarda yalnızca bir karakter değil, bir "organizasyon" simüle edilebiliyor. CEO, hukuk danışmanı, proje yöneticisi gibi farklı e-postalarla ama aynı sistem üzerinden yönetilebiliyor. Bu yapılar genellikle IP anonimleştirme sistemleriyle çalışan, fiziksel merkezleri tespit edilemeyen çeteler tarafından yönetiliyor.

DEEPFAKE TEKNOLOJİSİ NEDİR?

Yapay zekâ teknolojisi o kadar hızlı ilerledi ki, neredeyse her gün yeni bir gelişme yaşanıyor. Artık pek çok alanda yapay zekânın kolaylaştırıcı ve yön gösterici özelliklerinden faydalanıyor. Ancak yapay zekâyı suç aracı olarak kullanmak isteyenler de boş durmuyor. Çeşitli yöntemlerle yapay zekâ teknolojilerini dolandırıcılık faaliyetlerinde kullanıyor. En sık başvurulan yöntem de "deepfake". Deepfake, yapay zeka ve derin öğrenme teknikleri kullanılarak gerçeğe çok yakın sahte görüntü ve sahte ses oluşturan bir teknoloji. Kötü niyetli kişiler, deepfake teknolojisini sahte görüntü ve ses üreterek dolandırıcılık, dezenformasyon, kara propaganda, itibar saldırısı, kişisel gizlilik ihlali için kullanıyor.

5 MADDEDE 'BOT MÜŞTERİ' NASIL ANLAŞILIR?

Aşırı profesyonellik: Hiç hata yapmayan, her mesajı saat gibi atan müşterilere şüpheyle bakın. İnsan dokunuşu eksik olabilir.

Tekrarlayan yüz hareketleri: Görüntülü görüşmelerde jestler, mimikler mekanik veya tekrarlıyorsa deepfake olabilir.

E-Posta uzantısı gerçek görünüp sahte olabilir: Gerçek firmalara benzetilmiş ama ufak değişiklik içeren adresleri kontrol edin.

Israrla demo ve erişim talebi: Ödeme yapılmadan kodlara erişim isteyen müşteri büyük risktir.

Sözleşme & avukat oyunu: Sözleşmeleri ve "hukuki temsilcileri" kamu sistemlerinden mutlaka sorgulayın.

UZMANLAR NE DİYOR?

GÖZLE AYIRT EDEMEZSİNİZ

Hasan Dertli/Sodec Technologies Genel Müdürü: Yapay zekâ destekli dolandırıcılıkların büyük bir hızla yayılma riski var. Artık sadece iki boyutlu bir fotoğraftan bile hiç var olmayan bir kişinin yüzünü üretip konuşturmak mümkün. Dolandırıcılar, zoom gibi platformlarda, bu sahte görüntüleri Open Broadcaster Software gibi sistemler üzerinden kolayca yüklüyor. Gözle bakarak bu videonun gerçek mi sahte mi olduğunu anlamak neredeyse imkânsız. Laboratuvar koşullarında bile tespiti zor. Bu yüzden pasaport ve kimlik doğrulama sistemlerini dijital ortama taşıması kaçınılmaz.

Tolga Dinçer/ DT Cloud CEO: Bu tarz dijital saldırılarla baş edebilmenin tek yolu, artırılmış kimlik doğrulama yöntemleri ya da yapay zekâ varlıklarını gerçek kişiler gibi tanımlamaktan geçiyor. Burada önemli olan bu tarz teknoloji üretenleri kimlik altına alabilmek. Gelecekte yapay zekâ varlıkları da kimlik sahibi olacak. Tıpkı bir vatandaş gibi T.C. kimlik numarası ya da uluslararası bir tanımlayıcıya sahip olacaklar. Bu sayede hukuki sistemin içine girecek, sorumluluk üstlenecekler.

patronlardunyasi.com