‘O olduğundan bir an bile şüphe etmedim; beni gerçekten korkutan kısım da bu.’
Arizona, ABD’den bir anne, yapay zekâ kullanarak kızının sesini klonlayan korkunç bir telefon dolandırıcılığı konusunda uyarıyor.
Tanımadığı bir telefon numarasından arama geldiğinde Jennifer DeStefano aramayı cevaplamayacaktı. Ancak 15 yaşındaki kızı kayak yapmak için şehir dışında olduğundan anne, kızının yaralanmış olabileceği endişesiyle telefonu açtı.
DeStefano, ‘‘Telefonu açtım ve kızımın sesini duydum, ‘Anne!’ diyordu ve hıçkırarak ağlıyordu’’ diye anlatıyor. ‘‘Ne olduğunu sordum. O da ‘Anne, her şeyi mahvettim’ dedi ve hıçkıra hıçkıra ağlamaya başladı.’’
DeStefano daha sonra bir erkek sesinin kızına, ‘‘Başını arkaya yasla, uzan’’ dediğini duydu. Bunun üzerine anne dehşete düştü.
Adamın telefonu alıp ‘‘Beni dinle. Kızın elimde. Polisi veya herhangi birini ararsan, kızına uyuşturucu verip ona canım ne isterse yapacağım, sonra da onu götürüp Meksika’ya atacağım’’ dediğini hatırlıyor DeStefano. ‘‘O anda titremeye başladım. Adam konuşurken arkadan kızım ‘Yardım et anne’ diye bağırıyordu. ‘Anne lütfen bana yardım et’ diye feryat ediyordu.’’
Telefondaki adam daha sonra para talep etti. Önce 1 milyon dolar istedi, ancak DeStefano parası olmadığını söyleyince dolandırıcı adam fidye talebini 50 bin dolara indirdi.
DeStefano adamı konuşturmaya devam etti. Telefon görüşmesi sırasında diğer kızının dans okulundaydı ve etrafı yardım etmek isteyen endişeli annelerle çevriliydi. Biri 911’i, diğeri ise DeStefano’nun kocasını aramıştı. Sadece dört dakika içinde bunun bir sahtekarlık olduğunu doğruladılar; kız güvendeydi ve hiçbir şeyden haberi yoktu.
‘‘Sonra bu adamlara çok kızdım’’ diyor DeStefano. ‘‘Bu şakası bile yapılmayacak bir konu.’’
Ses klonlama teknolojisinin korkutucu gelişimi
Kızının güvende olduğunu anladığı anda DeStefano telefonu kapattı. Ancak annenin aklından telefondaki sesin kızına ait olduğuna dair hiçbir şüphe geçmemişti.
‘‘Tamamen onun sesiydi. Onun ses tonuydu. Onun ağlama şekliydi’’ diye hayret ediyor anne. ‘‘O olduğundan bir an bile şüphe etmedim; beni gerçekten derinden etkileyen korkutucu kısım da bu.’’
Bir kızın sesini annesinin dahi ayırt edemeyeceği kadar iyi klonlayan bu teknolojinin arkasında tabii ki yapay zekâ vardı.
Arizona Eyalet Üniversitesi’nde yapay zekâ konusunda uzmanlaşmış bir bilgisayar bilimi profesörü olan Subbarao Kambhampati, ses klonlama teknolojisinin hızla geliştiğini söylüyor.
Kambhampati, ‘‘Artık kendi kulağınıza bile güvenemezsiniz’’ diyor.
Önceden bir sesi klonlamak için seçilen kişiden çok sayıda örnek alınması gerekiyordu. Ancak Kambhampati’nin belirttiğine göre, günümüzde bir kişinin sesini klonlamak için sadece üç saniyelik bir ses kaydı bile yeterli oluyor.
Kambhampati, ‘‘Üç saniyede sesinizin tıpatıp aynısı üretilebiliyor’’ diyor ve ekliyor: ‘‘Ses klonlamalarının çoğu duyguların yanı sıra ses tonunu da yakalıyor.’’
Derin öğrenme teknolojisi şu anda çok az denetime sahip ve Kambhampati’ye göre erişimi ve kullanımı giderek kolaylaşıyor.
‘‘Bu yeni bir oyuncak. Tabii ki iyi kullanımları olabilir ama kötüye kullanımları ciddi derecede endişe verici’’ diyor.
Sosyal medya hesaplarınızı gizli tutun
FBI’ın Phoenix ofisinden sorumlu özel ajan yardımcısı Dan Mayo, ses klonlama teknolojisini kullanan dolandırıcıların avlarını genellikle sosyal medyada bulduklarını söylüyor. Mayo, bu tür dolandırıcılıkların kurbanı olmamak için herkesi profilini gizli moda almaya çağırıyor:
‘‘Verilerinizi kilit altında tutmalısınız. Sorun şu ki, eğer profilinizi herkese açık hâle getirirseniz, bu tür insanların yakınlarınızı dolandırmasına kendi elinizle izin verirsiniz. Dolandırıcılar mümkün olduğunca fazla bilgi içeren herkese açık profiller arıyor ve bir av belirlediğinde ona dair her şeyi araştırıyor.’’
Federal Ticaret Komisyonu’na göre, dolandırıcılar genellikle kurbanlardan havale yapmalarını, kripto para göndermelerini veya hediye kartlarıyla fidye ödemelerini istiyor. Para bir kez transfer edildiğinde, geri almak neredeyse imkânsız.
Mayo, aşina olmadığınız bir alan kodundan veya uluslararası bir numaradan gelen aramalar ve telefondaki kişinin başkalarıyla konuşmanıza izin vermemesi gibi tehlike işaretlerine dikkat çekiyor.
‘‘Böyle bir durumda izlediğiniz filmleri düşünün. Karşınızdaki kişiyi mümkün olduğunca yavaşlatın, bir sürü soru sorun’’ diyor. ‘‘Kaçırıldığından şüphe ettiğiniz yakınınız hakkında dolandırıcının bilemeyeceği pek çok ayrıntı biliyorsunuzdur. Karşınızdaki kişiye bilemeyeceği bu ayrıntıları sorduğunuzda onun bir dolandırıcı olduğunu hemen anlarsınız.’’
Bu tür dolandırıcılık vakaları bildirilenden çok daha fazla
Kaç kişinin ailevi bir acil durum ya da yapay zekâ ses klonunun kullanıldığı sahte bir kaçırılma olayıyla ilgili benzer dolandırıcılık aramaları aldığı bilinmiyor. Mayo bu suçların ‘‘günlük olarak gerçekleştiğini’’ ancak herkesin bunu bildirmediğini söylüyor.
Yetkililer, hedef alınan insanların aile üyeleri güvende olduğu için çok rahatladığına ve sonrasında dolandırıcılığı bildirmeyi unuttuğuna inanıyor.
Mayo, ‘‘Bununla birlikte, dolandırıcıların oltasına gelip parayı gönderen insanlar da var’’ diyor. ‘‘Bana güvenin, FBI olarak bu insanları araştırıyor ve buluyoruz.’’
DeStefano ise dolandırıcılara para göndermediği için şükrediyor ama bu, onun travma yaşamasına engel olmamış.
‘‘Birden oturdum ve hüngür hüngür ağlamaya başladım’’ diyor anne. ‘‘Ya bu gerçek olsaydı, ya kızıma bir şey olsaydı diye ağlıyordum. Her şey çok gerçekçiydi.’’