Deepfake nedir, nasıl anlaşılır? Sorumlu kullanım rehberi

Kısa cevap: deepfake, gerçek bir kişiye, yere ya da olaya benzeyen ve gerçekmiş gibi görünen, yapay zekâyla üretilmiş veya değiştirilmiş görsel, ses ya da videodur. Bu teknoloji eğlenceli ve yaratıcı işlerde de kullanılıyor; zarar, kişinin rızası olmadan, aldatmak amacıyla kullanıldığında doğuyor. Bu yazıda tanımı, başlıca zararları, bir içeriğin gerçek olup olmadığını nasıl kontrol edeceğini ve sorumlu kullanımın ne olduğunu anlatıyoruz. Yazı hukuki tavsiye değildir.

Deepfake tam olarak nedir?

AB Yapay Zekâ Tüzüğü, “deep fake” kavramını, mevcut kişilere, nesnelere, yerlere, kuruluşlara veya olaylara benzeyen ve bir kişiye yanlış biçimde gerçek ya da doğru görünen, yapay zekâyla üretilmiş veya değiştirilmiş görsel, ses ya da video içerik olarak tanımlıyor. NSA, FBI ve CISA'nın ortak bilgi notu ise deepfake'i, makine öğrenmesi ya da derin öğrenme teknolojisiyle sentetik olarak üretilmiş veya değiştirilmiş medya olarak ele alıyor. İki tanımda ortak nokta: içerik yapay ve gerçek gibi görünüyor.

Her yapay zekâ görseli deepfake değildir. Açıkça hayalî bir sahne, çizgi film tarzı bir görsel ya da kimseye benzemeyen bir manzara, gerçeğin yerine geçmeye çalışmıyor. Sorun, gerçek bir kişinin yüzünü, sesini veya sözünü gerçek sanılacak biçimde taklit etmekte.

Deepfake hangi zararlara yol açabilir?

• Dolandırıcılık: FTC'nin uyarısına göre dolandırıcılar, bir yakının sesini klonlamak için internette paylaşılmış kısa bir ses kaydı ile bir ses klonlama programı yeterli oluyor; “acil para gerekiyor” kılıfıyla arıyorlar.
• Kurumlara karşı kimlik taklidi: NSA, FBI ve CISA'nın notu, markaya yönelik tehditleri, yöneticilerin ve mali yetkililerin taklit edilmesini ve ağlara erişmek için sahte iletişimleri başlıca tehditler arasında sayıyor.
• Yanlış bilgi: Gerçek olmayan bir olayı gösteren video ya da ses, kişilerin kararlarını etkileyebilir.
• İtibar ve mahremiyet zararı: Birinin rızası olmadan, söylemediği bir şeyi söylüyor ya da yapmadığı bir şeyi yapıyormuş gibi gösterilmesi taciz, şantaj ve itibar kaybı doğurabilir.

NSA, FBI ve CISA notu, devlet destekli kötü niyetli aktörlerin kullanımına dair sınırlı belirti olduğunu, ama daha az yetkin aktörlerin bu tekniklere kolayca erişmesi nedeniyle kullanımın büyümesinin muhtemel olduğunu belirtiyor.

Bir içeriğin deepfake olup olmadığı nasıl anlaşılır?

Kesin bir yöntem yok. Yüz, parmak, kulak, dişler ve ışıkta tutarsızlık, dudak ve ses uyumsuzluğu, garip bir arka plan gibi ipuçları bazen işe yarar, ama modeller geliştikçe bu ipuçları azalıyor. Bu yüzden gözle tespite güvenmek yerine kaynağı ve bağlamı doğrulamak daha sağlam.

Yöntem	Ne işe yarar?	Sınırı
Kaynağı kontrol et	Kim paylaştı, ilk nerede çıktı, güvenilir bir yayın var mı?	Güvenilir görünen hesap da paylaşmış olabilir
Bağlamı sorgula	Olay başka güvenilir kaynaklarda da var mı?	Yeni olaylarda doğrulama zaman alır
Görsel ipuçlarına bak	El, diş, yazı, gölge, ışık tutarsızlıkları	İyi modellerde bu ipuçları görünmeyebilir
Ters görsel arama	Görselin eski bir fotoğraftan türetilip türetilmediği	Yeni üretimlerde sonuç çıkmaz
Kökeni gösteren işaretler	İçerik kimlik bilgisi (C2PA), filigran	İşaret silinebilir; yokluğu içeriğin gerçek olduğunu göstermez
Geri arama (ses için)	Bildiğin numaradan kişiyi ara	Kişiye ulaşamazsan başka bir yakınından doğrula

C2PA, içerik kökeni ve gerçekliği için açık teknik standartlar geliştiren bir koalisyon; Content Credentials sayfası, içeriğin kökeni hakkında bilgi taşıdığını gösteren bir işareti ve içeriğin nasıl üretildiğini, düzenleme geçmişini incelemeyi anlatıyor. Sayfa, kötü niyetli kişilerin sentetik içeriği gerçek diye etiketlemeye çalışmaya devam edeceğini de kabul ediyor. Yani bu işaretler yardımcıdır, kesin kanıt değildir.

Sesli dolandırıcılığa karşı ne yapmalısın?

FTC'nin önerileri net: sese güvenme; hikâyeyi doğrulamak için kişiyi bildiğin bir numaradan ara; ulaşamazsan başka bir aile üyesi ya da arkadaşı aracılığıyla dene; para, kripto para ya da hediye kartı gibi geri alınması zor ödeme isteklerine karşı dikkatli ol. Bir dolandırıcılık fark edersen ilgili kuruma bildir.

Sorumlu kullanım nasıl olur?

• Rıza: Gerçek bir kişinin yüzünü, sesini ya da görünüşünü kullanacaksan önce açık izin al.
• Zarar vermeme: Kimseyi küçük düşürecek, aldatacak, taciz edecek ya da suç ortağı gibi gösterecek içerik üretme.
• Açıklık: Gerçekçi bir sahneyi paylaşırken yapay olduğunu söyle.
• Siyasi ve kamusal kişiler: Seçim ve haber bağlamında gerçek sanılabilecek içerikten özellikle kaçın.
• Çocuklar: Çocukların görüntüsüyle bu tür içerik üretme.

Hukuk ne diyor? AB Yapay Zekâ Tüzüğü örneği

AB Yapay Zekâ Tüzüğü'nün 50. maddesi şeffaflık yükümlülükleri getiriyor. Madde 50(4)'e göre deepfake oluşturan veya değiştiren bir sistemi kullanan ve içeriği yayan kuruluşlar (kullanıcı konumundaki taraflar), içeriğin yapay olarak üretildiğini ya da değiştirildiğini açıklamalı. Eser sanatsal, yaratıcı, hiciv veya kurgu niteliğindeyse yükümlülük, içeriğin varlığını eserin gösterimini veya keyfini engellemeyecek uygun bir biçimde açıklamakla sınırlı. Avrupa Komisyonu'nun SSS sayfası, 50(2) ve 50(4) kapsamındaki sistemler için yükümlülüklerin 2 Ağustos 2026'dan itibaren uygulandığını, daha önce piyasaya sürülmüş sistemler için 2 Aralık 2026'ya kadar geçiş dönemi bulunduğunu yazıyor; deepfake etiketlemesi için tasarım ve yerleşim konusunda bir davranış kuralları metni yayımlandığını da belirtiyor. Ayrıntılar için AI içeriğini etiketlemek yazımıza bak. Kendi ülkendeki kurallar farklı olabilir; bu bir hukuki tavsiye değildir.

Bir deepfake ile karşılaşırsan ne yapmalısın?

1. Paylaşma; yaymak zararı büyütür.
2. Kaynağı ve bağlamı kontrol et.
3. Platformun bildirim aracıyla içeriği raporla.
4. Kişisel bir zarar söz konusuysa kanıt olarak ekran görüntüsü ve bağlantıyı sakla.
5. Dolandırıcılık ya da şantaj varsa yetkili makamlara ve bankana başvur; FTC gibi kurumların bildirim hatları var.
6. Hedef sen ya da yakınınsan hukuki destek al.

Ailede ve iş yerinde hangi önlemler alınabilir?

NSA, FBI ve CISA'nın notu, kuruluşlar için hem teknik hem teknik olmayan önlemler öneriyor: tespit ve kaynak doğrulama araçları, önemli kişilerin iletişiminin korunması, bilgi paylaşımı, saldırı girişimlerine karşı yanıtı planlayıp prova etmek ve çalışanları eğitmek. Bu önerileri kendi ölçeğine uyarlayabilirsin.

• Para taleplerinde ikinci kanal kuralı: mesaj, ses ya da video ile gelen her para veya hesap değişikliği talebini, bildiğin başka bir kanaldan doğrula.
• Acil baskıya karşı yavaşla: dolandırıcılar aceleyi kullanır; “hemen gönder” baskısı bir uyarı işaretidir.
• Ailede konuş: özellikle yaşlı yakınlarına, ses klonlama dolandırıcılığının var olduğunu anlat ve ortak bir doğrulama yöntemi belirle; bu genel bir uygulama önerisidir.
• İşte rehber yaz: kimin, hangi talebi hangi kanaldan onaylayacağı yazılı olsun.
• Kendi görüntünü düşün: herkese açık paylaştığın ses ve video kayıtları taklit için malzeme olabilir; paylaşımlarını gözden geçir.

Sık yapılan hatalar

• Göze güvenmek: İyi bir deepfake gözle fark edilmeyebilir.
• Sesi tanıdığına güvenip para göndermek: Ses klonlanabilir; her zaman geri ara.
• Filigran yoksa gerçektir demek: İşaretler silinebilir veya hiç eklenmemiş olabilir.
• Şaka diye rızasız içerik üretmek: Zarar, niyetinden bağımsız.
• Doğrulamadan paylaşmak: Yanlış bilgi hızlı yayılır.

Etiketler ve işaretler ne kadar güvenilir?

Bir içerikte “yapay zekâ ile üretilmiştir” etiketi görmek yararlı bir ipucu, ama etiketin olmaması gerçek olduğunu kanıtlamaz; kötü niyetli kişiler etiket koymaz ya da işareti silmeye çalışır. Bunun tersi de geçerli: etiket görsel olarak sahte olabilir. Bu nedenle etiketleri, kaynak ve bağlam kontrolünün yerine değil, yanına koy. Etiketleme kuralları için AI içeriğini etiketlemek yazımıza bak.

Özet

• Deepfake, gerçek biri veya olay gibi görünen, yapay zekâyla üretilmiş ya da değiştirilmiş içeriktir.
• Dolandırıcılık, kimlik taklidi, yanlış bilgi ve itibar zararı başlıca riskler.
• Gözle tespit güvenilmez; kaynak, bağlam ve geri arama daha sağlam.
• İçerik kimlik bilgisi ve filigranlar yardımcı ama kesin değil.
• Sorumlu kullanım: rıza, zarar vermeme ve yapay olduğunu söylemek.