srocenter Can
Forum Admin
Moderatör
Center Üyesi
Bilişim Sahibi
Çevirmen
Coder
Grafiker
Guild Master
Guild Üyesi
Reklamcı
Server Sahibi
Supporter
V.i.P
- Katılım
- 18 Haz 2023
- Mesajlar
- 20,096
- Tepkime puanı
- 8
- Puanları
- 38
En sevdiğiniz sosyal medya platformunda dolaşırken gördüğünüz bir görüntünün gerçek olup olmadığından nasıl emin olabilirsiniz?
Bu soru makine öğrenimi tarafından desteklenen DeepFake fenomeni ile birlikte her zamankinden daha değerli hale geldi.
Yapay Zeka (AI) ile ilişkili hizmetler geçtiğimiz birkaç sene içinde hayatımızda daha belirgin bir rol oynamaya başladı.
ChatGPT benzeri yapay zeka tabanlı dil modelleri bilgi arama sürecini daha basit hale getirirken farklı kullanım alanlarına da kapı açtı.
Örneğin Türkçe dil desteğine sahip olmayan videoların ya da oyunların yalnızca birkaç dakika içinde yapay zeka tarafından tercüme edilmesi mümkün hale geldi. Bazı şirketler şimdiden ChatGPT tabanlı dil modellerini müşteri ilişkileri deneyiminin bir parçası haline getirdi. DALL-E benzeri (text-to-image) görüntü modelleri birkaç basit metin girdisi ile benzersiz görüntüler oluşturmayı mümkün kıldı.
Bu araçların çoğu zaman üretilen çıktı kalitesi açısından yeteri kadar başarılı olmadıklarını unutmamak gerekir ancakisimli araştırmamız üzerinden de ulaşabileceğiniz üzere elde edilen sonuçlar oldukça umut vericidir.
AI, genellikle hayatımıza kattığı olumlu senaryolar ile zihnimizde yer edinse de potansiyel tehlikeleri beraberinde getirdiği de gözden kaçırılmamalıdır.
Yaygın bir örnek, DeepFake teknolojisidir.
Peki ama DeepFake nedir, ne işe yarar, nasıl çalışır ve ne gibi tehditler barındırır? Bu araştırma makalemizde konu hakkında merak edilen ayrıntıları ele alacağız.İçindekiler
DeepFake Nedir?
DeepFake, çeşitli amaçlarla dijital olarak manipüle edilen ve gerçekte var olmamış olayları var olmuş gibi yansıtan sentetik medya dosyalarını tanımlamak için kullanılan bir terimdir.
Materyal çoğu zaman bir fotoğraf, video ya da ses dosyasıdır ancak bunlarla kısıtlı olmak zorunda değildir. Araçlar bu medya dosyalarından birini ya da aynı anda bunların bir kombinasyonunu manipüle edebilir.
Peki ama DeepFake ile Adobe Photoshop ya da FaceSwap benzeri halihazırda var olan ve benzer amaçlarla kullanılabilen araçlar arasındaki fark tam olarak nedir?
DeepFake, bu süreci bir otomasyon haline getiren ve derin öğrenme algoritmaları kullanıldığından çıktının sahte olup olmadığını anlamanın çok daha zor olduğu sahte bir dünya yaratır.
Bu önemlidir çünkü Adobe Photoshop benzeri programlar benzer çıktıları elde etmek için bir tür teknik kabiliyet gerektirirken AI, hiçbir teknik bilgi birikimine sahip olmayan ya da görece daha az oranda teknik bilgi birikimine sahip olan kullanıcıların dahi çeşitli ortam dosyalarınıÂ çok kısa bir süre içinde oldukça iyi bir kalitede manipüle edebilmesini mümkün kılar.
FaceSwap benzeri yüz değiştirme araçları da en temelde benzer amaçlara hizmet etse de üretilen çıktı kalitesi açısından bunların sahte olup olmadıklarını anlamak kolaydır.
Günümüzde çıktının performansı ve verimliliği açısından çeşitli iyileştirmeler sunan birden fazla algoritma ve teknik bulunmaktadır.
Etimoloji
DeepFake terimi en temelde âDeepâ ve âFakeâ kelimelerinin birleşiminden oluşur.
âDeepâ sözcüğü çıktının oluşturulması sırasında Deep Learning (Derin Öğrenme) kullanımını temsil eder. Bu, birden fazla düzeyde işleme içeren bir makine öğrenme algoritması türüdür.
âFakeâ terimi ise üretilen sonucun gerçekte hiç var olmamış olmasına rağmen var olmuş gibi tasvir edilmesi ile ilgilidir.
DeepFake terimi ile ilişkili bilinen en eski kullanım 2017 yılına aittir ve bir Reddit kullanıcısının oluşturduğu, ünlülere ait yüzlerin izin alınmaksızın pornografik görüntülere aktarılarak paylaşıldığı âdeepfakesâ isimli alt dizine dayanmaktadır.
DeepFake genellikle pornografi ile karakterize edilse politik ve siyasi amaçlı manipülasyonlar için de kullanılmaktadır. Geçtiğimiz birkaç sene içinde bu tür amaçlara odaklanan kullanımların sosyal medya platformlarında trend olduklarını ve bilgi dezenformasyonuna yol açtıklarını gördük.
Bu, DeepFake ile oluşturulmuş sahte bir görüntüdür. Görüntü Geek.com.tr tarafından oluşturulmamıştır. İçerik gerçek değildir. Örnek amaçlı sergilenmiştir.
Kullanıcılar arasında bilinen yaygın örnekler arasında Donald Trumpâın polislerle kavga ettiği bir görüntü, Papa Francisâin şişme ceketli bir fotoğrafı, Mark Zuckerbergâün kendi hayatı hakkında yaptığı bir konuşma ve Kraliçe Elizabethâin dans ettiği bir video yer almaktadır ancak örnekler bununla kısıtlı değildir.
Elbette, bu olayların hiçbiri gerçek hayatta yaşanmamıştır.
Günümüzde, makineler tarafından manipüle edilen görüntülerin gerçek olup olmadıklarını anlamak için kullanılan çeşitli yöntemler ve araçlar bulunmaktadır. Konu, özellikle adli bilimler açısından önem arz eder.
DeepFake Nasıl çalışır?
DeepFake, iki farklı Deep Learning algoritması kullanılarak üretilir.
İlki, gerçek görüntünün işlenmesi ve mümkün olan en iyi şekilde manipüle edilmesi ile görevlidir. İkincisi, ilk algoritma tarafından oluşturulan kopyanın sahte olup olmadığını tespit etmek ve gerekli olduğu sürece geri bildirim vermek ile ilgilenir.
Yani ilk algoritma manipüle edilmiş bir görüntü oluşturduktan sonra ikinci algoritmadan geri bildirim alır ve sentetik görüntüyü daha gerçekçi hale getirmeye çalışır. Süreç, ikinci algoritma artık geri bildirim vermeyinceye dek tekrarlanır.
Elbette siz bu makalenin ayrıntılarını incelediğiniz sırada daha farklı kullanımlar ve daha farklı teknikler ortaya çıkmış olabilir.
DeepFake Kullanım Alanları ve Değerlendirmelerimiz
DeepFake genellikle dolandırıcılık, intikam alma, zorbalık, sahte haber yayarak halk arasında infial yaratma, tehdit ya da haz amaçlı cinsel materyal üretimi ve benzeri kötü niyetli amaçlara hizmet eden sosyal, politik ve pornografik içerik yaratmak için kullanılan bir teknolojidir.
Bittabi DeepFake ile ilişkili tüm kullanımlar kötü niyetli olmak zorunda değildir. Az sonra makalenin devamında da ele alacağımız üzere iyi niyetli amaçlara hitap eden kullanımlar da bulunmaktadır.
Bu, DeepFake ile oluşturulmuş sahte bir görüntüdür. Görüntü Geek.com.tr tarafından oluşturulmamıştır. İçerik gerçek değildir. Örnek amaçlı sergilenmiştir.
Hollanda merkezli siber güvenlik şirketi Deeptrace, Ekim 2019 tarihindeçevrim içi DeepFake etkinliklerinin %96âsının pornografik amaçlı olduğunu tahmin ettiğini belirtmektedir. Aynı hedef merkezli diğer araştırma makaleleri de benzer oranlara ulaşmaktadır.
DeepFake ile oluşturulan pornografik amaçlı görüntüler kullanıcılar arasında genellikle DeepFake Porn ya da DeepNude olarak adlandırılır.
Bu isimlendirme Haziran 2019 tarihinde yayımlanan ve tepkiler üzerine kısa bir süre içinde kullanımdan kaldırılan DeepNude isimli programdan gelmektedir.
İnternette bu iki anahtar kelime ile yaptığımız basit bir aramada pornografik görsel ve video üretmek için kullanılan ücretli ve ücretsiz onlarca farklı çevrim içi araca ulaşıyoruz. Ayrıca kimi açık kaynak kodlu olmak üzere çevrim dışı kullanım imkanı sunan çok sayıda program da bulunmaktadır.
Reddit benzeri sosyal medya platformlarını incelediğimizde bu araçlardan bazılarının çıktı kalitesi açısından daha sık önerildiğini fark ettik. çıktı Kalitesi esasen kullanılan algoritmanın ne kadar gelişmiş olduğuna bağlıdır ve bazı araçlar daha yeni algoritmaları kullandığından kullanıcılar arasında daha fazla önerilmektedir.
(Bu makalede herhangi bir yasa dışı kullanımı teşvik etmeyi önlemek adına araçlara ve programlara yönelik herhangi bir isim ya da üretici bilgisi paylaşmayacağız.)
Bu araçların neredeyse tamamı ücretli sürüme ek olarak kullanıcıların deneme yapmasına olanak tanıyan ücretsiz bir sürüme sahiptir. İkincisi, genellikle daha az gelişmiş bir algoritma ve daha uzun bekleme süresi sunar.
Hizmetler, sahte materyal üretimi ile başkalarını tehdit etmek, onların üzerinde baskı yaratmak ya da onlara iftira atmak gibi çeşitli amaçlarla kullanılabilir.
Araçlar üzerinde yaptığımız kullanımlarda sistemin vaat edilen şekilde işlev gösterdiğini keşfettik ancak (ücretli ve ücretsiz olmak üzere) her iki sürümde de çıktı, genellikle kolayca ayırt edilebilen işleme hataları içerir.
Bu, manipüle edilen dosyanın kötü amaçlı kullanım durumlarını kısıtlar ancak işleme kabiliyetinin gelecekte daha pürüzsüz hale gelebileceği göz ardı edilmemelidir.
Deep Learning artırımlı iyileştirmeler ile karakterizedir. Gelecekte, işleme kabiliyetinin artması ile birlikte sahte görüntülerin diğerlerinden ayırt edilmesi çok daha zor hale gelebilir. Bu, yukarıda açıkladığımız nedenlerden ötürü endişe vericidir.
Bu tür araçların kullanımı ile ilgili bir diğer sorun üretilen materyalin takibini ve denetimini çok daha zor hale getiren yerel işleme tekniklerinin kullanımıdır. Bu, cinsel istismar vakalarında önemli bir endişe kaynağıdır.
Araçlar, çoğu zaman yalnızca bu tür eylemlerin yasa dışı olduğunu belirten basit uyarılar ile yetinir ve yaptığımız incelemelere göre farklı yaş gruplarını sınıflandırma ve kötü amaçlı kullanımları önleme açısından gerçek bir denetim mekanizmasından yoksundur.
Geek.com.tr, bu sorulara yanıt aramak için servislerden bazılarına e-posta ya da destek formu üzerinden ulaşmaya çalıştı ancak herhangi bir geri dönüş alamadı.
Araçların yetişkinlere ve henüz yetişkin olmayanlara yönelik istismarı önlemek ya da tespit etmek noktasında yeterli mekanizmalara sahip olmadıklarını düşünüyoruz.
Fotoğraf manipülasyonuna odaklanan araçlar aynı zamanda kişileri farklı durumlarda tasvir etmek için de kullanılabilir. Bu amaçlı kullanımlar büyük oranda ünlüleri hedef alır. (Örn; Donald Trumpâın polislerle kavga ettiği görüntü ya da Papa Francisâin şişme ceketli fotoğrafı)
Bunun ötesinde video, ses ve hareket manipülasyonuna odaklanan araçlar da bulunmaktadır ve bazıları bu işlevleri bir arada sunmaktadır. Bu medya dosyaları dikkatli bir şekilde işlenerek bir araya getirildiklerinde sentetik bir video yaratılabilir. (Örn; Mark Zuckerbergâün kendi hayatı hakkında yaptığı konuşma ya da “Ben Aslında Recep Tayyip Erdoğan Değilim” videosu)
Video odaklı manipülasyonda eğlence amaçlı kullanımlar da yaygındır. Örneğin kullanıcıların kendi yüzlerini seçtikleri bir dizi ya da film sahnesine uyarlamaya odaklanan ücretli ve ücretsiz çok sayıda çevrim içi araç bulunmaktadır.
Videolar hareketli görüntülerden oluştuklarından kullanıcıların – farklı açılara yönelen yüz hareketlerini telafi etmek ve – gerçekçi bir çıktı elde etmek için kendi yüzlerini farklı açılardan görüntülemeleri ve yüklemeleri gerekir ancak çıktı çoğu zaman oldukça amatör görünmektedir.
Ses odaklı araçlar başarılı bir çıktı üretmek için ilgili kişinin sesinin çok sayıda örneğini gerektirir. İnternette özellikle de ünlülere ait seslerin halihazırda eğitilmiş modelleri bulunmaktadır ancak başka bir kişinin sesini eğitmek için gerekli olan dosyaları toplamak ve oluşturmak sıradan bir kullanıcı için zor olabilir.
Araçlar üzerinde yaptığımız incelemelerde ses manipülasyonunun diğerlerinden daha tehlikeli olabileceği kanaatine vardık çünkü görüntüler (video ve fotoğraf) üzerinde yapılan manipülasyonlar en azından bulunduğumuz aşamada kolaylıkla ayırt edilebilen işleme hataları içerirken ses üzerinde yapılan manipülasyonlar ancak tonlama hataları benzeri bozukluklar açısından kuşku uyandırabilir niteliktedir.
Bu bakımdan yeterli teknik kabiliyete, gelişmiş işleme tekniklerine ve maddi kaynağa sahip olanlar ayırt edilmesi çok daha zor çıktılar üretebilirler.
Sonuç
DeepFake henüz ciddi bir tehdit olmasa da durum önümüzdeki birkaç sene içinde dramatik bir biçimde değişiklik gösterebilir.
Yazılım genellikle kötü amaçlı kullanımlar ile karakterize edilse de yararlı senaryolara da hizmet edebilir. Bu tür kullanımların başında sosyal farkındalık, sanat, eğitim ve tıp amaçlı kullanımlar bulunmaktadır.
Örneğin sıtmaya ilişkin farkındalığı artırmaya yönelik bir kampanyada David Beckham’ın sesi algoritmalar ile dokuz farklı dile çevrildi ve mesajın etki alanını ek bir çaba harcamaksızın genişletmeye yardımcı oldu. Florida’daki Salvador Dalà Müzesi, ünlü sanatçı Salvador Dali’nin sesini taklit eden bir anı videosu hazırladı.
Eğitimciler, öğrencilerin derse yönelik katılımını ve dikkatini artırmak için algoritmalar tarafından hazırlanmış videolar oluşturmayı denediler. Bu, özellikle de tarih dersleri için kayda değer bir seçenektir.
DeepFake, sağlık alanında da çeşitli kullanım alanlarına sahip olabilir. Örneğin tümörlerin manyetik rezonans görüntüleme taramalarında tespit edilme doğruluğunu artırarak tanı ve tedavi sürecini daha kolay hale getirmek için kullanılabilir.
Bazı tümör ve anormallikler genel popülasyonda nispeten nadirdir. Bu, bir makine öğrenme algoritmasını beslemek istediğinizde yeterli miktarda görüntüye ulaşmanızın zor olacağı anlamına gelir.
DeepFake ile oluşturulan sahte görüntüler, bu tür yapay zeka programlarını eğitmek için kullanılabilir. Bunların kullanımı aynı zamanda gerçek hastalardan alınan verilerin mahremiyeti ile ilgili endişelerin de önüne geçer.
DeepFake ile üretilen içeriklerde mizahi amaçlı kullanımlar da yaygındır. Yalnızca bu tür videolara odaklanan çok sayıda YouTube, Instagram ve TikTok hesabı bulunmaktadır.Peki siz bu makalemizde yer alan bilgiler hakkında ne düşünüyorsunuz? Sizce DeepFake hayatımızda ne gibi etkilere yol açabilir ve bu sürecin uzun vadeli etkileri neler olacaktır? Konu hakkındaki görüşlerinizi hemen aşağıda yer alan yorumlar sekmesinden bizlerle ve diğer okurlarımızla paylaşmayı ihmal etmeyin.
Kaynakça
[*]The State of Deepfakes: Landscape, Threats, and Impact, Henry Ajder, Giorgio Patrini, Francesco Cavalli, and Laurence Cullen, September 2019., [*]Britannica, “Deepfake”, [*]Wikipedia, “Deepfake”, [*]University of Virginia, “What the heck is a deepfake?”,
Bu soru makine öğrenimi tarafından desteklenen DeepFake fenomeni ile birlikte her zamankinden daha değerli hale geldi.
Yapay Zeka (AI) ile ilişkili hizmetler geçtiğimiz birkaç sene içinde hayatımızda daha belirgin bir rol oynamaya başladı.
ChatGPT benzeri yapay zeka tabanlı dil modelleri bilgi arama sürecini daha basit hale getirirken farklı kullanım alanlarına da kapı açtı.
Örneğin Türkçe dil desteğine sahip olmayan videoların ya da oyunların yalnızca birkaç dakika içinde yapay zeka tarafından tercüme edilmesi mümkün hale geldi. Bazı şirketler şimdiden ChatGPT tabanlı dil modellerini müşteri ilişkileri deneyiminin bir parçası haline getirdi. DALL-E benzeri (text-to-image) görüntü modelleri birkaç basit metin girdisi ile benzersiz görüntüler oluşturmayı mümkün kıldı.
Bu araçların çoğu zaman üretilen çıktı kalitesi açısından yeteri kadar başarılı olmadıklarını unutmamak gerekir ancakisimli araştırmamız üzerinden de ulaşabileceğiniz üzere elde edilen sonuçlar oldukça umut vericidir.
AI, genellikle hayatımıza kattığı olumlu senaryolar ile zihnimizde yer edinse de potansiyel tehlikeleri beraberinde getirdiği de gözden kaçırılmamalıdır.
Yaygın bir örnek, DeepFake teknolojisidir.
Peki ama DeepFake nedir, ne işe yarar, nasıl çalışır ve ne gibi tehditler barındırır? Bu araştırma makalemizde konu hakkında merak edilen ayrıntıları ele alacağız.İçindekiler
DeepFake Nedir?
DeepFake, çeşitli amaçlarla dijital olarak manipüle edilen ve gerçekte var olmamış olayları var olmuş gibi yansıtan sentetik medya dosyalarını tanımlamak için kullanılan bir terimdir.
Materyal çoğu zaman bir fotoğraf, video ya da ses dosyasıdır ancak bunlarla kısıtlı olmak zorunda değildir. Araçlar bu medya dosyalarından birini ya da aynı anda bunların bir kombinasyonunu manipüle edebilir.
Peki ama DeepFake ile Adobe Photoshop ya da FaceSwap benzeri halihazırda var olan ve benzer amaçlarla kullanılabilen araçlar arasındaki fark tam olarak nedir?
DeepFake, bu süreci bir otomasyon haline getiren ve derin öğrenme algoritmaları kullanıldığından çıktının sahte olup olmadığını anlamanın çok daha zor olduğu sahte bir dünya yaratır.
Bu önemlidir çünkü Adobe Photoshop benzeri programlar benzer çıktıları elde etmek için bir tür teknik kabiliyet gerektirirken AI, hiçbir teknik bilgi birikimine sahip olmayan ya da görece daha az oranda teknik bilgi birikimine sahip olan kullanıcıların dahi çeşitli ortam dosyalarınıÂ çok kısa bir süre içinde oldukça iyi bir kalitede manipüle edebilmesini mümkün kılar.
FaceSwap benzeri yüz değiştirme araçları da en temelde benzer amaçlara hizmet etse de üretilen çıktı kalitesi açısından bunların sahte olup olmadıklarını anlamak kolaydır.
Günümüzde çıktının performansı ve verimliliği açısından çeşitli iyileştirmeler sunan birden fazla algoritma ve teknik bulunmaktadır.
Etimoloji
DeepFake terimi en temelde âDeepâ ve âFakeâ kelimelerinin birleşiminden oluşur.
âDeepâ sözcüğü çıktının oluşturulması sırasında Deep Learning (Derin Öğrenme) kullanımını temsil eder. Bu, birden fazla düzeyde işleme içeren bir makine öğrenme algoritması türüdür.
âFakeâ terimi ise üretilen sonucun gerçekte hiç var olmamış olmasına rağmen var olmuş gibi tasvir edilmesi ile ilgilidir.
DeepFake terimi ile ilişkili bilinen en eski kullanım 2017 yılına aittir ve bir Reddit kullanıcısının oluşturduğu, ünlülere ait yüzlerin izin alınmaksızın pornografik görüntülere aktarılarak paylaşıldığı âdeepfakesâ isimli alt dizine dayanmaktadır.
DeepFake genellikle pornografi ile karakterize edilse politik ve siyasi amaçlı manipülasyonlar için de kullanılmaktadır. Geçtiğimiz birkaç sene içinde bu tür amaçlara odaklanan kullanımların sosyal medya platformlarında trend olduklarını ve bilgi dezenformasyonuna yol açtıklarını gördük.
Kullanıcılar arasında bilinen yaygın örnekler arasında Donald Trumpâın polislerle kavga ettiği bir görüntü, Papa Francisâin şişme ceketli bir fotoğrafı, Mark Zuckerbergâün kendi hayatı hakkında yaptığı bir konuşma ve Kraliçe Elizabethâin dans ettiği bir video yer almaktadır ancak örnekler bununla kısıtlı değildir.
Elbette, bu olayların hiçbiri gerçek hayatta yaşanmamıştır.
Günümüzde, makineler tarafından manipüle edilen görüntülerin gerçek olup olmadıklarını anlamak için kullanılan çeşitli yöntemler ve araçlar bulunmaktadır. Konu, özellikle adli bilimler açısından önem arz eder.
DeepFake Nasıl çalışır?
DeepFake, iki farklı Deep Learning algoritması kullanılarak üretilir.
İlki, gerçek görüntünün işlenmesi ve mümkün olan en iyi şekilde manipüle edilmesi ile görevlidir. İkincisi, ilk algoritma tarafından oluşturulan kopyanın sahte olup olmadığını tespit etmek ve gerekli olduğu sürece geri bildirim vermek ile ilgilenir.
Yani ilk algoritma manipüle edilmiş bir görüntü oluşturduktan sonra ikinci algoritmadan geri bildirim alır ve sentetik görüntüyü daha gerçekçi hale getirmeye çalışır. Süreç, ikinci algoritma artık geri bildirim vermeyinceye dek tekrarlanır.
Elbette siz bu makalenin ayrıntılarını incelediğiniz sırada daha farklı kullanımlar ve daha farklı teknikler ortaya çıkmış olabilir.
DeepFake Kullanım Alanları ve Değerlendirmelerimiz
DeepFake genellikle dolandırıcılık, intikam alma, zorbalık, sahte haber yayarak halk arasında infial yaratma, tehdit ya da haz amaçlı cinsel materyal üretimi ve benzeri kötü niyetli amaçlara hizmet eden sosyal, politik ve pornografik içerik yaratmak için kullanılan bir teknolojidir.
Bittabi DeepFake ile ilişkili tüm kullanımlar kötü niyetli olmak zorunda değildir. Az sonra makalenin devamında da ele alacağımız üzere iyi niyetli amaçlara hitap eden kullanımlar da bulunmaktadır.
Hollanda merkezli siber güvenlik şirketi Deeptrace, Ekim 2019 tarihindeçevrim içi DeepFake etkinliklerinin %96âsının pornografik amaçlı olduğunu tahmin ettiğini belirtmektedir. Aynı hedef merkezli diğer araştırma makaleleri de benzer oranlara ulaşmaktadır.
DeepFake ile oluşturulan pornografik amaçlı görüntüler kullanıcılar arasında genellikle DeepFake Porn ya da DeepNude olarak adlandırılır.
Bu isimlendirme Haziran 2019 tarihinde yayımlanan ve tepkiler üzerine kısa bir süre içinde kullanımdan kaldırılan DeepNude isimli programdan gelmektedir.
İnternette bu iki anahtar kelime ile yaptığımız basit bir aramada pornografik görsel ve video üretmek için kullanılan ücretli ve ücretsiz onlarca farklı çevrim içi araca ulaşıyoruz. Ayrıca kimi açık kaynak kodlu olmak üzere çevrim dışı kullanım imkanı sunan çok sayıda program da bulunmaktadır.
Reddit benzeri sosyal medya platformlarını incelediğimizde bu araçlardan bazılarının çıktı kalitesi açısından daha sık önerildiğini fark ettik. çıktı Kalitesi esasen kullanılan algoritmanın ne kadar gelişmiş olduğuna bağlıdır ve bazı araçlar daha yeni algoritmaları kullandığından kullanıcılar arasında daha fazla önerilmektedir.
(Bu makalede herhangi bir yasa dışı kullanımı teşvik etmeyi önlemek adına araçlara ve programlara yönelik herhangi bir isim ya da üretici bilgisi paylaşmayacağız.)
Bu araçların neredeyse tamamı ücretli sürüme ek olarak kullanıcıların deneme yapmasına olanak tanıyan ücretsiz bir sürüme sahiptir. İkincisi, genellikle daha az gelişmiş bir algoritma ve daha uzun bekleme süresi sunar.
Hizmetler, sahte materyal üretimi ile başkalarını tehdit etmek, onların üzerinde baskı yaratmak ya da onlara iftira atmak gibi çeşitli amaçlarla kullanılabilir.
Araçlar üzerinde yaptığımız kullanımlarda sistemin vaat edilen şekilde işlev gösterdiğini keşfettik ancak (ücretli ve ücretsiz olmak üzere) her iki sürümde de çıktı, genellikle kolayca ayırt edilebilen işleme hataları içerir.
Bu, manipüle edilen dosyanın kötü amaçlı kullanım durumlarını kısıtlar ancak işleme kabiliyetinin gelecekte daha pürüzsüz hale gelebileceği göz ardı edilmemelidir.
Deep Learning artırımlı iyileştirmeler ile karakterizedir. Gelecekte, işleme kabiliyetinin artması ile birlikte sahte görüntülerin diğerlerinden ayırt edilmesi çok daha zor hale gelebilir. Bu, yukarıda açıkladığımız nedenlerden ötürü endişe vericidir.
Bu tür araçların kullanımı ile ilgili bir diğer sorun üretilen materyalin takibini ve denetimini çok daha zor hale getiren yerel işleme tekniklerinin kullanımıdır. Bu, cinsel istismar vakalarında önemli bir endişe kaynağıdır.
Araçlar, çoğu zaman yalnızca bu tür eylemlerin yasa dışı olduğunu belirten basit uyarılar ile yetinir ve yaptığımız incelemelere göre farklı yaş gruplarını sınıflandırma ve kötü amaçlı kullanımları önleme açısından gerçek bir denetim mekanizmasından yoksundur.
Geek.com.tr, bu sorulara yanıt aramak için servislerden bazılarına e-posta ya da destek formu üzerinden ulaşmaya çalıştı ancak herhangi bir geri dönüş alamadı.
Araçların yetişkinlere ve henüz yetişkin olmayanlara yönelik istismarı önlemek ya da tespit etmek noktasında yeterli mekanizmalara sahip olmadıklarını düşünüyoruz.
Fotoğraf manipülasyonuna odaklanan araçlar aynı zamanda kişileri farklı durumlarda tasvir etmek için de kullanılabilir. Bu amaçlı kullanımlar büyük oranda ünlüleri hedef alır. (Örn; Donald Trumpâın polislerle kavga ettiği görüntü ya da Papa Francisâin şişme ceketli fotoğrafı)
Bunun ötesinde video, ses ve hareket manipülasyonuna odaklanan araçlar da bulunmaktadır ve bazıları bu işlevleri bir arada sunmaktadır. Bu medya dosyaları dikkatli bir şekilde işlenerek bir araya getirildiklerinde sentetik bir video yaratılabilir. (Örn; Mark Zuckerbergâün kendi hayatı hakkında yaptığı konuşma ya da “Ben Aslında Recep Tayyip Erdoğan Değilim” videosu)
Video odaklı manipülasyonda eğlence amaçlı kullanımlar da yaygındır. Örneğin kullanıcıların kendi yüzlerini seçtikleri bir dizi ya da film sahnesine uyarlamaya odaklanan ücretli ve ücretsiz çok sayıda çevrim içi araç bulunmaktadır.
Videolar hareketli görüntülerden oluştuklarından kullanıcıların – farklı açılara yönelen yüz hareketlerini telafi etmek ve – gerçekçi bir çıktı elde etmek için kendi yüzlerini farklı açılardan görüntülemeleri ve yüklemeleri gerekir ancak çıktı çoğu zaman oldukça amatör görünmektedir.
Ses odaklı araçlar başarılı bir çıktı üretmek için ilgili kişinin sesinin çok sayıda örneğini gerektirir. İnternette özellikle de ünlülere ait seslerin halihazırda eğitilmiş modelleri bulunmaktadır ancak başka bir kişinin sesini eğitmek için gerekli olan dosyaları toplamak ve oluşturmak sıradan bir kullanıcı için zor olabilir.
Araçlar üzerinde yaptığımız incelemelerde ses manipülasyonunun diğerlerinden daha tehlikeli olabileceği kanaatine vardık çünkü görüntüler (video ve fotoğraf) üzerinde yapılan manipülasyonlar en azından bulunduğumuz aşamada kolaylıkla ayırt edilebilen işleme hataları içerirken ses üzerinde yapılan manipülasyonlar ancak tonlama hataları benzeri bozukluklar açısından kuşku uyandırabilir niteliktedir.
Bu bakımdan yeterli teknik kabiliyete, gelişmiş işleme tekniklerine ve maddi kaynağa sahip olanlar ayırt edilmesi çok daha zor çıktılar üretebilirler.
Sonuç
DeepFake henüz ciddi bir tehdit olmasa da durum önümüzdeki birkaç sene içinde dramatik bir biçimde değişiklik gösterebilir.
Yazılım genellikle kötü amaçlı kullanımlar ile karakterize edilse de yararlı senaryolara da hizmet edebilir. Bu tür kullanımların başında sosyal farkındalık, sanat, eğitim ve tıp amaçlı kullanımlar bulunmaktadır.
Örneğin sıtmaya ilişkin farkındalığı artırmaya yönelik bir kampanyada David Beckham’ın sesi algoritmalar ile dokuz farklı dile çevrildi ve mesajın etki alanını ek bir çaba harcamaksızın genişletmeye yardımcı oldu. Florida’daki Salvador Dalà Müzesi, ünlü sanatçı Salvador Dali’nin sesini taklit eden bir anı videosu hazırladı.
Eğitimciler, öğrencilerin derse yönelik katılımını ve dikkatini artırmak için algoritmalar tarafından hazırlanmış videolar oluşturmayı denediler. Bu, özellikle de tarih dersleri için kayda değer bir seçenektir.
DeepFake, sağlık alanında da çeşitli kullanım alanlarına sahip olabilir. Örneğin tümörlerin manyetik rezonans görüntüleme taramalarında tespit edilme doğruluğunu artırarak tanı ve tedavi sürecini daha kolay hale getirmek için kullanılabilir.
Bazı tümör ve anormallikler genel popülasyonda nispeten nadirdir. Bu, bir makine öğrenme algoritmasını beslemek istediğinizde yeterli miktarda görüntüye ulaşmanızın zor olacağı anlamına gelir.
DeepFake ile oluşturulan sahte görüntüler, bu tür yapay zeka programlarını eğitmek için kullanılabilir. Bunların kullanımı aynı zamanda gerçek hastalardan alınan verilerin mahremiyeti ile ilgili endişelerin de önüne geçer.
DeepFake ile üretilen içeriklerde mizahi amaçlı kullanımlar da yaygındır. Yalnızca bu tür videolara odaklanan çok sayıda YouTube, Instagram ve TikTok hesabı bulunmaktadır.Peki siz bu makalemizde yer alan bilgiler hakkında ne düşünüyorsunuz? Sizce DeepFake hayatımızda ne gibi etkilere yol açabilir ve bu sürecin uzun vadeli etkileri neler olacaktır? Konu hakkındaki görüşlerinizi hemen aşağıda yer alan yorumlar sekmesinden bizlerle ve diğer okurlarımızla paylaşmayı ihmal etmeyin.
Kaynakça
[*]The State of Deepfakes: Landscape, Threats, and Impact, Henry Ajder, Giorgio Patrini, Francesco Cavalli, and Laurence Cullen, September 2019., [*]Britannica, “Deepfake”, [*]Wikipedia, “Deepfake”, [*]University of Virginia, “What the heck is a deepfake?”,