Yapay zeka kaynaklı deepfake teknolojisi seçimler ve tüketiciler için tehdit oluşturuyor

Yapay zeka alanındaki hızlı ilerlemeler, gerçek görüntü, ses ve videolarla neredeyse ayırt edilemeyen deepfake içeriklerin üretilmesini kolaylaştırdı. Bu durum, dolandırıcılık ve dezenformasyon risklerinin artmasına neden oluyor.

Uzmanlar, söz konusu teknolojinin özellikle seçim süreçlerinde ve bireylere yönelik dolandırıcılık vakalarında ciddi bir tehdit oluşturduğunu belirtiyor. Yapay zeka destekli sahte içerikler, siyasi alanda büyük bir endişe kaynağı haline geldi.

Siyasi kampanyaların deepfake teknolojisine ayırdığı bütçe önceki yıllara göre önemli ölçüde artarken, adaylara yönelik yanıltıcı reklamlar internet ortamında hızla yayılıyor. Bu tür içeriklerin doğruluğu konusunda şüpheler bulunuyor ve seçmenlerin gerçek ile sahteyi ayırt etmekte zorlandığı vurgulanıyor.

Yapay zeka ile oluşturulan materyaller, açıkça belirtilmese bile izleyicilerin zihninde kalıcı etkiler bırakarak algıyı yönlendirebiliyor. Ayrıca, şirket verileri deepfake tabanlı dolandırıcılık girişimlerinde belirgin bir artış olduğunu gösteriyor.

Kötü niyetli kişiler, ses klonlama ve sahte video teknolojilerini kullanarak yakın veya tanıdık biri gibi aramalar yapabiliyor. Acil tıbbi yardım veya borç talebi gibi senaryolarla insanları manipüle etmekte kullanılıyor.

Geçmişte bariz ipuçları olan hatalı parmak veya yüz detayları yapay zeka tarafından büyük ölçüde giderildiği için sahte içeriklerin tespiti daha da güçleşti. Deepfake teknolojisinin yaygınlaşması, sadece sahte içeriklerin kabul görmesine yol açmakla kalmıyor, aynı zamanda gerçek görüntülere ve bilgilere duyulan güveni de zedeliyor.

Gerçek olaylara ait fotoğraflar bile şüpheyle karşılanabiliyor. Güvenlik uzmanları, bu tür tuzaklardan korunmak için şüpheli durumlarda telefonu kapatıp, kişileri kendi bildikleri numaralardan yeniden arayarak kimlik doğrulaması yapılmasını öneriyor.