Yapay Zekâ ile Düzmece Kimlikler ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü!

Yapay Zekâ ile Düzmece Kimlikler ve Sesler Kullanılarak Hiç Yaşanmamış Olaylar Gerçeğe Dönüştü!

ChatGPT gibi yapay zekâ hizmetleri furyası tam gaz devam ediyor. Yapay zekâ teknolojileri her ne kadar kullanıcılara kolaylık sağlasa da, sahip olduğu gücün getirdiği tehlikelerin pek farkında değiliz.

Bir geliştirici, ChatGPT gibi OpenAI dayanaklı bir yapay zekâ makinesini kullanarak “dezenformasyon makinesi” geliştirdi. ‘CounterCloud’ adlı bu projenin tamamlanması yaklaşık olarak 2 ay sürdü ve maliyeti 400 dolardan daha az. Geliştirici, bu makineyi tanıttığında kitlesel propaganda yaratmanın maliyetinin ne kadar ucuz ve kolay olabileceğinin altını çizdi. Makinenin hedefi, geçersiz makaleler ve hatta tarihte yaşanmamış olayları büyük bir gerçeklikle yaşanmış üzere göstermek aslında.

Makinenin gayesi yalnızca bununla kalmıyor

Mayıs ayında Sputnik International haber sitesinde, ABD’nin dış siyasetini sert bir formda eleştiren bir dizi tweet yayınlandı. Bu tweetler ‘CounterCloud’ isimli bir hesaptan paylaşıldı ve ABD’nin dış politikataki tavrını eleştiren görüşler ve hatta makalelerden alıntılar içeriyordu. Hatta çeşitli haber siteleri ve sitedeki gazeteciler bile yapay zeka tarafından tasarlandı. Bu dezenformasyon makinesinin geliştiricisi ‘NeaPaw’ kullanıcı ismiyle internette yer edindi ve bir siber güvenlik uzmanı olduğunu argüman ediyor.

NeaPaw, YouTube’ta bu projeyi neden ve nasıl oluşturduğunu anlattığı bir görüntü yayınladı.

Yapay zekânın sahip olduğu gücü ve dezenformasyonun nasıl harikulâde yerlere gidebileceğini görmek isteyen NeaPaw, düzmece haber oluşturmanın aslında ne kadar kolay ve tehlikeli olduğunu belirtiyor. ChatGPT ile karşı görüşteki makaleleri oluşturma sürecini de anlatıyor. Tıpkı vakitte, tıpkı makalenin farklı usul ve bakış açılarıyla hazırlandığını söylüyor.

Olay yalnızca bundan ibaret değil. Dahası da var…

Daha sonra yapay zekanın en alakalı içeriğe cevap vermesi için denetleyici bir modül oluşturdu. Bu modül ile sahte makaleleri ve hatta fotoğrafları yorumlayan sahte ses evrakları oluşturdular. Ayrıyeten uydurma gazeteci profilleri ile haberlerin altına farklı yorumlar yazdırdılar. Ayrıyeten, bu dezenformasyon makinesine paylaşılan tweet’leri tekrar paylaşması ve beğenmesi için çeşitli komutlar verdiler. 

Geliştirici iki ay içinde, günün 24 saati boyunca yalnızca bu propagandayı sürdüren bir sisteme sahip oldu. NeaPaw, elindeki gücün farkında olacak ki, bu sistemi şimdi herkesin erişimine açmadı. Zira bu sistemin kullanılmaya başlanması demek, büyük bir propaganda aracının kitlesel bir tesir yaratacağı gerçeği demek. Ek olarak bunun sonunun nereye varacağı hiçbir halde bilinmiyor.

Ancak haberin başlangıcına eklediğimiz görüntüde NeaPaw, bu makinenin nasıl çalıştığını anlatıyor ve işlerin nasıl yürüdüğü konusunda halkı bilinçlendirmenin daha yararlı olacağını söylüyor.

OpenAI şirketinin CEO’su Sam Altman, mevzuyla ilgili telaşını lisana getiren bir tweet de paylaştı. 

Yazılım