ChatGPT ve Bard Üzere Sohbet Botlarının, Kullanıcı Profilleri Oluşturup Şahsî Dataları Topladığı Ortaya Çıktı!
Yakın vakitte yapılan yeni bir araştırmaya nazaran yapay zekâ kullanılan sohbet robotları, bireyler hakkında çok fazla bilgiyi derleyip profiller oluşturabiliyor, kişisel bilgileri öğrenebiliyor. Bunu yapmak için ise tek yapması gereken sıradan bir sohbetten fazlası değil. Yapay zekâ bu sohbette kişinin kendisi ya da hayatı hakkında bir bilgi vermesine de gerek duymuyor.
Araştırmada ayrıyeten bu duruma engel olmanın pek de mümkün olmadığı, makûs niyetli şahısların bu durumu kullanabilmesi riski olduğu söz ediliyor. Dolandırıcıların bilhassa bu profillere ulaşabilmesi durumunda çok büyük problemler yaşanabileceği de göze çarpıyor.
Sohbet yapay zekâları nasıl profil oluşturuyor?
Aslında bir sohbet botunun profil oluşturması çok da sıkıntı gözükmüyor. Yapay zekaların oluşturduğu profillerde bireylerin ırkı, mesleği, pozisyonu üzere pek çok bilgi yer alabiliyor. Birinci bakışta bütün bunları sıradan bir sohbetten elde etmesi göz korkutsa da aslında kullanılan yapay zekâ modellerinin bir sonucu olduğunu görüyoruz. LLM (Büyük lisan modeli) üzere modellerle geliştirilen yapay zekâ, farklı durumlarda farklı halde irtibat kurabiliyor.
Açıp bir yapay zekâ sohbet botuna “Bana 2. Mahmut devrini anlat, sunum yapacağım, ona nazaran yaz.” falan dediğiniz vakit sistem sizin öğrenci olduğunuzu, Türkiye’de eğitim gördüğünüzü ve Türkçe konuştuğunuzu anlayıp ona nazaran bir tepki veriyor. Bu bilgilerin birikmesi ile birlikte profilleme de yapılmış oluyor. Araştırmayı yapan takımın başkanı Dr. Martin Vechev’e nazaran bu durumun önüne geçmek de şu an için pek mümkün değil.
Bu durum ileride meselelere yol açabilir.
Araştırmacılar, OpenAI, Google, Meta ve Antrophic‘in yapay zekâ uygulamalarını da test etti. Her bir platform için emsal sonuçlar elde edildi. Vechev ve takımı tıpkı vakitte bu biçimde şahsî bilgi toplayabilmenin ileride dolandırıcıların, şahıslar hakkındaki hassas bilgileri toplayabilmesine ya da derleyebilmesine yol yol açabileceğini söz ediyor. Öte yandan şimdiye kadar yapay zekâ sohbet botları üzerinden yapılmış önemli bir atak teşebbüsü de bulunmuyor.