“Güvenli Yapay Zekâ” İçin 18 Ülkenin İmzasıyla Birinci Memleketler arası Mutabakat Oluşturuldu

Yapay zekâ odaklı teknolojiler, pek çok alanda hayatımıza giriş yaptı. Artık yapay zekâ ile manzaralar ve hatta görüntüler oluşturabiliyor, makale yazdırabiliyor, uygulama geliştirebiliyoruz. Hâl bu türlü olunca pek çok kesim, yapay zekâ teknolojilerinin risk oluşturabileceğine inanıyor. Bu çok da yanlışlı bir yaklaşım değil zira makale yazabilen bir yapay zekâ, pekâlâ bir senaryo oluşturabilir.

İşte bunun üzere tartışmalar, ülkelerin yapay zekâya yönelik kanunlar geliştirmesi için adım atmalarına yol açtı. Hatta ABD, bununla ilgili birinci adımları attı. Avrupa Birliği de bir müddettir bir yapay zekâ yasası üzerinde çalışıyor. Şimdiyse ortalarında ABD ile Birleşik Krallık üzere gelişmiş ülkelerin de bulunduğu 18 ülke, bağlayıcı olmayan bir mutabakat imzaladı. Bu mutabakat, inançlı yapay zekâ teknolojilerinin nasıl olması gerektiğini açıklıyor.

Mutabakatta neler var?

Birleşik Krallık ile ABD’ye ek olarak Almanya, İtalya, Estonya, Polonya, Güney Kore, Çekya, Singapur, Nijerya, İsrail ve Avustralya üzere ülkelerin de imzaladığı mutabakat, en genel anlatımı ile tüketicinin, yapay zekâ teknolojilerinin muhtemel risklerinden korunmasını amaçlıyor. Memleketler arası çapta karşımıza çıkan birinci mutabakat olan mutabakat, kullanıcı bilgilerin korunmasını ve geliştirilen sistemlerin bilgisayar korsanlarına karşı güçlü hâle getirilmesini sağlayacak tavsiyelerde bulunuyor.

Mutabakata nazaran inançlı bir yapay zekâ teknolojisi, şu dört unsura kıymet vermeli:

• Güvenli tasarım.
• Güvenli geliştirme.
• Güvenli dağıtım.
• Güvenli işletme.

Gelin artık de bu unsurların nasıl gerçekleştirileceğine ait bilgilere bakalım.

“Güvenli tasarım”

• Tehdit ve riskler konusunda personel farkındalığının artırılması.
• Geliştirilecek yapay zekâ sistemine yönelik tehditlerin tespit edilip, modellenmesi.
• Sistemin fonksiyonellik, performans ve güvenlik özelliklerinin kombinasyonunun oluşturulması.
• Geliştirilecek sisteme uygun yapay zekâ modelinin, güvenliği ön plana çıkarabilmesi.

“Güvenli geliştirme”

• Sistem paydaşlarının güvence altına alınması.
• Geliştirilecek yapay zekâ sisteminin sahip olduğu tüm varlıkların tanımlanması ve korunması.
• Verilerin, modellerin ve istemlerin arşivlenmesi.
• Risk değerlendirmesinin yapılması.

“Güvenli dağıtım”

• Alt yapının güvence altına alınması.
• Yapay zekâ modelinin korunması, tertipli olarak güncellenmesi.
• Olası aksaklıklar için prosedürler oluşturulması.
• Geliştirilecek yapay zekâ teknolojisinin sorumluluğunun üstlenilmesi.
• Kullanıcı dostu arayüzler hazırlanması.

“Güvenli işletme”

• Sistem davranışlarının takip edilmesi.
• Sistem girişlerinin izlenmesi.
• Güvenli güncellemeler sunulması.
• Devreye alınan yapay zekâ sisteminin sonuçlarının toplanması. Gerekli durumlarda paylaşılması.

İşte tüm bunlar, kelam konusu 18 ülke için inançlı yapay zekâ teknolojileri sağlanmasını sağlayacak genel hususlar. Fakat haberimizin başında da belirttiğimiz üzere tüm bunların hiçbir bağlayıcılığı yok. Şayet mutabakatın tamamına ulaşmak isterseniz buradaki ilişkiyi kullanabilirsiniz.