Google, OpenAI ve Microsoft Yapay Zekânın Güvenliğini Sağlamak İçin Güçlerini Birleştirdi!
Her gün ismini daha fazla duyduğumuz üretken yapay zekâ araçları, hepimizi şaşırtan gelişimiyle tüm teknoloji dünyasını ele geçirmişti. Lakin bu modellerin, ziyanlı içeriklerden bilgi güvenliği konusuna kadar taşıdığı çeşitli riskler konusunda büyük tasalar vardı.
İşte bu hususta değerli bir atak, teknoloji devlerinden geldi. Yapay zekâ alanında önde gelen Microsoft, OpenAI, Google ve Antrhopic; “Frontier Model Forum” ismini verdikleri bir küme kurdu.
Grup, üretken yapay zekânın inançlı ve sorumlu gelişimini sağlamayı hedefleyecek
Dört şirketten oluşan küme, üretken yapay zekâ modellerinin inançlı ve sorumlu bir formda gelişmesinden emin olmak istiyor. Öncelik verilecek modellerin ise, “mevcut en gelişmiş modellerde mevcut olan yetenekleri aşan ve çeşitli vazifeleri gerçekleştirebilen büyük akine tahsil modelleri” olacağı belirtiliyor.
Şirketler tarafından paylaşılan blog gönderilerinde, yeni güvenlik kümesinin dört ana gayesi olacağı belirtildi. Bu amaçlar, şu formda sıralandı:
- Modellerin sorumlu bir halde geliştirilmesini teşvik etmek, riskleri en aza indirmek, yetenekler ve güvenliğin bağımsız, standartlaştırılan değerlendirmelerini sağlamak için yapay zekâ güvenlik araştırmasını geliştirmek.
- İnsanların teknolojinin tabiatını, yeteneklerini, sınırlamalarını ve tesirini anlamasına yardımcı olarak modellerin sorumlu bir formda geliştirilmesi ve dağıtılması için en âlâ uygulamaları belirlemek.
- Güvenlik riskleri hakkında bilgi paylaşmak için siyaset oluşturanlar, akademisyenler, sivil toplum ve şirketlerle iş birliği yapmak.
- İklim değişikliğinin hafifletilmesi, kanserin erken teşhisi ve önlenmesi ve siber tehditlerle uğraş üzere toplumun en büyük meselelerinin üstesinden gelinmesine yardımcı olabilecek uygulamalar geliştirme gayretlerine takviye olmak.
Frontier Model Forum, yapay zekâ konusunda teklifler sunacak, şirketler ve hükümetlerle bilgiler paylaşabilecek bir müracaat şurası kurarak çalışmalarına başlayacak. Ayrıyeten kümenin teknoloji dünyasını bir ortaya getirmek istediğini de belirtelim. Açıklamada, yapay zekâ güvenliği konusunda adım atmaya çalışan öteki şirketlere kapılarının açık olduğu belirtiliyor.