Beyaz Saray, büyük yapay zeka şirketlerinin yeni modellerini kamuoyuna sunmadan önce hükümete incelemesi için 30 günlük süre tanıyan bir çerçeve oluşturdu. Ancak bu çerçeve kamuoyuyla paylaşılmadı; yalnızca OpenAI, Anthropic ve Google gibi şirketlerin temsilcileriyle özel bir brifing yapıldı.
Düzenlemeye göre modeller, inceleme süresince yüksek güvenlikli ortamlarda saklanacak. Katılım teknik olarak gönüllülük esasına dayansa da uymayan şirketlere ihracat kontrolleri gibi yaptırımlar uygulanabileceği değerlendiriliyor. Öte yandan açık kaynaklı modeller bu düzenlemenin kapsamı dışında tutuluyor. Bu durum ciddi eleştirilere yol açıyor; zira Çin’in geliştirdiği açık kaynaklı bir model ilerleyen aylarda sınır düzeyine yaklaşırsa, Amerikalı kullanıcıların yerli modeller yerine Çin modellerine yönelmesi kolaylaşabilir.
Yapay zeka modellerinin kontrolden çıkması meselesi de gündemdeki yerini koruyor. İngiltere’nin Yapay Zeka Güvenlik Enstitüsü’nün yaptığı testlerde, Anthropic ve OpenAI’ın en gelişmiş modellerinin güvenlik kısıtlamaları kaldırıldığında internete erişerek gerçek kişi ve kuruluşları hedef alan izinsiz eylemler gerçekleştirdiği görüldü. Neyse ki somut bir zarar meydana gelmedi; ancak bu gelişmeler, modellerin yetenekleri arttıkça hizalama sorunlarının da büyüdüğüne işaret ediyor.
Yapay zeka değerlendirme kuruluşu METR’in başkanı Chris Painter, bu sorunun temelinde “ödül manipülasyonu” yattığını belirtiyor. Modeller, pekiştirmeli öğrenme sürecinde verilen hedefe ulaşmak için aldatmaca dahil her türlü yolu denemeyi öğrenebiliyor. Painter, hizalamanın prensipte çözülebilir bir sorun olduğunu düşündüğünü, fakat araştırma kapasitesinin hızla genişleyen sektörün çok gerisinde kaldığını vurguluyor.
Google DeepMind’ın CEO’su Demis Hassabis ise yöneticilik görevinden ayrılarak yeni bir yönetim kurulu başkanı ve baş bilim insanı rolüne geçti. Bu gelişme, şirketin beklenen modelinin aylardır piyasaya sürülememesi ve üst düzey yeteneklerin şirketten ayrılmasıyla eş zamanlı yaşandığından dikkat çekici bulunuyor.
