ABD’de yapay zekâ sektörünün önde gelen şirketleri, gelişmiş yapay zekâ sistemlerinin güvenliğine yönelik yeni bir anlaşmaya imza attı. OpenAI, Google, Meta, Anthropic, Nvidia ve xAI’nin de aralarında bulunduğu şirketler, yapay zekâ teknolojilerinin geliştirilmesi sırasında güvenlik kontrollerinin artırılması konusunda ortak bir çerçeve oluşturdu.
Şirketlerden güvenlik taahhüdü
Anlaşma kapsamında şirketlerin geliştirdikleri gelişmiş yapay zekâ modelleri için daha kapsamlı güvenlik kontrolleri uygulaması ve gerektiğinde bağımsız dış denetimlerden yararlanması öngörülüyor. Özellikle yapay zekânın siber saldırılar ile biyolojik ve kimyasal tehditlerde kötüye kullanılabilecek yeteneklerinin takip edilmesine yönelik güvenlik önlemlerinin güçlendirilmesi hedefleniyor.
Yönetim seviyesinde yeni güvenlik mekanizması
Şirketlerin yapay zekâ güvenliği konusunda yönetim seviyesinde sorumluluk üstlenmesi ve modellerin geliştirilmesi sırasında ortaya çıkabilecek risklerin düzenli olarak değerlendirilmesi bekleniyor. Böylece yapay zekâ güvenliğinin yalnızca teknik ekiplerin sorumluluğunda kalmaması ve şirketlerin üst yönetimleri tarafından da takip edilmesi amaçlanıyor.
Anlaşmanın hukuki yaptırımı bulunmuyor
Yeni güvenlik çerçevesinin şu aşamada yasal olarak bağlayıcı olmadığı belirtiliyor. Şirketlere yönelik doğrudan bir ceza mekanizması bulunmaması nedeniyle uygulamanın büyük ölçüde şirketlerin kendi güvenlik politikaları ve gönüllü taahhütleri üzerinden yürütülmesi bekleniyor.
ABD’de yapay zekâ şirketleri mercek altında
Bu gelişmeyle birlikte ABD’de yapay zekâ şirketlerinin faaliyetlerine yönelik denetim tartışmaları da yeniden gündeme geldi. Teknolojinin hızla gelişmesiyle birlikte yapay zekânın güvenliği, tüketicilerin korunması, siber güvenlik ve şirketlerin sorumlulukları konuları Washington’daki teknoloji gündeminin önemli başlıkları arasında yer almaya devam ediyor.
