Yapay zekânın nasıl kontrol edileceği son dönemde hem şirketlerin hem sivil toplum örgütlerinin hem de yetkililerin gündeminde önemli yer tutan konuların başında geliyor. ABD hükûmeti de bu alanda çeşitli adımlar atıyor. Bunlardan biri de üretken yapay zekâların güvenli şekilde geliştirilmesini ve kullanılmasını sağlayan bir konsorsiyum oluşturmak. Beyaz Saray hükûmeti, 200’den fazla kurumun ilgili konsorisyuma dahil edileceğini açıkladı.
Teknoloji devleri başı çekecek
ABD Ticaret Bakanı Gina Raimondo tarafından yapılan açıklamaya göre, ABD Yapay Zekâ Güvenlik Enstitüsü Konsorsiyumuna dahil olacak öncü kuruluşlar arasında OpenAI, Google, Anthropic, Microsoft, Meta, Apple, Amazon.com, NVIDIA, Palantir, Intel, JPMorgan Chase ve Bank of America yer alıyor.
Konuyla ilgili bir açıklama yapan Raimondo, “ABD hükûmetinin, yapay zekânın risklerini azaltmak ve muazzam potansiyelinden yararlanmak için ihtiyaç duyduğumuz standartları belirlemekte ve araçlar geliştirmekte oynaması gereken önemli bir rolü var.” ifadelerini kullandı. Hâlihazırda BP, Cisco, IBM, Hewlett Packard, Northop Grumman, Mastercard, Qualcomm, Visa gibi kurumların da katıldığı konsorsiyum, ABD Yapay Zekâ Güvenlik Enstitüsü çatısında yer alacak.
Grubun amacı ise yapay zekânın yeterliliklerinin belirlenmesini sağlamak, rehberler oluşturmak, risk yönetimi, güvenlik ve gizlilik anlamında gerekli adımların atıldığından emin olmak olarak belirtiliyor. Son dönemde sık sık haberleri çıkan yapay zekâ içeriklerini işaretleme çalışmaları da aslında ABD ve AB’nin getirdiği kısıtlamaların bir sonucu olarak göze çarpıyor.
Konsorsiyum ayrıca “Kırmızı Takım” çalışmalarıyla yapay zekâların açıklarını da bulmaya çalışacak. (Soğuk Savaş yıllarında ABD’nin senaryolarında Sovyetler Birliği, Kırmızı Takım olarak adlandırılırdı.) Yapay zekâ, kimyasal, biyolojik, radyolojik, nükleer ve siber güvenlik riskleri açısından sürekli olarak test edilecek. Böylece yapay zekâ güvenliği için yeni ölçüm yolları belirlenecek.