AI Kararnamesi
-
- Genel Bakış
Yapay Zeka’nın Güvenli, Emniyetli ve Güvenilir Geliştirilmesi ve Kullanılması Üzerine Başkanlık Kararnamesi (“Kararname“), yapay zekanın geliştirilmesi ve kullanımına ilişkin kapsamlı bir yaklaşım sunmaktadır. Yapay zekanın potansiyel faydalarını ve risklerini tanıyan Kararname, yapay zeka kullanımının yönetilmesi için koordineli ve toplum genelinde bir çabanın gerekliliğine dikkat çekmektedir. Birleşik Devletler yönetimi, yapay zekanın geliştirilmesini ve kullanımını sekiz rehber ilke ve öncelik doğrultusunda ilerletmeyi ve yönetmeyi hedeflemekte, yapay zekanın güvenli, emniyetli ve güvenilir olmasının önemini öne çıkarmaktadır. Bu aynı zamanda yapay zeka sistemlerinin kapsamlı değerlendirilmesini ve riskleri azaltma mekanizmalarını içermektedir.
Kararnamenin etkileri geniş kapsamlı olup yapay zeka geliştiricilerini ve çeşitli kamu ve özel kuruluşlarını etkilemektedir. Kararname, ABD idari yapısı içindeki çeşitli yönetimleri (“idareler“); rehberlikler, standartlar ve en iyi uygulamalar geliştirmek; kurumlar oluşturmak ve mevcut olanların risklerini yönetmek; ayrıca planlar uygulamak ve raporlar yayınlamakla yükümlü kılmaktadır. Bu rehberlikler, üretken yapay zeka (generative AI) için kaynakları, üretken yapay zeka ve çift kullanımlı temel modeller (dual-use foundation models) için güvenli geliştirme uygulamaları ile yapay zeka yeteneklerinin değerlendirilmesi ve denetlenmesi için rehberlik ve ölçütler oluşturma girişimini içermektedir.
Bu yazımızda, Kararname’de önemli gördüğümüz hem temel hem de iş odaklı yönlerini inceleyeceğiz.
- Sekiz İlke
Kararname, zorunlu kıldığı eylemler uygulanırken uyulması gereken sekiz rehber ilkeyi tanımlamaktadır. Bu ilkeler, yapay zekanın sorumlu, etik ve topluma faydalı bir şekilde geliştirilip kullanılmasını sağlamak için tasarlanmıştır.
- Güvenlik ve Emniyet: Yapay zekada güvenlik ve emniyetin önemini vurgulayan Kararname, güçlü sistem değerlendirmeleri ve risk azaltma politikaları talep ederken etkili etiketleme ve içerik kaynağının belirlenmesi mekanizmalarına olan ihtiyacın altını çizmektedir.
- İnovasyon, Rekabet ve İş Birliği: Kararname, yapay zeka alanında sorumlu inovasyon, rekabet ve iş birliğini savunmakta ve bir yandan yapay zeka ile ilgili eğitim, araştırma ve kapasiteye yatırım yapılmasını teşvik ederken öte yandan fikri mülkiyet meselelerini ele almaktadır.
- İşçilerin Desteklenmesi: Yapay zeka çağında Birleşik Devletler işçilerine verilen desteğin önemini vurgulayan Kararname, çeşitlilik arz eden bir iş gücünü teşvik etmek ve yapay zeka tarafından yaratılan fırsatlara erişimi sağlamak için iş eğitimlerini ve diğer eğitimleri uyarlamayı hedeflemektedir.
- Eşitlik ve Sivil Haklar: Kararname tarafından yönlendirilen yapay zeka politikaları, eşitliği ve sivil hakları desteklemelidir ve yapay zekanın bireyleri haksız bir şekilde dezavantajlı duruma düşürmesi yasaklanmıştır.
- Tüketicilerin Korunması: Kararname, halihazırdaki tüketici koruma kanunlarını ve ilkelerini uygularken Birleşik Devletler tüketicilerini yapay zeka ve yapay zeka destekli ürünlerle ilgili dolandırıcılık, önyargı, ayrımcılık ve ilgili diğer potansiyel zararlara karşı korumaktadır.
- Gizlilik ve Sivil Özgürlükler: Kararname, yapay zeka ilerlemelerine ayak uydurulması amacıyla Amerikalıların gizliliğini ve sivil özgürlüklerini korumakta; veri işlemenin yasal ve güvenli olması ile gizlilik ve mahremiyet risklerinin en aza indirmesini talep etmektedir.
- Federal Hükümet’in Yapay Zeka Kullanımı: Kararname, Federal Hükümet’in yapay zeka kullanımıyla ilişkili riskleri ele alarak hükümetin düzenleme, yönetme ve sorumlu yapay zeka kullanımını teşvik etme kapasitesini artırmaktadır.
- Küresel Öncülük ve Yapay zeka İttifakı: Kararname, yapay zekanın sorumlu bir şekilde kullanımı için uluslararası iş birliğinin gerekliliğini vurgulamakta, yapay zekanın riskleri ve faydalarını dengelemek için uluslararası ortaklarla diyalogu teşvik etmekte, güvenlik ilkelerini savunmakta ve eşitsizlikleri derinleştirmeden veya insan haklarını tehlikeye atmadan dünya çapında fayda sağlanmasını hedeflemektedir.
- Güvenlik ve Emniyet
Bu kısımda, yapay zeka uygulamalarının güvenliği ve emniyeti ile ilgili dikkate değer konular bulunmaktadır.
- Yapay Zeka Kırmızı Ekip Testleri (AI Red-Teaming)
Kararname, özellikle çift kullanımlı temel modeller (dual-use foundation models) üzerinde çalışan geliştiriciler için kritik bir güvenlik önlemi olarak yapay zeka kırmızı ekip testlerini zorunlu kılmaktadır. Bu yapılandırılmış karşıt test, zararlı çıktıları veya kötüye kullanımı önlemek için sistem zafiyetlerini ortaya çıkarmayı amaçlamaktadır. İlgili taraflar, bu test sonuçları hakkında düzenli raporları, Ulusal Standartlar ve Teknoloji Enstitüsü’nün (NIST) Direktörünün rehberliğine uygun olarak Federal Hükümet’e sunmak ve sistem performansını ve güvenliğini artırmak için uygulanan azaltma çabalarının etkinliği hakkında detaylı bilgi vermekle yükümlüdür. Kararname ayrıca, milli güvenlik sistemleri hariç olmak üzere, bu kırmızı ekip aktivitelerinin standardizasyonu için rehberlikler geliştirilmesini ve böylece yapay zeka sistemlerinin güvenli ve güvenilir bir şekilde konuşlandırılmasını sağlamayı amaçlamaktadır.
- Çift Kullanımlı Temel Modeller
Çift kullanımlı temel modeller geliştiren taraflar, geniş uygulanabilirliklerinin güvenlik ve kamu güvenliğini ilgilendiren potansiyel risklerle dengelenmesini vurgulayacak şekilde Kararname kapsamında sıkı bir uyuma tabidirler. Geniş parametre sayıları ve çok yönlülükleri ile ayrılan bu tür yapay zeka modellerinin yaratılışlarıyla ilgili faaliyetlerin, ileri tehditlere karşı bulundurduğu güvenlik ve bütünlük önlemleri de dahil olmak üzere belirli özelliklerinin geliştiriciler tarafından Federal Hükümet’e bildirilmesi gerekecektir. Aynı zamanda, geliştiricilerin bu sistemlerin güvenliğini ve emniyetini doğrulamak için kırmızı ekip testlerini içerecek şekilde güvenli yapay zeka uygulamaları için rehberlikler oluşturmaları beklenmektedir. Üstelik Kararname, geniş çapta kullanılabilir çift kullanımlı model ağırlıklarının (widely available model weights) risklerini ve faydalarını değerlendirmek için danışmanlık niteliğinde iş birliği çağrısında bulunmakta ve bu etkili yapay zeka araçlarının sorumlu bir şekilde yönetilmesi için politika önerileri içeren bir rapor hazırlanmasını gerektirmektedir.
- Geniş Çapta Kullanılabilir Model Ağırlıkları
Yenilik ile güvenlik arasındaki mübadele dengesine dikkat çeken Kararname, geniş çapta kullanılabilir ağırlıklara sahip çift kullanımlı temel modellerin kapsamlı şekilde değerlendirilmelerini talep etmektedir. ABD Ticaret Bakanı, bu modellerin tam kapsamlı sonuçlarının ölçüp biçilmesi üzerine çeşitli sektör paydaşlarına danışmakla görevlidir. Bu diyalog, yapay zekanın ilerleme potansiyelinin güvenlik önlemlerine karşı taşıdığı risklere ağır basmasını amaçlamaktadır. Bu süreçten elde edilen bilgiler, bu tür modellerin geniş çapta erişilebilir kılınmasının riskleri ve avantajları hakkında ABD Başkanı’na gönderilecek detaylı bir rapora katkıda bulunacak ve güvenlik risklerini kontrol altında tutarken faydalarını en üst düzeye çıkarmak için politika önerileri sunacaktır.
- Hizmet Olarak Altyapı (“IaaS”) Sağlayıcıları
Ulusal siber güvenliği güçlendirmek adına Kararname, ABD’nin IaaS tekliflerinin uluslararası siber tehditler tarafından kötüye kullanılmasını önlemek için IaaS sağlayıcılarından ilave eylemler talep etmektedir. Belirlenen zaman dilimi içinde ABD Ticaret Bakanı, IaaS sağlayıcılarının yabancı işlemlere ilişkin kapsamlı kayıt tutmalarını zorunlu kılacak düzenlemeleri taslak haline getirecektir. Bu kurallar, ABD’nin IaaS ürünlerini kullanan yabancı satıcılar bakımından müşterilerinin kimliklerini doğrulama ve detaylı doğrulama kayıtlarını tutma mecburiyetlerini getirmek suretiyle ABD’nin IaaS ürünlerinin yasadışı kullanımını kısıtlamak için tasarlanmıştır. Bu adımlar, karmaşık tehditlere karşı siber altyapının bütünlüğünü korumayı ve IaaS sağlayıcılarının ulusal güvenlik öncelikleriyle uyumlu hale gelmesini sağlamayı amaçlamaktadır. Ticaret Bakanı, bu düzenlemeleri uygulama yetkisine sahip olacak ve sağlayıcıların, ABD’nin IaaS ürünlerinin kötüye kullanılmasını önlemek için en yüksek güvenlik standartlarını sürdürmelerini talep edecektir.
- Yapay Zeka Tarafından Üretilen İçeriklere İlişkin Konular
- Yapay Zeka Tarafından Üretilen İçeriğin Doğrulanması
Yapay zeka tarafından üretilen içeriklerin yayılım hızının dikkate alınması sonucu, bunlara ilişkin mevcut ve olası içerik doğrulama ve kaynak izleme standartları zorunlu bir rapor ile özetlenecektir. Belirlenen süre içinde dijital içeriklerin doğrulanması için kapsamlı rehberlikler oluşturulacak, başta filigran uygulamaları olmak üzere yapay zeka sentezli medya için etiketleme uygulamaları hayata geçirilecek ve aldatıcı veya zararlı nitelikteki yapay zeka üretimi materyallerin tespiti ve önlenmesi geliştirilecektir. İdareler arası iş birliği yoluyla bu doğrulama araçları ve yöntemleri üzerine rehberlikler oluşturulacak ve düzenli olarak güncellenecektir. Ayrıca, sentetik medyanın yükselişi karşısında resmi içeriklere olan güvenilirliği ve kamu güvenini artırmak amacıyla, idarelere dijital çıktılarını doğrulama ve etiketleme talimatları verilecektir.
- Yapay Zekada Patent ve Telif Hakkı
Kararname, yapay zeka ve fikri mülkiyet hukuku kesişiminde yeni esaslar belirlemektedir. İlk olarak buluş sürecinde yapay zekanın rolüne ilişkin rehberlikler çıkarılması ve özellikle mucitlik kriterlerinin açıklığa kavuşturulması çağrısında bulunulmaktadır. Bunun ardından, patent uygunluğuna ilişkin mevcut standartlarının değiştirilebileceği ihtimali dikkate alınarak yapay zeka ile ilgili fikri mülkiyet meselelerinin kapsamlı bir incelemesinin yapılması zorunlu kılınmaktadır. Yaklaşmakta olan yapay zeka ve telif hakkı üzerine yapılacak çalışmayla birlikte, yapay zeka tarafından yaratılan içeriklerle ilgili karmaşıklıklarla başa çıkmak ve yapay zeka geliştirmelerinde telif hakkı içeren materyallerin kullanımını belirginleştirmek için ek öneriler geliştirilecektir.
- Önemli Diğer Konular
- İnovasyon ve Rekabet
Rekabetçi ve kapsayıcı bir yapay zeka ortamı geliştirmeyi hedefleyen idareler, tekelleşme eğilimlerini bozma ve görece küçük oyunculara pazar erişimini artırma amacıyla atanmış yeni görevler ile harekete geçecektir. Odak noktası, önemli teknolojik girdilere açık erişimi garanti altına almak ve haksız piyasa uygulamalarına engel olmaktır. Bu hedefler doğrultusunda, yapay zekanın ilerlemesi için kritik öneme sahip yarı iletken sektöründe geniş katılımı teşvik etmek üzere CHIPS Yasası kapsamında önlemler alınmaktadır. ABD Küçük İşletmeler İdaresi de yapay zeka alanında faaliyet gösteren küçük işletmeleri desteklemek ve büyütmek için kaynakları stratejik olarak dağıtmaya hazırlanmakta, bu da tüm piyasa katılımcıları için adil bir inovasyon ekosistemi yaratma konusunda kararlı bir çabayı yansıtmaktadır.
- Gizlilik
Yapay zekanın ilerlemesi, sağlam gizlilik korumalarını gerektirmektedir. Bu amaçla ilgili taraflar, bireylerin hassas verilerini yetkisiz erişimden ve kötüye kullanımdan korumak için, örneğin gizliliği artıran teknolojiler (privacy-enhancing technologies), kullanmak suretiyle veri yönetiminin güvenli, yasal ve risk azaltıcı olmasını sağlamakla görevlendirilmişlerdir. Bunun yanı sıra, kişisel bilgi akışlarının üzerindeki denetimi güçlendirmek amacıyla veri tedariki uygulamalarının zorunlu değerlendirilmesi yapılacaktır. Geliştiriciler ve idareler, dijital çağda kişisel gizliliğin bütünlüğünü koruyabilmek için yapay zeka uygulamalarının geliştirme ve dağıtımının tüm aşamalarında gizlilik ve güvenlik değerlendirmelerini entegre etmek zorundadırlar.
- Tüketicilerin Korunması
Yapay zeka ve yapay zekaya entegre ürünler yaygınlaştıkça, ABD yönetimi de tüketici korumalarını sürdürme çabalarını yoğunlaştırmaktadır. Düzenleyici kurumlar, tüketicileri yapay zeka ile ilgili aldatıcı uygulamalardan, önyargılardan, ayrımcılıktan ve gizlilik ihlallerinden korumak için tam yetkilerini kullanmaya çağrılmakta, aynı zamanda ilgili taraflarca üçüncü taraf yapay zeka hizmetlerinin şeffaflığını ve kapsamlı değerlendirilmesini sağlamakla yükümlü tutulmaktadırlar. Bunun yanında özellikle sağlık ve finans gibi hayati sektörlerde yapay zekaya özgü riskleri önlemek için tüketicileri koruyan mevcut yasalara bağlılık vurgulanmaktadır. Paralel olarak, hizmet kalitesini ve erişilebilirliğini artırırken tüketici güvenliği ve haklarını korumayı amaçlayan sorumlu yapay zeka kullanımını teşvik etme konusunda altta yatan bir kararlılık bulunmaktadır.
- Sivil Haklar ve Önyargıların Defi
ABD hükümeti, yapay zeka ile ilgili olarak sivil haklar, adalet, kolluk kuvvetleri ve ceza adaleti sistemi üzerindeki dikkatini artırmaktadır. Gözetimlerden adli değerlendirmelere kadar yapay zeka uygulamalarının yoğun denetimi, adil ve tarafsız yargı süreçlerine destek olacak şekilde uygulanacaktır. Kolluk kuvvetleri, olağan çalışmalarına giderek daha fazla teknik uzmanlık entegrasyonunu sağlayacak ve sorumlu bir şekilde yapay zeka kullanımı için en iyi uygulamaları paylaşacaktır. Ayrıca ABD Adalet Bakanı, yapay zekanın adalet sistemine etkisini değerlendirmek, özellikle önyargı ve ayrımcılığı ortadan kaldırmaya odaklanmak üzere kapsamlı bir rapor hazırlamakla görevlendirilmiştir.
- Sonuç
Kararname, yapay zekanın toplumsal normların dokusuna entegrasyonu için stratejik bir yol haritası oluşturmakta, sivil özgürlüklerin korunmasını önceliklendirerek ve yeniliği teşvik ederek, faydanın tüm sektörlere eşit dağıtılmasını sağlamaktadır. Hükümet organları ve yapay zeka geliştiricileri için katı uyum protokolleri öngörülmekte, yapay zeka teknolojilerinin güvenlik, emniyet ve etik uygulamalarının son derece önemli olduğu vurgulanmaktadır. Kararname; gizlilik, tüketicilerin koruması ve rekabetçi uygulamaların teşvik edilmesi için proaktif bir yaklaşım beklerken, yapay zeka sistemlerinde şeffaflığa ve hesap verebilirliğe duyulan kritik ihtiyacı da ön plana çıkarmaktadır.
Nihayetinde Kararname, yapay zekanın sorumlu kullanımı için bir pusula işlevi görmekte ve teknolojik ilerlemenin adil ve adalet temel değerlerle uyumlu olmasını sağlamaktadır. Federal kuruluşlar, kolluk kuvvetleri ve özel sektör paydaşları arasında, tüketicilerin ve iş gücünün refahını koruyup artıran yüksek standartların sürdürülmesi için bütünleşik bir çaba teşvik edilmektedir. Yapay zeka geliştiricileri, yapay zeka sistemlerinin, sivil hakları onurlandıran ve kamuoyunda güven uyandıran şekillerde tasarlanıp yönetilmesini, bu kapsamda dikkati ve etiği gerektiren bir rejimle karşı karşıya bırakılmaktadır. Bu birleşik strateji, ABD’deki yapay zeka ilerlemelerinin olumlu etkiler bırakmaya devam etmesini amaçlamakta, sorumlu inovasyonu teşvik ederken toplumu potansiyel kötüye kullanımlara ve risklere karşı dikkatlice korumayı hedeflemektedir.
KAYNAKLAR
Key takeaways from the Biden administration executive order on AI | EY – US