Yapay Zekanın Siber Güvenliği ve Standardizasyon Bölüm-2
Yapay Zekanın Siber Güvenliği ve Standardizasyon
Bölüm-2
Aşağıdaki Enisa Raporu Enisa web sitesindeki orjinal İngilizce versiyonundan alınarak ETP Yapay Zeka Çalışma Grubumuzdan Hayri Aydın, Sabri Günaydın, Gürol Mutaf tarafından yapay zeka çeviri yazılımları kullanarak Türkçe'ye tercüme edilerek düzenlenmiştir.
Kaynak:https://www.enisa.europa.eu/publications/cybersecurity-of-ai-and-standardisation/@@download/fullReport
(Rapor Tarihi Mart 2023 )
Rapor bölümler halinde yayınlanacaktır. Enisa ve yazının yazarlarının Türkçe çeviri ile ilgili sorumluluğu yoktur. ETP Türkçe çeviri ve düzenleme sorumluluğunu üstlenir.
Türkçe çeviride göreceğiniz olası hataları " firstname.lastname@example.org " adresine e-posta göndermenizi rica ederiz.
Bu raporun ETP Portalımızda yayını ile ilgili bize destek ve kılavuz olan ENISA Ekibi 'ne, Avrupa Birliği Yayınlar Ofisi'nden Mr. Brian Killeen 'e teşekkür ederiz.
4. KAPSAM ANALİZİ
Bu bölümde, CIA (Confidentiality, Integrity and Availability) güvenlik modeli ve siber güvenliği destekleyen güvenilirlik özelliklerine ilişkin olarak önceki bölümlerde tanımlanan en ilgili standartların kapsamının bir analizi sunulmaktadır.
4.1 YAPAY ZEKANIN SİBER GÜVENLİĞİNİ DESTEKLEMEK İÇİN STANDARDİZASYON - DAR ANLAMLI
Bölüm 2.2'de açıklandığı gibi, dar anlamda YZ'nin siber güvenliği, bir YZ sisteminin yaşam döngüsü boyunca varlıkların (YZ bileşenleri ve ilgili veriler ve süreçler) CIA'sı ile ilgili olarak anlaşılmaktadır. Tablo 1, bu güvenlik hedeflerinin her biri için YZ sistemlerine yönelik ilgili saldırı örneklerini göstermektedir.
Tablo 18: YZ bağlamında CIA paradigmasının uygulanması9
YZ sistemlerini yazılım olarak ele alırsak ve tüm yaşam döngülerini göz önünde bulundurursak, genel amaçlı standartlar, yani YZ'ye özgü olmayan ve teknik ve organizasyonel yönleri ele alanlar, YZ'nin karşılaştığı birçok riskin azaltılmasına katkıda bulunabilir. Aşağıdakiler özellikle ilgili olarak tanımlanmıştır:
• ISO/IEC 27001, Bilgi güvenliği yönetimi ve ISO/IEC 27002, Bilgi güvenliği kontrolleri: tüm güvenlik hedefleriyle ilgili,
• ISO/IEC 9001, Kalite yönetim sistemi: özellikle bütünlük (örneğin, zehirlenmeye karşı koruma için özellikle veri kalitesi yönetimi) ve kullanılabilirlik ile ilgilidir.
8 Almanya Federal Bilgi Güvenliği Ofisi'nin "Denetlenebilir Yapay Zeka Sistemlerine Doğru" başlıklı Beyaz Kitabına (https://www.bsi.bund.de/SharedDocs/Downloads/EN/BSI/KI/Towards_Auditable_AI_Systems.pdf? blob=publicationFile& v=6) ve ENISA'nın Makine Öğrenimi Algoritmalarının Güvenliğini Sağlama raporuna (https://www.enisa.europa.eu/publications/securing- machine-learning-algorithms) dayanmaktadır.
9 YZ'ye özgü olmayan, ancak CIA'yı daha da ciddi şekilde etkileyebilecek siber güvenlik saldırıları da vardır. Donanım ve yazılıma yönelik geleneksel siber saldırıların daha ayrıntılı açıklamaları için ETSI GR/SAI- 004, Problem Bildirimi ve ETSI GR/SAI-006, YZ Güvenliğinde Donanımın Rolü'ne başvurulabilir.
Bu durum iki soruyu gündeme getirmektedir:
• İlk olarak, genel amaçlı standartların belirli bir tehdit için özel YZ bağlamına ne ölçüde uyarlanması gerektiği,
• İkinci olarak, mevcut standartların yapay zekanın siber güvenliğini ele almak için yeterli olup olmadığı veya tamamlanması gerekip gerekmediği.
İlk soruyla ilgili olarak, genel amaçlı standartların geçerli olduğu ya da rehberlik sağlandığı takdirde uygulanabileceği önerilmektedir. Basitleştirmek gerekirse, YZ bazı özelliklere sahip olsa da, özünde yazılımdır; bu nedenle, yazılım için geçerli olan YZ'ye uygulanabilir. Yine de, SDO'lar aktif olarak YZ özelliklerini ele almaktadır ve mevcut birçok genel amaçlı standart, YZ'yi daha iyi ele almak için tamamlanma sürecindedir. Bu, genel düzeyde, mevcut boşlukların YZ terimlerinin ve kavramlarının açıklığa kavuşturulması ve mevcut standartların YZ bağlamına uygulanması ve özellikle aşağıdakilerle ilgili olduğu anlamına gelir.
• YZ terminolojisinin ve ilişkili güvenilirlik kavramlarının ortak tanımı: Birçok standart YZ'yi tanımlamaya çalışmaktadır (örneğin ISO/IEC 22989:2022, Yapay zeka kavramları ve terminolojisi; ISO/IEC 23053:2022, Makine öğrenimi (ML) kullanan yapay zeka (YZ) sistemleri için çerçeve; ETSI ISG GR SAI-001, YZ tehdit ontolojisi; NIST, YZ risk yönetimi çerçevesi. Bununla birlikte, standartları tutarlı bir şekilde uygulamak için, SDO'ların YZ'nin ne olduğu (ve ne olmadığı), güvenilirlik özelliklerinin ne olduğu ve dolayısıyla ilgili standartların nerede ve ne için geçerli olduğu (ve nerede geçerli olmadığı) konusunda ortak bir anlayışa sahip olmaları önemlidir.
• Yazılımın siber güvenliği ile ilgili standartların YZ'ye nasıl uygulanması gerektiği konusunda rehberlik: Örneğin, veri zehirlenmesi sadece YZ'yi ilgilendirmez ve bu tür tehditlerle başa çıkmak için, özellikle yazılımda kalite güvencesi ile ilgili iyi uygulamalar mevcuttur. Bununla birlikte, kalite güvence standartları veri manipülasyonuna (veri zehirlenmesinin aksine) atıfta bulunacaktır: veri manipülasyonuna karşı bir önlem, açıklamasında, özellikle YZ sistemlerini etkileyen veri manipülasyonu biçimlerini de hafiflettiğinden bahsetmeyecektir. Geliştirilecek olası rehberlik, veri zehirlenmesinin bir veri manipülasyonu biçimi olduğunu ve bu nedenle veri manipülasyonuyla ilgili standartlarla en azından bir dereceye kadar ele alınabileceğini açıklayabilir. Bu rehberlik özel belgeler şeklinde olabilir veya mevcut standartların güncellemelerine eklenebilir.
İkinci soruyla ilgili olarak, SDO'ların faaliyetlerinden, YZ'den kaynaklanan tehditlere ve güvenlik açıklarına karşı koymak için mevcut tekniklerin uygulanmasına ilişkin yetersiz bilgi konusunda endişe duyulduğu açıktır. Bu endişe meşrudur ve geçici rehberlik/güncellemeler ile ele alınabilirken, bu yaklaşımın kapsamlı olmayabileceği ve aşağıda özetlendiği gibi bazı sınırlamaları olduğu savunulmaktadır.
• YZ kavramı, donanım veya altyapı gibi yazılımla sınırlı olmayan ve aynı zamanda özel rehberliğe ihtiyaç duyan teknik ve organizasyonel unsurları içerebilir. Örneğin,
ISO/IEC/IEEE 42010 baskı 2, Mimari tanımlama sözlüğü, örneğin donanım, yazılım, organizasyonlar ve süreçler dahil olmak üzere YZ yeteneklerini entegre eden ilgili bir varlığın siber güvenliğini dikkate alır. Buna ek olarak, genel sistemler ile YZ sistemleri arasındaki boşluğu kapatırken YZ sistem ve uygulama senaryolarındaki yeni değişiklikler de dikkate alınmalıdır.
• Yazılımda kalite güvencesi için en iyi uygulamaların uygulanması, bazı yapay zeka modellerinin şeffaf olmaması nedeniyle engellenebilir.
• ISO 9001 ve ISO/IEC 27001 ile uyumluluk sistem düzeyinde değil kuruluş düzeyindedir. Uygun güvenlik önlemlerinin belirlenmesi sisteme özgü bir analize dayanır. CIA güvenlik hedeflerini destekleyen standartlaştırılmış yöntemlerin belirlenmesi genellikle karmaşıktır ve uygulamaya ya da alana özeldir, çünkü büyük ölçüde hafifletilecek saldırılar uygulamaya ya da alana bağlıdır. Birçok siber sisteme yönelik genel saldırılar ve birçok farklı sisteme yönlendirilebilen bazı çok özel saldırılar olmasına rağmen, bunlar
genellikle bir etki alanına veya bir uygulamaya özgü olan ve istismar edilebilecek küçük bir dizi güvenlik açığına dayanır. Bu anlamda, ETSI TS 102 165-1, Yöntemler ve protokoller; Bölüm 1: Tehdit, güvenlik açığı, risk analizi (TVRA)10 için yöntem ve yasal zorunluluğa uygunluk ve ISO/IEC 15408-1, BT güvenliği için değerlendirme kriterleri, belirli risk değerlendirmelerini gerçekleştirmek için kullanılabilir.
• Standartların YZ'yi güvence altına almak için sağlayabileceği destek, teknolojik gelişimin olgunluğu ile sınırlıdır ve bu nedenle teşvik edilmeli ve izlenmelidir. Başka bir deyişle, bazı alanlarda mevcut standartlar uyarlanamaz veya yeni standartlar henüz tam olarak tanımlanamaz, çünkü ilgili teknolojiler hala geliştirilmektedir ve henüz standartlaştırılacak kadar olgunlaşmamıştır. Bazı durumlarda, ilk standartlar hazırlanabilir (örneğin, derin sinir ağlarının sağlamlığına ilişkin ISO/IEC TR 24029-1:2021) ancak araştırma ve geliştirme (Ar-Ge) ilerledikçe muhtemelen düzenli olarak güncellenmesi ve uyarlanması gerekecektir. Örneğin, makine öğrenimi araştırması perspektifinden bakıldığında, düşmanca örnekler, kaçınma saldırıları, düşmanca sağlamlığın ölçülmesi ve sertifikalandırılması, makine öğrenimi modelleri için veri zehirlenmesinin özelliklerinin ele alınması vb. üzerine yapılan çalışmaların çoğu hala oldukça aktif Ar-Ge çalışmalarıdır. YZ ve standardizasyon üzerine Ar-Ge ile ilgili bir başka zorluk da kıyaslamadır: araştırma sonuçları genellikle karşılaştırılabilir değildir, bu da hangi koşullar altında neyin işe yaradığının her zaman net olmadığı bir durumla sonuçlanır.
Kutu 3: Teknolojik boşluk örneği: sürekli öğrenme11
10 Şu anda yapay zekayı da içerecek şekilde revizyon aşamasındadır.
11 Ancak sürekli öğrenme kavramının farklı yorumlara tabi olduğu unutulmamalıdır. Bunun sistemi zaman zaman güncellemekten ne kadar farklı olduğu, yani hangi sıklıkta yeniden eğitimin 'sürekli öğrenme' etiketini haklı çıkaracağı her zaman net değildir.
• Hem verilerin hem de YZ bileşenlerinin izlenebilirliği ve soyağacı tam olarak ele alınmamıştır. Süreçlerin izlenebilirliği, kalite ile ilgili çeşitli standartlar tarafından ele alınmaktadır. Bu bağlamda, ISO 9001 kalite yönetiminin temel taşıdır. Bununla birlikte, verilerin ve YZ bileşenlerinin yaşam döngüleri boyunca izlenebilirliği, çoğu tehdidi kesen ve büyük ölçüde ele alınmayan bir sorun olmaya devam etmektedir. Gerçekten de, hem veriler hem de YZ bileşenleri, birçok kaynaktan gelen ve dönüştürülen ve artırılan verilerle çok karmaşık yaşam döngülerine sahip olabilir ve YZ bileşenleri üçüncü tarafların bileşenlerini ve hatta açık kaynaklı bileşenleri yeniden kullanabilirken, bunların tümü açıkça artan risklerin kaynağıdır. Bu husus, YZ sistemlerinin kalitesini sağlamak için izlenebilirlikle ilgili teknolojilerin, tekniklerin ve prosedürlerin uygulamaya konulması gerektiği anlamına gelmektedir; örneğin, kullanılan verilerin önyargı içermemesi (örneğin, belirli özelliklere sahip insanların yüzlerini eklemeyi unutmak), kasıtlı olarak zehirlenmemiş olması (örneğin, modelin sonucunu değiştirmek için veri eklemek) ve kasıtlı veya kasıtsız olarak yanlış etiketlenmemiş olması (örneğin, kurt olarak etiketlenmiş bir köpek resmi).
• Makine Öğreniminin kendine has özellikleri mevcut standartlara tam olarak yansıtılmamıştır. Bölüm 2.1'de belirtildiği üzere, makine öğreniminin tasarım gereği %100 doğru olması beklenemez. Bu durum (örneğin) insanlar tarafından tasarlanan kural tabanlı sistemler için de geçerli olsa da, makine öğrenimi daha geniş bir girdi alanına (kapsamlı testleri zorlaştıran), kara kutu özelliklerine ve yüksek hassasiyete sahiptir, yani girdilerdeki küçük değişiklikler çıktılarda büyük değişikliklere yol açabilir. Bu nedenle, bir yandan arıza riskinin nasıl azaltılabileceğini, diğer yandan da bir arızanın kötü niyetli bir aktörden kaynaklanıp kaynaklanmadığını/ne zaman kaynaklandığını anlamak önemlidir. Mevcut/yeni standartlarda dikkate alınması gereken en belirgin hususlar aşağıdaki gibi özetlenebilir.
• AI/ML bileşenleri, işlevsel arıza riskini azaltmak için donanım veya diğer yazılım bileşenleriyle ilişkilendirilebilir, böylece ortaya çıkan kurulumla ilişkili siber güvenlik riskleri değişir12.
• Güvenilir ölçümler, potansiyel bir kullanıcının bir hatayı tespit etmesine yardımcı olabilir. Örneğin, denetimli sınıflandırmaya dayanan yapay zeka sistemleri için hassasiyet ve geri çağırma metrikleriyle, kullanıcılar bir yapay zeka sisteminin hassasiyet / geri bildirim eşiklerini bilirlerse, bu eşiklerin dışındaki değerleri ölçerken bir siber güvenlik olayına işaret edebilecek anormallikleri tespit edebilmelidirler. Bu genel bir kontrol olsa da (büyük ölçekli saldırılar için belirli saldırılardan daha etkilidir), güvenilir ölçümlerin doğru bir şekilde tanımlanması daha gelişmiş ölçümlerin tanımlanması için bir ön koşuldur.
• Geliştirme süreci sırasındaki test prosedürleri belirli seviyelerde doğruluk/hassasiyet sağlayabilir.
YZ sistemleri ve test prosedürleri için metrikler konusunun ISO/IEC DIS 5338-YZ sistem yaşam döngüsü süreçleri (geliştirme aşamasında); ISO/IEC AWI TS 12791-Sınıflandırma ve regresyon makine öğrenimi görevlerinde istenmeyen önyargıların giderilmesi (geliştirme aşamasında); ETSI TR 103 305-x, Etkili siber savunma için kritik güvenlik kontrolleri; ve ETSI GR SAI-006, YZ güvenliğinde donanımın rolü13 gibi standardizasyon çıktıları tarafından ele alındığı belirtilmelidir. Bununla birlikte, ihtiyaç duyulan YZ sistemleri güvenilirlik ölçütlerinin kapsamı eksiktir, bu da CEN-CENELEC'in 'YZ güvenilirlik karakterizasyonu' projesine yönelik girişiminin bir nedenidir.
12 Örneğin, denetleme sistemi bir siber güvenlik saldırısına işaret edebilecek anormal koşullar tespit ederse, sürücüsüz bir araç otomatik olarak devre dışı bırakılabilir.
13 Diğer örnekler arasında ISO/IEC 23894, Bilgi teknolojisi - Yapay zeka - Risk yönetimi hakkında rehberlik; I S O / I E C DIS 42001, Bilgi teknolojisi - Yapay zeka - Yönetim sistemi; ve ISO/IEC DIS 24029-2, Yapay zeka (AI) - Sinir ağlarının sağlamlığının değerlendirilmesi - Bölüm 2: Resmi yöntemlerin kullanımı için metodoloji.
Bundan sonraki bölüme "4.2 Yapay Zekanın Siber Güvenliğini Desteklemek İçin Standardizasyon-Güvenilirlik " ile devam edilecektir.
Kaynak:https://www.enisa.europa.eu/publications/cybersecurity-of-ai-and-standardisation/@@download/fullReport
(Rapor Tarihi Mart 2023 )
ENISA HAKKINDA
Avrupa Birliği Siber Güvenlik Ajansı (The European Union Agency for Cybersecurity) ENISA, Avrupa genelinde yüksek düzeyde ortak siber güvenlik sağlamaya amaçlayan bir Birlik ajansıdır. 2004 yılında kurulan ve AB Siber Güvenlik Yasası ile güçlendirilen Avrupa Birliği Siber Güvenlik Ajansı, AB siber politikasına katkıda bulunur, siber güvenlik sertifikasyon programları ile ICT ürünlerinin, hizmetlerinin ve süreçlerinin güvenilirliğini arttırır, Üye Devletler ve AB organları ile işbirliği yapar ve gelecekte Avrupa'nın siber zorluklarına hazırlanmasına yardımcı olur. Ajans, bilgi paylaşımı, kapasite geliştirme ve farkındalık yaratma yoluyla, bağlantılı Teknoloji, bağlantılı cihazlar, yazılım, ödemeler ve hücresel teknolojideki yenilikler, insanların ve işletmelerin herhangi bir cihaz aracılığıyla, herhangi bir dijital veya fiziksel konumda güvenli, emniyetli ve gerçek zamanlı olarak birbirleriyle bağlantı kurmasını ve iş yapmasını mümkün kılmaktadır. Dijital ve fiziksel dünyaların bu entegrasyonu, ekonomiye olan güveni güçlendirmek, Birliğin altyapısının dayanıklılığını artırmak ve nihayetinde Avrupa toplumunu ve vatandaşlarını dijital olarak güvende tutmak için kilit paydaşlarıyla birlikte çalışmaktadır. ENISA ve çalışmaları hakkında daha fazla bilgiye buradan ulaşabilirsiniz: www.enisa.europa.eu.
İLETİŞİM
Yazarlarla iletişime geçmek için lütfen email@example.com adresini kullanın.
YAZARLAR
P. Bezombes, S. Brunessaux, S. Cadzow
EDİTÖR(LER)
ENISA:
E. Magonara
S. Gorniak
P. Magnabosco E. Tsekmezoglou
TEŞEKKÜRLER
Ortak Araştırma Merkezi'ne ve Avrupa Komisyonu'na taslak hazırlama aşamasındaki aktif katkıları ve yorumları için teşekkür ederiz. Ayrıca, Yapay Zeka (AI) siber güvenliği üzerine ENISA Geçici Uzman Grubuna, bu raporun doğrulanmasındaki değerli geri bildirimleri ve yorumları için teşekkür ederiz.
YASAL BİLDİRİM
Bu yayın, aksi belirtilmedikçe ENISA'nın görüş ve yorumlarını temsil etmektedir. ENISA'nın veya ENISA organlarının 2019/881 sayılı Tüzük (AB) uyarınca düzenleyici bir yükümlülüğünü onaylamaz.
ENISA, yayını veya içeriğinden herhangi birini değiştirme, güncelleme veya kaldırma hakkına sahiptir. Bu yayın sadece bilgilendirme amaçlıdır ve ücretsiz olarak erişilebilir. Yayına yapılan tüm atıflar veya yayının tamamının ya da bir kısmının kullanımı, kaynak olarak ENISA'yı içermelidir.
Üçüncü taraf kaynaklardan uygun şekilde alıntı yapılmıştır. ENISA, bu yayında atıfta bulunulan harici web siteleri de dahil olmak üzere harici kaynakların içeriğinden sorumlu veya yükümlü değildir.
Ne ENISA ne de onun adına hareket eden herhangi bir kişi bu yayında yer alan bilgilerin kullanımından sorumlu değildir.
ENISA bu yayınla ilgili fikri mülkiyet haklarını korumaktadır.
TELIF HAKKI BİLDİRİMİ
© Avrupa Birliği Siber Güvenlik Ajansı (ENISA), 2023
ISBN 978-92-9204-616-3, DOI 10.2824/277479, TP-03-23-011-EN-C
Paylaş:
SON YAZILAR
Yapay Zekanın Siber Güvenliği ve Standardizasyon Bölüm-5 26 Şubat 2024
AB Yapay Zeka Yasası: yapay zekaya ilişkin ilk düzenleme 23 Şubat 2024
Yurdum İnsanının EV ile İmtihanı 23 Şubat 2024
Cumhuriyetin 100. Yılında Türkiye Elektrik Tarihi 23 Şubat 2024
E-BÜLTEN KAYIT
Güncel makalelerimizden haberdar olmak için e-bültene kayıt olun!
Güncel makalelerimizden haberdar olmak için e-bültene kayıt olun!