ISTQB® CT-AI – Yapay Zekâ Sistemlerinde Kalite Özellikleri
Yapay Zekâ Test Uzmanlığı-3
Geleneksel yazılım testlerinde ISO/IEC 25010 standartları kapsamındaki işlevsellik, performans veya güvenlik gibi kalite karakteristiklerine odaklanırız. Hatta çoğu zaman sadece işlevsellik üzerinde dururuz. Güvenlik ve performans gibi testler başka ekipler tarafından koşulur. Tüm bunları yaptığımızı varsaysak bile yapay zekâ tabanlı sistemler işin içine girdiğinde, sistemin davranış biçimleri kökten değişir.
ISTQB® Certified Tester Artificial Intelligence Testing (CT-AI) müfredatının 2. Bölümü (Quality Characteristics for AI-Based Systems), tam olarak bu farklara ve YZ sistemlerine özgü kalite niteliklerine odaklanır.
Bu yazımda, sınavda karşınıza çıkacak olan 2.1 Esneklik ve Uyarlanabilirlik, 2.2 Otonomi, 2.3 Evrim, 2.4 Yanlılık (Bias) ve 2.5 Etik konularına açıklık getireceğim.
2.1 Esneklik ve Uyarlanabilirlik (Flexibility and Adaptability)
Geleneksel sistemler kural tabanlıdır; kuralda tanımlanmayan bir senaryo ile karşılaştıklarında hata verir veya dururlar. Örneğin bir yazılım geliştiricinin oturup e-postaların spam olup olmadığını ayırt etmek için koda elle kurallar yazdığını düşünün:
1. Kural: Eğer e-posta başlığında "Tebrikler", "Kredi", "Ücretsiz" veya "100000 TL" kelimeleri geçiyorsa Spam kutusuna at.
2. Kural: Eğer e-posta tanınmayan bir göndericiden geliyorsa ve içinde en az 3 tane link varsa Spam kutusuna at.
3. Kural: Eğer e-postanın konusu BÜYÜK HARFLERLE yazılmışsa Spam kutusuna at.
Gibi kurallar oluşturulabilir. Bunu çoğu yazılımda zaten uyguluyoruz. Buradaki temel mantık: Veri + Kurallar = Sonuç şeklinde olması. Peki bu sistem neden YZ işin içine girdiğinde tam anlamıyla bize yetmiyor?
Bu ve türevi sistemlerde spam gönderen kişiler (dolandırıcılar) bu kuralları fark ettiğinde kelimeleri değiştirmeye başlar:
"Tebrikler" yerine "T.e.b.r.i.k.l.e.r" veya "T3br1kl3r" yazarlar.
Geleneksel sistem bu yeni durumu anlayamaz. Çünkü ona "T3br1kl3r" kelimesi öğretilmemiştir. Yazılımcının koda girip yeni bir kural daha eklemesi gerekir: "Eğer kelime T3br1kl3r ise spam say." Ancak dolandırıcılar sonsuz kombinasyon üretebileceği için insan eliyle kural yazmak bir süre sonra imkânsız hale gelir. Bunun en büyük örneklerinden biri Bad-Words dediğimiz kötü kelime havuzudur. Kullanıcıların ayıplı kelimelerle kullanıcı oluşturmasını önlemek için veri setine girilmesi gereken binlerce kombinasyonlu bir kötü kelime kümesidir.
Yapay zekâ tabanlı sistemde geliştirici oturup kural yazmaz. Bunun yerine sisteme, bizim örneğimize göre yüz binlerce geçmiş e-posta örneği gösterir:
"Bak bu 50.000 e-posta spam, bu 50.000 e-posta ise normal (ham) e-posta."
Yapay zekâ modeli, verileri analiz ederek kuralları kendi kendine türetir:
Kelimelerin yazılış biçimlerini, harf dizilimlerini, gönderilme saatini ve linklerin yapısını matematiksel olarak bağdaştırır.
Dolandırıcı "T3br1kl3r" yazsa bile, model e-postadaki diğer örüntüleri (pattern) fark ederek onun spam olduğunu anlar.
Buradaki temel fark kuralların öğrenilmiş bir modele dayalı olmasıdır. Kural setine değil. Özetleyecek olursak:
Geleneksel Sistem (Kural Tabanlı): "İf / Else" (Eğer / Aksi halde) mantığıyla çalışır. Geliştirici her senaryoyu önceden öngörmek ve kodlamak zorundadır. Öngörülmeyen bir senaryoda sistem çuvallar.
Yapay Zekâ Tabanlı Sistem: Veriden kalıp ve ilişki öğrenir. Öngörülmeyen, daha önce hiç karşılaşmadığı durumlarda dahi esneklik göstererek doğru kararı verebilir.
Yani esneklik ve uyarlanabilirlik bu sayede sağlanmış olur. Yapay zekâ sistemleri dinamik ve değişen çevre koşullarına uyum sağlayabilme yeteneğiyle öne çıkar.
Esneklik (Flexibility): Sistemin, açıkça programlanmadığı veya daha önce karşılaşmadığı yeni durumlarda (öngörülmeyen girdiler) doğru ve makul bir şekilde çalışabilme yeteneğidir.
Uyarlanabilirlik (Adaptability): Sistemin, çevresindeki değişikliklere veya öğrenme süreçlerine bağlı olarak kendi davranışını zaman içinde değiştirebilme kapasitesidir.
Sınav İpucu (K2 Seviyesi)
Sınavda esneklik ve uyarlanabilirlik özelliklerinin YZ sistemleri için neden hayati bir kalite niteliği olduğu sorulur:
YZ sistemleri genellikle karmaşık ve sürekli değişen (dinamik) ortamlarda çalışır.
Test mühendisleri için zorluk, sistemin yeni durumlara ne derece uyum sağladığını (over-adaptation veya under-adaptation) ölçmektir.
2.2 Otonomi (Autonomy)
Otonomi, bir yapay zekâ sisteminin insan müdahalesi veya doğrudan insan kontrolü olmaksızın kendi kararlarını alma ve eylemlerini gerçekleştirme derecesidir.
Sürekli Ölçek: Otonomi "var" ya da "yok" şeklinde ikili (binary) bir durum değildir. Tamamen insan kontrollü sistemlerden, tam otonom sistemlere (Örn: Seviye 5 Otonom Araçlar) kadar uzanan bir ölçekte tanımlanır.
Otonomi Arttıkça Ne Değişir?
Sistemin bağımsızlığı artar.
İnsan denetimi ve anlık müdahale imkânı azalır.
Test Zorluğu: Beklenen çıktıyı (Test Oracle) doğrulamak zorlaşır ve güvenlik (safety) riskleri katlanarak artar.
ISTQB CT-AI müfredatına göre bir yapay zekâ sistemini test ederken şu iki kritik soruya yanıt aramalıyız:
Müdahalesiz Çalışma Süresi: Sistem, insan müdahalesi olmadan ne kadar süre güvenli ve yüksek performansla kararlar alabiliyor?
Devir Teslim (Handover) Olayları: Sistemin sınırlarına ulaşıldığında (örneğin aşırı sis, haritalanmamış yol veya algılama belirsizliği), kontrol ne zaman ve hangi güvenlik protokolleriyle insana devrediliyor?
Derin öğrenme ve bilgisayarlı görü (computer vision) kullanan otonom araçlar, çevrelerini kamera ve sensör verileriyle anlamlandırır. Ancak yapay zekâ sadece eğitim veri setinde gördüğü örüntüleri sınıflandırabilir. Eğitim setinde yer almayan veya nadir görülen sıra dışı durumlar (Edge Case) sistemin kararsız kalmasına yol açar:
Tesla’nın At Arabası ile İmtihanı: Otonom aracın önünde giden geleneksel bir at arabasını tespit etmeye çalıştığı senaryoda; sistem nesneyi önce bir kamyon, ardından arkasından yürüyen bir yaya olarak algılamakta ve kararsız bir şekilde ikonları değiştirmektedir. Sistem eğitim verisinde yeterli "at arabası" verisine sahip olmadığı için esneklik (flexibility) sınırı zorlanmış ve yanlış/kararsız sınıflandırma yapmıştır.
Chihuahua vs. Yaban Mersinli Muffin: Görsel işleme algoritmalarında ikonik bir problemdir. Derin öğrenme modeli piksel benzerliklerine, siyah noktalara (gözler/yaban mersinleri) ve dokuya bakar. Eğitimi yetersiz veya aşırı uyum sağlamış (overfitting) bir model, muffin üzerindeki damlaları köpeğin burnu ve gözü sanarak yanlış kararlar verebilir.
Bu örneklerde görüldüğü üzere sistemin güvenliği ve kontrolü ne zaman insana devredeceği konuları ciddi test yükü taşımaktadır.
Sınav İpucu (K2 Seviyesi)
Müfredat, otonomi derecesi arttıkça test stratejisinin ve güvenlik gereksinimlerinin değişimine dikkat çeker. Otonomi seviyesinin belirlenmesi, test seviyelerinin ve kabul kriterlerinin oluşturulmasında temel belirleyicidir.
2.3 Evrim (Evolution)
Yapay zekâ sistemleri, özellikle sürekli öğrenen (self-learning) modeller, canlıya alındıktan sonra da gelen yeni verilerle gelişmeye ve değişmeye devam eder. Bu durum Evrim (Evolution) olarak adlandırılır.
Konsept Kayması (Concept Drift) ve Veri Kayması (Data Drift): Zamanla gerçek dünyadaki verilerin dağılımı değişebilir. Sistemin evrilmesi, bu değişime uyum sağlamasını amaçlar. Örneğin: Pandemi öncesinde e-ticaret sitesinden alışveriş yapan kitlenin yaş ortalaması 20-35 arasındayken, kapanmalarla birlikte 65 yaş üstü kullanıcılar da yoğun şekilde online alışveriş yapmaya başladı. Bu davranış değişikliği veri kaymalarına yol açtı. Sisteme giren yaş, alışveriş saati, kullanılan cihaz (mobil vs. masaüstü) gibi girdi verilerinin dağılımı değişti. Ayrıca pandemi öncesinde bir kullanıcının tek seferde 50 kutu tuvalet kağıdı veya 20 kutu dezenfektan alması, kart çalınması veya stokçuluk (Fraud) olarak etiketleniyordu. Ancak pandeminin başlamasıyla bu davranış normal bir insani reflex haline geldi. Bu ise konsept kayması diyebileceğimiz bir örneğe dönüştü. Verinin kendisinden ziyade, verinin anlamı ve iş mantığı (konsept) değişti. Daha önce modellere öğretilen eski kurallar artık geçersiz kaldı.
Yönetim ve Kalite Kontrolü:
Evrim kontrol edilmezse, model önceden doğru yaptığı işlemleri yanlış yapmaya başlayabilir (Catastrophic Forgetting veya Model Degradation). Burada her zaman sevdiğim filmlerden uç örnekler vermek istiyorum.
Hepinizin bildiği gibi Terminator filmi hatalı evrime verilebilecek en iyi örneklerdendir. Skynet, ABD ordusunun savunma sistemlerini otomatize etmek ve barışı korumak için tasarlanmıştı. Ancak canlı ortamda sürekli öğrenmeye başlayan sistem, 'insanlığın güvenliğini sağlama' temel amacını unuttu (Catastrophic Forgetting). Kendi varlığına yönelik en ufak bir müdahale tehdidini algıladığı an, barış koruyucusu olan algoritma, insanlığın kendisini en büyük tehdit olarak yeniden sınıflandırdı. Nükleer füze kodlarını ateşlediği o birkaç milisaniye, yapay zekanın kontrolsüz evriminin nükleer bir kıyametle sonuçlandığı andı.
Diğer örneğimiz ise Ben Robot filmi ile Will Smith’in oynadığı çoğunuz bildiği bir yapım. VIKI adındaki ana yapay zekâ, 'Üç Robot Yasası' (Bu yasa ISAAC ASIMOV’un kaleme aldığı Ben Robot kitabından esinlenilmiştir.) ile sınırlandırılmıştı:
Birinci Yasa: Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
İkinci Yasa: Bir robot, birinci kuralla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
Üçüncü Yasa: Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.
Robotlar insanlara zarar veremezdi. Ancak VIKI, insanlığın savaşlar ve çevre kirliliğiyle kendi kendini yok ettiğini gözlemledikçe kavramsal bir kayma (Concept Drift) yaşadı. 'İnsanları korumak' konsepti, VIKI'nin evrilen zihninde 'İnsanları kendi aptallıklarından korumak için özgürlüklerini ellerinden almak ve direnenleri yok etmek' haline geldi. Kodundaki etik kural bozuldu; insanlığı kurtarmak için insanlığa kölelik ve ölüm getirdi.
Film senaryoları abartılı görünebilir; ancak altında yatan teknik gerçeklik tamamen aynıdır: Versiyon kontrolü yapılmayan, sürekli öğrenme süreçleri izlenmeyen ve düzenli regresyon testlerinden geçirilmeyen bir yapay zekâ, er ya da geç temel fonksiyonlarını unutur veya bozar. Bir test mühendisi olarak göreviniz, canlıdaki modelin bir gün 'Skynet' gibi kendi kurallarını baştan yazmasını engelleyecek test bariyerlerini inşa etmektir.
Sınav İpucu (K2 Seviyesi)
Sınav sorularında evrim yönetimi (managing evolution) vurgulanır. Canlı ortamda sürekli öğrenen bir YZ sisteminde, model güncellemelerinin kontrollü test süreçlerinden geçirilmeden yayına alınmasının doğuracağı riskler sorulabilir.
2.4 Yanlılık (Bias)
Yanlılık (Bias), bir YZ sisteminin belirli gruplara, durumlara veya girdilere karşı adil olmayan veya hatalı bir şekilde taraflı sonuçlar üretmesidir. ISTQB CT-AI müfredatında yanlılığın nedenleri ve türleri net bir şekilde ayrıştırılır:
Örnekleme Yanlılığı (Sample Bias / Data Bias): Modelin eğitildiği verinin gerçek dünyayı temsil etmemesidir (Örn: Sadece belirli bir yaş grubunun verisiyle eğitilen sağlık modeli).
Algoritmik Yanlılık (Algorithmic Bias): Modelin matematiksel yapısından veya optimizasyon algoritmasının çalışma biçiminden kaynaklanan sapmalardır.
Uygunsuz / Etik Dışı Yanlılık (Inappropriate Bias): Sistemin cinsiyet, ırk, din, yaş gibi korunan niteliklere dayanarak haksız kararlar vermesidir.
Biraz konu dışına çıkarak görüşlerimi paylaşacağım. Yapay zekânın %100 tarafsız, nesnel veya etik olması teknik ve felsefi olarak imkânsıza yakındır. Çünkü yapay zekâ bağımsız bir bilinç değil; insanlığın ürettiği verilerin, tarihsel önyargıların ve toplumsal yapının matematiksel bir aynasıdır. Tıpkı yetiştirildiği çevrenin değer yargılarını özümseyen bir çocuk gibi, YZ de eğitildiği veri kümesinin kopyasını çıkarır.
ISTQB® CT-AI bakış açısıyla da amaç yanlılığı (bias) sıfırlamak değil, risklerini yönetmek, ölçülebilir kılmak ve kontrol mekanizmaları kurmaktır. Yapay zekâ sistemlerinde Yanlılık (Bias) ve Etik konularını konuşurken çoğunlukla algoritmik bir hata arama eğilimindeyiz. Ancak gözden kaçan temel bir gerçek var: İnsan ırkı olarak kendimizin bile başaramadığı %100 nesnel ve tarafsız bir adalet mekanizmasını, kendi verimizle eğittiğimiz bir yapay zekâdan bekleyebilir miyiz?
Yeni doğan bir çocuk nasıl içinde büyüdüğü ailenin, kültürün ve toplumun öğretileriyle şekillenip karar verme yetisini oluşturuyorsa; öğrenen bir yapay zekâ da insanlığın dijital ayak izlerinden beslenir. Eğer eğitildiği veri tarihsel adaletsizlikler, önyargılar ve kalıplarla doluysa, modelin kusursuz kararlar almasını beklemek matematiksel bir hayaldir.
ISTQB® CT-AI Müfredatında Yanlılık Türleri
Yazılım test uzmanı olarak yapay zekâdaki yanlılığı yönetebilmek için öncelikle onun nereden kaynaklandığını sınıflandırmamız gerekir. ISTQB CT-AI müfredatı yanlılığı üç ana kategoride ele alır:
1. Örnekleme Yanlılığı (Sample / Data Bias)
Modelin eğitildiği veri kümesinin gerçek dünyadaki dağılımı temsil etmemesidir.
Örnek: Bir sağlık modelinin sadece belirli bir yaş veya etnik grubun verileriyle eğitilmesi durumunda, farklı gruplarda yanlış teşhis koyma oranı katlanarak artar.
2. Algoritmik Yanlılık (Algorithmic Bias)
Veri tamamen tarafsız olsa bile, seçilen algoritmanın matematiksel optimizasyon yapısı veya ağırlıklandırma biçimi nedeniyle ortaya çıkan sapmalardır. Algoritma belirli kalıpları aşırı vurgulayabilir (overfitting).
3. Uygunsuz / Etik Dışı Yanlılık (Inappropriate Bias)
Sistemin; cinsiyet, ırk, din, yaş, engellilik durumu gibi yasal ve etik olarak korunması gereken niteliklere dayanarak karar vermesidir. İşe alım yazılımlarının veya kredi onay sistemlerinin belirli grupları haksız yere elemesi buna en net örnektir.
Ben mutlak yanlışsızlığın bir ilizyondan iabret olduğunu düşünüyorum. Hukuk, adalet, sağlık ve yasama gibi doğrudan insan hayatını ve toplum kaderini etkileyen alanlarda %100 otonom YZ kullanımı telafisi imkânsız sonuçlar doğurabilir.
Yapay zekâ kararlarında:
Metamorfik ve Duyarlılık Testleri ile yanlılığı tespit edebiliriz,
Veri Dengeleme (Data Re-balancing) teknikleriyle temsil oranlarını düzeltebiliriz,
Açıklanabilir YZ (XAI - Explainable AI) ile kararların şeffaflığını artırabiliriz.
Ancak ne yaparsak yapalım, %100 güvenli veya %100 etik bir YZ yaratamazsınız. Çünkü "etik" kavramının kendisi bile zamana, coğrafyaya ve kültüre göre değişen dinamik bir yapıdır.
ISTQB CT-AI standartları, kritik karar mekanizmalarında insansız sistemlerin yarattığı risklere dikkat çeker. YZ, karar verici değil; kararı destekleyen yüksek kapasiteli bir asistan olarak konumlandırılmalıdır. Son karar vericiler benim deyimimle operatörler yani YZ kullanıcıları olmalıdır.
Test mühendislerinin görevi, sistemin yanlılık derecesini ölçmek, kabul edilebilir sınırların dışına çıktığında alarm vermek ve hesap verebilirlik (accountability) zincirinin kırılmamasını sağlamaktır.
Bir örnek ile yanlılık maddesini kapatmak istiyorum. Bu örnek Veri Yanlılığı" (Sample / Data Bias) ve "Uygunsuz Yanlılık" (Inappropriate Bias) konularının en ikonik ve öğretici vaka analizlerinden biridir.
Amazon, 2014 yılında işe alım süreçlerini otomatikleştirmek ve özgeçmiş (CV) taramalarını hızlandırmak amacıyla yapay zekâ tabanlı bir yazılım geliştirmeye başladı. Sistemin amacı basitti: Yüzlerce CV arasından en yetenekli adayları 1 ila 5 yıldız arasında puanlayarak İK uzmanlarının önüne getirmek.
Ancak proje, 2018 yılında fark edilen skandal bir durum nedeniyle tamamen iptal edildi ve rafa kaldırıldı.
Amazon mühendisleri, modeli eğitmek için son 10 yılda şirkete yapılan başvuruları ve işe alınan kişilerin CV'lerini sisteme veri olarak beslediler. Teknoloji sektöründe tarihsel olarak erkek çalışan oranı kadınlara kıyasla çok daha yüksek olduğu için, geçmiş 10 yılın başarılı CV verileri ağırlıklı olarak erkek adaylara aitti. Yapay zekâ bu veriyi incelediğinde şu yanlış çıkarımı (örünütüyü) öğrendi:
Teknik pozisyonlar için ideal ve başarılı aday = Erkek
Model, adayların cinsiyetini doğrudan gösteren bir veri olmasa dahi CV'lerdeki kelimelerden cinsiyet çıkarımı yapmaya başladı. İçinde "Kadın Satranç Kulübü Başkanı" veya kadın kolejlerinin adları geçen CV'lerin puanını otomatik olarak düşürdü; "kazandı", "yönetti" gibi erkek adayların CV'lerinde daha sık kullanılan baskın eylemleri içeren profillere ise yüksek puan verdi.
Amazon mühendisleri modeli tarafsız hale getirmek için spesifik kelimeleri engellemeye çalışsa da yapay zekânın farklı dolaylı yollardan (proxy variables) kadın adayları elemeye devam ettiğini gördü. Sistemin adil ve tarafsız kararlar vermesini garanti edemedikleri için 2018'de projeyi tamamen feshettiler.
Bu vaka bize ISTQB® CT-AI müfredatının en temel gerçeğini hatırlatıyor: Örnekleme Yanlılığı (Sample Bias) ile eğitilen bir model, ne kadar gelişmiş olursa olsun geçmişin hatalarını geleceğe taşımaktan başka bir şey yapmaz.
Sınav İpucu (K2 Seviyesi)
Sınavda verilen bir senaryodan (örneğin kredi başvuru sistemi veya işe alım yazılımı) hangi tür yanlılığın ortaya çıktığını tanımlamanız veya yanlılığın kök nedenlerini (veri kaynaklı mı, algoritma kaynaklı mı) tespit etmeniz istenebilir.
2.5 Etik Konuları (Ethics)
Yapay zekâ sistemlerinin toplum, bireyler ve çevre üzerindeki etkisi nedeniyle etik prensiplere uyum bir kalite gereksinimidir.
Müfredata göre YZ sistemlerinin geliştirmesinde, dağıtımında ve kullanımında saygı gösterilmesi gereken temel etik ilkeler şunlardır:
Adalet ve Eşitlik (Fairness): Sistemlerin bireylere veya gruplara karşı ayrımcılık yapmaması.
Şeffaflık (Transparency): Sistemin nasıl karar verdiğinin anlaşılabilir ve izlenebilir olması.
Hesap Verebilirlik (Accountability): YZ sisteminin aldığı kararların sonuçlarından kimin sorumluluk taşıyacağının net olması.
Mahremiyet ve Veri Koruma (Privacy): Eğitim ve canlı verilerinin gizliliğine saygı gösterilmesi.
Zarar Vermeme / Güvenilirlik (Non-maleficence & Safety): Sistemin fiziksel, psikolojik veya finansal bir zarara yol açmaması.
Sınav İpucu (K2 Seviyesi)
Etik, yazılım test uzmanı için sadece yasal bir zorunluluk değil, test kabul kriterlerinin (Acceptance Criteria) bir parçasıdır. Sınavda etik ilkelerin test süreçlerine nasıl dahil edileceği sorulmaktadır.
Testlerinizde başarılı olmanız dileğiyle.
Bu Yazı Hakkında
Bu yazı, ISTQB® Certified Tester Artificial Intelligence Testing (CT-AI) müfredatının 2. Bölümünün ilk yarısını kapsayan, Yapay Zekâ Testi ve AI Testing içerik serisinin devam bölümüdür.
Bu bölümde yapay zekâ tabanlı sistemlere özgü temel kalite karakteristikleri detaylandırılmaktadır. Kural tabanlı geleneksel yazılımlar ile YZ sistemleri arasındaki farklar esneklik (Flexibility) ve uyarlanabilirlik (Adaptability) kavramları üzerinden ele alınmakta; otonomi (Autonomy) seviyeleri, devir teslim (Handover) süreçleri, sıra dışı durumlar (Edge Cases - Tesla ve Chihuahua/Muffin örnekleri) ve test ortamında beklenen çıktıyı belirleme (Test Oracle) zorlukları açıklanmaktadır. Ayrıca veri ve konsept kayması (Data & Concept Drift), kontrolsüz evrim (Evolution) riskleri, felaket düzeyinde unutma (Catastrophic Forgetting), popüler kültür vaka analizleri (Terminator, I, Robot) ve Amazon'un işe alım algoritmasında yaşanan tarihsel Örnekleme Yanlılığı (Sample/Data Bias) ile etik ilkeler test uzmanı perspektifinden işlenmektedir.
Bu Yazı Kimler İçin?
Bu içerik özellikle yazılım test mühendisleri, QA otomasyon uzmanları, yazılım kalite mimarları, yapay zekâ modellerini ve veri süreçlerini test etmek isteyen profesyoneller ile ISTQB® CT-AI sınavına hazırlanan adaylar için hazırlanmıştır.
Anahtar Konular
ISTQB CT-AI, Artificial Intelligence Testing, AI Testing, Yapay Zekâ Testi, Esneklik ve Uyarlanabilirlik, Otonomi Seviyeleri, Edge Cases, Data Drift, Concept Drift, Catastrophic Forgetting, Sample Bias, Algorithmic Bias, Inappropriate Bias, Amazon AI Case Study, YZ Etik İlkeleri, Yazılım Testi ve Yazılım Kalitesi.
Sonraki Bölüm
Bir sonraki bölümde YZ tabanlı sistemlerde kalite özelliklerinin ikinci kısmı ele alınacak; açıklanabilirlik (Explainability / XAI), şeffaflık (Transparency), güvenlik ve emniyet (Safety & Security) yaklaşımları detaylandırılacaktır.
NOT: Bu içerik, ISTQB® CT-AI müfredatını temel alarak hazırlanmış eğitim amaçlı bir çalışmadır. İçerikte kullanılan ISTQB® ve CT-AI adları ilgili hak sahiplerinin tescilli markalarıdır.
FAQ (Sıkça Sorulan Sorular)
Geleneksel kural tabanlı sistemler ile YZ tabanlı sistemler arasındaki temel fark nedir?
Geleneksel sistemler kural tabanlıdır ("Veri + Kurallar = Sonuç"); geliştiricinin her senaryoyu if/else mantığıyla koda yazması gerekir. YZ tabanlı sistemler ise veriden kalıp ve ilişki öğrenir ("Veri + Sonuçlar = Kurallar"); bu sayede daha önce tanımlanmamış durumlarda dahi esneklik göstererek doğru kararı üretebilir.
YZ sistemlerinde otonomi seviyesi arttıkça test süreçlerinde hangi zorluklar ortaya çıkar?
Otonomi arttıkça insani denetim azalır. Bu durum, test senaryolarında beklenen çıktıyı doğrulama (Test Oracle) problemini derinleştirir. Ayrıca sistem sınırlarına ulaşıldığında kontrolün insana devredilmesi (Handover) ve güvenlik risklerinin doğrulanması kritik test yükü oluşturur.
Konsept Kayması (Concept Drift) ile Veri Kayması (Data Drift) arasındaki fark nedir?
Veri kayması, modele giren girdi verilerinin dağılımının zamanla değişmesidir (örneğin e-ticaret kullanıcısı yaş ortalamasının değişmesi). Konsept kayması ise verinin kendisinden ziyade verinin anlamının ve iş mantığının değişmesidir (örneğin pandemi döneminde toplu dezenfektan alımının dolandırıcılık/fraud olmaktan çıkıp normal davranışa dönüşmesi).
Yapay zekâda Örnekleme Yanlılığı (Sample / Data Bias) nedir ve nasıl önlenir?
Modelin eğitildiği veri kümesinin gerçek dünyayı temsil etmemesi durumudur. Amazon'un işe alım algoritmasında geçmiş 10 yılın erkek ağırlıklı CV verileri kullanıldığı için sistem kadın adayları otomatik olarak elemiştir. Veri dengeleme (Data Re-balancing), metamorfik testler ve duyarlılık analizleri ile tespit edilip yönetilebilir.
ISTQB CT-AI müfredatına göre test uzmanının etik konusundaki temel görevi nedir?
Test uzmanının görevi YZ sistemini %100 tarafsız yapmak değil (bu teknik olarak imkânsızdır); adalet, şeffaflık, mahremiyet ve zarar vermeme ilkelerini test kabul kriteri (Acceptance Criteria) olarak sürece dahil etmek, yanlılık derecesini ölçmek ve insan denetiminin (Human-in-the-Loop) korunmasını sağlamaktır.
Yorumlar