Yapay zeka g\u00fcvenli\u011fi ile yapay zeka g\u00fcvenli\u011fi aras\u0131ndaki fark, bir model \u00e7a\u011fr\u0131s\u0131n\u0131n bir m\u00fc\u015fteri, bilet, belge, i\u015flem veya ajan i\u015f ak\u0131\u015f\u0131n\u0131 etkileyebilece\u011fi noktaya kadar bulan\u0131kla\u015fmas\u0131 kolayd\u0131r. O noktada, ayr\u0131m \u00f6nemlidir.<\/p>\n\n\n\n
Yapay zeka g\u00fcvenli\u011fi, sistemin yapmas\u0131 gereken i\u015fe uygun, g\u00fcvenilir ve faydal\u0131 \u015fekillerde davran\u0131p davranmad\u0131\u011f\u0131n\u0131 sorgular. Yapay zeka g\u00fcvenli\u011fi ise sistemin, verilerinin, ara\u00e7lar\u0131n\u0131n veya eri\u015fim yollar\u0131n\u0131n sald\u0131r\u0131ya u\u011fray\u0131p u\u011frayamayaca\u011f\u0131n\u0131 veya k\u00f6t\u00fcye kullan\u0131labilece\u011fini sorgular. \u00dcretim ekiplerinin her ikisine de ihtiyac\u0131 vard\u0131r, \u00e7\u00fcnk\u00fc g\u00fcvenli bir model hala istismar edilebilir ve g\u00fcvenli bir entegrasyon hala zararl\u0131 veya g\u00fcvenilmez \u00e7\u0131kt\u0131lar \u00fcretebilir.<\/p>\n\n\n\n
Model API'leriyle \u00e7al\u0131\u015fan Yap\u0131c\u0131lar i\u00e7in pratik kontrol noktas\u0131 genellikle model \u00e7a\u011fr\u0131s\u0131n\u0131n kendisidir: hangi modelin se\u00e7ildi\u011fi, hangi istemin g\u00f6nderildi\u011fi, hangi ara\u00e7lara izin verildi\u011fi, hangi verilerin eklendi\u011fi, neyin kaydedildi\u011fi, hangi geri d\u00f6n\u00fc\u015f yolunun mevcut oldu\u011fu ve yan\u0131t d\u00f6nd\u00fc\u011f\u00fcnde kullan\u0131c\u0131n\u0131n ne g\u00f6rd\u00fc\u011f\u00fc.<\/p>\n\n\n\n
Yapay zeka g\u00fcvenli\u011fi, bir yapay zeka sisteminin davran\u0131\u015flar\u0131 ve sonu\u00e7lar\u0131 ile ilgilidir. Temel soru \u015fudur: sistem bu kullan\u0131c\u0131, g\u00f6rev ve ba\u011flam i\u00e7in b\u00f6yle mi davranmal\u0131?<\/p>\n\n\n\n
G\u00fcvenlik \u00e7al\u0131\u015fmalar\u0131 genellikle \u00e7\u0131kt\u0131 kalitesini, zararl\u0131 i\u00e7eri\u011fi, \u00f6nyarg\u0131y\u0131, hal\u00fcsinasyonu, reddetme davran\u0131\u015f\u0131n\u0131, dayan\u0131kl\u0131l\u0131\u011f\u0131, de\u011ferlendirmeyi ve insan denetimini kapsar. Ayr\u0131ca her \u00fcr\u00fcn ekibinin sonunda kar\u015f\u0131la\u015ft\u0131\u011f\u0131 operasyonel soruyu i\u00e7erir: model belirsiz, yanl\u0131\u015f, eksik oldu\u011funda veya tasarland\u0131\u011f\u0131 kapsam\u0131n d\u0131\u015f\u0131nda bir \u015fey yapmas\u0131 istendi\u011finde ne olur?<\/p>\n\n\n\n
Modelin NIST Yapay Zeka Risk Y\u00f6netimi \u00c7er\u00e7evesi<\/a> burada faydal\u0131d\u0131r \u00e7\u00fcnk\u00fc yapay zeka riskini ekiplerin y\u00f6netmesi, haritalamas\u0131, \u00f6l\u00e7mesi ve kontrol etmesi gereken bir \u015fey olarak ele al\u0131r, bir kerelik model se\u00e7imi karar\u0131 olarak de\u011fil. Bu \u00e7er\u00e7eve, bir \u00fcr\u00fcn\u00fcn i\u015fi birka\u00e7 model veya sa\u011flay\u0131c\u0131 aras\u0131nda y\u00f6nlendirdi\u011fi durumlarda \u00f6zellikle \u00f6nemlidir.<\/p>\n\n\n\n Yapay zeka g\u00fcvenli\u011fi, model entegrasyonunu sald\u0131r\u0131lardan, yetkisiz eri\u015fimden, veri if\u015fas\u0131ndan ve k\u00f6t\u00fcye kullan\u0131mdan korumakla ilgilidir. Temel soru \u015fudur: birisi bu sistemi, istemini, ara\u00e7lar\u0131n\u0131, alma kaynaklar\u0131n\u0131 veya izinlerini istismar edebilir mi?<\/p>\n\n\n\n G\u00fcvenlik \u00e7al\u0131\u015fmalar\u0131 genellikle istem enjeksiyonunu, hassas bilgi if\u015fas\u0131n\u0131, e\u011fitim veya alma verisi zehirlenmesini, model tedarik zinciri riskini, a\u015f\u0131r\u0131 ara\u00e7 izinlerini, hizmet reddini, kimlik bilgisi s\u0131z\u0131nt\u0131s\u0131n\u0131 ve g\u00fcvensiz eklenti veya ajan tasar\u0131m\u0131n\u0131 kapsar. B\u00fcy\u00fck Dil Modeli Uygulamalar\u0131 i\u00e7in OWASP \u0130lk 10<\/a> faydal\u0131 bir referanst\u0131r \u00e7\u00fcnk\u00fc LLM'ler ger\u00e7ek yaz\u0131l\u0131mlara ba\u011fland\u0131\u011f\u0131nda ortaya \u00e7\u0131kan bir\u00e7ok hata modunu adland\u0131r\u0131r.<\/p>\n\n\n\n G\u00fcvenlik yaln\u0131zca bir model sa\u011flay\u0131c\u0131 sorunu de\u011fildir. Yap\u0131c\u0131lar yine de API anahtarlar\u0131n\u0131 korumal\u0131, kullan\u0131c\u0131lar\u0131 kimlik do\u011frulamal\u0131, \u00e7al\u0131\u015fma alan\u0131 izinlerini belirlemeli, alma kaynaklar\u0131n\u0131 filtrelemeli, ajan ara\u00e7lar\u0131n\u0131 kontrol etmeli ve anormal kullan\u0131m kal\u0131plar\u0131n\u0131 izlemelidir. Bir sa\u011flay\u0131c\u0131 kendi altyap\u0131s\u0131n\u0131 g\u00fcvence alt\u0131na alabilirken, uygulaman\u0131z yine de riskli ara\u00e7 eri\u015fimi veya kullan\u0131c\u0131 verilerini a\u00e7\u0131\u011fa \u00e7\u0131karabilir.<\/p>\n\n\n\n \u00c7ak\u0131\u015fma, bir\u00e7ok \u00fcretim hatas\u0131n\u0131n meydana geldi\u011fi yerdir. Komut enjeksiyonu, talimatlar\u0131 veya veri eri\u015fimini manip\u00fcle etti\u011finde bir g\u00fcvenlik sorunudur, ancak manip\u00fcle edilen yan\u0131t bir kullan\u0131c\u0131ya ula\u015ft\u0131\u011f\u0131nda bir g\u00fcvenlik sorunu haline gelebilir. Geni\u015f izinlere sahip bir ajan bir g\u00fcvenlik endi\u015fesi olu\u015fturur, ancak model g\u00fcvenilmez bir karar verdi\u011finde eylemleri g\u00fcvenlik ve i\u015f riski yaratabilir.<\/p>\n\n\n\n Bir\u00e7ok ekip tek bir model, tek bir API anahtar\u0131 ve tek bir istemle ba\u015flar. Bu, bir prototip i\u00e7in i\u015fe yarayabilir. Ancak \u00fcr\u00fcn birden fazla model, m\u00fc\u015fteri \u00f6zelinde ayarlar, ajan ara\u00e7lar\u0131, veri alma, yedek y\u00f6nlendirme, maliyet kontrolleri veya kullan\u0131m tabanl\u0131 faturaland\u0131rma ekledi\u011finde k\u0131r\u0131lgan hale gelir.<\/p>\n\n\n\n Bir model \u00e7a\u011fr\u0131 kontrol katman\u0131, Yap\u0131c\u0131lar\u0131n \u00e7\u0131kar\u0131m \u00f6ncesi ve sonras\u0131 kararlar\u0131 tutarl\u0131 bir \u015fekilde uygulayabilece\u011fi bir yer sa\u011flar. \u015eu sorulara yan\u0131t vermeye yard\u0131mc\u0131 olabilir:<\/p>\n\n\n\nYapay Zeka G\u00fcvenli\u011fi \u0130stismar Riskini Kontrol Eder<\/h2>\n\n\n\n
G\u00fcvenlik ve G\u00fcvenlik: Pratik Fark<\/h2>\n\n\n\n
Alan<\/th> AI g\u00fcvenli\u011fi<\/th> AI emniyeti<\/th><\/tr><\/thead> Ana soru<\/td> Sistem bu davran\u0131\u015f\u0131 \u00fcretmeli mi?<\/td> Birisi bu sistemi k\u00f6t\u00fcye kullanabilir mi?<\/td><\/tr> Tipik risk<\/td> Zararl\u0131, \u00f6nyarg\u0131l\u0131, g\u00fcvenilmez veya yan\u0131lt\u0131c\u0131 \u00e7\u0131kt\u0131lar<\/td> \u0130stek enjeksiyonu, veri if\u015fas\u0131, k\u00f6t\u00fcye kullan\u0131m veya yetkisiz eri\u015fim<\/td><\/tr> Birincil kontroller<\/td> De\u011ferlendirmeler, koruma \u00f6nlemleri, insan incelemesi, model se\u00e7imi, \u00e7\u0131kt\u0131 politikalar\u0131<\/td> Kimlik do\u011frulama, izinler, giri\u015f kontrolleri, gizli y\u00f6netimi, ara\u00e7 izolasyonu<\/td><\/tr> Hata \u00f6rne\u011fi<\/td> Bir destek asistan\u0131 g\u00fcvensiz geri \u00f6deme rehberli\u011fi verir<\/td> K\u00f6t\u00fc niyetli bir istek, bir ajan\u0131n \u00f6zel bilet verilerini if\u015fa etmesini sa\u011flar<\/td><\/tr> Sahiplik \u00f6rt\u00fc\u015fmesi<\/td> \u00dcr\u00fcn, politika, m\u00fchendislik, hukuk, alan uzmanlar\u0131<\/td> G\u00fcvenlik, platform, m\u00fchendislik, operasyonlar<\/td><\/tr><\/tbody><\/table><\/figure>\n\n\n\n Model \u00c7a\u011fr\u0131lar\u0131n\u0131n Kendi Kontrol Katman\u0131na Neden \u0130htiyac\u0131 Var<\/h2>\n\n\n\n