\u00dcretim AI uygulamalar\u0131 sadece iyi bir isteme ihtiya\u00e7 duymaz. Modelin ne ald\u0131\u011f\u0131n\u0131 inceleyebilen, geri d\u00f6neni inceleyebilen ve yan\u0131t bir kullan\u0131c\u0131ya veya a\u015fa\u011f\u0131 ak\u0131\u015f sistemine ula\u015fmadan \u00f6nce net bir karar verebilen bir kontrol katman\u0131na ihtiya\u00e7 duyarlar.<\/p>\n\n\n\n
Bu, AI ge\u00e7it koruma kurallar\u0131n\u0131n arkas\u0131ndaki fikirdir.<\/p>\n\n\n\n
Tam mimari \u00fcr\u00fcne g\u00f6re de\u011fi\u015fecektir. Baz\u0131 ekipler kontrolleri uygulama arka ucuna koyar. Baz\u0131lar\u0131 bir ge\u00e7it veya proxy kullan\u0131r. Baz\u0131lar\u0131 model d\u00fczeyindeki g\u00fcvenlik ayarlar\u0131n\u0131 \u00f6zel do\u011frulama ile birle\u015ftirir. \u00d6nemli olan, g\u00fcvenli\u011fin her \u00f6zellik ekibinin ayn\u0131 mant\u0131\u011f\u0131 her u\u00e7 noktaya ba\u011flamay\u0131 hat\u0131rlamas\u0131na ba\u011fl\u0131 olmamas\u0131d\u0131r.<\/p>\n\n\n\n
Yap\u0131c\u0131lar i\u00e7in koruma kurallar\u0131 \u00fcr\u00fcn sorumlulu\u011funun bir par\u00e7as\u0131d\u0131r. ShareAI, model kullan\u0131m\u0131n\u0131 y\u00f6nlendirmenize ve AI trafi\u011finden gelir elde etmenize yard\u0131mc\u0131 olabilir, ancak uygulaman\u0131z yine de politika, izinler, kay\u0131t tutma, m\u00fc\u015fteri deneyimi ve insan incelemesi konular\u0131nda sorumludur.<\/p>\n\n\n\n
Bir AI uygulamas\u0131 genellikle basit ba\u015flar. Bir u\u00e7 nokta bir modeli \u00e7a\u011f\u0131r\u0131r. Sonra kullan\u0131m geni\u015fler: daha fazla \u00f6zellik, daha fazla m\u00fc\u015fteri, daha fazla model sa\u011flay\u0131c\u0131, daha fazla dahili ara\u00e7, daha fazla kullan\u0131c\u0131 taraf\u0131ndan olu\u015fturulan giri\u015f ve \u00fcretilen bir yan\u0131t\u0131n eylemi tetikleyebilece\u011fi daha fazla yer.<\/p>\n\n\n\n
O noktada, \u00f6zellik ba\u015f\u0131na g\u00fcvenlik mant\u0131\u011f\u0131na g\u00fcvenmek zorla\u015f\u0131r. Bir uygulama s\u00fcr\u00fcm\u00fc isteme enjeksiyonunu engelleyebilir. Bir di\u011feri sadece toksisiteyi kontrol edebilir. \u00dc\u00e7\u00fcnc\u00fcs\u00fc, ekip lansmana yeti\u015fmek i\u00e7in yar\u0131\u015f\u0131rken \u00e7\u0131kt\u0131 do\u011frulamay\u0131 atlayabilir.<\/p>\n\n\n\n
Ge\u00e7it d\u00fczeyindeki koruma kurallar\u0131, do\u011frulamay\u0131 model trafi\u011fine yak\u0131n bir yere koyarak tutarl\u0131l\u0131k sorununu \u00e7\u00f6zer. Uygulama, istemi, model yan\u0131t\u0131n\u0131 veya her ikisini de\u011ferlendiren payla\u015f\u0131lan bir katman arac\u0131l\u0131\u011f\u0131yla bir istek g\u00f6nderebilir. Katman, izin ver, engelle, sans\u00fcrle, incele veya yeniden dene gibi bir karar d\u00f6nd\u00fcr\u00fcr.<\/p>\n\n\n\n
Bu, \u00fcr\u00fcn yarg\u0131s\u0131na olan ihtiyac\u0131 ortadan kald\u0131rmaz. Onu uygulamak i\u00e7in tek bir yer olu\u015fturur.<\/p>\n\n\n\n
\u0130yi koruma kurallar\u0131 d\u00f6rt soruya cevap vermelidir:<\/p>\n\n\n\n
Girdi do\u011frulamas\u0131, riskleri modele ula\u015fmadan \u00f6nce yakalar.<\/p>\n\n\n\n
\u0130lk kategori istem enjeksiyonudur. Bir kullan\u0131c\u0131, belge, web sayfas\u0131 veya ara\u00e7 sonucu, sistem istemini ge\u00e7ersiz k\u0131lmak, gizli ba\u011flam\u0131 s\u0131zd\u0131rmak veya modelin kullanmamas\u0131 gereken bir arac\u0131 \u00e7a\u011f\u0131rmas\u0131n\u0131 zorlamak i\u00e7in tasarlanm\u0131\u015f talimatlar i\u00e7erebilir. LLM Uygulamalar\u0131 i\u00e7in OWASP \u0130lk 10<\/a> istem enjeksiyonunu ve a\u015f\u0131r\u0131 yetkilendirmeyi bir nedenle temel LLM uygulama riskleri olarak ele al\u0131r: model talimatlar\u0131 takip ediyor olabilir, ancak \u00fcr\u00fcn yine de sonu\u00e7tan sorumludur.<\/p>\n\n\n\n \u0130kinci kategori politika uyumudur. Uygulaman\u0131z t\u0131bbi, hukuki, finansal, yeti\u015fkin, k\u00f6t\u00fcye kullan\u0131m veya kendine zarar verme ile ilgili i\u00e7eri\u011fi desteklemiyorsa, model jetonlar\u0131n\u0131 harcamadan veya m\u00fc\u015fteri odakl\u0131 bir yan\u0131t olu\u015fturmadan \u00f6nce bunu do\u011frulay\u0131n.<\/p>\n\n\n\n \u00dc\u00e7\u00fcnc\u00fc kategori hassas verilerdir. Baz\u0131 istemler, engellenmesi, maskelenmesi veya daha s\u0131k\u0131 bir i\u015f ak\u0131\u015f\u0131ndan ge\u00e7irilmesi gereken s\u0131rlar, kimlik bilgileri, ki\u015fisel veriler veya tescilli i\u00e7erik i\u00e7erebilir.<\/p>\n\n\n\n D\u00f6rd\u00fcnc\u00fc kategori ara\u00e7 iznidir. Uygulaman\u0131z modelleri \u015fu gibi desenler arac\u0131l\u0131\u011f\u0131yla ara\u00e7lara ba\u011flarsa Model Ba\u011flam Protokol\u00fc<\/a>, do\u011frulama modelin neye dokunmas\u0131na izin verildi\u011fini dikkate almal\u0131d\u0131r. Bir dosya okumak, bir veritaban\u0131n\u0131 sorgulamak, bir e-posta g\u00f6ndermek ve bir kayd\u0131 silmek ayn\u0131 g\u00fcven d\u00fczeyini payla\u015fmamal\u0131d\u0131r.<\/p>\n\n\n\n \u00c7\u0131kt\u0131 do\u011frulamas\u0131, \u00fcretimden sonra ancak maruz kalmadan \u00f6nce sorunlar\u0131 yakalar.<\/p>\n\n\n\n Do\u011frudan g\u00fcvenlik kontrolleriyle ba\u015flay\u0131n: toksisite, taciz, g\u00fcvensiz talimatlar, hassas bilgiler ve politika ihlalleri. Orijinal istem zarars\u0131z g\u00f6r\u00fcnse bile model, \u00fcr\u00fcn\u00fcn\u00fcz\u00fcn g\u00f6stermemesi gereken bir \u015fey \u00fcretebilir.<\/p>\n\n\n\n Ard\u0131ndan, dayanak do\u011frulamas\u0131 yap\u0131n. Uygulaman\u0131z referans belgeler, geri alma par\u00e7ac\u0131klar\u0131, veritaban\u0131 sat\u0131rlar\u0131 veya m\u00fc\u015fteri kay\u0131tlar\u0131 sa\u011fl\u0131yorsa, yan\u0131t\u0131n bu ba\u011flama kar\u015f\u0131 kontrol edilmesi gerekir. Ak\u0131c\u0131 ancak desteklenmeyen bir yan\u0131t, a\u00e7\u0131k bir ba\u015far\u0131s\u0131zl\u0131ktan daha zararl\u0131 olabilir \u00e7\u00fcnk\u00fc kullan\u0131c\u0131lar ona daha fazla g\u00fcvenme e\u011filimindedir.<\/p>\n\n\n\n Daha sonra yap\u0131y\u0131 do\u011frulay\u0131n. \u00c7\u0131kt\u0131n\u0131n JSON, bir destek makrosu, bir s\u00f6zle\u015fme maddesi, bir veritaban\u0131 g\u00fcncellemesi veya bir ara\u00e7 komutu olmas\u0131 gerekiyorsa, \u015femay\u0131 ve izin verilen alanlar\u0131 kontrol edin. Bir modelin, k\u0131s\u0131tlanm\u0131\u015f veri bekleyen bir yere rastgele metin yazmas\u0131na izin vermeyin.<\/p>\n\n\n\n Son olarak, eylem haz\u0131rl\u0131\u011f\u0131n\u0131 do\u011frulay\u0131n. Bir taslak e-posta, g\u00f6zden ge\u00e7irilmek \u00fczere bir kullan\u0131c\u0131ya g\u00f6sterilebilir. Bir geri \u00f6deme onay\u0131, hesap de\u011fi\u015fikli\u011fi, kod birle\u015ftirme veya m\u00fc\u015fteri bildirimi a\u00e7\u0131k bir insan onay\u0131 gerektirebilir.<\/p>\n\n\n\n Ama\u00e7 her yan\u0131t\u0131 m\u00fckemmel hale getirmek de\u011fildir. Tahmin edilebilir hatalar\u0131n pahal\u0131 olduklar\u0131 yerlere ula\u015fmas\u0131n\u0131 \u00f6nlemektir.<\/p>\n\n\n\n Bir korkuluk, \u00fcr\u00fcn\u00fcn karar\u0131 nas\u0131l kullanaca\u011f\u0131n\u0131 bildi\u011fi s\u00fcrece faydal\u0131d\u0131r.<\/p>\n\n\n\n D\u00fc\u015f\u00fck riskli sorunlar i\u00e7in uygulama, kullan\u0131c\u0131dan istemi g\u00f6zden ge\u00e7irmesini isteyebilir. Desteklenmeyen \u00e7\u0131kt\u0131lar i\u00e7in uygulama g\u00fcvenli bir alternatifle yan\u0131t verebilir ve sonucu do\u011frulayamad\u0131\u011f\u0131n\u0131 a\u00e7\u0131klayabilir. Y\u00fcksek riskli eylemler i\u00e7in uygulama \u00e7al\u0131\u015fmay\u0131 bir insan inceleyicisine g\u00f6nderebilir.<\/p>\n\n\n\n En zor karar, korkuluk sistemi hatalar\u0131n\u0131 nas\u0131l ele alaca\u011f\u0131n\u0131zd\u0131r. Do\u011frulama mevcut de\u011filse, uygulama a\u00e7\u0131k \u015fekilde ba\u015far\u0131s\u0131z olup devam m\u0131 etmeli, yoksa kapal\u0131 \u015fekilde ba\u015far\u0131s\u0131z olup iste\u011fi mi engellemeli?<\/p>\n\n\n\n Evrensel bir cevap yoktur.<\/p>\n\n\n\n A\u00e7\u0131k \u015fekilde ba\u015far\u0131s\u0131z olmak, kullan\u0131labilirli\u011fin \u00f6nemli oldu\u011fu ve \u00e7\u0131kt\u0131n\u0131n h\u00e2l\u00e2 kullan\u0131c\u0131 incelemesi gerektirdi\u011fi d\u00fc\u015f\u00fck riskli taslak \u00f6zellikler i\u00e7in makul olabilir. Kapal\u0131 \u015fekilde ba\u015far\u0131s\u0131z olmak, d\u00fczenlenmi\u015f tavsiyeler, finansal i\u015flemler, hesap de\u011fi\u015fiklikleri, \u00f6zel veriler veya harici ara\u00e7 y\u00fcr\u00fctme i\u00e7eren i\u015f ak\u0131\u015flar\u0131 i\u00e7in daha g\u00fcvenlidir.<\/p>\n\n\n\n Bu karar\u0131 k\u00fcresel olarak de\u011fil, i\u015f ak\u0131\u015f\u0131na g\u00f6re verin. Bir \u00fcr\u00fcn, beyin f\u0131rt\u0131nas\u0131 i\u00e7in izin verici ve m\u00fc\u015fterileri, paray\u0131, verileri veya g\u00fcvenli\u011fi etkileyen eylemler i\u00e7in kat\u0131 olabilir.<\/p>\n\n\n\n ShareAI, Yap\u0131c\u0131lar\u0131n AI kullan\u0131m\u0131n\u0131 bir pazar yeri ve API katman\u0131na ba\u011flamas\u0131na yard\u0131mc\u0131 olur. Yap\u0131c\u0131lar, \u00e7\u0131kar\u0131m\u0131 ShareAI \u00fczerinden y\u00f6nlendirebilir, modelleri se\u00e7ebilir model pazar\u0131 de\u011fil<\/a>, ve kendi uygulamalar\u0131 AI kullan\u0131m\u0131 olu\u015fturdu\u011funda bir marj belirleyebilir.<\/p>\n\n\n\n Bu, ShareAI\u2019yi \u00fcr\u00fcn g\u00fcvenlik modelinizin sahibi yapmaz.<\/p>\n\n\n\n Yap\u0131c\u0131 h\u00e2l\u00e2 \u015funlar\u0131n sahibidir:<\/p>\n\n\n\n Bu ayr\u0131m \u00f6nemlidir. ShareAI, AI \u00fcr\u00fcn\u00fcn\u00fcz\u00fcn ekonomisini destekleyebilir, ancak koruma \u00f6nlemleri m\u00fc\u015fterilerle yapt\u0131\u011f\u0131n\u0131z uygulama s\u00f6zle\u015fmesinin bir par\u00e7as\u0131d\u0131r.<\/p>\n\n\n\n Bir Builder i\u015f ak\u0131\u015f\u0131 uyguluyorsan\u0131z, ShareAI belgeleri<\/a> ve API referans\u0131<\/a>, ard\u0131ndan entegrasyonu kendi politika kontrolleriniz ve g\u00f6zlemlenebilirlik ile e\u015fle\u015ftirin.<\/p>\n\n\n\n \u00dcretim modeli \u00e7a\u011fr\u0131lar\u0131 etraf\u0131nda koruma \u00f6nlemleri eklerken bu kontrol listesini kullan\u0131n:<\/p>\n\n\n\nKullan\u0131c\u0131 \u00e7\u0131kt\u0131y\u0131 g\u00f6rmeden \u00f6nce neyi do\u011frulamal\u0131<\/h2>\n\n\n\n
Engelleme, izin verme veya inceleme davran\u0131\u015f\u0131n\u0131 kas\u0131tl\u0131 olarak se\u00e7in.<\/h2>\n\n\n\n
ShareAI\u2019nin rol\u00fcn\u00fc net tutun.<\/h2>\n\n\n\n
\n
Pratik bir uygulama kontrol listesi<\/h2>\n\n\n\n
\n