Amazon Bedrock Bütünlük Korumaları

Amazon Bedrock Bütünlük Korumaları, altyapı modellerinin yerel korumalarının yanı sıra özelleştirilebilir ek güvenlik önlemleri sağlar ve aşağıdaki yollarla sektördeki en iyiler arasında yer alan güvenlik korumaları sunar:

• %85'e kadar daha fazla zararlı içeriği engelleme
• RAG ve özetleme iş yükleri için %75'ten fazla halüsinasyonlu yanıtların filtrelenmesi
• Müşterilerin tek bir çözüm içinde güvenlik, gizlilik ve doğruluk korumalarını özelleştirmelerini ve uygulamalarını sağlama

Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerini ve altyapı modeli yanıtlarını kullanım örneklerine özgü politikalara göre değerlendirmeye yardımcı olur ve temel altyapı modelinden bağımsız olarak ek bir koruma katmanı sağlar. Amazon Bedrock Bütünlük Korumaları, büyük bir bulut sağlayıcısı tarafından sunulan ve müşterilerin üretici yapay zeka uygulamaları için güvenlik, gizlilik ve doğruluk korumaları oluşturup özelleştirmelerine yardımcı olan tek sorumlu yapay zeka özelliği olup Amazon Bedrock'taki tüm büyük dil modelleriyle (LLM'ler) ve ince ayarlanmış modellerle çalışır. Müşteriler, her biri farklı bir kontrol kombinasyonuyla yapılandırılmış birden fazla bütünlük koruması oluşturabilir ve bu bütünlük korumalarını farklı uygulamalarda veya kullanım örneklerinde kullanabilir. Amazon Bedrock Bütünlük Korumaları, sorumlu yapay zeka politikalarınızla uyumlu üretici yapay zeka uygulamaları oluşturmak amacıyla Amazon Bedrock Temsilcileri ve Amazon Bedrock Bilgi Tabanları ile de entegre edilebilir. Ek olarak Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerini değerlendirmeye yardımcı olur ve Bedrock dışındaki herhangi bir özel veya üçüncü taraf altyapı modeli ile oluşturulmuş yanıtları modellemek üzere bir ApplyGuardrail API'si sunar.

Kuruluşlar, ilgili ve güvenli bir kullanıcı deneyimi için üretici yapay zeka uygulamaları içindeki etkileşimleri yönetme ihtiyacının farkındadır. İşleriyle ilgili konulara odaklanmış durumda kalmak ve şirket politikalarıyla uyumlu olmak için etkileşimlerde daha fazla özelleştirme yapmak isterler. Amazon Bedrock Bütünlük Korumaları, uygulamanız bağlamında kaçınmanız gereken bir dizi konuyu kısa bir doğal dil açıklaması kullanarak tanımlamanıza yardımcı olur. Amazon Bedrock Bütünlük Korumaları, kısıtlanmış konuları içeren kullanıcı girdilerini ve altyapı modeli yanıtlarını algılamaya ve engellemeye yardımcı olur. Örneğin, bir bankacılık asistanı yatırım tavsiyesiyle ilgili konulardan kaçınmak amacıyla tasarlanabilir.

Amazon Bedrock Bütünlük Korumaları; nefret, hakaret, cinsellik, şiddet, uygunsuz hareket (suç faaliyetleri dahil) gibi zararlı içerikleri filtrelemek ve istem saldırılarına (istem ekleme ve kısıtlamaları kaldırma) karşı koruma sağlamak için yapılandırılabilir eşiklere sahip içerik filtreleri sunar. Çoğu altyapı modeli zaten zararlı yanıtların oluşmasını önlemek için yerleşik korumalar sağlar. Bu korumalara ek olarak Amazon Bedrock Bütünlük Korumaları, zararlı etkileşimleri filtrelemek üzere farklı içerik kategorileri için eşikler yapılandırmanıza olanak tanır. Filtrenin gücünün artırılması, filtrelemenin agresifliğini artırır. Amazon Bedrock Bütünlük Korumaları, kısıtlı kategorilere giren içeriği algılamak ve önlemeye yardımcı olmak için hem kullanıcı girdisini hem de model yanıtlarını otomatik olarak değerlendirir. Örneğin bir e-ticaret sitesi, çevrimiçi asistanını nefret söylemi veya hakaret gibi uygunsuz bir dil kullanmaktan kaçınmak için tasarlayabilir.

Amazon Bedrock Bütünlük Korumaları, kullanıcı girdilerindeki ve altyapı modeli yanıtlarındaki kimliği tanımlayabilecek bilgiler (PII) gibi hassas içerikleri algılamanıza yardımcı olabilir. Önceden tanımlanmış PII listesinden seçim yapabilir veya normal ifadeleri (RegEx) kullanarak özel hassas bilgi türünü tanımlayabilirsiniz. Kullanım örneğine bağlı olarak, hassas bilgiler içeren girişleri seçici olarak reddedebilir veya altyapı modeli yanıtlarında sansürleyebilirsiniz. Örneğin, bir çağrı merkezindeki müşteri ve temsilci konuşma dökümlerinden özetler oluştururken kullanıcıların kişisel bilgilerini düzenleyebilirsiniz.

Amazon Bedrock Bütünlük Korumaları, kullanıcılarınız ve üretici yapay zeka uygulamaları arasındaki etkileşimde algılamak ve engellemek istediğiniz bir dizi özel kelime veya ifadeyi yapılandırmanıza yardımcı olur. Bu, aynı zamanda küfürlerin yanı sıra rakip adları veya diğer saldırgan kelimeler gibi belirli özel kelimeleri tespit etmenize ve engellemenize de yardımcı olacaktır.

Kuruluşların, kullanıcıların güvenini korumak ve büyütmek için doğru ve güvenilir üretici yapay zeka uygulamaları dağıtması gerekir. Bununla birlikte, FM'ler kullanılarak oluşturulan uygulamalar, halüsinasyonlar nedeniyle yanlış bilgi üretebilir. Örneğin FM'ler kaynak bilgilerden sapan yanıtlar üretebilir, birden fazla bilgi parçasını birleştirebilir veya yeni bilgiler icat edebilir. Amazon Bedrock Bütünlük Korumaları, yanıtların kaynak bilgilerinde referanslanmaması (örneğin olgusal olarak yanlış veya yeni bilgiler) ve kullanıcının sorgusu veya talimatıyla alakasız olması durumunda halüsinasyonları algılamaya ve filtrelemeye yardımcı olmak için bağlamsal referans kontrollerini destekler. Bağlamsal temellendirme denetimleri, model yanıtını doğrulamak üzere kaynak bilgilerin referans olarak kullanılabileceği RAG, özetleme ve konuşma uygulamaları için halüsinasyonları tespit etmede yardımcı olabilir.