Pagar Pembatas Amazon Bedrock

Pagar Pembatas Amazon Bedrock menyediakan perlindungan yang dapat dikonfigurasi untuk membantu membangun aplikasi AI generatif dengan aman dalam skala besar. Dengan pendekatan yang konsisten dan standar yang digunakan di semua model fondasi (FM) yang didukung, Pagar Pembatas memberikan perlindungan keselamatan terdepan di industri:

• Menggunakan Penalaran Otomatis untuk membantu mencegah kesalahan faktual dari halusinasi, yang menjadikannya pengaman AI generatif pertama dan satu-satunya yang melakukannya
• Memblokir hingga 85% lebih banyak konten yang tidak diinginkan dan berbahaya
• Memfilter lebih dari 75% respons halusinasi dari model untuk Retrieval Augmented Generation (RAG) dan kasus penggunaan peringkasan

Pagar Pembatas adalah satu-satunya kemampuan AI yang bertanggung jawab dari penyedia cloud utama yang membantu Anda membangun dan menyesuaikan perlindungan keamanan, privasi, dan kebenaran untuk aplikasi AI generatif Anda dalam satu solusi. Pagar Pembatas membantu mengevaluasi input pengguna dan respons berdasarkan kebijakan spesifik kasus penggunaan, serta menyediakan lapisan perlindungan tambahan selain yang disediakan secara native oleh FM. Pagar Pembatas bekerja dengan berbagai model, termasuk FM yang didukung di Amazon Bedrock, model yang disempurnakan, dan model yang di-hosting sendiri di luar Amazon Bedrock. Input pengguna dan output model dapat dievaluasi secara independen untuk model pihak ketiga dan yang di-hosting sendiri menggunakan API ApplyGuardrail.  Pagar Pembatas juga dapat diintegrasikan dengan Agen Amazon Bedrock dan Basis Pengetahuan Amazon Bedrock untuk membangun aplikasi AI generatif yang lebih aman dan terlindungi yang selaras dengan kebijakan AI yang bertanggung jawab.

Pelanggan perlu menerapkan aplikasi AI generatif yang jujur dan dapat dipercaya untuk mempertahankan dan menumbuhkan kepercayaan pengguna. Namun, FM dapat menghasilkan informasi yang salah karena halusinasi: menyimpang dari informasi sumber, menggabungkan beberapa informasi, atau menciptakan informasi baru. Pagar pembatas mendukung pemeriksaan landasan kontekstual untuk membantu mendeteksi dan memfilter halusinasi jika respons tidak didasarkan pada informasi sumber (misalnya, tidak akurat secara faktual atau informasi baru) serta tidak relevan dengan pertanyaan atau instruksi pengguna. Pemeriksaan grounding kontekstual dapat membantu mendeteksi halusinasi untuk aplikasi RAG, peringkasan, dan percakapan, yang dapat menggunakan informasi sumber sebagai referensi untuk memvalidasi respons model.

Pemeriksaan Penalaran Otomatis (pratinjau) di Pagar Pembatas Amazon Bedrock adalah pengaman AI generatif pertama dan satu-satunya yang membantu mencegah kesalahan faktual dari halusinasi menggunakan penalaran yang akurat dan dapat diverifikasi secara logis yang menjelaskan alasan ketepatan tanggapan. Penalaran Otomatis membantu mengurangi halusinasi menggunakan teknik matematika yang tepat untuk memverifikasi, mengoreksi, dan secara logis menjelaskan informasi yang dihasilkan, demi memastikan bahwa output selaras dengan fakta yang diketahui dan tidak didasarkan pada data yang dibuat-buat atau tidak konsisten. Developer dapat membuat kebijakan Penalaran Otomatis dengan mengunggah dokumen yang ada yang mendefinisikan ruang solusi yang tepat, seperti pedoman SDM atau panduan operasional. Amazon Bedrock kemudian menghasilkan kebijakan Penalaran Otomatis yang unik dan memandu pengguna menguji dan menyempurnakannya. Untuk memvalidasi konten yang dihasilkan terhadap kebijakan Penalaran Otomatis, pengguna harus mengaktifkan kebijakan di Pagar Pembatas dan mengonfigurasinya dengan daftar Amazon Resource Name (ARN) yang unik. Proses verifikasi algoritmik berbasis logika ini memastikan bahwa informasi yang dihasilkan oleh model selaras dengan fakta yang diketahui dan tidak didasarkan pada data yang dibuat-buat atau tidak konsisten. Pemeriksaan ini memberikan tanggapan yang terbukti jujur dari model AI generatif, sehingga vendor perangkat lunak dapat meningkatkan keandalan aplikasi mereka untuk kasus penggunaan dalam SDM, keuangan, hukum, kepatuhan, dan banyak lagi.

Para pemimpin organisasi menyadari perlunya mengelola interaksi dalam aplikasi AI generatif untuk pengalaman pengguna yang relevan dan aman. Mereka ingin lebih menyesuaikan interaksi agar tetap berfokus pada topik yang relevan dengan bisnis mereka dan selaras dengan kebijakan perusahaan. Dengan deskripsi bahasa alami yang singkat, Pagar Pembatas membantu menentukan rangkaian topik yang harus dihindari dalam konteks aplikasi Anda. Pagar Pembatas membantu mendeteksi dan memblokir input pengguna dan respons FM yang termasuk dalam topik terbatas. Misalnya, asisten perbankan dapat dirancang untuk menghindari topik yang berkaitan dengan nasihat investasi.

Pagar Pembatas menyediakan filter konten dengan ambang batas yang dapat dikonfigurasi untuk konten teks dan gambar toksik. Perlindungan ini membantu menyaring konten berbahaya yang berisi topik seperti ujaran kebencian, penghinaan, seks, kekerasan, dan pelanggaran (termasuk aktivitas kriminal) serta membantu melindungi dari serangan prompt (injeksi prompt dan jailbreak). Kemampuan untuk mendeteksi serta memfilter konten gambar yang tidak diinginkan dan berpotensi berbahaya saat ini tersedia dalam pratinjau untuk kategori kebencian, penghinaan, seksual, dan kekerasan, serta didukung untuk semua FM di Amazon Bedrock yang mendukung gambar, termasuk FM yang disempurnakan. Filter konten secara otomatis mengevaluasi respons model dan input pengguna untuk mendeteksi serta membantu mencegah konten yang tidak diinginkan dan berpotensi berbahaya. Misalnya, situs ecommerce dapat merancang asisten online untuk menghindari penggunaan bahasa yang tidak pantas, seperti perkataan yang mendorong kebencian atau penghinaan.

Pagar Pembatas membantu Anda mendeteksi konten sensitif, seperti informasi pengenal pribadi (PII) dalam input pengguna dan respons FM. Anda dapat memilih dari daftar PII yang telah ditentukan sebelumnya atau menentukan tipe informasi sensitif kustom menggunakan ekspresi reguler (RegEx). Berdasarkan kasus penggunaannya, Anda dapat secara selektif menolak input yang berisi informasi sensitif atau menyuntingnya dalam respons FM. Misalnya, Anda dapat menyunting informasi pribadi pengguna sambil membuat ringkasan dari transkrip percakapan pelanggan dan agen di pusat panggilan.