AI generatif dengan Amazon Neptune

Analitik grafik performa tinggi dan basis data nirserver untuk skalabilitas dan ketersediaan yang unggul

Ikhtisar

Seiring dengan meningkatnya jumlah organisasi yang membangun dan menerapkan aplikasi kecerdasan buatan (AI) generatif, ekspektasi mereka terhadap keakuratan, kelengkapan, dan keterjelasan pun meningkat. Menyediakan konteks khusus perusahaan dan domain melalui teknik seperti Retrieval Augmented Generation (RAG) dapat membantu sampai batas tertentu— RAG hemat biaya untuk menyediakan informasi terkini dan relevan untuk AI generatif sambil mempertahankan tata kelola dan kontrol data.

Graph Retrieval Augmented Generation (GraphRAG) membawa RAG ke tingkat berikutnya dengan memanfaatkan kekuatan analitik grafik dan pencarian vektor untuk meningkatkan akurasi, kelengkapan, dan penjelasan respons AI. GraphRAG mencapai ini dengan memanfaatkan hubungan antara entitas atau elemen struktural dalam data, seperti bagian atau judul dengan potongan dokumen, untuk menyediakan data yang paling relevan sebagai input ke aplikasi RAG. Melalui penggunaan grafik pengetahuan, aplikasi RAG dapat mengambil koneksi multi-hop antara entitas atau topik terkait dan menggunakan fakta ini untuk menambah respons generatif.

AI generatif dengan Amazon Neptune

Amazon menyediakan jalur yang dikelola sepenuhnya dan dikelola sendiri untuk membuat dan menjalankan aplikasi GraphRAG.

  • Dikelola sepenuhnya: Amazon Bedrock Knowledge Bases menawarkan layanan GraphRAG terkelola sepenuhnya pertama di dunia dengan Amazon Neptune. Secara otomatis mengelola pembuatan dan pemeliharaan grafik dan sematan, sehingga memungkinkan pelanggan memberikan respons yang lebih relevan kepada pengguna akhir. Sebagai layanan yang terkelola sepenuhnya, Anda terhindar dari tantangan dalam menyiapkan konfigurasi dan integrasi dengan LLM atau basis data vektor lainnya. 
  • Dikelola sendiri: Bagi pengguna yang mencari hosting mandiri atau fleksibilitas dalam menghubungkan ke sumber data khusus, integrasi dengan produk pihak ketiga (model dasar, penyimpanan vektor, penyimpanan data), dan hosting mandiri tumpukan aplikasi AI generatif mereka, Anda memiliki dua pilihan.
    • Toolkit AWS GraphRAG Python: AWS kini telah merilis toolkit GraphRAG sumber terbuka, yang mendukung model dasar dan grafik terkini. Ini menyediakan kerangka kerja untuk mengotomatiskan konstruksi grafik dari data tak terstruktur, dan untuk mengajukan kueri pada grafik ini saat menjawab pertanyaan pengguna.
    • Kerangka kerja sumber terbuka: AWS mendukung dan berkontribusi pada proyek sumber terbuka populer termasuk LangChain dan LlamaIndex untuk membangun pipeline produksi RAG.

Pengguna yang tidak terbiasa dengan bahasa kueri untuk basis data grafik dapat memanfaatkan integrasi Neptune dengan LangChain. Hal ini memungkinkan Anda mempertanyakan basis data grafik Neptunus Anda menggunakan bahasa alami. Misalnya, Anda dapat menggunakan NeptuneOpenCypherQAChain untuk menerjemahkan pertanyaan bahasa Inggris ke dalam kueri openCypher dan mengembalikan respons yang dapat dibaca manusia. Rantai ini dapat digunakan untuk menjawab pertanyaan seperti “Bandara AS mana yang memiliki rute keluar terpanjang dan terpendek?”

LangChain adalah kerangka kerja Python sumber terbuka yang dirancang untuk menyederhanakan pembuatan aplikasi dengan menggunakan model bahasa besar (LLM). Integrasi Neptune dengan LangChain memungkinkan developer untuk menggunakan kerangka kerja sumber terbuka LangChain untuk menyederhanakan pembuatan aplikasi yang sadar konteks.

Dengan Neptune dan LangChain, Anda dapat menghasilkan respons berdasarkan konteks yang disediakan serta mengueri basis data grafik Neptune menggunakan bahasa kueri openCypher. Misalnya, Anda dapat menggunakan Neptune openCypher QA Chain untuk menerjemahkan pertanyaan bahasa Inggris ke dalam kueri openCypher dan menghasilkan respons yang dapat dibaca manusia. Rantai ini dapat digunakan untuk menjawab pertanyaan seperti “Berapa banyak rute keluar yang dimiliki bandara Austin?”

Untuk detail selengkapnya tentang Neptune openCypher QA Chain, kunjungi dokumentasi LangChain sumber terbuka.

LlamaIndex adalah kerangka data sumber terbuka untuk menghubungkan sumber data khusus ke model bahasa besar (LLM) dan mendukung penggunaan grafik pengetahuan dengan LLM.

Dengan LlamaIndex, Anda dapat menggunakan Neptune sebagai penyimpanan grafik atau penyimpanan vektor untuk membangun aplikasi AI generatif dengan menggunakan teknik seperti GraphRAG.

Kasus penggunaan

GraphRAG dapat digunakan untuk meningkatkan meja layanan TI dan pusat kontak. Misalnya, GraphRAG dapat memungkinkan tim Security Operations Center (SOC) untuk menafsirkan peringatan secara lebih akurat untuk membantu mengamankan sistem penting. Chatbot dukungan anggota layanan kesehatan dapat dengan cepat menemukan informasi relevan dari sejumlah besar literatur medis untuk menjawab pertanyaan rumit tentang gejala, perawatan, dan hasil pasien.

Aplikasi GraphRAG dapat memberikan wawasan mendalam bagi tim dalam fungsi perusahaan seperti perencanaan keuangan & akuntansi (FP&A), pemasaran, hukum, SDM, dll. Misalnya, tim hukum perusahaan dapat lebih efektif menemukan informasi tentang undang-undang perpajakan, peraturan, dan preseden kasus untuk mengideasi strategi kasus. Tim pemasaran dapat membuat tampilan 360 derajat pelanggan berdasarkan koneksi sosial dan riwayat pembelian calon pelanggan.

Perusahaan di berbagai industri mendapat manfaat dari GraphRAG. Misalnya, dalam industri farmasi, tim R&D dapat menggunakan GraphRAG untuk mempercepat penelitian dan uji coba obat. Dalam ruang perbankan investasi, kemampuan GraphRAG untuk memetakan hubungan yang kompleks dan memberikan pandangan holistik atas pengajuan perusahaan, membantu tim uji tuntas untuk mengungkap wawasan - seperti hak regulasi dan dinamika kompetitif - dengan RAG yang biasanya tidak mudah terlihat.

Rekomendasi tradisional menggunakan layanan analitik secara manual untuk membuat rekomendasi produk. Neptune ML dapat mengidentifikasi hubungan baru secara langsung pada data grafik dan dengan mudah merekomendasikan daftar game yang mungkin menarik untuk dibeli, pemain lain untuk diikuti, atau produk untuk dibeli.

Harga

Tidak diperlukan investasi di muka. Anda hanya membayar sumber daya AWS yang digunakan, seperti Amazon SageMaker, Neptune, dan Amazon Simple Storage Service (Amazon S3).

Memulai

Ada banyak cara untuk memulai termasuk: