Amazon Bedrock で利用可能になった Cohere Command R および R+ でスケーラブルなエンタープライズグレードの生成 AI ワークロードを実行

2023 年 11 月、Amazon Bedrock で 2 つの新しい Cohere モデル (Cohere Command Light と Cohere Embed English) が利用可能になりました。4月29日、Amazon Bedrock にさらに 2 つの Cohere モデル (Cohere Command R と Command R+) が追加されたことを発表します。

組織は、エンタープライズデータソースに保存されている情報を安全に操作するために、生成人工知能 (生成 AI) モデルを必要としています。Command R と Command R+ はどちらも、実世界のエンタープライズグレードのワークロード向けに構築された強力でスケーラブルな大規模言語モデル (LLM) です。これらのモデルは多言語対応で、検索拡張生成 (RAG)、概念実証 (POC) から人工知能 (AI) を使用した本番環境に移行するための Tool Use などの機能を強化するために、高い効率性と強力な精度のバランスにフォーカスが置かれています。

Command R は、企業向けの本番稼働規模の AI を実現するための RAG と Tool Use をターゲットとしたスケーラブルな多言語生成モデルです。Command R+ は、エンタープライズグレードのワークロードを処理し、ビジネス AI アプリケーションを最適化するために設計された最先端の RAG 最適化モデルです。高度な RAG 向けに最適化された Command R+ は、このモデルに標準で装備されているインライン引用で高い信頼性を備えたエンタープライズ対応の検証可能な回答を提供します。Bedrock のこれらの新しい Cohere モデルを使用すると、AI でスケールして、財務、人事 (HR)、営業、マーケティング、カスタマーサポートなど、さまざまなビジネスセクターの多様なビジネス機能にわたるタスクをサポートする最も関連性の高い情報をすばやく見つけることができます。Tool Use は、Command R+ でも使用できます。強力な多言語モデルである Command R+ は、Command R と同様に、市場で入手可能な他のモデルで使用されているトークナイザーよりも英語以外のテキストを高度に圧縮するトークナイザーを備えています。

Command R と Command R+ の使用を開始する
Amazon Bedrock で両方のモデルの使用を開始するには、最初にモデルへのアクセスを取得する必要があります。Amazon Bedrock コンソールで [モデルアクセス] を選択し、[モデルアクセスを管理] を選択します。次に、目的のモデルを選択し、[変更を保存] を選択します。Amazon Bedrock では Command R と Command R+ を含む 6 つの Cohere モデルから選択できるので、特定のビジネスニーズに最適なモデルをより柔軟に選択できるようになりました。

選択したモデルにアクセスできるようになったら、そのモデルを Amazon Bedrock で使用できます。更新されたステータスを表示するには、ベースモデルのテーブルを更新します。

モデルは、英語、フランス語、スペイン語、イタリア語、ドイツ語、ブラジルポルトガル語、日本語、韓国語、簡体中国語、アラビア語など、ユーザーの言語で応答するようにトレーニングされています。以下に例を示します。

プロンプト

<s>"Écris une description de produit pour une voiture électrique en 50 à 75 mots"

出力

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante.Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances.Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

Command R と Command R+ でプログラミングで操作する
AWS コマンドラインインターフェイス (CLI) と AWS Software Development Kit (SDK) を使用して、Amazon Bedrock API を使用するさまざまな呼び出しを実行することもできます。AWS SDK を使用して Amazon Bedrock Runtime API を操作する Python のサンプルコードを次に示します。前に使用したのと同じテキスト生成プロンプトをプログラムで使用したときの結果を次に示します。この例では、Command R モデルを操作しています。Python に戻り、ListFoundationModels API コールを実行して、Command R の modelId を見つけます。

import boto3
import json
import numpy

bedrock = boto3.client(service_name='bedrock', region_name='us-east-1')

listModels = bedrock.list_foundation_models(byProvider='cohere')
print("\n".join(list(map(lambda x: f"{x['modelName']} : { x['modelId'] }", listModels['modelSummaries']))))

このコードを実行すると、次のリストが返されます。

Command : cohere.command-text-v14
Command Light : cohere.command-light-text-v14
Embed English : cohere.embed-english-v3
Embed Multilingual : cohere.embed-multilingual-v3
Command R: cohere.command-r-v1:0
Command R+: cohere.command-r-plus-v1:0

このリストから cohere.command-r-v1:0 モデル ID を選択し、この記事の前半で示したようにテキストを生成するコードを記述します。

import boto3
import json

bedrock = boto3.client(service_name="bedrock-runtime", region_name='us-east-1')

prompt = """
<s>Écris une description de produit pour une voiture électrique en 50 à 75 mots

body = json.dumps({
    "prompt": prompt,
    "max_tokens": 512,
    "top_p": 0.8,
    "temperature": 0.5,
})

modelId = "cohere.command-r-v1:0"

accept = "application/json"
contentType = "application/json"

response = bedrock.invoke_model(
    body=body,
    modelId=modelId,
    accept=accept,
    contentType=contentType
)

print(json.loads(response.get('body').read()))

次のような JSON 形式の出力が返されます。

Découvrez la voiture électrique qui va révolutionner votre façon de conduire.
Avec son design élégant, cette voiture offre une expérience de conduite unique
avec une accélération puissante et une autonomie impressionnante.Sa
technologie avancée vous garantit une charge rapide et une fiabilité inégalée.
Avec sa conception innovante et durable, cette voiture est parfaite pour les 
trajets urbains et les longues distances.Profitez d'une conduite silencieuse
et vivez l'expérience de la voiture électrique!

今すぐご利用いただけます

Command R と Command R+ のモデルは、他の Cohere モデルと共に、米国東部 (バージニア北部) と米国西部 (オレゴン) リージョンの Amazon Bedrock で使用できます。今後の更新については、リージョンの完全なリストを参照してください。

community.aws サイトにアクセスすると、詳細な技術コンテンツを検索することや、ビルダーコミュニティがソリューションで Amazon Bedrock をどのように使用しているかを調べることができます。Amazon Bedrock コンソールで Command R と Command R+ を今すぐお試しいただき、AWS re:Post for Amazon Bedrock または AWS サポートの通常の連絡先からフィードバックをお寄せください。

– Veliswa

原文はこちらです。