一、Bedrock Connector 簡單含義

• AWS 場景（AI / 大模型調用）
• 在 Amazon Bedrock 服務里，Bedrock Connector 指的是“連接器”組件——一段預先封裝好的配置模板，用來把外部應用（如 OpenSearch、UiPath、Camunda、自研系統(tǒng)）安全地連到 Bedrock 的 LLM API，實現(xiàn)簽名鑒權、請求轉發(fā)、結果回傳等功能。
• • 典型形態(tài)：一個 JSON/YAML 描述文件，內部寫好 AWS SigV4 簽名、目標 endpoint、模型 ID（如 Claude 3 Sonnet）、超時重試策略等。
• • 用例：在 OpenSearch 里注冊 Bedrock Connector 后，即可用自然語言對日志做根因分析；在 UiPath 里拖一個“Bedrock 活動”就能讓機器人調用大模型生成文本或總結工單
• 在 Claude 3 發(fā)布之后，其強大的多模態(tài)推理、視覺能力、翻譯、總結、寫作、編碼等能力，再次激發(fā)生成式 AI 的熱潮。Amazon Bedrock 也是首個 Claude 3 全托管且正式可用的服務。
• 伴隨越來越多的業(yè)務場景落地，我們也收集了很多針對 Bedrock Claude 3 的需求和反饋。
• 我們開發(fā)了 Bedrock Connector 并開源，供大家測試使用，和代碼參考。
• Bedrock Connector 主要解決以下幾個需求：
• 多租戶管理，通過 API_KEY & Host 方式使用 Claude
• 針對多租戶的計費，和費用限額，預充值管理
• 兼容更多的客戶端工具的訪問方式，如以下常見客戶端
  • ChatHub
  • AIChatOne
  • OpenAI Translator
  • siders

二、快速部署

1. 準備一臺服務器來托管連接器

在 AWS 或任何其他支持 docker 的服務器上啟動 EC2。

yum install -y yum-utils device-mapper-persistent-data lvm2
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo
cat /etc/os-release
ls -la /etc/yum.repos.d/
sudo yum update -y
sudo yum install -y docker
sudo systemctl daemon-reload
sudo systemctl restart docker
docker ps

2. 使用 docker 運行 Postgres

使用以下 shell 命令啟動一個 docker 容器來托管 postgres。請使用您自己的密碼重新連接

然后創(chuàng)建一個使用以下命令命名的數據庫。brconnector_db，然后，在 postgres 的 SQL 命令行中，運行以下命令創(chuàng)建數據庫 數據庫名稱不一定是，您可以使用所需的任何有效數據庫名稱。brconnector_db

如果您使用自己的數據庫名稱，請確保記住數據庫名稱并替換為您的數據庫名稱。brconnector_db

docker run --name postgres   -e POSTGRES_PASSWORD=yy123456   -p 5432:5432   -d postgres
docker ps
docker exec -it postgres psql -U postgres
CREATE DATABASE brconnector_db;
docker inspect postgres | grep IPAddress
記住這個ip地址，后續(xù)會使用到

3. 使用 docker 啟動連接器服務

直接運行以下 docker 命令以啟動連接器容器。

確保將訪問密鑰、密鑰、區(qū)域的值替換為正確的值。

而且，重要的！將 ADMIN_API_KEY 的值替換為復雜鍵，而不是在示例中使用簡單鍵。

docker run --name brconnector  --restart always --pull always  -p 8866:8866  -e AWS_ACCESS_KEY_ID=****  -e AWS_SECRET_ACCESS_KEY=*****  -e AWS_DEFAULT_REGION=us-east-1  -e PGSQL_HOST=172.17.0.3  -e PGSQL_DATABASE=brconnector_db  -e PGSQL_USER=postgres  -e PGSQL_PASSWORD=yy123456  -e ADMIN_API_KEY=******  -d cloudbeer/sample-connector-for-bedrock

AKSK要從aws的服務先開啟對某個模型的訪問權限，其次這個用戶或者角色要有訪問這個服務的權限（AKSK），獲取到就填寫到上面的相應位置，pg數據庫的地址也使用上面查出來的ip地址，數據庫的名稱也是之前創(chuàng)建的，adminapikey是自定義的

當容器不健康時候執(zhí)行如下：

# 進入容器
docker exec -it brconnector bash
# 安裝curl
apt-get update && apt-get install -y curl

4. 測試連接器服務

現(xiàn)在，您擁有第一個API_KEY為“br_xxxxxxxxxxxxxxxxxxxxxxxxxxxxxx”的管理員用戶。

并將服務器導出端口 8866 到托管 EC2。

使用 using 命令API_Key測試服務器：curl

curl "http://localhost:8866/admin/api-key/list"   -H "Authorization: Bearer br_yyuequiwehqkh"
#之前自定義的adminapikey

順利的話：{"success":true,"data":{"items":[],"total":"0","limit":20,"offset":0}}

5. 創(chuàng)建第一個管理員用戶

curl -X POST "http://localhost:8866/admin/api-key/apply"      -H "Content-Type: application/json"      -H "Authorization: Bearer br_yyuequiwehqkh"      -d '{"name": "adminuser","group_id": 1,"role": "admin","email": "", "month_quota":"20"}'
# br_yyuequiwehqkh 最開始自定義的key

您將得到如下回復：這時候會給你返回一個真正的api_key

{"success":true,"data":{"id":1,"name":"adminuser","email":"","api_key":"br-someotherkeyvaluexxxxx","role":"admin","month_quota":"20.0000000000","balance":"0.0000000000"}}

為新用戶錄制新api_key，
此api_key可用于配置您的客戶端進行聊天。
并且這個api_key可用于登錄連接器的管理器WebUI來管理其他api_key。

6. 配置客戶端以連接到連接器服務器

您現(xiàn)在可以通過 http://your-endpoint/manager 訪問 BRConnector WebUI。

http://35.87.250.63:8866/manager

使用剛剛生成的 API 密鑰登錄并對其進行管理。輸入 http://your-endpoint 作為管理者。

內置客戶端訪問地址為：http(s)://your-endpoint/brclient/

http://35.87.250.63:8866/brclient/

點擊設置配置你的地址以及apikey就可以訪問到模型了

也可以是postman調用試下：

這樣部署就完成了，openai就直接能夠通過apikey去調用對應的模型接口。

到此這篇關于docker 部署B(yǎng)edrock Connector的文章就介紹到這了,更多相關docker Bedrock Connector內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家！