手把手教你用聆思CSK6大模型开发板接入文心一言/千帆大模型

胡黎明

手把手教你用聆思CSK6大模型开发板接入文心一言/千帆大模型 [复制链接]

 

简介：

 

本贴介绍了如何使用聆思CSK6大模型开发板接入文心一言做一个可以语音交互的AI助手。

 

当前方案是把开发套件当做输入端，交互内容先上传到聆思的大模型平台（LSPlatform），然后平台再根据匹配的应用策略转给后端的大模型处理。基于聆思大模型平台提供的应用编排功能，我们如果要使用其他大模型，只需要从云端更改大模型接入节点，而无需去修改硬件端。

 

首先，需要在LSplatform上创建新应用并导入文心一言示例工程。(工程文件可以从附件文档中获得）

 

然后配置包括HOST、AK/SK、Model和Stream等参数，部署验证成功后，将云端服务与产品配置绑定。

 

 

 

在云测试页面交互返回如上图信息，就可以在CSK6开发板设备端写入云端产品服务配置，无需修改固件即可实现语音交互。

实操详情请参考附件。

Jacktang

原来大模型是这样搞的，从云端更改大模型接入节点，无需去修改硬件端，，，好吧