0
0

利用C++与Python调用千帆免费大模型，构建个性化AI对话系统

千帆大模型已于2024年4月25日正式免费，调用这个免费的模型以实现自己的AI对话功能，遵循以下步骤：

了解千帆大模型：

千帆大模型是百度智能云推出的一个平台，提供了一系列AI能力和工具，用于快速开发和应用AI技术。该平台提供了从数据管理、数据标注、模型开发、模型纳管到部署上线的全生命周期AI能力研发与应用管理服务。

注册与登录：

如果已经是开发者，可以直接登录百度智能云千帆大模型平台。如果没有账号，需要先进行注册，并按照提示完成账号的创建和登录。

数据准备：

在开始之前，需要准备用于训练和测试的数据。这些数据应该包含对话的输入和期望的输出。千帆大模型平台支持多种数据格式和导入方式，可以根据实际情况选择合适的方式进行数据导入。

数据标注：

对于导入的数据，需要进行标注，以便模型能够理解和学习对话的模式和规则。在千帆大模型平台上，可以使用平台提供的工具进行数据的标注工作。

模型训练：

在完成数据标注后，可以使用千帆大模型平台提供的工具进行模型的训练。训练过程中，可以根据需要调整模型的参数和配置，以获得更好的对话效果。

模型评估与优化：

训练完成后，可以对模型进行评估，查看其在测试数据上的表现。如果模型的表现不佳，可以根据评估结果进行模型的优化和调整。

部署与测试：

当模型训练和优化完成后，可以将其部署到千帆大模型平台上，并进行实际的测试。通过与模型进行对话，验证模型的性能和效果，并根据需要进行进一步的调整和优化。

集成与应用：

如果模型的表现符合预期，可以将其集成到自己的应用中，实现自己的AI对话功能。在集成过程中，需要注意与千帆大模型平台的接口和协议进行匹配和对接。需要注意的是，虽然千帆大模型已经免费，但在使用过程中可能会产生一些额外的费用，如数据存储、计算资源等。因此，在使用之前需要了解平台的收费标准和计费方式，以便做好预算和规划。

python实现与千帆大模型交互

import sys

sys.path.append(r'C:\Users\XXX\AppData\Local\Programs\Python\Python312-32\Lib\site-packages')

import requests

import json

def getcookies():

url = " https://aip.baidubce.com/oauth/2.0/token"

params = { 

  'grant_type': 'client_credentials',  

  'client_id':'4O0GgKpCfUT5mxZ4s3f',  # 替换为你的客户端ID  

  'client_secret': 'RKETeu3iLn4YbCclMUei21ZVVnD6Y' # 替换为你的客户端密钥  

}

headers = { 

  'Content-Type': 'application/x-www-form-urlencoded',  

  'Accept': 'application/json'  

}

response = requests.post(url, params=params, headers=headers)

if response.status_code == 200: 

  data = response.json()  

  if'access_token' in data:  

      print(data['access_token'])

      return data['access_token']  

  else:  

      print("服务器响应中未找到 access_token")  

      return None

else: 

  print(f"请求失败，状态码：{response.status_code}")  

  returnNone

def getvalue(content, token):

token = getcookies()

#如果成功获取的token格式如下，一个月获取一次

token = "24.0a2e1101e19ebe5e500a0962b30468fb.2592000.1700073516.282335-70004478"

url = " https://aip.baidubce.com/rpc/2.0/ai_custom/v1/wenxinworkshop/chat/ernie-speed-128k?access_token=" + token

#content为填充的润色语句，要求可以自行改进

payload = json.dumps({

  "messages": [

        {    

          "content": "原文内容:{{" + content + "}}\

要求：\

  1. 使用更专业与精准的词汇，提取关键内容，重构文本表达更加简洁、准确和有层次。\

  2. 调整结构顺序，使文字更具吸引力、可读性和说服力，内容简短精炼，字数不超过原始内容的70%。\

  3. 重构后的文本相较于原文有较大的提升和改良，无需展示修改过程。\

  4. 直接按新序号展示最终修订后的内容，无需添加任何说明。",

"role": "user"

        }

    ]

})

headers = {

  'Content-Type': 'application/json'

}

response = requests.request("POST", url, headers=headers, data=payload)

#print(response.text)

return response.text

C++调用pyhton文件中的函数

头文件定义

#ifndef PYTHONCALLER_H

#define PYTHONCALLER_H

#include <Python.h>

#include <string>

class PythonCaller {

private:

PyObject* pModule;

PyObject* pGetvalueFunc;

PyObject* pGetcookiesFunc;

public:

PythonCaller();

~PythonCaller();

bool Initialize(std::string path, std::string name);

void Finalize();

std::string CallGetValue(const std::string& url, const std::string& cookies);

std::string CallGetCookies();

};

#endif // PYTHONCALLER_H

#else

#endif

源文件定义

#include "PythonCaller.h"

PythonCaller::PythonCaller() : pModule(nullptr) {}

PythonCaller::~PythonCaller() {

Finalize();

}

bool PythonCaller::Initialize(std::string path, std::string name) {

Py_Initialize();

PyRun_SimpleString("import sys");

PyRun_SimpleString(("sys.path.append('" + path + "')").c_str());

PyObject* pName = PyUnicode_DecodeFSDefault(name.c_str());

pModule = PyImport_Import(pName);

Py_DECREF(pName);

if (pModule == nullptr) {

  return0;

}

pGetvalueFunc = PyObject_GetAttrString(pModule,"getvalue");

if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

  Py_XDECREF(pGetvalueFunc);

  return0;

}

pGetcookiesFunc = PyObject_GetAttrString(pModule,"getcookies");

if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

  Py_XDECREF(pGetcookiesFunc);

  return0;

}

return 1;

}

void PythonCaller::Finalize() {

if (pModule != nullptr) {

  Py_DECREF(pModule);

  pModule = nullptr;  //将 pModule 置为 nullptr

}

if (pGetvalueFunc != nullptr) {

  Py_DECREF(pGetvalueFunc);

  pGetvalueFunc = nullptr;  //将 pModule 置为 nullptr

}

if (pGetcookiesFunc != nullptr) {

  Py_DECREF(pGetcookiesFunc);

  pGetcookiesFunc = nullptr;  //将 pModule 置为 nullptr

}

Py_Finalize();

}

std::string PythonCaller::CallGetValue(const std::string& url, const std::string& cookies) {

if (!pGetvalueFunc || !PyCallable_Check(pGetvalueFunc)) {

  Py_XDECREF(pGetvalueFunc);

  return"";

}

PyObject* pArgs = PyTuple_New(2);

PyTuple_SetItem(pArgs, 0, PyUnicode_FromString(url.c_str()));

PyTuple_SetItem(pArgs, 1, PyUnicode_FromString(cookies.c_str()));// 设置第二个参数为字符串

PyObject* pValue = PyObject_CallObject(pGetvalueFunc, pArgs);

Py_DECREF(pArgs);

if (pValue == nullptr) {

  PyErr_Print();

  return"Error: Call to 'getvalue' failed";

}

std::string result;

if (pValue == Py_None) {

  result = "Result of call: None";

}

else {

  PyObject* pStr = PyObject_Str(pValue);

  if (pStr != nullptr) {

      const char* utf8_str = PyUnicode_AsUTF8(pStr);

      result = std::string(utf8_str);

      Py_DECREF(pStr);

    }

  else {

      result = "Error: Unable to convert result to string";

    }

}

Py_DECREF(pValue);

return result;

}

std::string PythonCaller::CallGetCookies() {

if (!pGetcookiesFunc || !PyCallable_Check(pGetcookiesFunc)) {

  Py_XDECREF(pGetcookiesFunc);

  return"";

}

PyObject* pArgs = PyTuple_New(0);

PyObject* pValue = PyObject_CallObject(pGetcookiesFunc, pArgs);

Py_DECREF(pArgs);

if (pValue == nullptr) {

  PyErr_Print();

  return"Error: Call to 'getvalue' failed";

}

std::string result;

if (pValue == Py_None) {

  result = "Result of call: None";

}

else {

  PyObject* pStr = PyObject_Str(pValue);

  if (pStr != nullptr) {

      const char* utf8_str = PyUnicode_AsUTF8(pStr);

      result = std::string(utf8_str);

      Py_DECREF(pStr);

    }

  else {

      result = "Error: Unable to convert result to string";

    }

}

Py_DECREF(pValue);

return result;

}

C++与python函数的交互过程

if (mgIspythonCaller == 0) {

  mgIspythonCaller = mgpythonCaller.Initialize(mgSelfPath, "ai");

}

if (!mgIspythonCaller) {

  return1;

}

string str = mgpythonCaller.CallGetValue(content, "");

visualstudio中python环境设置

根据程序环境，选择对应版本的python安装

图片

图片

图片

下载源码地址：https://www.lanzoub.com/iAFK0203yd4h

标签： c++ python 人工智能
本文转载自: https://blog.csdn.net/yxstars/article/details/139303549
版权归原作者 玄武 剑 所有， 如有侵权，请联系我们删除。
登录后发布评论

“利用C++与Python调用千帆免费大模型，构建个性化AI对话系统”的评论:

还没有评论
关于作者
...
overfit同步小助手
文章同步
相关阅读

46集 ESP32的AI大模型对话工程软硬件开源了

Arduino常用的函数解释-digitalWrite,digitalRead

大数据-187 Elasticsearch - ELK 家族 Logstash Filter 插件 使用详解

HBase二级索引原理与代码实例讲解

【大数据】Flink + Kafka 实现通用流式数据处理详解

StudyTonight Web 中文教程（八）

Flink Web UI 是使用和调试保姆级教程（持续更新)

文章导航