【AI】Python调用讯飞星火大模型接口,轻松实现文本生成
随着chatGPT的出现,通用大模型已经成为了研究的热点,由于众所周知的原因,亚太地区调用经常会被禁,在国内,讯飞星火大模型是一个非常优秀的中文预训练模型。本文将介绍如何使用Python调用讯飞星火大模型接口,实现文本生成等功能。
1. 安装API库
需要安装库,在命令行中输入以下命令进行安装:
pip3 install websocketpip3 install websocket-client
2. 获取讯飞星火大模型API密钥
在使用讯飞星火大模型API之前,需要先获取一个API密钥。请访问讯飞开放平台官网(https://www.xfyun.cn/),注册账号并登录后,进入“我的应用”页面,创建一个新的应用
在工单中申请API密钥:
3. 调用讯飞星火大模型API进行文本生成
参考官方api:https://www.xfyun.cn/doc/spark/Web.html
下面演示如何使用Python调用讯飞星火大模型接口进行文本生成。需要导入所需的库,并设置API密钥:
import _thread as threadimport base64import datetimeimport hashlibimport hmacimport jsonfrom urllib.parse import urlparseimport sslfrom datetime import datetimefrom time import mktimefrom urllib.parse import urlencodefrom wsgiref.handlers import format_date_timeimport websocketglobal resultimport os class Ws_Param(object): # 初始化 def __init__(self, APPID, APIKey, APISecret, gpt_url): self.APPID = APPID self.APIKey = APIKey self.APISecret = APISecret self.host = urlparse(gpt_url).netloc self.path = urlparse(gpt_url).path self.gpt_url = gpt_url # 生成url def create_url(self): # 生成RFC1123格式的时间戳 now = datetime.now() date = format_date_time(mktime(now.timetuple())) # 拼接字符串 signature_origin = "host: " + self.host + "\n" signature_origin += "date: " + date + "\n" signature_origin += "GET " + self.path + " HTTP/1.1" # 进行hmac-sha256进行加密 signature_sha = hmac.new(self.APISecret.encode('utf-8'), signature_origin.encode('utf-8'), digestmod=hashlib.sha256).digest() signature_sha_base64 = base64.b64encode(signature_sha).decode(encoding='utf-8') authorization_origin = f'api_key="{self.APIKey}", algorithm="hmac-sha256", headers="host date request-line", signature="{signature_sha_base64}"' authorization = base64.b64encode(authorization_origin.encode('utf-8')).decode(encoding='utf-8') # 将请求的鉴权参数组合为字典 v = { "authorization": authorization, "date": date, "host": self.host } # 拼接鉴权参数,生成url url = self.gpt_url + '?' + urlencode(v) # 此处打印出建立连接时候的url,参考本demo的时候可取消上方打印的注释,比对相同参数时生成的url与自己代码生成的url是否一致 return url # 收到websocket错误的处理 def on_error(ws, error): print("### error:", error) # 收到websocket关闭的处理 def on_close(ws): print("### closed ###") # 收到websocket连接建立的处理 def on_open(ws): thread.start_new_thread(run, (ws,)) def run(ws, *args): data = json.dumps(gen_params(appid=ws.appid, question=ws.question)) ws.send(data) # 收到websocket消息的处理 def on_message(ws, message): global result # print(message) data = json.loads(message) code = data['header']['code'] if code != 0: print(f'请求错误: {code}, {data}') ws.close() else: choices = data["payload"]["choices"] status = choices["status"] content = choices["text"][0]["content"] result += content print(content, end='') if status == 2: ws.close()")
4. 代码解释
这段代码定义了一个名为Ws_Param
的类,用于处理WebSocket请求。以下是代码中各个方法的解释:
-
__init__(self, APPID, APIKey, APISecret, gpt_url)
:初始化方法,用于设置类的实例变量。其中,APPID、APIKey、APISecret分别表示讯飞开放平台的应用ID、API Key和API Secret;gpt_url表示讯飞语音合成服务的URL。 -
create_url(self)
:生成请求的URL。根据当前时间生成RFC1123格式的时间戳;然后,拼接签名字符串,包括host、date和GET请求行;接着,使用hmac-sha256算法对签名字符串进行加密;将加密后的签名字符串进行Base64编码,并将其添加到鉴权参数中,生成完整的URL。 -
on_error(ws, error)
:收到WebSocket错误的处理方法。当WebSocket连接发生错误时,会调用此方法。 -
on_close(ws)
:收到WebSocket关闭的处理方法。当WebSocket连接关闭时,会调用此方法。 -
on_open(ws)
:收到WebSocket连接建立的处理方法。当WebSocket连接建立时,会调用此方法。在此处,会启动一个新的线程来运行run
函数。 -
run(ws, *args)
:运行函数,用于向讯飞语音合成服务发送请求。根据WebSocket实例的appid和question属性生成请求参数;然后,将请求参数转换为JSON字符串并通过WebSocket发送。 -
on_message(ws, message)
:收到WebSocket消息的处理方法。当从讯飞语音合成服务接收到消息时,会调用此方法。解析接收到的消息;然后,根据消息中的code判断请求是否成功;如果成功,则将返回的内容累加到全局变量result中,并打印出来;如果code不为0,表示请求失败,此时关闭WebSocket连接。
5.自动保存
最好把每次调用接口保存下来,并总结一些常用的话术,如起名,指定markdown格式等:
# -*- coding: utf-8 -*-import sysimport ossys.path.append(os.path.abspath(os.path.dirname(os.path.dirname(__file__))))import requests, json,timefrom ai import SparkApifrom util import file_utildef write(prefix, titile): result = SparkApi.api(prefix + titile) result = result.replace('我们','').replace('首先,','').replace('其次,','').replace('最后,','') file_util.write(os.path.join(r'./data', titile + '.md'), result)def article(titile): prefix = '假如你是一个公众号博主,请以markdown格式写一篇1500字的文章并起10个吸引人的标题,从第二级标题开始,' write(prefix, titile)def replace(titile): result = file_util.read(os.path.join(r'./data', titile + '.md')) result = result.replace('我们','').replace('首先,','').replace('其次,','').replace('最后,','') file_util.write(os.path.join(r'./data', titile + '.md'), result)def code(titile, code_str): prefix = '假如你是一个公众号博主,请以markdown格式写一篇1500字的文章,解释如下代码:' write(prefix + code_str, titile)if __name__ == '__main__': startTime=time.time() article("python调用讯飞星火大模型接口") endTime=time.time() print(str(endTime-startTime))''')
免责声明:
① 本站未注明“稿件来源”的信息均来自网络整理。其文字、图片和音视频稿件的所属权归原作者所有。本站收集整理出于非商业性的教育和科研之目的,并不意味着本站赞同其观点或证实其内容的真实性。仅作为临时的测试数据,供内部测试之用。本站并未授权任何人以任何方式主动获取本站任何信息。
② 本站未注明“稿件来源”的临时测试数据将在测试完成后最终做删除处理。有问题或投稿请发送至: 邮箱/279061341@qq.com QQ/279061341