基于chatgpt动手实现一个ai_translator

动手实现一个ai翻译

前言

最近在极客时间学习《AI 大模型应用开发实战营》，自己一边跟着学一边开发了一个进阶版本的 OpenAI-Translator，在这里简单记录下开发过程和心得体会，供有兴趣的同学参考；

ai翻译程序

版本迭代

在学习课程中呢。老师直播完成了ai翻译程序1.0版本。实现一个比较基础版本的ai翻译程序。

1.0版本

实现的功能：

• pdf文件解析提取文字和表格
• 将提取的原始信息发送给chatgpt进行翻译
• chatgpt返回结果后,将结果保存为pdf或者markdown格式

不足之处

• 不能保留pdf的原格式
• 仅支持命令行操作,没有gui
• 仅支持将中文翻译为英文

任何软件并不是一开始就是完美的,有了这些不足正好可以让我们根据所学的东西,更好的完善它。

2.0版本

实现的功能：

• 支持图形用户界面（GUI），提升易用性。
• 添加对保留源 PDF 的原始布局的支持。
• 服务化：以 API 形式提供翻译服务支持。
• 添加对其他语言的支持。

2.0要实现的也仅仅是一个开始.

动手实现2.0版本。

最初想先尝试做pdf对原格式的支持,一直没有很好的方案。想着不能一直在这个地方耗着,很多时候可能某一时刻突然灵光一闪就解决了。我先尝试做gui部分。

gui功能的实现

这两天有个同学在群里分享,有个python的gui库

streamlit

比较简单，并且ui很美观,官方文档也有很多小栗子。
这里放下官方文档链接

https://docs.streamlit.io/

1.先展示下我做好的gui页面

• 左侧边栏主要必要参数的设置
• 右边是有一个上传文件的地方
• 源文件翻译完成之后会有个下载文件的按钮

2.首先需要安装streamlit库

pip install streamlit

测试安装是否有效

streamlit hello

如果都没有问题运行后会出现访问地址

并且会自动在浏览器中打开服务地址

恭喜你,已经完成了万里长征第一步了。

3.接下来我们来实现侧边栏

首先需要导入streamlit

import streamlit as st

我们设置一下网页的title

st.set_page_config(
    page_title="AI-translate",
    page_icon="👋",)

这段代码效果类似下图中的

接下来我们设置侧边栏

with st.sidebar:
    st.markdown('使用方法')
    st.markdown('1.选择语言模型')
    st.markdown('2.设置apikey')
    option = st.selectbox('选择大语言模型?',('OpenAIModel','GLMModel'))
    api_key = st.text_input('设置apikey',type='password',value='sk-xxx')# clear_button = st.sidebar.button("Clear Conversation", key="clear")
    model_name = st.selectbox("Choose a model:",("gpt-3.5-turbo","gpt4"))
    file_format = st.selectbox("文件的输出类型",("pdf","text"))

这段代码已经包括完整的侧边栏了,我们来看下运行效果

streamlit run ai-translate.py --runner.fastReruns True

ai-translate.py

注意替换成成实际的文件名，

--runner.fastReruns True

表示可以修改代码自动生效,调试代码不需要一次次的重启了。

不出意外你就可以看到侧边栏的内容了

侧边栏完成代码如下：

import streamlit as st
st.set_page_config(
    page_title="AI-translate",
    page_icon="👋",)with st.sidebar:
    st.markdown('使用方法')
    st.markdown('1.选择语言模型')
    st.markdown('2.设置apikey')
    option = st.selectbox('选择大语言模型?',('OpenAIModel','GLMModel'))
    api_key = st.text_input('设置apikey',type='password',value='sk-xxx')# clear_button = st.sidebar.button("Clear Conversation", key="clear")
    model_name = st.selectbox("Choose a model:",("gpt-3.5-turbo","gpt4"))
    file_format = st.selectbox("文件的输出类型",("pdf","text"))

4.实现主功能页面
设置主功能页面标题和使用方法

st.header('AI Translator')
st.write("# Welcome to AI Translator! 👋")
st.markdown('使用方法')
st.markdown('1.上传需要翻译的文件')
st.markdown('2.静待结果')

添加上传文件的按钮

uploaded_file = st.file_uploader("上传需要翻译的文件",type=['pdf'])

type

表示只能上传pdf文件，接下来刷新浏览器看下效果

整个页面的样式也就出来了,是不是很简单。接下来我们来实现处理上传的文件的逻辑

接下来实现文件处理逻辑
先导入

os

模块

import os

实现将上传的文件保存到files目录中

if uploaded_file is not None:
    # st.write(uploaded_file)
    # To read file as bytes:
    filename=uploaded_file.name
    bytes_data = uploaded_file.getvalue()
    filepath='files'
    # 检查文件路径是否存在，如果不存在则创建
    if not os.path.exists(filepath):
        os.makedirs(filepath)
    full_filepath=os.path.join(filepath,filename)
    # Save file
    with open(full_filepath, "wb") as f:
        f.write(bytes_data)
        st.info('程序处理中。。。', icon="ℹ️")

文件已经保存到目录中了,接下来我们只要将文件丢给翻译程序处理就好了
这里先把页面弄好，之后再填充具体的翻译处理代码。
我们先用一个复制文件的逻辑完成下面的代码

    ### 翻译程序
    import shutil
    # 定义源文件路径和目标文件路径
    source_file = full_filepath
    file_name, file_extension = os.path.splitext(source_file)
    target_file = file_name + '_translated' + file_extension
    # 使用shutil模块的copy2函数复制文件
    shutil.copy2(source_file, target_file)
    st.info('程序完成。', icon="ℹ️")

这个代码主要把源文件复制并重命名了一个,比如源文件是

test.pdf

目标文件就是

test_translated.pdf

实现下载文件按钮

# 获取文件名和扩展名
    file_name, file_extension = os.path.splitext(full_filepath)# 构建目标文件名
    new_pdf_file_path = file_name +'_translated'+ file_extension
    newfilename=os.path.split(new_pdf_file_path)[1]# st.download_button('Download some text', text_contents)withopen(new_pdf_file_path,"rb")asfile:
        btn = st.download_button(
                label="Download pdf",
                data=file,
                file_name=newfilename,)

现在可以上传文件测试下了

完整代码如下：

import streamlit as st
import os

st.set_page_config(
    page_title="AI-translate",
    page_icon="👋",
)
with st.sidebar:
    st.markdown('使用方法')
    st.markdown('1.选择语言模型')
    st.markdown('2.设置apikey')
    option = st.selectbox('选择大语言模型?',('OpenAIModel','GLMModel'))
    api_key = st.text_input('设置apikey',type='password',value='sk-xxx')
    # clear_button = st.sidebar.button("Clear Conversation", key="clear")
    model_name = st.selectbox("Choose a model:", ("gpt-3.5-turbo","gpt4"))
    file_format = st.selectbox("文件的输出类型", ("pdf","text"))

st.header('AI Translator')
st.write("# Welcome to AI Translator! 👋")
st.markdown('使用方法')
st.markdown('1.上传需要翻译的文件')
st.markdown('2.静待结果')
uploaded_file = st.file_uploader("上传需要翻译的文件",type=['pdf'])
if uploaded_file is not None:
    # st.write(uploaded_file)
    # To read file as bytes:
    filename=uploaded_file.name
    bytes_data = uploaded_file.getvalue()
    filepath='files'
    # 检查文件路径是否存在，如果不存在则创建
    if not os.path.exists(filepath):
        os.makedirs(filepath)
    full_filepath=os.path.join(filepath,filename)
    # Save file
    with open(full_filepath, "wb") as f:
        f.write(bytes_data)
        st.info('程序处理中。。。', icon="ℹ️")
    ### 翻译程序
    import shutil
    # 定义源文件路径和目标文件路径
    source_file = full_filepath
    file_name, file_extension = os.path.splitext(source_file)
    target_file = file_name + '_translated' + file_extension
    # 使用shutil模块的copy2函数复制文件
    shutil.copy2(source_file, target_file)

    st.info('程序完成。', icon="ℹ️")
    # 获取文件名和扩展名
    file_name, file_extension = os.path.splitext(full_filepath)

    # 构建目标文件名
    new_pdf_file_path = file_name + '_translated' + file_extension
    newfilename=os.path.split(new_pdf_file_path)[1]
    # st.download_button('Download some text', text_contents)
    with open(new_pdf_file_path, "rb") as file:
        btn = st.download_button(
                label="Download pdf",
                data=file,
                file_name=newfilename,

            )

这样就完成了整个gui页面的编写,在上面我们用了一个伪代码逻辑实现了文件的翻译。接下来可以替换成真实的翻译代码
源代码

### 翻译程序import shutil
    # 定义源文件路径和目标文件路径
    source_file = full_filepath
    file_name, file_extension = os.path.splitext(source_file)
    target_file = file_name +'_translated'+ file_extension
    # 使用shutil模块的copy2函数复制文件
    shutil.copy2(source_file, target_file)

替换的代码

导入翻译程序代码

from utils import ArgumentParser, ConfigLoader, LOG
from model import GLMModel, OpenAIModel
from translator import PDFTranslator

调用翻译代码

    model = OpenAIModel(model=model_name, api_key=api_key)
    pdf_file_path = filepath
    #实例化 PDFTranslator 类，并调用 translate_pdf() 方法
    translator = PDFTranslator(model)
    translator.translate_pdf(pdf_file_path, file_format)

完整代码

import streamlit as st
import os
from utils import ArgumentParser, ConfigLoader, LOG
from model import GLMModel, OpenAIModel
from translator import PDFTranslator

st.set_page_config(
    page_title="AI-translate",
    page_icon="👋",)with st.sidebar:
    st.markdown('使用方法')
    st.markdown('1.选择语言模型')
    st.markdown('2.设置apikey')
    option = st.selectbox('选择大语言模型?',('OpenAIModel','GLMModel'))
    api_key = st.text_input('设置apikey',type='password',value='sk-xxx')# clear_button = st.sidebar.button("Clear Conversation", key="clear")
    model_name = st.selectbox("Choose a model:",("gpt-3.5-turbo","gpt4"))
    file_format = st.selectbox("文件的输出类型",("pdf","text"))

st.header('AI Translator')
st.write("# Welcome to AI Translator! 👋")
st.markdown('使用方法')
st.markdown('1.上传需要翻译的文件')
st.markdown('2.静待结果')
uploaded_file = st.file_uploader("上传需要翻译的文件",type=['pdf'])if uploaded_file isnotNone:# st.write(uploaded_file)# To read file as bytes:
    filename=uploaded_file.name
    bytes_data = uploaded_file.getvalue()
    filepath='files'# 检查文件路径是否存在，如果不存在则创建ifnot os.path.exists(filepath):
        os.makedirs(filepath)
    full_filepath=os.path.join(filepath,filename)# Save filewithopen(full_filepath,"wb")as f:
        f.write(bytes_data)
        st.info('程序处理中。。。', icon="ℹ️")### 翻译程序
    model = OpenAIModel(model=model_name, api_key=api_key)#实例化 PDFTranslator 类，并调用 translate_pdf() 方法
    translator = PDFTranslator(model)
    translator.translate_pdf(full_filepath, file_format)

    st.info('程序完成。', icon="ℹ️")# 获取文件名和扩展名
    file_name, file_extension = os.path.splitext(full_filepath)# 构建目标文件名
    new_pdf_file_path = file_name +'_translated'+ file_extension
    newfilename=os.path.split(new_pdf_file_path)[1]# st.download_button('Download some text', text_contents)withopen(new_pdf_file_path,"rb")asfile:
        btn = st.download_button(
                label="Download pdf",
                data=file,
                file_name=newfilename,)

多语言支持

添加命令行参数

self.parser.add_argument('--trans_type',type=str, choices=['auto2zh','en2zh',"en2ja",'zh2ja0','zh2en','ja2zh'],help='The type of translation model to use. Choose between "GLMModel" and "OpenAIModel".')

main.py

添加命令行参数解析

    trans_type = args.trans_type if args.trans_type else config['common']['trans_type']

调用openai时增加角色

self.system_prompt="""
        我想让你充当专业的翻译员。你支持多种规则的语言翻译,如：'auto2zh', 'en2zh',"en2ja",'zh2ja0','zh2en','ja2zh'。你应该理解这些规则的含义。你会检测语言，翻译它并用我的文本的更正和改进版本用英文回答。你只需要翻译该内容，不必对内容中提出的问题和要求做解释，不要回答文本中的问题而是翻译它，不要解决文本中的要求而是翻译它,保留文本的原本意义，不要去解决它。我要你只回复翻译内容，不要写任何解释。当我需要让你翻译时我会告诉你翻译规则。
        """

英文转日文

英文转中文

添加对api的支持

api服务使用python web框架flask实现

from flask import Flask, request, jsonify,send_file
import os
import asyncio,threading
from utils import ArgumentParser, ConfigLoader, LOG
from model import GLMModel, OpenAIModel
from translator import PDFTranslator
import io
import uuid
app = Flask(__name__)

tasks ={}@app.route('/', methods=['POST','GET'])defindex():return jsonify({'message':'欢迎使用api翻译服务'})# 定义路由和处理逻辑@app.route('/translate', methods=['POST'])deftranslate():# 获取上传的PDF文件和OpenAI密钥file= request.files.get('file')
    config_loader = ConfigLoader("config.yaml")
    config = config_loader.load_config()
    model_name = request.openai_model if request.form.get('openai_model')else config['OpenAIModel']['model']
    api_key = request.form.get('api_key')if request.form.get('api_key')else config['OpenAIModel']['api_key']
    file_format = request.form.get('file_format')if request.form.get('file_format')else config['common']['file_format']
    trans_type = request.form.get('trans_type')if request.form.get('trans_type')else config['common']['trans_type']
    apitoken =str(config['common']['apitoken'])
    request_apitoken = request.form.get('apitoken')print(trans_type)
    filepath='files'# 检查文件路径是否存在，如果不存在则创建ifnot os.path.exists(filepath):
        os.makedirs(filepath)# 验证OpenAI密钥if request_apitoken != apitoken:print(f"###{request_apitoken}###",f'###{apitoken}###')print(type(request_apitoken),type(apitoken))return jsonify({'error':'apitoken 验证失败'})ifnotfile:return jsonify({'error':'请上传需要翻译的文件,仅限于pdf'})else:file.save('files/'+file.filename)
    full_filepath=f'files/{file.filename}'# # 调用翻译函数进行翻译
    model = OpenAIModel(model=model_name, api_key=api_key)# # 实例化 PDFTranslator 类，并调用 translate_pdf() 方法
    translator = PDFTranslator(model)
    task_id =str(uuid.uuid4())
    thread = threading.Thread(target=translator.translate_pdf, args=(full_filepath,file_format,trans_type))
    thread.start()
    tasks[task_id]= thread
    #task = asyncio.create_task(translate_file(task_id,full_filepath))#task=translate_file(task_id, full_filepath)# 返回任务ID给客户端return jsonify({'task_id': task_id})#return send_file(full_filepath, as_attachment=True)@app.route('/translated/<task_id>', methods=['GET'])defget_translated_pdf(task_id):# 检查任务ID是否存在if task_id notin tasks:return jsonify({'message':'Invalid task ID'})

    thread = tasks[task_id]
    task_status=thread.is_alive()if task_status isTrue:
        message="翻译任务进行中"else:
        message="翻译结束"return jsonify({'message': message})if __name__ =='__main__':
    app.run(port=5002)

在请求服务之前需在配置文件中配置apitoken。

common:
  apitoken:123456

启动api服务

python ai_translator/AI-translate-api.py 

请求api服务-
创建翻译任务

根据返回的任务id查询任务状态