0


pycharm通过hf mirror镜像访问huggingface模型(无需翻墙)

参考: huggingface下载模型的最正确方法

Huggingface镜像网站:https://hf-mirror.com (感觉大佬们)

通过修改环境变量访问镜像网站加载模型

import os
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'

注意:修改环境变量一定要放到最上方!!!放到 import transformers前修改!!!

完整代码

import os
os.environ['HF_ENDPOINT'] = 'https://hf-mirror.com'
from transformers import AutoTokenizer

check_point = 'distilbert-base-uncased-finetuned-sst-2-english'
tokenizer = AutoTokenizer.from_pretrained(check_point)
inputs = [
    'I‘m hunger',
    'nice to meet you, lihua'
]
input = tokenizer(inputs, padding=True, truncation=True, return_tensors='pt')
print('input: ',input)

打印结果

input: {'input_ids': tensor([[  101,  1045,  1520,  1049,  9012,   102,     0,     0,     0],
        [  101,  3835,  2000,  3113,  2017,  1010,  5622, 14691,   102]]), 'attention_mask': tensor([[1, 1, 1, 1, 1, 1, 0, 0, 0],
        [1, 1, 1, 1, 1, 1, 1, 1, 1]])}
标签: pycharm python

本文转载自: https://blog.csdn.net/L1481333167/article/details/137083061
版权归原作者 满是BUG的世界 所有, 如有侵权,请联系我们删除。

“pycharm通过hf mirror镜像访问huggingface模型(无需翻墙)”的评论:

还没有评论