设为首页收藏本站

切换到窄版

鱼C论坛 › 日志

日志

Web开发| Python| LLM|

分享使用transformer的pipeline()函数: JessiFly 2025-3-14 14:46; 直接参考官方文档（https://huggingface.co/learn/nlp-course/chapter1/3）的代码： from transformers import pipeline classifier = pipeline("sentiment-analysis") classifier("I've been waiting for a HuggingFace course my whole life.") 发现代码不能正常直接运行分析后发现需要Pytorch或者TensorFLow， ...; 个人分类: LLM|8 次阅读|0 个评论

分享 Ollama本地部署LLM使模型不输出思考内容: JessiFly 2025-3-13 17:07; 这里先使用ollama本地部署了deepseek-r1:7b模型。 1、先创建一个名为Modelfile的文件，参考：（1）官方文档 https://github.com/ollama/ollama/blob/main/docs/modelfile.md （2）deepseek-r1:7b的template https://ollama.com/library/deepseek-r1:7b/blobs/369ca498f347 2、按照官方文档和template的格 ...; 个人分类: LLM|37 次阅读|0 个评论

分享使用python得到ollama运行LLM的单次输出: JessiFly 2025-3-13 15:59; 先用ollama运行LLM，再运行以下python程序 import requests response = requests.post( "http://localhost:11434/api/generate", json={ "model": "deepseek-r1:7b", "prompt": "你好", "s ...; 个人分类: LLM|9 次阅读|0 个评论

分享 Ollama安装和使用记录（Win10）: JessiFly 2025-3-13 15:21; 1、官网下载并安装Ollama，默认安装在C盘，cmd中运行ollama -v可看到ollama版本信息即安装成功。 2、Ollama下载LLM会默认保存在C盘，在其他盘新建文件夹，比如ollama_models，通过新建环境变量OLLAMA_MODELS进行修改，将 OLLAMA_MODELS的值设为 ollama_models文件夹的路径。设置成功后重启电脑生效修改。 3、在官网libra ...; 个人分类: LLM|10 次阅读|0 个评论

分享 Prompt编写技巧: JessiFly 2025-3-5 14:58; # Prompt编写技巧 ## 原则1 编写明确和具体的指令 ### 1、使用分隔符将需要处理的文本分隔开比如： '''(text)''' """(text)""" ---(text)--- (text) tag(text)/tag ### 2、要求结构化输出 Prompt：生成三个虚构的书名以及他们的作者和类型的 ...; 个人分类: LLM|15 次阅读|0 个评论

分享使用LM Studio本地部署Deepseek R1: JessiFly 2025-3-4 16:21; 1、先下载LM Studio，安装后点击右下角设置，在Language里将UI设置为中文；模型下载可选择到非C盘的文件夹；模型下载较慢的情况可按第三个图勾选选项。 2、确保在Power User或Developer状态下点击左上角放大镜按钮，搜索Deepseek R1，选择带绿色图标的模型（代表本地机器完全适配）。 3、下载模 ...; 个人分类: LLM|67 次阅读|0 个评论

分享安装SgLang失败的过程记录: JessiFly 2025-3-4 11:56; 想用SgLang本地部署DeepSeek V3，试着先在Win10安装SgLang。在SgLang官网（https://docs.sglang.ai/start/install.html）找到安装命令： pip install --upgrade pip #使用清华镜像安装uv pip install uv -i https://pypi.tuna.tsinghua.edu.cn/simple #创建虚拟环境 uv venv uv pip install "sglang ...; 个人分类: LLM|140 次阅读|0 个评论

分享 Python操作Redis相关笔记: JessiFly 2024-8-29 15:04; import redis r = redis.Redis(host='localhost',port=6379,db=0) r.mset({'name':'Bob','age':20}) values = r.mget( ) for value in values: #Redis中的value是bytes数据，python需要使用decode()转换为str或者int类型 print(value.decode('utf-8')) r.append('name','Smith') #写入文件的时候 ...; 个人分类: Python|81 次阅读|0 个评论

分享 python装饰器的基本用法: JessiFly 2024-8-17 22:41; def dec(fun): def wrap(): print('before running') fun() print('after running') return wrap @dec def hello(): print('decorator running') hello() 以上 ...; 个人分类: Python|73 次阅读|0 个评论

分享 python3将help命令打印的内容保存到文件中: JessiFly 2024-1-20 11:01; 需要重定向默认的标准输出流stdout import sys #对输出流做备份 back = sys.stdout filepath = 'out.txt' with open(filepath,'w') as f: sys.stdout = f help(str) #还原输出流 sys.stdout = back 打包成函数： import sys def help_to_file(filepath ...; 个人分类: Python|129 次阅读|0 个评论

12 / 2 页下一页

小黑屋|手机版|Archiver|鱼C工作室 ( 粤ICP备18085999号-1 | 粤公网安备 44051102000585号)

GMT+8, 2025-3-24 22:16

Powered by Discuz! X3.4

© 2001-2023 Discuz! Team.

返回顶部