You may also like
April 1, 2015, a bright sunny day at Shanghai. Today is supposed to be a kidding day, however, not got so much […]
身体是革命的本钱,记得要锻炼身体。继续加油。 作为一个IT从业人员,许多年来,锻炼一直都也我没什么关系,再加上平时生活没什么规律,久而久之就烙下一堆这样那样的小毛病,而且在过了三十五之后,这个感觉更加突显: 1. 总觉得很累。休息也没用。 2. 每次放长假就容易生病。平时一根筋绷着,一旦松下来就容易垮下 。 。。。。。。 上个月(十月)月底,开始打羽毛球。 第一次打:https://plus.google.com/109817607315091828712/posts/bQpa4PqvxoD 第二次打:https://plus.google.com/109817607315091828712/posts/TVhpUD1yY5u 第三次打:https://plus.google.com/109817607315091828712/posts/h6mfxMJHzZY 第四次打:https://plus.google.com/109817607315091828712/posts/PkyJqmzu7Ag 昨天是第五次打,终于从原先第一次打时,浑身痛了整整一个星期,到现在开始觉得打得不过瘾,呵呵,其实原因是昨天是打双打,若是换打单打肯定体力还跟不上,不过,这对我自己来说,已经是很大的进步了。 当然,除此之外,还有一件让我兴奋的事,前两天(周四感恩节),在跟同事Maggie闲聊中,Maggie说了一句:“Jacky好象现在身体很好,很少感冒了………”。我知道她不是在咒我感冒(XD),所以顺口回了一句:现在我生活很有规律。 其实,那个时候我才想起来,的确是这样。 而且除了很少生病外,整个人相对来说也感觉比以前舒服了好多。 今天恰好看到网上的一句话: 多做有氧运动,刺激脑部分泌一种使人感到愉快的荷尔蒙“安多酚”,又叫“心灵止痛剂”。 所以,我也才补写了这一篇博文,一是作为记录,二是作为鼓励,三是作为鞭策。 继续加油!!!
Open-WebUI+QwQ-32B搭建本地知识库 一、概述 当用户提出一个问题时,如何让大模型准确的定位到你的输入背后真的正的问题,并输出正确的回复,是大模型应用的关键。 而要达到此目的,主要有三种方式:提示词、知识库和微调。 大模型的搭建,open-webui及RAG的启用等步骤暂先跳过,本文主要介绍并演示了本地知识库的一些关键点。 二、背景 前阵子,应产品部门的要求,对Deepseek R1 671B及QwQ-32B等大模型做了一番技术上的预研。由于前期的测试中发现,在硬件受限(单卡或双卡4090)环境下,QwQ-32B-AWQ模型的表现在并发、速度等多方向优于Deepseek满血版,并且二者在会议纪要等功能的对比测试各有优劣,因此知识库的预研和测试也优先选择了QwQ-32B-AWQ模型。 而前端平台则采用了开源的open-webui,同时RAG采用了open-webui自带的“sentence-transformers/all-MiniLM-L6-v2”向量模型。 平台 模型 备注 前端平台 Open-webui搭建的框架 github中开源项目,支持rag、对接ollama等功能 后端大模型 QwQ-32B-AWQ 自行部署的大模型,使用AutoDL上租借的服务器 向量模型 sentence-transformers/all-MiniLM-L6-v2 open-webui自带的向量库 […]
Got mails continuously from everywhere throwing question to me about AAC audio in H.323. So I arranged this post to example my […]