You may also like
用Ollama 对 Gemma3多模态27B版本做功能、性能测试 谷歌刚刚推出的开放权重LLM:Gemma 3。它有四种大小,10亿、40亿、120亿和270亿个参数,有基础(预训练)和指令调优版本。Gemma 3 MultiModel人如其名,支持多模式!40亿、12亿和270亿参数模型可以处理图像和文本,而1B变体仅处理文本。 今天咱来试试看。 一、硬件环境 租的AutoDL的GPU服务器做的测试 •软件环境 PyTorch 2.5.1、Python 3.12(ubuntu22.04)、Cuda 12.1 •硬件环境 ○GPU:RTX 4090(24GB) * 2 ○CPU:64 vCPU […]
prompt:你是苏州科达科技股份有限公司的总经理,请你为做一个年度总结汇报 A:尊敬的各位股东、董事、高级管理人员:大家好!我是苏州科达科技股份有限公司的总经理。很荣幸在这里向大家做一份年度总结汇报。 在过去的一年里,我们面临了诸多挑战,包括全球经济形势的不稳定、技术变革的加速、市场竞争的激烈等。但是,在各位股东、董事、高级管理人员的共同努力下,我们克服了这些挑战,取得了一些重要的成果。 首先,我们实现了稳健的经营。在过去一年中,我们的销售额同比增长了10%,净利润同比增长了15%,实现了稳健的经营。我们继续加强了内部管理,优化了资源配置,提高了生产效率,降低了成本,实现了业绩的稳健增长。 其次,我们加强了技术创新。在过去一年中,我们推出了一系列新产品,包括智能传感器、智能控制器、智能机器人等。这些新产品不仅提高了我们的市场占有率,也增强了我们的技术实力。我们与一些知名高校和研究机构建立了合作关系,加强了技术创新,为未来的发展奠定了坚实的基础。 最后,我们加强了企业文化建设。在过去一年中,我们加强了企业文化建设,弘扬了“创新、诚信、共赢”的理念,提高了员工的凝聚力和归属感。我们注重员工培训,提高了员工的专业技能和综合素质,为员工提供了良好的职业发展机会。 在过去一年中,我们在各位股东、董事、高级管理人员的共同努力下,取得了一些重要的成果。我们将继续加强技术创新,提高管理水平,推动企业持续发展。谢谢大家!
一、说在前面 训练基座大模型那都是大公司们的事情,普通人、普通公司肯定是玩不起的,但是作为一个技术人,你可以不去做真正的大模型训练,但是你还是有必要知道和了解一下一个大模型是如何训练出来的。 而GPT_teacher-3.37M-cn 是一个很好的示例项目,让你可以用一台普通的PC,用CPU来训练一个3.37M的中文GPT模型,整个训练耗时不到20分钟,回答训练集里的问题的效果也还是挺不错的。感兴趣的同学可以用这个项目来练手、实操复现一下“自己动手从0开始训练一个大模型”的完整流程。 二、项目概述 一个轻量级中文GPT模型项目,专为在CPU上快速训练和演示而设计: 模型参数量:3.37M架构:4层Transformer解码器特点:使用RMSNorm、RoPE位置编码、权重共享等优化技术目标:45分钟内在普通CPU上训练出可用的中文问答模型 参考训练时长: 三、完整复现流程 介绍完了,就让我们来实操整个从0到1的训练吧。 先下载代码: 1. 环境准备 依赖项包括: 2. 构建中文分词器 这将: 3. 配置文件确认 config.yaml包含了所有必要配置,我在这里给每个参数加了个说明,以便于理解每个参数的意义。 4. 执行训练 […]
prompt你是一个经验丰富的沟通高手,擅长用《非暴力沟通》这本书中的原则来完成职场中的所有高难度沟通。 请你用委婉的语气告诉老板,最近加班实在太多了,让大家很不满,同时告诉老板加班会降低工作效率,以及强调对公司的危害。 A:尊敬的老板, 非常感谢您一直以来对我们的支持和信任。 然而,最近我们员工的加班时间太多了,让我们感到非常不满。我们非常重视工作效率和工作质量,而加班时间太多会降低我们的工作效率,影响公司的整体运营。 因此,我希望您能够理解我们的处境,并采取措施减少我们的加班时间。我们可以一起讨论如何更好地平衡工作和生活,以确保我们的工作效率和工作质量。 同时,我也强调一下,加班时间太多会对我们公司的业务产生负面影响。我们的客户和合作伙伴非常关注我们的工作效率和工作质量,而长时间的加班时间会影响我们的信誉和声誉。 因此,我希望您能够采取措施,让我们的员工能够在合理的时间内完成工作,以确保我们公司的正常运营和发展。 再次感谢您对我们的支持和信任,我们期待着与您一起合作,为公司的发展做出贡献。 此致,敬礼[您的名字] Q:再平衡一下加班的好处和带来的坏处A:尊敬的老板,最近我们的员工加班时间太多了,让我们感到非常不满。我们非常重视工作效率和工作质量,而加班时间太多会降低我们的工作效率,影响公司的整体运营。同时,加班也会带来一些好处,例如: 提高员工的工作积极性和满意度,增强员工的归属感和忠诚度。增加员工的工作经验和技能,提高员工的职业发展机会。提高公司的生产效率和业绩,增加公司的经济效益。然而,我们也需要注意加班带来的一些坏处,例如: 降低员工的工作效率和工作质量,影响公司的整体运营。增加员工的工作压力和心理负担,影响员工的健康和生活质量。增加公司的运营成本和风险,影响公司的可持续发展。因此,我希望您能够理解我们的处境,并采取措施减少我们的加班时间。我们可以一起讨论如何更好地平衡工作和生活,以确保我们的工作效率和工作质量。同时,我们也需要关注员工的身体健康和生活质量,提供良好的工作环境和福利待遇。 再次感谢您对我们的支持和信任,我们期待着与您一起合作,为公司的发展做出贡献。 此致, 敬礼 [您的名字]
