You may also like
目标:我们设计一个面向儿童的关于友情的插画书,5页左右,请设计每页的内容。 [Round 0]问:你是一个作者,我是一个编辑,我们一起设计一本图书答:很高兴能和您一起设计一本图书!作为一个作者,我希望您能告诉我关于这本书的一些想法和计划,包括主题、情节、角色、风格和其他方面。作为一个编辑,我的职责是确保这本书的质量和准确性,并与您一起制定出版计划。我们可以一起讨论并制定一个详细的计划,以确保这本书能够达到预期的效果。 [Round 1]问:我们来编辑一本儿童书吧答:好的,那我们可以开始讨论了!首先,我们可以讨论一下您想要的主题、情节、角色和风格,并确定一些基本的想法。然后,我们可以进一步讨论细节,例如用词、句式、插图和排版等方面,以确保这本书的整体质量。最后,我们可以制定出版计划,并确定出版日期和预算。让我们一起开始吧! [Round 2]问:我们设计一个面向儿童的关于友情的插画书,5页左右,请设计每页的内容。答:好的,让我们开始设计这本书吧! 第1页:这是一个关于友情的故事,告诉我们友谊的重要性。插图展示了两个好朋友在一起玩耍的场景,他们互相支持、帮助和尊重。文字告诉我们,友谊是一种无私的奉献,可以带来快乐和幸福。 第2页:在这个页中,我们继续介绍友谊的重要性,并讨论如何建立和维护好朋友关系。插图展示了两个好朋友在一起学习的场景,他们互相鼓励、帮助和支持,形成了良好的学习氛围。文字告诉我们,友谊是一种互相支持和帮助的关系,可以帮助人们克服困难,取得成功。 第3页:在这个页中,我们讨论友谊的另一种形式,即团队友谊。插图展示了两个好朋友在一起工作的场景,他们互相支持、帮助和尊重,形成了良好的团队氛围。文字告诉我们,友谊不仅是一种个人关系,也是一种团队关系,可以帮助人们更好地合作和完成任务。 第4页:在这个页中,我们讨论友谊的负面影响,即嫉妒和争吵。插图展示了两个好朋友之间发生争吵的场景,他们互相指责和批评,形成了不良的友谊关系。文字告诉我们,嫉妒和争吵是友谊中常见的问题,但如果不及时解决,会对友谊造成负面影响。 第5页:在这个页中,我们总结友谊的重要性,并鼓励孩子们珍惜友谊。插图展示了两个好朋友在一起庆祝的场景,他们互相拥抱和祝福,形成了良好的友谊关系。文字告诉我们,友谊是一种珍贵的财富,可以带来快乐和幸福,我们应该珍惜友谊,并与他人建立良好的关系。
以今年2023年高考语文全国甲卷作文真题为例,来问一下LLM,示范一下怎么写prompt,来利用LLM来指导怎么来写作文
关于BF8 DeepSeek R1和DeepSeek V3都是默认BF8精度,是一种低精度的浮点数格式。BF8的全称是”Brain Floating Point”,由Google提出,主要用于大规模计算任务。与常见的16位浮点数(FP16)不同,BF8采用了8位尾数和8位指数的结构,能够在保证精度的同时减少计算和内存开销。 BF8的设计目标是减少计算量并保持数值稳定性,特别是在机器学习模型训练中,能在加速硬件上提供比FP32更好的性能。 硬件选择 采用“强推理、弱训练”的硬件配置:如选择国产芯片、或者采购DeepSeek一体机、甚至是选择MacMini集群等,都是不错的选择。这些硬件模型训练性能较弱,但推理能力强悍,对于一些不需要进行模型训练和微调、只需要推理(也就是对话)的场景来说,是个非常不错的选择。例如45万左右成本,就能购买能运行DeepSeek R1满血版模型的Mac Mini集群,相比购买英伟达显卡,能够节省很大一部分成本。但劣势在于Mac M系列芯片并不适合进行模型训练和微调。 蒸馏模型 采用DeepSeek R1 Distill蒸馏模型:DeepSeek R蒸馏模型组同样推理性能不俗,且蒸馏模型尺寸在1.5B到70B之间,可以适配于任何硬件环境和各类不同的使用需求。 采用KTransformers •KTransformers主页: https://github.com/kvcache-ai/ktransformers采用KTransformers(Quick Transformers)技术:这是一项由清华大学团队提出的,可以在模型运行过程中灵活的将专家模型加载到CPU上,同时将MLA/KVCache卸载到GPU上,从而深度挖掘硬件性能,实现更低的显存运行更大尺寸的模型。该技术目前的实践效果,可以实现480G内存+13G显存(长尺寸输出或多并发时达到20G显存),即可运行DeepSeek R1 […]
浅尝prompt咒语设计:one-shot微调chatglm-6b实践信息抽取 前言 近期以chatgpt等文生成LLMS爆火,国内也逐渐开源了中文版的chatgpt,本文以清华大学开源的6b的chatglm为例,实践one-shot微调,设计prompt咒语在信息抽取领域的实验效果。1、场景描述 给定一个JD的职位要求,需要从描述中抽取出相应的实体。 例如: 相应的schema的实体为: 2、prompt咒语设计 prompt设计主要点: 3、实现 输出结果: 总结 本文通过one-shot微调chatglm-6b在信息抽取领域上的实验,输出效果还可以,当然如果有资源微调更大参数量的LLMS。
