You may also like
这几天发了神经又想来搞Android了，实在不知道该做什么，所以就从播放器入手，着手开始把EasyPlayer的代码移植到Android下，到目前为止的确有这么一个版本出来了，但这个版本未做任何优化，无论是ffmpeg解码的汇编指令，也未使用NEON指令，解码后的播放都是由JNI callback到Java来实现的，因此其效率之差可想而知，不过，用老婆的手机（Sumsung 9001）播放QVGA的音视频还算流畅，这起码也算是点安慰，下一步将先把音视频播放部分搞一搞。 先把这个版本放上来。 下载地址：https://oddmeta.net/easyplayer 介绍说明：https://oddmeta.net/easyplayer
There is no excerpt because this is a protected post.
关于BF8 DeepSeek R1和DeepSeek V3都是默认BF8精度，是一种低精度的浮点数格式。BF8的全称是”Brain Floating Point”，由Google提出，主要用于大规模计算任务。与常见的16位浮点数（FP16）不同，BF8采用了8位尾数和8位指数的结构，能够在保证精度的同时减少计算和内存开销。 BF8的设计目标是减少计算量并保持数值稳定性，特别是在机器学习模型训练中，能在加速硬件上提供比FP32更好的性能。 硬件选择 采用“强推理、弱训练”的硬件配置：如选择国产芯片、或者采购DeepSeek一体机、甚至是选择MacMini集群等，都是不错的选择。这些硬件模型训练性能较弱，但推理能力强悍，对于一些不需要进行模型训练和微调、只需要推理（也就是对话）的场景来说，是个非常不错的选择。例如45万左右成本，就能购买能运行DeepSeek R1满血版模型的Mac Mini集群，相比购买英伟达显卡，能够节省很大一部分成本。但劣势在于Mac M系列芯片并不适合进行模型训练和微调。 蒸馏模型 采用DeepSeek R1 Distill蒸馏模型：DeepSeek R蒸馏模型组同样推理性能不俗，且蒸馏模型尺寸在1.5B到70B之间，可以适配于任何硬件环境和各类不同的使用需求。 采用KTransformers •KTransformers主页： https://github.com/kvcache-ai/ktransformers采用KTransformers（Quick Transformers）技术：这是一项由清华大学团队提出的，可以在模型运行过程中灵活的将专家模型加载到CPU上，同时将MLA/KVCache卸载到GPU上，从而深度挖掘硬件性能，实现更低的显存运行更大尺寸的模型。该技术目前的实践效果，可以实现480G内存+13G显存（长尺寸输出或多并发时达到20G显存），即可运行DeepSeek R1 […]
【Good ending】预约会议失败场景下的流程】 小落同学用例：创建一个助手虚拟人，让其可以帮你预约会议。 目标 如题，希望让小落同学虚拟人市场里创建出来的虚拟人可以支持预约会议功能。 创建虚拟人角色 考虑到之前用小落同学的虚拟客服、虚拟女友的角色的prompt偶发会对指令出现干扰，从而导致agent在选择tool时异常，我专门在小落同学的后台新增了一个独立的、助手的角色。进入小落同学的后台后，创建一个虚拟人，名字、性别、人物模型、声音随便选一个，重点是prompt。该角色我给写的prompt是： 启动虚拟人 创建好虚拟人后，可在虚拟人市场那里直接点击启动，跳转到相应的前台页面。 开始预约会议 输入指令 帮我预约一个今天晚上8点的项目会议，邀请Jacky和顾振华参加 请求 工具选择：正确 参数解析：时间和日期全错 将解析日期参数独立出一个tool，再来一遍 在MeetingScheduler这个tool里，我判断了一下日期格式是否正确，如果不对的话，再手动调用QueryDate这个tool去重新解析日期。QueryDate的入参为前面在MeetingScheduler这个tool返回的日期参数：今天晚上8点QueryDate这个 tool的 prompt我写的是： 解析日期请求 第一次解析日期响应1 LLM返回的第一次解析日期的响应如下： […]