You may also like
V 1.6 (2011-08-07) ?这几个月一直在做一个Linux上的视频监控平台,忙得死去活来,一直都没时间来看这个东西。前阵子在一个北京的 网友的建议下,我把这个东西放到了RG4.NET上,特地修改了一下程序的界面。 V 1.5 (2010-12-05) ?这又是一个milestone。思前想后,还是决定把原来的架构抛弃,这一方面是发现使用boost在windows下有许多一下 子解决不了的问题,另一方面,功能做得太杂了,又是支持Darwin Stream Server的Relay out,又支持自己利用JRTPLib来 Streaming,真的没什么必要,这只是一个自己做着玩的东西,没必要那么复杂。所以,以后的EzStreamSvr会变成这样: ?1. Windows / Linux各自做一套 ?2. Windows下不再使用boost ?3. 去掉宣告到Darwin […]
问题现象 大模型的联网搜索功能本质上是将模型的自然语言处理能力与传统搜索引擎技术相结合,实现获取联网信息并生成可靠答案的能力。但是在Open WebUI默认安装下该功能是不可用的,需要你自己来配置一下。 设置Open WebUI 在Open WebUI前端,用管理员账号登录进去,然后点右上角的设置,然后找到“联网搜索”将联网搜索功能启用一下,然后将你自己的密钥及账号信息填进去即可。 建议选择用Goole的PSE(Programmable Search Engine),因为我试着去注册了几个搜索引擎,同样是有free trial,只有Google的这个没让我绑定信用卡。 以Google PSE为例从头申请一个Google PSE的API。 然后把这个API密钥和搜索引擎ID填到Open WebUI的设置项中,保存并刷新Open WebUI,然后联网搜索就可以工作了。 注意事项 一、免费版的Google PSE的每天有使用限制(点开你创建的自定义搜索引擎后,在那里会显示),当前的限制是每次1万次。二、要使用Google PSE就意味着你的服务器是支持科学上网的,不然连不上Google一切白扯。
由于计划将一个原先在Linux下跑的NVR平台移植到Android上,而该程序有用了MySQL,并且是用C++写的。于是引出问题,到底移植过去之 后该用什么数据库?继续使用MySQL(使用非官方的版本,官方不支持)?还是干脆选用其他的数据库(如:Android自带的SQLite)? 在一开始,我安排了一个新人去做相关的research,research方向是MySQL,因为如果可以搞定mysql for Android,那意味着我们可以省掉很多的工夫,但结果是一团糟,一方面是这个新人没有做出来(也不可能做出来),另一方面,让一个新人去做这种事情, 本身就是非常的不合理。 所以,没办法,现在终于决定放弃mysql,直接朝着sqlite去了。 以下是ST(我的老板,VP)找到的一个各种关系型数据库之间的对比的资料,来自wikipedia Comparison of relational database management systems: http://en.wikipedia.org/wiki/Comparison_of_relational_database_management_systems
一、前言 听说KTransformers 0.2.4支持并发了,这可是个大进步,之前测试下来KTranformers最大的期待就是AMX指令加速和支持并发。 现在可以支持并发了,是否意味着KT终于不再是一个玩具,有可能朝产品化的方向去走了,因此上手体验一下看看。 省流,直接看结论:这个版本的方案下,依然没有看到传说中的新版XEON CPU的amx指令加速带来的飞跃,并发依然不行(能并发,但体验无法忍受),个人玩玩,研究一下技术可以,但无法产品化、商业化使用。 有兴趣复现的可以照我这个步骤来走,基本不会有问题。 二、软硬件环境 1. 软硬件环境 还是原来的环境。租的AutoDL的GPU服务器做的测试 2. 虚拟环境 我图省事,就直接复用了之前的v0.2.3的虚拟环境:/root/autodl-tmp/jacky/envs/kt0.2.3 重头开始的朋友可以重新创建一个新的虚拟环境,步骤如下 三、开工 测试使用: 1. 下载KT代码 给挂个加速器https://ghfast.top/ ,避免下载代码失败。 2. […]