news 2026/10/31 2:05:30

FreeChat项目建立初衷与困难

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
FreeChat项目建立初衷与困难

本文纯手搓,不含任何AI智能体介入。我认为这点很重要。


关于AI文游,我第一次接触应该是在2025年初,记得很清楚,因为在高三最后一学期的开学前一夜这个时间节点上。经过一个寒假的疯狂游玩,开学前一夜注定是一个不平凡的的夜,我准备好所有作业势必在今夜一决胜负。可人到深夜,总是难免注意力不集中,不知不觉刷起了Telegram。一个“角色卡预览”的频道凭空出现在我的列表中,我大致浏览后知道这相当于是在已有的各种设定下,与AI共同书写故事发展。新用户送500积分,我挑了一个感觉还不错的角色卡随机聊了起来,可以说,当时有些颠覆了我对AI理解与创作能力的认知。并且由于Telegram独特的属性,这里的AI并没有政治、色情等限制,比其他地方更新奇。于是我聊了一晚上,积分不够用甚至充了一百多块钱,作业也是一点都没写。

但问题很明显,AI的逻辑推理能力和记忆力随聊天内容的增长而直线下降,到后面几乎每条回复都会与前文冲突。我闭上眼睛养神,大多是对作业未完成的担心。

后来,为了寻求更真实更高级的AI创作或AI文游,我了解到ChatBox和TavernSilly,一个是模拟对话一个是内容创作,其中TavernSilly的上限可以说是所有AI文游当中最高的,但依赖Nods.js与本地终端部署,圈内好评的同时也造成了进圈的极高门槛。每个角色卡、世界书和正则都需要大量时间去书写,每个选项和调试都可能影响回复效果,可以说自定义程度极高,也有不小的学习成本。我将其成为极致的极客。返还最大众的豆包智能体也形成了庞大的社区体系,大家制作的角色卡可以一键上传分享,有能学英语的教师、有温柔贤淑的知心姐姐、有肖奈大神教你计算机...但豆包在于多却是在算不上精,甚至效果比Telegram还要差一大截,角色卡可输入项与设置项少的可怜,并且存在严重的OOC(角色人设崩坏),还原效果微乎其微。

所以我不断寻求位于TavernSilly与豆包智能体中间的市场,一个既能保留大多数设置项又能保证角色还原效果同时门槛还比较低比较方便便携随时能聊的AI软件。

但我从来没有了解过现有商业AI拟人陪伴类产品(如猫箱、星野等),即使我决定去做FreeChat甚至现在FreeChat即将发布第四个版本更新,我都没去了解。因为路不通,不为竞争对手,它们不是我想要的产品,我也永远不会成为它们的用户。我用某个AI类产品,首个问题可能就是“接的什么模型?”,商业产品唯一的盈利方式就是积分制从用户的Token消耗中赚取中间差价,模型不公布,实际上也不会用什么好模型(我推测可能MiniMax或者DeepSeek概率大些,没准是某家中转站掺水的也有可能)。而FreeChat所走的,更像是简化的TavernSilly或ChatBox,用户自行接入API Key客户端本地直连大模型。我始终认为所有类似产品均为前端套壳与系统提示词优化,其根本决定回复效果的还是大模型的能力,所以用户大模型可控则代表着成本透明、隐私安全的同时拟人效果可控。当然,FreeChat对比现有安装即用的商业AI拟人陪伴类产品依然有门槛,用户需要自己去申请API Key并且本质是需要为服务付费的(即使聊个天可能只是几分几毛钱,但是似乎大众用户依然不愿意支付)。


FreeChat的制作有不小的开销,而支撑我一个普通大学生省吃俭用买Token Vibe Coding的有三点原因:

1、我自身需要一个AI拟人聊天类app,可以说FreeChat是为我个人打造的、UI符合我的审美的、所有功能都是我想要的一个产品。它开源免费故而不需要产品经理分析市场与用户需求。

2、作为计算机系大学生,能在大二时期做出一个项目可能会对我未来求职就业有所帮助,即使它是Vibe Coding,更何况现在还有几个传统程序员不用AI纯手搓代码的呢?

3、同第二点,灵活运用AI辅助完成开发、调试、运维等我认为是未来程序员的重要技能,即使花销不俗也是实践学习的一种方式,我向来讨厌极具功利性的行为和思想。

甚至到现在,为了降低用户使用门槛推广使用,我在FreeChat安卓客户端内部还内置了我自己的模型API,用户安装后无需配置即可使用。我当然知道Java(Kotlin)是最容易反编译的语言,若有人通过反编译工具反编译apk即可轻易的获取我自己的API Key然后疯狂使用导致我的额度被刷爆,但我还是选择承担这种风险给用户提供。当然,即使一切顺利我也会担心未来用户数量若多了起来我总不能一直自费提供Token,而当我一断开API则是否会造成用户的流失呢?

所以我想大家若想体验不错的AI聊天服务,则需要花些时间稍微了解一下API的配置,同时看清消费点和费用消耗力度,至少商业产品都能挣钱我不盈利所有钱直连模型本身应该是更便宜才对。


FreeChat项目有很多难点:

1)Android版本发布后,iOS用户怎么用?

iOS APP的开发依赖MacOS环境,我从开发端暂时难以满足。所以我做了Web在线网页,而网页直接调用API与AI对话必定需要服务器,因为网页无法保存用户数据(聊天记录、角色提示词、图片、记忆文件等),这些需要存到云端与网页实时连接读取文件,我租了服务器,并为FreeChat的网页购买了域名(当然ICP到现在依然没有过审,个人开发者非个体工商户的产品介绍类网页很难过审,这也是一个难点)。并且做了账号系统去存储并保护所有用户的数据,通过服务器实现多不同设备、不同端间的同步。

网页版对比客户端依然有功能方面的优化,并且依赖服务器和账号,即使用户的API Key不会上传至服务器但相对客户端依然有风险。但这已经是我目前能想到的最好的解决方案了。

实际上应该也没那个有技术的黑客闲着没事攻击我这没几个用户的服务器窃取信息吧?不值当。

2)仅依赖模型内置数据,AI的信息严重落后,时事无法跟进获取,“联网搜索”如何做?

要么手搓爬虫脚本,面对极高的成本、法律风险和大概率搜到一堆垃圾;要么就用模型内置的联网搜索,可能会不统一因为这并非所有模型的标配内容,还可能存在接口、配置差异而调用失败,因为我不知道用户会接什么模型;第三个方案,就是当前采用的,API接口调用已有的现成资源库。一开始是SerpAPI,但它对国内访问并不友好导致开启联网搜索后AI回复基本都要几分钟,后来有试过Bing、AnySearch等,有免费额度但本质还是付费使用的。现在,做成模型内置搜索+公开网页基本检索+自定义API信息源三者结合,搜索速度、信息质量、信息全面性、信息时效性都在可接受范围内了。

3)拟人模式下的角色还原、真人感等挑战?

我渴望得到比豆包强的AI拟人质量,至少在内容理解、回复逻辑、长期记忆、角色还原这四个方面做到能接受的范围,即使仅是一个前端套壳无法大幅度提升模型能力,但FreeChat还是做了不少优化。

  • 引入“回复缓冲”机制避免了在“微信聊天”模式下,AI针对用户每条信息都相应回复的一问一答的人机感,开启后设定缓冲区将用户的信息先缓存在缓冲区内,等待几秒(具体市场用户可自行修改)后一并发送给模型,既减少了API调用和Token消耗,又能使AI统一、融合思考给出更拟人化的回复。

  • 引入“时间感知”,开启后角色与现实时间完全对应,并且拥有自己独立的生活与作息,更像是活生生的人。

  • 引入“增强检索”和“深度推演”,前者调用模型最大上下文窗口,原文提交模型思考学习;后者将Agent工作流搬来在回复前系统性的检查逻辑与记忆是否有误。

  • 引入“主动智能”,通过后台计时功能定时向模型发送上下文与请求,模型自行决定是否主动发消息、消息内容是什么。当然,后台计时并不理想,很可能因为安卓后台管理机制而被杀导致功能失效,此功能目前仅用于测试体验。在未来版本,我将寻求更“智能”的解决方案,比如云端实时推送等。

  • 引入“连接微信”,将“微信聊天”模式做到极致,通过微信官方OpenClaw插件接入微信,所有机制在云端运行回复,不依赖本地。

  • 引入“生成当前场景图”,将当前上下文、人物设定、角色记忆一并交给生图模型,根据当前场景生图。将文字具象化,提升视觉冲击力。

当然,拟人模式的优化除此之外还有记忆存储、时间轴感知、AI创造力可控等基础优化,都在后台悄无声息的运行以保障角色还原与真人感。

4)UI页面的渲染与排版优化?

Vibe Coding我认为这点是最为痛苦的。前期我用的AI Agent是DeepSeek+Claude Code,如果让其添加某项功能那倒没什么太大问题,初版基本就能使用只需要做微调。而如果让它做UI渲染(比如卡片的哑光玻璃效果、页面间的切换动画、极具美学的视觉呈现等)它就会不知所措(尤其是我最初用的deepseek-v4-pro模型,没有视觉能力,只能根据代码盲猜),经过长期的Skill、插件和MCP的探索,并且将Agent换成Codex+gpt-6/6.1-sol之后才有明显的提升。安卓虚拟机、ADB调试反复测试UI渲染和动画效果,多次返工和修改,走来实在不易。


FreeChat的优势在哪儿?

其实我上文已经说了,定位于门槛低于TavernSilly、ChatBox和现阶段商用产品之间。

我主要说对比现阶段商用产品吧,因为极客仍然是少数,即使有了FreeChat,我依然会使用TavernSilly和ChatBox,这并不冲突。

  • FreeChat拥有标准模式,可以视作普通AI进行信息搜索、科普问答、数学计算、文档生成与图像生成等。

  • FreeChat的模型由用户自行配置,模型可控意味着成本透明、AI性能可控、本地模式下用户数据安全。

  • 还有一条最容易被忽视,也是我认为最重要的一条:FreeChat作为免费开源项目,不商用不盈利无广告,所有出发点均是打造更好的体验而非赚取更多的利润,这是FreeChat与市面商用产品的本质差别。当然作为开源软件我也希望能有更多共创者、提出建议者,无团队仅一人可以直接和我沟通交友。


至此,我与AI文游的认识与熟悉、FreeChat整个建项原因和制作过程都已分享。开源项目并不求多少Star(当然还是越多越好),也不在多少用户,本质还是为我个人深度定制的app。若能因此交友、获取成就,都是额外收获。

人所经历均有意,抛开绝对的目的,感受生活的每个角角落落,即使是花钱打水漂、打游戏、刷视频。永远相信美好的事情即将发生!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/10/20 21:04:46

Agent Skills实战指南:从npx安装到GKE部署与开发避坑

1. 从"skills"这个模糊词说起:它到底指什么第一次看到"skills"这个标题,加上项目正文和关键词都是空的,我脑子里第一反应是:这词太泛了。但结合热搜词一看,方向就清楚了——Google Cloud、Agent S…

作者头像 李华
网站建设 2026/10/22 5:41:40

AI Agent开发实战:从零构建可插拔的skills能力体系

1. 从“skills”这个词说起:为什么它突然成了AI Agent圈子的高频词如果你最近在关注AI Agent相关的技术动态,大概率会反复撞见“skills”这个词。它可能出现在某个开源项目的目录结构里,可能出现在某篇技术博客的标题中,也可能出现…

作者头像 李华
网站建设 2026/10/21 4:56:10

Superpowers 技能增强方案:从零搭建高效开发工作流

1. 从“superpowers”这个标题说起:它到底指什么第一次看到“superpowers”这个词,很多人脑子里蹦出来的可能是超级英雄、超能力这类画面。但如果你是在技术社区、开发者群或者效率工具圈里看到它,那大概率说的不是漫画,而是一个在…

作者头像 李华
网站建设 2026/10/22 0:46:07

AI编码代理caveman:代理转发与token管理实战

1. 从“caveman”说起:一个AI编码代理的极简主义实践第一次看到“caveman”这个词被用作一个AI coding agent的项目名,我脑子里蹦出来的画面是:一个裹着兽皮、举着石斧的原始人,对着满屏代码一脸茫然。但恰恰是这种反差感&#xf…

作者头像 李华
网站建设 2026/10/28 17:05:55

WorkBuddy自定义指令实战:用全局与项目规则驯服AI开发助手

我最近把 WorkBuddy 从一个“随叫随到的问答机器人”调教成了“按规矩办事的靠谱开发搭子”,关键就靠它的自定义指令功能。说白了,自定义指令就是给 AI 一份可以长期生效的“员工手册”,你在里面写明代码风格、技术栈偏好、回复语气、禁止事项…

作者头像 李华
网站建设 2026/10/23 3:46:28

HTTP/2连接排查利器:hyperframe帧编解码原理与工程实践

前几天排查一个HTTP/2连接卡死的问题,折腾到半夜,最后发现根子在一个叫hyperframe的库身上。这个库在Python生态里知名度不算高,但它几乎是所有HTTP/2相关Python工具的底层基石——h2、hyper,甚至不少自研网关脚本都在依赖它做帧的…

作者头像 李华