2024-08-27

14 篇热帖

1. 昨天更新了自己家里的网络拓扑图, Show 一下。

HomeLabNet_v1.1.drawio.png

2. 50 岁开发者的 AI 创业历程与收获

我是一名 50 岁的连续创业者,我身边的同龄人大多在享受生活,对于大语言模型的未来将信将疑,我却义无反顾的投身到生成式 AI 的创业之中。在这里,我想分享一下我的创业故事和我们所构建的三个 AI 产品。

项目一:心理聊天机器人

这个项目开始于 2022 年初,那时候 ChatGPT 还没有出现,没有人相信 AI 能发展到今天的地步。我们那时的做法是基于认知行为流派的心理学理论,帮助人们发现思维中包含的认知扭曲,并以更健康的方式进行重塑。由于 AI 技术的限制,我们那时主要采用结构式对话而不是生成式对话,并以非常低的成本打造出一款类似 Woebot 那样的产品,我也很为此而感到骄傲。

但是 ChatGPT 的横空出现改变了一切,生成式 AI 的降维打击让我们之前的对话方式显得过于机械。我们首先想到的当然是基于生成式对现有的产品进行改造,但是我很快发现大模型更擅长的是逻辑推理而不是共情与疗愈。将生成式 AI 用于心理治疗场景,一方面受限于大语言模型的能力,另一方面还需要兼顾伦理和道德问题,这并非像我们这样的小团队现在所能掌控的事情。从某种意义上讲,当前阶段的大模型和人类自身都还没有为此而准备好。

在开发基于生成式 AI 的对话过程中,我们面临的最大困扰是大语言模型生成结果的不稳定性。即使使用同样的提示语,大模型的生成结果都很难预测,更不要说在生产环境中要面临五花八门的用户提问,而且心理场景的聊天还是以多轮对话为主,如果没有好用的评估工具和高效的评估方法,大语言模型的生成稳定性和产品质量就很难把控。

项目二:LLM 应用评估的 SaaS 服务

于是,我决定自己开发一款用于评估大语言模型生成质量,主要面向海外市场的 SaaS 产品,并将其取名为 EvalsOne 。这个过程对于我来说还挺困难的,考虑到成本和新方向对于知识结构的要求,我不得不将团队的规模缩小到了 3 个人,我不仅要学习全新的技术栈(我过去使用较多的是 PHP ,而新的项目则基于 Python+React 构建),我们的评估解决方案也需要不断调整来适应大语言模型能力和生态的进化。

这个过程对于我来说无疑是艰难的,但同时也充满了惊喜和收获。如果没有像 ChatGPT 和 Github Copilot ,像我这样一个零基础的 Python 小白,几乎不可能完成这样一个技术难度相当高的项目。接受和拥抱生成式 AI ,对于每个脑力劳动者和创意工作者来说,是必然的选择和趋势。

这个项目花费了我们几个月时间,当我们开始立项时,市场上还只有寥寥无几的几个评估框架,包括 OpenAI 的 Evals ,而等到我们的产品开始进入 Public beta 时,这方面的产品已经相当多了,既有开源的也有基于云端 SaaS 的。我们发现将大模型作为裁判员用于评估尽管未来前景广阔,但是对于我们这样一个小团队来说,现阶段无法在市场培育教育和组建销售队伍方面投入足够的资源,也缺乏实际的案例形成具有说服力的解决方案。

项目三:生成式 AI 构建者的工作台

作为一个大语言模型的重度使用者,我经常需要通过 ChatGPT 、Claude 来获得帮助、解决问题,但是它们的免费版本都或多或少有着各种限制,即便付费也不总是满足我的需求,比如在 ChatGPT Plus 上只能使用 Dall-e 来生成图片,而 Claude 的 Pro 版本的条数限制和上下文长度很容易被触及。

另一方面,我还是生成式 AI 应用的开发者,需要经常调试不同厂商的 API ,尽管 OpenAI 、Claude 、Google Gemini 等都提供了各自的 Playground ,它们各有特点,但是彼此不能互通,而且支持的功能也不完整,比如 Claude 的 Workbench 中不能调试图片输入和函数调用,而 OpenAI 的 Playground 直到一年之后才刚刚加入了对于函数调用的支持,并且不支持结构化输出的调试。

我很希望有一个更强大、更开放的工作台,能够提供友好的 GUI ,并且通过 API 连接各个主流厂商的模型 API ,不受对话次数和上下文的限制,并且具有全面的功能,让我可以随心所欲的探索大语言模型的能力。我还希望使用成本对于我来说是可控的,最好是按需付费,而不是被迫购买各种厂商的付费计划却不能充分利用。

我们起初在 EvalsOne 中提供了 Playground 的功能,通过它能够调试各个大语言模型的 API 并快速发起评估运行,我们发现它的受欢迎程度甚至超过了 EvalsOne 本身,于是我们决定将它独立出来,作为我们的一个 Side project 来完善,并且给它一个独立的域名:ConsoleX.ai

经过了几个月的开发和完善,我觉得是时候对 ConsoleX 做一个正式的介绍了。

ConsoleX.ai 首页示意图

我知道目前市场上有很多 AI Chatbot 可供选择,但我们想打造的不仅是另一个 GUI 界面,而是一个专门为大语言模型的构建者和团队打造的超级工作台,它提供友好、统一的界面、全面的功能和丰富的扩展性。

它的主要功能包括:

  • 统一而友好的基于对话的 GUI 界面
  • 可实现 20 多个厂商的 300+大模型的集成
  • 在 AI 助手和开发者模式之间轻松切换
  • 基于多个不同模型使用视觉识别功能
  • 通过工具调用外部工作流,实现图片生成等功能
  • 利用 AI 智能体组建虚拟团队,提升工作效率
  • 通过文件夹整理对话历史,并通过色彩标记
  • 利用提示语库管理常用的系统提示语

在付费模式上,我们提供 freemium 的订阅模式,以及 On-demand 的付费模式。免费的新手计划(Starter Plan)用户可以使用 ConsoelX 提供的对话式 GUI 界面,并集成自己的模型、智能体和工具,还可以基于按需付费方式使用一部分共享模型;而升级后的构建者计划(Builder Plan)可以提供更强大的共享模型、智能体和工具,更大的图片和文件上传尺寸、不受限的对话历史和文件保存时长等。

现在我已经退订了所有模型厂商的付费计划,并将 ConsoleX 作为自己的生成式 AI 工作台。我相信只有首先满足我个人作为用户的需求,才能为更多基于生成式 AI 的创造者们提供有价值的产品和服务。

在生成式 AI 的创业路上我们走了不少的弯路,如今 ConsoleX 从 Side project 变成了我们主要的产品,这个项目对我个人而言也意味着很多,虽然我算是一位“高龄”的生成式 AI 方向的创业者,并且有着很大的生活压力,但我依然感觉自己充满了能量,并且坚信生成式 AI 将会对于我们生活的世界产生深远的改变,我也希望自己能够投入并参与到这个过程中。

这个月以来,我们我们终于开始通过 Stripe 获得一些销售收入,尽管数额不多,但也给我了更多动力和信心,激励我坚持下去,打做一款高质量和有价值的产品。

今天鼓起勇气发出这个帖子,是希望能够获得 V2EX 社区朋友们的反馈,无论你看好或不看好这个模式,无论你的建议是正面的还是负面的,我都会照单全收。如果你和我有着类似的需求,希望尝试使用我们的产品,我当然更加求之不得!每一位给我留言或者发送私信的朋友,我都会向你赠送一个月的 Builder plan 会员资格。

ConsoleX 的访问地址: https://consolex.ai

3. 大家房贷都占每月收入的多少啊,扣除房贷和日常开销,每月能存多少

刚才短信提醒漏还部分房贷,有感而发

4. 全球裁员当下我该怎么办 - 技术硬核永远吃香!

如今有太多太多的软件攻城狮所做的工作都是业务型导向(说白了就是你的工作都是由一群不怎么懂技术的人进行指挥进行的),对于他们来讲你的可替代性是非常强的,你如果想要在社会脱颖而出,你就必须要确保你懂的技术是他们无法理解的(俗称野路子),不要再天天围绕什么 JS/TS/VUE/REACT/JAVA 来浪费自己的时间了,这些东西对真正的大佬来说都无关紧要,你需要真正进入到什么是计算机的底层技术中去,了解汇编语言的工作原理才能让你在野路子的世界里发光发亮,只要你懂了这些东西,遇到凡是不懂的你就可以漫天要价了,因为这个领域的东西是非常稀缺的且未来需求量也会逐步扩大,随着时代的变迁,唯一不变的就是计算机与操作系统的底层技术,越是大国竞争这一块越重要,你可以想想谁会允许自己的东西会被别人留后门,所以不要再徘徊在那些可有可无的技术上,大多数的业务对于人类社会的发展所产生的意义是微乎其微的,有多少可以凝结到漏斗原理的底部,你的生命多数都是被凭空产生的财富进行毫无意义的消耗,沧海一粟,想要真正做出有意义的东西,你就必须要实现蜕变,你可以从你感兴趣的游戏或者影视相关的进行入手:

对于游戏行业而言,我相信你肯定会想到各种外挂之类的,很好,那么技术栈就是:

  1. 汇编语言的入门
  2. OD/CE/IDA 各分析软件的使用
  3. C/C++ 和 Windows 原理 & Linux 原理
  4. 了解游戏制作的各种引擎/软件: Unreal/Unity/Godot/etc

对于影视行业而言,你肯定就会想到人物建模还有 AI 相关的话题,很好,那么技术栈就是:

  1. 去学学基础的美术概念
  2. Maya/3DMax/Belender
  3. Unity/Unreal 上的模型导入之类的

综上所述,有人可能会说:我又不去做游戏,但是你要搞清楚,几乎在计算机领域的各行各业都是被游戏行业的东西推着走的,人生本就如戏,所有传统行业的业务线都是会被推着走,虽然新兴的技术和产品需要一段时间才会传导到那些传统企业身上,就看你是想要影响他们还是他们来影响你,游戏或者说文化领域永远是计算机行业的最前沿阵地!

记住,一定要大量的吹文化领域的东西,现在普遍文化领域的能量是偏低的,吹的多了,能量就起来了,加油!

5. 农村做题家被家里疯狂吸血
我哥谈了一个女朋友谈了 4 年,前两年父母知道他谈了女朋友,非常高兴,急着要结婚,为了筹备他结婚,到处借钱在镇上盖了一个房子,后来因为没证被强拆了。他万念俱灰,生怕女朋友分手,这时候我还在读大学。于是他又花了两年积蓄,然后又找父母到处借钱,在城里付了首付。他付首付的时候,我刚毕业半年,给了家里 3 万帮他。



后面过了几个月,我妈生病要住院,我又掏了 5k ,但是我哥因为要攒钱付彩礼,没给我妈掏钱。过了一个月我奶奶去世,我爸又以我哥要攒钱付彩礼为由没问我哥要钱,而是问我要了 1w 给凑奶奶后事费用,我已经非常生气了,但是我看在奶奶小时候养我到十岁的份上(当然不是只养我,有 5 个孙子),我也掏了。我小时候父母外出打工,我做了留守儿童做到 10 岁。



奶奶去世我回村里,又听到父母说我哥国庆回来要登记结婚,叫我能帮则帮,我深感被拖入泥潭。家里农村出身,我哥初中毕业,思想非常顽固守旧,认为传宗接代必须放在一切之前。我读大学学费都是贷款,到现在一分没还。
6. 一开车就生一肚子气,该怎么化解?
我觉得自己一直是老老实实开车,守交规,但也不想被人插队。因为我认为我老老实实排队,别人凭什么招呼都不打就插我前面,所以遇到要插队的就没有什么包容性。还有转弯不让我直行的,窜来窜去的摩托车,突然加塞到我前面的摩托车…等等。

我想,每天的上下班路是不可避免的,遇到这些没规矩的人也是不可避免的,为了不可避免的恶人伤肝动怒,不值当。每次上路前我都告诉自己要平静,可到家总是很颓废,怎么办呢?怎么保持一颗平静的心呢?(如果让我早出来几分钟或者晚到家几分钟,我也不太愿意…哈哈,这种心理又该怎么纠正呢?)
7. 尝试解释一下,黑神话悟空不是靠营销火的

不知道是不是现在确实各种营销很重,我在社交媒体(含 V 站、朋友圈)看见不少说黑神话悟空营销/推广好猛。

不玩游戏的可能确实很懵,这里尝试稍微解释下:

  1. 游戏科学,确实算不上小作坊(中间招人了,也拉到投资了),但绝对不是有钱的主,研发经费已经捉襟见肘了,没钱营销
  2. 黑神话悟空的微博,总共就发了 48 条微博(其它平台同理),甚至还被粉丝吐槽不高宣发。https://weibo.com/7483050868/OqZ3uv23V 4 年前很火的宣传视频,其实也主要是为了招人
  3. 游戏圈(特别是单机),对黑神话悟空期待了很多年,一直榜上有名。甚至我玩的《下一站江湖 2 》为了避开下半年黑神话悟空和燕云十六声神仙打架(部分原因),“半成品”抢在 4 月发布了。在游戏圈基本认定只要之前的试玩等不是虚假的,这游戏基本成了。
  4. 营销确实可以靠砸钱,之前腾讯的元梦之星就是这样(这里只是举个例子),各大游戏主播都在播。撒币 10 亿,《元梦之星》能圆梦吗? https://www.a9vg.com/article/215508 但这种强行营销有个问题就是只有游戏区或者头部主播在播。而且最大的问题是不能出圈,即还是在游戏圈“火”(因为本身也没想赚不玩游戏的钱)。但黑神话悟空不一样,很多非游戏圈博主都在播,比如一些媒体账号(什么 1818 黄金眼、四川观察),还有几千粉丝,涨粉几十万的素人传奇。这个在之前是没有的,是纯自发的。
  5. 至于黑神话悟空为什么能火,不应该从营销学上研究,要回归游戏的本质。当然能这么成功,我感觉超乎了预料。一方面是今年大作少。另一方面是大公司确实看不上单机(即使这次成功了),没有使绊子,比如没有限制主播(这事之前干过不少,不能播竞品),甚至永劫无间直播间都在播。还有就是踩到了时代的脉搏:文化输出,得到了不少央媒的支持(不恰当的比喻和董宇辉有点像),也造成了滚雪球效益(蹭热点)。

最后游戏不易,大家理性讨论。现在互联网氛围戾气很重,甚至我们 V 站也这样,有时候热榜一半都进了水生火热。

8. 请问这种表情图片是怎么发的,是有什么插件吗
我现在发的是其他人发的图片链接

1 2 3
9. 中国有没有这样的城市

考虑 Relocate 买房定居,想在中国找能满足以下几点的城市

  1. 相对中心的区域,离大城市(北上广深)以及部分新一线城市(成都、重庆、杭州、苏州、西安、厦门、三亚)都不算很远,最好是高铁 5 小时内(理想是 3-4 个小时),飞机 2 小时内,且有直飞(理想是 1-1.5 个小时)能到的地方。
  2. 气候适宜,夏天不是很热(受不了例如深圳那样夏天 35-40 高温且湿度大闷热闷热的)最好能在 30 度以下;冬天不会特别冷,0 度以上为佳(老婆受不了像北方那种零下十多度的冷),10 度左右最好
  3. 城市相对发展不错,机会适当且创业环境还可以(最好能有一些政府政策上面的优惠)
  4. 房价适中,不算非常高的,当然越便宜越好
  5. 旅游城市,美食等为可选,有最好没有也不会太大影响。

前两条属于重点。

现在暂时觉得长沙不错,另外有可能考虑的就是重庆,但都不算非常理想的地点,不知道有没有人给些建议。

10. 新买了一台雷鸟电视,有台群晖,如何优雅的看电视?

刚买了雷鸟鹤 6Pro 2024 款 65 寸电视

自己装上了当贝桌面、电视直播 APP 、KODI 客户端

目前电视直播可以直接看电视(虽然电视购物广告有点多) KODI 可以看群辉中搭建的 Emby

目前遇到的问题是,媳妇儿要追剧,PT 站更新追不上腾讯视频(没有超前点播),且只有手机端有会员

想要问问目前追剧这种情况,怎么用合适?

11. 大家帮忙拿个主意,央企 5 年,今天被谈话了
今天说我学校是民办本科,不符合集团要求,给两个选择,要么拿 n ,要么转为派遣员工(工资涨 10%),5 年老员工没想到,今天还当正面试官...
12. 失业一个月没找工作,迷茫纠结是先创业还是趁着这个时间买房结婚?

背景:

在深圳混了几年,到老家省会混了两年,认识了个妹纸在交往。有车没房,搞 PHP 的,现在失业了。 由于平时做了些产品项目在运营小程序,毕业后这几年手上不到 200 个 w ,想躺平确实也很难。 很迷茫,啥也不想干,看了招聘岗位极少工资还低,也不想找工作。就是感觉上班很没意思,在家呆了一个月多月了。

想法

买房结婚

最近又想着是不是先买房结婚解决人生大事. 听说省会的房子很多腰斩了,四五十万能买一套,也纠结是不是入手的好时机, 以后会不会继续降。

找工作

不容乐观,看了下 boss 没几个职位,都是几千块。上班上够够的,也懒得找了

创业

想依靠技术创业,一时半会没有好的想法,感觉也是困难重重。

13. 杠上了,在苏州没按规定佩戴头盔感觉被白罚了 20
昨晚骑电动自行车下班回家,工作需要戴帽子和口哨手表,头盔放在后备箱,当时戴帽子就没戴头盔,交警拦我的时候我把头盔从后备箱取出来戴上了,硬罚了我 20 元,当时不了解管理条例,路上稀里糊涂交了罚款。

回家一查这个情况处警告或罚款,交警上来就让我报身份证号开罚单,不让我走,也不问我是不是首次违法,为什么不能处警告,这是不是不符合执法流程?怎么申诉?
14. 感觉又到人生岔路口了,想听听大家的看法

唉,最近事事不顺,再加上因为我自身原因和异国恋女友在分手边缘,真的有点撑不下去了,偏偏她又是我最好的朋友,我甚至找不到另一个合适的人倾诉,于是想来发潜水那么久的第一个贴。

看了一下存款也完全不是自己能安心的数字,冷静下来还是想要先走好自己的路,自己已经到了 29 的边缘,也看到了其他相似经历的朋友的帖子,实在有点迷茫,所以还是想想听听大家的看法。

个人情况

18 年某 985 计算机科班毕业,本校研没保上,次一级外校有资格但是自己好高骛远放弃了去考 THU ,结果复试被刷;本科期间技术积累不足,不太敢面大厂,第一份工作去了一个初创公司做嵌入式,做了一年不太喜欢工作氛围和领导画饼,再加上依旧想深造,就辞职到离家很近的一个车企做车联网相关的 App 开发工作了,想着应该有时间在职备考,结果前两年几乎忙疯,第三年遭遇电信诈骗直接损失了近 20W (别骂了),没敢跟家里说,接近 2/3 的积蓄都没了。去年项目开始缓过来,也有女友远程加持,拼 PKU 软微还是倒在一路神仙分数之下。唉,现在一想自己完全没有赶上互联网红利末班车,还真是一步错,步步错了。

工作情况

目前在做的工作主要还是 App 相关开发,技术栈主要包含 Objective-C 、Swift 、Swift UI 、Flutter ,以及一部分 Unity ,在部门相当于干主管活,但实际无人可管。公司目前落地的 App 都是属于品牌车主+车友圈+商场整合型的 App ,相关业务涵盖车联网、社区、以及商品交易,访问量还可以,但感觉技术难点基本不在我们前端/客户端。

目前公司整体业绩在下降,部门已经经历了两次降薪。

目前想法

有离职想法,但比较纠结时间。其实之前工作也还算不错,离家比较近,降薪前收入在当地也还可以,两边父母也都满意,但是这几年真的改变了很多,很多福利都没有了,甚至政府的人才补贴都欠了我两年,现在感情出现问题,也越来越不想待了。可能其他地方也差不多,但是我真的感觉自己被困住了,想逃离这里。可能视精神状况和感情状况再考虑要不要裸辞,如果情况依旧还在变坏,我想我也需要 gap 一段时间再重新出发。目前主要还是不知道最近的下一步应该怎么走。想了一些可能的选择:

  1. 继续深耕 iOS/Flutter 开发(有经验但前景未知)
  2. 扩展后端赛道(有助于求职但经验少竞争多)
  3. 扩展 AI 算法赛道(热门但难度高)
  4. 尝试远程工作(如感情问题解决会很方便两人发展但存在语言和薪金保障问题)