XOutlier
Download .zipAdd to Chrome

fin

@fi5662238078k followers

立场不重要，事物的运行逻辑和内在规律才是更值得关注的部分 | 读过三个不同专业的学位，体验过两个大洲的尘世生活，设计过一次火星车芯片，还没有去看过心心念念的冰川

Open on X
Top outlier
39.4×
Best organic post
Peak views
1.3M
Single post
Bookmarks
21k
Across 87 organic posts
Last scan
Oct 16
Community cache
Posts 87 posts
#DatePost↓ OutlierViewsLikesRepostsBookmarks
1Oct 28, '25今天Amazon裁员3万人，比2022年行业收缩期裁的还厉害，原因很简单 买GPU的钱capex不够，导致AWS增速下降，被市场严厉的惩罚了，只能砍工资来省钱买GPU，让财报好看一点，营造一个AWS增速触底的故事 每一个互联网公司的SDE打工人，都应该买入Nvidia/amd作为风险对冲，弥补自己被GPU挤出价值链的风险 ------------------39.4×1.3M1.5k3371k
2Dec 1, '25回顾2025年半导体市场，真的是有太多太多精彩的故事，最大的主题就是: AI需求驱动导致半导体基建的估值体系重构 + 产业链的价值分配重写 从2024年开始，半导体基建正在飞速吞噬整个IT产业利润，SP500里半导体净利润EPS在IT行业里占比，在两年时间从不到20%上升了到了40%，而且还在呈加速上升姿态 半导体整体前瞻利润率从2023年的25%已经升到了35.2×1.2M1.4k4091.5k
3May 26, '23看到一个有点惊讶的消息，本周chatGPT日访问量竟然比上个月下降了5%，这才刚出来几个月呢就过峰值了 Google日访问大概28亿，chatGPT日访问是6240万，大概进军Google搜索规模的2%就停止了，这个减缓趋势并不是暂时的，从图里看三月份以来基本上就进入平台期了 从这些数据里想到一些有意思的东西 1.chatGPT取代Google搜索的份额可能33.7×1.1M823185321
4Aug 30, '23华为的9000s大家议论纷纷，猜测不断，也有原因是各种拆解的信息和时间线看起来不是那么通顺，甚至有矛盾的地方 几个大家最关注的地方：是不是存货，架构是不是自研，制造到底是中芯还是台积电 这里来捋一捋最有可能的情况是什么样的 图片关键信息：5nm，cortex A510，封装上的中芯晶圆厂代号 芯片代号都是一样Hi36A0，但晶圆厂代号不同。日期写的是20年第29.1×955k466141185
5Jun 4, '23终于，苹果最近发布的AR/VR职位描述里，总算泄露出来了他们要把LLM放进AR/VR设备里的想法：“Conversational and Generative AI” 从技能描述看是做app，LLM看起来更像是放在设备上，而不是云上 从使用上来看，提到了需要prompt engineering和prompt fine tuning，看起来更像是人和XR交互方28.6×941k37289117
6Sep 13, '23A17发布，CPU仅仅提升10%，GPU提升20%，基本上意味着苹果进入了牙膏厂时代——明明可以提升更多，仗着CPU领先优势巨大+IOS生态护城河厚实，挤牙膏式提升性能 台积电N3B制程提升远远不止10%，意味着苹果放弃了跑分，转而限制了性能让功耗好一点(号称节能35%)，但奇怪的是，电池续航数据和前一代完全一样 很多人可能意识不到，苹果对安卓的硬件优势缩小27.3×896k544110140
7Nov 14, '24大模型Scaling law撞墙，基本从年初PHD们吐槽到了现在大佬们公开谈论 作为半导体从业者，这集看了太多遍不能更熟悉了 芯片行业scaling law统称摩尔定律，各路媒体在十五年前就开始悲观的展望摩尔定律消亡 有一个反直觉，或者说主流媒体这几年并不报道的是，制程摩尔定律，竟然比二十年前更快了 摩尔定律的本质，是很多个技术曲线的scaling law前26.4×869k522117385
8Apr 17, '23把时间线拉长，AI在更长时间尺度上会以什么速度发展？ 对此我有三个AI猜想： 第一猜想：AI算力每十年加速六个数量级 第二猜想：AI全方位能力(感知/决策/生成)错误率每十年下降一个数量级 第三猜想：AI错误率每下降一个数量级(加上新能力涌现)，应用范围和领域(市场规模)上升一个数量级 【长推】 第一猜想：AI算力每十年加速六个数量级 这十年深度学习的复兴，24.8×814k313109188
9Dec 28, '24反H1B的这群MAGA从论据到论点都不靠谱，难怪musk会发飙 伯克利CS满GPA毕业生找不到工作，主要原因还是21~22年各公司对线上业务增长需求误判导致疯狂扩招，两年招人超过之前十年，Meta4万变8万，Google也接近翻倍，非常惊人 之后发现业务需求没那么大，就算裁员15%也还有大量冗余，没那么多业务增长 另外的主要原因，除了经济周期+高息环境，还有24.7×811k826187680
10Apr 10, '23为什么准确率对GPT上限很重要？这直接决定了这一轮AI2.0浪潮能走多远，不然自动驾驶也不会一直遥遥无期 两点原因 1. AI错误率每下降一个数量级，应用范围/领域上升一个数量级 2. 严肃领域利益关联(stake)太大是需要有人背书的，诉讼责任主体是很严肃的问题，错误率降到足够低才有能力应对天价赔偿 E2当错误率接近普通个体人类时（1~20%），AI能作为24.6×808k30679139
11Apr 30, '23王局的互相举报是很有代表性的，其实非常适合国内的丛林生存哲学 为什么国内底层互害那么多，为什么国内厂商之间没有互信，都会陷入囚徒困境的双输选项里？为什么华人喜欢内卷？ 这个问题在数学和演化生物学上有过非常有趣的研究，我读到这个研究的时候真是醍醐灌顶的感觉，这一系列问题得到了答案 先说说最简单的囚徒困境，两个囚犯被抓之后，需要囚犯们的供词来判定罪行。两名囚犯分23.8×783k661168279
12May 5, '23这是一篇打破GPT“涌现”概念神话的论文，终于说出了我一直以来的一个直觉，这才是比较符合事物发展规律的 一句话总结，所谓GPT“涌现”能力，是因为人为修改了“达标”的评价标准，给人"涌现"的错觉 一旦使用更合理的评价指标，就会发现GPT能力值随着模型增大是线性增长的，从评价指标上直接解构了“涌现” 先说说什么是“涌现”，这是LLM引起爆炸式关注的一个非常重要23.5×771k1.6k501747
13Apr 15, '23AI "取代"人类职业的路径顺序是怎样的？ 之前看到划分方式都是按人的能力划分的，受教育年限，智力复杂度，技能/创造力高低 AI路径怎么会按人的能力决定？当然是按AI的应用领域路线决定 而AI应用领域路线决定性因素很简单，就是容错率，一句话总结，AI会从容错率由高到低的行业开始“取代”人类职业 openAI喜欢用GPT能力和职业技能直接去对比去看如何取代职业22.4×736k784286440
14Jun 21, '23GPT2有15亿参数，GPT3有1750亿参数，GPT-4有多少参数一直是个迷，今天终于有线索了 Meta的PyTorch founding engineer暗示，从不止一个来源的消息来看，GPT-4是8个一模一样的220B模型连起来做的，只是训练数据不同，8个专家模型mixture expert model，一共1.76T参数，每次推理要做16次循环推理 22×724k832221364
15May 31, '23前几天Nvidia的发布会，除了怪物一样的GH200超级芯片，给我印象最深的是这几次技术革命的S型发展曲线 一个感觉，每个大时代S型曲线的初期，都是基础设施公司最先登台吃到红利，软件层的快速发展期要稍微滞后一些，最后才是服务层的快速发展 硬件瓶颈越明显，这个先后趋势越明显 比如80-90年代的PC时代，硬件Intel和IBM最先吃到红利，X86更是占据了主导21.1×692k1.2k342410
16May 29, '24一个感觉，北美IT行业打工人的超级红利期可能一去不复返了，或者说，这个寒冬会比以往更久一点 何为北美的超级红利期，就是拿着其他国家(印度/东欧)IT打工人三五倍的工资干着差不多的活儿，公司还继续大幅扩招，导致市场缺人可以一直compete拿大包裹，就像22年初夸张的三年经验SDE2拿42万+大包裹 从22年中形势急转直下开始，整整两年了，IT行业就业仍然艰难21×689k570156555
17Oct 25, '23高通今天发布会，正如半年前的消息一致，在苹果这十几年里一向擅长甚至一骑绝尘的单核CPU分数上，Nuvia没有悬念的超过了M2 Max 虽然苹果M3分数还没出来，但从A17的提升幅度来看，用3nm领先制程的M3单核分数也许和Nuvia CPU水平接近 这是windows生态罕见的有了M3级别的高性能低功耗长续航笔记本芯片 作为生产力也许还有太多阻碍，比如软件的20.7×680k612138179
18Jan 6, '25芯片只有AI火热，半导体的2024年基本延续了2023这个基调 只要蹭上AI相关的叙事，股价增长表现都是接近翻倍或者更高，毕竟这是确定性的增长机会，PE都会给的很有想象力 蹭AI失败典型就是高通，微软的recall功能跳票，导致AIPC/端侧LLM叙事直接破产,股价高点下跌不少，就算赢了跟ARM的官司也无济于事 微软跳票+苹果apple intelligen20.4×669k39092319
19Jan 27, '25看了下DeepSeek论文，做了点笔记和思考 DeepSeek降低训练成本会不会让算力需求下降？看历史就知道了，GPT4级别token价格在一年半之内降低了100~1000倍，也没有类似的担忧(如图) AI算力通缩是必然现象，长线旋律就是十年加速六个数量级：软件/算法加速三个数量级，硬件加速三个数量级 ----------------------------20.3×666k1.8k4991.6k
20May 12, '23这真是令人震惊的消息，OPPO不做芯片了 这么多产品线，说不要就不要了？？？ 手机SoC, modem，ISP图像处理做好几年了，芯片都成形了，号称帐上还有几百亿等着继续烧呢，就这么没了？ 那就说明一条，中国的安卓手机销量下滑的程度已经堪比断崖了，4nm流片一次4千万美元，OPPO不得不在流片前断臂求生 OPPO之前搜罗的人才不少，也舍得投资，ISP/mod18.5×609k1k219206
21Aug 4, '24Musk似乎很喜欢这种简化方式，我也是今年才知道，SpaceX上的CPU就是民用标准直接拿现有X86(现在也有ARM)，航天级是啥？抗辐照设计是啥？不需要考虑，多加一个冗余CPU就完事儿 Musk另外一个例子是Tesla，一般来说行业车规芯片都要是遵从ISO26262专门设计的芯片，英飞凌，NV, NXP, 高通都老老实实遵守 ISO26262对芯片从软件到16.4×538k59780345
22Mar 3, '23这就是国内发展的悖论： 要解放生产力，就必须提高信息流动的效率，降低获取知识的门槛 但要维稳，就一定要制造信息差，意味着必须限制信息自由流动，提高获取知识的门槛，这样才能方便管控+欺骗性统一群体意志 以后史书上会记载，这十年将是我们这个时代的“寸板不许下海”时刻 不仅是chatGPT，只要是利于信息流通的任何技术革新，在中国都不可能有发展前景15.7×517k2656344
23Apr 7, '23Vicuna用13B的模型实现了GPT4 92%的水平，这离我说手机GPT概念还不到两个月时间，太惊人了 AI圈这速度真是一日千里，哪里需要我说的几年时间，13B的模型再压缩下，硬件SDK再优化下，大胆一点明年就能看到手机上跑LLM在常用case接近GPT4的水平 全业界资源都开始疯狂涌进来，每天都在感叹跟不上时代了 下一步把训练语料精炼一下，LLM的解释性14.7×483k587140279
24Jun 16, '23996争议实质是匮乏模式下典型的囚徒困境，资源就那么多，你不干有的是人干，不内卷别人，自己就会被卷死(生活质量断崖房贷违约) 特别是大环境恶化，谈论不要996确实是很奢侈的 但我仍然佩服这几位勇者，因为一切打破囚徒困境的尝试，都是值得鼓励的，人类文明就是打破一个又一个囚徒困境的发展过程 什么因素最容易导致匮乏模式->存量博弈->囚徒困境？ 大环境的恶化，蛋糕14.4×475k53577114
25Nov 11, '25AI泡沫论，继循环投资/左脚踩右脚的故事淡化后，终于又迎来了新论据，这次轮到了GPU折旧问题 这次的叙事很简单，在几个主流CSP的财务报表里，GPU折旧年限很多都是平摊到6年来算 但是GPU使用寿命可能只有2~3年，那么这样做账就会让纸面上利润率虚高，而实际上AI云利润太低就是吹泡泡 真的是这样吗？ ------------------------ 首先我们14.4×474k842205682
26Apr 28, '23现在高科技行业都还是寒风瑟瑟，反倒是有一个细分行业火爆的不行，就是bootcamp 小红书上评价比较好的bootcamp一查已经飙涨到三万美元，刚看到这个价格简直惊掉我的下巴，三个月三万这是抢钱吗？比常春藤学费还贵得多 还别嫌贵，每个月开一个班，四月五月早就爆满了，想报名？最早的是六月底的班 看了下教的内容，大概就相当于北美CS MS的两门普通课的workl14.3×471k685158335
27Apr 29, '23今年H1B工签抽签数字出来了，从去年48万暴增到今年78万申请(21~22年互联网公司大扩招)，中签率不到15%，太可怕了 印度咨询公司ICC厉害，9万6千人申请了40万H1B申请，平均每个人4份有余 18~19年申请减少的原因主要是老川严查公司资质和专业匹配度，导致了ICC申请剧减，也导致当年REF错杀了很多人 把多份申请的人去掉，今年也有接近50万人申请14×461k2494160
28Jun 11, '23其实MR/VR这两年各家产品的分辨率路线图，是可以从micro OLED研报路线图里看出来的 明年开始，4K将成为主流，Meta家Quest pro 2和苹果的平价版Vision One也都会上4K，据@ZGFTECH说可能会是京东方的屏 后年苹果Vision Pro 2预计是5K X 6K，如果视场角维持100以下，这无限接近60PPD视网膜屏理想形态了 13.8×453k29072117
29Aug 2, '24Intel靴子落地，125K员工l裁员15%那就是18000，这种情况绝大部分组都要影响了 往前数十几年里，Intel基本上被每个同行公司都当作市值标杆，超过了都要庆祝一番，现在已经边缘化到没啥存在感了 北美半导体就业才刚有起色，就要重新进入hard模式 行业成本调整/裁员可能要开始了，下一个是高通13.7×450k2803491
30May 19, '23说完了为什么OPPO zeku被制裁的说法不靠谱(见引文)，再来说说OPPO手机SoC芯片到底做的好不好，最近也有不小的争论 说做的不好主要论点是zeku内部山头林立，为了扩张团队乱点roadmap，人手不足 他们有几个首席架构师我恰好认识，实话说实力很强的，昨天刷到了某大牛的感言，看的我还是挺感慨的 首先说到了“Seven-Year Mandate”，七年13.6×447k2074589
31May 13, '23我们即将进入LLM小模型的imageNet百花齐放的竞赛时代 Google 前几天的发布的这些PaLM2小模型，几乎是把我这三个多月一系列手机LLM想法的可行性都提前照进了现实 比如手机上跑不跑得动，有没有必要这么做，为什么不放云端，小模型有没有这个能力，应用场景演化路线，软件(模型)优化后的未来想象空间 以现在大家开始卷小模型的程度，毫无疑问，我们面临的就12.5×412k505132252
32Apr 28, '23奔着Andrew名头一小时刷完了，算是一个GPT使用手册，总结了常见prompt技巧，最大特点在于系统性好，而且没有误导，能实实在在提高GPT正确率和能力(有推特写的技巧会恶化GPT幻觉) 如果你只需要一个prompt手册，就看这个教程准没错，眼里的GPT从此都变的不同了 prompt本质上是将GPT4潜力榨干了一大步 其主要功能是教会你用GPT理解的方式更12.4×408k19853109
33Feb 14, '24ARK完美诠释了什么叫用短期过拟合的金鱼记忆用来神话一件事物 这五年来Transformer飞速发展，部分是借助了上一轮AI热潮过剩的算力(不然为啥ARK前年130抛掉Nvidia股票?)，每两年规模/算力增长410~750倍不可能持续 无论是算力，还是高速存储大小，都是两年仅增长两倍，很快就能撞墙(应该说已经撞墙) 规模/算力/存储尺寸见图一图二 数据量上12.2×401k30884237
34Aug 31, '23上篇讨论了一些基本问题之后有一些争议，华为麒麟9000s的CPU配置如大核小核是如何分配的，是不是自研，是中芯制造还是存货 这里再更为详细的讨论一下 1. 测评软件出现了三个不同版本的CPU配置，哪个更可信？ 2. 为什么说9000s不可能是台积电5nm制程，而更可能是中芯国际的N+2工艺 3. 为什么说export license多半是有政治协商的结果 如11.4×375k2285783
35Apr 27, '23更糟糕的是，随着LLM的使用，以后系统监控的理解能力将会到达不可思议的高度 我把这段新闻放进GPT里，GPT能非常轻松的解读出“口罩”背后的含义和背景 从此以后，监控的精细化智能化将会超乎想象，各种别名，代称，表情，符号之类的暗语都逃不过监控了 这意味着以后连“口罩”都将发不出来了 不寒而栗 再细想一下，系统LLM甚至不需要知道你指代了什么，只需要知道你是在11.2×367k586107144
36Jan 9, '25最近仔细调研了一下，发现一个有点意外的事情，其实即便是FAANG这样的互联网大厂程序员，经常使用GPT的SDE的比例（比如说每周至少用一次，门槛很低了）比想象中低，准确的说，只有50~60% 刚得到这个数据的时候还是有点惊讶的，比直觉上低太多，这已经是排除了所有其他干扰项只看SDE的使用比例数据了 互联网公司内部做genAI/LLM工具的组，竟然也得自己分析11.1×365k20934163
37Jun 2, '23正如我两个月前预料的，终于等到了高通CEO复读这句话：LLM要进汽车芯片了 这次高通CEO升级了对edge端承载大模型的能力估算，明年手机能跑20B小模型，汽车能跑60B 大模型 手机跑20B需要占据12GB内存，汽车芯片跑60B大模型需要40GB内存，汽车芯片的功耗预算估计几十瓦，60B听起来合理但估计略有点吃力 手机明年跑20B小模型，这其实是略有点吹牛10.4×343k33288118
38Jun 23, '23今天MPT 30B模型刷屏了，开源商用模型为数不多的选择里出现了一个比Falcon 40B更好的模型 翻了翻Mosaic创始人Naveen的经历还是挺神奇的 杜克本科毕业后做了十年芯片验证，然后07年去布朗读了个神经科学的PHD，当时神经网络还是寒潮呢 12年深度学习复兴时恰好毕业，加入了高通做神经网络硬件处理器 高通的这块zeroth当时也算是业界第一块神10.2×336k32380173
39May 19, '25今天看到小米玄戒O1 跑分达到了3100，这在手机芯片界真是一个平地起惊雷的消息 至于震撼的地方，在于玄戒SoC和联发科用的是同样的X925大核，同样是N3E工艺，但是在单核跑分上竟然超过了联发科那么多年的积累(3100对2900)，200多分的差距接近代差了 从目前查到的参数来看，这个跑分可能是有迹可循的 ------------------------ 9.8×323k22039115
40Aug 17, '22悄悄说一句，最快捷省钱人人可复制的转专业CS拿美国OPT的方法 coursera上七八门硬核本科CS课->申请online CS MS->读到七门课转on campus->如果学费贵就同时在当地州立extension school读两门水课，可以transfer credit online期间住宿吃饭自己家不花钱，总花销两万刀+on cam9.3×01.1k326431
41May 7, '25今年在一家小几百人startup做芯片，还是有些感慨的 芯片拼到最后就是拼能耗比，这是一级指标，真的是靠堆海量的人力去针对每种workload调试每一点power和performance，人不够就是会有差距，startup对于power和performance的要求要低太多了，只要大差不差就行，能把功能实现出来就是成功 startup跟大厂比，除了关键地方的8.8×289k64297436
42May 28, '23其实上篇里有个很重要的idea，就是用数字分身做社交app，这一定是未来的一个趋势，谁最先看到这个机会做出来，谁就是下一个instagram 如果说AI 1.0的图像处理能力激活了自动驾驶的想象力，那么AI 2.0 LLM的语言能力则打开了数字分身的想象力，这可能会是一个能打破人与人之间信息壁垒的重要里程碑 最简单的例子，我可以根据自己的语料，生成一个自己去8.5×280k36082228
43Apr 14, '23软件领域，微软证明了与Google高薪招top员工相比，领导层的vision和布局明显重要的多 硬件领域里的例子则是高通 12~14年高通如日中天的时候，人才密度还是较高的，股票给的多增长也快，招人门槛一度比苹果还高 甚至早在13年就做出来了zeroth神经网络加速器支持，领先业界好几年，这是何等的有远见 这么大好局面结果14年被一个Murthy强行上64位8.5×278k32965114
44May 10, '23总结了一个详细的现在各路神仙在手机上跑的LLM模型实测，拿去年的机型基本只够跑7 Billion参数的模型，大概占用4GB多内存 大部分都是直接拿CPU开多线程在跑没开NN加速，速度大概是每秒1~5 token之间 明年手机上也许会流行13B模型了，占用8GB内存有点大，也许会有专门定制化的10B模型内存占用小一点 明年或者后年开始，可能各家手机芯片厂商就会8.4×275k25155133
45Feb 11, '24要我说，Altman说7万亿重塑芯片业就是个噱头，或者说可能只是利用一个心理上的锚定效应为自己融资降低阻碍罢了 为何？只需要从最根本出发，看芯片过去和未来十年加速的主要瓶颈就很清楚了 就像去年讨论过的，未来十年，AI芯片在硬件(包括compiler层)领域，单片(single chip)也许还能加速一千倍。 看未来十年的芯片加速来自哪里，可以先看看过去十年G8.1×266k412125376
46Jun 7, '23苹果WWDC如期带火了AR/VR热度，很多人拿Vision pro和Meta去年Quest pro作比较，其实不公平的，Quest pro用的高通芯片都是三年前的XR2+了，那个时候做单眼4K不现实 很多人觉得苹果MR的硬件和芯片会和iphone时代一样一骑绝尘，前些年动辄领先高通一两代，在MR时代这可能会成为历史了，这里粗略比较一下 高通今年即将新发布的X7.9×260k2575892
47Apr 24, '23这一轮chatGPT热潮能不能让半导体行业回暖？目前来看只能用杯水车薪来形容 从最直接受益的Nvidia来看，因为年初198天的库存量，今年的预定订单接近腰斩，上个月Nvidia内部的消息是并没有因为GPT热潮增加给台积电4nm的订单 几周前我对GPT带来的GPU需求做了一个粗略的估计，即便是两三年取代了所有的Google搜索市场的算力（实际上根本不可能，差7.8×256k2946181
48Mar 28, '23大家都喜欢引用musk回收火箭的例子，我心目中first principle最佳则是费曼1959年谈到芯片尺寸极限在哪里，当年读书时看到这篇就是惊为天人的感觉 1959年费曼有一个著名的lecture叫There's Plenty of Room at the Bottom，在谈到电脑能做到多小的时候，直接从物理原理出发，说导线可以做到10个原子尺度那么大，7.8×255k469105178
49May 10, '23跟高能物理PhD好友聊了聊，Helion核聚变大新闻多半只是吹牛画大饼 很可能目前发的电没有耗的多，去年年底NIF才刚刚实现首次瞬时正增益，离持续正增益还有很远很远 原理上没啥创新，一般就算有突破，也是循序渐进的，他们一上来就要给微软供电，有点不可思议，起码也得先出来一个正增益的新闻再说 Helion的原理上都能讲通这不奇怪，技术上能不能实现才是关键，这是一7.2×238k1502931
50Apr 18, '23Google真是流年不利，三星手机搜索想换微软，自家TPU又被Nvidia碾压 刚发布TPU v4，在自家BERT模型上，才比A100快15%，虽然功耗比A100少三分之一，但A100可是三年前GPU诶！你竟然好意思比较。人家9倍速度的H100马上要上市了都 以后跟微软拼搜索，人家微软的单位算力功耗成本是你的一半，这还怎么玩 再这样下去别说NV了，以后怕是连7.2×236k1734160
51Dec 31, '24文明发展一定是朝着信息自由流通阻碍越小的方向行进，每一次信息流通门槛大幅降低，就会带来一次新科技革命 从信息流通门槛底层逻辑,看LLM这一波浪潮能走多远，想清楚这一点，是我2024年最大收获之一 LLM在信息流视角上实现了两个历史第一次: 人和信息流交互做到双向互动 用token统一了多维度信息 -------------------------------7.2×235k601174603
52Feb 18, '24加航因为AI chatbot客服的一个错误给顾客赔款，然后悄悄撤掉了LLM的chatbot服务 今天看到这个消息，让我感觉到我去年对行业容错率的估计也许偏保守了 加航可能不是一个简单的多少容错率够用的衡量，而是关系到公司品牌的信任问题，而不仅仅是赔偿和缩减成本的盈亏问题 加航这种chatbot无中生有给出退款政策的事件，可能短期会让AI客服从LLM回退到原始7.0×231k35165245
53Feb 5, '23chatGPT并不万能，优点缺陷都很明显，对人类文明最大意义在于改善知识获取门槛/易用程度，相当于加速全群体知识获取速率，光这一点就够写进历史书 信息/知识获取门槛而言，印刷从10万降低到1万，交通发展从1万降低到1千，互联网/搜索从1千降低到100，在线教育从100变成50，chatGPT把门槛50变成了20🧵6.8×225k2886198
54Jan 1, '24创新的本质是组合，想清楚这一点，是我2023年最大的收获之一 往大里一点说，人类文明发展本质上取决于复杂组合能力：通过归纳组合不停的拓展知识边界 前一阵openAI宫斗剧才爆出来的Q*算法，本质上是强化学习里Q learning和A star算法，和LLM组合起来。而A* 算法又相当于是把搜索和目标函数组合起来 最近的LLM发展，其实很多效果不错的方法，都是6.4×211k541133441
55May 3, '23这个传闻比较靠谱 Google这几代自研手机SoC一直是基于三星的Exynos芯片做的，作为合作交换，一直用的也是三星fab制造 前两三年Google把高通做SoC架构的恨不得挖了快一半人，绝大部分架构就是原样照搬高通，这也是为什么我一直说Google手机芯片两三年后一定会很惊艳的原因，复杂SoC不是一蹴而就的 （注：这里说的惊艳是跟Google自己之前的水6.4×211k1843141
56Dec 10, '24Intel传说中的大招18A制程和台积电比到底是个啥水平我一直很好奇，最近终于有点线索了，从密度/良率/功耗稍微整理一下笔记 这十几年来，所谓的5nm3nm制程早就成了营销数字游戏，并不是真的做到了这么小，电路gate实际尺寸仍然是20nm，只不过gate等效密度标为3nm，等效密度才是横向比较的重要KPI之一 先说结论，intel 18A可能和台积电N3E6.1×201k613137402
57Feb 23, '24回望15个月前科技行业至暗时刻，谁家财报成本控制稍微差一点就跌成狗 特别是Meta的RL坚持不怎么大砍人继续一年一百多亿刀烧钱，跌成狗都不认识了 NVDA被中国区禁令砸的厉害，库存198天度日艰难，被抛售的不到110 从那时候开始算仅仅过了5个月，整个逻辑彻底转换 15个月后,SMCI/ARM靠画饼就能飞天5.7×187k2202764
58May 8, '23LLM/GPT小模型的机会在哪里？ 大家最近对处于大爆发期的各种开源小模型能力有些失望，大模型一些能力在小模型上达不到可用程度，比如Vicuna在泛化能力和长对话测试集上表现差很多 但我仍然觉得这是机会，小模型不需要很全面，低成本训练特定领域的小模型就能干很多事情，这是完全不同的商业模式 现在GPT类小模型的多模态还不太行，等不久之后小模型的多模态也纷纷做出5.5×180k26564130
59May 29, '23这几周都是中文推特在霸榜AI笔记热门榜，考虑到翻墙的门槛，说明在LLM落地和应用方面的关注，国内(中文社区)远远超过国外(英文社区) 以我的体验，即便是学术论文介绍方面的推，中推圈的浏览量丝毫不弱于英文社区，完全是一个量级的 另一方面来说，简中社区和英文社区对比其实是一个大型的社会实验： 一个人才密度很高而且对LLM落地有极大热情但受到不可抗外力严格监管的地5.0×163k1693388
60May 22, '23很期待这篇压缩参数论文正式版，用4bit代替16bit参数的情况下，性能几乎无损失，这对小模型是大利好 先是暴力出奇迹，然后方向转变为用高质量训练数据集做出相同效果size更小的模型，或者更低精度实现类似效果，有点像AI 1.0时代演化路径的感觉了 开源的力量真的太强了，这个迭代速度真是目不暇接 低精度小模型意味着训练成本训练时间的门槛都在降低，说不定以后44.9×160k27676142
61May 25, '24其实那个时候edge AI我想说的是这个标 就是微软这次惊艳的copilot+PC背后的edge AI概念最大受益者 这也是我去年年初说的Nuvia CPU给高通带来质变之后会改变产业格局 逻辑就像我去年提到的，像微软演示的这样用LLM连接跨app的recall应用，edge端比如手机/电脑只有本地OS能做到这样的超级权限 在跨app操作上，隐私问题和权限问4.8×158k15533118
62Jun 26, '23正说着MosaicML，今天被Databricks 13亿美元收购了 Naveen这次卖Mosaic比上次Nervana卖intel 4亿美元多多了，做软件果然比做硬件赚钱多了🙄 感觉这次Naveen卖在了LLM hype的基础设施前期高点，就和16年底卖AI加速器也是卖了hype前期高点，形势判断真厉害 21年无人问津时入场，卖在23年人声鼎沸时 上次的4.6×153k1964595
63May 15, '24Tesla寄予厚望的FSD试用期到期后仅仅只有2%转化为订阅付费用户，比预期还是要少很多 当然了这2%只是试用期到期后继续订阅付月租，而一次性买断算入之后，可能会有6%甚至更高 但我觉得纠结这2%还是6%没啥意义 FSD什么时候会有质变？就是当Tesla保险能给FSD做责任主体赔款事故的时候，句号。 -----------------------------4.6×151k22644122
64Jun 12, '24"以后的新OS将会是OS + LLM的紧密结合，这可能是edge端LLM最大的应用场景" 苹果今年的WWDC可以说正式确认了这个趋势 虽然苹果已经完全不是十五年前的开创者甚至落后不少，但“新技术/新范式应用和推广还得看苹果”这句话，可能还得成立很多年 为何？ 非苹果生态太过支离破碎，众多安卓厂商各怀鬼胎 而苹果的统一生态给推广降低了太多门槛 举个例子，苹果A4.4×144k17338101
65Jul 28, '25AI时代和互联网时代的运行逻辑和模式有什么不一样？ 最近一直在思考这个问题，也在尝试从时间线拉长的角度去看一看 两年前的GTX大会，老黄po出来的这张图宣布了时代大幕的拉开，PC时代->互联网时代->AI时代，每一个时代前期的硬件大基建时代开始了，可能又是一次cisco时代涨潮退潮的故事重现 cisco时代基建一旦搭好，后续基建需求就减小太多了，相当于管道搭4.4×143k42999431
66Sep 23, '24GPT o1的出现，让这一轮LLM带来的AI热又点燃了一把，在整体情绪悲观了半年之后，各种AGI临近的展望讨论再次开始火了起来 LLM是不是正确的AGI path，暂且不讨论，但我们可以从历史上的几次工业革命来看新技术对人均GDP的影响 从1870年代到2020年代，整整150年，历经了两次(三次)工业革命 这么多年的人均GDP增长，稳稳的沿着2%的线前进，4.1×135k27350180
67Apr 13, '23今天很火的Google brain写的教LLM自己debug，细看了一下，整篇大概只是在做一个prompt调教 大概思路是小黄鸭debug大法，prompt要求写出详细步骤，自己写code之后，自己去解释这个代码从而推测这个结果对不对，如果不对再自己改了再来自己解释，如此循环直到正确 这个过程不需要任何error message 奔着Google brain4.1×134k29647180
68Sep 13, '24OpenAI的o1新发布，不出意外就是去年年底传言的Q*算法: Q learning和A*路径搜索的组合，所以O1应该也算是一种GPT4和搜索的组合，意味着每次推理上算力消耗会大得多 o1给我感受最深的一点是 System1(快思考)的scaling law时代可能即将结束了，system2(慢思考)的scaling law新时代要来临了 从算力分配上来说，3.9×129k40393320
69Apr 20, '24这一轮edge端LLM前景是泡沫吗？ 时隔一年，LLM小模型发展可谓每个月都有惊喜，各种尺寸越来越丰富 手机能力进步了不少，7B模型都能超过20 token/s，比去年Google发布3B小模型时候进步了太多 edge和cloud LLM应用的界限也越来越模糊，如何定义这个界限？还得看具体应用任务 这里分了几个基本场景 （如图） 小模型和大模型参数量的效果区3.6×119k17738159
70Oct 23, '24高通跑分用16w的手机功耗，真的是太夸张了，也没办法，谁叫联发科更没底线，18w跑分功耗怎么看都像是笔记本功耗 2018年手机跑分大概只有6~7w，还处在可理解的范围内，自从那时候起，手机宣传用跑分，就已经开始逐渐脱离了实际意义 其实在表面的光鲜跑分下，芯片厂商自己内部是有独特的一套标准的 一般来说，芯片厂商除了benchmark之外，最重要的标准是Sust3.6×118k1623263
71Aug 18, '25一个感觉，从商业逻辑来看，未来GPT6/7/8，可能和手机常规升级换代一样，不会再有从GPT1到GPT4的数据量+训练量巨大飞跃了(GPT4.5已经试过了) 让GPT5做了一幅这几年的旗舰模型token定价曲线，发现有很多地方和PC/手机芯片的商业逻辑是非常相像的，这集我看了太多遍，其实能看出很多很有意思的结论 GPT4.5刚推出的时候$150/M，价格非常3.5×116k43670267
72Mar 31, '25就像OpenAI的Hyung说的，AI领域有一个非常特别的反直觉性质决定了，算力将一直是瓶颈 把时间线拉长，过去几十年的AI发展历史来看，更复杂的架构往往在短期的表现很好，但是更长期的决定性因素一定是算力(scaling)提升之后用更简单的架构带来革命性提升 这和其他几乎所有领域都不一样：很多看似巧妙的做法往往是算力不足时代的权宜之计，当算力再上一个台阶之后3.5×116k34286264
73Oct 10, '23通过批处理并行化，LLM推理整体吞吐量速度提高60倍，这项工作潜力可能会很大，优化了如此多，推理市场硬件需求可能会比之前预想的要小的多 用一个A10推理卡跑LLaMA2的7B模型，单个推理40 tokens/s，但当128个推理并行时，每个推理仍能得到10+token/s，优化之后甚至能达到总吞吐量每秒2400 tokens 我没有看到具体原理，但我大概能猜3.5×114k1824292
75Jan 7, '24进入2024年，平板/手机终端LLM能力和半年前比，进步还是很明显的 半年前在iPhone/Galaxy上用GPU跑7B模型大概能到6 token/s，现在已经能接近20 token/s了 主要提升来自于两方面：一个是启用NPU优化提升到10 token/s，另外一个是新技术speculative decoding再提升一倍（原理如图） NPU的优化主要是对3.2×106k18548178
76Jun 28, '23视频提到这篇是典型的水paper，LLM在芯片设计上应用和辅助的难度比软件开发要难太多，容错率差了两个数量级以上 各公众号有些过度神话这篇了，这paper本身在谈到局限性的时候其实挺客观，全手动并且没有任何自动化 这篇顺便也来谈一谈，为什么说芯片设计(都不谈芯片制造了)是LLM最难应用的领域之一 这篇paper取巧的地方在于，选取的project也非常好，是3.2×104k1784963
77Dec 13, '23这篇打破LLM涌现概念的论文刚刚拿了NeurIPS 2023最佳paper 确实是意义重大的一篇文章 让我们把时间线拉长时可以不用再考虑AI能力突变AGI这样的神话故事，LLM模型的能力发展更顺滑，可预测性变得更高，这可以让我们更冷静而客观的看待AI的发展速度了 评委们还是识货的3.2×104k29368219
78Apr 8, '2203年胡锦涛：我心急如焚，如果不能有效地遏制疫情，使其泛滥开来，甚至扩散到国际社会，那么作为中国的领导人，我们对不起13亿中国人民，也对不起世界各国人民 21年人民日报：习近平总书记亲自指挥、亲自部署，统揽全局、英明果断，作出历史性抉择，带领14亿中国人民开展了一场气壮山河的伟大抗疫斗争3.1×051011553
79Mar 22, '23把古诗词的意境用new bing 翻译成英文，然后放进 作画，效果好像还行？ 《前赤壁赋》 少焉，月出于东山之上，徘徊于斗牛之间。白露横江，水光接天。纵一苇之所如，凌万顷之茫然。浩浩乎如冯虚御风，而不知其所止；飘飘乎如遗世独立，羽化而登仙。 LLM和千年前苏轼的意念在此刻交融 the moon rose above the eastern mountain,2.9×94k38393102
81Jan 22, '23半导体公司不裁员原因就一条 招聘稳健，没有互联网那么激进。Meta/Google/Amazon狂招了一波硬件，但硬件组裁员也很少，毕竟组起来太难了 苹果员工这三年从13万到16万，高通3万7到5万，AMD一万到1万5 比谷歌三年11万到18万，Meta四万到八万的狂飙模式好太多了，营收增幅还普遍不如AMD高通等硬件公司2.7×87k1761823
83Apr 7, '22习在疫情和乌克兰战争里进退失据，让人想起9·11关键时刻，江泽民事发之后立即召开常委会议，5个小时做出决定，当机立断转向合作美国，美对中政策也大幅转向，为中国赢得十年机遇期 这就是认知和战略水平上的差距 习就只会抓细节“亲自部署”，然而战略方向上错了，越努力越不幸，上海乱象只是一个缩影2.3×04745125
84Aug 3, '24这就是芯片业的残酷之处，never ending gladiator，即便intel有技术上做的好的地方，只要对手台积电更强就完蛋 很难有大规模差异化竞争的可能，唯一的差异化被老黄抓住了，就是CUDA生态 即便是Tenstorrent和Qualcomm在AI加速器能耗比上处于明显的Tier 1（限公开发售范畴），也还是没用，SDK支持不行 除了有生态护城河的2.3×76k1543770
86Oct 9, '22说直白点，国内上美国名校online cs ms，就像前几年去读南方科技大学一样，学校NB，教授巨NB，同学校友圈巨NB，但是大学在教育部没资质，不适合保守求稳靠学校名头混日子那种，下限低上限高 美国top10名校online除了中国都觉得NB,国内人应该都是思维惯性，觉得都像国内名校附属学院三本一样，这是偏见2.1×02887586
88Aug 1, '25AI时代和互联网时代的运行逻辑和模式有什么不一样？（二） 上篇讲到AI和互联网在底层算力特性上的不同出发，那么也许可以推演一下，这会带来什么策略上和商业模式上的变化 首先AI的收费越来越多是以token计费，变现不再是互联网时代的免费流量模式 因为广告补贴难以覆盖高额的token成本 这也就意味着AI产品的使用成本随用户规模增加的趋势更明显，导致靠免费拉新这2.0×65k21153202
89Feb 20, '24如何理解软件吞噬世界，AI吞噬软件，而LLM吞噬AI？LLM是AI发展历程中更高级的形态吗？ 把视角拉远，从信息化角度我们可以设立一个新框架来看这个系列问题，可归结为生产力自动化对应的三个阶段： Retrieval，Analysis，Synthesis 自动化最早阶段是提取(检索)，然后是整合(分析)，然后是输出(生成) 本质上来说，信息的提取，整合，输出，1.8×58k17051165
96May 8, '22最近一个很强烈的感受，半导体这一轮较大幅度的涨薪，都是互联网企业进军芯片大幅挖人的缘故 听一个高通的同学说，他在高通的alumni现在已经是散落的满天星，都在Google/Meta/Msft高升了，Google才刚落脚没多久，Amazon最近也在San Diego UTC开建新site，预计要挖高通700人0.9×01802319
99Apr 17, '22这次上海封控的意外产物： BBC在上海人眼里有了公信力 方方日记重新被审视（仅限封城期间） 封控区人民开始相信三年大吃饱也许是真的 以后讲到新疆模式，封控区人民将不再觉得是天方夜谭，起码会有小部分人将信将疑 但是出了封控区，就没有这些意外产物了 以后将是上海人和其他地区人的认知割裂0.7×0147166
100Nov 25, '22从今天乌鲁乌齐民众进发市中心的时间段来看，严苛封城四个月，大概就到了这个无法维持生活的临界点从而形成规模性反抗情绪 反抗并不会形成全国规模，只有被铁拳连续砸四个月的地方会陆续进入这个阶段 全国各个地方的民怨到了哪个阶段取决于当地铁拳持续时间，四个月是一个临界点参考值0.7×0156146

Scan another creator

@
@karpathy@levelsio@paulg@naval@marclou@illyism

Run this on any account.

XOutlier builds this table for every public profile you open on x.com, with live data and every post, not just the top 50.

Add to Chrome Download .zip