在上一节了解了 KVCache 提出的背景之后，本节来看一下如何实现 KVCache。Q/K/V 都可以用矩阵来表示。在一个二维矩阵中，表示 K 和 V 的方式是一样......
董董灿 ·
极客技术博客 - 编程笔记与技术分享
分享 PHP、Python、JavaScript、Java 等编程笔记、开发经验与实用技巧。
从本节开始，会对大模型的后处理部分用到的一些经典的算法原理进行介绍。所谓后处理，是指在大模型生成文本后，对生成的结果进行一系列的调整和优化，以确保输出的文本具有更好的......
董董灿 ·
在对大模型的输出 Logits 的后处理过程中，除了上一节提到的对分数进行重复惩罚之外，采样也是一个非常重要的步骤。合理的采样算法和采样阈值的设置，可以使模型生成的内......
董董灿 ·
在上一节介绍了 Top_k 采样之后，接下来再看另一个非常常用的采样方法，叫做 Top_p 采样。Top_p 采样中的 p 是 probability（概率......
董董灿 ·
如果你调用过大模型的 API，或者创作过智能体的话，大概率你调整过一些用来控制模型生成效果的参数。下图展示的是我在微调某个智能体时后台的参数设置界面，里面有一个多样性......
董董灿 ·
在Attention is all you need这篇论文中，作者给出了 Transformer 架构的完整图示。一般来说，上图中左侧的部分被称为编码器，右侧的部分被称为解码......
董董灿 ·
上一节介绍了什么是 Decoder-Only 结构，并且提到，目前绝大多数的大模型采用的都是 Decoder-Only 结构。虽然如此，仍然一些模型会用到 Encoder 部分作为主要架构，典型......
董董灿 ·
Qwen2（千问）是由阿里云开发的人工智能大模型，可用于智能对话，是一个典型的 Decoder-Only 结构。该模型在很多任务上有着非常不错的表现，很多公司都会基于......
董董灿 ·
用户朋友，你好。这篇内容来自我的新能源汽车阅读直播，我和 Blood 旌旗、郑小康、孙少军每个月会在微博上直播，花 2 个小时讨论一些主流电动汽车品牌的产品、交付量和......
于欣烈 ·
你好，8 月 21 日晚上，理想汽车创始人、CEO 李想在得到做了一场直播千亿级爆款产品的深度复盘，分享了不少产品和管理的方法论。我用......
于欣烈 ·
#华为 #商业分析-性价比低调许久的华为智选车，在 9 月发动了新攻击 - 问界新 M7 上市并交付。对华为智选车来说，新 M7 是这场生死攸关战役的第一战，也是必......
于欣烈 ·
你好，今天的大新闻就是 Stellantis 集团投资零跑汽车。Stellantis 集团花了 15 亿欧元收购零跑汽车约 20% 股权，......
于欣烈 ·
你好，华为智能汽车解决方案 BU（简称车 BU）拆分独立运营这个大新闻，只是华为智能汽车业务最新变化的一部分。这是车 BU「HI 模式」和......
于欣烈 ·
你好，问界 M9 正式上市，售价 46.98 - 56.98 万元。和之前卖爆的问界新 M7 相比，华为这次的定价策略完全不同。新 M7 ......
于欣烈 ·
你好，因为我的个人原因，今年更新的文章数量不足，非常抱歉。2023 年度专栏的更新时间，会延长至 2024 年 3 月 31 日。预计会更......
于欣烈 ·
你好，每周我会和你分享智能电动汽车相关的阅读笔记，这期 2024 年第 2 周（上周）的内容，请查收。本期概要......
于欣烈 ·
从预期的销量占比来说，L6 是理想最重要的一款产品。特别是在 MEGA 上市不及预期、纯电 SUV 产品线延至明年上市的背景下。这篇笔记，对理想 L6 上市发布会的特......
于欣烈 ·
你好，我是于欣烈：这篇专栏和你聊聊，华为如何做商务行政轿车这个产品。华为终于对最肥美的一块汽车市场动手了，商务行政轿车享界 S9 正式上市......
于欣烈 ·
首先强调的是，不管是百家号、今日头条、小红书、知乎、问一问等都公域自媒体，而微信公众号是私域自媒体，是你真正的核心用户。微信公众号是需要慎重的选择某一领域进行深耕的土地，不是为了单......
飞狗 ·
微信朋友圈大家发起来都很谨慎了，一不小心透露了自己的隐私，引起不怀好意人的关注，也许遭受一些未知的风险。一、微信朋友圈的变化，引发了新的商机其实微信朋友圈的变化，是微信朋友性质的变......
飞狗 ·