在 AI 波澜下，智高东说念主机正迎来新一轮物种进化。硅星东说念主首届 AI 创造者大会（ACC 2024）邀请到了 vivo 副总裁、vivo AI 研究院院长周围，以及面壁智能合资首创东说念主、CEO 李大海，沿路探讨端侧 AI 如何从头界说手机，创造真确的 AI Phone。vivo 是中国乃至全球最早布局 AI 手机的末端厂商免费最新伦理电影，面壁智能是中国乃至全球率先专注于端侧"小讲话模子"的 AI 创业公司。从端侧模子的期间打破，平直机看成最好 AI 载体的私有价值；从交互体验的重构，到智能体生态的构建，这场对话为咱们展现了 AI 如何重塑智高东说念主机的图景。畸形是在智能体协同和产业尺度方面的规划，亦反应坐褥业在尺度斡旋和生态共建方面的新共鸣。

以下为对话实录：

主握东说念主 | 硅星东说念主首创东说念主 &CEO 骆轶航

嘉宾 | vivo 副总裁、OS 产物副总裁、vivo AI 全球研究院院长 周围

嘉宾 | 面壁智能合资首创东说念主 &CEO 李大海

为什么 AI 模子需要被塞进手机里？

骆轶航：这个才能我蓄谋已久，在座的两位王人有其私有之处。就我所知，诚然不敢说是全球范围内，但 vivo 确乎是中国最早探索 AI 如何深度重塑智高东说念主机的公司，尤其是在大模子层面。我说得对吗？

周围：感谢！

骆轶航：2022 年 11 月 30 日，ChatGPT 的推出，对大模子来说是一个紧要的分水岭。但在手机界限，这个时辰点要往前推。咱们不行认为 2022 年 11 月 30 日探索 AI 手机的即是先驱。咱们应该追思到 Transformer 架构出现的时候，那时就开动研究和探索的才是真确的先驱，而 vivo 探索把手机放到 AI 里，差未几就在 Transformer 问世之后不久。再说到面壁智能，它在中国确乎是最早探索如何将模子微型化并部署到末端开导的公司之一。从 2023 年 3 月到 9 月，全球和中国的大模子公司王人在快速彭胀模子范畴，从百亿参数彭胀到万亿参数。而将模子再从万亿参数缩减到 120 亿致使 80 亿参数的，全球只消两家公司：法国的 Mistral 和中国的面壁智能。我很想请问周总，你们（vivo）为什么会这样早就开动布局系统层面的 AI 政策？在 ChatGPT 出现后，又是如何加快这一进度的？

周围：感谢骆总的关心。确乎，咱们是较早将 AI 与手机联接的企业。谈到为什么参加 AI 研究，这要追思到 2018 年 3 月 vivo 全球研究院竖立之时。到 2019 年，咱们已有越过 1000 名东说念主工智能工程师，是那时行业内较早重投 AI 的公司。咱们的首创东说念主沈炜认为，东说念主工智能期间、芯一会儿间以及 5G、6G 将是改日几十年科技创新的基础期间。诚然那时对此剖析并不十分骄横，但咱们矍铄地遴荐了重心参加这个界限。我恰巧是在 Transformer 出现不久的 2018 年加入公司的，那时我第一次看到了通过常识赋能大模子的契机。到 2020 年，咱们见证了大模子 1.0 的出身。早在 2019 年 11 月，咱们就在北京发布了第一款将机器学习与手机联接的忠良手机。不外事实讲明，传统东说念主工智能与手机的联接远不如大模子来得有假想力。到了 2023 年 GPT-3.5 问世后，咱们愈加骄横地看到了大模子与手机联接的广博远景。

骆轶航：是的，因为之前仍是在机器学习界限作念了大王人探索。

周围：咱们团队一直在握续关心这个界限。在 2023 年 11 月 1 日，咱们发布了"蓝心"大模子矩阵，包括 10 亿、70 亿、130 亿、500 亿和 700 亿参数的五个大模子，它们王人在玄虚评分中名列三甲。领先咱们参加东说念主工智能研发，是因为强硬到这是一个紧要的期间创新赛说念。在大模子与手机联接的第二个节点，咱们深入想追念竟能为用户带来什么价值。咱们认为，手机看成麇集数字天下的桥梁，所有这个词有契机打形成为用户的个东说念主专属智能管家。基于这个剖析，咱们开展了一系列责任。智能管家应具备五个性情：着手，要能感常识别用户意图；其次，要能形成共同牵记；第三，是具备决策才智；第四，要能像东说念主雷同操作手机里的稠密应用；第五，要能像助理雷同顾问日常事务。vivo 恰是基于这些性情在推动磋议责任。

骆轶航：这五点所有这个词得当咱们对 AI Agent 的想法维度。

周围：从用户层面来看，咱们有三个剖析要点：着手，东说念主工智能大模子的加入是为了让开导更自然、更得当东说念主的直观。其次，咱们要用大模子重构通盘这个词系统，包括手机中的多样数字才智以及系统本人。第三，重构数字天下不是最终主义，而是要更好地劳动用户，让手机在现实生计中施展更高效、大略、主动、智能的作用。

骆轶航：这三点区分对应了得当花样需求、数据处理优化和操作节略性，相配紧要。你很好地回首了通盘这个词发展历程：从领先将 AI 详情为发展标的，到机器学习的应用，再到 ChatGPT 之后的加快发展，以及对这一界限想法的不停深化，最终发展成当今的 OriginOS 5 等系统级 AI。

周围：前年咱们已毕了自研大模子的商酌，这背后有充分的逻辑和意义。接下来，咱们将大模子与手机联接，构建了个东说念主助理的五个框架。在改日一到三年内，咱们将基于用户需乞降应用场景，提供更多践诺价值，同期惩办秘籍保护和端侧部署等问题。这些王人是咱们到 2027 年要握续推动的责任。

骆轶航：这个发展旅途相配骄横。接下来我想请问大海对于面壁智能创业初心的问题。面壁智能给我留住真切印象，畸形是在本年春节前初次发布小模子 MiniCPM "小钢炮"的时候。那时那场行为亦然我主握的。有两点让我感到战栗：第一，你们与 Mistral 在销亡时期推坐褥物，骄横不是跟风之作；第二，你们一步到位已毕了多模态，这在那时是很稀有的。那时大多数公司王人在追求更大的模子，而你们遴荐作念小模子并在端侧部署，而况照旧多模态。本年年头的时候还很少有东说念主规划 AI 与手机的联接。外界对此有两种预见：一是不绝清华大学自然讲话实验室（NLP Lab）的研究旅途，二是受限于资金和算力。我很想知说念，你们领先遴荐端侧阶梯的真确原因是什么？

李大海：遴荐端侧是基于咱们的期间洞悉。这设立在一个紧要前提上：模子范畴扩大时，必须保握常识密度的一致性才能握续升迁才智。咱们认为常识密度可能是大模子发展的第一性旨趣，而不是大略的模子参数。这就像早期搜索引擎发展时，东说念主们平缓从关心网页数目转向关心践诺才智雷同。才智与所需参数目的干系是最中枢的竞争力，因为它代表了 ROI 和效用，这是第一性的旨趣。就像当年好意思国造出第一台忖度打算机时占据了三个房间，但那时莫得东说念主说要造一个占半个城的忖度打算机，本年大模子刚出来的时候，即是这个逻辑。

骆轶航：就像摩尔定律，描述的亦然一个半导体处理单位不停微型化的经过。

李大海：是的。在密度升迁的前提下，咱们有契机作念出更好的模子。本年 2 月咱们就已毕了越过 Mistral 7B 性能的模子，这讲明了期间的可行性。这代表着大模子厂商和芯片厂商的双向奔赴。咱们在 2 月份就将 GPT-3 级别的才智已毕了端侧部署，9 月份又将 GPT-3.5 水平带到了端侧。咱们的下一个商酌是在 2026 年底前将现时 GPT-4 的才智带到端侧。

骆轶航：那 OpenAI o1 的才智什么时候能已毕端侧部署？这个挑战很大啊。

李大海：践诺上，o1 这样的模子可能并不得当端侧部署。因为它代表的是"慢想考"才智免费最新伦理电影，而末端开导最需要的是快速感知才智。这就触及到端云协同的问题。端侧需要快速感知用户并运用秘籍信息，这恰是手机上的个东说念主助理畸形有价值的地点。但对于复杂的想考任务，咱们不错交给云表更大参数目的模子来处理。

骆轶航：这可能确乎不是端侧用户现时最紧要需要的体验。

李大海：既然是慢想考，用一秒钟时辰造访云表亦然不错汲取的。咱们的发展标的不是追求在端侧复制 o1，而是在 GPT 系列的发展阶梯上，将更强的泛化才智装入更小的参数模子中。端侧要惩办的是 " 具身化 " 问题，需要敏捷的感知和个性化决策才智。比如运用用户在手机各个应用中的高下文信息。

骆轶航：即是将高下文看成土产货数据库的语料。

李大海：是的。在达到 GPT-3.5 水平日，咱们重心撑握三个才智：端侧无穷长文本处理、更好的 RAG（增强检索）运用土产货资源，以及更好的函数调用来操作土产货开导功能，这适用于手机、机器东说念主等种种开导。

骆轶航：这是一种降本增效的才智。

李大海：这是具身化的标的，与 o1 的标的所有这个词不同。

骆轶航：周总，您怎么看待面壁智能这种双向奔赴的想法？即是端侧模子不停变小，而模子性能不停升迁，它们最终会在 vivo 手机上再会，这件事可能已毕吗？

周围：我畸形招供大海总对模子端侧化的旅途。这是咱们必须攻克的难关，无论是具身智能照旧手机智能末端。改日手机的智能不会局限于某个功能的升迁，而是深度交融的个东说念主智能呈现。要是靠云表感知会太慢，而况出于秘籍和价值不雅磋议，数据不行离开末端，必须有端侧惩办决议。另外，手机每天要进行数千次土产货决策，要是王人在云表处理，资本和性能王人无法汲取。比如输入法选词，东说念主眼需要每秒 26 个字的速率才嗅觉通顺，这莫得端侧智能是无法已毕的。

咱们在 10 月 10 日发布的 3B 端侧智能，性能是前年 7B 的两倍。前年 7B 主要用于转录、概要和文生文，但无法处理复杂的逻辑拆解，是以咱们开发了 13B，肆意 13B 需要 7 点几 G 的内存，3B 需要 3 点几 G 的内存，磋议平直机经常是 8G 内存，咱们最终遴荐了 3B 看成端侧尺度尺寸。3B 仅需 1G 内存，400 毫安电流，每秒 80 字，能很好地撑握感知、推理、决策、牵记和实践功能。

除了基础端侧化，咱们还要为智能端侧化作念储备。本年 vivo 不仅已毕了 3B 的端侧化，还完成了审核才智的端侧化。诚然审核用的是百亿级模子，但只需要几十兆内存。咱们还已毕了语音大模子的端侧化。咱们的策略是将现存云表才智尽可能端侧化，只保留慢推理在云表。

为什么已毕端侧智能，非得靠手机？

骆轶航：慢推理许多时候是深度推理，基于想维链的深度推理的放在云侧，其他能放到端侧的极限化放到端侧。周围真挚刚才讲这个 13B 的模子占 7G 内存放平直机，某种程度上来说，端侧模子是手机花样物理极限，推着专家要已毕它，专家拚命为它想办法的肆意。然而为什么非得是手机？为什么手机是 AI 模子已毕最好的花样？而不是其他的开导？自然周总可能会说，我是作念手机的，它折服是最好的花样，咱们怎么看待这个问题？

周围：咱们的首创东说念主沈炜沈总认为，AI 是不行创造一个全新品类的。它只可把蓝本已有的品类作念到体验更好，这是咱们的恒久主义，或者是庸俗心的坚握。是以咱们认为因为手机当今是一个比较大的行业，是以咱们先在手机上落地。践诺上咱们不错看到，像 AR、VR、AI Pin 这些品类王人存在，是因为这些品类，交易化的范畴不是太大。是以 AI 进入影响力小，范畴小，但是我信赖 AR 眼镜当今仍是很好的在进入，很快看到茁壮了。

骆轶航：vivo 也不单是是家手机公司。大海真挚怎么看？为什么手机是最合适的 AI 场景？

李大海：从抽象角度看，手机领有最丰富的数据，因此 AI 在手机上能施展最大价值。在与作念 AI 硬件创业的一又友换取时，他们必须回答一个问题：为什么这个 AI 硬件功能不行在手机上已毕？这阐发手机自然具有很强的竞争力。

周围：手机是绽开的生态，咱们不测取代任何行业，只是在作念麇集和均衡。咱们认为，改日具备大模子撑握的手机，在才智分发和行业分发方面，与传统智高东说念主机的交易模式并无践诺互异。

骆轶航：会有进一步的演进吧？

周围：无非是从蓝本的应用治安、应用商店，转向智能体分发。

骆轶航：这个话题很值得深入规划。

李大海：我想骄横一下刚才的不雅点。从头硬件角度看，关键是要判断新智能硬件是否有存在必要，照旧其提供的价值手机王人能已毕。要是手机能已毕，这个智能硬件就难以在交易上存身。手机确乎有大王人场景和数据，AI 势必能在其上施展更大的杠杆作用。自然，咱们也看到 AR 眼镜和 AI Pin 这类产物在弥补手机的不及，因为手机经常需要用户主动交互才能获取信息。比如咱们聊天时，手机并不行、也不应该监听内容。这些新开导不错看成手机以外的紧要数据来源。当这些强输入开导的数据与手机数据联接，手机仍然能施展广博的关键作用。是以我认为手机地位相配紧要。

骆轶航：它在麇集场景、麇集数据、归集数据方面是很好的关键。

李大海：对！

骆轶航：手机是个很畸形的开导，这个尺寸拿在手里很方便，不错进行多种操作，分量适中，有满盈的内存和算力，能已毕许多存储场景和其他功能。

李大海：咱们开打趣说，手机仍是成为当代东说念主的 " 器官 "。你刚才提到的接入资本是个很好的说法，手机与东说念主的联接资本很低。比拟之下，脑机接口、AR 眼镜等新决议的使用门槛王人很高。这种低接入资本是 AI 难以取代的价值。

骆轶航：我玩过多样 AR 眼镜，那些开导接入体验很酷，场景也很好奇瞻仰好奇瞻仰。我当今用的手机是 Pixel 9 Pro，它能一键叫醒 Gemini，Gemini 不错全局操作数据，能帮我查找特定内容，操作深度很强。我发现要是模子和手机王人满盈好用，联接起来成果畸形棒，这给了我很大启发。

李大海：因为 Gemini 和 Pixel 是 Google 的官方手机，它运用系统才智已毕了 Gemini 和 Pixel 的双向集成。

为什么手机上的 APP 会演化成个东说念主智能体？

骆轶航：这样看，vivo 亦然双向集成。一个模子，通过肖似 OriginOS 这样的系统，与开导交融亦然可行的。说平直机体验的改革，咱们来具体分析一下周围总之前提到的不雅点。曩昔手机系统主要作念应用分发，一个手机装几十个 APP，系统要能调用更多功能。而当今像 vivo 的"蓝心小 V "，以及 Google 的 Gemini，它们在手机上调取 APP 的才智很强。改日这种调取，会从调取 APP 转向调取个东说念主智能体。我看到有东说念主握不同不雅点，认为改日手机上不会有那么多 APP，刚才和王丛总暗里换取时也谈到这点。跟着 AI 的深入发展，您以为东说念主们敌手机的使用体验会有哪些变化？咱们照旧很爱好图形交互界面（GUI），但这种花样可能会如何演变？

周围：手机是东说念主与数字天下的麇集桥梁，咱们通过手机使用多样劳动和功能，包括听、说、看、触、拍、扫、感知等。跟着大模子的引入，势必会出现极致的体验升迁。比如本年 vivo 发布的手机已能想法苗语、粤语等少数民族讲话和方言，还能识别情谊并作念出申诉。就像从电阻式到电容式触摸屏的变革带来了更自然直不雅的交互体验雷同，大模子也带来了创新性变化。当今手机不单是点击滑动，还能已毕通顺的查按拖拽和圈选等操作，这背后王人有大模子的撑握。

介怀图识别方面，比如当用户圈选一个地址时，系统会立即判断用户是想保存、导航照旧共享。咱们 vivo 手机的智能岛会相应推出舆图、便签、好友等功能。咱们并莫得取代生态，而是更好地整合了微信、舆图、便签等应用。简言之，曩昔是东说念主找劳动，当今是办当事者动呈现。更进一步的是主动决策，比如系统发现你可爱川菜，会主动商议是否需要订餐。这是咱们 2024 年的基础建筑责任，到 2025、2026 年，咱们会不停完善这些场景和应用，升迁用户体验。

骆轶航：也即是说，多模态才智和模子才智会推动更多手势和操作的识别，不单是触屏交互，而是识别动作意图并保举相应劳动，已毕自主筹画。

周围：对。智能体的出现，比如百度高德、腾讯音乐推出的智能体，咱们看成手机麇集中心，推出智能体广场，让多样智能体在这里与用户高效匹配。

骆轶航：同期亦然顾问中心。

李大海：亦然麇集中心和分发中心。

周围：看成手机厂商，咱们要作念基础建筑责任，要为百度舆图、高德舆图等数据的接入制定行业寰球尺度。

骆轶航：那么"智能体广场"是什么？是不是即是智能体的应用商店？它有什么接口尺度？什么是智能体？什么是得当尺度的智能体？咱们是否在推动与国度磋议研究机构和官方设立这样的尺度？友商在作念什么？

周围：我来解释一下，咱们本年发布了 vivo 对于智能体的白皮书。但咱们不是要独自构建生态，而是要共建。下个月，咱们会规划各家决议，详情手机行业尺度，然后与互联网厂商对接，临了飞腾到工信部、信通院等行业尺度。

李大海：咱们也不错参与这个样貌。前年面壁智能就得回了行业招供，被认为是最懂 Agent 的大模子公司。

骆轶航：年头发布会时，以为你们在 Agent 方面有动作，肆意出来的是小模子。

李大海：咱们本年发表的一篇论文在硅谷引起很大反响，主要规划改日 Agent 之间如何通讯和协同。从期间角度看，改日每个 APP 厂商王人会很快提供我方的智能体（Agent）。关键是围聚用户的 Agent 如何运用这些 Agent 组合，创造全新的个性化劳动。这种 Agent 间的协同将相配紧要。最近咱们看到有厂商在作念 GUI Agent，模拟用户点击，但从永久来看，原生 Agent 与其他 Agent 协同劳动用户是更好的花样。这势必会带来手机厂商和应用提供商交易模式的变化，这是个很好奇瞻仰好奇瞻仰的问题。

骆轶航：咱们看到硅谷许多公司王人在作念不同界限的 Agent，王人强调 Agent 间协同。但 Agent 协同之上的框架应该撤职什么尺度，在什么场景已毕？比如法律和财会两个 Agent 表面上王人劳动于一个公司，应该协同，但可能需要一个平台或智能体广场来已毕。

李大海：需要有发现机制和斡旋合同。

骆轶航：就像曩昔的通讯合同尺度雷同，该撤职的尺度照旧要撤职。

周围：vivo 建议了惩办决议，只是投砾引珠。咱们但愿芯片厂商、大模子厂商、手机厂商、互联网应用和劳动供应商能联袂合作，共同完善这个惩办决议。

骆轶航：共同建筑这样的生态。

李大海：车同轨，车同轨才能设立斡旋大阛阓，阛阓才能茁壮。

骆轶航：斡旋大阛阓最紧要的即是车同轨免费最新伦理电影，车同轨。全球这样多通讯合同尺度的设立王人是挑升想的，这方面还不错作念更多事情。今天最紧要的是规划了端侧模子与智高东说念主机的联接能创造哪些场景、应用，以及新的通讯合同和尺度，如何推动咱们进入个东说念主智能体麇集的新阶段。当今你们想法我为什么蓄谋已久这个才能了，一个从手机层面，一个从模子层面，王人在智能体方面作念好奇瞻仰好奇瞻仰的探索，这是很好的组合。这个才能就到这里，但愿产业间能保握互动和配合，AI for Real。谢谢周总，谢谢大海！