在生成式AI落地普及的进程中，云端部署方案依赖稳定网络、存在数据泄露风险、响应延迟高等问题一直是行业痛点，端侧AI凭借数据本地化处理、低延迟、高隐私性的优势，成为当前生成式AI落地的核心方向之一。小米端侧文本是由位于北京市的美卓软件设计（北京）有限公司开发的生成式AI产品，于2024年12月27日完成国内生成式AI服务备案，备案编号为Beijing-XiaoMiDuanCeWenBen-202412100047，是国内为数不多面向消费端与中小B端的轻量化端侧文本生成产品，填补了中小场景端侧文本生成工具的市场空白。

作为一款专注端侧部署的生成式AI文本产品，小米端侧文本核心功能覆盖全场景文本创作与处理需求，既支持日常场景的内容生成，也可完成专业场景的文本优化处理。具体来看，核心功能包括：基础文本生成，可根据用户提示快速生成文案、故事、问答回复、工作报告等各类内容；本地文本处理，支持端侧内的文档润色、摘要提取、格式转换、多语言翻译等操作，所有处理过程无需上传源文件；离线推理服务，在无网络连接的环境下仍可正常完成全部文本操作，完全摆脱网络依赖；自定义模型微调，支持用户基于自身本地语料对基础模型进行小参数微调，适配个性化使用需求，且微调过程全程在本地设备完成，不会泄露语料数据。

技术特点方面，小米端侧文本依托蒸馏裁剪后的轻量化大语言模型架构，在保证文本生成质量的前提下将模型参数压缩至可适配消费级终端设备的规模，可在主流智能手机、轻薄笔记本、边缘计算盒子等普通硬件上稳定运行；产品采用全链路本地化推理技术，所有用户输入与生成内容全程存储在用户本地设备，不会上传至开发者服务器，从底层架构层面保障了用户数据隐私安全；同时，端侧直接推理的架构也将单轮文本生成的响应延迟压缩至百毫秒级别，相比云端文本生成产品响应速度提升80%以上，大幅改善用户的交互体验。

从应用场景来看，小米端侧文本的适用范围覆盖多个领域：对于个人用户而言，可在出差、通勤等无稳定网络的场景下随时完成文案创作、信息整理，也可处理包含个人隐私的日记、财务记录等敏感内容，无需担心数据外泄；对于中小微企业用户，可用于内部涉密文档的整理、摘要生成，或是线下门店离线场景的宣传文案生成，不需要投入高额的云端服务器成本就能享受生成式AI的便利；对于移动办公从业者，可在网络信号不佳的户外办公场景正常使用AI辅助工具，不会因为网络中断影响工作进度；此外，这款产品也可适配智能硬件厂商的离线AI交互需求，嵌入离线智能办公本、本地智能终端等设备，为硬件产品提供本地AI文本能力支持。