news 2026/6/11 14:39:52

肉包 Roubao:首款无需电脑的开源 AI 手机自动化助手

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
肉包 Roubao:首款无需电脑的开源 AI 手机自动化助手

项目背景:2025 年 12 月,字节跳动联合中兴发布了「豆包手机助手」,可自动操作手机完成复杂任务。但首批工程机一机难求,二手市场价格居高不下。

于是有了「肉包」—— 一个完全开源、基于视觉语言模型(VLM)的 AI 手机自动化助手。

名字来源很简单:作者不爱吃素。


一、项目亮点

  • 无需电脑:完全摆脱 ADB 数据线与 PC 端 Python 环境,安装 App 即可使用。
  • 原生 Android 实现:基于 Kotlin 开发,截图、分析、决策、执行全部在手机本地完成。
  • 多 Agent 协作机制:借鉴 Claude Code 的设计思想,采用 Tools / Skills 双层架构,实现任务规划与执行解耦。
  • 高度可定制:支持通义千问、GPT-4V、Claude 以及本地 Ollama 等多种模型后端。

二、方案对比

特性肉包(Roubao)豆包手机助手其他开源方案
是否需要电脑❌ 不需要❌ 不需要✅ 多数需要
是否依赖专用硬件❌ 不需要✅ 需要(3499+)❌ 不需要
实现语言✅ Kotlin(原生)✅ 原生❌ 多为 Python
是否开源✅ MIT❌ 闭源✅ 开源
架构设计✅ Tools / Skills 双层❓ 未公开❌ 通常无明确分层
自定义模型✅ 支持❌ 仅豆包模型⚠️ 部分支持

三、整体技术架构

肉包的核心设计理念,是将复杂的 GUI 自动化过程拆解为两个正交维度:

  • 原子能力(How):系统可以“做什么”
  • 用户意图(What):用户“想要什么”

3.1 Tools 层:原子能力集合

Tools 层负责执行最底层、可复用的物理或系统操作,包括但不限于:

  • search_apps:智能搜索已安装应用(支持拼音与语义匹配)。
  • deep_link:通过协议直接跳转到 App 内指定页面。
  • shell / http:执行系统命令或调用外部 HTTP API。
  • screenshot / tap / swipe:基础屏幕采集与触控操作能力。

这些工具本身不具备“目标感”,只负责可靠执行。

3.2 Skills 层:用户意图封装

Skills 层面向最终用户,负责将自然语言意图映射为可执行策略,支持两种核心模式:

  • Delegation(委托模式)
    直接通过 DeepLink 调用本身具备 AI 能力的应用(如小美、即梦等),特点是速度快、路径短、成功率高

  • GUI 自动化模式
    面向普通应用,采用“截图 → 分析 → 操作 → 再截图”的闭环,由 Agent 逐步完成任务。


四、界面与交互展示

肉包采用Material 3设计规范,整体风格简洁现代,支持流畅动画与完整的中英文双语切换。


五、关键依赖:为什么需要 Shizuku?

出于系统安全考虑,Android 普通应用默认无法:

  • 模拟其他应用的点击操作
  • 读取或分析其他应用的界面内容

传统解决方案通常依赖电脑端 ADB,这与“随时随地自动化”的目标相悖。

Shizuku提供了一种优雅且合规的中间方案:

  1. 用户仅需通过无线调试启动一次 Shizuku 服务;
  2. 肉包即可在非 Root 情况下获得ADB 级别能力
  3. 所有敏感信息(如 API Key)均采用AES-256-GCM加密存储;
  4. 一旦检测到支付类页面,系统会自动中止操作,避免风险。

六、快速上手

6.1 前置条件

  • Android 8.0 及以上设备
  • 已安装并启动 Shizuku
  • 一个可用的 VLM API Key(国内用户推荐使用阿里云百炼)

6.2 使用示例

直接对肉包输入自然语言指令,例如:

  • “帮我点个附近好吃的汉堡”
  • “打开网易云音乐并播放每日推荐”
  • “把我手机里最后一张照片发到微博”

七、项目路线图

已完成(v1.x)

  • 原生 Kotlin 核心框架
  • 智能应用分类与语义搜索
  • Delegation 快速路径支持

开发中(v2.0)

  • 无障碍服务混合模式(索引点击与坐标点击自动切换)
  • UI 树感知能力,减少纯视觉分析带来的误判
  • 宏脚本系统,支持操作序列的录制与回放

长期规划

  • 多应用协作,跨 App 联动完成复杂工作流
  • 边缘侧 AI,支持本地运行轻量级 VLM,实现离线自动化

八、开发者指南

如需自行构建与安装:

# 克隆仓库gitclone https://github.com/Turbo1123/roubao.gitcdroubao# 构建并安装./gradlew assembleDebug ./gradlew installDebug

项目地址:https://github.com/Turbo1123/roubao

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/6/11 0:20:35

防止幻觉输出:严格依据上下文生成回复

防止幻觉输出:严格依据上下文生成回复 在企业开始大规模部署大语言模型的今天,一个看似智能的回答背后可能隐藏着巨大的风险——模型“自信地胡说八道”。比如HR员工问:“公司年假是按入职时间折算吗?”系统回答:“是的…

作者头像 李华
网站建设 2026/6/10 0:43:18

待办事项提取:从聊天记录中抓取任务清单

待办事项提取:从聊天记录中抓取任务清单 在每天成百上千条的群聊消息里,你有没有错过某句轻描淡写的“回头处理一下”?那些藏在表情包和闲聊之间的任务指令,往往成了项目延期的隐形杀手。更讽刺的是,我们花三小时开会&…

作者头像 李华
网站建设 2026/6/10 10:44:32

新闻稿撰写助手:快速产出通稿模板

新闻稿撰写助手:快速产出通稿模板 在品牌传播节奏日益加快的今天,每一次产品发布、战略调整或重大合作,都需要迅速输出风格统一、信息准确的新闻稿。然而,传统写作流程往往面临效率瓶颈——写作者反复翻阅过往稿件以保持语调一致&…

作者头像 李华
网站建设 2026/6/10 18:38:42

Vitis中Zynq软硬件协同设计实战案例解析

Vitis中Zynq软硬件协同设计实战:从图像处理看异构系统开发的现代路径你有没有遇到过这样的场景?一个嵌入式项目需要实时处理摄像头数据,ARM主控跑算法时CPU飙到90%以上,帧率却只有十几FPS。你想用FPGA加速,但面对Veril…

作者头像 李华
网站建设 2026/5/30 16:58:51

基于Verilog的组合逻辑电路建模:语法与规范

从零构建可靠的组合逻辑:Verilog建模实战精要你有没有遇到过这样的情况?仿真时一切正常,波形完美,结果正确——可一进综合工具,就冒出一堆“latch inference”的警告。更糟的是,FPGA跑起来后某些输入组合下…

作者头像 李华
网站建设 2026/6/10 18:08:14

零基础理解蜂鸣器电路原理图:通俗解释核心组成

从“滴”一声开始:拆解蜂鸣器背后的电路逻辑你有没有想过,按下微波炉按钮时那声清脆的“滴”,是怎么来的?或者,智能门锁识别失败时那一声短促的“哔——”,背后究竟发生了什么电子魔法?其实&…

作者头像 李华