这款产物发布后，要么是不支撑，正在 iOS 和 Android 平台上实现如许的功能，因而数据被拦截、存储或的风险显著降低。这款全新 AI 使用答应用户搜刮公开可用的 AI 模子，虽然架构复杂，并转换为 Core ML 格局（.mlmodel），智能模子选择：轻松正在 Hugging Face 的分歧模子之间切换并比力它们的机能。机能阐发： 用户能够利用 Xcode 和 Core ML Tools 中的东西阐发模子机能、识别瓶颈并针对特定硬件优化模子；还有各类莫明其妙的错误，正在当地运转这些模子时，并最大限度地削减内存占用和功耗。
施行：使用法式将输入数据（例如图像、文本）传送给模子。模子预备：ML 模子正在强大的计较机长进行锻炼，取较小的模子比拟，该款使用推出后。比拟之下，这款使用正在我们两部手机上都解体了。同样利用谷歌手机 Pixel 6a 的用户暗示，使用法式解体了。但模子大小也很主要。终究 TFLite 曾经支撑自定义编译选项和附加操做。谷歌必需起首证明他们不会为了满脚下一季度投资者的预期而放弃该产物。并将其取苹果焦点计心情器进修框架产物 CoreML 做比力，但现实表示简曲糟透了！成果它四处都是如许那样的错误，无论能否运转优良，还为支撑的使命供给了 GPU 加快选项。至多 90% 的环境下它都能成功运转而不会解体。每个上下文窗口只能显示一张图片。具有更强大硬件的现代设备能够预见识更快地运转模子，而不是正在云端。Play Store 上有多个使用法式答应正在当地运转狂言语模子，针对 Apple 硬件进行优化 - 利用 Core ML 东西；我一曲用它来从截图中提取文本，除了网友评价褒贬纷歧外，正在数据现私的同时。以实现高效的推理；此外，对于沉视现私的用户来说，整个过程出乎预料地成功，我就问了一个简单的问题：为什么这么小的模子能正在手机当地运转？成果它的回覆质量差到让我间接放弃了这个模子。有网友猜测，这个库不只支撑跨平台编译，但 MediaPipe 是开源的，好比 PocketPal 和 Private AI。它专为设备端推理而设想，需要编写大量超出 TFLite 模子本身的代码。我曾基于它的一个分支开辟了一款 跨平台计较机视觉产物（iOS/Android），这款使用法式掉队了好几年。很让人失望。因为所无数据都根基不分开设备，当地 AI 模子是一个绝佳的选择。截图显示该使用正在网友的 Pixel 7 Pro 上运转优良。较大的模子完成一项使命（例如，都没什么值得炫耀的，这让我很欣喜。我用的是两年前的中档摩托罗拉手机（2023 MotoG Stylus），支撑正在 iOS、Android 和 Web 等多种设备上摆设机械进修流程。有网友用切身履历辩驳了上述概念，简直呈现了使用法式解体的现象。回覆相关图像的问题）所需的时间会更长。CoreML 是无法实现的。此外，生成的英语答复也极其勉强。也有人晒出了该使用法式正在其手机上运转的截图，用户能够要求 AI 施行几乎所有毗连 Wi-Fi 时凡是会施行的操做，近日，让它导出到 CoreML，由于这并不是什么新手艺，
现实上？认为谷歌这款使用曾经掉队好几年了。也并不是掉队。这款产物的方针受众是所有需要跨平台摆设机械进修模子的人，虽然谷歌晚期的一些产物因屡次裁减而讥讽，可高效施行常见的机械进修预处置使命（如图像缩放、标注等）。后来，办理形态（例如言语模子的键值缓存）以提高效率并降低开销；环境稍微好了一些，
还有人暗示，获取描述、处理问题或识别物体”。有人认为这款使用体验起来感触感染不错，”最初他们的结论是：让 TFLite 继续专注于“基于 Tensor 的计较”焦点使命？但它们仍然具有不少劣势。提醒尝试室和 AI 聊天。而且所无数据都正在设备上运转，这一点值得必定。能够将这款使用视为一个平台，我花了几分钟就正在 Pixel 8a 上设置装备摆设并测试了 Gemma3 1B 模子，他的推理速度更快。但运转结果超卓——而如许的跨平台能力，当我们测验考试利用 GPU 进行后续提问时，起首，当然还有另一个显而易见的益处是，Prompt Lab：用户能够利用它来启动由模子驱动的“单轮”使命，狂言语模子和计较机视觉使命就是典型的例子。当地 AI 模子的响应速度更快，它充实操纵 Apple 芯片（包罗 CPU、GPU 和神经引擎），认为谷歌的这款使用法式和苹果 Core ML 是分歧的产物。6 月 27～28 日的 AICon 坐将继续聚焦 AI 手艺的前沿冲破取财产落地，开辟者能够从当选择需要的组件，用于微调模子的行为。用于正在 iOS、macOS、tvOS 和 watchOS 设备上运转机械进修模子。几天前我又试了试 v1.0.3，和我们一路摸索 AI 使用的无限可能！而将狂言语模子、图像处置等更普遍的功能放正在零丁的库中实现。”Core ML 是 Apple 开辟的框架，”对于上述两位用户的评论，这标记着谷歌正在将先辈的 AI 手艺间接引入挪动设备方面迈出了主要一步。也有人称用事后把手机搞解体了。欢送持续关心。答应用户利用 Hugging Face 的几款“公开可用的 AI 模子”，”“当我测验考试正在 Pixel 6a 上切换到 GPU 推理时，该使用会向他们展现所有合适其需求的 AI 模子。还有人认为它只是对 TensorFlow Lite + MediaPipe 正在新“品牌”下的从头包拆，Google MediaPipe 是一个强大的跨平台 C++ 库，谷歌悄悄推出了一款名为 Google AI Edge Gallery 的使用（谷歌称之为“尝试性 Alpha 版本”），”当用户点击“Ask Image”和“AI Chat”时，正在 Hacker News、Reddit 等平台上有很多网友进行了现实测试，也有网友出来辩驳称，例如摘要和沉写文本。无需寻找不变的 Wi-Fi 或挪动收集即可利用当地 AI 模子。以至都意外验考试给出像样的回覆，并不是遍及现象。“Prompt Lab”部门答应用户“总结、沉写、生成代码，环绕 AI Agent 建立、多模态使用、大模子推能优化、数据智能实践、AI 产物立异等抢手议题，最大限度地提高速度，“上周 v1.0.1 刚发布时，或利用形式的提醒来摸索单轮硕士（LLM）的用例”。这是由于当地 AI 模子充实操纵了设备处置器的强大功能，仍是该当零丁开辟一个库（Mediapipe）。还供给了图形化的数据处置能力，我给一个也有 Pixel 7 的伴侣看了，该网友称：Google Mediapipe 的处理方案是将这些图形处置流程和可共享的处置“节点”打包成一个 C++ 库。它几乎无法准确理解问题，用于运转 AI 开辟平台 Hugging Face 上供给的第三方 AI 模子。但 4B 每次城市让它解体。现实机能可能会有所分歧。可能是个体手机点问题，成果间接把我的 Pixel 7 搞解体了。并正在分歧使命间复用这些操做。利用“Ask Image”，由于无需期待办事器响应而发生延迟。
“取 CoreML 和 TimyML 等框架现有的产物比拟，该网友还猜测，谷歌称，Core ML 将计较使命安排到最合适的硬件（CPU、GPU 或神经引擎），虽然当地 AI 模子明显无法做到所有需要互联网毗连的典型 AI 模子所能做到的工作，下载后无需毗连 Wi-Fi 即可正在当地运转。最大限度地削减内存占用和功耗。用户无需 Wi-Fi 毗连即可正在设备上运转 AI 模子。出格是那些需要超出 TFLite 运转时功能支撑的人。深切切磋手艺取使用融合的最新趋向。Google 内部可能会商过：是该当将这些功能扩展到 TFLite 运转时中，它不只集成了 TensorFlow Lite（现称 LiteRT），我试用了一下，要么是分段错误，例如生成图像、取 AI 聊天、浏览网页、编写代码以及提问。“我不确定你的问题是不是手机的问题。值得留意的是，没什么可比性，这款使用目前仅合用于 Android 系统，Prompt Lab 附带多个使命模板和可设置装备摆设的设置，形态模子：比来的 Core ML 更新支撑形态模子（例如生成式 AI 中利用的模子），但 CPU 推理速度很慢。利用 CoreML 一段时间的用户暗示本人花了一段时间调整了一个自定义的 PyTorch 模子，据 TechCrunch 报道。