查看: 212|回复: 1
收起左侧

[IT业界] OpenClaw 创始人建议:不要用小模型 / 旧模型跑高风险任务,有提示词注入风险

[复制链接]
翼风Fly
发表于 昨天 20:25 | 显示全部楼层 |阅读模式
本帖最后由 翼风Fly 于 2026-3-8 20:30 编辑

IT之家 3 月 7 日消息,开发者 Zhongpai Gao 昨天在 X 平台发文,分享自己用 OpenClaw AI 助手配置 GPT-5.4 模型的截图。

659e6f10-a460-40e3-af76-cba99653e4dd (2).jpg

OpenClaw 创始人建议:不要用小模型 / 旧模型跑高风险任务,有提示词注入风险

这名开发者还提到,GPT-5.4 模型在 OpenClaw 的表现似乎比 Claude-Haiku-4.5(小模型)慢一些。不过这则帖文很快引起 OpenClaw 创始人 Peter Steinberger 的关注。

Peter Steinberger 对此表示:“你真的不应该用 Haiku 这类模型,它没有任何提示词注入保护,请仔细阅读文档”。

IT之家注:提示词注入(Prompt Injection)指的是一种特殊的攻击手段,黑客可以通过特殊的提示词让 AI 模型“忘掉”原本的安全规则、泄露机密信息以及执行高危操作。

简单来说,Peter Steinberger 本质上是建议大家不要在高风险任务场景使用 Haiku 等小模型 / 旧模型,这类模型非常容易被注入操控,只适合简单任务或无权限环境。

原文地址:
https://www.ithome.com/0/926/803.htm
翼风Fly
 楼主| 发表于 昨天 20:32 | 显示全部楼层
部分评论:
包括 skill 和一些提示词,其实都有非常高的注入风险
首先,不要让openclaw运行在工作机器上
我不太敢在工作电脑装这玩意,就怕一个失误全部GG
龙虾这个东西很矛盾的地方在于,你把它装在工作主力机上过于危险,但是装在虚拟机或者Docker里又失去了它大部分的意义。如果装在虚拟机里,你还是要手动把文件发给他,那此时和普通的web chat也差不了太多了
权限大风险高不可控的东西太多,暂时观望


所以最好的方式其实是找一台完全不用的电脑/服务器,专门跑龙虾。安装到自己主力电脑上基本上是找事...
您需要登录后才可以回帖 登录 | 快速注册

本版积分规则

手机版|杀毒软件|软件论坛| 卡饭论坛

Copyright © KaFan  KaFan.cn All Rights Reserved.

Powered by Discuz! X3.4( 沪ICP备2020031077号-2 ) GMT+8, 2026-3-9 13:35 , Processed in 0.082457 second(s), 8 queries , Redis On.

卡饭网所发布的一切软件、样本、工具、文章等仅限用于学习和研究,不得将上述内容用于商业或者其他非法用途,否则产生的一切后果自负,本站信息来自网络,版权争议问题与本站无关,您必须在下载后的24小时之内从您的电脑中彻底删除上述信息,如有问题请通过邮件与我们联系。

快速回复 客服 返回顶部 返回列表