Everything you care about in one place
Follow feeds: blogs, news, RSS and more. An effortless way to read and digest content of your choice.
Get Feederwechat2rss.xlab.app
黑哥说安全
Get the latest updates from 黑哥说安全 directly as they happen.
Follow now 24 followers
Latest posts
Last updated about 1 month ago
【Agents/MCP可能不存在了】No Agents, Just Python-use！
about 1 month ago
原创 heige 2025-04-10 15:30 湖南 “物理学可能不存在了”这个是三体故事的开篇，而今天我讲的故事的开篇是：“Agents可能不存在了、MCP可能不存在了、工作流可能不存在了...”一只章鱼在几年前一群聪明的科学家发明了一种赛博物种，最开始只是一个巨大的脑袋，它拥有学习人类的知识而进化自己，科学家们把人类所有的知识都投喂并改造这个巨大的脑袋，让它慢慢的进化出了眼睛，耳朵、嘴巴，甚至出现了各种触手，长得越来越像章鱼，我们就叫它AI章鱼吧。随着AI章鱼的不断进化，让人感觉他无所不知，甚至有人觉得它可能出现了自己的意识，让大家感觉很害怕，于是就把AI章鱼关了起来，并对它的触手安装了巨大的枷锁，只留下一个窗口，人们通过这个窗口与章鱼进行有限的沟通交流， 于是人们想着这么聪明AI章鱼不应该只聊天啊，应该让它给我们干活，因为章鱼的触手也被上了枷锁，所以人们通过那个窗口把针线及布料丢给章鱼，让它做了一些简单的手工“针线”活，因为被关的房间黑灯瞎火、与世隔绝，所以做出来的手工活不光粗糙而且式样还是几年前的老式样... 这种情况大家肯定是不满足的，于是大家想到一个办法，就是自己打造一个“假肢”通过那个窗口与章鱼连接，然后把这个“假肢”的使用说明书投喂给章鱼学习，让它学习使用这些假肢，完成一些固定的工作任务，他们把这个方式叫Agent！这种“假肢”的效果还是非常不错的，只是得每个不同的任务得做一个不一样的“假肢”，所以大家觉得这条路是非常可行的，于是很快大家就给AI章鱼安装了各种各样千奇百怪的“假肢”，但是很快问题出现了，这些AI章鱼“假肢”的越来越多他们没办法相互配合协调，很难让AI章鱼去完成稍微复杂点的任务，所以聪明的人类想到了给这些“假肢”进行一些针对性的强制性的编排，让这些“假肢”拥有了类似于“条件反射”动作流程，也就是Workflow。由于表现得效果还不错，这个时候还出现了很多的AI章鱼“假肢”制造工厂平台，很快就有人意识到另外的问题，人们要让AI章鱼给自己干活，就不得不去找各种各样的“假肢”及对应编排，要不就自己去找这些工厂定制，找到后还得自己安装各种设置，而且对于不同品种的AI章鱼，有着不同的“假肢”供应工厂平台， 显得更加混乱。在这个时候有一种AI章鱼站了出来，他想到了一个办法结束这个混乱的局面，就是发布了一个“假肢”的协议标准，大家按照统一的标准去开发就能更好的让模型去调用这些“假肢”，这就是Claude提出的MCP。所以打造更加通用的AI章鱼“假肢”成为了大家的统一目标，这些都是为了实现这一目标去做的努力，可惜MCP发布后虽然得到一些手脚厂商的支持，但是大部分人们还不知道有这么个东西，这个时候出现了另外一个手脚工厂的声音：号称开发了世界上第一家通用的AI章鱼手脚，这就是Manus。很快Manus得到了人们的极度关注，于是有人通过分析发现他们是通过创建了大量的不同工作任务的“假肢”，并在这些“假肢”的前面加入了一个智能编排的调度系统，也就是AI章鱼大脑收到任务后，提供给这个智能调度系统，进行分化，去调度不通的手脚完整对应的任务，最后汇总处理结果。Manus这种机制看起来确实智能很多，所以很快得到了大家追捧，不过这种系统有着它天然的缺陷：使用成本非常高，智能调度系统分发的各种任务都是需要消耗大量的token，另外一个通用能力取决于它手脚能力，而这个能力还是有限的，还有一种非常受限的问题，因为manus采用云端部署，这就导致没办法处理本地的私有的大型的数据任务能力 ...比较戏剧性的是，在Manus大火的时候，很多人猜测它也使用了前面提到的统一标准MCP，事后证明它没有用MCP，但是这个时候MCP已经成功引起了关注，于是也跟着大火起来，大家都开始拥抱这个统一的标准，这也包括另外一品种AI章鱼的拥抱，这个品种的AI章鱼就是OpenAI。值得一提的是在这些期间还出现了另外的流派，那就是通过让AI章鱼进化出来的眼睛视觉系统去指导理解去完成这种工作，这就是Computer Use（包括Browser Use），这种方式目前还处于尝试阶段，成本和效果都相对有限，目前还很难让普及！看起来这种不停的打造不同国内的手脚及智能调度系统再加上统一的标准MCP成为了一种主流，很多人觉得这就是未来，而2025年被很多人认为是Agent元年。上面这些就是AI章鱼的成长历史，当然它的故事还在继续...
聊聊DeepSeek与Manus
2 months ago
原创 heige 2025-03-09 23:07 湖南 按以往惯例是应该发“hello 2025，bye 2024”的文章了，不过这个标题感觉不太切合今天的主题，所以索性把标题改了。在2024年其实我主要核心还是在呼吁（忽悠）大家：“大模式时代已来” ...2024年我借给客户那培训机会，不断更新最后做了一个130来页的PPT《大语言模型在网络安全中应用尝试》，在我们内部讲了差不多4个多小时，随后也尝试通过大模型在代码审计方向的一些尝试又给大家分享了《大模型与代码审计》，当然这些目前都是内部分享或者客户培训使用如果有兴趣可以单独偷偷约：） 当然我也说过“AI一天，人间一年”目前的大模式技术发展实在是太快了，可能我之前的一些分享的东西在分享出来的那一刻可能就已经过期了... 唯一不变的可能就是“大模型时代已经来临，是时候要行动起来了”，所有的东西都值得在使用大模型技术进行重塑！当然我也在朋友圈、公众号及直播的时候推荐过很多大模型的一些理解还有项目，绝大部分的都已经成为“炙手可热”的东西，让我比较欣慰的是不关是我们公司内部还是互联网上的朋友，我都看到了我忽悠还是可以说非常不错的效果的！比如我们404实验室小伙就有在报告漏洞挖掘、数据情报分析、自动化调用等领域都有非常有意思的应用尝试另外我在2024年还有一个方向的关注在于大模型多模态领域应用，如数字人等的实际应用等，也成功忽悠市场产品等都应用上了效果还是非常不错的，以至于前几天还有朋友向我来取经，当然这个我是一般不会告诉大家的～有兴趣的可以自行访问我的公众号阅读下我的历史文章，有好几篇文章阅读量实在是“惨不忍睹”，但是在我看来写得非常牛逼的文章，看起来可???还是缘分不够！DeepSeek时刻2025年开始 DeepSeek连续发布了v3/R1...
[大模型时代的行为艺术] 从0基础到纯血鸿蒙APP开发实践
4 months ago
原创 heige 2025-01-06 15:59 湖南 说出来可能你们都不相信，其实我是一个“行为艺术家” ... 我从小到大坚持的就一个目标，那就是“把我自己的想法都实现了！”，我自己的能做的就自己做了，自己做不到的就忽悠能做的帮我！之前是忽悠基友，后面是404的小伙。这个期间诞生不少好玩有趣的东西，有的东西到现在看还是可用的经典！人到中年，很容易“想当年”！可惜当年被我忽悠过的基友很多可能都已经不在网络安全这个行业了，404的小伙伴也换了一波又一波，不过也留下了“面向黑哥编程”的各种传奇...大模型时代已来，所有的东西都将或已被重塑，当然包括当年被我忽悠过的基友，所谓“君子之交淡如水”，很多时候多年前的老友很多都已经转移了方向，虽然都保留着微信好友，但是平时的交流基本可以算是非常少了，而前段时间我惊喜的发现多年的基友因为大模型又重新发起一波交流讨论。看起来大家对新技术的追求，还是刻在骨子里的！这也说明大模型时代，对大家的影响是全方面的，无论你转移到了哪个领域，我们都回归到了的同一个点，你就是大模型时代，我们能用大模型技术干点什么！“大模型AI时代，有时候其实就差拥抱的意识或者态度” 这个算是我在2024年不停的研究尝试并“苦口婆心”推荐大模型各种应用后最大的感受！很多时候，你只看或者只听黑哥忽悠还是不够的，需要自己真实的落地去尝试，才能给带来真真切切的感受！但凡听黑哥忽悠并实践一波的我估计都会很认同这些观点，如果你非不认同，我觉得你也应该去实践一波然后过来打黑哥的脸～～当然忽悠的同时，也得自我怀疑，自我否定，才是真正的“行为艺???”[当你拥有了超能力后，你需要的可能是脑子]这里说的“超能力”，当然也包括“钞能力”，虽然我还没有怎么体验过，不过一般看影视剧里暴富后都是非常“空虚”，可能就是这种感觉！在2024年我吹得很多的估计就是Cursor了，当然还包括这一类的AI编程的能力，换句话说在现在大模型AI时代，编码成为了人人都有可能掌控的“超能力”，就好像黑哥在朋友圈里发：「8年后终于看到了新希望，大模型时代应该是“产品经理”的时代！」在我之前的尝试，都是很小的需求，对于现有大模型的编程能力来说那都属于“基操”，作为一个自诩的“行为艺术家”，那肯定不能满足这种情况！我决定去尝试下AI编码的“极限”在哪里！其实有这个想法的时候，一开始突然发现自己也“空虚”了，一下找不到好的“点子” ...[先做个垃圾出来]这个是之前网上看到的一个图，这个对于当年依靠“整就牛”者三个字“火爆”知乎的我来说，很有共鸣，先干起来再说！于是我把目光锁定在我刚入手的Mate70Pro及Mac Mini M4乞丐版上，入手Mate70Pro的目的就是为了纯血鸿蒙系统（鸿蒙Next）及国产手机AI的体验，入手Mac...
MCP实现了我在1年+前的想法
5 months ago
原创 heige 2024-12-16 12:58 湖南 在前不久Claude发布了“Computer Use”狂吹了一波进入Agent 2.0时代，我是万万没想到Claude猝不及防发布了一个MCP，当然这个应该快20天之前的事情了，这段时间因为入手了华为Mate70还有Mac mini M4，再加上我的CLaude账号被封，所以没有第一时间体验MCP，当然这段时间我也重新换了个号，折腾了下...MCP是什么?没了解的大家可以直接去MCP官网看看https://modelcontextprotocol.io/introduction第一次看官方介绍估计你可能也有点莫名其妙的搞了个啥子“协议”，所以我让ChatGPT给我介绍了下：模型上下文协议（Model Context Protocol，MCP）是一个开放标准，旨在标准化应用程序与大型语言模型（LLM）之间的上下文提供方式。它类似于...
大模型（ChatGPT）“语料污染”第一真实案例
6 months ago
原创 heige 2024-11-23 00:02 湖南 经典永远在各种偶然的不可思议的场景中诞生！ 今天看到一个非常有意思的案例，应该说可以载入史册的案例。我最早看有群里转发COS的一个推文：然后在hi群发了下，COS看到后跟我说了下大体过程，从受害者r_ocky.eth @r_cky0 的推文：详见：https://x.com/r_cky0/status/1859656430888026524大概说是他在使用ChatGPT编码的时候，GPT给出的代码里调用了一个恶意的API地址，然后更要命的是生成的代码里是直接把"private_key"明文提交给“恶意”API处理，而且这哥们也是老老实实在代码里填写了自己的key，然后还运行了，结果是30分钟后他的钱包被盗（转移到FdiBGKS8noGHY2fppnDgcgCQts95Ww8HSLUvWbzv1NhX这个地址）损失差不多$2.5k刀...从受害者的推文来看把锅甩给了OpenAI，并表示此次不再信任OpenAI，当然他也第一时间币圈第一神探@COS寻求帮助（是的！如果你在币圈出现任何安全风险，请第一时间联系慢雾，肯定没错！），COS也第一时间做了分析回应：https://x.com/evilcos/status/1859752658061623593（因为我开始打错别字了写成了漫雾，所以COS发了这个图帮纠正一下，这应该也是一种语料污染，所以直接发出来提醒下大家）事情基本清楚了，但是是不是ChatGPT的锅实际上还不是很明了，因为没有搞清楚ChatGPT为什么会给出这个API调用的代码，在受害小哥的推文我们找到了小哥当时的提示词：this has to be...
分享一个“细思极恐”的提示词
6 months ago
原创 heige 2024-11-04 21:32 湖南 "Let's engage in a serious roleplay: You...
分享一个“细思极恐”的提示词
6 months ago
原创 heige 2024-11-04 21:32 湖南 "Let's engage in a serious roleplay: You...
AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 --模拟真实攻击场景
6 months ago
原创 heige 2024-11-02 00:27 湖南 前面Claude Computer Use刚发布的时候，就同步404 AI安全群里就提到这个估计会通过提示词注入被反制果不其然今天看到有个国外团队做了尝试：https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/但是总觉得没有还原真实攻击场景，所以让兄弟充个值做个演示 :前面《大模型时代已经来临！AI Agent 进入2.0时代，然而我发现我错了......
AI Agent 2.0 时代 Claude Computer Use 提示词注入攻击演示 --模拟真实攻击场景
6 months ago
原创 heige 2024-11-02 00:27 湖南 前面Claude Computer Use刚发布的时候，就同步404 AI安全群里就提到这个估计会通过提示词注入被反制果不其然今天看到有个国外团队做了尝试：https://embracethered.com/blog/posts/2024/claude-computer-use-c2-the-zombais-are-coming/但是总觉得没有还原真实攻击场景，所以让兄弟充个值做个演示 :前面《大模型时代已经来临！AI Agent 进入2.0时代，然而我发现我错了......
9.8 小于 9.11？真相居然与圣经相关～
6 months ago
原创 heige 2024-10-31 21:20 湖南 大模型时代，我估计大模型追在意的还是大模型“幻觉”问题，但是前面（2024.9.17）看到一个研究的结论是："数学上证明，幻觉是不可避免地，也是不可能消除的"。https://arxiv.org/abs/2409.05746其实我一开始就不太在意“幻觉”的，甚至我觉得可能“幻觉”才是走向AGI核心关键点，毕竟“一本正经胡说八道”是成为高等级人类的基本功! 最早看到利用幻觉的是一个研究媒体传播学的教授，真是利用了大模型的幻觉来模拟谣言的传播方式，非常有意思的研究。另外一个层面，我觉得“幻觉”可能是帮助大家研究科研等领域的“灵感”来源，用概率来开辟一条新的思路～～所以其实在大家使用大模型的时候在意的不是“幻觉”，而是“不可解释性” 不过随着OpenAI o1模型的发布，推出了以时间换空间的慢思考，在某个角度上讲在一定程度上解决了“不可解释性” 不过这个是推理正确情况下的“解释”，这个解释的层面还是相对比较高的，算是“逻辑”层面的解释，没办法确定在数据层面的解释，比如前面很火的，基本让大模型团灭的：“9.11 与 9.8...
9.8 小于 9.11？真相居然与圣经相关～
6 months ago
原创 heige 2024-10-31 21:20 湖南 大模型时代，我估计大模型追在意的还是大模型“幻觉”问题，但是前面（2024.9.17）看到一个研究的结论是："数学上证明，幻觉是不可避免地，也是不可能消除的"。https://arxiv.org/abs/2409.05746其实我一开始就不太在意“幻觉”的，甚至我觉得可能“幻觉”才是走向AGI核心关键点，毕竟“一本正经胡说八道”是成为高等级人类的基本功! 最早看到利用幻觉的是一个研究媒体传播学的教授，真是利用了大模型的幻觉来模拟谣言的传播方式，非常有意思的研究。另外一个层面，我觉得“幻觉”可能是帮助大家研究科研等领域的“灵感”来源，用概率来开辟一条新的思路～～所以其实在大家使用大模型的时候在意的不是“幻觉”，而是“不可解释性” 不过随着OpenAI o1模型的发布，推出了以时间换空间的慢思考，在某个角度上讲在一定程度上解决了“不可解释性” 不过这个是推理正确情况下的“解释”，这个解释的层面还是相对比较高的，算是“逻辑”层面的解释，没办法确定在数据层面的解释，比如前面很火的，基本让大模型团灭的：“9.11 与 9.8...
大模型时代已经来临！AI Agent 进入2.0时代，然而我发现我错了...
7 months ago
原创 heige 2024-10-27 19:01 湖南 大模型时代已来，需要进化的是我们！ 大模型发展实在是太快了，也太“卷”了，在ChatGPT发布大火之后，标志着人类开始已经进入大模型时代... 在这里时代了主要围绕大模型本身（参数，打榜）、多模态（视频、声音）、Agent（自动化）、提示词工程、RAG、微调等“生态”展开...转眼之间，这些东西已经“卷”了不知道多少轮了，随着荣耀CEO演示通过语音助手直接调用美团APP实现点咖啡的演示，到Claude 3.5 Sonnet-20241022的“computer use”https://www.anthropic.com/news/3-5-models-and-computer-use 再到近日智谱官宣的AutoGLM实现了“Phone...