IT之家6月7日音问，微软商量东说念主员发现，Anthropic旗下ClaudeCode的GitHub自动化经由存在一处缺点，该缺点可能导致抓续集成/抓续部署（CI/CD）职责流中的玄机信息暴露，膺惩者或可通过教导词注入膺惩窃取敏锐凭据。

微软胁迫谍报团队在监测到公开代码库中出现针对东说念主工智能接济型GitHub职责流的教导词注入尝试后，驱动了本次商量。

据IT之家了解，教导词注入是一类东说念主工智能安全缺点。膺惩者会在大模子处分的本色中镶嵌误导性指示，以此操控模子行径。大型谈话模子的成例筹划逻辑是罢免开发者指示、响愚弄户发问，而膺惩者会设法糊弄模子，使其无视预设指示。

商量东说念主员例如诠释，有膺惩者将注入指示藏在HTML戒备中。这类本色在GitHub展示界面中不见解，世界杯(中国)但读取原始Markdown源码的东说念主工智能模子却能识别。涉事代码库其时借助GitHub自动化经由来自动处单干单问题。

膺惩者可将坏心指示伪装成世俗的功能需求，无需得回神色修改权限，仅需提交一条GitHub工单，就能糊弄东说念主工智能机器东说念主代为引申修改操作。

微软阐明，同类教导词注入妙技相通可针对Anthropic的ClaudeCodeGitHub自动化经由发起膺惩。此前Anthropic已为部分器用（例如可让Claude在系统中引申敕令的Bash器用）树立了沙箱防护。

但微软发现，Claude用于读取文献的读取器用并未受到同等安全界限。

商量东说念主员制作了教导词注入膺惩载荷，对该缺点进行考证测试。测试中，坏心教导词告成绕过两层防护，勾搭这款东说念主工智能助手读取了存放着愚弄神态接口密钥过火他凭据的系统文献。

微软于4月29日向Anthropic上报了该缺点。Anthropic已于5月5日发布ClaudeCode2.1.128版块完成开荒世界杯(中国)，通过界限神态对/proc/目次下敏锐文献的拜谒，督察关系信息被造孽窃取。