首页 游戏 软件 资讯 排行榜 专题
首页
AI资讯
乔治霍茨警告AI编程智能体或成软件安全最大隐患

乔治霍茨警告AI编程智能体或成软件安全最大隐患

热心网友
38
转载
2026-05-26

软件开发领域最近响起了一声值得注意的警钟。5月24日,素有“神奇小子”之称的知名黑客、创业者乔治·霍茨(George Hotz)在其博客中发表了一个尖锐的观点:在当下的开发流程中,过度依赖AI编程智能体,可能会成为代价最为高昂的错误之一。

“神奇小子”乔治·霍茨警告称AI编程智能体将成软件最大隐患
乔治·霍茨,图源:WikiMedia

这位因早年破解iPhone和PlayStation 3而闻名,并创立了自动驾驶公司Comma.ai的技术极客,向来以深刻的洞察力著称。而这一次,他的判断源于长达六个月的亲身测试。霍茨尝试了多种主流模型与工具,并结合了其在tinygrad等项目上的实践经验,最终得出了一个结论:这些AI工具确实擅长快速搭建原型,但在决定代码质量的细节处理上,往往力有不逮。

他的核心担忧在于大型组织的盲目应用。AI模型生成代码的速度毋庸置疑,产出的代码从表面上看也愈发“规整”。但问题恰恰隐藏在这种“像样”之下——代码的逻辑缺陷变得更为隐蔽,更难以被察觉。对于经验尚浅的开发者来说,要识破这些AI精心包装的“陷阱”尤为困难。其结果就是,有潜在问题的代码被源源不断地集成到正式系统中,如同埋下了一颗颗定时冲击波,最终将导致惊人的维护成本和难以追踪的隐蔽故障。

这一判断,也标志着霍茨本人在技术哲学上的一次显著转向。他从早期的乐观尝试者,逐渐转变为审慎的怀疑论者。如今,他的立场更接近杨立昆(Yann LeCun)和加里·马库斯(Gary Marcus)的观点,即认为当前的大语言模型并非真正的智能。在他看来,这些模型本质上是高度复杂的统计系统,核心能力在于模仿人类代码的分布规律,而非真正理解问题背后的逻辑。因此,它们可以完美地复刻代码的“外形”,却很难在陌生的、需要深度推理和修正的场景中保持稳定和可靠。

有趣的是,技术圈内对此并非只有一种声音。与霍茨的警告形成对比的是,另一位AI领域的知名人物安德烈·卡帕西(Andrej Karpathy)的态度近来却转向积极。他曾在2025年秋季质疑智能体系统的可靠性,但在GPT-5.4和Opus 4.6等更强大模型发布后,他改变了看法,公开表示AI智能体已经“永久地改变了编程的方式”。

这场顶尖技术专家之间的观点交锋,或许比单一结论更有价值。它揭示了一个关键阶段:AI编程工具的能力边界和潜在风险,正在实践中被重新审视和定义。

来源:https://www.ithome.com/0/955/264.htm
免责声明: 游乐网为非赢利性网站,所展示的游戏/软件/文章内容均来自于互联网或第三方用户上传分享,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系youleyoucom@outlook.com。

相关攻略

乔治霍茨警告AI编程智能体或成软件安全最大隐患
AI资讯
乔治霍茨警告AI编程智能体或成软件安全最大隐患

知名黑客乔治·霍茨警告,过度依赖AI编程智能体可能代价高昂。他指出AI生成的代码虽看似规整,却隐藏着更隐蔽的逻辑缺陷,尤其对新手开发者构成风险,易导致维护成本激增和难以追踪的故障。霍茨认为当前大模型仅擅长模仿代码形式,缺乏真正理解与深度推理能力,其观点反映出业界正重。

热心网友
05.26
AI智能体从聊天到执行开启全民智能助手新时代
AI资讯
AI智能体从聊天到执行开启全民智能助手新时代

当你说“帮我订一家周末的亲子餐厅”,传统AI或许会给你一份长长的餐厅名单;而智能体,则会像一个真正的私人助理,自动核对档期、比较评价、完成预约,甚至把行程同步到你的日历——整个过程一气呵成,无需你反复操作。 时间来到2026年,AI智能体(Agent)早已不再是实验室里的前沿概念,它正实实在在地渗透

热心网友
05.26
百视通星图智能体亮相CCBN2026 让电视屏幕更懂人心
业界动态
百视通星图智能体亮相CCBN2026 让电视屏幕更懂人心

“帮我找找关于江南文化地标的节目。” 话音刚落,在2026年CCBN的展台上,百视通的AI影视智能体已经精准推送了人文纪录片《大江南》中的《天一生水》一集。画面展开,宁波天一阁藏书楼静静呈现——范钦亲题的签条上,墨迹仿佛浸润了四百三十年的光阴,“天一生水”四个字的边角,已悄然爬上了时光的青苔。此时,

热心网友
05.25
商汤绝影舱驾一体智能体亮相北京车展赋能汽车智能进化
业界动态
商汤绝影舱驾一体智能体亮相北京车展赋能汽车智能进化

2026年4月24日,备受瞩目的北京国际汽车展览会盛大开幕。在这场全球汽车科技的风向标盛会上,商汤绝影正式发布了其面向未来的核心解决方案:一套完整的舱驾一体全场景智能体产品矩阵。这清晰地表明,汽车智能化竞争的下半场,正从单一功能的简单叠加,全面转向以“自主智能”为核心的深度体验较量。 从“会聊天”到

热心网友
05.25
超聚变刘宏云解读智能体时代如何破解企业数智化三大困局
业界动态
超聚变刘宏云解读智能体时代如何破解企业数智化三大困局

超聚变独立运营四年来营收显著增长,生态伙伴快速扩展,通过深耕根技术构建全球服务网络。针对企业面临的认知、经济、价值三重数智化焦虑,超聚变致力于成为全栈解决方案提供者,帮助企业将算力转化为业务价值,并规划了从活动级到企业级的“智企”建设路径。通过发布新一代算力基

热心网友
05.24

最新APP

宝宝过生日
宝宝过生日
应用辅助 04-07
台球世界
台球世界
体育竞技 04-07
解绳子
解绳子
休闲益智 04-07
骑兵冲突
骑兵冲突
棋牌策略 04-07
三国真龙传
三国真龙传
角色扮演 04-07

热门推荐

索拉纳现货与合约交易指南:如何选择适合你的投资策略
web3.0
索拉纳现货与合约交易指南:如何选择适合你的投资策略

现货交易直接买卖资产,适合长期持有与新手。合约交易采用杠杆,支持做多做空,收益与风险极高。投资者应根据自身风险承受能力与投资目标,谨慎评估并选择适合的交易方式。

热心网友
05.26
中国占全球人形机器人九成出货量或成下个电动车产业
业界动态
中国占全球人形机器人九成出货量或成下个电动车产业

摩根士丹利报告指出,中国在人形机器人领域已处全球领先地位,预计2025年全球出货量的约90%将来自中国。该产业正处爆发前夜,有望成为驱动中国制造与出口增长的新引擎。凭借规模化制造与供应链优势,中国正推动机器人在仓储、巡检等服务场景落地,预计2030年运行规模将达26万台,开启生产力新。

热心网友
05.26
荣耀600系列京东现货发售 心动购物季抢先下单优先发货
业界动态
荣耀600系列京东现货发售 心动购物季抢先下单优先发货

荣耀600系列于5月25日发布,含元气版、超级版及Pro三款机型,起售价自2294 15元至3399元。新机采用全新“幸运星”设计及3D星河工艺,搭载不同旗舰处理器,全系配备2亿像素主摄与专业防抖,Pro版支持全焦段4KLive直出。京东平台已开启预售,参与“先人一步”计划可享优先发货及多重优惠。

热心网友
05.26
2026年中高端电视选购指南 三星退市后实测推荐
业界动态
2026年中高端电视选购指南 三星退市后实测推荐

三星逐步退出中国市场后,消费者面临重新选择。当前中高端电视市场以MiniLED和大屏为主流。东芝Z7PRO凭借RGBMiniLED和火箭炮音质,提供卓越影音体验;R700则侧重高刷与游戏优化,适合影游用户。飞利浦9599的流光溢彩功能增强沉浸感,长虹85Q10K以智能交互和实用性见长。建议根据自身核心需求选择最合适的产品。

热心网友
05.26
百元价位动态血糖仪哪款性价比最高
业界动态
百元价位动态血糖仪哪款性价比最高

动态血糖仪进入百元市场,挑选需综合考量技术参数。精准度核心指标MARD值普遍低于10%,国产品牌表现优异。数据采样频率存在分钟级差异,高频监测能更细腻捕捉血糖波动。部分产品采用先进酶技术提升抗干扰能力。佩戴舒适性、操作简便性及监测时长也影响长期体验,需根据个人控糖需求权衡。

热心网友
05.26