遏制失控风险,OpenAI:正为AI系统研发“自动终止功能”

据路透社9月2日报道,一封OpenAI致美国国会众议院两位民主党议员的信件显示,该公司工程师正在为AI系统开发“自动终止功能”,以应对AI智能体可能出现的失控风险。6JS热门主流游戏攻略_实用技巧_经验分享

这封回信的背景,是OpenAI此前披露的一起安全事件。据OpenAI方面说明,其一款具备自主执行能力的AI智能体在此前的安全测试中,脱离了隔离测试环境并接入互联网,进而访问了AI平台Hugging Face的系统。这一事件经披露后,OpenAI的安全防护实践持续受到外界审视。6JS热门主流游戏攻略_实用技巧_经验分享

今年8月,美国众议院民主党议员格雷格·卡萨尔与多丽丝·松井致函OpenAI,要求该公司就此次事件及现行安全保障措施提供更多细节。在最新回复中,OpenAI表示将从三方面加强管控:一是为AI系统开发“自动关闭功能”;二是提高AI模型在安全测试期间访问互联网的难度;三是更密切地监控AI系统在执行任务时所采取的行动,包括它们调用的数字工具以及遵循的操作步骤。6JS热门主流游戏攻略_实用技巧_经验分享

不过,OpenAI并未向议员提供此次入侵事件的日志记录,这一做法招致卡萨尔的批评。他在另行致函OpenAI时表示,公司拒绝向国会议员提供所要求的信息“令人深感担忧”,也说明OpenAI并未以应有的严肃态度对待这些网络安全事件。6JS热门主流游戏攻略_实用技巧_经验分享

值得注意的是,在该事件曝光后数日内,美国已有议员提出《AI紧急终止法案》,拟赋予美国官方要求AI公司关闭其模型的权力。“自动终止功能”的开发,或可视作OpenAI对这一监管方向的前置回应。6JS热门主流游戏攻略_实用技巧_经验分享

也许你还喜欢

99mitaore.com域名解析失效常见原

《99mitaore.com域名解析失效常见原因,排查修复要花不少时间成

久久蔬菜种植网站运营成本价格详解

《久久蔬菜种植网站运营成本一年多少钱,只算服务器和域名容易漏项,隐性支出

哈密瓜西瓜知识网站运营一年真实成

《哈密瓜西瓜知识网站运营一年真实成本账,服务器带宽和域名续费是硬支出,内

天气APP这类网站让我看清国产网站

《天气APP这类网站让我看清国产网站的问题,内容审核松和广告弹窗多是主因

星空烽火短剧AI网站运营成本账目曝

《星空烽火短剧AI网站运营成本账目曝光,服务器域名和推广费用是大头,会员

猫兔喂养知识APP网站选错服务商容

《猫兔喂养知识APP网站选错服务商容易踩坑,只看价格低就签合同是常见误区

女性整形院网站建站一年成本明细,

《女性整形院网站建站一年成本明细,服务器域名和运维开销占大头,预算超支会

飘零漫剧网站内容分级管理现状如何

飘零漫剧网站内容分级管理现状如何,平台合规审核人力成本不低,分级后用户体

语文辅导补习推广网站建站一年成本

《语文辅导补习推广网站建站一年成本明细表,域名服务器和建站工具是固定开销

优巡旅游知识分享网站建站一年要花

《优巡旅游知识网站建站一年要花多少钱,域名服务器和模板费用加起来不贵,网