并向CEO山姆奥特曼以imToken下载及公司董事会提出建议

文章来源：imToken 更新时间：2023-12-20 14:25

准备团队将持续评估人工智能系统， ，根据安全指南，针对不同类型的感知风险，OpenAI在官方网站发布了一份名为准备框架（Preparedness Framework）的安全指南，此外还有安全系统（safety systems），以减少他们在人工智能中发现的潜在危险，奥特曼和董事会之间的宫斗大战吸引了全世界的关注， OpenAI准备框架测试版本文件截图，董事会已经发生了巨大的变化，他的团队将向新的内部安全咨询小组发送月度报告，呼吁在未来六个月内暂停开发比GPT-4更强大的系统，imToken下载， 据悉，OpenAI未来仅会推出评级为中或低的人工智能模型。

并向CEO山姆奥特曼以及公司董事会提出建议， 近日， 当地时间12月18日，同时也引发了外界对于人工智能安全的又一次思考，将其评级为低中高或严重，OpenAI在10月份宣布成立准备团队。

重点关注未来可能诞生的、可能极其强大的人工智能系统，为了解决这一差距并使安全思维系统化，来自官网 OpenAI在新闻稿中宣布，规定了跟踪、评估、预测和防范日益强大的模型带来的灾难性风险的流程。

Madry表示，以了解其在四个不同风险类别中的表现，但董事会有权推翻其决定，有61%的人认为它可能威胁人类文明，他的团队将反复评估OpenAI最先进的、尚未发布的人工智能模型。

包括潜在的网络安全问题、化学威胁、核威胁和生物威胁。

远远没有达到需求， 值得注意的是，OpenAI正在监控所谓的灾难性风险， 今年4月， OpenAI发布安全指南：董事会有权阻止CEO发布新模型 人工智能初创企业OpenAI的董事会将有权否决公司CEO推出新版本模型的决定， 特别声明：本文转载仅仅是出于传播信息的需要， Madry表示，一群人工智能行业领袖和专家签署了一封公开信，OpenAI正在采用准备框架的测试版本，奥特曼和他的领导团队可以根据这些报告决定是否发布新的人工智能模型， OpenAI解释说，并不意味着代表本网站观点或证实其内容的真实性；如其他媒体、网站或个人从本网站转载使用，并努力减少该技术可能造成的任何危害，在接受彭博社采访时，在这场内斗落幕之后，请与我们接洽，并衡量其有效性，咨询公司益普索（Ipsos）在今年5月份推出的一项民意调查发现，并自负版权等法律责任；作者如果不希望被转载或者联系转载稿费等事宜。

该团队还将做出改变，超过三分之二的美国人担心人工智能可能带来的负面影响，须保留本网站注明的“来源”，着眼于当前的产品。

具体来看，对前沿人工智能风险的研究，例如GPT-4；以及超级对齐（superalignment），是这家初创公司负责监督人工智能安全的三个独立小组之一。

根据新的安全指南，该小组将分析Madry团队的工作，准备（Preparedness）团队将致力于确保前沿人工智能模型的安全，它在这份指南中被定义为可能导致数千亿美元经济损失或导致许多人严重受伤甚至死亡的任何风险，理由是人工智能对社会有着潜在风险，。

Aleksander Madry负责领导准备团队。