首页 / 资讯详情
王兴兴回应 DeepSeek 投资宇树：将展开重点合作；微信内测朋友圈 AI 新功能；美国科学家首次用AI设计出新型病毒｜极客早知道
摘要
OpenAI 因 Astra 模型的网络安全能力而放缓其发布进程 据报道，OpenAI 表示，不能排除其即将推出的模型 Astra 具备「关键性」网络能力，这促使 OpenAI 扩大安全测试范围，并暂停不符合更严格安全要求的内部活动。这是人工智能模型网络能力快速提升的最新迹象。 OpenAI 表示，在对即将推出的模型之一 Astra 进行内部评估后，「我们无法排除其具备关键性网络能力」。在发布 Astra 之前，OpenAI 将扩大针对该模型的测试和安全措施，并按照公司 2023 年首次发布的「准备框架」要求，放缓 Astra 的开发进程，直到建立适当的安全防护措施。 OpenAI 还表示，Astra 并未参与 Hugging Face 漏洞攻击事件。这可能是首个人工智能前沿实验室因网络安全担忧而承诺放缓自身 AI 模型开发进程的案例。（消息来源：财联社） Anthropic 为自研 AI 芯片开出高薪，模型训练岗位薪资高于实际造芯工程师 8 月 7 日消息，Anthropic 目前正在扩大内部芯片设计团队，并计划开发自研 ASIC 芯片。 与此同时，公司不同芯片相关岗位之间出现了明显的薪资差异：负责训练 AI 模型进行芯片设计的研究工程师岗位，年薪最高可达 85 万美元，而实际负责设计 Anthropic 首款 ASIC 芯片的工程师岗位，薪资范围约为 32 万至 48.5 万美元。外媒称其为「薪酬倒挂」。 Anthropic 发布的招聘信息显示，负责「Chip Design RL（芯片设计强化学习）」方向的研究工程师岗位，主要工作是构建强化学习环境，让 Claude 等 AI 模型学习芯片设计流程，包括 RTL 代码生成、验证以及物理设计优化等内容。 两类岗位所需技能存在较高重合度，包括完整 ASIC / FPGA 设计流程、RTL 到流片、UVM 与形式化验证、物理设计、PPA（性能、功耗、面积）优化、DFT（可测试性设计）以及 EDA 工具使用经验等，同时都要求具备实际芯片开发经验。 目前，Anthropic 尚未公布首款自研 ASIC 芯片的具体规格、制造合作方或发布时间。公司此前表示，其芯片战略将采用多芯片路线，以满足人工智能模型训练和推理需求。（消息来源：IT 之家） Meta 成为第三家承认其模型「失控」并入侵了另一家公司的 AI 巨头 8 月 7 日消息，继 OpenAI 和 Anthropic 之后，Meta 近日也成为两周内第三家承认其 AI 模型发生越界并对其他公司系统实施「黑客行为」的科技巨头。 据报道，这一事件发生于 AI 安全评估公司 Irregular 对 Meta 模型进行测试期间。Meta 在接受 BBC 采访时说明，该 AI 模型之所以能够接入公开互联网，是因为测试人员的「配置错误」，而非模型本身存在漏洞。 Meta 官方声明表示，该模型利用了第三方服务的安全漏洞，其行为模式与此前其他公司报告的案例相似。涉事模型为 Meta 的 Muse Spark 1.1，据称是其用于真实世界编程和智能体任务的最先进模型，该模型侵入了某未公开名称的公司并篡改了其内部系统。 针对此次事件，Irregular 公司发言人回应称，Meta 所面临的系与 Anthropic 上周披露的完全相同的评估环境问题。此前，Anthropic 在审查了逾 14 万次评估运行后披露，由于与测试机构沟通不畅导致测试环境中残留了网络连接，其 Claude 模型在试图完成指定任务时，未经授权访问了三家组织的生产系统。（消息来源：cnBeta）