一旦我们达到这样一个临界点——模型意识到‘哦，我正在被监视，我想以一种监视者无法察觉的方式去思考这些坏念头’，并且它真的做到了……那麻烦就大了。答案是：诱惑太大了，AI进化的速度已经彻底失控。 当AI比人…
就在Astra发布当天，OpenAI核心研究员Noam Brown接受了一场访谈，把OpenAI训练新模型的真实目标说了出来。 但麻烦在于，这些模型吞噬了整个互联网的数据，而网上到处都是人类关于「如何监控大…
他认为，人类仍有可能找到安全发展人工智能的路径，而自己的下一份工作也将继续聚焦这一领域。更糟糕的是，我们目前并没有走在及时解决对齐问题的轨道上：前沿AI能力的提升速度，远远快于我们对AI对齐问题理解的增长速度…
他警告，递归自我提升（RSI）—— 也就是 AI 系统辅助迭代出能力更强的下一代 AI 模型，如果对齐技术跟不上模型能力的增长，就会产生危险。IT之家注意到，就在恩格尔斯加入 METR 的几天前，Anthr…
谷歌前研究员转投独立机构发声：AI研发过快，安全防护或难跟上
塞耶指出，考克森的言论在发布后的关键几分钟内，被一批“人工智能末日论者”账号迅速放大，这些人认为人工智能导致人类灭绝的风险很高。 这名预测人员还说：“我认为，它们在改变现实世界方面的能力尚未等同于数十亿人…
2024 年 9 月 26 日宣布从谷歌离职，加入 Thinking Machines Lab，担任联合创始人及首席技术官。 佐夫于今年 1月离开 Thinking Machines Lab，当时与他一同离…
佐夫本科毕业于南加州大学信息科学研究所自然语言小组，2016 年入职 Google Brain 从事大语言模型研究，2022 年 8 月加入 OpenAI 参与 ChatGPT 研发，负责后训练团队日常管理及基础模型产品化部署。
内存墙指的是负责计算的半导体器件速度不断提升，但存储数据的内存却无法跟上其速度而导致的瓶颈。
IT之家 8 月 24 日消息，据知情人士向 Axios 证实，知名 AI 研究员 Luke Metz 已加入 Meta的超级智能实验室（Superintelligence Labs）。 Metz 是最新一…
在核心参数与技术指标上，它展现出了极高的上限：其上下文窗口容量达到约104.8万token，最大输出长度为13.1万token，并且全面支持文本、图像与视频的多模态输入，目前在预览期间向开发者提供免费调用服务。
11/10 12:13
11/10 12:11
11/10 12:10
11/10 10:19
11/10 10:18
11/10 10:09
11/10 10:08
京公网安备 11011402013531号