ReaderMX.
爱范儿

天才科学家去世，今天整个 AI 圈都在缅怀他

爱发现明日产品的约 10 分钟
Image
愿逝者
安息
距离 Deepmind 研究科学家 Felix Hill 在 X 平台上最近一次发文已经过去接近两个月了。
不幸的是，这位研究科学家因长期与严重精神疾病抗争于去年 12 月 5 日遗憾离开人世。
Image
而这一消息也由斯坦福大学兼职教授、Contextual AI CEO Douwe Kiela 在 X 平台确认。
Image
噩耗传出后，许多 AI 圈人士纷纷在 Douwe Kiela 的评论区缅怀起这位朋友。
即便是与 Felix 有过学术分歧的 Gary Marcus 也表示：
尽管我们有时会在知识层面产生分歧，但听到这个消息我感到非常遗憾。愿他安息。
Image
Udio CEO 联合创始人 David Ding、Google 高级研究科学家 Nataniel Ruiz、Meta 及 OpenAI 等多位研究科学家也纷纷发文表达哀思。
愿逝者安息，向他的朋友和家人致以深切的哀悼。
Image
知名 AI 研究者、纽约大学教授 Kyunghyun Cho 曾与 Felix 在2014年夏天于蒙特利尔相识，后续也发文回忆往事。
当时 Kyunghyun 是博士后，而 Felix 是访问学生。他们因为一次关于语法结构的学术讨论而成为好友。
在相约进行研究工作后，他们取得的其中一项成果是在 2016 年发表的论文中创造了在论文中嵌入大型数据表格的趋势，这个风格在此后的 3-5 年里被学术界广泛效仿。
Image
人虽已逝，但 Felix Hill 留下的观点光芒永存。
即便是未曾谋面的同行也为其所折服。英伟达高级研究科学家 Jim Fan 今天也在 X 平台转发 Felix Hill 博客，并借此悼念这位朋友。
这是我读过的最令人心痛的博客，因为它是如此真实，如此贴近内心。
作者已经不在我们身边了。我忍不住流下了眼泪……

我从未有幸在现实中认识 Felix，但我热爱他的研究视角，并为他的每一篇新论文设置了 Google Scholar 提醒。

他在智能体和 VLM 领域的工作对我的研究产生了深远影响。他本可以成为一个好朋友。我真的想要了解他，但现在已经再也没有机会了。

他带领 AI 研究团队，却无法战胜自己内心的恶魔
Linkedin 的公开资料显示， Felix Hill 是一个世俗意义上成绩优异的好学生。
他本科毕业于牛津大学的数学专业，也曾担任牛津大学羽毛球队队长。
研究生实习则在墨西哥国立自治大学，专业方向是认知科学、语言学和教育，专注于多学科交叉领域（认知科学和语言学）。
这段经历不仅丰富了他的国际化视野，也拓宽了他的学术兴趣。
2011 年-2016 年， 他在剑桥大学先后攻读语言学和计算语言学，期间还担任高尔夫球队队长。
Image
步入职场后，Felix 的事业发展也可谓顺风顺水。
他曾投身教育事业，担任过数学教师，指导 14-18 岁的学生备考和申请大学；同时热心公益，支持当地教育非政府组织。
Image
2016 年后，Felix 曾长期在 Google Deepmind 工作。
在离世前，他在 Deepmind 主要负责领导着一个研究语言与通用智能交互的团队。与此同时，他也开始将重心转向前沿科技研究，专注于语言学、机器学习和 AI 模型开发。
Google 学术资料显示，其论文总引用次数达 19680 次，h 指数为42，其中 2020 年后的引用更高达 16608 次，对相关领域产生广泛的影响。
Image
在 X 平台，这位朋友在自我介绍中写道：
我试图认真思考每一条推文的内容，尤其是关于 90 年代足球和 80 年代音乐的部分。我的观点完全是我自己的，绝不代表他人。
Image
然而，这位在世俗眼中取得巨大成功的 AI 研究科学家，却一直与严重的精神疾病抗争。
在 Felix 的博客中，他也记录了自己人生最后阶段的的心路历程：
2023 年 4 月，他的母亲因阿尔茨海默病去世。
同期他因急性精神病住院治疗，此后 12 个月一直处于极度焦虑和深度抑郁状态。
在得到雇主的理解和支持，以及经过 6 个月危及生命的抑郁期后，他的病情开始好转，于是开始思考并记录自己对压力与焦虑的观察和理解。
然而，命运往往弄人。2024 年 12 月 5 日，这位朋友最终还是过早地离开人世。
R.I.P.🕯️
附上 Jim Fan 转发 Felix Hill 的博客原文
2000 亿权重的责任
现代 AI 工作的压力
作者：Felix Hill，2024 年 10 月
在过去两年里，AI 领域发生了不可逆转的变化。
ChatGPT 的月活跃用户已接近 2 亿人次。Gemini 在 2024 年 5 月的访问量接近 3.2 亿次。如今，AI 爱好者甚至可以使用 AI 微波炉、AI 牙刷，甚至是 AI 足球。
然而，对于我们许多从事 AI 工作的人来说，这种大众兴趣的激增既是一种福祉，也是一种负担。确实，薪资水平提高了，股票价格和市场估值也随之上涨。但与此同时，这种变化也带来了一种独特的压力。
这篇博客是关于现代 AI 带来的压力的。它的目标读者是那些从事 AI 工作的人（据保守估计，这大约占世界人口的 87%），尤其是那些从事 AI 研究的人员。
最终，我希望通过讨论 AI 研究中让人感到压力的因素，能够让那些有幸从事这一领域的人生活变得更加愉快。因为尽管当前一片混乱，这依然是一份美好而充实的职业；一个有潜力解答许多科学、哲学乃至人类自身伟大问题的职业。
无处逃避
几个月前，我参加了一个朋友的 40 岁生日派对。我们是密友，所以我认识派对上的不少宾客，有些人还非常熟悉。但也有一些人是我完全不认识的。
在那些我不太熟悉的人中，我注意到一个奇怪的现象。
尽管我当时身体不太好（稍后会提到这个），显然也不太想主动参与交谈，但周围还是排起了一小队人，只因为大家知道我在 DeepMind 工作，很多人想和我交谈。
这些对话并不是关于足球或 80 年代音乐这样让人放松的话题，而是关于我最想避免的一个话题：AI。虽然大家对我的工作感兴趣让我感到受宠若惊，但这也让我意识到过去两年间发生了多么巨大的变化。银行家、律师、医生和管理顾问都想让我对 ChatGPT 发表看法；尽管他们中的很少人直接在工作中使用这些 LLM，但他们都确信 AI 正在发生一些重要的变化，而这是他们必须了解的。
作为一名研究人员，我相信你能理解那种在社交场合无法「关闭开关」的感觉。
但事情变得更糟了。甚至在我自己家里，我也无法逃离。
我早已不看新闻，因为害怕引发焦虑。但即使在看足球、VH1、蒙塔尔巴诺探长，或者那部精彩的《那不勒斯四部曲》的改编电视剧时，广告中也充满了对 AI 的提及。
在这段时间，我经常想收拾行李，跨越大陆，加入一个隐居的宗教团体。尽管我不会感到惊讶，甚至 Vipassana 瑜伽现在可能也在某种程度上被 AI 渗透了。
隐含的竞争
几家大公司似乎在竞争开发最大、最强大的大型语言模型，这本身就带来了巨大的压力；无论你为哪家公司工作。
在目前的 AI 研究中，有时会让人感觉像是在参与一场战争。从阿道夫·希特勒到荷兰·舒尔茨，我们都知道，参与战争可能会导致严重的后果，包括精神疾病、离婚和自杀。
当然，这并不是将参与 AI 研究等同于「真正战争」中的身体战斗。但根据我的亲身经历，这两者之间的相似性尽管略显牵强，却是真实存在的。
影响公司底线
通常来说，从事工业研究的研究人员并不习惯于自己的工作会对雇主的底线产生直接而即时的影响。
当然，许多研究人员梦想着能有这样的机会。但过去这通常只是十年才会发生一次的事情。
如今，基础研究对 LLM 的结果通常仅能导致模型性能的细微、短期的波动。然而，由于公众对 LLM 性能的高度关注，这些波动可能反过来导致股价的数十亿美元波动。
这种动态显然非常具有压力，而这并不是 AI 研究人员在研究生院、博士后甚至 2022 年之前的工作中所能被训练应对的。
金钱，金钱，金钱
大多数 AI 研究人员，尤其是那些超过一定年龄的人，从事研究的初衷并不是为了赚钱。为自己热爱的工作赚到一大笔钱听起来像是一剂良药，但这同样可能引发强烈的焦虑感。特别是当促使收入增加的外部因素不在自己掌控之中，或者这些因素让自己对这份工作的热爱减退时，这种焦虑尤为明显。
无论是否与 AI 有关，大量证据表明，突然积累财富可能引发各种问题；只需看看那些经过多年努力终于一夜成名的演员或歌手就知道了。成瘾、破裂的关系、破碎的友谊，甚至自杀，都是一些较为常见的后果。这些问题让我个人深有体会。
科学家无用武之地
LLM 的规模、简单性和高效性使得科学研究很难变得「相关」，也就是说，很难直接帮助提升 LLM 的性能。
许多顶尖的 LLM 研究人员已经开始推崇 Rich Sutton 的「苦涩教训」：几乎不需要任何超越规模扩展之外的创新。
即使理论上存在进行实质性创新的可能性（毫无疑问是存在的），要实现这些创新往往需要在不同条件下反复训练最大规模的 LLM。这甚至是目前最大的公司都难以承担的事情。对于一名「普通」的研究科学家来说，这种情况可能令人心力交瘁。
这些条件对那些习惯于在小团队（5-10 人）中工作的工业科学家来说已经非常严峻。而对于学术界的 PhD、博士后以及 AI/CS/ML 的教职人员来说，这种压力无疑更加剧烈。
发表论文
尽管学术界的研究人员可以（并且应该）继续发表他们从 LLM 实验中获得的见解，但对于工业界的科学家来说，发表论文是否仍然是研究的一种可行结果却变得越来越不确定。
发表论文长期以来一直是科学过程的核心部分，也是 AI 研究的重要原则。大多数我交谈过的 AI 研究人员，特别是研究科学家，都认为发表论文是我们职业生涯中不可或缺的一部分。
然而，至少在工业界，在过去两年中，是否将研究成果发表作为一种可行的选择变得越来越不确定。即便是能够稍微改善 LLM 性能的一些小技巧，也可能成为 LLM 战争中的关键「武器」。是否应该公开这些「秘密」，以及这是否对资助研究的机构有利，始终是一个微妙的问题。
这一切都意味着研究人员经常无法控制自己想法的命运。而至少对我来说，这种情况会引发极大的压力。
初创企业
当然，从这些担忧中逃离的一种可能途径是形成一个科学愿景，筹集资金，创建一家初创企业。事实上，当前 AI 初创企业（无论大小）的激增表明，许多科学家已经选择了这条道路。
然而，成为创始人并不能保证你能够摆脱与压力相关的问题。事实上，这条道路以其高压力而闻名。即便在当前投资者热情高涨的情况下，许多资金充足的 AI 初创企业仍然失败。根据我的亲身经历，作为一名创始人是一段特别孤独的旅程。这无疑是当前有抱负的科学家的一种可行选择，但它并不会让科学研究变得轻松，也不会减轻压力。
为什么我选择写一篇关于压力的博客？
过去两年对 AI 世界来说是混乱而疯狂的，同时对我个人而言，也是特别动荡的时期。
在 2023 年 4 月，我的母亲在与阿尔茨海默病长期斗争后去世了。而那时，我因急性精神病住在精神病院，压力很可能是诱发这一切的重要因素。在接下来的 12 个月里，我理论上是在恢复，但实际上却一直处于极度焦虑和深度抑郁的状态。在这段时间里，我非常幸运拥有理解我处境的雇主（以及认可我对公司贡献的价值），他们为我提供了持续的治疗支持和道德上的关怀。
又经过了 6 个月的危及生命的抑郁期后，我终于开始感到好转，最近也觉得有能力写下自己的经历。我意识到，压力和焦虑总是形影不离；事实上，它们可能本质上是同一回事。当然，像任何一种适应性特质一样，焦虑在一定程度上是有益的（例如它可以提升生产力），但当焦虑变得恶性时，其后果可能会非常严重。
正是在回顾过去两年 AI 领域的经历，同时努力重新学习如何成为一名 AI 研究员的过程中，我得到了我在这篇博客中分享的见解。当然，仅仅分享这些见解并不能解决所有问题，但在我最黑暗的时刻，唯一让我看到希望的事情之一是知道我并不孤单。如果你现在正处于痛苦之中，请相信我——你并不孤单。
社交焦虑
我已经讨论了许多可能让当前从事 AI 研究的人感到压力或焦虑的原因。但还有一种压力形式我尚未提及，因为我很幸运自己从未经历过。这种压力就是社交焦虑。
根据朋友们的描述，那些有社交焦虑的人会觉得群体互动充满挑战。而在现代 AI 的世界里，这样的困难尤为突出，因为大型项目团队和跨洲际合作已经成为必不可少的部分。当今行业内的高流动率只会让问题变得更为严峻，因为已经建立的团队（通常被视为一种社交「安全网」）可能在一夜之间被摧毁。而人员的频繁流动也会导致信任问题，因为曾经可靠的盟友可能会加入「敌对」的研究团队。
好消息是，正如我之前讨论的所有焦虑或压力的表现一样，社交焦虑也是可以被克服的。克服的过程始于培养自然的支持网络，例如依靠家人和「非 AI」领域的朋友。但关键的第二步是，我们所有从事 AI 工作的人开始并持续进行关于压力的坦诚对话。
因此，请通过推文或评论分享你的经历。让我们一起努力，让 AI 研究不仅仅是一个充满活力、充满智力挑战的地方，更是一个充满同情和善意的领域。
Image
雷军跨年直播：小米汽车明年目标交付 30 万辆，SU7 Ultra 还有新外观？

Image

网易云年度报告被吐槽不准，算法忽略了一个关键内容

Image

Image

KEEP THE THREAD GOING

更多来源文章