Ilya离开后，8位OpenAI新安全与保密委员会领军人物，你认识几位？

OpenAI宣布成立新的安全与保密委员会，该委员会负责OpenAI项目和运营中的关键决策制定，这引发了互联网的广泛讨论，因为CEO山姆·阿尔特曼（Sam Altman）也是委员会成员之一。

讨论围绕着GPT-5可能提前发布的问题展开，以及该委员会是OpenAI的安全堡垒。然而，这一公告最有趣的部分似乎是委员会的成员。

除了由OpenAI董事会董事领导外，该小组还将有技术和政策专家为他们提供指导。在阿尔特曼的领导下，这是OpenAI新安全与保密委员会的领军团队。

Bret Taylor

图片

在阿尔特曼短暂被解职后重新担任CEO后，美国企业家和计算机程序员布雷特·泰勒（Bret Taylor）加入了董事会。泰勒曾是Salesforce的联合首席执行官，他在Twitter和Shopify等科技公司的董事会也有丰富的经验。他还是Google Maps的联合创始人。

泰勒一直是阿尔特曼的密友，在去年阿尔特曼被解职的事件中一直支持他。最近，泰勒和拉里·萨默斯（另一位董事会成员）对海伦·托纳（Helen Toner，阿尔特曼重新担任CEO后被解职的前董事会成员）的指控做出了强烈反应，她指控阿尔特曼多次向董事会撒谎并隐瞒信息，这是她提出他被解职的部分原因。

泰勒和萨默斯驳斥了托纳的指控，并对她讨论这些问题感到失望。

Adam D’Angelo

图片

Quora的联合创始人兼首席执行官亚当·德安杰洛（Adam D'Angelo），同时也是Facebook的前首席技术官，于2018年加入董事会担任独立董事。他是唯一一位在阿尔特曼被解职并重新担任CEO后职位未受影响的董事会成员。

德安杰洛还是Poe的创始人，Poe是一个多聊天机器人互动平台，允许用户与市场上所有可用的LLM（大型语言模型）进行交互。

Jakub Pachocki

图片

OpenAI的新首席科学家雅库布·帕乔基（Jakub Pachocki）在伊利亚·苏茨克维（Ilya Sutskever）离职后接任了他的职位。帕乔基领导着OpenAI的研究工作，是新安全委员会的技术专家之一。在苏茨克维在X上发布的离职声明中，帕乔基被称为拥有“优秀的研究领导力”。

帕乔基出生于波兰，在学习期间在编程竞赛中表现出色，甚至在2012年的谷歌编程竞赛（Google Code Jam）中赢得了10,000美元。2013年，他在华沙大学学习计算机科学，并在同一专业获得了卡内基梅隆大学的博士学位。

有趣的是，帕乔基在去年10月担任了研究主任的职务，就在阿尔特曼被解雇前的一个月。

Ilya引领我进入深度学习研究的世界，多年来一直是我的导师和优秀的合作伙伴。他对深度学习可能发展成的样子的惊人愿景是OpenAI和AI领域今天的基础。我深深地感谢他……

——雅库布·帕乔基（@merettm）2024年5月14日

John Schulman

图片

OpenAI的联合创始人兼安全主管约翰·舒尔曼（John Schulman）是一位杰出的研究员。在OpenAI，他专注于创建和改进算法，使机器能够从与环境的交互中学习。

舒尔曼在加州理工学院攻读物理学本科，后来转到加州大学伯克利分校学习神经科学，并最终获得了电子工程和计算机科学博士学位。他的学术工作为他未来在强化学习和深度学习领域的研究奠定了基础。

在最近与Dwarkesh Patel的播客节目中，舒尔曼谈到了他对AGI（通用人工智能）安全性的预期。他说：“如果AGI比预期更早出现，我们肯定会非常小心。我们可能会稍微放慢训练和部署的进度，直到我们确信能够安全地处理它。”

Matthew Knight

图片

OpenAI的安全主管马修·奈特（Matthew Knight）于2020年加入该公司。奈特在硬件、软件和无线安全方面拥有强大的背景，他领导着确保OpenAI的人工智能模型和系统的安全和可靠性的工作。这还包括确保AI模型能够抵御敌对攻击。

在加入OpenAI之前，奈特与他人共同创立了Agitator，这是一家开发安全且具有弹性的动态无线电频谱管理技术的初创公司。

Lilian Weng

图片

OpenAI的安全系统主管莉莉安·翁（Lilian Weng）于2018年加入OpenAI担任研究科学家。在OpenAI，翁的工作主要集中在开发算法上，这些算法使机器能够学习、适应和自主执行复杂任务。

翁为高级强化学习技术的发展做出了贡献，这些技术用于训练AI代理通过与环境的交互和从其行为结果中学习来做出决策。

她获得了麻省理工学院的电气工程和计算机科学博士学位。

Aleksander Madry

图片

OpenAI的应急准备主管亚历山大·马德里（Aleksander Madry）是麻省理工学院电气工程与计算机科学系的教授。他在麻省理工学院获得了计算机科学博士学位，并自此成为AI研究领域的领军人物，特别专注于机器学习、优化和算法鲁棒性。

Nicole Seligman

图片

OpenAI董事会成员妮科尔·塞利格曼（Nicole Seligman）是一位企业和公民领袖以及律师。作为索尼公司的前执行副总裁和总法律顾问，塞利格曼目前担任三家上市公司的董事会成员，分别是派拉蒙全球公司（Paramount Global）、MeiraGTx Holdings PLC和Intuitive Machines Inc。塞利格曼在法律和公司治理领域做出了重大贡献。