AI安全的先锋：Zico Kolter加入OpenAI董事会

新加坡内哥谈技术

于 2024-08-11 00:15:00 发布

阅读量825

点赞数 11

文章标签：人工智能计算机视觉语言模型自然语言处理

本文链接：https://blog.csdn.net/2301_79342058/article/details/141086612

版权

每周跟踪AI热点新闻动向和震撼发展想要探索生成式人工智能的前沿进展吗？订阅我们的简报，深入解析最新的技术突破、实际应用案例和未来的趋势。与全球数同行一同，从行业内部的深度分析和实用指南中受益。不要错过这个机会，成为AI领域的领跑者。点击订阅，与未来同行！订阅：https://rengongzhineng.io/

OpenAI正式宣布任命Zico Kolter为董事会成员。Zico是卡内基梅隆大学计算机科学教授兼机器学习系主任，他的工作主要集中在AI安全性、对齐以及机器学习分类器的鲁棒性上。他的研究和专长涵盖了新的深度网络架构、理解数据对模型影响的创新方法以及自动化评估AI模型鲁棒性的方法，这使他成为OpenAI治理团队中一位不可或缺的技术指导者。

Zico还将加入董事会的安全和保障委员会，与董事Bret Taylor、Adam D’Angelo、Paul Nakasone、Nicole Seligman以及CEO Sam Altman和OpenAI的技术专家们共同工作。该委员会负责为OpenAI所有项目的关键安全和保障决策提出建议。

在欢迎Zico加入董事会时，董事会主席Bret Taylor表示：“Zico在AI安全性和鲁棒性方面的深厚技术理解和视角将帮助我们确保通用人工智能能够造福全人类。”

Zico Kolter在卡内基梅隆大学担任计算机科学教授和机器学习系主任已有12年。他于2010年在斯坦福大学完成计算机科学博士学位，随后在麻省理工学院进行了2010至2012年的博士后研究。Zico在机器学习领域做出了重要贡献，在NeurIPS、ICML和AISTATS等顶级会议上发表了多篇获奖论文。

Zico的研究包括开发首批具有保证鲁棒性的深度学习模型的方法。他在神经网络层中利用经典优化技术嵌入硬约束，开创了相关技术。最近在2023年，他的团队开发了创新的方法，用于自动评估大语言模型（LLM）的安全性，展示了通过自动化优化技术绕过现有模型保护措施的潜力。除了学术研究外，Zico还在职业生涯中与业界紧密合作，曾任C3.ai的首席数据科学家，现任博世的首席专家和Gray Swan的首席技术顾问，这是一家专注于AI安全和保障的初创公司。