·美国总统科技顾问委员会成立的生成式ai工作组旨在帮助评估人工智能领域的关键机遇和风险，并就尽可能确保公平、安全、负责地开发和部署这些技术向美国总统提供意见。
·AMD的首席执行官苏姿丰（Lisa Su）和谷歌云首席信息安全官菲尔·维纳布尔斯（Phil Venables）也是这个工作组的成员。
☞☞☞AI 智能聊天, 问答助手, AI 智能搜索, 免费无限量使用 DeepSeek R1 模型☜☜☜
华裔数学家、菲尔茨奖获得者陶哲轩。
当地时间5月13日，华裔数学家、菲尔茨奖获得者陶哲轩公布消息，他和物理学家劳拉·格林（Laura Greene）共同领导美国总统科技顾问委员会（PCAST）的生成式人工智能工作组。该小组将于当地时间5月19日在PCAST会议期间举行公开会议，AlphaGo之父、DeepMind创始人德米斯·哈萨比斯（Demis Hassabis）及斯坦福大学教授李飞飞等将在会上演讲。
美国总统科技顾问委员会（PCAST）生成式人工智能工作组将于当地时间5月19日举行公开会议。
华裔数学家、菲尔茨奖获得者陶哲轩在自己的博客公布消息。
据陶哲轩在博客中透露，生成式人工智能工作组主要研究生成式人工智能技术在科学及社会领域的影响，包括ChatGPT等基于文本的大型语言模型，DALL-E 2、Midjourney等图像生成器，以及蛋白质设计或天气预报等科学应用模型。值得一提的是，AMD的首席执行官苏姿丰（Lisa Su）和谷歌云首席信息安全官菲尔·维纳布尔斯（Phil Venables）也是这个工作组的成员。
美国总统科技顾问委员会（PCAST）生成式人工智能工作组成员。
据美国白宫在官网发布的文章介绍，PCAST成立的生成式人工智能工作组旨在帮助评估人工智能领域的关键机遇和风险，并就尽可能确保公平、安全、负责地开发和部署这些技术向美国总统提供意见。
文章中将生成式人工智能定义为，在对大型数据集进行训练后，可用于根据给定提示生成文本、图像、视频或其他输出的一类AI系统。这些技术发展迅速，有可能彻底改变现代生活的许多方面。这些工具在科学研究中被应用于新药、蛋白质和材料的设计，预计将促进科学发现的进程。在医学领域，生成式人工智能有可能为医疗保健专业人员提供建议。这些工具可以在工作场所提升计算机代码编写速度、撰写演示文稿和总结。
文章同时指出，生成式人工智能模型也可能被用于恶意行为，例如制造虚假信息、散布错误信息以及冒充个人身份。如果在没有保障的情况下使用，生成式人工智能可能会引发社会分化，加剧社会中的偏见和不平等，更普遍的是，通过让公民难以理解世界上发生的事情来威胁民主。此外，生成式人工智能系统可能会侵犯隐私并破坏知识产权。
向总统提出建议的是PCAST生成式人工智能工作组，他们确定了额外的需求和机会并提出了最佳解决方法。
在19日举行的会议中，生成式人工智能工作组的两个专家小组将介绍当下该领域的情况，发言者包括：
人工智能赋能科学（AI Enabling Science）:
Anima Anandkumar （英伟达机器学习研究总监、加州理工学院计算机与数学科学教授）
Demis Hassabis（DeepMind创始人）
李飞飞（斯坦福大学计算机科学教授）
人工智能的社会影响（Al Impacts on Society）:
Sendhil Mullainathan（芝加哥大学布斯商学院计算与行为科学教授）
Daron Acemoglu（麻省理工学院经济学教授）
Sarah Kreps（康奈尔大学政府学教授）
陶哲轩表示，工作组正在征求公众意见，以确定如何识别和促进生成式人工智能的有益部署，并找到最佳方式以降低风险。“我们最初的重点是如何检测、抵制和减轻人工智能生成的虚假信息和深度造假这一具有挑战性的话题，同时又不牺牲健康民主运作所需的言论自由和与民选官员的公众参与；未来我们还可能会围绕生成人工智能的其他方面发出进一步的请求。”
ChatGPT的出现引起了顶尖数学家的高度关注，例如陶哲轩，他们开始研究如何利用人工智能来辅助完成工作。在《自然》杂志的一篇《AI如何改变数学？聊天机器人的兴起突出了对话的重要性》中，加拿大蒙特利尔大学的数论学家安德鲁·格兰维尔（Andrew Granville）也表示，“我们正在研究一个非常具体的问题：机器会改变数学吗？”数学家凯文·巴扎德（Kevin Buzzard）表示同意，“事实上，现在像菲尔兹奖得主和其他非常著名的大数学家都对这个领域感兴趣，这表明它以一种前所未有的方式变得‘热门’。”
此前，陶哲轩在去中心化社交网络Mastodon上写道，“我可以明确地说，今天是GPT-4为我节省了大量繁琐工作的第一天。”在尝试中，陶哲轩发现了ChatGPT的很多隐藏功能，如搜索公式、解析带代码格式的文档、改写学术论文中的句子等，有时ChatGPT还可以对未完成的数学问题进行语义搜索以生成一些提示。
他还对比了自己和当前生成式人工智能工具之间的比较优势：
对于每天执行的任务，我已经开发了足够的技术来优化我的工作流程，人工智能工具对我来说并没有太多的增值价值。最明显的是在研究数学方面，但也包括撰写电子邮件。我安装了一个插件，让GPT-4在我点击按钮时写电子邮件回复，但我几乎从未使用它，因为经过几十年的实践，我已经可以快速写出合适的电子邮件回复。
对于那些我有一些专业知识但很少实践的任务，人工智能工具是有帮助的：通常我可以用它们来创建输出的初稿，然后我可以验证和修改，或至少作为灵感来源使用。有时候，灵感来自于AI的缺陷，这与坎宁安法则的思想相吻合，但相比于我自己尝试解决问题，这种方法更加有效。这种类型的例子涵盖了数据处理、翻译，以及我极少使用的文字格式，例如公开演讲和规则文件。
对于那些我没有什么专业知识也不需要极高质量和可靠性的任务，可以简单地询问人工智能工具，并或多或少地听从其建议。在这里，人工智能的功能是作为传统搜索引擎的一个稍微方便些的版本。
最后，对于那些我不具备专业知识但又需要质量和可靠性的任务，人工智能和我自己都无法解决，我必须咨询人类专家，如修理一个复杂、昂贵、精致的设备。
一个有趣的尝试是，陶哲轩要求ChatGPT从描述中识别“库默尔定理”（用于描述在约束条件下如何找到最优解），虽然ChatGPT不能给出正确答案，但其还是能根据勒让德公式（Legendre's formula）给出一个大概的答案。对于ChatGPT的表现，陶哲轩表示，人工智能在数学中发挥了作用，提供了一个初步的近似答案，再与传统搜索引擎相结合就可以轻松找到正确答案。
