划重点：
1美国总统拜登、副总统哈里斯周四与Alphabet、微软、OpenAI和Anthropic的首席执行官举行会议。
2哈里斯称，人工智能企业必须与政府合作，确保保护公民权利和隐私，防止错误信息或诈骗。
3白宫宣布拨款1.4亿美元建立新的全美人工智能研究机构，研究AI在气候、农业、能源和公共卫生等关键领域的应用。
4在今年8月的Def Con 31大会中，微软和谷歌等公司的AI系统将接受黑客和人工智能专家的测试与评估。
科技新闻讯 5月5日消息，美国总统拜登、副总统卡马拉哈里斯（Kamala Harris）周四与顶级人工智能企业谷歌母公司Alphabet、微软、OpenAI和Anthropic的首席执行官举行会议，向企业施压围绕人工智能实施保障措施。哈里斯会后表示，白宫将支持新的法规或立法，减轻人工智能技术的潜在危害。
参加周四会议的人员包括OpenAI首席执行官山姆奥特曼、Anthropic首席执行官达里奥阿莫代伊、微软首席执行官萨提亚纳德拉、Alphabet首席执行官桑德尔皮查伊，以及白宫幕僚长杰夫齐恩茨（Gina Raimondo）、国家安全顾问杰克沙利文（Jake Sullivan）、拜登的首席科学顾问兼白宫科技政策办公室主任阿拉蒂普拉巴卡尔（Arati Prabhakar）等政府高级官员。
在白宫罗斯福厅举行的大约两个小时的会议中，哈里斯和其他官员表示，企业有责任认真考虑对人工智能技术的担忧。
自ChatGPT等人工智能工具发布并火爆网络之后，这是美国政府高层首次在白宫约见主要人工智能开发企业的负责人。哈里斯称，近几个月来，人工智能工具的广泛使用带来了复杂的挑战。她表示，企业必须与政府合作，确保保护公民权利和隐私，防止错误信息或诈骗。“政府、私营公司和社会上的其他人必须共同应对这些挑战。拜登总统和我致力于尽我们的一份力量–包括推进潜在的新法规和支持新立法–让每个人都能安全地从技术创新中受益，”哈里斯在声明中表示。哈里斯还把责任推给了整个科技行业，称“私营部门在伦理、道德和法律上有责任确保他们产品的安全和保障。”
这次会议表明，人工智能的繁荣发展，让美国政府高层感到困惑。自从OpenAI去年向公众发布ChatGPT以来，全球许多大科技公司都纷纷将聊天机器人融入他们的产品，并加快了人工智能的研究。风险资本家已向人工智能初创企业投入了数十亿美元。
但人工智能技术的火爆也引发了人们对该技术可能如何改变经济、动摇地缘政治和助长犯罪活动的担忧。批评者担心，强大的人工智能系统太不透明，有可能歧视、取代人类的工作、传播虚假信息，甚至可能自行违法。
公众监督
在会议之前，包括微软和Alphabet的谷歌在内的主要人工智能公司承诺参与对其系统的首次独立公开评估。在今年8月举行的Def Con 31大会中，这些企业将为黑客和人工智能专家提供人工智能系统，以进行测试和评估。据一名在会前要求匿名的高级政府官员称，黑客大会上的演习旨在获得更多这些模型影响的公开信息，让人工智能开发企业能够解决出现的问题。
人工智能倡导者表示，除了对可能存在的偏见、侵犯隐私或恶意使用新兴技术的更广泛担忧外，该活动将有助于识别产品中的错误、故障和漏洞。人工智能开发企业的有限提议，只允许在会议上进行评估，而不是承诺随着新产品的开发或改进而进行持续评估–可能不足以满足监管机构的要求。监管机构希望社交媒体等技术能够避免出现隐私和错误信息等问题。该政府官员表示，在8月黑客大会期间开放评估系统的提议被视为第一步。
另外，白宫宣布拨款1.4亿美元建立新的全美人工智能研究机构，旨在研究人工智能如何在气候、农业、能源和公共卫生等关键领域提供帮助。除此之外，美国政府此前还宣布为第一轮18个人工智能开发机构提供约3.6亿美元资金支持。
白宫科技政策办公室主任普拉巴卡尔在发送给参会企业的会议邀请函中说，“我们的目标是坦率地讨论我们在当前和近期人工智能发展中看到的风险，减轻这些风险的行动，以及我们共同努力确保美国人民从人工智能的进步中受益，同时免受其伤害的其他方式。”
立法规范
拜登总统最近表示，人工智能是否危险“还有待观察”。部分拜登政府的高级官员承诺，如果人工智能技术被以有害的方式使用，他们将进行干预。包括多数党领袖、纽约州参议员查克舒默（Chuck Schumer）在内的国会议员，已经开始起草或提议立法，以规范人工智能技术。
美国商务部在上月曾表示，该部门正在考虑制定法规，可能要求人工智能模型在发布前通过认证程序。美国反垄断机构联邦贸易委员会 (FTC) 主席莉娜可汗 (Lina Khan) 周二表示，该机构将会紧盯滥用人工智能技术违反反歧视或反欺诈法律的企业。可汗在当日举行的国会听证会中发出警告称，ChatGPT 等现代人工智能技术有可能被用来“加剧”欺诈行为。人工智能加剧欺诈的能力应该被视为一个“严重担忧”。“随着人工智能的使用越来越广泛，政府官员有责任确保惨痛的历史经历不会重演，”她说。
上周，七国集团（G7）的数字部长表示，成员国应采用“基于风险的”人工智能监管，而欧盟立法者就人工智能法案达成了初步协议，该法案将监管新兴技术。
一些人工智能的开发商也对这项技术的后果提出了警告。本周，被称为人工智能“教父”的先驱研究员杰弗里辛顿（Geoffrey Hinton）从谷歌辞职，以便公开谈论这项技术带来的风险。他表示，离职之后，他可以畅所欲言地谈论人工智能的风险。辛顿担忧人工智能所带来的影响之一是虚假信息的传播：虚假图像和文字大量充斥在网络中，导致大家难以分辨什么是真实的。而更进一步，他还担心随着人工智能技术的提升，它开始编写和运行自己的代码，会对人类的生存造成更大的威胁。
“欧洲当然不会坐以待毙，”美国联邦通信委员会前主席汤姆惠勒（Tom Wheeler）说。“政策上的先发优势和市场上的先发优势一样多。”惠勒说，所有人都在关注美国可能采取的行动。“我们需要确保我们作为参与者在谈判桌上。每个人的第一反应都是，‘白宫要做什么？’”
即使政府呼吁科技公司采取措施确保产品安全，人工智能企业及其代表也将矛头指向政府，称政府官员需要采取措施为这个快速增长的领域制定规则。
相关文章
