首页 > AI资讯 > 最新资讯 > 拜登首席科学顾问:多次与总统讨论AI问题将尽快出台防范风险措施

拜登首席科学顾问:多次与总统讨论AI问题将尽快出台防范风险措施

新火种    2023-09-20

8月22日讯(编辑 牛占林)作为拜登的首席科学顾问兼白宫科技政策办公室主任,阿拉蒂·普拉巴卡尔(Arati Prabhakar)是一位在美国科技界拥有深厚影响力的女性工程师。在近期接受媒体采访时,普拉巴卡尔透露,已经与总统拜登多次讨论有关于人工智能(AI)问题,拜登要求尽快出台防范人工智能风险的保障措施。

普拉巴卡尔正在帮助美国政府制定国家人工智能发展战略,以防范错误信息和该技术的其他潜在缺点,部分依赖于亚马逊、谷歌、微软和Meta等美国大型科技公司的合作。

在上个月,亚马逊、Anthropic、谷歌、Inflection、Meta、微软和OpenAI等七家主要人工智能公司将做出自愿承诺,承诺内容包括在公开发布之前测试它们人工智能系统的安全性和能力,投资研究该技术对社会的风险,以及促进针对它们的系统漏洞的外部审查。

拜登政府表示,为了遏制快速发展的人工智能技术带来的误导和其他风险,已与大型科技公司达成一项为这种技术设置更多防护措施的协议,包括开发水印系统,帮助用户识别人工智能生成的内容。

对此,普拉巴卡尔指出,世界上最先进的人工智能公司大多在美国,这是美国国家发展的一个巨大的优势。但我们也必须清楚,必须要制定相应的规则,七家主要人工智能公司的自愿承诺只是在履行自己的责任。

普拉巴卡尔补充道,政府部门也必须加强行动,无论是行政部门还是立法部门,如此才能使相关技术和公司行稳致远,也希望更多的公司和国家加入进来。

她表示:“已经与拜登多次谈论过人工智能的话题,他非常专注于理解人工智能是什么,以及人们是如何使用它的。”

普拉巴卡尔指出,拜登非常关注人工智能技术带来的社会影响和可能的结果,这些谈话很有探索性和前瞻性,但他也非常关注具体的行动。

对于人工智能可能的风险,普拉巴卡尔表示,这些深度学习系统有一个技术特点,那就是它们是不透明的,它们本质上是黑盒子。而作为人类,我们面临的大多数风险都来自无法解释的事情。

普拉巴卡尔提到,要特别关注人工智能系统的武器化、隐私问题、歧视性决策,以及人工智能生成的内容扰乱选举等风险。

而防范风险方面,她认为不会有完美的措施,但在对这些系统的安全性和有效性有足够的了解之后,可以真正使用它们,并获得新兴技术所能提供的价值。

普拉巴卡尔还表示,虽然还不能给出一个具体的时间表,但总统已经明确表示,这是一个非常急迫的问题,将会尽快出台防范风险的措施。

相关推荐
免责声明
本文所包含的观点仅代表作者个人看法,不代表新火种的观点。在新火种上获取的所有信息均不应被视为投资建议。新火种对本文可能提及或链接的任何项目不表示认可。 交易和投资涉及高风险,读者在采取与本文内容相关的任何行动之前,请务必进行充分的尽职调查。最终的决策应该基于您自己的独立判断。新火种不对因依赖本文观点而产生的任何金钱损失负任何责任。