首页 > 风险

风险

  • 时评 | 对AI的风险到了该“直接讨论”的时候了

    AI近日,图灵奖得主、被誉为“人工智能之父”的杰弗里·辛顿(Geoffrey Hinton)在接受美国《60分钟》节目访谈时表达了对人工智能所引发的潜在风险的担忧。联想到他今年5月份不惜从工作了10年的谷歌离职,以便更自由地谈论AI的风险,人们不禁要问,在如今由LLM(大语言模型)带来的新一轮人工智

  • AI医院来袭,既要发挥优势也要提防风险

    据1月14日央广网报道,最近,“全国首家AI医院今年上半年将面向公众开放”的消息引发广泛关注。在这家由清华大学智能产业研究院团队打造的AI医院里,首批42名AI医生正在进行内测。

  • Meta和IBM等组织创建AI联盟以共享技术和降低风险

    Meta Platforms Inc.和IBM正联手40多家公司和组织创建一个致力于开源人工智能AI工作的行业组织,旨在共享技术并降低风险。据周二的声明,这个名为“AI联盟”的联合体将专注于负责任地开

  • 延续数字治理路径,AI安全风险如何分级分类?

    人工智能技术在过去一年里突飞猛进,与期冀共行的是担忧——从国内发布《生成式人工智能服务管理办法(征求意见稿)》(下称《征求意见稿》),到欧盟争分夺秒地商议《人工智能法案》、美国推出《关于安全、可靠和可信地开发和使用人工智能的行政命令》,各国法规政策密集出台。技术和监管的演进

  • 应对大模型安全新风险大模型安全联盟在京成立

    作为打造新质生产力的核心引擎,人工智能大模型对传统产业数智化转型与数实融合发挥着巨大的推动作用,但与此同时,大模型面临的恶意操控、内容合规、算法与隐私安全攻击等问题也日渐凸显,带来新的安全风险与挑战。12月17日,360集团联合产业上下游合作企业、科研机构等单位共同在北京成立大模型安全联盟。

  • 李峥:美国对AI治理的迟疑正带来风险

    美国国家安全局日前宣布成立人工智能(AI)安全中心,负责监督美国国防和情报部门人工智能能力的开发和整合。然而,在人工智能治理领域,美国是明显落后的,已经是人工智能全球治理的一块短板。近期,美国国会举行了多场与人工智能立法有关的讨论。其中一场听证会中,谷歌、微软、特斯拉、OpenAI等科技巨头先后发表

  • 拜登政府称人工智能对金融系统构成风险

    财联社12月15日电,美国财政部长耶伦领导的跨部门机构——金融稳定监管委员会在其年度报告中首次将人工智能确定为金融系统的弱点,并建议金融机构密切关注AI技术的发展。报告还讨论了黑客攻击、气候变化和高利率带来的风险。该机构表示,AI模型可能会出现难以发现的缺陷,例如导致有害的贷款决策。该机构还警告称,