首页 > 风险

风险

  • 生成式人工智能的扩展风险与规制

    人工智能人工智能作为目前人类先进的技术体系之一,正在人的活动和存在等方面重塑人的行为方式。生成式人工智能的快速发展,更是将这一趋势推到了极致,展现了人工智能定义社会、改变社会的可能性,也从根本上扩大了人工智能开发、改进和应用的现实风险。生成式人工智能与传统基于自动化的人工智能系统有着根本的不同。生成

  • 警惕人工智能时代的“智能体风险”

    一群证券交易机器人通过高频买卖合约在纳斯达克等证券交易所短暂地抹去了1万亿美元价值,世界卫生组织使用的聊天机器人提供了过时的药品审核信息,美国一位资深律师没能判断出自己向法庭提供的历史案例文书竟然

  • 面对人工智能带来的风险,有两种应对方式

    邵长茂对外经济贸易大学兼职教授邵长茂在《数字法治》撰文指出:人工智能正在一点一点地当然也是迅速地颠覆着人类既有的社会结构、组织形式和生活状态。在这个过程中,一定会有大量的、意想不到的风险出现。对于这些风险,有两种应对方式:一种是搭建法治轨道,另一种是划出法治边界。

  • 防范重大安全风险我省矿山将装上AI智能设备

    记者今天从省应急管理厅获悉,省应急管理厅、省财政厅、国家矿山安全监察局湖南局近日联合下发通知,我省将充分利用新一代信息技术,给矿山装上AI智能识别等高科技设备,防范化解重大安全风险,遏制矿山重特大事故发生,助力打好安全生产翻身仗。

  • 具身智能、超级应用加速落地AI风险治理成焦点

    2025年,人工智能领域将迎来一场重大变革。近日,智源人工智能研究院发布《十大AI技术及应用趋势》报告显示,具身智能将成为AI技术及应用的重要焦点,它将AI融入机器人等实体,使它们具备类似感知、学习、交互能力。同时,超级应用的热度也在不断攀升,成为人们日常生活中不可或缺的智能助手。多模态大模型亦在加

  • 微软投资者拒绝关于就AI风险提供更多信息的建议

    微软股东们12月7日投票,反对一份提议,该建议寻求就人工智能(AI)可能对公司业务和公众所构成的风险提供更多信息。微软(MSFT)转而上涨0.4%,暂报370.23美元,2023年迄今累涨超54%。

  • 生成式AI安全指导性文件征求意见明确五类安全风险

    中新经纬10月12日电 据全国信息安全标准化技术委员会网站消息,日前,全国信息安全标准化技术委员会秘书处发布《生成式人工智能服务安全基本要求(征求意见稿)》(以下简称《基本要求》)。《基本要求》给出了生成式人工智能服务在安全方面的基本要求,包括语料安全、模型安全、安全措施、安全评估等,适用于面向我国

  • 机器学习的巨大风险:一旦数据被污染,AI可能完全失控

    数据成全了人工智能革命。但现在安全专家发现了破解AI的新手段,一旦这些手段被坏人利用,后果可能会很严重。《连线》英国版聚焦了用数据污染AI可能造成的影响——比如说,给数据中植入人类觉察不到的微弱噪声,神经网络就会把乌龟看成了来福枪,无人车就会无视停止标志,