首页 > 灾难性

灾难性

  • AI担忧日益加剧？OpenAI拟建新团队以防范“灾难性风险”

    财联社10月27日讯（编辑 黄君芝）随着快速发展的人工智能技术越来越强大，OpenAI正在组建一个新的团队，旨在最大限度地降低人工智能带来的风险。在周四发布的一篇博客文章中，这家以广受欢迎的聊天机器人ChatGPT而闻名的公司宣布，它已经组建了一个名为“准备”（Preparedness）的团队，由A

  • OpenAI组建新团队以评估人工智能的“灾难性风险”；山东：夯实数字基础底座加快建设多元协同的算力基础设施

    财联社|元宇宙NEWS 10月27日讯 今日新鲜事有：OpenAI组建新团队以评估人工智能的“灾难性风险”美国当地时间周四，OpenAI宣布组建新团队，以评估和减轻与人工智能相关的“灾难性风险”。OpenAI表示，这个新团队名为Preparedness，其主要任务是“跟踪、评估、预测和保护”人工智能

  • 谷歌大脑新研究：单一任务强化学习遇瓶颈？「灾难性遗忘」的锅！

    鱼羊 发自 凹非寺量子位 报道 | 公众号 QbitAI雅达利游戏，又被推上了强化学习基础问题研究的舞台。来自谷歌大脑的最新研究提出，强化学习虽好，效率却很低下，这是为啥呢？——因为AI遭遇了「灾难性遗忘」！所谓灾难性遗忘，是机器学习中一种常见的现象。在深度神经网络学习不同任务的时候，相关权重的快速

  • OpenAI组建团队对抗人工智能的“灾难性风险”

    参考消息网11月1日报道 据法国《回声报》网站10月27日报道，人工智能对地球构成的风险是否与战争或大流行病一样大？无论如何，这个行业的巨头们都非常重视这一威胁。创造聊天生成预训练转换器（ChatGPT）的开放人工智能研究中心（OpenAI）刚刚组建一支全新团队，旨在对抗“人工智能的灾难性风险”。这

  • 马毅团队新作！微调多模态大模型会灾难性遗忘，让性能大减

    编辑：桃子 好困【新智元导读】马毅教授团队最新研究表明，微调多模态大语言模型（MLLM）将会导致灾难性遗忘。模型灾难性遗忘，成为当前一个关键热门话题，甚至连GPT-4也无法避免。近日，来自UC伯克利、NYU等机构研究人员发现，微调后的多模态大模型，会产生灾难性遗忘。论文地址：https://arxi

  • 《人类简史》作者尤瓦尔·赫拉利警告：人工智能可能引发具有「灾难性」后果的金融危机

    站长之家11 月 10 日消息: 历史学家兼著名作者尤瓦尔·赫拉利近日向《卫报》表示，人工智能（AI）的复杂性使其潜在危险难以预测，并可能引发具有「灾难性」后果的金融危机。图源备注：图片由AI生成，图片授权服务商Midjourney赫拉利在谈及 AI 模型安全测试时提出，预见一个强大系统可能造成的所

  • OpenAI组建新团队防范AI的“灾难性风险”

    每经 AI 快讯，OpenAI 当地时间 10 月 26 日在一篇博文中宣布其已经成立了一个名为 " 准备 "（Preparedness）的团队，将分析并试图防范人工智能系统潜在的 " 灾难性风险 "，从网络安全问题到化学、核和生物威胁。该团队还将制定一项政策，旨在帮助公司确定如何降低开发 " 前沿

热门文章