中关村论坛聚焦AI：如何破解“双刃剑”？
随着科技进步和产业变革的加速演进，推动AI发展已成为全球趋势。世界知识产权组织总干事邓鸿森表示，当前，以AI、量子计算等为代表的数字技术专利申请量约占全球总数的1/3。在生成式AI领域，2017年以来的专利申请量增长超800%，中国、美国、韩国走在前沿。
今年以来，伴随DeepSeek等大模型的爆发应用，中国多地正积极发力AI产业。“AI是未来产业重要赛道之一，通过大模型突破为代表的技术创新，推动新质生产力的提升。”中国电子信息产业发展研究院未来产业研究中心所长蒲松涛提到，当前，北京、上海等地持续支持大模型前沿研究及应用发展，推出更多具有示范性和代表性的应用场景。
随着AI大模型领域的飞速发展，通用能力不断提升，各行业细分领域的大模型和垂直大模型如雨后春笋般涌现。本届中关村论坛年会上，包括“AI+工业制造”“AI+生活服务”“AI+医药健康”等9个应用场景在内的北京人工智能创新应用成果正式发布，系统展示AI赋能材料、医药等领域的前沿创新成果。
西门子中央研究院研发部总裁诺伯特·高斯(Norbert Gaus)表示，西门子正利用AI技术解决工业领域的多项挑战，通过发挥机器人与AI深度融合等技术优势，不仅显著提升传统制造业的创新力与小批量制造的响应速度，更通过加速产品从研发到市场的全过程，带来更多创新产品。
随着AI技术的进一步成熟、普及，其在加速赋能的同时，潜在的安全风险也在不断增加。“在应用层面，大模型面临信任壁垒等问题。”北京北方算力智联科技有限责任公司研究院院长刘秦豫说，随着AI规模扩大，其决策过程不透明、决策逻辑可解释性差，可能在高风险领域造成严重后果，限制了社会层面对其的信任，也难以满足业务和监管的需求，需要建立可解释、符合道德规范的大模型，从而更安全、透明地服务千行百业。
面对机遇与挑战并存的技术“双刃剑”，人类已出招积极应对。欧盟《人工智能法案》已于2024年8月1日生效，通过法律手段规范AI技术的应用。在中国，涉网络安全、数据安全等的法规陆续颁布执行，《人工智能生成合成内容标识办法》也将于今年9月1日起施行，标志着中国在生成式AI领域迈出构建安全可信生态的关键一步。
韩国生成式人工智能研究院院长卢圭成表示，从世界范围来看，中国、美国、欧盟等均聚焦AI技术研发与产业应用，但其背后的数据安全性、算法偏见与歧视等问题值得重视。一旦AI深度伪造与欺诈等问题被恶性利用，将为各行业带来巨大风险，增加社会治理成本。因此，世界各国应加强国际合作，制定并完善AI安全监管制度，从而更好地引领产业创新，让AI真正成为推动人类社会进步和创新的强大动力。
标签：
抢先读
- 探访中关村硬科技嘉年华：跟具身机器人一起“跳舞”
- 中关村论坛聚焦AI：如何破解“双刃剑”？
- 见证宁波舟山港“硬核”科技：坐办公室就能装卸集装箱
- 广西为乡村振兴注入“甜”力量
- 月薪可达2万元 新能源汽车维修人才缺口催生高薪市场
- 见证宁波舟山港“硬核”科技：坐办公室就能装卸集装箱
- 财经聚焦|银发旅游专列激发“春日经济”新活力
- 从“短期输血”到“长效造血” 影院的生存法则正被重塑
- 广西为乡村振兴注入“甜”力量
- 从“短期输血”到“长效造血” 影院的生存法则正被重塑
- “火热”数据见证良好开局！多维度利好支撑 外贸发展动力强劲
- 奋斗在春天里丨退役的风机叶片不要丢 它们可是待挖掘的“富矿”
- 月薪可达2万元 新能源汽车维修人才缺口催生高薪市场
- “火热”数据见证良好开局！多维度利好支撑 外贸发展动力强劲
- 财经聚焦|银发旅游专列激发“春日经济”新活力
- 财经聚焦|银发旅游专列激发“春日经济”新活力
- 中关村论坛年会AI科技助残引热议
- 2025雄安新区国际创新合作交流会举行
- “智造”激活民营企业跃升“活力细胞” 产品迈进“高精尖”
- 三个变化、两个不变 从博鳌窗口看亚洲未来确定性
- 三个变化、两个不变 从博鳌窗口看亚洲未来确定性
- 中国移动研究院院长：6G将与“新三样”融合
- 金观平：大力发展服务型制造
- 所有宣称“AI可预测彩票中奖号码”的都是骗局！专家解读
- 第五届中国国际消费品博览会首批进境展品通关
- 中国国产绿色甲醇首次实现批量加注
- 中国国产绿色甲醇首次实现批量加注
- 【“瞧”见博鳌国际范】亚洲未来走向何处？“风雨不改同舟”
- 全球首张民用无人驾驶航空器运营合格证落户合肥
- 李开复：2025年会是AI应用大规模落地元年
- 甘肃首列直达阿拉木图JSQ图定中亚班列开行
- 2025中关村论坛年会科技助残平行论坛举行
- 2025中关村论坛年会科技助残平行论坛举行
- 天津抓紧抓实重大项目建设
- 今年前两个月轻工业经济运行态势良好
- 科技成果加速产业发展 政产研协同成果转化基地在蓉揭牌
- 中国机械工业货物贸易进出口总额连续四年超万亿美元
- 中国机械工业货物贸易进出口总额连续四年超万亿美元
- 从“产品出海”走向“品牌出海” 小商品闯出“大市场”创造大价值
- 以美食文旅为媒，福建石狮打造“海丝门户”新名片
- 2025年中越跨境供应链招商推介会在广西大新县举办
- 从“产品出海”走向“品牌出海” 小商品闯出“大市场”创造大价值
- 今年前两个月轻工业经济运行态势良好
- 中国机械工业货物贸易进出口总额连续四年超万亿美元
- 2024年全国电力系统及设备总体保持安全稳定运行
- 中关村论坛“全球知识产权保护与创新论坛”举办
- 上海港绿色甲醇加注业务扩大 新船首航用上国产绿色甲醇
- 今年夏秋航季广州白云机场新开、加密多条航线
- 总额超74亿元14个项目湖南签约 赋能绿色智能计算产业发展
- 以美食文旅为媒，福建石狮打造“海丝门户”新名片
- 总额超74亿元14个项目湖南签约 赋能绿色智能计算产业发展
- 中关村论坛“全球知识产权保护与创新论坛”举办
- 打造“全球买全球卖”的科技盛宴
- 世界领先科技园区如何建？中外嘉宾建言
- 中国民航将进入夏秋航季 三航司拓国际线
- 世界领先科技园区如何建？中外嘉宾建言
- 品牌营销专家聚山东曹县 共同探讨地方产业如何走的更远
- 世界领先科技园区如何建？中外嘉宾建言
- 中国民航将进入夏秋航季 三航司拓国际线
- 临空区大兴片区亮相中关村论坛！以创新实践引领数据跨境流动，打造数字贸易新高地
- 打通消费 北京将重新定义“一张电影票”
- lululemon2024年营收106亿美元 中国大陆净营收同比增长41%
- 健合集团2024年营收130.5亿元 ANC营收同比增长8.8%
- 元气森林持续完善多品类布局 研发决策权移交90后年轻团队
- 挖掘真实需求 靶向提振消费潜能
- 最高法发布第五批人民法院种业知识产权司法保护典型案例
- 2025年沈阳推进“十项行动”加快建设东北亚国际化中心城市
- 中国2月核发绿证2.56亿个 同比增长5.44倍
- 今年浙江越城将建57个起降场 古城拥抱低空“机”遇
- 沈阳加快建设科技强市 2025年底力争累计攻克关键核心技术300项
- 国家能源集团广东肇庆电厂二期项目建成投产
- 2025年沈阳推进“十项行动”加快建设东北亚国际化中心城市
- （聚焦博鳌）全球供应链稳定挑战持续 增强互联互通成“关键一招”
- 国家能源集团广东肇庆电厂二期项目建成投产
- 上海港绿色航运服务业态进一步丰富 首单B24生物燃料加注成功
- 钠离子电池商用车解决方案在安徽阜阳发布
- 新疆多元储能何以跑出“加速度”？
- 广西玉林开展商品交易市场创新监管试点 构筑跨境合作产业带
- 2024石榴籽文化季在北京闭幕
- 2025淮南牛肉汤产业高质量发展大会“吸金”逾122亿元
- 流动嫁衣间：公益婚纱让勤俭成时尚
- 又一全球首展揭幕，“首发经济”激发消费动能
- 线上红利消退 品牌女装转战线下
- 流动嫁衣间：公益婚纱让勤俭成时尚
- 瑞士手表2月出口额下降8.2%
- 线上红利消退 品牌女装转战线下
- 时尚基因融入商圈消费活力涌动京城
- 低调发财！意大利“静奢”品牌业绩逆势增长
- 时尚基因融入商圈消费活力涌动京城
- 掌握全场景“燃脂”新招式
- 养生粗粮皂角米成“美容神器”？
- 掌握全场景“燃脂”新招式
- 想变、懂变、敢变——周大福珠宝在变革中稳健穿越行业周期
- 素食减肥要不得！有些素食是“热量炸弹”
- 新一季包包 是用来拿的！
- 养生粗粮皂角米成“美容神器”？
- 重塑品牌内核 柳丝木“用生命力重写日常”的全新蜕变
- 婚恋市场乱象比较多 找好对象莫依赖算法
- 重塑品牌内核 柳丝木“用生命力重写日常”的全新蜕变
- 重塑品牌内核 柳丝木“用生命力重写日常”的全新蜕变