首页 / 新闻中心 / 最新成果
    丁依霞:让大模型应用安全可信可持续
    发布时间:2024/3/11 14:34:45    点击量:982
  •  


    人工智能是新一轮科技革命和产业变革的重要驱动力。为引导人工智能技术更好地赋能千行百业、为人类福祉服务,大模型治理应辩证统筹以下几对关系:

    统筹发展与安全——

    新形势下,国家坚持发展和安全并重、促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展。

    一方面,要认识到大模型之于经济社会发展的作用和价值,以开放包容的心态和科学严谨的方法对待新技术应用;鼓励各行业因时、因势地选择大模型应用场景和建设模式,以持续创造价值和效益。

    另一方面,正视模型决策不够透明、模型训练过程中对隐私信息保护不足等风险,加强人工智能内生安全、零信任防护等建设,牢牢兜住安全底线。

    同时,建立数据分类分级保护基础制度,健全数据监测预警和应急处置体系,完善从数据到算法再到生成内容的全链路规制体系,实施分级、分类、差异化监管。

    统筹效率与公平——

    在千行百业中应用大模型,既要帮助各行业创造出更高的效率,又要更有效地维护社会公平,实现效率与公平相兼顾、相促进、相统一。

    一方面,大模型能够以降本增效的方式赋能千行百业,推动产业数字化和数字产业化,在助力高质量发展中实现共同富裕。比如,生成式人工智能可以帮助政府公共部门提高生产力和服务质量。

    另一方面,考虑到大模型的“双刃剑”特点,要特别关注技术应用中的公平问题,注意弥合新的“数字鸿沟”。在公共服务或社会治理场景中应用人工智能大模型,必须考虑合规性问题,确保大模型的有效运用以及使用者期望的合理满足。

    统筹活力与秩序——

    新形势下,要处理好有效市场和有为政府之间的关系,让大模型技术发展实现活而不乱、活跃有序的动态平衡。

    一方面,更好发挥政府、企业、社会的协同作用,深化各方面体制机制改革,充分释放全社会创造潜能,鼓励科学家、企业家、文艺家特别是青年人才创新创造。

    另一方面,加强规范治理,对大模型背后的数据偏见、法律和隐私风险等加强防范,对生成内容明确责任主体判定、加强可追溯与解释性。

    作为创新主体的企业,尤其要强化社会责任意识,确保大模型的开发和应用符合伦理道德标准和法律法规,助力构建安全、可信、可持续的大模型时代。

    统筹顶层设计与实践探索——

    大模型治理既需要来自顶层设计的统一规划和整体布局,坚持“一张蓝图绘到底”,也需要汲取地方实践的养分,以“实践反哺理论”。

    没有顶层设计的系统部署和方向指引,大模型发展既可能因为难以协调各方关系而停滞不前,也可能因为各自为战形成新的“技术孤岛”;没有基层实践的积极探索与大胆创新,缺少来自实践前沿的经验和知识,顶层设计会成为无本之木、无源之水。

    一方面,立足数字中国建设,从经济社会治理数字化转型的全局出发,进行前瞻性、全局性布局,避免政策不配套、行动不同步、业务不联动、数据不互通、系统不兼容、安全不保障等。

    另一方面,各地区、各行业、各部门应结合具体情况开拓创新,在前沿领域鼓励大胆探索、敢为人先,寻求有效解决新矛盾、新问题的新办法。通过试点先行、创新大赛、揭榜挂帅、容错机制等撬动积极性,形成“试验—认可—推广”的创新路径,实现“以小见大、以点带面”的创新扩散。

    统筹自立自强与对外开放——

    一方面,基于超大规模市场、海量数据资源、丰富应用场景等多重优势,提高大模型自主研发、管理能力,提高成果转化率,推进生成式人工智能平台的自主研发及其在各行各业中的应用。

    另一方面,坚持胸怀天下,在持续追踪全球人工智能发展的同时吸取他国的经验和教训。

    (作者单位:中共上海市委党校) 

  • 来源:    编辑人:
    相关导读: