全球人工智能技术正以前所未有的速度渗透至经济社会的各个领域,在带来巨大发展机遇的同时,也引发了一系列难以预料的复杂挑战。如何让这项技术更加可靠、可信且以人为本,已成为关乎全人类命运的重要课题。2024年4月20日至21日,一场聚焦人工智能治理的专家认证公开课在上海成功举办,由数隐咨询(DPOHUB)与DEKRA德凯联合推出,现场汇聚了多位业内重量级嘉宾,围绕治理框架、安全实践、国际标准与法律合规等核心议题展开深入探讨。

DEKRA德凯亚太区高级副总裁、中国大陆及香港董事总经理Kilian Aviles博士在开场致辞中指出:“作为全球领先的第三方检验检测认证机构,DEKRA德凯始终站在行业前沿,与各领域企业保持紧密合作。自与上海交通大学签署合作谅解备忘录以来,我们一直在人工智能检测、认证与研发等方面积极探索。此次协办人工智能治理专家认证公开课,正是希望为AI技术的实际应用注入新的突破,同时进一步提升相关技术的安全性与可靠性。”
上海交通大学人工智能研究院院长助理何黎明先生从基础概念切入,系统梳理了人工智能的技术发展脉络、历史演进及未来趋势,重点涵盖了生成式人工智能及其当前存在的局限性。他特别强调,人工智能的健康发展离不开跨界协作与国际共识——全球社会需要加强信息共享与技术交流,共同应对AI带来的风险与挑战。不仅如此,AI的应用还必须遵循伦理准则和价值导向,确保技术对社会产生正向影响。在他看来,除了政策和法律框架的完善,公众教育与意识提升同样不可或缺,只有让社会更深入地理解和接纳人工智能技术,才能推动其可持续发展,最终为人类未来创造更多福祉。
上海市人工智能社会治理协同创新中心研究员刘志毅先生则聚焦于《人工智能的安全治理实践》这一议题,围绕大模型时代的安全评估要求、生成式大模型的安全性与治理等内容展开讲解。他解释说,AI安全治理并非单点措施,而是一系列相互关联的策略、技术与政策组合,目标在于保障系统安全性、透明度,同时保护个人隐私和社会利益。只有综合运用这些手段,才能有效应对技术带来的安全挑战,促成AI的健康可持续发展。
DEKRA德凯中国产品测试技术支持副总裁陈学林先生深入剖析了《人工智能全生命周期的国际标准实践》,重点涉及ISO/IEC 42001人工智能管理体系、系统生命周期、流程认证以及风险管理。他特别指出,持续监督与改进是人工智能系统生命周期中的关键环节——不仅需要定期评估审查、发现并解决潜在问题,还要主动适应和抵御新的风险与挑战。这一动态过程旨在确保系统在技术迭代和市场需求变化中始终安全、可靠且高效,并通过不断优化提升其性能与价值。
上海交通大学人工智能治理与法律研究中心秘书长何渊先生进一步阐述了人工智能治理法律框架的重要性,涵盖法律风险、全球治理模式、美国NIST风险管理框架、数据合规落地路径、欧盟《人工智能法》的合规要点,以及可信AI伦理评估清单等。他强调,法律框架的核心价值在于确保人工智能技术合理、负责且可持续地发展,同时保护个人与社会的权利和利益,最终推动技术创新与应用,助力人类社会进步。
