|
一．人工智能现状及发展中的机遇与挑战 人工智能（AI）无疑是近年来最重大的技术革命。进入二十一世纪以来，得益于互联网技术和大数据的应用，人工智能技术迅猛发展，在很多领域显示了造福社会和经济的巨大潜力，包括在自动驾驶汽车、金融、医疗诊断、数据分析，智慧城市等方面已经有尝试性的应用。
尤其在刚刚过去的2023年，随着人工智能内容生成模型（AIGC）以及生成式AI（GAI）的发展，OpenAI推出的ChatGPT风靡世界，大量人工智能生成的文字、图像霸屏网络。特别是近日新推出的视频生成模型Sora，也引发了广泛的社会关注和热烈讨论。与此同时，通用人工智能（AGI）也为人们带来更美好的憧憬。未来的AI将会在我们的生活和工作中无所不在，可以给机器赋予“超级大脑”，会思考的机器可以胜任各种工作，甚至可以创造新事物以及自我进化。
然而，任何事物都具有两面性，而机器在被赋予了智能后，尤其是未来具有可能媲美人类的高级智能后，彼时的机器是否还能为人类所控制，成为人类最为担心的一个话题。到目前为止，AI发展所带来的挑战包括:
1. AI的滥用，例如近年来的AI换脸技术、语音克隆、生成式文本、深度伪造图片和视频等技术导致了网络上的谣言传播、欺骗、假新闻等，也给不法分子带来了可乘之机。在最近一起香港政府披露的规模庞大的AI“多人变脸”金融诈骗案中，诈骗分子利用AI深度伪造技术，通过公司的公开渠道获取的媒体资料，成功地仿造了公司多名在英国高层管理人员的形象和声音，在网上会议中冒充这些人士，骗取财务职员汇款2亿港元，此案是香港有史以来最严重的科技诈骗案。
2. AI导致的数据安全和隐私问题：人工智能技术的发展，离不开大数据的支撑。人工智能技术中，对数据进行采集和处理，并进行机器学习，从而能完成自主决策。然而在这个过程中，数据安全风险和隐私保护正成为AI系统在开发和应用过程中面临的严峻问题，具体表现在： a. AI在数据收集阶段难以保障用户的数据权利； b. 对人脸、指纹等生物信息的采集和处理，存在较大的法律合规和隐私保护风险； c. 数据污染可能导致人工智能算法的失效，数据偏差可能会导致人工智能决策的错误； d. 跨境数据流动会对国家安全和数据主权带来挑战。
3. AI的可靠性与可信度：人工智能技术，包括机器学习模型、神经网络、计算机视觉等产品，很多都是黑盒模型。也就是说经过大数据训练后，人们难以确定此模型如何以及为何做出某种决定，即对AI模型分析决策的不可知性。在自动驾驶、医疗、金融等领域，如果其使用的AI产品存在不可解释性，用户对AI产品的信任度会降低，不敢盲目相信AI的决策。比如，在自动驾驶中，系统如何判断前方的障碍物并进行避让；或者在银行使用AI审批借贷中，被拒绝贷款的标准是什么，对于AI研究来说，既要保证AI系统的可靠性，即AI系统能够在没有配件和歧视情况下，以可预测的和可靠的方式做出正确的决策，也必须要建立AI产品的可解释性，以帮助建立用户对系统的信任。
4. AI伦理问题：随着人工智能的应用越来越广泛，产品越来越丰富，在应用和使用过程中所涉及到的道德、价值观和社会责任层面，引起了很大的争议。比如以下方面： a. AI在各行各业都有很多应用场景，比如辅助医生诊断，进行文学和艺术创作，提供精准的翻译，帮助程序员编程，替代司机进行无人驾驶，替代人工客服等等，在AI应用发展到一定程度时，可能会导致很多行业的就业危机。 b. AI可以被用于制造更先进的武器系统。在降维打击敌人的同时，也滥杀了很多无辜平民，比如以色列军队使用的一个基于AI技术的暗杀机器，为了锁定对方的一名武装人员，整栋居民楼都被轰炸。并且令人担忧的是，由于这一新兴科技应用于战争的性质难以界定，类似的行为也难以被制止。 c. AI系统的责任划分。如果AI发生错误，谁来承担责任，是AI系统的开发者，数据提供者，AI系统运营者，AI系统使用者，监管机构，还是AI系统的相关方？ d. 人和机器的关系。这个关系如何界定和限制，人是否应将机器视为伴侣或拥有者，机器是否应享有高级智能和自主性、机器的未来是否会有独立思想，机器是否会超越并控制人类，如何避免AI的失控，AI如何向人类价值观靠拢（AI alignment）。
二．人工智能相关法规发展状况 正所谓“这是最好的时代，也是最坏的时代”。人们一方面憧憬机器智能，一方面也不可避免地对这个新兴的技术怀有诸多恐惧。近年来，为了约束管控人工智能使其能造福人类社会，避免其可能负面影响与破坏，各国政府、各地区组织与专业人士通过各种努力，制定了多个人工智能发展和治理法规，为人工智能的发展划定了边界。
2018年4月，欧盟委员会发布《欧盟人工智能战略》； 2020年1月，美国政府发布《人工智能应用的监管指南》； 2021年9月，我国发布了《新一代人工智能伦理规范》； 2022年，欧盟提出《人工智能责任指令》提案； 2023年4月，我国推出《生成式人工智能服务管理办法（征求意见稿）》； 2023年12月，欧盟就欧盟《人工智能法案》达成协议。
除了各国政府外，各大AI厂商和相关方也在人工智能伦理治理方面进行积极探索，业内的很多企业都建立了自己的治理机构，来负责AI规则制定、设计原则、落地监督、应用准则、道德约束等。在这种形势下，一部用来指导人工智能发展和治理体系框架、被业界认同的国际标准经过几年的筹备和讨论，也就呼之欲出了。
1. ISO/IEC 42001标准概述 作为人工智能领域的一个重要里程碑，2023年12月18日，国际标准化组织（ISO）和国际电工委员会（IEC）正式发布了第一个人工智能管理体系国际标准ISO/IEC 42001，该标准是为人工智能管理体系量身定制的一个标准，该标准名为“人工智能-管理体系-要求”，为组织建立、实施、维护和持续改进有效的人工智能管理体系提供了结构化框架。这个框架不仅覆盖了AI的研发、部署、运营及监控等各个环节，更重视组织文化、组织能力及组织治理在AI管理中的核心作用。它是为提供或使用基于人工智能的产品或服务的实体设计的，以确保负责任的开发和使用人工智能系统。这个标准和之前各国家和地区的人工智能法案具有一致性，为组织建立可认证的人工智能管理体系提供了具体要求，有助于组织制定稳健的AI管理框架，同时向利益相关方确保体系已被开发且负责任的管理。
2. ISO/IEC 42001标准的目标 为组织建立人工智能管理体系，负责任地管理与人工智能相关的风险和机遇。 促进开发和使用可信赖、透明和负责任的人工智能系统。 确保负责任的开发和部署AI系统，强调公平、非歧视和尊重隐私等道德原则和价值观，以满足利益相关方的期望。 帮助组织识别和缓解与人工智能实施相关的风险 保证包括数据保护要求在内的监管合规。
3. 组织实施ISO/IEC 42001的价值 组织若是在内部根据ISO/IEC 42001建立了AI管理体系，组织可以与透明、负责和公平的人工智能系统的全球运动保持一致。这种一致性不仅提高了声誉，而且加强了利益相关者和公众之间的信任。合乎道德的人工智能实践会带来更可靠、更公正的结果，从而推动更好的决策和创新的解决方案，帮助企业获得竞争优势。 提高透明度并建立问责制。通过明确供应链中各个模块之间的责任归属，进一步降低AI系统的风险，确保终端用户和消费者的利益最大化。 随着世界越来越意识到人工智能的潜在缺陷，如偏见、隐私泄露和数据滥用，AI体系标准提供了一种结构化的方法来管理这些风险。它鼓励组织考虑人工智能系统的整个生命周期，从概念到部署等。标准坚持高质量的数据处理，清晰的数据来源文件，以及对人工智能性能的定期监测，以确保其持续的有效性和公平性。 对于组织而言，须在框架内遵守法律和监管标准。对于政府部门而言，ISO/IEC 42001标准为其提供了监管框架，可作为参考依据对相关系统进行监督。 中小企业采购AI软件过程中只需关注其是否符合标准，省去了繁琐的过程，降低了采购成本，进而加速了中小企业数字化进程。
ISO/IEC 42001的适用范围 ISO/IEC42001是适用于参与开发、提供或使用基于人工智能的产品或服务的任何规模的组织，它适用于所有行业，也适用于所有人工智能应用和场景。
ISO/IEC 42001人工智能管理体系的策划以及对AI面临的挑战的应对 ISO/IEC 42001标准由正文部分和4个附录组成。其中正文部分整体结构遵循“国际标准结构及编写与规则要求”，核心组成部分包括组织环境、领导力和承诺、规划、支持、运营、绩效评估和改进。附录A定义了参考控制目标和控制措施，包含AI管理体系九大控制域及38项控制。附录B是控制项的实施指南，对附录A中各控制项进行了详细的解释。附录C描述了潜在的AI相关组织目标和风险源。附录D解释了跨领域或部门的管理体系的使用。
ISO/IEC 42001标准特别强调了负责任的人工智能实践、领导角色、风险评估和跨组织的政策制定。针对上文中提到的AI带来的各种挑战，标准里从各个方面提供了有效应对的控制措施。 AI系统的责任划分； AI系统的负面影响评估； AI的数据管理和隐私安全; 负责任开发AI系统； AI系统的可信度; 负责任地使用AI系统。
从本质上讲，ISO/IEC 42001标准不仅仅是为了跟上技术进步的步伐，它更是关于引领未来的潮流，在未来，人工智能将以远见、责任和坚定不移的道德实践来管理。通过遵守这些准则，组织不仅可以优化他们的人工智能体系，还可以将自己定位为技术管理新时代的领航者。
| 
发表于 2024-3-28 16:02:45
发表于 2024-3-28 16:42:40
发表于 2024-3-28 17:19:33
