业界首个以开放签署方式发布的人形机器人治理规则文件发布。
你会使用机器人“保姆”吗?
你愿意和他们分享喜怒哀乐吗?
你会担心信息安全吗?
近日,在2024年世界人工智能大会法治论坛上,由上海市法学会牵头制订,国家地方共建人形机器人创新中心、上海市人工智能行业协会、上海市人工智能标准化技术委员会、上海法院数字经济司法研究及实践(嘉定)基地联合签署的《人形机器人治理导则》(简称《导则》)正式发布。这是业界首个以开放签署方式发布的人形机器人治理规则文件。
《导则》分为目标愿景、基本遵循、创新发展、风险管理、全球治理和附则六个部分,共30条规则。旨在促进人工智能科技和产业的健康发展,确保人形机器人的设计、开发和应用合乎人类道德和伦理价值,持久保障人类使用人形机器人的权益和安全,为全人类带来更多福祉和便利。
上海市人工智能伦理与治理专家委员会副主任委员、上海市法学会专职副会长施伟东介绍,导则发布后将继续开放相关专业机构的联署和导则的持续完善。上海市法学会会定期更新公开导则完善情况,借此机会建立起一个规则共建的机制,不断探索,为形成标准化法律文件做准备。
促进人工智能产业发展仍是《导则》的首位。“人类社会的发展史就是一部对技术进步的担忧史。如果能把这种担忧转化为正面的力量,对我们的制度建设是有帮助的。”中国政法大学副校长时建中在论坛上表示,人工智能产业关系到国家竞争力,现阶段,推动人工智能发展是中国的主要任务,首先应该制定一部促进人工智能发展为主的法律,而不是一部以规范人工智能行为的法律,“不要把明天的问题放到今天去解决”。
但随着人工智能产业的高速发展,可以预见不少人工智能细分产业(如人形机器人)将面临越来越多的伦理挑战。
联合国人工智能高级别咨询机构成员,中国政法大学数据法治研究院教授张凌寒在论坛上提到,软件应用Soul曾进行过数据调查,中国青年人对AI最大的期待有两方面,一方面是希望利用AI技术提高收入,另一方面是希望AI能够提供有效的情感陪伴和支持。后者意味着拟人交互具有较高的沉迷风险。在人形机器人上,沉迷风险度数更甚。同时,作为未来人类的亲密伙伴,人形机器人的隐私保护也是一个重要的伦理风险点。许多伦理、法律问题需要提前布局解决思路。
华东师范大学上海人工智能金融学院院长邵怡蕾指出,AI智能体对人存在的所对应的诞生性与有死性、世界性、复数性与地球等基本条件提出挑战。因此,需要关注机器人的法律主体性,明确机器人造成损害时设计者、制造者、所有者与使用者的责任划分,完善机器人收集与处理数据的法律规定,强调人形机器人设计与使用中的尊重、无伤害、公正等基本伦理原则,审慎对待人形机器人是否应被视为人类的同伴以及人类对机器人产生情感依赖等伦理问题,充分考虑机器人对就业市场的影响并避免机器人与人类互动中可能产生的性别、种族偏见等,构建更适配的制度环境。
人形机器人的本质是AIGC与物理形态的结合,“有趣的灵魂”加上“好看的皮囊”让人形机器人从科幻作品成为生活中触手可及的技术产品。然而,规范和治理是人形机器人发展的重中之重。作为一名与人类紧密互动的伙伴,人形机器人涉及的安全、伦理以及社会影响问题不容忽视。
在安全方面,人形机器人发展要重视置安全屏障、加密数据传输、保护用户隐私等安全措施的制定,确保人形机器人的应用不会对人类造成危害;在伦理方面,人形机器人发展可以通过制定人形机器人伦理指南、建立伦理审查机制、登记制度、制定使用协议等方式加强伦理指导和监管,促使人形机器人的研发和应用符合人类价值观和伦理原则;在社会影响方面,政府要加大对劳动力(尤其是弱势群体)的技能教育和培训投入,提供转岗、培训和再就业支持,增强新就业环境适应能力。
解决这些问题,才能够推动人形机器人技术创新和进步,推动人形机器人更好地服务于人类社会,促进全球人工智能技术发展和应用。