【南方+9月16日讯】据半岛电视台报道，当地时间9月15日，联合国人权事务高级专员米歇尔巴切莱特(Michelle Bachelet)呼吁暂停出售和使用威胁人权的人工智能(AI)系统，直到适当的保障措施到位，以确保技术不会被滥用。
报道称，巴切莱特说:“我们承担不起继续追赶AI系统的后果–允许在没有边界或监督的情况下使用人工智能，并在事后处理几乎不可避免的人权问题。不符合国际人权法的AI应用必须被禁止。”她补充说：“AI为人们服务的力量是不可否认的，但AI在几乎不可见的情况下大规模侵犯人权的能力也是不可否认的。为了我们所有人的利益，现在需要采取行动，为AI的使用设置人权护栏。”
紧接着联合国人权办公室(UN Human Rights Office)发布一份报告，对AI技术的风险发出警告，并强调尽管AI可以作为一股向善的力量，但如果不负责任地使用，也可能造成灾难性的影响。报告称：“AI系统开发和运行背后的数据环境、算法、模型的复杂性，以及政府和私人行为者的私自保密，都是破坏公众了解AI系统对人权和社会影响的因素。”
联合国还担心AI进行分析和自动决策的能力以及它的其他用途，威胁着无数的人权。联合国人权办公室警告说，AI会影响“健康权、教育权、行动自由、和平集会和结社自由以及言论自由”。巴切莱特说：“AI系统被用来确定谁获得了公共服务，决定谁有机会被招聘到一份工作中，当然，它们还会影响人们在网上看到和分享的信息。”
联合国人权办公室指出，已经出现了一些危险的失误，个人因面部识别缺陷而被剥夺社保福利或被捕的案例层出不穷。此外，AI系统通常以不透明的方式收集、共享、合并和分析数据，因此收集的信息可能会被泄露或过时，甚至具有歧视性等。
对于AI被滥用的影响，巴切莱特强调：“与AI驱动的决策相关的歧视风险–那些可以改变、定义或损害人类生活的决策–实在是太真实了。这就是为什么需要对AI系统的影响进行系统评估和监测，以识别和缓解人权风险的原因。”
校对：吴荆子
相关文章
