Skip to content 转到主导航栏 切换到语言选择器
adobestock_230414747.jpeg

自治系统的对与错

5 min read

智能机器人和自动驾驶汽车等自动驾驶系统正在成为我们生活的特征. 但是,我们如何确保负责任地使用和开发它们呢? 在第二集 零压力播客, 海伦·沙曼博士与维吉尼亚·Dignum教授和丹尼斯·加西亚副教授讨论了自主系统和自主武器应享有的权利和限制.

自治系统可以为社会带来巨大的利益, 只要人类对它们负责. 科学家和中等大国在如何监管自主武器方面建立信任与合作方面发挥着至关重要的作用.

这是引人入胜的第二集引出的两个关键信息 零压力播客 来自伦敦帝国理工学院和sbf胜博发登录, 一场由英国首位宇航员主持的与科技前沿人士的轻松对话, Helen Sharman.

这不是系统的责任,是我们的责任

自动化系统将我们从工厂重复性和耗时的工作中解放出来, 办公室和家庭. 但随着自动驾驶汽车和其他自动驾驶汽车的出现,人们开始担心我们是否会失去控制,让机器替我们做决定.

For Virginia Dignum, 瑞典Umeå大学负责任人工智能正教授, 自主系统的风险应该总是被它们根据人类的信息和指令行事这一事实所抵消.

“自主系统是经过编程的软件系统, 它可以根据环境做出决策,而无需与他人进行交互. 它们实际上已经存在很长时间了——比如恒温器,”她解释道.

“重要的是要意识到,系统本身并不了解. 它只是一个工具,基于被编程的信息.”

从这个角度来看, Dignum教授告诉海伦·沙曼,对自主系统自我思考和脱离我们控制的担忧是从错误的角度看待这个问题的.

“我们需要避免这种说法,仅仅因为系统是自主的, 责任很难确定. It’s not. 有人决定使用别人发明的自主系统. 这个系统本身只是一个决策和生产的生态系统的一部分.”

她提倡教育和培训,以帮助我们意识到我们可以提出问题,并意识到我们仍然可以影响结果, 而不是放弃责任.

但积极的一面大于消极的一面.

“我们的部分责任是在需要的时候使用这个系统,Dignum教授说.

“人们很容易就会谈论这些系统的缺点,以及它们可能出现的问题, 但我认为最重要的是要意识到,最坏的情况是,当自动系统对我们有益时,我们不使用它. 这些类型的系统可以潜在地解决我们自己无法解决的极其复杂的问题.

“我们需要这些人工制品来增强我们处理复杂问题的能力, 例如气候变化和大流行.”

监管的重要性

与Dignum教授的自信形成鲜明对比, Denise Garcia, 美国波士顿东北大学政治学和国际事务副教授, 更加谨慎.

加西亚教授研究国际法以及致命机器人和人工智能的问题. 她主要担心的是,无人机等自主武器系统的崛起,在它们背后的人类与这些机器执行行动的责任之间,造成了一种距离. 

当战争中设定了目标, 将军们通常以军事理论为基础,结合了解国际人道主义法——战争法的法律顾问.

“但人们担心自主武器不能区分平民和战斗人员, 比如无人机的使用, 是谁在降低开战的门槛,把人权置于危险之中.”

教授加西亚, 国际法是“人类在战争中的最后一盏明灯”, 禁止化学武器和地雷之类的武器. 她坚决不同意自主武器可以成为推动我们走向全面裁军的一种方式.

Hopeful signs

However, 加西亚教授也对世界管理这项技术的能力持乐观态度.

“像塞拉利昂这样的中小国家, Brazil, Chile, Austria, Germany, 加拿大正在想办法解决政治上最难解决的问题,” she says.

“如果我们看看有关臭氧层的国际条约, 国际空间站或应对Covid-19大流行, 我们可以看到,我们如何能够信任科学家和外交官,抛开竞争,与他人合作,解决影响我们所有人的问题.”

必须听的播客

这是伦敦帝国理工学院和sbf胜博发登录的第二个播客 Zero Pressure 系列节目是“必听”的,充满了刺激的辩论和讨论. 包括Spotify、谷歌和苹果在内的大多数播客平台都可以收听.

欢迎您提出问题、评论和建议,以供今后讨论. 在你最喜欢的播客平台和via上关注这个系列 Twitter 保持最新的信息并参与其中!