教宗方济各在2024年世界和平日文告《人工智能与和平》中,阐述了科技发展与和平的关系,并对人工智能(AI)的未来提出了深刻的伦理反思与具体关切。
1. 科技作为通向和平的道路
文告肯定科学技术体现了人类的尊严与创造力,是上帝赋予人类能力的表达。当科技用于使地球成为全人类适宜的居所时,便是在履行上帝的计划、促进和平。科技的进步已解决了诸多人类苦难,但同时也带来了前所未有的风险,尤其是新兴数字技术,对个体生活、社会稳定与国际和平的长远影响亟待审视。
2. 人工智能:承诺与风险并存
AI并非中立,它反映设计者的价值观与文化背景。其发展益处并非必然,唯有以包容、透明、安全、公平、隐私和可靠性等人类核心价值为指导,并加强伦理监管,才能造福人类。技术发展必须伴随责任教育,旨在服务人类整体发展与共同利益。AI的挑战不仅是技术的,更是人类学、教育、社会和政治的。它应服务于人类最高的潜能,而非与之竞争。
3. 自主学习的机器带来的具体挑战
基于机器学习的AI虽处初期,但已深刻影响社会结构与文化。它可能产生看似合理却错误或有偏见的“幻觉”内容,助长虚假信息,引发信任危机。隐私、数据所有权、知识产权以及歧视、选举干预、监控社会、数字排斥和个人主义加剧等风险,都可能激化冲突、阻碍和平。
4. 对“技术官僚范式”中界限意识的反思
世界复杂无限,算法不能提供绝对准确的预测,数据本身也不保证公正。机器的高效运作不取代人类对其目的与意义的决定。过度追求技术控制与效率的“技术官僚范式”,可能导致人类对自身失去控制,陷入“技术独裁”,加剧不平等,威胁民主与和平共处。承认并接受人类有限性是获得圆满的前提。
5. 伦理上的燃眉之急
AI系统可能在信贷、就业、司法裁决、难民接收等关键决策中引入偏见与歧视,造成系统性不公。其通过预设选项或信息设计影响甚至操纵个人选择,构成社会控制风险。自动分类系统(如无处不在的监控或社会信用体系)可能破坏社会结构,引发权力冲突。算法绝不能定义人类权利,或取代怜悯、宽恕等人类价值。此外,AI对工作岗位的替代可能导致少数人获益而多数人贫困,因此保障劳动者尊严、工作安全与合理工资至关重要。
6. 化剑为犁:军备与和平
文告特别关注AI在军事领域的应用。自主武器系统缺乏道德判断力,永远不能成为道德责任主体,因此必须确保人类对武器系统进行有效监督。技术落入不当之手可能助长恐怖主义或不稳定。世界不需要助长军火贸易与战争疯狂的新技术。相反,若用于促进整体人类发展,AI能在农业、教育、文化等领域带来创新,提升各国人民生活水平,增进人类手足情谊。应推动跨学科对话,发展“算法伦理”,让价值观引导技术方向,并从研究之初就贯穿“设计即伦理”的理念。
7. 教育的挑战
技术发展对教育提出了新要求。必须培养所有年龄段使用者,尤其是年轻人的批判性思维,使其能辨别网络信息及AI生成内容。教育机构应帮助学生理解技术的社会与伦理层面。媒体素养教育需同时应对虚假信息以及隐藏于新技术中的古老恐惧,避免筑起文化隔阂之墙。
8. 国际法发展的挑战
AI的全球性影响要求国际社会达成有约束力的国际条约,以规范其发展与使用。制定伦理准则时,必须深入考虑人类存在的意义、基本人权保护以及正义与和平的追求。此过程应是关于技术在人类生活中的角色及其如何贡献于更公正、人道世界的共同反思。所有利益相关者,包括贫困者和弱势群体的声音,都应被纳入规制讨论。
结语
文告呼吁,AI的发展应致力于服务人类手足情谊与和平,这并非少数人的责任,而是全人类的共同使命。教宗祈愿AI的发展能减少不平等与不义,终结战争与冲突,减轻人类苦难。他敦促基督徒、各宗教信仰者及善心人士携手合作,拥抱数字革命的机遇,应对挑战,将一个更加团结、公正与和平的世界传递给后代。