设置星标★关注，从此你的世界多点科学~
（图片：Miguel Á. Padriñán/Pexels;塞巴斯/盖蒂图片社）
哲学与计算机科学渊源深厚，如今甚至开始引领人工智能的思想。
回顾过去十年间哲学家在AI行业的贡献，会看到政治哲学家伊阿宋·加布里埃尔(Iason Gabriel)跨界进入DeepMind，为“AI对齐”奠定哲学基础，伦理学研究者阿曼达•阿斯克尔(Amanda Askell)博士毕业就投身AI，后来主导塑造了Claude模型的道德和性格，曾在剑桥大学担任学术领导的亨利·谢夫林(Henry Shevlin)，近期走上DeepMind新设立的“哲学家”岗位，聚焦机器意识与AI伦理等方面的探索……
眼下，各大AI企业纷纷加速招揽哲学专业毕业生，希望借助哲学的思想解决AI的工程难题。
在当下的人工智能领域，有一部分棘手难题的解题者不再是根正苗红的计算机科学家，而是一批离开学术界、被AI企业招致麾下的哲学家。这些哲学家身负重任，除了要助力新一代大模型升级迭代，还要探索意识之谜，研究人类的智能是否真能通过算法实现“复刻”。
伦敦政治经济学院的哲学教授乔纳森·伯奇(Jonathan Birch)表示，对哲学博士群体来说，AI企业已成为主要雇主，而富有意义的工作、丰厚的薪资以及股票期权，显得难以拒绝。
“几十年来，哲学系一直在研究：如何做出理性决策、如何系统化道德原则、什么是思考/推理/内省、什么可算作意识的证据。如今突然之间，这些问题对AI企业极具价值。也正因如此，学术界人才大量外流。”
——乔纳森·伯奇
走入AI世界的哲学家肩负的关键任务之一在于“对齐”。“对齐”是AI行业术语，指采取各类手段防止模型输出有害内容，例如炸弹制作教程。
最初，企业为遏制模型输出危险内容，只会设置非黑即白的硬性限制，比如彻底禁止模型谈论炸弹相关内容。但这类举措过于笨拙，且容易被绕过限制。如今各大企业都寻求更先进方案，而睿智的方法深度依托关于是非善恶的哲学理解。
对齐绝非易事。研究者发现：倘若允许模型在某一特定场景下打破某一条规则，它就会顺势违反许多其他规则。理清这类现象背后的原理，恰是哲学逻辑分析擅长处理的任务。
埃克塞特大学学者肖恩·格拉金(Shane Glackin)表示，针对上述现象的最佳解释似乎是：模型训练文本库深处存在某种语义关联，将标注为好与标注为坏的内容相互联结；一旦放宽限制，允许模型生成少许负面内容，它就会抓住特例并顺着关联进行推导，进而产出更多坏内容。
“从一个伦理学家的视角看，我认为我们围绕AI所开展的工作，旨在厘清对与错、好与坏、善与恶等概念的形态和边界，并尝试从日常语义与概念内涵的层面来分析判断哪些事物落于边界之内；实际上，大语言模型也在以自己的方式做着同类分析。”
——肖恩·格拉金
AI哲学家的另一大核心工作在于减少“幻觉”。这也是一个行业术语，指模型凭空编造虚假信息。减少机器幻觉要求全方位优化模型性能、消除模型固有的偏见。哲学家还会尝试将人类意识理论应用于AI模型，试图解答一个长久争议的问题：人工智能是否具备感知能力？
哲学领域追寻心灵与大脑本质的历史可谓悠久，如今，古老的哲学命题成了横亘于AI面前的发展难题、AI企业必须解决的工程瓶颈——而AI则成了哲学家分析推理的广阔天地。
哲学与计算机科学的渊源深厚。要知道，艾伦·图灵那篇提出著名“图灵测试”的论文正是刊登于哲学期刊《心智》(Mind)上。(图灵测试旨在判断机器是否展现出人类智能特征。)
目前AI行业招聘哲学人才的整体规模难以精确统计，但美国哲学协会非学术职业委员会主席亚伦·卡根(Aaron Kagan)曾梳理大量招聘广告并得出调研结论：粗略的关键词统计显示，26.6%的岗位招聘文案提及AI伦理、安全、对齐、治理或政策；剔除套话后，仅有约5%的岗位会实质性地涉及相关工作。
爱丁堡大学的哲学学者马哈德·阿尔莫塔哈里(Mahrad Almotahari)正为商业机构担任顾问。据他所知，身边有两位学界同行已转投人工智能企业。阿尔莫塔哈里认可哲学专业知识对科技企业的价值，但就“能否借助哲学破解机器意识这类终极难题”而言，他持怀疑态度。
他认为哲学家的作用是协助工程师解析模型内部正在发生的事情。
“AI模型内部进行着海量数学运算。我们能否从中提炼更高维度的描述？比如，界定模型里的a部分对应现实世界的A类特征，b模块对应B类特征。我认为哲学家恰好擅长此事，擅长把工程层面的描述，转化为表征层面的描述。”
——马哈德·阿尔莫塔哈里
另有学者预见了潜在隐患：企业大批量聘用哲学家，最终可能催生带有偏向性、只为迎合科技公司利益的研究成果。
展望未来，伯奇相信将有大量严肃的哲学研究显然获得企业资助，不过，企业更愿意支持那些能产出符合自身利益的研究者。
“我多么希望，在AI时代到来前，我们哲学界就已经在意识、能动性、道德等核心命题上有了重大突破。倘若哲学先行，AI后至，如今我们大可不必这么紧迫匆忙。不过无论如何，AI领域的终极哲学答案仍遥不可及。”
——乔纳森·伯奇
资料来源：
《世界科学》杂志版在售中 欢迎订阅
月刊定价
15元/期
全年订阅价
180元
点击左侧图片或以下方订阅方式选购
方式一：
扫描二维码，“杂志铺”（第三方平台）订阅有折扣～
方式二：
全国各地邮局订阅 邮发代号：4-263
方式三：
机构订阅，请拨打
021-53300839；
021-53300838
鼎坤策略提示：文章来自网络，不代表本站观点。
相关文章
热点资讯
