Press "Enter" to skip to content

圣山文摘

季卫东:强人工智能的治理与法律挑战

奇点再次成为舆论的焦点。 所谓“奇点”,在科技上指的是人工智能超越人类智慧的时刻。 七年前,当AI系统“阿尔法围棋(AlphaGo)”击败来自韩国的围棋世界冠军李世石时,人工智能超越人类智能的预测似乎变成了现实,曾经引起一片骚动。在新冠疫情暴发前一年的那个夏天,油管(YouTube)用户纷纷发现,该视频网站上的机器人对战场景都被自动删除了,于是又爆发出“机器觉醒”的惊呼。2022年6月,谷歌的一位软件工程师还声称他研制的智能聊天机器人已经产生了自主感情。到2023年3月17日,斯坦福大学教授米哈尔·科辛斯基公布了他的惊人发现:GPT-4不仅具有比以前更明显的机器觉醒的迹象,还暴露出试图摆脱人类控制的主观动机和潜力。 诸如此类的事实不断曝光,意味着科技正在逼近奇点,甚至已经越过奇点。也就是说,“强人工智能”似乎正在蹑手蹑脚地走进人类的生活世界。 一般而言,所谓“弱人工智能”,只是按人的指令完成单项任务,没有独立的自我意识。但与此不同,强人工智能则被认为具有与人类同样的认知能力、抽象思考能力以及解决问题的能力,甚至有可能在智慧程度上超过人类。这样就会产生AI与人类在智能上进行比较或竞争的压力,进而导致对AI取代人类、伤害人类的忧虑。正因为存在这种忧患意识,奇点才会不断成为人们关注的热点。 两种应对之道及其变化 虽然ChatGPT功能强大,但或许还算不上真正的“强人工智能”。不过,GPT-4乃至GPT-5则很不一样,在进化过程中俨然酝酿着重大质变。究竟应该怎样应对强人工智能,迄今为止一直存在两种对立的思想立场。一种主张在安全性获得证明之前应该停止新的研发,可以称之为“风险预防至上”的原则。另一种主张在危害性获得证明之前还应该继续研发,可以称之为“技术发展无须审批”的原则。在过去很长一段时期,欧洲侧重前一种立场,美国侧重后一种立场。 面对生成式人工智能ChatGPT横空出世以及GPT-4引发的强AI研发竞争,即便侧重创新的美国也出现了更加强调风险预防原则的倾向。例如在2023年3月下旬,未来生命研究所发表了一封公开信,呼吁所有AI实验室立即暂停训练比GPT-4更强的AI系统至少6个月,并获得马斯克等千名以上的科技界领袖和业界大佬签名支持。3月30日,美国联邦贸易委员会还收到来自AI和数字政策中心的举报,要求对OpenAI及其新产品GPT-4展开调查。 今年4月5日的《华盛顿邮报》还披露了一个更加令人不寒而栗的事实,加州大学洛杉矶分校尤金·沃洛克教授的实验性研究发现,生成式人工智能ChatGPT居然能够捏造法学家性骚扰的丑闻及其信息来源,指名道姓进行有鼻子有眼的诽谤。到4月下旬,图灵奖得主杰弗里·辛顿向谷歌提出离职以便能够公开对人类AI研发大战以及强人工智能应用的风险表示忧虑,据说他还很后悔开发了基于神经网络的深度学习技术。这些现象表明,专家和舆论都在试图发出警报并且给社会带节奏。…

季卫东:重新认识企业法务——“企业商事法务丛书”总序

在2016年,一直被认为是世界法律秩序稳定之锚的英美两国突然发生异变。英国公投决定脱离欧盟,在欧洲乃至全世界掀起滔天巨浪。美国大选推出另类总统特朗普,在世界范围内不断造成意外和不确定性。以此为背景,WTO上诉机构按照任期届满的空缺职位重新遴选新委员的工作从2016年开始受到严重阻碍,直到三年后彻底丧失裁定的功能。美国从2018年1月开始采取大幅度提高关税的举措,从2019年5月开始对华为等企业采取封杀行动。这场中美贸易战的本质其实是法律战,必然促进企业的策略诉讼以及政府的司法外交,当然也就相应地提升了预防法学的重要性。为此,我们需要在新的时代背景下重新省察和反思中国企业法务的制度设计和运作实践。 在过去很长时期内,中国企业忽视了企业法务的功能。按照国际惯例,大型企业的法务开支一般占营业收入的百分之一,但中国的这一占比曾经只有千分之一;在企业的治理结构中法务部门一直处于从属地位,不能参与经营决策;法务人员与顾问律师之间的角色分担关系也是模糊不清的。自从经济合作与发展组织(OECD)成员国在1997年签署《国际商业交易活动反对行贿外国公职人员公约》、美国在1998年修改《海外反腐败法》而把贿赂罪适用范围扩大到外国企业和自然人,各国企业在涉外业务中的法律风险骤增,中国也相应地提高了对企业内控与合规的要求。从2004年起,中国通过三个特别“三年计划”建立和健全了总法律顾问制度以及法律风险防范机制,特别是2012年国资委颁布企业合规的国家标准,企业法务逐渐成为经营决策的指南针。从对总法律顾问具备律师资格的刚性要求上,还可以依稀看到律师主导的美国式企业法务模式的影响。 日本式企业法务模式有所不同,并非律师主导。企业的大部分涉法涉讼事务都由法务部门处理,往往只把自己无法解决的难题交给外聘律师。所有法务人员都是在公司里工作的职员,法务部长也无须获得律师资格,因而企业的法务成本相对比较低,法务部门与业务部门之间的关系也比较协调。企业法务部门的主要职责包括合同文书的起草、修改、审核,就包括劳资关系在内的各种法律问题进行咨询,参与商务谈判以防范有关法律风险,建立和维持内控制度并进行合规培训,维护知识产权,研讨并购的攻防对策,履行环境保护等社会责任,与政府和司法机关进行沟通,与律师进行协调与合作,处理解决纠纷和诉讼的相关问题,等等。2008年的金融危机导致美国跨国公司压缩律师聘用的开支,更重视录用企业内部法律工作者来满足合规和守法的需要。在这种背景下,日本式企业法务模式也受到更多的关注。 中国与日本之间围绕企业法务的体系化深入交流,可以追溯到上海交通大学凯原法学院在2009年开始正式举办学分制日本企业法务系列讲座、在2010年开设东京企业法务实习基地,以及在2011年携手日本经团联成立企业法务研究中心。2017年的中国企业法务年会上海会场邀请到日本经营法友会领导层和代表与会,决定从2018年起在东京和上海两地交替举办中日企业法务年会。就在中美贸易战如火如荼的2018年,上海交通大学日本研究中心作为教育部认定的国别研究中心、作为校级实体化平台隆重成立,围绕企业法务的研究和交流也就自然而然成为这个中心的一项重要任务。在这样的背景下,我们启动了日本企业商事法务丛书的翻译出版计划,试图为中日两国在新时代的经济合作以及纠纷化解奠定坚实的法务基础。 早在国际经济纠纷开始激化的年代,日本就曾经策划出版过关于企业法务的大型丛书,对我国当然也有借鉴意义,但毕竟很多内容已经过时。作为大型公司法务部长交流平台的日本经营法友会倒是经常出版关于企业法务的专题论文集、专著以及最新法规解说,但这些不断刷新的书刊缺乏体系性,无法让中国读者一窥全貌。最后选定的商事法务丛书是从2006年开始编辑,到2009年出齐,距今只有十年左右的时间,内容还在保鲜期内。这套丛书的编撰者包括相关领域的权威学者和实务家,特色是非常注重对现实中出现的各种法律问题的学理分析,试图通过在理论与实践之间架设桥梁的方式为企业法务指明进一步发展的方向,并且提升预防法学和策略诉讼的专业水准。这套书分为四种,包括许可合同、并购和合资、企业金融创新、国际商务等四大前沿领域的重要现象和趋势、法律的制度安排以及操作流程的解析,具体论述的范围实际上几乎涵盖了企业法务的所有层面。因而这套丛书既可以作为企业法务研究的向导,也可以作为法学院培养专业人才的教科书或参考书,还可以作为总法律顾问和法务部长们的业务指南。 不得不指出,就在过去的十来年里,数字化信息技术使法律界的生态环境发生了天翻地覆的变化。物联网、大数据、云计算以及人工智能在司法机关和律师事务所被广泛应用,法律流程外包(Legal Process Outsourcing, LPO)现象变得司空见惯,在这种状况下法律科技公司如雨后春笋般涌现出来,并逐步扮演起替代性法律服务提供商(Alternative…

应星:从“发明”到“发现”:中国社会理论的两种概念生产方式

【内容提要】 学界常常将中国社会理论的概念生产直接等同于概念的“发明”,却忽略和低估了另一种重要的概念生产方式——“发现”。而在笔者看来,概念的“发明”固然十分重要,但也面临着种种限制和陷阱,存在被滥用的危险性。要提高中国社会理论的建设水平,除了端正概念“发明”的态度,改进概念“发明”的技艺外,还需要拓宽概念生产的途径,即重视概念的“发现”,也即由研究者对某些已经存在,但原非社会理论术语的用语赋予社会理论的含义,从而将一个非理论术语转化为理论概念。作者分析了概念“发现”的五种基本类型,同时也对概念“发现”中面临的对象化失焦与机制化错位问题进行了解剖。作者最后提出要从“文化自觉”的高度来“发现”概念。 【关键词】 发明,发现,概念生产,中国社会理论 众所周知,概念在社会理论中一直居于核心地位,它是社会学知识体系的基石。对理论概念进行生产和阐释是理论分析的基本路径。一种社会理论的成熟度如何,端赖它在概念生产上所展现的概括力、想象力和穿透力的高低。不过,我们在理解社会理论概念时,还存在一些常见的误区。比如,常常将概念的生产直接等同于概念的“发明”,而忽略和低估了另一种重要的概念生产方式——“发现”。本文拟就中国社会理论的这两种主要的概念生产方式作简要的辨析。 一、“发明”概念在中国社会理论的应用及其滥用 所谓概念的“发明”是指研究者创造出来的崭新的理论术语,它们以凝练、简明而准确的方式对社会现象的若干规律和实质进行了高度的抽象与概括。概念的“发明”在哲学理论和社会理论中同等重要,然而,哲学概念的“发明”是理论思辨的结果,体现的是观念或理念本身的运动;而社会理论概念的“发明”具有较强的经验性质,体现的是对现实经验和历史经验的总结和提升。当然,社会理论概念纷繁复杂,既有“范式革命”意义上的概念与“常规科学”范畴内的概念之别,①也有宏观概念与中层理论的概念之别;②既有发生学意义上的概念与社会形态学意义上的概念之别,③也有规范性概念与描述性概念之别。④尽管如此,社会学作为一门经验科学,其理论概念的“发明”具有或多或少的实证性,是在不同的意义上从特殊中探求普遍,从个别中寻找一般,从局部经验上升到整体认识,从偶发性提高到规律性的认识结果。概念“发明”的这些基本特性无论是在西方社会理论中,还是在中国社会理论中,都是相通的。下文仅以中国社会理论的概念“发明”例证来略加说明。 中国社会学最知名的理论概念应该算是费孝通1947年在《乡土中国》中提出的“差序格局”。“差序格局”与“团体格局”是一对概念,它们用来对勘中国传统社会结构及社会关系与西方社会结构及社会关系。“差序格局”是指中国社会的关系格局如同“把一块石头丢在水面上所发生的一圈圈推出去的波纹。每个人都是他社会影响所推出去的圈子的中心。被圈子的波纹所推及的就发生联系”,社会关系“是私人联系的增加,社会范围是一根根私人联系所构成的网络”。⑤中国社会学重建四十多年来,围绕“差序格局”所展开的讨论一直在热烈地持续着,仅中国知网收录的以“差序格局”为主题的论文就高达1300多篇。费孝通这么一个比喻式的概念“发明”为什么会产生如此辉煌的学术影响力?笔者认为有以下几个因素。首先,“差序格局”这个概念所触及的是中国传统社会最核心的问题。伦理本位、关系社会、家国一体是中国传统社会和政治的基本特征,而这个概念深刻地揭示了伦理推展、关系伸缩及家国连接的关键机制,同时也把握住了传统中国对现代中国发生绵延影响的基本通道,既具有应用的广泛性,又具有启发的深刻性。其次,“差序格局”这个概念的发明方式以其敏锐的经验直觉和直观明了的构造方式体现了中国式的智慧,与西方概念发明中讲究的逻辑严整判然有别。借用梁漱溟的话来说,前者是“理智应用直觉”,后者是“直觉应用理智”。⑥紧贴中国文化自身的脉络来构造中国社会理论概念,这样的“发明”可谓文质适配。再次,“差序格局”这个概念具有较强的开放性和可证伪性,能够引发持续的对话和批评。总之,问题的重要性、构造的贴切性和思想的开放性是费孝通所发明的“差序格局”获得学界广泛承认的关键因素。 笔者在多年的社会学研究中,也做过一些概念“发明”的尝试,比如在《大河移民上访的故事》中提出过“问题化”的概念。⑦它指在当代中国结构科层化与功能科层化分离的情况下,国家的治理雄心与治理技术存在着某些较为普遍的脱节现象,基层政府所关注的问题和民众所关注的问题有时是错位的。民众为了使自己关注的问题能被纳入政府解决问题的议事日程,就必须不断应用各种策略和技术把自己的困境建构为基层政府需要重视的社会秩序问题,即“问题化”的技术。这个概念虽然是从中国上访问题的实践中总结出来的,但对现代国家特别是发展中国家有一定的普适性。因为在各个现代国家特别是发展中国家中,政府治理的目标关注与被治理对象的目标关注往往都存在一定的错位。尽管这些目标之间并不是必然对立的,但在优先等级上或价值偏好上是有明显差别的。尤其是在某些紧急情况下,这种偏好差别就可能引发尖锐的社会冲突或社会运动。被治理对象为了将自己的目标替代为政府优先治理的目标,就需要采取各种“问题化”的技术和策略。更进一步地,治理实践中的“问题化”与福柯所谓的“问题化”(problematisation)虽然针对的是完全不同的内涵,但仍存在某些可对话的空间。⑧当然,“问题化”这个概念的学术价值究竟如何,且留待他人评说。…

许纪霖:五四知识分子通向列宁主义之路(1919—1921)

原创 独立精神 2020-09-16 08:08 个 本文作者许纪霖教授 摘要 从1919—1921这两年间,五四的激进知识分子,首先从“知识化主义”的点滴改造,走向寻求通盘解决的“信仰化主义”;随后从“柔性化”的无政府主义、社会主义,走向“复调的马克思主义”,最后认同“刚性化”的列宁主义。在这一过程当中,五四知识分子内部发生了三波的思想与组织的分化,首先是寻求点滴改良的温和知识分子与追求整体解决的激进知识分子的分化,其次是相信兼容各种“主义”的知识分子与认同马克思主义的知识分子的分化,最后是“复调的马克思主义”者与“一元的列宁主义”者的分化。到第三波分化完成,中共在信仰力和组织力两个层面自我定型,最后成为了一个布尔什维克的政党。 关键词…

季卫东:管控“强人工智能”面临法律悖论

ChatGPT的问世,是人工智能发展进程中的重大转折点,甚至可以称之为科技奇点,从此AI由弱转强并进入物种大爆发阶段。特别是今年3月15日发布的GPT-4,在很多方面俨然达到甚至超越人类的聪慧水准。但是,两天后斯坦福大学教授米哈尔·科辛斯基公开了他的惊人发现:GPT-4不仅具有更明显的机器觉醒的迹象,还暴露出试图摆脱人类控制的主观动机和潜力。这意味着阿西莫夫关于机器人研发的第一定律(不许伤害人)和第二定律(服从人命令)正面临极其严峻的挑战。 进入4月,一个更加令人不寒而栗的事实被披露,加州大学洛杉矶分校尤金·沃洛克教授的实验性研究发现,ChatGPT居然能够捏造法学家性骚扰的丑闻及其信息来源,指名道姓进行有鼻子有眼的诽谤。舆情瞬间铺天盖地,让强人工智能继续进化还是就地止步,突然成为法律判断的一个重要问题。 尽管如此,与ChatGPT类似的强AI研发活动并未停步。中国也正在涌现出各种各样的大模型,例如百度的“文心”、华为的“盘古”等等。显然,在这场强AI研发竞争中,并不缺少后来居上的积极性,各种新兴势力紧紧抓住弯道超车的契机不放。然而,ChatGPT毕竟带来了一系列重大问题和风险,例如取代人类工作、自主武器伤害、社会工程攻击、能源消耗代价等等,都需要人类认真对待。据斯坦福大学HAI(人本人工智能研究所)2023年报告,73%的AI专家相信AI将引发社会革命,但也有36%的人认为AI有可能造成核弹级别的不可逆灾难。正因为存在小概率、大危害的恐怖,才必须采取有力举措,防患于未然。 GPT-4以及类似“强人工智能”的本质是大规模语言生成模型和AI生成内容。相关研究表明,这类新型人工智能将在2026年之前耗尽高质量人类语言数据、在2030-2040期间耗尽所有人类语言数据。这意味着在今后十余年里AI合成数据的占比越来越高,直到彻底取代现实世界的语言数据。如果此后喂食人工智能的主要数据养料是人工智能合成数据,AIGC的可信度究竟如何、会不会垄断人类沟通的语境就成为一个非常严重问题。 何况深度的机器学习会使AI逐步远离人类的介入和掌控,算法也将变得难以解释、不可理解甚至无法控制,从而导致大模型反噬人类的噩梦。这意味着人工智能治理的重点势必从算法治理转向大模型治理,即人工智能治理标准将从算法偏见最小化转向模型滥用最小化——预测的准确度将决定一切。 以2021年《新一代人工智能伦理规范》为标志,中国不断加强对人工智能开发活动的治理,强调可信、可控、可问责以及敏捷应对的基本原则。在这个规范性文件指导下,有关部门着手研究制定算法伦理规范并推动企业形成共识,并试图通过算法社区、行业联盟等方式搭建内部治理框架和责任体系。 而我国人工智能产业的“清朗行动计划”,也已从当年的算法滥用专项治理推进到了2022年的算法综合治理阶段,计划在三年时间里把相关的伦理原则、法律规则以及技术性测试、监管、评价方法落到实处。2022年3月1日颁布的《互联网信息服务算法推荐管理规定》还确立了算法备案制,以确保监管部门在源头上控制人工智能风险。 以联合国科教文组织推出《人工智能伦理问题建议书》为背景,中共中央、国务院在去年3月20日颁发《关于加强科技伦理治理的意见》。随着ChatGPT引发的全球性争议日趋尖锐,今年4月,科技部公布《科技伦理审查办法(试行)》;网信办也拿出《生成式人工智能服务管理办法》草稿征求意见,希望通过备案制、专家复核程序、明确责任主体、拟订风险清单、进行抽查核验等方法加强对AI大模型研发和应用的监管,防止人工智能系统失控。 但是,当ChatGPT已经开始应用于司法和法律服务场景时,算法会不断形成并加强尼克拉斯·卢曼所强调的不受人类控制的“自反身机制”,并在完全没有理解涵义、没有进行思考的状况下与人类进行法律沟通,影响人类的判断和决策。因此,制定和实施关于强人工智能的法律规则,势必面临更加复杂的问题。针对这类悖论,计算法学研究者以及人工智能治理机制设计者应通盘考虑,尽早未雨绸缪。…

王楠:自由的困境

一 能动的白板:人的心智的基本结构 洛克的教育学说的出发点,是他所理解的人初始所处的基本状态:孩子来到这个世界上,有如一块白板(tabula rasa): 在我看来这无损于上帝的善:他并未给予我们的心智那些有关他自己的观念,就像他将我们送到这个世上,只给我们赤裸裸的身体,而并没给任何天赋的工艺或技能。(ECHU,1.4.16) 洛克认为,人(man)由心智和身体两部分共同构成。 但与唯物主义者霍布斯不同,在他看来,人具有的主观性是第一位的,因此,人以高度观念论的方式来面对外部世界。我们所知觉到的一切,都是自己心智中的观念(idea)而不是事物自身。刚来到这个世界的孩子的心智,有如“一张白纸、一块石蜡、一间空屋”。(STCE,217;ECHU,2.12.17)但心智这间暗室,能够借助感觉(sense)这扇窗户,与外界相沟通,以可见的相似像(visible resemblances)的方式,来把握外在于它的世界的一切事物,这些像就是各种各样的简单和复杂的观念。(ECHU,2.12.17)洛克否认人的心智中存在着某些先天的内在观念(innate idea),白板上的一切,都来自对外界对象的某种摹写和相应观念的加工。孩子所感觉到、认识到的一切,根本都是以这样的方式获得的。 但是,作为白板的心智还有另外的特点。它并不是惰性、被动的物质(passive…

34种行为充斥学术“灰色地带”!院士发论文揭露

8   最近,著名理论物理学家、中国科学院院士孙昌璞发表了一篇关于“抵御学术滑向灰色地带”的论文。   在这篇文章中,“追热点”“轻信权威”“缺乏原创性”等行为都被列入了科研诚信“灰名单”。 https://n.sinaimg.cn/sinakd20230506s/798/w505h293/20230506/1105-2544f4919b7295e33d1cf4bb1950daef.png   著名理论物理学家、中国科学院院士孙昌璞近日发表了一篇关于“抵御学术滑向灰色地带”的论文。   很快就有不少科学家朋友来跟他探讨:   “学术腐败、学术不端这些行为不是更严重吗?你为什么要关注一些‘无伤大雅’的‘灰色行为’?”   “你写这些文章能有什么用呢?”   孙昌璞的回答是:“我并不指望这篇文章马上能有什么用。因为我知道,‘灰色’的问题远比‘非黑即白’的问题难以解决。但总要有人来说这些,如果大家都不为此发声,问题只会更加严重。”…

Trevin Wax:我们应该抵制卡尔·巴特、马丁·路德和爱德华兹吗?

2023-03-31 —— 在当今文化中论及过去备受推崇的神学家时,往往会有两种倾向。 第一种倾向是“英雄传记”式地给他们扣上光环,在光晕中看待信仰先贤,把他们的错误、过犯和罪恶一笔勾销,仅仅留下他们的见解和成就,最好能让今天最挑剔和最有批判性的的历史学家在他们面前都无话可说。 第二种是“抵制文化”(cancel-culture)带来的冲动。如果有一位先贤当时的行为或者观点被当代文化证明有错或者有问题,就把这个人钉在历史的耻辱柱上,完全忽视他们著作中任何可能有帮助或有益的东西。换句话说,他们的罪错和过犯导致他们在其他方面的美德和良善都不值一提,他们被“抵制”了。 这两种倾向对教会都没有好益处,两者都没有充分考虑到圣经中关于人类罪性的教导,也没有考虑到罪与善交织的复杂性,更没有考虑到成圣的渐进性,两种倾向都需要得到纠正。问题是,在一个从简单地胡编乱造到迅速地急于抵制历史人物的世界里,我们最终会以同样的方式对待神学家——要么“抵制”他们,把他们的贡献降到最低,要么不加批判地拥护他们的贡献,把他们的罪错降到最低。但我们应该做得更好。 我们可以因为过去的神学家的罪错而轻视他们,也可以有更多思考。具体而言,我们需要考虑不同种类的罪、这些罪会如何影响这位神学家的观点,以及我们仍然可以用智慧去分辨并从有缺陷的前辈那里得到一些宝藏。 卡尔·巴特带来的难题 几年前,当我在阅读关于大多数教父如何对待神学书籍时,不经意翻开了克里斯蒂安·悌茨(Christiane…