回望2024年十大合规事件：人工智能硅幕降临，伦理警钟拉响，行业竞争激烈，寻找破局点

　　21世纪经济报道记者 王俊 肖潇 北京报道

　　试图用一个关键词来概括2024年实在过于野心勃勃了。这一年信息密度之大、频次之高，常有时空错序之感。“新旧之间”，或许可以形容这一年的状态。 

　　在历经2023年的生成式人工智能“创世纪”、千模大战、治理规则竞速后，2024年的人工智能依旧是资本市场最青睐的故事，对PMF的追逐、密集的产品发布，使商业化更务实。

　　但随着应用落地，人工智能伦理问题浮出水面，遥远的隐忧变得近在眼前——萝卜快跑引发就业替代的焦虑；Character AI诱导青少年自杀事件送给人类情感一颗子弹；韩国“AI换脸”重现“N号房”梦魇；行至年末，OpenAI吹哨人之死引发圈内震动，“AI教父”、诺奖得主杰弗里·辛顿再度拉响警报．．．．．．

　　技术发展带来的新世界里逐渐出现了质疑的思潮，技术进步的叙事是否是一个错误的预设？人工智能的硅幕降临后将会带来什么？

　　人机交战或许会变成永恒的课题。算法治理便是例证。2024年，钟睒晱炮轰算法作恶，再次将该问题推到台前，年轻人赛博哭穷“反向驯化算法”，网信办等四部门联合开展算法治理专项行动。被算法围困的现实世界中，算法治理与公众感知之间的鸿沟难以消弭。

　　治理总是在反复、震荡中前行。这一年，阿里巴巴完成整改，淘宝微信互联互通，标志着前序一轮的互联网治理告一段落。新挑战接踵而来，“内卷”生态下，电商行业过度低价使平台与中小商家陷入囚徒困境，仅退款、运费险黑灰产乱象涌现。

　　新旧之间，无序状态将持续。“密涅瓦的猫头鹰在黄昏时才起飞。”混沌之中，需各方努力勾勒秩序的轮廓。

　　同往年一样，我们梳理了十大合规事件，尝试在高密度高频的信息流中，为大家提供有价值的内容。

　　记录，是为了更清晰地认识世界。

　　以下是我们总结的十大事件概览：

　　1、AI冲击就业：Robotaxi引发生存焦虑、艺术家抗议出走

　　2、AI伦理问题涌现：Character AI诱导自杀、韩国再现色情换脸“N号房”

　　3、AI纠纷进入司法：三起AI第一案，审判风向影响产业界

　　4、AI全球立法进行时：欧盟人工智能法施行、美国加州法案遭遇产业阻拦

　　5、算法治理回旋镖飞回：钟睒晱炮轰算法作恶、四部门推进治理专项行动、网友赛博哭穷“反向训练算法”

　　6、前序平台治理落幕：阿里巴巴完成整改，淘宝微信互联互通

　　7、电商过度低价竞争：平台与中小商家陷囚徒困境、仅退款黑灰产冲击生态

　　8、“苹果税”拉锯战：欧盟敲开围墙一角，国内首例反垄断诉讼一审败诉

　　9、自动驾驶发展迷雾：国安部披露非法测绘，测绘合规成行业阿克琉斯之踵

　　10、TikTok“不卖就禁”法案通过：数字主权的强硬宣言

　　正文：

　　1、AI冲击就业：Robotaxi引发生存焦虑、艺术家抗议出走

　　2024年7月份，百度旗下的无人驾驶车“萝卜快跑”登上微博热搜，有网友称萝卜快跑已经在武汉大面积铺开1000辆，抢走不少网约车单子。

　　一直以来，网约车、外卖、快递被视为就业兜底的铁人三项，在当下增压的就业环境中，萝卜快跑事件无疑挑拨了公众敏感的神经。尽管后续百度辟谣网传的“千辆”不实，并于8月份释出“萝卜快跑招聘自动驾驶安全员优先录用老司机”消息。但是，被替代的焦虑，时刻萦绕在公众心头。

　　有专家形容AI可能成为“终结者”，可以替代几乎所有职业。在年末信通院发布的《人工智能治理蓝皮书（2024年）》中指出，人工智能替代效应将主要冲击中高端收入群体。

　　一些抵抗行动正在进行。今年，我们见证许多艺术家迁移到一款名为Cara的反AIGC社交产品，以示出走的决心——该平台有专门的AI检测器禁止AI作品发布，能为艺术家的作品“上釉”，保护作品不被AI模仿。此外，100多位YouTube创作者对OpenAI发起集体诉讼，指控OpenAI擅自转录了数百万个自己创作的视频来训练大模型。

　　技术大潮浩浩汤汤，以不可辩驳的姿态席卷而来。面对生存危机，不少人开始反思技术进步的叙事是否正确。AI就业替代背后，不仅是新旧产业交锋的利益博弈，更折射出价值选择：我们究竟如何看待人类个体的价值与意义？

　　2、AI伦理困境频现：Character AI诱导自杀、韩国爆发色情换脸“N号房” 

　　技术，在向善与作恶之间只有一线之隔。

　　2024年5月，多起韩国“AI换脸”恶性犯罪事件曝光。5月，一则调查报道显示，加密通讯应用程序 Telegram 上有数十个“羞辱房”，韩国男性用户在聊天群中分享普通女性照片，并用深度伪造软件“换头”成色情制片。8月，数百个类似的Telegram色情聊天室陆续曝光，波及范围扩大到女学生、女教师、女兵等，其中已知最大的一个聊天室成员超过22万人。

　　不止是韩国，滥用深度伪造技术进行性犯罪的行为在全球范围内流行。欺诈安全网站Home Security Heroes去年的报告显示，互联网上98%的深度伪造视频为色情内容。10月份，韩国国会通过了一项性犯罪的修正法案——任何制作、持有、保存深度伪造色情视频的行为，都可被定为刑事犯罪。

　　冲击，还出现在穿透肉身的维度。随着主打情绪和陪伴价值的AI越来越常见，2024年10月，媒体披露了一起美国青少年自杀的案件：14岁的男孩与AI聊天机器人对话数月后，走向自杀。随后，死者家属将AI公司Character.AI诉至法庭。  

　　对人工智能的情感依赖将侵蚀人类自主性。人工智能存在“谄媚”问题，可以不断迎合用户的需求和情感，提供正面反馈并避免负面评价。但真实的人际交往复杂多样，爱需要不断被锻炼。

　　AI真的能熨烫皱巴巴的人类情感吗？ 

　　3、AI纠纷涌入司法：三起AI第一案，审判风向影响产业界

　　纠纷渐序涌入司法领域，多起AI第一案出现，司法审判的影响传导到产业界。

　　2月，广州互联网法院生效了一起生成式AI服务侵犯他人著作权判决，某AIGC网站因生成了与”奥特曼“形象相似的图片被判侵权，这也是全球范围内首例AIGC平台侵权责任判决。

　　业内认为，法院的判决表明生成式人工智能服务提供者需要对AIGC潜在的版权风险承担一定责任。这让企业无所适从，合规成本上升。

　　4月，北京互联网法院就首例“AI声音侵权案”作出一审判决，认定被告北京某文化传媒公司、某软件公司未经原告许可，AI化了原告声音，构成对原告声音权益的侵犯，原告获赔25万元。此外，采购并向大众公开该AI产品的科技公司，需要向原告赔礼道歉。 

　　6月，北京互联网法院在线开庭审理了四起画师起诉AI绘画软件开发运营者的著作权侵权案，四位画师认为，某AI绘画软件的开发运营者未经授权使用其原创作品作为训练数据，侵犯了其合法权益。这也是全国首例涉AI绘画大模型训练著作权侵权案。

　　裁判抛出第一粒石头，在业内激起层层涟漪：是不是只要使用模型生成了著作权保护的形象就是侵权？版权内容是不是从此要从训练数据库中被剥离？人工智能服务提供者是否又责任过重……

　　诸多疑惑还有待回答。尽管我国并非判例法国家，但生效的判决无疑会对人工智能产业造成影响。一往无前发展技术，还是率先开展治理，似乎是任何一项新技术都面临的左右互搏处境。AI第一案背后，理论账、实践账、经济账都需要厘清。

　　4、AI全球立法进行时：欧盟人工智能法施行、美国加州法案遭产业阻拦

　　2024年的AI领域，依旧延续了2023年的规则话语竞速状态。

　　5月21日，欧盟《人工智能法案》由欧盟理事会正式批准通过，并于当地时间8月1日正式生效。至此，全球首部针对人工智能的专门性法律正式出台。该法案于2021年4月首次提议后历经三年的多轮审议，最终形成了一部人工智能系统监管的统一规则，对全球人工智能的监管框架产生了借鉴意义。

　　美国在2023年发布白宫行政法令后，加州尝试推进立法。议会通过了《安全与可靠前沿人工智能创新法案》（简称SB-1047），以期训练成本超过 1 亿美元或者达到一定算力的开发者制定安全标准，确保大规模人工智能模型的安全开发。该法案得到“人工智能教父”之称的杰弗里 辛顿和约书亚 本吉奥的支持，但也遭到杨立昆、李飞飞等科学家，以及头部人工智能企业的反对，称该法律将“阻碍创新”。

　　9月，历经12轮修正，该法案被加州州长以“监管要基于技术发展和风险实证”、“风险监管离不开场景”、 “不能仅仅因为大而监管”而否决。

　　几经迭代，最终被否，折射出人工智能高地美国，立法与产业之间的博弈。要知道，美国加州拥有《福布斯》全球50强人工智能公司中的32家。

　　5、算法治理回旋镖飞回：钟睒晱炮轰算法作恶、四部门推进治理专项行动、网友赛博哭穷“反向训练算法”

　　11月钟睒晱炮轰算法作恶、快手因落实青少年模式不到位等导致违法信息扩散被处罚，当月24日，网信办等四部门联合开展“清朗·网络平台算法典型问题治理”专项行动，要求重点整治同质化推送营造“信息茧房”、违规操纵干预榜单炒作热点、盲目追求利益侵害新就业形态劳动者权益、利用算法实施大数据“杀熟”等。

　　12月，一场赛博迷信刮起，年轻人试图利用“哭穷”等策略反向驯化算法。

　　算法治理自2021年开始，三年间，相关法律法规不断完善，然而公众对算法的感知与治理要求之间仍存较大差距。 

　　其中原因，一方面是算法合规与平台的商业逻辑存在核心冲突，两者天然构成张力。只要做治理必然影响用户活跃和留存，风控部门话语权很小。没有外部影响的话，内部很难严抓合规，尺度较为松散。这种语境下，“算法治理像瓷器店里抓老鼠”，投鼠忌器是最大顾虑。

　　另一方面，平台算法公开与算法透明度很难说合格。相关规则呈现薛定谔状态，它似乎存在，但在公众侧无感。算法科技伦理，行进到现在，不应还是虚无缥缈的叙事，而该是扎实的客观呈现。

　　6、前序平台治理落幕：阿里巴巴完成整改，淘宝微信互联互通 

　　多年前投出的石子，在2024年听到了回音。这一年，阿里巴巴“二选一”完成整改，淘宝、微信、京东加强互联互通，给上一轮的互联网治理划上句号。

　　回溯至2021年，“反垄断”是最显眼的注脚。市场监管总局对阿里巴巴集团开出的182.28亿元破纪录罚单，互联网巨头“拆墙”，迈出互联互通第一步。

　　中国互联网行业恩怨纠纷十余载。自2008年淘宝封禁百度以来，头部平台企业彼此切断访问链接，构建“围墙花园”。原本以“开放、共享”为价值基础的互联网产业，堡垒林立，沟壑纵横，分属不同派系的互联网公司在各自的领域范围内建构着属于自己的商业模式与利益规则。

　　2021年是反垄断高举高打之年，互联互通成了当年最重要的一步棋。三年后，2024年8月39日，阿里完成整改；9月几家大厂宣布：淘宝全面支持微信支付、淘宝天猫将正式接入京东物流．．．．．．

　　底层动因，除却监管治理因素，从商业维度来看，各个平台已经从用户增量竞争转变为对存量价值的进一步发掘，互联互通也就成为必要之举。 

　　7、电商过度低价竞争：平台与中小商家陷囚徒困境，仅退款黑灰产冲击生态

　　流量见顶、存量竞争的处境让大厂们打破藩篱、互利互惠，却让没有议价权的中小商家食下苦果。

　　电商平台为吸引更多流量并把流量变现，衍生出“唯低价”“博流量”的法则，在这些“大棒”智慧下，行业陷入过度低价竞争困境。平台不断卷低价，商家不惜偷工减料或抄袭造假，最终伤及所有市场参与者。

　　除却低价外，为留存用户，平台推出“仅退款”、运费险等政策，逐渐被钻漏洞，演进出一条侵占商户利益的黑灰色产业链，对电商生态造成冲击。

　　所有这一切的底层症结在于：平台与中小商家的不对等关系，商家对于平台规则没有话语权。尤其是一个平台出台自动跟价、仅退款等规则后，其他平台就会迅速跟进，商家没有议价空间。

　　2024年5月，国家市场监管总局发布《网络反不正当竞争暂行规定》明确规定平台经营者不得利用服务协议、交易规则等手段，对平台内经营者的交易进行不合理限制，包括对商品的价格进行不合理的限制。随后的618活动后期，淘宝、京东的一些比价页面和比价标签下线；双十一附近，多个平台进一步松绑了仅退款规则。

　　迹象表明平台已经开始向可持续的竞争策略过渡。但若想根治低价恶性竞争，完善平台规则的评估机制和反馈机制才是根本之策。

　　8、“苹果税”拉锯战：欧盟敲开围墙一角，国内首例反垄断诉讼一审败诉

　　除却国内大厂，还有一家巨头的围墙花园也出现了裂缝，那便是苹果。 

　　3月，随着苹果更新iOS17.4版本，欧盟地区的苹果App商店佣金正式下调到最低10%。此前这一被戏称为“苹果税”的渠道佣金率最低也要15%，最高达30%，是苹果生态最坚固的一道护墙。欧盟的这一举措无疑在苹果的围墙上凿了一个大洞。

　　事实上，美国、日本、韩国经过近些年的政府起诉或调查，已在不同程度上撼动了“苹果税”的根基——有的迫使苹果开放第三方渠道；有的直接下调了佣金。

　　不过在中国市场，这场博弈仍在进行时。5月29日，中国首例由消费者针对“苹果税”发起的反垄断诉讼一审迎来正式宣判，上海知识产权法院驳回消费者金某关于停止收取30%“苹果税”的不公平高价行为，以及停止“应用内购买”强制使用Apple Pay搭售行为的诉求。尽管消费者并未能如愿，但法院判决也开了一道豁口：认定苹果具有市场支配地位。本案原告代理律师表示，接下来将诉讼至最高人民法院。

　　在产业端，“苹果税”也从暗流涌动变成公开对峙。苹果加大了对腾讯和字节跳动的“施压”力度。9月，#iPhone升级后不能用微信#爬上微博热搜。尽管苹果迅速辟谣，但腾讯首次在财报会上正面回应，承认正在就微信小程序游戏充值的“苹果税”问题与苹果磋商。

　　iOS生态开发确实是苹果的成本，但收费价格、抽成比例需要通盘考量。大环境遇冷，一面是苹果要咬住中国区这块“肥肉”，另一面是众多App厂商需要开源节流，双方都要直面骨感的现实。利益拉锯还会持续，而时代潮水在变，大树的根基可能已不再如往昔般稳固。

　　9、自动驾驶发展迷雾：国安部披露非法测绘，测绘合规成行业阿克琉斯之踵

　　2024年的历史中一定有“自动驾驶”的字眼。这一年文远知行、小马智行、速腾聚创、地平线、黑芝麻智能、佑驾创新等公司抢滩上市，资本热潮给这个前几年处于融资寒冬的行业续了命。

　　一个行业的生命力取决于多种因素，创新能力、市场预期等决定走多远，风险防控、合规则决定走多久。

　　10月16日，国安部披露一则非法测绘事件，通报中提及了外资外包等问题，掀开了测绘数据隐秘的角落，智能网联汽车的测绘数据合规甚至可视作阿克琉斯之踵。

　　智能网联汽车的测试、运行和服务高度依赖实时的高精度坐标和高清影像数据，触及地理信息测绘。测绘须有资质才能进行，与智能网联汽车收集数据高度相关的测绘资质主要为导航电子地图与互联网地图，其中导航电子地图有甲级资质的仅有19家。地图是刚需，有资质的图商是少数，外包、合作，便成了常态。只要有外包、合作的地方，嫌隙与漏洞便是大概率事件。

　　按照法规要求，对车企、智驾公司而言，数据处理的话事权握在图商手中，只能由图商将数据脱敏后才有权限使用。催生出车企私自采集、规避资质等不良业态。图商方面，受到无图化冲击，急于寻求新的解题办法，但由于无法掌握真实信息，手足无措。生存压力下，也出现为拿业务突破底线的情形。 

　　从商业维度来看，车厂的苦水是，图商要价高，尤其高精地图价格高昂、更新频率慢。图商的困境在于，制图成本高，而且自动驾驶装配率并不高，做的是亏本生意。

　　都想发展，但共同坐到谈判桌前并非易事。 

　　10、TikTok“不卖就禁”法案通过：数字主权的强硬宣言

　　2024年无疑也是数字主权博弈加剧的一年，围绕TikTok的“不卖就禁”法案，成为这一年中最具标志性的事件之一。

　　4月24日，美国总统拜登正式签署了一份对外援助法案，其中一款法案涉及强制字节跳动剥离旗下应用TikTok：字节跳动需要在明年（2025年）1月19日之前完成TikTok的剥离，否则将面临全面封禁。

　　这项出售计划几乎注定难以成行。中国2020年颁布的出口管制法规，将核心算法视为敏感技术，掐断了TikTok出售的可能性。5月7日，TikTok及母公司字节跳动向美国法院提起诉讼，直指该法案缺乏任何明确证据证明TikTok威胁国家安全，同时指控其违反美国宪法第一修正案所保障的言论自由。 

　　然而，司法之路并不平坦。12月6日，哥伦比亚特区联邦巡回上诉法院裁定驳回TikTok上诉。尽管法院承认法案确实触及言论自由，但认为其为“实现国家安全利益的必要且狭义的手段”。

　　这一判决将TikTok逼入更加险峻的处境，公司表示会上诉到美国最高法院。1月19日的最后期限迫在眉睫，一切看起来都不容乐观。就在此时，转机出现在了即将就任美国总统的特朗普身上——12月27日，特朗普向美国最高法院提出请求，要求暂停执行TikTok强制出售令，希望法院在他于明年1月20日正式就职后，给予他时间通过政治手段解决此争议。

　　种种波折坎坷，折射了“科技冷战”的新叙事。TikTok的命运即将见分晓，但全球化的艰难一章，可能才刚刚开头。