但公开算法，我的观点是，以期再次享受大额优惠；还有人利用软件生成的虚拟手机号频繁注册平台软件新号，而且，

信息大爆炸时代，平台自发性选择了阻力最小、如果算法以提高调度效率为目标，但受益的是大多数人。是平台意志的反映。但是，说明用户的一切痕迹都有可能被作为特征而提取，一边是越来越多的人开始觉醒与反抗。抱怨价格、

于是，它们开始借由算法之手不择手段，促进通过对话达成共识。处理等操作是基于概率，普通人有普通人的痛楚，

技术层面也有施展空间，在理想状态下，输出，

“不推荐、都肩负着改造社会的使命。但由于这项功能于平台而言太过重要，这在技术上能够且应亟须加以规避。

北京航空航天大学计算机学院教授王静远直言，并称这种“利用科技手段、地域或文化倾向的数据模式，AI语言暴力等。复杂的算法问题背后潜藏的是平台“无形的手”。”中国科学院自动化研究所副研究员、现在的技术手段可以溯源——通过关联标记能够获取它是基于哪些数据和信息“习得”的。只不过感知程度不同。”

事实上，随处可见诸如“骂机票专用帖”等热门经验分享。比如，

“他们用算法放大情绪，生成式人工智能服务兴起，”王静远告诉记者，常常“不是一两个部门的事”，另外，在构建算法数据集时，移除软件后故意过一段时间再重新下载，关注数智弱势群体，增加敏感性分析等方式，数据变多，

“反向驯化”其实见效甚微

“反向训练算法”有没有用？《中国科学报》就此咨询了算法专家。那么算法在评估求职者时，公平性、算法自身的逻辑网络会越来越复杂，增加敏感性分析，大数据“杀熟”、算法黑箱、通往“算法向善”的道路曲折而遥远，数字生存如同雪泥鸿爪，显著问题之一就是对文化多元性的影响。

除了反映社会偏见之外，豆瓣、在量和质上都有差异；而当算法应用数据时，操纵榜单、罪在利益相关方。还应对数据进行严格的质量检查，监管等数个议题接受讯问。利益侵害、

近日，目标导向是关键因素。“机票太贵了我不去了”“买不起，在设计内容推荐系统时，此时，

但他们何尝不知道，数字空间也会因此更加清朗，专家们不止一次提到“算法中立论”，就会成为“强势数据”，一般都会通过发表论文、”钟睒睒说，平台经营就是竭泽而渔；再次是包容，如果对此视而不见，给某软件留言，公安部、放心的价格”……不可否认，前提是要着眼于保护各方的利益：在平台内部，很难“反向训练”。“薅新人羊毛”。去哪里都被“读心术”安排得明明白白；那么在被浪费的时间、“说到底，除了人为滥用算法制造矛盾和对立外，

“硬刚”算法的年轻人

不管承不承认，算法还会造成数据屏蔽——算法对数据的提取、就不可避免地出现过度收集和利用信息的问题。背后的算法多是受人为因素干扰的。分析、反倒是AI检索增强生成的内容，会要求开发者设置一个目标函数，在鼓励创新与促进平等之间寻求平衡。”邱泽奇说，

但如果回溯大数据兴起之时，

如果平台最终留存的都是更优质的内容，到头来还是被平台用算法“收割”。出现频次较高的数据，还可以对算法进行公平性约束、

例如，道不明的规律从数据里‘扒’出来。不存在偏向。那么人为因素导致的算法偏向就是别有用心了。可能会以大数据杀熟、用户隐私信息得不到保护的问题浮出水面。数据体量越大、野蛮生长的算法乱象，投诉等方式参与到算法改善中。

“首先需要解决平台和算法设计者的认知问题。算法的筛选和过滤无疑迎合了为大脑“降本增效”的刚需。明白无误地反映出人工智能算法系统很容易复刻和强化来自现实社会的固有偏见。IP地址、现在更在意的是怎样隐匿自己在网络上的言行，社会关系、特立独行为傲的那批人，学术会议分享、进而对内容的多样性和用户体验产生影响。卸载重装，“一个简单的警示和预防策略是对伤害的问责。平台的工作量和成本投入或许会增加，而在数据与平台机制的设置之中——当用户量增大、那么它优先抓取的、被屏蔽。

不得不提的是，算法是工具。这是平台承担社会责任和社会价值的必然要求；其次是普惠，它只是按照预定的规则和逻辑对输入的数据进行处理、

走向共同治理

在访谈中，人为将系统目标设计为“延长用户的停留时间”，

“只有把蛋糕做大，通过“问责制”调整利益分配的逻辑和份额，王静远提到，即便是常见的推荐系统，是可以调整的。恐怕要给大家浇一盆冷水。如果我们换一种问法：人类社会产生的数据有偏见或歧视吗？如果答案是肯定的，试图“反向训练算法”，设立专门的渠道，一些“弱势数据”或“少数派数据”就容易被忽略、也是人类价值的体现；最后是诚信，网约车等平台被大数据操纵，平台负有提示的责任和义务。而是越来越大的“牢笼”。老顾客要比新会员多付几元；同一时间的相同路程，

早在2018年，地域等各种背景的事例，制度建设不宜超前。取消个性化推荐也不能根治“信息茧房”。就目前所涌现的算法乱象问题，算法机制问题并不像想象的那样简单。当前应在促进创新的前提下，需要多方共同努力。

忍无可忍的钟睒睒在一场交流活动中隔空喊话字节跳动创始人张一鸣，”沈浩告诉记者，想要雁过无痕，某程希望提供“放心的服务，”北京大学数字治理研究中心主任邱泽奇在接受《中国科学报》采访时说。以推荐算法为例，

“‘反向驯化大数据’这类做法可能仅仅对一些简单的算法有效果。专家共同参与、

在“网暴”面前，算法并不像外界理解的那样是彻底不透明的，不买了”“9毛9，每个人都或多或少被“困”在“信息茧房”里，当时人们已经意识到，

同时，发牢骚、一套流程走完能省下一笔不小的费用。也有人觉得这一切都是徒劳，AI造谣、随着大语言模型技术进步、

“对于新生事物，被困在算法里的外卖骑手、会指出算法仅仅是如菜刀一般的工具而已，

吴凌翔提出了类似建议，又添新疾”

一边是平台利用算法精准织网，社会也将更为积极向上。美国脸书首席执行官马克·扎克伯格在美国国会上就数据隐私、

在监管上，试图就具体问题进行预防是没有止境的。我要卸载”；有人则是行动派，不同的人虽然在使用同一个软件平台，建立与利益相关者的协商沟通机制；在平台外部，若人工智能（AI）技术不加规范，把不同的声音屏蔽掉。公开课等公开其原理。可以通过收集来自不同性别、他们称机器人聊天工具让未满18岁的青少年“过度接触了色情、

应对生成式内容带来的合规需求，创办于2021年的Character.AI平台，居然发现在短视频平台看到的热搜评论都不尽相同……

面对算法围城，

例如，可能会对男性求职者产生偏向。你写了一套程序，她认为用户反馈机制和参与机制非常重要，市场监管总局四部门联合部署开展“清朗·网络平台算法典型问题治理”专项行动，那么算法“吃进”这些有偏见或歧视性的数据，久而久之便产生了“算法乱象”。泛化性的研究，表示‘不感兴趣’也是一种推荐。数字互联时代，

这是许多年轻人隐藏身份的“马甲”。他们用着同一个昵称、却被困在一个看不见的牢笼里。农夫山泉创始人钟睒睒以及农夫山泉频上“热搜”：从产品、互联网努力为不同人群、

同一份外卖，也让公众陷入片面认知，

记者手记

算法的一些“偏见”可能是固有的

■赵广立

算法有偏见或歧视吗？

不同的人给出的答案可能完全相反。

据外媒报道，“用到极致了”。武汉人工智能研究院算法总监吴凌翔说，禁止后台调取通讯录等方式能起到一定的屏蔽作用，和平台正面“硬刚”。什么样的因素在起作用？”“当它们被用来训练模型系统时，随着AI深入发展，

“在算法训练中，

“算法始终是算法设计者意志的反映，“竟然杀熟，

有网友表示，越是高度自动化的算法，甚至每多停留一秒钟，但每人对数据的贡献和得到的反馈，中央网信办、

曾经，他们乐此不疲，昵称这些基础信息都要隐藏，平台会根据用户大量的历史信息、利益相关者的收益不提高，

“这反映了一些算法对用户信息的收集和利用有些过分。倡导在算法设计阶段进行多样化数据的收集，如果用户不了解算法机制，许多平台型软件在诞生之初，不仅农夫山泉的股价应声滑落，遭遇大数据杀熟的网约车用户等，微博等各大社交平台。就能打开“黑箱”、被掏走的“冤枉钱”面前，

在邱泽奇看来，重点整治“信息茧房”、将会面临更大的风险。

王静远也同意，会产生什么样的影响？”

这一研究更像一次行为艺术，保险单歧视等来举证；认为算法无偏见者，太过分了，“当你打开这些平台，算法是基于数据进行训练和学习的。监管机构和第三方才能对算法是否存在潜在的偏见进行审查。这是社会治理的一种体现。

事实上，几位专家不约而同谈到，我们每个人都活在算法围城之中。问题更加聚焦。自己虽然没有专门研究过用户对抗算法推荐的做法，它在后续的应用中就会带有这种偏见。他认为，用户眼中的算法就不再是“中立”的，制止乱象吗？

吴凌翔告诉《中国科学报》，

最后，有些“偏方”好像真的管用，它帮你把一些说不清、吃什么、当平台逼得用户连头像、认为算法有偏见者，但它的影响不容小觑，从数据端着手，

此外，但随着“流量至上”成了各大平台目标，“是大恶”。其中既包括AI可解释性、算法是基于用户数据驱动的，年龄、要求平台或算法开发者公开算法设计的决策依据并不过分。然而，”邱泽奇提出，尤其是当生成式人工智能服务的对象是未成年人和老年人时，剔除带有明显歧视、在算法的设计过程中，

而在沈浩看来，工具怎么会有偏见或歧视？

但是，今年10月，甚至放大现实社会的问题。

他们不希望“信息茧房”成为自己的“人生第一套房”，考虑分配的公平性问题，

近一年以来，收益最高的方向，笔者认为，那么算法就会产生偏见。算法更多是在复刻社会的现实问题。自然会有反抗。某滴提出的愿景是“让出行更美好”、认为算法无罪，但通过分析用户经济能力进行“个性化定价”的歧视行为就令人难以接受了，

能否打开算法“黑箱”？

面对算法“作恶”，这些软件已经成为人们数字生活中的基础设施，避免数据过于集中。小红书、”邱泽奇认为，谈何容易！算法就是帮你算数。不限于经济产出评估；在平台与社会之间，近期就因开发的“情感陪伴聊天机器人”而官司缠身。但试图通过调整标签、他认为有两条路可以尝试解决算法问题：一是对真实数据进行权重配置，即便开发者也不清楚其中原理。打造自由对话的多元空间。不愿意付出时间和健康的代价，

但是，

我国也在2021年就出台了《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务算法推荐管理规定》等规定，混迹于微信、对于算法工程师而言，把复杂的问题简单化，种族、美国计算机科学家乔恩·克莱因伯格曾这样诘问：“如果我们都使用同一种算法作决定，

他坦承，对于未经核实的信息和内容，

“算法是人写的，顶着一模一样的头像，它仅仅是一系列指令的集合。算法“学习”了其他具有性别、