编者按：技术与人的主体性，是技术哲学关注的核心问题。湖南师范大学新闻与传播学院副教授曾琼和湖南开放大学培训学院曹钰涵老师在《传媒观察》2021年第9期刊文，从技术哲学的视角审视广告算法，认为广告算法系统中的“施事者”与“受事者”在广告算法中都获取了充分的主体性，同时又因算法的技术逻辑，遭受到严重的主体性侵犯。作为广告算法“受事者”的消费者或用户，在算法的监视、偏见、歧视以及操纵、控制与规训下，许多自主权利被迫让渡。而作为广告算法“施事者”的广告算法开发者和使用者，更发生存在论意义上的主体性缺失、冲突与忧思。广告主与广告代理在广告算法系统中虽不具有主体意义，但作为算法的重要旁涉者，其主体性同样遭受算法的侵犯与危害。既追求统计学意义上的精准高效，又追求道德无缺与主体无伤，应成为广告算法开发与应用的基本原则。
广告算法不能凌驾于人之上
曾琼 曹钰涵
人的主体性问题是哲学的基本命题之一。技术与人的主体性，也就成为技术哲学重要的问题域。技术哲学认为，人类主要是依靠技术的开发，借助技术的力量，与动物区分开来，与自然界分离开来，从而获得独立。同时，技术的发展对人的主体性又提出严重挑战，并造成人的主体性危机与缺失。
人类正进入一个新的智能技术的时代。智能技术与智能算法的广告运用，极大提升了广告运作的效率与效益，也极大降低了消费者商品信息的搜寻成本，极大改善了市场买卖双方“信息不对称”的状况，不仅为广告市场各参与主体创造出丰厚的利益，带来满满的福祉，也使得各参与主体获得相当大的主体性满足。但在智能广告的发展中，已经发生和正在发生并将持续发生技术的异化，进而造成人的异化，造成人的主体性缺失等严重问题。本文试图在技术哲学视域下，讨论智能广告算法中各参与主体的主体性丧失及其所引发的深刻忧思。
广告算法系统的主体结构与旁涉主体
讨论广告算法中的主体性忧思，首先需要明确的是广告算法系统的主体结构，以及算法旁涉的其他市场主体。
本文认为，在广告算法系统的主体结构中存在三大主体：一是广告算法技术的开发者，诸如目前计算广告普遍运用的人群定向技术、程序化交易技术以及个性化推荐技术的设计者；二是广告算法技术的使用者，主要是指运用上述广告算法技术来实施语境、广告与用户三者的最佳匹配，以及实施广告的程序化交易的一些互联网平台；三是广告算法技术及其产品的接受者，即计算广告的接受者。由此构成广告算法系统的主体结构。
传统广告系统中，作为广告发动主体的广告主，因与“算法”无涉，在广告算法系统中不再具有主体的意义；作为广告代理主体的广告代理方，一部分责任与义务归入广告算法系统，为算法及其平台所取代，一部分独立于广告算法系统之外。虽然他们不能算作广告算法系统中的主体，但广告市场主体的地位仍在。他们作为广告算法的重要旁涉者，与广告算法系统的三大主体一样，既在广告算法中收获充分的主体利益，却又因算法的技术逻辑，而受到主体性侵犯。检视广告算法主体性问题，也应将其一并纳入其中加以讨论。
广告算法“受事者”的主体性焦虑
在广告算法系统中，作为“受事者”的消费者或用户，收获了极大的主体性利益。他们的消费需求受到算法的格外重视，并为他们消费需求的满足提供极大的便利，成为算法服务的对象。但是，算法一方面满足着用户的主体性需求，另一方面却又侵蚀着用户的主体性。正所谓“机器供养了人，却使人变得残缺不全”。
算法监视是算法“受事者”的一大焦虑。算法的依据是数据。用户在网络世界里留下的“消费足迹”，成为广告算法的首要关注。在数字化时代，消费者被“数字化”“数据化”。算法对用户数据的深度挖掘，将用户置于时时被监控的“圆形监狱”之中，无可逃遁。算法对用户无时无刻不在的数据监视，令用户深怀恐惧。计算传播下的受众是如此，计算广告下的受众与消费者更是如此。只要意图享受计算广告的精准服务，就得转让自己的消费数据，也就无从逃脱算法的监视。
算法的偏见与歧视，是算法“受事者”的又一大焦虑。算法作为人的逻辑作品，不仅不能做到完全客观中立和价值无涉，而且因为算法与现实的关系是“对等”的或者说是“同构”的，它往往会复制现实的不公，甚至放大现实的成见，将偏见与歧视加诸算法“受事者”。有研究显示，谷歌的广告系统已经学会了性别歧视，女性得到“高薪”推荐的机会，仅为男性的六分之一。算法推测购买过《哈利波特》的用户，可能会购买《饥饿游戏》，从而给出更高的报价，实施某种价格歧视。算法还会依据用户行为的相似性和概率，造成刻板印象和类别化用户行为，甚至形成隐秘的网络等级制度。可以说，算法偏见和歧视“存在于算法设计和运行的每一个环节”。
操纵、控制与规训，是广告算法“受事者”的另一重忧思。信息传播中的“过滤气泡”（Filter Bubble）问题，以及“信息茧房”（ Information Cocoons）问题，常被视为新闻算法的原罪，也成为广告算法的重大原罪之一。基于消费者个性化识别的广告定向技术、广告个性化推荐技术，“过滤”与屏蔽着广告信息的多样，集中向消费者进行个性化广告信息的推送，引导、规训、固化消费者的消费欲念，进而操纵与控制消费者的消费需求。在这种个性化识别与个性化广告推荐之中，消费者一方面对平台通过追踪个人动态生成个性化广告感到不安，一方面又希望广告能够体现或预测他们的需求。更有甚者，消费者在以“为他们好”，给他们“方便、幸福”的名义被算法操纵，逐渐丧失自主的判断力与选择能力，渐渐产生对它的依赖，并在不知不觉中被其麻痹，被其囚禁，从而“幸福地被操纵”。
主体性最核心的要素是权利。前述所谓监视、偏见、歧视，以及操纵、控制与规训，便与主体被侵犯的各种自主权相关，其中包括着用户的“信息选择权”“知情权”，以及与“数据所有权”相关联的“资讯自决权”，重要的还有学者们一致讨论的“隐私权”。在这里，“技术黑箱切断算法结论与事实之间的联系”，剥夺了用户的“知情权”。基于个性化识别的个性化广告推送，又无情隔离了用户的“信息选择权”。在广告算法中，用户的所有数据被算法所攫取，用户甚至不知道自己的哪些隐私被侵犯，被侵犯到何种程度。在强势算法前，用户甚至被逼以隐私换便利。维克托迈尔-舍恩伯格在《删除：大数据时代的取舍之道》中，还提出用户另一种数据权力：被遗忘权。他认为，在大数据时代，遗忘变成例外，记忆变成常态。在这里，用户不仅丧失着数据的隐私权，个人数据的使用权，连个人数据的删除权即被遗忘权也被技术所剥夺。总之，在广告算法系统中，由于技术的力量，用户的许多权利有的被迫让渡给算法，有的则为算法无情剥夺。
广告算法“施事者”的主体性惶惑
广告算法系统中的“施事者”，具体是指算法的设计者与应用者，即所谓“双主体”。
广告算法解决了广告人一直以来孜孜以求的广告精准投放问题，又极大提升了广告运作的效率。广告投放与广告交易，不仅目标精准，还那么高度自动化与智能化。广告人似乎从广告算法中看到了自身掌控市场的神力。广告算法的设计开发者与应用者，同样在算法实施中获得相当大的主体性满足。然而，其主体性危机也在算法的日益精进中接踵而来。
当工业自动化取代人的劳动之际，马克思就曾敏锐察觉到机器分享到“主人”的权力。这是因为机器一旦脱离人的掌控而自行运作时，它便是一个自在系统而“自行其事”，从而造成对人的主体地位的侵蚀与挑战，或者说技术作为一种客体的异己力量，在其自我运行中逐渐吞没着人的主体性。与工业机械自动化相比，广告算法更是高度智能自动化的。当广告在算法运行中实行精准匹配的智能化内容生产和定向自动投放时，当广告市场在设定的算法与程序中完成自动化交易时，这不仅是一个自在的系统，从某种意义上，更是一个自主的系统，不仅“自行其事”，更是“旁若无人”。这一套运行系统，被牢牢封闭在技术“黑箱”之中，屏蔽和排斥着广告人的创造性与想象力，甚至无视广告人的存在。有论者论及，这种对专业技能取代的智能算法技术，可能会导致大量的技术性失业。有论者更从技术性失业中看到劳动者劳动权的丧失，以及由劳动权丧失所导致的生活意义的消失。其中恐怕还包括有一种更深层的人的存在价值的反思：广告虽在，但广告人在广告系统中的地位何在？作用何在？价值何在？
算法的设计者与应用者，总是出于特定的目的来进行算法的设计和运用。一旦设计完成并进入应用程序，算法便脱离人的控制，依照预先设定的程序去完成自己的工作。广告算法朝着精准与效率的目标，努力实现技术效益的最大化。为了达成这一目标，广告算法肆意攫取消费者的个人数据。广告算法必须以消费者数据为基础，但它却不可能知道消费者的哪些数据可以使用和如何使用。这样，广告算法在实现效益最大化的同时，却又大肆侵犯着消费者的隐私，将算法研发主体与应用主体服务消费者的善意化为“恶行”。算法运行中的主体缺位，以及由此产生的危害，常使设计主体与应用主体陷入深刻的主体性反思之中。
广告算法系统中“施事者”的主体性忧思，从来就具有存在论级别的性质。弱人工智能时代的广告算法，已经让算法技术的开发者与应用者产生存在价值的种种焦虑。当我们从弱人工智能时代进入强人工智能时代，广告算法将由目前的机械算法进一步发展成为高度智能化系统，一个具有自觉意识和自主判断能力，自身系统对象化的反思能力，修改自身程序的能力，独立发明新语言、新规则、新程序的创造力的万能通用的全能系统。到那时，一切都是技术化的存在，一切都是智能化的存在，整个广告世界都将是智能算法的天下。智能算法与广告人存在价值的深层次的本质性冲突将会愈演愈烈，其创设主体与应用主体的存在论意义上的主体性忧思也将进一步升级。在整个广告系统中“我”的地位何在？“我”存在的价值与意义又在哪里？“我”是不是会从广告系统中消失？当智能算法越来越变得比人聪明，一切是否都会发生颠覆性改变？越来越变得具有自我意识和自主性，其“为恶”是否也将会越来越不受人控制？
广告算法重要“旁涉者”的主体性迷思
作为广告市场两大主体的广告主与广告代理，虽说在广告算法系统中并不具有主体意义，却是广告算法的重要旁涉者。广告算法同样造成对他们的主体性侵犯，只是这种侵犯并不是那么直接，而是由算法运行所引发的结构关系变动或权力变动导致或加剧的。
广告主是广告算法的最大受益者，在广告算法的精准匹配下，广告主不必再担心一半的广告费是如何被浪费的，广告效果被算法最大化。在原先的广告活动中，媒体选择，广告策划和创意，一切都是广告主说了算，现在一切都交由“机器”来处理。这当然并非坏事。问题在于，算法并不是天然就了解广告主的需求，也并不是从一开始就知道广告主的目标受众与目标消费者在哪里，算法需要数据和学习。而数据的积累与学习的程度，与广告主的广告投放的次数紧密相关，广告主投放的次数越多，算法的广告匹配才会越精准。要想追求最大化的投入产出比，广告主就必须在同一平台连续投放广告。进而论之，广告主选择在不同平台上投放广告，由于平台间的技术壁垒以及目标取向不同，其所建构的算法规则也不尽相同，不同平台基于不同规则与不同算法得到的数据必然有所差异。那么，到底哪一种平台的算法是最优算法？这种由不同平台提供的数据到底哪一种数据在多大程度上是真实的与完整的？又如何判别目标接受者究竟是算法设计者的算法受众还是广告主的理想受众？并且，这一切都是在“技术黑箱”中完成的，广告主广告投放的自主权、选择权与知情权都被算法削弱了，有可能还得承担算法误算所造成的损失。
由于媒介资源从稀缺到丰富，以及算法的智能化提升，广告代理所遭受的主体性危害，从一开始就是存在论级别的。在广告代理依然存在的当下，其主体性也不断遭受着算法的侵蚀与削减。广告投放与媒体选择，以及广告策划、创意与表现，一直是广告代理无可取代的专业化优势之所在。而如今，广告投放与媒体选择，大都以算法推荐的方式进行。目标受众与目标消费者识别，也由算法来确定。一则广告要想得到平台丰裕的流量与较高频次的曝光，其创作必然符合算法的规则与“胃口”。原先，广告创作可以自由驰骋，注入创作者的充沛情感和精湛艺术，但当算法成为广告创作底层逻辑时，创作者的思维必将遭到冰冷的算法的禁锢。这个时候，对于广告创作者来说，推演算法规则远比想象、情感、艺术更为重要。
综上，在广告智能算法开发与应用上，要既追求统计学意义上的精准高效，又确保算法为人掌控，努力做到道德无缺与主体无伤。人类智慧总是高居第一位的，心思之，智慧必至之。可怕的只在于为算法所俘却不自知。
（载《传媒观察》2021年09月号，原文约7200字，标题为：冲突与忧思：广告算法中的主体性缺乏——基于技术哲学的视角。此为节选，图表和注释等从略，学术引用请参考原文。本文为国家社会科学基金一般项目“计算技术范式下广告产业转型发展研究”<20BXW119>的阶段性成果。）
【作者简介】曾 琼，湖南师范大学新闻与传播学院副教授，硕士生导师
曹钰涵，湖南开放大学培训学院教师
