微信截图_20240920153326.jpg
莫让智能技术在逐利中“迷航”
2020-12-06 06:41:00  来源:中国江苏网  作者:袁 媛  
1
听新闻

中国江苏网讯 戴上头盔口罩,走进售楼处瞧一瞧——前不久,网上流传的购房者“蒙面看房”视频引发热议。按照房产圈的解释,房企用人脸识别技术将到访客户划分为“自然来访”和“中介渠道”,再分别给出不同的购房折扣。购房者担心被“划错阵营”,无奈出此下策。多家售楼处涉嫌不当收集、使用个人信息,目前南京市相关部门已要求其拆除人脸识别系统。

企业追求利润,用科技手段将客户分成“三六九等”进而区别对待。社会大众担心的不是这种营销策略上的精打细算,而是在智能技术帮助下,企业“看人下菜”变得更简单、隐形歧视变得更常见,消费者合法权益因此更难得到保障。前有手机APP“大数据杀熟”,今有售楼处“同人不同价”,都提醒要为智能技术划定使用边界,不能任由其被滥用而导致人们产生怀疑甚至恐慌。

对一些企业来说,“理想”的消费者最好搞不清商品或服务的状况,信息越是不对称,其营销就越“灵活”、赚取高额利润的可能性也就越大。当消费者被“精准画像”,购买力、行为习惯甚至性格偏好都可以通过数据收集、智能分析得出,商家就可能让消费者在其强大营销攻势面前丧失相当程度的选择权和知情权。

小到打车费用的几元几角,大到购房优惠的数千数万,价格歧视已经让人难以接受。随着智能技术的应用空间越来越广泛,它还带来了不少社会问题。以人工智能为例,它在自我学习的过程中也会接触、吸收人类社会的偏见与负面信息,遭到“数据污染”;甚至在算法设计上发生偏向,用看似客观的数据得出带有偏见的结论。美国亚马逊公司曾解散过一个人工智能招聘团队,因为他们设计出的人工智能程序极端“重男轻女”,会自动给女性求职者降低分数。若是一些企业再出于一己私利不当使用智能技术,产生的影响或将难以想象。

智能技术的自身缺陷需要通过科技进步逐渐解决,而使用时的“规矩”则应及时立下,并不断完善。我们要向人脸识别系统的滥用说“不”,明确在哪些场合能够使用、程序上有哪些步骤、对数据该怎么管理。我们要向大数据系统的滥用说“不”,理顺整体数据分析和个别数据使用之间的关系,防止大数据沦为个别人“割韭菜”的工具。我们要向人工智能系统的滥用说“不”,在确保技术的透明与公正之前,在技术的使用中保留足够的温度。

为智能技术立规矩,不是某座城市、某个行业的事情,而应成为公共治理中的日常图景。只有这样,智能技术的发展和应用,才不会在逐利中“迷航”。

标签:
责编:孟涛 崔欣
下一篇