算法推荐:应当禁过度推荐、控制热搜!
各平台们用算法为自己带来了流量和变现率,但基于算法出现的过度沉迷、大数据杀熟和过度推荐等问题也正日益严重,这样的行为甚至被直言为喂用户 " 猪食 "。
" 猪食 " 指的是,在系统算法的围城中,用户被框在了以为自己喜欢的东西里。
类似的算法围城存在于抖音、快手等短视频平台,今日头条、微博等资讯类平台和淘宝等电商平台之中,用户在不知不觉中就成为了算法和变现率中的关键一环。
国家监管部门今日发布的《互联网信息服务算法推荐管理规定(征求意见稿)》(以下简称《规定》),直指算法推荐的管理问题,或将给网民们带来一个更健康、透明的网络环境。
《规定》依据《网络安全法》、《数据安全法》、《个人信息保护法》和《互联网信息服务管理办法》等法律、行政法规制定。
整体来看,《规定》的监管对象几乎包括了全部依靠算法提供服务作为商业模式的互联网公司。
禁过度推荐、控制热搜!
《规定》提到,算法推荐服务提供者应当综合运用内容去重、打散干预等策略,不得利用算法屏蔽信息,过度推荐、操纵榜单或者检索结果排序、控制热搜或精选等干预信息呈现,实施自我优待、不正当竞争、影响网络舆论或者规避监管。
其中,过度推荐,内容重复和控制热搜应该是很多人网上冲浪时都能感受到的 " 隐形力量 "。
例如,如果在抖音的某一个视频停留的时间超过 10 秒,算法识别到该用户的兴趣点后,接下来的视频大概率会与停留的视频内容相似,有时还会多次推荐同一创作者的视频。
淘宝等电商平台,也经常会出现过度推荐的情况,例如,点击或搜索某一商品后,之后再打开 APP,主界面上会立刻出现相同或类似的商品。
控制热搜的问题则主要针对的是微博等社交媒体或是资讯类网站。
禁大数据杀熟!
针对 " 杀熟 " 的问题,《规定》明确,平台不得根据消费者的偏好、交易习惯等特征,利用算法在交易价格等交易条件上实行不合理的差别待遇等违法行为。
" 大数据杀熟 " 指的是,同样的商品或服务,商家或平台会就不同的消费者制定不同的价格。
北京市消费者协会此前的一项调查显示,近 9 成被调查者认为 " 大数据杀熟 " 现象普遍存在,56% 的人表示,自已有过被 " 杀熟 " 的经历,其中以网购、在线旅游、酒店住宿、网约车、外卖、影视等消费场景最多。
常见的 " 杀熟 " 套路包括三种,分别为,根据不同手机机型定价、根据用户消费场所定价以及根据消费频率定价。
《规定》要求平台不得利用算法获取到消费者的偏好和交易习惯,或大大减少消费者被 " 杀熟 " 的次数。
禁损害骑手等劳动者权益!
《规定》还提到,平台运用算法向劳动者提供工作调度服务的,应当建立完善平台订单分配、报酬构成及支付、工作时间、奖惩等相关算法,履行劳动者权益保障义务。
去年 9 月,一篇名为《外卖骑手,困在系统里》的文章引起阵阵热议,文章为公众还原了外卖骑手被系统和算法困住的现象,在 AI 智能算法给出的最优配送方案中,很多骑手为了争取时间不得不超速、闯红灯和逆行,导致事故率高发。
然而,受天气突变、导航不准确,电梯等待时间过长等因素的影响,依然经常存在超时的情况,骑手们的薪资也会因此大打折扣。
《规定》提及的完善订单分配、工作时间等算法或许能在一定程度上保障骑手们和其他服务平台劳动者的合理权益。
禁诱导沉迷和高额消费!
" 午饭后想刷抖音休息会儿,回过神来的时候已经天黑了 ",这是一位抖音 " 中毒 " 用户在朋友圈的 " 吐槽 "。
近两年来,短视频的迅速崛起带火了大批网红,但同时也带走了很多人空余时间。智能的算法通过识别用户的兴趣精准推荐,让人不知不觉就沉迷于一个个十几秒的短视频中,地铁上、电梯上、甚至是马路上,都不乏拿着手机不停刷视频的年轻人。
极光 iApp 数据显示,2021 年第二季度,短视频行业用户时长占比达 29.8%,远超即时通讯、手机游戏等领域。
《规定》明确,平台应当定期审核、评估、验证算法机制机理、数据和应用结果等,不得设置诱导用户沉迷或者高额消费等违背公序良俗的算法模型,这将有利于减轻用户的沉迷程度。
禁 " 默认使用 "!
《规定》明确,对于不希望使用算法推荐服务的用户,平台应该提供便捷的关闭选项,且应在用户选择后立即停止提供相关服务。
这项规定其实与《个人信息保护法》进行了对接,《个人信息保护法》规定,个人信息处理者应当保障消费者的知情权和选择权,向个人进行信息推送、商业营销时,应当同时提供不针对其个人特征的选项,或者向个人提供便捷的拒绝方式。
目前的平台中,大多没有明确给予用户关闭推荐的选项,部分用户甚至都没意识到自己的每一次点击已被算法记录,之后的每一次点击很有可能都在算法的计算之中,精准推送也保障了抖音、今日头条等平台的商业变现率。
但这项规定一旦落实,意味着平台投入的广告无法对部分用户实现精准推送,很有可能会彻底改变流量平台已有的商业变现模式。
另外,《规定》还对平台识别违法和不良信息、呈现符合主流价值信息以及保护未成年人等工作和服务进行了规范。
目前,《规定》还处于征求意见的阶段,具体的施行日期还未确定,但可以预见的是,《规定》将帮助还原一个健康、公开透明的网络环境。