内容推荐算法会对用户有什么负面影响?
内容推荐算法会对用户有什么负面影响?
-
吴晓波频道在今年开设了一个专题节目“十年二十人”,节目中邀请到的嘉宾并非大名鼎鼎的流量明星,而是像柳传志、刘强东、胡玮炜这样手握流量的互联网大佬们。而在昨日的“十年二十人”节目中更是请到了网易创始人丁磊。

在节目中丁磊表示,过去十几年比较大的一个贡献就是网易云音乐,再过两三年你会看到,我们给千千万万的中国人提高了他的品味,扩大了收听的广度和泛度。网易云音乐是个巨大的创新。

【网易云音乐的精准推荐】
早在2013年,QQ音乐、酷狗等互联网音乐播放软件就已经在市场扎稳脚跟,然而让人没有料到的是,正是从这一年开始网易云音乐这批黑马以意想不到的速度冲进了行业的第一梯队。其中一个重要的原因就是,当其他的音乐App还在采用“同一歌手”“同一专辑”对用户进行曲目推荐的时候,网易云音乐已经开始通过建立评分细则、建立用户模型、寻找相似用户等方法,开始按照用户“个人喜好”推送相关音乐了。

丁磊对网易云音乐的定义为“不是一个简单的音乐播放器”,网易云音乐依靠海量用户行为数据——比如点击红心、收藏、下载代表【喜欢】,点击垃圾桶、没听完就切换代表【不喜欢】,歌曲自然播放到下一首代表【中立】——来进行用户群的划分,当A用户被后台算法判断属于某类群体时,接下来网易云音乐就会向A推送相关群体里其他成员喜欢的音乐,而这样的歌单往往更富有个性化和针对性。

这也是为什么我们在网易云音乐的歌单中找到让人惊喜的歌曲的原因。靠着“个性化推荐”“私人FM”等创新性的精准推荐服务,网易云音乐在2017年11月用户人数突破4亿,并凭借着独特的情怀标签、社区社交等优势,拥有了极高的用户粘性和活跃度。
【Steam推荐机制】
针对单独用户的推荐算法这个东西到底有没有效,在涉及到用户的娱乐、爱好方面表现尤其明显。广受全球玩家欢迎的Steam游戏平台在去年也更新了官方的推荐算法。在相关声明中Steam表示,由于给玩家展示游戏的空间有限,平台将会针对玩家可能感兴趣的品类进行推荐。而为了让玩家能更加了解商店的运用与原理,Steam还开放了“黑盒”算法,用于解释为何商店认为您会对某款游戏感兴趣(或不感兴趣)。

Steam的这个推荐算法,也是根据“大数据”先将用户群体分成多个部分,比如在社区与交流中高度活跃的玩家,完全不参与网上交流的玩家,有明确购买目标的玩家,浏览商店并在其中寻找游戏的玩家,喜欢3A级产品的玩家,更爱小众精品的玩家等等,然后再基于玩家过去购买游戏数据,开发者的描述以及游戏买家的评论,综合进行计算,再投放商店各个栏目展示给用户。

不过很快,玩家们发现,V社Steam的算法更倾向于推荐那些销量好或者关注度高的游戏,对于那些玩的人很少,但是评价很高的游戏则很少会得到曝光。对此专门有国外玩家开发算法机制设计了新的推荐网站,名叫 Steam 250,意指通过新算法选出的Top250款游戏。不过开发者也表示,这一推荐算法还是存在一定漏洞,未来还将不断更新算法的权重以帮助玩家进行游戏的筛选。
【今日头条的算法推荐】
虽然在娱乐领域,推荐算法的应用更加立竿见影,但是在国内要说最为人所熟知的推荐算法,恐怕还的是今日头条的新闻推荐算法。根据今日头条官方发布的后台算法原理显示,其算法主要变量有三项,即新闻的内容特征、用户特征,以及环境特征。今日头条正是基于这三点特征实现了内容推送的“千人千面”。

简单来说,今日头条将新闻内容按照各自特色(图文、视频、问答等)进行分类,将用户群体按照他们经常浏览、搜索的新闻关键词进行分类,在根据用户当下定位(城市、乡村、旅游区等)进行环境设置,将这些数据作为基础,分析用户当下处于什么环境,并结合用户画像推送相对应的新闻内容。因此在大多数情况下,用户在头条上接触到的新闻都是极符合他们胃口的。

然而今日头条辅助用户锁定了兴趣偏向,并且难以改变,这样导致了用户陷入了信息的闭环,而且难以自拔,也就是形成“信息茧房”。在推荐算法的环境中,读者几乎不会接触到自己不熟悉或者不认同的信息,满眼望去几乎都是同类型或者同性质文章的印象强化,这或将会促使读者产生一定的固有偏见,甚至造成沟通的阻碍。
正如游戏平台的推荐会忽视小众精品,正如新闻算法的推荐或将促使“信息茧房”的产生,在推荐算法逐渐渗透到我们工作生活娱乐方方面面的时候,人们更应该积极思考如何打破算法给我们划定的“兴趣圈”。这种打破框架的方法可以如游戏玩家所做的那样,用其他的算法模型进行补充和调整,也可以如后续今日头条进行的自我修改一样加入更多审查人的辅助。当然更为重要的,是作为用户的我们要时刻保持对信息的“求知欲”,如果我们愿意主动扩展“兴趣圈”,主动对信息进行搜索,那个所谓的“信息茧房”也将从内割破,再也无法困住我们了。
2018-07-19 19:51:20 -
领域窄化
即通常所说的信息茧房效应。指的是推荐算法根据数据反馈来判断用户是否喜欢该内容,如果用户长期对某几类内容表达出明显兴趣,自然推送这几类内容在数据上是最优的。会导致推荐面缩窄。于是人们越来越沉浸在自己关注的东西里,而忽略了外部的其他信息。
但是本人的看法是:绝大部分人在生活中本来就在这么做,推荐算法只是把这件事变得更方便了。
通常,一名年轻女子会去看娱乐八卦而不会去看体育、军事动向;一名年轻男子大概率会粉火箭101,而不会粉TFboys;一名老年男子则很可能会沉浸在政治新闻中,对年轻人的爱好没什么兴趣。
回溯没有推荐算法的情况,比如买一份报纸回家,没有几个人不是只挑自己感兴趣的内容看的。
在什么情况下人们会去看自己不感兴趣的内容呢?
1、无聊。假设在七十年代,没有手机、电脑、电视甚至收音机都没有的时候,白天买了一份报纸回家,晚上不出再门的时候需要找找消遣,于是把报纸全部读完了;
这在这个信息爆炸的时代已经不容易出现了。这个时代更明显的问题是信息太多,如果能省去筛选信息的成本,反而是一项利好。
2、有利益诉求。下个月要考试,下个礼拜要出差,明天要面试,这些情形下,人们会去为了达成某个目标而去啃下自己可能不那么感兴趣的内容。
这个时候恐怕内容推荐算法既害不了用户,也帮不上用户,毅力+寻找有用信息的能力才是关键。
所以,算法其实在这一点上,并没有改变人们什么,只是顺应了人们的需求。而且,如果真的介意这一点,去看看“热门”分类,你不感兴趣的天下大事那里面都有。如果连这一步都不愿意做的人,让他去买报纸也只会看自己喜欢的内容,并没有什么本质区别。
价值观
这个问题有一定争议,但影响可能更实际一些。
很多人应该听说过去年很多媒体受到了监管层的强力管制,处理手段有下架整改甚至关停等。主要是因为价值观问题。
有人认为,算法是没有价值观的。算法本身的确只是一套机制,但是算法是人设计的,人在设计时就一定会有倾向。
举个例子,豆瓣的电影评分在业内被认为是最有参考价值的打分。在这个平台上,不同人的权重是不同的,专家被赋予的权重更高,资深用户的分数会被采纳,而新用户给某部电影打的超高分(水军)或超低分(抹黑)则可能几乎不会被计入。当然,这个例子还不够极端,更极端的可能是某些文艺作品的审核机关,一旦无法过审,作品就不能上映或发行,这是典型的专家决定言论。
但是更多的平台上,这种决定权会比较平等的交到每一个用户手里。这些用户会决定哪些内容成为热门内容。而我们都知道,大众里有很多群体的认知和偏好在主流语境中并不受人待见,比如被很多人诟病的快手,曾经有过“未成年女性已经有不止一个孩子”这样的内容成为热门。
推荐算法是讨好用户的,所以它既讨好人性光明的一面,也会讨好人性阴暗的一面。从而可能使得阴暗的一面被放大。
当然,这个问题很复杂,精英引导舆论和人民大众决定信息,是一个充满争议的话题。但推荐算法的确有时会对负面内容的传播进到推波助澜的作用,这可能是人们需要警惕和注意的。
2019-03-06 14:07:31 -
尽信书则不如无书。内容推荐算法也是如此。
传统上,我们购买某个商品是出于自己的需求。我们意识到自己碰到了什么问题,想到了可以用什么方法来解决,从而去寻找能够解决问题的工具。
但是推荐算法不是如此。它是揣测出我们的喜好,根据它臆测出的我们的喜好,来为我们推荐可能感兴趣的东西。

这两种解决问题的方式有一个根本的不同:视野。
当我们开始使用内容推荐算法的时候,就会逐渐依赖这种方法,毕竟每个人都不喜欢动脑。这会导致一个糟糕的问题:我们看不到推荐内容之外的内容,它们如同不存在一样。
事实上,那些被推荐算法从我们眼前屏蔽的东西,恰恰可能非常重要,因为它们能提供给我们不同的观点。而不同的观点能够避免我们过于极端。
当我们沉浸在一个所有内容都符合自己观点的环境中时,我们就会认为自己是正确的;而推荐算法带来的内容会让我们越来越相信自己的正确,从而把任何与我们观点不同的人都斥为异端。
这是观念的极化现象,它会导致我们生存的社会分崩离析。
有意地接触一些与自己不同的观点,对我们的生活和社会都是有好处的,毕竟大家需要沟通和磨合才能更好地合作。
但是内容推荐系统,让我们失去了这样的机会,并且认为自己拥有世界上唯一的真理。
这是最可怕的。
2018-10-07 06:33:04 -
1、长期刷头条的人会有一个感觉,每天花了大量的时间看头条新闻,结果偶尔打开电视,发现错过了很多重要有意义的新闻,说明算法推荐方式本身有缺陷,它并没有足够全面的掌控用户喜好,结果就是大家获取到的信息是片面的。
2、按照用户的偏好推荐新闻会造成用户的思维局限,永远在熟悉的领域,而对于一些其他领域就成为了墙外的花朵,再香再艳都与你无关。
3、会上瘾,会浪费时间,大量同类话题本身是没有意义的。
4、算法推荐导致的上瘾阅读会破坏人的认知,你获取信息太多,太过于密集,负担太重,所以大脑不愿意认真思考,时间久了认知能力就会退化,与此同时记忆力也退化,你看过那么多新闻记得几条?
2018-07-09 12:18:49