但是一年后我发现，John变了。他开始狂热地信奉宗教，总是和我争论宗教知识应该是天下上唯一的科学，也是从谁人时间开始，John把名字改成了Yahya，留起了胡子，语言也带上了显着的口音。
联合我在谷歌和DeepMind的练习履历，以及我在算法保举体系范畴的学习，John的变乱让我开始思索现在风头正盛的基于保举算法的交际媒体。
在John这件事上，可以肯定的是，John渐渐激进的究竟与Facebook的保举算法有着密切的关系。但是，还无法确定的是，是怎样的算法保举让John开始变化信奉，当John的Facebook发帖变得越来越极度的时间，此时的消息推送是根据怎样的算法得出的？
当我们尝尽了基于算法保举的交际媒体的种种长处之后，现在，严峻的负面效应开始显现。这在近来美国所发生的连续串变乱中都能得到印证，尤其是当平台主动为你保举一些激进内容大概是发布一些激进构造的相干信息时。
于是我也开始思索，当我在推特大概其他消息推送中点开一些激进视频时，我是否也在无形之中对其成型起到了推波助澜的作用？
在交际媒体中利用呆板学习的风险
随着智能手机的遍及，我们渐渐风俗于把假造助手、交际媒体等作为消息泉源来资助我们相识这个天下。久而久之，平台的倾向性也会影响我们自身的倾向，乃至是举动。
这些保举机制的原理都是泉源于呆板学习。
呆板学习算法就是一组指令，资助呆板从数据模式中举行学习，这些模式还能资助人们举行决议。好比，消息源就可以通过被称为保举体系的呆板学习来创建。这在广告范畴的应用大概更为广泛，广告商想知道的是，用户最大概点击什么样的广告，从而更大水平地举行资源分配。
但在这种利益背后是难以撼动的鼓励机制和权利布局，Facebook、苹果和谷歌等公司仍旧忙于使用会员制和广告费来赚取收入，对于“房间里的大象”，全部人都选择了视而不见。
2020年，六家FAANGM公司（Facebook,亚马逊、苹果、Netflix、谷歌和微软）的贸易模式构成一个季度标普指数和负责的大部门收益，这些公司的员工均匀年薪为339,574美元。
当这种征象成为广泛的时间，交际媒体便可以或许使用呆板学习来放大现有的不同等，以及针对易受错误信息影响的人群发布更带有过火性的内容。
最大的证据便是Facebook建立了一支反恐团队，但具有讽刺意味的是，其自己依靠于呆板学习，也不乏雷同的贸易动机。换句话说，当屏蔽的内容越多，被禁的人就越多，公司的收入就会淘汰。
现在，Facebook已经认可其对缅甸的报道具有倾向性。同样，推特、YouTube和Facebook也在近期美国的政治变乱中发挥了作用，Facebook的举报人认可，环球政治利用本领部门是通过呆板学习来创建的，这大概会增长地缘政治风险。
针对如John般如许大概由于本身的履历而受到交际媒体影响的人，我们更必要在社会层面上，与相对自由的道德和法律专家以及呆板学习研究专家举行更具有针对性的讨论。
怎样减轻呆板学习的社会风险
令人好奇的是，在算法交际媒体的有害影响已被记载在案的条件下，有哪些法律途径可以管理以呆板学习为动力的企业。比方，在个人层面上，我们都会易受影响于某类消息，这是受到法律掩护，不能被鄙视。也就是说，交际媒体使用我们的这些“缺点”举行攻击实在黑白法的。
那么题目来了，哪些途径可以资助保存呆板学习的收益，同时掩护弱势群体免受有害影响？
假设科学家找到确凿的证据，根据种族、性别或收入，有些人更轻易着迷于呆板学习所保举的内容，那么我们可否称，鄙视是发生了，从而低落公司的市值？究竟，交际媒体着迷对公司而言意味着更深的用户粘度和到场度，但是在业务指标上悦目的数字大概并不会使受其影响的人们变得更好。
除此之外，更直接的一种方式是低落广告收入。制作AI的实行室正面对亏损，这意味着当营收降落到肯定水平时，他们将起首脱离。
同时，支持谷歌、Facebook和其他大公司业务的呆板学习工具顺应的开源的趋势，正变得更加易于访问。随着广告收入连续降落，算法私见将会成为主流公众知识。
收入连续降落、用户隐私意识觉醒和开放源代码都可以成为推动交际媒体往良性发展的动力，而不是通过数据来使用用户。学术实行室还可以通过向导透明、开放源码的积极来发挥作用，以资助相识呆板学习体系中的长处相干者如作甚研究造福整个社会。
但是，当我们等候并盼望有关掌权者创造厘革时，作为个人，我们可以做许多事变，以相识和学习怎样管理生存中很多方面的呆板学习算法带来的风险。
个人应该怎么做
正如上文所言，这些计谋自己实在是告诉本身，代表自身及他人提倡与网络N=1数据，届时大概会对大型交际平台的动机产生更深刻的熟悉。
与受影响的人开始对话：到场工作情况。假如你正在构建呆板学习工具，请现实利用它们。必要思量到，这份工具大概会影响谁，并与这些人攀谈。攀谈中可以简朴形貌所做的工作，以及驱动该技能的数据和贸易长处。
比方，我从形貌我的呆板学习和生理康健研究中得到了猛烈的负面反馈，从而塑造了该研究并资助改正了课程。与我们的朋侪，家人和社区的这种非正式的民族志旷野观察被低估了，并提供了一种低风险、高影响力的方式来告知我们学习的内容：与谁以及为谁学习。
留意到人们在工业界和学术界研究的是差别事物。工业每每是一条单向道，鉴戒金笼效应，即那些赚许多钱的人大概会不肯思量或讨论呆板学习的风险，大概大概由于担心被开除而制止对其举行研究。
比方，算法公平性的范畴得到关注是由于微软克制其研究职员对鄙视性广告的研究。雷同的，谷歌人工智能与道德团队由于在论文中夸大了谷歌搜刮模式的缺陷而被开除。此类变乱对相干职员而言代价高昂，这就是为什么在贸易长处高出于公众长处和学术自由之上的稀有环境下，他们可以或许高声疾呼，举报或以其他方式告知公众时，必要得到额外支持的缘故原由。
制止定位并扫除隐私设置。假如要让80亿人选择通过使用私家数据来个性化广告，那么鼓励错误信息的贸易模式将很难发展。利用uBlock或其他欣赏器扩展步伐可以制止全部消息提要或HTML元素以及在YouTube等上利用呆板学习创建的内容；在Facebook上取消关注全部人以扫除消息源。
通过启用主动删除位置、网络和语音记载的汗青记载来删除数据。我为私家长处捐躯的数据越少，我留意到的认知负荷就越少，这大概是由于对涉及我的数据的预期场景，大概应用的呆板学习体系以及体系在天下范围内产生的第二级和第三级影响的担心淘汰了。
盼望通过本文为各人提供一个办理题目的思绪，找到题目大概出现的地方，题目是怎样发展起来的，以及我们应该接纳怎样的方法来办理。
固然，回到本文主题上，无论是对于激进态度自己，照旧错误信息，我们都应该随时保持鉴戒，以制止那些无法很好地管理呆板学习而做出不明智决定的贸易动机。
相干报道：
http://www.reddit.com/r/MachineLearning/comments/l8n1ic/discussion_how_much_responsibility_do_people_who/
http://jaan.io/my-friend-radicalized-this-made-me-rethink-how-i-build-AI/返回搜狐，检察更多
|申请友链|小黑屋|手机版|Hlshell Inc.
( 豫ICP备16002110号-5 )
窥视卡
雷达卡
发表于 2020-12-24 03:41:00
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡
千斤顶
照妖镜