大数据时代引发“歧视”忧虑,但不该就此因噎废食

丁东 2016-05-10 10:25 来源:【转载】
本文共785字  |  预计阅读: 3分钟
汇通财经讯——据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。尽管监管部门承认大数据所带来的好处,但滥用数据编译此类信息的公司存在歧视某些群体的风险。
汇通财经APP讯——大数据越来越被视为一种战略性资产,它可以通过其强大的预测技术来改造组织。

图片点击可在新窗口打开查看

据社会研究人员小组研究,大数据对公众和社会的影响,当涉及到帮助系统做出决定时,应用方法可能并不总是公正的。

最近,纽约大学组织的学生为社会刑事司法改革的活动,集中使用大数据在机器学习和数据挖掘,以推动公共和私人部门的行政决定问题。

其中包括政策研究人员、技术人员和记者,讨论在使用大数据的同时,抛开固有的偏见和歧视,通过无意中设置的规则和流程来增加我们的决策能力。

在这种情况下,使用规则的数学程序编码来实现特定的目标。批评者认为这些算法可能会延续偏见和加强内置的假设。

最近,政府机构开始仔细观察新兴领域。上周,白宫发布的一份报告警告称,如果没有正确的应用数据收集可能会损害公民的权利。该报告呼吁,“如何最好的鼓励这些技术的潜力,同时最大限度的减少对隐私、公平对待和其他美国核心价值的风险”。

2014年的报告题为“大数据的不同影响”,普林斯顿大学信息技术政策中心的程序员梭伦巴洛克斯指出,“数据挖掘算法技术的倡导者认为,他们是消除人类偏见的决策过程。但是,数据的算法与它所使用的数据一样好。”

巴洛克斯研究新兴的应用机器学习来提高道德认识问题的影响。他补充道,“数据挖掘可以继承之前决策者的偏见或社会上持续存在的普遍偏见。”

换句话来说,人类产生的机器学习系统上运行的数据是由人类设计的算法。因此,人类创造的数据隐含偏见。

在两年前的研究中,美国联邦贸易委员会(Federal Trade Commission)提出类似的问题。尽管监管部门承认大数据所带来的好处,但滥用数据编译此类信息的公司存在歧视某些群体的风险。

数据歧视的指控
哈佛大学的数据隐私实验室负责人Latanya Sweeny表示,大数据歧视指向几年前开展的一项案例研究。

此案涉及到谷歌在互联网上某些种类的搜索结果。Sweeny在她的研究中发现,出现黑人名字的逮捕记录比例比白人多18%。谷歌已经解决了这个问题,尽管他们从未公开表示他们做了什么来纠正这个问题。

在过去几年中,大数据的扩散已经看到指控其他的不当使用和偏见。这些指控是五花八门的,从网上的价格歧视和地理定位结果到犯罪预测技术,在一些公共工程决策中缺乏足够代表性的数据样本。

大数据的优势是可以平衡应用现代技术以解决社会问题的风险。然而,一些质疑者认为,民主化数据在本质上影响着人们,从数据从业者到专家。

大数据将停留在这里
一些拥护者表示,问题不在于“大数据歧视”,但失败的数据会让专业人员曲解数据挖掘的结果的风险和统计学习的核心。他们还补充表示,带来的好处远远大于担忧。

纽约大学斯特恩商学院的分析中心主任Anindya Ghose说,“在我的学术研究和行业咨询中,我已经看到了企业、组织和消费者使用数据驱动决策、利用数据科学和业务分析的巨大利益。”

Ghose还表示:“老实说,我不理解这些人在大数据的运用中关于对数据分析影响的恐惧和愤世嫉俗。

她表示,兑愤世嫉俗者和我们自己的一些忠告是:“大家仍有必要处理好大数据技术引发的这些伦理纠纷问题,否则大数据分析的应用层次就很难再进一步。”

【免责声明】本文仅代表作者本人观点,与汇通财经无关。汇通财经对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证,且不构成任何投资建议,请读者仅作参考,并自行承担全部风险与责任。

下载汇通财经APP,全球资讯一手掌握

0

行情

欧元美元 1.1164 0.0003 0.03%
英镑美元 1.3316 0.0034 0.25%
美元指数 100.72 0.08 0.08%
美元人民币 7.05 -0.02 -0.23%
美元日元 143.75 1.13 0.79%
现货白银 31.194 0.431 1.4%
现货黄金 2,622.66 36.05 1.39%
美原油 71.28 0.12 0.17%
澳元美元 0.6813 -0.0001 -0.01%
美元加元 1.3557 -0.0001 -0.01%
上证指数 2,736.81 0.79 0.03%
日经225 37,723.91 568.58 1.53%
英国FT 8,229.99 -98.73 -1.19%
德国DAX 18,720.01 -282.37 -1.49%
纳斯达克 17,978.09 -35.89 -0.2%
Baidu
map