扫描分享
本文共字,预计阅读时间。
这两天,一个天津中德应用技术大学学生在网上哭诉自己的助学金资格被人挤占。该学生自称年幼时父亲去世,母亲改嫁,自己和祖父母生活,18岁时祖父又去世,现和祖母一块生活,生活艰苦。在班里的举行的助学金资格评选中,他没有被选上,被选上却是一个穿着上千元一双AJ球鞋、用着iPhone 14pro手机的学生。
我瞬时想到了另一个鲜活的对比例子——2016年,南京理工大学利用大数据算法的分析,给那些食堂月消费超过60顿、但消费额不足420元的学生,自动发放补贴,这些学生甚至毫不知情。
这是一个鲜活的“科技向善”的例子,我曾批评互联网企业在资本逐利的本性下和商业追求之下很难做到科技向善,但非盈利机构却可以。
我们来看技术在这件事情中所作所为的几个细节,一是偷偷发放,它没有将被帮助的学生定性为“贫困生”这一举动,而是用数据算法分析的方式,从数据特征上,将这些学生甄别为需要帮助的人。它不是按照一般官方机构的程序,先给人打上“贫困生”的标签,再按程序办事。它表明,这种技术的适当应用,可以避免程序腐败和不公。自技术应用在生活中应用以来,有许多这样的例子,比如,过去交通罚款,许多腐败来自线下乱罚和多罚,现在技术应用后,首先要求录像,其次缴纳罚款必须统一到银行或线上缴纳,技术手段避免了官僚程序上的腐败。
另一个细节是,这次南京理工大学不定性“贫困生”的行为,它既在道德上维护了学生的尊严,没有在公众面前打“贫困生”标签让人难堪,也规避了过去申请贫困生经常只看学生学习成绩好不好、而不看是不是真的贫困的现象,还避免了申请“贫困生”时走后门、拉关系的程序腐败,既将流程简化了,也人性化了。
当然,技术向善也要解决好算法的逻辑和伦理问题,不然可能造成另一种偏颇与腐败。
在逻辑上,技术是人的意志的延伸,算法逻辑也是人的意志的延伸,什么样的初衷,很可能会决定算法的逻辑与伦理。
最明显的例子是消费主义的电脑算法擅长的就是给人贴标签——这是一种技术具有阶级性的表现,给奢侈品消费者贴“奢侈品”“高消费”的标签,给买镰刀的人贴“低价”“农产品”的标签,然后依据标签的阶级性推荐商品、精准营销,在技术的数据图谱中,人的阶级性就这样被圈画出来了。
我曾举过一个例子,2011年的亚马逊网站上有一本名为《苍蝇的成长》的纸质书,因为市场稀缺性、和极大的供不应求,被价格系统自动加价到2369万美元。它继承了人的意志,一种见风使舵的本领。这种“见风使舵”,是算法程序秉承的程序员的意志,将人类惯有的囤积居奇、坐地起价思维灌输其中。
一个互联网贷款平台的老板曾给我说过他们的审贷模型,地址填写为高档小区的人获得信贷的额度与机率更大,通讯录里有很多企业高管的人也同样机率更大——他们可以爬取到通讯录联系人的基本信息,这是因为他们以此揣摩、定性贷款人的社会阶层。
科技向善是可以实现的,但首先应该解决好“技术不是中立的”的问题,以及人类意志带有偏颇、歧视、压迫等性质的影响,在逻辑上,要实现各种“意志权力制衡”,它才可能向着善良的方向演化。
非常感谢您的报名,请您扫描下方二维码进入沙龙分享群。
非常感谢您的报名,请您点击下方链接保存课件。
点击下载金融科技大讲堂课件本文系未央网专栏作者发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。
本文为作者授权未央网发表,属作者个人观点,不代表网站观点,未经许可严禁转载,违者必究!首图来自图虫创意。
本文版权归原作者所有,如有侵权,请联系删除。首图来自图虫创意。