Don't be evil

商业道德 分期贷款 技术伦理 互联网金融 大模型
文章探讨了在商业和技术领域中“不作恶”的重要性。作者回忆了自己在互联网金融行业的工作经历,反思了公司在追求规模扩张时放宽风控标准、提高利率的行为,最终导致用户陷入债务危机。尽管技术和产品设计本身无罪,但作者意识到自己在系统作恶的过程中扮演了角色,深感内疚。文章强调,技术可以创造美好生活,但也可能被滥用,带来负面影响。作者呼吁在进入新领域时,将“不作恶”作为一种思维模式,定期审视自己的行为,确保技术不被用于损害社会或环境利益。最终,文章提醒人们要警惕技术带来的潜在风险,坚守道德底线。
文章内容
思维导图
常见问题
社交分享

近期接到一个朋友的咨询:是否要接一个海外市场做分期业务的公司的 offer?

听完公司介绍,我陷入了沉思,遥远的回忆袭来。

我曾经在国内类似的公司做过类似的产品。

那是在 2016~2017 年,国家出台互联网金融相关监管政策之前。

那时,我们的团队激情澎湃,产品经理和研发们跟随业务团队去往线下门店探访消费场景,去往富士康工厂研究用户群体,去和竞品团队探讨并挖人。那时候,流行在门店买手机,现场办分期。只要你去任何一个门店,就能看到各种低首付、低月供的宣传物料,店里随时有好几个贷款机构的销售常驻来帮客户办理分期。iPhone 新款手机买不起不要紧,现场分期就行了。

一开始,我们都认同公司的愿景:超前消费,但能创造美好生活。让在银行不能分期的用户,也可以享受这样的生活权益。那时,也的确有一些竞品做得不错,用户们也觉得挺好,利息比银行高一些,但不是不能接受。

但“美好生活”是一种短暂的梦境。随着行业竞争的激烈,公司的放贷规模目标越定越高。但市场上,真正需要买手机等商品,且能收入稳定还钱的,只是一小部分用户群体。为了冲规模,公司不得不陆续放宽风控门槛:因为你不放宽,竞争对手会放宽。更多的人可以来办分期了。但人群变得有那么一些不纯粹了:他们不再是向往一台手机在自己工资能力范围内去办分期的人了。这些人里面,有生活已经十分拮据,但为了虚荣心,必须要买的,甚至有因为赌博深陷债务的,需要找任何一个可以套现的地方搞钱,手机刚到手转身就贱卖了。这些人已经对于利率高不高失去了衡量的理性,也同时失去了不滑向债务深渊的选择。

于是,越来越高昂的利率,以越来越隐蔽的方式藏匿在一纸合同的深处。从公司运营角度,这很合理,越没有还款能力的人群,就越需要提高利率以覆盖不还款的坏账。

而在产品端,产品和研发们将体验尽可能做得更丝滑,以提升分期贷款流程的漏斗转化率,比如常见的减少输入字段、增加预期反馈,提升贷款审批速度等等。我们也会设计各种话术的投放页面,以获取用户的手机号码。

但在需求文档和代码编织的背后,有一个我们看不见的“商业道德”领域。那时的我,并没有针对这一点深入思考,只是对于分期的利率和总还款金额产生过疑问:为什么一台手机变那么贵了还有人舍得买?要知道我平时连信用卡都不会做分期的。但我逃避了这些问题:

鼓吹蓝领朋友们超前消费买 iPhone ,是有商业道德的吗?

甚至看到友商在做校园市场的时候,也没有思考:鼓吹学生超前消费买 iPhone,是有商业道德的吗?

商业道德,一个离我们仿佛很远的词汇,实际上离我们很近。

幸好,那时,还只是商业道德问题。在我因为职业发展问题而离职,离开这个行业之后,市场在这样的恶性竞争中,继续越变越畸形,最后,利率已经到了触目惊心的地步,那就是人们一定听说过的 7 天、14 天就必须还款的超高利贷了。社会上陆续出现了负债累累的人群,家破人亡的案件。

随着国家政策的出台,这个行业里大部分参与内卷的公司的经营行为,都变成了犯罪:因为利率太高了。而这个处在深渊里的市场,最终也是引爆 p2p 机构大规模逾期、坏账的其中一个导火索:真的没人还钱了,要么是法律支持可不还,要么是,还不起。

回忆,杀死了我。

有一种声音说,技术无罪。对,菜刀不杀人的时候,它不是凶器。我们,真的是拿起菜刀杀人的刽子手吗?我犹豫而迷茫。在写下需求文档和代码的每一行的时候,在研究如何提升转化率的时候,我们或许真的没有觉得自己没有商业道德,更不可能觉得自己是在犯罪。

直到一段时间之后,看到了鲍曼的《现代性与大屠杀》一书,他剖析了德国纳粹分子制造惨绝人寰的大屠杀的原因。实际上,“刽子手”们可能只是一个在日常工作中尽职尽责的普通人,并不是十恶不赦的典型杀人犯,但这些普通人为什么没有制止这些惨绝人寰的行为呢?

“必须牢记(种族灭绝的)大多数参与者没有对犹太小孩开枪或者往毒气室倾灌毒气……他们知道他们那些表面上看起来没有害处的忙碌所带来的最终结果吗?大多数官僚成员所做的只是起草备忘录、绘制蓝图、电话交谈和参加会议。他们只要坐在他们的桌子旁边就能毁灭整个人类”。

当一个系统在作恶,而人们若只是充分的社会分工后其中一个小小环节,人们的确很难意识到“我也在做恶”。

我才明白过来,需求文档和写代码的无辜,是因为无知,对这个系统怎么运作的无知,对 userid 代表的用户的生活的无知。当然,也存在逃避,以及没有勇气对这个系统说“不”。技术本身无罪,但技术打开了潘多拉魔盒的过程,有罪。

那时,我悲哀的发现,我曾经也是作恶环节的一个小环节,我陷入到深深的内疚之中。那时一起战斗的伙伴们,再次聚会时,也是相顾无言。我们沉默了,但我们都在这么想:如果那时没那么无知,或许可以选“不作恶”,可以更早离开这个行业。

也有一种想法在于:如果我不做,其他人也会做,其他人可以赚大钱,还不如我们来做。

也许有另一种想法在于:那些不作恶的公司,只是冠冕堂皇罢了,背后也还在偷偷做恶。

但,这些因为不构成我一定要做的理由。只要没有沦落到某种程度,我们还是有选择的。

如今,新技术继续演进,人类会有更多美好的生活会被技术和商业模式创造出来,但我们也仍然需要警惕。

在吴恩达的大模型科普课程里,最后一个部分提到的就是商业道德问题:如何防止人们用大模型作恶?轻则产生偏见:性别偏见,种族偏见等等。重则被用于有损人类社会或自然环境利益的领域。

我,一个普通人,能做什么?

每进入一个新领域,把不作恶作为一种思维模式,定期审视和提醒自己。在写下需求文档的那一刻,就已经知道或许这能让世界变好一点,如果能力有限,至少,不让它变得更坏。

Just don’t be evil.

思维导图生成中,请稍候...

问题 1: 为什么作者对是否接受海外分期业务公司的 offer 感到犹豫?
回答: 因为作者曾在国内类似公司工作过,目睹了行业从“美好生活”愿景到高利贷泛滥的畸形发展,意识到这种业务可能涉及商业道德问题,甚至可能导致社会问题。

问题 2: 作者在国内分期业务公司工作时,最初的目标是什么?
回答: 最初的目标是让无法在银行分期的用户也能享受超前消费的权益,创造美好生活。

问题 3: 为什么分期业务逐渐偏离了最初的愿景?
回答: 随着行业竞争加剧,公司为了扩大放贷规模,不断放宽风控门槛,吸引了更多非理性消费的用户,导致利率越来越高,最终演变成高利贷。

问题 4: 作者在产品设计中做了哪些优化以提升转化率?
回答: 作者和团队通过减少输入字段、增加预期反馈、提升贷款审批速度等方式优化用户体验,并设计各种话术的投放页面以获取用户信息。

问题 5: 作者为什么认为自己曾经是“作恶”的一部分?
回答: 作者意识到自己在设计产品和代码时,虽然表面上无害,但实际上推动了高利贷系统的运作,间接导致了社会问题,而当时对此缺乏深刻的认识。

问题 6: 作者提到的《现代性与大屠杀》一书对作者有何启发?
回答: 书中指出,许多参与大屠杀的人只是日常工作中的普通人,他们并未直接作恶,但他们的行为最终导致了灾难。这让作者反思自己在分期业务中的角色。

问题 7: 作者认为技术本身是否有罪?
回答: 作者认为技术本身无罪,但技术被用于作恶的过程有罪,尤其是当人们对其后果无知或逃避责任时。

问题 8: 作者如何建议在新技术领域避免作恶?
回答: 作者建议将“不作恶”作为一种思维模式,定期审视自己的行为,确保技术被用于创造美好生活,而不是加剧社会问题。

问题 9: 作者对未来的技术和商业模式有何警惕?
回答: 作者认为虽然新技术能创造美好生活,但也可能被用于作恶,因此需要警惕技术被用于产生偏见或损害人类社会和自然环境的领域。

问题 10: 作者认为普通人如何在工作中践行“不作恶”的原则?
回答: 作者建议在进入新领域时,始终将“不作恶”作为思维模式,在设计和决策时考虑其社会影响,确保自己的行为至少不让世界变得更坏。