当前位置:首页 > 科技资讯 >

斯坦福新冠疫苗事件“算法黑箱”还是人为黑箱?科技资讯

来源:天之家 发表于:2021-01-11 15:20 阅读:

导读:斯坦福新冠疫苗事件算法黑箱还是人为黑箱? 就在两天前,斯坦福大学医学院的医师们喊出了算法去死的口号,原因是其医学院新研发出的5000支新冠疫苗,在人工智能算法之计算下,只分配给了一线医护人员7支,绝大多数疫苗都分配给了退居二线的高级教职人员。忙...

斯坦福新冠疫苗事件“算法黑箱”还是人为黑箱?

就在两天前,斯坦福大学医学院的医师们喊出了“算法去死”的口号,原因是其医学院新研发出的5000支新冠疫苗,在人工智能算法之计算下,只分配给了一线医护人员7支,绝大多数疫苗都分配给了退居二线的高级教职人员。忙碌在一线的医生和护士们,接触病毒的概率本身就比常人要高,交叉感染的风险极大,此种分配方式显然不能让一线的医护人员感到满意。但是,此种不可思议的分配方案的罪魁祸首真的是算法黑箱问题吗?是否含有一定成分甚至很大成分的人为因素呢?这是需要进一步思考的问题。

算法黑箱之误解

许多人认为:“算法黑箱”就是算法研发者将其编译出的算法封锁起来,使公众无法知晓其编译出的算法的具体内容、运算方法和预期的输出结果。这一看法是有待被纠正的:“算法黑箱”实际上是一种知识垄断,即使编译者公开了其编译的每一步算法,社会上绝大多数人由于算法领域知识的短缺并不能了解算法所表达的含义,真正了解算法输入输出全过程的不过是那些精通算法的特定人群而已。

“算法黑箱”一般包括低层次、中间层次和高层次三种形态。现阶段,实践中的“算法黑箱”一般属于算法黑箱的中间层次,即算法的输入端是完全透明的,数据采集、数据挖掘都由代码自动完成;而算法的输出端则被人为预先设定,算法编译者利用其高水平的编程能力,提前设定好算法的运算方式,使代码按照其预设的方向运算,因此这里的“黑箱”指的是存在于算法输出之前我们无法洞悉的算法流程,其特点在于部分人了解算法,但另一部分人不一定了解。

算法之短板

算法拥有严谨的运算思路、极为高效的运算模式,但其在运用的过程中问题频出,那么它的短板到底是什么?

或许就在于算法太过理性缺乏智慧。如果把世间万物都分为感性和理性两个派别的话,算法无疑属于理性派,甚至理性到冰冷:算法只考虑人为设定的相关因素,并将相关因素按照不同的权重融入某一项设定。这种方式看似具有相当的合理性,但可别忘了,人是一种复杂的动物,其本身就包含了理性的一面和感性的一面,而社会又是由人组成的,因此,公众所认同的价值观中必然包含了其对于长期以往产生的意识形态的潜移默化的了解。此时,即使算法设置的再为精密,其也难以反映出一个民族长期以来的发展历程、意识形态、朴素感情以及那些说不清、道不明的正义观念。

因此,如果算法足够中立,再加入一味名叫“人情”的良药,或许算法就能够更为可靠的解决更多实际问题。然而,这在目前是难以实现的。

算法运行的工具论

纵使算法的确缺少一些感性的因素,但在研发者合理编译的情形下,其应用仍然具有相当的科学性。此种情况中,所有可控的变量都被考虑进去,按照其影响因子的大小分配相应的权重,在机械化的运行作业中具有高度的合理性和精确性。但是,算法毕竟只是编译者的工具而已,在编译者进行利益衡量的过程中,其往往会偏向于己方的利益,结合“算法黑箱”运作的非透明化,往往会损害他方的利益。

在斯坦福医学院疫苗分配的案例中,分配方声称:“在权重分配上,其增加了年龄所占的比重,因为年纪大的医护的抵抗能力更差一些,而忽略了一线抗疫的工作者普遍较为年轻,导致其所分配的疫苗数过少”,而此种言论显然是难以令人信服的,针对编译者来说,其应该考虑到一线医护应占最高之权重,并且在算法分配的过程中必定要受到监管协会的审查及复核,即使编译者和监管机构都未考虑都一线医护的特殊情况,算法设定的合理性完全可以通过结果的输出值来检验。在此等情形之下,一线医护的疫苗数仍如此之低,原因不言自明:可能与某些高级教职的利益相关。

算法黑箱工具被操纵才是斯坦福疫苗事件的根本原因

在现阶段,算法在很大程度上仍然是编译者的工具,技术本身是中立的,但是人都是有一定的利益倾向,在“算法黑箱”的知识垄断下,算法就可能成为编程者侵犯他人的武器。技术有时确实存在一些短板或者瑕疵,但其可能表现为比较呆板或者僵硬;而技术被人为操纵、被滥用才是斯坦福疫苗事件的根本原因。

(陈波 侯涵斌)