ai技术员招聘,什么是AI设备操作技术员( 八 )


正因为如此,在AI程序被投入使用一年后,Amazon高层最终宣布关停项目 。
可能的解决方案
虽然Amazon关停了项目,但AI偏爱男性应聘者,是否真的无法通过优化程序解决呢?如果采用不同的样本,又是否能改善这个问题呢?
为此小探就可能的解决方案,采访了一位不愿透露姓名的业内人士 。
听小探把整个事件徐徐道来之后,这位人士提出了一个方案:首先设置两套AI程序,在深度学习的过程中,男性和女性的样本分开学习,然后在评分过程中,先让AI把简历按性别分为两组,再用针对男性的AI程序给男性打分,用针对女性的给女性打分,这样就能最大程度保证公平 。
小探听完之后不由得感叹业内人士的专业性,谈笑间便提出了一个具体的解决方案,似乎让问题迎刃而解 。然而,如果问题这么简单就能解决,为什么Amazon的工程师们还拿它毫无办法,以至于高层最终不得已关停了项目呢?小探怀着将信将疑的态度,又采访了一位Google的工程师 。
果不其然,这位工程师对“分开学习、分开评分“的方法产生了质疑:如果涉及两个程序,分别深度学习两个性别的样本,那么针对女性的AI程序因为样本太少,学习不到需要的特性,从而在评分时很可能产生新的问题 。
至于通过修改算法,能否让AI评分变得公平,这位工程师的答案是:很难 。他向小探解释道,现在深度学习一个很大的问题就是,模型极其难以解释——当AI做出一个判断时,工程师很难分析出它是怎么作出这个判断的 。所以,也许Amazon的AI缺乏“可解释性” 。
“可解释性”,简单来说,就是当AI作出一个判断,工程师能知道是AI神经网络的哪些部分,根据样本中的哪些线索,得出了那个判断 。而Amazon最终选择关停项目,很有可能是由于AI缺乏“可解释性”,造成工程师不知道该修改AI神经网络中的哪些部分,导致问题一直无法被实际解决 。因此这位工程师最后给出的论断是,“工程上来讲,想修复这个问题很难” 。
不过,并不是所有工程师都对此不看好 。小探采访了一位微软的工程师,他在电话中自信地表示:技术层面上,一定能实现公平对待男性和女性应聘者 。
然而紧接着,他便反问小探:“但你是想反映公平,还是想反映真实?”
小探不禁陷入沉思 。难道我们追求的公平——让男性女性有同样的机会就职——是不真实的吗?
AI印证了现状,HR却想改变现状
Amazon的AI偏爱男性应聘者,不仅暴露了Amazon公司内男多女少的问题,还反映了整个科技行业内男女比例失衡的现象 。
据路透社统计,Amazon、Facebook、Apple、Google、Microsoft五家科技巨头的员工中男性占比分别为60%、64%、68%、69%、74% 。而这五家公司中技术类职位男性占比甚至更高,最高的Microsoft占比达到81% 。
各大科技公司员工男女比例:蓝色为男性,红色为女性
因此Amazon的AI并不是针对谁,而只是基于样本映射出了现实——男多女少,是目前整个科技行业面临的痛点 。
为什么这是痛点呢?首先,对于体量庞大的科技公司而言,男多女少意味着公司内部人员组成单一 。要知道创新是科技公司的命脉,而创新往往是通过不同思维的碰撞产生的 。一旦公司人员组成过于单一,思维的碰撞就会减少,导致创新减少,切断了科技公司的命脉 。
其次,过于明显的男女比例失衡,容易给公司招致“性别歧视”的骂名 。因为对于“高大上”的科技行业,公众往往抱有一种美好的期望,认为在这个行业中一切都应该公平公正,因此一旦有一丝迹象表明了不公平现象的存在,比如男多女少的问题,公众便会把公司推向社会舆论的风口浪尖,让公司高层承担巨大压力 。

推荐阅读