三大社交网站限制Predictim利用人工智能审查保姆背景

2020-05-22

据报导,多间社交媒体公司如Facebook、Instagram和Twitter限制Predictim对社交媒体网站数据访问设限。Predictim是一家总部位于美国加州的创业公司,透过使用机器学习来审查即将成为保姆的个人资料。在华盛顿邮报之前报导了其方法后,社交网络对该公司採取了行动,引起了广泛的批评。

Predictim声称使用「先进的人工智能」来判断保姆的适用性。这包括在提供会基于保姆的个人Facebook、Instagram和Twitter历史来对其性格的作出自动评估。该公司声称它可以预测个人是否吸毒者,会否可能欺负或骚扰他人,或者他们的态度「不友善」。

专家们批评Predictim的服务是不科学的,并指出机器学习在解析人类语音等複杂数据方面是出了名的不可靠。 AI可能擅长识别照片中的物体或将手写数字化,但它无法可靠地解释音调和语音中的细微差别,如讽刺或笑话。数据政策专家还指出,Predictim的软件并没有解释它的决定如何,这意味着潜在的保姆可能会在不知道原因或提供解释的情况下失去工作。

据华盛顿邮报和BBC的新闻报导,Facebook、Instagram和Twitter都在过去几週内对Predictim採取了行动。 Facebook表示,将严重限制该公司在Facebook和Instagram上访问用户数据的行为,此前该公司违反了禁止开发人员使用此信息审查求职者的禁令。 Twitter在本週也撤销了Predictim对API的访问权限(用于访问规模的数据,而不是阅读个人资料)。Twitter发言人表示,会严格禁止将Twitter数据和API用于监视目的,包括进行背景调查。

Predictim的总裁及创办人Sal Parsa表示,该公司没有做错任何事。 Parsa在接受BBC访问时表示「每个人都透过社交媒体去了解另一个人,或者会透过Google去做这样的事。我们只是在将这个过程自动化。」

Parsa还建议,扫描用户数据以便向他们定位广告的社交网络有自己阻止其软件的动机。 现在又有一家初创公司试图利用这些数据来帮助父母选择一位更好的保姆,并在此过程中赚到一点钱。

无论这些行动如何,关于自动背景调查合法性的问题仍然悬而未决。一些专家建议,Predictim的软件可能会违反州级禁止顾主要求访问求职者的社交媒体帐户。其他社交网络希望完全阻止这种数据抓取。 LinkedIn目前正处于与第三方网站HiQ的法律斗争中,后者利用其数据来预测员工何时可能离职。

与此同时,公司继续创建更多基于人工智能的筛选服务,不仅仅是关注社交媒体活动,还包括其他指标,包括个人的访谈表现。专家担心将关键决策移交给无法解释其思维或理解人类行为的算法是不明智的,而销售这些服务的公司则表示机器级方法更加详细和公正。

上一篇: 下一篇:

相关新闻

推荐阅读